Исследование: ИИ-генерация изображений не зависит от обучающих данных

Исследователи из Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) при Массачусетском технологическом институте провели исследование, которое показало, что с ростом наборов данных связь между тем, что изучает модель, и тем, что она генерирует, становится всё менее значимой. Это открытие ставит под сомнение обоснованность претензий со стороны правообладателей к лабораториям искусственного интеллекта.

В процессе работы учёные выявили феномен, получивший название «затухание атрибуции» (attribution decay). Это явление подразумевает, что при увеличении объёма обучающих данных, влияние отдельного элемента на результаты генерации значительно снижается. При достаточно больших масштабах данных, можно исключить конкретное изображение, и это не окажет влияния на результат генерации.

Чтобы подтвердить свои гипотезы, исследователи разработали уникальную архитектуру, названную «диффузионным ансамблем» (diffusion ensemble). Эта модель состоит из множества небольших компонентов, каждый из которых обучен на отдельной части данных. Такой подход позволил исследователям отключать блоки, которые видели конкретные изображения, и проверять, как это сказывается на результатах. Сравнение показало, что качество изображений, созданных ансамблем, соответствует результатам обычных диффузионных моделей.

В ходе экспериментов было введено понятие «контрфактического радиуса» (counterfactual radius), отражающее максимальное влияние, которое может оказать отдельный элемент в обучающем массиве. Исследования продемонстрировали, что с увеличением объёма данных этот радиус уменьшается, что означает, что влияние отдельных изображений становится минимальным. Результаты анализа проводились как по пиксельным данным, так и по общему семантическому значению.

С юридической точки зрения, это открытие указывает на то, что ИИ-модели обладают творческим подходом, так как они не копируют контент, а создают новые изображения. Если результаты не имеют связи с конкретными элементами из обучающего набора, использование защищённого авторским правом контента может считаться добросовестным даже без согласия правообладателя.