В ЕС предложили обязать разработчиков ИИ публиковать список владельцев используемого ими контента — WSJ

Депутаты Европарламента планируют внести законопроект, который обяжет разработчиков создающего контент ИИ публиковать список правообладателей, материалы которых использовались при разработке  — сообщает The Wall Street Journal со ссылкой на источники. Ранее с таким требованием выступали художники, издатели и разработчики.

Речь идёт о компаниях, которые занимаются разработкой «генеративного искусственного интеллекта» (GAI или GenAI). Зачастую под ними понимаются сложные нейросети, которые позволяют создавать уникальный контент вроде текстов, изображений, видео, музыки или частей программного кода.

Чтобы создать такую программу, её необходимо «обучить», то есть позволить нейросети проанализировать разные материалов по огромному количеству параметров. Считается, что чем более разнообразная выборка использовалась при «обучении», тем лучше будет результат. Зачастую в процессе анализа используют массивы материалов, которые можно найти в Интернете в открытом доступе. Юридически в некоторых странах они могут считаться объектами «авторского права».

По данным источников издания, в законопроект о регулировании ИИ с ЕС внесли поправку о необходимости указывать «достаточно подробный» список попадающего под «авторское право» контента, который использовался при «обучении» нейросетей. Журналисты отмечают, что в процессе разработки используются «миллиарды» текстов, изображений, видео или музыкальных клипов.

«Это открывает двери для правообладателей. Наша цель — повысить подотчетность, прозрачность и контроль этих моделей», — сказал евродепутат Драгош Тудораче, который возглавляет работу над законопроектом.

Как отмечают в WSJ, раньше с требованием ограничить GenAI в возможности использовать публикации выступали художники и издатели газет. Альянс новостей и СМИ (News Media Alliance), в который входит более 2 тысяч изданий, потребовал внедрить обязательный запрос разрешения на использование материалов при обучении нейросетей, а также «право вести переговоры о справедливой компенсации за использование» их контента разработчиками.

Трое художников подали в суд против Stable Diffusion, Midjourney DeviantArt (DreamUp), которые разработали GenAI для создания изображений. По версии авторов иска, компании нарушили права «миллионов художников», обучив свои нейросети «без согласия художников». Аналогичный иск касается Microsoft, GitHub и OpenAI, которые создали CoPilot: приложение помогает создавать программный код.

В WSJ пишут, что закон позволит правообладателям получать «долю прибыли» от компаний, которые разрабатывают и предоставляют доступ к GAI или похожим инструментам. В Reuters сообщают, что депутата Европарламента Аксель Восс также предлагал обязать фирмы запрашивать разрешение на использование чужого контента. Отмечается, что инициативу отклонили как «слишком ограничительную» и «способную затормозить развивающуюся отрасль».

По данным СМИ, регуляции также обяжут разработчиков обеспечивать «надлежащие гарантии» того, что их GenAI не будет создавать контент, «нарушающий законы ЕС». К такому, например, могут отнести материалы с «отрицанием Холокоста». Помимо прочего, программисты должны будут «продемонстрировать, что они выявляют и снижают разумно предсказуемые риски» для здоровья и безопасности или «верховенства закона».

Ранее критике подвергся чат-бот с ИИ ChatGPT, который также считается GenAI. В Италии его запретили использовать из-за нарушения закона о персональных данных. В начале года Департамент образования Нью-Йорка запретил доступ к ChatGPT на своих устройствах. Подобный запрет обсуждается и в Кардиффском университете.