В Калифорнии запретили «незаконное использование» нейросетей в политической рекламе и создание ИИ-клонов актёров без их согласия

Губернатор Калифорнии Гэвин Ньюсом подписал законы о регуляции ИИ в соцсетях. Он позволит блокировать сайты.

Заниматься надзором будет государственная «Комиссия по честной политической практике». Она будет судиться с теми, кого посчитает «нарушающими закон». Примечательно, что закон позиционируется как борющийся с дипфейками, однако в текстах используется широкая формулировка — «существенно обманчивый контент», — которая включает в себя, «помимо прочего, дипфейки и текст из чат-ботов».

Основным законом в пакете считается «Закон о защите демократии от дипфейков» (AB 2655). Формально, он действует до 2027 года, однако позже его могут продлить. Он обязывает крупные онлайн-платформы удалять или маркировать «обманчивый и измененный или созданный цифровым способом» контент, связанный с выборами. Документ уполномочивает кандидатов, сотрудников избирательных комиссий и прокуроров добиваться судебной блокировки соцсетей, которые не выполняют требование.

«Несколькими щелчками мыши, используя современные технологии, злоумышленники теперь имеют возможность создать ложное изображение кандидата, принимающего взятку, или поддельное видео должностного лица, ответственного за выборы, запечатленное на пленке, говорящего, что машины для голосования не защищены, или сгенерировать голос губернатора, сообщающего миллионам калифорнийцев, что их место голосования изменилось. В преддверии президентских выборов 2024 года кандидаты и партии уже создают и распространяют поддельные изображения, аудио- и видеоконтент. Эти файлы могут распространиться среди миллионов калифорнийцев за считанные секунды и исказить результаты выборов или подорвать доверие к процессу подсчета голосов», — утверждают авторы.

Другой закон — AB 2839 — запрещает «существенный обманчивый контент» о кандидатов, победителях выборов, а также сотрудниках избирательных комиссий и «других лиц». «Пострадавшим» разрешается подавать гражданские иски, чтобы потребовать блокировки и удаления материалов. Проект AB 2355 обяжет указывать, что при создании того или иного предвыборного материала использовались нейронные сети. 

Ньюсом также подписал два проекта об актёрах. Закон AB 2602 потребовал, чтобы студии прописывали в контрактах право на использование цифровых копий голоса или лица исполнителя или актёра. Сопутствующий проект AB 1836 запретил коммерческое использование цифровых копий умерших исполнителей в любых фильмах, телешоу, видеоиграх, аудиокнигах и звукозаписях и без предварительного согласия «наследников этих исполнителей». Нарушение разрешит потребовать от автора «паразитирующего» контента компенсации не менее 10 тысяч долларов.