В Калифорнии чат-ботам приказали признаваться, что они — не люди

Губернатор Калифорнии Гэвин Ньюсом подписал законы о «защите несовершеннолетних» в интернете, включая указание даты рождения и обязательное предупреждение о том, что человек общается с ИИ. Об этом говорится в официальном пресс-релизе.

Самым «нашумевшим» проектом стал SB 243. Изменения внесли в местный Кодекс бизнеса и профессий. Конкретная формулировка плашки в законе не прописана. Согласно тексту, это должно быть чёткое и заметное уведомление, указывающее на то, что чат-бот «не является человеком». Закон также обязывает разработчиков внедрить в нейросеть запрет на контент о сведении счётов с жизнью и обязательное предложение позвонить по горячему телефону для склонных к суициду, если становится понятно, что пользователь может планировать умереть. Также владельцы должны будут показывать специальные напоминания для несовершеннолетних о том, что они должны сделать перерыв хотя бы раз в три часа. Отдельная формулировка запрещает создавать с помощью ИИ порнографические картинки и видео с «прямыми указаниями» на участие несовершеннолетнего в сексе. Ещё одно уведомление может появляться, если оказывается, что «чат-боты могут не подходить для некоторых несовершеннолетних».

С 2027 года владельцы чат-ботов должны будут отчитываться перед властями о том, сколько раз они предложили пользователям позвонить в службы поддержки, и раскрыть, как нейросеть определяет, что такое предложение в принципе стоит сделать. Публиковать персональную информацию склонных к суициду при этом отдельно запрещено. Нарушителям будут грозить штрафы и судебные запреты на продолжение работы в Калифорнии.

Ньюсом в комментарии к проекту отметил, что калифорнийские власти планируют и дальше активно регулировать технологии под предлогом защиты детей. По словам чиновника, правительство «не будет стоять в стороне, пока компании продолжают действовать без необходимых ограничений», прописанных в законах.

«Развивающиеся технологии, такие как чат-боты и социальные сети, могут вдохновлять, обучать и объединять, но без реальных барьеров технологии могут также эксплуатировать, вводить в заблуждение и подвергать опасности наших детей. Мы видели поистине ужасающие и трагические примеры того, как молодые люди страдают от нерегулируемых технологий, и мы не будем стоять в стороне, пока компании продолжают действовать без необходимых ограничений и ответственности. Мы можем продолжать лидировать в области ИИ и технологий, но мы должны делать это ответственно, защищая наших детей на каждом этапе пути. Безопасность наших детей не продаётся», — говорит чиновник.

Также губернатор подписал закон (AB 1043) об указании возраста в приложениях, разработанный местными демократами. В отличие от республиканских штатов, которые для этой цели ввели интернет по паспорту, как в Европе, калифорнийская версия гласит, что разработчики должны просто создать «доступный интерфейс, позволяющий владельцу учетной записи указать дату рождения, возраст или и то, и другое». Таким образом, владельцы могут фактически верить пользователю на слово. При этом в законе прописано, что если у них появляется «внутренняя ясная и убедительная информация о том, что возраст пользователя отличается» от указанного в настройках, использовать нужно более достоверную информацию. До тех пор указанная самим пользователем дата будет считаться основной.