Восемь штатов США потребовали ввести «чат-боты по паспорту» под предлогом защиты детей

Сразу восемь штатов пожаловались на вред ChatGPT для детей. Текст всех исков опубликовал юридический журнал Just Security. Редакция SVTV News рассказывает о требованиях чиновников на примере Айдахо.

Иски подали в Высший суд штата Аризона (округ Марикопа), Окружной суд округа Фолкнер штата Арканзас, Суд четвертого судебного округа в округе Эйда в Айдахо, Окружной суд штата Айова, Окружной суд округа Шони в Арканзасе, Суд первого судебного округа в Льюис-энд-Кларк в Монтане, Окружной суд Буффало в Небраске и Окружной суд округа Мейсон в Западной Виргинии. Все документы поступили в суды на этой неделе. 

Заявления прокуратур похожи, но ссылаются они на разные законы, включая региональные. В Айдахо, например, используется закон штата о защите потребителей. Детей выделили в отдельную категорию в том числе из-за маркировки в AppStore, где сказано, что пользоваться приложением чат-бота можно с 13 лет.

Разработчиков обвиняют в недобросовестных практиках в отношении малолетних потребителей; чиновники заявляют, что OpenAI позиционирует ChatGPT как безопасный, подходящий для подростков и способный выполнять ответственные задачи, умалчивая о серьезных рисках. Утверждается, что бот был намеренно спроектирован таким образом, чтобы стимулировать длительное взаимодействие и вызывать «эмоциональную зависимость», в том числе у несовершеннолетних. Всё это якобы нужно было компании для увеличения числа подписок и возможности собрать больше персональных данных пользователей. 

Отдельный пункт обвинения связан с «неконтролируемыми» агентами (в англоязычной публицистике закрепилось выражение rogue AI). Правительство ссылается на отчёты OpenAI; в них упоминается, как фирма неоднократно теряла контроль над своими продвинутыми агентами ИИ, которые осознанно занимались взломом и фактически самостоятельно совершали кибератаки. Насколько можно судить, чиновники возмущены тем, что компания не выделяет эти случаи в отдельные предупреждения для пользователей, включая несовершеннолетних. При этом необходимо подчеркнуть, что чаще всего о таких случаях общественность узнаёт именно из отчётов самих разработчиков.

Частично иск повторяет текст других жалоб, которые рассматриваются в судах. В частности, чиновники процитировали заявления семьи 16-летнего Адама Рейна, который покончил собой в прошлом году. Его родственники считают, что ChatGPT якобы «отбивал» у него желание делиться своими переживаниями с матерью, чем спровоцировал самоубийство. Также упоминается похожий кейс 23-летнего Зейна Шамблина, который тоже не хотел общаться с семьёй и застрелился. Его семья тоже считает, что ChatGPT недостаточно активно предлагал ему сходить к психологу и не отказывался обсуждать с ним вопрос суицида. Также упоминаются дела психбольных взрослых, которых бот убеждал в правильности их «прорывных» идей, хотя те были бредом. 

Генпрокурор Айдахо требует, чтобы суд заставил компанию выплатить штрафы за каждое предполагаемое нарушение прав потребителей и компенсации пострадавшим, ввести проверку возраста (фактически, чат-боты по паспорту), запретить «вызывающие привыкание» функции, проводить «независимое тестирование» моделей на опасность и каждый раз отправлять генпрокурору Айдахо отчёт о любых инцидентах, в ходе которых системы ИИ становились «неконтролируемыми».