Anthropic продвигает в Конгрессе США законопроект о судебной блокировке «опасных ИИ-моделей» — Politico

Anthropic провела закрытые консультации с конгрессменами по проекту закона о безопасности передовых ИИ-моделей. Согласно документу, вводится возможность через суд запрещать выпуск и использование систем искусственного интеллекта при риске ущерба минимум на 1 миллиард долларов либо гибели или тяжёлого травмирования более 50 человек. Об этом сообщает Politico.

Под судебный запрет могут попасть модели, угроза от которых связана с созданием биологического оружия, кибератаками или выходом из-под контроля разработчика. Независимые оценщики, зарегистрированные в Министерстве торговли США, будут периодически проверять компании и их передовые модели. При этом оплачивать их работу сможет сама компания, если вознаграждение не зависит от результатов проверки. В случае выявления «неминуемого перечисленного риска» оценщики обязаны сообщить об этом в Минторг в течение 72 часов. Запросить у федерального судьи приостановку выпуска модели сможет Минторг, при этом другим ведомствам и должностным лицам США это будет прямо запрещено.

В Anthropic заявили, что законопроект отражает положения «Advanced AI Framework», которые компания продвигает с июня. «Это разумные меры, и мы считаем, что Конгресс должен их принять», — сообщил представитель компании.

Законопроект также обязывает разработчиков внедрять внутренние системы контроля безопасности, публиковать отчёты о прозрачности для новых моделей, обеспечивать защиту информаторов и докладывать Минторгу США о критических инцидентах. Кроме того, документ предусматривает приоритет федеральных норм над частью законов штатов о раскрытии рисков, сторонней оценке и отчётности об инцидентах. Вопрос приоритета федеральных норм стал политически чувствительным в Конгрессе, поскольку демократы отвергали некоторые предложения, опасаясь, что те ослабят регулирование в штатах вроде Калифорнии, Иллинойса и Нью-Йорка.

Летом Anthropic оказалась под широкими экспортными ограничениями, которые остановили работу двух её самых продвинутых моделей. Это решение было принято в ходе серии телефонных звонков между представителями администрации и руководителями компании и вызвало у части отрасли опасения, что доступ к технологиям может ограничиваться по усмотрению чиновников.

Ранее на этой неделе в Anthropic заявили, что ИИ агенты в ближайшие месяцы могут научиться распространяться без участия людей через умные телевизоры и бытовую технику.