Европарламент принял закон о регулировании и обязательной регистрации искусственного интеллекта

Европейский парламент принял «Закон об искусственном интеллекте» (AI Act), устанавливающие правила и требования для разработчиков и пользователей искусственного интеллекта «в зависимости от уровня риска, который может создать ИИ».

Согласно новым правилам, запрещаются «ИИ с неприемлемым уровнем риска», в том числе системы, использующие «подсознательные или целенаправленные манипулятивные методы, эксплуатирующие уязвимости людей или используемые для социальной оценки (классификация людей на основе их поведения, социально-экономического статуса, личных характеристик)».

Кроме того, под запрет попали удалённая биометрическая идентификация в режиме реального времени» в общедоступных местах (с исключением для правоохранительных органов для уголовного преследования за тяжкие преступления и только после судебного разрешения); биометрическая категоризация с использованием чувствительных характеристик (например, пол, раса, этническая принадлежность, гражданство, религия, политическая позиция).

Запрещены прогностические полицейские системы (на основе профилирования, местонахождения или прошлого преступного поведения); распознавание эмоций в правоохранительных органах, пограничных службах, на рабочих местах и в учебных заведениях; неизбирательное извлечение биометрических данных из социальных сетей или видеозаписей с камер видеонаблюдения для создания баз данных распознавания лиц.

Также Европарламент расширил классификацию зон повышенного риска, включив в неё причинение вреда здоровью людей, безопасности, основным правам человека или окружающей среде. Под системы высокого риска попадают и те, что используются для влияния на избирателей в политических кампаниях, и алгоритмы рекомендаций в социальных сетях.

Разработчиков и поставщиков ИИ обязали оценивать и снижать риски, соблюдать проектные, информационные и экологические требования и регистрироваться в базе данных ЕС. За соблюдением правил будет следить специальный орган внутри союза (EU AI Office).

«Генеративные модели, вроде GPT, должны соответствовать дополнительным требованиям прозрачности, таким как раскрытие информации о том, что контент был создан с помощью ИИ, предотвращающей создание нелегального контента, и публикация материалов, защищённых авторским правом», — говорится в документе.

Для стимулирования новых разработок в сфере искусственного интеллекта сделаны исключения из правил для исследовательской деятельности и компонентов ИИ, предоставляемых по лицензиям с открытым исходным кодом. Помимо этого, европейцы теперь могут подавать жалобы на системы ИИ и получать разъяснения решений, основанных на системах ИИ с высокой степенью риска, которые существенно влияют на их права.

Как утверждают законодатели, нормы направлены «на ориентированное на человека и этичное развитие ИИ», а также должны обеспечить «безопасность, прозрачность, отслеживаемость, недискриминационность, экологичность» и нахождение технологии под контролем людей.

Ранее Google пообещал бороться с «токсичностью» и «предвзятостью» в ИИ. Об этом рассказал вице-президент отдела по этике Джеймс Маника. По его словам, в компании планируют ограничить возможности искусственного интеллекта, чтобы тот не проявлял «токсичность» или «несправедливую предвзятость». Маника подчеркнул, что к цензуре ИИ-разработок планируют привлекать и государство.

По словам вице-президента отдела, в Google планируют цензурировать некоторые ответы с помощью «состязательных проверок». Например, сотрудники узнали, что чат-бот Bard готов обсуждать с пользователями «фейковость» высадки американцев на Луну. В компании вручную изменила ответы бота, и теперь тот сразу заявляет, что астронавты действительно побывали на спутнике Земли.