Президент Microsoft призвал создать в США новый регулятор в сфере ИИ и ввести контроль разработчиков

Вице-председатель совета директоров и президент Microsoft Брэд Смит призвал американские власти ввести ограничения для разработчиков ИИ и регулировать эту сферу.

Изначально Смит озвучил свою идею вчера, во время выступления перед членами Конгресса США и активистами. Он назвал необходимость ввести новое регулирование в сфере ИИ-разработки «вызовом 21-го века» и сравнил технологию с «печатным станком», так как её можно использовать для «упрощения разработки» законопроектов. Он также сказад, что необходимо соблюдать «верховенство закона» для управления ИИ в «каждой части его жизненного цикла».

Помимо прочего, он заявил о необходимости бороться с «дипфеками» и призвал предпринять шаги, чтобы пользователи могли определить, настоящее перед ними фото или видео, или нет. В частности, руководитель бигтех компании опасается «операций влияния» со стороны спецслужб Ирана, Китая и России.

«Нам придется решить проблемы, связанные с дипфейками. Нам придется решить, в частности, то, что нас беспокоит в отношении большинства зарубежных операций кибервлияния — видом деятельности, который уже осуществляются российским, китайским и иранским правительствами», — цитируют его в Reuters.

Президент компании призвал к созданию нового госрегулятора, а также систему лицензирования разработчиков ИИ и обязательное тестирование программ с контролем со стороны государства. Помимо прочего, он хочет, чтобы власти могли устанавливать стандарты безопасности и призывает ввести новые экспортные ограничения, которые касаются ИИ.

«Нам понадобится новое поколение экспортного контроля, по крайней мере, эволюция имеющегося у нас экспортного контроля, чтобы гарантировать, что эти модели не будут украдены или не будут использоваться таким образом, который нарушил бы требования экспортного контроля», — сказал он.

Свои дальнейшие рассуждения Смит опубликовал в официальном блоге Microsoft. В посте говорится о необходимости «обеспечить надлежащий контроль над ИИ» и не дать компаниям самим определять «чувство ответственности» и «барьеры» при разработке новых технологий.

Президент компании также выложил «план» из пяти пунктов, который он предлагает в качестве решения заявленной проблемы. Там говорится, что правительство должно обязать разработчиков ИИ-программ «внедрять и развивать новые структуры безопасности». Он предлагает госорганам «ускорить этот процесс», добавив такие требования в госзакупки.

Также Смит хочет, чтобы власти начали определять «классы риска» систем, в которых используется ИИ. Если он окажется «высоким», компании должны будут внедрять «предохранительные тормозные механизмы» и постоянно их испытывать. На данный момент инициатива касается только «инфраструктурных» проектов.

Помимо прочего, президент Microsoft призвал внедрить систему KY3C: она обяжет компании собирать данные о клиентах, их контенте и «облаке», в котором это происходит. Он говорит, что меры должны быть похожи на те, что уже применяются в финансах, в частности, «Знай своего клиента» (KYC), которая обязывает кредитные организации собирать данные обо всех своих клиентах, хранить их и выдавать властям по требованию.

Недавно Роскомнадзор также призвал зарегулировать рекомендательные алгоритмы, чтобы защитить пользователей от «дезинформации». В начале мая Google пообещал бороться с «токсичностью» и «предвзятостью» в ИИ, а также анонсировал цензуру некоторых ответов с помощью проверок и внедрение «вотермарок» для сгенерированного GenAI контента.