В США ограничили использование ИИ для обзвонов после того, как избирателей призвали не участвовать в праймериз голосом Байдена

Федеральная комиссия США по связи (FCC) признала незаконными звонки с генерацией голоса с помощью ИИ без предварительного разрешения от пользователей. Соответствующее решение опубликовали на официальном сайте комиссии. 

Комиссия и раньше боролась с такими звонками. Например, чиновники обязали телефонные компании внедрить «аутентификацию по идентификатору вызывающего абонента», что должно было сократить количество поддельных звонков. Операторов также обязали собирать данные о жалобах потребителей для «обеспечения более эффективных решений по блокировке вызовов и маркировке».

В середине ноября прошлого года FCC запустила расследование на тему использования ИИ при совершении звонков. В комиссии заявили, что хотят оценить все преимущества (например, помощь людям с инвалидностью при общении по «голосовым» линиям) и недостатки этой технологии, включая возможное использование мошенниками. 

«Как отмечалось выше, нежелательные звонки и текстовые сообщения уже являются основным источником жалоб потребителей в Комиссию. По некоторым оценкам, потребители обманываются мошенническими звонками от роботов, которые обходятся им в миллиарды долларов каждый год. пожилые? Аналогичным образом, может ли использование технологии искусственного интеллекта повысить риск нежелательных и мошеннических звонков и текстовых сообщений людям, для которых английский является вторым языком? Есть ли доказательства того, что использование генеративной технологии искусственного интеллекта уже увеличило количество нежелательных звонков и текстовых сообщений?» — задавались вопросами чиновники. 

В январе стало известно о мошенниках, которые обзванивали жителей Нью-Гэмпшира и голосом американского президента Джо Байдена советовали не голосовать на президентских праймериз. Этот робот призвал «сохранить свой голос на ноябрьских выборах». Кто именно стоял за звонками, неизвестно.

На этой неделе FCC приняла решение по этому вопросу: согласно опубликованному постановлению, теперь роботизированные звонки с созданным ИИ реалистичным «клонированным» голосом будут попадать под действие «Закона о защите потребителей телефонной связи» (TCPA). Формально, закон не запрещает звонить гражданам, однако обязывает компании сначала получить для этого письменное согласие. Нарушителям грозят штрафы и блокировки.

«Злоумышленники используют голоса, сгенерированные искусственным интеллектом, в нежелательных звонках роботов, чтобы вымогать деньги у уязвимых членов семьи, подражать знаменитостям и дезинформировать избирателей. Мы привлекаем к ответственности мошенников, стоящих за этими роботизированными звонками. Теперь у генеральных прокуроров штатов будут новые инструменты для борьбы с этим мошенничеством и обеспечения защиты общественности от мошенничества и дезинформации», — заявила председатель FCC Джессика Розенворсель.

Важно отметить, что технология имитации голоса при звонках была доступна не только колл-центрам и мошенникам, но и обычным гражданам. В 2021 году, например, Google запустил в своём голосовом помощнике функцию Duplex, которая позволяла забронировать столик в ресторане или записаться к специалисту на приём. Как именно будут регулироваться такие сервисы, в FCC не уточнили.