OpenAI заблокировала иранские аккаунты, которые пользовались ChatGPT для создания комментариев о выборах в США

OpenAI отчиталась о блокировке аккаунтов админов иранских сайтов, на которых писали про выборы в США.

Сколько именно аккаунтов было удалено, не сообщается: в компании группу таких учётных записей выделили в отдельный «кластер» Storm-2035. Сообщается, что заблокированные пользователи администрировали сайты Niothinker, savannahtime, evenpolitics, teorator и westlandsun, а также постили ссылки на них в соцсетях.

Как отмечают в OpenAI, иранская попытка вмешаться в мировую политику оказалась провальной: в компании говорят, что большинство сообщений в социальных сетях «получили мало или вообще не получили лайков, репостов или комментариев». Тем не менее, OpenAI решила заблокировать аккаунтам доступ к своим услугам.

Внутренее расследование показало, что администраторы использовали ChatGPT для создания длинных статей, а также коротких комментариев в социальных сетях. Иранцы писали тексты о политике США и мировых событиях под видом как прогрессивных, так и консервативных новостных агентств и размещали ссылки на них в Твиттере (X) и Инстаграме. Всего в «операции» участвовало менее 20 аккаунтов в соцсетях. 

«Мы запретили этим учетным записям использовать наши сервисы и продолжаем отслеживать любые дальнейшие попытки нарушения наших политик. Операция использовала ChatGPT для создания контента, сосредоточенного на ряде тем, включая комментарии о кандидатах с обеих сторон на президентских выборах в США, которые затем распространялись через учетные записи социальных сетей и веб-сайты <..> Несмотря на отсутствие значимого вовлечения аудитории в результате этой операции, мы серьезно относимся к любым попыткам использовать наши услуги в операциях по оказанию влияния за рубежом», — говорится в пресс-релизе. 

В феврале компания отчиталась о ликвидации доступа к технологиям двух китайских ботосеток (Charcoal Typhoon и Salmon Typhoon), которые использовалии ИИ для генерации фишинговых рассылок, аналитики относительно разведки США и написании вирусов, а также иранской Crimson Sandstorm, северокорейской Emerald Sleet и российской Forest Blizzard. Последняя, как утверждалось, использовала данные компании OpenAI для «исследования протоколов спутниковой связи с открытым исходным кодом и технологий радиолокационной визуализации». 

Аккаунты хакеров и ботов были удалены. Как именно были получены данные, не уточняется. Учитывая подобные описания действий каждой из группировок можно сделать вывод, что компания подробно анализирует и отслеживает все действия своих пользователей. 

Тогда же OpenAI объявила о нескольких принципах борьбы с «вредоносных субъектами». Фирма пообещала инвестировать в технологии и команды, которые будут создавать модели для исследования применения нейросетей для преступлений. Более того, компания сообщила, что будет на регулярной основе обмениваться данными с другими предприятиями в отрасли ИИ, чтобы «содействовать безопасной, надежной и прозрачной разработке и использованию технологий и направлено на содействие коллективному реагированию на риски в масштабах всей экосистемы». Помимо прочего, фирма заявила, что будет учиться смягчать последствия от уже произошедших преступлений и продвигать «ответственное использование» моделей. 

«OpenAI продолжит информировать общественность и заинтересованные стороны о характере и масштабах использования ИИ злонамеренными государственными субъектами, обнаруженного в наших системах, и о мерах, принимаемых против них, когда это оправдано. Мы считаем, что обмен информацией и прозрачность способствуют большей осведомленности и готовности всех заинтересованных сторон, что приводит к более сильной коллективной защите от постоянно меняющихся противников», — говорилось в сообщении.

В сентября 2022 года Meta забанила 1 600 аккаунтов российской и китайской пропаганды со ссылками на поддельные новостные сайты.