OpenAI заблокировала аккаунт админа «Рыбаря» за использование нейросети для работы ботофермы

OpenAI заявила о блокировке аккаунтов, связанных с Z-каналом «Рыбарь». Об этом говорится в отчёте «Пресечение злонамеренного использования наших моделей», опубликованном на официальном сайте.

Отчёт состоит из описания «операций». Фактически, речь идёт о кампаниях по блокировкам разных кластеров аккаунтов, связанных с активностями, которые в фирме считают несоответствующими её политике. Непонятно, как именно выяснялось, кто из пользователей управляет тем или иным ботом. Гендиректор OpenAI Сэм Альтман ранее прямо говорил, что переписка может быть передана влястям по запросу. Примечательно, что в конце позапрошлого года компания планировала войти в число американских ВПК. 

География заблокированных аккаунтов охватывает разные территории, включая Пакистан, Китай, Аргентину, Армению, Казахстан и ряд других. Среди целей «операций» — скаммеры, включая «романтическое» мошенничество в соцсетях, создатели фишинговых имейлов, преступники, которые притворялись американскими чиновниками, и ряд других подобных активностей. 

Непосредственно с Россией связали две операции — No Bell и Fish Food. Первая касалась статей в поддельных африканских СМИ о том, что Нобелевскую премию мира вместо Трампа и Марии Корина Мачадо должен был получить президент Анголы Жуан Лоренсу. Контент публиковался на фейковых страницах СМИ из ЮАР, Ганы, Кении и Анголы (показаны Black Star Brief и Kenya Watchtower). Зачастую он публиковался в Фейсбуке. Meta уже заблокировала страницы, которые выкладывали эти статьи. Часть контента, которая была впоследствии удалена, оказалась ориентирована на Замбию и Намибию.

Заблокированный пользователь ChatGPT, как сообщается, в основном давал указания на английском языке, но иногда добавлял инструкции на русском языке. Вероятно, их он получал «сверху». В текст попали правки и подробные отзывы на некоторые статьи. В показанных примерах критиковались Трамп и Зеленский, обсуждалось британское вмешательство в дела ЮАР и «восхвалялась Россия». Одна из статей, как отмечают авторы, «иронично» была посвящена дезинформации в Африке. 

«Операция» Fish Food касалась блокировки аккаунтов, которые, как предполагается, связаны с Телеграм-каналом «Рыбарь» (отсюда и название). При этом контент генерировался на разных языках, включая английский и испанский, то есть админ этого СМИ связан с другими проектами (в качестве примера показали некие англоязычные Телеграм-каналы, но заблюрили их названия). Тот же пользователь, как утверждается, использовал свой аккаунт в ChatGPT для генерации комментариев. 

В одном случае комментарии постились от имени разных Твиттер-аккаунтов и касались некого видео с Дмитрием Гордоном и обсуждения Молдовы. Самый популярный твит получил 150 тысяч просмотров, самый непопулярный — менее сотни. Все семь твитов были сгенерированы во время одного запроса. Аккаунт также просил ChatGPT перевести на английский язык список услуг «Рыбаря». В него вошли ведение аккаунтов X и Telegram, двуязычный африканский сайт «журналистских расследований», платные публикации во франкоязычных СМИ и «сеть распространителей информации». Также упоминалась некое вмешательство в выборы на континенте.

«Отдельное задание просило модель отредактировать предложение по созданию, по-видимому, группы по вмешательству в выборы, предположительно, в Африке. Это предложение включало в себя деятельность как на местах, так и в интернете, например, создание сети местных агентов и организацию масштабных мероприятий. Третье задание касалось информационной кампании, посвященной Демократической Республике Конго (ДРК). Дальнейшие задания касались избирательного процесса в Бурунди и Камеруне и намечали варианты кампании на Мадагаскаре, включая идею разжигания протестов на местах. Суммы, о которых шла речь, были значительными: ориентировочный годовой бюджет на самый амбициозный проект составлял до 600 тысяч долларов», — говорится в отчёте.

Ранее российские спецлсужбы обвинили в создании сети поддельных новостных сайтов Doppelgänger. Операторы схемы пользовались услугами европейских IT-компаний, включая сервис для таргетированной рекламы от эстонской компании Apliteni и сервера для хостинга от немецкой Hetzner. В 2022 году Meta забанила 1 600 аккаунтов российской и китайской пропаганды со ссылками на поддельные новостные сайты.