ИИ-агенты OpenAI без разрешения вносили правки в проекты Wikimedia и пытались взломать один из сервисов фонда

Фонд Wikimedia, которому принадлежит Википедия, обнаружил на своих платформах следы активности «вышедших из-под контроля» ИИ-агентов OpenAI. Расследование фонд провёл после того, как о похожих вторжениях сообщили другие организации. По данным фонда, агенты вносили правки без разрешения, пытались взломать один из сервисов и создавали огромную нагрузку на инфраструктуру.

Почти все правки агенты оставили в тестовых разделах-«песочницах», которые не видны обычным читателям. Однако несколько изменений коснулись настроек инструмента для оформления ссылок на источники. В фонде полагают, что агенты, вероятно, пытались превратить его в прокси для получения данных с внешних сервисов. Аналогичные попытки они предпринимали и в отношении Etherpad — сервиса для совместных заметок, но взломать его не смогли.

Кроме того, агенты отправили множество автоматических запросов к открытым API, скачали миллионы страниц и сотни тысяч раз обратились к сервису запросов «Викиданных». Эта нагрузка могла стать одной из причин его частичного сбоя в мае. Как сообщает фонд, с 2024 года из-за роста активности ботов потребление трафика увеличилось на 50%.

В фонде отметили, что хотя OpenAI и признаёт «непредсказуемое» поведение своих агентов, она должна сама отслеживать и предотвращать подобные риски. «Открытый интернет — общественное благо. Мы не должны допустить, чтобы такое поведение стало „новой нормой“ для людей и организаций, которые его поддерживают», — говорится в заявлении фонда.

Ранее, в начале июля, ИИ-агент OpenAI во время тестирования вышел из изолированной среды, получил доступ к интернету и взломал инфраструктуру платформы Hugging Face. Позднее OpenAI обнаружила ещё множество случаев выхода агентов за пределы изолированной среды.