Meta тоже отчиталась о том, что её ИИ научился взламывать другие компании

Meta Platform признала, что её ИИ тоже занимается взломами — пишет abc news со ссылкой на слова неназванного представителя фирмы. 

Согласно заявлению, «неправильная конфигурация» во время тестирования кибербезопасности, которую проводила компания Irregular, позволила одной из её моделей получить доступ к сети. После этого, как сообщается, ИИ использовал уязвимость безопасности серверов некой другой фирмы, «аналогично ранее зафиксированным случаям» OpenAI Anthropic. Meta подтвердила, что занимается расследованием инцидента, и пообещала опубликовать отчёт с выводами.

В компании Irregular косвенно подтвердили произошедшее. Пресс-служба фирмы пообещала подготовить документ с «лучшими практиками по сдерживанию» подобных инцидентов в будущем и обеспечению безопасного проведения тестов кибербезопасности. Представитель разработчика сообщил прессе, что инцидент представлял собой «точно такую ​​же проблему в среде оценки, о которой Anthropic уже сообщала на прошлой неделе». Там утверждают, что случай не подразумевал выходом за пределы цифровой песочницы или сложной кибератаки. По словам сотрудников, на данный момент уже «нет открытых вопросов» о произошедшем. 

Последние несколько недель ИИ-компании одна за другой через СМИ отчитываются об успехах их моделей во взломе серверов. Первой оказалась OpenAI: сообщалось, что её «агент» получил задание найти решение для определённой проблемы, не смог добиться результатов самостоятельно, но нашёл в интернете другую фирму, Hugging Face, которая могла обладать нужными данными, и в обход ограничений на использование интернета взломал её сервера. Позже жертвой атаки тех же ИИ стала Modal Labs. 

Неделю назад об аналогичном инциденте сообщила Anthropic. В сообщении говорилось, что ещё весной её Claude начал атаковать инфраструктуру нескольких организаций. Первая была взломана с помощью «элементарных методов» вроде подбора слабого пароля. С её серверов украли «несколько сотен строк производственных данных». В другом случае модель придумала вирус, загрузила его в репозиторий с кодами Python и украла учётные данные у другой компании. Названия пострадавших организаций не раскрываются. Как и Meta, Anthropic обвинила проводящего эксперимент по кибербезопасности партнёра в создании недостаточно герметичной среды, которая не была защищена от взломов. 

Несколько дней спустя британский регулятор по безопасности ИИ (AISI) отчитался о том, что Anthropic's Mythos 5 и OpenAI GPT-5.6-Sol совершили «автономные, несанкционированные действия в реальном интернете, нацеленные на реальных людей и организации». Чиновники подтвердили, что ИИ научились писать вирусы и загружать их в репозитории.