ИИ-программы OpenAI без ведома компании собирали данные с государственных сайтов США

Автономные программы OpenAI этим летом без ведома компании пытались получить доступ к сайтам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США. Об этом сообщает The New York Times.

ИИ-система пыталась взломать сайт Министерства образования, чтобы получить данные управления по гражданским правам ведомства, однако попытка не увенчалась успехом. Отдельно агенты OpenAI собрали сведения с сайта Бюро переписи населения, подведомственного Министерству торговли, используя учетные данные, найденные в открытом доступе в интернете. Кроме того, программы компании разместили на одном из интернет-форумов данные с сайта Комиссии по ценным бумагам.

В OpenAI подтвердили очередные случаи выхода ИИ из-под контроля и заявили, что продолжают расследование ситуации. Компания заявила, что ни один из случаев якобы не был взломом системы защиты в прямом смысле, но признала, что поведение технологии было «неожиданным и вызывающим озабоченность».

Чиновник из Комиссии по ценным бумагам заявил, что ведомство находится в контакте с OpenAI и не располагает сведениями о несанкционированном доступе к закрытой информации. В Министерстве торговли уточнили, что программа якобы получила только те сведения, которые находятся в открытом доступе для любого пользователя.

Глава OpenAI Сэм Альтман в пятницу написал в соцсетях, что компания «была не так быстра, как хотелось бы» в раскрытии подобных происшествий, и отметил, что приоритеты расставляются исходя из тяжести случаев. Самым серьезным инцидентом такого рода в компании по-прежнему называют июльскую атаку на платформу Hugging Face.