OpenAI отказалась от запрета на использование своих сервисов в «военных целях»

Из политики OpenAI удалили положение о запрете на использование ChatGPT для «военной деятельности». На изменения в странице обратили внимание в The Intercept.

Журналисты заметили, что до 10 января этого года на странице «Политики использования» OpenAI говорилось о запрете использования сервисов компании для осуществления «деятельности, сопряжённой с высоким риском физического вреда», включая «разработку оружия» и «военную деятельность» (military and warfare). В новой версии, тем не менее, содержится менее чёткая формулировка: так, пользователям всё ещё запрещено использовать платформы «во вред себе или другим» и для разработки вооружений, но требование отказаться от «военной деятельности» в целом исчезло.

Журналисты подозревают, что предыдущая версия политики напрямую запрещала оказывать услуги Минобороны США и другим государственным армиям. Новая же версия документа, как предполагается, оставляет лазейку для заключения госконтрактов при необходимости. 

The Intercept спросили у OpenAI, зачем там изменили формулировки «Политики использования». В фирме ответили, что попытались сделать документ «более понятным» и «более читабельным», а также «создать набор универсальных принципов, которые легко запомнить и применять». Представитель компании Нико Феликс подчеркнул, что теперь сервисами от OpenAI «пользуются клиенты со всего мира, которые также могут создавать GPT», поэтому разработчики пытались добавить «широкие, но легко уловимые и актуальные во многих контекстах» принципы работы. Важно отметить, что редактированию подвергся весь документ, а не только часть про военное использование. 

«Хотя никакой из сервисов OpenAI сегодня не может быть использовано для прямого убийства кого-либо, в военном или ином отношении, любая армия занимается убийством или, по крайней мере, поддерживает способность убивать. Существует любое количество смежных задач, которые языковые модели могут быть дополнены, например, написание кода или обработка закупок. Обзор специализированных ботов на базе ChatGPT, предлагаемых OpenAI, показывает, что военнослужащие США уже используют эту технологию для ускорения оформления документов», — отмечают в The Intercept.

В мае прошлого года в издании уже выяснили, что технологиями OpenAI интересуются в Национальном агентстве геопространственной разведки. В ведомстве тогда не сообщили никаких подробностей и сказали, что «следят» за технологиями.

При обсуждении OpenAI необходимо отметить сложную и необычную структуру компании. Так, услуги клиентам оказывает OpenAI Global, LLC. Её основной внешний инвестор — компания Microsoft, которая участвует в процессе разработке и даже была готова «забрать» часть сотрудников к себе во время одного из скандалов внутри фирмы. Также OpenAI Global, LLC частично владеют сотрудники компании и OpenAI, Inc. Последняя организация числится как «благотворительная»: изначально такая структура позволяла закрепить «открытость» ИИ-разработок, которыми занимается компания. 

Тем не менее, это изначально вызывало ряд вопросов, в том числе когда из компании уволили гендиректора Сэма Альтмана, который, как заявляется, занимался разработкой общего ИИ Q*, способного самообучаться. Теперь же организации также нужно будет решить, может ли Минобороны и вооружённые силы стран пользоваться разработками её «благотворительной» части.