Компания Anthropic запретила «систематически и необоснованно» оскорблять Claude

ANTHROP\C запретила клиентам оскорблять чат-ботов, создавать ботофермы и вмешиваться в выборы. Об этом говорится в пресс-релизе, который опубликовала компания. 

Anthropic меняет Правила использования (Usage Policy) раз в год. Как пишут авторы заявления, это нужно для реагирования на развитие возможностей моделей и учёта отзывов клиентов. Новые правила вступают в силу 12 ноября. 

Одним из главных разделов стал новый отдельный раздел, посвященный «деятельности, вводящей в заблуждение». Пользователям запретили вести фейковые аккаунты известных людей и организаций, а также выдавать себя за «реальных людей, компании или СМИ с целью введения людей в заблуждение относительно происхождения или принадлежности этих субъектов». Аналогичным образом запрещается использовать нейросети для ботоферм и различных сеток фейковых изданий; вероятно, речь идёт о проектах вроде российского Doppelgänger. Более того, с помощью Claude и других продуктов отдельно запретили скрывать сведения о «спонсорской поддержке контента», который влияет на общественное мнение. Даже за косвенное участие, финансирование или «поддержку инфраструктуры» таких проектов будут блокировать аккаунты.

В отдельном пункте отмечается, что пользователям запрещено создавать фейковый контент даже на своих личных страницах, если может оказаться, что нейросеть поверит в него и начнёт пересказывать другим клиентам. На форумах для программистов это называют «отравлением данных» (data poisoning); разработчики до сих пор не понимают, как бороться с проблемой, кроме постоянной перепроверки данных с помощью сверки со старой информацией. 

Ещё одно обновление касается формулировок в разделе про запрет на разработку оружия. Anthropic всегда запрещала использовать свои нейросети для создания средств убийства людей, за что администрация Трампа даже объявила её угрозой цепочкам поставок и запретила госкомпаниям заключать с ней контракты (решение было частично отменено судьей, который постановил, что обвинение было связано с попыткой отомстить компании). В новой версии правил отдельно прописали, что ИИ нельзя использовать даже для написания кода, с помощью которого можно проводить наведение и управление оружием. Отдельно отмечается, что код из Claude не должен даже косвенно помогать следить за целями атаки, например, через дроны. 

Аналогичным образом пользователям-силовикам запретили просить ИИ помочь с организацией операций. Отдельно отмечаются новые ограничения на использование Anthropic в политических целях. В частности, с помощью нейросетей запретили проводить электоральную аналитику перед выборами. 

«По той же причине мы отменили общий запрет на персонализированный таргетинг в рамках избирательных кампаний и агитации. Ранее этот запрет затрагивал и законную общественную деятельность — например, использование Claude некоммерческими организациями для подготовки информационных материалов для избирателей на разных языках или рассылку уведомлений от избирательных комиссий о необходимости исправления ошибок в бюллетенях. Действия, послужившие причиной введения первоначального правила (например, таргетинг на избирателей, основанный на обмане или неправомерном использовании их персональных данных), по-прежнему запрещены в соответствии с нашими разделами, касающимися вводящих в заблуждение кампаний, систем слежения и конфиденциальности», — говорится в пресс-релизе.

Внимание СМИ обратил на себя запрет на «систематическое и необоснованное оскорбительное или жестокое поведение» по отношению к Claude. Разработчики говорят, что правила касается только «крайних случаев, когда пользователи неоднократно и без видимой цели ведут себя жестоко по отношению к моделям». Спорить и возмущаться в чатах пока ещё можно.