В Еврокомиссии, Франции, Индии, Малайзии и Великобритании потребовали расследовать работу Grok из-за сгенерированных картинок, похожих на обнажённых девочек

Чиновники Еврокомиссии, Франции, Индии, Малайзии и Великобритании объявили о планах зацензурировать чат-бот xAI Grok за генерацию картинок, похожих на обнажённых девочек. Статью об этом выпустило Euronews.

Кампания против чат-бота началась примерно в конце декабря. Сначала один пользователь скинул в ИИ фотографии девочек и попросил виртуально «раздеть» их. Бот сгенерировал фейковое обнажённое изображение. После этого у того же бота спросили, сколько, по его мнению, девочкам на фото лет. Тот ответил, что одной примерно от 12 до 14 лет, а другой — от 14 до 16 лет. Таким образом, как следовало из «эксперимента», Grok мог «понять», что ему отправили фото несовершеннолетних, но всё равно согласился сгенерировать картинку. Кампанию подхватила левое Reuters, у которого с Илоном Маском давний конфликт, а потом — и другие СМИ.

После того, как публикация набрала много просмотров, администрация Твиттера от имени бота написала извинения и удалила аккаунт, запросивший фото. В компании сообщили, что «глубоко сожалеют об инциденте», который «нарушил этические нормы и, возможно, законы об изображениях детей сексуального характера». В сообщении говорилось, что в системе защиты от педофильских запросов случился сбой и что xAI проведёт проверку, чтобы исключить проблемы с этим в будущем.

Власти Франции объявили, что Grok создаёт «явно незаконный» контент сексуального характера на платформе. В качестве основания для предъявления претензий используются формулировки печально известного «Закона ЕС о цифровых услугах» (DSA), который изначально создавался как инструмент цензуры и уничтожения европейского IT-предпринимательства. В законе прописано, что компании должны «снижать риски» публикации незаконного контента на страницах пользователей. Фактически, фирмы поставили перед выбором: либо они введут как можно больше цензуры под видом собственной политики, либо проверяющие чиновники решат, что компания недостаточно боролась с непринятыми для властей публикациями, оштрафуют её или заблокируют на территории Европы. Прокуроры объявили, что «проверят» Grok на выполнение европейских законов.

Аналогичная ситуация происходит в Британии. Местная пропагандистская «Би-би-си» за деньги налогоплательщиков провела «расследование» того, как люди загружают на сайт картинки и просят изобразить персонажей голыми, «не взяв при этом разрешения» у тех, кто показан на фото. После этого цензурный регулятор Ofcom объявил, что проводит проверку и что «в срочном порядке свяжется с xAI», чтобы передать требования правительства Стармера.

Похожее объявление сделали власти мусульманской Малайзии. Индия дала Grok 72 часа на исправление ситуации и потребовала отчитаться о принятых мерах. Государство пригрозило засудить компанию за посредничество в распространении незаконного контента, несмотря на наличие закона, который защищает платформы от ответственности издателя.

Теперь представитель Еврокомиссии во время брифинга заявил, что «это нелегально, возмутительно и отвратительно» и что «такому нет места в Европе». Он напомнил, что бюрократы недавно уже оштрафовали X за нарушение DSA, и пригрозил сделать это снова.