Полиция Китая задержала жителя провинции Ганьсу за создание «фейковых» новостей при помощи ChatGPT

Киберполиция округа Конгтонг провинции Ганьсу задержала автора «фейковых новостей» про крушение поезда, который использовал ChatGPT для генерации текстов — передаёт South China Morning Post со ссылкой на сообщение из полиции. Теперь ему грозит до 5 лет лишения свободы.

По версии следствия, местный житель по имени Хун с помощью своей компании разместил на 20 разных аккаунтах в соцсети Baijiahao статью, сгенерировав для каждого случая отдельную версию с помощью ChatGPT. Заявляется, что информация о крушении позде и гибели людей в нём была ложной.  До того, как на публикации обратили внимание силовики, их успело посмотреть более 15 тысяч пользователей. Через десять дней после размещения своих статей полиция обыскала дом Хуна, изъяла у него компьютер и задержала мужчину.

В публикации полиции говорится, что задержанный признался в том, что обходил ограничения Baijiahao на публикацию похожих материалов с помощью ChatGPT, что позволяло ему «быстро создавать разные версии одной и той же фальшивой истории».  В SCMP отмечают, что официально сервис в КНР недоступен, но им всё же могут пользоваться китайцы, у которых есть достаточно продвинутый VPN, способный обойти  «Великий Китайский файрвол» (он же «Золотой щит»).

Департамент общественной безопасности провинции Ганьсу уже заявил, что Хун подозревается в «разжигании ссор и провоцировании ненависти». Отмечается, что с 2013 года тех, кого обвиняют в создании «фейковых» новостей, судят именно по такому обвинению. Теперь автору статей грозит до 5 лет лишения свободы. Если случай признают «особо тяжким», максимальное наказание может удвоиться и достичь 10 лет тюрьмы.

В ноябре прошлого года китайские регуляторы приняли «Правила КНР об администрировании информационных услуг глубокого синтеза в Интернете». Они касаются любых компаний, которые занимаются разработкой «генеративного искусственного интеллекта» (GenAI). Документ вступил в силу 10 января этого года.

Закон вводит понятие «поставщиков услуг» глубокого синтеза. Под ними понимается любая фирма, занимающаяся разработкой решений для создания «дипфейков», текста, музыки и любого другого контента. Помимо прочего, закон обязывает «чётко маркировать» такие публикации в интернете, а также возлагает на программистов ответственность за то, чтобы их ИИ соблюдал все законы Китая.

Нарушителям правил грозит приостановка деятельности и штраф. При этом, в законе прописано, что в случае сопутствующих нарушений те должны преследоваться властями отдельно. Неизвестно, применялись ли положения этого закона (в частности, об обязательной маркировке) при составлении дела против Хуна.

Осенью в Гонконге пятерых логопедов приговорили к 19 месяцам тюрьмы за «промывку мозгов» детскими книгами. В марте этого года двоих жителей региона также арестовали за хранение этих книг. Недавно регулирование финансов в стране передали полностью подконтрольным Коммунистической партии регуляторам.