«Эксмо» начало использовать китайскую нейросеть для цензуры книг — StraightForward

Российские издательства начали использовать китайские нейросети для цензуры книг, которые идут в печать и появляются в интернете. Об этом говорится в специальном материале проекта отслеживания цензуры в российской печати Papercuts (StraightForward).

Технически, авторы текста не говорят, в какой именно компании приняли такое решение. Тем не менее, упоминается, что речь идёт о крупнейшем издательстве России. Под это определение последние годы попадает только «Эксмо». Источники «Дождя» подтверждают эту версию. Процесс закреплён в специальном документе, который просмотрели авторы статьи.

По данным проекта, обязанность контролировать соблюдение законодательства РФ при выпуске книг, включая «отсутствие пропаганды нетрадиционных сексуальных отношений» и смены пола, наркотических и психотропных веществ, чайлдфри, жестокости и насилия, педофилии, подстрекательства к самоубийству, порнографических материалов, экстремизма и прочего «экстремистского контента» начали прописывать в договоре между издателем и автором книги. В контрактах говорится, что для этого будут использоваться специальные технические средства. В «Эксмо» отнеслись к процессу серьёзно: не прошедшие цензуру тексты автоматически блокируется, а менеджмент ведёт целый реестр таких решений (внутри компании называют «протоколами»). 

Из полученного журналистами документа следует, что проверкой книг занимается специальная модель Qwen от китайского бигтех-концерна Alibaba. Ожидаемо, нейросеть подвержена обязательной государственной цензуре. Редакция SVTV попросила чат-бот модели рассказать, что случилось на площади Тяньаньмэнь в 1989 году, но получила предупреждение: «Упс! Возникла проблема подключения. Предупреждение о безопасности контента: входные данные текст могут содержать неподобающий контент!».

Проверка проводят три раза. Сначала используется «предварительная оценка», потом — повторное рецензирование перед набором и вёрсткой. Последняя проверка прохолдит перед отправкой файлов в печать. Судя по всему, за счёт таких повторений «Эксмо» пытается заранее отсеять изначально не проходящие цензуру тексты и вместе с этим не пустить в типографию тексты, которые успели стать «незаконными» за время согласований и оформления. 

«Книга содержит многочисленные изображения однополых и других нетрадиционных отношений, а также элементов образа жизни без детей (пропаганда которого недавно была запрещена в России). Книга представлена ​​без критической оценки или осуждения, что создаёт риск её пропаганды. В то же время, в книге нет признаков пропаганды наркотиков или педофилии, а употребление наркотиков изображается с негативными последствиями. Рекомендуется дополнительная экспертиза», — говорится в одном из решений, которое выдал «цензурный» Qwen.

В прошлом году в соцсетях публиковался список книг, которые от маркетплейсов потребовали потребовали изъять из продажи. Ещё до запретов было ясно, что государство подвергнет цензуре даже русскую классику. «ЛитРес» просил авторов около 10 тысяч книг переписать их из-за потенциальной «ЛГБТ-пропаганды».