Роскомнадзор запустил нейросеть по поиску «пропаганды» ЛГБТ, «экстремизма» и призывов к митингам в интернете

Роскомнадзор запустил систему автоматического поиска контента для блокировки и удаления «Окулус». Она будет просматривать до 200 тысяч материалов в день и позволит «автоматически обнаруживать правонарушения» для последующей блокировки. Об этом «Ведомостям» заявил сотрудник подведомственного Роскомнадзору Главного радиочастотного центра (ФГУП ГРЧЦ).

Сообщается, что ранее сотрудники регулятора просматривали изображения «преимущественно вручную». В 2021 году выяснилось, что власти хотят оптимизировать этот процесс. Изначально проект оценили в 15 миллионов рублей, но позже его стоимость выросла до 57,7 миллионов. Как говорят специалисты, общая цена «комплекса решений», которые позволяют «эффективно находить и блокировать» запрещённый контент достигает 1,5 миллиардов.

Отмечается, что система будет анализировать не только фото, но и видео. «Окулус» позволит Роскомнадзору искать и блокировать «экстремизм», призывы к «массовым незаконным мероприятиям», «пронаркотические» материалы и даже «пропаганду ЛГБТ». В подписанном ранее Путиным пакете законопроектов определения ей так и не дали.

«Информационная система “Окулус” уже запущена и выполняет возложенные на неё задачи в полном объеме <..> Система распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах. “Окулус” автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ и другое», — рассказали в ФГУП ГРЧЦ.

В издании отметили, что «подробностей» о проведённом ранее тестировании и «первые итоги работы» системы сотрудник предприятия не привёл. Известно, что система может анализировать «более 200 000 изображений в сутки». Неизвестно, входят ли в это число видео. Тем не менее, нейросеть позволит «автоматизировать и значительно ускорить мониторинг визуального контента».

В  ФГУП ГРЧЦ рассказали, что к 2025 году планируется добавить несколько новых функций. В частности, в системе появятся «новые классы и типы нарушений», а также «функции определения поз людей и их действий». Какие именно материалы требуют от Роскомнадзора анализировать чьи-либо позы не сообщается.

Отмечается, что в будущем правонарушения будут искать даже «нескольких кадрах видеофрагментов, в сложных рукописных текстах и рисованном контенте». Другие подробности грядущих обновлений пока неизвестны.

Необходимость внедрения инициативы предприятие оправдывает «агрессивно растущим потоком подобных материалов в интернете», в особенности «с тематикой военной операции» (войны с Украиной). Там заявляют, что в сети появляется «невиданные ранее объемы распространения фейков, которые направлены на подмену реальных фактов специально сконструированной “реальностью”».

Представитель ГРЧЦ также заявил о «лавинообразном росте вбросов по всем видам запрещенной информации». Он подчеркнул, что такие публикации собираются «находить и блокировать» до широкого распространения «в онлайн-пространстве, особенно среди детей и молодёжи».

Ранее за внедрение такого проекта выступала гендиректор Лиги безопасного интернета Екатерина Мизулина.  По её словам «системы искусственного интеллекта» для поиска и блокировки материалов в интернете «очень нужны».

В компании «Социальная лаборатория» опасаются рисков, связанных с «ложным срабатыванием», при котором система будет помечать даже не противоречащий законам контент. Глава фирмы Наталия Тылевич говорит, что опасения касаются не только «самого решения», но и «дальнейшей работы с полученными в результате его работы данными».

«Вопрос интерпретации и настроек будет определять масштаб таких погрешностей, как будет классифицироваться спорный контент — считать ли его запрещенным или нет. Но так или иначе это будут риски не столько самого решения, сколько риски уже дальнейшей работы с полученными в результате его работы данными», — поделилась она.

В ноябре белорусские хакеры взломали ФГУП ГРЧЦ, а также опубликовали скриншоты внутренней переписки сотрудников центра и интерфейс одного из использующихся сервисов. Позже учетки с серверов предприятия попали в СМИ, которые уже несколько недель публикуют свои расследования. Например, оказалось, что Роскомназдор создаёт фабрику ботов и составляет тайные досье на независимых журналистов. Также выяснилось, что ведомство создало специальный массив оскорблений вроде «ебаный»,«охуеть» и «пидор», которые нельзя использовать рядом с именем Владимира Путина.