Минцифры разрабатывает программу для выявления дипфейков — «Ведомости»

Минцифры разработает программу по поиску дипфейков в интернете — пишут «Ведомости» со ссылкой на собеседника из ведомства.

По словам представителя Минцифры, сейчас чиновники «обсуждают возможность» создания некой единой платформы, с помощью которой власти смогут выявлять «недостоверный» контент, «в том числе» — созданный нейросетями. 

Сейчас ведомство проводит предварительные научно-исследовательские работы. Неизвестно, когда именно запустят новую платформу. 

Как отмечают журналисты, на данный момент поиском «артефактов» нейросетей на изображениях, видео и аудио занимаются именно люди. Специалисты ищут нелогичные элементы, «муар» рядом с краями объектов, «дрожание, запаздывание речи, склейки, нарушение потоков аудиозаписи и особенности гистограмм». 

При этом бизнес уже предлагает автоматизированные решения для проверки контента на «дипфейки», в частности, при идентификации по документам. Зачастую такие программы сами строятся на нейросетях.

В Центра компетенций НТИ «Технологии доверенного взаимодействия» предлагают «детектировать конкретную технологию», так как они постоянно меняются. Там предполагают, что правительство разработает бота, который будет самостоятельно сканировать страницы на наличие сгенерированных материалов. Тем не менее, как отмечают эксперты, это потребует большой вычислительной мощности. Согласно другой версии, Минцифры опубликует расширение для браузера.

«[Инструмент, который планирует разрабатывать Минцифры, мог бы поставляться в виде плагина в браузере, который будет автоматически сканировать сайты на предмет ИИ-контента] <..> Вопрос интеграции в социальные сети или мессенджеры зависит от готовности их владельцев к внедрению подобного ИИ-регулирования <..> Для мониторинга соцсетей, например Telegram, необходимо будет разрабатывать специальный софт либо получать разрешение и доступ к API той или иной соцсети», — цитируют специалистов в «Ведомостях».

Разработать систему ещё в декабре потребовал глава российского кабмина Михаил Мишустин. В своих поручениях он указал, что в марте этого года Минцифры «вместе с межведомственными рабочими группами» должно было разработать и презентовать «проработку мероприятий по выявлению недостоверных данных, в том числе генерируемых с использованием искусственного интеллекта».

Интерес к «разоблачению» дипфейков ещё до войны демонстрировал и Путин. В 2021 году он прокомментировал разработку программистов из Узбекистана, которые заявили, что могут распознавать подделки с точностью в 99%. В Кремле тогда сказали, что такие разработки «можно эффективно использовать на пользу людям и создавать интересные, красивые, востребованные продукты». По словам Путина, с помощью программ можно «защитить интересы людей, когда их права нарушены с помощью современных технологий». 

«Это говорит о том, что, если думать в правильном, позитивном направлении, то всегда можно найти верное решение, несмотря на все угрозы, связанные с техническим прогрессом. Так было всегда, во все времена, и, слава богу, это происходит и сегодня, благодаря таким девушкам, как вы», — сказал он. 

По данным «Ведомостей», ранее Минцифы и Роскомнадзор уже предлагали наказывать россиян за «незаконное» использование дипфейков. В прошлом году депутат Госдумы Антон Горелкин предложил ввести обязательную маркировку для дипфейков и наказывать за её отсутствие.