Вуз в Перми отчитался о разработке программы для поиска «экстремизма» и «терроризма» в соцсетях
Институт компьютерных наук и технологий Пермского государственного национального исследовательского университета (ПГНИУ) похвастался разработкой нейросети, которая позволит силовикам искать «экстремистов» в реальном времени. Об этом говорится на портале вуза.
Модель разработал местный математик доцент ПГНИУ Андрей Рабчевский. Согласно официальному сайту вуза, модель позволяет «идентифицировать наиболее влиятельных пользователей» соцсетей, которые распространяют «информацию экстремистского характера». Автор говорит, что разработал датасет, «выявляющий роли пользователей социальных сетей, вовлечённых в деструктивные социальные явления». Поиском экстремистов будет заниматься система SEUS от «Сеуслаб». Она занимается автоматическим «мониторингом» соцсетей по ключевым словам в интересах силовиков. Она также позволяет искать профили по заданным параметрам, даже обрывочным.
В интервью для «Известий» Рабчевский сказал, что его модели универсальны и могут использоваться для выявления «потенциально опасных» пользователей не только по экстремистских, но и террористических дел. Он утверждает, что может найти в соцсетях преступников, которые изготавливают взрывчатку или готовятся устроить скулшутинг.
В целом, исходя из описания того, как работает «инновация», можно сделать вывод, что доцент не придумал ничего нового. Исследование на эту тему публикуются с 2000-х. Он сам утверждает, что его программа ищет популярные инфоповоды, чтобы затем обнаружить аномальное поведение в соцсетях. Этим уже давно занимаются PR-агентства и организации по поиску ботов в соцсетях. Также оператор может сам задать ключевые слова, по которым проходит поиск. Как именно обсуждение новостей связано с подрывниками и настоящими террористами, а не теми, кто просто выражает своё мнение в интернете, Рабчевский умалчивает.
«Система работает просто. Она постоянно отслеживает и выявляет инфоповоды, которые потом классифицируются по разделам — например, терроризм, политика, бизнес и так далее. Затем смотрит, как они наполняются публикациями. И те инфоповоды, в которых появляется экстремальная активность, мы проверяем на признаки информационной атаки. Мы выявляем, кто вовлечен в эту атаку, какую роль играет, в какую атакующую структуру входит, каких целей пытается достичь. А затем уже принимаем решение о мерах противодействия», — цитируют слова «учёного» в «Известиях».
В прошлом году в России разработали нейросеть «Товарищ майор» для деанонимизации владельцев Telegram-каналов. Роскомнадзор объявил о запуске системы поиска «потенциальных точек напряжённости» в интернете «Вепрь». Известно, что ведомство закупает бот-фермы для поиска подцензурной информации.