В Минцифры приказали проверять российские ИИ-модели на соответствие «традиционным духовно-нравственным ценностям» — «Ведомости»

Искусственный интеллект, разрабатываемый российскими компаниями, начнут проверять на соответствие «традиционным духовно-нравственным ценностям». Об этом со ссылкой на источники сообщили «Ведомости».

Разработчикам предстоит передавать свои модели в специальную испытательную лабораторию вместе с сопроводительной документацией, содержащей описание архитектуры системы, сведениями о применяемых механизмах фильтрации контента и другой технической информацией. Чиновники будут изучать, как нейросеть формирует ответы на различные запросы, а также попытаются найти способы обойти встроенные ограничения. По итогам такой проверки будет выноситься заключение о том, соответствует ли модель заявленным ценностным критериям.

Если оценка окажется положительной, разработчик сможет претендовать на присвоение ИИ-модели статуса «национальной» или «суверенной». Такой статус, как отмечают источники издания, откроет перед компанией дополнительные возможности, в частности, право участвовать в государственных закупках и в реализации крупных IT-проектов. Кроме того, «суверенным» моделям обещан доступ к данным государственных информационных систем.

Собеседники «Ведомостей» также рассказали, что представители IT-отрасли смогли согласовать с властями важное условие, п именно требование проводить экспертизу не единственной уполномоченная структура, а сразу несколькими испытательными лабораториями. Это, по замыслу участников рынка, должно снизить риски монополизации процесса проверки.

Как уточнил изданию представитель Министерства цифрового развития, при тестировании ИИ-систем лаборатории будут опираться на уже существующие разработки крупных российских компаний. Речь идёт об инструментах, которые эти компании создали ранее для ограничения запрещённых или нежелательных запросов пользователей к нейросетям.

Подробности о сроках запуска новой системы проверки и о том, какие именно организации получат право проводить такую экспертизу, пока не уточняются.