Премьер Албании анонсировал беременность ИИ-министра 83 детьми

Включённая в качестве министра в правительство Албании нейросеть «беременна» 83 чат-ботами для парламентариев от левой правящей партии PSSh. Об этом во время «Берлинского глобального диалога» объявил премьер-министр страны Эди Рама.

С января в правительство назначили женщину-«министра» по вопросам искусственного интеллекта по имени Диелла (Diellë). Её официальная задача в кабмине — повышение доступности государственных услуг для граждан, полная оцифровка документов и государственных процессов, а также интеграция ИИ в наиболее важные секторы в стране.

Формально, её разработкой занимается оператор государственных систем AKSHI. Насколько известно, модель для ИИ-министра предоставила разработчик ChatGPT компания OpenAI, а находится она на серверах Microsoft Azure (официальных документов об этом нет, хотя премьер косвенно подтверждал сотрудничество). Изначально она была просто чат-ботом на государственном сайте e-Albania. Сейчас работает улучшенная модель Diella 2.0. Примечательно, что, согласно официальному сайту, Диелла «родилась» 19 января, то есть сейчас ей десять месяцев. Правительство называет её «смелым шагом Албании на пути к институционализации передовых технологий, позиционируя страну в авангарде инноваций в регионе и за его пределами». 

Как пишут чиновники, к сентябрю она «зарегистрировала 972 тысячи взаимодействий»., Под 36 тысячами выпущенных на платформе документов стоит её цифровая подпись. Остаётся непонятным, кто будет нести ответственность, если ИИ-министр «подпишет» документ, нарушающий законодательство.  

Чиновники не скрывают, что внедряют «хайповые» технологии, чтобы Албанию быстрее взяли в ЕС. Примечательно, что две недели назад официальный Институт исследований безопасности Европейского союза (EUISS) косвенно раскритиковал проект нового «министра». Аналитики центра считают, что Диелла имеет несколько проблем: от риска легитимности, так как до сих пор остаётся непонятным, какой именно человек контролирует работу модели, до зависимости от американских технологий в ситуации, когда Трамп может заставить OpenAI и Microsoft отказаться от поддержки проекта. Как пишут в EUISS, взаимодействие с моделями из США грозит усилением зависимости, которую ЕС пытается сократить, и «ставит под сомнение, способствует ли такая зависимость вступлению в ЕС или затрудняет его». Отдельно аналитики жаловались на проблемы с кибербезопасностью, в том числе потому, что у программы имеется доступ к персональным данным албанцев.

«Скептицизм также может усилиться из-за рисков кибербезопасности, связанных с использованием Диеллы. Назначив Диеллу полноправным министром, албанское правительство повысило свою заметность и, следовательно, вероятность привлечения внимания потенциальных злоумышленников. Несмотря на ограниченную автономию и преимущественно символическое и имиджевое предназначение, Диелла действительно представляет собой ценную цель. Она будет обрабатывать конфиденциальные персональные и правительственные данные. Это может побудить злоумышленников использовать виртуального помощника в качестве точки входа в правительственные системы через внутренние API или попытаться получить прямой доступ к данным посредством социальной инженерии, оперативного внедрения или скомпрометированных учётных данных», — говорится в обзоре центра.

Теперь Эди Рама объявил, что Диелла «беременна». После «рождения» в государстве появится 83 чат-бота-«ребёнка», которые будут обслуживать интересы депутатов правящей партии социалистов PSSh. Сообщается, что боты будут участвовать в парламентских заседаниях, «следить за всем происходящим и давать советы членам парламента». В частности, они будут составлять краткое содержание дискуссии. Как подчёркивает премьер, «дети будут знать свою мать». Из объявления следует, что оппозиция чат-ботов за деньги налогоплательщиков не получит.