США и Китай пообещали отказаться от использования ИИ в оружии — SCMP

Джо Байден и Си Цзиньпин планируют объявить о запрете на разработку оружия с искусственным интеллектом — сообщает South China Morning Post со ссылкой на источники. 

По словам собеседников издания, опасность ИИ станет «основным предметом дискуссий» во время переговоров между главами Белого дома и КПК, которые пройдут во время саммита Азиатско-Тихоокеанского экономического сотрудничества. Встреча Джо Байдена и Си Цзиньпина должна пройти в ближайшую среду. 

Как отмечают в SCMP, обе стороны ранее уже делали заявления об опасности применения ИИ в оружии. Так, зимой и Пекин, и Вашингтон присоединились к «призыву» к ответственному использованию искусственного интеллекта в армейских технологиях. Заявление было результатом первого международного саммита по военному ИИ, который проходил в Гааге по инициативе Нидерландов и Южной Кореи. Декларацию подписало более 60 государств: важно отметить, что она ни к чему не обязывает участников

В начале ноября США опубликовали свою «Политическую декларацию об ответственном военном использовании искусственного интеллекта и автономии», которая призывает государства соблюдать «строгие и прозрачные нормы» в области оборонного применения нейросетей и «продолжать дискуссии» о разработке оружия с таким ПО. В документе подчёркивается, что армии могут разрабатывать оружие с ИИ для «оборонных» целей.

«ИИ преобразует вооруженные силы — от управления логистикой до того, как они обучаются и действуют <..> Использование ИИ должно осуществляться с осторожностью и принципиальным подходом, чтобы избежать непредсказуемых и негативных последствий. Государства также должны развивать ИИ в соответствии со своими существующими международно-правовыми обязательствами, включая международное гуманитарное право», — заявили в Госдепе.

В прошлом году Си Цзиньпин также пообещал «способствовать единому и целенаправленному росту стратегических развивающихся отраслей», уделяя особое внимание искусственному интеллекту. Ни одна из сторон не вдаётся в подробности о том, какие именно системы с ИИ она развивает.

Одно из направлений использования ИИ в разработке оружия — «Смертоносные автономные системы вооружений» (САС, они же — «роботы убийцы»). Недавно Россия отказалась поддержать резолюцию ООН по «роботам-убийцам», так как в тексте недостаточно много внимания уделили пользе от применения нейросетей в вооружении.