Илон Маск призвал заморозить обучение мощного ИИ и ввести государственный контроль над разработчиками

Илон Маск и группа экспертов по искусственному интеллекту и руководителей отрасли призвали на шесть месяцев остановить разработку ИИ, более мощных, чем  GPT-4 OpenAI.

Соответствующее письмо с предложением заморозить обучение более продвинутого ИИ до тех пор, пока не будут разработаны и внедрены общие протоколы безопасности для таких программ, было опубликовано некоммерческой организацией Future of Life Institute. Документ подписали более 1000 человек, включая Маска, генерального директора Stability AI Эмада Мостака, исследователей DeepMind, а также учёных Йошуа Бенжио и Стюарта Рассела.

В качестве потенциальных рисков «для общества и человечества» со стороны конкурентоспособных систем искусственного интеллекта в письме выделены экономические и политические потрясения, которые вызовет использование машин в пропаганде и массовой автоматизации рабочих мест. Сам Илон Маск при этом использует искусственный интеллект для разработок автопилота в автомобилях Tesla.

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми», — говорится в письме.

Чтобы предотвратить возникновение кризисов, разработчикам предлагается создать совместно с политиками специальные органы, регулирующие ИИ; установить надзор за высокопроизводительными системами искусственного интеллекта и большими пулами вычислительных мощностей; ввести аудит и сертификацию для разработчиков; финансировать за счёт государства исследования в данной области и так далее.

Ранее сообщалось, что Илон Маск задумался о создании конкурента ChatGPT. В последние недели миллиардер обратился к нескольким исследователям искусственного интеллекта с предложением создать новую исследовательскую лабораторию для разработки альтернативы ChatGPT.

В последние месяцы Маск неоднократно критиковал компанию OpenAI за цензурирование ответов ChatGPT. Создатели чат-бота добивались от искусственного интеллекта приемлемых для них ответов на вопросы о политике с помощью ручных ограничений. По словам Маска, технология OpenAI является примером «ИИ, обученного быть леваком». Его комментарии подразумевают, что конкурирующий чат-бот будет иметь меньше ограничений по спорным темам.