Сотрудники ИИ-отдела Google потребовали от компании не сотрудничать с военными. Фирма заявляет, что предоставляет услуги только для гражданских целей — TIME

Почти 200 сотрудников подразделения Google по работе с ИИ DeepMind подписали письмо с призывом расторгнуть контракты с военными организациями — сообщает TIME со ссылкой на закрытую копию и свои источники. Сотрудники опасаются, что модели компании продадут военным, что должно считаться нарушением внутренних правил Google.

Подписи под обращение поставило всего 5% от общей численности персонала отдела DeepMind. Формально, сотрудники отправили его своему руководству 16 мая этого года. Согласно тексту, работники техногиганта «обеспокоены недавними сообщениями о контрактах Google с военными организациями». Авторы подчеркнули, что это письмо «не касается геополитики какого-либо конкретного конфликта». Тем не менее, в части с объяснением сотрудники сослались на материал, согласно которому мощности Google использовались ЦАХАЛ в рамках так называемого Project Nimbus. 

В обращении работники заявляют, что любое участие корпорации в военном деле и производстве оружия «влияет на нашу позицию лидеров в области этичного и ответственного ИИ и противоречит нашему заявлению о миссии и заявленным принципам ИИ». Важно подчеркнуть, что ранее фирма обязалась не разрабатывать нейросети, которые могут способствовать созданию оружия или других технологий, «основной целью или реализацией» которых станет нанесение вреда. 

«Письмо стало признаком растущего спора внутри Google между по крайней мере некоторыми сотрудниками подразделения ИИ, которые пообещали никогда не работать над военными технологиями, и его облачным бизнесом, который имеет контракты на продажу сервисов Google, включая ИИ, разработанный в DeepMind, нескольким правительствам и военным, включая Израиль и США», — пишет TIME.

В разговоре с журналистами представитель Google сказал, что при разработке технологий ИИ и предоставлении их клиентам компания «соблюдает свои принципы ИИ, в которых излагается наша приверженность ответственной разработке технологий». В компании настаивают, что Nimbus используется израильским правительством исключительно для «рабочих нагрузок, подпадающих под Политику приемлемого использования». Согласно контракту, технологии не могут использоваться для вычислений «высокочувствительных, секретных, военных, оружейных или разведывательных» вычислений.

Помимо прочего, обеспокоенные сотрудники требуют от руководства создания очередного органа по этичному и «ответственному использованию технологии DeepMind военными клиентами в будущем». С мая прошло свыше трёх месяцев; за это время руководство ничего не сообщило о планах реорганизовать работу.

Ранее британские и палестинские СМИ заявили, что ЦАХАЛ начал использовать ИИ для ударов по ХАМАС.  В процессе анализа Израиль использует сразу несколько видов разведданных, включая информацию от разведчиков и шпионов, географические измерения и снимки со спутников спецподразделения. Помимо прочего, разработанные технологии автоматически обнаруживают изменения в ландшафте, что, как говорят военные, позволяет обнаруживать позиции и поражать их.