Британская ИИ-компания помогала цензурировать активистов и журналистов, а теперь готовится влиять на выборы в США

Компания Logically AI помогла правительству Великобритании подвергнуть цензуре критиков локдаунов и паспортов вакцинации. Как свидетельствуют новые конфиденциальные документы, теперь эту компанию использует американское военное руководство и чиновники, ответственные за проведение выборов.

Брайан Мёрфи, бывший агент ФБР, возглавлявший разведывательное крыло Министерства внутренней безопасности США, прошлым летом размышлял о неудачах Совета по противодействию дезинформации — группы, созданной для активной борьбы с вводящей в заблуждение информацией. Совет был представлен в апреле 2022 года, когда он уже ушёл в отставку из Министерства внутренней безопасности, но спустя несколько месяцев был упразднён администрацией Байдена из-за критики о том, что он станет спонсируемым государством «Министерством правды» по Оруэллу.

В июльском подкасте Мёрфи заявил, что угроза финансируемой государством дезинформации означает, что на исполнительной власти лежит «этическая ответственность» за контроль над социальными сетями. По его словам, американские граждане должны отказаться от «некоторых необходимых и заслуженных свобод, чтобы вернуть себе безопасность».

Юридические проблемы и общественная реакция на действия Совета по борьбе с дезинформацией также продемонстрировали ему, что «правительство должно играть важную роль, но оно не может быть находиться на передовой».

Мёрфи, который в конце правления Трампа попал в газеты из-за неправомерного создания досье на журналистов, последние несколько лет пытался помочь правительству найти способы подавления и цензуры неугодных высказываний, при этом не выходя «на передовую», чтобы это противоречило Конституции. Он предложил правоохранительным и разведывательным органам формализовать процесс обмена информацией с представителями частного сектора («гибридной плеядой», в которую входят пресса, научные круги, исследователи, неполитические организации и социальные сети), чтобы уничтожать кампании по дезинформации ещё до того, как они начнут действовать.

В последнее время Мёрфи работает над воплощением своего видения противодействия дезинформации в жизнь, присоединившись к базирующейся в Великобритании технологической компании Logically.AI, чей одноименный продукт идентифицирует и удаляет контент из социальных сетей. После прихода в компанию Мёрфи встретился с военными и другими правительственными чиновниками в США, многие из которых заключили с компанией контракт или опробовали платформу Logically.

Logically утверждает, что использует искусственный интеллект для отслеживания более миллиона дискуссий. Кроме того, у компании есть публичная редакционная команда, которая занимается созданием вирусного контента и связью с традиционными новостными СМИ. Компания отличается от других игроков в этой отрасли тем, что активно применяет так называемые «контрмеры» для оспаривания или удаления проблемного контента из социальных сетей.

Согласно одному из раскрытых корпоративных документов, компания даже экспериментирует с моделями естественного языка, «чтобы генерировать эффективные ответные высказывания, которые могут быть использованы для разработки новых путей модерации контента и фактчекинга». Другими словами, боты, работающие на базе искусственного интеллекта, в режиме реального времени создают оригинальные аргументы для оспаривания контента, помеченного как дезинформация.

Во многих отношениях компания Logically выполняет ту роль, которую Мёрфи провозгласил для широкого государственно-частного партнёрства по формированию решений о контенте в социальных сетях. Её технология уже стала ключевым игроком в гораздо более масштабном движении, направленном на борьбу с тем, что правительство и другие организации считают вводящей в заблуждение информацией или дезинформацией. Множество новых фактов, включая «Твиттер-файлы», сообщения о вакцине Moderna, предлагаемую правительственную группу по дезинформации и другие сообщения, показали, как правительства и бизнес намерены отслеживать, делегитимизировать, а иногда и цензурировать охраняемую законом свободу слова. История Logically.AI показывает, насколько изощрёнными стали эти усилия и каков их глобальный охват. Использование разработанных этой компанией технологий в Великобритании и Канаде настораживает, поскольку компания стремится укрепить свои позиции и в Соединённых Штатах.

Logically была основана в 2017 году 22-летним британским предпринимателем по имени Лирик Джайн, решившим создать компанию для борьбы с ложью, которая, по его мнению, подтолкнула Великобританию к голосованию в пользу брекзита, то есть выхода из Европейского союза. Некогда небольшой стартап теперь имеет обширные контракты по всей Европе и Индии и тесно сотрудничает с Microsoft, Google, PwC, TikTok и другими крупными компаниями. Meta заключила контракт с Logically, чтобы содействовать компании в проверке контента на всех её платформах: в WhatsApp, Instagram и Facebook.

Тесные связи с Кремниевой долиной обеспечивают необычный охват. «Когда Logically оценивает контент как ложный, Facebook значительно сокращает его распространение, чтобы его увидело меньше людей, ставит предупреждающую надпись, чтобы показать, что контент был оценен как ложный, и уведомляет об этом пользователей, которые пытаются поделиться им», — заявили Meta и Logically в пресс-релизе о сотрудничестве 2021 года.

Meta и Logically не ответили на неоднократные запросы о комментарии.

В рекламных материалах компании, разосланных клиентам, говорится, что во время местных выборов 2021 года в Великобритании Logically отследила до «миллиона единиц вредоносного контента», часть которого она передала чиновникам. Компания утверждала, что обнаружила скоординированную деятельность по манипулированию нарративами вокруг выборов, о чём сообщила технологическим гигантам для удаления информации.

В следующем году штат Орегон заключил с Logically соглашение о широкомасштабных усилиях по мониторингу связанного с предвыборной кампанией контента во время промежуточных выборов 2022 года. В отцензурированном предложении по проекту Logically отметила, что будет сверять заявления со своей «единой базой правдивых данных», которая опирается на правительственные данные. Она также будет бороться с «вредной информацией» — специальным термином, обозначающим достоверную информацию, которая подпитывает опасные нарративы. Компания также убедила штат Орегон в своей способности оказывать давление на социальные сети с целью удаления контента.

Конгрессмен-республиканец от штата Орегон Эд Дил возглавил борьбу против того, чтобы штат возобновил сотрудничество с Logically для проведения выборов в этом году. Как он сказал в интервью, компания нарушает «наши конституционные права на свободу слова и неприкосновенность частной жизни», «отмечая правдивую информацию как ложную, утверждая, что законное инакомыслие представляет угрозу, а затем продвигая „контрнарративы“ для борьбы с реальными формами общественных дискуссий».

В ответ офис государственного секретаря штата Орегон, который инициировал заключение контракта с Logically, заявил, что «не имеет ни полномочий, ни возможностей, ни желания цензурировать высказывания». Дил это оспаривает. Он указал, что в первоначальном предложении Logically чётко сказано, что её сервис «даёт возможность неограниченного количества попыток удаления» предположительно дезинформационного контента, а офис секретаря штата Орегон может «помечать для удаления» любые «проблемные нарративы и контент». В тексте контракта компания Logically названа «доверенным лицом в сообществе социальных сетей», что даёт ей «привилегированный статус, который позволяет в любой момент поддержать потребности нашего клиента».

Дил поделился со мной копией контракта с Logically и назвал эту проблему жизненно важной борьбой за «гражданские права». Он отметил, что, по иронии судьбы, работа государства по подавлению дезинформации ещё больше усиливает недоверие к «избирательным системам и правительственным учреждениям в целом».

Охват Logically на американском рынке быстро расширяется. В соответствии с конфиденциальным предложением, компания разработала для полицейского департамента Чикаго пилотную программу по использованию искусственного интеллекта для анализа местной рэп-музыки и прогнозирования насилия в обществе. Согласно документам Пентагона, компания выступает субподрядчиком программы элитного Командования специальных операций армии США по работам, проводимым в 2022 и 2023 годах. Получая финансирование от Министерства внутренней безопасности США, Logically также проводит исследования в области геймерской культуры и радикализации.

В своих заявлениях по вопросам этики компания утверждает, что не будет нанимать людей, которые занимают «оплачиваемую или заметную должность» в правительстве. Однако документы свидетельствуют о глубоко укоренившемся влиянии государства. Так, Кевина Гросса, директора подразделения Командования авиационных систем ВМС США, ранее внедрили в команду Logically в рамках [стипендиальной программы](https://www.documentcloud.org/documents/24375778-percy-hobart-fellowship 2022 года. Программа обмена поддерживала усилия Logically по оказанию помощи НАТО в анализе российских социальных сетей.

Другие контракты в США могут быть засекречены. Logically сотрудничает с ThunderCat Technologies, фирмой-генподрядчиком, которая помогает технологическим компаниям в борьбе за государственные заказы. В прошлом подобные договорённости помогали технологическим гигантам скрывать свою секретную деятельность. Ранее компания Google пыталась утаить свои контракты с Министерством обороны по созданию беспилотных летательных аппаратов с искусственным интеллектом с помощью аналогичного стороннего «поставщика контрактов».

Однако по мере того, как компания внедряется в жизнь американцев, возникают вопросы о методах и масштабах её деятельности, особенно учитывая, что Logically собирается сыграть заметную роль в президентских выборах 2024 года.

Контроль пандемии

В марте 2020 года, когда Великобритания столкнулась с распространением вируса COVID-19, правительство созвало новую целевую группу — Подразделение по борьбе с дезинформацией (CDU). Секретная целевая группа была создана без лишней шумихи, но продвигалась как мера общественного здравоохранения для защиты от опасной дезинформации. Кэролайн Дайнейдж, член парламента, курирующая вопросы СМИ, позже объяснила, что целью подразделения было предоставление авторитетных источников информации и «принятие мер по устранению дезинформации», связанной с «вводящими в заблуждение нарративами о COVID-19».

Позднее выяснилось, что CDU в значительной степени передало свою работу частным подрядчикам, таким как Logically. В январе 2021 года компания получила первый контракт от курирующего CDU агентства размером 400 000 фунтов на мониторинг «потенциально вредной дезинформации в сети». Позднее контракты стали приумножаться: британское агентство, занимающееся вопросами СМИ, в итоге предоставило контракты на сумму 1,2 миллиона фунтов стерлингов, а Министерство здравоохранения — ещё на 1,3 миллиона фунтов. Всего стоимость контрактов составила около 3,2 миллиона долларов.

Эти деньги пошли на широкомасштабную слежку за журналистами, активистами и парламентариями, критикующими политику борьбы с пандемией. Согласно прошлогоднему расследованию, опубликованному в газете Telegraph, компания Logically фиксировала в своих отчётах комментарии критиковавшей паспорта вакцинации активистки Силки Карло с пометкой «искажённая информация/дезинформация».

В отчётах Logically также была собрана информация о докторе Александре де Фигейреду, научном сотруднике Лондонской школы гигиены и тропической медицины. Фигейреду публиковал доклады о том, как паспорта вакцинации могут подорвать доверие к вакцинам, и публично критиковал политику массовой вакцинации детей. Несмотря на его компетентность, Logically добавила его твит в отчёт о дезинформации для правительства. Некоторые из этих отчётов классифицировали как свидетельства нарушения условий предоставления услуг, но на самом деле многие из них были обычным несогласием со стороны видных британских деятелей в сфере политики, которая горячо оспаривалась экспертами.

Позже подготовившая подробный доклад о слежке наблюдательная группа Карло Big Brother Watch обнаружила документы, описывающие роль компании Logically. Доклады CDU в частности затрагивали деятельность бывшего судьи, который выступал против принудительных локдаунов как проявлений нарушения гражданских свобод, и работу журналистов, критикующих коррупцию в правительстве. Некоторые из документов о слежке свидетельствуют о том, что подразделение не справлялось с поставленными задачами, так как, согласно электронным письмам о мониторинге СМИ, организация переключилась на антивоенные группы, которые выступали против политики НАТО.

Карло была удивлена, обнаружив своё имя в постах, которые тщательно отслеживались и помечались компанией Logically. «Мы обнаружили, что компания использует миллионы постов в Интернете, чтобы отслеживать, записывать и помечать политическое несогласие в сети для центрального правительства под лозунгом борьбы с „дезинформацией“», — отметила она в своем заявлении.

Маркетинговые материалы, опубликованные компанией Logically, свидетельствуют о том, что её видение COVID-19 вышло далеко за рамки фактчекинга и превратилось в подавление инакомыслия. В анализе, опубликованном компанией, утверждается, что хэштег #KBF, относящийся к активистской группе Keep Britain Free (Сохраним Великобританию свободной — п. п.), выступающей против закрытия школ и предприятий — это опасный «антиваксерский» нарратив. В нём также утверждалось, что предположение о том, что «вирус был создан в китайской лаборатории» — это одна из «теорий заговора», которая «получила правительственную поддержку» в США. Всё это несмотря на то, что теперь веские доказательства указывают на вероятную утечку вируса из лаборатории Уханьского института вирусологии как на источник пандемии.

Во время пандемии Logically также участвовала в работе, которая размыла границы традиционной деятельности по проверке фактов. В Индии, например, компания активно убеждала пациентов уколоться вакциной. В 2021 году Джайн, основатель и генеральный директор компании, заявил в интервью одному из индийских новостных изданий, что его компания «тесно работает с сообществами, которые сегодня сомневаются в необходимости вакцинации». По его словам, компания нанимает «активистов и проповедников», чтобы формировать мнение местных жителей.

Сомнительный фактчекинг

Согласно правительственным документам, в 2022 году Logically использовала свои технологии в интересах канадских правоохранительных органов для борьбы с Конвоем Свободы, организованным дальнобойщиками для противодействия требованиям, связанным с COVID-19. Команда Logically выдвинула теорию о том, что дальнобойщики «скорее всего, находились под влиянием иностранных неприятелей» — это широко распространенное утверждение, используемое для очернения протестов как неискренних.

Попытка дискредитировать канадские протесты показала перекрывающую мощь многочисленных подразделений Logically. Пока подразделение, занимающееся наблюдением за социальными сетями, передавало отчёты канадскому правительству, редакционная команда работала над тем, чтобы повлиять на мнение через новостные СМИ. Когда Financial Times сообщила о феномене протеста, издание процитировало Мёрфи, бывшего сотрудника ФБР, который теперь работает на Logically, утверждавшего, что дальнобойщики находились под влиянием скоординированных «групп конспирологов» в США и Канаде. Аналогичным образом Vice процитировало Джо Ондрака, руководителя отдела расследований Logically, который сообщил, что Конвой Свободы вызвал ажиотаж среди конспирологов по всему миру. Ни одно из изданий в то время не раскрыло информацию о работе Logically на канадские правоохранительные органы.

Другие мишени Logically быстро отметили, что компания допускает вольности в отношении того, что именно она классифицирует как дезинформацию.

Редактор британского новостного издания Daily Sceptic с уклоном в либертарианство Уилл Джонс рассказал о необычном фактчекинге, проведённом редакцией компании Logically Facts. По словам Джонса, он стал её мишенью из-за того, что указал на то, что по данным за 2022 год 71% пациентов, госпитализированных в связи с COVID-19, были вакцинированы. Фактчекинг Logically признала, что Джонс безошибочно использовал статистику британского Агентства по охране здоровья, но попыталась ослабить его позиции, заявив, что он всё равно вводит пользователей в заблуждение, утверждая, что «вакцины неэффективны».

Но Джонс в своём ответе отметил, что он никогда не приводил этот аргумент и что Logically занимается подменой тезиса. На самом деле в его первоначальном материале речь шла о статье в Guardian, в которой некорректно утверждалось, что «COVID-19 в значительной степени стал болезнью невакцинированных».

Другие фактчекинги Logically странным образом были направлены против Daily Sceptic из-за сообщения в январе 2022 года о новостях по поводу того, что обязательная вакцинация может быть вскоре отменена. Сайт обвинил Daily Sceptic в оспаривании доказательств, лежащих в основе политики вакцинации, и заявил: «Вакцины от COVID-19 доказали свою эффективность в борьбе с пандемией». И всё же в конце того же месяца обязательные требования для медицинских работников были отменены, а в следующем месяце были отменены все другие ограничения, связанные с пандемией, как и сообщала Daily Sceptic.

«Насколько я понимаю, это мошенничество, — сказал основатель Daily Sceptic Тоби Янг о компании Logically. — Группа мошенников предлагает правительству помощь в цензуре любой критики его политики под предлогом того, что они не подавляют инакомыслие — не дай Бог! — а просто „очищают“ социальные сети от искажённой информации, дезинформации и языка ненависти».

Джонс так же пренебрежительно отозвался о компании, которая, по его словам, подвергает сомнению всё, что идёт вразрез с общепринятым мнением. «Консенсус, конечно, устанавливается людьми, которые платят Logically за их услуги, — добавил Джонс. — Компания утверждает, что защищает демократическую дискуссию, предоставляя доступ к „достоверной информации“, но на самом деле ей платят за то, чтобы она по команде тявкала и кусалась всякий раз, когда появляется настоящая неудобная свобода слова».

В некоторых случаях компания Logically заваливала комментариями новостные публикации, чтобы помочь дискредитировать голоса инакомыслящих. В сентябре прошлого года после того, как британские новостные издания опубликовали сообщения об обвинениях в сексуальных домогательствах в адрес комика и интернет-ведущего Рассела Брэнда (одного из откровенных критиков правительственной политики в Великобритании, которого сравнивают с Джо Роганом за его неортодоксальные взгляды и большую аудиторию), в бой бросился сайт по борьбе с дезинформацией.

Брэнд, ярый противник государственной политики борьбы с пандемией, в прошлом был мишенью Logically из-за высказываний против мер США и Великобритании по борьбе со вспышкой вируса, а также за критику новых законов Европейского союза, которые заставляют социальные медиа-платформы удалять контент.

Но сайт начал особенно резко действовать, когда в СМИ появились обвинения в сексуальных домогательствах, ни одно из которых не было доказано в суде. Ондрак, руководитель отдела расследований Logically, дал различные комментарии почти полдюжине новостных изданий, включая Vice, Wired, BBC, а также двум отдельным статьям в The Times, в которых Брэнд изображался как опасный распространитель дезинформации, которого наконец-то привлекли к ответственности.

«Он подписан на многих левых, антикапиталистических деятелей под видом ретритов по оздоровительной йоге, которые очень увлеклись скептицизмом по отношению к коронавирусу, его отрицанием и антиваксерством, а затем выдели теорию „Великой перезагрузки“ с другой стороны», — сказал Ондрак в комментарии Wired. В одной из статей, опубликованных The Times, Ондрак выразил разочарование в связи с проблемами с отключением монетизации Брэнду в стриминговой сети Rumble. В интервью BBC Ондрак выступил с любопытным осуждением, отметив, что Брэнд воздерживается от распространения каких-либо реальных теорий заговора или лжи, но при этом он виновен в том, что даёт аудитории «ингредиенты для самостоятельного изготовления дезинформации».

Дайнейдж, депутат парламента, вместе с Logically возглавлявшая антидезинформационную кампанию CDU во время пандемии, также ринулась в бой. Сразу после скандала она отправила почти одинаковые письма в Rumble, TikTok и Meta с требованием, чтобы эти платформы последовали примеру YouTube и отключили Брэнду монетизацию. Свой официальный запрос о цензурировании Брэнда Дайнейдж объяснила тем, что это часть расследования для обеспечения общественных интересов с целью защиты «благополучия жертв неприличного и потенциально незаконного поведения».

Редакция Logically пошла ещё дальше. В своем отчёте об обвинениях в адрес Брэнда, опубликованном на сайте Logically Facts, она заявила, что аккаунты в социальных сетях, которые «твердят о невиновности комика, пока его вина не доказана» — одни из тех, кто распространяет «популярные мифы о сексуальном насилии». Затем сайт опубликовал видео, в котором вновь утверждается, что те, кто добивается презумпции невиновности для Брэнда (принципа, восходящего к Великой хартии вольностей), распространяют опасный «миф».

Необычная информационная кампания против Брэнда демонстрировала типичный подход компании, которая давно позиционирует себя как «молот для борьбы с распространителями дезинформации». Возможность убрать Брэнда из медиапространства означала, что в его сторону полетит как можно больше заявлений, несмотря на любую явную дезинформацию и искажённую информацию в обвинениях в сексуальном насилии. В нём видели ведущего критика правительственной цензуры и политики по борьбе с пандемией, так что скандал стал слабым местом, которым можно воспользоваться.

Теперь, возможно, американских избирателей ожидает применение такой же неуклюжей тактики. Эта компания стала членом Центра обмена и анализа информации об избирательной инфраструктуре США — группы, управляемой Центром интернет-безопасности, который помогает готовить отчёты о дезинформации от имени избирательных органов по всей стране. Logically ведёт переговоры с Орегоном и другими штатами, а также с Министерством внутренней безопасности США о расширении своей роли в надзоре за социальными сетями в связи с президентскими выборами, которые состоятся в конце этого года.

Однако прошлые жертвы компании предупреждают нас о ней.

«Похоже, что прибыльный и откровенно зловещий бизнес Logically эффективно производил для правительства дезинформацию стоимостью в несколько миллионов фунтов, которая могла сыграть свою роль в цензурировании законных высказываний граждан», — говорит Карло из Big Brother Watch U.K.

«Политики и высокопоставленные чиновники с удовольствием платят этим аферистам миллионы фунтов стерлингов, чтобы те орудовали красными чернилами, говоря себе, что они „защищают“ демократию, а не подрывают её, — говорит Янг из Daily Sceptic. — Это расточительство, которое должно быть вне закона».