Дипфейки сделают номенклатуру сильнее

Искусственный интеллект и будущее американской демократии

Сложно предсказать, как именно ИИ изменит общество, отчасти из-за того, что мы ограничены в своих возможностях предсказывать, как будут выглядеть технологии. Однако мы точно знаем, что дипфейки уже здесь, и со временем они станут лучше и дешевле. В этом клипе, например, Илона Маска используют для рекламы криптовалюты. А в видео ниже демонстрируют, как уже сейчас можно создавать контент, достаточно правдоподобный для того, чтобы выдавать его за оригинал:

 
Всё это наводит на мысль, что, скорее всего, нам уже стоит задуматься о том, как эта конкретная технология ИИ повлияет на нашу политику.

Неудивительно, что повсеместное распространение дипфейков вызвало некую панику по поводу будущего демократии. Что произойдёт, когда злоумышленники смогут создавать аудио и видео, в которых кто угодно говорит что угодно? Не будет преувеличением предположить, что это может привести к падению доверия, росту нигилизма и подрыву общей картины реальности, необходимой для функционирования общества.

Может быть. Но я скорее склонен считать, что дешёвые и убедительные дипфейки будут иметь обратный эффект: они увеличат власть и престиж устоявшихся институтов и дискредитируют большую часть тех, кто представляет угрозу их власти. В то же время новая технология негативно повлияет на впечатлительное меньшинство, то есть на ту же группу людей, которая уже попадается на фейковые новости.

Ошибка, которую люди совершают, предсказывая влияние технологий, состоит в том, что они не учитывают тот факт, что люди приспосабливаются к новым реалиям. Например, когда интернет стал повсеместным, а общество — более технологически подкованным, ворам пришлось становиться изощрённее, чтобы обманывать людей. В ранние дни интернета люди с большей вероятностью верили во всё, что видят онлайн. Некоторые всё ещё попадаются на обман, но население стало в целом гораздо менее наивным в этих вопросах, чем два десятилетия назад. Поэтому я не верю, что убедительные чат-боты заменят реальные отношения (кроме, разве что, самых изолированных и одиноких людей) или в то, что ИИ заменит Голливуд.

Говоря о возможном влиянии дипфейков, можно привести в пример то, как сейчас дела обстоят с текстом. Представьте, что завтра на этом Substack я опубликую интервью с Бараком Обамой, в котором он скажет: «Знаешь, Ричард, многие люди не понимают, что моя администрация опиралась на синтез принципов большевиков и новых левых, но чтобы всё заработало, необходимо было убить очень много реднеков, чего нам, к сожалению, не удалось провернуть». Какой будет ваша реакция? Думаю, вы предположите, что я написал пародию или просто выдумываю, чтобы опозорить Обаму. Может быть, я заставлю его опровергнуть интервью, что увеличит мою известность и влияние.

А теперь представьте, если то же самое выйдет в New York Times. Даже если вы не доверяете этой газете, вы вряд ли предполагаете, что она выдумывает цитаты из воздуха. Я тоже ей не доверяю, но NYT должна поддерживать свой репутационный капитал. Если цитата Обамы исходит от пользователя с ником MAGAMom_1776 в Twitter, вы сразу же от неё отмахнётесь, как и все остальные.

То есть, по большому счёту, мы уже находимся в мире текстовых «дипфейков». Люди решают, чему доверять, опираясь лишь на надёжность источника.

В эру дипфейков люди будут знать о существовании дипфейков, то есть будут с гораздо меньшей вероятностью доверять случайным аудио- и видеозаписям, которые увидят онлайн. Когда вы будете слышать какие-то странные высказывания Байдена, то, верите вы им или нет, будет зависеть от того, опубликовал ли их надёжный репортёр при поддержке уважаемого учреждения. Я, в свою очередь, уже сегодня ловлю себя на том, что без подтверждения со стороны сомневаюсь в ненадёжных Twitter-аккаунтах, публикующих позорные видео своих политических врагов.

А если вы независимый журналист, который по случайности заполучил эксклюзивное аудио того, как мировой лидер планирует переворот? Без возможности подтвердить, что это настоящее аудио, вашу работу проигнорируют.

Престижным журналистам самим придётся быть осторожнее. Раньше кто угодно мог отправить анонимное видео репортёру — и тот публиковал его для всего мира. Теперь, когда существуют правдоподобные дипфейки, крупные новостные издания будут верить только тому, что говорят их знакомые, или тому, что они сами услышали. Официальные кампании и государственные агентства станут более важными источниками информации. Власть независимых журналистов снова понизится. Это произойдёт не только из-за того, что меньше людей сможет доверять их работе, но и потому, что более устоявшиеся издания с меньшей вероятностью будут опираться на нетрадиционные источники информации.

Таким образом, дешёвые и легкодоступные дипфейки приведут к тому, что большинство людей будет придерживаться разумного принципа: «Всё, что я вижу или слышу в интернете, — это фейк, если только оно не исходит от надёжного источника новостей». Это уже стандартный подход в отношении текстов, так что нет причин, по которым он не может применяться также и к аудио и видео.

Заметьте: я сказал, что этого принципа будет придерживаться «большинство» людей. Сегодня многие наши сограждане уже попадаются на «дипфейковые» тексты. Так, например, существует достаточно популярный сайт под названием Real Raw News. Вот так выглядит его главная страница:

Вы, наверное, думаете, что это пародия, но я могу поклясться, что это не так. Вот статья, утверждающая, что военные арестовали Лори Лайтфута, и под ней 1 095 комментариев, что сравнимо с мнениями, публикуемыми NYT, и читатели сайта, кажется, действительно верят в то, что читают.

NYT, CNN и Washington Post, конечно, имеют более крупную аудиторию, но Real Raw News, как и другие сайты с фейковыми новостями, несомненно, имеет влияние среди значительной части населения.

Читатели RRN, как правило, состоят из людей с низким IQ и низким уровнем доверия институтам. Если вам было интересно, почему им так не нравится Десантис, — так потому что это электорат Трампа. При современной поляризации образования фейковые новости обычно становятся проблемой правых. Либералы, конечно, могут покупаться на ложные нарративы, но обычно они глупы в том смысле, в котором глупы умные или, по крайней мере, умеренно умные люди, то есть просто-напросто ослеплены своей идеологией.

У глупых людей же, напротив, нет инструментов для того, чтобы отличать реальные события от того, что они нашли на National Enquirer, или истории о том, как Фаучи казнили в Гуантанамо. И поэтому сторонников QAnon и отрицающих результатов выборов людей можно в огромном количестве обнаружить среди сторонников республиканцев или, если быть точными, среди сторонников Трампа. Люди с низким IQ могут избежать ловушки фейковых новостей, просто доверившись институтам, и поэтому глупые люди Демократической коалиции не создают свои эквиваленты таких изданий, как RRN.

Всё это означает, что проблема фейковых новостей среди правых, скорее всего, станет только хуже. Либералы станут сильнее доверять ведущим СМИ и другим устоявшимся институтам. То же самое произойдёт с умными консерваторами, которые станут придерживаться более надёжных источников новостей для получения фактов, при этом придерживаясь своих трайбалистских и идеологических обязательств.

Но значительная часть республиканского электората будет распространять дипфейки о том, как Трамп сражается с инопланетянами и сажает педофилов, и это станет реальностью. С точки зрения выборов это пойдёт на пользу левым, поскольку большинство людей не попадает под категорию одновременно низкого IQ и низкого уровня доверия, точно так же, как сейчас обычный нормис верит CBS, а не RRN.

Умным консерваторам придётся передавать послания своему RRN-электорату посредством закодированных «собачьих свистков» или другими подобными способами, как они уже делают с теми, кто видит в коронавирусной вакцинации мировой заговор. В некоторых случаях люди с комбинацией низкого IQ и низкого доверия попадают на важные должности. Мы уже видим законодателей и крупных правых инфлюенсеров, которые хвалят фильм «Умерли внезапно», настолько же фейковый, как и всё, что можно найти на RRN.

Выборы 2022 года показали, что происходит, когда республиканцы слишком увлекаются RRN-электоратом. Даже если позиция о том, что выборы 2020 года были украдены, не имеет значения для большинства избирателей, ложный нарратив отрицания результатов выборов активизировал крайне непривлекательный тип политиков. Так, республиканцы проиграли в Мичигане, а потом развернулись и сделали своего психически нестабильного неудавшегося кандидата на пост государственного секретаря новым председателем партии в штате. Она умудряется совмещать отталкивающую агрессивность, обычно присущую демократическому городскому электорату, с крайне непопулярными консервативными взглядами на аборты.

Нехватка коррекции курса среди республиканцев — ещё один результат того, что партия ориентируется на людей с низким IQ и принимает их в члены. Редко когда в развитых западных демократиях можно увидеть крупную партию, настолько лишённую класса интеллектуальных лидеров, и это означает, что мы не можем предсказать, насколько плохо всё будет. Это порочный круг, поскольку глупость ведёт к принятию плохих решений, которые ещё сильнее отталкивают умных людей, понижая, таким образом, средний IQ партии. Дипфейки усугубят эту проблему.

Можно ожидать, что читатели RRN станут всё сильнее радикализироваться. Сейчас они просто читают фейковые новости о педофилах-сатанистах или внезапно умирающих после вакцинации людях. Просмотр видео обо всём этом доведёт многих из них до крайности. Вполне вероятен рост случайного терроризма, хотя это лишь послужит дальнейшему отчуждению читателей RRN от общества и приведёт к росту доверия ведущим СМИ и победам демократов.

Умные консерваторы могут попытаться отвлечь этих людей, создавая для них альтернативную реальность, в которой они смогут нанести меньше вреда. Например, делать дипфейки с Трампом, объясняющим своим последователям, как не стоит голосовать на республиканских праймериз и почему им вообще лучше держаться подальше от электоральной политики.

Можно даже сказать им, что не надо больше уделять внимание новостям, потому что Трампа провозгласили пожизненным президентом, и даже если настоящий Трамп встанет и скажет, что этого не было и что им всё ещё надо жертвовать ему деньги и голосовать за него, читатели RRN, возможно, не смогут выяснить, который Трамп — голограмма.

Некоторые последуют за настоящим Трампом, другие — за его ИИ-версией, но, по крайней мере, можно надеяться на разделение движения. Они, кажется, крайне увлечены Кеннеди-младшим, так что, возможно, он сможет отвлекать сторонников Q с помощью захватывающих байопиков с мёртвыми знаменитостями из их молодости.

Но, скорее всего, этого не будет. Консерваторы, которые должны знать лучше, показали, что они более склонны подчиняться демографии RRN, чем противостоять ей, и такое правление толпы в правой политической среде, вероятно, будет продолжаться.

Поэтому наиболее вероятным результатом повсеместного распространения фейков будет повышение доверия к ведущим СМИ и устоявшимся институтам, ускорение поляризации образования, дальнейшая помешанность на QAnon правых и, в конечном итоге, увеличение количества побед демократов.