Почему науки о «дезинформации» не может существовать

Явные случаи дезинформации редки и в основном являются симптомами других проблем. Более тонкие её формы широко распространены и вредны, но не подходят для научного изучения.

Краткое изложение

Чтобы ответить на возражения о том, что современные опасения по поводу дезинформации — лишь моральная паника, исследователи расширили сферу своего внимания, включив в неё правдивый, но вводящий в заблуждение контент. Но никакой науки о вводящем в заблуждение контенте быть не может. Он слишком многообразен и широко распространен, а суждения о введении в заблуждение слишком субъективны.

Появление исследований дезинформации

Согласно распространённому нарративу, демократические общества страдают от дезинформации, которая заставляет общество соглашаться с вымыслами о фальсификации выборов, заговорах, изменении климата, вакцинах и многом другом. Учитывая опасность таких вымыслов, дезинформация угрожает демократии, социальной гармонии, окружающей среде и здоровью населения. Как недавно заявил Джо Байден, она буквально «убивает людей».

Этот нарратив впервые приобрёл популярность в 2016 году после брекзита и избрания Дональда Трампа. Он дал начало современному направлению изучения дезинформации, которое исследует природу и причины дезинформации и разрабатывает меры по ограничению её вреда.

Это направление оказалось чрезвычайно влиятельным как в научном, так и в политическом плане. Оно привлекает крупные гранты. Оно стимулирует постоянный поток публикаций в элитных научных журналах. А с его исследователями в рамках усилий по борьбе с дезинформацией консультируются правительства, международные организации и корпорации (Google, Meta и другие).

Может ли существовать наука о дезинформации?

Влияние исследований дезинформации обусловлено его репутацией научного направления, в котором работают эксперты, приходящие к научным результатам. Например, исследователи иногда с точностью до нескольких знаков после запятой измеряют количество людей, подвергшихся воздействию дезинформации; они выдвигают обобщения о дезинформации (например, что у неё есть свои «характерные отпечатки») и «восприимчивости» людей к ней (например, что консерваторы более восприимчивы к дезинформации, чем либералы); и они количественно оценивают эффект от мероприятий, направленных на борьбу с дезинформацией.

Чтобы разобраться во всём этом, нужно знать, что такое дезинформация, — то есть как определить это понятие. Влиятельный исследователь дезинформации Джоан Донован в 2021 году утверждала, что дать такое определение очень просто: «Дезинформация, — сказала она журналисту, — это просто „распространяемая ложная информация“».

Это общепринятое определение. Мягко говоря, оно означает что-то вроде «явно ложная информация». Существует множество ложных утверждений, которые никто не в состоянии развенчать, потому что выяснить истину трудно, а доказательств не хватает. Однако есть некоторые утверждения («Вакцины вызывают аутизм», «Изменение климата — это мистификация», «Президентские выборы 2020 года в США были недействительными в связи с масштабными фальсификациями на выборах») и так далее, которые можно развенчать с очень высокой степенью достоверности и уверенности.

У такого узкого определения есть очевидные преимущества. Несмотря на то, что неизбежно будут встречаться пограничные случаи и ошибки, явно ложный контент относительно легко выявляют как эксперты, так и алгоритмы. Более того, поскольку примеры дезинформации настолько очевидны, исследователи дезинформации могут избежать обвинений в предвзятости и перегибах.

Моральная паника

Тем не менее, такое узкое определение также приводит к проблеме: по крайней мере, в западных демократиях большинство граждан не сталкиваются с дезинформацией в этом смысле, и её существование в значительной степени является симптомом других проблем.

Рассмотрим некоторые общие факты о дезинформации в узком понимании:

Во-первых, она встречается относительно редко. Обширные эмпирические исследования показывают, что средний человек потребляет очень мало дезинформации, особенно если сравнивать с информацией из мейнстримных источников (например, BBC, CNN, NYT и так далее). Более того, оценки учёных, скорее всего, сильно преувеличивают количество явной дезинформации, потому что измеряют её на уровне источника. То есть они относят к дезинформации 100% контента с низкокачественных сайтов и изданий. Однако даже крайне ненадёжные издания обычно воздерживаются от публикации явной лжи.

Во-вторых, взаимодействие с дезинформацией в значительной степени сконцентрировано в определённых группах. Большинство людей распространяют и потребляют очень мало информации, но относительно небольшое меньшинство очень активных пользователей социальных сетей взаимодействуют с очень большим количеством информации. Назовём их «дезинформационным меньшинством».

В-третьих, дезинформационное меньшинство — не представительная выборка населения. Это люди с очень специфическими чертами, такими как сильное конспирологическое мировоззрение, высокая идеологическая враждебность (то есть активная ненависть к политическим и культурным врагам), антиистеблишментские настроения и, что самое главное, — недоверие к институтам. Причины такого недоверия сложны, но подверженность влиянию дезинформации в её узком определении, похоже, играет незначительную роль. Люди ищут такую дезинформацию, потому что не доверяют институтам (науке, здравоохранению, ведущим СМИ и другим), а не наоборот.

Учитывая это, некоторые люди (и я в их числе) утверждают, что озабоченность журналистов, политиков, социологов, документалистов и других дезинформацией после 2016 года — это моральная паника. Дезинформация в её узком определении — не миф, и она может быть вредной. Тем не менее, степень алармизма вокруг неё кажется совершенно необоснованной относительно масштабов угрозы.

Расширение определения?

Очевидный ответ на подобную критику — расширение определения дезинформации. Существует множество способов, с помощью которых коммуникация может в значительной степени вводить в заблуждение и при этом не содержать явной лжи. Если люди стратегически подходят к подбору, умолчанию, подаче, представлению, контекстуализации, деконтекстуализации и объяснению подлинных фактов, которые одобряют «специалисты по проверке фактов», они могут донести реальность до аудитории таким образом, что она окажется крайне недостоверной.

Возможно, в таком случае дезинформацию следует определять в широком смысле как информацию, вводящую в заблуждение. В отличие от явных примеров дезинформации, вводящий в заблуждение контент широко распространён. Более того, он также имеет множество последствий. Более того, он настолько распространён, что трудно понять, как он может не иметь последствий.

В качестве иллюстрации рассмотрим недавнее исследование, посвящённое дезинформации о вакцинах. Дженнифер Аллен и её коллеги изучают влияние контента с Facebook на намерения жителей США вакцинироваться. Их основной вывод поражает:

«Влияние дезинформации было в 50 раз меньше, чем влияние контента, не отмеченного специалистами по проверке фактов, при том, что этот контент тем не менее, выражал скептическое отношение к вакцинам».

Другими словами, контент, который не был явно ложным (например, правдивые сообщения о редких случаях смерти от вакцин, которые широко распространялись в социальных сетях), был гораздо более многочисленным и гораздо более действенным, чем явная ложь.

Аналогичное мнение можно высказать и о таких крайне политически ангажированных СМИ, как Fox News. Хотя такие издания редко сообщают прямую ложь или откровенные выдумки, исследования постоянно показывают, что их крайне избирательное освещение, подача и представление фактов в значительной степени формируют отношение и поведение их аудитории.

Учитывая это, расширение определения дезинформации, которое позволяет сосредоточиться на правдивом, но вводящем в заблуждение контенте, имеет очевидные преимущества для исследователей дезинформации. Кроме того, это естественный способ ответить на обвинения в том, что они разжигают моральную панику и извлекают из неё выгоду. Таким образом, дезинформация — не редкое и показательное явление. Она широко распространена и имеет последствия.

Науки о дезинформирующем контенте не может быть

Но вот в чём проблема: хотя вводящая в заблуждение информация широко распространена и вредна, науки о таком контенте не может быть (точнее, её не должно быть).

Под этим я не подразумеваю, что учёные не должны изучать способы, с помощью которых коммуникация может вводить в заблуждение. Я также не имею в виду, что они не должны изучать конкретные дезинформационные кампании и используемые в них манипулятивные тактики. Я имею в виду то, что вводящая в заблуждение информация — не что-то, что поддаётся научному обнаружению, измерению и обобщению. Иными словами, ошибочно (и даже неуместно) претендовать на научное измерение количества вводящего в заблуждение контента, которому подвергаются люди, их «восприимчивости» к нему или того, какой процент информационной экосистемы этот контент составляет. И крайне ошибочно делегировать задачу определения того, какие правдивые утверждения всё же вводят в заблуждение, группе экспертов по дезинформации.

На это есть три взаимосвязанные причины.

Во-первых, что такое вводящий в заблуждение контент? Это многообразное и оценочное понятие, больше похожее на такие понятия, как трусость или уродство, чем на технические научные концепции. Самого факта избирательности коммуникации не достаточно. Количество возможных фактов, которые могут быть освещены, бесконечно; коммуникация должна быть избирательной. Может быть, именно избирательное освещение приводит к ложным убеждениям? Но это тоже не совсем верно. Многие недостоверные сведения не ведут напрямую к ложным убеждениям. Например, «выборочное представление фактов» приводит к тому, что аудитория формирует истинное убеждение в том, что были раскрыты все факты.

Мало кто более осведомлён о событиях 11 сентября, чем сторонники конспирологической теории об 11 сентября. Мало кто более осведомлён о статистике, которая неблагоприятно отражается на меньшинствах, чем расисты. Проблема таких случаев не в том, что люди имеют ложные убеждения (многие из их убеждений могут быть истинными), или что их убеждения предвзяты (убеждения всегда предвзяты), а в том, что эти люди делают неадекватные выводы из необъективных данных или в каком-то смысле имеют «неправильные» убеждения. Но определение того, приводит ли коммуникация косвенно к неправильным выводам или неправильным убеждениям в этом смысле, — это сложная, весьма чувствительная к контексту и часто базирующаяся на оценочных суждениях задача. Это не похоже на ту работу, которую стоит просто поручить группе экспертов по дезинформации.

Во-вторых, при любом определении этой концепции недостоверная информация не просто широко распространена, — она настолько широко распространена, что эта концепция теряет всякую научную ценность. Даже если отбросить бесчисленные тонкие партийные, идеологические и экономические предубеждения, мейнстримные новостные медиа, которые исследователи дезинформации часто просто называют достоверными, сообщают о крайне выборочной, неслучайной совокупности всего плохого, что происходит в мире. Это в свою очередь приводит к распространению ложных убеждений среди их аудитории. Означает ли это, что большинство основных новостей следует классифицировать как дезинформацию?

Аналогичные утверждения можно привести и в отношении многих научных исследований (в том числе исследований дезинформации) и сообщений органов здравоохранения. Концепция дезинформации должны была выявить отклонение в информационной экосистеме. Однако тактики, которые лежат в основе вводящего в заблуждение контента (выборочное представление фактов, сокрытие контекста, тонкие приёмы подачи, избирательное консультирование с близкими по духу экспертами, гиперболизация и так далее), настолько повсеместны, что любая попытка провести различие между контентом, вводящим и не вводящим в заблуждение, в итоге будет выглядеть безнадёжно произвольной.

И наконец, трудно представить, каким образом оценка того, какие акты коммуникации вводят в заблуждение, может быть беспристрастной. В отличие от выявления явных примеров дезинформации, определение того, какой контент вводит в заблуждение (проблематично избирателен, лишён релевантного контекста и так далее), представляется весьма слабым для тех видов предубеждений, предрассудков и пристрастности, которые являются неискоренимыми чертами человеческого познания.

Предположим, например, что исследователи включают в свою классификацию дезинформации достоверные сообщения о редких смертельных случаях, связанных с вакцинацией, и их усиление. А достоверное непрерывное освещение в СМИ редких случаев расстрела полицией безоружных чернокожих граждан в США тоже будет включено? Что если (а это действительно может быть так) такое освещение приводит к тому, что люди систематически переоценивают частоту таких расстрелов? Это лишь один (общепризнанно разжигающий рознь) пример, но их можно привести миллион.

Любая коммуникация во всех контекстах — будь то новости, публицистика, наука, изучение дезинформации, политические дебаты и так далее — предполагает бесчисленные решения о том, какую информацию и контекст упомянуть, что умолчать, как представить информацию, в какие нарративы и пояснительные рамки встроить информацию и так далее. Любая попытка разделить эту коммуникацию на вводящую и не вводящую в заблуждение неизбежно будет предвзятой из-за уже существующих убеждений, интересов и пристрастий.

Рынок идей (человеческий, слишком человеческий)

Позвольте мне уточнить, чего я не хочу сказать:

• Я не поддерживаю странную постмодернистскую точку зрения, согласно которой не существует различий в достоверности, честности и объективности различных изданий, институтов и источников информации. BBC более достоверна, чем Infowars. Астрономия более достоверна, чем астрология. Органы здравоохранения более достоверно освещают информацию о вакцинах, чем конспирологи-антиваксеры. Я скорее хочу сказать, что такое понятие, как «введение в заблуждение», настолько многообразно, оценочно и субъективно, что неизбежно требует от исследователей дезинформации выносить гораздо более противоречивые суждения, чем эти.

• Я не утверждаю, что мы никогда не сможем точно определить, когда контент вводит в заблуждение, или провести различие между источниками информации с точки зрения того, насколько их контент вводит в заблуждение. Я скорее хочу сказать, что это гораздо сложнее, чем кажется большинству исследователей дезинформации, и это должно ослабить нашу уверенность в том, что подобные проекты в принципе могут быть по-настоящему научными.

• И наконец, я не утверждаю, что люди не должны указывать на вводящий в заблуждение контент, когда они с ним сталкиваются. Я скорее хочу сказать, что эти суждения должны делать граждане демократических государств — ошибающиеся, предвзятые, пристрастные граждане, — которые обсуждают их на рынке идей. Их не должна декларировать группеаэкспертов по дезинформации, претендующих на нейтральную научную точку зрения за его пределами.

Дополнительные материалы для чтения

Один из читателей попросил меня включать рекомендации по чтению в конце моих эссе, так что вот несколько отличных статей и книг, которые я рекомендую тем, кто заинтересован в более глубоком изучении этой общей темы:

Уолтер Липпман «Общественное мнение» — классическое, чрезвычайно проницательное изложение эпистемических проблем демократий и неизбежных предубеждений в журналистике и СМИ.

Джо Усински «Что мы делаем, когда исследуем дезинформацию?» — блестящий анализ трудностей выявления дезинформации и проблем субъективности в исследованиях дезинформации.

Скотт Александр «СМИ очень редко лгут» — самое чёткое и доступное изложение того факта, что вводящий в заблуждение контент (1) повсеместен и (2) редко принимает форму очевидной лжи.

Руксандра Тесло «Дорога к (ментальному) рабству и исследования дезинформации» — проницательная критика исследований дезинформации и полезное разграничение между «грубой дезинформацией» и «высокой буржуазной пропагандой».