«Прививка» от фейков

Распространение информации нередко сравнивают с распространением вируса: «эпидемии нарративов» происходят гораздо чаще, чем болезней, и меняют то, как люди воспринимают реальность, отмечал нобелевский лауреат по экономике Роберт Шиллер, известный в том числе и своими исследованиями «нарративной экономики». В пандемию коронавируса «информационные эпидемии» обеспокоили Всемирную организацию здравоохранения (ВОЗ), пожалуй, не меньше, чем сам вирус: термин «инфодемия» ВОЗ описывала как значительное увеличение за короткий период объема информации, связанной с определенной темой, и эта информация может как быть достоверной, так и не соответствовать действительности. Но при этом дезинформация и слухи, как правило, распространяются быстрее и привлекают больше внимания, нежели заслуживающие доверия данные.

Если дезинформация передается как вирус, то и бороться с ней можно «медицинским» методом – «вакцинацией». Вакцины, содержащие ослабленный или инактивированный вирус, «обучают» иммунную систему распознавать реальный вирус и противостоять ему. Подобным же образом может реагировать и мышление.

Теория прививки: защита от нападений

Согласно социально-психологической теории прививки (inoculation theory), предлагая человеку ограниченную дозу фейков («вируса») и опровергая их, можно выработать у него «иммунитет» к дезинформации. Эта теория была разработана социальным психологом Уильямом Макгуайром в 1961 г. для объяснения того, как меняются взгляды и убеждения и как их сохранить при попытках воздействия на них с целью изменения.

«Живя в идеологически монолитной среде, человек склонен недооценивать уязвимость своих убеждений и вероятность посягательств на них. Следовательно, у него будет мало мотивации или опыта в разработке аргументов в поддержку своих убеждений или в подготовке опровержений неожиданных контраргументов», – писал Макгуайр. По его мнению, предварительное воздействие достаточно легко опровергаемых контраргументов («прививка») может укрепить уже существующие у человека убеждения – другими словами, «повысить иммунитет» к попыткам воздействовать на эти убеждения.

В своем объяснении Макгуайр использовал медицинскую аналогию: чтобы повысить сопротивляемость инфекционному заболеванию, человек может прибегнуть к любой из двух процедур – к поддерживающей терапии (диета, упражнения, отдых и т.д.), призванной улучшить общее физическое состояние, или к вакцинации вирусом в ослабленной форме, чтобы стимулировать защиту организма, но не преодолеть ее. Применительно к убеждениям поддерживающая терапия соответствует приведению аргументов в поддержку имеющихся убеждений, а вакцинация – воздействию контраргументов в «ослабленном» виде.

В медицинском смысле для выработки иммунитета к заболеваниям прививка в целом более эффективна, чем поддерживающая терапия. Продолжая эту аналогию в области сопротивления атакам на убеждения, можно предположить, что предварительное «введение» человеку ослабленных контраргументов будет полезнее для сохранения его убеждений, чем приведение аргументов, укрепляющих эти убеждения.

Макгуайр провел эксперимент, проанализировав, каким образом изменятся убеждения людей в ответ на «поддерживающую терапию» и на «прививку». В качестве убеждений он выбрал несколько «культурных трюизмов» (как он пояснял в более поздней работе 1964 г., «это убеждения, которые настолько широко распространены в социальном окружении человека, что он не понял бы, что они находятся под ударом, и даже усомнился бы в том, что такой удар возможен»). Один из примеров таких трюизмов – утверждение «Все должны чистить зубы после каждого приема пищи, если есть возможность».

Одной группе участников были предоставлены дополнительные аргументы в пользу банального утверждения («поддерживающая терапия»), а другой – возможные контраргументы (например, «Слишком частая чистка зубов повреждает десны и разрушает эмаль зубов») вместе с их опровержением, то есть «прививка». Спустя двое суток участникам предоставлялись более сильные аргументы против трюизма, на этот раз более подробно сформулированные и в большем количестве. В конце обоих этапов участников просили продемонстрировать свои убеждения, дав оценку обсуждаемому трюизму по шкале от 1 до 15, где 1 означало абсолютное несогласие с ним, а 15 – абсолютное согласие.

Оказалось, что участники «иммунизированной» группы после второй, сильной атаки на убеждения были гораздо менее склонны пересматривать свои позиции, чем участники группы с «поддерживающей терапией». До второй атаки в обеих группах средневзвешенный уровень согласия с трюизмом составлял 14,3 и 14,6 соответственно; после атаки в «иммунизированной» группе он снизился не слишком сильно, до 11,5, тогда как в группе с «поддерживающей терапией» упал почти вдвое, до 7,5. Таким образом, предварительное ознакомление с контраргументами в ослабленной форме более эффективно в качестве «иммунизирующего агента», чем представление аргументов, подкрепляющих культурный трюизм, заключил Макгуайр.

«Иммунизирующее сообщение»

Теория Макгуайра впоследствии была расширена Майклом Пфау, профессором Университета Оклахомы, изучавшим коммуникативные науки, совместно с Джошуа Комптоном (сейчас – Дартмутский колледж). В частности, они показали, что теория психологической прививки может иметь широкое применение в коммуникациях и использоваться не только для защиты уже имеющихся убеждений, но и для противодействия дезинформации, воздействующей на формирование убеждений.

Пфау и Комптон выделили два основных компонента «иммунизирующего сообщения».

1)   Первый компонент – это угроза, заставляющая человека осознать свою уязвимость и побуждающая его защищать свои позиции и установки.

Один из экспериментов Пфау и Комптона продемонстрировал, как угроза может обеспечить психологическую прививку. Авторы организовали вымышленную рекламную кампанию по распространению кредитных карт среди студентов. Затем одной группе участников были отправлены «иммунизирующие сообщения», содержащие угрозу – предупреждения о том, какими последствиями может обернуться для студента открытие кредитной карты (увеличение долговой нагрузки; возможное «пятно» на кредитной истории в случае непогашенного долга по карте; недостаточно прозрачные и понятные условия обслуживания, которые компания-эмитент может использовать для манипуляции потенциальными клиентами). Другая группа участников не получила никаких предупреждений. В конце кампании студенты, получившие «иммунизирующее сообщение», были менее склонны заводить кредитные карты, а также продемонстрировали готовность более осторожно использовать их, чтобы избежать накопления долгов.

2)    Второй компонент – упреждающее опровержение (refutational preemption). Другими словами, для эффективности «прививка» должна предвосхищать возможную контратаку: при подготовке «иммунизирующего сообщения» следует предвидеть контраргументы и подготовить способы противодействия им.

Так, в эксперименте с рекламой кредитных карт Пфау и Комптон учли доводы, которые компании-эмитенты могли использовать для привлечения студентов (например, «повышение финансовой безопасности», «создание надежной кредитной истории»), а затем в своем сообщении представили контраргументы, заставляющие усомниться в этих доводах.

Игра в фейковые новости

Создание вакцины требует понимания структуры вируса – соответственно, для разработки «прививки» против недостоверной информации надо знать ключевые методы, с помощью которых производится дезинформация, отмечает психолог Сандер ван дер Линден из Кембриджского университета, автор опубликованной в феврале 2023 г. книги Foolproof: Why We Fall for Misinformation and How to Build Immunity («Защита от дурака: Почему мы попадаемся на дезинформацию и как выработать против нее иммунитет»), директор Кембриджской лаборатории принятия социальных решений. Таких методов шесть, описывает их ван дер Линден в одном из своих исследований:

• обращение к эмоциям (например, страху, гневу) позволяет повысить вовлеченность людей и манипулировать ими;
• выдача себя за другое лицо (например, знаменитость или представителя власти);
• поляризация, призванная разделять людей и искусственно усиливать существующую напряженность между различными общественными группами;
• выдвижение теорий заговора, позволяющих объяснять происходящие события действиями тайной группы;
• дискредитация оппонентов, чтобы отвлечь внимание от собственной предвзятости;
• троллинг, провоцирующий резкую реакцию целевой аудитории.

Кроме знания структуры вируса, требуется инструмент, чтобы доставить вакцину потребителю. В случае психологической прививки такой виртуальной иглой может быть игра. Например, в ходе интерактивной игры Bad News, разработанной в Кембриджской лаборатории принятия социальных решений, пользователям предлагается попробовать роль «производителей фейков» в соцсети: им предлагают представить, что они ведут свой аккаунт, блог или новостной сайт, затем показывают короткие тексты или изображения (например, мемы или заголовки статей), чтобы выбрать желаемый вариант сообщения, «опубликовать» его в своем вымышленном аккаунте и «оказать влияние» на целевую аудиторию.

Выбор варианта, соответствующего тому, что выбрал бы настоящий дезинформатор, приносит игрокам больше подписчиков и повышает рейтинг доверия. Однако если игрок слишком откровенно лжет своим подписчикам, выбирает откровенно нелепый вариант сообщения или же, напротив, пытается вести себя ответственно и действует в соответствии с лучшими журналистскими практиками, алгоритм игры либо сокращает число подписчиков, либо снижает рейтинг доверия игрока.

Перед входом в игру и после ее окончания пользователей также просят оценить степень достоверности ряда фейковых новостных заголовков. «Прививка» состоит в том, что игроки на личном опыте усваивают «ослабленные» игрой ключевые приемы, которые используются при распространении дезинформации, и в итоге становятся более устойчивыми к встречающимся фейковым новостям.

В одном из исследований, проведенных ван дер Линденом и его коллегами из Кембриджа, участникам случайным образом предложили сыграть либо в Bad News, либо в тетрис: позднее игроки в Bad News оценивали недостоверные новостные сообщения как значительно менее надежные, чем те, кто играл в тетрис, то есть не получил «вакцинации» от фейков. Эффект «прививки» сохранялся в течение двух месяцев, однако затем сходил на нет, так что для поддержания «дезинформационного иммунитета» нужна будет периодическая «бустеризация», указывали авторы.

Помимо Bad News о фейковых онлайн-новостях, исследователи из Кембриджа создали еще две игры, каждая из которых охватывает разные области дезинформации: Harmony Square (о политической дезинформации и межгрупповой поляризации) и Go Viral! (о дезинформации о коронавирусной инфекции). Исследование ван дер Линдена и его коллег подтвердило, что прохождение Go Viral! улучшает узнаваемость дезинформации о Covid-19, повышает уверенность людей в их способности обнаруживать дезинформацию, а также снижает готовность делиться ею.

Стратегии разоблачения

Пандемия коронавируса сопровождалась масштабной инфодемией, показывает доклад ВОЗ: так, доля некорректной информации в публикациях соцсетей на тему вакцинации достигала 51%, а в публикациях о пандемиях – 60%; 20–30% роликов, размещенных на YouTube и посвященных новым инфекционным заболеваниям, содержали неточную или вводящую в заблуждение информацию. В части общества успели укорениться некоторые популярные мифы, связанные с коронавирусом, показало обследование убеждений населения в США, Великобритании, Ирландии, Испании и Мексики, которое провели ученые из Кембриджского университета. Например, утверждение о том, что вышки сотовой связи 5G вызывают или усугубляют симптомы коронавируса, сочли достоверным от 8% до 16% респондентов.

Последствия убеждений, основанных на недостоверной информации, могут дорого обойтись обществу. Исследователи из Кембриджа обнаружили четкую связь между верой в теории заговора о коронавирусе и нежеланием людей вакцинироваться: в среднем увеличение воспринимаемой достоверности информации на одну единицу на семизначной шкале, по которой респондентов просили оценить достоверность, связано с падением почти на четверть (23%) вероятности, что человек согласится сделать прививку от коронавируса. В случае с вышками 5G сторонники этой теории заговора решились на прямые насильственные действия: в общей сложности десятки вышек были сожжены протестующими в нескольких странах, например в Великобритании, Канаде, Новой Зеландии.

Люди чувствуют, что теряют контроль, – это ощущение заставляет некоторых обращаться к теориям заговора: психологически комфортно думать, что за всем этим стоит некая клика плохих людей, объясняет психолог Стефан Левандовски (Бристольский университет, Университет Западной Австралии). Существование теорий заговора не безобидно, даже если люди просто их слушают – так, поджоги вышек сотовой связи несут прямой ущерб обществу, отмечает он.

Дезинформация способна продолжать влиять на мышление долгое время после того, как человек впервые с ней столкнется, и даже после того, как она будет опровергнута. Она столь «прилипчива» в первую очередь потому, что критический подход к ее оценке требует от человека больше когнитивных усилий, чем простое признание того, что недостоверная информация истинна, пришли к выводу Левандовски и его коллеги из Университета Западной Австралии и Мичиганского университета.

Дезинформация особенно «прилипчива», когда в некоторой степени соответствует уже имеющимся у человека политическим, религиозным или социальным представлениям. В этом случае на сцену выходит «предвзятость подтверждения» – склонность человека усваивать и использовать только ту информацию, которая согласуется с его убеждениями, и игнорировать ту информацию, которая им противоречит.

У психологии есть возможность противодействовать вреду, который наносит недостоверная информация, показывая людям, насколько она может быть сильна и как действовать при столкновении с ней, объясняет Левандовски. В своем исследовании он и его соавторы предложили некоторые стратегии на пути разоблачения дезинформации:

• учитывайте мировоззрение и ценности вашей аудитории. Подумайте, какие пробелы в ментальных моделях событий создаются разоблачением недостоверных сведений, и заполните эти пробелы, используя альтернативное объяснение;
• сосредоточьтесь на фактах, которые вы хотите подчеркнуть, а не на мифах (чтобы не привлекать дополнительного внимания к дезинформации);
• убедитесь, что достоверная информация, которую вы хотите донести до людей, простая и краткая. Если миф проще и убедительнее, чем его опровержение, он будет более привлекательным с точки зрения когнитивных затрат, и есть риск, что он запомнится людям лучше.

Вопрос о противостоянии недостоверной информации само общество считает крайне важным: так, американцы считают выдуманные новости более серьезной проблемой, чем терроризм, изменение климата, насильственные преступления и незаконная иммиграция, показал опрос Pew Research в 2019 г. Опрос Eurobarometer 2018 г., проведенный в 28 государствах ЕС, свидетельствует: 85% респондентов считают фейковые новости проблемой, с которой столкнулась их страна, а 83% респондентов расценивают фейки как угрозу для демократии в целом.

Поскольку вирус дезинформации продолжает распространяться, остается много вопросов, требующих ответа, пишут Сандер ван дер Линден и его коллеги по Кембриджу. Например, следует иметь в виду, что, как и в случае с некоторыми медицинскими вакцинами, эффективность «вакцин от фейков» со временем снижается без регулярных «ревакцинаций». Также важно понять, какой процент населения необходимо психологически «вакцинировать», чтобы дезинформация больше не распространялась. «Ваша защита должна быть такой же изобретательной и гибкой, как те искусства, которые вы тщитесь одолеть», – заключают ван дер Линден и его соавторы, цитируя персонажа Джоан Роулинг, профессора защиты от темных искусств Северуса Снегга.