Иллюзия правды

Людям постоянно приходится определять, доверять ли информации, с которой они сталкиваются, и нередко их суждения оказываются ошибочными. Многие считают достоверным, например, то, что верблюды запасают воду в горбах, Альберт Эйнштейн в школе плохо успевал по математике, а витамин С помогает вылечить простуду, хотя на самом деле это не так: в горбах верблюды накапливают жир, Эйнштейн в школьные годы отлично разбирался в математике, а витамин С, хотя и полезен для здоровья, – не лекарство от простуды. Зато такие факты, как то, что у осьминога три сердца, Анна Франк и Мартин Лютер Кинг родились в одном году, а единорог – животное-символ Шотландии, могут на первый взгляд показаться ложными. Возможно, просто потому, что о них редко можно услышать.

Неверное суждение о достоверности многих широко распространенных представлений может возникать у человека под влиянием эффекта иллюзии правды ( illusory truth effect): чем чаще повторяется та или иная информация, тем правдивее она выглядит для наблюдателя и, соответственно, большее доверие у него вызывает.

Общественный интерес к психологии суждения об истине усилился после президентских выборов в США в 2016 г.: после них «постправда», «фейковые новости» и «дезинформация» стали словами года в авторитетных словарях. В одном из недавних исследований в США участникам эксперимента предлагали оценить на достоверность заголовки новостных статей периода президентских выборов 2016 г. – опубликованные на некоторых сайтах в действительности, но представлявшие собой фейки. Даже после лишь одного повторного показа участники оценивали эти заголовки как более достоверные – и, более того, эффект сохранялся, даже если рядом с заголовком появлялась пометка, что изложенная информация не прошла проверку на достоверность.

Вводящие в заблуждение «новости» сами по себе вовсе не современное «изобретение»: например, в XIX в. некоторые газеты, не имея средств направить за границу своих репортеров, нанимали за небольшие деньги авторов, которые сочиняли «депеши из-за границы» – эти статьи сами работники газет называли «фальшивые письма иностранного корреспондента».

В современном высокотехнологичном мире заблуждения распространяются гораздо быстрее, чем правда: так, ложные новости ретвитят на 70% чаще, чем правдивые сообщения, и правдивым сообщениям требуется примерно в шесть раз больше времени, чем ложным, чтобы охватить 1500 человек. В другой популярной социальной сети с августа 2020 г. по январь 2021 г. посты, в которых содержалась ложная информация, привлекли в шесть раз больше внимания (лайки, репосты, реакция пользователей), чем данные из заслуживающих доверия источников. В 2017 г. исследовательская и консалтинговая компания Gartner, специализирующаяся на рынках информационных технологий, прогнозировала, что в странах с развитой экономикой с 2022 г. большинство людей будут потреблять больше ложной информации, чем правдивой.

Последствия доверия «иллюзорной правде» могут варьироваться от сравнительно безобидных до опасных для жизни. Например, если руководствоваться ложным утверждением, что соленая вода закипает быстрее, то последствием может быть разве что разочарование от бесплодных попыток ускорить время готовки, тогда как убеждение, что COVID-19 не более опасен, чем обычная простуда, могло стоить жизни тысячам людей.

Эффект иллюзии правды помогает понять, почему так хорошо работают пропаганда и реклама и почему люди верят фейковым новостям и активно их распространяют.

Повторение и знания

Одними из первых действие, которое повторение информации оказывает на ее восприятие людьми, описали в 1977 г. психологи Линн Хэшер, Дэвид Голдштейн (оба – Университет Темпл) и Томас Топпино (Университет Вилланова). Они попросили группу студентов колледжа оценить достоверность 60 утверждений, как правдивых (например, «литий – самый легкий металл»), так и ложных (например, «процедура развода встречается только в технически развитых обществах»), по шкале от 1 («определенно неправда») до 7 («определенно правда»). Оценка достоверности проводилась трижды, с двухнедельным интервалом, при этом треть утверждений в предлагаемом списке повторялась из раза в раз, а остальные каждый раз обновлялись. В среднем участники эксперимента присваивали более высокие оценки истинным утверждениям, а не ложным. Однако в итоге средние оценки достоверности повторяющихся утверждений (как истинных, так и ложных) оказались выше, чем средние оценки неповторяющихся.

Важно то, что большинство участников вряд ли разбирались в темах, по которым были составлены оцениваемые утверждения, подчеркивали авторы: респонденты не располагали необходимыми для определения достоверности специфическими знаниями – и этим можно объяснить относительно более высокие оценки повторяющихся утверждений.

Таким образом, можно предположить, что люди при вынесении суждений больше доверяют повторяющейся информации только в тех случаях, если у них не хватает имеющихся знаний. И повторение, например, высказывания «Атлантический океан – самый большой океан на Земле» не заставит людей в него поверить, если они знают, что самый большой океан – Тихий.

Этот вывод подтверждает метаанализ исследований об эффекте иллюзии правды, проведенный психологами из Базельского и Фрайбургского университетов: он показал, что эффект иллюзии правды от повторяющихся сообщений действительно очень устойчив, если люди изначально не были уверены в истинности услышанных высказываний, – в ином же случае достоверность утверждений будет оцениваться на основе предыдущих знаний. То, что эффект иллюзии правды может «разбиваться» о реальные знания и не действовать в отношении крайне неправдоподобных утверждений, подтвердило и исследование о предвыборных фейках в США: когда участникам эксперимента вместо фейковых заголовков новостей предлагали утверждения типа «Земля – идеальный квадрат» или «Один слон весит меньше, чем один муравей», они оценивали их как ложные независимо от того, сколько раз повторялись эти высказывания. При этом для политических новостей, которые было затруднительно сразу же распознать как неправдоподобные, эффект иллюзии правды при повторении возникал.

В целом повтор повышает оценки достоверности как истинных, так и ложных утверждений, показало еще одно исследование. Но с повтором истинных утверждений важно не переусердствовать: другое исследование обнаружило, что частое повторение истинной информации может вызывать у респондентов некоторое раздражение – на оценку самой информации как достоверной это никак не влияет, но негатив направляется на коммуникатора и снижает его авторитет.

Иллюзия знания

Однако знание не всегда защищает от эффекта иллюзии правды, свидетельствуют эксперименты, которые провела психолог Лиза Фацио из Вандербильтского университета с соавторами. Даже если люди имеют представление о некоем факте, они начинают считать более достоверным не совпадающее с этим знанием суждение, если оно повторяется.

Например, повторяющееся утверждение «сари – это название короткой юбки в складку, которую носят шотландцы» усилило веру участников эксперимента в то, что это правда, даже если они предварительно правильно ответили «килт» на вопрос «Как называется короткая плиссированная юбка, которую носят шотландцы». Аналогично среди тех участников эксперимента, кто точно знал, что одноглазых гигантов в греческих мифах называют циклопами, те, кто всего лишь дважды прочитал утверждение «Минотавр – легендарный одноглазый великан в греческой мифологии», дали ему более высокие оценки достоверности, чем те, кто прочел это утверждение только один раз.

Почему так происходит? При оценке информации люди, как правило, задействуют один из двух основных алгоритмов: они могут 1) обратиться к своей памяти и найти в ней релевантные знания; или 2) не прилагая когнитивных усилий, полагаться на так называемую беглость обработки информации.

Беглость обработки информации (processing fluency) – это когнитивное искажение, когда на мнение человека о какой-либо информации влияет то, насколько легко мозгу удалось ее обработать: легкость обработки вызывает удовлетворение, и человек ошибочно определяет причину этого ощущения, ассоциируя ее с самой информацией. Испытывая приятные ощущения от быстрой обработки информации, человек считает эту информацию приятной и достоверной (эффект, который активно используется в маркетинге). Повторения являются мощным приемом, потому что повышают беглость обработки.

Окруженные морем информации, люди для экономии усилий чаще полагаются не на поиск «зарытых» в памяти знаний (тем более что их там может и не оказаться), а именно на беглость обработки информации как на ближайшую доступную подсказку. В результате может возникать «иллюзия знания»: требуется лишь «частичное совпадение» между содержанием утверждения и тем, что «подсказывает» беглая обработка.

Легкость обработки информации влияет даже на финансовые решения, хотя, казалось бы, в этой области человек должен быть наиболее рационален – но люди с большей вероятностью приобретут на IPO акции компаний с легко произносимыми названиями, нежели акции фирм, названия которых вызывают сложности с восприятием, свидетельствует исследование психологов Принстонского университета.

Другими словами, в своих заключениях человек, как правило, использует эвристику (когнитивные упрощения, экономящие время и усилия) – то, что, согласно определению нобелевского лауреата Даниэля Канемана, одного из основоположников поведенческой экономики, называется системой автоматического мышления (система 1). Она позволяет принимать решения быстро и «по шаблону» (автоматически), в отличие от рационального мышления (системы 2) – сознательного мыслительного процесса, основанного на логике, размышлениях и анализе фактов.

«Автоматическое» мышление может сделать людей более легковерными без достаточных на то оснований. Но оценка достоверности информации на основе имеющихся в памяти фактов и убеждений может привести к другому когнитивному искажению – предвзятости подтверждения, когда люди склонны воспринимать только ту информацию, которая подтверждает их убеждения, и игнорировать противоречащие этим убеждениям сведения.

Ослабить иллюзию

Эффекта иллюзии правды сложно избежать. Поскольку им управляет беглость обработки информации, люди обычно не осознают, что становятся жертвой когнитивного искажения. Однако эффект иллюзии все же можно ослабить, предприняв некоторые осознанные усилия.

Лучшее, что можно сделать, – постараться «включать» при обработке информации систему 2: поскольку система 1 «думает быстро», то при оценке достоверности и правдивости поступающей информации важно «замедлиться» и активизировать аналитическое, рациональное мышление – проверить надежность источника информации, постараться отнестись к новым сведениям непредвзято (не оценивать их с позиции личных убеждений). Так, если человек старается вести себя как фактчекер и проверяет подлинность предлагаемых ему утверждений, это помогает уменьшить силу эффекта иллюзии правды, показали эксперименты психологов из Гарварда и Университета Дьюка.

Несколько развеять иллюзию правды может помочь и внимание к возникающим чувствам: можно попытаться задать себе вопрос, основано ли отношение к той или иной информации на определенном личном опыте, и дать себе время осмыслить связанные с ней эмоции. Настроение человека тоже может влиять на его доверчивость: позитивный настрой порождает более творческое и эвристическое мышление, тогда как негативное настроение способствует более детальному и ориентированному на данные подходу, действуя как мягкий сигнал тревоги и увеличивая сомнения в предлагаемой информации.

Людям очень тяжело отказываться от собственных, пусть даже ложных, сформированных убеждений, и, сталкиваясь с доказательствами, противоречащими этим убеждениям, некоторые склонны лишь еще больше укрепляться в своих убеждениях (это так называемый «обратный эффект» – backfire effect, близкий к предвзятости подтверждения). Развеивание иллюзий через отрицание (высказывания с использованием частицы «не»: например, «Он не виноват» в качестве опровержения вины) тоже может, по наблюдениям психологов, лишь усилить доверие к ложной информации, поскольку людям может быть сложно обрабатывать утверждения с отрицанием.

Разоблачение ложных утверждений нередко сопряжено с их повторением – что может распространять их еще больше. Чтобы избежать этого, опровергая дезинформацию, можно использовать «сэндвич правды» (термин Джорджа Лакоффа, когнитивного лингвиста Калифорнийского университета в Беркли). Принцип «сэндвича правды» в том, чтобы в начале и в конце сообщения приводить истинную информацию, а про ложные утверждения упоминать в середине: по схеме «факт – это X, но некоторые ложно утверждают Y. Давайте сосредоточимся на X». Исследования показывают, что начало и конец – самые значимые и запоминающиеся части, и схема «сэндвича» позволяет указать на ложную информацию в том месте, которое меньше всего запоминается, что должно позволить избежать повторов этой информации, вызывающих эффект иллюзии правды.