Ложь может быть везде. Предубеждения и факты в постправдивом мире

Вместо того чтобы прислушаться к сигналу тревоги, руководство изменило исходные допущения моделей так, чтобы те показывали минимальные риски. Как рассказал бывший сотрудник The Washington Post: «Если им попадалась модель, которая им не нравилась, они ее просто отбрасывали» [17].

SVB обанкротился в марте 2023 года – жертва именно тех повышений процентных ставок, о которых и предупреждали его собственные модели. Это был второй по масштабу крах банка в истории США, и он был полностью предотвратим.

Как и в случае с Deepwater Horizon, компания ясно видела айсберг прямо по курсу – но банкиры надели шоры и врезались в него на полном ходу.

Свидетельства предубеждения подтверждения

Почему мы так остро реагируем на утверждения, которые нам не по душе?

Нейробиологи Джонас Каплан, Сара Гимбел и Сэм Харрис показали, что предубеждение подтверждения буквально вшито в наш мозг [18]. Они взяли студентов с либеральными политическими взглядами и подключили их к ФМРТ-сканеруiii. Ученые зачитывали участникам либо политические утверждения, с которыми те ранее соглашались (например: «Смертную казнь следует отменить»), либо неполитические (например: «Главная цель сна – дать отдых телу и разуму»). Затем исследователи представляли опровергающие доводы и наблюдали за активностью мозга.

Когда речь шла о неполитических заявлениях, никакой особой реакции не возникало. Но при опровержении политических убеждений у участников активировалась миндалевидная железа – тот самый участок мозга, который включается, когда на вас нападает тигр, вызывая реакцию «бей или беги».

Люди воспринимают противоположные взгляды так, будто за ними гонится дикий зверь.

Миндалевидная железа подавляет префронтальную кору – рациональную часть мозга. В своей книге «Думай медленно… Решай быстро» лауреат Нобелевской премии Даниэль Канеман называет импульсивный, быстрый тип мышления (управляемый миндалевидной железой) Системой 1, а рациональный, медленный (осуществляемый префронтальной корой) – Системой 2.

В спокойном состоянии мы понимаем: новые данные следует воспринимать открыто и извлекать из них уроки. Но когда Система 1 выходит из-под контроля, гнев окутывает разум кровавой пеленой, не позволяя видеть ясно.

Столкнувшись с «тигром» – то есть с данными, опровергающими наши убеждения, – мы часто реагируем одним и тем же способом: находим оправдание, чтобы нейтрализовать их силу.

Отдельное исследование с использованием ФМРТ изучило, что в этот момент происходит в нашем мозге. В ходе предвыборной кампании Буша и Керри в 2004 году ученые набрали группу убежденных республиканцев и демократов [19]. Участникам зачитывали высказывание либо Джорджа У. Буша, либо Джона Керри, затем приводили противоречивый факт, указывающий, что политик не следует собственным словам. Наконец, им предлагали оправдательное объяснение, призванное сгладить это противоречие, – подобное тем, что мы сами сочиняем в процессе мотивированного мышления.

Вот пример.

Исходное заявление

Во время предвыборной кампании 1996 года Керри сказал корреспонденту Boston Globe, что систему социального обеспечения пора кардинально изменить. По его словам, Конгрессу следовало бы рассмотреть возможность повышения пенсионного возраста и введения проверки доходов при назначении пособий. «Я понимаю, идею не одобрят, – признал он. – Но у нас есть долг перед будущими поколениями: мы обязаны решить эту проблему».

Противоречащее заявление

В этом году, выступая в программе Meet the Press, Керри дал четкое обещание: он никогда не поддержит ни сокращение выплат, ни налогообложение пенсионеров, ни повышение возраста выхода на пенсию.

Оправдательное объяснение

Сегодня экономисты полагают, что средства социального обеспечения иссякнут лишь к 2049 году – а не к 2020-му, как считалось в 1996 году.

Как и ожидалось, противоречащие заявления активировали миндалевидную железу. Однако особенно примечательно то, что произошло при восприятии оправдательных объяснений.

Как и предполагалось, противоречащие утверждения вызвали всплеск активности в миндалевидной железе. Особенно любопытно, однако, то, как подействовали оправдательные объяснения.

Исследователи обнаружили, что они активируют стриатум – область мозга, насыщенную дофамином. Отказ от неприятных, неудобных свидетельств запускает выброс дофамина – того же нейромедиатора, который дарит ощущение удовольствия при беге, вкусной еде или интимной близости.

Мотивированное мышление просто приносит удовольствие.

Теперь перейдем от истоков предубеждения подтверждения к его последствиям.

Психологи Стэнфордского университета Чарльз Лорд, Ли Росс и Марк Леппер собрали группу студентов – убежденных сторонников и столь же убежденных противников смертной казни – и дали им краткие изложения двух исследований.

● Исследование временных периодов, в котором сравнивался уровень убийств в одном штате до и после введения смертной казни. Например: «Кронер и Филлипс (1977) сопоставили уровень убийств за год до и за год после принятия смертной казни в четырнадцати штатах. В 11 из них уровень убийств после введения высшей меры наказания оказался ниже».

● Межсекционное исследование, в котором сравнивались уровни убийств в парах соседних штатов – один из которых применял смертную казнь, а другой нет, – на определенный момент времени. Например: «Палмер и Крэндалл (1977) проанализировали уровень убийств в десяти парах соседних штатов с разными законами о смертной казни. В восьми из десяти пар уровень убийств оказался выше именно в тех штатах, где действовала высшая мера наказания» [20].

Исследования распределялись между студентами случайным образом. У одних участников анализ временных рядов подтверждал эффективность смертной казни, а межсекционное исследование – опровергал, как в приведенном выше примере; у других – наоборот.

Важно, что оба исследования были вымышленными, что исключало возможность, что одно из них объективно надежнее или методологически строже другого.

Исследователи попросили студентов оценить научную строгость каждого отчета. Если бы рациональная Система 2 действительно управляла их суждениями, оценка зависела бы исключительно от методологии, а не от выводов.

Вместо этого участники критиковали те исследования, чьи результаты противоречили их убеждениям, и без труда находили альтернативные объяснения. Например, если анализ временных периодов показывал рост числа убийств после введения смертной казни, сторонник высшей меры утверждал, что без этого закона рост был бы еще стремительнее.

Но если выводы совпадали с их взглядами, они принимали исследование без малейших сомнений.

Затем студентов спросили, изменились ли их взгляды на смертную казнь после ознакомления с работами. Каждый из них увидел одно исследование, подтверждающее его позицию, и одно – опровергающее ее. Смешанные данные должны были бы смягчить их убеждения.

Вместо этого исходные взгляды лишь укрепились: противники смертной казни стали еще резче ее отвергать, а сторонники – еще активнее защищать. Они ухватились за то исследование, которое им нравилось, и проигнорировали все остальное.

Стоит на мгновение остановиться, чтобы подчеркнуть важность этого вывода.

Мы склонны думать, что разногласия возникают из-за нехватки информации и исчезнут, как только мы поделимся фактами. Стоит лишь выложить свои данные на стол, и собеседник увидит все так же, как и мы.

Однако результаты показывают: все не так просто. Даже когда двое людей видят одни и те же данные, их мнения могут различаться.

Это явление называется поляризацией убеждений. Тот, кому информация не по душе, обязательно найдет повод ее отвергнуть, тогда как сторонник примет даже миф за истину в последней инстанции.

Это похоже на футбольный матч: болельщики соперничающих команд яростно спорят о пенальти – хотя все видели одну и ту же игру.

Мы замечаем лишь то, что хотим видеть.

Наивное принятие и ограниченный скептицизм – две разные формы предубеждения подтверждения, но в то же время две стороны одной медали. Обе ведут к пристрастному толкованию свидетельств: мы верим тому, что хотим, и отвергаем то, что не желаем принимать.

Однако стоит помнить: предубеждение подтверждения проявляется во многих обличьях. Третья его форма вообще не связана с интерпретацией информации – и именно к ней мы теперь обратимся.

Мат ученого и шахматные ловушки

Первым моим увлечением была шахматная игра. Я начал играть в пять лет и в итоге попал в юношескую сборную Англии, хотя прошли десятилетия с тех пор, как я в последний раз применял «Атаку жареной печенки» или отражал «Гамбит Франкенштейна – Дракулы» соперника.

В самом начале я заучил все самые соблазнительные ловушки, в которые можно заманить противника. Лучшая из них – «Мат ученого»: вы рано выводите ферзя – самую сильную фигуру – и надеетесь, что соперник не заметит надвигающегося мата. Если все пройдет по плану, партию можно выиграть всего за четыре хода.

Поскольку «Мат ученого» настолько известен, даже новички редко попадаются в него, я начал придумывать собственные ловушки. Расставив засаду, я шептал про себя: «Пожалуйста, пусть она возьмет мою пешку», – стараясь сохранить самое невозмутимое выражение лица. Правда, у впечатлительного пятилетнего мальчика эта «маска» получалась не слишком убедительной.

Так я обыграл немало соперников. Но потом на моем пути стали появляться более сильные противники – они без труда распознавали ловушку и отвечали так, что мой замысел выглядел по-детски наивным.

Сам того не осознавая, я попал в еще одну ловушку предубеждения подтверждения.

Если пристрастная интерпретация – это то, как мы обращаемся с информацией, уже получив ее, то пристрастный поиск – это то, какую информацию мы вообще решаем искать. Мы охотно собираем лишь те свидетельства, что подтверждают нашу первую догадку, и не рискуем заглядывать туда, где может скрываться опровержение.

Размышляя, какой ход сделать, я перебирал все возможные способы поймать соперника в ловушку, – и на этом основании считал свой задуманный ход правильным.

На самом же деле мне следовало исследовать, как именно противник может опровергнуть этот ход. Только убедившись, что таких способов нет, можно было спокойно его совершать.

Эта проблема выходит далеко за пределы шахматной доски.

Психолог Питер Уэйсон впервые обнаружил систематические проявления пристрастного поиска в следующем эксперименте [21]. Он давал участникам набор из трех чисел и просил их определить правило, по которому эти числа были подобраны. Чтобы проверить свою гипотезу, участники предлагали собственную тройку чисел, а Питер отвечал, соответствует ли она заданному правилу.

Возьмем пример. Если вы видите числа 2–4–6, каково правило?

Большинство участников Питера предположили: «последовательные четные числа». Чтобы проверить эту гипотезу, они предлагали другие тройки последовательных четных чисел – например, 4–6–8, 12–14–16 или даже 218–220–222.

Питер каждый раз отвечал: «Да, это соответствует правилу».

Но ответ «да» на самом деле не подтверждает гипотезу.

Знание того, что эти тройки тоже удовлетворяют правилу, почти ничего не дает – ведь они одинаково хорошо согласуются и с другими возможными объяснениями. Может быть, правило звучит как «любые три четных числа» или «любые три возрастающих числа».

Следовательно, эта новая информация практически бесполезна.

Единственный способ укрепить свою гипотезу – попытаться ее опровергнуть точно так же, как в шахматах нужно проверять, может ли соперник разрушить ваш замысел.

Следовало бы предложить, например, тройку 4–12–26. Если ответ «да» – ваша теория о «последовательных четных числах» рушится, и вы вынуждены искать другие объяснения. Если же ответ «нет» – это отсекает альтернативные гипотезы вроде «любые три четных числа» или «любые три возрастающих числа», тем самым косвенно поддерживая вашу версию.

Но большинство людей не рискуют предложить 4–12–26, потому что не хотят даже допустить, что могут ошибаться. Их пугает возможность услышать «да» – сигнал, опровергающий их догадку. Именно этот страх заставляет миндалевидную железу вспыхивать.

А между тем, только узнав, что неверно, можно приблизиться к тому, что верно.

Как сказал Томас Эдисон, изобретатель лампочки:

«Я не терпел неудач. Я нашел десять тысяч способов, которые не работают».

Можно подумать, что не так уж важно, какое правило люди угадывают в ряду чисел. Но пристрастный поиск способен ослеплять нас и в вопросах, лежащих в основе нашей жизни – от здоровья до веры.

Тимоти Брок и Джо Баллуэн попросили 112 студентов прослушать записи выступлений старшеклассников и оценить, насколько они убедительны [22]. Студенты полагали, что исследователи просто хотят собрать обратную связь для школьников, но на самом деле у ученых была другая цель.

В записях присутствовал шум, но Тимоти и Джо сказали участникам, что они могут нажать кнопку, чтобы его убрать. Одно выступление утверждало, что христианство – зло; другое – что курение не вызывает рака; третье – что вызывает. Остальные три речи были нейтральными и служили контрольными образцами.

После оценки выступлений студенты заполнили анкету, в которой их спрашивали, как часто они ходят в церковь и сколько курят, а также задавали нейтральные вопросы.

Исследователи обнаружили: студенты убирали шум только тогда, когда им нравилось содержание речи.

Прихожане не хотели слышать аргументы против христианства – и были даже рады, что запись искажена. Курящие игнорировали предупреждения о вреде сигарет, но стремились четко расслышать выступление, опровергающее антитабачные доводы.

Пристрастный поиск означает, что огромный рост доступности информации может сделать нас на самом деле менее информированными.

Сегодня мы можем мгновенно найти ответ в телефоне, не выходя из дома, а научные публикации все чаще становятся открытыми, а не скрытыми за платными стенами. Казалось бы, это должно способствовать объективности – ведь теперь легко ознакомиться с обеими сторонами любого вопроса.

Но происходит обратное: мы все легче находим подтверждение своим взглядам, а убеждения становятся еще более поляризованнымиiv.

Пристрастная интерпретация заставляет нас видеть то, что мы хотим видеть.

Пристрастный поиск – находить то, что мы хотим найти.

Как знание играет против нас

Мы уже убедились, что обычный человек подвержен предубеждению подтверждения. Но, казалось бы, разве знания не служат лекарством от этого?

Люди с более глубокими познаниями, вероятно, в большей степени способны оценить логику контраргумента и сознательно ищут иные точки зрения, чтобы расширить свое понимание. Если так, то предубеждение подтверждения – не такая уж серьезная проблема.

Пусть оно и вводит в заблуждение прохожего на улице, но ведь можно надеяться, что политики, управляющие страной, топ-менеджеры, возглавляющие компании, и инвесторы, распоряжающиеся нашими пенсионными накоплениями, умнее нас, простых смертных.

Или, возможно, некоторые читатели уверены, что их собственный интеллект защищает их от этого когнитивного искажения, – и они никогда не совершат ошибок, описанных в этой главе.

К сожалению, это не так. Чарльз Тейбер и Милтон Лодж обнаружили, что знание лишь усугубляет проблему [23].

Сначала они изучили пристрастный поиск, попросив студентов-политологов исследовать тему контроля над оружием – и, что особенно важно, сделать это объективно, чтобы впоследствии суметь внятно объяснить суть дискуссии другим.

Участникам предоставили доступ к четырем источникам информации, каждый из которых содержал по четыре аргумента, как показано в таблице ниже:

Клик по одному из серых блоков раскрывал аргумент, но участникам разрешалось выбрать лишь восемь из шестнадцати – следовательно, им приходилось делать осознанный выбор.

Студенты с низким уровнем политической осведомленности вели поиск довольно сбалансированно: в среднем они выбирали чуть больше четырех аргументов, поддерживающих их собственную позицию по вопросу контроля над оружием, и чуть меньше четырех – противоположных.

Их более осведомленные коллеги, напротив, проявили резкий дисбаланс: они отбирали в среднем шесть аргументов в пользу своей точки зрения и лишь два – против нее.

Противник огнестрельного оружия с жадным интересом читал доводы организации «Граждане против пистолетов», но не обращал внимания на позицию Республиканской партии, а сторонники оружия действовали зеркально.

Таким образом, знание не делает человека более склонным учитывать обе стороны вопроса – наоборот, оно лишь усиливает пристрастный поиск.

Вторая часть эксперимента была посвящена пристрастной интерпретации. Участникам представили четыре аргумента по вопросу позитивной дискриминации (по два в поддержку и против) и попросили прокомментировать, насколько убедительными им кажутся эти доводыv.

Студенты с низким уровнем осведомленности оценивали аргументы, совпадающие с их взглядами, в среднем как два положительных и один отрицательный (2–1); аргументы противоположной направленности они оценивали как один положительный и два отрицательных (1–2).

У более информированных участников разрыв был куда резче: аргументы, которые им нравились, они оценивали как 3–0 (три положительных замечания, ни одного критического); аргументы, которые им не нравились, как 0–6 (ни одного одобрения, шесть критических замечаний).

Таким образом, знание не помогает увидеть обе стороны спора – напротив, оно дает человеку больше инструментов, чтобы находить все новые причины восхвалять то, с чем он согласен, и все глубже раскапывать изъяны того, что вызывает его несогласие.

Кратко о главном

● Предубеждение подтверждения ведет к пристрастной интерпретации информации. Оно проявляется в двух формах.

1.Наивное принятие – вера в утверждения, которые нам по душе, без проверки фактов и без попыток найти альтернативные объяснения.

2.Ограниченный скептицизм – отрицание утверждений, которые нам не нравятся, сопровождаемое выдумыванием альтернативных гипотез; это явление также известно как мотивированное мышление.

● Как распознать предубеждение подтверждения?

Задайте себе простой вопрос:

«Хочу ли я, чтобы это утверждение оказалось правдой?»

Если да – будьте начеку: вы рискуете поддаться наивному принятию. Спросите себя, существуют ли альтернативные объяснения.

Если нет – остерегайтесь ограниченного скептицизма: постарайтесь воспринять утверждение всерьез, даже если оно вам неприятно.

● Предубеждение подтверждения заложено в нас на нейробиологическом уровне. Утверждения, которые нам не нравятся, активируют миндалевидную железу – ту часть мозга, что отвечает за реакцию «бей или беги». А когда мы успешно отбрасываем такие данные, мозг вознаграждает нас выбросом дофамина.

● Два человека могут видеть одни и те же факты, но делать совершенно разные выводы – каждый замечает то, что хочет видеть. Просто «выложить все на стол» порой не сближает позиции, а, напротив, усиливает поляризацию убеждений.

● Предубеждение подтверждения проявляется не только в интерпретации, но и в поиске информации: мы инстинктивно избегаем источников, с которыми не согласны, и находим именно то, что подтверждает нашу точку зрения. Между тем лучший способ укрепить гипотезу – попытаться ее опровергнуть.

● Знания не делают нас объективнее. Напротив, они могут усилить предубеждение: чем больше мы знаем, тем искуснее применяем мотивированное мышление и тем избирательнее ищем информацию, подтверждающую наши взгляды.

Хотя предубеждение подтверждения распространено повсеместно, оно не проявляется каждый раз, когда мы сталкиваемся с новой информацией.

Эмоции особенно обостряются вокруг таких тем, как смертная казнь, контроль над оружием или религия. Но во многих повседневных решениях у нас нет заранее сложившегося мнения. Если нечего подтверждать – нет и предубеждения подтверждения. Казалось бы, в таких случаях мы можем рассуждать трезво и непредвзято.

К сожалению, здесь вступает в силу другое когнитивное искажение. Именно к нему мы теперь и обратимся.

Глава 2. Черно-белое мышление

В 1947 году подростка из Огайо Роберта Коулмана ожидало блестящее будущее. Сын продавца конфет и домохозяйки, он занял второе место среди 8500 выпускниковvi старших классов на общенациональном стипендиальном конкурсе и был зачислен в медицинскую программу Мичиганского университета.

Роберт был не только умен – он быстро стал настоящей звездой студенческого кампуса благодаря остроумным шуткам и таланту к пародиям, которые с завидной легкостью развлекали гостей на вечеринках.

После выпуска в 1951 году он провел лето в Кэтскилльских горах штата Нью-Йорк, работая официантом-комиком и артистом развлечений. Его выступления имели такой успех, что скаут предложил ему контракт.

Роберт уже собирался подписать его, но (с той же непринужденной интонацией, с какой обычно произносил свои кульминационные реплики) мимоходом заметил, что изначально планировал стать врачом.

Скаут, прекрасно знавший, насколько непредсказуема и нестабильна жизнь комика, тут же разорвал контракт и настоятельно посоветовал юноше вернуться к медицине [1].

В итоге Роберт поступил в престижную Медицинскую школу Корнелльского университета, чтобы получить докторскую степень, а в 1959 году завершил ординатуру по кардиологии.

Большинство молодых врачей начинают карьеру, работая в больнице, но Роберт хотел быть сам себе хозяином. Сразу после ординатуры он открыл собственную практику на состоятельном Верхнем Ист-Сайде в Нью-Йорке.

Дело шло медленно, и это подкосило его дух. Признаваясь в любви к еде, Роберт впал в депрессию и начал набирать вес. К тому времени он уже прибавил 80 фунтов с выпускного вечера в школе и весил 225 фунтов.

Роберт вернулся к медицинским журналам, которые с увлечением изучал в студенческие годы, и отчаянно искал диету, способную помочь ему сбросить вес – и, что особенно важно, не вызывая чувства голода. Одна из публикаций, озаглавленная «Новая концепция лечения ожирения», показалась ему многообещающей [2].

Он решился и разработал программу, основанную на ее выводах. Результат превзошел ожидания: за четыре недели Роберт потерял 30 фунтов и при этом не испытывал ни малейшего голода. Этот успех вдохновил его на радикальную смену карьеры – от кардиологии к борьбе с лишним весом.

Медленный старт частной практики, как оказалось, стал благословением под маской неудачи: вынужденный подрабатывать, он сотрудничал с компаниями, наблюдая за здоровьем их топ-менеджеров. Эти связи дали ему идеальную «лабораторию» для тестирования своей диеты в более широком масштабе.

Он «посадил» на свою программу 65 руководителей телефонной компании AT&T – и все, кроме одного, достигли целевого веса. Слава Роберта быстро росла. В 1965 году он получил всеобщую известность, представив свою методику похудения в шоу The Tonight Show.

Пятью годами позже журнал Vogue опубликовал его диету – она стала настолько популярной, что получила название «диета Vogue».

В 1972 году вышла его книга, и уже за первые четыре месяца был продан миллион экземпляров. В итоге она провела пять лет в списке бестселлеров The New York Times и была куплена 15 миллионами читателей.

Но Коулман – это было лишь второе имя Роберта. Его полное имя – Роберт Коулман Аткинс, и со временем «диета Vogue» стала известна миру как диета Аткинса.

Его книга «Диетическая революция доктора Аткинса» не содержала ни ссылок, ни сносок, ни даже библиографии. Издатель настоял на их удалении, предупредив, что избыток научных деталей снизит коммерческую привлекательность:

«Это не медицинская книга. Это популярное издание, которое будут покупать люди, которые вообще не читают книг».

И действительно, миллионы людей по всему миру внимательно изучали эту книгу и кардинально меняли свои пищевые привычки – основываясь лишь на анекдотических свидетельствах.

Диета, которой они следовали, не имела под собой никакой научной базы – ни доказательств ее эффективности даже в краткосрочной перспективе, ни исследований возможных долгосрочных последствий для здоровья.

Тем не менее именно эта книга до сих пор остается самой продаваемой книгой о похудении в истории [3].

В чем секрет успеха диеты Аткинса?

Она была простой. У нее было одно правило – и только одно: избегать всех углеводовvii.

Не только рафинированного сахара, не только «простых» углеводов – всех без исключения. Чтобы решить, можно ли есть продукт, достаточно было взглянуть на строку «Углеводы» в таблице пищевой ценности – не задумываясь, сложные они или простые, натуральные или переработанные.