Ложь может быть везде. Предубеждения и факты в постправдивом мире

Как новичок на теннисном корте сначала проговаривает про себя: «Сначала раздвигаю ноги, потом поворачиваю корпус лицом к сетке, затем замах и выброс ракетки через плечо», – но со временем все это становится автоматическим. Так и здесь: с практикой осознанность превращается в рефлекс.

Хотя эта книга стремится быть практичной, она также честно признает: совершенство недостижимо. Невозможно в каждой ситуации преодолеть собственные предубеждения и безошибочно оценить каждый фрагмент информации – многообразие способов, которыми нас могут ввести в заблуждение, порой кажется подавляющим.

Но наша цель – не стать безупречными, а просто стать лучше.

В бейсболе игрок, который повышает свой показатель отбивания с 0,280 до 0,320, переходит из разряда надежных участников основного состава в число кандидатов в зал славы – хотя его результат все еще далек от идеального 1,000.

Так и критическое мышление – это Полярная звезда: вы, возможно, никогда не достигнете ее, но она указывает путь.

Сегодня как никогда у нас есть прямой доступ к научным исследованиям ведущих ученых мира – но их голоса тонут в океане заблуждений, вымыслов и откровенной лжи.

Умение различать, чему доверять, а что подвергать сомнению, помогает нам принимать более взвешенные решения, глубже понимать устройство мира и распространять знание, а не плодить дезинформацию вопреки своему желанию.

Это, в свою очередь, дает возможность нам и нашим близким жить здоровой и осмысленной жизнью; позволяет компаниям, в которых мы работаем или которые финансируем, решать самые острые глобальные проблемы; и способствует процветанию стран, гражданами которых мы являемся.

Осознавая собственные предубеждения, мы начинаем воспринимать чужую точку зрения не как угрозу, а как шанс учиться. Мы строим мосты через идеологические пропасти, находя то, что объединяет, а не разъединяет. И постепенно выходим за рамки упрощенного мышления – чтобы увидеть мир во всем его богатстве.

Часть первая: Предубеждения

Глава 1. Предубеждение подтверждения

Австралийка Белль Гибсон была жизнерадостной девушкой. Увлеченная скейтбордистка с лучезарной улыбкой, она смотрела в будущее, полная надежды и воодушевления.

Но в 2009 году Белль перенесла инсульт. Обследования, направленные на выявление его причины, принесли ужасающий диагноз: у нее обнаружили запущенную опухоль мозга, и врачи предрекли ей четыре месяца жизни. Она могла не дожить до 21-го дня рождения [1].

Однако Белль не сдавалась. Всю жизнь она была бойцом. Еще в шесть лет ей пришлось готовить еду для брата, которому поставили диагноз «аутизм» и ухаживать за матерью, страдавшей рассеянным склерозом; отец давно исчез из их жизни. Так что Белль сделала то, что умела лучше всего, – стала сражаться.

Но химиотерапия и лучевая терапия лишь усугубляли ее состояние, и спустя два месяца не было и намека на улучшение.

Поскольку традиционные методы лечения оказались совершенно бессильны, боевой дух Белль подтолкнул ее к иному пути – она обратилась к естественным, природным средствам.

Ослабев от химиотерапии, она заставляла себя заниматься физическими упражнениями. Начала практиковать медитацию. Отказалась от мяса в пользу фруктов и овощей.

И поистине чудесным образом она полностью выздоровела.

История Белль мгновенно разлетелась по миру. Ее пересказывали, ретвитили, публиковали в блогах – она стала достоянием миллионов людей. Белль казалась живым доказательством того, что отказ от традиционной медицины в пользу питания, физической активности и силы духа способен творить чудеса.

Открыв, как ей казалось, секрет исцеления от рака, Белль посвятила свою жизнь тому, чтобы поделиться им с другими. В августе 2013 года она запустила приложение The Whole Pantry – «вдохновляющий и поддерживающий ресурс, наполненный вкусными рецептами, руководствами по здоровью и советами по образу жизни». Уже в первый месяц оно заняло первое место в App Store. 200 тысяч человек скачали его, увидев в нем путь к улучшению самочувствия.

К концу 2013 года приложение The Whole Pantry было названо Apple лучшим в категории «Еда и напитки» и стало финалистом премии «Приложение года». Оно имело такой успех, что Apple пригласила Белль в свою штаб-квартиру – для работы над секретным проектом, которым оказался Apple Watch. Ее приложение хотели сделать одним из первых для новой платформы.

Когда часы вышли в продажу, творение Белль заняло центральное место на странице рекомендуемых приложений – рядом с таким гигантом, как Strava.

Белль стремилась донести свое послание и через традиционные медиа. В следующем году она выпустила кулинарную книгу под тем же названием – The Whole Pantry – с подзаголовком: «Более 80 оригинальных рецептов без глютена, рафинированного сахара и молочных продуктов для питания тела и разума».

И это был не просто сборник рецептов, а руководство к самопомощи, в котором подчеркивалась важность принятия ответственности за свою жизнь. В книге рассказывалось, как Белль «встала на путь самообразования, вернувшись к истокам, исцелила себя посредством питания и перемен в образе жизни».

Сама она писала: «Я искала в себе силы, чтобы спасти свою жизнь – с помощью питания, терпения, решимости и любви» [2].

Всего за восемнадцать месяцев приложение и книга принесли Белль 420 тысяч австралийских долларов [3]. Впрочем, ее целью никогда не была прибыль – она стремилась помогать другим. С самого начала Белль пообещала передавать значительную часть гонораров на благотворительность, и благодаря успеху эта сумма достигла 300 тысяч австралийских долларов.

К 2015 году Белль была на вершине успеха. Она – автор бестселлера, процветающая предпринимательница и щедрая филантропка. Полностью излечившись от рака, она излучала здоровье и вдохновляла других выбирать чистое питание и осознанные привычки вместо лекарств и химии – ради более счастливой и здоровой жизни.

Вот только история Белль оказалась ложью. У нее никогда не было рака. Люди поверили ей – даже не потрудившись проверить факты.

Это классический пример предубеждения подтверждения: мы без критики принимаем утверждение, если оно совпадает с тем, во что нам хочется верить.

Публика с готовностью поверила рассказу Белль (и с еще большей охотой распространила его), потому что он отвечал самым глубоким убеждениям и ценностям. Она заставила нас поверить: всего можно добиться – даже получить второй шанс на жизнь, стоя на пороге смерти, – стоит лишь очень сильно этого захотеть.

С детства нам внушают: «Ты сможешь все, если по-настоящему захочешь». И Белль казалась живым доказательством этой идеи.

Это предубеждение повлекло за собой тяжелые последствия. Несколько онкологических пациентов прекратили химиотерапию, надеясь повторить путь Белль.

Одна из ее последовательниц Кайли в документальном фильме BBC сказала: «[Белль] утверждала, что именно ее методы излечивают рак, делают его слабее… Я видела ее – она была у меня на экране телефона, в журналах, по телевизору. Поэтому я ей доверяла».

Люди, страдавшие не только от рака, но и от других хронических заболеваний, тоже возлагали надежды на ее «рецепт» – и превратились в верных последователей.

К сожалению, их состояние лишь ухудшилось. Последователи Белль отвергли проверенные наукой лекарства, назначенные врачами, и заменили их размышлениями блогерши. Один из пациентов скончался всего через несколько месяцев после отказа от химиотерапии – его гибель стала последней каплей для подруги дочери умершего, которая, не выдержав, раскрыла правду двум журналистам австралийской газеты The Age, и те опубликовали расследование [4].

Сотни людей могли бы погибнуть, не будь обман Белль раскрыт вовремя. Когда Кайли узнала правду, она немедленно возобновила химиотерапию – и вскоре наступила ремиссия. На этот раз факты спасли ей жизнь.

Можно понять, почему тяжелобольные пациенты стали легкой добычей для Белль. Когда традиционная медицина, кажется, бессильна, человек готов хвататься за любую альтернативу.

Но предубеждение подтверждения не ограничивается отчаянием больных – вокруг него выросла целая индустрия. Авторы и инфлюэнсеры повсеместно продают советы, основанные не на доказательствах, а на эмоциях. Реклама курсов по трейдингу обещает сбежать от офисной рутины и жить так, как хочется, – в подтверждение чего обязательно демонстрируется «золотой стандарт» соцсетей: фото гуру за рулем Ferrari с пачкой денег в руке.

Звезды реалити-шоу распространяют теорию заговора о том, что 5G вызывает коронавирус, ловко используя народное недоверие к технологиям [5].

А в конце 2022 года хештег #luckygirlsyndrome собрал 150 миллионов просмотров на TikTok всего за месяц. Видео под этим тегом утверждали: стоит лишь повторять себе, что тебе повезет, – и удача придет сама. Некоторые зрители, столкнувшись с неудачами, начали винить в этом себя – ведь, по логике хештега, неудача означала лишь одно: они недостаточно верили в свою удачу.

Можно подумать, что на сказки тиктокеров попадаются лишь наивные. Но соблазн поверить в заманчивые обещания так силен, что ему поддаются даже богатые и знаменитые.

Основанная в 2003 году Элизабет Холмс стартап-компания Theranos утверждала, будто способна проводить сотни анализов – включая диагностику нескольких смертельно опасных заболеваний – всего по одной капле крови из пальца. Инвесторы вложили в проект свыше 700 миллионов долларов, среди них – медиамагнат Руперт Мёрдок, основатель Oracle Ларри Эллисон и бывший госсекретарь США Джордж Шульц.

Все они достигли вершин благодаря многолетней привычке к скепсису и тщательной проверке: умению отличить единичную перспективную идею от сотен воздушных замков. Утверждение, что компактный прибор может одновременно выполнять 200 сложнейших тестов по нескольким каплям крови, явно выходило за рамки научной правдоподобности. Именно поэтому заявления Холмс требовали самого пристального, микроскопического изучения.

Однако многие приняли эти заявления за чистую монету – скорее всего, потому что им хотелось в них верить.

История Холмс была по-настоящему захватывающей: молодая харизматичная провидица, бросившая университет ради великой мечты и одержавшая победу в мире, где правят мужчины. Не менее соблазнительной казалась и инвестиционная логика Theranos: ее акционеры не просто заработают деньги – они спасут жизни.

Один инвестор запросил проверенные финансовые отчеты компании, но, не получив их, все равно вложился. Другая позже призналась, что ни разу не побывала в лабораториях Theranos и не проконсультировалась ни с одним независимым экспертом – и при этом перевела 100 миллионов долларов [6].

В 2015 году журнал TIME включил Холмс в список «100 самых влиятельных людей мира», а Всемирный экономический форум назначил ее «Молодым глобальным лидером». Уже в октябре того же года стало ясно: Theranos – обман. Шесть лет спустя Элизабет Холмс была осуждена за мошенничество.

Почему одной правды недостаточно

Может показаться, что мораль историй Белль Гибсон и Элизабет Холмс проста: всегда проверяй факты. Но и этого недостаточно.

Предубеждение подтверждения настолько коварно, что оно не просто заставляет нас принимать ложь за истину. Даже когда факты верны, оно может исказить их толкование, направляя нас к выводам, которые подтверждают наши желания, а не реальность.

Возьмем дело Брюса Лискера.

Утром 10 марта 1983 года семнадцатилетний Брюс заехал к дому приемных родителей в Шерман-Окс, Лос-Анджелес, чтобы одолжить инструмент для ремонта машины. Когда никто не открыл дверь, он обежал дом и заглянул в гостиную через окно, пытаясь понять, есть ли кто внутри. Он увидел свою 66-летнюю мать Дорку лежащей на полу.

В панике Брюс бросился к кухонному окну, вынул стекла и залез внутрь – этот прием он освоил еще раньше, чтобы тайком проникать в дом после комендантского часа. Внутри он обнаружил Дорку без сознания: ее голова была сильно травмирована, правое ухо почти оторвано, а в спину воткнуты два кухонных ножа. Брюс вытащил их и вызвал «911».

Парамедики прибыли немедленно и увезли Дорку в больницу, но в тот же день она скончалась.

Первым на место происшествия прибыл детектив Эндрю Монсю, который сразу заподозрил Брюса. Он уже имел с ним дело и считал его «наглым мелким хулиганом».

Брюс начал употреблять кокаин и ЛСД еще в 13 лет, крадя у родителей деньги. Отношения с матерью были напряженными – нередко они выливались в громкие ссоры и крики. В июне 1982 года его арестовали за то, что он бросил отвертку в водителя, подрезавшего его на дороге; суд признал его виновным в вандализме.

Монсю мгновенно решил, что Брюс виновен. Его версия была такова: юноша рылся в сумочке Дорки, чтобы украсть деньги на наркотики; когда мать застала его, он ударил ее по голове трофеем из детской бейсбольной лиги, затем добил гимнастической штангой отца и вонзил в спину ножи.

С этого момента Монсю стал толковать все улики исключительно в русле этой гипотезы. Пятна крови на обуви и манжетах рубашки Брюса он счел следами от удара тупым предметом. Кровавые следы на полу, по его показаниям на суде, «очень сильно напоминали» подошвы обуви Брюса.

Вскоре после того как Брюс оказался в окружной тюрьме в ожидании суда, закоренелый преступник Роберт Хьюз заявил, будто тот якобы сознался ему в убийстве.

В ноябре 1985 года Брюс был признан виновным и приговорен к заключению сроком от 16 лет до пожизненного.

Тюрьма была опасным местом для худощавого подростка ростом пять футов шесть дюймов, поэтому Брюс держался особняком: изучал программирование и пробовал писать стихи.

Однажды он сочинил стихотворение о Монсю.

Глупец, что к выводам спешит без размышлений,Не в силах задать себе вопрос:«Если не мальчик виноват – то кто?» [7]

В 2003 году, после многократных отказов в условно-досрочном освобождении, Брюс подал жалобу на Монсю в Департамент полиции Лос-Анджелеса. Офицер внутренних расследований Джим Гэвин тщательно изучил материалы дела и с удивлением обнаружил, что Монсю так и не распорядился провести судебно-медицинскую экспертизу следов обуви, ограничившись лишь интуитивным утверждением, будто они «очень сильно напоминали» обувь Брюса.

Гэвин поручил экспертное заключение криминалисту Рональду Ракелю. Тот выявил на месте преступления отпечатки двух разных пар обуви. Один из них – с характерным елочным («herringbone») рисунком – никак не мог принадлежать кроссовкам Брюса. Ключевым стало то, что этот же елочный след обнаружился в ванной комнате, а также совпал с формой и расположением синяка на голове Дорки.

Выяснилось и другое. Роберт Хьюз, якобы слышавший признание Брюса, имел давнюю привычку «сливать» признания сокамерников – и ранее уже давал показания против других заключенных, чтобы смягчить собственный приговор.

В 2009 году, проведя 26 лет за решеткой за преступление, которого не совершал, Брюс Лискер, наконец, вышел на свободу.

Проблема не в фактах.

Действительно, на обуви и рубашке Брюса была кровь. Действительно, рядом с телом Дорки обнаружили следы обуви. Действительно, Хьюз утверждал, что Брюс сознался.

Но факты – еще не гарантия правильного вывода.

Чтобы понять, почему, обратимся к одному из самых фундаментальных инструментов статистики – байесовскому выводу. Ниже приведена его упрощенная форма.

Поддерживает ли информация гипотезу? Это зависит от нескольких факторов.

Насколько информация согласуется с самой гипотезой? Насколько она согласуется с альтернативными гипотезами?

(плюс еще 1.)

Научный метод начинается с выдвижения гипотезы о мире – например, «диета излечивает рак» или «подозреваемый виновен». Затем мы проверяем ее, собирая информацию.

Правильно построенный тест не просто задает вопрос: «Подтверждают ли эти данные гипотезу?»

Иными словами, усиливают ли они нашу уверенность в том, что гипотеза верна?

Но вместо этого мы спрашиваем: согласуется ли информация с гипотезой?

«Поддерживает» и «согласуется с» кажутся почти синонимами (они даже перечислены как таковые на Thesaurus.com [8]), но между ними есть ключевое различие.

Даже если информация согласуется с гипотезой, она может ее не поддерживать, потому что возникает решающий третий вопрос:

«Согласуется ли эта же информация с альтернативными гипотезами?»

Однако из-за предубеждения подтверждения мы забываем задать его и не останавливаемся, чтобы рассмотреть другие объяснения – ведь нам так хочется принять ту версию, в которую мы уже склонны верить.

Важны не только факты, но и то, как мы их толкуем.

Кровь на обуви Брюса Лискера – это факт, но Монсю оказался слеп к альтернативной гипотезе: она могла попасть туда, когда Брюс пытался помочь матери.

Следы могли принадлежать Брюсу – а могли быть оставлены кем-то другим.

Показания Хьюза могли означать, что Брюс действительно сознался, – или же что Хьюз просто торговался за сокращение собственного срока.

Но если вывод уже сделан, мы начинаем трактовать любые улики так, будто они подтверждают только его – и больше ничего.

Дело Брюса – отнюдь не единичный случай. Заключенные в США провели в общей сложности 30 000 лет за решеткой за преступления, в которых их позже полностью оправдали [9].

Профессора криминологии Ким Россмо и Джойслин Поллок изучили причины ошибок в 50 самых тяжких делах, где приговоры были впоследствии отменены [10]. Среди множества факторов – давление со стороны СМИ, ненадежные свидетели, ошибки в судебной экспертизе – ни один не встречался более чем в половине случаев.

Единственным явным лидером, присутствовавшим в 74 % дел, стало предубеждение подтверждения.

Мы игнорируем альтернативные гипотезы не только в уголовных делах, но и в повседневной жизни.

Профессора вроде меня с радостью верят, что образование повышает доход, и подчеркивают, что обладатели дипломов зарабатывают больше, чем те, у кого его нет. Однако более способные дети с большей вероятностью поступают в университет – и именно способности, а не образование, могут быть истинной причиной их более высоких доходов.

Мотивационные спикеры охотно цитируют отзывы последователей, чья жизнь «кардинально изменилась» после семинара. Но те, кто готов выложить сотни долларов и провести шесть часов в дороге ради выступления, скорее всего, предпринимают и другие шаги для самосовершенствования. Именно эти действия, а не пятипунктный план гуру, могли стать настоящей причиной перемен.

Во всех этих случаях придумать конкурирующие объяснения несложно – стоит лишь сохранить ясность ума. Но мы не всегда ее сохраняем: принимаем предпочтительную версию, даже не задумываясь, не кроется ли за данными что-то иное.

Как писал Фрэнсис Бэкон, один из основателей научного метода:

«Человеческое разумение, однажды приняв какое-либо мнение, тянет за собой все остальное, чтобы поддержать и согласовать с ним».

Все, что мы рассмотрели до сих пор, представляет одну форму предубеждения подтверждения, которую можно назвать наивным принятием – верой в утверждения, которые нам по душе, без проверки фактов и без вопроса о том, существуют ли альтернативные объяснения.

Но предубеждение подтверждения проявляется во многих обличьях [11]. Теперь обратимся ко второй его форме.

Опасность отрицания

20 апреля 2010 года должен был стать особенным для Deepwater Horizon – флагманской буровой платформы BP.

Семь месяцев назад Deepwater Horizon пробурила самую глубокую скважину в истории, но теперь ей предстояло решить еще более сложную задачу – создать нефтяную скважину в месторождении Маундо в Мексиканском заливе.

Проект уже задерживался на шесть недель и превысил бюджет на 58 миллионов долларов из-за нестабильных пород на дне океана, требовавших исключительно осторожного бурения.

В тот день должно было состояться двойное торжество. На борту находились руководители BP, чтобы отметить безупречную репутацию Deepwater Horizon – семь лет без единого несчастного случая с потерей рабочего времени. И, наконец-то, скважина должна была быть завершена, принеся BP добычу в 50 миллионов баррелей нефти стоимостью 5 миллиардов долларов.

Единственным оставшимся шагом перед выводом платформы было герметичное закрытие скважины. Чтобы убедиться в безопасности этого действия, необходимо провести так называемый «тест на отрицательное давление»: он проверяет, выдержит ли стальная обсадная колонна вокруг ствола скважины (только что пробуренного канала) падение давления, которое возникает, когда платформу убирают, а буровой растворii заменяют морской водой. Для этого открывают верхнюю часть бурильной трубы, снижают давление до нуля, затем снова закрывают ее и наблюдают: не начинает ли расти давление или просачиваться жидкость внутрь скважины.

При первой попытке инженеры не смогли снизить давление ниже 266 фунтов на квадратный дюйм во время стравливания; сразу после закрытия трубы оно резко подскочило до 1262.

На второй попытке показания действительно упали до нуля – но затем давление снова выросло, достигнув 773. Если это и выглядело как прогресс, то третья попытка отбросила их назад: давление вновь опустилось до нуля, а потом взлетело до 1400.

Чтобы тест считался пройденным, давление должно было оставаться на нуле. Для сравнения: давление в футбольном мяче составляет около 12, в двигателе паровоза – примерно 250. Результаты были не просто неудовлетворительными – они находились далеко за пределами допустимого.

Но «неудача» – это не тот ответ, которого ждали инженеры.

Deepwater Horizon имела безупречную репутацию на протяжении семи лет, и в их глазах тест просто не мог быть неправильным. Вместо того чтобы признать проблемы со скважиной, они решили, что неполадки – в самом испытании.

Под грузом колоссального давления – задержка проекта была уже недопустима – инженеры выдвинули альтернативное объяснение полученным результатам.

Они списали аномальные показания на так называемый «эффект мочевого пузыря»: якобы тяжелый буровой раствор в стояке (трубе, соединяющей дно и поверхность воды) оказывал давление на клапан, напоминающий мочевой пузырь, который герметично закрывает верхнюю часть бурильной колонны. Этот клапан, по их версии, передавал внешнее давление внутрь трубы, искажая результаты теста.

Это дало им повод провести испытание иным способом – не через основную бурильную колонну, а через «линию глушения», дополнительную трубу, также идущую от морского дна к поверхности. Там они получили желанный нулевой результат и объявили тест пройденным – тем самым предопределив судьбу скважины.

В тот же вечер, вскоре после того как руководители BP поздравили экипаж Deepwater Horizon с безупречной историей безопасности, газ прорвался в обсадную колонну и устремился вверх по стояку. Достигнув поверхности, он взорвался – погибли 11 человек, еще 17 получили ранения.

В течение 36 часов платформа затонула.

В море вылилось 5 миллионов баррелей нефти, нанеся ущерб восьми национальным паркам США, поставив под угрозу 400 видов животных и загрязнив 1000 миль побережья.

Местные жители и спасатели, вдыхавшие токсичную пыль и испарения, впоследствии стали страдать от рака [12], сердечно-сосудистых заболеваний [13] и хронических респираторных недугов [14].

Эта катастрофа до сих пор остается крупнейшим разливом нефти в истории США.

Случай с Deepwater Horizon иллюстрирует вторую форму предубеждения подтверждения – ограниченный скептицизм.

Если наивное принятие состоит в том, чтобы верить утверждениям, которые нам по душе, игнорируя альтернативы, то ограниченный скептицизм проявляется в отрицании данных, которые нам не нравятся, и выдумывании других объяснений вместо них.

Такое конструирование – известное как мотивированное мышление – заставляет нас хвататься за любые, даже самые неправдоподобные, альтернативные теории, лишь бы оправдать изначальную уверенность и отвергнуть неудобные свидетельства.

Официальный отчет правительства США о катастрофе прямо указал: «Не существует такого явления, как „эффект мочевого пузыря“, способного объяснить давление, наблюдавшееся экипажем платформы» [15].

Главный юрист комиссии выразился еще резче: «Каждый эксперт отрасли, с которым встретилась следственная группа, назвал так называемый „эффект мочевого пузыря“ вымыслом» [16].

Ограниченный скептицизм может проявляться даже тогда, когда альтернативного объяснения вообще не находится: мы просто отвергаем неудобную истину – без всяких оснований.

Банк Silicon Valley был главным финансовым партнером множества калифорнийских стартапов, и с 2019 по 2021 год его депозиты утроились. Свободные средства банк вложил в казначейские облигации США – актив, считающийся абсолютно надежным в обычные времена. Однако внутренние модели банка предупреждали: при росте процентных ставок эти вложения могут принести серьезные убытки.