ПАРАДОКСЫ МЫШЛЕНИЯ. Почему разум ошибается, искажает реальность и всё же помогает нам выживать

Андрей Петрушин

ПАРАДОКСЫ МЫШЛЕНИЯ. Почему разум ошибается, искажает реальность и всё же помогает нам выживать

ПАРАДОКСЫ МЫШЛЕНИЯ

Почему разум ошибается, искажает реальность и всё же помогает нам выживать

Андрей Петрушин

Введение. Самая странная машина во Вселенной

Мозг решает сложные задачи, но иногда путает входные данные, достраивает недостающее и принимает решения по обрывкам информации. Он позволяет строить планы на годы вперёд и исследовать собственное устройство — и всё равно не даёт гарантии от ошибок даже самому подготовленному человеку. Как способность понимать мир сочетается со способностью уверенно заблуждаться? Этому вопросу посвящена книга.

Мы привыкли доверять своему восприятию: если видим событие и помним его, значит, знаем, что произошло. Но восприятие и память включают отбор и интерпретацию. Наш разум похож на художника, который пишет картину по мотивам увиденного. Эта картина связана с реальностью, однако не воспроизводит её без изменений.

Мозг не только воспринимает происходящее, но и связывает события в истории. Мы ищем причины, строим ожидания и пытаемся понять, что случится дальше. Это помогает ориентироваться, но иногда связная история кажется убедительной раньше, чем мы успеваем проверить её основания.

Вы просыпаетесь утром, планируете день, вспоминаете вчерашний разговор и предвкушаете чашку кофе. Из памяти, ожиданий и текущего состояния складывается ваша версия происходящего. Она может быть точной в одних деталях и ошибочной в других. Важно научиться замечать, где наблюдение заканчивается и начинается его объяснение.

Мы обычно замечаем результат этой работы, а не все шаги, которые к нему привели. Поэтому готовая интерпретация легко принимается за непосредственное знание: человек не ответил — значит, сердится; мысль пришла быстро — значит, верна. В книге мы будем возвращаться к различию между тем, что произошло, и тем, какой смысл мы этому придали.

Цель книги — понять, в каких условиях привычные способы мышления помогают, а в каких подводят. Мы не сможем сделать каждое решение безошибочным, но можем научиться соразмерять уверенность с основаниями и выбирать, когда нужна дополнительная проверка.

Отдельная часть посвящена ситуациям, когда изменения мышления становятся устойчивыми и существенно мешают жизни. Здесь особенно важно не смешивать обычную ошибку, эмоциональное состояние и психическое расстройство: механизм объясняет форму трудности, а не её лечение — для этого нужна отдельная, профессиональная помощь.

Сначала мы рассмотрим, как возникают восприятие, внимание и воспоминания. Затем — как мы оцениваем вероятности и принимаем решения. Дальше разберём, как на мышление влияют эмоции, личный опыт, устойчивые различия между людьми и другие люди — и как из всего этого складываются убеждения, которые так трудно поколебать. После разговора о нарушениях мышления вернёмся к парадоксам, различая установленные закономерности, модели и вопросы, на которые пока нет окончательного ответа. Последняя часть посвящена способам проверять выводы и действовать при неполной информации.

Простые задачи с легко проверяемым правильным ответом позволяют увидеть главное затруднение: способность рассуждать ещё не гарантирует, что мы воспользуемся ею в нужный момент.

ЧАСТЬ I. КАК МОЗГ СОЗДАЁТ РЕАЛЬНОСТЬ

Закройте на секунду глаза и спросите себя: что из того, что я вижу прямо сейчас, я знаю наверняка, а что мой мозг просто достроил за меня? Большинство людей, услышав такой вопрос, разведут руками — конечно, я вижу, что вижу, какие тут вообще сомнения. И именно с этой уверенности начинается самая важная часть книги.

Эта часть — про самый незаметный шаг мышления: превращение сырых сигналов в ощущение, что вы видите мир как он есть, без обработки и посредников. Мы привыкли считать восприятие прозрачным окном в реальность, а не инструментом, который что-то делает с сигналом. Задача первых глав — разбить это ощущение прозрачности. Не ради паранойи, а чтобы вы начали замечать работу, которая остаётся незамеченной именно потому, что сделана хорошо.

Начнём с показательного, слегка обидного парадокса: способность решать сложные задачи логически редко включается сама именно тогда, когда нужна больше всего. Умные, образованные люди ошибаются там, где могли бы всё проверить за несколько секунд. Между быстрым ответом, который выскакивает сам, и намеренной сверкой его с условиями задачи лежит отдельное сознательное усилие — и именно его не хватает. Эту разницу мы будем использовать как рабочий инструмент до последних страниц.

Затем придётся спросить, почему мышление вообще допускает ошибки, если оно помогает нам выживать. Ответ отчасти неприятный: эволюция не ставила цели создать аппарат для постижения истины, ей нужно было выжить и оставить потомство, и точность оказалась лишь одним из рабочих инструментов, причём не всегда самым важным. Иногда скорость и удобство важнее дотошной точности, иногда экономия на проверке обходится слишком дорого.

Основной тезис части: мы не воспринимаем мир напрямую, а живём внутри его модели, построенной из ощущений, отобранной информации, интерпретаций и прогнозов и слепленной в единую, на первый взгляд убедительную картину. Границы этой модели видны в зрительных иллюзиях и в эксперименте с невидимой гориллой: здоровое восприятие пропускает то, что после объяснения кажется невозможным не заметить. Тот же принцип действует и в обратную сторону: мы находим то, что ищем, а сама установка на поиск незаметно формирует картину, которую мы считаем объективной.

С восприятия принцип переходит на память: воспоминание — не запись, которую можно просмотреть заново, а каждый раз заново собираемая реконструкция, и самая яркая, уверенная, детальная память не обязательно самая точная. Общий механизм за всем этим — предиктивная обработка: мозг не столько принимает сигналы снаружи, сколько подгоняет их под собственные ожидания. Последняя глава части показывает, как эта логика выходит за пределы восприятия: ожидание меняет не только то, что мы замечаем и помним, но и то, что происходит в реальности, — через наши действия, которые оно направляет.

К концу части станет ясно одно: ошибка восприятия — почти неизбежный побочный эффект устройства, которое в целом справляется с работой неплохо, учитывая, сколько ему приходится обрабатывать одновременно. Вопрос не в том, можно ли полностью довериться этой модели: доверять придётся, другой у нас нет. Вопрос в том, когда и как её стоит проверять, прежде чем принимать на её основании важные решения.

Глава 1. Почему умные люди совершают глупые ошибки

Прежде чем читать дальше, сделайте паузу и решите несколько простых задач. Не спешите, но постарайтесь запомнить первый пришедший в голову ответ. Первая: бита и мяч вместе стоят 110 рублей. Бита дороже мяча на 100 рублей. Сколько стоит мяч? Вторая: пять машин за пять минут изготавливают пять деталей. Сколько минут потребуется ста машинам, чтобы изготовить сто деталей? Считайте, что машины работают независимо и с одинаковой производительностью. Третья: на пруду растут лилии. Каждый день их количество удваивается. Через сорок восемь дней лилии покроют весь пруд. Через сколько дней они покроют половину пруда? Это задачи из теста когнитивной рефлексии Шейна Фредерика; валюта в примере изменена. [1]

Ну как? У вас есть ответы? Запомните их. Особенно первый. Если вы ответили, что мяч стоит десять рублей, вы выбрали правдоподобный, но неверный ответ. Правильный ответ, как вы уже, наверное, догадались после секунды размышления, — пять рублей. Мяч стоит пять рублей, бита сто пять, вместе сто десять, а разница ровно сто. Всё сходится. Почему же мозг так упорно шепчет это коварное число десять?

Для первого объяснения нам пригодится различие между быстрым автоматическим ответом и намеренной проверкой. Быстрый ответ возникает без развёрнутого расчёта: вы узнаёте знакомое лицо или понимаете привычную фразу. Проверка требует удержать условия задачи и сопоставить с ними решение. В главе 11 мы подробно разберём модель быстрого и медленного мышления; пока важно увидеть, как первый ответ может остаться без проверки.

Если в задаче «бита и мяч» вам первым пришёл ответ «десять», возможное объяснение — поспешное вычитание 100 из 110. Такая догадка даёт пару сто и десять, но не выполняет условие «на сто дороже»: сто больше десяти лишь на девяносто. Несоответствие обнаруживается при подстановке, хотя сам ответ не говорит, что происходило в голове: человек мог не заметить конфликт, заметить его и не разрешить, или решить задачу иначе. [1, 2]

Вот в чём ловушка: лёгкость, с которой приходит ответ, иногда принимается за признак правильности. Но она может сопровождать и привычный навык, и правдоподобную ошибку. Вспомните имя актёра, которое вертится на языке: ощущение знакомости ещё не даёт нужного имени. С задачей то же самое: сопоставление с условиями — настоящая проверка, одна лишь уверенность ею не является.

Если вы ответили на вторую задачу «сто минут», а на третью «двадцать четыре дня», эти ответы тоже не выдерживают проверки. Правильные ответы — пять минут и сорок семь дней: если машины работают независимо и с одинаковой производительностью, увеличение числа машин и деталей во столько же раз не меняет время работы, а лилии покрывают половину пруда ровно за день до полного покрытия. Во всех трёх задачах правдоподобная догадка может остаться без проверки — в этом сбое задачи схожи, а вот причины у разных людей разные: кто-то спешит, кто-то не разводит общий рост и общее время, кто-то просто не пересчитывает первую реакцию. Психологи Балаж Баго и Вим Де Нейс показали: часть людей, ответивших верно, делает это почти мгновенно, без развёрнутого расчёта, — быстрый ответ, в противовес распространённому мнению, не обязательно ошибочен, он иногда уже содержит верную проверку. [1, 2]

Почему человек, умеющий решать такие задачи, всё же может ошибиться? Способность проверить ответ и решение воспользоваться этой способностью — разные вещи. Если первый ответ кажется очевидным, проверка может не начаться. Поэтому ошибка в такой задаче говорит о сбое проверки, не об интеллекте: включать её приходится отдельно, даже когда интеллект высок.

За пределами головоломок первый ответ тоже способен направить дальнейшее рассуждение. Житейские ошибки, однако, не сводятся к одному механизму: поспешная догадка, защита убеждения и привязанность к прошлым затратам — это разные истории, и объяснять их стоит по отдельности. Пока посмотрим, как непроверенная интерпретация возникает в обычном общении.

Вы приходите утром в офис, открываете почту и видите сообщение от коллеги, которое вас задевает. В голове мгновенно вспыхивает: «Он опять пытается меня подставить». Дальше вы весь день смотрите на этого человека через эту линзу, замечаете только то, что подтверждает вашу гипотезу, и в итоге вступаете в конфликт, который разрушает командную работу. А если бы вы остановились и перечитали письмо, возможно, увидели бы просто неудачную формулировку. Точно так же происходит, когда начальник просит переделать отчёт. Первая мысль — «он придирается, хочет меня унизить», и вы уже настроены на борьбу или обиду. Но если дать себе минуту и проверить, может быть, в отчёте действительно есть ошибка, которую стоит исправить. В этом примере обидная версия возникает первой — убедительность не делает её верной. Проверка начинается с вопроса, какие наблюдения её подтверждают и какие допускают другое объяснение.

А теперь отношения. Партнёр пришёл домой хмурый, не сказал ни слова, и вы уже придумали сценарий — он меня разлюбил, я что-то сделал не так, у него кто-то есть. Вы обиделись или разозлились. А через час выясняется, что у человека сломалась машина по дороге, он устал и голоден. Тревожная интерпретация здесь опередила разговор и, сложись обстоятельства иначе, вполне могла бы усилить конфликт — так ссора разворачивается в одном из множества возможных вариантов. Вопрос «Что с тобой?» позволяет получить сведения, которых в первоначальной догадке не было.

Если вы узнали себя в этой ловушке, можно попробовать проверять первые ответы. Интуиция способна подсказать и верное решение, и ошибку. В когнитивно-поведенческой терапии учатся замечать и оценивать автоматические мысли: какие у мысли основания и есть ли другое объяснение? Это инструмент для разбора конкретной мысли, и применять его к каждой бытовой мелочи смысла нет. В задаче проверка проста: если мяч стоит десять, то бита стоит сто десять, а вместе — сто двадцать. Условие не выполняется. Такая подстановка даёт основание исправить ответ. [104]

При этом не всякая неприятная автоматическая мысль ошибочна: конкретная критика работы, например, вполне может оказаться справедливой. А вот «я ничего не умею» после одной неудачной встречи — уже обобщение, которое единственный случай не обосновывает. Проверять стоит содержание и основания мысли, не скорость её появления или силу вызванного чувства.

Автоматические ответы будут возникать, и это нормально. Интуиция и привычные навыки помогают выполнять знакомые действия без подробного разбора каждого шага. Проверять каждую мелочь непрактично. Но когда цена ошибки велика — в деньгах, отношениях, здоровье, важных выводах о себе или других людях, — полезно предусмотреть проверку. Но даже долгое обдумывание не всегда ведёт к правильному выводу.

Задачи показали, как правдоподобный ответ проходит без проверки. Быстрые решения остаются полезными — но тут встаёт следующий вопрос: почему мышление устроено так, что скорость и удобство могут оказаться важнее точности, и в каких условиях эти способы обработки информации действительно работают?

Глава 2. Почему точность мышления зависит от задачи

Если мышление помогает ориентироваться в мире, почему оно допускает ошибки? В предыдущей главе мы увидели, что правдоподобный ответ может возникнуть раньше проверки. У такого устройства есть и возможная польза — решение оценивается не только по точности, но и по тому, позволяет ли оно вовремя действовать, — не превращая это наблюдение в оправдание: не всякая сегодняшняя ошибка когда-то была полезной адаптацией.

У эволюции нет плана создать аппарат для постижения истины. Естественный отбор связан с различиями в выживании и размножении, а точное восприятие среды помогает и тому, и другому — значит, истина для организма отнюдь не безразлична. Мозг участвует в управлении телом и решении практических задач; используемые им способы обработки информации имеют ограничения. Полезная модель мира не обязана описывать все детали, но должна достаточно точно отражать свойства, существенные для действия. При встрече с возможной опасностью значение имеет и вероятность угрозы, и цена промедления, и цена ложной тревоги. [3, 4]

Страх змей и пауков иногда объясняют эволюционной готовностью замечать угрозы или быстрее научаться их избегать. Но обнаружение, научение и собственно страх — разные явления: современная реакция не рассказывает сама по себе историю своего происхождения и не делает любую фобию врождённой. Одна из гипотез объясняет перестраховку разной ценой пропущенной угрозы и ложной тревоги. Однако ложные тревоги тоже могут дорого обходиться: ограничивать деятельность, поддерживать избегание и причинять страдание. Полезность перестраховки зависит от условий, и возводить её в универсальное оправдание для любой тревоги не стоит. Обзор исследований по развитию («Fear in Infancy») показывает: уже в младенчестве дети быстрее замечают взглядом изображения змей и пауков среди нейтральных картинок, хотя сам сильный страх перед ними обычно формируется позже и не у каждого ребёнка. [3]

Оптимистичная оценка собственных возможностей может поддерживать готовность пробовать. Но полезность такого ожидания и его точность — разные вопросы, а готовность пробовать не обязательно требует самообмана. Когда говорят, что многие считают себя «выше среднего», само это выражение ещё не содержит логического противоречия — противоречие, если оно есть, нужно искать в том, какое качество имеется в виду, как его измерили и что здесь значит «среднее».

Рационализация — объяснение, которое помогает оправдать уже принятое решение, — показывает другую сторону этого компромисса. Охотник, объясняющий промах помехой извне, сохраняет уверенность и желание попробовать снова — это рисует возможную пользу самооправдания, но не доказывает его эволюционное происхождение. Сохранённая уверенность может помочь действовать, но мешать учиться, если объяснение закрывает путь к проверке ошибки.

Есть у самообмана и социальное измерение. Согласно теоретической гипотезе Уильяма фон Хиппеля и Роберта Триверса (а не установленному закону поведения), он может облегчать убеждение других: искренняя уверенность способна скрывать сомнения. Доверие и репутация, впрочем, строятся не на одной уверенности — признание сложности ничуть не мешает человеку оставаться лидером. Значение имеют компетентность, действия и возможность проверить слова. [5]

У подробного сравнения есть издержки: оно требует времени и внимания, а перебрать в повседневной жизни все возможные объяснения и последствия мы не можем. Этого достаточно, чтобы поставить вопрос о пользе быстрых правил. Часто говорят проще: мозг экономит энергию, поэтому и полагается на быстрые правила. Как объяснение это слишком грубо: прямых доказательств тому, что интуитивная работа почти ничего не стоит, а всякая проверка резко увеличивает потребление глюкозы, нет.

Компромисс между скоростью и точностью зависит от задачи. Если промедление опасно, быстрая реакция на возможную угрозу полезнее подробного разбора. Если решение можно отложить и проверить, та же поспешность вредит. Эвристиками называют упрощённые правила, позволяющие решать без полного перебора вариантов. Но польза эвристик привязана к условиям: на других задачах те же правила подводят.

Герберт Саймон описал поиск достаточно хорошего решения — satisficing. Человек может прекратить поиск, когда найдёт вариант, отвечающий важным для него требованиям. Это как в магазине: можно подробно сравнивать товары, а можно взять подходящий по основным параметрам. Такой выбор не всегда самый простой и не всегда уменьшает число сожалений — перед нами один из возможных способов ограничить поиск, из тех многих, какими пользуются при разных решениях. [4]

Практическая задача определяет, какая точность нужна. Чтобы решить, можно ли есть ягоды, не обязательно знать все их свойства, но важно правильно оценить съедобность. Следовательно, ограниченность описания не равна его ложности: модель может отбирать существенное и сохранять точность именно в нужном отношении.

Разные стратегии обработки информации подходят для разных задач. Быстрая реакция на безвредного паука может объясняться перестраховкой — объяснение происхождения реакции, впрочем, не делает самого паука опасным. Полезность реакции и точность представления — разные критерии. Это различие позволит нам говорить об ошибках, не объявляя мышление в целом неисправным.

То же требование относится и к этой главе. Объяснение через адаптацию стоит оценивать по основаниям и границам применимости — само по себе «звучит полезно» в качестве довода не годится. Вопросы «верен ли вывод?» и «помогает ли он действовать?» связаны, но один не заменяет другой.

Оглянитесь вокруг: мышление помогает решать конкретные практические задачи, и поиску истины это не противоречит — точные сведения часто нужны именно для действия. Посмотрим, как поспешные интерпретации и привычные способы выбора могут помогать в одних условиях и мешать в других.

Вот сцена: вы приходите на вечеринку, видите смеющуюся группу и думаете: «Они смеются надо мной». Вам неловко, вы вспоминаете свою одежду и слова. А затем выясняется, что кто-то рассказал анекдот. Здесь неоднозначная ситуация получила тревожное объяснение раньше, чем появились достаточные сведения. Можно предполагать роль ожиданий, прошлого опыта или опасения отвержения — сценка иллюстрирует сам механизм, а разбираться в его единой древней причине она не берётся. Проверить, что произошло, полезнее, чем заранее считать тревогу верной или эволюционно оправданной.

Когда вы чистите зубы, завязываете шнурки или идёте знакомым маршрутом, привычное действие требует меньше сознательного контроля — но «меньше усилия» тут не то же самое, что измеренная экономия энергии мозга. Привычная реакция на критику повторяется, но не включается на автомате при каждом недовольстве. Менять поведение трудно из-за навыка, эмоций, ожидаемых последствий и условий жизни. Знакомый выбор хлеба, например, облегчает покупку, но мешает заметить более подходящий вариант. Для сложных решений — о работе или отношениях — одного объяснения привычкой тем более недостаточно.

При чтении новостей прежняя позиция может влиять на то, какие доводы мы принимаем и насколько строго проверяем сообщение. В литературе это рассматривается в связи с мотивированным рассуждением: иногда человек защищает желаемый вывод, словно адвокат, вместо того чтобы одинаково оценивать доводы за и против. При покупке машины можно сначала увлечься моделью и затем подбирать оправдания, а можно изменить предпочтение после сравнения данных. Проверка здесь простая: одинаковые ли требования мы предъявляем удобной и неудобной информации, — а сама по себе эмоция вопроса не решает. Психолог Зива Кунда, описавшая мотивированное рассуждение в обзоре 1990 года, формулирует это так: к удобным выводам мы предъявляем куда меньше требований, чем к неудобным. [155]

Понимание ограничений помогает проверять решение без самообвинения. Но не любой ошибочный выбор был оптимальным когда-то, и не любой поступок объясняется одним и тем же древним механизмом. Полезнее спросить: какая информация была доступна, что осталось без проверки и что можно изменить в следующий раз? Напоминания, записи и пауза перед важным решением становятся внешними опорами там, где одного намерения быть внимательнее мало.

Мышление помогает действовать с ограниченными данными. Поэтому вопрос о точности требует уточнения: точности для какой задачи и при какой цене ошибки?

Глава 3. Мы живём внутри модели мира

Стоп. Сделайте паузу. Прямо сейчас, не перелистывая дальше, оторвитесь от текста и медленно осмотритесь вокруг. Комната, в которой вы находитесь. Свет из окна или лампы, предметы на столе, стены, дверь, лица людей рядом или их отсутствие. Всё это кажется таким плотным, настоящим, несомненным. Обычно мы доверяем своим глазам и не проверяем каждое впечатление. С детства вам говорят: я вижу своими глазами, значит, так оно и есть. Но сейчас я попрошу вас усомниться в этой очевидности настолько глубоко, насколько вы вообще способны.

Вы смотрите на мир, и это восприятие зависит от обработки сигналов. Физический мир существует, он никуда не делся. Свет попадает на сетчатку, где начинается преобразование и обработка информации; далее сигналы передаются по зрительным путям. Цветной картинки в нервных импульсах нет — зато в их организации уже содержится информация о внешнем воздействии, это не бессмысленные точки. Сравнение мозга с художником помогает представить активность восприятия, хотя внутри головы нет подробной картины, которую кто-то разглядывает. Это подтверждают обзоры Чеза Файрстоуна и Брайана Шолля о пределах влияния знания на восприятие и Рут Розенхольц о возможностях периферического зрения. [6, 7]

Посмотрите на край стола, частично закрытый рукой: вы можете воспринимать стол как целый предмет, хотя часть контура не видна. Это пример того, как восприятие связывает доступные признаки. Показать читателю «сырую реальность» без всякой обработки и описать, как она выглядела бы, мы не можем. Устойчивость видимого мира — это и есть работа восприятия, а не признак того, что мозг постоянно дорисовывает каждую деталь. [7]

На сетчатке есть слепое пятно — место выхода зрительного нерва, где нет фоторецепторов. Обычно мы не видим там чёрной дыры. Для демонстрации нужна небольшая метка сбоку от точки фиксации и подходящее расстояние: большой палец может оказаться слишком крупным, поэтому его исчезновение не гарантировано. Другая особенность зрения: мелкие детали различаются лучше в центре взгляда. На периферии они менее чёткие, но боковое зрение всё же сообщает о пространстве, движении и общей структуре сцены. Переводя взгляд, мы получаем новые сведения, и именно из этого складывается ощущение цельной страницы — а не из того, что в мозге хранится подробная «внутренняя фотография» или что всё за пределами точки фиксации — чистая догадка. [7]

Посмотрите на цветную вещь, например на оранжевую кружку. Физические свойства света и субъективное ощущение цвета — разные уровни описания одного восприятия. Зависимость ощущения от работы органов чувств не делает его произвольным или обязательно неверным. Здесь важна граница между двумя вопросами: как возникает переживание и насколько точно мы различили свойства предмета, — первое не отвечает на второе.