Операционная система мышления

Это не релятивизм, не отказ от истины в пользу мнений — это понимание того, что истина сама по себе имеет структуру, зависящую от масштаба, и что поиск контекстно-независимых правил является не признаком строгости мышления, а признаком его незрелости.

Теперь я должен, как всегда, указать границу самой этой модели, потому что принцип «масштаб меняет закон» тоже имеет свой масштаб применимости. Существуют инварианты — законы, которые не меняются при изменении масштаба, или меняются настолько медленно, что в пределах интересующего нас диапазона их можно считать постоянными. Законы сохранения в физике — сохранение энергии, сохранение импульса, сохранение заряда — верны на всех известных нам масштабах, от субатомного до космологического. Второй закон термодинамики не знает исключений ни на каком масштабе.

В человеческом мире такие строгие инварианты встречаются реже, но и здесь есть свои универсалии: принцип «стимулы влияют на поведение» работает на всех масштабах, хотя конкретная форма этого влияния может различаться; принцип «ограниченные ресурсы рано или поздно заканчиваются» применим к любой системе, хотя то, что именно является ограниченным ресурсом, зависит от масштаба.

Искусство мышления состоит не в том, чтобы отрицать существование инвариантов и не в том, чтобы считать все правила инвариантными, а в том, чтобы для каждого конкретного утверждения уметь определять, к какому классу оно относится — к масштабно-зависимым или к масштабно-независимым, — и если к первому, то знать, где проходит граница. И эта способность — различать универсальное и масштабно-зависимое — сама является одним из тех редких ментальных навыков, которые не теряют своей ценности ни на каком масштабе.

В следующей главе мы обратимся к теме, которая прямо вырастает из идеи масштабной зависимости знания: если законы меняются в зависимости от масштаба, и если обратные связи делают системы принципиально труднопредсказуемыми, то что вообще означает «знать» что-либо о сложной системе? Как возможна уверенность и какова её цена? Мы перейдём от устройства реальности к устройству нашего знания о реальности, и это переход от онтологии к эпистемологии, от вопроса о том, как устроен мир, к вопросу о том, что мы можем о нём знать, и почему так часто наша уверенность в собственном знании обратно пропорциональна его точности.

Глава 6. Неопределённость и природа знания

В предыдущей главе мы установили, что законы, управляющие системами, меняются при переходе через масштабные пороги, и что правило, верное для одного масштаба, может оказаться ложным для другого. Это утверждение имеет далеко идущее следствие, которое редко проговаривается явно, но которое составляет саму сердцевину наших взаимоотношений со знанием: если законы зависят от масштаба, а масштабов бесконечно много, то наше знание всегда частично, всегда ограничено тем диапазоном, в котором мы его добыли, и за пределами этого диапазона оно перестаёт быть знанием, превращаясь в предположение, гипотезу или, что случается чаще всего, в заблуждение, которое ошибочно принимается за знание.

Это подводит нас к фундаментальной проблеме, которая занимала философов, математиков и учёных на протяжении столетий, но которая для большинства людей, принимающих практические решения в повседневной жизни, остаётся невидимой, как воздух. Проблема эта — природа неопределённости, и от того, как мы с ней обращаемся, зависит качество каждого нашего решения, каждого нашего суждения и в конечном счёте всей нашей жизни. Потому что жизнь, в отличие от учебников, не предоставляет нам задач с полным набором исходных данных и единственным правильным ответом в конце задачника. Жизнь предоставляет нам фрагменты информации, перемешанные с шумом, и требует действий в условиях, когда полная определённость недостижима в принципе.

Начнём с различения, которое является, возможно, самым важным из всего, что будет сказано в этой главе, и которое тем не менее отсутствует в ментальном инструментарии подавляющего большинства людей. Это различение между риском и неопределённостью в том смысле, который придал этим словам экономист Фрэнк Найт почти столетие назад. Риск — это ситуация, в которой мы не знаем, какой именно исход наступит, но знаем полный набор возможных исходов и их вероятности. Бросание игральной кости — это риск: мы не знаем, выпадет ли шестёрка, но мы знаем, что граней шесть, что кость симметрична и что вероятность каждого исхода равна одной шестой. На этом знании можно строить рациональную стратегию — например, страховать риски, рассчитывать ожидаемую ценность действия, принимать решения на основе математического ожидания.

Неопределённость — это ситуация иного рода: мы не знаем ни полного набора возможных исходов, ни их вероятностей, потому что ситуация уникальна или настолько сложна, что прошлый опыт не позволяет построить надёжное распределение вероятностей. Когда вы запускаете новый продукт на рынок, вы находитесь не в ситуации риска, а в ситуации неопределённости: вы не знаете, как отреагируют потребители, вы не знаете, что предпримут конкуренты, вы не знаете, не случится ли в день запуска какое-нибудь макроэкономическое потрясение, которое сделает ваш продукт неактуальным. Вы не можете приписать вероятности этим исходам, потому что у вас нет репрезентативной выборки аналогичных запусков — каждый запуск по-своему уникален, история не повторяется с точностью, достаточной для статистического анализа.

Разница между этими двумя ситуациями не количественная, а качественная, и она имеет решающее значение для того, как следует принимать решения. В ситуации риска вы можете и должны использовать инструменты теории вероятностей, статистики и математического ожидания. В ситуации неопределённости эти инструменты дают иллюзию точности, но не саму точность, потому что числа, которые вы подставляете в формулы, не являются измерением реальности — они являются вашими предположениями о реальности, и если эти предположения ошибочны, то результат вычислений будет не просто неточным, а вводящим в заблуждение.

Хуже того, сам факт выполнения вычислений создаёт ощущение обоснованности, которое подавляет сомнения, и это ощущение тем сильнее, чем сложнее была математика. Финансовый кризис две тысячи восьмого года был во многом кризисом именно этой ошибки: математические модели оценки риска ипотечных ценных бумаг были построены так, как будто дефолты по ипотекам являются независимыми событиями с известной вероятностью, в то время как в реальности они были сильно скоррелированы в хвостах распределения, то есть в тех самых редких, но катастрофических сценариях, которые модели считали практически невозможными.

Риск‑менеджеры спутали неопределённость с риском, применили инструменты, созданные для одного типа ситуаций, к ситуации другого типа — и результатом стала крупнейшая экономическая катастрофа со времён Великой депрессии. Похожие ошибки приводили к тяжёлым последствиям и в других экономиках: в России в 1998 году дефолт и девальвация вскрыли уязвимость финансовой системы, построенной на упрощённых моделях устойчивости, а в Японии затяжной «потерянный период» после пузыря 1989–1990 годов показал, как неадекватные модели долго маскируют нарастающую неопределённость. Во всех этих случаях проблема была не в отсутствии расчётов, а в том, что расчёты опирались на неверную природу ситуации — и тем самым лишь усиливали риски, которые должны были сдерживать.

Теперь поднимемся на более высокий уровень абстракции и спросим: а что вообще значит «знать» что-либо о мире, в котором будущее не детерминировано прошлым, в котором наши измерения всегда содержат погрешность, в котором сама структура реальности на фундаментальном уровне вероятностна, как утверждает квантовая механика? Этот вопрос может показаться сугубо философским, не имеющим отношения к практической жизни, но это впечатление обманчиво. То, как мы отвечаем на вопрос о природе знания — даже не формулируя этот ответ явно, даже не осознавая, что у нас есть какая-то философия знания, — определяет, как мы реагируем на новую информацию, как мы обновляем свои убеждения, как мы относимся к экспертным мнениям и как мы оцениваем качество собственных решений задним числом.

Большинство людей действуют, исходя из неявной теории знания, которую можно назвать дихотомической или бинарной: утверждение либо истинно, либо ложно; знание либо есть, либо его нет; эксперт либо прав, либо ошибается. Эта теория проста, интуитивно понятна и совершенно неадекватна реальности, в которой практически все интересные утверждения истинны с некоторой вероятностью, не равной ни нулю, ни единице, и в которой знание не дихотомично, а спектрально — это не точка, а распределение, и качество нашего знания определяется не тем, насколько мы уверены, а тем, насколько хорошо это распределение соответствует реальной структуре мира.

Лучшей из известных мне метафор для понимания истинной природы знания является метафора карты и территории, введённая Альфредом Коржибским и популяризированная многими последующими мыслителями. Знание — это не сама реальность, а её отображение, карта, которая всегда проще, всегда беднее деталями и всегда содержит упрощения и искажения по сравнению с территорией.

Это не недостаток, который можно когда-нибудь исправить, создав идеальную карту, — это фундаментальное свойство любого отображения. Карта, которая была бы равна территории во всех деталях, была бы бесполезной как карта, потому что она была бы такой же сложной, как сама территория, и ориентироваться по ней было бы так же трудно, как по самой территории. Карта полезна именно тем, что она отбрасывает детали, оставляя только то, что существенно для навигации. Но за эту полезность мы платим риском: то, что карта сочла несущественным и отбросила, может в какой-то момент оказаться критически важным, и тогда карта подведёт нас именно там, где мы больше всего на неё полагаемся.