Принцип «черного ящика». Как превратить неудачи в успех и снизить риск непоправимых ошибок

К 2005 г. на основании ДНК-тестов были отменены более трехсот приговоров [93]. При условии наличия генетического материала клиенты проекта «Невиновность» (благотворительной организации, помогающей узникам тюрем доказать, что те невиновны) освобождались почти в половине случаев.

Эти освобождения подняли множество вопросов. Почему полиция задерживала не тех подозреваемых? Отчего свидетели указывали на невиновных? Почему используемые полицией методы допроса приводили к ошибочным выводам? Почему суды не сумели оправдать тех, кто не совершал преступления? И как все это можно изменить?

И главный вопрос: какие выводы можно сделать о системе правосудия в целом? Тесты ДНК касаются лишь небольшой группы дел (изнасилования, убийства и т. п., когда следствие находит и сохраняет генетический материал). Что можно сказать об остальных делах и об осужденных преступниках, которые не в состоянии доказать свою невиновность на основании генотипоскопии? Сколько безвинных людей сидят за решеткой?

Объективно ответить на этот вопрос трудно, но Сэмюэль Р. Гросс, профессор юридического факультета Мичиганского университета, приходит к следующему выводу: «Если бы дела приговоренных к тюремному заключению рассматривались так же тщательно, как дела приговоренных к высшей мере наказания, за последние 15 лет [в США] были бы оправданы 28 500 заключенных, а не 255 человек, приговоры которых были пересмотрены» [94].

Данный вывод не должен нас удивлять. Системы, не работающие с ошибками, не развиваются. «Картина достаточно ясна, – писал адвокат Барри Шекк. – Система уголовного правосудия – вся, от полицейского участка до Верховного суда, – являет собой просто невероятный кавардак… Исследователи Колумбийского университета пишут, что два из каждых трех смертных приговоров, которые были вынесены между 1973 и 1995 гг., нарушали конституцию и впоследствии отменялись судами» [95].

В 2005 г. адвокаты, представлявшие Хуана Риверу, добились применения теста ДНК. К тому времени Ривера находился в заключении почти 13 лет. Он с нетерпением ждал результатов тестирования, которые могли пролить свет на то, что произошло в Уокигане, штат Иллинойс, в 1992 г.

24 мая пришли результаты теста. Они доказывали, что сперма, найденная в теле Холли Стейкер, не могла принадлежать Ривере. Сначала тот был вне себя от радости: он никак не мог поверить в то, что его оправдают, что теперь никто не станет обвинять его в совершении чудовищного преступления и о его невиновности узнает вскоре весь мир. Он сказал адвокатам, что «ходит по воздуху». Он праздновал скорое освобождение в своей тюремной камере.

Но история на этом не закончилась. На деле она даже не собиралась заканчиваться. Ривера провел в тюрьме еще шесть лет. Почему? Вспомните о полиции. Думаете, полицейские с готовностью признали свою ошибку? Может быть, обвинение согласилось с тем, что сделало неверные выводы? Была ли вся система готова к тому, чтобы признать: тест ДНК может выявить ее слабые места?

Больше всего в случае с приговорами, отмененными благодаря генотипоскопии, обескураживает вовсе не то, что тесты ДНК освобождают из тюрем невиновных, а то, сколь мучительно трудно доказать системе правосудия, что эти тесты что-то значат, – и как эта система на всех уровнях отбивается от доказательств того, что она далеко не совершенна.

Как это получилось? Отчего отрицание ошибки укоренилось в людях и системах столь глубоко? Чтобы понять это, посмотрим на работы Леона Фестингера, может быть наиболее влиятельного социолога за последние полвека. Проведенное им исследование маленького религиозного культа в Чикаго приоткрыло завесу тайны над склонностью людей к замкнутым циклам.

3

Осенью 1954 г. Фестингер, работавший в то время в Университете Миннесоты, наткнулся на необычный заголовок в местной газете: «Пророчество с планеты Кларион взывает к городу: бегите грядущего потопа». Статья рассказывала о домохозяйке Мэрион Кич[21], утверждавшей, что она вступила в психический контакт с богоподобным инопланетным существом. Оно сообщило Кич, что конец света настанет утром 21 декабря 1954 г.

Кич предупредила друзей о надвигающейся катастрофе, и некоторые из них ушли с работы, покинули дома и, невзирая на протесты семей, переехали к женщине, которая стала к тому времени их духовным лидером. Она говорила им, что истинные верующие в полночь перед светопреставлением спасутся на космическом корабле – якобы тот спустится с небес и подберет их в саду домика Кич на окраине Мичигана.

Фестингер, будучи амбициозным ученым, сразу ухватился за редкую возможность. Если бы он разузнал о секте побольше и смог внедриться в нее, может быть, даже проникнуть в дом Кич, он получил бы шанс наблюдать за тем, как меняется поведение этой группы людей по мере приближения «конца света». В частности, Фестингеру очень хотелось узнать, как верующие поведут себя, когда пророчество не сбудется.

Ответ на этот вопрос может показаться самоочевидным: естественно, каждый из них вернется к прежней жизни. Они осознают, что Кич – обманщица, которая не контактировала ни с каким божеством. Какой еще вывод можно сделать, если окажется, что пророчество не сбылось? Трудно вообразить более откровенную неудачу и самой Кич, и тех, кто ей доверился.

Однако Фестингер предсказал совсем другую реакцию. Он предполагал, что группа не отречется от Кич и их вера в нее останется непоколебимой. Более того, Фестингер считал, что после провала люди будут верить Кич даже больше, чем раньше.

В начале ноября Фестингер и его коллеги стали звонить Кич и пытаться втереться к ней в доверие. Один из них придумал историю о том, что якобы получил сверхъестественное откровение, когда путешествовал по Мексике, другой притворялся бизнесменом, заинтригованным газетной статьей. К концу ноября ученые проникли в секту Кич, получили прибежище в ее доме и принялись наблюдать за маленьким сообществом, уверенным в том, что конец света вот-вот наступит.

Назначенный час апокалипсиса пробил, а космический корабль так и не прилетел. Потопа тоже не было. Фестингер и его коллеги наблюдали за реакцией людей в гостиной (супруг Кич, не принадлежавший к числу верующих, ушел в спальню и безмятежно проспал всю ночь до утра). Поначалу члены секты то и дело выбегали в сад, чтобы посмотреть, не приземлился ли корабль. Когда часы пробили полночь, они помрачнели и погрузились в молчание.

Однако вскоре их уверенность в себе возродилась. Как и предсказывал Фестингер, вера самых стойких членов секты ничуть не пострадала от неудачи, которая вроде бы должна была ее уничтожить. Напротив, в некоторых вера, казалось, стала крепче.

Как такое может быть? Ведь Кич потерпела недвусмысленную неудачу. Она говорил, что мир погибнет, а космический корабль спасет истинно верующих. Не случилось ни того ни другого. Члены секты должны были изменить отношение к сверхъестественным предвидениям Кич. Вместо этого они изменили свое отношение к «фактам».

Фестингер в книге «Когда не сбылось пророчество» (When Prophecy Fails) [96] пишет, что последователи Кич попросту интерпретировали неудачу по-другому. «Наша вера так впечатлила богоподобное существо, что оно решило дать планете второй шанс, – провозгласили они (я утрирую, но самую малость). – Мы спасли мир!» Вместо того чтобы отказаться от культа, наиболее стойкие сектанты стали набирать в него новых верующих. По словам Фестингера, «крошечная группа людей, которая не смыкала глаз всю ночь, породила столько света, что Бог спас мир от уничтожения». Сектанты «праздновали победу».

Этот пример важен не тем, что объясняет поведение сектантов, а тем, что раскрывает правду о каждом из нас. Фестингер показал, что подобная реакция, пусть и в экстремальной ситуации, обусловлена универсальными психологическими механизмами. Сталкиваясь с фактами, которые ставят под сомнение глубоко укоренившиеся в нас убеждения, мы скорее перетолкуем факты, чем откажемся от убеждений. Мы придумываем новые причины, оправдания и объяснения. Иногда мы вообще игнорируем реальность.

Отвлечемся на время от религиозных культов и рассмотрим такую приземленную вещь, как политика. В частности, вспомним о войне в Ираке. Пока конфликт только надвигался, политики оправдывали военное вмешательство в дела Ирака в основном тем, что иракские власти якобы располагают оружием массового уничтожения. Лидеры по обе стороны Атлантики заявляли о том, что, поскольку Саддам Хусейн располагает складами с таким оружием, необходима военная операция. Проблема в том, что уже в 2003 г. стало ясно: никакого оружия массового уничтожения в Ираке нет.

Тем, кто поддерживал политику нападения на Ирак, осознать этот факт было непросто. Получалось, что их суждения ошибочны. Многие очень долго потом доказывали, что без вторжения было не обойтись, и заступались за правителей, поддерживавших это решение. Вера таких людей в необходимость военной операции была очень сильна. Отсутствие оружия массового уничтожения не обязательно означало, что вторжение было ошибкой, но по меньшей мере подрывало его легитимность – ведь оружие было главным аргументом сторонников вторжения.

Нам, однако, интересно не то, нужно было вторгаться в Ирак или нет, а то, как разные люди реагировали на новые факты. Реакция была поразительной. Согласно опросу Knowledge Networks, результаты которого опубликованы в октябре 2003 г. [97], больше половины республиканцев, голосовавших за Джорджа Буша-младшего, эти факты попросту проигнорировали. Они сказали, что уверены в том, что оружие нашли на самом деле.

Вот что писал об этом организатор опроса: «Некоторых американцев их желание поддержать войну привело к тому, что они не воспринимают информацию, по которой оружие массового уничтожения не обнаружено. Учитывая интенсивное освещение новостей на эту тему в прессе и высокий уровень интереса общественности, подобные масштабы заблуждения [поразительны]».

Вы только подумайте: сообщений об отсутствии оружия массового уничтожения будто бы не было! Люди смотрели новости, видели репортажи о том, что такого оружия в Ираке нет, но сумели об этом забыть. А вот сторонники Демократической партии были отлично осведомлены о том, что оружие массового уничтожения найти не удалось. У многих из тех, кто был против войны, этот факт отложился в памяти сам собой. Но больше половины республиканцев о нем даже не помнили!

Внутреннее напряжение, которое мы ощущаем, когда наши убеждения оспариваются фактами, Фестингер назвал «когнитивным диссонансом». Большинству из нас нравится думать, что мы рациональны и умны. Мы уверены, что выносим здравые суждения. Нам неприятна мысль о том, что мы можем заблуждаться. Вот почему, когда мы допускаем промах, особенно крупный, под угрозой оказывается наша самооценка. Мы испытываем дискомфорт и раздражаемся.

В подобных обстоятельствах у нас есть два варианта действий. Первый – согласиться с тем, что наши первоначальные суждения могли быть ложными. В этом случае мы спрашиваем себя: может, довериться лидеру секты, пророчества которого так и не сбылись, не лучшая идея? Мы размышляем о том, что вторжение в Ирак могло быть неоправданным, если Саддам Хусейн был не настолько опасен.

Этот вариант хорош всем, кроме одного: он угрожает нашей самооценке. Он требует от нас принять как данность то, что мы не столь умны, как нам думается. Он вынуждает нас осознать: мы бываем не правы даже в вопросах, которые для нас первостепенно важны.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «ЛитРес».

Прочитайте эту книгу целиком, купив полную легальную версию на ЛитРес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

Все имена сотрудников больницы изменены, чтобы сохранить их анонимность. – Здесь и далее прим. автора, за исключением особо оговоренных.

2

Сегодня «черные ящики» делают ярко-оранжевыми, чтобы их было легче обнаружить, и часто два «ящика» совмещают в одном.

3

Многие историки сходятся в том, что первое клиническое исследование в современном смысле провел в 1747 г. шотландский врач Джеймс Линд. Он искал средство от цинги и во время длительного путешествия на корабле Ост-Индской компании провел эксперимент по лечению болезни, включив в рацион матросов цитрусовые.

4

Игра слов: по-английски «операционная» – operating theatre. – Прим. пер.

5

Некоторые врачи доказывали, что в сокрытии ошибок есть разумное зерно. В конце концов, если пациенты обнаружат, сколь часто медики ошибаются, они могут вообще отказаться от лечения – и общая ситуация усугубится. Но этот довод следует отвергнуть. Проблема не в том, что пациенты не знают об ошибках; проблема в том, что ошибок не признают сами врачи – и, следовательно, упускают возможность на них учиться. Кроме того, утаивая от пациента информацию о неудачах, врачи тем самым лишают его возможности сделать рациональный выбор. Пациент имеет право знать о соответствующих рисках до того, как лечение началось.

6

Для авиакомпаний жизненно важно осознавать и мелкие ошибки. «К большинству крупных неудач приводит много причин, – пишет Эми Эдмондсон, профессор Гарвардской школы бизнеса, – и часть из них является следствием системы организации… Мелкие неудачи – сигналы раннего предупреждения, играющие ключевую роль в предотвращении будущих катастроф».

7

Во множестве ситуаций сосредоточиться на конкретном задании – эффективный способ справиться с работой. Проблема возникает, когда это наносит ущерб целостности восприятия. В этом случае излишнее сосредоточение вредит работе и, если говорить об авиации, безопасности.

8

Можно представить, как этот принцип применялся бы в медицине. Вот что медсестра Джейн могла сказать, если бы она использовала данный подход во время операции Илэйн Бромили:

ПРОВЕРКА – «Доктор, какие варианты вы рассматриваете на случай, если мы не сможем вставить трубку?»

ОПОВЕЩЕНИЕ – «Доктор, уровень кислорода 40 %, он продолжает падать, трубка не входит, может, применим трахеостомию?»

ПОБУЖДЕНИЕ – «Доктор, нам нужен набор для трахеостомии – или мы потеряем пациента».

ЧРЕЗВЫЧАЙНАЯ СИТУАЦИЯ – «Я прошу реанимационную команду сделать трахеостомию».

9

Иногда «черным ящиком» называют систему, внутреннее устройство которой неясно, она просто преобразует нечто на входе в конечный результат. В этой книге мы используем термин в чуть другом, хоть и близком значении: «черный ящик» – регистратор данных, используемый при расследовании катастрофы.

10

Из отчета особого комитета британского парламента (2015): «Ресурсы, которые направляются на расследования и обучение с целью увеличить безопасность медицинской деятельности, позволяют сэкономить на ненужных издержках и уменьшить причиняемый пациентам вред».

11

В высшем проявлении (фр.).

12

Фальсифицируемость – критерий научности эмпирической теории, сформулированный К. Р. Поппером в 1935 г. Теория является фальсифицируемой и, соответственно, научной в том случае, если существует методологическая возможность ее опровержения путем постановки того или иного эксперимента. – Прим. ред.

13

Отношения между неудачей и прогрессом в науке можно описать как сложные. Идет немало споров о том, могут ли и должны ли ученые предлагать новые теории и парадигмы в свете новых данных. Об этом много писал философ Томас Кун. С основным принципом – научные теории должны быть проверяемы, а значит, уязвимы – согласен весь научный мир. Исправление ошибок – главный аспект научного прогресса.

14

В своей книге «Скачок» (Bounce, 2010) я детально изучаю эту область знаний. В данном разделе я не полагаюсь на идеи, высказанные в «Скачке». Здесь я говорю только о том, что обширная практика, судя по всему, является предпосылкой для компетентных действий в предсказуемых условиях.

15

Единственное, что меняется со временем, – вовсе не результативность, а уверенность в себе. В одном исследовании 25 % психотерапевтов относят себя к 10 % лучших в своей профессии, при этом ни один психотерапевт не считает себя хуже среднего уровня.

16

Даниэль Канеман иллюстрирует эту идею, призывая нас поразмыслить о том, как быстро мы учимся водить машину. Обратная связь в этом случае оперативна и объективна. Корабли мы учимся водить куда дольше – между действием и наблюдаемым результатом проходит больше времени.

17

Возможно, данное обстоятельство объясняет и тот факт, что конференции по заболеваемости и смертности – собрания медиков, проводимые с целью улучшить заботу о здоровье пациентов, – почти не снижают количество ошибок, которых можно было бы избежать. Конференции регулярно организуются медицинскими центрами и должны предоставлять врачам возможность учиться на ошибках. Однако врачи часто боятся высказываться или сообщать о промахах коллег. Что еще важнее, мало кто пытается осознать проблемы системы.

18

В июне 2015 г. сообщалось, что ежегодно более тысячи детей умирают до, во время или после родов из-за предотвратимых ошибок НСЗ. Одна простая ошибка – неправильное измерение пульса новорожденного – влечет четверть выплат компенсаций по халатности.

19

В Англии и Уэльсе вскрытие проводится, когда причина смерти официально не установлена или когда человек умирает в подозрительных обстоятельствах. В 2013 г. аутопсии потребовали около 20 % смертей.

20

Эта глава написана по материалам проекта «Невиновность» (Innocence Project), бесед с Хуаном Риверой и с адвокатами Риверы и Барри Шекком, а также по газетным статьям и сообщениям СМИ, включая электронную переписку с Эндрю Мартином, писавшим об этом деле для New York Times.

21

В действительности женщину звали Дороти Мартин, однако для сохранения анонимности Фестингер изменил ее имя в своей книге «Когда не сбылось пророчество».