Архитекторы познания. Как меняется мышление в эпоху искусственного интеллекта

Дилемма экспертов — это, прежде всего, «парадокс эффективности». Человеку-эксперту требуется не менее 10 000 часов целенаправленной практики, чтобы достичь высочайшего уровня в какой-либо узкой области. Этот длительный процесс, формируя глубину его профессионализма, неизбежно создает своего рода «когнитивный туннель». Их мозг натренирован как высокооптимизированная конвейерная линия, способная с чрезвычайно высокой эффективностью решать типичные задачи в своей области. Но за мою более чем тридцатилетнюю карьеру в сфере управления рисками подобные примеры встречались нередко. Я помню, как на рубеже веков наш банк нанял одного из ведущих в стране аналитиков в сфере морских перевозок. Он проницательно предсказал замедление темпов роста мировой торговли, но совершенно не смог понять одну, казалось бы, совершенно не связанную с этим переменную — подъем китайской электронной коммерции. Он не мог себе представить, как интернет-компания под названием «Алибаба» и стоящая за ней сеть «Cainiao» с помощью больших данных и алгоритмов перестроят всю систему логистики и складирования. В его «глубоком колодце» были только контейнеровозы и сухогрузы, но отсутствовала переменная «посылка». Его восприятие оказалось запертым в рамках собственной профессиональной специализации, и в итоге он потерпел поражение от совершенно нового вида бизнеса, пришедшего из-за пределов его «колодца».

Такое затруднительное положение специалисты по организационному поведению называют «когнитивной застылостью». Чем больше успеха достигает человек в какой-либо области, тем легче его модель мышления замыкается на прошлом успешном опыте, в результате чего он теряет чувствительность к изменениям во внешнем мире. А AGI — как раз и является главным естественным врагом такой «когнитивной застылости».AGI не обременена «опытом»; её можно временно и в широких масштабах «обучить» на эксперта в любой области. Это приводит к жестокому выводу: в любой области-«глубоком колодце», имеющей чёткие границы, достаточный объём данных и ясные правила, конкуренция человеческих экспертов с AGI по двум параметрам — «глубине знаний» и «эффективности обработки» — с самого начала обречена на поражение.

2. Распространение «зла посредственности»: ловушка однородности контента, генерируемого ИИ

Когда глубина знаний в отдельной области перестает быть барьером, наступает кризис более глубокого уровня — а именно «инфляция» и «однородность» самих знаний. AGI не только может стать экспертом, но и способна с практически нулевыми затратами массово «производить» контент, выглядящий профессиональным и «экспертным».

Мы вступаем в эпоху «избытка контента». Раньше для написания подробного аналитического отчета по какой-либо отрасли (например, по полупроводниковой промышленности) опытному аналитику требовались недели. Сегодня же AGI за считанные минуты может обобщить всю открытую информацию в сети и сгенерировать отчет с идеальным оформлением, подробными данными и, на первый взгляд, безупречным содержанием.

Эта способность «создавать одним нажатием» проникает во все уголки мира знаний. Она порождает «процветание посредственности». Наша информационная среда будет затоплена огромным количеством «серого контента», сгенерированного ИИ, качество которого превышает «проходной балл», но которому не хватает подлинных прозрений. Этот контент не содержит явных логических ошибок и в целом является точным, но он похож на стаканы теплой воды: казалось бы, утоляет жажду, но не имеет никакого вкуса, не говоря уже о питательной ценности. Это перекомпоновка уже имеющихся знаний, сшивание и пересказ точек зрения, изысканная упаковка «правильной чепухи».

Этот «зло посредственности», движимый алгоритмами, несет в себе далеко идущие последствия. Он приводит к тому, что подлинные оригинальные идеи, рожденные уникальным человеческим опытом и глубоким прозрением, размываются в огромном потоке однородной информации, и их становится все труднее обнаружить и распространить. Он снижает «соотношение сигнал/шум» в познании всего нашего общества, заставляя нас тратить огромное количество времени на блуждание в море посредственности. Что ещё важнее, это, в свою очередь, формирует наш образ мышления, приучая нас принимать готовые, безобидные выводы, «подкармливаемые» нам алгоритмами, в результате чего мы теряем способность к независимому мышлению, постановке острых вопросов и формированию «антиконсенсусных» точек зрения.

Таким образом, AGI не просто наносит удар по ценности отдельных экспертов, но и полностью переворачивает всю нашу систему производства и оценки знаний. Она провозглашает конец эпохи, когда можно было обеспечить себе существование, просто «копая глубокие колодцы». Когда любой «глубокий колодец» может быть пробурен и заполнен машиной в одночасье, ценность человека больше не заключается в том, чтобы охранять один колодец, а в том, чтобы стать «исследователем» и «архитектором», способным понять всю геологическую структуру, знать, где следует бурить колодцы, и как соединить водные источники из разных глубоких колодцев, объединив их в одну бурную реку.

Раздел 2. Кризис роста энтропии знаний и меры противодействия

Чётко описав траекторию четырёх великих скачков в развитии человеческого познания и прямо взглянув в лицо суровой реальности «когнитивной дефляции», вызванной AGI, мы подошли к самой сути проблемы. Крушение старой парадигмы обусловлено не только появлением новых инструментов, но и тем, что она сама уже давно не способна справиться с глубоким кризисом, который долгое время оставался скрытым, а теперь разразился вовсю. Этот кризис — кризис «роста энтропии» самого знания. Чжуан-цзы когда-то сказал: «Моя жизнь ограничена, а знание — безгранично. Пытаться ограниченным следовать за безграничным — это гибель!»[Эта фраза взята из «Чжуан-цзы: Яншэнчжу» и означает, что жизнь человека ограничена, а знание — безгранично; стремиться к безграничному знанию с помощью ограниченной жизни — тщетно и опасно.] Этот мудрец, живший более двух тысяч лет назад, с пророческой проницательностью предсказал самое фундаментальное затруднение нашей эпохи. Информация — этот ресурс, который в прошлом считался дефицитным и ценным источником «отрицательной энтропии», сегодня с экспоненциальной скоростью превращается в цунами «энтропии», захлестывающее мир нашего сознания. Она рассеивает наше внимание, размывает смысл знаний и, в конечном итоге, может привести нашу когнитивную систему к состоянию мертвого, беспорядочного «теплового затишья».

I. Когнитивный тепловой мертвый покой, вызванный информационной перегрузкой

«Тепловая тишина» — это пессимистическая гипотеза о конечной судьбе Вселенной, выдвинутая физиками XIX века на основе второго закона термодинамики. Она описывает конечный состояние, в котором вся энергия равномерно распределена, а температурные различия, движения и изменения полностью исчезли, создавая атмосферу абсолютной мертвой тишины. Сегодня мы заимствуем этот физический термин, чтобы описать столь же тревожную духовную картину — «когнитивную тепловую тишину». Когда поток информации превышает пределы, которые способен обработать наш разум, наш внутренний мир также сталкивается с риском потери структуры, порядка и смысла. Это не пугающие слова, а реальность, которую каждый из нас испытывает на себе каждый раз, когда берет в руки смартфон или включает компьютер.

(1) Термодинамическая метафора: экспоненциальный рост объема информации

Чтобы понять суть этого кризиса, мы должны вернуться к его истокам — закону увеличения энтропии в физике. Энтропия — это физическая величина, используемая в термодинамике для измерения степени хаоса в системе. Согласно второму закону термодинамики, в изолированной системе общее количество энтропии никогда не уменьшается, а только увеличивается или остается неизменным. Это означает, что все спонтанные процессы естественным образом развиваются в направлении большей хаотичности и беспорядка. Стакан горячей воды в конце концов остынет, равномерно теряя тепло в воздух; ухоженная комната, если за ней никто не ухаживает, просто запылится и превратится в беспорядочный хаос; жизнь в конечном итоге приведет к смерти и разложению. Таков безжалостный и необратимый высший закон Вселенной. Весь смысл жизни и цивилизации заключается именно в том, чтобы вести локальную и временную борьбу с этим мощным потоком роста энтропии, затрачивая энергию для создания хрупкого, но ценного порядка среди хаоса.

А основатель теории информации Клод Шеннон гениально ввёл понятие «энтропии» в измерение информации. Информационная энтропия используется для описания неопределённости информационной системы. Объём информации равен именно той степени неопределённости, которую она способна устранить. Это создало глубокий мост между физическим миром и миром информации. Информационная система с низкой энтропией — это система, отличающаяся высокой степенью упорядоченности, четкой структурой и высокой степенью определенности, подобно научному труду с строгой логикой. А информационная система с высокой энтропией — это хаос, беспорядок и неопределенность, подобно интернет-форуму, переполненному бесчисленными противоречиями, повторениями и ложной информацией.

Наше время сталкивается с беспрецедентным, глобальным экспоненциальным взрывом «информационной энтропии». В течение нескольких столетий после изобретения книгопечатания общий объем человеческих знаний удваивался примерно раз в сто лет. С наступлением эры Интернета этот цикл сократился до нескольких лет, а сегодня измеряется днями и даже часами. Лента новостей в социальных сетях, бесконечные push-уведомления в новостных приложениях, алгоритмические рекомендации на платформах коротких видео… Мы погружены в «горячую ванну» из данных, температура которой стремительно растет. Энтропия этой системы безумно растет с почти неконтролируемой скоростью.

1. Рассеивание внимания: «узкое место» в работе человеческого мозга

Перед лицом этого цунами информационной энтропии человеческий мозг — этот усовершенствованный в течение миллионов лет, исключительно изощрённый процессор — впервые обнажил своё фундаментальное, непреодолимое физическое ограничение. Наш разум — это не жёсткий диск, объём которого можно бесконечно увеличивать, и не процессор, скорость работы которого можно бесконечно повышать. Он скорее похож на «оперативную память» с ограниченным объёмом, которую когнитивные психологи называют «рабочей памятью». Согласно классической теории, сформулированной Джорджем Миллером в 1956 году, объём кратковременной памяти человека составляет примерно 7±2 «информационных блока». [Статья Джорджа Миллера (George Miller) «Чудесное число 7±2: некоторые ограничения наших способностей к обработке информации» является основополагающим трудом в когнитивной психологии, раскрывающим, что при обработке информации количество информационных единиц, которые человеческая рабочая память может одновременно вместить, крайне ограничено.] Это похоже на то, что в нашем мозгу есть только одна чрезвычайно узкая «односторонняя дорога», и в любой момент времени поток информации, который мы можем сознательно обрабатывать, крайне ограничен.

В эпоху дефицита информации этой «односторонней дороги» было вполне достаточно. У нас было достаточно времени, чтобы внимательно прочитать книгу, которую нелегко было достать, и снова и снова обдумывать отрывок из глубокого разговора. Наше внимание, подобно сфокусированному лучу солнечного света, могло стабильно фокусироваться на одном объекте, генерируя достаточно тепла, чтобы «прожечь» поверхностные проявления проблемы и добраться до её сути. Однако в сегодняшнюю эпоху информационной перегрузки от этой узкой «односторонней дороги» требуют одновременно обрабатывать десятки тысяч «информационных транспортных средств», прибывающих со всех сторон.

Результатом этого становится катастрофическая «когнитивная пробка». Наше внимание разбивается на бесчисленное количество крошечных осколков. Едва мы прочитали серьёзную аналитическую статью, как на экране появляется всплывающее новостное окно; едва мы начинаем размышлять над сложной проблемой, как звуковой сигнал из социальной сети прерывает ход наших мыслей. Каждое такое переключение сопровождается огромными когнитивными затратами и расходом энергии. Наш мозг вынужден с высокой частотой и в постоянной спешке переключаться между бесчисленными поверхностными задачами, но при этом уже не способен войти в состояние «глубинной работы», требующее длительного и непрерывного сосредоточения.

Последствия такого постоянного рассеивания внимания гораздо серьезнее, чем мы себе представляем. Это не просто «отвлекает» нас — оно коренным образом подрывает нашу способность к сложному мышлению, глубокому обучению и творческой работе. Древние говорили: «Когда ум отвлечен, человек видит, но не замечает; слышит, но не слышит; ест, но не чувствует вкуса». [Эта фраза взята из «Лицзи·Дахэ», и означает, что когда ум не сосредоточен, даже глядя, слушая или едя, невозможно по-настоящему воспринимать и понимать.] Это и есть духовный портрет нашей эпохи. Наши глаза скользят по бесчисленным текстам, но редко что-то проникает в глубину души; наши уши слышат бес е количество мнений, но редко что-то вызывает глубокие размышления. Наша духовная энергия, подобно чашке горячей воды, постепенно остывающей, бессмысленно рассеивается в хаотичном обмене с информационной средой. Наш внутренний мир становится всё «холоднее» и всё больше приближается к состоянию «теплового затишья» — низкоэнергетическому состоянию, в котором невозможно эффективно работать.

2. Размывание смысла: эпоха, когда шум заглушает сигнал

Рассеивание внимания — это проявление данного кризиса на «энергетическом» уровне. А на «качественном» уровне его сопровождает ещё более смертоносный кризис — размывание смысла. Когда информационная энтропия резко возрастает, а степень хаоса во всей информационной системе приближается к предельному значению, неизбежным результатом становится следующее: граница между «сигналом» и «шумом» становится всё более размытой, и в конечном итоге шум с подавляющим преимуществом полностью заглушит сигнал.

«Сигнал» — это ценная информация, способная снизить неопределённость и указывать путь к истине и мудрости. «Шум» же — это бесполезная помеха, увеличивающая хаотичность и состоящая из ошибок, предвзятости, повторений и несущественных мелочей. В прошлом производство и распространение знаний находились в руках небольшой элиты; хотя и существовал риск предвзятости, объективно это играло роль своего рода «фильтра», снижающего уровень шума. Издание книги требовало многоступенчатой проверки со стороны автора, редактора и издательства; сам этот процесс по сути заключался в отсеивании шума и выделении сигнала.

Однако появление интернета и социальных сетей полностью разрушило этот традиционный механизм «стражей». Каждый человек стал распространителем информации, что, с одной стороны, дало нам беспрецедентную свободу самовыражения, а с другой — открыло ящик Пандоры, наполнивший мир шумом. В борьбе за наше и без того фрагментированное внимание производители информации развязали «гонку вооружений» без каких-либо ограничений. Сенсационные заголовки, эмоциональная провокация, искажение фактов, теории заговора… Контент, который сильнее всего стимулирует наше миндалевидное ядро и наиболее соответствует нашим существующим предубеждениям, распространяется с вирусной скоростью при поддержке алгоритмов. А те «сигналы», которые действительно ценны и требуют от нас хладнокровного размышления и тщательного анализа, из-за более высоких «когнитивных затрат» напротив оказываются на обочине и тонут в шумном океане информационного шума.

Аргентинский писатель Хорхе Луис Борхес (Jorge Luis Borges) в своём рассказе «Библиотека Бабеля» вообразил бесконечную библиотеку, состоящую из бесчисленных шестиугольных галерей, в которой хранятся все возможные книги во вселенной. Здесь можно найти всю истину, но в то же время вы окажетесь в окружении бесчисленных книг, наполненных бессмысленным бредом, беспорядочными наборами символов и бессмысленной чепухой. Эта библиотека обладает всей «информацией», но именно из-за этого теряет весь «смысл». Это и есть самая точная литературная метафора нашего нынешнего положения.

Мы живём в цифровой «Библиотеке Вавилонской». Нам кажется, что мы обрели беспрецедентную способность получать информацию, но на самом деле сложность поиска «сигнала» достигла небывалого уровня. Мы подобны Тантару из древнегреческой мифологии, приговоренному к вечной жажде: окруженные бесконечными водами знания, мы не можем выпить ни глотка чистой воды, способной по-настоящему утолить жажду. Чрезмерное изобилие информации в конечном итоге приводит к крайнему дефициту смысла. Именно в этом заключается конечная картина когнитивного теплового затишья: холодная и мертвая духовная вселенная, в которой происходит рассеивание энергии, рушится структура и утрачиваются ценности.

(2) Риск потери контроля над «силой экспансии»

В предыдущем разделе мы использовали метафору термодинамики, чтобы нарисовать мрачную картину «когнитивного теплового затишья». Однако за увеличением энтропии любой системы обязательно стоит источник энергии, ведящий её к хаосу. В «рамках анализа четырёх сил», которые мы создали для человеческого общества, этой первозданной, неиссякаемой энергией является именно «сила экспансии». Она проистекает из глубин человеческой натуры — из любопытства к неизвестному, стремления к росту и жадного поиска определенности. Именно эта сила побудила наших предков выйти из пещер и открыть новые континенты; именно она вдохновляет ученых, день и ночь расширяющих границы человеческого знания. В эпоху дефицита информации сила экспансии была самым ценным двигателем прогресса цивилизации; она подобна отважному первопроходцу, каждый шаг которого приносит нам драгоценную «отрицательную энтропию» — знания, порядок и богатство.

Однако «счастье и несчастье взаимосвязаны, и в несчастье таится счастье». [Эта фраза взята из 58-й главы «Дао-де-цзы» и раскрывает диалектическую взаимосвязь между несчастьем и счастьем, их взаимозависимость и взаимное преобразование.] Когда информация сама по себе превращается из дефицита в избыток, когда внешняя среда претерпевает коренные изменения, эта «сила экспансии», некогда приносившая безграничную жизненную силу, если её не сдерживать и не уравновешивать, превратится из первопроходца в неуправляемого чудовища. Она больше не приносит нам ценную «отрицательную энтропию», а, напротив, ещё более коварным образом ускоряет рост энтропии в нашем внутреннем мире. Она больше не является лекарством, исцеляющим разум, а становится причиной двух смертельных форм «когнитивного рака»: во-первых, «знание-анорексии»; во-вторых, «когнитивной фрагментации».

1. «Знание-булемия»: поглощение информации без системы координат — это рак для ума

«Булемия» — это расстройство пищевого поведения. Пациенты в течение короткого промежутка времени неконтролируемо потребляют большое количество пищи, но сразу же после этого избавляются от нее, например, вызывая рвоту. Этот процесс, казалось бы, завершает действие «приема пищи», но организм не получает настоящего питания, а напротив, терпит серьезные физиологические повреждения, такие как рефлюкс желудочной кислоты и нарушение электролитного баланса. Мы заимствуем этот медицинский термин и применяем его в когнитивной сфере для описания столь же патологического и столь же распространенного психического состояния — «знание-булемия».

Люди, страдающие этой «болезнью современности», демонстрируют крайнюю жажду информации и тревогу. Они безумно накапливают книги, собирают статьи, подписываются на курсы и следят за бесчисленным множеством блогеров, делящихся знаниями. Их жесткие диски забиты терабайтами учебных материалов, которые, как утверждается, могут «изменить жизнь»; в их мобильных телефонах хранятся сотни ссылок на глубокие статьи, отложенные для «последующего чтения». Они погружены в иллюзию: «Если у меня будет эта информация, я стану лучше». Это и есть идеальное воплощение «экспансионной силы» на психическом уровне: первобытный импульс к бесконечному обладанию и поглощению внешних знаний.

Однако итог такого обжорливого поглощения знаний зачастую ничем не отличается от того, что происходит с людьми, страдающими «обжорством». Подавляющая часть этих накопленных знаний так и не была по-настоящему открыта, прочитана и понята. Они подобны пище, которую проглотили, а затем выплюнули: она лишь кружится в нашей «когнитивной ротовой полости», а затем поспешно выводится наружу, принося в обмен лишь ложное, мимолетное «чувство приобретения» и сопутствующее ему ещё более глубокое беспокойство от «непереваренности».

Конфуций сказал: «Учиться, не размышляя, — значит блуждать в тумане; размышлять, не учась, — значит подвергаться опасности». [Эта фраза взята из «Луньюй» («О правлении») и означает, что, если только учиться, не размышляя, то можно заблудиться и растеряться; если только размышлять, не учась, то можно попасть в опасность.] Эта древняя пословица в самых лаконичных выражениях раскрывает вечную истину о необходимости поддержания динамического равновесия между «силой расширения» (учением) и «силой сжатия» (размышлением). А корень болезни «знание-булемия» заключается именно в чрезмерном усилении «силы расширения» и серьёзном ослаблении «силы сжатия». «Мышление», то есть «сила сжатия», представляет собой способность усваивать внешнюю информацию, структурировать её и формировать личную систему знаний. Оно требует от нас замедлиться, чтобы обдумать, осмыслить, подвергнуть сомнению и установить связи. Это не пассивный процесс восприятия, а активный, требующий умственных усилий процесс «уменьшения энтропии», направленный на конструирование смысла.

Поглощение информации без «способности к синтезу» в качестве рамки — это настоящая катастрофа для ума. Это похоже на рост раковых клеток: хаотично, злокачественно и разрушительно. За свою многолетнюю карьеру я встречал множество таких молодых людей. Они умны, трудолюбивы, ежедневно читают огромное количество отраслевых отчетов и рыночной информации, могут бегло рассуждать о самых новых бизнес-моделях и технических терминах. Они — типичные «информационные богачи». Однако когда их просят на основе этой информации построить собственную логическую структуру, способную определять инвестиционные решения на ближайшие пять лет, они зачастую впадают в замешательство. Их ум похож на склад, заваленный бесчисленными дорогостоящими деталями, но так и не способный собрать из них действительно работающий двигатель. Эти, казалось бы, обширные знания не только не стали основой для принятия решений, но и превратились в шум, мешающий их суждениям, заставляя их колебаться между бесчисленными «возможностями» и «слухами», не в силах сделать ни шага вперед.

Это и есть рак духа. Сущность раковых клеток заключается в том, что нормальные клетки теряют осознание границ своего роста, начинают бессмысленное, безумное размножение и в конечном итоге подрывают здоровье всего организма. Точно так же и страдающие «знаниевой жадностью» теряют благоговейное отношение к границам своего познания. Они пытаются восполнить недостаток рамок мышления бесконечным «расширением» информации, но в результате их умственная система оказывается захваченной бесчисленными непереваренными «раковыми клетками знания», что в конечном итоге приводит к утрате способности формировать стабильный, упорядоченный и самосогласованный «познавательный орган». С виду они знают много, но на самом деле они запутаны как никогда.

2. Фрагментация познания: «гигантские младенцы», вскармливаемые рекомендациями алгоритмов

Если «знание-булимия» является активным проявлением выхода «экспансионной силы» из-под контроля, то «фрагментация познания» — это более распространённое и скрытое заболевание, в которое мы пассивно погружаемся в эпоху алгоритмов. Здесь вышедшая из-под контроля «экспансионная сила» даже не нуждается в нашем субъективном стимулировании: она уже превратилась в круглосуточную, всестороннюю и глубоко персонализированную внешнюю систему — алгоритм рекомендаций, который активно и непрерывно подвергает наш разум систематическому разрушению по принципу «лягушки, варящейся в теплой воде».

Этот процесс можно описать с помощью одной метафоры: мы коллективно деградируем в «когнитивных младенцев», которых «кормит» алгоритм. Настоящий младенец полностью зависит от внешнего питания. Он не способен самостоятельно и целенаправленно искать и формировать собственную систему питания, а может лишь пассивно принимать пищу, которую ему даёт мать или бутылочка. А мы сегодня, в плане потребления духовной пищи, находимся в удивительно похожем положении.