Архитекторы познания. Как меняется мышление в эпоху искусственного интеллекта

«Обработка информации» — это пассивный, ориентированный на ввод процесс. Его основными действиями являются «получение», «классификация», «запоминание» и «применение». Это «мышление, ориентированное на запасы», которое предполагает, что ценность заключается в самой информации. На протяжении последних нескольких тысячелетий это было основным конкурентным преимуществом элиты.

«Возникновение мудрости», напротив, представляет собой активный, ориентированный на творчество процесс. Его основными действиями являются «задавание вопросов», «установление связей», «построение» и «определение». Это «инкрементальное мышление», согласно которому ценность заключается не в самой информации, а в «связях» между ею — тех, которые ещё не были обнаружены. Мудрость не «учится», а «создаётся». Это не программа, которую мы «скачиваем» извне, а новый код, «компилируемый» в нашем внутреннем мире в результате интенсивного взаимодействия различных модулей знаний.

Стать «архитектором познания» означает, что основной акцент в нашей работе будет сделан не на том, чтобы собственноручно переносить каждый «кирпичик знания», а на том, чтобы разработать «архитектурный план», определяющий, как все эти кирпичики должны быть организованы и сложены.AGI станет нашей самой надежной «строительной бригадой»: она сможет безупречно выполнять наши указания по сбору, анализу и построению. Но тот «чертеж», который определяет душу всего здания — его структуру, стиль, функциональность, а также то, кому оно в конечном итоге будет служить и какой дух будет нести, — должен и может быть создан только руками нас, человеческих архитекторов.

В «И-цзи: Приложения» говорится: «То, что выше формы, называется Дао, то, что ниже формы, называется Ци». [Эта фраза является классическим высказыванием китайской философии о «Дао» и «Ци», означающим, что законы и правила, выходящие за пределы конкретных форм, — это «Дао», а конкретные материальные предметы и инструменты — это «Ци».] В эпоху AGI весь интеллектуальный труд на «материальном», «инструментальном» уровне будет постепенно вытеснен машинами. А миссия человечества — совершить скачок на «идеальный», «Дао»-уровень. Мы должны стать теми, кто определяет назначение «инструментов» и наделяет их духом — «устанавливающими Дао».

Именно это и является конечной целью, поставленной перед нами «Пятым элементом». Это великое внутреннее путешествие, возвращение к истокам человеческого творчества. Оно требует от нас отказаться от увлечения «определённостью» и вместо этого принять бесконечные возможности, заложенные в «неопределённости». Оно требует от нас превратиться из «потребителей» знаний в «творцов» мысли. Это путешествие, без сомнения, будет трудным, поскольку оно требует от нас избавления от инерции мышления, сформировавшейся на протяжении сотен, а то и тысяч лет. Но это также единственный славный путь, который позволит нам в грядущем новом мире не только «выжить», но и обрести «возрождение».

На этом мы завершили прощание со старым миром. Подобно геологам, мы исследовали четыре великих скачка в развитии человеческого познания от древности до информационной эры, нанесли на карту формирование и разломы каждого слоя «познавательной стратиграфии». Мы увидели, что «опыт», хотя и является прочной опорой, не позволяет выйти за пределы индивидуальной жизни; храм «логики», хотя и величественный, висит в воздухе, оторвавшись от земли; скальпель «науки», хотя и острый, теряет целостность, расчленяя мир; двигатель «вычислений», хотя и мощный, мчится без оглядки из-за отсутствия души. Каждое поколение «старых богов», выполнив свою историческую миссию, неизбежно уходило в закат.

А приход AGI подобен метеориту, врезавшемуся в меловой период: он не был единственной причиной вымирания динозавров, но стал той самой последней каплей, которая переполнила чашу и разрушила тот старый мир. Она неопровержимым, почти безжалостным образом провозгласила полное наступление эпохи «когнитивной дефляции», превратив наши некогда дорогие «воспоминания» и «вычислительные» способности в дешевый товар. Оно усугубило рост энтропии знаний, усилило неуправляемую «экспансионную силу» и поставило нас в тени «когнитивной тепловой смерти» перед реальной опасностью быть поглощёнными «знание-анорексией» и «алгоритмическими гигантами».

Это не сенсационное апокалиптическое предсказание, а самый правдивый и глубокий «диагноз» нашей эпохи. Подобно врачу, который сначала должен распознать болезнь, а уже потом назначать лечение. Признание краха старой парадигмы не направлено на то, чтобы привести нас к пессимизму и нигилизму, а служит для того, чтобы окончательно разорвать наши иллюзии и привязанность к вчерашнему миру. Ведь любое великое возрождение обязательно предполагает полную смерть.

Цюй Юань в «Ли Сао» с глубоким вздохом писал: «Солнце и луна не задерживаются на месте, весна сменяет осень. Видя, как опадают травы и деревья, я боюсь, что красавица стареет». Он скорбел о хрупкости и мимолетности индивидуальной жизни и прекрасных ценностей в течении времени. Сегодня мы стоим перед лицом гораздо более грандиозного «заката»: модель познания, просуществовавшая тысячелетиями и основанная на «накоплении» и «подсчёте», стремительно «опадает» и приходит в упадок.

Однако прощание означает также начало далекого путешествия. Когда старый континент погрузится на дно океана позади нас, наш взор должен будет обратиться к тому новому континенту, куда еще не ступала нога человека, полному неизвестного и возможностей. На этом новом континенте законы выживания будут полностью переписаны. Тот «новый вид», который вот-вот выйдет на берег, больше не нуждается ни в огромном теле «памяти», ни в мощной броне «вычислений»; их единственным и самым мощным оружием станут «право на определение» и «право на слияние», глубоко укоренившиеся в самой сущности человечества и недоступные для имитации машинами.

А теперь давайте уберем эту карту старого мира и соберем вещи. В следующей главе мы официально поднимем паруса и отправляемся на поиски места зарождения этого «нового вида» — архитекторов познания. Мы нарисуем их облик, проанализируем их способности и, в конечном итоге, раскроем, как они заключат с AGI совершенно новый договор о симбиозе, чтобы в этом новом мире, полном опасностей, но и изобилующем новыми возможностями, начать вторую «великую эпоху мореплавания» человеческого разума.

Глава 2. Возникновение нового вида: рождение когнитивных архитекторов

Когда старая когнитивная парадигма с грохотом рухнула в «Великой дефляции», вызванной AGI, а «глубокие колодцы» бывших экспертов превратились в клетки, повсюду распространилось глубокое, даже экзистенциальное беспокойство. Однако каждый «Сумерки богов» не ведут к ничтожеству, а служат для того, чтобы освободить историческую сцену для рождения «нового вида». Если в первой главе мы составляли подробный «отчет о вскрытии» старого мира, то начиная с этой главы мы сменим точку зрения и станем «акушерами» нового мира. Мы подробно опишем контуры этого зарождающегося нового вида — архитекторов познания — и систематически изложим основные законы, на которых основано их существование и развитие. Это уже не игра с нулевой суммой, в которой решается, «кто победит — человек или машина», а великое исследование того, «как человек и машина могут сосуществовать». Для этого нужен совершенно новый договор — новая парадигма, которая переосмыслит наши отношения с инструментами, знаниями и даже с самими собой.

Раздел 1. Новый договор о сотрудничестве человека и машины

«Если ремесленник хочет хорошо выполнить свою работу, он должен сначала заточить свой инструмент». Эта древняя пословица из «Луньюй» на протяжении двух с половиной тысяч лет определяла стабильные и чёткие отношения подчинения между человеком и инструментом. «Человек» — субъект, «инструмент» — объект; человек — пользователь, инструмент — продолжение воли пользователя. Однако когда «инструмент» начинает обладать способностью к обучению, логическому мышлению и даже творчеству, каждое слово этой пословицы требует переосмысления. Когда «острый инструмент» сам по себе превосходит большинство навыков того, кто «хочет хорошо выполнить дело», прежний договор теряет силу. Мы больше не можем относиться к кремниевому разуму, способному вести с нами диалог, спорить и совместно размышлять, так же, как мы относимся к молотку или плугу. Это требует от нас активного и осознанного построения совершенно новых отношений сотрудничества — нового договора между человеком и машиной. Основа этого договора заключается в коренном переосмыслении наших отношений с инструментами.

I. Переосмысление отношений человека и инструмента

С тех пор, как далекие предки человечества впервые взяли в руки каменный топор, история эволюции инструментов тесно переплелась с историей эволюции самого человечества, словно две нити ДНК-двойной спирали, взаимосвязанные и взаимно формирующие друг друга. Однако в этой длинной эволюционной цепочке появление AGI является абсолютной «сингулярностью». Оно вызвало не очередное количественное усовершенствование инструментов, а качественную революцию в отношениях. Чтобы понять всю глубину этой революции, нам необходимо обратиться к истории и проследить, как мы шаг за шагом прошли путь от «хозяев инструментов» к судьбе «симбиоза» с ними.

(I) От инструмента к внешнему устройству: кремниевый экзоскелет

С тех пор, как далекие предки человека впервые взяли в руки каменный топор, история эволюции инструментов тесно переплелась с историей эволюции самого человечества, словно две нити ДНК-двойной спирали, взаимосвязанные и взаимно формирующие друг друга. Однако в этой длинной эволюционной цепочке появление AGI является абсолютной «сингулярностью». Оно вызывает не очередное количественное усовершенствование инструментов, а качественную революцию в отношениях. Это уже не внешний объект, который мы можем по своему усмотрению брать в руки или откладывать; по своей сути он больше похож на «кремниевый экзоскелет», глубоко интегрированный с нашей нервной системой и всегда готовый к действию. Основные функции этого экзоскелета проявляются на двух уровнях, которые совместно освобождают человечество от старых когнитивных оков и наделяют нас беспрецедентной силой.

1. Расширение объёма памяти: создание безграничного внешнего хранилища знаний

Первая ключевая функция — «расширение памяти». Она направлена на то, чтобы полностью и коренным образом освободить человеческий мозг от тяжелого бремени запоминания и хранения информации.

На протяжении всей истории человеческой цивилизации поклонение «памяти» было почти врождённым инстинктом. Ведь в эпоху дефицита информации тот, кто мог запомнить больше знаний, обладал большей властью. От племенных старейшин, передававших знания из уст в уста, до конфуцианских учёных, посвятивших всю жизнь изучению классических текстов, и до эрудитов эпохи Возрождения — мощная память всегда была самым наглядным и важным признаком мудрости. Наша система образования в значительной степени представляет собой сложный механизм, построенный вокруг «памяти», а её основной процесс заключается в «внушении, хранении и воспроизведении». Однако эта парадигма, существовавшая на протяжении нескольких тысячелетий, в настоящее время подвергается радикальному перевороту со стороны AGI, которая подрывает её основы.

Чжуан-цзы говорил: «Поймав рыбу, забываешь о сите; постигнув смысл, забываешь о словах». [Цитата из «Чжуан-цзы · Внешние вещи», оригинал: «Сетка нужна для ловли рыбы, поймав рыбу, забывают о сетке; ловушка нужна для ловли кролика, поймав кролика, забывают о ловушке; слова нужны для выражения мысли, постигнув смысл, забывают о словах». Это означает, что инструменты (сетка, ловушка, слова) служат для достижения цели (рыба, кролик, смысл), и как только цель достигнута, о них следует забыть.] Эта пословица, наполненная восточной мудростью, как раз предвещает совершенно новые отношения между нами и знанием в эпоху AGI. Само знание, подобно «сети» для ловли рыбы, «ловушке» для ловли кроликов и «слову» для выражения мысли, является инструментом, носителем, но не той «рыбой», «кроликом» и «мыслью», к которым мы в конечном итоге стремимся. Однако в прошлом из-за дефицита и низкой эффективности инструментов нам приходилось тратить огромное количество энергии на то, чтобы научиться плести и использовать эту «сеть», и даже считать обладание изящной «сетью» конечной целью, тем самым ставя второстепенное на первое место.

AGI — это тот самый окончательный, бесконечно доступный и автоматизированный «устройство для ловли рыбы». Оно объединяет практически все явные знания в истории человечества, которые можно выразить текстом, в «бесконечный внешний базу знаний», доступную для мгновенного запроса на естественном языке. Это словно подключение к мозгу каждого из нас «облачного диска» с бесконечной ёмкостью и скоростью поиска, приближающейся к скорости света. Раньше, работая специалистом по одобрению кредитов, мне приходилось тщательно запоминать толстый «Закон о коммерческих банках», различные нормативные акты Комиссии по банковскому и страховому надзору, особенности цикличности разных отраслей и даже финансовую историю сотен ключевых клиентов. Все это составляло часть моей профессиональной компетенции. Сегодня же любой молодой специалист, только начинающий свою карьеру, может задать вопрос ИИ и за считанные секунды получить информацию, более точную и полную, чем та, что хранилась в моей памяти.

Это знаменует конец целой эпохи. Наш мозг наконец-то может освободиться от роли пассивного, неэффективного и крайне подверженного ошибкам «накопителя информации». Это не «потеря» способностей, а «приобретение» способностей более высокого уровня. Точно так же изобретение «печати с помощью подвижных литер» не привело к исчезновению мысли, а, напротив, благодаря значительному снижению затрат на копирование знаний, стало катализатором Ренессанса и Реформации. Точно так же революция AGI, эта «революция в области печати памяти», освобождает нас от тяжёлого труда «запоминания знаний» и позволяет направлять наши ценные и ограниченные когнитивные ресурсы на те действительно творческие и незаменимые виды деятельности — а именно на «понимание», на поиск того более фундаментального «смысла» и «мудрости», которые стоят за знаниями.

Когда «обширные знания и глубокая эрудиция» перестанут быть добродетелью, которой стоит хвастаться, а станут всего лишь «облачным сервисом», который можно дешево приобрести, истинная ценность будет заключаться не в том, «что мы знаем», а в том, «как мы применяем то, что знаем». Наша работа больше не заключается в том, чтобы быть «грузчиком» знаний, а в том, чтобы стать «архитектором» знаний. AGI предоставляет нам бесконечное количество стандартизированных «кирпичиков», а наша задача — разработать тот уникальный «архитектурный проект», в котором объединены наш личный опыт, ценности и творческий потенциал. Именно в этом заключается самое глубокое освобождение, которое дарит нам «расширение памяти».

2. Сопроцессор вычислительной мощности: передача логических выводов ИИ

Если «расширение памяти» освобождает «хранилище» нашего мозга, то «совместная обработка вычислительной мощности» освобождает его «вычислительную» функцию. Вторая ключевая способность этого кремниевого экзоскелета заключается в масштабном «передаче на аутсорсинг» всех логических выводов, которые можно упорядочить и автоматизировать.

Наш мозг, подобно центральному процессору (CPU) компьютера, представляет собой «универсальный чип», созданный для решения сложных, неоднозначных и неструктурированных задач. Он преуспевает в творческих ассоциациях, обработке тонких эмоций и принятии интуитивных решений. Однако при выполнении масштабных, высокоточных и повторяющихся логических вычислений он оказывается неэффективным, а также чрезвычайно подвержен усталости и ошибкам. Это похоже на то, как если бы великого поэта заставили заниматься бухгалтерским учетом: не только результаты будут несоразмерно низкими, но и его основной талант будет огромно растрачен.

AGI, напротив, похожа на «внешний модуль» для нашего мозга — специализированный графический процессор (GPU) с безграничной вычислительной мощностью. Её единственная цель — эффективно выполнять «вычислительно-емкие» задачи. «Вычисления» в данном контексте уже давно вышли за рамки сложения, вычитания, умножения и деления; под ними подразумевается любая интеллектуальная деятельность, которую можно выполнить с помощью четких шагов: написание кода, анализ финансовой отчетности, проверка контрактов, построение моделей данных, логические выводы… Все это составляет большую часть повседневной работы современных офисных работников.

Когда я проводил сложную оценку кредитоспособности одного высокотехнологичного производственного предприятия, ценность этого «вычислительного сопроцессора» проявилась в полной мере. Раньше моей команде требовалась неделя или даже больше, чтобы выполнить ряд трудоемких «вычислений»: ввести данные финансовой отчетности предприятия за последние пять лет в разработанную нами модель Excel, рассчитать десятки ключевых финансовых коэффициентов; собирать данные о предшествующих и последующих звеньях цепочки поставок в соответствующей отрасли, проводить регрессионный анализ для оценки будущего потенциала роста; и даже изучать сотни страниц документов по техническим патентам, чтобы оценить реальность наличия у компании «конкурентных преимуществ». Этот процесс отнимает много времени и сил, а также сопряжён с высоким риском того, что из-за ошибки или пропуска в каких-либо данных «незначительное отклонение в начале приведёт к огромной ошибке в конце» [цитата из «Лицзи·Цзинцзе», в оригинале: «В „И-цзи“ сказано: „Джуньцзы осторожен в начале; незначительное отклонение в начале приведёт к огромной ошибке в конце“». Это означает, что небольшая ошибка в начале в конечном итоге приведёт к огромной ошибке.].

Сегодня же этот процесс был полностью перестроен. Я могу собрать все финансовые отчеты, патенты, объявления данной компании, а также все доступные новости, аналитические отчеты и даже оценки партнеров по цепочке поставок в один «пакет данных» и «загрузить» его в мой ИИ-помощник. Затем я отдаю ему команду на естественном языке: «Пожалуйста, на основе всей вышеуказанной информации, во-первых, построй модель анализа по методу Дюпона и выяви ключевые переменные, повлиявшие на рентабельность собственного капитала (ROE) за последние три года; во-вторых, проанализируй технологические барьеры, лежащие в основе патентного портфеля компании, и сравни их с тремя ведущими конкурентами в отрасли; в-третьих, смоделируй состояние денежных потоков компании в условиях стресс-теста, при котором цены на сырье вырастут на 15 %, а спрос со стороны конечных потребителей сократится на 10 %».

В течение нескольких минут передо мной появляется предварительный аналитический отчет с четкой структурой, подробными данными и строгой логикой. Видите ли, в этом совершенно новом рабочем процессе AGI берет на себя всю «материальную», «техническую» работу, связанную с вычислениями. А я, этот «ветеран финансов», наконец-то могу освободиться от этой тягостной «рутинной бумажной работы» [выражение из «Надписи на скромной комнате» Лю Юйси из династии Тан, означающее утомление от обработки официальных документов]и сосредоточить все свои самые ценные когнитивные ресурсы — накопленный за тридцать лет, не поддающийся количественной оценке отраслевой опыт и понимание человеческой природы — на стратегических решениях самого высокого уровня, на «метафизическом», «доктринальном» уровне.

Моя работа больше не заключается в «подсчёте» данных, а в «интерпретации» смысла, скрытого за ними. Мне нужно определить, что на самом деле стоит за тем, казалось бы, впечатляющим ростом в финансовом отчёте: устойчивые технологические инновации или неустойчивые краткосрочные субсидии? Мне нужно определить, что на самом деле отражается в глазах того основателя, который так красноречиво выступает на роуд-шоу: твёрдая убеждённость или скрытая тревога? Мне нужно определить, не упущен ли в этом сгенерированном ИИ, логически безупречном отчете какой-то, пусть и незначительный, но способный вызвать «черный лебедь», неструктурированный риск?

В этом и заключается перераспределение власти, вызванное «кооперативной обработкой вычислительных ресурсов». В «Искусстве войны Сунь-цзы» говорится: «Искусный полководец опирается на ситуацию, а не возлагает ответственность на людей». [Цитата из «Трактата о военном искусстве Сунь-цзы», глава «Ситуация», означает, что умелый полководец уделяет основное внимание созданию благоприятной обстановки, а не требует, чтобы каждый из его подчинённых был храбрецом.] На новом поле битвы — поле сотрудничества человека и машины — архитектор когнитивных систем и есть тот самый «умелый полководец». Нам больше не нужно требовать от собственного мозга выполнения всех задач по обработке данных (возлагать ответственность на людей), а следует сосредоточиться на создании оптимальной «ситуации для сотрудничества человека и машины». Мы отвечаем за определение направления, выдвижение гипотез и принятие окончательных решений о ценности; а все вычислимые пути, ведущие к этой цели, можно с уверенностью передать нашим самым мощным кремниевым «подчиненным».

Таким образом, «расширение памяти» и «совместная обработка вычислительной мощности» вместе составляют две опоры «кремниевого экзоскелета». Они освобождают нас от бремени «что знать» и «как вычислять», позволяя сосредоточиться на двух вечных, присущих человеческой природе ключевых вопросах: «о чём следует спрашивать» и «во что в конечном итоге верить».

(2) Диалог как программирование: победа естественного языка

Если метафора «кремниевого экзоскелета» переосмыслила наше восприятие отношений с AGI на уровне «философии отношений», то нам по-прежнему нужен ключ, чтобы открыть «интерфейс управления» этим чудо-оружием. Радует, и даже можно сказать, что это дарок истории, что этим ключом является не какой-то сложный язык программирования, требующий высоких технических навыков, а древний инструмент, присущий каждому из нас от рождения и используемый уже десятки тысяч лет, — естественный язык. Это не просто техническое удобство, а глубокая смена расстановки сил. Это знаменует конец эпохи «Вавилонской башни», длившейся более полувека с момента появления компьютеров, когда небольшая группа программистов монополизировала взаимодействие человека и машины с помощью непонятного языка кода. Началось «движение за равенство языков», основной принцип которого гласит: диалог — это программирование.

1. Сущность инженерии промптов: структурированное выражение мысли

«Prompt» — это слово, которое сегодня считается библией в технологическом сообществе и среди творческих людей; его прямой перевод на китайский язык — «подсказка» или «команда». Однако такой перевод далеко не исчерпывает его глубокий смысл. Инженерия промптов — это отнюдь не просто «отдача команд» машине. Его суть заключается в искусстве и науке преобразования расплывчатых, хаотичных и неструктурированных человеческих мыслей в структурированный язык, понятный и выполнимый машиной. Оно требует от нас стать «программистами» собственных мыслей и, используя язык — этот древнейший «код», — написать самые изящные и эффективные «программы» для нашего сотрудничества с AGI, этим кремниевым разумом.

Величие этой трансформации заключается в том, что она возвращает власть «программирования» из двоичного мира компьютеров обратно в мир родного языка человеческого мышления. В прошлом общение человека с машиной должно было быть ориентировано на машину. Нам приходилось изучать различные сложные языки программирования, такие как C++, Python, Java, и, следуя логическим категориям и синтаксическим правилам машин, переводить наши намерения на язык, понятный машине. Этот процесс подобен тому, как если бы поэту пришлось изучать сухие юридические тексты: он не только неэффективен, но и в значительной степени подавляет гибкость и творческий потенциал мышления. Витгенштейн однажды сказал: «Пределы моего языка — это пределы моего мира» [цитата из «Логико-философского трактата» (Tractatus Logico-Philosophicus) Людвига Витгенштейна, подчеркивающая роль языка в формировании мышления и мира]. В ту эпоху то, что мы могли заставить машину делать для нас, в значительной степени зависело от того, какой мир программист мог построить для нас с помощью кода.

Появление крупных языковых моделей (LLM) полностью перевернуло эти соотношения сил. Впервые центр коммуникации переместился с машины на человека. Нам больше не нужно подстраиваться под язык машины — напротив, машины начали с беспрецедентной способностью изучать и понимать наш язык. За этим стоит «эстетика насилия», порождённая архитектурой «трансформеров» и обучением на огромных массивах данных. Изучив практически все существующие тексты, написанные людьми, машина построила в том высокомерном пространстве, состоящем из миллиардов параметров, вероятностную модель человеческого языка, знаний и даже моделей мышления. Таким образом, языковой разрыв, когда-то разделявший человека и машину, был преодолен.