Архитекторы познания. Как меняется мышление в эпоху искусственного интеллекта

Однако это не означает, что мы можем общаться с машиной как нам вздумается, без всякой системы. Напротив, когда инструменты коммуникации становятся беспрецедентно мощными и удобными, требования к ясности, структурированности и глубине мысли самого коммуникатора также достигают небывалого уровня. Именно в этом и заключается истинный вызов инженерии промптов. Превосходный инженер по промптам, прежде всего, должен быть превосходным мыслителем. Он должен обладать способностью систематически разбивать на составляющие обширную и расплывчатую задачу (например, «Написать аналитический отчет о будущих тенденциях рынка недвижимости Китая»).

Это похоже на «расчет в храме», который подчеркивается в древнекитайском военном искусстве. В «Трактате о стратегии» Сунь-цзы говорится: «Тот, кто ещё до начала сражения побеждает благодаря расчётам в храме, — это тот, у кого расчётов много; тот, кто ещё до начала сражения не побеждает благодаря расчётам в храме, — это тот, у кого расчётов мало. Много расчётов — победа, мало расчётов — поражение, а что уж говорить о полном отсутствии расчётов!»[Смысл: до начала сражения, проводя расчеты в дворцовых залах, тот, кто предусматривает больше условий для победы, одержит победу; тот, кто предусматривает меньше условий для победы, потерпит поражение. Тот, кто рассчитал много, побеждает того, кто рассчитал мало, а что уж говорить о тех, кто не рассчитывает вовсе?] «Расчет в храме», о котором здесь идет речь, представляет собой именно тот мыслительный процесс, который заключается в систематическом и структурированном анализе целей, ресурсов, путей и переменных перед началом действий. Качественный промпт — это «расчет в храме» цифровой эпохи. Он должен содержать следующие ключевые элементы:

Во-первых, это чёткое определение «роли». Вам нужно сообщить AGI, в роли какого эксперта она должна выступать. Например: «Пожалуйста, представьте себя макроэкономическим аналитиком с тридцатилетним опытом, специализирующимся на китайском рынке и обладающим знаниями уровня лауреата Нобелевской премии по экономике». Такое определение роли значительно «ограничивает» диапазон знаний, к которым может обращаться модель, активирует её профессиональную «личность» в конкретной области и делает выдаваемые ею результаты гораздо более точными и глубокими, чем общие ответы.

Во-вторых, это чёткое разбиение «задачи» на составляющие. Вам необходимо разбить обширную задачу на ряд конкретных, выполнимых шагов. Например: «Во-первых, проанализируйте три основных этапа развития китайского рынка недвижимости за последние двадцать лет и факторы, их определяющие; во-вторых, проанализируйте текущие структурные вызовы, включая, как минимум, три аспекта: демографию, задолженность и политику; в-третьих, на основе «модели четырёх сил» спрогнозируйте три возможных сценария развития событий на ближайшие пять лет; наконец, предложите соответствующие стратегии минимизации рисков для различных типов инвесторов». Такие структурированные инструкции, подобно чёткому «чертежу строительства», обеспечивают логическую строгость и структурную целостность конечного результата.

В-третьих, это богатый «контекст» и «ограничительные условия». Вам необходимо «загрузить» в модель в качестве фоновых знаний ключевую информацию, данные и даже вашу уникальную аналитическую структуру (например, нашу «модель четырёх сил»). Одновременно с этим вам необходимо установить чёткие границы для выходных результатов, например: «Пожалуйста, убедитесь, что ваш анализ является нейтральным и объективным; избегайте использования любых провокационных формулировок или терминологии, связанной с рисками. Убедитесь, что общее количество слов составляет около 5000, и приведите ссылки как минимум на три авторитетных источника».

Видите ли, этот процесс уже далеко выходит за рамки простого «задавания вопроса». Это процесс «принудительной структуризации» нашего собственного мышления. Он требует, чтобы перед диалогом с машиной мы сначала провели глубокий «внутренний диалог» с самими собой. Сначала мы должны в своём уме отточить эту расплывчатую идею до четкого и логически строгого «чертежа мыслительного здания», и только потом, используя язык как универсальный «код», передать этот чертеж мощной «строительной бригаде» в лице AGI. Таким образом, победа в инженерии промптов, в конечном счёте, является победой структурированного мышления.

2. Итеративное взаимодействие: сократический метод

Однако даже если мы провели самое тщательное «стратегическое планирование» и создали, казалось бы, идеальный исходный Prompt, путь сотрудничества человека и машины только начинается. Ведь рождение мысли никогда не было линейным, мгновенным процессом «родов», а скорее напоминает процесс «помощи при родах», в ходе которого мысль постепенно выкристаллизовывается в результате постоянных колебаний, переспросов и корректировок. В этом и заключается второй уровень сути концепции «диалог как программирование» — итеративное взаимодействие.

Древнегреческий философ Сократ никогда не навязывал своим ученикам готовые ответы. Он скорее был мудрым «акушером», который с помощью серии последовательных, все более глубоких вопросов помогал ученикам самостоятельно обнаруживать пробелы в мышлении, прояснять неясные концепции и, в конечном итоге, «родить» в собственном уме свою собственную истину. Этот метод впоследствии получил название «сократовского акушерства». В эпоху AGI каждому из нас необходимо стать «Сократом» для собственных мыслей, а AGI станет нашим самым терпеливым и самым эрудированным «собеседником».

Суть итеративного взаимодействия заключается в спиралеобразном процессе «взаимодействия человека и машины». Он начинается с первого заданного нами вопроса, на который AGI, основываясь на этом промте, генерирует предварительный ответ (версия 1.0). Этот ответ почти всегда будет несовершенным. Возможно, он будет недостаточно глубоким в каком-то аргументе, недостаточно уместным в каком-то конкретном случае или неверно интерпретирует какое-то наше тонкое намерение. А наша задача — выступить в роли самого взыскательного «критика». Нам необходимо тщательно проанализировать этот черновой вариант, выявить его недостатки, а затем сформулировать более сложный и направляющий «промпт с дополнительными вопросами».

Например, когда AGI при анализе рисков рынка недвижимости приводит стандартное рассуждение о «долговом риске», мы можем задать следующий вопрос: «Упомянутый вами долговой риск носит слишком макроэкономический характер. Пожалуйста, разбейте его на три подвопроса: во-первых, каковы реальные масштабы и структура скрытого долга местных органов власти? Во-вторых, как дефолт по долларовым облигациям ведущих девелоперских компаний через финансовую систему отразится на малых и средних предприятиях? В-третьих, пожалуйста, приведите теорию «балансового спада» и проанализируйте, какое долгосрочное сдерживающее воздействие окажет поведение населения, досрочно погашающего кредиты, на способность банков к расширению кредитования?»

Этот дополнительный вопрос, подобно софистическим вопросам Сократа, заставляет AGI перейти от широкого и банального изложения к более глубокому, тонкому и проницательному уровню анализа. На основании этого вопроса AGI сгенерирует ответ, прошедший несколько итераций (версия 2.0). Затем мы снова его рассматриваем, критикуем, задаем дополнительные вопросы… И так по кругу. В этом процессе наши мысли и интеллект машины вступают в удивительный резонанс. Каждый наш вопрос подобен прикосновению к струнам, а машина, в зависимости от силы и угла нашего прикосновения, отвечает разными звуками. Наши мысли больше не являются замкнутым, изолированным монологом, а превращаются в динамичное, совместное творчество — «дуэт» с могущественным «другим».

Как сказал поэт династии Тан Лю Юйси в «Надписи на скромной комнате»: «Можно настроить простую цитру, читать Золотую сутру. Никаких шумов струнных инструментов, раздражающих слух, никаких бумаг, утомляющих тело». [Эта фраза описывает идеальное состояние, в котором человек, освободившись от помех со стороны суетных дел, может погрузиться в духовный мир.] В эпоху AGI итеративное взаимодействие открывает перед нами совершенно новые возможности для реализации этого идеального состояния.AGI берет на себя всю работу, «утомляющую тело бумажной волокитой» — поиск и систематизацию данных, генерацию текстов; а мы, наконец, можем освободить себя от этого тяжелого интеллектуального труда и сосредоточиться на высшей духовной деятельности — «игре на простой цитре и чтении Золотого канона»: определении направления, постановке вопросов, проведении критического и мудрого «допроса».

Таким образом, принцип «диалог как программирование» в конечном итоге ведёт к появлению совершенно новой формы «мыслителя». Они больше не являются «одинокими героями», сидящими в одиночестве и погружёнными в раздумья, а становятся «дирижёрами оркестра», танцующими в такт с мощным кремниевым разумом. Их ключевая компетенция заключается не в объёме накопленных знаний, а в том, чтобы в ходе повторяющихся итеративных «диалогов между человеком и машиной» стимулировать, направлять и, в конечном итоге, синтезировать совершенно новую мудрость — они являются «повивальной бабкой» и «режиссёром». Именно в этом заключается основная сфера деятельности нового вида — архитектора когнитивных систем.

II. Модель ключевых компетенций архитектора

После того как мы заключили новый договор о «сотрудничестве человека и машины» и переосмыслили симбиотические отношения с «кремниевым экзоскелетом», на фоне эпохи начали постепенно вырисовываться чёткие очертания совершенно нового вида — когнитивного архитектора. Однако эволюция и созревание этого нового вида — не естественный процесс. Для этого необходим совершенно новый набор соответствующих компетенций — набор более фундаментальных «ключевых качеств», выходящих за рамки традиционных понятий «знаний» и «навыков». Если элита старой эпохи определяла свою ценность по имеющимся у неё «ответам», то архитектор новой эпохи утверждает своё положение благодаря задаваемым им «вопросам». Это не просто игра слов, а самый глубокий переход власти в эпоху AGI.В этой модели существуют два вида компетенций, которые, подобно двойной спирали, вместе составляют ДНК когнитивного архитектора. Первая — это «умение задавать вопросы», определяющее направление; вторая — «эстетическое чутье», определяющее ценность.

(1) Умение задавать вопросы: определение границ проблемы

«Умение задавать вопросы» — этот древний инстинкт, которым человек овладевает ещё в раннем детстве, когда только начинает лепетать, под влиянием AGI переживает поразительный скачок от «повседневного навыка» к «основополагающей силе». Когда стоимость получения ответа приближается к нулю, сам ответ быстро теряет свою ценность; в то же время ценность «вопроса», способного привести к высококачественному ответу, растёт в геометрической прогрессии. «Умение задавать вопросы» в данном контексте уже давно вышло за рамки простых вопросительных предложений — это комплексная стратегическая способность, позволяющая исследовать неизвестное, определять границы и строить рамки. В рамках новой парадигмы «диалог как программирование» постановка вопросов — это единственная уздечка, с помощью которой мы формируем мир и управляем этим кремниевым гигантом под названием AGI. Основная работа архитектора когнитивных систем в некотором смысле представляет собой «искусство задавать вопросы».

1. Хороший вопрос ценнее ответа: ориентир

В эпоху индустриализации мастер менеджмента Питер Друкер (Peter Drucker) высказал глубокую мысль: «Делать правильные вещи важнее, чем делать вещи правильно». [«Do the right things, rather than do things right» — это одна из основ управленческой философии Друкера, подчеркивающая приоритет стратегического направления (Effectiveness) над тактической эффективностью (Efficiency).] В эпоху AGI эта фраза обрела совершенно новое, ещё более актуальное значение. «Делать вещи правильно», то есть стремиться к эффективности, — это именно та область, в которой машины имеют абсолютное преимущество, и мы уже не можем и не должны с ними конкурировать. А уникальная ценность человека полностью сосредоточена на первом — на том, как «делать правильные вещи». И отправной точкой, определяющей, сможем ли мы делать правильные вещи, является то, задали ли мы тот «правильный вопрос».

Посредственный вопрос может привести только к посредственному ответу, и даже если этот ответ сгенерирован самым мощным в мире ИИ, он по-прежнему останется «изысканным мусором». А великий вопрос подобен маяку, способному мгновенно осветить хаотичное море мыслей и обозначить четкий курс для исследования, даже если поначалу мы ничего не знаем об ответе. Как сказал один из величайших физиков XX века Джон Уилер (John Wheeler): «Мы живём во вселенной, состоящей из вопросов». Качество вопроса напрямую определяет пределы, до которых мы можем дойти в наших познавательных поисках.

Так что же такое «хороший вопрос»? Он обладает как минимум тремя ключевыми характеристиками.

Во-первых, хороший вопрос является «открытым», а не «закрытым». Закрытый вопрос, как правило, имеет только один или несколько определённых, основанных на фактах ответов. Например: «Какова была чистая прибыль Китайского промышленного и коммерческого банка в прошлом году?» Такие вопросы по сути являются «поиском», а не «исследованием»; AGI может отлично с ними справиться, но они не приносят никакого когнитивного прироста. А открытый вопрос не имеет стандартного ответа; он открывает широкое пространство для исследования, полное возможностей. Например, давайте расширим предыдущий вопрос: «На фоне двойного воздействия глобальных отрицательных процентных ставок и финансовых технологий, с какими фундаментальными вызовами столкнется в ближайшие десять лет традиционная бизнес-модель «вклады, кредиты и валютные операции» таких сверхкрупных коммерческих банков, как Китайский промышленно-коммерческий банк? Предложите три возможных пути развития с точки зрения «баланса».» Видите ли, этот вопрос уже не требует от ИИ простого воспроизведения цифр, а требует от него проведения сложного, многомерного стратегического моделирования. Это превращает ИИ из «базы данных» в «стратегического советника».

Во-вторых, хороший вопрос носит «генеративный», а не «израсходованный» характер. В случае израсходованного вопроса диалог заканчивается после получения ответа. А в случае генеративного вопроса сам ответ, подобно семени, порождает новые, более глубокие вопросы. За долгие годы работы в сфере кредитной экспертизы у меня постепенно сформировалась привычка: больше всего я ценю не прямой ответ предпринимателя на мой вопрос, а «контрвопрос», который он задает после того, как выслушает мой вопрос. Когда я спрашиваю основателя: «Как вы обеспечите, чтобы ваша технология не была превзойдена конкурентами в ближайшие три года?», посредственный ответ, скорее всего, будет заключаться в перечислении собственных технологических преимуществ.

А выдающийся основатель, возможно, задаст встречный вопрос: «Господин директор, этот вопрос, который вы подняли, очень важен. Но во время внутренних обсуждений мы обнаружили более глубокую проблему: нашими настоящими соперниками, возможно, вовсе не являются те коллеги, которых мы видим сегодня, а технология из другого измерения, которую мы пока даже не можем себе представить. Например, мы занимаемся разработкой программного обеспечения для диагностики на основе медицинских изображений, и нашей самой большой угрозой, возможно, станет не другая компания-разработчик, а технология биологических датчиков, позволяющая обойти изображения и проводить диагностику непосредственно на молекулярном уровне. Поэтому вопрос, который мы действительно должны задать себе сейчас, звучит так: «Как нам построить «антихрупкую» организацию, чтобы гарантировать наличие второй и третьей кривых роста даже в случае, если наш основной бизнес подвергнется радикальным изменениям?» Этот «обратный вопрос» является типичным генеративным вопросом. Он мгновенно переносит рамки дискуссии с тактического уровня вопроса о «защитном рве» на стратегический уровень вопроса о «философии выживания». Только такие вопросы способны по-настоящему стимулировать глубокое размышление и помочь организации преодолеть неопределённость будущего.

Наконец, хороший вопрос обязательно должен быть «проникающим»: он способен пробить поверхность явлений и дойти до самой сути вещей и первостепенных принципов. В «Дао-де-цзине» сказано: «Удержи великое начало, и весь мир пойдет к тебе». [Цитата из 35-й главы «Лао-цзы», означающая, что тот, кто способен уловить фундаментальные законы всего сущего во Вселенной («Да-сян»), к нему присоединятся все люди под небом.] Вопрос, обладающий проникающей силой, — это попытка уловить этот «Да-сян». Например, при анализе бизнес-модели интернет-компании поверхностный вопрос может звучать так: «Каков темп роста пользовательской базы этой компании?» А вопрос, обладающий проникающей силой, звучит так: «В какой степени эта компания изменила структуру информационной асимметрии в своей сфере? Создала ли она для всего общества «отрицательную энтропию» или просто воспользовалась слабостями человеческой натуры, породив новое «увеличение энтропии»? Первый вопрос — это количественный управленческий показатель, а второй — философский допрос, проникающий прямо в душу коммерческой цивилизации.

В эпоху, когда каждый может легко получить ответ, умение задавать вопросы станет единственным критерием, определяющим уровень познания. «Умение задавать вопросы» архитектора познания — это «сила маяка», указывающая направление исследования, это неутомимый дух Сократа, постоянно задающий вопросы: «А что дальше?», «Почему?», «А что, если…?».

2. Установление ограничительных условий: искусство сужения пространства решений

Если постановка хорошего открытого вопроса — это «расширение границ» познавательного исследования, то второй ключевой элемент умения задавать вопросы — установление ограничительных условий — представляет собой точную «ограду» и «разведку» на этой обширной территории, то есть искусство «сужения пространства решений».

Сила AGI заключается в том, что она способна осуществлять высокоскоростной поиск в огромном «пространстве возможностей». Но именно в этом и заключается её слабость. Если не установить чёткие границы, её поиск будет рассеянным, случайным и неэффективным. Она может дать вам тысячу релевантных ответов, но девятьсот девяносто девять из них будут бесполезным для вас «шумом». А ценность архитектора когнитивных систем заключается в том, чтобы с помощью ряда тонко сформулированных «ограничительных условий» свести это бесконечно огромное «пространство возможностей» к крайне малому, но обладающему чрезвычайно высокой плотностью ценности «пространству оптимальных решений».

Это искусство подобно «пустому пространству» в китайской живописи. Мастер, создавая картину, не закрашивает весь лист, а с помощью обширных пустых участков подчеркивает дух и характер главного объекта. Точно так же искушенный задающий вопросы умеет использовать «отрицание» и «ограничения», чтобы обратным путем определить то, что он действительно хочет.

Когда я даю AGI команду подготовить для меня отчет о «цифровом юане», начинающий задающий вопрос, возможно, скажет: «Напишите, пожалуйста, отчет о цифровом юане». А профессиональный архитектор задаст ряд следующих ограничительных условий:

«Пожалуйста, представьте себя аналитиком, владеющим одновременно валютно-банковским делом, криптографией и геополитикой, и подготовьте подробный отчет о китайском цифровом юане (eCNY) для внутреннего использования в процессе принятия решений в Банке международных расчетов (БМР). В отчете не ограничивайтесь перечислением технических характеристик, а сосредоточьтесь на трех основных «революционных» последствиях, которые он может повлечь за собой. Во-первых, как он изменит платежную систему коммерческих банков и процесс кредитования внутри страны? Пожалуйста, избегайте обсуждения поверхностных изменений в платежных привычках обычных граждан. Во-вторых, как он бросит вызов системе SWIFT и гегемонии доллара на международном уровне? Проанализируйте, в частности, перспективы его применения в странах, входящих в инициативу «Один пояс, один путь», и оцените возможное политическое сопротивление. В-третьих, на уровне регулирования: как его особенность «контролируемой анонимности» позволит достичь тонкого баланса между защитой конфиденциальности пользователей и предотвращением финансовых преступлений? Просьба использовать Общий регламент по защите данных (GDPR) Европейского союза в качестве системы отсчета для сравнительного анализа. Пожалуйста, убедитесь, что стиль доклада является академическим и нейтральным; категорически запрещается использовать какие-либо термины, несущие националистический подтекст. Объем доклада должен строго ограничиваться 8000 иероглифов».

Видите ли, эта серия указаний — «не», «избегать», «уделить особое внимание», «ссылаться», «строго запрещается», «строго ограничить» — подобна целой серии точных «фильтров» и «навигаторов». Они постоянно отсеивают нежелательные и малоценные варианты, одновременно непрерывно фокусируя «вычислительную мощность» ИИ на том «курсе», который меня действительно интересует и представляет наибольшую ценность. Этот процесс не только значительно повышает эффективность сотрудничества человека и машины, но, что ещё важнее, он глубоко «вливает» мои «намерения» и «озарения» как архитектора в процесс генерации машины. Конечный результат больше не будет представлять собой сгенерированные машиной «готовые знания», одинаковые для всех, а станет высоко персонализированным, уникальным «кристаллом мудрости», на котором отпечатался мой личный мыслительный отпечаток.

В «Хань Фэй Цзы · Ю Лао» рассказывается притча о «человеке из Чжэн, покупающем обувь», который предпочел довериться измеренному им размеру, а не собственной ноге. Эта история часто используется для насмешки над теми, кто слепо следует устаревшим правилам и оторван от реальности. Но в эпоху AGI нам как раз нужно стать более умным «человеком из Чжэн». Наши «ноги», то есть наша интуиция и смутные ощущения, безусловно, важны; но именно тот «размер», который мы создали собственными руками и который воплощает в себе наши глубокие размышления и тщательную проработку — тот набор точных ограничивающих условий — является единственной гарантией того, что мы сможем точно управлять AGI, этим «быстрым конем», и заставить его бежать к заданной нами цели, а не дать ему свободу и позволить ему бежать в противоположном направлении.

Таким образом, «умение задавать вопросы» — это искусство поддержания динамического равновесия между «открытостью» и «сужением». Оно требует как широкого кругозора, позволяющего «достичь небес и спуститься в преисподнюю» [цитата из стихотворения «Песнь о вечном сожалении» поэта династии Тан Бай Цзюй, в оригинале: «Вверх до небес и вниз до преисподней, в обоих местах — безграничная пустота, ничего не видно»здесь используется для описания широты и глубины исследования], чтобы задавать те великие вопросы, которые открывают новые горизонты; так и «искусства устроить храм в раковине улитки» [китайская поговорка, означающая выполнение тонких и сложных задач в ограниченном, тесном пространстве], чтобы установить те ограничивающие условия, которые позволят мысли точно воплотиться в жизнь. Сочетание этих двух способностей вместе составляет самое острое «копьё» и самый прочный «щит» архитектора познания.

(2) Эстетическое чутье: окончательное решение о ценности

Если «умение задавать вопросы» — это «жезл» в руках архитектора когнитивных систем, с помощью которого он открывает новые горизонты и определяет направление, то «эстетическое чутье» — это «весы» в его сердце, которые выносят окончательное решение и придают смысл. Когда AGI сможет в промышленных масштабах генерировать для нас бесчисленное количество логически согласованных, подкрепленных данными и кажущихся «правильными» ответов, возникнет совершенно новый и гораздо более глубокий вызов: как среди бесчисленных «правильных» ответов выбрать тот, который «хорош»? Как среди бесчисленных «выполнимых» решений определить, какое из них «стоит того»? Эта способность выносить «ценностные» суждения на уровне, выходящем за рамки «фактов», и есть «эстетическое восприятие». Это интуиция, выходящая за пределы логики и вычислений, глубоко индивидуальная и присущая только человеку. Она станет нашей последней и самой прочной линией обороны, позволяющей нам сохранить индивидуальность и отстоять ценности человечности в мире, «унифицированном» алгоритмами.

1. Распознавание посредственности: отбор «золота» из огромного потока информации