Думайте лучше искусственного интеллекта. Управляйте мышлением, а не знаниями

Вы умеете принимать решения в условиях неопределённости. Информация неполна, модели ненадежны, но вам всё равно приходится принимать окончательное решение. Такое решение основано на суждении, а суждение, в свою очередь, строится на «осознании границ собственного познания». Вы знаете, на что делаете ставку, знаете, насколько широк доверительный интервал, знаете, когда следует действовать осторожно, а когда можно пойти на риск.

Все эти способности имеют одну общую черту: все они связаны с метапознанием. Важно не то, сколько вы знаете, а то, как вы применяете свои знания, осознаете пределы своих знаний и понимаете, когда следует корректировать свою когнитивную стратегию.

1.3.3 Данные исследований: ИИ делает вас умнее, но не мудрее

В 2025 году Шариати и его коллеги опубликовали в журнале «Computers in Human Behavior» статью с очень удачным названием: «AI Makes You Smarter but None the Wiser». «None the wiser» — это английская идиома, означающая, что после совершения какого-либо действия человек по-прежнему находится в неведении. Исследователи использовали его для описания парадокса: ИИ позволяет вам лучше справляться с задачами, но не дает вам более ясного представления о себе.

Дизайн исследования был довольно простым. Участники выполняли задания по написанию текстов, анализу и принятию решений как с помощью ИИ, так и без него, а после завершения оценивали свои результаты (прогнозировали баллы, определяли своё место в рейтинге группы). Независимые эксперты выставляли оценки. Сравнивая «самооценку» с «фактическими баллами», можно было измерить метакогнитивную калибровку (metacognitive calibration), то есть насколько точно вы оцениваете свои результаты.

Результаты свидетельствуют о трёх моментах:

Результаты действительно улучшились. Участники, использовавшие ИИ, продемонстрировали значительно более высокое качество результатов, чем те, кто обходился без него. Это соответствует интуиции: при грамотном использовании ИИ отчеты действительно получаются лучше.

Однако самооценка, напротив, стала менее точной. У участников, использовавших ИИ, отклонение в оценке собственного уровня выполнения задания было больше, а кривая калибровки отклонялась от идеального состояния. После того как вы полагаетесь на результаты ИИ, вам становится сложнее точно ответить на вопрос «Как я, собственно, справился?».

Чем лучше вы умеете пользоваться ИИ, тем менее точна ваша самооценка. У людей с более высокой ИИ-грамотностью метакогнитивная неточность выражена сильнее. Это противоречит интуиции: можно было бы подумать, что чем лучше человек владеет инструментом, тем четче он понимает пределы его возможностей. Эмпирические данные показывают прямо противоположное.

Именно об этом говорится в названии «None the Wiser»: вы стали умнее, но не мудрее. Под мудростью здесь подразумевается трезвое осознание собственного когнитивного состояния. Использование ИИ, как раз, ослабляет это осознание.

Что это означает? Если мы будем полагаться на ИИ без рефлексии, то, повышая краткосрочную эффективность, мы рискуем подорвать свои ключевые долгосрочные преимущества. В некоторой степени само это чувство кризиса является метакогнитивным сигналом — по крайней мере, вы все еще задаетесь вопросом: «Что я на самом деле делаю?». Те, кто полностью полагается на ИИ, но больше не задается этим вопросом, возможно, идут по пути, ведущему к тому, что они станут «умнее, но менее осознанными».

1.3.4 Парадокс: чем выше уровень грамотности в области ИИ, тем менее точна самооценка

Исследование Шариати и других ученых выявило парадокс, противоречащий интуиции: чем чаще используется ИИ, тем сложнее точно оценить себя.

На первый взгляд это нелогично. Человек, умело использующий инструмент, должен лучше понимать, на что способен этот инструмент, а на что нет, и более точно различать «мой вклад» и «вклад инструмента». Однако эмпирические результаты показывают прямо противоположное. Почему?

Три возможных объяснения:

Неясность атрибуции. ИИ проникает во все этапы написания текстов, анализа и программирования, и человеку трудно отличить «это я придумал» от «это предложил ИИ». Результат становится смешанным продуктом, и ориентиры для самооценки стираются.

Иллюзия плавности. Тексты, сгенерированные ИИ, часто отличаются плавностью и связностью, читаются вполне убедительно. Такая плавность создает ощущение контроля: кажется, что вы сами поняли содержание. На самом деле вы, возможно, просто редактируете, а не создаете, но при этом чувствуете себя хорошо.

Иллюзия переноса способностей. Люди, часто использующие ИИ, могут ошибочно интерпретировать «я умею настроить ИИ так, чтобы он давал хорошие результаты» как «я сам обладаю высокими способностями». Первое — это способность к сотрудничеству, второе — способность действовать самостоятельно. Это разные вещи, но в повседневной практике их легко спутать.

Вывод из этого парадокса очевиден: суть метакогнитивных вызовов эпохи ИИ заключается в проблеме самопознания, а не в технических вопросах. Вам нужны не дополнительные навыки работы с ИИ, а более трезвое осознание: чем я занимаюсь? Какой вклад я вношу? Что я знаю, а чего не знаю?

Если это наблюдение останется верным, «научиться использовать ИИ» и «сохранять метакогнитивную ясность» станут противоположными тенденциями. Чем больше вы используете ИИ, тем лучше ваши результаты, но тем хуже ваша самооценка; не используя ИИ, ваша самооценка будет точнее, но результаты могут отставать. Выход заключается не в выборе одного из двух, а в активном формировании привычки к метапознанию. Используя результаты работы ИИ, сознательно задавайте себе вопросы: «В чём заключается мой вклад? Проверил ли я качество этого результата? В какой степени я полагаюсь на ИИ? Сам по себе этот вопрос является сопротивлением метакогнитивной неточности.

1.3.5 Что такое метапознание: осознание того, что вы делаете со «своими знаниями»

Концепция метапознания (metacognition) была систематически изложена когнитивным психологом Джоном Флавеллом (John Flavell) в 1979 году. В своей статье «Метапознание и когнитивный мониторинг» (Metacognition and Cognitive Monitoring), опубликованной в журнале «Американский психолог», он определил метапознание как «познание о познании» (cognition about cognition): осознание, контроль и регулирование собственных мыслительных процессов. Флавелл исследовал когнитивное развитие детей, но его концептуальная модель носит универсальный характер. Метапознание — это не привилегия избранных гениев, а часть когнитивной системы человека. Просто мы привыкли к тому, как оно работает, и только какой-то импульс (например, ИИ) заставляет нас переосмыслить это.

Флавелл разбивает метапознание на четыре взаимосвязанных компонента:

Метакогнитивное знание. Знания о когнитивных задачах, субъекте познания и когнитивных стратегиях. Например: вы знаете, что заучивание списка легче забывается, чем понимание концепции; вы знаете, что в математике у вас больше уверенности, чем в языке; вы знаете, что распределенная практика эффективнее, чем интенсивная подготовка в последнюю минуту. Эти знания помогают вам прогнозировать сложность задачи, выбирать стратегию и формировать ожидания.

Метакогнитивный опыт. Эмоции и ощущения, возникающие в процессе познания. Чувство «застрял» при чтении сложного отрывка, внезапное «озарение» при написании доклада, ощущение «что-то не так» при принятии решения. Эти переживания часто остаются вне поля сознательного внимания, но они являются важными сигналами метакогнитивного контроля, подсказывающими вам: «здесь нужно что-то скорректировать».

Цель. Какова цель вашей текущей когнитивной деятельности? Без чёткой цели метапознание не может эффективно функционировать. Вы читаете эту статью ради экзамена или из интереса? В зависимости от цели меняются стратегии чтения и критерии контроля. Без цели вы не знаете, «до какой степени это достаточно». А оценка того, «достаточно ли этого», является одной из ключевых функций метапознания.

Стратегии. Когнитивные стратегии, выбранные для достижения цели. Столкнувшись с непонятным абзацем, вы заглядываете в словарь, пропускаете его или перечитываете несколько раз? Эти выборы зависят от ваших метакогнитивных знаний о задаче, о себе и об эффективности стратегий. Люди с высоким уровнем метапознания могут гибко менять стратегии в зависимости от обратной связи; люди с низким уровнем, как правило, придерживаются одной стратегии, даже если она уже не работает.

Взаимодействие четырёх элементов: знания влияют на постановку целей и выбор стратегий, опыт в процессе работы даёт обратную связь и побуждает вас корректировать стратегии, а цели служат системой отсчёта для мониторинга. Суть метапознания заключается в том, чтобы «знать, что вы делаете со своими знаниями».

ИИ преуспевает в самом «познании»: сопоставлении шаблонов, интеграции информации, генерации речи. Но ИИ с трудом может по-настоящему осознавать, что именно он знает, понимать свои ограничения и активно корректировать стратегию в условиях неопределённости. Когда он генерирует ответ, он обычно не говорит: «В этом я не уверен» или «Эта часть выходит за пределы моих обучающих данных». Даже если и говорит, точность такого самоосознания намного уступает человеческой. Именно в этом заключается уникальная ценность человеческой метапознавательности.

1.3.6 Двухуровневая архитектура: базовая метапознавательность и приложения, основанные на метапознавательности

Сфера способностей, рассматриваемых в данной книге, весьма обширна: от осознания когнитивных границ до постановки вопросов, управления вниманием, ценностных суждений и междисциплинарных связей. Чтобы избежать концептуального раздувания понятия «всё является метапознанием», необходимо различать два уровня.

Базовый уровень (метапознание в узком смысле, исходная модель Флавелла):

Осознание когнитивных границ: понимание того, что вы знаете, а чего не знаете (глава 3)

Когнитивный мониторинг: отслеживание собственных мыслительных процессов и состояний в режиме реального времени (главы 3, 6)

Когнитивная регуляция: гибкая корректировка когнитивных стратегий на основе результатов мони (главы 6, 9)

Прикладной уровень (высшие способности, обусловленные метапознанием):

Умение задавать точные вопросы: для этого требуется метапознание, чтобы определить, «правильно ли я задаю вопросы» (глава 4)

Управление вниманием: требует метапознания, чтобы осознать, «на чем я сосредоточен, а что игнорирую» (глава 5)

Оценка ценностей: требует метапознания для анализа «на чем основано мое суждение» (глава 7)

Распознавание и отбор междоменных связей: требуется метапознание, чтобы решить: «Стоит ли отслеживать эту, казалось бы, не имеющую отношения к делу мысль?» (глава 8)

Рис. 1-2: Двухуровневая архитектура — основные метакогнитивные навыки и их применение

Это разграничение имеет большое значение. Когда кто-то возражает, что «ИИ тоже может проводить междоменные аналогии» или «ИИ тоже учится корректировать неопределённость», он нападает на определённые функции прикладного уровня. Ядро — осознание, мониторинг и регулирование собственных когнитивных процессов — до сих пор остаётся самым слабым аспектом ИИ. Некоторые способности прикладного уровня могут постепенно переходить к ИИ, но пока ядро остаётся активным, вы сможете продолжать адаптироваться и осваивать новые способы применения.

Именно поэтому в этой книге метапознание сравнивается с операционной системой, а не с «рвом». Рв — это статическая защита, которая теряет эффективность, как только её прорвут. Операционная система — это динамическая инфраструктура, которую можно обновлять, адаптировать к новой среде и запускать на ней новые приложения. Вашей метапознавательной ОС не нужно всегда опережать ИИ — ей нужна способность к постоянной итерации.

1.4 Аргумент «от обратного»: признание сложности

Говорить о важности метапознания не означает, что другие аспекты можно игнорировать. Любая «теория человеческого превосходства», доведенная до крайности, приводит к искажению реальности, и есть несколько моментов, с которыми нужно честно признаться.

ИИ не заменил все ценности человека. Уход за больными, образование, творческое сотрудничество, реагирование на кризисные ситуации — все эти виды деятельности по-прежнему требуют работы на месте, межличностного взаимодействия и физического присутствия. ИИ может составить диагностический отчет, но ему трудно взять за руку пациента, испытывающего тревогу; он может сгенерировать план урока, но ему трудно уловить недоумение в глазах учеников в классе и мгновенно скорректировать ход занятия. Настоящая книга посвящена работникам умственного труда и не охватывает всех трудящихся. Даже в рамках умственного труда степень влияния ИИ на различные должности различна.

Метапознание также не является панацеей. Некоторые должности по-прежнему в значительной степени зависят от накопленных знаний, например, анатомическая ориентация во время хирургической операции или цитирование положений закона в ходе судебных прений, когда требуется мгновенное воспроизведение профессиональных деталей. Метапознание помогает лучше применять знания и распознавать границы, но не может заменить накопление отраслевых знаний. Человек, четко осознающий границы своего познания, но не обладающий отраслевыми знаниями, по-прежнему не сможет выполнять работу, требующую глубоких профессиональных суждений. Оба аспекта взаимодополняют друг друга: метапознание — это «как использовать», а знания — «что использовать». (О структурных отношениях между познанием и метапознанием, а также о том, сможет ли ИИ развить метапознание, подробно пойдет речь в следующей главе.)

Ключ заключается в смещении относительного преимущества. Раньше относительное преимущество человека в основном заключалось в том, «что он знает». Сегодня это преимущество во всё большем числе областей подвергается эрозии со стороны ИИ. Относительное преимущество смещается в сторону «как думать», «как судить» и «как корректировать». Знания по-прежнему важны, но в условиях, когда ИИ может легко восполнить их недостаток, метакогнитивные способности становятся ключевым критерием, позволяющим отличить «заменимое» от «трудно заменимого». Вам не нужно отказываться от обучения, но необходимо перераспределить внимание: перейти от «накопления большего количества знаний» к «лучшему осознанию и применению уже имеющихся знаний».

Признание этих сложностей помогает нам избежать дихотомии: не впадать ни в чрезмерный пессимизм (человечество будет полностью заменено), ни в чрезмерный оптимизм (метакогнитивные способности решат все проблемы). Нужно трезво осознавать тенденции и находить в них свою точку опоры.

1.5 Мегкогнитивные моменты: ваши упражнения на рефлексию

Теория обретает жизнь только тогда, когда она воплощается в личном опыте. Два приведенных ниже упражнения не требуют длинных ответов — главное, честно отнестись к себе. Цель не в том, чтобы «сделать правильно», а в том, чтобы пробудить осознанность и заставить вас обратить внимание на те когнитивные процессы, которые обычно упускаются из виду.

Упражнение 1: Разберите пять дел, которые вы сделали сегодня

Вспомните пять конкретных дел, которые вы сделали сегодня (или вчера) на работе. Это может быть написание письма, участие в совещании, заполнение таблицы, анализ набора данных, принятие решения — любая задача, требующая когнитивного участия. Постарайтесь выбрать дела разного характера, чтобы сравнение было более наглядным.

По каждому делу задайте себе три вопроса:

Может ли ИИ выполнить это дело? Если да, то в какой степени? Может ли он полностью заменить вас или только помочь? Попытайтесь конкретизировать: какую часть может выполнить ИИ, а какую — нет?

Какую часть ИИ не может выполнить? Понимание контекста? Определение приоритетов? Управление межличностными отношениями? Принятие окончательной ответственности? Этот вопрос часто заставляет вас провести разграничение между «автоматизируемой частью задачи» и «неавтоматизируемой частью».

Почему ИИ не может выполнять эту часть? Попытайтесь объяснить это одним предложением — это обычно помогает выявить «уникально человеческий» аспект данного дела. Требуется ли физическое присутствие? Необходима ли моральная ответственность? Нужно ли принимать решения в условиях неопределённости? Требуется ли понимание невысказанного подтекста?

Многие обнаруживают: ИИ, как правило, способен выполнять задачи и генерировать результаты; то, что ИИ не может сделать, — это суждения, выбор, ответственность и принятие решений в условиях неопределённости. За последним стоит именно метапознание. Если вам кажется, что ИИ способен выполнить какую-то задачу полностью, задайте себе ещё несколько вопросов: кто решает, делать это или нет? Какой уровень выполнения считается достаточным? Кто несёт ответственность за результат? Ответы на эти вопросы часто указывают на роль метапознания человека.

Упражнение 2: Когда вы в последний раз изменили своё мнение по какому-то важному вопросу?

Задумайтесь: когда в последний раз вы действительно изменили своё мнение о каком-то важном вопросе под влиянием новых доказательств или аргументов? О чём шла речь? Что стало причиной вашего изменения?

Многим будет сложно ответить на этот вопрос. Не потому, что они никогда не меняли своего мнения, а потому, что изменения обычно происходят постепенно и неосознанно, и мы редко чётко отмечаем «тот момент, когда я передумал». Возможно, однажды мы вдруг обнаружим: «Похоже, я больше так не думаю», но не сможем точно сказать, какой конкретный момент или какие конкретные доказательства привели к этой перемене.

Одним из важных аспектов метапознания является осознание обновления убеждений. Осознание того, что «раньше я так думал, но теперь у меня появились новые основания, поэтому я должен скорректировать своё мнение», — само по себе является проявлением метапознания в действии. Это означает, что у вас не только есть точка зрения, но вы также способны наблюдать за ней и активно обновлять её при изменении доказательств. Если вы можете чётко вспомнить такой момент, это означает, что в тот момент ваше метапознание было активным. Если вам трудно вспомнить такой момент, возможно, стоит более активно развивать эту способность в повседневной жизни. Например, регулярно спрашивайте себя: «Какие важные взгляды у меня изменились за последний месяц? Почему?»

1.6 Подведение итогов и следующие шаги

Основная идея этой главы: происходит структурный переворот в асимметрии знаний. От шахмат до письма и анализа — преимущество человека в том, «что он знает», постепенно уступает место машинам. В условиях этого переворота ориентир ценности человека смещается: от того, что вы знаете, к тому, как вы осмысливаете то, что знаете. Это и есть метапознание.

Стоит запомнить несколько ключевых моментов:

Переворот уже произошел. Во все большем числе отраслей утверждение «человек знает больше, чем машина» больше не верно.

Метапознание — это модернизируемая операционная система, а не статичный защитный вал. Способность осознавать, контролировать и корректировать собственные когнитивные процессы — это когнитивная инфраструктура, в которую сегодня наиболее целесообразно инвестировать.

Исследование Шариати и др. (2025) содержит предупреждение: ИИ делает человека умнее, но, возможно, менее мудрым. Чем лучше человек умеет пользоваться ИИ, тем менее точна его самооценка.

Флавелл (1979) разделил метапознание на четыре компонента: знания, опыт, цели и стратегии. Они взаимодействуют друг с другом, образуя «познание о познании».

В то же время мы признаем сложность реальности: ИИ не заменил всего, а метапознание — не панацея; ключ заключается в направлении перераспределения относительных преимуществ.

Если эта глава заставила вас задуматься, вы уже сделали первый шаг. Но прежде чем перейти к конкретным метакогнитивным способностям, необходимо ответить на более фундаментальный вопрос: какова, собственно, связь между когнитивными процессами и метакогнитивными процессами? Почему считается, что это две разные уровни умственной деятельности? Почему ИИ силен на когнитивном уровне, но слаб на метакогнитивном? В следующей главе будет заложена структурная основа, проходящая красной нитью через всю книгу.

Список литературы

Shariati, M. и др. (2025). «AI Makes You Smarter but None the Wiser: The Disconnect Between Performance and Metacognition». Computers in Human Behavior. DOI: 10.1016/j.chb.2025.108662 — Основной вывод: использование ИИ повышает производительность, но ухудшает метакогнитивную калибровку; чем выше уровень ИИ-грамотности, тем менее точна самооценка.

Флавелл, Дж. Х. (1979). «Метапознание и когнитивный мониторинг: новая область исследований в области когнитивно-развивающей психологии». American Psychologist, 34(10), 906–911. — Основополагающая статья по концепции метапознания, в которой определены четыре компонента метапознания: знания, опыт, цели и стратегии.

Brynjolfsson, E., & McAfee, A. (2014). «Вторая эра машин: работа, прогресс и процветание в эпоху блестящих технологий». W. W. Norton. — Структурные изменения в соотношении технологий и человеческих способностей, служащие макронарративной основой для концепции «переворота».

Агравал, А., Ганс, Дж., и Голдфарб, А. (2018). «Машины предсказания: простая экономика искусственного интеллекта». Harvard Business Review Press. ISBN: 978-1633695672 — Как ИИ в качестве «машин предсказания» меняет распределение полномочий при принятии решений, предлагая экономическую перспективу для трансформации роли работников умственного труда.

Nelson, T. O., & Narens, L. (1990). «Metamemory: A Theoretical Framework and New Findings.» Psychology of Learning and Motivation, 26, 125–173. — Двухуровневая модель метапамяти, включающая мониторинг и контроль, обеспечивает теоретическую основу для понимания механизмов функционирования метапознания.

Глава 3: Знать, чего ты не знаешь / Knowing Your Unknowns

Ключевой вопрос: способность, которой ИИ лишен больше всего — осознание границ собственных знаний / The capability AI lacks most: perceiving the boundaries of your own knowledge

3.1 Вступительная история: «обещание» чат-бота

В ноябре 2022 года умерла бабушка Джейка Моффатта, жителя Ванкувера. Он зашёл на официальный сайт авиакомпании Air Canada, чтобы забронировать билет домой. В правом нижнем углу сайта появилось всплывающее окно чата — ИИ-бот службы поддержки авиакомпании.

Моффатт спросил: «Предусмотрены ли скидки на поездки в связи с траурными обстоятельствами?»

Бот ответил четко сформулированным и логически выстроенным объяснением: пассажир может сначала приобрести билет по полной стоимости, а затем в течение 90 дней после поездки подать заявку на скидку в связи с похоронами, после чего ему будет возвращена часть стоимости билета. Тон ответа был профессиональным, условия — четкими, и даже были заботливо перечислены шаги для подачи заявки. Это читалось совершенно как официальная политика компании.

Моффатт поступил именно так. Он купил билет по полной стоимости, полетел домой на похороны, а затем в установленный срок подал заявку на возмещение.

«Эйр Канада» отказала. Причина: согласно политике компании в отношении скидки в связи со смертью близкого человека, заявку необходимо подавать до вылета, а подача заявки задним числом не допускается. Процедура, о которой рассказал Моффатту бот, была ошибочной от начала до конца. Такой «политики» вообще не существовало.

Моффатт подал иск против авиакомпании в Канадский суд по гражданскому арбитражу. Стратегия защиты авиакомпании оказалась удивительной — они утверждали, что чат-бот является «отдельным юридическим лицом» (a separate legal entity), его высказывания не отражают позицию компании, и компания не несет ответственности за то, что говорит бот.

Арбитр Кристофер Риверс (Christopher Rivers) в своем решении от февраля 2024 года отклонил этот довод защиты. В решении говорится: «Air Canada не объяснила, почему пассажир должен самостоятельно проверять, соответствует ли информация, предоставленная чат-ботом, данным на других страницах официального сайта. Если вы размещаете ИИ на своем сайте для обслуживания клиентов, вы обязаны нести ответственность за его результаты». Моффатт получил компенсацию.