Cognitive Harness. Архитектура организации человеческого мышления в эпоху агентного искусственного интеллекта

Этот пример поддерживает современный взгляд на восприятие как активный процесс. Но фраза «мозг генерирует гипотезы» легко превращается в слишком широкую метафору. Кто формулирует гипотезу? Всегда ли вычисляется вероятность? Является ли движение рукой тем же типом вывода, что научное объяснение?

Задача главы — сохранить продуктивную интуицию и обозначить ее границы. Мозг не только получает информацию и не только предсказывает. Он регулирует живое тело, действует в среде и учится в цикле, где восприятие и движение взаимно формируют друг друга.

От пассивного восприятия к конструктивному

Классическая идея восприятия как построения гипотез связана с Германом фон Гельмгольцем и последующими исследованиями «бессознательного вывода». Сенсорный сигнал неоднозначен: одна проекция может быть создана разными объектами. Система использует регулярности мира и опыт, чтобы выбрать интерпретацию.

В XX веке конструктивные подходы сосуществовали с экологической психологией Джеймса Гибсона, подчеркивавшей богатство доступной информации и непосредственное восприятие возможностей действия. Это различие важно: если назвать любое восприятие догадкой мозга, можно недооценить структуру среды и активное исследование.

Современная позиция не обязана выбирать между полностью пассивным входом и полностью внутренней реконструкцией. Организм движется, меняет точку наблюдения и получает данные, связанные с возможным действием. Гипотеза проверяется не только внутренним сравнением, но и поворотом головы, прикосновением, вопросом другому человеку.

Predictive processing

Предсказательная обработка (predictive processing) описывает иерархическую систему, где нисходящие ожидания сопоставляются с восходящими ошибками предсказания. Обновление зависит не только от величины ошибки, но и от ее предполагаемой точности — доверия к сигналу (Rao & Ballard, 1999; Friston, 2010; Clark, 2013).

Рамка объясняет, почему ожидания влияют на восприятие и почему внимание можно понимать как изменение веса ошибки. Она связывает восприятие с обучением: устойчивое расхождение должно менять модель.

Но predictive processing — семейство моделей разных масштабов. Не всякая версия делает одинаковые нейронные предсказания. Иногда язык прогнозирования используется настолько широко, что любое поведение оказывается совместимым с теорией. Для научной силы нужны конкретные переменные, уровни и альтернативы.

Факт / данные. Контекст и ожидания систематически влияют на восприятие; многие нейронные ответы чувствительны к предсказуемости. Это не доказывает, что весь мозг реализует единственный байесовский алгоритм.

Bayesian brain: нормативная модель и метафора

Гипотеза Bayesian brain предполагает, что мозг комбинирует предварительные ожидания и сенсорные свидетельства способом, похожим на байесовское обновление. В лабораторных задачах человеческие оценки иногда приближаются к оптимальной интеграции источников с разной надежностью (Knill & Pouget, 2004).

Слово «похожим» здесь решающее. Байесовская модель может быть нормативным описанием результата, удобным математическим приближением или утверждением о реализуемом вычислении. Эти уровни нельзя смешивать. Поведение, соответствующее формуле, не доказывает, что нервная система явно представляет вероятности тем же способом.

Люди также систематически отклоняются от байесовского оптимума. Они используют эвристики, неправильно оценивают базовые частоты, зависят от формулировки и социальных значений. Иногда отклонение объясняется другой задачей или ограниченным ресурсом, иногда — настоящей ошибкой.

Для Cognitive Harness байесовский язык полезен как дисциплина неопределенности. Он заставляет различать prior, новые данные и степень уверенности. Но книга не объявляет человека «байесовской машиной».

Sampling: мысль как выбор из распределения

Один способ приблизительно работать со сложным распределением — sampling, выбор отдельных вариантов вместо полного перебора. Такая идея используется в моделях восприятия, решения и языка. Она помогает понять вариативность: одна и та же система при сходном входе может создать разные гипотезы.

Большая языковая модель наглядно демонстрирует связь распределения и выборки. Температура и другие параметры декодирования меняют разнообразие выходов. Но нейронная генерация человека не тождественна декодированию LLM. У человека выбор связан с телом, действием и биографической ценностью.

Архитектурный урок ограничен: качество мышления зависит не только от правильности оценки одной гипотезы, но и от того, какие варианты вообще были сгенерированы. Если пространство слишком узко, evaluator не найдет лучшего решения. Если слишком широко, ресурс исчерпывается до действия.

Воплощенное предсказание

Мозг прогнозирует не ради абстрактной картины. Он регулирует тело и готовит действие. Интероцептивные сигналы сообщают о внутреннем состоянии; моторная система проверяет ожидания через движение; среда предоставляет возможности действия. Подходы embodied cognition и enactivism подчеркивают, что познание возникает в цикле мозг—тело—среда (Varela, Thompson & Rosch, 1991; Clark, 1997).

Предсказание голода, боли или усталости имеет иной статус, чем прогноз слова в тексте. Оно связано с поддержанием организма и субъективной ставкой. Это граница аналогии с AI. У программного агента есть resource budget, но бюджет не равен интероцептивной потребности.

Воплощенность также меняет способ проверки. Человек может «вычислить» размер предмета, протянув руку; понять маршрут, пройдя его; уточнить эмоцию, заметив дыхание. Действие является частью познания, а не только выходом после завершенного решения.

Неопределенность нескольких типов

Неопределенность бывает связана с шумом данных, недостатком знания, неоднозначностью модели и непредсказуемостью других агентов. Их нельзя устранять одним способом. Дополнительное измерение помогает при шуме; новый эксперимент — при конкурирующих гипотезах; разговор — при неизвестном намерении; иногда неопределенность неустранима.

Полезно различать ожидаемый риск, где известен набор исходов, и глубокую неопределенность, где неизвестны сами варианты. В первом случае расчет может быть точным. Во втором нужен исследовательский режим, устойчивость и обратимые шаги.

Harness управляет не только гипотезами, но и бюджетом неопределенности. Он решает, когда искать данные, когда действовать, когда сохранять альтернативы и когда передавать задачу. Ошибка возникает при ложной уверенности и при неспособности действовать без полной определенности.

Мозг не заканчивается ответом

Заголовок «генератор гипотез» полезен как противовес образу пассивного процессора и недостаточен как полное описание. Мозг также отбирает, тормозит, координирует движение, регулирует тело и изменяет собственные связи. Разделение генератора и Harness является функциональным приемом, а не анатомическим разделом.

Один и тот же нейронный процесс может участвовать в прогнозе, внимании и действии. Не следует искать место, где «мозг генерирует», отдельно от места, где «Harness выбирает». Модель книги описывает роли в контуре.

LLM как демонстрация, а не модель мозга

LLM показывает, что вероятностная генерация может создавать связные языковые продолжения и комбинировать шаблоны в новых контекстах. Это помогает освободиться от идеи, будто мысль должна извлекаться как готовый объект.

Но различия фундаментальны. Обучение модели и текущий вывод разделены сильнее, чем обучение и действие человека. Текстовый контекст беднее телесной среды. Модель не несет биографических последствий ответа, если контур не создал их искусственно. Ее вероятность токена не равна человеческой степени веры.

Поэтому LLM — инженерная демонстрация принципа генерации под ограничениями, а не цифровая копия мозга. Чем точнее мы обозначаем границу, тем полезнее аналогия.

Практический случай: ранняя фиксация

Врач, инженер или руководитель получает первый связный диагноз ситуации. После этого каждый новый факт интерпретируется внутри выбранной рамки. Проблема может быть не в логическом выводе из данных, а в узком наборе исходных гипотез.

Архитектурное вмешательство требует до оценки создать альтернативы, указать различающее наблюдение и записать уровень уверенности. AI способен предложить контргипотезы, но их качество зависит от контекста. В высокорисковой области генерация модели не заменяет эксперта и эмпирическую проверку.

Обратная ошибка — удерживать слишком много вариантов. Здесь помогает ценность информации: какой следующий факт сильнее всего изменит выбор? Harness превращает пространство гипотез в последовательность проверок.

Сильнейшее возражение

Можно возразить, что язык гипотез интеллектуализирует процессы, которые не имеют пропозициональной формы. Моторная координация и раннее восприятие не обязательно «предполагают» что-либо как ученый. Это верное ограничение. Термин используется широко — как ожидание структуры входа и последствий действия, а не как сознательно сформулированное утверждение.

Второе возражение касается чрезмерной силы predictive brain. Если любую реакцию можно описать как подтверждение некоторого скрытого prior, теория становится круговой. Поэтому книга использует конкретные предсказания только там, где определены альтернативные модели и измеримый эффект.

Мозг строит возможные миры, но действовать должен не абстрактный вычислитель. Последствия относятся к телу, биографии и социальному положению конкретного существа. Следующая глава исследует модель, которая связывает опыт и действие со словом «я».

Факт / данные. На восприятие влияют контекст и ожидания; восприятие и действие образуют взаимосвязанный цикл; человеческие оценки строятся при ограниченной информации.

Гипотеза Cognitive Harness. Контур регулирует пространство гипотез, глубину проверки и действие под неопределенностью, не являясь отдельным анатомическим модулем.

Проверка. Какие версии предсказательной обработки имеют различимые эмпирические предсказания и насколько выборка из распределения является механизмом, а не удобным описанием поведения.

Источники главы

— Rao, R. P. N., Ballard, D. H. (1999). Predictive coding.

— Knill, D. C., Pouget, A. (2004). «The Bayesian Brain».

— Clark, A. (2013). «Whatever Next?».

— Friston, K. (2010). Free-energy principle.

— Varela, F. J., Thompson, E., Rosch, E. The Embodied Mind.

— Gibson, J. J. The Ecological Approach to Visual Perception.

Глава 8. Эго и модель себя

Чья рука движется?

Человек поднимает чашку и переживает движение как свое. Он узнает собственное лицо, связывает сегодняшнее решение со вчерашним обещанием и предполагает, каким будет завтра. Эти способности кажутся проявлениями одного «я». Исследование показывает, что за ними стоят различимые процессы.

Чувство владения телом может изменяться отдельно от чувства авторства действия. Автобиографическая память может нарушаться при сохранении телесной самости. Социальная идентичность перестраивается без исчезновения ощущения присутствия. Поэтому слово «Эго» нуждается не в одном определении, а в карте уровней.

Cognitive Harness не ищет объект внутри головы. Он спрашивает, какие функции выполняет модель себя в организации поведения: к кому относятся последствия, чьи цели поддерживаются, какие способности и ограничения учитывать, как связать опыт во времени.

Почему термин опасен

В психоанализе Ego — элемент теоретической структуры личности. В разговорной речи «эго» означает гордость или чрезмерную самозначимость. В философии обсуждается субъект опыта. В когнитивной науке чаще используются self-model, self-representation, agency, ownership, minimal self и narrative self.

Смешение создает ложные доказательства. Нейронное исследование self-referential processing не подтверждает и не опровергает Фрейда напрямую. Буддийская практика не является экспериментом по локализации самости. Клиническое нарушение чувства авторства не доказывает иллюзорность всех форм «я».

В этой главе «Эго» сохраняется как культурно узнаваемое слово, но рабочим понятием становится модель себя (self-model): изменяемый набор представлений и процессов, связывающих состояние, действие и историю с данным организмом и социальным субъектом.

Минимальная самость

Минимальная самость (minimal self) относится к непосредственному чувству воплощенного присутствия: эта перспектива моя, это тело относится ко мне, это действие вызвано мной. Шон Галлахер различает чувство владения (sense of ownership) и чувство агентности (sense of agency) (Gallagher, 2000).

Эксперименты с иллюзией резиновой руки показывают, что чувство владения телом пластично и зависит от согласования зрения, прикосновения и положения тела (Botvinick & Cohen, 1998). Исследования intentional binding и нарушений агентности изучают, как действия и последствия связываются во времени. Эти эффекты не сводят самость к одной иллюзии; они показывают, что ее компоненты конструируются.

Минимальная самость важна для Harness как система координат. Действие требует различать изменения, вызванные собой и средой; риск — относить к телу; ресурс — оценивать как доступный. Но эти функции могут быть частичными и ошибочными.

Интероцепция: модель внутреннего тела

Интероцепция охватывает восприятие внутренних состояний организма: сердцебиения, дыхания, голода, температуры и висцеральных сигналов. Современные модели связывают ее с эмоцией и чувством воплощенного себя, подчеркивая роль островковой коры и распределенных процессов (Craig, 2009; Seth, 2013).

Интероцептивная модель не является точным прибором. Человек интерпретирует возбуждение как страх, предвкушение или болезнь в зависимости от контекста. Но игнорировать телесное состояние также опасно: усталость меняет выбор, а ощущение угрозы сужает пространство гипотез.

Для сравнения с AI это существенная граница. Программный агент может отслеживать токены, бюджет и загрузку, но эти показатели не равны переживаемому телесному состоянию. Функциональная аналогия касается мониторинга ресурса, а не опыта.

Нарративная самость

Нарративная самость связывает события в историю: кем я был, что для меня важно, к чему я иду. Она опирается на автобиографическую память, язык и социальное признание. История не является нейтральным архивом. Она отбирает эпизоды, объясняет переломы и поддерживает непрерывность.

Для длительного действия нарратив полезен. Обещание имеет смысл, если сегодняшний субъект считает себя связанным со вчерашним. Профессия и отношения требуют устойчивого образа роли. Но нарратив может стать тюрьмой: «я не математик», «я всегда довожу начатое», «со мной поступают так» превращаются в фильтры данных.

Harness использует нарративную модель как контекст, но зрелый контур допускает ее пересмотр. Он различает устойчивость и ригидность. Обновление self-model не означает каждое утро создавать новую личность; оно означает позволить опровергающему опыту изменить доступные действия.

Агентность и авторство

Чувство агентности — переживание того, что я вызываю действие и его последствия. Оно формируется из намерения, моторного прогноза, обратной связи и последующей интерпретации. Иногда чувство авторства ошибается: человек приписывает себе случайный исход или не узнает собственное действие.

Философское и правовое авторство шире переживания. Ответственность зависит от знания, свободы, роли и последствий. Человек может чувствовать слабый контроль и сохранять обязанность; может ощущать авторство решения, сформированного манипулятивной средой.

В гибридной системе «я сделал» становится распределенным. Человек поставил цель, AI подготовил действие, интерфейс выбрал default, организация задала метрику. Harness должен сохранять цепочку авторства: кто определил направление, кто дал полномочие, кто мог остановить и кто проверил.

Социальная идентичность

Самость формируется не только из внутреннего наблюдения. Человек принадлежит группам, исполняет роли и видит себя через реакции других. Теория социальной идентичности исследует, как членство в группе влияет на восприятие и поведение (Tajfel & Turner, 1979).

Социальная роль может расширять агентность: профессиональное сообщество дает язык, нормы и поддержку. Она же ограничивает гипотезы: признание ошибки угрожает принадлежности, а смена цели воспринимается как предательство группы.

Это объясняет, почему одного факта иногда недостаточно для обновления убеждения. Harness оценивает не только вероятность утверждения, но и стоимость его принятия для self-model. Архитектурное вмешательство может требовать безопасной социальной среды, а не более сильного аргумента.

AI также участвует в этом процессе. Персонализированный помощник повторяет описания пользователя, выбирает воспоминания и предлагает цели. Он может поддерживать развитие или закреплять старый профиль. Право редактировать память и видеть основания персонализации становится условием автономии.

Фрейд: историческая модель конфликта

Фрейдовское Ego координирует требования Id, Superego и реальности, использует защитные механизмы и ищет компромисс. Эта модель оказала огромное культурное влияние, но ее понятия не следует переводить напрямую в современные нейронные модули.

Для Cognitive Harness ценна архитектурная интуиция конфликта и ограниченной прозрачности. Поведение не производится одним рациональным центром; разные требования согласуются, а объяснение может защищать идентичность. Но это историко-теоретическое сходство, а не эмпирическое подтверждение всей психоаналитической конструкции.

Защитные механизмы можно обсуждать как способы сохранения self-model при угрозе. Однако конкретные клинические утверждения требуют собственного доказательного аппарата. Книга не использует Фрейда как нейронаучный источник.

Буддийские традиции: непостоянство и не-самость

Различные буддийские традиции анализируют привязанность к устойчивому «я» и утверждают непостоянство составных процессов. Их цели преимущественно сотериологические и практические: уменьшение страдания и освобождение, а не построение экспериментальной психологии в современном смысле.

Сходство с процессуальными моделями самости интеллектуально плодотворно, но не доказывает их взаимную истинность. Термин anattā нельзя без остатка переводить как нейронаучное «self is an illusion». Буддийские школы различаются, а медитативный опыт интерпретируется внутри традиции.

Для Harness полезен вопрос о ригидной идентификации: когда рабочая модель себя принимается за неизменную сущность, она блокирует обновление. Практики наблюдения могут изменить отношение к мыслям и модели себя. Механизм и клинический эффект должны исследоваться отдельно.

Нейронаука: распределенные процессы

Исследования self-related processing связывают разные задачи с медиальной префронтальной корой, задней поясной корой, temporoparietal junction, островком и другими областями. Default mode network часто участвует в автобиографическом и самореферентном мышлении. Но ни одна сеть не является найденным «Эго».

Нейровизуализация показывает корреляции и функциональные сети при определенных задачах. Она не разрешает философский вопрос о субъекте и не доказывает единую сущность. Разные компоненты самости имеют частично различающиеся механизмы.

Наиболее осторожный вывод: self-model распределен, многоуровнев и пластичен. Это совместимо с архитектурной гипотезой книги, но не уникально подтверждает ее.

Модель себя как инструмент Harness

Self-model предоставляет контуру рабочие ответы: каково состояние тела, какими навыками располагает система, что относится к ее истории, какие обязательства действуют и какие последствия будут «моими». Эти ответы не обязаны быть полностью сознательными или истинными.

Модель себя помогает планировать. Без оценки собственной способности невозможно выбрать задачу; без биографической связи трудно поддерживать обещание. Она же порождает систематические ограничения: защищает статус, исключает действия, несовместимые с идентичностью, и переоценивает личный контроль.

Гипотеза Cognitive Harness. Эго полезно понимать не как владельца контура, а как набор моделей самоотнесения, которые Harness использует и обновляет при организации длительного поведения.

Фраза не означает, что Harness существует отдельно и «смотрит» на модель. Это функциональное описание отношений: данные о себе влияют на выбор, а последствия меняют данные о себе.

Практический случай: «я не умею делегировать»

Руководитель говорит: «Я не умею делегировать». Фраза может описывать опыт и одновременно закреплять политику. Каждый случай неудачи подтверждает идентичность, удачные передачи считаются исключением. Self-model уменьшает пространство действий.

Архитектурное вмешательство заменяет сущностное утверждение проверяемой картой: какие задачи передавались, какие полномочия были неясны, где отсутствовала проверка, какой ущерб реален? AI-агент может стать безопасным экспериментом при узких правах. Результат обновляет не «истинное я», а оценку конкретной способности в конкретных условиях.

Обратный риск — передать агенту слишком много, потому что новая идентичность требует быть «AI-native». Социальный образ снова подменяет оценку задачи. Зрелый Harness не защищает ни старую, ни модную самость; он проверяет их последствия.