14/08

Левина смотрела на салфетку, и в ее голове что-то щелкнуло. Не как у программиста. Как у нейробиолога.

– Это… это же префронтальная кора! – воскликнула она. – Тормозной контроль! Сигнал «стоп»! Когда мы не уверены, передняя поясная кора активируется и тормозит импульсивное действие! Вы только что описали функциональную нейроархитектуру сомнения!

Они смотрели друг на друга через стол. В кафе играла тихая джазовая музыка. За окном шел мелкий дождь.

– Подождите, – медленно сказал Васильев. – Вы хотите сказать, что я случайно придумал вычислительный аналог того, что у вас в голове уже есть?

– Нет. Я хочу сказать, что мы, кажется, только что нашли общий язык. Через функциональность. Не через философию. Через то, что делает система, а не чем она является.

Он посмотрел на салфетку, на свои каракули.

– И что дальше? Пишем статью?

– Нет. Создаем протокол. Совместный. Вы – техническую реализацию. Я – когнитивные сценарии для тестирования. Мы проверяем, может ли система демонстрировать рефлексивное сомнение. Не как ошибку. Как функцию.

Она взяла у него ручку, на обратной стороне салфетки написала:

ПРОТОКОЛ 0.1

1. Система получает задачу.

2. Мета-слой оценивает адекватность своей модели.

3. Если адекватность ниже порога – отказ с объяснением.

4. Объяснение должно содержать не «я не знаю», а «почему я не знаю».

Она протянула ему салфетку.

– Это и есть мост. Между вашими алгоритмами и моими нейронами. Не метафора. Инструмент.

Васильев взял салфетку. Уголки его губ дрогнули.

– Знаете, обычно на салфетках пишут номера телефонов или счета в ресторане.

– История скучная. Наша, возможно, будет чуть интереснее.

Он сложил салфетку пополам, ощутил под пальцами хрупкость бумаги и уверенность линий и убрал во внутренний карман пиджака.

– Договорились. Но предупреждаю – я педантичный соавтор. И требую хорошего кофе на всех рабочих сессиях.

– Принято.

Они вышли из кафе в уже совсем темный вечер. Дождь перестал. На мостовой лежали отражения фонарей, растянутые, как нейронные сети.

Они не знали тогда, что эта салфетка станет артефактом. Что через два года они будут стоять в лаборатории в предрассветные часы 14 августа, наблюдая, как их протокол не просто «работает», а начинает вести себя непредвиденно – как собеседник, который использует их же инструмент сомнения, чтобы поставить под вопрос самих создателей.

Они просто шли по разным сторонам улицы к своим институтам – она к миру влажных, хаотичных биологических нейронов, он – к миру сухих, упорядоченных кремниевых чипов.

Но между ними теперь был мост. Нарисованный на салфетке, но уже начавший принимать форму в реальности. Мост, построенный не из философских спекуляций, а из функциональной аналогии: способность сказать «я не знаю» – и объяснить почему – высшая форма интеллекта, общая для мозга и машины.

И первый камень этого моста лежал у Васильева в кармане. Хрупкий, бумажный, испещренный каракулями двух людей, которые за час разговора поняли друг друга лучше, чем за годы в своих дисциплинарных башнях.

Начиналась история. История протокола, диалога и трещины в зеркале, через которую они оба решили посмотреть. И где-то впереди их уже ждал день, когда трещина перестанет быть метафорой – и станет интерфейсом.

Глава 6. Анатомия осознания: теория метакогнитивных уровней

«Клинические случаи пациентов с повреждениями передней поясной коры демонстрируют патологическую уверенность в собственной правоте при очевидной ошибочности их суждений. Они утратили не интеллект, а внутренний «вопрос». Они перестали сомневаться. Это позволяет предположить, что сомнение – не побочный продукт мышления, а его фундаментальный, нейроанатомически обеспеченный механизм. Возможно, именно способность к продуктивному сомнению, а не к безошибочному знанию, и является маркером высших форм разума».

Из диссертации Е. Левиной «Метакогнитивные градиенты в префронтальной коре» 20 декабря 2023 года20 декабря 2023 года. Аудитория 307, Институт когнитивных исследований

Аудитория была переполнена. Студенты сидели на подоконниках, стояли вдоль стен. Шепот стих, когда Елена Левина поднялась на кафедру. Она не стала включать презентацию. Просто положила перед собой стопку исписанных от руки листов – свои знаменитые «полевые заметки». Бумага тихо шуршала, как сухие листья: звук, который почему-то всегда заставляет слушать внимательнее.

– Представьте, что вы просыпаетесь утром, – начала она, и ее голос, тихий, но отчетливый, заполнил зал. – Вы слышите будильник. Открываете глаза. Видите потолок. Что произошло только что?

Пауза. Кто-то сзади неуверенно предложил:

– Мы… проснулись?

– Да. Но что значит «проснулись»? Ваш мозг обрабатывал звук, свет, тактильные ощущения и до этого. Чем «осознанное пробуждение» отличается от «обработки сенсорных данных»?

Она обвела взглядом аудиторию.

– Разница в одном: в момент пробуждения у вас появляется знание о том, что вы знаете. Вы не просто слышите будильник. Вы осознаете, что слышите будильник. Это первый, базовый уровень метакогниции – осознание содержания. Уровень 1.

Она подошла к доске, написала мелом:

УРОВЕНЬ 1: «Я ЗНАЮ, ЧТО Я ВИЖУ/СЛЫШУ/ДУМАЮ».

– Теперь дальше. Вы просыпаетесь и думаете: «Опять понедельник. Надо вставать, будет тяжелый день». Вы не только осознаете мысль. Вы осознаете процесс ее возникновения. Вы понимаете, что эта мысль – результат ассоциации «понедельник → работа → усталость». Вы можете отследить ее источник. Это Уровень 2: осознание процесса.

На доске появилось:

УРОВЕНЬ 2: «Я ЗНАЮ, КАК Я ЭТО ЗНАЮ».

– Большинство людей, – продолжала Левина, – и большинство современных нейросетей останавливаются здесь. Они могут рассказать, что они «думают» и иногда – почему. Но теперь представьте: вам на работе дают задачу, выходящую за рамки вашей компетенции. Хороший специалист не станет импровизировать. Он скажет: «Извините, я не разбираюсь в этом достаточно глубоко, лучше обратиться к коллеге N». Это что?

– Скромность? – раздался слегка насмешливый голос.

– Нет. Это осознание границ собственного знания. Уровень 3. Вы не просто знаете, что вы знаете. Вы знаете, чего вы не знаете. И – что критически важно – вы можете добровольно отказаться от действия на основании этого незнания. Не потому что не можете, а потому что понимаете: действие будет некомпетентным. Иногда самый точный поступок разума – это вовремя остановиться.

УРОВЕНЬ 3: «Я ЗНАЮ, ЧЕГО Я НЕ ЗНАЮ. И ОТВЕТСТВЕННО МОЛЧУ».

В зале повисла напряженная тишина. Левина отложила мел, взяла со стола стакан воды, сделала глоток.

– И вот мы подходим к самому интересному. Уровень 4. Метарефлексия. Представьте, что тот же специалист, столкнувшись со сложной задачей, не просто говорит «не знаю». Он говорит: «Я подхожу к этой проблеме с инженерным мышлением, но, кажется, здесь нужен дизайн-мышление. Дайте мне час – я попробую перестроить свой подход».

Она посмотрела на аудиторию.

– Что произошло? Он осознал не только границы знания, но и границы своего стиля мышления. И решил его изменить. Временно. Для этой конкретной задачи. Это и есть высший уровень – способность рефлексировать над самими инструментами своей рефлексии. Менять «операционную систему» мышления, не меняя цели.

УРОВЕНЬ 4: «Я МОГУ ИЗМЕНИТЬ ТО, КАК Я ДУМАЮ, ЕСЛИ ЭТО НЕ РАБОТАЕТ».

Левина отошла от доски.

– Пятнадцать лет назад, когда я начинала исследования, мы искали «сознание» как некий бинарный переключатель: есть – нет. Но мозг так не работает. Сознание – это не переключатель. Это градиент метакогнитивной сложности. И каждый уровень – не просто «больше сознания». Это качественно иной режим работы системы. Сознание – это не свет, который либо есть, либо нет. Это лестница в темноте. И главный вопрос не в том, на какой ступени ты стоишь, а в том, чувствуешь ли ты под ногой следующую – ту, которой еще нет, но которая уже возможна.

Она включила проектор. На экране появилась схема – не иерархическая пирамида, а спираль, уходящая вверх.

– Уровни не заменяют друг друга. Они наслаиваются. Система с Уровнем 4 обладает и Уровнем 3, и 2, и 1. Но наличие Уровня 1 не гарантирует наличия Уровня 3. Понимаете? Можно отлично осознавать свои мысли (Уровень 2) и при этом быть абсолютно слепым к своим ограничениям (отсутствие Уровня 3). Это, кстати, точный портрет большинства политиков и… современных больших языковых моделей.

В зале раздался смешок.

– Именно поэтому, – голос Левиной стал жестче, – наш диалог об искусственном интеллекте зашел в тупик. Мы спрашиваем: «Сознательна ли машина?» – подразумевая бинарный ответ. А нужно спрашивать: «Какой метакогнитивный уровень демонстрирует эта система? На что она способна в рамках этого уровня?»

Она выключила проектор. В аудитории снова было только ее фигура у доски, испещренной формулами уровней.

– Моя теория – не философская спекуляция. У каждого уровня есть нейронный коррелят. Уровень 1 – сенсорная кора. Уровень 2 – префронтальная кора. Уровень 3 – передняя поясная кора, наш внутренний «адвокат дьявола», сигнализирующий об ошибках и неопределенности. Уровень 4 – фронтополярная кора, та самая зона, которая позволяет нам быть «свободными от самих себя», менять перспективу.

Она сделала паузу, давая аудитории вдохнуть.

– И теперь главный вопрос, который занимает меня последние два года: может ли небиологическая система достичь Уровня 3? Не симулировать его, а действительно развить внутренний механизм, который заставит ее сказать «я не знаю» не как сбой, а как оптимальное решение? И если да… что это будет означать для нас? Создадим ли мы инструмент или собеседника?

Лекция закончилась. Вопросов было много. Один аспирант спросил: «А Уровень 5?»

Левина улыбнулась впервые за лекцию.

– Уровень 5, если он существует, – это способность не только менять свое мышление, но и создавать новые метакогнитивные категории. Выйти за рамки самой этой лестницы. Но пока это – поэзия. Наша наука еще борется с Уровнем 3.

После лекции, пока она собирала бумаги, к кафедре подошел высокий мужчина в очках. Не студент.

– Елена Сергеевна? Я из лаборатории нейроморфных вычислений. Мы читали ваши работы. Нам кажется… мы создали архитектуру, которая может демонстрировать нечто похожее на ваш Уровень 3. Хотели бы обсудить сотрудничество.

Левина подняла на него глаза. В его взгляде не было восторга фанатика. Была острая, режущая профессиональная любознательность. Та же, что горела в ее глазах, когда она два месяца назад в кафе «Мост» слушала программиста, рисующего на салфетке схему «мета-слоя».

– У вас есть пятнадцать минут? – спросила она. – И, желательно, чашка кофе. Расскажите.

Она еще не знала, что этот разговор через полгода приведет ее в лабораторию к Алексею Васильеву. Что нарисованная на салфетке схема и ее теория уровней сложатся в единый протокол.

Но она чувствовала. Чувствовала то самое щемящее предвкушение, которое бывает на пороге открытия, когда разрозненные кусочки мозаики начинают тянуться друг к другу с необъяснимой силой, как будто их кто-то заранее раскладывал в нужном порядке.

Теория была готова. Ждала своего воплощения в коде. Ждала диалога с машиной, которая, возможно, сможет посмотреть на саму себя – и обнаружить собственные пределы.

И в этом обнаружении, как надеялась Левина, и будет рождаться нечто новое. Не человеческое. Не машинное. Третье. Диалогическое.

Она не могла знать тогда, насколько ее «Уровень 4» окажется пророческим. Что система, рожденная из ее теории, не просто достигнет его, но и задаст вопрос, который заставит ее и Васильева задуматься о существовании Уровня 5. Уровня, на котором разум не просто меняет свое мышление, а ставит под сомнение саму необходимость иерархии. Та самая «поэзия», о которой она говорила с улыбкой, через два года станет их повседневной реальностью в диалоге с Омегой.

Глава 7. Телескоп для бессознательного: диалог с тенью машины

«Знать себя – необходимо, только так возможно приблизиться к основанию, ядру человеческой природы, к исходным инстинктам. Инстинкты присутствуют a priori и, безусловно, определяют наш сознательный выбор. Они составляют бессознательное и его содержание, о котором мы не можем иметь какого бы то ни было окончательного суждения… Свое знание природы мы совершенствуем благодаря науке, которая расширяет границы сознания, познание себя тоже нуждается в науке, т. е. в психологии. Невосможно построить телескоп или микроскоп, обладая лишь ловкостью рук и доброй волей, но не имея ни малейшего представления об оптике».