Иной разум. Как «думает» искусственный интеллект?

Вообще слово «интенциональность» появилось в научном обиходе благодаря идее философа Франца Брентано, который считал её главной характеристикой сознания. Идея в том, что сознание не бывает пусто, оно всегда направлено (интенция) на какой-то предмет (пусть даже это наша собственная мысль)[31].

Томаселло развивает эту идею дальше и показывает, что интенциональность конкретного человеческого сознания определяется совместной деятельностью людей. Мы постоянно синхронизируем с ними свои интенции – например, вместе смотрим на один объект, когда его обсуждаем, можем иметь общую цель, строить общие планы.

И именно здесь, говорит Томаселло, рождается понимание как общее пространство смыслов, доступное сразу нескольким умам. На множестве виртуозных экспериментов он убедительно доказывает, что наше понимание обусловлено не мощностью наших абстракций, а способностью совместного действия – разделять внимание, цели и способы действия с другими, что возникает общее пространство смысла.

Томаселло показывает, что и наш язык – это не «модуль» для кодирования, а «инструмент кооперативной коммуникации». Языковой знак – это средство управления общим полем: установления общего фокуса, уточнения роли, фиксации долей ответственности. И смысл слов формируется не «изнутри слова», а в ходе координации намерений – мы постоянно помечаем, на что смотрим, чего хотим достичь, каких шагов ждём друг от друга.

Глобальное рабочее пространство

И наконец, то, что когнитивисты описывали как «реструктурирование» и «согласование модели со средой» (Саймон, Норман), в нейронауке оказывается функцией глобальной нейронной сети, которая интегрирует локальные процессы в единое «глобальное рабочее пространство».

Профессор Коллеж де Франс, нейробиолог Станислас Деан предлагает смотреть на мозг как на оркестр. Каждая его зона играет свою партию: зрительная кора занимается буквами, слуховая – звуками, память хранит ассоциации, лобные доли отвечают за план.

Пока все эти партии звучат отдельно, музыка не складывается – есть только фрагменты. Но стоит им синхронизироваться, как возникает общий рисунок, в котором буквы становятся словами, слова – предложениями, а предложения складываются в связный текст.

Иными словами, чтобы информация стала «понятой» и доступной для использования, она должна выйти за пределы локальных специализированных областей мозга и быть интегрирована в глобальную сеть – «рабочее пространство»[32].

Сейчас вы видите перед собой буквы – вы делаете это вашей зрительной корой. Но пока эта обработка остаётся локальной, вы их не сможете распознать. Понимание начинается там, где эти данные «распространяются» на языковые области, память, контекстные зоны: буквы становятся словами, слова встают в предложение, а предложение – в смысловую картину. Это и есть переход локального в глобальное.

Итого

Итак, мы сделали первый подход к пониманию «понимания». Да, оно кажется нам таким понятным, таким естественным, но как только мы всматриваемся в него, как тут же вся эта ясность куда-то испаряется.

• В философии оно оказывалось то языковой игрой (Витгенштейн), то картой без территории (Коржибский), то бесконечной цепочкой интерпретаций (Рикёр, Деррида) и «полифонией» (Бахтин).

• В когнитивной психологии понимание открывается нам как метафора телесного опыта (Лакофф, Джонсон) и проекция структуры нашего существования (Пинкер), а ещё ментальной моделью (Джонсон-Лэрд) и способом реструктурировать задачу (Норман, Саймон).

• В нейронауке появляются новые объяснения: минимизация ошибок предсказания (Фристон), следствие телесных сигналов (Дамасио), продукт совместного внимания (Томаселло), интеграция локальных процессов в глобальное пространство (Деан).

Складывается парадоксальная ситуация. Понимание вроде бы везде и во всём – в языке, культуре, теле, мозге. Но в то же самое время оно словно бы и нигде, поскольку мы не видим его непосредственно. Мы чувствуем его как нечто близкое и понятное, но при попытке его ухватить оно предательским образом просачивается сквозь пальцы.

В словаре оно выглядит как тавтология, в науке – как бесконечный список определений, в опыте – как смутное «ага!» без объяснения. Так насколько в таком случае мы действительно понимаем, что такое наше «понимание»? И чего стоит наша идентичность, выстроенная на столь шатком фундаменте?

Нам кажется, что мы точно знаем, чего не хватает машине, чтобы быть разумной, – «понимания». Но при этом мы не можем сказать о своём понимании ничего хоть сколько-то определённого… Может быть, мы защищаем не «ясность», а собственную иллюзию ясности?

Глава вторая

Что мы понимаем о «понимании»?

О вещах, которые мы знаем лучше всего, мы не можем сказать ничего.

Поль Валери

Философы, когнитивисты, нейробиологи – все попытаются ответить на вопрос: «Что такое понимание?» И чем дальше мы погружаемся в их объяснения, тем яснее становится, что простого ответа здесь нет. Словари дают тавтологии, философия – парадоксы, наука – описательные модели.

Ощущение «Вот оно, понимание!» словно бы ускользает. Может быть, нам тогда стоит поменять стратегию? Если «снаружи» – в теориях, определениях и моделях – мы не нашли подлинного понимания, то, возможно, нам стоит обратится внутрь самих себя и поискать его там?

Каждый из нас уверен, что мы «понимаем», «умеем», «знаем», «разбираемся». Вопрос в том, что именно я понимаю, когда говорю: «Я понял»?

Давайте попробуем поставить небольшой опыт над собой: заглянем, так сказать, внутрь самих себя и посмотрим, что же представляет собой наше с вами понимание? Может быть, хоть так мы развеем эту странную неопределённость…

Понимание без понимания

Мы знаем больше, чем способны рассказать.

Майкл Полани

Думаю, что вы неплохо понимаете, что такое «математика». Но можете ли вы это своё «понимание» объяснить? Конечно, вы можете попытаться это сделать, начнёте рассказывать, и даже допускаю, что в какой-то момент вам покажется, что вы действительно справились с задачей и высказали своё «понимание» математики.

Но теперь давайте попробуем опереться на это объяснение и произвести расчёт вашего личного бюджета – сведём, так сказать, дебет с кредитом. Поможет ли вам в этом ваше объяснение? Полагаю, что нет. Вам помогут ваши конкретные счётные навыки.

Причём вы и не помните, как этим навыкам обучились. Сейчас вам просто «интуитивно» понятно, что делать с числами. Они как бы сами собой у вас в голове складываются и вычитаются. Но когда-то вы этого не умели. Более того, на освоение этих простых математических навыков у нас ушло в своё время несколько лет и уйма сил. Мы бились над своим «пониманием» арифметики всю начальную школу!

Или другой пример: вы сейчас читаете эту книгу, так что можно не сомневаться, что вы понимаете, что такое чтение. Но что это? Как вы это делаете? Скользите взглядом по чернильным пятнам? Складываете буквы в слова, а слова – в предложения? Извлекаете смыслы из слов? Что, короче говоря, в этот момент происходит?

Да, мы отлично понимаем, что такое чтение. Но что это конкретно? Я читаю – смотрю в текст, вижу слова, понимаю смысл… Звучит, конечно, захватывающе, но это не описание фактического процесса. Вы не рассказываете, что происходит во время чтения в вашей голове.

На самом деле процесс чтения – это масса сложнейших операций на нейронном уровне, о которых вы не в курсе. Эти операции вовлекают в деятельность самые разные области мозга, даже нейрофизиологи могут объяснить их лишь в общих словах. Однако лиши нас этих нейронных автоматизмов, и мы перестанем понимать, что такое чтение.

Наконец, самый наглядный пример нашего понимания без действительного понимания… Допустим, что вы умеете ездить на велосипеде и, соответственно, понимаете, как это делать. Но можете ли вы так объяснить это своё понимание езды на велосипеде кому-то, кто этим пониманием пока не обладает, чтобы он сел и поехал? Ну очень сомнительно.

Да, вы можете сказать: мол, залезай на велосипед, крути педали, рули рулём, тормози тормозами и, главное, держи равновесие. Но разве в этом ваше «понимание» езды на велосипеде? Или всё-таки эта езда – что-то, что вы понимаете, как делать, но не то, что вы только что рассказали?

Понимая, что такое езда на велосипеде, мы не осознаём, как именно мы с ним управляемся. Эта информация хранится у нас в мозжечке, передней и задней поясных извилинах, не считая всего прочего. Но что мы про это знаем? Ничего.

Мы как-то «понимаем», каким образом держать равновесие и центр тяжести, каким должно быть движение конечностей в точках контакта с педалями и рулём, какие мышцы следует напрягать при торможении или наборе скорости, где чуть приподняться на сидении, а где вжаться в него…

Но всё это уровень автоматизмов. Мы знаем, что делать, но мы не можем сказать, что именно мы делаем. Наше сознательное объяснение лишь грубо описывает происходящее, накладываясь как бы поверх нашего подлинного понимания.

Грубо говоря, наше понимание езды на велосипеде, равно как и вождения автомобиля или использования вилки, зубной щётки и авторучки по назначению, – это понимание нашего тела. Когда мы говорим, что мы понимаем, что такое ездить на велосипеде, водить автомобиль, есть вилкой, чистить зубы или писать от руки, – мы лишь, как сознательные существа, свидетельствуем о наличии у нас соответствующего навыка.

Ирония в том, что, если в связи с какой-то неврологической проблемой мы лишимся возможности совершать любое из этих действий, нам – на сознательном уровне – будет казаться, что мы понимаем, как это – ездить, водить, есть, чистить, писать или просто ходить. Но когда мы приступим к соответствующему действию, мы явственно осознаем, что не понимаем, как это делается. Нам кажется, что мы понимаем, мы можем даже как-то «объяснить», но, действуя, будем чувствовать непонимание.

Поделюсь личным опытом. В своё время, после паралича, мне пришлось учиться ходить заново, уже в зрелом возрасте – и поверьте, понять, как нога поднимается на ступеньку лестницы, невероятно сложно. Тебе кажется, что тебе это предельно понятно. Но ты не понимаешь…

Это касается любого нашего «понимания». Неважно, идёт ли речь о понимании философских теорий, профессиональных навыков, личных взаимоотношений – сначала знание должно «зайти тебе в голову», стать твоей частью, и только после этого ты его действительно будешь понимать.

Именно с этим связан эффект обучения через обучение другого. Можно прослушать множество курсов и лекций, что-то вызубрить, но пока ты не сделаешь что-то сам, пока не попытаешься объяснить другому, что, как и по-чему, – твоё понимание лишь условное, не подлинное.

Подлинное понимание сидит у нас в мозге ниже уровня сознания. Сознание лишь делает вид, что оно в курсе. И да, сознание помогает нам освоить то или иное знание, помогает нам воспроизвести, припомнить то, что мы подзабыли. Но само по себе сознание не обладает пониманием.

Воплощённое знание

В твоём теле больше мудрости, чем в твоей глубочайшей философии.

Фридрих Ницше

Сейчас мы попробовали пропустить парадокс понимания через свой личный опыт и обнаружили странную, поразительную разделённость между сознанием и пониманием. Это кажется абсурдом, но это и в самом деле так, что наглядно показали выдающийся нейробиолог Франсиско Варела и два когнитивных психолога – Эван Томпсон и Элеонора Рош – в книге «Воплощённый разум»[33].

Варела и коллеги вводят понятие «энакция» (от англ. to enact – «воплощать, разыгрывать, вводить в действие»). Суть в том, что наше познание – это не пассивное отражение (репрезентация) внешнего мира, а, как они говорят, «со-творение» (bringing forth) мира и ума в процессе телесного взаимодействия со средой.

То есть, «понимание» езды на велосипеде – это не абстрактная инструкция в голове, а энактивный процесс, в котором баланс тела велосипедиста и нейронные автоматизмы его мозга, скорость движения, текстура дороги, погодные условия, техническое состояние велосипеда и т. д. и т. п. возникают (в таком своём качестве) только совместно, в момент самого движения.

Поэтому-то «понимание» не может быть передано как информация от одного субъекта к другому, оно должно быть энактировано – воплощено.

Варела отталкивается от знаменитой концепции аутопоэзиса, которую он разработал совместно с Умберто Матураной[34]. Аутопоэзис (от греч. αὐτός – «сам» и ποίησις – «сотворение, созидание») означает самопостроение, самовоспроизводство, репликацию живых существ, в том числе человека – то есть представляет собой основу жизни.

Живой организм, начиная с простейшей клетки, – это не какая-то машина, собранная из деталей, а множество процессов, благодаря которым организм постоянно производит и воспроизводит самого себя. Включая, в том числе, и свою собственную границу (клеточную мембрану), отделяющую организм от среды.

Это, согласно Вареле, и есть самая базовая форма познания: клетка не получает «информацию» извне – она взаимодействует со средой, чтобы поддерживать свою целостность. То, что помогает ей в этом (например, молекула сахара), становится для неё значимым и обретает смысл.

Авторы «Воплощённого разума» вдохновляются работами выдающегося французского философа Мориса Мерло-Понти[35], который утверждал, что наш основной способ бытия в мире – это не размышление, а телесное, дорефлексивное взаимодействие[36].

Мы не думаем: «Нужно согнуть руку на 37 градусов, чтобы взять чашку». Наше тело просто знает, как это делать. Да и само наше восприятие всегда ориентировано на действие: мы видим стул не как набор геометрических форм, а как нечто, на чём можно сидеть.

А где, например, находится цвет? Формально говоря, это некая длина волны света во внешнем мире. С другой стороны, цвет всё-таки возникает благодаря активности определённых нейронов зрительной коры головного мозга. Поэтому оба ответа неверны: цвет – это не то и не другое, а эмерджентное свойство, которое возникает во взаимодействии между миром, конструкцией нашего тела и нейронными процессами.

Таким образом, ум и мир возникают одновременно – через структурное сопряжение живого, автономного, телесного агента со средой. И наивно думать, что мозг сначала строит детальную 3D-модель мира, а потом «думает», что с ней делать. Нет, наше тело и его функционал (способность сидеть, ходить, брать) вносят в мир необходимые нам смыслы и понимания.

Да, традиционно ещё с Дэвида Юма и Иммануила Канта, познание рассматривается как создание таких «внутренних моделей» внешнего мира. Но, судя по всему, это лишь психологическая иллюзия, возникающая благодаря нашей способности умело действовать в конкретных ситуациях за счёт сформированных в нас нейронных связей.

Когда вы ведёте машину, вы не создаёте «мысленную карту дороги» и не «вычисляете оптимальную траекторию». Вы просто ведёте машину – чувствуете дорогу, реагируете на движение других машин, поворачиваете руль, основываясь на большой системе внутренних знаний. Ваше тело и мозг работают как единая система, которая знает, как водить, но не знает, что такое вождение в абстрактном смысле.

Так что энактивисты различают два типа знания:

• «знание что» – это когда мы можем объяснить, рассказать, описать (например, объяснить правила дорожного движения);

• «знание как» – это когда мы умеем что-то делать, но не можем это толком объяснить (вспомним наш пример с ездой на велосипеде).

При этом, утверждают энактивисты, и с ними трудно спорить: подлинное понимание мира – это именно «знание как» (условно говоря, умение чего-то), а не «знание что» (в смысле того, как мы это умение-знание объясняем на сознательном уровне). Мы понимаем мир через умение в нём действовать, а не через его внутренние описания.

Современные нейронауки лишь подтверждают энактивистские идеи. Исследования показывают, что «сенсомоторный опыт вовлечён в когнитивную обработку» и что «когнитивная обработка включает в себя воссоздание прямого сенсорного опыта»[37]. Если объяснить это проще, то суть в следующем: в мозге нет отдельных «склянок» для восприятия, памяти, мышления и т. д., это целостная система реагирования.

Вернёмся к нашим примерам. Энактивистская теория говорит следующее:

• Когда мы пытаемся объяснить «что такое математика», мы пытаемся создать репрезентацию – то есть сознательное представление о математике (это и есть «знание что»). Когда же мы считаем бюджет, мы используем «процедурное знание», или «знание как», которое является «контекстно-связанным использованием сенсомоторных навыков, а не поиском когнитивистских репрезентаций»[38].

• То, что происходит в вашем мозге при чтении, – это именно «контекстно-связанное использование сенсомоторных навыков». Нейрофизиологи изучают механизмы, но само понимание текста – это не поиск внутренних репрезентаций смысла, а «делание без репрезентации», как называет это феноменология Мориса Мерло-Понти[39].

• Ну и наконец, умение ездить на велосипеде – это уже классический пример «воплощённого (или «телесного») знания», когда «тело знает, как действовать», при этом «познающим субъектом» является как бы само тело (мозг), а не разум, не сознание, занимающееся лишь абстрактным «внутренним моделированием», то есть созданием неких представлений о чём-то.

Таким образом, наше подлинное «понимание» – это не какие-то наши внутренние модели мира, не сознательные представления, а тот способ, которым сложная, натренированная в процессе обучения интеллектуальная функция превращает привходящий сигнал в исходящее действие.

И эта «интеллектуальная функция» – не какая-то отдельная моделька внутри головы, созданная по случаю определённого навыка, а совокупное действие всей системы мозга – его, если угодно, программный код в целом, – то есть все связи всех его нейронов, нейронных сетей и анатомических структур.

Механика понимания

Цивилизация движется вперёд за счёт увеличения числа важных операций, которые мы можем выполнять, не думая о них.

Альфред Норт Уайтхед

Давайте копнём глубже и посмотрим, каким образом формируется наше «понимание» на различных уровнях психической организации.

Во-первых, классическое разделение двух систем памяти на «что» и «как».

В нейрофизиологии традиционно различаются два типа памяти: декларативная (или эксплицитная) и процедурная (или имплицитная)[40].

• Декларативная память – это память о фактах, событиях и концепциях. Это то, что вы можете «декларировать», то есть сознательно вспомнить и как-то «объяснить», например, наше понимание математики, чтения, езды на велосипеде. Ключевая роль в формировании этих «объяснений» принадлежит гиппокампу и префронтальной коре (ПФК).

• Процедурная память – это память о навыках и действиях, можно сказать, «память тела». Эта память выражается в действии, а не на словах: наши конкретные счётные навыки, умение читать и ездить на велосипеде. Само воспроизводство этих навыков не требует сознательного участия – это автоматизмы, которые просто работают.

Однако на начальном этапе нам, конечно, требовались огромные сознательные усилия. Нужно было напрягать все мощности нашей префронтальной коры, а каждый шаг – будь то 2 + 2 = 4 или прочтение слова «корова» – был медленным, энергозатратным и требовал полного сознательного внимания.

Но с каждым новым повторением в мозге происходили физические изменения: нейроны, которые активировались вместе (например, нейроны, представляющие «2», «+» и «4», или слоги «ко», «ро» и «ва»), укрепляли связи между собой в строгом соответствии с правилом Дональда Хебба: «Нейроны, возбуждённые одновременно, – соединяются»[41].

Впрочем, соединение нейронов – это ещё не всё. Дальше происходит процесс миелинизации – нервные отростки задействованных клеток покрываются специальной миелиновой оболочкой, что многократно ускоряет передачу импульса по соответствующей нервной дуге[42].

По мере укрепления нейронных цепей контроль над задачей постепенно «передавался» от медленной и энергозатратной ПФК к быстрым и эффективным подкорковым структурам. Задача сложения и вычитания перешла в ведение базальных ганглий, которые отвечают за формирование привычек и автоматизированных последовательностей действий[43].

Пример с велосипедом – это хрестоматийный случай работы процедурной памяти. Пока наше сознание думает о чём-то своем, подкорковые структуры мозга работают как слаженный оркестр.

• Мозжечок – главный центр координации, баланса и моторной калибровки – получает информацию от вестибулярного аппарата (внутреннее ухо) и проприорецепторов (целая система датчиков в мышцах и суставах). В режиме реального времени он тут же вносит микрокоррекции в наши движения, чтобы мы не упали. Это и есть то самое «понимание, каким образом держать равновесие», которое вы не можете объяснить.

• Базальные ганглии запускают и поддерживают заученную последовательность действий: «крутить педали», «рулить». Они работают по принципу «стимул – реакция», где стимулом может быть ощущение наклона или вид поворота.

• Моторная кора посылает финальные команды мышцам ног, рук и корпуса, основываясь на отлаженных программах из мозжечка и базальных ганглиев.

Ваше сознательное объяснение – «крути педали, держи равновесие» – это жалкая попытка префронтальной коры описать словами эту невероятно сложную высокоскоростную и параллельную работу подкорковых структур. ПФК просто не имеет доступа к деталям этой симфонии.

Во-вторых, предиктивное кодирование – механизм подбора нужных нейронных сетей.

Как мы уже выяснили, мозг не пассивно реагирует на мир, а постоянно предсказывает, какими будут следующие сенсорные сигналы. В этом смысле понимание чтения, счёта, езды на велосипеде – это способность нашего мозга создавать невероятно точные модели предсказания при выполнении соответствующих действий.

Когда вы учитесь, вы постоянно падаете. Каждое падение – это «ошибка предсказания». Мозг получает сигнал: «Внимание! Модель неверна!» – и мозг обновляет модель. Например: «Если я чуть наклоню руль, тело сместится вот так и я сохраню баланс» (впрочем, эти «рассуждения» происходят не на уровне слов, а на уровне тела).

Возьмём пример с чтением: когда вы бегло читаете, ваш мозг не распознаёт каждую букву, а видит начало слова и предсказывает его целиком, а также и то, каким будет следующее слово в предложении. Вы замечаете опечатку только тогда, когда она порождает «ошибку предсказания»: вы уже проскочили её, но смысл предложения разваливается. Вам приходится вернуться и исправить неверное прочтение.

Таким образом, наше «интуитивное понимание» – это не просто автоматизм, а знак того, что ваш мозг построил настолько совершенную предиктивную модель, что она работает с минимальным участием сознания – мы практически не ошибаемся в своих подсознательных предсказаниях.

В-третьих, динамическая стереотипия – чанки опыта и нейронные ансамбли.

Тут нужно добавить, что мозг не хранит сложные действия как длинный список отдельных шагов. Как показал один из отцов-основателей когнитивной психологии Джордж А. Миллер, мозг группирует их в «чанки» – единые нейронные паттерны[44].

В своё время Иван Петрович Павлов назвал эти паттерны «динамическими стереотипами»[45]: любое наше сложное действие – это жонглирование набором неких стандартных схем. Например, когда вы пишите от руки, буквы идут друг за другом в разной последовательности – то есть вы постоянно переключаетесь между стереотипами написания разных букв.

Когда мы только пришли в первый класс, нас сначала тренировали рисовать в прописях палочки, кружочки и закорючки. Когда мы с этим справились, нас учили рисовать отдельные буквы. Далее нас учили писать буквы в разных комбинациях. И лишь затем, когда все эти стереотипы у нас автоматизировались, мы перешли к написанию слов.

В принципе в любой ситуации, когда мы осваиваем некий навык, мы пользуемся услугами сознания. Сознание делит задачу на несколько промежуточных этапов, конкретных шагов: Шаг 1 → Шаг 2 → Шаг 3 → Шаг 4.

Чтобы облегчить себе процесс обучения, мы часто буквально вслух проговариваем то, что мы делаем и что нам следует сделать дальше – у нас ещё нет «понимания», мы лишь пытаемся его «добыть».

Через многократное повторение нейроны, отвечающие за соответствующую последовательность, настолько укрепляют связи друг с другом, что формируют единый нейронный ансамбль. Так что теперь это для мозга не четыре шага, а один-единственный «чанк» – 1234.