Как работает мозг

Как и многие другие проблемные вопросы, связанные с мышлением, полемику по поводу коннекционизма нередко сводят к полемике между врожденностью и обучением. И, как всегда в таких случаях, это затрудняет способность четко мыслить. Несомненно, обучение играет огромную роль в моделировании коннекционных сетей. Часто разработчик сетей, вынужденный вернуться к чертежной доске из-за проблем, о которых я говорил выше, решает воспользоваться способностью сети со скрытыми уровнями запоминать совокупности входов и выходов и распространять их на новые подобные им данные. Иногда можно даже заставить типовую сеть со скрытыми уровнями делать то, что вам нужно, предварительно заучив ее «до смерти». Тем не менее обучение в авральном режиме само по себе не может быть спасением для коннектоплазмы. И не потому, что у сетей слишком мало «врожденной» структуры и слишком много информации на входе из окружения, а потому что у грубой коннектоплазмы так мало мощности, что иногда приходится создавать сети, используя самую худшую комбинацию: слишком малое количество врожденной структуры в сочетании со слишком большим количеством информации на входе из окружения.

Так, Хинтон разработал трехуровневую сеть для вычисления родственных отношений. (По его замыслу, она должна была служить примером того, как работают сети, однако другие коннекционисты восприняли ее как реальную психологическую теорию.) Уровень ввода включал в себя узлы, соответствующие имени, и узлы, соответствующие типу родственных отношений, например, «Колин» и «мать». Уровень вывода включал в себя узлы, соответствующие имени человека, который находится в таких отношениях с заданным человеком, например, «Виктория». Поскольку узлы и связи составляют врожденную структуру сети, а усваивать в процессе обучения ей приходится только веса связей, эта сеть, если ее воспринимать буквально, соответствует врожденному модулю мозга, предназначенному для выдачи ответов на вопросы о том, кто состоит с указанным человеком в родственном отношении указанного типа. Эта система не пригодна для анализа родственных отношений в общем, потому что знания в ней как бы размазаны по всем весам связей, соединяющим уровень вопросов с уровнем ответов, а не хранятся в базе данных, к которой могут иметь доступ разнообразные процессы поиска информации. Следовательно, это знание окажется бесполезным, если хотя бы немного изменить вопрос: например, спросить, в каком родственном отношении состоят между собой два человека, или запросить имена членов семьи человека и родственные отношения, в которых он с ними состоит. В этом смысле модель имеет слишком большой процент врожденной структуры; она создана специально для конкретного типа вопросов124.

Научив модель воспроизводить отношения в маленькой вымышленной семье, Хинтон обратил внимание на способность системы переносить сделанные выводы на другие пары родственников. Тем не менее при этом очень мало говорилось о том, что для того, чтобы сеть могла распространить выводы на 4 возможные пары из 104, ее нужно было сначала обучить работать с первой сотней. И каждую из ста пар в режиме обучения нужно было подать в сеть 1500 раз (это в общей сложности 150000 уроков!). Здесь явно не было ничего общего с тем, как усваивают систему семейных отношений маленькие дети. Эти цифры типичны для коннекционных сетей, потому что они приходят к решению не через правила; в них просто нужно «вдолбить» большинство примеров, и тогда они смогут просто переносить знания с одного примера на другой. Любой существенно отличающийся от прочих пример обязательно должен входить в набор для обучения, иначе сеть будет делать сомнительные выводы, как в анекдоте про статистиков на утиной охоте: один стреляет на метр выше, чем нужно, второй стреляет на метр ниже, а третий кричит: «Попали!»

Почему я уделяю столь пристальное внимание коннектоплазме? Уж конечно, не потому, что я считаю моделирование нейронных сетей бессмысленным занятием – как раз наоборот! Без него все мое величественное строение рассуждений о том, как работает мозг, осталось бы парить в воздухе. И уж конечно, я не считаю, что моделирование сетей заключается всего лишь в распределении подрядов между строителями-демонами и структурами данных нейронной «аппаратуры». Многие коннекционные модели поражают тем, чего можно добиться с помощью простейших операций ментального вычисления. С другой стороны, я считаю, что достоинства коннекционизма сильно преувеличивают. Благодаря тому, что сети много рекламировали, называя их функционирование мягким, параллельным, аналогичным, биологичным, бесперебойным, они приобрели привлекательные коннотации и обширную армию поклонников. Но ведь нейронные сети не способны творить чудеса, они только выполняют определенные логические и статистические операции. Решения по таким вопросам, как представление вводных данных, количество сетей, выбранная для каждой из них схема соединений, пути данных, управляющие структуры, соединяющие их между собой, – все это может рассказать гораздо больше о том, что делает систему по-настоящему интеллектуальной, чем общие способности составляющей ее коннектоплазмы.

И все же моя главная цель – не показать, на что неспособна та или иная модель, а показать, на что способен мозг. Смысл этой главы в том, чтобы познакомить вас с материей, из которой состоит наш разум. Мысли и мышление в наше время – уже не призрачные тайны, а механические процессы, которые мы можем изучить, рассматривая и оспаривая сильные и слабые стороны разных теорий. Мне представляется особенно показательным рассмотрение недостатков освященной веками доктрины об ассоциации идей, поскольку они позволяют лучше оценить точность, тонкость, сложность и открытость нашего повседневного мышления. Вычислительные возможности разума позволяют человеку достигать вполне реальных результатов. Они находят прекрасное применение в любви, правосудии, творчестве, музыке, родственных отношениях, законодательстве, науке и других сферах человеческой деятельности, которые мы рассмотрим в следующих главах. Но прежде чем перейти к этому, нам необходимо вернуться к другому вопросу, с которого начиналась эта глава.

Лампа Аладдина

А как же сознание? Что вообще позволяет нам страдать от зубной боли или воспринимать синеву неба как синеву? Вычислительная теория сознания, даже с учетом всех ее нейронных основ, не дает однозначного ответа. Сделана запись символа синий, изменилось состояние раздела «цели», пришли в возбуждение определенные нейроны; а дальше-то что? Многим мыслителям сознание представлялось не просто проблемой, а почти чудом:

Материя может отличаться от материи только по форме, объему, плотности, движению и направлению движения; к которому из этих свойств, какими бы разнообразными они ни были и в каких бы сочетаниях ни рассматривались, можно приложить сознание? Круглая или квадратная, твердая или жидкая, движущаяся медленно или быстро, одним способом или другим – все это разные способы существования материи, и все они одинаково чужды сущности мышления.

Самюэль Джонсон

То, что нечто столь замечательное, как состояние сознания, является результатом раздражения нервной ткани, точно так же необъяснимо, как появление Джинна, когда Аладдин потер волшебную лампу.

Томас Гекели

Мы чувствуем, что каким-то образом вода биологических тканей мозга превращается в вино сознания, но мы ровным счетом ничего не можем сказать о природе этого превращения. Кажется, что нейронные передачи просто не тот материал, который способен принести в этот мир сознание.

Колин Макджинн125

Сознание предлагает нам одну загадку за другой. Как может сознание быть результатом процессов в нервных тканях? Что толку в сознании? Ну, например, что может добавить наше чувственное восприятие красного цвета к цепочке причинно-следственных связей, разворачивающейся в нашем нейронном компьютере? Любое следствие восприятия красного цвета (допустим, человек заметил красный цвет на фоне зеленого, сказал вслух «Это красный», вспомнил про Санта-Клауса или пожарную машину, забеспокоился) может быть достигнуто в результате обработки информации, запущенной датчиком длинноволнового света. Так может быть, сознание – это ничего не значащий побочный эффект, возникающий при обработке символов, – как лампочки, мигающие во время работы компьютера, или гром, который всегда сопровождает молнию? А если сознание бесполезно – если существо, обладающее им, могло бы с таким же успехом справиться с окружающим миром, как и существо без него, – зачем тогда естественный отбор предпочел все же первое?

В последнее время сознание стало чем-то вроде квадратуры круга, которую все вокруг так жаждут найти. Что ни месяц, то появляется новая статья в журнале с заявлением о том, что сознание наконец удалось объяснить (при этом очень часто автор высказывает свое пренебрежение теологам и гуманистам, которые так и норовят ограничить возможности науки, или ученым и философам, которые списывают со счетов эту тему как слишком субъективную или запутанную для научного исследования)126.

Увы, многое из того, что пишут о сознании, вызывает не меньшее недоумение, чем сама проблема сознания. Стивен Джей Гулд писал: «Гомо сапи-енс – всего одна маленькая веточка [на дереве жизни]… И все же у нашей веточки, будь то к лучшему или к худшему, развилось самое необыкновенное новое качество за всю историю многоклеточных форм жизни со времени кембрийского взрыва. Мы изобрели сознание со всеми его следствиями – от Гамлета до Хиросимы»127. Гулд отрицает существование сознания у других животных, кроме человека; другие ученые допускают его существование у некоторых животных, но не у всех. Многие проверяют на сознание, наблюдая за тем, узнает ли животное, что его отражение в зеркале – это оно само, а не другое животное. Если судить по этому критерию, обезьяны, молодые шимпанзе, старые шимпанзе, слоны и маленькие дети сознанием не обладают. Единственные сознательные животные – это гориллы, орангутанги, шимпанзе в зрелом возрасте и, если верить Скиннеру и его ученику Роберту Эпштейну, специально обученные голуби. Другие ученые подходят к этому вопросу еще строже, чем Гулд: они утверждают, что даже не все люди обладают сознанием. Джулиан Джейнс заявляет, что сознание было изобретено людьми не так давно. Люди древних цивилизаций, в том числе греки времен Гомера или евреи времен Ветхого Завета, сознанием не обладали. Деннетт поддерживает это заявление; он считает, что сознание – «во многом продукт культурной эволюции, который сообщается мозгу в результате обучения в раннем возрасте» и что это «огромный комплекс мемов» («мем» – термин Докинза, обозначающий некую вызывающую подражание черту культуры – например, запоминающийся рекламный слоган или супермодную новинку).

Есть что-то такое в теме сознания, что заставляет людей, подобно Белой Королеве из книги «Алиса в Зазеркалье», поверить в шесть невозможных вещей натощак. Неужели большинство животных и впрямь могут быть бессознательными – значит, они зомби, лунатики, ходячие автоматы? Разве у собаки нет чувств, привязанностей, страстей? Если ее уколоть, разве она не чувствует боли? А Моисей – неужто он и впрямь не чувствовал вкуса соли, не видел красный цвет и не получал удовольствия от секса? Неужели дети учатся сознанию точно так же, как они учатся носить бейсболку козырьком назад?128

Люди, которые пишут о сознании, – не сумасшедшие; значит, они наверняка имеют в виду что-то другое, когда используют это слово. Одно из лучших высказываний о понятии «сознание» мы встречаем у Вуди Аллена в его вымышленном перечне дисциплин, изучаемых в колледже:

Введение в психологию: Теория человеческого поведения… Действительно ли существует непроходимая пропасть между духом и телом,

и если действительно, которым из них лучше обладать?

…Особое внимание уделяется изучению сознательного как противоположности бессознательного, причем студенты получают множество полезных советов относительно того, как легче всего не лишиться сознания[13].

Юмор слов основывается на том, чтобы предоставить читателю одно значение двусмысленного слова, а потом внезапно поразить его другим. Теоретики тоже пользуются многозначностью слова «сознание», но не ради шутки, а с тем, чтобы использовать рекламную тактику «замани и подмени»: читателя заставляют поверить, что ему сейчас предложат теорию, связанную с одним из значений этого слова – тем, которое сложнее всего интерпретировать, – а дают теорию для другого значения, которое интерпретировать проще всего. Я не люблю говорить о словарных определениях, но в случае с сознанием у нас нет иного выбора: придется для начала развести разные его значения.

Иногда слово «сознание» (англ, consciousness) используется просто как возвышенный по стилю синоним к слову «разум» (англ, intelligence). В этом значении, по-видимому, использует его и Гулд. Однако существуют еще три более узких значения, различие между которыми очень точно описывают лингвист Рэй Джекендофф и философ Нед Блок129.

Первое – это самосознание. В число разнообразных людей и объектов, информацией о которых может владеть разумное существо, входит и само это существо. Я не только могу чувствовать боль и видеть красный цвет, я еще могу подумать о себе: «Слушайте, а это ведь я, Стив Линкер, чувствую боль и вижу красный цвет!» Как ни странно, именно это не слишком распространенное значение слова чаще всего имеют в виду в научных дискуссиях. Сознание обычно определяют как «создание внутренней модели мира, включающей самого себя», «отражение своего собственного способа понимания» или как какую-нибудь другую разновидность самокопания, не имеющую ничего общего с сознанием в самом привычном его понимании: с состоянием, когда ты жив, бодрствуешь и осознаешь происходящее.

Самосознание, включая способность узнавать себя в зеркале, не более загадочно, чем любой другой вопрос, связанный с восприятием и памятью. Если у меня есть ментальная база данных на всех людей, почему в ней не может быть отдельной ячейки для самого себя? Если я могу научиться поднимать руку и изгибать шею так, чтобы увидеть какое-то труднодоступное место у себя на спине, почему же я не могу научиться поднимать зеркало так, чтобы увидеть труднодоступное место у себя на лбу? Смоделировать доступ к информации о самом себе тоже не составит совершенно никакого труда. Любой начинающий программист способен написать небольшую программу, которая может анализировать саму себя, составлять отчет и даже вносить в себя изменения. Сконструировать робота, который узнает себя в зеркале, ничуть не сложнее, чем сконструировать робота, который узнает что-либо другое. Конечно, остается ряд хороших вопросов об эволюции самосознания, о его развитии у детей, о его преимуществах (и, что еще более интересно, недостатках, как будет показано в главе 6). И все-таки самопознание – это повседневная тема для обсуждения в рамках когнитивистики, а не загадка, аналогичная превращению воды в вино. А если так легко говорить о самосознании, писатели могут сколько угодно бахвалиться своими «теориями сознания».

Второе значение – это доступ к информации. Если я спрошу: «О чем вы думаете?», вы в ответ расскажете мне, о чем мечтаете, какие у вас планы на день, что вас беспокоит, что болит, какие вокруг вас цвета, формы и звуки. Но вы не сможете рассказать, какие энзимы вырабатывает ваш желудок, какая у вас сейчас частота пульса и дыхания, какие вычисления сейчас производит ваш мозг, чтобы восстановить трехмерное изображение по двухмерному изображению на сетчатке, какие правила синтаксиса лежат в основе произносимых вами предложений, какую последовательность сокращения мышц вы используете, чтобы взять со стола стакан. Это говорит о том, что всю массу информации, обрабатываемой нашей нервной системой, можно разделить на две части. К первому разделу, включающему в себя продукты зрительного восприятия и содержимое краткосрочной памяти, открыт доступ для систем, лежащих в основе передачи речи, рационального мышления и принятия решений. Ко второму разделу, включающему в себя автономные (интуитивные) реакции, внутренние вычислительные процессы, лежащие в основе зрения, говорения, движения, а также вытесненные желания или воспоминания (если таковые имеются), доступ для этих систем закрыт. Иногда информация может перемещаться из одного раздела в другой и наоборот. Когда человек учится использовать ручную коробку передач, ему приходится продумывать каждое свое движение, но со временем этот навык переходит в разряд автоматических. С помощью усиленной концентрации внимания и биологической обратной связи мы можем сосредоточиться и на неявном ощущении вроде биения собственного сердца.

Сознание в этом смысле, конечно же, включает в себя и описанное Фрейдом разграничение между сознательным и бессознательным. Как и в случае самосознания, в нем нет ничего чудесного или даже таинственного. Более того, явные аналоги имеются и в сфере вычислительной техники. Любой компьютер имеет доступ к информации о том, работает принтер или не работает (то есть компьютер это «осознает», если употреблять данное слово в данном конкретном смысле), и может вывести на печать сообщение об ошибке: «Принтер не отвечает». Но у него нет доступа к информации о том, почему принтер не работает; сигнал, поступающий по кабелю от принтера к компьютеру, этой информации не содержит. Микросхема внутри принтера, напротив, имеет доступ к этой информации («осознает» ее в данном смысле слова); датчики в разных частях принтера подают информацию к микропроцессору, а он может включить желтую лампочку, если в картридже закончился тонер, или красную лампочку, если замялась бумага.

Наконец, мы добрались до самого интересного из всех значений этого слова. Это сознание как чувственность (англ, sentience): субъективный опыт; ощущение мира; тонкое восприятие; мир от первого лица и в настоящем времени; понимание того, «что значит» быть кем-то или делать что-то; то, что невозможно объяснить словами. В шутке Вуди Аллена актуализируется различие между сознанием в этом смысле и фрейдистским значением сознания как доступа к информации, осуществляемого созерцательной, оперирующей языком частью мышления. И именно в этом смысле – как чувственное восприятие – сознание кажется чудом.

Оставшаяся часть этой главы будет посвящена сознанию в двух последних значениях. Сначала я уделю внимание доступу к информации и тому, какие типы информации предоставляют друг другу разные части мышления. В этом смысле слова мы уже фактически подошли к пониманию того, что такое сознание. Можно рассказать много интересного о том, как оно реализуется в мозге, какую роль оно играет в производимых мозгом вычислительных операциях, о том, каким техническим требованиям оно соответствует (и, исходя из этого, какие эволюционные факторы привели к его формированию), и каким образом этими техническими требованиями объясняются основные особенности сознания: способность сенсорного восприятия, фокусное внимание, эмоциональная окраска и воля. В последнюю очередь я обращусь к проблеме чувственного восприятия.

Когда-нибудь – может быть, даже довольно скоро – у нас будет четкое понимание того, что конкретно в мозге отвечает за сознание-доступ. Фрэнсис Крик и Кристоф Кох, к примеру, составили список критериев, точно определяющих, что мы ищем. Во-первых, очевидно, что информация об ощущениях и воспоминаниях определяет поведение только у бодрствующего животного, но не у животного под действием наркоза. Следовательно, некоторые из нервных центров сознания как доступа к информации располагаются в неких структурах мозга, которые функционируют по-разному в состоянии бодрствования и в состоянии сна без сновидений или без сознания. Один из кандидатов на эту роль – нижние слои коры головного мозга. Кроме того, мы знаем, что информация о воспринимаемом объекте рассеяна по разным частям коры больших полушарий. Следовательно, для доступа к информации нужен организм, который бы связывал воедино географически разделенные данные. Крик и Кох предполагают, что одним из таких механизмов является синхронизация возбуждения нейронов, вероятно, достигаемая за счет замыкания в единый контур коры больших полушарий и таламуса – этакого центрального вокзала головного мозга. Авторы также отмечают, что намеренное, спланированное поведение требует активности передних долей мозга. Таким образом, сознание-доступ может определяться анатомией нейронных проводящих путей, ведущих из других частей мозга к передним долям. Правы авторы или нет, они показали, что решение проблемы можно вполне найти в лабораторных условиях130.

Сознание-доступ – тоже всего лишь проблема, а не тайна, учитывая то, как много мы уже знаем о вычислительных процессах, происходящих в мозге. Вспомним нашу с вами продукционную систему, находившую дядю. Она наделена общей краткосрочной памятью: рабочим пространством или доской объявлений, видимой всем демонам в системе. В отдельной части системы располагается более объемное хранилище информации – долгосрочная память, которую демоны не могут видеть, если какой-то ее элемент не будет скопирован в краткосрочную память. Многие психологи-когнитивисты указывают на тот факт, что в таких моделях краткосрочная память (общая доска объявлений, рабочее пространство общего пользования) действует в точности, как сознание. Когда мы осознаем тот или иной фрагмент информации, с ним могут работать многие компоненты мышления. Если мы видим перед собой линейку, то мы можем описать ее, протянуть за ней руку, прийти к выводу, что ею можно подпереть оконную раму, сосчитать деления на ней. По словам философа Стивена Стича, сознаваемая информация неразборчива в логических связях; она делает себя доступной для огромного количества механизмов обработки информации вместо того, чтобы быть верной всего одному. Ньюэлл и Саймон добились замечательных результатов в понимании процесса решения задач, всего лишь попросив человека размышлять вслух, работая над паззлом. Им удалось очень точно сымитировать умственную деятельность с помощью продукционной системы, в которой содержание доски объявлений пошагово соответствовало сообщениям человека о том, что он сознательно обдумывал131.

Мы многое узнали и о технических требованиях к сознанию как доступу к информации и эволюционных факторах, которые, по-видимому, привели к его появлению. Основной принцип заключается в том, что любой процессор данных должен иметь ограниченный доступ к информации, потому что у информации есть не только плюсы, но и издержки132.

Первый вид издержек – это пространство: для хранения информации требуются достаточные ресурсы. Эта закономерность очевидна любому владельцу персонального компьютера, размышляющему над тем, стоит ли ему потратиться на покупку дополнительной оперативной памяти. Конечно, мозг в отличие от компьютера оснащен огромным количеством параллельных ресурсов для хранения. Иногда теоретики выдвигают предположения, что мозг может хранить все возможные непредвиденные ситуации в готовом виде, а мышление может быть сведено к пошаговому распознаванию шаблонов данных. Вместе с тем математика комбинаторного взрыва напоминает старый лозунг канала «Эм-Ти-Ви»: много не бывает. Элементарные вычисления показывают, что количество доступных человеческому восприятию предложений, значений предложений, шахматных партий, мелодий, видимых объектов и т. д. может превосходить количество частиц во Вселенной. Например, в игре в шахматы на каждом ходу существует от 30 до 35 вариантов следующего хода, и на каждый из этих вариантов может быть от 30 до 35 реакций, что уже составляет около тысячи возможных ходов. В среднем шахматная партия состоит из сорока ходов, что дает 10120 разных шахматных партий. Для сравнения, в обозримой части Вселенной насчитывается около 1070 частиц. Именно поэтому невозможно играть в шахматы, запоминая все партии и узнавая каждую последовательность ходов. То же самое справедливо для предложений, историй, мелодий и т. д. Конечно, некоторые комбинации могут храниться в памяти, но очень скоро у вас либо закончатся ресурсы мозга, либо шаблоны начнут накладываться один на другой, создавая бесполезные гибриды и смеси. Вместо того, чтобы хранить астрономические количества входов и выходов или вопросов и ответов, процессор информации должен иметь правила или алгоритмы, которые позволяют обрабатывать за один раз одно подмножество данных и рассчитывать ответ как раз тогда, когда он нужен.

Второй тип издержек информации – это время. Точно так же, как невозможно хранить в мозге размером меньше Вселенной все возможные шахматные партии, невозможно и мысленно разыграть все шахматные партии за всю жизнь, если она не равняется возрасту Вселенной (1018 секунд). Решить задачу за сто лет с практической точки зрения ничуть не лучше, чем не решить ее вовсе. Вообще к обладателю интеллекта предъявляются даже более жесткие требования. Жизнь – это сплошная череда конечных сроков. Восприятие и поведение совершаются в реальном времени – будь то охота на животное или поддержание разговора. А поскольку сами вычислительные процессы тоже занимают время, обработка информации может стать не путем к решению проблемы, а наоборот, частью самой проблемы. Представьте туриста, который планирует вернуться в лагерь до темноты по кратчайшему пути, и тратит двадцать минут на выбор пути, который позволит ему сэкономить десять минут.