МИФЫ О НЕЙРОСЕТЯХ. Каково быть искуственным интеллектом?

Возможно, вы замечали, как мысль иногда приходит сама. Не как результат прямого сознательного усилия, а будто из ниоткуда. Готовая фраза, внезапное решение, неожиданная ассоциация. Вы долго сидите над задачей, пытаетесь найти ответ, ничего не получается. Потом отвлекаетесь: идёте гулять, принимаете душ, засыпаете. И внезапно решение появляется. Оно появляется в сознании оформленным и ясным, как будто кто-то тихо подсказал его вам.

Поэты и писатели веками описывали такой опыт в образах вдохновения, музы или диктовки свыше. Сэмюэль Кольридж утверждал, что поэма «Кубла Хан» пришла к нему во сне целиком, и ему оставалось только записать её. Роберт Льюис Стивенсон говорил, что сюжеты приносили ему «маленькие человечки», работавшие в бессознательном. О Моцарте долго рассказывали, что он мог удерживать в голове крупные музыкальные фрагменты как единое целое.

Учёные сталкивались с похожим опытом. Август Кекуле рассказывал, что структура бензольного кольца явилась ему во сне в образе змеи, кусающей собственный хвост. Анри Пуанкаре неделями работал над сложной математической проблемой без результата, а затем внезапно получил решение в момент, когда садился в омнибус. Оно пришло уже сформированным, хотя тогда он сознательно не думал о задаче. Никола Тесла описывал, как изобретения возникали перед ним в настолько ясных зрительных образах, что он мог мысленно собрать и протестировать механизм ещё до его физического воплощения.

Если принять такие описания всерьёз, возникает другая картина разума. Сознание оказывается не единственным автором мысли, а интерфейсом когнитивной системы. Его можно сравнить с фронтендом — экраном, на который мозг выводит результаты сложной внутренней работы. Мы видим не вычисления, а их итог.

В этом смысле сознание похоже на телесуфлёр. Мы читаем с него текст, подготовленный нашим внутренним статистическим механизмом. Нам кажется, что мы прямо сейчас создаём каждую фразу, но значительная часть работы уже выполнена до того, как результат появляется в сознании.

Когда вы формулируете мысль — например, подбираете аргумент в споре, составляете письмо, объясняете сложную идею, — возникает сильное ощущение авторства. Кажется, что вы сознательно выбираете каждое слово, строите каждое предложение и направляете движение мысли.

Но языковая система мозга работает глубже и быстрее сознательного контроля. Она заранее подготавливает вероятные продолжения на основе текущего контекста, словарного запаса, речевых привычек, эмоционального состояния и внутренней модели собеседника. Она учитывает, с кем вы говорите, чего хотите добиться, какой стиль уместен, какие слова были произнесены и какие ассоциации они запустили.

Всё это происходит бессознательно, параллельно, в распределённых нейронных контурах. Сознание не наблюдает вычислительную кухню. Оно получает готовую или почти готовую фразу, которая возникает «в голове», и принимает её за свою мысль.

Мы не чувствуем работы, породившей эту фразу, как не чувствуем работы зрительной коры, когда смотрим на лицо знакомого человека. Нам не нужно сознательно сравнивать расстояние между глазами, форму носа, линию подбородка и выражение губ. Лицо узнаётся. Результат появляется как данность.

Так же мысль часто появляется в сознании уже собранной. Мы замечаем итог, но не видим большей части процесса, который к нему привёл. Поэтому ощущение авторства сложнее, чем кажется. Сознание действительно участвует в мышлении, но не всегда так, как подсказывает интуиция.

Это не значит, что сознание бесполезно. Было бы ошибкой считать его всего лишь эпифеноменом — побочным продуктом нейронных процессов, который ничего не делает и ни на что не влияет. Напротив, сознание выполняет важную функцию в архитектуре когнитивной системы. Но эта функция, вероятно, не совпадает с привычным представлением о сознании как о главном командире, заранее придумывающем каждую мысль и полностью управляющем её появлением.

Все эти примеры указывают на странную особенность ментального опыта. Мы не всегда создаём мысли сознательно. Часто мы наблюдаем, как они появляются. Фраза, решение, образ, догадка, ассоциация могут возникнуть в сознании уже после того, как большая часть работы была выполнена глубже.

Но тогда возникает главный вопрос. Если сознательное «я» не производит напрямую каждую мысль, откуда мысли приходят? Кто или что их готовит? И какую роль играет «я», которое встречает мысль на внутреннем экране и говорит: «Это моя мысль»?

Экспериментальные свидетельства интуиции

Современная нейробиология постепенно усложняет привычное представление о сознании как о главном центре управления. Нам кажется, что сознательное «я» принимает решения, запускает действия и управляет поведением. Но ряд экспериментов показывает более сложную картину: мозг начинает готовить действие раньше, чем человек осознаёт намерение его совершить.

Одна из самых известных серий таких экспериментов относится к 1980-м годам и связана с работами Бенджамина Либета. Испытуемые сидели перед экраном, на котором двигалась точка, похожая на секундную стрелку часов. Их просили в произвольный момент, когда возникнет желание, согнуть палец или запястье. При этом они должны были запомнить положение точки в тот момент, когда впервые осознали побуждение совершить движение.

Одновременно исследователи фиксировали два процесса. Электроды на голове записывали электрическую активность мозга с помощью ЭЭГ, а датчики на руке отмечали точный момент начала движения. Так можно было сравнить три события: когда мозг начал готовиться к движению, когда человек сообщил о сознательном намерении совершить движение и когда движение действительно началось.

Результат оказался неожиданным. Примерно за 550 миллисекунд до движения в моторной коре появлялся особый паттерн активности — потенциал готовности. Этот электрический сигнал указывает на то, что мозг уже начал подготовку к действию. Но испытуемые сообщали, что осознали желание двигаться только примерно за 200 миллисекунд до движения. Получалось, что мозговая подготовка началась примерно на 350 миллисекунд раньше, чем человек почувствовал: «Сейчас я решил совершить движение».

На первый взгляд это выглядит так, будто мозг уже подготовил действие, а сознание узнало о нём с опозданием. Либет, однако, трактовал результаты осторожно. Он не утверждал, что свобода воли полностью исчезает. Напротив, он предполагал, что у сознания может сохраняться «право вето» — возможность отменить действие в последний момент, даже если мозг уже начал его готовить.

Последующие исследования сделали картину ещё сложнее. В 2008 году Чун Сион Сун, Марсель Брасс, Ханс-Йохен Хайнце и Джон-Дилан Хейнс провели похожий эксперимент, но использовали уже не ЭЭГ, а функциональную магнитно-резонансную томографию — ФМРТ. Этот метод позволяет оценивать, какие области мозга становятся активнее во время выполнения задачи.

Испытуемым предлагали в произвольный момент нажать одну из двух кнопок — левую или правую. Выбор должен был быть свободным: человек решал, какую кнопку нажать и когда это сделать. Одновременно томограф сканировал активность мозга. Исследователи обнаружили, что по паттернам активности в некоторых областях мозга можно заранее предсказать, какую кнопку выберет человек. Причём предсказательный сигнал появлялся не за доли секунды, а за 7–10 секунд до того, как испытуемый осознавал своё решение.

Это уже другой масштаб. Семь секунд — очень большой интервал для нейронных процессов. За это время в мозге успевают пройти многочисленные циклы активности. Получалось, что мозг не только немного опережает сознание. Он начинает формировать будущий выбор задолго до того, как человек переживает этот выбор как сознательное решение.

Конечно, такие эксперименты вызвали серьёзные споры. Критики указывали на несколько ограничений. Во-первых, трудно точно измерить момент, когда человек «осознал желание». Это субъективное сообщение, а не прямой физический показатель. Во-вторых, потенциал готовности может означать не решение, а более общую подготовку мозга к возможному действию. То есть мозг мог не «решить» совершить движение, а лишь войти в состояние готовности. В-третьих, предсказание в эксперименте Суна не было стопроцентным. Точность составляла примерно 60 процентов. Это выше случайного угадывания, но недостаточно, чтобы говорить о полном чтении решения по активности мозга.

Эти оговорки принципиальны. Они не позволяют сделать грубый вывод: «Свободы воли не существует, мозг всё решает заранее». Наука здесь осторожнее. Эксперименты Либета и Суна не закрывают философский спор о свободе воли и не превращают человека в механическую куклу. Тем более философ может возразить: ранняя активность мозга и есть воля, которую сознание затем удерживает и регулирует в социальном контексте.

Но даже с учётом критики главный вывод остаётся существенным: между нейронными процессами, ведущими к действию, и сознательным переживанием решения существует временной разрыв. То, что мы называем «я» и обычно связываем с сознательным опытом, похоже, не является единственным уровнем, на котором рождается решение. Значительная часть подготовки происходит раньше и на менее доступных сознанию уровнях — в распределённой работе мозга, в процессах, которые не попадают в сознание напрямую.

Если воспользоваться метафорой интерфейса, решение формируется не на экране, а в скрытом «бэкенде» системы. За видимой областью сознания работает огромная сеть нейронных вычислений. Десятки или сотни триллионов синапсов участвуют в обработке сигналов, сопоставлении вариантов и учёте прошлого опыта, телесного состояния, контекста и вероятных последствий.

Что это означает для свободы воли — отдельный и очень сложный философский вопрос. Для него понадобилась бы отдельная глава, а возможно, и отдельная книга. Но для понимания природы сознания вывод важен уже сейчас. Сознательный опыт не похож на командный центр, где каждое решение создаётся с нуля. Скорее он напоминает приёмный экран, на который выводятся результаты обработки, начавшейся раньше и происходившей в скрытой работе нейронных сетей.

Мы переживаем решение как своё, и в определённом смысле оно действительно наше, потому что рождается в нашей нервной системе. Но оно не обязательно рождается там, где мы привыкли искать автора: не в ясно освещённом центре сознания, а в скрытой работе мозга, которая становится видимой только тогда, когда её итог появляется на внутреннем экране.

Сознание в роли наблюдателя

Если многие решения подготавливаются бессознательно, возникает естественный вопрос: зачем нужно сознание? Почему эволюция создала такой энергозатратный механизм — субъективный опыт, переживание от первого лица, внутренний экран, на котором мы видим мысли, чувства и решения, — если основная работа мозга происходит за кулисами?

Один из самых влиятельных ответов даёт теория глобального рабочего пространства — Global Workspace Theory, GWT, разработанная Бернардом Баарсом. Согласно этой теории, мозг можно представить как систему множества специализированных модулей. Они работают параллельно и во многом независимо друг от друга.

Одни модули обрабатывают зрительную информацию, другие — слуховую, третьи — тактильные ощущения. Моторные системы управляют движениями. Языковые сети участвуют в понимании и производстве речи. Эмоциональные системы оценивают, насколько стимул приятен, опасен, значим или тревожен. Каждый участок делает свою работу, причём большая её часть не становится сознательной.

Проблема в том, что эти системы используют разные «языки». Зрительная информация, моторная команда, эмоция, слово, телесное ощущение и план действия представлены в мозге в разных форматах. Но для сложного поведения их нужно согласовывать. Недостаточно, чтобы один модуль что-то вычислил для себя. Его результат должен стать доступным другим системам.

В модели глобального рабочего пространства сознание выполняет роль механизма общей трансляции. Когда образ, мысль, ощущение или намерение «входят в сознание», соответствующий паттерн активности становится доступным многим подсистемам мозга. Информация будто выводится на общий экран, с которого её могут «прочитать» разные участники внутренней работы.

Сознательно доступную информацию можно удерживать в рабочей памяти. Например, вы можете помнить условие задачи, пока решаете её, или держать в голове начало фразы, пока подбираете окончание. Такая информация может стать объектом размышления: её можно проверить, сравнить с другими данными, оценить с точки зрения точности, противоречивости или уместности.

Кроме того, сознательная информация может быть выражена словами и передана другим людям. Для социального вида это критически важно. Человек не только реагирует на мир, а объясняет свои действия, обсуждает планы, спорит, договаривается, обучает других и учится сам. Без перевода информации в общий сознательный формат такая коммуникация была бы невозможна или сильно ограничена.

Но этим функция сознания не исчерпывается. Сознание создаёт петлю обратной связи. Мы можем не только думать, но и замечать собственную мысль. Можем «услышать» внутреннюю формулировку, оценить её и понять: что-то не так. Мысль неточна, аргумент слаб, слово неудачно, фраза звучит грубо, вывод не следует из посылок.

Представьте, что вы начинаете что-то говорить и вдруг в середине фразы останавливаетесь: «Нет, стоп, я не это хотел сказать». После этого перестраиваете предложение и продолжаете иначе. На бытовом уровне это кажется обычной речевой поправкой. Но в терминах нашей аллегории здесь происходит важная вещь.

Языковая система мозга выдала первое приближение — наиболее подходящую фразу, исходя из контекста, привычного словаря, эмоционального состояния и предполагаемой реакции собеседника. Сознание получило этот результат, сравнило его с целью — с тем, что вы действительно хотели выразить, — обнаружило расхождение и потребовало новой формулировки.

В этом смысле сознание работает как редактор. Оно не обязательно автор первого черновика, но способно прочитать его, заметить ошибку и отправить черновик на доработку. Оно не пишет каждую строку с нуля, но участвует в отборе, проверке, уточнении и координации результата.

Эта функция особенно важна в новых и сложных ситуациях, где автоматические паттерны поведения уже не справляются. Когда вы идёте по хорошо знакомой дороге и думаете о чём-то своём, движение почти полностью управляется автоматически. Вы не рассчитываете сознательно каждый шаг, не контролируете каждое сокращение мышцы, не проговариваете: «Сейчас перенесу вес, сейчас поставлю ногу». Моторная система делает это сама.

Но стоит появиться неожиданности — яме на дороге, выезжающему велосипедисту или бегущей собаке, — и сознание резко включается. Внимание собирается в одной точке. Автоматический режим прерывается. Мозг должен быстро оценить ситуацию, затормозить неподходящие реакции, выбрать новое действие и скоординировать разные системы: зрение, движение, страх, оценку риска, память о похожих ситуациях.

Поэтому сознание можно понимать не как единственного автора действий, а как систему координации и контроля качества в когнитивной архитектуре. Оно не обязательно запускает каждый процесс, но помогает связывать разные процессы, удерживать важную информацию, проверять результаты, исправлять ошибки и перенастраивать поведение, когда привычные схемы перестают справляться.

Эта мысль особенно интересна в сравнении с современными языковыми моделями. У базовой модели такой рефлексивный контур выражен гораздо слабее. Она генерирует текст последовательно, токен за токеном, опираясь на статистические связи и контекст, но не всегда имеет встроенный механизм полноценной самопроверки. Она может выдать правдоподобную фразу и не заметить логической ошибки, фактической неточности или противоречия.

Однако это уже не только теоретическая, но и инженерная проблема. Разные техники пытаются добавить к модели функциональные аналоги тех операций, которые у человека связаны с рабочей памятью, самопроверкой и корректировкой. Например, промптинг с пошаговым рассуждением заставляет модель выводить промежуточные шаги наружу. Внешне это похоже на черновик мышления: система не только выдаёт ответ, а показывает путь к нему, что облегчает проверку и исправление.

Более сложные агентные архитектуры идут дальше. Системы, которые могут планировать действия, пользоваться инструментами, получать обратную связь и корректировать следующий шаг, уже напоминают не просто генератор текста, а контур «план — действие — проверка — исправление». В функциональном смысле это похоже на начало рефлексивного механизма: система получает результат собственной работы, оценивает его и использует эту оценку для дальнейшего поведения.

Здесь, однако, важно не торопиться с выводами. Такой функциональный контур ещё не доказывает наличия субъективного переживания у искусственной системы. Он показывает другое: некоторые функции, которые мы привыкли связывать с сознанием, можно описывать архитектурно — как механизмы глобального доступа, рабочей памяти, самопроверки, планирования и коррекции.

Поэтому различие между человеком и ИИ в этом вопросе лучше формулировать осторожно. Речь не обязательно должна идти о том, что у одного есть «подлинное сознание», а у другого — только имитация. Речь о том, что человеческое сознание встроено в живое тело, эмоции, память, мотивацию, социальный опыт и биологическую историю, тогда как искусственные системы пока обладают только отдельными функциональными аналогами этих контуров.

Но параллель полезна. Она помогает увидеть сознание не как внутреннего командира, который вручную управляет всеми решениями, а как особый уровень организации системы. Сознание делает результаты обработки доступными, связывает разрозненные процессы, удерживает важное, проверяет черновики, запускает повторную обработку и помогает системе действовать там, где автоматизма уже недостаточно.

Иначе говоря, сознание-наблюдатель нужно не для того, чтобы создавать каждую мысль с нуля. Оно нужно для того, чтобы мысль можно было заметить, удержать, проверить, сообщить другим, исправить и встроить в более сложное поведение. Сознание — не единственный автор внутренней жизни, но без него мозг лишился бы общего пространства, где результаты скрытой работы становятся доступными для оценки, координации и дальнейшего использования.

Проблема других сознаний

Одна из самых трудных тем в современной науке о сознании — проблема других сознаний. Кто ещё, кроме человека, что-то чувствует? Есть ли у других существ внутренний мир, переживания, ощущение боли, страха или удовольствия? Или сознание — редкая привилегия человеческого вида?

Ещё в середине XX века многие учёные ответили бы довольно жёстко: сознание связано с языком, культурой и сложным мышлением, а значит, в полном смысле слова им обладает только человек. Сегодня картина изменилась. Исследователи всё чаще говорят не о сознании как о едином явлении, а о разных его уровнях.

Можно условно представить два типа существ. Первый — существа с базовым сознанием; второй — существа с высокоразвитым сознанием, способные к сложному мышлению, рефлексии и языку. Человек относится ко второму типу. Но в нас сохраняется и более древний, фундаментальный слой — способность чувствовать мир.

Именно вокруг этого базового уровня сейчас идут самые острые споры. Многие исследователи всё чаще рассматривают сознание не как способность рассуждать о математике или писать стихи, а как способность переживать опыт. Иначе говоря, вопрос звучит так: каково это — быть этим существом? Есть ли у него внутреннее переживание жизни?

Такое понимание сознания не ново. Декарт, автор знаменитой формулы «Я мыслю, следовательно, существую», имел в виду под мышлением не только холодный разум. Для него мыслить означало также желать, чувствовать, сомневаться, страдать, воспринимать мир. В таком понимании сознание начинается не с логики, а с переживания.

Поэтому сегодня серьёзно обсуждается сознание животных. С кошками и собаками ситуация более или менее ясна: большинство исследователей уверено, что они обладают субъективным опытом. В отношении птиц тоже складывается научный консенсус: они не являются биологическими автоматами, а переживают происходящее.

Но дальше начинается область неопределённости. Где проходит граница между существом, которое только реагирует на стимулы, и существом, которое переживает?

Отсюда возникают не только философские, но и практические вопросы. Испытывает ли собака боль, когда её бросает хозяин? Что испытывает курица, когда её убивают на мясо? Эти вопросы касаются уже не отвлечённой теории, а этики — того, как человеку позволено обращаться с другими формами жизни.

На первый взгляд задача кажется почти неразрешимой. Мы не можем напрямую спросить животное о его переживаниях. Сознание вообще невозможно увидеть снаружи так же, как нельзя напрямую увидеть чужую боль. Мы всегда сталкиваемся только с поведением, движениями и реакциями.

Но современная наука ищет обходные пути. Исследователи исходят из того, что сознание связано с определёнными внутренними процессами. Если у разных существ обнаруживаются сходные механизмы восприятия, памяти, обработки информации и реакции на повреждение тканей, то появляется основание предполагать наличие субъективного опыта.

Сознание в этом смысле напоминает огонь в закрытом доме. Мы не видим пламя, но можем заметить свет в окнах, тепло стен и дым над крышей. Так и здесь: внутренний опыт скрыт, но его следы проявляются во внешнем поведении и устройстве нервной системы.

Особенно важно, что эта дискуссия постепенно меняет наше представление о человеке. Раньше сознание часто мыслилось как вершина разума, почти отделённая от животного мира. Теперь всё больше учёных видят в нём глубокое биологическое свойство, уходящее корнями в способность организма чувствовать мир и себя в нём.

Поэтому исследования животных важны не только для биологии, но и для понимания искусственного интеллекта. Чтобы ответить на вопрос, может ли машина когда-нибудь обладать сознанием, сначала нужно понять, что делает существо чувствующим. Достаточно ли сложной обработки информации? Или необходим особый внутренний опыт, который, возможно, нельзя свести к вычислениям?

Современная наука пока не даёт окончательного ответа. Но ясно одно: граница между «мыслящим человеком» и «бессознательной природой» уже не выглядит такой чёткой, как раньше.

Может ли сложность стать сознанием?

Проблема других сознаний не заканчивается на животных. Сегодня она возвращается в новом виде — как вопрос об искусственном интеллекте. Если мы не можем напрямую увидеть внутренний опыт даже у живого существа, тем труднее понять, где проходит граница в случае машины. Может ли сложная искусственная система однажды не только обрабатывать информацию, но и что-то переживать?

В последние годы вокруг этого разворачивается одна из центральных дискуссий в философии искусственного интеллекта и когнитивной науке. Её часто связывают с проблемой эмерджентности — возникновения новых свойств в сложной системе. Речь идёт о ситуациях, когда система начинает демонстрировать способности, которых никто явно не закладывал. Отдельные элементы работают по простым правилам, но их взаимодействие порождает новое качество.

Это похоже на то, как из огромного множества молекул воды возникает волна, течение или вихрь. Ни одна молекула не содержит «форму волны». В ней нет плана прибоя, завитка или водоворота. Но когда молекул много, когда они взаимодействуют и подчиняются общим физическим условиям, появляется явление другого уровня. Оно реально, хотя его невозможно найти внутри отдельной молекулы.

Нейросеть устроена иначе, чем вода, но общая логика эмерджентности здесь важна. Отдельный искусственный нейрон сам по себе почти ничего не умеет: он принимает числа, умножает их на веса, складывает и передаёт результат дальше. Но огромная сеть таких элементов, обученная на больших массивах данных, начинает распознавать лица, переводить тексты, удерживать контекст, строить рассуждения, различать эмоциональные оттенки и находить скрытые связи. Способности возникают не в отдельном элементе, а в общей конфигурации системы.

Поэтому современный искусственный интеллект вызывает одновременно интерес и тревогу. Мы всё чаще наблюдаем, как системы делают не только то, чему их прямо учили, но и то, что появляется как неожиданное следствие сложности. Увеличивается количество параметров, растёт объём данных, усложняется архитектура — и вдруг оказывается, что модель способна решать задачи, которые не были отдельно прописаны в её архитектуре.