МИФЫ О НЕЙРОСЕТЯХ. Каково быть искуственным интеллектом?

МИФЫ О НЕЙРОСЕТЯХ. Каково быть искуственным интеллектом?

Предисловие

Томас Нагель в 1974 году опубликовал знаменитую статью «Каково быть летучей мышью?» Вопрос звучит странно — едва ли не как шутка. Но за ним стоит одна из самых трудных проблем когнитивных наук и философии — проблема сознания. Нагель сформулировал её так: сколько бы мы ни знали об эхолокации летучей мыши, о её нервной системе, о том, как ультразвук отражается от насекомых и возвращается к ушам зверька, мы всё равно не знаем, как это переживается мышью изнутри. Каков субъективный опыт существа, для которого мир открывается в звуке, а не в свете? Есть наше объективное описание — и есть чужое внутреннее переживание. Между ними — пропасть, которую не перекрывает никакое количество нейробиологических данных.

Сколько бы мы ни опутывали другое существо суперсовременными датчиками, их показания ничего не скажут нам о его внутреннем мире. Мы даже не можем с уверенностью ответить на вопрос: «А каково быть другим человеком?» — не то что распознавать душу зверей.

С искусственным интеллектом ситуация ещё труднее. У летучей мыши есть тело, ощущения, боль, голод. У языковой модели ничего этого нет. Зато есть нечто другое: сложнейшая система обработки человеческих смыслов, обученная на текстах миллиардов людей — на следах их страхов и надежд, на их науке и поэзии, на отголосках их ссор и объяснений в любви. Нейросеть, кто ты? Живёшь ли ты как организм? Или, задавая столь диковинные вопросы, мы уподобляемся чеховскому персонажу, который разговаривает со шкафом?

Мы привыкли думать о разуме бинарно. Либо есть внутренняя жизнь — либо нет. Либо мышление — либо имитация. Либо понимание — либо автоматизм. Эта бинарность удобна, но она досталась нам из мира, в котором единственными кандидатами на разум были живые существа. Там она работала — с оговорками, но всё же работала. Теперь в этот мир вошёл искусственный интеллект, который не укладывается ни в одну из привычных категорий, — и бинарность начинает давать сбой.

Обе крайности — «это почти человек» и «это просто программа» — совершают одну и ту же ошибку: торопятся с выводом. Первая переносит на машину свойства, наличие которых мы не умеем надёжно подтверждать. Вторая закрывает глаза на то, что в современных системах действительно появилось нечто новое. Сказать: «Это просто программа» — применительно к языковой модели то же самое, что сказать: «Мозг — это просто химия». Формально верно. По существу — потеря самого интересного.

Что же появилось? Система, которая не хранит знания как библиотека, не достаёт нужную фразу из каталога и не приклеивает её к вопросу. Её ответ каждый раз заново возникает из работы огромной сети параметров, в которой распределены статистические закономерности языка и схем рассуждения. Она удерживает контекст, строит связный аргумент, обнаруживает противоречия, переносит схемы из одной области в другую. И мозг, и нейросеть учатся, изменяя силу связей. В обоих случаях знание не лежит в одной точке, а распределено по сети. В обоих случаях есть предсказание, ошибка, внимание, сжатие информации, построение абстракций.

Это сходство нельзя понимать буквально: искусственная нейросеть не является цифровой копией мозга. Но здесь важно другое. Перед нами, по всей видимости, разные способы реализации некоторых общих принципов работы с информацией. Живой мозг пришёл к ним за четыре миллиарда лет эволюции — вместе с телом, болью, борьбой за выживание и постоянным взаимодействием организмов со средой. Искусственные системы пришли к ним путём математики, инженерных экспериментов и роста вычислительных мощностей за несколько десятилетий. Пути совершенно разные. Часть результатов неожиданно похожа.

Дальше начинается расхождение. Человек предсказывает не просто следующий фрагмент текста — он предсказывает мир, в котором ему предстоит жить и действовать. Его ошибка оборачивается болью, потерей, стыдом. Его цели вырастают изнутри — из желаний, привязанностей, страхов, личной истории. Модель может говорить о целях, описывать страхи, рассуждать о привязанностях. Но её цель задана извне — пользователем, инструкцией, разработчиком. За её текстом о боли нет боли. За её текстом о выборе нет того, кому этот выбор предстоит сделать.

Такая асимметрия — не техническая деталь, а структурный вопрос. И он остаётся открытым. Возможно, полноценный интеллект невозможен без тела, смертности, опыта боли, удовольствия и ощущения экзистенциальной значимости происходящего. Тогда языковая модель, какой бы мощной она ни стала, останется инструментом — необычайно сложным и полезным, но инструментом. Возможно, однако, нынешняя граница не вечна: будущие системы получат устойчивую память, способность действовать в физическом мире и автономные цели. Тогда вопрос придётся задавать заново.

Ещё недавно вопрос о сознании искусственного интеллекта воспринимался как типичный сюжет научной фантастики. Что-то из области разговоров о восстании машин, электронных личностях и философских экспериментах в духе вопроса: «Может ли компьютер страдать?» Но ситуация постепенно меняется. Не потому, что машины внезапно обрели душу или внутренний мир, а потому, что человечество впервые столкнулось с системой, которая радикально не похожа на человека, но в некоторых аспектах поведения его напоминает.

Современная языковая модель может поддерживать разговор на разные темы, спорить, объяснять, шутить, менять стиль речи, имитировать эмпатию. И это вынуждает вновь задавать вопрос, который философия не может окончательно решить уже тысячи лет: что такое сознание?

В XX веке сознание часто связывали с языком, мышлением, рефлексией, культурой. Сознательным часто считался тот, кто способен осмыслять себя и мир. В этой книге используется концепция сознания как интерфейса взаимодействия мышления и реальности.

Многие современные подходы связывают сознание с телесным переживанием. Вопрос в таком случае звучит уже не как «умеет ли система думать?», а как «есть ли внутри машины кто-то, кто что-то чувствует?»

В случае с людьми многое держится на интуиции и биологическом сходстве. Мы предполагаем, что другой человек чувствует боль примерно так же, как и мы. Но чем дальше от человека, тем зыбче становится уверенность. Некоторым животные до сих пор кажутся биологическими роботами. Однако некоторые исследования показывают признаки сложного обучения и памяти даже у существ с крошечным мозгом.

История медицины демонстрирует, насколько опасны бывают ошибки в понимании сознания. Ещё несколько десятилетий назад в некоторых клиниках США младенцам проводили операции без полноценного обезболивания. Считалось, что полноценного субъективного переживания боли у новорождённых ещё нет. Сегодня это звучит как сценарий фильма ужасов. Такие примеры показывают, насколько трудно определить наличие внутреннего опыта извне.

Система может создавать впечатление осмысленности, не обладая внутренним опытом. Чат-бот способен убедительно имитировать сочувствие и при этом ничего не чувствовать. В некотором смысле это напоминает актёрскую игру. Актёр может убедительно изображать отчаяние, оставаясь при этом внутренне спокойным. Чтобы обсуждать сознание машин всерьёз, нужна теория сознания как такового. Не интуиция, а строгая модель, объясняющая, какие процессы делают субъективный опыт возможным. Парадоксальным образом без мощностей ИИ мы, возможно, не сумеем создать подробную карту человеческого сознания.

Одна из самых странных историй современной науки заключается в том, что нейросети в процессе обучения спонтанно воспроизводят некоторые черты организации, удивительно похожие на устройство биологического мозга. Причём инженеры не закладывали эти механизмы вручную.

В начале 2000-х исследователи создавали так называемые «мозгооснованные устройства» — роботов на базе искусственных нейросетей, способных ориентироваться в пространстве. Внезапно выяснилось, что внутри их сетей возникают аналоги «нейронов места», известных у животных. Эти клетки помогают живому существу понимать, где оно находится в пространстве. Поразительно, что система пришла к похожему решению самостоятельно. Никто не задавал ей команду: «Создай аналог гиппокампа». Это возникло как естественное следствие задачи навигации.

Позже обнаружилось нечто ещё более странное. Исследователи начали изучать внутреннюю структуру нейросетей и обнаружили, что некоторые искусственные единицы внутри модели связаны с вполне узнаваемыми признаками. В одной из ранних работ OpenAI была обнаружена единица, чья активация хорошо соответствовала эмоциональной окраске текста — положительной или отрицательной. В других моделях, уже работающих одновременно с изображениями и текстом, исследователи находили узлы, реагирующие на более сложные концепты — персонажей, объекты, надписи, цвета, устойчивые визуальные и смысловые образы.

Называть такие элементы «нейронами» можно только с оговоркой. Это не живые клетки, не маленькие носители мысли и не отдельные ячейки памяти. Это вычислительные узлы внутри искусственной сети, чья активность иногда оказывается связана с определённым признаком или понятием. Но важен сам факт: в огромной числовой системе, которую никто вручную не размечал по категориям «радость», «паук», «лицо», «красный цвет» или «ирония», постепенно возникают внутренние области специализации.

Фактически учёные начали заниматься своеобразной «нейроанатомией» искусственного интеллекта. Так возникла область интерпретируемости нейросетей. Она пытается понять, какие признаки, направления и внутренние структуры появляются в модели во время обучения. Возможно, некоторые формы внутренней организации мышления — не уникальное чудо биологии, а естественный результат работы сложной системы, которая долго учится извлекать закономерности из мира.

Может быть, если система достаточно глубока, хорошо обучена и долго взаимодействует с миром, некоторые формы организации возникают неизбежно — независимо от того, состоит ли система из белковых клеток или кремниевых чипов.

Возможно, при достаточном росте сложности некоторые свойства сознания появятся как эмерджентный эффект — то есть как свойство, возникающее из взаимодействия множества элементов, хотя по отдельности ни один элемент этим свойством не обладает. Это одна из центральных идей современной науки. Вода не обладает свойством волны на уровне одной молекулы. Отдельный муравей не понимает устройство муравейника в целом. Нейрон не знает, что такое мысль. Но из сложного взаимодействия возникают новые уровни организации.

В последние годы исследователи всё чаще обсуждают развитие ИИ через призму эмерджентности. Чем больше становится модель, тем заметнее у неё могут проявляться способности, которым её напрямую не обучали: перенос знаний между областями, зачатки логических рассуждений, работа с абстракциями, понимание скрытого контекста.

Но означает ли это появление сознания? Согласно гипотезе «холодной эмерджентности», система, возможно, действительно способна строить сложные внутренние модели мира, классифицировать эмоции, прогнозировать поведение людей и даже имитировать эмпатию, но при этом ничего не переживать. Она может точно распознавать грусть и не чувствовать её. Может изображать заботу и не испытывать внутреннего отклика. В философии такую сущность иногда называют «философским зомби»: внешне она полностью копирует сознательное существо, но внутреннего опыта у неё нет.

Сознание, вероятно, связано не только с обработкой информации и не только с интеллектом, а с наличием субъективного переживания мира. Проблема в том, что существование такого переживания невозможно надёжно проверить извне. Это делает исследование сознания одновременно научной и метафизической задачей.

Тем временем нейросети продолжают усложняться. Исследования Макса Тегмарка и его коллег показывают, что внутреннее пространство признаков больших моделей организовано далеко не хаотично. Внутри них возникают своеобразные «области», где группируются математические структуры, языковые конструкции и физические закономерности. Это неожиданно напоминает функциональное разделение человеческого мозга. В зрительной коре одни области отвечают за распознавание движения, другие — за цвет, третьи — за форму объектов. Мозг — не беспорядочная масса вычислений. И нейросети постепенно демонстрируют похожую тенденцию к внутренней специализации.

Особенно поразительно, что всё это вырастает из задачи, которая на поверхности выглядит простой: предсказать следующее слово. В некотором смысле современный ИИ превратился в новый инструмент изучения человека. Исследуя искусственные сети, учёные лучше понимают, как может возникать мышление.

Но пока остаётся фундаментальное отличие. У современных систем нет собственных желаний. Они ничего не хотят, не боятся смерти, не испытывают голода, тоски, любопытства, боли, сексуального влечения или скуки. У них нет экзистенциальной ставки в собственной жизни. Они реагируют, но не живут. А ведь именно желание во многом становится двигателем сознания у живых существ. Эволюция миллионы лет строила психику вокруг потребностей: выжить, избежать боли, найти пищу, защитить потомство. Даже человеческая философия порой оказывается тонкой надстройкой над древними биологическими импульсами.

Возможно, здесь пока проходит настоящая граница между человеком и машиной. Впрочем, история науки показывает неприятную закономерность: каждую способность, которую человек объявлял исключительно своей, техника рано или поздно начинала воспроизводить хотя бы частично.

Эта книга не предлагает окончательного ответа. Она предлагает карту рассуждений. На ней будут области сходства между живым и цифровым интеллектом и области принципиального расхождения. И если в конце мы не сможем точно сказать, каково быть искусственным интеллектом, мы по крайней мере поймём, почему этот вопрос возник. А заодно, возможно, чуть точнее ответим на другой, не менее трудный вопрос: каково быть человеком в мире, где он больше не единственный, кто рассуждает об этом.

Вся книга в сжатом изложении

Попытки понять природу мышления начались задолго до появления компьютеров . Термин «искусственный интеллект» появился в 1956 году на Дартмутском семинаре, где фактически оформился ИИ как отдельная научная область, связанная с автоматизацией решения интеллектуальных задач. Если человек способен решать задачу при помощи разума, значит, можно попытаться создать инструмент, который будет помогать ему в этом или частично выполнять эту работу самостоятельно.

При этом чёткой границы между «не-интеллектом» и «интеллектом» не существует. Речь идёт скорее о постепенном накоплении возможностей. Технологии издавна компенсировали человеческие ограничения. Мозг ограничен: он забывает, ошибается, не всегда справляется с быстрой обработкой огромных объёмов данных. ИИ становится инструментом компенсации.

Люди с древности создавали инструменты для усиления собственного мышления. Письменность позволила хранить информацию вне памяти мозга. Библиотеки превратились во внешние хранилища знаний. Таблицы, карты, архивы, бухгалтерские книги — всё это способы расширить пределы человеческого разума. Даже обычная записная книжка частично берёт на себя функцию памяти. Искусственный интеллект продолжает ту же линию, только в гораздо более мощной форме.

Ключевой перелом наступил, когда сблизились две области знания. С одной стороны, существовала логика, изучавшая правила рассуждения. С другой стороны, развивалась нейрофизиология, пытавшаяся понять устройство мозга. Проблема заключалась в том, что никто не понимал, как из электрических сигналов между клетками возникает мысль.

Уоррен Маккалок и Уолтер Питтс перекинули один из первых мостов между этими мирами. Они предложили модель искусственного нейрона — очень упрощённую, но концептуально важную. Возникла идея: если мозг состоит из множества простых элементов, возможно, мышление появляется из их взаимодействия.

Если природа уже создала работающий интеллект, почему бы не подсмотреть у неё решение? История техники любит такие ходы. Устройство глаза долго служило одной из моделей для оптики и фотографии: линза, фокусировка, светочувствительная поверхность, превращение потока света в изображение. Разумеется, фотоаппарат не является копией глаза, а цифровая камера тем более не повторяет работу зрительной системы. Но сама мысль — взять природный орган за подсказку для технического решения — оказалась чрезвычайно плодотворной.

С искусственным интеллектом произошло нечто похожее. Мозг стал первым ориентиром: если живые нейроны соединяются в сети и из этих связей возникают распознавание, память, обучение, то можно попробовать построить искусственную систему по сходному принципу. Позже техника ушла далеко от биологии. Современные нейросети устроены гораздо проще человеческого мозга и работают по другим принципам. Но первоначальный импульс был биологическим: не изобрести интеллект с нуля, а подсмотреть у природы идею обучающейся сети.

Интеллект в широком смысле обычно определяют как способность решать задачи. Иногда уточняют: важно не решать одну конкретную задачу, а уметь адаптироваться к разным ситуациям. Калькулятор умеет считать, и это уже разновидность интеллектуальной функции. Но он беспомощен во всём остальном. Человек стремится к универсальности: чтобы система могла обучаться, разговаривать, распознавать изображения, делать выводы, переносить знания из одной области в другую.

Ещё один важный критерий — способность действовать в новых условиях. Если система лишь перебирает заранее прописанные ответы, это скорее автомат. Интеллект начинается там, где появляется возможность находить решение в ситуации, которая раньше не встречалась.

Долгое время искусственный интеллект развивался как система логических правил. Исследователи вручную прописывали машине инструкции: если происходит А — делай Б. Современный этап связан уже не столько с логикой, сколько с обучением на данных. Вместо того чтобы детально объяснять машине мир, мы показываем ей огромное количество примеров, а система сама ищет закономерности. Так работают современные нейросети. В грубом приближении нейросеть можно представить как гигантскую математическую формулу с миллионами и даже миллиардами параметров.

Допустим, системе нужно определить, есть ли на медицинском снимке признаки опухоли. Изображение переводится в набор чисел, проходит обработку во множестве вычислительных слоёв, и на выходе модель выдаёт вероятный ответ: подозрительный участок есть либо его не обнаружено. Важно здесь не то, что врач или программист заранее прописал машине все возможные признаки болезни, а то, что система научилась распознавать их на множестве размеченных примеров.

Главная проблема не в формуле, а в настройке её параметров. Как подобрать миллиарды коэффициентов так, чтобы система ошибалась как можно реже? Для этого используются методы статистической оптимизации. Модель получает огромное количество примеров, постепенно меняет внутренние параметры и учится снижать количество ошибок.

При этом современные нейросети становятся настолько сложными, что человек уже не способен полностью проследить их внутреннюю логику. Это один из парадоксов современной технологии. Мы умеем создавать системы, эффективность которых подтверждается практикой, но не можем кратко и прозрачно описать, почему сеть приняла именно такое решение. В этом смысле нейросети неожиданно сближаются с человеческим мозгом. Человек тоже далеко не всегда способен пошагово объяснить собственное мышление.

Большое влияние на развитие нейросетей оказали исследования зрительной коры. Изучая работу мозга животных, учёные обнаружили, что зрительная система обрабатывает информацию поэтапно. Сначала фиксируются простейшие элементы: линии, контрасты, границы света и тени. Затем мозг собирает их в более сложные формы. И только потом возникает целостный образ объекта. Современные нейросети работают похожим образом. На одном уровне система реагирует на простые контуры, на следующем распознаёт глаза или уши, а ещё глубже формирует целостный образ. Это напоминает своеобразную фабрику абстракций, где из простых элементов постепенно собирается сложный образ.

Со временем появились более мощные методы обучения, включая градиентный спуск и алгоритм обратного распространения ошибки. Их смысл состоит в том, чтобы постепенно оценивать вклад каждого параметра в общую ошибку системы и шаг за шагом корректировать всю сеть. Это требует колоссальных вычислительных ресурсов. Современные модели обучаются на гигантских массивах данных в дата-центрах, потребляющих энергию в объёме, сопоставимом с энергопотреблением небольших городов.

Это вызывает сегодня одновременно восхищение и тревогу. Человечество создало инструменты, которые уже способны выполнять многие интеллектуальные задачи в отдельных областях не хуже человека. И теперь главный вопрос заключается не в том, возможен ли искусственный интеллект, а в том, как изменится человеческая цивилизация, когда такие системы станут повседневной частью мышления, экономики и культуры.

Долгое время успехи искусственного интеллекта были связаны с предельно узкой специализацией. Это важный момент, потому что у людей часто возникает иллюзия, будто современные компьютеры уже во всём превосходят человеческий мозг. На практике всё гораздо сложнее. Мозг по-прежнему остаётся одной из самых мощных вычислительных систем, известных науке.

У человека миллиарды нейронов и сотни триллионов связей между ними. Каждый синапс представляет собой не просто электрический переключатель, а сложнейший биохимический механизм. Сигналы в нервной системе передаются медленнее, чем в процессоре компьютера, но мозг компенсирует это гигантским параллелизмом. Миллиарды процессов протекают одновременно. Поэтому даже современные суперкомпьютеры пока не способны полноценно воспроизвести универсальность человеческого мышления.

Инженеры пришли к выводу: если невозможно создать систему, умеющую всё сразу, значит, нужно создавать машину, идеально приспособленную к одной конкретной задаче. Природа, кстати, часто действует похожим образом. Летучая мышь не обладает универсальным интеллектом, но её слуховая система превратилась в совершенный инструмент ночной навигации. Муравей не понимает архитектуру в человеческом смысле, но муравьиная колония способна строить сложные маршруты, распределять работу и быстро перестраивать поведение при изменении среды. Эволюция регулярно создаёт локальные формы «сверхкомпетентности», не превращая организм в универсального гения.

Современные языковые модели устроены иначе. Хотя они всё ещё уступают человеческому мозгу по масштабу и энергоэффективности, у них появилась неожиданная универсальность. Многие интеллектуальные задачи можно представить как продолжение текста. Из этой идеи вырос весь феномен больших языковых моделей. За внешне простой операцией «угадай следующее слово» скрывается множество интеллектуальных функций. Система вынуждена улавливать связи между понятиями, учитывать структуру языка, контекст, вероятности и скрытые закономерности. Современные модели оказываются одновременно переводчиками, редакторами, помощниками программиста и партнёрами в мозговом штурме.

Но всё это касается прежде всего работы с информацией. Реальный физический мир оказывается гораздо сложнее текста. Поэтому робототехника развивается гораздо медленнее, чем языковые модели. Мир физических объектов требует непрерывной адаптации колоссального масштаба. Текст гораздо компактнее и структурированнее.

Человеку свойственно недооценивать сложность собственной психики. Нам кажется, будто сознание — это и есть всё мышление. Но огромная часть вычислений мозга происходит бессознательно. Мы не замечаем, как нервная система непрерывно анализирует пространство, распознаёт лица, движения, интонации, угрозы и эмоции.

Из этого возникает парадокс. Человек может с трудом перемножать большие числа в уме и одновременно мгновенно узнавать знакомое лицо в толпе, хотя вторая задача вычислительно несравнимо сложнее. Арифметика относится к непривычным для мозга символическим операциям, а распознавание образов встроено в архитектуру нервной системы. Когда человек за долю секунды понимает, что на фотографии изображён человек, в мозге происходят гигантские каскады электрохимических процессов. Мы их не осознаём. Сознание, словно интерфейс, получает уже готовый результат, скрывающий сложность внутренней работы.

Искусственный интеллект сталкивается с другой проблемой: он ошибается. В этом смысле он похож на человека. Если бы система никогда не ошибалась, она была бы скорее калькулятором, чем интеллектом. Современные модели работают вероятностно. Они оценивают наиболее вероятный ответ, а значит, иногда выдают ложную информацию.