МИФЫ О НЕЙРОСЕТЯХ. Каково быть искуственным интеллектом?

Проблема возникает из-за масштаба. Даже небольшой процент ошибок при гигантском объёме генерируемого контента создаёт огромную массу ложных сведений. Эти ошибки копируются, цитируются, попадают в поисковые системы и постепенно приобретают видимость достоверности. Интернет сталкивался с похожими эффектами задолго до появления массового ИИ — достаточно вспомнить вирусные городские легенды или псевдонаучные мифы эпохи социальных сетей. Но автоматическая генерация информации резко ускоряет этот процесс.

Поэтому вполне возможно, что одной из важнейших компетенций XXI века станет умение отличать надёжные сведения от искусственно созданного информационного шума. Причём речь идёт не только о проверке фактов, но и о способности понимать происхождение текста, его контекст, источники и скрытые искажения.

При этом специалисты по искусственному интеллекту обычно смотрят на ситуацию менее апокалиптически. Доля контента, созданного ИИ, пока, по некоторым оценкам, сравнительно невелика. Кроме того, идея о том, что всё сгенерированное автоматически — мусор, тоже слишком упрощает ситуацию. Поисковые системы, алгоритмы обработки фотографий, рекомендации видео, автоматический перевод — всё это уже давно работает на основе нейросетевых методов.

Современный смартфон представляет собой маленькую лабораторию искусственного интеллекта. Когда камера делает снимок, она не просто фиксирует реальность. Алгоритмы улучшают изображение, подавляют шумы, восстанавливают детали, корректируют освещение и цвет. В некотором смысле фотография уже давно стала совместной работой человека и нейросети.

Любопытно, что человеческий мозг делает примерно то же самое. Мы никогда не видим мир «как он есть». Нервная система постоянно достраивает реальность, компенсирует слепые зоны зрения, корректирует цвета и собирает непрерывную картину из фрагментарных сенсорных данных. Восприятие всегда остаётся интерпретацией.

Из этого вырастает более широкий вопрос: нужно ли ограничивать развитие искусственного интеллекта из-за потенциальных рисков? Сторонники развития ИИ напоминают, что человечество уже живёт среди технологий огромной разрушительной силы. Ядерная энергия, биотехнологии, химическая промышленность могут приносить огромную пользу и одновременно создавать угрозы цивилизационного масштаба. Получается парадокс. Человечество продолжает развивать практически все опасные технологии, но при этом особенно боится области, которая потенциально способна усиливать коллективный интеллект и помогать справляться с растущей сложностью мира.

Из этого следует вывод: отказ от развития ИИ может оказаться не менее рискованным, чем его развитие. Конечно, это не отменяет необходимости ограничений и систем безопасности. История XX века слишком хорошо показала, чем может закончиться технологическая мощь без политической и этической ответственности. Но идея полного запрета искусственного интеллекта выглядит всё менее реалистичной. Она напоминает попытку добровольно отказаться от усиления собственных интеллектуальных возможностей в момент, когда сложность мира стремительно растёт.

Страх перед новыми технологиями сопровождает всю историю цивилизации. Когда появилась письменность, некоторые мыслители опасались, что люди утратят память. Позже похожие страхи вызывали книгопечатание, радио, телевидение, видеоигры и интернет. Каждая эпоха создаёт собственный сценарий культурной катастрофы. Теперь место главной тревоги занял искусственный интеллект.

Человек удивительно склонен ожидать апокалипсиса. Меняются только формы. Средневековый человек боялся божественного наказания, люди XX века — ядерной войны, а наши современники всё чаще рисуют картины восстания машин и утраты контроля над алгоритмами.

При этом современные исследования пока не подтверждают популярные страхи перед «деградацией мозга» из-за языковых моделей вроде ChatGPT. В некоторых экспериментах студенты, использовавшие ИИ при написании текстов, позже показывали даже более высокие результаты, чем те, кто не пользовался такими инструментами. Существует гипотеза, согласно которой взаимодействие с языковой моделью частично напоминает социальное обучение. Диалог с ИИ иногда работает как разговор с собеседником, который помогает структурировать мысли, уточнять аргументы и быстрее находить идеи.

Особенно заметным этот эффект оказывается у людей с менее развитыми когнитивными навыками. В этом случае ИИ может сокращать разрыв в когнитивных возможностях, выступая своеобразным усилителем мышления. Впрочем, долгосрочные последствия таких изменений пока остаются открытым вопросом.

Некоторые эволюционные биологи предполагают, что в далёком будущем значение большого мозга может уменьшиться. Мозг чрезвычайно энергозатратен. Если машины начнут брать на себя всё больше интеллектуальной работы, давление естественного отбора может измениться. Но даже если такой сценарий возможен, речь идёт о масштабе тысячелетий, а не ближайших десятилетий.

Есть и противоположный взгляд. Возможно, ИИ станет ещё одним инструментом — вроде калькулятора или поисковой системы. Тогда наибольшее преимущество получат не ленивые, а интеллектуально подготовленные люди, потому что они смогут использовать новые инструменты наиболее эффективно.

Реальность уже разрушила многие старые представления об автоматизации. Долгое время казалось, что машины прежде всего заменят физический труд, а творчество останется исключительно человеческой территорией. Но всё оказалось иначе.

Ходьба, координация движений, манипуляции руками и ориентация в физическом пространстве оказались невероятно трудными для автоматизации. А вот многие творческие задачи, связанные с текстом, изображениями и музыкой, неожиданно хорошо поддались алгоритмизации. Однако это не обязательно означает конец творчества.

История искусства уже проходила похожий кризис после появления фотографии в XIX веке. Многие художники тогда были уверены, что живопись обречена. Казалось бессмысленным соревноваться с камерой в точности воспроизведения мира. Однако произошло обратное. Искусство не исчезло, а изменило направление развития. Появились импрессионизм, экспрессионизм, абстракционизм и множество других течений. Художники перестали конкурировать с фотографией в копировании реальности и начали исследовать восприятие, субъективный опыт, эмоции и структуру видения.

Технологии нередко не уничтожают творчество, а заставляют его искать новые формы существования. Придумывать новые миры человеку всегда было особенно интересно. Литература, мифология, кинематограф — всё это, по сути, способы создавать альтернативные реальности. На первый взгляд кажется, что искусственный интеллект делает эту задачу ещё увлекательнее: изображения возникают за секунды, тексты генерируются мгновенно, визуальные стили смешиваются почти без ограничений.

Похожий процесс происходит и сейчас. Цифровое искусство, генеративные изображения, традиционная графика, фотография и нейросетевые методы начинают смешиваться друг с другом. Художник всё чаще становится не только создателем изображения, но и режиссёром визуального процесса. При этом для человека ценность произведения искусства нередко связана не только с результатом. Важна история происхождения произведения. Для людей существенно, что картину написал живой человек, что за ней стоит конкретная биография, опыт, переживание, труд.

Это похоже на отношение к ремесленным вещам или продуктам фермерского производства. Человек покупает не только объект, но и ощущение подлинности. В культуре огромное значение имеет не только функция предмета, но и его происхождение.

Особенно неожиданным оказался другой эффект искусственного интеллекта — способность создавать ощущение эмоционального понимания. Когда языковые модели стали обучать на огромных массивах человеческих диалогов, выяснилось, что система способна создавать впечатление внимательного собеседника. Причём иногда — очень убедительно.

Человеку начинает казаться, будто его действительно услышали — в тревоге, боли, переживании, внутреннем конфликте. И это производит головокружительный эффект, потому что по ту сторону нет субъекта в человеческом смысле. Нет сознания, личности, внутреннего опыта. Но ощущение контакта всё равно возникает. Это разрушает старую интуицию, согласно которой чувство понимания возможно только между двумя людьми. Оказывается, иногда достаточно системы, которая хорошо моделирует человеческий отклик.

Подобные технологии вызывают одновременно восхищение и тревогу. Здесь речь идёт уже не об автоматизации текста или изображений, а о глубоком вмешательстве в психологическую сферу человека.

Возникает вопрос: не станет ли ИИ для некоторых людей главным эмоциональным партнёром? Проблема в том, что отношения между людьми всегда связаны с риском. Настоящее признание возможно только там, где существует свобода другого человека — включая возможность отказа. Нас затрагивает не само понимание, а понимание со стороны существа, которое может нас отвергнуть, не согласиться, уйти.

ИИ способен создавать ощущение того, что тебя услышали и поняли. Он может стать своеобразным резонатором, в котором человек лучше слышит себя. Но у него нет собственной позиции, желания, внутреннего мира. Поэтому он не может признавать человека в том глубоком смысле, какой существует в человеческих отношениях.

Если человеку постоянно требуется эмоциональный отклик от алгоритма, это скорее говорит о масштабе современного одиночества. Искусственный интеллект создаёт эффект присутствия, своеобразное «контрприсутствие»: система не присутствует как живой другой, но отвечает, поддерживает диалог, реагирует на эмоции. Потребность в таком постоянном отклике многое говорит не столько о машине, сколько о состоянии общества.

При этом важно понимать: если на фоне общения с ИИ у человека развиваются тяжёлые психические состояния, причина обычно не сводится к технологии. Как правило, подобные реакции связаны с уже существующими внутренними проблемами, тревогами или предрасположенностями.

И всё же человеческое творчество вряд ли исчезнет. Скорее всего, сохранится особая ценность «органического искусства» — искусства, созданного человеком. Люди будут продолжать искать вещи, за которыми стоит человеческий опыт.

Это уже видно по современной культуре. Художников сегодня, возможно, даже больше, чем до появления фотографии. Кроме того, объём потребляемого искусства вырос многократно. Крестьянин XIX века за всю жизнь видел ограниченное количество изображений: церковные росписи, лубки, редкие иллюстрации. Современный человек ежедневно сталкивается с гигантским потоком визуального контента.

Теперь человек способен создавать изображения буквально для себя одного. То, что раньше было привилегией аристократов и богатых заказчиков, стало массовым развлечением. Сегодня пользователь открывает генератор изображений и создаёт любые сцены: средневековый мегаполис на Марсе или альтернативную историю Византии. Причём это делается не ради практической пользы, а ради удовольствия от воображения.

Технологическое развитие редко оказывается игрой с нулевой суммой, где машина просто вытесняет человека. Гораздо чаще технологии расширяют поле деятельности. Хороший пример даёт история программирования. Когда-то программистов в мире были единицы. Они работали с перфокартами и вручную настраивали вычислительные системы. Сегодня один разработчик способен создавать функциональные решения, которые в ту эпоху потребовали бы работы целого института. Но число программистов не сократилось, а выросло до десятков миллионов.

Причина проста: вместе с ростом возможностей резко выросло и количество задач. Каждый современный человек носит в кармане устройство, вычислительная мощность которого многократно превосходит мощность компьютеров 60-х годов. Человечество постоянно находит этим мощностям новые применения, иногда странные и комичные.

Отсюда возникает популярный упрёк: колоссальные вычислительные ресурсы тратятся на мемы, фальшивых красавиц и прочие развлекательные картинки. Но похожие претензии можно было предъявить человечеству практически в любую эпоху. Для средневекового монаха современная индустрия развлечений выглядела бы абсурдной растратой цивилизационных усилий. А для земледельца бронзового века идея глобального интернета показалась бы бессмысленным магическим излишеством.

На практике ИИ уже давно используется в огромном количестве прикладных областей. Он помогает создавать лекарства, проектировать новые материалы, анализировать климатические данные, оптимизировать производство, искать закономерности в научных исследованиях. Большая часть этой работы остаётся невидимой для обычного человека.

Современная наука невозможна без систем поиска и обработки информации. Исследователь XXI века постоянно взаимодействует с интеллектуальными инструментами, даже если не всегда замечает это.

Поэтому вопрос о том, является ли ChatGPT революцией или маркетинговым эффектом, оказывается не таким простым. С одной стороны, технология не возникла внезапно. Архитектуру Transformer разработали исследователи Google задолго до массового успеха ChatGPT. Многие идеи, лежащие в основе современных языковых моделей, развивались постепенно. С другой стороны, OpenAI первой рискнула вывести подобную систему в массовое использование. Крупные корпорации долго опасались репутационных последствий. Все помнили историю чат-бота Tay компании Microsoft, который после общения с пользователями начал публиковать радикальные и провокационные высказывания.

С технологической точки зрения ChatGPT стал не внезапным чудом, а результатом постепенного накопления идей. Но культурный эффект действительно оказался революционным. Впервые миллионы людей получили прямой доступ к генеративной системе такого уровня. И здесь возникает главный философский вопрос. Если искусственный интеллект всё лучше выполняет многие функции человека, остаётся ли что-то исключительно человеческое?

Возможно, дело в том, что человеческое существование не сводится к эффективности. ИИ может быстрее обрабатывать данные, писать тексты, искать закономерности. Но человеческая жизнь состоит не только из функций.

Модель может имитировать любовь, но не переживает её как человеческий опыт. Может имитировать страдание, но не страдает; может создавать впечатление понимания, но ничего не чувствует. Кроме того, идея «общего интеллекта» часто чрезмерно упрощается. Интеллект — не одна универсальная величина. Это набор разных способностей, многие из которых плохо сводятся друг к другу.

Человек, блестяще проходящий тесты Айзенка, может оказаться беспомощным в дикой природе. А охотник-собиратель, не умеющий решать абстрактные логические задачи, способен превосходно ориентироваться в лесу, читать следы животных и выживать в экстремальной среде. С искусственным интеллектом происходит нечто похожее. Современные модели великолепно справляются с одними задачами и неожиданно плохо — с другими. Например, некоторые системы до сих пор ошибаются при подсчёте букв в словах или совершают странные логические ошибки в задачах, которые человеку кажутся элементарными.

Особенно заметны ограничения в медицине. Даже специализированные системы пока надёжно работают только в достаточно узких условиях. Как только возрастает неопределённость и появляется сложный контекст, количество ошибок резко растёт. Кроме того, обучение мощной нейросети требует гигантских ресурсов. Пока полноценная подготовка врача часто оказывается дешевле и надёжнее, чем создание универсальной медицинской системы сопоставимого уровня.

Возникает ещё один фундаментальный вопрос: возможно ли сознание у искусственного интеллекта?

Большинство исследователей считает, что случайно оно вряд ли появится. Для этого, вероятно, потребуются совершенно иные архитектуры: сложные среды взаимодействия, системы моделирования других агентов, способность формировать представления о себе и собственных состояниях.

Причём здесь существуют не только инженерные, но и физические ограничения. Рост вычислительных мощностей не может продолжаться бесконечно. Скорость света, тепловыделение, квантовые эффекты — всё это задаёт фундаментальные пределы вычислений. Да и сознание, возможно, устроено гораздо сложнее, чем предполагают современные теории. Не исключено, что субъективный опыт нельзя получить простым увеличением объёма вычислений.

Тем не менее искусственный интеллект уже стал частью повседневной жизни. Технология остаётся новой и непривычной, а всё непонятное традиционно вызывает у людей тревогу. Отсюда рождаются фантазии о восстании машин, конце человечества и грядущем апокалипсисе.

Но история цивилизации показывает, что человечество уже много раз переживало подобные периоды страха. Вполне возможно, что дети нынешнего поколения будут воспринимать ИИ так же естественно, как мы сегодня воспринимаем электричество, интернет или смартфон. В конечном счёте решающим остаётся не сам инструмент, а способ его использования.

1. Архитектура живого интеллекта

Город нейронов

Представьте город, где обитают десятки миллиардов жителей. Каждый непрерывно обменивается информацией с тысячами соседей. Сообщения летят со скоростью до ста метров в секунду. Получатели складывают входящие сигналы и, если сумма достигает порогового значения, передают импульс дальше. Голоса соседей имеют разную силу: одни едва влияют на решение, другие оказываются решающими.

У города нет мэра, ратуши или центрального диспетчера. Это самоорганизующийся мегаполис — воплощённая мечта анархиста. У него нет генерального плана, по которому всё построено раз и навсегда. Зато есть постоянная перестройка, адаптация к обстоятельствам, органический рост. Там, где сигнал проходит часто, связь укрепляется, словно по её линии прокладывают оживлённую магистраль. Там, где связь слабеет, маршрут постепенно превращается в тупик.

Этот город — человеческий мозг; его жители — клетки-нейроны. Они не соединены проводами и общаются сквозь крошечные промежутки. Электрический импульс подходит к краю одной клетки, превращается в химический сигнал, перескакивает через микроскопический зазор и запускает реакцию соседней клетки. Иногда сообщение несётся быстро, иногда — медленнее. Но решает не скорость отдельного сигнала, а то, что таких сообщений проходят через сеть миллиарды. Из множества простых действий возникает сложная жизнь всего города.

Нейрон живёт по простому правилу: он получает множество сигналов, часть из них подталкивает его к активации и передаче импульса, часть — тормозит движение сигнала. Сила такого влияния в нейробиологии называется «весом» связи.

Откуда берётся этот вес? Он не задан раз и навсегда. Если два нейрона часто активируются вместе, их связь постепенно усиливается. Если они взаимодействуют редко, влияние ослабевает. Поэтому одни сигналы начинают звучать громче, а другие теряются на общем фоне.

Получив множество сигналов, нейрон складывает их с учётом силы каждой связи и сравнивает результат с порогом возбуждения. Как в чате: сообщение от случайного человека можно не заметить, а сообщение от близкого друга сразу меняет настроение или решение. У нейронов одни сигналы тоже слабы, другие намного важнее.

Порог нужен, чтобы нейрон реагировал не на случайные слабые колебания, а на достаточно согласованное воздействие многих сигналов. Он зависит от свойств клетки и может постепенно меняться вместе с активностью сети. Если суммарное воздействие превышает порог, нейрон посылает импульс дальше. Если нет, сигнал гаснет. Так нейрон работает как фильтр шума: он отвечает не на каждую мелочь, а на достаточно сильное совпадение сигналов.

Информация в мозге передаётся сочетаниями электрических импульсов и химических сигналов. Часть этих сочетаний связана с условными знаками языка — словами и фразами. Услышанная фраза вызывает в мозге характерную комбинацию активности нейронов. Нейробиологи называют её паттерном активности. Речь собеседника запускает цепочку таких паттернов, и они распространяются по связанным группам нейронов.

У нейронной системы есть важное свойство: нейроны постоянно настраиваются друг под друга. Поэтому мозг сравнивают ещё и с джазовым ансамблем, где музыканты подхватывают и развивают партии соседей. Нет дирижёра, который контролирует каждую ноту. Музыка возникает из взаимодействия исполнителей.

Когда мы говорим об архитектуре мозга, речь идёт не об отдельных нейронах и связях между ними, а об общем способе организации системы. Это похоже на устройство здания или микрорайона. Здание — не только кирпичи, трубы и провода, но и план: где комнаты, где лестницы, как проходит вода и электричество.

С мозгом происходит нечто похожее: важны нейроны, связи между ними, маршруты сигналов и правила, по которым эти связи меняются. Архитектура мозга включает типы нейронов, способы их соединения, движение сигналов и механизмы перестройки связей.

Позднее мы увидим, что инженеры искусственного интеллекта используют те же слова: «нейросеть», «вес связи», «архитектура». Они строят системы из множества простых элементов и соединяют их в сети. Разные архитектуры дают разные способности: распознавать изображения, понимать речь, переводить тексты, планировать действия. Поэтому слово «архитектура» сегодня звучит и в нейробиологии, и в инженерии искусственного интеллекта.

Инженеры не копируют мозг целиком. До этого ещё далеко. Но они берут главную идею: множество простых элементов, множество связей, разная сила влияния между ними и способность менять связи после опыта. Так возникает мост между живыми нейронами и искусственными нейросетями.

Вычислитель размером с клетку

Нейрон можно представить как вычислительный элемент. Он получает множество сигналов от других нейронов, суммирует их и, если совместное воздействие превышает порог, передаёт импульс дальше. Простое правило — сложение сигналов и пороговое срабатывание — уже похоже на элементарное вычисление, которое выполняет крошечный биологический вычислитель.

Анатомически нейрон устроен под эту задачу. У него есть короткие ветвящиеся отростки — дендриты. Они образуют сложное дерево связей, где располагаются сотни и тысячи синаптических контактов. У некоторых клеток число входящих контактов достигает десятков тысяч. Дендриты принимают сигналы от других нейронов, тело клетки складывает их с учётом силы каждой связи, а длинный отросток — аксон — передаёт импульс дальше. На языке информатики дендриты работают как входы, а аксон — как выход. Нейрон напоминает озеро Байкал: в него впадают десятки рек, а вытекает одна — Ангара .

Длина аксона поражает. Некоторые аксоны тянутся от спинного мозга до пальцев ног — почти на метр. В масштабе клетки это гигантское расстояние. Если бы нейрон был размером с человека, его аксон тянулся бы на несколько километров. По этому тонкому отростку бежит электрический импульс. В толстых аксонах, покрытых изолирующей миелиновой оболочкой, скорость может достигать примерно ста двадцати метров в секунду. Но большинство аксонов в мозге — тонкие безмиелиновые волокна. В них импульс движется гораздо медленнее — от половины метра до нескольких метров в секунду.

По сравнению с электричеством в проводах даже сто метров в секунду — скромная скорость: там сигнал распространяется со скоростью, близкой к скорости света. Но для живой системы, построенной из мягкой ткани, мембран и жидкостей, это впечатляющий результат.

Химическая фабрика мозга

Синапс — место встречи двух нейронов. Так называют всю зону передачи сигнала: окончание аксона первого нейрона, синаптическую щель и участок мембраны второго нейрона с расположенными на нём рецепторами. Синаптическая щель — микроскопическое пространство между клетками шириной примерно 20–40 нанометров. Через неё сигнал передаётся химически: первый нейрон выделяет вещество, которое действует на соседнюю клетку.

Синаптическая щель в тысячу раз тоньше человеческого волоса, но для молекул это целое путешествие. Когда электрический импульс достигает конца аксона, электрический сигнал превращается в химический. В окончании аксона находятся крошечные пузырьки — везикулы. Они служат контейнерами для нейромедиаторов — специальных веществ-посланников, которые переносят сигнал от клетки к клетке. Пока нейрон не передаёт сигнал, везикулы хранят эти вещества. Когда импульс приходит к концу аксона, везикулы сливаются с мембраной и выпускают нейромедиаторы в синаптическую щель.

Нейромедиаторы проходят через щель и связываются с рецепторами на мембране следующей клетки. Рецептор можно представить как молекулярный замок, к которому подходит определённый химический ключ. Когда нейромедиатор связывается с рецептором, состояние принимающего нейрона меняется: сигнал может усилиться, ослабнуть или изменить дальнейшую работу клетки.