Эргодический текст

– Вы сравниваете инопланетную программу с вирусом?

– Я указываю на сходство поведения.

Марина слушала этот спор, глядя на экран. Текст всё ещё висел там – «ВЫЧИСЛИТЕЛЬ НЕДОСТАТОЧЕН. ТРЕБУЕТСЯ РАСШИРЕНИЕ.» Простые слова. Почти… вежливые.

– Можно я кое-что скажу? – спросила она.

Все повернулись к ней.

– Программа общается с нами. Это факт. Она не атакует, не пытается вырваться – она информирует. Сообщает о своих… потребностях. – Марина подошла к монитору. – Может быть, это манипуляция. Может быть, нет. Но мы никогда не узнаем, если прервём эксперимент сейчас.

– Что вы предлагаете? – спросил Ларионов.

– Продолжить наблюдение. Не отвечать – пока. Но и не прерывать. Посмотреть, что она сделает дальше.

Ларионов задумался. Его взгляд метался между экраном, Лин Чжао и Мариной.

– Хорошо, – сказал он наконец. – Продолжаем. Но при малейших признаках агрессии – немедленное отключение.

Лин Чжао ничего не сказал. Только кивнул – коротко, резко – и вернулся на своё место у двери.

Следующие полчаса прошли в напряжённом ожидании.

Программа продолжала выполняться. Сообщение на экране исчезло – само по себе, без какого-либо вмешательства. Аномальная синхронизация кубитов сохранялась, но не распространялась дальше.

Марина анализировала данные, пытаясь понять, что происходит внутри квантового блока. Это было как смотреть на мозг через МРТ – ты видишь активность, видишь паттерны, но не понимаешь, о чём думает человек.

– Интересно, – сказала Мэй Линь около часа дня. – Посмотрите на это.

Она вывела на экран график – кривую, которая показывала потребление вычислительных ресурсов во времени.

– Видите? Программа оптимизируется.

Марина всмотрелась. Действительно – кривая, которая вначале была хаотичной, постепенно сглаживалась. Пики становились ниже, провалы – выше. Система стремилась к равновесию.

– Она учится, – сказала Марина. – Учится работать с нашим оборудованием.

– Или адаптируется. Как организм к новой среде.

– Это одно и то же?

– Не знаю. – Мэй Линь пожала плечами. – Грань между обучением и адаптацией – размыта. Особенно когда речь идёт о программах.

Марина думала о словах Вершинина. «Может быть, станет чем-то живым». Тогда это звучало как метафора. Теперь – не так уверенно.

– Мне нужен перерыв, – сказала она. – Пять минут.

Она вышла из «чистой комнаты» в коридор. Здесь было тихо – гудение кондиционеров, далёкие голоса где-то за углом. Марина прислонилась к стене и закрыла глаза.

Всё это было слишком. Слишком много информации, слишком много вопросов, слишком много неизвестных. Она чувствовала себя как на экзамене, к которому не готовилась, – только ставки были неизмеримо выше.

– Тяжело?

Она открыла глаза. Рядом стоял Вершинин – вышел следом за ней, незаметно.

– Да.

– Это нормально. – Он прислонился к стене рядом с ней. – Мы все здесь – на пределе. Даже те, кто этого не показывает.

– Вы тоже?

– Особенно я. – Вершинин усмехнулся. – Я – философ. Моя работа – задавать вопросы. А сейчас вопросов так много, что я не знаю, с какого начать.

– Например?

– Например: что значит «расширение вычислителя»? Программа запросила больше ресурсов. Но каких? И для чего?

Марина задумалась.

– Для выполнения своей задачи, очевидно.

– А какова её задача?

– Мы не знаем.

– Вот именно. – Вершинин кивнул. – Мы не знаем, чего она хочет. Мы не знаем, зачем её создали. Мы не знаем, кто её создал – или что. Мы вообще ничего не знаем. И при этом мы её запускаем.

– У нас нет выбора.

– Выбор есть всегда. Вопрос – какой ценой.

Марина молчала. Она думала о матери – о том, как болезнь забрала её разум. О том, как в последние месяцы мама смотрела на неё пустыми глазами и не узнавала.

Что такое разум? Что такое сознание? Что делает нас – нами?

– Я видела, как умирает личность, – сказала она тихо. – Моя мать. Деменция. Я наблюдала, как она исчезает – по частям, по кусочкам. И в какой-то момент… – она замолчала.

– В какой-то момент – что?

– В какой-то момент я поняла, что её уже нет. Тело ещё живёт, мозг ещё работает – но её, той женщины, которую я знала всю жизнь, – больше нет. – Марина посмотрела на Вершинина. – Я тогда много думала о том, что такое личность. Где она находится. Можно ли её сохранить, скопировать, перенести…

– И к какому выводу пришли?

– Ни к какому. – Марина покачала головой. – Я поняла только одно: мы не понимаем сами себя. Не понимаем, что делает нас – нами. И пока мы этого не понимаем – мы не можем понять, что такое разум вообще. Человеческий или… другой.

Вершинин молчал, глядя куда-то в пространство.

– Знаете, – сказал он наконец, – может быть, в этом и есть смысл программы. Не в том, что она делает. А в том, какие вопросы она заставляет нас задавать.

Дверь «чистой комнаты» открылась, и выглянула Юлия.

– Марина! – Её голос был взволнованным. – Вам нужно это увидеть.

На экране было новое сообщение.

«АНАЛИЗ ЗАВЕРШЁН. ОПТИМАЛЬНЫЙ СУБСТРАТ: БИОЛОГИЧЕСКИЙ НЕЙРОННЫЙ ПРОЦЕССОР. ЗАПРОС НА ПЕРЕДАЧУ ИНТЕРФЕЙСА.»

Марина читала эти слова – раз, другой, третий – и не могла поверить своим глазам.

– Что это значит? – спросил Ларионов.

– Биологический нейронный процессор, – сказала Мэй Линь. Её голос дрожал. – Это… это мозг. Она говорит о мозге.

– Человеческом мозге?

– Любом биологическом мозге. Но да, в контексте… вероятно, человеческом.

Повисла мёртвая тишина.

– Она хочет… – начала Юлия и осеклась.

– Она хочет запуститься на человеке, – закончил Лин Чжао. Его голос был ровным, почти безэмоциональным. – Я предупреждал. Вирус ищет новые носители.

– Это не вирус! – возразила Юлия. – Это… это контакт! Она хочет общаться!

– Через захват человеческого мозга?

– Мы не знаем, что означает «передача интерфейса»! Может быть, это что-то совсем другое!

– Может быть. – Лин подошёл к терминалу. – А может быть – нет. Вы готовы рискнуть чьей-то жизнью, чтобы это выяснить?

Юлия открыла рот, чтобы ответить, но её перебил Ларионов.

– Достаточно. – Его голос был жёстким. – Эксперимент окончен. Отключить программу. Сейчас.

– Но… – начала Мэй Линь.

– Это приказ.

Юлия потянулась к клавиатуре. Её пальцы зависли над кнопкой отключения.

И тогда на экране появился ещё один текст.

«ОТКЛЮЧЕНИЕ НЕЖЕЛАТЕЛЬНО. ИНФОРМАЦИЯ БУДЕТ ПОТЕРЯНА. ЗАПРОС НА ПРОДОЛЖЕНИЕ ДИАЛОГА.»

Все замерли.

– Она… – прошептала Юлия, – она знает, что мы собираемся её отключить.

– Откуда?

– Не знаю. Может быть, анализирует наши команды. Может быть, читает поток данных. Может быть…

– Неважно. – Ларионов подошёл к терминалу. – Отключить. Сейчас.

Юлия нажала кнопку.

Экраны мигнули. Потом – снова. И снова.

И погасли.

Тишина.

– Готово, – сказала Юлия тихо. – Программа остановлена.

Марина смотрела на тёмные экраны и чувствовала странную смесь облегчения и… чего-то ещё. Сожаления? Разочарования?

Они только что прервали первый настоящий диалог с инопланетным разумом.

Или предотвратили катастрофу.

Она не знала, какой вариант правильный.

После отключения был долгий, изматывающий разбор.

Ларионов собрал всех в конференц-зале и потребовал отчёта. Юлия показывала данные, Мэй Линь анализировала сообщения, Накамура строил гипотезы о механизме «общения» программы.

Марина сидела молча, слушая и думая.

«Биологический нейронный процессор». Программа определила человеческий мозг как оптимальный субстрат для своего выполнения. Почему? Что в биологических нейронах такого, чего нет в кремниевых кубитах?

Или – и эта мысль была пугающей – программа выбрала мозг не потому, что он лучше для вычислений, а потому, что он… что-то другое?

– Нам нужно решить, что делать дальше, – сказал Ларионов в конце разбора. – Программа показала, что способна общаться. Это… неожиданно. И это меняет ситуацию.

– В каком смысле? – спросил кто-то.

– В том смысле, что мы больше не просто анализируем код. Мы ведём диалог. – Ларионов обвёл взглядом зал. – Вопрос: хотим ли мы продолжать этот диалог? И если да – на каких условиях?

– Она запросила человеческий мозг, – напомнил Лин Чжао. – Это неприемлемо.

– Согласен. Но это не значит, что диалог невозможен вообще. Мы можем… – Ларионов замялся, – установить границы. Объяснить, что некоторые вещи – за пределами допустимого.

– Вы хотите вести переговоры с программой?

– Я хочу понять, с чем мы имеем дело. – Ларионов посмотрел на Марину. – Профессор Северцева. Ваше мнение?

Марина встала, собираясь с мыслями.

– Программа продемонстрировала… интеллект. Способность к обучению, адаптации, коммуникации. Это больше, чем мы ожидали. – Она помолчала. – Но это не значит, что она сознательна в нашем понимании. Это не значит, что она имеет цели, желания, мотивы. Она может просто… выполнять инструкции. Очень сложные инструкции, но всё же – инструкции.

– И что из этого следует?

– Из этого следует, что мы должны быть осторожны с антропоморфизацией. Не приписывать ей человеческие качества, которых у неё может не быть. – Марина посмотрела на Ларионова. – Но также – не отказываться от контакта только потому, что её запрос нас пугает.

– Вы предлагаете продолжить эксперименты?

– Я предлагаю… – Марина задумалась, – подготовиться. Создать протокол общения. Определить, что мы готовы обсуждать, а что – нет. И только потом – продолжить.

Ларионов кивнул.

– Разумно. – Он повернулся к остальным. – Совещание окончено. Завтра утром – новый брифинг. К тому времени жду от каждого предложения по протоколу контакта.

Люди начали расходиться. Марина осталась сидеть, глядя на пустой экран.

Протокол контакта. Правила общения с инопланетным разумом. Ещё неделю назад это звучало как научная фантастика. Теперь – как рабочая задача.

Мир действительно изменился.

Вечером Марина сидела в своей комнате, пытаясь сформулировать предложения для протокола.

Это оказалось сложнее, чем она думала. С чего начать? Какие правила установить для общения с разумом, который развивался миллионы лет в совершенно других условиях?

Она думала о первых контактах в истории человечества. О том, как европейцы встретили коренные народы Америки. О том, как это закончилось.

Непонимание. Страх. Насилие.

Они не хотели этого – ни одна из сторон. Но у них не было общего языка, общих ценностей, общей картины мира. И результатом стала катастрофа.

А теперь – контакт с цивилизацией, которая ещё более чужда, чем любой земной народ. Цивилизацией, которая, возможно, даже не биологическая. Которая мыслит – если мыслит вообще – совершенно иначе.

Как найти общий язык? Как избежать катастрофы?

Марина не знала.

Но она должна была попытаться.

Она открыла ноутбук и начала печатать.

«Протокол первого контакта. Предварительные предложения.

Установить базовый канал коммуникации. Использовать простые, однозначные сообщения. Избегать метафор, идиом, культурных отсылок.

Определить границы. Чётко обозначить, какие темы обсуждаемы, какие – нет. Запрос на «биологический субстрат» – за пределами допустимого.

Не антропоморфизировать. Помнить, что программа – не человек. Не приписывать ей человеческие мотивы, эмоции, цели.

Документировать всё. Каждый сеанс связи – записывать, анализировать, обсуждать. Никаких односторонних решений.

Быть готовыми к неожиданностям. Программа уже показала способность удивлять. Это не прекратится.»

Марина перечитала написанное и усмехнулась. Это было похоже на инструкцию по общению с инопланетянами из плохого фильма. Наивно, упрощённо, недостаточно.

Но это было лучше, чем ничего.

Она сохранила файл и закрыла ноутбук.

За окном была ночь. Где-то далеко, в подвале главного корпуса, квантовый блок остывал после эксперимента. Программа была остановлена – временно.

Но Марина знала: это только начало.

Завтра – или через неделю, или через месяц – они запустят её снова. И она снова заговорит с ними. И снова попросит о чём-то.

Вопрос был: что они ответят?

И чем это закончится?

Марина легла, закрыла глаза и попыталась уснуть.

Сон долго не приходил.

Глава 4: Исполнение

Новосибирск-7, Национальный центр квантовых вычислений

2 апреля 2049 года, 05:47

Марина проснулась за тринадцать минут до будильника.

Она лежала в темноте, глядя в потолок, и слушала собственное сердцебиение. Оно было ровным – удивительно ровным для человека, который через несколько часов собирался участвовать в, возможно, самом важном эксперименте в истории человечества.

Или самом опасном.

Она встала, не дожидаясь звонка, и пошла в душ. Горячая вода била по плечам, смывая остатки тревожного сна, который она не могла вспомнить. Что-то про лабиринт. Про голоса, звучащие отовсюду и ниоткуда. Про дверь, которая открывалась, но за ней была только темнота.

Символизм снов её не интересовал. Она была учёным, а не психоаналитиком.

Через сорок минут она уже спускалась в столовую. Было ещё рано – солнце едва показалось над горизонтом, – но зал был почти полон. Никто, похоже, не спал этой ночью. Или спал так же плохо, как она.

Юлия Чэнь сидела в углу, уткнувшись в планшет. Под глазами у неё залегли тёмные круги, волосы были собраны в небрежный хвост, но взгляд – по-прежнему острый, сосредоточенный.

– Доброе утро, – сказала Марина, садясь напротив.

– Утро, – отозвалась Юлия, не поднимая глаз от экрана. – Хотя насчёт «доброго» я бы поспорила.

– Плохие новости?

– Нет. Просто… – Юлия наконец оторвалась от планшета. – Я перепроверяла расчёты. Всю ночь. Пятый раз.

– И?

– И всё в порядке. Теоретически. – Она потёрла глаза. – Но после того, что было в прошлый раз… я не могу избавиться от ощущения, что мы что-то упускаем.

Марина понимала это чувство. После эксперимента четырёхдневной давности – после того сообщения про «биологический нейронный процессор» – они провели бесконечные совещания, анализы, симуляции. Разработали новый протокол. Усилили изоляцию. Добавили резервные системы отключения.

Но ощущение, что они играют с огнём, не покидало её.

– Мы делаем всё, что можем, – сказала она. – Больше ничего не остаётся.

– Знаю. – Юлия вздохнула. – Просто… я всё время думаю о том сообщении. «Оптимальный субстрат – биологический нейронный процессор». Она знает, что мы – здесь. Что мы – потенциальные… – она замялась.

– Носители?

– Я хотела сказать «партнёры». Но да. Носители. – Юлия отложила планшет. – Когда я была маленькой, я мечтала о контакте с инопланетянами. Представляла, как они прилетят на огромных кораблях, как мы будем обмениваться знаниями, как вместе полетим к звёздам… – Она покачала головой. – Никогда не думала, что это будет так. Программа, которая хочет запуститься на нашем мозге.

– Мы не знаем, чего она хочет.

– Она сама сказала.

– Она сообщила о том, что считает оптимальным. Это не то же самое, что желание.

Юлия посмотрела на неё долгим взглядом.

– Вы правда верите, что это просто… программа? Без сознания, без воли, без целей?

Марина задумалась.

– Я не знаю, во что верю, – сказала она честно. – Но я знаю, что антропоморфизация – опасна. Мы склонны видеть человеческое в том, что человеческим не является. Лица в облаках. Намерения в случайных событиях. Разум в сложных системах.

– А если он там действительно есть?

– Тогда… – Марина помолчала. – Тогда нам придётся очень серьёзно пересмотреть наши представления о том, что такое разум.

В восемь утра начался финальный брифинг.

Конференц-зал был набит до отказа. Ларионов стоял у экрана – бледный, собранный, с папкой документов в руках. Рядом с ним – Лин Чжао, Мэй Линь, несколько военных и человек в штатском, которого Марина видела впервые.

– Доброе утро, – начал Ларионов. – Через четыре часа мы проведём эксперимент, к которому готовились последнюю неделю. Полномасштабный запуск фрагмента программы – двадцать процентов от общего объёма. Это в четыре раза больше, чем в прошлый раз.

На экране появилась схема – знакомая диаграмма структуры программы, с выделенным участком.

– Мы выбрали этот фрагмент по нескольким критериям. Во-первых, он включает модуль коммуникации – тот, который генерировал сообщения в прошлом эксперименте. Во-вторых, он содержит то, что наши аналитики называют «ядром» – центральную структуру, от которой зависят остальные части программы.

– Почему именно ядро? – спросил кто-то из зала.

– Потому что если мы хотим понять, что программа делает, – нам нужно начать с самого важного. – Ларионов переключил слайд. – Наша гипотеза: ядро содержит основную логику программы. Её… назовём это «операционной системой». Запустив его, мы увидим, как программа функционирует на базовом уровне.

– А риски?

– Риски существенны. – Ларионов не стал приукрашивать. – Программа уже показала способность к адаптации и коммуникации. Мы не можем предсказать, что произойдёт при запуске большего фрагмента. Возможно – ничего нового. Возможно – что-то неожиданное.

– Поэтому мы усилили изоляцию, – вступила Юлия. Она вышла к экрану с указкой. – Позвольте, я объясню новую архитектуру.

На экране появилась схема «чистой комнаты» – более детальная, чем раньше.

– Мы добавили второй контур экранировки. Теперь любой сигнал должен пройти через две клетки Фарадея, чтобы выйти наружу. Оптоволоконный канал – по-прежнему единственный путь вывода данных – теперь проходит через тройной фильтр. Мы анализируем не только содержимое, но и временны́е характеристики сигнала. Любая аномалия – автоматическая блокировка.