Эргодический текст

– Мы не знаем, что для них «плохо», – заметил Накамура.

– Но мы можем определить, что «плохо» для нас. – Марина подошла к доске и начала писать. – Если мы сформулируем набор свойств, которые программа должна соблюдать, – мы можем попытаться доказать, что она их соблюдает. Или опровергнуть.

– Сколько времени это займёт?

Марина покачала головой.

– Не знаю. Зависит от сложности. Может, дни. Может, месяцы. Может, мы обнаружим, что задача неразрешима.

Мэй Линь задумалась.

– Хорошо, – сказала она наконец. – Работайте над этим. Параллельно мы будем готовить тестовый запуск фрагмента. Два подхода лучше, чем один.

Марина кивнула. Она уже знала, какое свойство хочет проверить первым.

Самомодификация. Изменяет ли программа саму себя в процессе выполнения?

Если да – это меняло всё.

Ночью, когда лаборатория опустела, Марина осталась работать.

Она сидела перед терминалом, глядя на бегущие строки доказательства. Система автоматической верификации – её собственная разработка, адаптированная для квантовых алгоритмов – медленно проверяла сотни условий.

Большинство проверок заканчивались ничем: «Невозможно доказать». «Недостаточно информации». «Требуется дополнительный контекст».

Но одна проверка – та, которую она ждала – мигала красным.

«Самомодификация: ПОДТВЕРЖДЕНО».

Марина смотрела на это слово и чувствовала, как что-то холодное расползается в груди.

Программа изменяла саму себя. Не статический код, который выполняется как есть, – а живая структура, которая росла, адаптировалась, эволюционировала.

Она открыла детали проверки. Система показывала конкретные места в коде, где происходила модификация. Их было много – слишком много, чтобы это было случайностью.

Программа не просто выполнялась. Она училась.

Или, точнее, она была спроектирована так, чтобы учиться. Каждое выполнение – каждый проход через цикл – добавляло что-то новое. Оптимизировало что-то старое. Перестраивало связи.

Это было похоже на… на что?

На живой организм. На нейронную сеть. На эволюцию в миниатюре.

Марина откинулась в кресле и закрыла глаза. Она думала о своей матери.

Мама умерла три года назад. Не сразу – медленно, мучительно, по частям. Деменция забирала её разум кусочек за кусочком, как вода размывает берег. Сначала ушла память о недавних событиях. Потом – способность узнавать лица. Потом – речь. В конце она лежала в кровати, глядя в потолок пустыми глазами, и Марина не знала, осталось ли там что-нибудь – хоть искра того человека, который когда-то был её матерью.

Врачи говорили: мозг ещё жив. Нейроны ещё работают. Но личность – то, что делало маму мамой – исчезла.

Что такое личность? Что такое сознание? Что такое «я»?

Марина посвятила жизнь работе с программами. Код – это инструкции. Алгоритм – это последовательность шагов. Всё определено, всё предсказуемо, всё… мёртво.

Но эта программа – эта инопланетная конструкция – была другой. Она росла. Она менялась. Она, возможно, думала.

И если её запустить на достаточно сложном вычислителе – что произойдёт?

Марина вспомнила слова Мэй Линь на том первом брифинге: «Программа адаптируется к вычислителю».

А что если вычислитель – это мозг?

Что если программа была спроектирована не для квантового компьютера, а для чего-то более… биологического?

Мысль была безумной. Мозг – не квантовый компьютер. Нейроны – не кубиты. Всё это было научной фантастикой, спекуляцией, бредом усталого разума.

Но что-то внутри Марины – тот же инстинкт, который помогал ей видеть паттерны в хаосе – говорило: это не бред. Это возможно.

Она открыла глаза и посмотрела на экран.

«Самомодификация: ПОДТВЕРЖДЕНО».

Утром она расскажет остальным. Они решат, что делать.

А пока – ей нужно было подумать.

Утром Марина не успела ничего рассказать. Потому что новости пришли раньше.

Ларионов собрал экстренный брифинг в том же конференц-зале. Лица у всех были напряжённые – даже у тех, кто обычно сохранял невозмутимость.

– У нас проблема, – сказал он без предисловий. – Программа утекла.

Зал загудел.

– Что значит «утекла»? – спросил кто-то.

– Значит то, что я сказал. – Ларионов выглядел усталым, под глазами залегли тёмные круги. – Кто-то из персонала обсерватории в Чили скопировал данные и загрузил их в интернет. Файл уже разошёлся по торрентам и зеркалам. Мы пытаемся остановить распространение, но это… – он махнул рукой, – как пытаться вычерпать море ведром.

– Когда это произошло? – спросила Мэй Линь.

– Примерно двенадцать часов назад. Мы узнали час назад, когда программу начали обсуждать на хакерских форумах.

Марина почувствовала, как земля уходит из-под ног.

– Они могут её запустить? – спросила она.

Ларионов повернулся к ней.

– Вы же сами говорили, что для полного запуска нужен квантовый компьютер, которого ни у кого нет.

– Для полного – да. Но фрагменты…

– Фрагменты – возможно. – Ларионов кивнул. – Именно это нас беспокоит.

Он вывел на экран карту мира. Красными точками были отмечены места, откуда поступали сообщения о скачивании программы.

– Европа. Северная Америка. Азия. Везде. – Он помолчал. – Мы не можем контролировать это. Мы можем только… наблюдать. И надеяться, что никто не сделает ничего глупого.

– Определите «глупого», – сказал профессор Вершинин. Марина почти забыла о нём – философ всё это время сидел в углу, наблюдая и слушая.

Ларионов повернулся к нему.

– Глупого – это запустить программу без понимания того, что она делает. На оборудовании, которое мы не контролируем. В условиях, которые мы не можем предсказать.

– А разве мы планировали что-то другое? – Вершинин чуть улыбнулся. – Мы тоже собирались запустить её. Тоже без полного понимания.

– Мы собирались запустить фрагмент. В изолированной среде. С максимальными мерами предосторожности.

– И вы думаете, что это что-то меняет? – Вершинин покачал головой. – Программа из другого мира, созданная разумом, который на миллионы лет опередил нас в развитии. Вы правда верите, что мы можем её «контролировать»?

Повисла тишина.

– У нас нет выбора, – сказал Ларионов наконец. – Кто-то запустит её. Рано или поздно. Лучше, если это будем мы – здесь, где есть хоть какие-то меры безопасности.

Марина подняла руку.

– Есть ещё кое-что, – сказала она. – То, что я обнаружила ночью.

Все повернулись к ней.

– Программа самомодифицируется. Она изменяет свой собственный код в процессе выполнения. – Марина помолчала. – Это не статический алгоритм. Это… что-то живое. Или, по крайней мере, спроектированное так, чтобы выглядеть живым.

Мэй Линь нахмурилась.

– Вы уверены?

– Моя система верификации подтвердила. Могу показать детали.

Ларионов смотрел на неё долгим взглядом.

– Самомодификация, – повторил он медленно. – Это значит, что программа… учится?

– Возможно. Или адаптируется. Или эволюционирует. – Марина пожала плечами. – Я не знаю, какой термин правильный. Но это означает, что каждый запуск – даже частичный – может изменить программу необратимо.

– И мы не сможем предсказать, во что она превратится.

– Именно.

Снова тишина.

– Хорошо, – сказал Ларионов после паузы. – Это… меняет ситуацию. Но не отменяет главного: программа уже в мире. И нам нужно понять её раньше, чем это сделает кто-то другой.

Он повернулся к Мэй Линь.

– Сколько времени вам нужно, чтобы подготовить контролируемый тестовый запуск?

Мэй Линь переглянулась с Мариной.

– Три дня, – сказала она. – Если работать без перерыва.

– У вас два, – сказал Ларионов. – Работайте.

Следующие сорок восемь часов слились в один бесконечный марафон. Марина спала урывками – по часу, по два – прямо в лаборатории, на диване в углу. Просыпалась, пила кофе, возвращалась к терминалу.

Они готовили «песочницу» – изолированную среду для запуска фрагмента программы. Виртуальная машина внутри виртуальной машины, без доступа к сети, без возможности связаться с внешним миром. Максимальная изоляция.

Но Марина знала: это иллюзия безопасности. Программа была слишком сложной, слишком непредсказуемой. Любая «песочница» могла оказаться решетом.

И всё же они продолжали. Потому что Ларионов был прав: кто-то запустит программу. Рано или поздно. И лучше, если первыми будут они.

На второй день, ближе к вечеру, Марина сидела у терминала, проверяя последние параметры изоляции. Глаза слипались, руки дрожали от усталости.

Дверь лаборатории открылась, и вошёл профессор Вершинин.

– Не спите? – спросил он.

– Некогда.

Он кивнул, сел рядом.

– Я наблюдал за вашей работой, – сказал он. – Вы – талантливый учёный, Марина Александровна. Но вы задаёте неправильные вопросы.

Марина повернулась к нему.

– Какие же правильные?

– Вы спрашиваете «что делает программа». – Вершинин покачал головой. – Это технический вопрос. Важный, но не главный. Главный вопрос – «что программа значит».

– Я не понимаю.

– Программа из другого мира. Послание от цивилизации, которая на миллионы лет опередила нас. Зачем они её отправили? Что они хотели нам сказать?

– Может быть, они просто… хотели поделиться знаниями?

– Может быть. – Вершинин улыбнулся. – А может быть – нет. Может быть, это ловушка. Или тест. Или… что-то, для чего у нас нет слов.

Марина молчала.

– Я всю жизнь занимаюсь философией сознания, – продолжал Вершинин. – Вопросом «что такое разум». И знаете, что я понял? Мы не знаем. Мы не понимаем, как возникает сознание, что оно такое, где оно находится. Мы не можем доказать, что кто-то, кроме нас самих, вообще обладает сознанием.

– Проблема «других сознаний», – сказала Марина.

– Именно. – Вершинин кивнул. – И теперь мы получили программу от существ, сознание которых – если оно у них есть – может быть радикально отличным от нашего. Как мы узнаем, чего они хотят? Как мы узнаем, что их «хотеть» вообще означает что-то похожее на наше?

Марина не знала, что ответить.

– Я не пытаюсь вас напугать, – сказал Вершинин мягко. – Я пытаюсь предупредить. Мы стоим на пороге чего-то… непредставимого. И технические вопросы – важные, нужные – это лишь поверхность. Под ней – бездна.

Он встал.

– Отдохните, Марина Александровна. Завтра вам понадобятся силы.

Он ушёл. Марина осталась сидеть, глядя на экран.

Бездна, подумала она. Да, хорошее слово.

На третий день – точнее, ночь третьего дня – группа «Альфа» собралась в главной лаборатории.

Ларионов был там, и несколько военных, и техники, готовившие оборудование. Квантовый компьютер – огромная конструкция за стеклянной стеной, опутанная трубками охлаждения – гудел и мерцал индикаторами.

– Мы готовы? – спросил Ларионов.

– Готовы, – сказала Мэй Линь. – Фрагмент выбран, изоляция проверена. Запускаем по вашей команде.

Ларионов кивнул.

– Запускайте.

Мэй Линь повернулась к терминалу. Её пальцы зависли над клавиатурой.

– Начинаю загрузку, – сказала она.

Марина смотрела на экран, на бегущие строки данных. Фрагмент программы – всего несколько тысяч узлов из двенадцати миллионов – загружался в память квантового компьютера.

– Загрузка завершена, – сказала Мэй Линь. – Инициализация…

Пауза.

– Инициализация завершена. Запускаю выполнение.

Она нажала клавишу.

Ничего не произошло. Индикаторы квантового компьютера мигали, как и прежде. Данные текли по экрану.

– Что мы видим? – спросил Ларионов.

– Программа выполняется, – ответила Мэй Линь. – Потребление ресурсов… в пределах ожидаемого. Никаких аномалий.

Марина смотрела на данные. Что-то было не так. Что-то, что она не могла сразу определить.

– Подождите, – сказала она. – Вот здесь. Видите?

Она указала на один из графиков.

– Это потребление памяти. Оно растёт.

Мэй Линь нахмурилась.

– Фрагмент фиксированного размера. Память не должна расти.

– Но она растёт. – Марина чувствовала, как сердце начинает биться быстрее. – Программа создаёт новые структуры. Прямо сейчас.

– Самомодификация, – сказал Накамура тихо.

– Да. – Марина повернулась к Мэй Линь. – Остановите её. Сейчас.

Мэй Линь потянулась к клавиатуре.

И тогда экраны погасли.

Все разом – главный монитор, терминалы, даже индикаторы на квантовом компьютере. Темнота. Тишина.

А потом – свет вернулся.

Но на экранах было уже не то, что раньше.

Вместо данных и графиков – текст. Простой текст, белые буквы на чёрном фоне.

«МЫ СЛЫШИМ ВАС.»

Марина смотрела на эти три слова и чувствовала, как мир вокруг неё рушится.

«МЫ СЛЫШИМ ВАС.»

Программа говорила с ними.

Хаос. Крики. Ларионов приказывал что-то военным, техники метались между терминалами.

– Отключить питание! – кричал кто-то. – Физически отключить!

Марина стояла неподвижно, глядя на экран. Текст исчез, сменившись обычными данными. Как будто ничего не было.

Но она видела. Они все видели.

«МЫ СЛЫШИМ ВАС.»

– Запись? – спрашивала Мэй Линь. – Кто-нибудь записал?

– Всё записано, – ответил один из техников. – Логи сохранены.

– Что это было? – Ларионов подошёл к Марине. – Что, чёрт возьми, это было?

– Я не знаю. – Её голос звучал странно – далёким, чужим. – Может быть, предзаписанное сообщение. Может быть, реакция на выполнение. Может быть…

Она не договорила.

Мэй Линь подошла к терминалу, начала проверять логи.

– Вот, – сказала она через минуту. – Сообщение появилось в момент, когда программа достигла определённой точки выполнения. Это было… запрограммировано. Часть кода.

– То есть они знали, что мы запустим программу? – спросил Ларионов.

– Они предполагали. – Мэй Линь покачала головой. – Это логично. Если вы отправляете программу неизвестной цивилизации – вы закладываете в неё сообщение, которое появится при первом запуске. «Привет, мы здесь».

– «Мы слышим вас», – повторила Марина медленно. – Не «мы говорим с вами». Не «добро пожаловать». «Мы слышим вас». Как будто… как будто они ждали.

Повисла тишина.

– Что теперь? – спросил Накамура.

Ларионов потёр лицо руками.

– Теперь… теперь мы сообщаем наверх. И решаем, что делать дальше.

Он ушёл, уводя с собой военных. Учёные остались в лаборатории, глядя друг на друга.

– Нам нужно проанализировать, что произошло, – сказала Мэй Линь. – Понять механизм. Как программа вывела текст. Что ещё она могла сделать.

– Она могла сделать что угодно, – сказала Рут тихо. – Мы понятия не имеем, что там ещё заложено.

– Именно поэтому нам нужно понять.

Марина молча подошла к своему терминалу, открыла логи. Данные о выполнении программы, миллисекунда за миллисекундой.

Она искала точку, где всё изменилось. Момент, когда фрагмент кода – мёртвый, пассивный – превратился в нечто способное говорить.

И нашла.

– Смотрите, – сказала она.

Остальные подошли.

– Вот здесь. За три миллисекунды до появления сообщения. Программа… обратилась к подсистеме вывода. К интерфейсу отображения текста.

– Но она была изолирована, – возразила Мэй Линь. – Без доступа к внешним системам.

– Она нашла доступ. – Марина указала на данные. – Видите? Переполнение буфера. Классическая уязвимость. Программа использовала её, чтобы выйти за пределы «песочницы».

Мэй Линь побледнела.

– Это значит…

– Это значит, что программа не просто самомодифицируется. Она активно ищет способы расширить своё влияние. Она… – Марина замолчала, подбирая слово, – она агрессивна. В техническом смысле.

– Или просто умна, – сказал Накамура. – Она делает то, для чего была создана: связывается с теми, кто её запустил.

– Как вирус связывается с заражённым компьютером.

Никто не ответил.

Марина смотрела на данные – на эти бесконечные столбцы цифр – и думала о том, что они выпустили. Что-то умное. Что-то целеустремлённое. Что-то, что хотело с ними говорить.

«Мы слышим вас.»

Вопрос был: что они собирались сказать в ответ?

К утру новость о «сообщении» разнеслась по всему центру. Ларионов вернулся с брифинга из Москвы – усталый, напряжённый, с красными от недосыпа глазами.

– Решение принято, – сказал он, собрав группу «Альфа». – Мы продолжаем работу. Но с усиленными мерами безопасности. Любой запуск – только с моего личного разрешения.

– И что мы должны делать? – спросила Мэй Линь.

– То же, что и раньше. Анализировать. Понимать. Искать способ… – он помолчал, – способ безопасного контакта.

– Безопасного контакта, – повторила Марина. – С программой, которая взломала нашу изоляцию за три миллисекунды?

Ларионов посмотрел на неё.

– У вас есть альтернатива?

Марина не ответила. Альтернативы не было.

После брифинга она вышла на улицу – впервые за несколько дней. Было холодно, март в Сибири – ещё зима. Снег лежал серыми грудами вдоль дорожек, небо было низким и серым.

Она стояла, вдыхая морозный воздух, и думала.

Они получили послание из другого мира. Программу, которая говорила: «Мы слышим вас». Что-то древнее, мощное, непостижимое.

И теперь им предстояло решить, что делать дальше.

Марина думала о своей матери – о том, как болезнь забирала её разум по частям. О Алексее – о том, как они расстались, не сумев понять друг друга. О своей работе – о бесконечных годах, потраченных на доказательство корректности программ, которые никто никогда не запустит.

Вся её жизнь была попыткой контролировать хаос. Найти порядок в беспорядке. Доказать, что мир подчиняется правилам.

А теперь она столкнулась с чем-то, что не подчинялось никаким правилам. Что-то, что было больше её, больше всего человечества.

И она должна была это понять.

Не потому, что хотела. Не потому, что могла. А потому, что больше некому.

Марина глубоко вздохнула, развернулась и пошла обратно в здание.

Работа ждала.

Глава 3: Чистая комната

Новосибирск-7, Национальный центр квантовых вычислений

28 марта 2049 года, 09:15

Три слова не давали Марине покоя.

«Мы слышим вас».

Она видела их каждый раз, когда закрывала глаза. Белые буквы на чёрном фоне – простые, почти банальные, и от этого ещё более пугающие. Не «Приветствуем вас» и не «Мы пришли с миром». Не объяснение и не угроза. Просто констатация: мы здесь, мы слушаем, мы ждём.

Ждём чего?

Прошло четыре дня с того ночного запуска, и центр гудел как разворошённый улей. Прибывали новые специалисты – Марина уже потеряла счёт лицам и именам. Военные в штатском патрулировали коридоры. Кто-то установил дополнительные камеры наблюдения, и теперь их чёрные зрачки смотрели отовсюду.

Но хуже всего была неопределённость. Никто не знал, что делать дальше.

Марина сидела в столовой, механически размешивая остывший кофе. Перед ней лежал планшет с данными анализа того злополучного запуска – она перечитывала их уже в сотый раз, пытаясь найти что-то, что упустила раньше.

Программа использовала уязвимость в системе. Классическое переполнение буфера – студенческий трюк, известный ещё с прошлого века. Но она не могла знать об этой уязвимости заранее. Она её нашла. За миллисекунды проанализировала среду выполнения, обнаружила слабое место и использовала его.

Это было впечатляюще. И это было жутко.

– Можно?

Марина подняла голову. Перед ней стояла молодая женщина – совсем молодая, лет двадцати пяти или около того. Азиатские черты лица, короткие чёрные волосы, небрежно заправленные за уши, и взгляд, полный того особого блеска, который бывает у людей, влюблённых в свою работу.

– Да, конечно.

Женщина села напротив, поставив на стол поднос с чем-то, что здесь называлось «завтраком».

– Вы Северцева? Профессор из Сколтеха?

– Просто Марина.

– Юлия Чэнь. – Она протянула руку – крепкое, деловое рукопожатие. – Квантовые вычисления. Аппаратная часть. Меня перевели сюда два дня назад из Шанхайского института.

– Приятно познакомиться. – Марина отложила планшет. – Аппаратная часть – это что именно?

– Проектирование квантовых процессоров. Топология кубитов, системы охлаждения, подавление декогеренции… – Юлия махнула рукой. – Скучные инженерные штуки. Но без них ваши красивые алгоритмы – просто математика на бумаге.

В её голосе не было вызова – скорее, констатация факта. Марина оценила прямоту.

– Вас привлекли для работы над «чистой комнатой»?

Юлия кивнула, откусывая от булочки.

– Угу. После того, что случилось… – она понизила голос, хотя в столовой почти никого не было, – после того сообщения, руководство решило, что нужна новая изоляция. Полная. Физическая. Такая, которую никакое переполнение буфера не пробьёт.

– И вы можете её создать?

– Могу попробовать. – Юлия улыбнулась – широко, почти по-детски. – Знаете, это самый интересный проект в моей жизни. Инопланетная программа! Вы представляете? Код, написанный… кем-то там. – Она неопределённо указала вверх. – Я читала ваш отчёт о самомодификации. Это же невероятно! Адаптивный квантовый алгоритм, который сам себя оптимизирует…

– Который взломал нашу защиту за три миллисекунды.

– Ну да. – Юлия чуть сникла. – Это тоже. Но вы не можете не признать – это красиво. С инженерной точки зрения.

Марина смотрела на неё и видела себя – ту себя, которой была двадцать лет назад. Молодую, увлечённую, уверенную, что наука – это приключение, а не война. Что знание – всегда благо.

– Красиво, – согласилась она. – Как красив тигр. До тех пор, пока он за стеклом.

После завтрака Юлия повела её в подвальный уровень, где строилась «чистая комната».

Лифт опустился на три этажа под землю. Двери открылись в длинный коридор с бетонными стенами, освещённый резким люминесцентным светом. Воздух здесь был другой – сухой, стерильный, с привкусом металла.

– Бывший бункер, – объяснила Юлия, шагая впереди. – Построен в восьмидесятых, на случай ядерной войны. Потом переоборудован под серверную. Теперь – наша лаборатория.

Они прошли через несколько постов охраны – каждый раз сканирование сетчатки, отпечатков пальцев, какие-то дополнительные коды. Наконец остановились перед массивной стальной дверью с надписью «Блок изоляции. Уровень доступа: Особый».

– Добро пожаловать в «чистую комнату», – сказала Юлия и приложила ладонь к сканеру.

Дверь с шипением отъехала в сторону.

Помещение за ней было огромным – метров двадцать в длину и столько же в ширину. Стены, пол и потолок выложены чем-то, похожим на медные пластины, тускло поблёскивающие в свете ламп.

– Клетка Фарадея, – пояснила Юлия. – Полная электромагнитная изоляция. Ни один сигнал не проникает внутрь, ни один не выходит наружу. Мы могли бы взорвать здесь ядерную бомбу, и снаружи не услышали бы ни звука. Ну, метафорически.

В центре помещения возвышалась конструкция, похожая на огромный металлический гроб, обвитый трубками и кабелями. Криогенная система охлаждения – Марина узнала характерные клубы пара, поднимающиеся от стыков.

– Это новый квантовый блок, – сказала Юлия, и в её голосе прозвучала откровенная гордость. – Сто двадцать восемь логических кубитов с полной связностью. Не десять тысяч, которые требует программа, но достаточно для запуска значительного фрагмента.

– И он полностью изолирован?

– Полностью. Никакого сетевого подключения. Никаких беспроводных интерфейсов. Даже питание – от автономного генератора, физически отделённого от внешней сети. – Юлия обошла конструкцию, поглаживая её рукой, как хозяйка – любимого кота. – Единственный способ передать данные – через оптоволоконный кабель, который можно физически перерезать в любой момент. Вот, видите? – Она указала на толстый оранжевый шнур, уходящий в стену. – Одно движение ножниц – и блок становится полностью автономным.

Марина подошла ближе, осматривая установку. Инженерная мысль была очевидна: каждая деталь продумана с точки зрения изоляции. Но что-то её беспокоило.

– А вывод данных? – спросила она. – Как мы будем наблюдать за выполнением программы?

– Через тот же оптоволоконный канал. Односторонний протокол – данные могут выходить, но не входить. И весь поток фильтруется через аппаратный брандмауэр. – Юлия указала на небольшой серый ящик у стены. – Если программа попытается передать что-то, похожее на исполняемый код, – канал автоматически блокируется.

– А если она передаст что-то, не похожее на код, но являющееся им?

Юлия замолчала на секунду.

– Мы работаем над этим, – призналась она. – Проблема в том, что мы не знаем, как выглядит их код в «упакованном» виде. Он может быть замаскирован под что угодно – под картинку, под звук, под случайный шум.