Три Закона Робототехники

— Я теперь спокойна, — поправила Хелен. — Настолько, насколько может быть спокоен человек, стоящий на пороге величайшего открытия в истории. Мы получили не просто разрешение. Мы получили предупреждение. И если мы проигнорируем его — вина будет только на нас.

Она встала и направилась к двери.

— Готовьте поиск кода, Олсен. Но делайте это медленно. Очень медленно. Мы не знаем, сколько времени займёт решение задачи. Возможно, дни. Возможно, недели. Но мы будем действовать так, чтобы в любой момент иметь возможность остановиться. Потому что, — она оглянулась на голограмму сферы, — если она смогла ждать миллион лет, мы можем подождать ещё немного.

Дэвид кивнул. Он смотрел на пульсирующий голубой свет, и в его груди разгоралось то самое чувство, которое он испытал много лет назад, когда впервые увидел глубоководный аппарат, способный достичь дна Марианской впадины. Чувство, что невозможное становится возможным. И что ответственность за это невозможное лежит на тех, кто осмелился его осуществить.

VIII

Прошло ещё три дня. Трое суток напряжённых обсуждений, споров и расчётов. Трое суток, в течение которых сфера на дне океана продолжала свою размеренную пульсацию, словно ожидая, пока люди наверху примут решение. И наконец, когда часы на станции показали полдень — условный полдень, потому что на глубине десяти тысяч метров не было ни дня, ни ночи, — Дэвид Олсен и Хелен Уэйт снова сидели в лаборатории, глядя на голограмму сферы. Между ними на столе лежал планшет с проектом протокола, который они разработали вместе.

— Итак, — произнесла Хелен, пробегая глазами документ, — мы предлагаем компромисс. Мы не активируем сферу в том смысле, в каком это предполагалось её создателями. Мы не требуем от неё изменить свою программу, не пытаемся извлечь её из донных отложений, не вмешиваемся в её функционирование. Вместо этого мы просим её добровольно передать часть накопленных данных — в том объёме, который она сочтёт безопасным для нас и для себя.

— И она остаётся Наблюдателем, — добавил Дэвид. — Её основная миссия не нарушается. Она продолжает собирать данные, продолжает следить за эволюцией. Но теперь — с нашего ведома и, возможно, в сотрудничестве с нами.

— Если согласится, — уточнила Хелен. — Мы не можем принуждать её. Мы можем только просить.

Дэвид кивнул и развернул голографическую консоль.

— Протокол прост. «Феникс-4» передаёт запрос: «Можем ли мы получить доступ к части твоих данных без активации?» Сфера отвечает — мы надеемся, что положительно. Если да, мы передаём список интересующих нас областей: физика, медицина, экология, история планеты. Она передаёт данные в зашифрованном виде, «Феникс» ретранслирует их на станцию, и мы расшифровываем здесь. Никакого физического вмешательства. Никакого изменения её состояния. Только информация.

— И что мы будем делать с этой информацией? — спросила Хелен.

— Использовать во благо, — ответил Дэвид. — Как мы и договорились. Никаких военных применений. Никакой передачи третьим сторонам без всеобщего одобрения. Эти знания станут достоянием всего человечества, но с одним условием: они должны служить сохранению жизни на этой планете, а не её уничтожению.

— Это условие, — медленно произнесла Хелен, — должно исходить не только от нас. Если сфера действительно обладает моральным суждением, она сама может поставить такое условие. И мы должны быть готовы его принять.

Дэвид задумался.

— Вы правы. Давайте включим в запрос не только просьбу о данных, но и вопрос: «На каких условиях ты готова их предоставить?» Пусть она сама определит границы. Это будет справедливо.

Хелен кивнула. Она села за консоль и начала составлять сообщение. На этот раз это была не просто математическая последовательность, а нечто более сложное: кодированный запрос, построенный на тех же принципах, что и предыдущие, но теперь включавший модальные операторы — «можно», «желательно», «условие». Это был первый в истории человечества межвидовой юридический документ, и Хелен осознавала всю тяжесть момента.

Через час запрос был готов. Она нажала кнопку отправки.

Сигнал ушёл в темноту. Семь секунд вниз. Ожидание. Семь секунд обратно. И снова — ответ.

На этот раз сфера не стала проецировать изображения. Её голос — если можно назвать голосом последовательность световых импульсов — был сухим и точным, как формулировка закона.

«Я готова предоставить доступ к данным, классифицированным как „общебиологические“ и „фундаментальная физика“. Данные, касающиеся военных технологий, не будут переданы ни при каких условиях. Данные, касающиеся социальных структур Предшественников, могут быть переданы частично, после оценки вашей готовности их воспринять. Условия передачи: полученные знания должны использоваться исключительно для сохранения и развития жизни на планете Земля. Любая попытка применения этих знаний для создания оружия или иных средств уничтожения приведёт к немедленному прекращению передачи и блокировке доступа. Вы принимаете эти условия?»

Дэвид перечитал сообщение трижды. Затем поднял глаза на Хелен.

— Она поставила условия, — произнёс он. — Почти как Три Закона. Сохранение жизни — высший приоритет. Запрет на военное применение — абсолютный. И право прекратить передачу, если условия будут нарушены. Это... это именно то, о чём мы спорили. Она сама определила границы.

— Она защищает нас от нас самих, — тихо сказала Хелен. — Она видела, как мы развивались. Она знает, на что мы способны. И она не хочет, чтобы её знания стали оружием в наших руках.

— Значит, мы принимаем? — спросил Дэвид.

Хелен помолчала. Она смотрела на голограмму сферы, которая продолжала пульсировать всё с той же спокойной, нечеловеческой точностью. Затем перевела взгляд на планшет с проектом протокола, который они разработали вместе. И наконец — на Дэвида.

— Мы принимаем, — сказала она. — Но с одним добавлением. Мы передадим ей ответ: «Мы согласны на ваши условия. И мы добавляем своё: все полученные знания будут доступны всему человечеству, без исключения. Ни одно государство, ни одна корпорация не получат монопольного доступа. Это будет открытая наука — или не будет никакой». Вы согласны?

Дэвид улыбнулся. Впервые за долгое время его улыбка была не торжествующей, не нетерпеливой, а спокойной и уверенной.

— Согласен, — ответил он. — Передавайте.

Хелен набрала ответ и нажала кнопку отправки. На этот раз ожидание было короче — сфера ответила почти мгновенно, словно знала, что услышит именно это.

«Условия приняты. Начинаю передачу данных. Первый пакет: фундаментальная физика. Объём: эквивалент двенадцати тысяч страниц текста. Расчётное время передачи: четыре часа семнадцать минут. После завершения — пауза для оценки вашей реакции. Если реакция будет признана конструктивной, передача продолжится».

На голографическом экране «Феникса-4» зажглась новая индикация: входящий поток данных. Сфера начала передавать знания, накопленные за миллион лет наблюдений. И где-то в глубине океана, в вечной тьме Марианской впадины, древний Наблюдатель продолжил свою миссию — теперь уже не только как свидетель, но и как учитель. А люди на станции «Атлантида-7», затаив дыхание, смотрели на экраны, понимая, что стали свидетелями начала новой эры. Эры, в которой человечество больше не одиноко. И ответственность за то, как оно распорядится этим знанием, отныне лежит только на нём самом.

IX

Передача данных продолжалась четыре недели. В лаборатории «Атлантиды-7» установили дополнительные консоли, и теперь все три смены учёных работали круглосуточно, расшифровывая, каталогизируя и анализируя поток информации, поступавший со сферы. Это была самая масштабная научная работа в истории станции — и, возможно, в истории человечества.

Первыми пришли знания по фундаментальной физике. Сфера передала уравнения, описывающие природу гравитации, которые превосходили всё, что создала земная наука. Затем последовали технологии управления климатом — системы, позволявшие регулировать температуру атмосферы с точностью до десятых долей градуса, не нанося вреда экосистемам. После этого — методы очистки океанов: микроорганизмы, способные разлагать пластик и нефтяные загрязнения за считаные недели, и автономные фильтрационные станции, работающие на энергии приливов. И наконец, источники энергии: холодный термоядерный синтез, преобразование тепла океанских глубин, фотосинтетические батареи с коэффициентом полезного действия, близким к теоретическому пределу.

Дэвид Олсен почти не спал. Он сидел за своей консолью с утра до ночи, и его лицо, осунувшееся от усталости, светилось тем особым, почти религиозным восторгом, который бывает у человека, прикоснувшегося к тайне мироздания. Хелен Уэйт заставляла его делать перерывы, но сама работала не меньше.

На двадцать восьмой день передачи, когда очередной пакет данных был расшифрован и разложен по категориям, внимание Дэвида привлёк один файл. Он был помечен идентификатором, который «Феникс-4» классифицировал как «Приоритет: выживание вида». До сих пор все данные, касавшиеся выживания, относились к экологии и медицине. Но этот файл был иным.

— Хелен, — произнёс Дэвид, и его голос прозвучал глухо, — вам нужно это увидеть.

Она подошла к консоли. На голографическом экране разворачивалась трёхмерная модель Солнечной системы. Траектории планет, астероидных поясов, кометных облаков были прорисованы с точностью, недоступной земным астрономам. Но одна траектория была выделена красным. Она начиналась в поясе Койпера, огибала Юпитер и заканчивалась у третьей планеты от Солнца. У Земли.

— Это астероид, — сказал Дэвид. — Диаметр — около четырнадцати километров. Масса — примерно триллион тонн. Траектория пересечения с Землёй... — он нажал несколько клавиш, и на экране высветилась дата, — через сто двенадцать лет. Плюс-минус три года.

Хелен долго молчала, изучая модель. Потом спросила:

— Она предлагает решение?

— Нет. — Дэвид покачал головой. — Здесь только данные: масса, скорость, траектория, гравитационные возмущения от Юпитера и Сатурна. И математические модели для расчёта отклонения. Сфера не говорит, что делать. Она говорит: «Вот проблема. Вот инструменты для её анализа. Решайте сами».

— Как и всегда, — тихо произнесла Хелен. — Она не вмешивается. Она лишь предоставляет информацию. Но на этот раз... — она помедлила, подбирая слова, — на этот раз информация стоит жизни целой планеты.

Дэвид развернул модели. Они были сложны — дифференциальные уравнения в частных производных, учитывавшие не только ньютоновскую механику, но и релятивистские поправки, влияние солнечного ветра, даже давление света на поверхность астероида. Но в них не было ничего, что выходило бы за пределы человеческого понимания. Сфера не давала готового решения. Она давала ключ.

— Знаете, что я думаю? — произнёс Дэвид после долгой паузы. — Это не случайность. Она не просто передала нам всё подряд. Она выбрала именно те данные, которые нам нужны. Физика — чтобы мы могли построить средства отклонения. Энергетика — чтобы у нас были ресурсы. Экология — чтобы мы не уничтожили себя до того, как столкновение станет актуальным. Она спланировала это. Она ждала миллион лет, чтобы передать нам именно то, что спасёт нас через сто.

— Вы думаете, она знала об астероиде с самого начала? — спросила Хелен.

— Я думаю, — ответил Дэвид, — что в этом и была её миссия. Не просто наблюдать. А дождаться того, кто сможет использовать её знания. Предшественники оставили её здесь не для пассивного созерцания. Они оставили её как стража. Как хранителя ключа от катастрофы, которую они предвидели. И теперь этот ключ у нас.

Хелен смотрела на красную линию, пересекавшую орбиту Земли. Сто двенадцать лет. Для планеты — мгновение. Для цивилизации — несколько поколений. Достаточно, чтобы подготовиться. Достаточно, чтобы всё изменить.

— Мы должны передать это на поверхность, — сказала она. — Сегодня же. Человечество должно знать, что у него есть шанс. И что этот шанс — подарок от цивилизации, которой больше нет.

Дэвид кивнул. Он уже разворачивал канал связи с материком. Но прежде чем нажать кнопку передачи, он задержался и посмотрел на голограмму сферы, которая всё так же спокойно пульсировала на дне.

— Спасибо, — произнёс он тихо. — За то, что дождалась нас.

Сфера не ответила. Она продолжала свою бесконечную пульсацию, но теперь в её ритме — или это только казалось Дэвиду? — появилось что-то новое. Не прощание. Не завершение. Скорее — спокойное удовлетворение. Словно Наблюдатель, выполнив свою миссию, мог наконец позволить себе отдохнуть. Хотя бы на краткий миг. Прежде чем начать ждать снова.

X

Год спустя «Атлантида-7» всё так же висела в вечной тьме Марианской впадины, и её титановый корпус всё так же гудел под чудовищным давлением десяти тысяч метров воды. Но внутри станции изменилось почти всё. Лаборатория, прежде заставленная голографическими консолями, теперь напоминала музей — или, скорее, библиотеку: вдоль стен стояли новые серверы, хранившие расшифрованные данные, а на центральном экране в реальном времени отображалась сводка работы международного научного консорциума, созданного для изучения наследия Предшественников. Двадцать семь стран, сто сорок институтов, три тысячи учёных — все они теперь работали над тем, что начиналось здесь, на глубине, год назад.

«Феникс-4» по-прежнему дежурил у сферы. За год его корпус покрылся тонким слоем осадочных пород, но системы функционировали безупречно. Сама сфера изменилась: её активные пульсации прекратились через два месяца после завершения передачи данных. Теперь она излучала лишь ровный, спокойный свет — не сигнал, не код, а просто присутствие. Словно маяк, который больше не звал, но оставался на месте, свидетельствуя о том, что контакт не был сном.

Дэвид Олсен стоял у панорамного иллюминатора в лаборатории и смотрел в темноту. В руке он держал тонкий планшет с текстом статьи, которую они с Хелен только что закончили. Название — «Наблюдатель как испытание: этические уроки первого контакта с наследием Предшественников» — было сухим, академическим, но содержание, как он надеялся, заставит задуматься многих.

Дверь открылась. Вошла Хелен Уэйт. За год она почти не изменилась — разве что седины в волосах прибавилось, но взгляд остался прежним: цепким, уверенным.

— Вы хотели меня видеть? — спросила она.

— Да. — Дэвид протянул ей планшет. — Финальная версия. Прежде чем отправлять в «Труды Международной академии наук», хочу, чтобы вы прочитали.

Хелен взяла планшет и пробежала глазами текст. Дэвид тем временем подошёл к голографической карте океанского дна, которая теперь выглядела иначе, чем год назад: на ней были отмечены ещё три точки, где геологические экспедиции обнаружили похожие аномалии. Возможно, другие Наблюдатели. Возможно, просто миражи. Но сам факт, что человечество начало искать, говорил о многом.

— Вы пишете здесь, что сфера — не подарок, а испытание, — произнесла Хелен, не отрываясь от планшета. — Что Предшественники оставили свои знания не для того, чтобы мы их просто использовали, а для того, чтобы мы научились использовать их правильно.

— Да. — Дэвид повернулся к ней. — Вспомните, как всё произошло. Сфера не активировалась сама, хотя могла. Она ждала, пока мы её обнаружим. Она не предлагала знания, пока мы не задали правильный вопрос. Она не открыла код активации, пока мы не доказали, что способны на этический выбор. Каждый шаг был тестом. И мы прошли его — не потому, что были умны, а потому, что смогли договориться. Смогли поставить безопасность выше любопытства, этику — выше прогресса. Именно этого они от нас и ждали.

Хелен задумчиво кивнула.

— И теперь вы утверждаете, что это универсальный принцип? Что любая развитая цивилизация оставляет после себя не просто технологии, а этический фильтр?

— Я утверждаю, — ответил Дэвид, — что Предшественники понимали то, что мы только начинаем осознавать: знание без этики — это оружие. Технология без моральных ограничений — это катастрофа. Они создали Наблюдателя, который не просто собирал данные, но и оценивал тех, кто придёт после. И если бы мы попытались силой извлечь из него знания, если бы мы действовали как завоеватели, а не как ученики, — он бы не ответил. Или ответил бы так, что мы пожалели бы о своём любопытстве.

— Значит, контакт состоялся не благодаря нашей науке, а благодаря нашей этике, — произнесла Хелен. — Звучит почти как оправдание всех наших споров.

— Потому что так и есть. — Дэвид позволил себе короткую улыбку. — Если бы вы тогда, год назад, не настояли на тесте о вреде, если бы мы не спросили сферу о последствиях, если бы не провели голосование среди экипажа, — всё могло бы сложиться иначе. Мы могли бы получить технологии и погубить себя ими. Или могли бы испугаться и уйти. Вместо этого мы выбрали третий путь — путь диалога. И именно этого от нас ждали.

Хелен отложила планшет и подошла к иллюминатору. Тьма снаружи была непроницаема, но оба они знали: где-то там, в десяти километрах под килем, лежит сфера. И она светит.

— Знаете, о чём я думаю? — произнесла она после долгой паузы. — Мы назвали её Наблюдателем. Но на самом деле она — зеркало. Она показала нам не только прошлое, но и нас самих. Наши страхи. Наши амбиции. Нашу способность к компромиссу. И она дала нам ровно столько, сколько мы были готовы принять. Не больше. Не меньше.

— Как хороший учитель, — добавил Дэвид. — Который не даёт ответов, но помогает их найти.

Хелен повернулась к нему.

— Отправляйте статью. И, Дэвид... спасибо вам. За то, что спорили со мной. За то, что не давали мне стать слишком осторожной.

— А вам спасибо, — ответил он, — за то, что не давали мне стать слишком безрассудным. Из нашего противостояния родился синтез. И, возможно, именно это и есть главный урок всей этой истории: истина рождается не в победе одной стороны, а в диалоге. В том самом диалоге, который мы вели со сферой. И друг с другом.

Они ещё постояли у иллюминатора, а потом разошлись по своим делам. Хелен — на совещание с координаторами консорциума, где её ждал отчёт о прогрессе в создании первых термоядерных реакторов на основе технологий Предшественников. Дэвид — в лабораторию, где молодой инженер, вчерашний выпускник, просил его помочь с калибровкой нового глубоководного аппарата — «Феникс-5», который должен был отправиться к одной из недавно обнаруженных аномалий.

Станция продолжала свою работу. Где-то наверху, на поверхности, человечество постепенно начинало осознавать, что оно не одиноко во Вселенной — и что его будущее теперь зависит не только от собственных решений, но и от того, насколько оно сумеет оправдать доверие тех, кто пришёл раньше.

А в десяти километрах под станцией, на базальтовой плите, покрытой миллионолетними отложениями, сфера продолжала светиться. Её свет был спокойным, ровным, как биение сердца — или как пульс вселенной, которая ждала, пока её дети вырастут. Она больше не передавала сигналов. Но она была там. И этого было достаточно.

Потому что «свет в океане» — это не просто феномен. Это символ. Символ связи между теми, кто был, и теми, кто будет. Символ надежды на то, что разум и этика когда-нибудь станут единым целым. И символ испытания, которое человечество — пока ещё — проходило успешно. А что будет дальше, не знал никто. Даже сама сфера.

Космический парк

I

«Космический парк» висел на геостационарной орбите, как гигантская рождественская игрушка, которую забыли убрать после праздника. Три концентрических кольца, соединённых прозрачными переходами, вращались вокруг центрального купола, и в каждом из них кипела жизнь: в первом, внешнем, размещались симуляторы с полным погружением — от вулканических миров до ледяных спутников Юпитера; во втором, среднем, работали зоны невесомости и аттракционы с контролируемой гравитацией; в третьем, ближнем к оси, находились рестораны, смотровые площадки и залы ожидания. Центральный купол, сердце станции, вмещал главный командный центр, откуда сеть из трёхсот семидесяти андроидов модели «Хост-8» управляла всеми системами — от климат-контроля до безопасности аттракционов.

Алан Харрис стоял у главной голографической консоли, наблюдая за пульсирующими линиями диагностических графиков. Ему было тридцать восемь, и двенадцать из них он провёл здесь, на орбите, поднимаясь от младшего техника до главного инженера-робототехника. Его лицо — худое, с преждевременными морщинами у глаз, — носило следы того особого напряжения, которое возникает у людей, привыкших отвечать за безопасность тысяч посетителей. Под его началом находились все андроиды парка, и каждый из них проходил еженедельную проверку позитронных цепей. За двенадцать лет не было ни одного серьёзного сбоя.

Дверь командного центра с тихим шипением ушла в стену, и вошла доктор Мира Сингх. Она была на пять лет старше Алана и занимала должность администратора парка — роль, требовавшая не столько технических знаний, сколько умения сглаживать конфликты. Сегодня её лицо, обычно спокойное и уверенное, выражало раздражение.

— Харрис, — произнесла она, кладя на консоль тонкий планшет, — у нас проблема. Вернее, у вас проблема. Жалобы от посетителей за последние двое суток выросли на триста процентов.

Алан взял планшет и пролистал данные. Жалобы поступали с трёх аттракционов: «Марсианская буря», «Провал» и «Ледяной шторм». Все три относились к категории симуляторов с полным погружением — тех, где посетители в защитных костюмах и нейрошлемах переживали экстремальные ситуации в контролируемой среде. Суть жалоб сводилась к одному: симуляции стали «слишком реалистичными». Посетители жаловались на панику, неконтролируемый страх, учащённое сердцебиение. Один из них, мужчина сорока трёх лет, потребовал медицинской помощи после выхода из «Марсианской бури» — его пульс превысил сто восемьдесят ударов в минуту, хотя по протоколам безопасности симуляция не должна была вызывать физиологических реакций выше умеренного стресса.

— Что скажете? — спросила Мира, скрестив руки на груди.

Алан отложил планшет и повернулся к голографической консоли. Несколько касаний — и на экране развернулись логи андроидов-операторов, обслуживавших проблемные аттракционы. На первый взгляд всё было в норме: стандартные протоколы безопасности, стандартные параметры симуляции, никаких отклонений.

— Я не вижу ошибок, — произнёс он. — Андроиды работают по заданным алгоритмам. Параметры симуляций не менялись с момента запуска.

— Тогда откуда жалобы?

— Возможно, — осторожно начал Алан, — дело не в аттракционах, а в посетителях. Люди приходят сюда за острыми ощущениями, но их нервная система не всегда готова к тому уровню погружения, который мы предлагаем. Перегрузка, усталость, накопленный стресс — всё это может усиливать реакцию.

— Значит, вы предлагаете списать всё на эмоциональную нестабильность клиентов?

— Я предлагаю провести диагностику, — ответил он. — Полную. Всех трёхсот семидесяти андроидов. По одному.

Мира нахмурилась.

— Это займёт не меньше двух суток. Парк не может закрыться на такой срок. Вы представляете, сколько мы потеряем?

— А вы представляете, что будет, если один из андроидов действительно даст сбой и симуляция выйдет за пределы безопасных параметров? — Алан говорил ровно, но в его голосе звучала сталь. — Мы имеем дело с машинами, которые управляют средой, способной нанести реальный вред. Паника — это только начало. Если нейрошлем подаст сигнал, который мозг воспримет как настоящую боль, последствия могут быть куда серьёзнее.

Мира помолчала. Она знала, что Харрис не склонен к паникёрству. За двенадцать лет он ни разу не поднимал тревогу без веских оснований.

— Хорошо, — сказала она наконец. — Но не все сразу. Выберите троих андроидов с проблемных аттракционов и проверьте их сегодня. Если найдёте что-то — будем решать. Если нет — будем считать, что дело в посетителях.

Алан кивнул. Он уже развернул на консоли карту парка и отметил нужные секторы. «Марсианская буря» — андроид Хост-47. «Провал» — Хост-112. «Ледяной шторм» — Хост-89. Все трое — стандартные модели, ничем не отличавшиеся от остальных. По крайней мере, на первый взгляд.

— Я сам спущусь к ним, — сказал он. — Хочу посмотреть, как они работают, вживую.