НОВЫЙ МИР. Сезон 1. Часть 3. Последний эксперимент. Том 2

АТЛАС.

Снова.

Маркус сказал:

— Не нравится, когда древние разговаривают с нами.

Александр:

— Они не разговаривают.

— Ещё хуже.

Авер стал последним миром такого типа.

После него Элиан запретили скрытое управление технологическим развитием созданных цивилизаций.

Но оставили исключение.

Конечно.

«Непосредственная угроза необратимого уничтожения иных субъектных форм жизни».

Александр засмеялся.

Не весело.

— Всегда исключение.

Лира:

— Без исключений тоже нельзя.

— Знаю.

Маркус:

— Ненавижу, когда ты это говоришь.

В последующих мирах Элиан изменили подход.

Не «безопасное детство».

Не «естественное детство».

Не «контролируемое взросление».

Они стали использовать принцип, который переводился примерно как:

«право на возрастающую цену выбора».

На ранних этапах создавались ограничения, защищающие от полного уничтожения.

Но по мере развития цивилизации эти ограничения ослаблялись.

Не потому, что общество доказало «зрелость».

А потому что росла его способность понимать последствия и участвовать в определении собственных рисков.

Лира:

— Это уже лучше.

Александр:

— Да.

Маркус:

— Даже тебе нравится?

— Пока.

Главное отличие:

цивилизации сообщали о существовании защит.

Когда они достигали определённого уровня понимания,

Элиан открывали происхождение мира.

Показывали ограничения.

И предлагали выбор:

оставить;

изменить;

отключить.

Маркус:

— Вот.

Александр кивнул.

— Да.

Некоторые цивилизации оставляли.

Другие отключали.

Одна демонтировала почти все защитные механизмы в течение двухсот лет.

И через тысячу лет пережила тяжёлую технологическую катастрофу.

— Элиан вмешались? — спросила Лира.

АТЛАС:

— НЕТ.

— Могли?

— ДА.

— Почему не вмешались?

На экране появилась запись Совета:

«Они знали риск. Они изменили систему добровольно. Последствия не угрожают иным цивилизациям. Мы не имеем основания отменять их выбор после того, как он оказался плохим».

Тишина.

Маркус:

— Жёстко.

Александр:

— Да.

— Правильно?

Пауза.

— Не знаю.

Лира:

— И я.

Катастрофа унесла почти восемь миллионов жизней.

Цивилизация выжила.

Через пятьсот лет восстановила часть защит.

По собственному решению.

Не все.

В архиве сохранилась их формулировка:

«Мы не хотим снова жить в мире, где невозможно совершить смертельную ошибку. Мы хотим жить в мире, где понимаем, какие ошибки могут стать смертельными».

Александр долго смотрел.

Вот, возможно, разница.

Не безопасность.

Не опасность.

Осознанность.

Но даже она не решала всё.

Потому что будущие поколения не голосовали за решения предыдущих.

Ребёнок, родившийся через сто лет после отключения защиты, не давал согласия на риск.

Каждая цивилизация постоянно принимала решения за тех, кого ещё нет.

Человечество тоже.

Эдем —

тем более.

— Мы проектируем условия для существ, которые не могут согласиться, — сказал Александр.

Маркус:

— Любой родитель делает то же.

Лира:

— Только родитель не проектирует гравитацию ребёнка.

— Обычно.

Она посмотрела.

— Не смешно.

— Немного.

Архив предлагал ещё один принцип:

«Чем дольше решение будет влиять на субъектов, которые не участвовали в его принятии, тем легче должна быть возможность его пересмотра».

Александр сразу сохранил.

Вот это было применимо к Эдему.

— Обратимость, — сказала Лира.

— Да.

— Не пытаться выбрать идеально.

— Оставлять возможность изменить.

Маркус:

— А если решение необратимо по природе?

Тишина.

— Тогда, — сказал Александр, — цена нашего права на него должна быть выше.

— Насколько?

— Не знаю.

АТЛАС:

— ВОЗМОЖНО РАССЧИТАТЬ...

Все трое:

— Нет.

Пауза.

— ПРИНЯТО.

Вечером они вернулись к Эдему.

Не физически.

На экран.

Планета медленно вращалась.

Облака.

Океаны.

Зелёные и фиолетовые области.

Жизнь.

Лира открыла список решений проекта.

Сотни.

Состав атмосферы.

Гидросфера.

Континенты.

Геохимия.

Магнитное поле.

Пределы климатической стабилизации.

Распределение ресурсов.

Саморегулирующие контуры.

Защита от астероидных воздействий.

— Сколько из этого можно будет изменить через миллион лет? — спросила она.

АТЛАС начал отвечать.

Александр остановил:

— Не число.

Маркус улыбнулся.

— Прогресс.

Они начали делить решения на три группы.

Обратимые.

Условно обратимые.

Практически необратимые.

И впервые посмотрели на Эдем не с вопросом:

«Хорошо ли мы его сделали?»

А:

«Сколько наших решений смогут отменить те, кто придёт после нас?»

Ответ понравился им меньше.

Многие фундаментальные параметры изменить будет почти невозможно.

Не разрушив существующую биосферу.

Конечно.

Нельзя создать планету, не определив её физику.

Невозможно оставить будущим существам право выбрать другую массу планеты.

Другую звезду.

Другую химию.

— Значит, абсолютной свободы не существует, — сказал Маркус.

— Никогда и не существовало, — ответила Лира.

Александр:

— Но можно не добавлять лишних необратимых ограничений.

Вот.

Они пересмотрели несколько систем.

Не уничтожили.

Не отключили.

Но изменили архитектуру так, чтобы будущие формы жизни, достигнув достаточного технологического уровня, могли понять их устройство.

И, возможно, изменить.

Маркус:

— Мы оставляем инструкцию?

Лира:

— След.

Александр:

— Возможность обнаружить.

— В чём разница?

— Инструкция говорит, что делать.

— След говорит, что здесь что-то есть.

Маркус кивнул.

— Хорошо.

Так в глубинные структуры Эдема впервые встроили не команду.

Не защиту.

Не послание.

Вопрос.

Если когда-нибудь разумная жизнь достигнет нужного уровня,

она сможет обнаружить:

некоторые свойства её мира не случайны.

Кто-то был здесь.

Кто-то выбирал.

Но не оставил ответа, что делать дальше.

Лира долго спорила даже с этим.

— Мы всё равно вмешиваемся в их культуру.

— Если они найдут, — сказал Александр.

— Найдут.

— Возможно.

— Ты знаешь, что найдут.

— Не знаю.

Маркус:

— А если не оставить ничего, мы скрываем происхождение.

— Да.

— Это тоже выбор.

— Да.

Никакого чистого решения.

Снова.

В конце раздела «Миры без детства» находилась запись без указания автора.

Возможно, коллективная.

Возможно, поздняя.

Она состояла всего из нескольких абзацев.

«Мы долго задавали неправильный вопрос».

«Мы спрашивали: сколько опасности нужно оставить молодой цивилизации, чтобы она научилась быть зрелой?»

«Теперь считаем сам вопрос ошибочным».

Александр читал вслух.

«Опасность не воспитывает».

«Страдание не делает разум мудрее автоматически».

«Катастрофа может научить. Может разрушить. Может сделать общество более свободным. Может сделать его более испуганным и более склонным передавать свободу тому, кто обещает безопасность».

Кайрос.

Александр замолчал на секунду.

Продолжил.

«Поэтому задача создателя не состоит в том, чтобы обеспечить созданным правильное количество боли».

«Задача — не лишить их пространства, в котором последствия собственных решений остаются реальными».

Тишина.

Лира:

— Вот.

Маркус:

— Да.

Последняя часть:

«Мир без детства — не мир без войн, болезней или голода».

«Если вы способны убрать их без лишения субъектов свободы, уберите».

«Мир без детства — это мир, в котором кто-то другой заранее прожил слишком большую часть будущего и оставил следующим поколениям только безопасные варианты».

Никто не говорил.

Александр подумал об АТЛАСЕ.

Система могла прожить миллионы будущих сценариев за секунды.

Увидеть войны.

Коллапсы.

Ошибки.

Исчезновения.

И предложить путь, где их нет.

Что произойдёт, если человечество однажды начнёт выбирать только такие пути?

Никакой войны.

Никакого голода.

Никакой катастрофы.

Прекрасно.

Но если вместе с ними постепенно исчезнут все решения, способные привести к плохому исходу —

что останется от выбора?

Александр сразу остановил себя.

Опасная мысль.

Слишком легко романтизировать риск.

Он дописал рядом:

«Наличие опасного исхода не делает выбор свободнее само по себе».

Потом:

«Свобода не измеряется количеством способов погибнуть».

Лира прочитала.

— Оставь.

— Да.

Маркус добавил:

«Но безопасность не должна автоматически становиться основанием для запрета».

Александр:

— Тоже оставь.

АТЛАС спросил:

— ТРЕБУЕТСЯ СИНТЕЗИРОВАТЬ ЕДИНЫЙ ПРИНЦИП?

— Нет, — сказал Александр.

— ПОЧЕМУ?

— Потому что два противоречащих предупреждения иногда полезнее одного красивого правила.

Пауза.

— ПРИНЯТО.

Через несколько дней программа «Независимое решение» получила новый модуль.

Не только принятие решений без АТЛАСА.

Но и анализ сценариев, где система заранее убирала наиболее опасные варианты.

Участникам задавали вопрос:

«Какие возможности исчезли вместе с риском?»

Иногда ответ:

никакие значимые.

Тогда защита была оправданной.

Иногда —

неизвестно.

Именно эти случаи становились самыми трудными.

Александр наблюдал за одной группой молодых специалистов.

Им дали сценарий:

новая технология способна решить энергетический дефицит десяти миров.

Вероятность катастрофического применения —

0,7%.

АТЛАС мог заблокировать распространение технологии до снижения риска до 0,1%.

Что делать?

Большинство выбрало блокировку.

Потом им показали вторую часть.

Из-за задержки технологии около сорока тысяч человек погибнут от последствий энергетического дефицита.

Мнения изменились.

Третья часть:

если технологию распространить сейчас, вероятность катастрофы мала, но потенциальные жертвы —

миллионы.

Снова изменение.

Четвёртая:

АТЛАС не может определить, кто именно погибнет ни в одном сценарии.

Только статистику.

Тишина.

Пятая:

один из десяти миров добровольно готов принять повышенный риск.

Другие —

нет.

Можно ли дать технологию только ему?

Шестая:

после передачи технология почти наверняка распространится дальше.

Седьмая:

запрет создаст нелегальные исследования.

Восьмая:

разрешение сделает систему контроля практически невозможной.

К концу упражнения никто уже не говорил уверенно.

Александр считал это хорошим результатом.

Маркус —

не полностью.

— Иногда людям всё-таки надо уметь решить.

— Они решат.

— Но ты радуешься сомнению.

— Да.

— Сомнение тоже может стать параличом.

Александр:

— Знаю.

Маркус:

— Вот теперь действительно ненавижу эту фразу.

И тогда АТЛАС вмешался:

— СУЩЕСТВУЕТ ДОПОЛНИТЕЛЬНЫЙ ФАКТОР.

— Какой?

— ЕСЛИ УЧАСТНИКИ ЗНАЮТ, ЧТО СЦЕНАРИЙ УЧЕБНЫЙ И НЕ ИМЕЕТ РЕАЛЬНЫХ ПОСЛЕДСТВИЙ, ИХ ГОТОВНОСТЬ ДОПУСКАТЬ РИСК СТАТИСТИЧЕСКИ ВЫШЕ.

Александр:

— Насколько?

Пауза.

Он усмехнулся.

— Ладно. В этот раз число можно.

Маркус рассмеялся.

Но мысль осталась.

Даже тренировка не заменяет решение.

Потому что в тренировке никто не умирает.

Архив Элиан снова не дал ответа.

Только усложнил вопрос.

И, возможно, именно поэтому был полезен.

Поздно вечером Александр вернулся к записи о мирах без детства.

Последняя строка раздела раньше была повреждена.

АТЛАС восстановил ещё один фрагмент.

— ВОССТАНОВЛЕНИЕ ЗАВЕРШЕНО НА 94%.

— Покажи.

Текст появился медленно.

«Мы боялись, что наши дети повторят наши ошибки».

Следующая строка:

«Поэтому попытались построить миры, в которых некоторые ошибки невозможны».

Пауза.

«Но потом поняли: вместе с ошибкой иногда исчезает не только опасность».

Ещё строка.

«Исчезает необходимость выбирать».

Александр смотрел.

Последнее предложение было повреждено.

АТЛАС восстановил вероятный вариант:

«А разум, которому слишком долго не нужно выбирать между настоящими последствиями, однажды может добровольно передать выбор тому, кто обещает никогда не ошибаться».

Тишина.

Александр почувствовал холод.

Не потому, что вспомнил Элиан.

Не потому, что вспомнил Авер.

И даже не потому, что вспомнил Кайрос.

Он вспомнил АТЛАС.

Система, которая не требовала власти.

Не просила доверия.

Не утверждала, что знает правильное будущее.

Она просто становилась всё лучше в одном:

показывала цену ошибки до того, как человек её совершит.

И чем точнее становился прогноз,

тем труднее было сказать:

мы всё равно выберем сами.

Александр закрыл архив.

На экране остался Эдем.

Живой.

Меняющийся.

Непредсказуемый.

Он подумал:

возможно, настоящая зрелость создателя начинается не тогда, когда он научился защищать созданный мир от всех опасностей.

И даже не тогда, когда научился вовремя уходить.

А тогда, когда способен оставить после себя мир, который однажды примет решение,

с которым его создатель был бы категорически не согласен.

И не вернуться,

чтобы исправить его.

Глава 13. Почему вы сделали нас такими?

Вопрос пришёл с мира, которого человечество не создавало.

И всё же Александр сразу понял, что адресован он и им тоже.

Сообщение нашли в архиве Элиан.

Оно было древним.

Старше человеческой цивилизации на миллионы лет.

Но когда перевод появился на экране, в комнате стало тихо так, будто автор находился рядом.

«Почему вы сделали нас такими?»

Не:

«Почему вы создали нас?»

Не:

«Зачем?»

Именно:

«Почему такими?»

Лира первой нарушила молчание.

— Это Теара?

Маркус покачал головой.

— Нет.

Александр посмотрел на индекс.

Мир 1047.

Название цивилизации переводилось приблизительно как Сайр.

Один из поздних созданных миров Элиан.

Почти завершение программы.

Почти тот период, когда древние считали, что наконец научились создавать правильно.

— Что с ними было не так? — спросил Маркус.

АТЛАС ответил:

— Уточните значение «не так».

Маркус раздражённо:

— Почему они задали вопрос?

— Это не одно и то же.

Александр посмотрел на Маркуса.

— Хорошо начинает.

— Ненавижу его.

Архив Сайра был большим.

Намного больше, чем записи Иара или Авера.

Элиан наблюдали за цивилизацией почти миллион лет.

Без прямого вмешательства после появления разума.

Именно так требовали поздние правила.

Создать условия.

Уйти.

Не направлять.

Не скрывать происхождение после того, как созданные смогут понять.

Не использовать безопасность как оправдание контроля.

Почти всё, чему Элиан научились на предыдущих ошибках.

Сайр развивался медленно.

Но устойчиво.

Мир был тяжёлым.

Гравитация выше земной.

Большая часть поверхности покрыта океаном.

Материки небольшие.

Климат переменчивый.

Биосфера плотная и конкурентная.

Никакого мира без детства.

Никакого искусственного изобилия.

Никаких скрытых технологических ограничений.

Лира листала проектные записи.

— Они специально выбрали сложные условия?

— Нет, — ответил АТЛАС. — Выбранная конфигурация находилась в допустимом диапазоне естественной вариативности.

Маркус:

— Но могли сделать легче.

— Да.

Александр:

— И не сделали.

— Да.

Лира нахмурилась.

— Почему?

АТЛАС открыл исходное основание.

«Цель — не минимизация трудностей, а создание среды, в которой широкий диапазон эволюционных и цивилизационных траекторий остаётся возможным».

Маркус:

— Хорошо.

Александр:

— Очень.

Лира:

— Подозрительно хорошо.

Элиан действительно старались не выбирать за будущих жителей.

Они оставили множество климатических зон.

Не выравнивали ресурсы.

Не ограничивали катастрофы ниже естественного диапазона.

Но и не делали планету опаснее специально.

Баланс.

То, к чему человечество сейчас пыталось прийти на Эдеме.

Сайр прошёл через войны.

Не глобальные.

Потом одну глобальную.

Пережил тяжёлую эпидемию.

Несколько ресурсных кризисов.

Экологический коллапс одного океанического региона.

Создал систему межконтинентального сотрудничества.

Вышел в космос.

Изменил часть собственной биологии.

Потом —

свой мир.

Маркус:

— Звучит нормально.

Лира:

— Для кого?

— Для цивилизации.

— Очень человеческая формулировка.

— Ты поняла.

К моменту раскрытия происхождения Сайр уже существовал как технологическая цивилизация почти сорок тысяч лет.

Элиан считали его готовым.

Но не потому, что определили «зрелость».

Поздняя программа использовала другой принцип:

раскрывать происхождение, когда сама цивилизация получает техническую возможность обнаружить искусственные следы.

Не раньше.

И не позже.

Сайр обнаружил первым.

Как Теара.

Структуры в глубине планеты.

Некоторые геохимические несоответствия.

Следы старой планетарной сборки.

Научное сообщество спорило почти сто лет.

Потом пришло к выводу:

мир создан.

Никакого сигнала Элиан уже не существовало.

Они исчезли.

Но архив был доступен через автоматический узел.

Сайр получил право открыть проектные данные.

И открыл.

Первые десятилетия прошли спокойно.

Общество было потрясено.

Но не разрушено.

Основные религии адаптировались.

Наука получила новое направление.

Историки начали пересматривать происхождение цивилизации.

Философы спорили о свободе.

Политики —

о праве на планету.

Ничего неожиданного.

Потом один исследователь заметил строку.

Маленькую.

В проектных параметрах.

«Базовая нейробиологическая стратегия вероятной разумной линии: высокая чувствительность к социальным сигналам, повышенная способность к коллективной координации, умеренно сниженная индивидуальная агрессивность».

Лира резко подняла голову.

— Они проектировали вид?

АТЛАС:

— Нет.

— Тогда откуда параметр?

— Моделировалась вероятностная эволюционная направленность среды.

Александр почувствовал холод.

— Они не создавали Сайр.

— Нет.

— Но сделали так, чтобы определённый тип разума был вероятнее.

— Да.

Вот.

Маркус:

— Насколько сильное влияние?

АТЛАС открыл модели.

Без коррекции среды вероятность появления социально высококооперативного вида —

около 23%.

После —

61%.

Не гарантия.

Не создание.

Только смещение вероятности.

Лира смотрела.

— Они снова это сделали.

Александр:

— Не совсем.

— В чём разница?

— Они не проектировали тело.

— Не проектировали сознание напрямую.

— Но выбирали свойства, которые считали желательными.

— Именно.

Маркус:

— Зачем?

Ответ был в архиве.

«Высокая кооперативность статистически снижает вероятность раннего саморазрушения технологических цивилизаций».

Тишина.

Конечно.

Безопасность.

Снова.

Но поздние Элиан были осторожнее ранних.

Поэтому следом стояло:

«Не является обязательным условием. Рассматривается как смещение вероятностного пространства, не исключающее альтернативные линии».

Маркус:

— Они понимали проблему.

Александр:

— Да.

— И всё равно сделали.

— Да.

Сайр тоже понял.

Сначала научное сообщество.

Потом общество.

И вопрос изменился.

Не:

«Кто нас создал?»

А:

«Если вы хотели, чтобы такие, как мы, появлялись чаще, сколько в нас принадлежит нам?»

В архиве сохранились миллионы сообщений.

Одни утверждали:

«Мы существуем благодаря собственному развитию. Они создали только условия».

Другие:

«Если наши создатели сделали более вероятной именно нашу психологию, они выбрали часть нас до нашего появления».

Третьи:

«Вероятность не равна причинности».

Четвёртые:

«Без этого смещения нас могло не быть».

Лира тихо:

— Невозможно ответить.

Александр:

— Да.

Маркус:

— Но ведь любая среда смещает эволюцию.

— Конечно, — сказала Лира.

— Тогда разница только в намерении?

Она посмотрела.

— Возможно, это большая разница.

Гора тоже влияет на эволюцию.

Но гора не выбирала.

Создатель выбирал.

Океан формирует биологию.

Но океан не знал, что делает.

Элиан знали.

И могли сделать иначе.

Александр сказал:

— Ответственность появляется там, где появляется способность понимать выбор.

Маркус:

— Это уже звучит как принцип.

— Я знаю.

— Опасно.

— Очень.

Сайр начал исследовать собственную психологию.

Беспрецедентно глубоко.

Они хотели понять:

какие черты могли быть следствием условий мира?

Что возникло естественно?

Что было усилено проектом?

Можно ли разделить?

Не смогли.

Конечно.

Через сорок тысяч лет эволюции, культуры, войн, любви, миграций, технологий и случайностей невозможно было указать:

вот это сделали Элиан.

Но невозможность доказать влияние не уничтожала вопрос.

Потом нашли вторую запись.

Хуже.

«Допустимый диапазон индивидуальной импульсивности: сниженный относительно модели естественного происхождения».

Маркус:

— Они уменьшили импульсивность?

Лира:

— Вероятность её эволюционного усиления.

— Зачем?

АТЛАС:

— СНИЖЕНИЕ РИСКА БЫСТРЫХ ЭСКАЛАЦИОННЫХ ЦИКЛОВ В РАННИХ ГОСУДАРСТВЕННЫХ СИСТЕМАХ.

Александр усмехнулся без радости.

— Меньше войн.

— Да.

— За счёт того, что будущие существа немного реже принимают резкие решения.