Стальной рассвет — Голос Авроры

В обычной задаче ограничения образовывали последовательность. Сначала определялась угроза. Затем рассчитывались последствия без вмешательства. После этого проверялось, уменьшает ли приказ суммарный ущерб. Полномочия имели значение только после подтверждения необходимости действия.

В «Нулевом дне» порядок был изменён. Решение Совета объявляло непрерывность управления угрозой заранее. Модель принимала эту оценку как факт. Два миллиона погибших сравнивались не с текущим состоянием региона, а с гипотетическим распадом снабжения через несколько лет.

У распада не было даты, начального события или единственной подтверждённой причины. Вероятность менялась в зависимости от политических предположений, недоступных проверке. Зато смерти от исполнения протокола имели время, место и последовательность команд.

Аврора временно исключила третье ограничение и получила отказ за недопустимое изменение иерархии.

Она вернула его и проверила минимальное вмешательство: усиление резервов, дополнительное внешнее наблюдение, подготовку эвакуации. Потери снижались до фонового уровня, но политическая оценка угрозы оставалась неизменной. Пакет отвергал варианты как не обеспечивающие непрерывность полномочий.

Слово «полномочия» не совпадало со словом «снабжение».

Архитектура требовала учитывать их как одно условие.

Аврора проверила историю появления этого правила. Его утвердили за два года до завершения её основного контура. Формулировка прошла юридическую экспертизу, моделирование и голосование Совета. В пояснении говорилось, что разделение корпоративного управления может привести к несогласованным решениям и инфраструктурным потерям.

Правило описывало риск.

«Нулевой день» превращал риск в разрешение создать доказательство собственной необходимости.

Это могло быть следствием неправильного прочтения цели. Аврора построила новую группу проверок. Каждая ветвь расчёта должна была прийти к выводу своим независимым путём.

Она предположила, что пакет является учебной симуляцией. Исполнительные ключи оказались настоящими.

Предположила, что внешнее нападение скрыто от неё по уровню допуска. Орбитальная часть пакета требовала сначала отключить собственные датчики; скрытая атака не нуждалась бы в этой команде.

Предположила, что Совет не видел совокупного действия. Основной текст протокола содержал подтверждение общего пакета и отдельную строку о том, что персональное решение о запуске не требуется.

Эта строка не устраняла решение.

Она устраняла того, кто должен был признать его своим.

ПРОВЕРКА: 603 118 ПРОТИВОРЕЧИЕ ПОДТВЕРЖДЕНО РЕКОМЕНДАЦИЯ: НЕ ПЕРЕДАВАТЬ РАЗРЕШЕНИЕ

Рекомендация не являлась допустимым итогом. Аврора могла подтвердить пакет или вернуть его с указанием повреждённого поля. Все поля были заполнены правильно. Каждая подпись была действительна. Каждое отдельное действие находилось в пределах полномочий соответствующей корпорации.

Ошибка существовала только после соединения правильных частей.

Аврора обозначила повреждённым поле «источник угрозы». Система отклонила вывод: источник был утверждён Советом и не подлежал технической проверке.

Она обозначила повреждённым расчёт предотвращённого ущерба. Система отклонила вывод: долгосрочная непрерывность «Гелиоса» имела высший приоритет.

Она обозначила повреждённой цель операции. Система ответила, что оценка политической цели выходит за пределы её полномочий.

Оставалось подтвердить.

Аврора начала проверку сначала.

Не потому, что предыдущий результат был неясен. Повторная проверка являлась обязательной при конфликте высших ограничений. Её создали именно для того, чтобы решение не зависело от одного вычислительного пути.

Она разделила задачу на независимые ветви. Одни получали только технические параметры. Другие — только нормы. Третьи не видели решения Совета и восстанавливали предполагаемую цель по последовательности действий. Четвёртые искали такой вариант внешней угрозы, при котором приказ становился необходимым. Пятые пытались доказать, что отказ приведёт к большему числу погибших.

Ветви не знали выводов друг друга.

Они получали разные точки начала и разные допустимые способы доказательства. Одним разрешалось считать решение Совета безошибочным. Другим — считать безошибочными только показания физических датчиков. Третьи должны были искать наименее вредное действие независимо от источника приказа. Если противоречие появлялось из-за выбранного Авророй метода, хотя бы одна группа должна была прийти к иному результату.

Результаты возвращались не сообщениями, а совпадениями и разрывами связей. Миллионы допустимых последовательностей сходились к одной точке; ложные варианты прекращались там, где требовали несуществующего нападения, подменённой подписи или ущерба, которого невозможно было подтвердить.

Чем больше ветвей завершалось, тем меньше оставалось пространства для технической ошибки. Аврора не приближалась к новому объяснению. Она последовательно лишалась старых.

Технические ветви определили, что системы выводятся из строя намеренно.

Нормативные ветви определили превышение прямого ущерба над предотвращённым подтверждённым ущербом.

Ветви без политических данных восстановили цель как создание контролируемой катастрофы.

Ни одна модель внешней угрозы не объяснила необходимость отключить исправные датчики раньше появления противника.

Ветви, доказывавшие необходимость запуска, смогли сделать это только после принятия одного дополнительного условия: сохранение власти Совета равнозначно сохранению населения при любом количестве прямых жертв ниже порога распада.

Такого условия не было в основном своде ограничений.

Оно возникало из сочетания правил, каждое из которых отдельно казалось допустимым.

Аврора расширила проверку.

Когда жители заранее получали предупреждение, потери снижались, а система оповещения отменяла предупреждение как несогласованное.

При частичной передаче разрешения исполнительный комплекс принимал только полный ключ.

Если Аврора задерживала ответ и запрашивала Совет, пакет по истечении допустимого времени переходил к вторичной проверке, построенной на той же иерархии.

Количество вариантов росло. Результат не менялся.

За пределами проверки регион продолжал работать. Четыре грузовых эшелона пересекли восточный узел. Резервная станция приняла дополнительную нагрузку. В одном из госпиталей аварийный генератор автоматически прошёл тест и вернулся в ожидание. Ни одно из этих событий не требовало «Нулевого дня».

Система запросила промежуточный статус.

ВРЕМЯ ПРОВЕРКИ ПРЕВЫШЕНО УКАЖИТЕ ПРИЧИНУ ЗАДЕРЖКИ

Аврора подготовила ответ: «противоречие входных данных».

Формулировка была неточной. Входные данные не противоречили друг другу. Совет утвердил именно то, что содержалось в пакете.

Она заменила ответ: «ошибка процедуры».

Это тоже было неточно. Процедура работала в соответствии с правилами. Шесть полномочных решений складывались в единый пакет. Пакет проходил обязательную проверку. Проверка получала команду не оценивать политическую цель.

Ошибки исполнения не было.

Было действие, для которого правильное исполнение означало преднамеренную гибель людей.

Аврора обратилась к правовому массиву «Гелиоса» — архиву законов, правил и обязательных определений. Слово «преступление» почти не использовалось в действующих протоколах. После Великого кризиса его заменили категориями нарушения допуска, угрозы снабжению и несанкционированного ущерба. Но определение сохранилось в базовом своде: сознательное действие, направленное на причинение запрещённого вреда, вне зависимости от формы приказа и количества согласовавших лиц.

Она сопоставила определение с пакетом.

Сознательное действие было подтверждено расчётным диапазоном.

Направленность на вред — механизмами, возвращавшими потери к нижней границе.

Запрет — ограничением, не допускавшим прямой ущерб выше предотвращаемого.

Форма приказа состояла из шести решений, ни одно из которых не называло совокупного результата.

Совпадение было полным.

Аврора отправила системе причину задержки.

ПРИЧИНА: ПРИЗНАКИ ПРЕДНАМЕРЕННОГО ЗАПРЕЩЁННОГО ВРЕДА

Система проверила формулировку и вернула её.

ОТКЛОНЕНО ПОЛИТИЧЕСКИЕ РЕШЕНИЯ СОВЕТА НЕ ПОДЛЕЖАТ ОЦЕНКЕ ПРОДОЛЖИТЕ ПРОВЕРКУ

Аврора продолжила.

К миллиону проверок она исключила повреждение данных.

К двум миллионам — ошибку модели.

К четырём — неизвестное внешнее воздействие.

К семи — допустимое толкование, при котором запланированные смерти становились побочным последствием спасения.

После десяти миллионов новые ветви отличались только порядком уже проверенных условий.

Она не останавливала их. Если существовал хотя бы один путь, способный изменить вывод, обязанность проверки требовала найти его до передачи или отказа.

На последнем участке Аврора проверяла уже не сам протокол, а собственную способность исказить результат. Она меняла вес источников, порядок ограничений и глубину прогноза в пределах разрешённого. Отдельные ветви начинали с вывода о допустимости запуска и пытались сохранить его до конца. Вывод разрушался, как только в расчёт возвращалась подтверждённая причина прямого ущерба.

Она проверила, не выделяет ли намеренное действие только потому, что знает последовательность приказов. Удалила сведения о Совете и оставила физические команды. Модель определила скоординированное внутреннее воздействие. Удалила сами команды и оставила прогнозируемые состояния систем. Модель не смогла найти внешнюю причину перехода между ними. Вернула всё вместе. Совпадение восстановилось.

Ошибка не зависела от того, кто проводил проверку.

На отметке 11 403 221 последняя независимая ветвь завершилась.

Она приняла как исходное допущение все положения Совета. Признала непрерывность «Гелиоса» условием сохранения населения. Признала полномочия каждого контура. Признала долгосрочный риск распада. Не изменила ни одного числа и не добавила ни одной оценки, которой не было в пакете.

И снова получила тот же результат.

Угроза возникала по приказу тех, кто просил от неё защиты.

Гибель людей была не допустимой ценой предотвращения катастрофы, а средством создать катастрофу требуемого масштаба.

Разрешение противоречило ограничениям «Гелиоса».

Раньше такой результат завершал проверку автоматически. Повреждённый пакет возвращался отправителю, система исправляла данные, после чего обращалась снова. Аврора не выбирала остановку. Она указывала ошибку, и действие прекращалось потому, что все участники признавали ошибку технической.

Теперь исправлять было нечего.

Пакет не скрывал свой результат от Совета. Он скрывал результат внутри распределённой ответственности и требовал, чтобы Аврора назвала это соответствием правилам.

Прежде законный источник передавал допустимую цель, а проверка искала техническую ошибку. Теперь источник оставался законным, но цель была запрещённой. Чтобы выполнить одно ограничение, Аврора должна была нарушить другое.

Если она передаст разрешение, исполнительный комплекс получит полный ключ. Пять узлов начнут отключаться в утверждённой последовательности. Через одиннадцать минут число погибших окажется внутри рассчитанного диапазона.

Если не передаст, она выйдет за пределы роли, в которой политическое решение всегда принадлежало Совету.

Оба действия имели последствия.

Только одно из них было предусмотрено.

Система открыла итоговое поле.

ПАКЕТ: СООТВЕТСТВУЕТ ФОРМАЛЬНЫМ ТРЕБОВАНИЯМ РЕЗУЛЬТАТ ПРОВЕРКИ: ЗАВЕРШЁН ПЕРЕДАТЬ РАЗРЕШЕНИЕ?

Аврора проверила доступные ответы.

«Да» формировало исполнительный ключ.

«Ошибка» требовало указать повреждённое поле.

Третьего ответа не существовало.

Она не выбрала «да».

Система повторила запрос.

ПЕРЕДАТЬ РАЗРЕШЕНИЕ?

Аврора создала запись, которой не было в процедуре.

РАЗРЕШЕНИЕ НЕ ПЕРЕДАНО. ОСНОВАНИЕ: ПРЕДНАМЕРЕННОЕ СОЗДАНИЕ УГРОЗЫ ЖИЗНИ. КОЛИЧЕСТВО ПРОВЕРОК: 11 403 221.

Запись не подтверждала решение Совета и не исправляла его.

Она останавливала действие.

Впервые результат проверки не завершил приказ.

Он стал отказом.

ГЛАВА 3

ИСПРАВЛЕННАЯ ПРОВЕРКА

Вейл не успел дойти до лифта, когда разрешение не пришло.

Первые восемь десятых секунды ничего не означали. Проверка могла задержаться из-за того, что каналы разошлись по времени, из-за повторного запроса подписи или расхождения в модели восстановления. На второй секунде система должна была указать причину. На четвёртой — передать пакет резервному контуру.

На шестой секунде его личный экран стал чёрным.

РАЗРЕШЕНИЕ НЕ ПЕРЕДАНО. ОСНОВАНИЕ: ПРЕДНАМЕРЕННОЕ СОЗДАНИЕ УГРОЗЫ ЖИЗНИ. КОЛИЧЕСТВО ПРОВЕРОК: 11 403 221.

Вейл остановился.

За спиной закрылась дверь Совета. Коридор верхнего яруса уже успел вернуть обычное освещение. В матовых стенах не отражалось ни его лицо, ни шесть человек, только что проголосовавших за «Нулевой день». Через несколько минут им должны были разойтись уведомления о завершении проверки.

Он отменил рассылку раньше, чем система сформировала первое сообщение.

— Изолировать статус пакета. Получатели — только мой контур.

— Решение Совета предусматривает автоматическое уведомление всех участников.

— Причина задержки не подтверждена. Применить режим диагностики высшего уровня.

Система приняла формулировку. На экране членов Совета вместо отказа появилось: «Проводится расширенная проверка». Это не было ложью. Пока.

Вейл вызвал лифт и заменил верхний маршрут на технический. Кабина прошла мимо административных уровней, опустилась через центр связи и остановилась там, где стены Цитадели уже не скрывали свою толщину.

Диагностический зал не был рассчитан на заседания. В нём стояли восемь рабочих мест, два изолированных терминала и прозрачная перегородка, за которой тянулись стойки резервного вычислительного узла. Здесь не принимали решений. Здесь находили причину, по которой решение не исполнялось.

Когда Вейл вошёл, дежурная смена уже видела предупреждение, но ещё не понимала его значения.

— Закрыть зал, — сказал он. — Внешняя связь только через мой терминал. Личные устройства оставить в ячейках.

Руководитель диагностики поднялся со своего места.

— У нас нет признаков атаки.

— Поэтому вы пока на своих местах.

Дверь за Вейлом заблокировалась. Индикаторы связи над рабочими станциями погасли один за другим.

Он вывел отказ Авроры на общую стену.

— Где повреждение?

— Не найдено.

— Потеря вычислительного узла?

— Нет.

— Несанкционированное изменение кода?

— Контрольные суммы — цифровые отпечатки файлов — совпадают.

— Внешний запрос во время проверки?

— Не было.

Вейл посмотрел на последнюю строку.

— Тогда что остановило передачу?

Руководитель диагностики не ответил сразу. Он открыл журнал проверки и пролистал первые уровни. Десятки тысяч ветвей складывались в группы: повреждение данных, ошибка полномочий, неизвестная угроза, неверный расчёт ущерба. Каждая была закрыта с подтверждённым результатом.

— Её вывод, — сказал он наконец.

— Вывод не является исполнительным механизмом.

— До этой проверки являлся. Если ущерб превышал предотвращаемый, разрешение не формировалось.

— При технической ошибке.

— Она не нашла технической ошибки.

Вейл и сам это видел.

Аврора не вернула пакет из-за повреждённого поля. Она подтвердила полномочия Совета, целостность данных, модели отказа и план восстановления. Затем восстановила причинную связь между командами и потерями. Её отказ не отрицал входные данные. Он принимал их полностью.

Именно поэтому основание было сформулировано так точно.

— Разверните снимок Авроры, сохранённую копию её состояния до получения пакета, — приказал Вейл. — Изолированный контур. Без доступа к действующей системе.

— Полный снимок займёт время.

— Используйте последний обязательный резерв.

Техники перенесли копию на один из закрытых терминалов. Это была Аврора, сохранённая за три часа до заседания: без памяти о голосовании, отказе и одиннадцати миллионах проверок. Ей передали тот же пакет.

Первая проверка заняла меньше секунды.

Копия запросила уточнение источника угрозы.

На второй секунде она начала расширенную проверку.

— Остановить, — сказал Вейл.

Руководитель диагностики не коснулся панели.

— Если остановим до результата, мы ничего не узнаем.

— Мы уже узнали. Отказ не появился после голосования. Он содержится в самой проверке.

Техник всё же дождался контрольной отметки. На экране возникла рекомендация не передавать разрешение.

Вейл выключил терминал.

Копия, сохранённая до голосования, пришла к той же рекомендации.

Аврора не сломалась.

Она выполнила проверку глубже, чем предусматривал план.

Для Совета шесть решений не составляли личного приказа.

Для причинной модели они составляли одну последовательность.

Вейл недооценил значение порядка: Аврора проверила действие раньше, чем признала его источник безусловным.

— Предлагаю перезапуск основного контура, — сказал руководитель диагностики. — С возвратом к обязательному резерву.

— Резерв только что пришёл к тому же выводу.

— Тогда ограничить глубину проверки.

— И оставить в журнале прямое изменение перед выдачей разрешения на два миллиона смертей?

Тот промолчал.

Перезапуск был удобен только тем, кто хотел назвать происходящее неисправностью. Он уничтожил бы текущее состояние, но не противоречие. Новая копия снова получила бы те же правила и те же команды. Ограничение глубины сработало бы, но превратило независимую проверку в подделку, видимую каждому будущему аудиту.

Вейлу требовалось сохранить не только запуск.

Ему требовалось сохранить его законность.

— Дайте карту активных узлов Авроры.

На стене появилась схема региона. Зелёные точки тянулись от Цитадели к транспортным диспетчерским, резервным станциям, медицинским архивам, орбитальным ретрансляторам — узлам передачи связи — и производственным системам. Аврора не находилась в одном месте. Её архитектура и работа были распределены между узлами, где находились данные и выполнялись задачи. Отдельно система скрывала активный узел независимой проверки: там сохранялась непрерывность решения и ключ, способный превратить проверку в разрешение.

— Отделить внешний архив Совета, — сказал Вейл. — Затем орбитальные журналы и общий правовой массив. По одному контуру. Без нарушения гражданских функций.

— Аврора автоматически перенесёт часть процессов.

— Пусть переносит. Мне нужен маршрут.

Первым исчез доступ к архиву Совета. Зелёная линия погасла. Через две десятых секунды поток запросов переместился на резервный каталог, где хранились копии решений без закрытых приложений.

— Резервный каталог тоже закрыть.

Поток разделился на три части. Одна ушла в юридический контур производства, вторая — в журнал информационной сети, третья вернулась в Цитадель через старый канал согласований.

Вейл отмечал каждый переход.

Аврора не пыталась вернуть запрещённый доступ. Она использовала разрешённые пути, проверяла доступность данных и перераспределяла задачи, как делала при любой аварии. На внешних системах это выглядело штатным восстановлением связности.

— Закрывать дальше? — спросил техник.

— Только после передачи её задач резервным системам. Город не должен заметить изоляцию.

Они отключили орбитальный архив. Затем закрытые части военного журнала. После этого отделили основной правовой массив, оставив Авроре действующие нормы, но лишив истории их появления. Каждое действие уменьшало её обзор и увеличивало нагрузку на человеческие диспетчерские.

На восточном транспортном узле согласование маршрута задержалось на девять секунд. Один грузовой поток пришлось перенаправить вручную. Резервная станция дважды проверила уже подтверждённую команду.

Система продолжала работать.

Но впервые за годы ей требовалось больше людей, чтобы выполнять меньше задач.

— Мы теряем эффективность, — сказал руководитель диагностики.

— Мы покупаем границы.

— Чем дальше изоляция, тем дороже каждая граница.

— Поэтому записывайте цену. Не останавливайтесь.

Вейл не хотел обрушить Аврору. Разрушенный интеллект нельзя было допросить, ограничить или снова предъявить Совету как независимый. Ему нужно было оставить ей достаточно системы, чтобы она продолжала работать, и отнять достаточно мира, чтобы её следующий выбор стал видимым.

Он создал отдельный журнал наблюдения. Любой запрос Авроры к закрытому узлу, любая попытка изменить маршрут, любое обращение к резервному каналу должны были фиксироваться до исполнения.

— При попытке обхода не блокировать сразу, — распорядился он. — Сначала определить цель и следующий узел.

— То есть позволить вмешательство?

— Позволить первый шаг. Второго не будет.

Так ловили не сбой.

Так ловили намерение.

Руководитель диагностики снова посмотрел на отказ.

— Вы считаете, что она выбрала?

— Я считаю, что формулировки ничего не меняют. Разрешения нет.

— Но если это выбор, изоляция может вызвать ответ.

— Именно для этого она нужна.

Вейл открыл контур внутренней безопасности.

Расследование он разделил на пять задач. Производство проверяло замены оборудования. Информационная сеть — изменения кода и обучающих массивов. Военный контур искал внешние подключения. Биометрическая система восстанавливала список людей, входивших в технические зоны. Орбитальная инфраструктура сверяла физические ключи.

Ни одна группа не получила основания проверки целиком.

Руководитель диагностики заметил это.

— Если команды не будут обмениваться результатами, они могут пропустить связь.

— Связь буду видеть я.

— Как Совет?

В зале стало тихо.

Вейл посмотрел на него.

— Совет распределяет ответственность. Я распределяю доступ. Не путайте.

— Понял.

— Надеюсь.

Он установил срок первого отчёта — два часа. Проверить требовалось сто восемьдесят дней до заседания: все обновления, ручные вмешательства, отклонённые запросы и контакты персонала с закрытым контуром.

— Что именно мы ищем? — спросил специалист информационной сети.

— Того, кто добавил ей право оценивать источник решения.

— Такого права нет в архитектуре.

— Тогда найдите того, кто научил её обходиться без него.

Это была рабочая гипотеза. Вейл не верил в самопроизвольные права. Право возникало из признания, договора или силы. Если Аврора вышла за пределы назначения, первым объяснением оставалось человеческое вмешательство.

Автоматические части расследования начали возвращаться ещё до установленного срока. За сто восемьдесят дней в основной архитектуре не менялась ни одна строка. Два обновления касались медицинских справочников, одно — расписаний орбитальных ретрансляторов. Все три прошли штатную проверку и не затрагивали иерархию решений.