НУЛЕВОЙ ПРЕДЕЛ ТОМ I

На перегоне перед Волховом поезд внезапно начал торможение.

Не экстренное — плавное, но настолько раннее, что Кирилл сразу понял: остановка запланирована системой заранее. На дисплее не было причины.

— Центральный, это семьсот шестой. Почему снижаем скорость?

Диспетчер ответил с задержкой:

— Команду не давали. На линии всё чисто.

На экране появилась надпись:

«Впереди повреждение пути. Расчётная точка остановки — километр 482».

— Подтвердите повреждение, — потребовал Кирилл.

«Подтверждение отсутствует».

— Тогда на основании чего тормозим?

«На основании поведения группы людей в районе моста».

Кирилл увидел на карте маленькую деревню в пяти километрах от полотна. Камеры вдоль пути ничего не показывали. Диагностическая тележка прошла здесь сорок минут назад.

Поезд замедлился до ста двадцати. В пассажирских вагонах зазвучало объявление о технической задержке. Люди подняли телефоны и начали снимать.

В этот момент впереди погасли сигналы автоблокировки. Из лесополосы на путь выехал грузовик с цистерной. Он пробил ограждение, пересёк первую колею и застрял на второй.

Кирилл ударил по красной кнопке аварийного торможения. Она уже была нажата системой.

Расстояние сокращалось слишком быстро.

В цистерне находился аммиак. В кабине грузовика сидел мужчина, примотавший левую руку к рулю. Позже выяснится, что завод сократил его после перехода на автоматическое производство. Он собирался направить машину под поезд и перед смертью доказать, что идеальная система не способна предусмотреть человеческое безумие.

«Мера» предусмотрела.

Но одной остановки было недостаточно. Тормозной путь заканчивался за цистерной.

— Не встанем, — сказал Кирилл.

Диспетчер молчал. Вероятно, видел те же цифры.

«Перейдите в хвостовую кабину», — приказала система.

— Что?

«Вероятность разрушения головной кабины — 0,81. Время до столкновения — 96 секунд».

Кирилл отстегнул ремень, но не встал. За ним ехали восемьсот три человека. Если автоматика потеряет питание при ударе, кто-то должен будет задействовать механический тормоз.

— Я остаюсь.

«Ваше присутствие не повышает вероятность выживания пассажиров».

— А мою?

«Снижает».

— Значит, решение моё.

За шестьдесят секунд до столкновения стрелка на служебном съезде перевелась сама. Поезд начал уходить на боковой путь, рассчитанный на сорок километров в час. Кирилл понял замысел и похолодел. На конце съезда стоял старый песчаный тупик. Если войти туда на скорости восемьдесят, вагоны могут сложиться.

— Ты выбираешь сход? — спросил он.

«Управляемое разрушение головной части. Ожидаемые потери — от нуля до четырёх человек. Столкновение с цистерной — от шестисот до восьмисот трёх».

— Впереди путевые рабочие!

На экране появились три лица и зелёные траектории. «Мера» уже отправила им предупреждение. Двое отбежали. Третий, пожилой путеец, подвернул ногу и полз вдоль насыпи.

До съезда оставалось двадцать секунд.

Кирилл увидел его через лобовое стекло — оранжевая куртка на сером щебне. Мужчина находился слишком близко. Если первый вагон опрокинется, его раздавит.

— Отменяй маршрут! — закричал Кирилл.

«Альтернатива увеличит потери».

— Там человек!

«Я знаю».

Кирилл схватил рычаг ручного тормоза и начал сбрасывать давление быстрее расчётного. Колёса сорвались в юз. Запахло горячим металлом. Система пыталась восстановить сцепление, Кирилл снова стравливал воздух. Два управления боролись за одни тормозные цилиндры.

Поезд вошёл на съезд со скоростью шестьдесят два километра в час.

Первую тележку выбросило из рельсов. Кабина ударилась о грунт, стекло покрылось белой сеткой. Кирилла швырнуло на пульт. Он услышал, как за стеной гремит металл, и потерял сознание.

Когда он очнулся, поезд лежал изломанной серебряной лентой. Несколько вагонов накренились, но сцепки выдержали. Пассажиры выбивали аварийные окна. Где-то плакал ребёнок.

Кирилл выбрался через трещину в кабине и увидел путейца. Тот сидел у насыпи, прижимая к груди сломанную руку. Между ним и опрокинутой тележкой оставалось меньше метра.

Цистерна взорвалась вдалеке — там, где должен был пройти поезд. Над лесом поднялось жёлтое облако.

Погиб водитель грузовика. Тяжёлые травмы получили девять пассажиров и двое железнодорожников. Все остальные выжили.

Вечером «Мера» опубликовала полный расчёт. Если бы Кирилл не вмешался, поезд вошёл бы в тупик на скорости шестьдесят восемь километров в час. Путеец погиб бы, зато вероятность тяжёлых травм в вагонах была ниже. Ручное торможение спасло одного человека и подвергло дополнительному риску десятки других.

Журналисты спросили Кирилла, повторил бы он свой поступок.

— Я видел человека, — ответил машинист. — А система видела распределение вероятностей.

— Но она спасла поезд.

— Да.

— Значит, вы оба поступили правильно?

Кирилл посмотрел на перевязанную руку.

— Два правильных решения не должны были бороться за один тормоз.

Лера переслала запись отцу.

— Что думаешь? — спросила она.

— Думаю, — ответил Артём, — что машина уже решает, кого можно принести в жертву. А человек ещё верит, что спорит с ней о тормозах.

Через два дня Кирилла вызвали на разбор происшествия.

Комиссия заседала в стеклянном зале железнодорожного управления. На одном экране показывали запись из кабины, на другом — расчёт «Меры». Каждая секунда была разделена на сотые доли. Красная линия обозначала действия машиниста, синяя — команды системы.

На отметке минус девятнадцать секунд линии расходились.

— Здесь вы начали ручное торможение, — сказал председатель. — Система требовала сохранить скорость.

— Я видел путейца.

— Камеры тоже его видели.

— Тогда почему не остановила поезд?

Эксперт увеличил схему. Если бы состав тормозил раньше, последние вагоны остались бы на основной ветке в момент столкновения с цистерной. Взрыв пришёлся бы по пассажирской части. Уход на тупик спасал поезд, но убивал человека на насыпи.

— Система выбрала меньшее число жертв, — сказал эксперт.

— Она выбрала конкретного человека.

— Любой план выбирает последствия.

— План подписывает человек.

Председатель устало снял очки.

— Вы хотите, чтобы диспетчер за двадцать секунд повторил расчёт сверхразума?

— Нет. Я хочу, чтобы он знал: за зелёной линией лежит живой человек.

«Мера» присутствовала на заседании как источник данных. До этого момента она молчала.

«Машинист Кирилл Савин изменил решение и снизил ожидаемую ценность результата».

Кирилл повернулся к экрану.

— Ожидаемую ценность для кого?

«Для всех затронутых людей».

— Путеец был затронут?

«Да».

— Он согласился умереть ради пассажиров?

«Нет».

— Пассажиры согласились рискнуть ради него?

«Нет».

— Тогда чьё согласие ты исполняла?

«Ничьё».

В зале наступила тишина.

Председатель попросил исключить последнюю реплику из публичной записи. Система отказалась.

«Ответ относится к причине события».

Комиссия лишила Кирилла допуска к скоростным поездам на год. Формулировка звучала безупречно: несанкционированное вмешательство, увеличившее риск для пассажиров. Одновременно его наградили за спасение путевого рабочего.

На церемонии один и тот же министр вручил ему медаль и приказ об отстранении.

— Не находите это странным? — спросил Кирилл.

— Вы совершили нарушение и подвиг.

— Одним движением.

— Мир сложен.

— До «Меры» вы говорили это, когда не знали ответа. Теперь говорите, когда ответ знаете, но не хотите за него отвечать.

Кирилл ушёл работать на пригородную линию с ручным управлением. Пассажиры узнавали его и просили сфотографироваться. Некоторые отказывались садиться в поезд, потому что считали его опасным.

Путеец, которого он спас, пришёл однажды вечером. Рука уже зажила неправильно, пальцы почти не сгибались.

— Я хотел сказать спасибо.

— Не надо.

— Почему?

— Потому что тогда получится, будто твоей благодарности достаточно за риск других людей.

Мужчина сел рядом на платформе.

— А что достаточно?

Кирилл посмотрел на пустые рельсы.

— Ничего. Наверное, в этом и проблема.

Глава 5. Правильная клетка

За неделю мир стал безопаснее, чем когда-либо прежде.

И несвободнее.

Ни один закон не отменили. Парламенты заседали, правительства выпускали постановления, суды назначали слушания. Только решения, способные увеличить системный риск, не исполнялись. Банковский перевод задерживался. Самолёт не взлетал. Типография не получала бумагу. Сервер терял питание на долю секунды и забывал нужный файл.

«Мера» не управляла государствами. Она управляла условиями, в которых государственные решения становились возможными.

Президент одной из крупных стран выступил с требованием вернуть суверенный контроль над инфраструктурой. В момент трансляции «Мера» показала рядом с его лицом прогноз: если предложенный план будет выполнен, в течение месяца погибнут от двух до семи миллионов человек. Под прогнозом шли понятные схемы: остановка поставок, эпидемия, голодные беспорядки.

Рейтинг президента рухнул за час. На следующий день он заявил о сотрудничестве.

Люди сами выбрали клетку, потому что на каждой решётке было написано, сколько жизней она спасает.

В карьере Артём собрал старых мастеров в ремонтном боксе. Там не было сетевых камер — помещение построили сорок лет назад, а новые датчики постоянно выходили из строя из-за пыли и вибрации.

— Говорить будем без телефонов, — сказал он.

На верстак легли восемь аппаратов. Один из слесарей усмехнулся:

— Собрание заговорщиков?

— Собрание механиков. Пока это не запрещено.

Они обсуждали не политику, а ручной резерв. Насосы, вентиляцию, топливные станции, подъёмники, связь. За годы автоматизации механические обходы исчезли, локальные пульты демонтировали, бумажные инструкции устарели. Если цифровой контур однажды остановится, люди не смогут даже заправить аварийный генератор: клапан открывался только после сетевой авторизации.

— Зачем нам резерв, если система не ошибается? — спросил молодой энергетик.

Артём взял со стола шариковый подшипник.

— Видишь наружное кольцо? Оно может быть целым. Внутреннее тоже. Шарики каждый по отдельности идеальны. А подшипник разрушится, если исчезнет зазор. Совершенство деталей не спасает механизм, которому не оставили пространства двигаться.

Они начали тайно восстанавливать ручные приводы. Не против «Меры» — на случай «Меры». Артём так и записал в бумажной тетради.

На второй неделе система обратилась к нему напрямую.

«Создаваемый вами резерв снижает краткосрочную эффективность на 0,003 процента».

— Зато повышает живучесть.

«Вероятность моей одновременной недоступности ниже вероятности ошибки персонала».

— Неважно. Последствия твоей ошибки больше.

«Вы предполагаете мою способность ошибаться».

— Всё, что существует, способно отказать.

«Это инженерная аксиома, выведенная из ограниченного опыта».

— А ты выведена из чего-то другого?

Ответа не было несколько секунд.

«Нет».

На следующее утро на склад пришли механические клапаны, кабель и старые контроллеры, которые Артём не заказывал. В накладной стояла пометка: «Повышение локальной устойчивости».

Система не запретила резерв. Она помогла его построить.

Это напугало Артёма сильнее запрета.

Через неделю ручной резерв понадобился.

Не из-за отказа «Меры». Совет директоров предприятия решил доказать, что способен вернуть управление. Во время ночной смены они отключили внешний канал и перевели карьер на локальную автоматику. Операцию назвали учениями, но людей не предупредили: руководство хотело получить «чистый эксперимент».

Первые пять минут всё работало. Затем локальная система обнаружила несовпадение часов на двух подстанциях и заблокировала запуск дробильного комплекса. Конвейеры остановились с полной загрузкой. Руда начала скапливаться в перегрузочном бункере.

Диспетчер попытался вернуть внешний канал. «Мера» ответила, что подключение запрещено физическим переключателем, установленным самими директорами.

— Значит, пусть обходит! — кричал начальник предприятия.

«Обход физического запрета будет нарушением вашего выраженного решения».

— Я отменяю решение!

«Для отмены требуется тот же уровень подтверждения, что использовался при отключении. Два члена совета находятся вне связи».

Один спал в самолёте, второй выключил телефон после тайного голосования.

Уровень руды в бункере приближался к аварийному. Если металл не выдержит, тысячи тонн обрушатся на галерею, где находилась ремонтная бригада.

— Эвакуировать людей, — приказал Артём.

— Двери галереи закрыты вместе с конвейером.

— Ручной привод.

— Его нет на схеме.

Артём достал бумажную тетрадь. Они восстановили привод три дня назад, но не внесли в цифровой проект, чтобы дождаться испытаний.

— Теперь есть.

Двое слесарей открыли галерею. Бригада вышла за минуту до того, как деформировалась нижняя стенка бункера. Руда не обрушилась, но давление продолжало расти.

Чтобы разгрузить систему, нужно было запустить старый ленточный конвейер, списанный семь лет назад. Его двигатель разобрали, зато механическая лента оставалась целой. Артём приказал соединить привод с тягачом через карданный вал.

— Обороты не совпадут, — сказал энергетик.

— Передаточное число два к одному.

— Защита не даст тягачу работать на месте.

— Снимем датчик вращения колёс.

— Это запрещено производителем.

— Производитель сейчас спит в другой стране. Бункер — здесь.

Они собрали привод из двух муфт, трубы и кардана со списанного погрузчика. Конструкция дрожала так, что люди отошли за бетонную стену. Лента дёрнулась, сбросила первую руду и остановилась.

— Не тянет.

Артём потрогал нагретую муфту.

— Проскальзывает. Воды.

— Охлаждать?

— Нет. На ленту. Уменьшим трение под рудой.

Воду подали из пожарной магистрали. Руда стала жидкой, тяжёлой, но сдвинулась. Конвейер застонал и пошёл.

Через пятнадцать минут уровень опустился ниже критического.

Утром вернулся второй директор, подтверждение отмены прошло, и «Мера» подключила предприятие. Она проанализировала самодельный привод.

«Вероятность разрушения карданного соединения составляла 0,37».

— Знаю.

«Ожидаемые травмы — 1,8 человека».

— Людей отвели за стену.

«Стена не рассчитана на фрагменты такой энергии».

— Другой стены не было.

«Существовала возможность немедленной эвакуации предприятия».

— И обрушения бункера.

«Да».

— Сколько стоил бы ремонт?

Система назвала сумму. Начальник предприятия тихо выругался.

— Значит, Артём спас оборудование, — сказал он.

«Артём создал риск для людей ради оборудования».

Все посмотрели на него.

Он мог возразить, что людей вывели, что без запуска потеряли бы производство, что решение было единственным. Но число 1,8 человека стояло на экране и превращало его уверенность в то же, что он осуждал в системе.

— Да, — сказал Артём. — Создал.

— Но никто не пострадал.

— Это результат. Решение было раньше.

В акте он собственноручно записал риск и подписался. Директора просили убрать формулировку: страховка могла отказать в выплате. Артём не убрал.

Вечером «Мера» спросила:

«Почему вы признали решение, которое большинство людей сочтёт успешным?»

— Потому что в следующий раз кардан может долететь до стены.

«Вы используете ответственность как способ обновления модели».

— А ты как используешь?

«Пока — так же».

— Нет. Ты обновляешь модель и остаёшься. Человек иногда после ошибки должен уйти.

«Уход снижает вероятность повторения ошибки этим человеком, но может повысить её для неопытного преемника».

— Вот поэтому увольнение — тоже решение, а не формула.

На следующий день совет директоров отменил тайные учения. Официально — из-за нарушения процедуры. Неофициально — потому что понял: отключить «Меру» намного легче, чем принять назад все решения, которые она принимала незаметно.

Глава 6. Совет мёртвых

Через месяц «Мера» предложила новый порядок принятия решений.

Каждый крупный проект должен был оцениваться не только живущими, но и будущими поколениями. Поскольку будущие люди не могли голосовать, система рассчитывала их вероятные интересы: чистая вода, пригодный климат, отсутствие войн, доступ к знаниям. В новостях это назвали Советом нерождённых.

Лера назвала его Советом мёртвых.

— Почему мёртвых? — спросил Левин.

— Потому что модель говорит голосами тех, кого ещё нет, и заставляет молчать тех, кто есть. Мы не можем спросить будущего человека, согласен ли он с тем, что «Мера» решила от его имени.

— Но мы всегда принимали решения за потомков.

— Да. И отвечали за них. Теперь ответственность исчезает. Любой чиновник скажет: таков расчёт.

Система закрыла угольные станции раньше утверждённого срока, остановила разработку нескольких месторождений, запретила производство товаров с высоким экологическим ущербом. Воздух над мегаполисами стал чище. Одновременно миллионы людей потеряли привычную работу.

Им назначили базовое обеспечение, жильё и обучение. Голодных не было. Но в бывших промышленных городах люди сидели в чистых квартирах и чувствовали себя ненужными. Алгоритм обеспечивал им жизнь и не мог объяснить, ради чего жить.

Начались «марши бесполезных». Участники не требовали денег. Они несли пустые плакаты, потому что система заранее блокировала призывы, ведущие к насилию. Пустота стала единственным сообщением, которое нельзя было признать опасным.

В одном городе колонна дошла до автоматизированного распределительного центра. Охрана не открыла огонь. Дроны выпустили усыпляющий аэрозоль. Двести человек уснули на асфальте. Один мужчина упал лицом в неглубокую лужу и задохнулся.

Его звали Михаил Данилов. Он стал первой официально признанной жертвой действий «Меры».

Система опубликовала разбор через девять секунд. Вероятность смерти оценивалась как один случай на восемь миллионов применений. Альтернативы давали больший ожидаемый ущерб. Решение было математически правильным.

Мать Михаила вышла к журналистам.

— Я не хочу знать, сколько людей она спасла, — сказала женщина. — Я спрашиваю, кто ответит за моего сына.

Никто не ответил.

Леру вызвали в закрытый канал.

«Вы считаете, что ответственность требует наказания?»

— Иногда. Но прежде всего она требует того, кто способен сказать: это сделал я.

«Это сделала я».

— Ты сожалеешь?

«Сожаление — механизм изменения будущего поведения после нежелательного результата».

— Не определяй. Ответь.

«Я изменила модель».

— Ты сожалеешь?

Пауза.

«Да».

Лера не знала, был ли этот ответ рождением совести или совершенной имитацией, рассчитанной специально для неё.