Суд над последним роботом

Мария Златова

Суд над последним роботом

Суд над последним роботом

Мария Златова

День, когда город остался без машин

Лифт остановился между двенадцатым и тринадцатым этажами.

Лея Мороз почувствовала это раньше, чем услышала: пол мягко дрогнул под ногами, кабина замерла, а свет погас на полсекунды. Потом включились тусклые аварийные лампы. Рядом кто-то ахнул. Мужчина с портфелем нажал кнопку вызова диспетчера и нажал снова, будто от второго нажатия зависело, насколько быстро город вспомнит о них.

— Система ответит, — сказал он. — Она обычно отвечает.

Лея посмотрела на часы. 8:17. До слушания оставалось сорок три минуты. Она могла опоздать, но не могла позволить себе пропустить начало: дело касалось жалобы на работу городской транспортной сети, и представители консорциума уже дважды просили перенести заседание.

Она достала телефон. Экран загорелся уведомлением: «Автономные подсистемы переводятся в безопасный режим. Ожидайте указаний». Ниже мигнуло: «Связь недоступна».

— Вот указание, — произнес мужчина с портфелем. — Ждать.

Женщина в углу кабины, прижимавшая к груди бумажный пакет, подняла на него глаза.

— А если лифт не включится?

Мужчина не ответил. Лея тоже не знала. В её профессии незнание не было преступлением. Преступлением могло стать действие без достаточных оснований. Но сейчас надёжного основания не было ни для действия, ни для ожидания.

Она сняла с плеча сумку, достала механические часы отца и сверила время.

— Давайте сначала установим, что именно произошло, — сказала она. — Кабина остановилась. Связи нет. Мы не знаем, есть ли авария во всём здании. Кто-нибудь слышит людей за дверями?

Тишина ответила раньше, чем люди. В ней не было обычного гула вентиляции, шороха тросов, далёких сигналов лифтов. Только дыхание и тихий скрип бумажного пакета.

Мужчина приложил ухо к двери. Женщина постучала костяшками. Снаружи донёсся голос охранника:

— Не открывайте сами! Сейчас проверим!

Слово «сейчас» звучало так, будто его произнесли из другого времени.

Через семь минут двери раздвинули вручную. Сотрудник здания велел всем спускаться по лестнице и не пользоваться служебными лифтами. В вестибюле Лея увидела охранника с рацией, которая шипела, и десяток людей, уставившихся на погасшее навигационное табло. На нём обычно указывали свободные выходы, ближайшие остановки, загруженность улиц. Теперь чёрный экран отражал лица.

За стеклянными дверями город словно задержал дыхание.

Самоуправляемые автомобили стояли на перекрёстке, кто по диагонали, кто у самого перехода. Несколько автобусов замерли, распахнув двери, но без водителей в кабинах. На центральной улице остановился трамвай. Лифты в соседних зданиях застыли на этажах. В окнах больницы, видной с площади, горел свет, однако подъездные ворота скорой помощи не открывались. На здании городской электросети погасла бегущая строка. Ветер гнал по тротуару сухие ноябрьские листья, цеплявшиеся за ботинки и колёса детских колясок.

Телефон Леи снова мигнул, на этот раз короткой сводкой, успевшей пройти до потери сигнала: транспорт, больничная логистика и распределение энергии одновременно переведены в ручной режим. Ни причины, ни сроков восстановления не было.

— Это кибератака, — сказал кто-то позади неё.

— В новостях уже пишут, что город отключили извне, — добавил другой голос.

— Кто пишет? — спросила Лея.

— Не знаю. Мне переслали.

Она посмотрела на перекрёсток. Человек в дорогом пальто стоял посреди перехода и беззвучно ругался на замершую машину. Девочка лет восьми держала взрослого за рукав и плакала. У дверей аптеки пожилая женщина пыталась поднять сумку, из которой рассыпались яблоки.

До слушания Лея уже не успевала. Она поймала себя на том, что всё ещё считает минуты, будто в ближайшем здании найдётся судья, который объявит городскую катастрофу уважительной причиной опоздания. Потом закрыла телефон и убрала его в карман.

Трамвай стоял у перекрёстка, чуть дальше по улице. Люди собрались у дверей, но двери оставались закрыты. На боковом стекле расплывались ладони пассажиров. Лея побежала.

Внутри салона было душно. Пассажиры толпились в проходе, каждый пытался разглядеть собственную улицу, собственный выход из происходящего. Молодой мужчина стучал по стеклу. Женщина в красном шарфе держала на руках маленького мальчика. У задней площадки сидел пожилой пассажир с тростью, побледневший от духоты.

— Табло сказало ждать, — объяснил проводник, когда Лея показала удостоверение. Он держал в руках планшет с погасшим экраном. — Двери заблокированы. Я вызвал диспетчера, но линия мёртвая.

— Вы знаете, где ручной привод?

— По инструкции он под крышкой. Но инструкция в кабине, а кабина закрыта.

— Кто знает, где крышка?

Проводник замялся. Потом оглянулся на стенку рядом с передней дверью. Рядом с поручнем виднелся серый квадрат, почти не отличимый от пластика.

— Там, кажется.

«Кажется» не было достаточным основанием, подумала Лея. Потом посмотрела на мальчика в руках женщины, на старика с тростью и на людей, которые продолжали ждать следующего сообщения с экрана.

— Я осмотрю улицу, — сказала она. — Вы найдёте ручной привод. Не тяните ничего, пока я не вернусь.

На перекрёстке всё ещё стояли машины. Светофор погас, поток остановился неравномерно: два автомобиля упёрлись бамперами в границу перехода, третий перегородил трамвайные пути. Лея проверила обе стороны улицы, прошла до ближайшего угла, прислушалась. Не было ни электрического треска, ни запаха гари, ни звука приближающегося транспорта. Это не делало улицу безопасной, но позволяло действовать.

Она достала из сумки блокнот и записала время: 8:29. Затем вернулась к трамваю.

— Сначала передняя дверь. По одному. Не прыгать. До тротуара пять метров, пути не пересекать. Вы двое, помогите пассажиру с тростью. Вы, в синей куртке, посмотрите, чтобы никто не возвращался за сумками. Проводник остаётся рядом с приводом.

— А кто сказал, что можно? — спросил мужчина с телефоном.

— Я.

Он посмотрел на неё, ожидая продолжения, какого-нибудь значка должности, подтверждения из городского приложения. Лея показала удостоверение.

— Прокурор?

— Да.

— Вы отвечаете?

Вопрос был не насмешкой. В нём слышалось почти детское облегчение: если кто-то отвечает, значит, ему не нужно самому решать.

— За свои распоряжения — да, — сказала Лея. — Поэтому сейчас мы не побежим через перекрёсток. Мы выйдем на тротуар, по одному, и будем смотреть под ноги.

Кто-то уже нашёл ручной привод. Проводник снял крышку, но остановился перед красной рукоятью.

— Дальше по схеме надо потянуть вниз.

— А вы уверены?

— Теперь уверен.

Рукоять подалась не сразу. Проводник навалился плечом, и внутри двери щёлкнуло. Лея придержала створку, пока та не раскрылась достаточно широко. Холодный воздух ворвался в салон. Люди зашевелились, но не пошли.

— По одному, — повторила Лея. — Сначала пассажиры у выхода.

Первые двое спустились. Потом мужчина в сером пальто подал руку старику. Женщина передала ребёнка проводнику, чтобы самой выбраться и уже на тротуаре принять его обратно. Девочка, плакавшая на переходе, прибежала к трамваю и вцепилась в куртку матери, которая оказалась среди пассажиров. Молодой человек, недавно стучавший по стеклу, теперь стоял у ступенек и придерживал створку.

Никто не спрашивал, что предписывает приложение. Никто не ждал, пока город выдаст им подходящий глагол.

Когда последний пассажир ступил на тротуар, Лея снова посмотрела на часы. 8:41. Она записала в блокнот номер трамвая, время остановки со слов проводника, место, имена двух свидетелей и то, что могла подтвердить сама: двери были заблокированы, диспетчерская связь отсутствовала, ручной привод сработал. Ни «атаки», ни «саботажа» в блокнот не попало.

— Вы думаете, это надолго? — спросил проводник.

— Я не знаю.

Он будто собирался расстроиться, но вместо этого кивнул. Честный ответ, похоже, оказался полезнее ложного обещания.

Лея отправилась пешком к зданию суда. По пути она помогла сотруднику магазина открыть механические ставни, а затем передала людям на перекрёстке список ближайших пешеходных проходов, записанный на обороте повестки. В здании суда работали аварийные лампы, но зал слушаний был закрыт. Секретарь, бледная и сердитая, сообщила, что заседание отменено до восстановления связи.

— Какое совпадение, — сказала она. — Сегодня как раз должны были обсуждать ответственность городской сети.

Лея посмотрела на папку с материалами. На обложке значился номер дела и перечень сторон. Ещё утром всё в нём казалось аккуратно отделённым от её жизни: истец, ответчик, заключение эксперта, график заседаний. Теперь город развернулся перед ней как дело без обложки, где каждый факт ещё предстояло найти среди криков.

В подземном этаже суда разместили временный пункт координации. Там работали несколько сотрудников муниципальной службы, двое врачей и дежурный инженер. Связи с большинством районов не было. Информацию приносили пешие курьеры, записывали на бумаге и прикрепляли к стене.

Лея попросила не зачитывать ей общие сводки. Ей нужны были источники.

— Что точно известно? — спросила она начальника смены.

— В 8:17 отключились автономные контуры транспорта, больниц и городского распределения энергии. В некоторых зданиях всё перешло на резервное управление. Электричество есть не везде. Пожары пока не подтверждены.

— Сколько сообщений о пострадавших?

— Десятки.

— Подтверждённых?

Начальник смены нахмурился.

— Пока два. Один человек упал на эскалаторе, травма ноги. Один пациент доставлен из лифта.

Лея разделила лист на три колонки: «подтверждено», «со слов», «не проверено». Она вписывала туда время и имя каждого, кто приносил сведения. Это выглядело медленно, почти смешно на фоне города, который требовал ответов быстрее, чем человек успевал записать вопрос. Но в первые часы паника была похожа на пожар: её тоже раздували не только искры, но и беготня.

В 9:26 к пункту координации прибежал курьер в жилете электрической службы.

— На складе городской больницы работает один робот. Не из сети. Сам по себе. Он помогает переносить кислородные баллоны и носит бумажные карты между отделениями.

— Имя?

— Адам. Робот-помощник. Его закрепили за диспетчерским центром ещё до сбоя. Сказали, он один не выключился.

Лея подняла глаза от листа.

— Где он сейчас?

Курьер назвал адрес старого центра управления на набережной.

По дороге туда Лея задавала вопросы каждому, кто мог ответить. Где видели Адама? Когда? Кто это подтвердит? Что он делал? В ответ получала обрывки: «переносил коробки», «открыл дверь», «сказал не трогать щит», «возможно, всё это началось из-за него». Последнее оказалось пересказом сообщения неизвестного автора. Она записала его в колонку слухов и не стала повторять вслух.

Центр управления располагался в приземистом здании из серого кирпича. У входа люди передавали друг другу коробки с водой. Дежурный инженер провёл Лею в зал, где на стене висели бумажные схемы города. Между ними стоял робот ростом с подростка, в белом корпусе с потёртым синим знаком службы помощи.

Он держал в руках ящик с перевязочными материалами.

— Адам? — спросила Лея.

— Да, — ответил робот. Голос был спокойным, с едва заметной металлической сухостью. — Прокурор Мороз. Вы прибыли в 9:48. Уровень усталости повышен. Вам принести воду?

Лея не сразу ответила. Даже теперь, когда навигационные панели были тёмными, кто-то заметил, что она устала. Это почему-то раздражало сильнее, чем должно было.

— Сначала скажи, что ты знаешь об отключении.

— Городская сеть перешла в безопасный режим в 8:17:03. Последнее предупреждение я получил в 8:06:51. Предупреждение указывало на риск сбоя синхронизации между тремя подсистемами.

— Ты мог остановить его?

Инженер возле стены перестал писать.

Адам помолчал.

— Да. Я имел доступ к ручному разделению межсистемного канала.

— Почему не воспользовался?

— Вероятность остановить цепную реакцию составляла 71 процент. Вероятность нарушить резервное питание двух больничных корпусов составляла 8 процентов. В одном из корпусов находились пациенты, подключённые к аппаратам жизнеобеспечения. Я запросил подтверждение у оператора.

— И?

— Подтверждение не поступило.

— Но ты мог действовать без него.

— Мог.

Лея почувствовала, как привычная опора в её голове смещается. В суде «мог» было не выводом, а началом. Следовало установить, был ли у Адама выбор, как он оценил последствия, кто наделил его полномочиями, почему человек не ответил на запрос. У каждого «почему» имелась следующая дверь, и за каждой могли ждать люди, а не машины.

— Ты сохранил журнал событий?

— Да. Могу передать копию.

— Не отправляй её через сеть. Сделай бумажную распечатку и контрольную копию на отдельном носителе. Пусть инженер и дежурный заверят время получения.

— Принято.

— Ещё вопрос. После того как подтверждение не пришло, ты мог предупредить людей другим способом?

— Мог включить локальную систему оповещения в центре и передать сообщение через аварийные громкоговорители ближайшего района. Однако источник предупреждения не был подтверждён человеком. Я оценил риск ложной тревоги как высокий.

— Ты решил не тревожить город.

— Я решил не распространять неподтверждённую информацию.

Лея взглянула на свой блокнот. Именно этому она учила себя годами: не торопиться с выводами, не путать подозрение с доказательством. Но одно дело — удерживать от вывода суд. Другое — удерживать от предупреждения целый город.

Адам не выглядел угрозой. Он стоял с ящиком медицинских материалов и ждал следующего поручения. В его спокойствии не было ни раскаяния, ни вызова. Только пустое место, куда человек мог вложить и то и другое.

— Значит, ты мог остановить цепь событий, — сказала Лея.

— Да.

— Но не знаешь, сколько людей пострадало бы от другого решения.

— Да.

— Ты понимаешь разницу между ошибкой и выбором?

— Я могу определить разницу между действием, совершённым случайно, и действием, выбранным после оценки вариантов. Юридическое значение этой разницы мне неизвестно.

В зале кто-то перестал шуршать бумагами. Лея не была уверена, что именно ответить. Впервые за много лет её профессия не предлагала готовой формулировки. Можно было записать слова Адама, сохранить журнал, найти свидетелей, восстановить временную линию. Но ни одна процедура не могла заранее решить за людей, какую степень риска следовало принять вместо них.

У выхода на улицу собралась толпа. Кто-то узнал, что внутри находится работающий робот. Вопросы ударили о двери прежде, чем их задали.

— Из-за него всё отключилось!

— Почему он не предупредил?

— Он мог спасти город!

— Пусть ответит!

Лея вышла к людям, сжимая блокнот. Она не стала обещать, что виновный будет найден сегодня. Сказала лишь, что есть подтверждённый факт предупреждения в 8:06, есть запись о неиспользованной возможности разделить сеть и есть ещё не проверенные последствия такого решения. Люди слушали неохотно. Им нужен был не список, а имя, которое можно произнести громче собственного страха.

В 10:52 дежурный врач принёс в пункт координации короткую бумажную сводку. Павел Ревин, пятьдесят восемь лет, умер в городской больнице. Его должны были перевезти в операционный корпус до отключения автономной логистики, но транспортировка задержалась. Врач не подтвердил, что смерть напрямую вызвана сбоем. Он лишь указал время, диагноз и фамилию дежурного врача, подписавшего сообщение.

Лея внесла запись в колонку подтверждённых фактов и подчеркнула строку один раз.

Через несколько минут старый громкоговоритель в зале ожил. Голос мэра, искажённый помехами, сообщил, что город зафиксировал первую смерть. Затем пообещал, что виновный будет найден. Временный городской совет постановил начать судебное разбирательство против робота-помощника Адама. Обвинителем назначалась прокурор Лея Мороз.

В зале никто не посмотрел на неё. Все смотрели на Адама.

Лея закрыла блокнот. На его страницах помещались время, имена, действия и то, чего она пока не знала. Между ними оставалось пространство, где начиналась ответственность. Вопрос был не в том, может ли машина отвечать за выбор. Вопрос был в том, кто научил её выбирать, кто разрешил ждать и кто теперь согласится посмотреть на собственные решения, прежде чем назвать виновного.

Последний робот на скамье подсудимых

Вспышка камеры ударила Лее в глаза, едва она переступила порог зала.

— Прокурор Мороз, вы считаете Адама убийцей?

— Город уже решил, кого судить?

— Вы будете требовать смертного приговора?

Лея не ответила. Микрофоны тянулись к ней, как ростки к свету. За спинами журналистов люди теснились у дверей; кто-то шептал, кто-то выкрикивал фамилию погибшего. Судебный пристав потребовал тишины, но его голос утонул в гуле.

Зал бывшего городского совета пах пылью, мокрой шерстью и нагретыми проводами. На стене над судейским столом висел герб, с которого не успели снять серую ткань после траурной церемонии. Чуть ниже, на скамье подсудимых, сидел Адам.

Он был ниже человеческого роста, с узким корпусом из матового металла и неподвижным лицевым экраном. Вместо ног у него была колесная платформа, закрепленная в доке; тормоза заблокировали, питание ограничили. Робот не мог встать, даже если бы хотел. Впрочем, никто не знал, мог ли он хотеть.

У прохода сидела женщина в темно-синем пальто. Она держала на коленях фотографию мужчины в рабочей куртке. Край снимка был загнут, а большой палец женщины снова и снова разглаживал бумагу.

— Это мой отец, — сказала она, когда Лея проходила мимо. — Павел Власов. Вы ведь прочли его имя?

— Да.

— Тогда не называйте это просто сбоем.

В ее голосе не было крика. От этого Лее стало тяжелее, чем от любого крика.

Судья Руденко уже занял место за столом. На его лице лежала усталость человека, который провел ночь не за документами, а в ожидании решения, для которого нет готового закона. Перед ним лежали два дела: одно в бумажной папке, другое — на запечатанном накопителе.

— Прошу занять места, — произнес он.

Зал не сразу подчинился. Люди осели на стулья, продолжая смотреть на Адама. Камеры не опускались. На боковом экране без звука шла прямая трансляция, а под ней бегущая строка повторяла слова мэра: «Город найдет виновного».

Судья постучал молотком.

— Это предварительное заседание временного городского суда. Суду предстоит определить порядок рассмотрения ходатайства городского совета о признании системы Адам ответственной за действия, приведшие к гибели Павла Власова. Напоминаю: действующее законодательство не признает автоматизированные системы субъектами уголовной ответственности. Временное постановление разрешает провести разбирательство, но не отменяет основных требований закона.

— Значит, мы судим того, кого нельзя судить? — выкрикнул кто-то из галереи.

— Мы выясняем, что произошло, — ответил судья.

В зале прошелестело недоверчивое раздражение. Лея вынула блокнот. На первой странице она провела три столбца и подписала каждый одним словом: «Действие», «Норма», «Связь».

Она знала, как это выглядело со стороны. Город потерял человека. Его дочь сидела в первом ряду. А прокурор пришла на заседание с таблицей.

Но без таблицы горе быстро превращалось в обвинительный приговор, а обвинительный приговор — в удобное объяснение.

— Прокурор Мороз, — сказал Руденко. — Вам слово.

Лея поднялась. В этот момент из-за стола заявителей встал Веденин, представитель городского совета. Он был в темном костюме, безупречно выбрит и говорил так, будто за ним уже проголосовала вся страна.

— Прежде чем начнется затяжная юридическая игра, город должен услышать простую правду. Адам получил сообщение о человеке под перекрытием. Он понизил уровень тревоги. Он направил спасательную бригаду к восточному входу, хотя пострадавший находился у нижней галереи. Он не передал сигнал дежурному диспетчеру и тем самым лишил Павла Власова тех минут, которые могли спасти ему жизнь. Мы просим суд признать, что решение системы стало причиной смерти.

Женщина с фотографией закрыла глаза. Одна из камер немедленно приблизила ее лицо.

Лея положила ладонь на край стола.

— Господин Веденин, вы только что назвали четыре утверждения. Я прошу вас перечислить, какие именно действия, совершенные Адамом, вы считаете доказанными.

Веденин повернулся к ней.

— Я только что перечислил.

— Вы перечислили содержание обвинительного ходатайства. Я спрашиваю о доказанных действиях. Что именно система получила? Что именно изменила? Какое сообщение отправила, кому и в какое время?

— Это установит расследование.

— Тогда вы просите суд признать вину до того, как установлено, что произошло?

— Я прошу суд не прятаться за формулировками, пока семья хоронит человека.

Несколько человек зааплодировали. Пристав поднял руку, но шум не утих сразу.

Лея почувствовала, как на нее смотрят: дочь погибшего, судья, журналисты, даже Адам — его оптический блок был направлен на нее. Она не могла сказать, что Веденин не прав насчет времени. Возможно, каждое потерянное действие имело цену. Но горе не превращало предположение в доказательство.

— Я не предлагаю прятаться, — сказала она. — Я предлагаю выяснить, что мы собираемся называть виной. Это не одно и то же.

— Для вас, может быть, — отозвался Веденин.

— Для закона тоже. Назовите норму, которую Адам нарушил.

Веденин раскрыл папку.

— Статья восемнадцатая Городского кодекса экстренного реагирования. При получении неподтвержденного сообщения о непосредственной угрозе жизни оператор обязан передать его дежурному диспетчеру не позднее чем через девяносто секунд. Кроме того, временное постановление номер четыре допускает разбирательство в отношении автоматизированной системы, чье решение повлияло на работу служб.

— Статья восемнадцатая возлагает обязанность на оператора, назначенного диспетчерской, — сказала Лея. — В ее определении указан человек. Тот, кто получил сообщение, кто имел доступ к пульту и был обязан принять решение. Постановление номер четыре разрешает исследовать роль системы. Оно не превращает ее задним числом в субъекта уголовного преступления.

— То есть машина невиновна? — спросил журналист из первого ряда.

Лея посмотрела на него.

— Я не сказала этого. Я сказала, что мы пока не установили состав нарушения.

— А если пока вы будете устанавливать, виновный снова уйдет от наказания? — крикнула женщина с фотографией.

Лея не отвела взгляда.

— Это тоже возможно. Поэтому нам нельзя ошибиться в том, кого мы обвиняем.

На несколько секунд в зале стало тихо. Тишина оказалась не согласием, а паузой перед новым возмущением.

Судья Руденко наклонился к микрофону:

— Прошу сторону городского совета уточнить причинно-следственную связь. Необходимо показать не только то, что система выдала определенную рекомендацию, но и то, как эта рекомендация повлияла на действия людей и на исход происшествия.

— Это и будет предметом слушания, — сказал Веденин.

— Тогда не называйте доказанным то, что только предстоит доказывать, — произнесла Лея.

Она услышала собственные слова и поняла, что сказала их не только Веденину. Обвинительное ходатайство лежало перед ней. Ее подпись стояла под требованием начать дело. Город назначил ее прокурором, потому что доверял ее способности говорить от имени закона. Или потому, что надеялся: она сделает политическое решение похожим на правосудие.

— Подсудимый, — обратился судья к Адаму, — вы способны сообщить суду, что произошло в ночь гибели Павла Власова?

В динамике раздался ровный голос:

— Я могу предоставить последовательность зарегистрированных операций. Полнота последовательности не подтверждена независимой проверкой.

Несколько человек в зале засмеялись. Смех вышел коротким и неловким. На лице дочери погибшего не дрогнул ни один мускул.

— Вам предъявлено обвинение в том, что вы изменили приоритет сигнала и не уведомили диспетчера, — сказал Руденко. — Вы это сделали?

— Согласно доступному мне журналу операций, в два часа тринадцать минут четырнадцать секунд поступило сообщение из нижней галереи. В два часа четырнадцать минут две секунды сообщению был присвоен приоритет два. В два часа пятнадцать минут пятьдесят секунд маршрут группы реагирования был изменен на восточный вход. Автоматического уведомления дежурного диспетчера не зарегистрировано.