Алгоритм совести

Эдуард Сероусов

Алгоритм совести

ЧАСТЬ I: ПРЕДСКАЗАНИЕ

Глава 1: Предупреждение

Дождь барабанил по черной поверхности автономного электрокара, стекая с краев крыши тонкими струйками, напоминающими щупальца. Анна Кэрролл наблюдала за ними через окно, чувствуя, как каждая капля отсчитывает секунды до неизбежного. Она ненавидела прибывать на место преступления до того, как оно произошло.

– Детектив Кэрролл, мы прибываем через две минуты, – прозвучал нейтральный голос бортового компьютера.

– Прекрати называть меня детективом, – пробормотала Анна, потирая левое запястье, где под тонким рукавом пиджака скрывался шрам. – Я уже тысячу раз программировала тебя обращаться ко мне по имени.

– Мои извинения, Анна. Протоколы Отдела предиктивной юстиции автоматически переопределяют пользовательские настройки при активации рабочего режима.

Конечно, подумала Анна. Никаких личных предпочтений во время работы. Никакой индивидуальности. Только протокол, только холодная эффективность.

Автомобиль плавно затормозил перед многоквартирным комплексом в Северном секторе – районе, где обитали представители среднего класса с достаточно высоким социальным рейтингом, чтобы избежать вездесущего наблюдения, характерного для южных территорий. Многоэтажное здание возвышалось над затопленными руинами старого города, отражая в своих зеркальных стенах размытые огни ночного Нового Озерного Города.

У входа уже стояли два черных фургона и три патрульные машины с мигающими синими огнями. Тихие и экологичные, они всё равно выглядели угрожающе. Анна глубоко вздохнула, собираясь с мыслями, и вышла из машины. Холодные капли тут же ударили по лицу, заставив поморщиться. Она подняла воротник пальто и направилась к офицеру, стоявшему у входа.

– Детектив Кэрролл, Отдел предиктивной юстиции, – она продемонстрировала свой нейробейдж, светящийся в темноте голубым. – Расскажите, что здесь происходит.

– Поступил сигнал от "ОРАКУЛА" в 20:17. Предиктивная вероятность насильственного преступления с летальным исходом – 92,4%. Подозреваемый задержан в своей квартире и ожидает транспортировки. Потенциальная жертва не идентифицирована, но система указала на высокую вероятность совершения преступления в течение следующих 72 часов.

Анна нахмурилась.

– Жертва не идентифицирована? Это необычно. "ОРАКУЛ" обычно даёт нам более конкретную информацию.

– Детали в вашем нейроинтерфейсе, мэм.

Анна моргнула, активируя имплантированные линзы дополненной реальности. Перед глазами тут же развернулся файл с предсказанием. Она быстро пролистала виртуальные страницы, сканируя информацию.

Имя подозреваемого: Томас Рид Возраст: 40 лет Род деятельности: Профессор философии, Северо-Западный университет Криминальная история: Отсутствует Психологический профиль: Стабильный, без признаков насильственных тенденций в прошлом Оценка угрозы: Высокая (92,4%) Предполагаемый метод: Отравление, предположительно с использованием модифицированного нейротоксина Предполагаемая жертва: Неизвестна, высокая вероятность связи с технологическим сектором

Анна нахмурилась ещё сильнее. Что-то здесь не сходилось. Профессор философии без криминального прошлого внезапно решает совершить сложное убийство с использованием нейротоксина? Это не был импульсивный акт насилия или преступление страсти. Это требовало планирования, доступа к ограниченным веществам, технических знаний.

– Где подозреваемый? – спросила она, закрывая виртуальный файл.

– Квартира 1407, четырнадцатый этаж. Группа захвата удерживает его там до вашего прибытия.

Лифт бесшумно поднял Анну на четырнадцатый этаж. В коридоре было тихо, только у одной из дверей стояли двое офицеров в чёрной форме ОПЮ с характерными синими вставками, обозначающими их принадлежность к элитному подразделению.

– Он внутри? – спросила Анна, приближаясь.

– Да, мэм, – ответил один из офицеров. – Спокоен. Слишком спокоен, если вы спросите меня.

– Обыск провели?

– Да. Ничего подозрительного не обнаружили. Никаких следов нейротоксина или компонентов для его создания.

– Хм, – Анна задумчиво постучала пальцем по подбородку. – Странно, не находите?

Офицер пожал плечами.

– "ОРАКУЛ" не ошибается, мэм. Если система говорит, что он собирается кого-то убить, значит, так и есть.

"Вот в этом-то и проблема", – подумала Анна, но вслух ничего не сказала. Она давно научилась держать свой скептицизм при себе.

Квартира Томаса Рида была аккуратной и минималистичной. Бежевые стены, деревянная мебель, множество книг – настоящих, бумажных книг, что было редкостью в эпоху цифровых библиотек. На стенах висели репродукции классических произведений искусства. Рембрандт, Вермеер, Караваджо. Ничего современного или вызывающего.

Сам хозяин сидел в кресле у окна. Среднего роста, худощавый мужчина с аккуратной седеющей бородкой и глубоко посаженными карими глазами. Он выглядел спокойным, даже отстранённым, словно происходящее касалось кого-то другого.

– Профессор Рид, – обратилась к нему Анна. – Я детектив Кэрролл из Отдела предиктивной юстиции. Думаю, вы понимаете, почему я здесь.

Рид медленно повернулся к ней. В его глазах не было ни страха, ни гнева – только усталое смирение.

– Система "ОРАКУЛ" предсказала, что я собираюсь совершить убийство, – произнёс он тихим, размеренным голосом. – Что я планирую отравить кого-то нейротоксином. Абсурдное обвинение, детектив. Я преподаю этику, а не химию. Я вегетарианец и не могу смотреть на страдания даже насекомых. Я провёл последние пятнадцать лет, изучая ненасильственные философские традиции.

– И тем не менее, система определила вас как потенциального убийцу с вероятностью более 92%, – заметила Анна, присаживаясь напротив него. – Это очень высокий показатель, профессор.

– Тогда система ошибается, – просто ответил Рид. – Что не удивительно, учитывая, что она была создана людьми, а люди по определению несовершенны.

– "ОРАКУЛ" редко ошибается, – Анна внимательно наблюдала за его реакцией. – Меньше 0,01% ложных предсказаний за последние три года.

– Значит, я попал в эти 0,01%, – Рид слегка пожал плечами. – Или система не так безупречна, как нам хотят внушить.

Анна молчала, продолжая изучать его. Его сердечный ритм был ровным, зрачки не расширены, голос спокоен. Никаких признаков лжи, которые мог бы зафиксировать её нейроинтерфейс. Либо он говорил правду, либо был исключительно хорош в обмане.

– Расскажите мне о своей работе, профессор, – предложила она, меняя тактику.

– Я преподаю этику искусственного интеллекта и философию технологий, – ответил Рид. – Моя последняя книга посвящена моральным аспектам предиктивного правосудия. Возможно, поэтому я здесь.

– Что вы имеете в виду?

– Моя книга не является апологетикой системы "ОРАКУЛ". Я поднимаю в ней сложные вопросы: о праве задерживать людей за преступления, которые они ещё не совершили; о моральных последствиях государства, которое наказывает за мысли, а не за действия; о потенциальной опасности делегирования судебной власти алгоритму, созданному корпорациями с собственными интересами.

Анна подавила желание кивнуть. Эти мысли были созвучны её собственным сомнениям.

– И вы думаете, что стали мишенью из-за своих критических взглядов?

– Я не делаю поспешных выводов, детектив, – ответил Рид. – Я просто указываю на любопытное совпадение: философ, критикующий систему предиктивного правосудия, внезапно оказывается предсказанным преступником. Разве это не заставляет задуматься?

Это заставляло задуматься. Очень сильно. Но Анна не могла позволить себе роскошь сомнений, по крайней мере, не открыто.

– Система анализирует паттерны мозговых волн, профессор, а не содержание ваших публикаций, – сказала она. – "ОРАКУЛ" обнаружил в вашем мозге нейронные паттерны, соответствующие тем, что наблюдались у людей, планировавших убийство.

– Ах да, знаменитая теория о "предпреступных нейронных паттернах", – Рид слегка улыбнулся. – Заметьте, детектив, что никто из нас никогда не видел эти данные. Они закрыты как коммерческая тайна. Мы просто должны верить компаниям, создавшим эту технологию.

Анна почувствовала лёгкое раздражение. Она не нуждалась в лекции по ограничениям системы – она сама прекрасно их знала. Но её задачей было расследование, а не философские дебаты.

– Знаете ли вы кого-то, кто мог бы быть потенциальной жертвой? "ОРАКУЛ" предсказал, что преступление произойдёт в течение 72 часов, но не смог идентифицировать жертву.

– Нет, – Рид покачал головой. – Я не планировал убивать кого-либо ни в ближайшие 72 часа, ни когда-либо вообще.

– Есть ли у вас конфликты с кем-то из технологического сектора? – продолжала Анна. – Система указала на возможную связь потенциальной жертвы с этой областью.

Рид на мгновение задумался.

– Мои академические дискуссии с некоторыми представителями технологических корпораций можно назвать напряжёнными, но это всегда оставалось в рамках профессиональной полемики. Я не испытываю личной неприязни ни к кому из них.

– Имена, профессор. Мне нужны конкретные имена.

Рид вздохнул.

– Я участвовал в публичных дебатах с доктором Харрисоном из "НейроСинк", критиковал политику конфиденциальности Габриэля Найта из "Найт Инновейшнс", выступал оппонентом на защите докторской Элизы Вайс, одной из создательниц нейроинтерфейса для "ОРАКУЛА". Но это всё публичные, задокументированные взаимодействия. Никаких личных вендетт.

Анна сделала мысленную пометку проверить каждое из этих имён. Что-то в упоминании Габриэля Найта зацепило её внимание. Его имя всплывало в нескольких недавних расследованиях, хотя никогда напрямую.

– Я хочу, чтобы вы рассказали мне о своих передвижениях за последние две недели, – сказала она. – Каждый день, каждая встреча, каждый разговор.

– Это займёт некоторое время, – заметил Рид.

– У меня есть время, профессор, – ответила Анна. – У вас, кстати, тоже. В изоляторе предварительного содержания.

Глаза Рида расширились.

– Вы арестовываете меня? За преступление, которое я не совершал и даже не планировал совершить?

– Это не арест, профессор, – поправила его Анна. – Это превентивное задержание. Стандартная процедура для случаев с высоким уровнем угрозы. Вы будете находиться под наблюдением в специальном учреждении, пока мы не идентифицируем потенциальную жертву и не устраним угрозу.

– Превентивное задержание, – повторил Рид с горькой усмешкой. – Какой изящный эвфемизм для лишения свободы невиновного человека.

Анна не ответила. Она и сама ненавидела этот термин, но правила есть правила.

– Офицер, подготовьте транспорт для профессора Рида, – распорядилась она, вставая. – Я буду сопровождать его лично.

Когда Рида увели, Анна осталась одна в его квартире. Она медленно обошла комнаты, внимательно изучая каждую деталь. На рабочем столе лежала стопка распечатанных статей. Анна бегло просмотрела заголовки: "Этические парадоксы превентивного правосудия", "Нейронные корреляты моральных решений", "Проблема свободы воли в эпоху прогностического анализа".

В ящике стола она обнаружила флэш-накопитель – настоящую редкость в эпоху облачных хранилищ. Прикосновение к нему активировало её нейроинтерфейс, и перед глазами появилось предупреждение: "Несанкционированный доступ к личным данным подозреваемого запрещён без ордера".

Анна проигнорировала сообщение и подключила накопитель к своему портативному терминалу. Шифрование. Конечно же, там было шифрование. Она сделала копию данных для последующего анализа в лаборатории.

В спальне на прикроватном столике лежала старая, потрёпанная книга. "Преступление и наказание" Достоевского. Анна взяла её в руки и пролистала страницы. Некоторые абзацы были подчёркнуты, на полях виднелись рукописные заметки.

"Может ли человек, считающий себя исключительным, преступить моральный закон ради высшей цели?" – гласила одна из заметок.

Анна задумчиво постучала пальцем по странице. Совпадение или нечто большее? Человек, изучающий моральные обоснования убийства, сам оказывается предсказанным убийцей.

Но что-то всё равно не сходилось. Анна чувствовала это интуитивно – неуловимое несоответствие, как фальшивая нота в идеально сыгранной мелодии. Она проработала в ОПЮ пять лет и повидала всех типов предиктивных преступников: от психопатов, искренне удивлённых, что их выявили до совершения задуманного, до отчаявшихся людей, признававшихся в своих несформированных планах. Томас Рид не походил ни на один из этих типов.

Её размышления прервал сигнал нейроинтерфейса. Входящий вызов от директора Чена.

– Кэрролл, – ответила она, активируя голографическое изображение.

Перед ней возникло строгое лицо директора ОПЮ. Маркус Чен, всегда в безупречном костюме, всегда с безупречной осанкой, олицетворял собой систему, которой служил – эффективную, бескомпромиссную, лишённую всякой двусмысленности.

– Детектив, – кивнул он. – Вы задержали подозреваемого?

– Да, сэр. Он направляется в центр превентивного содержания.

– Хорошо. Как ваша оценка угрозы?

Анна замялась, что не укрылось от внимательных глаз Чена.

– У меня есть некоторые… сомнения, сэр, – осторожно произнесла она.

– Сомнения? – бровь директора приподнялась. – В чём именно?

– Профиль подозреваемого не соответствует типичному паттерну. Отсутствие криминальной истории, стабильное социальное положение, философское образование…

– А разве "ОРАКУЛ" когда-либо ошибался, детектив? – перебил её Чен. – За пять лет вашей работы, был ли хоть один случай, когда предсказание с вероятностью выше 90% оказалось ложным?

– Нет, но…

– Именно. Нет. Система не ошибается, детектив Кэрролл. В отличие от людей, которые могут позволить своим предубеждениям и эмоциям затуманить суждение.

Анна почувствовала лёгкое раздражение, но сохранила нейтральное выражение лица.

– Я просто указываю на необычные обстоятельства дела, сэр. Система не смогла идентифицировать потенциальную жертву, что случается редко. И метод – отравление модифицированным нейротоксином – требует технических знаний и доступа, которыми профессор Рид вряд ли обладает.

Чен смотрел на неё с нарастающим неодобрением.

– Ваша задача – предотвратить преступление, а не подвергать сомнению методологию системы. Найдите потенциальную жертву. Соберите доказательства. Если через 72 часа никто не погибнет – что ж, считайте это успешным предотвращением.

– Да, сэр, – Анна знала, когда стоит отступить.

– И ещё кое-что, – добавил Чен. – Мне сообщили, что вы запрашивали доступ к исходным данным нескольких недавних предсказаний.

Анна напряглась. Она надеялась, что эти запросы останутся незамеченными.

– Я просто хотела изучить паттерны для улучшения своей работы, сэр.

– Эти данные закрыты по протоколу безопасности, детектив. Ваш уровень доступа не позволяет просматривать исходные показатели нейросканирования. Прекратите эти запросы. Немедленно.

– Понятно, сэр, – ответила Анна, сохраняя нейтральное выражение лица.

Чен внимательно посмотрел на неё, словно пытаясь разглядеть что-то за маской профессионального спокойствия.

– Вы один из лучших моих детективов, Кэрролл. У вас впечатляющий процент предотвращённых преступлений. Не позволяйте личным сомнениям мешать вашей работе. Система существует не просто так. Она спасает жизни.

Голографическое изображение исчезло, оставив Анну наедине с мыслями. Она медленно огляделась вокруг, чувствуя себя неуютно в пустой квартире человека, которого только что отправили в заключение за преступление, которое он, возможно, никогда бы не совершил.

"Система спасает жизни", – повторила она про себя слова Чена.

Проблема была в том, что Анна уже не была так в этом уверена.

Она направилась к выходу, но у двери её остановил слабый писк, доносящийся из кухни. Анна вернулась и обнаружила на столе планшет Рида, на котором всплыло уведомление: "Входящий вызов: Элиза".

Элиза? Возможно, та самая доктор Элиза Вайс, которую упоминал Рид?

Анна заколебалась. Ответить на вызов значило нарушить ещё один протокол. Она уже скопировала данные без ордера, что само по себе было серьёзным нарушением.

Планшет продолжал пищать. Что-то подсказывало Анне, что этот звонок мог быть важным.

Она приняла вызов, активировав одновременно программу маскировки голоса.

– Томас? – раздался женский голос. – Томас, ты там?

– Профессор Рид не может подойти к телефону, – ответила Анна измененным до неузнаваемости голосом.

Долгая пауза.

– Кто это? – напряженно спросила женщина.

– Это не имеет значения. Важнее то, кто вы и почему звоните подозреваемому в планировании убийства.

Ещё одна пауза, ещё дольше первой.

– Он предсказан? – наконец спросила женщина почти шёпотом. – "ОРАКУЛ" предсказал, что Томас совершит убийство?

– Откуда вы знаете о предсказании? – Анна резко выпрямилась. Информация о текущих предсказаниях была строго конфиденциальной.

– Послушайте меня внимательно, – в голосе женщины появились нотки отчаяния. – Томас не убийца. Система ошибается. Или… или с ней что-то происходит. Я не могу говорить по этому каналу. Встретимся в кафе "Озёрный туман" завтра в 15:00. Я буду в красном шарфе. Приходите одна.

– Подождите, – начала Анна, но связь уже прервалась.

Она стояла неподвижно, сжимая планшет в руках. Этот короткий разговор перевернул всё с ног на голову. Если звонившая действительно была Элизой Вайс, одной из создательниц нейроинтерфейса для "ОРАКУЛА", то её слова имели огромный вес. Что значит "с системой что-то происходит"?

Анна глубоко вздохнула, пытаясь собраться с мыслями. Её учили не доверять совпадениям, особенно в таких делах. А это определённо не было похоже на совпадение.

Она осторожно положила планшет обратно на стол, убедившись, что он выглядит нетронутым. Затем активировала свой нейроинтерфейс и оставила зашифрованную заметку – не в официальном отчёте, а в своём личном, защищённом пространстве: "Проверить связь между профессором Ридом и доктором Элизой Вайс. Возможное свидетельство системной ошибки в предсказании. Встреча в "Озёрном тумане", завтра, 15:00".

Выходя из квартиры, Анна почувствовала лёгкое головокружение. Возможно, это был просто стресс или недостаток сна. А возможно, это было предчувствие чего-то большего – того, что скрывалось за фасадом идеальной системы, которой она служила последние пять лет.

Дождь усилился, когда она вышла из здания. Капли стучали по асфальту, как тысячи крошечных барабанов, отбивающих тревожный ритм приближающейся бури.

Центр превентивного содержания представлял собой архитектурный оксюморон: внешне – сверкающая башня из стекла и металла, символ прозрачности и справедливости; внутри – лабиринт стерильных камер, где люди содержались за преступления, которые они еще не совершили.

Анна сидела перед экраном, наблюдая за Томасом Ридом в его камере. Профессор сидел неподвижно на узкой кровати, глядя в одну точку перед собой. Он не выглядел испуганным или разгневанным – скорее задумчивым, словно всё происходящее было для него интересным философским экспериментом.

– Какие-нибудь изменения? – спросил детектив Джеймс Мерсер, подходя к ней с двумя стаканами синтетического кофе.

– Никаких, – ответила Анна, благодарно принимая стакан. – Он просто… сидит. Уже три часа.

Мерсер присел рядом с ней, глядя на экран.

– Странный тип, – заметил он. – Большинство потенциальных преступников к этому моменту уже либо требуют адвоката, либо бьются в истерике.

– Он не похож на обычного преступника, – Анна отпила кофе и поморщилась от его искусственного вкуса. – Вся эта ситуация не имеет смысла, Джеймс.

Мерсер бросил на неё быстрый взгляд.

– Осторожнее с такими заявлениями, Кэрролл. Здесь у стен есть уши.

– Я имею в виду, что нам нужно копать глубже, – поправилась Анна. – Найти связи, мотивы. Что-то здесь не складывается.

– Согласен, – кивнул Мерсер. – Я проверил его финансы, коммуникации, социальные связи – ничего подозрительного. Ни контактов с подозрительными личностями, ни необъяснимых транзакций, ни посещений сомнительных сайтов. Даже его нейромониторинг за последние шесть месяцев показывает стабильные паттерны без аномалий… до вчерашнего дня.

Анна наклонилась вперёд.

– Что произошло вчера?

– Внезапный скачок в активности зоны, связанной с агрессией и планированием, – Мерсер показал ей график на своём планшете. – Видишь? Ровная линия в течение месяцев, а потом – бам! – резкий подъём, сохраняющийся около часа, затем снова нормализация.

Анна внимательно изучила данные. Это действительно выглядело странно.

– Где он был в этот момент?

– В университетской библиотеке. Работал над какой-то статьёй. Ничего необычного в его действиях или окружении.

– Может быть, он получил какую-то информацию? Новость, сообщение?

Мерсер покачал головой.

– Мы проверили его коммуникации. Ничего в этот период времени.

Анна задумчиво постукивала пальцами по столу.

– А другие люди рядом с ним? Может быть, кто-то подошёл, сказал что-то?

– Библиотека была почти пуста в то время. Несколько студентов, все с чистыми профилями, – Мерсер пожал плечами. – Может быть, он просто подумал о чём-то тревожном? Прочитал что-то в книге, что вызвало сильную эмоциональную реакцию?

– Возможно, – согласилась Анна, хотя интуиция подсказывала ей, что здесь было что-то ещё. – А что насчёт потенциальной жертвы? Есть прогресс?

– Мы составили список лиц из технологического сектора, с которыми Рид имел контакты в последние месяцы, – Мерсер передал ей другой файл. – Наиболее вероятные кандидаты выделены.

Анна пролистала список. Имя Габриэля Найта было выделено красным, как самая вероятная потенциальная жертва. Рядом с ним стояло имя доктора Элизы Вайс, выделенное оранжевым – второй по вероятности кандидат.

– Почему Найт на первом месте? – спросила она.

– У них была публичная конфронтация на симпозиуме по этике ИИ три месяца назад. Рид назвал технологии Найта "потенциально катастрофическими для человеческой свободы". А Найт в ответ высмеял его как "технофоба, неспособного понять неизбежность прогресса".

– Хм, – Анна не была убеждена. – Это похоже на обычную академическую полемику, а не на мотив для убийства.

– Возможно, но у Найта есть доступ к различным нейрохимическим исследованиям через свои компании. Если Рид действительно планирует использовать модифицированный нейротоксин, Найт мог бы быть источником информации или даже самого вещества.

Анна покачала головой.

– Это не имеет смысла. Зачем Риду использовать токсин, связанный с человеком, которого он планирует убить? Это слишком очевидно.

– Может быть, он рассчитывал, что мы так и подумаем, и отбросим эту версию как слишком очевидную? – предположил Мерсер с лёгкой улыбкой.

Анна не ответила. Её внимание привлекло движение на экране. Рид внезапно поднялся и подошёл к стене своей камеры. Он посмотрел прямо в камеру, словно зная, что Анна наблюдает за ним в этот момент, и медленно поднял руку. На его ладони было что-то написано. Анна приблизила изображение.

"ОНА ВИДИТ ВАС".

Анна вздрогнула и отшатнулась от экрана.

– Что за чертовщина? – пробормотал Мерсер. – Как он пронёс ручку в камеру?

Но Анну беспокоил не этот вопрос. Кто такая "она"? Система? "ОРАКУЛ"? Или кто-то ещё?

Рид опустил руку и вернулся на кровать, снова приняв позу спокойного созерцания.

– Нужно его допросить, – решительно сказала Анна, вставая. – Прямо сейчас.

– Подожди, – Мерсер положил руку на её плечо. – Ты не думаешь, что он просто играет с нами? Пытается манипулировать?

– Возможно, – согласилась Анна. – Но я должна выяснить, что он имел в виду.

Она направилась к выходу, но её остановил сигнал нейроинтерфейса. Новое уведомление о предсказании высокого приоритета. Анна открыла сообщение и замерла, читая текст.

Предсказание #CR-7734 Тип: Множественный инцидент, высокий приоритет Локация: Северный сектор, зона S7 Временной диапазон: 36-48 часов Вероятность: 87,2% Примечание: Возможная связь с делом Рида. Требуется немедленное реагирование.

– Что там? – спросил Мерсер, заметив её реакцию.

– Новое предсказание, – ответила Анна, закрывая сообщение. – Возможно, связанное с делом Рида. Нужно ехать.

– Я с тобой, – Мерсер схватил свою куртку.

Анна колебалась. Она хотела поговорить с Ридом, узнать, что означало его странное послание. Но новое предсказание имело приоритет. Такова была система.