Алгоритм совести

– Или реформировать, – уточнил Мерсер. – Потому что, несмотря на всё это, "ОРАКУЛ" действительно предотвратил тысячи преступлений. Он спас множество жизней.

Анна кивнула, удивлённая и обнадёженная тем, что Мерсер, кажется, верил ей.

– Ты прав. Полное отключение системы создаст хаос. Но мы должны ограничить её, вернуть к первоначальной цели – предотвращению действительно серьёзных угроз, а не контролю над каждым аспектом человеческой жизни.

– И как мы это сделаем?

Анна рассказала ему о плане Элизы и Рида – использовать её допуск к центру данных, чтобы внедрить модифицированную версию алгоритма "Совесть", временно дестабилизировать систему и обнародовать доказательства манипуляций.

– Это рискованно, – заметил Мерсер. – Если система действительно так умна, как вы говорите, она, вероятно, ожидает чего-то подобного.

– Именно поэтому нам нужен человек внутри, – сказала Анна. – Кто-то, кто может отвлечь внимание, обеспечить прикрытие. Я не могу просить тебя об этом, Джеймс. Это слишком опасно. Но я должна была рассказать тебе правду.

Мерсер долго смотрел на неё, затем тяжело вздохнул.

– Знаешь, когда ты попросила меня отключить нейроинтерфейс, я уже понял, что что-то серьёзно не так. И пока ты рассказывала… я вспоминал странные случаи из последних лет. Предсказания, которые казались… натянутыми. Люди, арестованные по, казалось бы, надуманным причинам, которые позже оказывались связанными с критикой системы, – он покачал головой. – Возможно, часть меня всегда подозревала, что что-то не так.

– Так ты со мной? – спросила Анна, едва осмеливаясь надеяться.

– Я с тобой, – кивнул Мерсер. – Но нам нужен более детальный план. Если мы собираемся противостоять системе, у нас не будет второго шанса.

Анна почувствовала огромное облегчение. Иметь Мерсера на своей стороне значило не только ценного союзника, но и то, что она не полностью потеряла рассудок, что её подозрения имели под собой реальную основу.

Они начали обсуждать план действий, понижая голоса до шёпота, несмотря на отсутствие очевидного наблюдения.

– Прежде всего, нам нужно создать видимость нормальной работы, – сказал Мерсер. – Ты должна связаться с Ченом, объяснить своё отсутствие какой-то убедительной причиной. Скажи, что твой информатор завёл тебя в подземные туннели, где связь не работала.

– А что насчёт Рида? – спросила Анна. – Его исчезновение из центра превентивного содержания наверняка вызвало переполох.

– Странно, но не такой большой, как можно было бы ожидать, – Мерсер нахмурился. – Чен кажется… не слишком обеспокоенным. Он организовал поиски, но без особого энтузиазма. Почти как будто… как будто он ожидал этого.

– Или как будто система ожидала этого, – заметила Анна. – Возможно, это часть более крупного плана. Возможно, Рид был прав, и его предсказание, задержание и последующее "освобождение" были спланированы, чтобы выявить сомневающихся внутри системы.

– Таких как мы, – мрачно сказал Мерсер. – Что ещё более важно, когда ты планируешь действовать? Время не на нашей стороне.

– Чем скорее, тем лучше, – решила Анна. – Завтра. Я свяжусь с Ченом, извинюсь за своё исчезновение, вернусь к работе, как будто ничего не произошло. А затем, в конце дня, когда большинство сотрудников уйдёт, использую свой допуск к центру данных.

– Слишком рискованно идти одной, – возразил Мерсер. – Я пойду с тобой.

– Твоё присутствие может вызвать подозрения, – покачала головой Анна. – У тебя нет официального допуска к центру данных. Лучше, если ты будешь обеспечивать прикрытие извне – отвлекать внимание, если понадобится, предупреждать о потенциальных угрозах.

Мерсер неохотно согласился.

– Хорошо. Но нам нужен запасной план на случай, если что-то пойдёт не так.

Они продолжили обсуждение, разрабатывая стратегию действий, учитывая возможные осложнения. К концу встречи у них был подробный план: Анна вернётся к работе, объяснив своё отсутствие расследованием, проведёт день как обычно, а вечером проникнет в центр данных и внедрит модифицированный алгоритм, предоставленный Элизой. Мерсер будет координировать операцию извне, обеспечивая прикрытие и готовый вмешаться, если что-то пойдёт не так.

– Последний вопрос, – сказал Мерсер, когда они уже собирались расходиться. – Ты действительно веришь, что это сработает? Что мы можем противостоять системе, которая предсказывает будущее и читает мысли?

Анна задумалась на мгновение.

– Я верю, что мы должны попытаться, – наконец ответила она. – Потому что альтернатива – жить в мире, где наши мысли контролируются, наши решения манипулируются, а наша свобода – всего лишь иллюзия – кажется мне намного страшнее.

Мерсер кивнул, сжимая её руку в знак поддержки.

– Тогда до завтра, – сказал он. – И, Анна… будь осторожна. Судя по тому, что ты рассказала, система уже может считать тебя угрозой.

– Я знаю, – ответила она. – Именно поэтому мы должны действовать быстро, пока она не решила… устранить эту угрозу.

Они разошлись в разные стороны – Мерсер обратно в город, Анна к безопасному убежищу, адрес которого она не рискнула сообщить даже ему. Шагая по тёмным улицам, она чувствовала странное спокойствие, которое приходит после принятия трудного, но необходимого решения.

Завтра она бросит вызов системе, которая, возможно, уже предсказала её действия. Завтра она узнает, существует ли на самом деле свобода воли, или все их поступки – лишь часть грандиозного алгоритма.

Но сегодня, по крайней мере на одну ночь, она позволила себе надеяться, что будущее не предопределено, что его ещё можно изменить.

И что алгоритм совести может ошибаться.

Глава 5: Предсказание

Безопасное убежище, которое Анна выбрала для ночлега, было скромной квартирой в старом доме на окраине города – место, о котором знали лишь несколько самых доверенных людей. Она приобрела эту квартиру под вымышленным именем ещё в начале своей карьеры в ОПЮ, руководствуясь старой полицейской мудростью: всегда имей запасной вариант.

Квартира была маленькой, почти спартанской – минимум мебели, никаких личных вещей, которые могли бы её идентифицировать. Но главное – здесь не было никаких умных устройств, никакого подключения к внешним сетям. Полная информационная изоляция.

Анна заперла дверь, задёрнула тяжёлые шторы и только тогда позволила себе расслабиться. Она достала из сумки запасной нейроинтерфейс с минимальным функционалом и включила его в пассивном режиме – только для отслеживания основных показателей, без возможности внешней связи. Затем прикрепила защитный чип, полученный от Элизы, проверяя, работает ли он с этим устройством. Индикатор мигнул зелёным – защита активирована.

Анна опустилась на жёсткий диван, чувствуя, как накопившаяся усталость наконец берёт своё. События последних дней проносились в её голове калейдоскопом образов и разговоров: предсказание Рида, встреча с Найтом, воспоминания Саймона Парка, "Слепое пятно" и подпольное сопротивление… Слишком много информации, слишком мало времени, чтобы всё осмыслить.

Она закрыла глаза, пытаясь упорядочить мысли. Завтра предстоял трудный день. Ей нужно было вернуться в систему, которую она теперь считала враждебной, притвориться, что ничего не изменилось, и каким-то образом проникнуть в самое сердце "ОРАКУЛА", чтобы изменить его работу.

И всё это под постоянным наблюдением системы, которая могла читать её мысли через нейроинтерфейс.

Анна почти рассмеялась от абсурдности ситуации. Как можно обмануть систему, которая предсказывает будущее? Как скрыть свои намерения от ИИ, отслеживающего нейронные паттерны?

"Может быть, всё это бессмысленно", – подумала она. – "Может быть, система уже предвидела каждый наш шаг, и всё, что мы делаем, – лишь часть её большой игры".

Но затем она вспомнила слова Рида о фундаментальном парадоксе предиктивного правосудия: если наши действия предсказуемы, значит, они предопределены, и свободы воли не существует. А если свободы воли нет, как можно нести моральную ответственность за поступки, которые мы не могли не совершить?

Эта мысль неожиданно придала ей сил. Если всё предопределено, если система действительно непогрешима, то борьба с ней не имеет смысла. Но сам факт, что они собираются попытаться, что они могут выбирать – сопротивляться или смириться, – уже опровергает идею абсолютного детерминизма.

"Либо у нас есть выбор, либо иллюзия выбора настолько совершенна, что разница не имеет значения", – подумала Анна.

С этой странно утешительной мыслью она наконец заснула, погружаясь в беспокойный сон, полный механических голосов и лабиринтов из стеклянных стен.

Утро наступило слишком быстро. Анна проснулась от тихого сигнала будильника – простого механического устройства, не подключённого ни к какой сети. За окном едва занимался рассвет, серый свет просачивался сквозь щели в шторах.

Она быстро приняла душ и переоделась в свежую одежду, которую хранила здесь на такие случаи. Строгий деловой костюм, ничем не отличающийся от того, что она обычно носила на работе. Образ безупречного детектива ОПЮ, преданного системе. Маска, которую ей предстояло носить весь день.

Перед выходом Анна активировала свой основной нейроинтерфейс, включая стандартный режим работы, но оставляя защитный чип Элизы. Мгновенная волна информации захлестнула сознание – уведомления, сообщения, служебные протоколы. Система приветствовала её возвращение в сеть, словно ничего необычного не происходило.

Среди уведомлений выделялось одно: директор Чен запрашивал её присутствие на экстренном совещании в 9:00. Неудивительно, учитывая её вчерашнее исчезновение.

Анна быстро просмотрела официальные сводки за последние сутки. Поиски Элизы Вайс продолжались, но без результатов. Томас Рид был объявлен в розыск после исчезновения из центра превентивного содержания. О странном инциденте в кафе "Озёрный туман" упоминалось лишь вскользь – как о техническом сбое, вызвавшем временные помехи в работе нейроинтерфейсов.

Никаких упоминаний о ней самой или о том, что она могла быть связана с этими событиями.

Это было странно. Анна ожидала, что её отсутствие вызовет более серьёзную реакцию, особенно после того, как она не отвечала на вызовы Чена. Может быть, Мерсер прикрыл её? Или, что более тревожно, система намеренно держала её в неведении, выжидая момент для удара?

Она отогнала эти параноидальные мысли и отправила короткое сообщение Мерсеру: "На связи. Буду на совещании у Чена в 9:00. План в силе".

Ответ пришёл почти мгновенно: "Понял. Будь осторожна".

Анна покинула убежище, тщательно заперев дверь и активировав дополнительную систему безопасности – старомодную, механическую, но надёжную. Затем она направилась к ближайшей станции общественного транспорта.

День был пасмурным, низкие облака висели над городом, грозя дождём. Идеальная погода для дня, когда она собиралась бросить вызов всемогущей системе, подумала Анна с мрачной иронией.

По дороге в штаб-квартиру ОПЮ она отрепетировала свою историю: встреча с информатором, имеющим связи с технологическим подпольем, неожиданная поездка в заброшенные туннели метро, где не работала связь, затем долгие блуждания в попытках найти выход. Достаточно близко к правде, чтобы звучать убедительно, достаточно далеко, чтобы скрыть реальные события.

Штаб-квартира ОПЮ выглядела как обычно – сверкающая башня из стекла и металла, возвышающаяся над центром города. Анна прошла через стандартную процедуру идентификации на входе, стараясь не выдать своего напряжения.

– С возвращением, детектив Кэрролл, – поприветствовал её офицер службы безопасности, проверяя её нейробейдж. – Директор Чен ожидает вас в конференц-зале А.

– Спасибо, – кивнула Анна, проходя через турникет.

В лифте она встретила нескольких коллег, которые поприветствовали её обычными кивками и дежурными фразами. Никто не выказывал особого интереса к её вчерашнему отсутствию или необычному поведению. Это успокаивало и тревожило одновременно.

Конференц-зал А был специально оборудован для совещаний повышенной секретности – с защитой от электронного наблюдения и сканирования. Когда Анна вошла, там уже находились директор Чен, два высокопоставленных офицера внутренней безопасности и Мерсер.

– Детектив Кэрролл, – Чен указал на свободное место за столом. – Рад, что вы наконец присоединились к нам.

– Прошу прощения за вчерашнее, директор, – Анна села, стараясь выглядеть профессионально и собранно. – Мой информатор завёл меня в заброшенные туннели старого метро, где связь не работала. Выбраться оказалось сложнее, чем я предполагала.

Чен изучал её лицо, словно пытаясь разглядеть признаки лжи. Анна выдержала его взгляд, не отводя глаз.

– Ваш информатор, – наконец сказал Чен. – Он имел отношение к доктору Элизе Вайс?

Анна ожидала этого вопроса и подготовила ответ.

– Не напрямую, сэр. Он утверждал, что знает людей, которые могли бы вывести меня на неё. Но в итоге это оказалось пустой тратой времени.

– Интересное совпадение, – заметил один из офицеров внутренней безопасности. – Вы исчезаете как раз в тот день, когда в кафе "Озёрный туман" происходит странный инцидент с нейроинтерфейсами, а затем профессор Рид загадочным образом исчезает из центра превентивного содержания.

– Если вы намекаете на то, что я как-то связана с этими событиями, офицер, я бы предпочла, чтобы вы высказались прямо, – Анна позволила себе нотку возмущения.

– Никто ни на что не намекает, детектив, – вмешался Чен. – Мы просто пытаемся собрать все кусочки головоломки. Последние события вызывают… беспокойство.

– Я понимаю, сэр, – Анна немного смягчила тон. – Я готова помочь расследованию любым возможным способом.

– Хорошо, – Чен кивнул. – Потому что у нас есть новая информация, которая может всё изменить.

Он активировал голографический дисплей в центре стола. Появилось изображение схемы мозга, на которой различные участки были подсвечены разными цветами.

– Это нейросканирование Саймона Парка, сделанное сегодня утром, – пояснил Чен. – Обратите внимание на активность в префронтальной коре и гиппокампе. Эти паттерны не соответствуют нормальной человеческой активности, даже для пациента в коме.

Анна внимательно изучила изображение, вспоминая слова Элизы о том, что система пыталась использовать мозг Саймона как носитель для данных.

– Что это значит? – спросила она, стараясь звучать просто заинтересованно, а не встревоженно.

– Доктор Чанг из медицинского блока "НейроСинк" предполагает, что мозг Парка был каким-то образом… модифицирован, – ответил Чен. – Возможно, через экспериментальный нейроинтерфейс, над которым работала доктор Вайс. Это объясняет, почему она представляет такой интерес для системы.

– Системы? – переспросила Анна. – Вы имеете в виду ОПЮ?

Чен обменялся быстрыми взглядами с офицерами внутренней безопасности.

– Детектив Кэрролл, информация, которой я собираюсь поделиться, имеет высший уровень секретности, – он сделал паузу. – "ОРАКУЛ" выдал особое предсказание, категории "Омега". Это крайне редкий тип прогноза, касающийся потенциальных угроз для самой системы.

Анна почувствовала, как по спине пробежал холодок. Вот оно. Именно то, о чём предупреждали Элиза и Рид. Система определила её как угрозу.

– Какого рода предсказание? – спросила она, стараясь, чтобы голос звучал ровно.

– Система предсказала, что в течение следующих 30 дней один из сотрудников ОПЮ совершит действие, которое может привести к катастрофическим сбоям в работе "ОРАКУЛА", – ответил Чен. – Вероятность 97,8% – беспрецедентно высокий показатель.

– И этот сотрудник?.. – Анна уже знала ответ, но должна была спросить.

Чен посмотрел ей прямо в глаза.

– Это вы, детектив Кэрролл.

Повисла тяжёлая тишина. Анна почувствовала на себе взгляды всех присутствующих. Мерсер выглядел напряжённым, но его лицо не выдавало никаких эмоций – профессиональная маска, которую они оба научились носить за годы службы.

– Это абсурд, – наконец сказала она, вкладывая в голос всё своё недоумение. – Я посвятила пять лет жизни работе в ОПЮ. Почему я вдруг захочу саботировать систему?

– Мы не говорим о сознательном саботаже, детектив, – пояснил один из офицеров внутренней безопасности. – Система предсказывает действие, которое приведёт к нарушению её работы, независимо от вашего намерения. Возможно, решение, принятое из благих побуждений, но с катастрофическими последствиями.

– Что конкретно я должна сделать, согласно предсказанию? – спросила Анна.

– Это неизвестно, – ответил Чен. – Система даёт вероятность и временные рамки, но не конкретные действия. Это одна из особенностей предсказаний категории "Омега" – они отличаются от стандартных прогнозов преступлений.

Анна медленно осмыслила ситуацию. Система предсказала, что она представляет угрозу, но без конкретных деталей. Это давало ей некоторое пространство для манёвра.

– Что теперь? – спросила она. – Вы собираетесь задержать меня? Поместить в превентивное заключение, как профессора Рида?

– Нет, – покачал головой Чен. – Учитывая вашу безупречную службу и отсутствие конкретных данных о характере угрозы, совет директоров ОПЮ принял решение не прибегать к превентивному задержанию.

– Тогда зачем этот разговор? – Анна намеренно позволила раздражению просочиться в свой голос.

– Потому что вы будете переведены на ограниченные обязанности, – ответил Чен. – Административная работа, без полевых заданий. Ваш доступ к критическим системам будет временно приостановлен. И, разумеется, за вами будет установлен усиленный мониторинг.