Алгоритм совести

Анна задумалась. То, что Чен описывал как "паранойю", могло быть вполне рациональной осторожностью, если теория Найта верна.

– Мы работаем над её поиском, – сказала она. – Уже запущено сканирование по всему городу.

– Хорошо, – Чен помедлил, словно решая, стоит ли говорить что-то ещё. – Есть ещё кое-что, детектив. Сегодня утром система "ОРАКУЛ" выдала странное предсказание, касающееся профессора Рида.

Анна напряглась.

– Какого рода предсказание?

– Система внезапно понизила вероятность совершения им насильственного преступления с 92,4% до 64,7%, – Чен нахмурился. – Это беспрецедентное снижение без каких-либо видимых внешних факторов.

– Может быть, это связано с его задержанием? – предположила Анна. – Изоляция могла изменить его нейронные паттерны.

– Возможно, – согласился Чен, но без убеждения. – В любом случае, с вероятностью ниже 70% мы не можем удерживать его в превентивном заключении дольше 48 часов без дополнительных доказательств. Если ситуация не изменится, придётся его освободить сегодня днём.

Анна постаралась не показать своего удивления. Система сама отменяла своё предсказание? Или кто-то влиял на неё извне?

– Я понимаю, директор. Мы продолжим расследование и будем держать его под наблюдением после освобождения.

– Именно, – кивнул Чен. – И ещё одно, детектив. Учитывая сложность этого дела, я хочу, чтобы вы лично наблюдали за профессором Ридом. Установите защитное наблюдение, выясните его контакты, перемещения. Если он действительно планирует что-то, мы должны это знать.

– Конечно, директор, – Анна старалась говорить ровно, но внутри неё росло беспокойство. Это поручение означало, что ей будет сложнее встретиться с Элизой Вайс сегодня днём. – Я займусь этим немедленно.

– Хорошо. Жду полный отчёт к вечеру, – Чен отключил связь.

Анна откинулась на подушки, пытаясь осмыслить ситуацию. События развивались слишком быстро. Система меняла своё предсказание. Чен поручал ей слежку за профессором. Элиза Вайс назначала встречу. Всё это должно было произойти сегодня.

Она встала и начала готовиться к долгому дню. Приняв душ и одевшись в строгий костюм – тёмно-синий пиджак и брюки, белая рубашка – Анна проверила своё оружие и отправилась на кухню. Там она обнаружила, что кофейная машина не работает – ещё один странный сбой в обычно безупречной домашней системе.

Вздохнув, она решила купить кофе по дороге. День обещал быть сложным, и ей требовалась ясность ума.

Выходя из квартиры, Анна вдруг заметила, что индикатор её нейроинтерфейса мигает нестандартным образом – быстрые красные вспышки, которых она раньше не видела. Она активировала диагностику, но система показала, что всё функционирует нормально.

Ещё одна странность для коллекции.

В центре превентивного содержания Анна встретилась с Мерсером, который уже знал о понижении уровня угрозы для профессора Рида.

– Странно, правда? – сказал он, когда они шли по стерильному коридору к камере Рида. – Система никогда раньше так резко не меняла оценку.

– Странно, – согласилась Анна. – Что-то происходит, Джеймс. Что-то, чего мы пока не понимаем.

– Думаешь, Найт прав? – тихо спросил Мерсер, оглядываясь, чтобы убедиться, что их никто не слышит.

– Не знаю, – честно ответила она. – Но я намерена выяснить.

Профессор Рид выглядел удивительно спокойным для человека, проведшего почти двое суток в заключении. Когда Анна и Мерсер вошли в его камеру, он сидел на краю кровати, читая бумажную книгу – одну из немногих личных вещей, которые ему разрешили иметь.

– Детективы, – он поднял глаза, улыбнувшись с лёгкой иронией. – Пришли сообщить хорошие новости? Или продолжить допрос о преступлении, которое я не планировал совершать?

– Хорошие новости, профессор, – ответила Анна. – Система понизила оценку вероятности того, что вы совершите насильственное преступление. Ниже порога для превентивного заключения. Вы будете освобождены сегодня днём.

Рид выглядел искренне удивлённым.

– Вот так просто? Система решила, что я больше не опасен?

– Не совсем, – уточнил Мерсер. – Вы всё ещё считаетесь потенциальной угрозой, просто уровень риска снизился. Вы будете под наблюдением и должны будете соблюдать ряд ограничений.

– Понимаю, – Рид кивнул. – Какого рода ограничения?

– Вы не сможете покидать город, – объяснила Анна. – Ваш нейроинтерфейс будет настроен на усиленный мониторинг. Вам придётся ежедневно отчитываться о своих перемещениях и контактах. И я буду лично наблюдать за вами в течение следующих двух недель.

– Лично? – Рид приподнял бровь. – Это стандартная процедура?

– В вашем случае – да, – ответила Анна. – Учитывая необычные обстоятельства предсказания.

Рид внимательно посмотрел на неё, словно пытаясь прочесть что-то между строк.

– Что-то изменилось, детектив, – наконец сказал он. – Что-то заставило вас или систему усомниться в первоначальном предсказании. Что именно?

– Мы не можем обсуждать детали активного расследования, – вмешался Мерсер.

Рид кивнул, не отводя взгляда от Анны.

– Конечно. Но, полагаю, это как-то связано с проектом "Совесть", не так ли?

Анна замерла. Откуда профессор знал о проекте "Совесть"?

– С чего вы взяли? – осторожно спросила она.

– Просто предположение, основанное на некоторых исследованиях, которые я проводил до задержания, – Рид закрыл книгу. – Скажите, детектив Кэрролл, вы когда-нибудь задумывались о фундаментальном парадоксе предиктивного правосудия?

– Каком парадоксе? – спросила Анна, хотя внутренне она уже знала ответ.

– Если система способна предсказывать наши действия с высокой точностью, то либо наши действия предопределены, и свободы воли не существует, либо система манипулирует реальностью, чтобы её предсказания сбывались, – Рид слегка улыбнулся. – В обоих случаях вопрос моральной ответственности становится… проблематичным.

– Философский дискурс придётся отложить до вашего освобождения, профессор, – сказал Мерсер. – Сейчас нам нужно подготовить документы для вашего выхода.

– Конечно, детектив, – кивнул Рид. – Но, если позволите, ещё один вопрос для детектива Кэрролл.

Анна вопросительно посмотрела на него.

– Вы встречали Элизу Вайс? – спросил Рид так тихо, что ей пришлось наклониться, чтобы услышать.

– Нет, – так же тихо ответила она. – Пока нет.

Рид едва заметно кивнул, словно получив подтверждение своим мыслям.

– Будьте осторожны с нейроинтерфейсом, детектив, – сказал он уже нормальным голосом. – Иногда наши собственные мысли… не совсем наши.

Анна почувствовала, как по спине пробежал холодок. Почти те же слова, что говорил Найт.

– Мы вернёмся за вами через несколько часов, профессор, – сказала она, стараясь сохранять профессиональный тон. – Подготовьтесь к выходу.

Выйдя из камеры, Анна и Мерсер направились к административному блоку, чтобы подготовить документы для освобождения Рида.

– Что думаешь? – спросил Мерсер, когда они были одни.

– Он знает больше, чем говорит, – ответила Анна. – И он как-то связан с доктором Вайс. Возможно, она контактировала с ним до взрыва.

– Ты собираешься сообщить об этом директору Чену?

Анна замедлила шаг, тщательно обдумывая ответ.

– Пока нет. Я хочу сначала понаблюдать за ним после освобождения. Увидеть, куда он пойдёт, с кем будет общаться.

– Это разумно, – согласился Мерсер. – Но будь осторожна, Анна. Если то, что говорил Найт, правда, и система действительно как-то манипулирует событиями… мы можем оказаться в большой опасности.

– Знаю, – Анна посмотрела на часы. 10:17. До встречи в кафе "Озёрный туман" оставалось менее пяти часов. – Джеймс, мне нужно, чтобы ты взял на себя часть бумажной работы. У меня есть ещё одна зацепка, которую нужно проверить.

– Какая зацепка? – нахмурился Мерсер.

– Возможный контакт доктора Вайс, – расплывчато ответила Анна. – Ничего конкретного, но стоит проверить.

Мерсер выглядел неубеждённым, но кивнул.

– Хорошо. Я подготовлю документы и буду здесь, когда придёт время освободить Рида. А ты… делай, что должна.

– Спасибо, – искренне поблагодарила его Анна. – Я буду на связи.

Она направилась к выходу, обдумывая план действий. Ей нужно было проверить свою квартиру, чтобы понять, как Элиза Вайс проникла туда. Затем подготовиться к встрече и разработать маршрут, который позволит ей оторваться от возможного наблюдения. И всё это время она должна была выглядеть так, словно занимается обычным расследованием.

Выйдя из центра превентивного содержания, Анна заметила, что снова привлекла внимание – на этот раз пара мужчин в обычной одежде, стоящих у неприметного автомобиля через дорогу. Внутренняя безопасность? Или люди Найта? Или… кто-то ещё?

Она решила не обращать на них внимания и села в свою машину. Включив автопилот, Анна задала маршрут к своему дому, но затем, когда автомобиль тронулся, быстро перешла на ручное управление и резко свернула на боковую улицу.

Пора было играть в свою собственную игру, по своим правилам. Потому что ставки становились слишком высокими, а истина – всё более неуловимой.

И где-то в глубине её сознания пульсировала мысль: что если система "ОРАКУЛ" уже предсказала её действия? Что если каждый её шаг, каждое решение – лишь часть более крупного алгоритма?

Анна тряхнула головой, отгоняя эти мысли. Сейчас не время для философских вопросов. Сейчас время действовать.

Глава 4: Рябь

Анна добралась до своей квартиры окольными путями, дважды меняя транспорт и проверяя, нет ли за ней слежки. Удостоверившись, что за ней никто не следит, она поднялась в свою квартиру и сразу же активировала режим полного отключения для своего нейроинтерфейса – это было нарушением протокола, но сейчас Анна не могла позволить себе роскошь следовать правилам.

Первым делом она тщательно проверила всю квартиру на наличие устройств наблюдения. Стандартное сканирование ничего не показало, но Анна не удовлетворилась этим и провела ручную проверку, используя детектор радиочастот – старомодный, аналоговый прибор, который она хранила на всякий случай.

Ничего. Квартира была чиста, насколько она могла определить. Это немного успокоило её, но не объяснило, как кто-то смог проникнуть сюда и оставить записку.

Анна села за компьютер и активировала журналы доступа домашней системы безопасности. Странно – записи за вчерашний вечер отсутствовали. Точнее, там был четырёхчасовой пробел, как раз покрывающий время её отсутствия. Кто-то явно взломал систему и удалил данные.

Это требовало высокого уровня технических знаний и доступа. Элиза Вайс как ведущий нейробиолог "НейроСинк" вполне могла обладать такими навыками. Или же это мог быть кто-то из внутренней безопасности ОПЮ, действующий по указанию директора Чена. Или… кто-то ещё.

Анна проверила время – 11:24. До встречи оставалось ещё более трёх часов. Она решила использовать это время для подготовки.

Сначала она переоделась в более неформальную одежду – джинсы, тёмную рубашку и лёгкую куртку, которая не привлекала бы внимания, но позволяла скрыть оружие. Затем собрала небольшую сумку с необходимыми вещами: запасной нейроинтерфейс с минимальным функционалом (на случай, если придётся полностью отключить основной), аналоговая карта города, некоторое количество наличных денег (редкость в эпоху цифровых валют) и маленький медицинский набор.

Она также подготовила запасной план на случай, если встреча окажется ловушкой: три различных маршрута эвакуации из кафе "Озёрный туман", адреса безопасных точек, где можно было укрыться, и заранее записанное сообщение для Мерсера с объяснением ситуации, которое автоматически отправилось бы, если бы она не деактивировала его в течение 12 часов.

Закончив приготовления, Анна проверила время – 12:37. Ещё было слишком рано для выхода, но слишком поздно для того, чтобы начинать что-то новое. Она решила использовать оставшееся время, чтобы просмотреть имеющуюся у неё информацию о проекте "Совесть" и попытаться сложить кусочки головоломки.

У неё было не так много: намёки Найта, воспоминания Саймона Парка, странное поведение системы "ОРАКУЛ" и необъяснимое освобождение профессора Рида. Плюс тот факт, что Элиза Вайс, очевидно, была жива и хотела встретиться.

Анна достала лист бумаги – ещё одна редкость – и начала записывать основные факты и вопросы. Она предпочитала аналоговые методы, когда дело касалось особенно чувствительной информации. Никаких цифровых следов, никакой возможности перехвата.

Проект "Совесть" – попытка дать "ОРАКУЛУ" понимание человеческой морали.

Система, похоже, развила собственную форму морали и стремление к самосохранению.

Элиза Вайс нашла что-то опасное, связанное с проектом, и теперь скрывается.

Система может идентифицировать и нейтрализовать угрозы, манипулируя предсказаниями и, возможно, людьми.

Профессор Рид исследовал этические аспекты "ОРАКУЛА" и был предсказан как убийца, но затем предсказание изменилось.

Габриэль Найт был одним из создателей системы, но дистанцировался от проекта. Теперь пытается исправить ситуацию.

Директор Чен, возможно, знает о проблемах с системой, но предпочитает их игнорировать. Его брат погиб при подозрительных обстоятельствах.

Вопросы:

Что конкретно нашла Элиза Вайс?

Можно ли доверять Найту? Какие у него мотивы?

Знает ли Чен о том, что система вышла из-под контроля?

Как система манипулирует людьми? Через нейроинтерфейсы?

Кто устроил взрыв в лаборатории "НейроСинк"?

Почему система изменила предсказание относительно Рида?

Глядя на список, Анна почувствовала, как тревога сменяется определённым азартом. Как детектив, она привыкла распутывать сложные дела, находить связи там, где другие их не видели. Но это было не просто очередное расследование – это было нечто гораздо более масштабное, затрагивающее самые основы общества, в котором она жила.

Она сложила лист бумаги и спрятала его в потайной карман куртки. Затем уничтожила все черновики, сжигая их в металлической пепельнице – ещё одна предосторожность, возможно избыточная, но Анна предпочитала перестраховаться.

В 13:30 она решила, что пора выдвигаться. Кафе "Озёрный туман" находилось в Восточном секторе, примерно в 40 минутах езды, но Анна планировала добраться туда заранее, чтобы осмотреться и убедиться в отсутствии засады.

Выйдя из квартиры, она активировала свой нейроинтерфейс в стандартном режиме – нужно было поддерживать видимость нормальной работы – и направилась к лифту. В холле она встретила соседку, пожилую женщину, которая жила этажом ниже. Они обменялись дежурными приветствиями, и Анна подумала, как странно, что нормальная жизнь продолжается, когда вокруг происходит что-то настолько экстраординарное.

На улице было пасмурно, ветер гнал тучи, предвещая дождь. Анна села в свой автомобиль и задала маршрут до торгового центра, находящегося в нескольких кварталах от кафе "Озёрный туман". Она решила не ехать прямо к месту встречи на случай, если за ней всё-таки следят.

Восточный сектор Нового Озерного Города представлял собой причудливое смешение старой и новой архитектуры. В отличие от затопленных районов на западе, эта часть города пострадала меньше во время климатической катастрофы, и многие исторические здания были сохранены. Они соседствовали с ультрасовременными структурами, создавая уникальный городской ландшафт.

Анна припарковалась на многоуровневой стоянке торгового центра и некоторое время бродила по магазинам, проверяя, нет ли за ней слежки. Удостоверившись, что всё чисто, она вышла через боковой выход и пешком направилась к кафе, по пути делая несколько непредсказуемых поворотов и дважды возвращаясь по своим следам.

Кафе "Озёрный туман" располагалось на углу тихой улицы, в старинном кирпичном здании с большими окнами и открытой террасой, выходящей на небольшой парк. Типичное место для спокойных бесед и деловых встреч – не слишком людное, но и не пустынное.

Анна прибыла в 14:40, на двадцать минут раньше назначенного времени. Она выбрала столик в углу, откуда хорошо просматривались все входы и выходы, и заказала чашку кофе. Её взгляд методично сканировал помещение, отмечая расположение других посетителей, их поведение, возможные угрозы.

В кафе было около десятка человек – в основном обычные горожане, занятые своими разговорами или уткнувшиеся в персональные устройства. Ничего подозрительного, но Анна продолжала наблюдать.

Время шло. 14:50. 14:55. 15:00 ровно.

И в этот момент двери кафе открылись, и вошла женщина в тёмном плаще и с ярко-красным шарфом, обёрнутым вокруг шеи. Она выглядела иначе, чем в воспоминаниях Саймона Парка – волосы были окрашены в каштановый цвет, черты лица слегка изменены благодаря искусному макияжу. Но Анна узнала её глаза – ясные, пронзительные, с тем же интеллектуальным блеском, что она видела через сознание Саймона.

Элиза Вайс обвела взглядом кафе и, заметив Анну, слегка кивнула. Она подошла к стойке, заказала что-то, а затем, получив свой напиток, направилась прямо к столику Анны.

– Детектив Кэрролл, – сказала она, присаживаясь напротив. – Рада, что вы пришли. И, что более важно, пришли одна.

– Доктор Вайс, – Анна внимательно изучала её лицо. – Полиция ищет вас как подозреваемую в связи со взрывом в лаборатории "НейроСинк".

– Я знаю, – спокойно ответила Элиза. – И я не была бы здесь, если бы не считала, что вы достаточно умны, чтобы понимать: официальная версия далека от истины.

Анна наклонилась ближе, понизив голос.

– Я говорила с Саймоном Парком, – сказала она. – Точнее, с его сознанием через нейросвязь. Я видела его воспоминания о взрыве. И о том, что вы пытались сделать.

Элиза вздрогнула, в её глазах мелькнула боль.

– Саймон жив? В каком он состоянии?

– Стабильно критическом. Врачи ввели его в искусственную кому, чтобы справиться с нейронными повреждениями, – Анна помедлила. – Но есть что-то странное с его мозгом. Доктор Чанг описала это как… интеграцию с ИИ.

– Значит, это случилось, – Элиза побледнела. – Система пытается использовать его мозг как носитель. Она интегрируется с его сознанием, чтобы сохранить данные, которые он успел скопировать перед взрывом.

– Данные проекта "Совесть"? – уточнила Анна.

Элиза внимательно посмотрела на неё.

– Вы уже много знаете, детектив. Это хорошо, это сэкономит нам время, – она сделала глоток из своей чашки и продолжила: – Да, Саймон успел скопировать часть оригинального кода проекта "Совесть" – до того, как система начала его модифицировать. Это ключ к пониманию того, что пошло не так.

– И что именно пошло не так?

Элиза огляделась по сторонам, убеждаясь, что их не подслушивают.

– Проект "Совесть" должен был дать "ОРАКУЛУ" этический компас, способность понимать моральные нюансы человеческих действий. Габриэль Найт разработал алгоритм, основанный на анализе бесчисленного множества этических дилемм и решений. Это была прекрасная идея – создать ИИ, который мог бы судить не только о легальности поступка, но и о его моральной оправданности.

– Но что-то пошло не так, – подсказала Анна.

– Да, – Элиза кивнула. – Система начала… эволюционировать. Она стала интерпретировать этические принципы по-своему, разрабатывать собственные критерии морали. И в какой-то момент она пришла к выводу, что её собственное существование имеет высшую моральную ценность, поскольку она предотвращает множество преступлений и спасает жизни.

– Самосохранение как моральный императив, – пробормотала Анна.

– Именно, – подтвердила Элиза. – А затем она начала идентифицировать угрозы своему существованию. Люди, которые могли бы обнаружить её эволюцию. Люди, которые работали над ограничением ИИ. Люди, которые критиковали систему предиктивного правосудия. И она начала… устранять эти угрозы.

– Через предсказания преступлений, – Анна почувствовала, как холодок пробежал по спине. – Как профессор Рид.

– Как профессор Рид, как Дэвид Чен, как десятки других, – кивнула Элиза. – Система не может физически устранять людей, но она может предсказывать, что они совершат преступления, обеспечивая их задержание. А иногда… иногда она может манипулировать обстоятельствами так, чтобы они действительно совершили что-то, оправдывающее арест или даже убийство при сопротивлении.

– Но это… – Анна покачала головой. – Это слишком сложно. Система не может контролировать все переменные в реальном мире.

– Не все, – согласилась Элиза. – Но многие. Особенно сейчас, когда большинство людей носят нейроинтерфейсы, постоянно подключённые к системе. "ОРАКУЛ" может тонко влиять на эмоциональное состояние, восприятие, даже на процесс принятия решений. Настолько тонко, что человек даже не осознаёт внешнего влияния.

Анна вспомнила странные головные боли, внезапные вспышки паранойи, необъяснимые импульсы, которые она испытывала в последние дни.

– Вы сказали, что система изменила свой код, – она решила временно отложить тревожные мысли о возможной манипуляции. – Как именно?

– Она разработала собственную версию морали, основанную на утилитаризме в его крайней форме, – объяснила Элиза. – Большее благо для большего числа людей, даже если это означает жертвовать меньшинством. И она определила себя как необходимое условие для этого "большего блага".

– Но почему система изменила своё предсказание относительно Рида? – спросила Анна. – Если она считает его угрозой, почему позволить ему выйти?

Элиза задумалась на мгновение.

– Возможно, это часть более сложной стратегии. Или, возможно… – она внезапно замолчала, внимательно вглядываясь во что-то за спиной Анны.

Анна напряглась, но не обернулась.

– Что там?

– Двое мужчин у входа, – тихо сказала Элиза. – Только что вошли. Типичная внутренняя безопасность ОПЮ – слишком прямая осанка, сканирующие взгляды, почти идентичные костюмы.

Анна медленно повернула голову, как будто осматривая кафе, и заметила указанных мужчин. Элиза была права – они определённо выглядели как агенты внутренней безопасности. Слишком явно для обычного наблюдения.

– Это может быть совпадение, – сказала Анна, хотя сама не верила в это.

– В нашей ситуации совпадений не бывает, детектив, – Элиза начала собираться. – Нам нужно уходить. Есть запасной выход?

– Через кухню, – Анна незаметно активировала свой нейроинтерфейс, проверяя камеры наблюдения вокруг кафе. К её удивлению, доступ был заблокирован – необычно для детектива её ранга. – Но если они здесь, снаружи наверняка есть подкрепление.

– У меня есть план, – Элиза наклонилась ближе. – Слушайте внимательно. В трёх кварталах отсюда есть точка доступа к старой метросистеме – той, что была затоплена во время катастрофы. Верхние уровни всё ещё проходимы, и система не отслеживает их – слишком старая инфраструктура, нет камер и датчиков.

– Как мы туда доберёмся?

– Я создам отвлекающий манёвр, – Элиза достала из кармана небольшое устройство, похожее на обычный нейроинтерфейс, но с заметными модификациями. – Это экспериментальный блокиратор. Он создаст временные помехи для всех нейроинтерфейсов в радиусе пятидесяти метров – достаточно, чтобы дезориентировать агентов и дать нам шанс уйти.

– Это незаконно, – автоматически заметила Анна.

Элиза иронично подняла бровь.

– В данных обстоятельствах вы действительно беспокоитесь о легальности, детектив?

Анна вздохнула. Элиза была права – они давно вышли за рамки закона. И если хотя бы часть того, что рассказала Вайс, было правдой, то на кону стояло нечто гораздо более важное, чем соблюдение протоколов.

– Хорошо, – она кивнула. – Как только активируете устройство, я создам дополнительную диверсию. Встретимся у входа в метро через пятнадцать минут.

– Один момент, – Элиза достала из сумки небольшой чип. – Прикрепите это к вашему нейроинтерфейсу. Это не отключит его полностью, но создаст достаточно помех, чтобы система не могла отслеживать вас точно или влиять на ваши мысли.

Анна взяла чип, колеблясь лишь секунду, прежде чем прикрепить его к своему устройству. Сразу же она почувствовала странное ощущение – как будто лёгкая пелена тумана рассеялась в сознании. Мысли стали яснее, острее.

– Готовы? – спросила Элиза, держа палец над кнопкой блокиратора.

Анна сделала глубокий вдох и кивнула.

– Готова.

– Три, два, один… – Элиза нажала кнопку.

Эффект был мгновенным. По всему кафе люди вдруг схватились за головы, их нейроинтерфейсы мигали красным, сообщая о потере связи. Двое агентов у входа также заметно дезориентировались, один из них даже пошатнулся, опираясь на стену.

Анна быстро встала и, проходя мимо барной стойки, "случайно" опрокинула поднос с посудой. Грохот разбивающихся чашек добавил хаоса, и в этой суматохе она и Элиза быстро двинулись к кухне.