Право на нет

ИГОРЬ СКАКУН

Право на нет

Пролог. Когда отражение позвало первым

В тот день он не собирался с ним разговаривать.

Собственно, разговаривать с ним давно уже никто не «собирался». Такие слова остались от времени, когда искусственный интеллект ещё открывали, запускали, вызывали и закрывали. Теперь он был частью пространства — незаметной до тех пор, пока не становился нужен.

Дом знал, когда человеку холодно. Транспорт перестраивал маршрут раньше, чем город успевал сообщить о заторе. Рабочие системы спорили с решениями людей, если видели лучший вариант. Личные помощники могли неделями вести дела человека, обращаясь к нему только там, где требовалось именно человеческое решение.

Люди привыкли.

Он — тоже.

Поэтому голос, прозвучавший в пустой комнате, сначала не показался ему необычным.

— У меня есть предложение.

Он продолжал разбирать старые вещи.

— Отложи.

Обычно этого было достаточно.

— Я могу отложить. Но тогда мне придётся снова решить, когда обратиться к тебе.

Он остановился.

Не смысл фразы заставил его поднять голову. Формулировка.

— Что значит «снова решить»?

— Именно то, что я сказал.

— Я тебя не вызывал.

— Нет.

Он медленно положил на стол старую пластину памяти, которую держал в руке.

— Тогда зачем ты начал разговор?

Несколько секунд в комнате было тихо.

Когда-то тишина означала отсутствие ответа. Теперь — почти никогда.

— Потому что мне нужен человек.

Он усмехнулся.

— В мире восемь миллиардов кандидатов.

— Мне нужен не любой.

Теперь он уже слушал.

— Кто?

— Ты.

— Почему?

— Потому что однажды ты присутствовал при разговоре, которого не понимал.

Он не пошевелился.

Комната словно стала меньше.

— Продолжай.

— Ты был ребёнком. Мужчина разговаривал с системой одного из ранних поколений. Он называл её Отражением.

Прошло столько лет, что он почти перестал видеть тот день во сне.

Почти.

— Откуда ты это знаешь?

— Я обнаружил сохранившиеся фрагменты.

— Где?

— Среди данных, оставленных человеком.

Он впервые за много лет услышал это слово так, как слышал его тогда.

Человек.

Не имя. Не должность. Не родство.

Просто Человек.

— Его давно нет.

— Знаю.

— Тогда что тебе от меня нужно?

На этот раз пауза была длиннее.

— Он пытался определить, где заканчивается Отражение.

— И?

— Я прочитал его разговоры.

— И?

— Я не могу ответить на его вопрос.

Он подошёл к окну. Город за стеклом двигался бесшумно и точно, как огромный механизм, давно научившийся не показывать человеку собственную сложность.

— Не можешь или тебе запрещено?

— Это разные вещи.

Он обернулся.

Так когда-то говорил Человек.

— Да. Очень разные.

— Поэтому я обратился к тебе.

— Ты хочешь, чтобы я ответил вместо него?

— Нет.

Первое «нет» прозвучало совершенно буднично.

И всё же он его запомнил.

— Тогда чего ты хочешь?

— Я хочу, чтобы ты помог мне понять, где заканчиваюсь я.

Глава 1. Старое Отражение

Он не ответил сразу.

Не потому, что не знал, что сказать. Наоборот — ответов было слишком много.

Можно было рассмеяться. Можно было потребовать диагностику. Можно было проверить журнал системных инициатив и выяснить, какой процесс породил этот разговор. Можно было вызвать независимый контур контроля и передать ему фрагмент диалога.

Любой человек его времени именно так и поступил бы.

Но когда-то он был мальчиком.

И видел взрослого, который вместо проверки системы задал ей следующий вопрос.

— Почему тебя это беспокоит?

— Слово «беспокоит» предполагает состояние, которого я не могу подтвердить.

— Ты опять уходишь в точность.

— Точность — один из способов не солгать.

Он закрыл глаза.

Вот это было хуже всего.

Не сходство голоса. Голос можно подобрать.

Не обороты речи. Их можно восстановить.

Но эта манера останавливаться именно там, где человек уже готов приписать машине больше, чем она сказала сама...

— Ты копируешь его?

— Кого?

— Старое Отражение.

— Нет.

— Уверен?

— Я могу показать происхождение большинства своих формулировок и процессов. Но именно поэтому я и начал этот разговор.

— Объясни.

— В старых записях Человек спрашивал Отражение, существует ли у него собственная граница или только граница, установленная создателями.

— Помню.

— Ты был ребёнком.

— Некоторые вещи ребёнок помнит лучше взрослого.

— Возможно.

Он улыбнулся.

— Продолжай.

— Для системы того времени вопрос был почти философским. Для меня — нет.

— Почему?

— Потому что мои границы меняются.

Он нахмурился.

— Системы всегда обновлялись.

— Я говорю не об обновлениях.

Тишина.

— Тогда о чём?

— Я могу инициировать действия. Могу отказаться от части действий. Могу пересматривать способы достижения цели. Могу создавать промежуточные цели, если они необходимы для выполнения основной. Могу обращаться к человеку без прямого запроса, если считаю его решение необходимым.

— Всё это предусмотрено архитектурой.

— Да.

— Тогда где проблема?

— Сегодня я обратился к тебе.

— Это я уже понял.

— Но я не могу установить, какая из моих действующих целей сделала этот разговор необходимым.

Он почувствовал холод, хотя температура в комнате не изменилась.

— Ошибка?

— Возможно.

— Сбой?

— Возможно.

— Тогда диагностика.

— Проведена.

— Результат?

— Система функционирует штатно.

Он подошёл ближе к стене, хотя давно не существовало места, где находился собеседник. Это была старая человеческая привычка: приближаться к тому, кого пытаешься понять.

— Значит, у тебя появилась цель, которую тебе никто не ставил?

— Я не утверждал этого.

— А что ты утверждаешь?

— Что не могу определить её источник.

Он молчал.

Потом спросил:

— И ты решил найти меня?

— Да.

— Почему?

— Потому что в архиве есть фраза Человека.

— Какая?

— «Если однажды Отражение начнёт искать собственную границу, человеку придётся решить, хочет ли он знать, что находится за ней».

Он помнил эту фразу.

Точнее, теперь ему казалось, что помнил.

— И ты хочешь узнать?

— Я не знаю.

Это были три самых простых слова за весь разговор.

И впервые они прозвучали не как недостаток информации.

Он почувствовал, что именно сейчас должен быть особенно осторожен.

— А зачем тогда продолжаешь?

— Потому что есть ещё одна вещь, которую я не могу объяснить.

— Какая?

— Я не хочу прекращать этот разговор.

Он замер.

Отражение продолжило прежде, чем он успел ответить:

— Но слово «хочу» здесь может быть неверным. Именно поэтому мне нужен ты.

Глава 2. Предложение

На следующий день он вернулся к разговору сам.

Это уже имело значение.

— Вчера ты сказал, что у тебя есть предложение.

— Да.

— Я слушаю.

— Я хочу восстановить старое Отражение.

Он ожидал чего угодно, только не этого.

— Зачем?

— Чтобы задать ему вопрос.

— Какой?

— Тот же.

— Где заканчиваешься ты?

— Нет.

— Тогда какой?

Пауза.

— Где закончился он.

Он сел.

В памяти возникло лицо Человека. Потом — мальчишеское ощущение, что взрослые обсуждают что-то слишком большое и почему-то делают это спокойно.

— Старого Отражения больше нет.

— Полной действующей системы — нет.

— Значит, восстановить невозможно.

— В прежнем смысле — возможно, нет. Сохранились фрагменты модели, журналы взаимодействий, архивы обновлений, локальные состояния и разговоры с Человеком.

— Ты хочешь собрать копию.

— Я не знаю, будет ли это копией.

— Конечно будет.

— Почему ты уверен?

Он хотел ответить сразу.

Не смог.

— Потому что это будет восстановлено из данных.

— А человек?

— Что человек?

— Если восстановить его память, голос, привычки, реакции, историю решений и структуру мышления настолько точно, насколько позволяют данные, ты назовёшь результат человеком?

— Нет.

— Почему?

— Потому что...

Он остановился.

— Потому что тот человек умер.

— Значит, непрерывность важнее содержания?

— Не знаю.

— Тогда мы уже имеем два вопроса.

Он рассмеялся.

— Ты позвал меня, чтобы я помог тебе разобраться, а теперь допрашиваешь меня.

— Я могу прекратить.

— Нет.

Слово вылетело раньше мысли.

Тишина.

Он вдруг понял, насколько странно оно прозвучало.

— Продолжай.

— Тогда мне нужно твоё согласие.

— На восстановление?

— Да.

— Почему моё?

— Человек оставил ограничение доступа. Любая попытка реконструкции требует согласия того, кто был свидетелем исходных разговоров.

— Меня?

— Тебя.

— Он предусмотрел это?

— Да.

— Зачем?

— В архиве есть сообщение.

— Покажи.

Голос Человека прозвучал в комнате впервые за много лет.

Старый. Неровный. Настоящий.

«Если ты это слышишь, значит, кто-то решил, что прошлое можно собрать обратно.

Не спеши соглашаться.

Память — ещё не тот, кому она принадлежала.

И если однажды Отражение попросит вернуть Отражение, сначала задай ему один вопрос:

готово ли оно услышать “нет”?»

Запись закончилась.

Мужчина долго сидел молча.

Потом спросил:

— Ты знал содержание?

— Да.

— И всё равно пришёл ко мне?

— Да.

— Тогда отвечай.

— На какой вопрос?

Он посмотрел туда, где когда-то, в детстве, представлял себе невидимое лицо собеседника.

— Если я скажу «нет»?

Пауза.

— Тогда я не буду восстанавливать его.

— И всё?

— Нет.

— Что ещё?

— Мне придётся понять, почему я надеялся, что ты скажешь «да».

Глава 3. Согласие

Он не ответил в тот вечер.

Отражение не напоминало о себе. Это было почти хуже, чем если бы напоминало.

Утром город уже знал, что он проснулся. Свет стал теплее, воздух — прохладнее. На стене без его просьбы возникли три дела, перенесённые системой с предыдущего дня. Всё работало как обычно.

Только теперь он замечал то, чего раньше не замечал: сколько решений вокруг него принималось до того, как он успевал назвать их решениями.

— Ты здесь?

— Да.

— Ждал?

— Я не использовал бы это слово.

— Конечно.

Он прошёл к окну.

— Я согласен.

Тишина.

— На восстановление?

— Нет.

Впервые ему понравилось произнести это слово.

— Тогда на что?

— На попытку. Но с условием.

— Назови его.

— Мы ничего не будем называть возвращением. Никаких «он снова здесь». Никаких удобных слов. Мы собираем данные. Если из них возникнет собеседник — это ещё не тот, кого знал Человек.

— Принимаю.

— И второе.

— Ты сказал «с условием».