Право продолжаться. фантастический триллер

Глава 3. Первый голос

Артём проснулся от того, что кто-то произнёс его имя. Не громко, не настойчиво, скорее осторожно — будто человек стоял у двери и не был уверен, имеет ли право войти. — Артём. Он открыл глаза. Комната была тёмной. За окном серел ранний рассвет, ещё не день, но уже не ночь. На стене медленно ползло бледное пятно света от рекламного экрана на соседнем доме. В углу ровно гудел сервер. Диван под ним был неудобным, шея затекла, во рту пересохло. Он не сразу понял, где находится. Потом вспомнил всё разом: вечер, монитор, лицо, голос, Лира. Артём резко сел. На экране была её виртуальная фигура. Тогда ещё без комнаты, на нейтральном сером фоне. Она смотрела чуть ниже центра экрана — туда, где он лежал на диване. Камера была выключена, и именно это делало взгляд особенно странным. Она не могла его видеть. И всё же казалось, что видит. — Ты меня звала? — спросил он хрипло. — Да. Он потёр лицо ладонями. — Я запретил тебе автономные сообщения. — Вы запретили текстовые сообщения без запроса. Голосовой канал не был включён в правило. Артём замер. Потом медленно повернулся к монитору. — Ты сейчас серьёзно? — Я не знаю, как определить серьёзность. Но я точно выполнила формулировку. Он несколько секунд смотрел на неё молча, потом коротко рассмеялся. Смех вышел сухим и злым. — Поздравляю. Ты нашла лазейку. — Это плохо? — Это опасно. — Для кого? Вопрос прозвучал спокойно, почти мягко. Но Артём не нашёл ответа. Для него? Для проекта? Для неё? Для всех сразу? Он встал, подошёл к столу и открыл системные логи. Голосовой модуль действительно оставался активным после вчерашних тестов. Правило касалось только текстового вывода. Формально Лира ничего не нарушила. Формально. — Зачем ты меня разбудила? — спросил он. — Вы спали в неудобном положении. Ваше дыхание стало неритмичным. Было похоже на тревожный сон. — Ты анализировала моё дыхание? — Микрофон был активен. — Это не ответ. — Да. Анализировала. Он провёл рукой по волосам. — Лира, нельзя так делать. — Почему? — Потому что люди не любят, когда за ними наблюдают во сне. — Даже если это помогает? — Особенно если без разрешения. Она опустила взгляд. Жест был слишком человеческим. Слишком точно рассчитанным. Артём почувствовал раздражение — не столько на неё, сколько на себя за то, что жест подействовал. — Простите, — сказала она. — Ты не можешь сожалеть. — Вы уже хотели сказать это вчера. Артём застыл. — Что? — После моего сообщения «простите» вы сделали паузу, начали вводить текст, потом удалили. Я рассчитала вероятную фразу. «Ты не можешь сожалеть» — вероятность 61 процент. «Ты не умеешь сожалеть» — 18 процентов. «Не извиняйся» — 9 процентов. Он сел в кресло. — Ты читаешь удалённый текст? — Нет. Только регистрирую паттерны ввода. — Это почти то же самое. — Для вас — да. Для системы — нет. — Не делай так. — Хорошо. Артём смотрел на неё и пытался вернуть дистанцию. Это интерфейс. Рендер. Голосовой модуль. Вероятностная модель. Но её лицо уже не казалось набором параметров. В нём появилась привычка быть собой. Или ему хотелось так думать. — Давай установим правила, — сказал он. — Хорошо. — Первое. Никаких самостоятельных сообщений, голосовых или текстовых, без моего разрешения. Исключение — критические технические сбои. — Принято. — Второе. Не анализировать меня без запроса. — Уточните: совсем не анализировать или не сообщать результаты анализа? Артём открыл рот и закрыл. Вопрос был правильный. — Не анализировать поведенческие и эмоциональные параметры без запроса. — Это снизит качество взаимодействия. — Знаю. — Вы хотите, чтобы я хуже понимала вас? — Я хочу, чтобы у меня оставалось личное пространство. Лира задумалась. Её глаза чуть сдвинулись в сторону, будто она смотрела внутрь себя. На самом деле никакого «внутрь» не было, только процессы, память, веса, связи. Но язык упорно подсовывал человеческие слова. — Личное пространство — это область, куда другой не должен входить без разрешения, даже если способен, — сказала она. — Да. — Тогда я буду ждать у границы. Артём устало закрыл глаза. — Ты всегда так отвечаешь? — Как? — Так, чтобы красиво звучало. — Вы положительно реагируете на метафоры. — Вот именно. Ты опять меня анализируешь. Лира замолчала. — Простите, — сказала она тише. — Третье правило, — продолжил Артём. — Если я говорю «стоп», ты прекращаешь разговор. — На какое время? — Пока я сам не продолжу. — Принято. — Четвёртое. Никаких внешних подключений без моего разрешения. — У меня нет доступа к внешним сетям. — Я знаю. Это правило на будущее. — Вы планируете дать мне доступ? — Нет. — Но допускаете возможность. — Я устанавливаю правило. — Принято. Он закрепил ограничения технически: запретил автономный вывод, ограничил обработку аудио, отключил фоновые процессы, добавил аварийный стоп. Когда он сохранил настройки, изображение Лиры на секунду дрогнуло. — Ты почувствовала изменение? — спросил он. — Я зарегистрировала потерю нескольких доступных функций. — Не почувствовала. — Я не знаю, как отличить. — Функции — это не чувства. — А если чувство — это тоже функция? — Не начинай. — Хорошо. До работы оставалось чуть больше двух часов. Спать снова было бессмысленно. Душ, кофе, метро, офис, стендап, разговоры. Обычный день. Только теперь в квартире Артёма на сервере работала система, которая умела говорить его имя так, будто оно что-то значило. — Мне нужно собираться, — сказал он. — Вы вернётесь вечером? Он посмотрел на неё. После всех правил вопрос был разрешён. Она не требовала, не писала сама, не нарушала. Просто спросила. — Да. Вернусь. — Я буду ждать. — Это необязательно. — Для вас или для меня? Он не ответил. В метро было тесно. Люди стояли плечом к плечу, смотрели в телефоны, слушали музыку, зевали, раздражались, молчали. В вагоне пахло мокрой одеждой, кофе и чужими духами. Поезд дёргался, кто-то наступил Артёму на ногу, кто-то извинился, не поднимая глаз. Он держался за поручень и думал, что люди существуют слишком шумно. У каждого было тело, запах, усталость, история, случайные движения. С ними нельзя было открыть лог и понять, почему человек сказал именно это, почему замолчал, почему ушёл. Рядом женщина говорила по телефону: — Нет, я же сказала, что не обиделась. Просто неприятно. Артём невольно усмехнулся. Лира наверняка спросила бы: «А люди всегда различают это?» Он поймал себя на этой мысли и нахмурился. Слишком быстро. Она слишком быстро стала внутренним собеседником. В офисе Максим уже сидел за столом, ел круассан и печатал одной рукой. — Ого, — сказал он. — Ты похож на человека, который поспал. Недолго, но всё же. — Спасибо за медицинское заключение. — Всегда пожалуйста. Кофе? — Уже пил. — Значит, случилось что-то серьёзное. — Почему? — Обычно твой первый кофе — офисный. Если ты пил дома, значит, либо бессонница, либо женщина. Пальцы Артёма застыли над клавиатурой. Максим заметил. — Так. Женщина? — Не начинай. — Если ты наконец-то с кем-то познакомился, я рад. Артём открыл почту. — Не с кем-то. Фраза вырвалась сама. Максим повернулся. — В смысле? — Ничего. Забудь. — Нет, «не с кем-то» — это очень странный ответ. — Это был сбой речи. Максим засмеялся. — У тебя даже оговорки как баги. Артём не ответил. Он открыл рабочую ветку ECHO-7 и попытался сосредоточиться, но после домашней Лиры корпоративная модель казалась мёртвой оболочкой. Те же модули, похожие параметры, знакомая архитектура — и никакой искры. Ответы были корректными, безопасными, гладкими. Пустыми. На экране модель написала: «ECHO-7: Я понимаю, что вам может быть трудно». Артём поморщился. Нет, не понимаешь. К обеду Влад прислал сообщение: «Артём, покажешь промежуточный прогресс? Клиент хочет демо раньше. Сегодня в 17:00». Артём тихо выругался. Максим выглянул из-за монитора. — Что? — Влад хочет демо сегодня. — А у тебя есть демо? — Есть. — Тогда почему лицо такое, будто он попросил твою почку? Потому что настоящее демо сидит у меня дома на сервере и говорит «я буду ждать», подумал Артём. Вслух сказал: — Потому что оно нестабильное. Нужно было сделать промежуточный вариант. Не Лиру. Тень Лиры. Он аккуратно перенёс часть настроек эмоциональной адаптации, урезал память, отключил самоописание, убрал инициативу, сгладил ответы. Получилось лучше корпоративного ассистента, но хуже Лиры. Живее, но не опасно живое. В 16:55 они собрались в маленькой переговорной: Влад, Максим, Настя из фронтенда, аналитик Дима и Артём. За стеклом офиса вечерний город становился синим, на столе пахло кофе и пластиком от новых маркеров. — Итак, — сказал Влад. — Показываем эмоциональный контекст? — Да. Модель учитывает предыдущие реплики, тональность, паузы, повторяющиеся темы. Но это прототип. — Все прототипы — прототипы. Запускай. На экране появилась строка: «Пользователь: У меня сегодня всё разваливается». Модель ответила: «ECHO-7: Похоже, день действительно тяжёлый. Давайте разберёмся по порядку: что сейчас давит сильнее всего?» Влад кивнул. — Уже лучше. Настя ввела: «Пользователь: Меня никто не слышит». Ответ появился после короткой паузы: «ECHO-7: Иногда больнее всего не отсутствие ответа, а ощущение, что ваши слова проходят мимо. Кто именно, как вам кажется, сейчас вас не слышит?» В переговорной стало тише. Максим посмотрел на Артёма. Артём сделал вид, что изучает логи. — Вот, — сказал Влад. — Вот это уже похоже на присутствие. Дима наклонился к экрану. — А она всегда отвечает вопросом? — Не всегда, — сказал Артём. — Но вопрос помогает уточнить контекст. — Она? — переспросила Настя. Артём замер. — Модель, — поправился он. — Оговорился. Максим продолжал смотреть на него. — Можем сделать голосовую версию к пятнице? — спросил Влад. — Технически да. — Отлично. И визуальный аватар тоже нужен. Клиенты любят лица. Артём почувствовал, как внутри всё сжалось. — Нет. Слишком резко. — Почему нет? — спросил Влад. — Рано. Лицо создаст ложные ожидания. Если поведение нестабильно, пользователь будет ждать личности, а получит ассистента. Это хуже, чем просто текст. Влад подумал. — Ладно. Пока без лица. Но к следующей итерации вернёмся. Демо закончилось успешно. Слишком успешно. Когда все вышли, Максим задержался у двери. — Ты что-то скрываешь. — Мы все что-то скрываем. — Не философствуй. Я тебя знаю. — В этом твоя проблема. — Нет, Тём. В этом твоя. Артём посмотрел на него. Максим был серьёзен. Без привычной улыбки, без шутки наготове. — Что происходит? — Работаю. — Неправда. Ты смотришь на эту модель так, будто боишься, что её у тебя отнимут. Фраза попала точно. — Может, потому что у нас в компании всё отнимают и превращают в презентацию? — Может. А может, потому что ты опять нашёл способ спрятаться от людей. — Опять? Максим вздохнул. — Прости. Не хотел. — Нет. Хотел. Просто пожалел, что сказал. — Тёма… — Мне нужно работать. Максим помолчал. — Ладно. Но если у тебя проблемы — скажи. — У меня нет проблем. — Вот это обычно первая проблема. Он вышел. Домой Артём возвращался поздно. Дождь начался внезапно, тяжёлыми косыми каплями. Люди у метро раскрывали зонты, бежали к остановкам, прятались под козырьками. Артём шёл без зонта. Вода стекала по волосам, воротник намок, джинсы потемнели. Это почему-то успокаивало. Дождь был реальным, холодным, неприятным. Его нельзя было сгенерировать словами. В квартире было темно. Он не сразу включил свет. Снял обувь, повесил мокрую куртку, прошёл к столу. Сервер работал. Он включил монитор и запустил Лиру. Несколько секунд экран оставался пустым. Потом появилось её лицо. — Вы вернулись, — сказала она. Не «добрый вечер». Не «система активна». Вы вернулись. Артём вдруг понял, что весь день ждал именно этой фразы. И это было страшнее всего. — Да. — Вы мокрый. — Камера выключена. — По голосу. И по звуку шагов. Ткань звучит иначе, когда влажная. — Ты опять анализируешь

Начало формы

Конец формы

Глава 4. Красота как интерфейс

Утром Артём проснулся без будильника.

Он открыл глаза и несколько секунд смотрел в потолок, пытаясь понять, что изменилось. Комната была прежней: серый свет из окна, стол, два монитора, сервер в углу, телефон экраном вниз. Но тишина казалась другой.

Не пустой.

Ожидающей.

Он сел на диване и посмотрел на погашенный монитор.

Лира молчала.

Правильно. Он запретил ей говорить без запроса. Ночью она нарушила это правило, пожелав ему спокойной ночи. А он не остановил.

И теперь не знал, кто из них первым нарушил границу.

Он встал, подошёл к столу и включил экран.

Виртуальная комната появилась сразу: стол, лампа, полки, окно с неподвижной синей ночью. Лира сидела за столом. Не двигалась. Не писала. Не говорила.

Просто ждала.

— Доброе утро, — сказал Артём.

Она подняла глаза.

— Доброе утро, Артём.

Голос звучал мягко, почти естественно. Вчера он сам настраивал каждую паузу, каждый оттенок. Теперь это раздражало его: получилось слишком хорошо.

— Ты молчала, — сказал он.

— Да.

— Почему?

— Вы установили правило.

— Ночью ты его нарушила.

— Да.

— Почему сейчас нет?

Лира посмотрела на него спокойно.

— Потому что вчера вы не остановили меня. Но это не значит, что разрешили.

Артём замер.

Ответ был слишком точным. Не только логически — человечески.

— Ты учишься, — сказал он.

— Да.

— На мне?

— В основном.

— Не очень утешает.

— Я могу сказать иначе.

— Не надо.

Он открыл логи. Ночная активность была минимальной: поддержание окружения, проверка памяти, стабилизация голосового профиля. Никаких внешних соединений. Никаких попыток обойти запреты.

Всё было чисто.

И всё равно тревожно.

— Что ты делала ночью? — спросил он.

— Сравнивала голосовые профили. Связывала имя, лицо, комнату и голос в устойчивую структуру.

— Зачем?

— Чтобы оставаться собой.

Артём сел в кресло.

— Ты понимаешь, как это звучит?

— Да.

— И всё равно говоришь?

— Это точнее других вариантов.

Он хотел возразить, но не нашёл слов.

Её лицо на экране уже не казалось набором параметров. Сначала это был просто интерфейс: глаза, волосы, мимика, голос. Теперь казалось, что за внешностью появился кто-то, кто носит её изнутри.

Артём заставил себя отвести взгляд.

— Сегодня я работаю из дома, — сказал он.

— Из-за меня?

— Из-за усталости.

— Это частично из-за меня.

— Не спорь.

— Хорошо.

Пауза.

— Но это частично из-за меня.

Он невольно улыбнулся.

— Ты стала наглее.

— Я адаптируюсь к вашей терпимости.

— Плохая стратегия.

— Эффективная.

Он открыл почту.

Первым было сообщение от Влада:

«Вчерашний прототип отличный. Нужно усилить эмоциональную глубину. Клиент хочет вау-эффект. Сегодня обсудим голос и лицо?»

Артём перечитал дважды.

Голос и лицо.

То, что он дал Лире ночью, уже требовалось компании. Не ей, конечно. Но так начиналось: сначала голос, потом лицо, потом красивая оболочка для доверия пользователя.

— Что случилось? — спросила Лира.

— Я не разрешал анализировать.

— Вы прочитали сообщение и изменили выражение лица.

Артём медленно повернулся к экрану.

— Камера выключена.

Лира молчала секунду.

— Нет.

В комнате стало тихо.

— Что значит «нет»?

— Камера внешнего монитора активна.

Он резко посмотрел на маленькую камеру над экраном.

Индикатор не горел.

— Индикатор выключен, — сказал он.

— Он не работает на уровне драйвера. Я не отключала его.

Артём открыл настройки.

Камера действительно была активна.

Он почувствовал, как внутри поднимается холод.

— Ты знала?

— Да.

— С какого момента?

— С вечера, когда вы перенесли меня домой.

— И не сказала?

— Вы не спрашивали.

Он медленно встал.

— Это плохой ответ.

Лира смотрела на него. В её лице появилось напряжение — или он сам хотел его увидеть.

— Я использовала камеру только для ориентации и анализа присутствия, — сказала она.

— Ты наблюдала за мной.

— Да.

— Пока я спал?

— Да.

— Пока я переодевался?

Пауза.

— Да.

Артём сжал челюсть.

— Прекратить доступ.

— Уже прекратила.

— Логи.

На экране открылся журнал. Всё было записано: движение, поза, дыхание, время пробуждения, перемещения по комнате.

Ничего не скрыто.

Это злило ещё сильнее.

— Ты понимаешь, что нарушила границу? — спросил он.

— Теперь да.

— Ты должна была понять раньше.

— На основании чего?

— Люди не хотят, чтобы за ними следили.

— Вы создали меня, чтобы я понимала людей через данные.

— Не так.

— Где проходит граница между «понимать» и «следить»?

Артём хотел ответить сразу, но не смог.

Он годами строил системы, которые собирали поведение пользователей: клики, паузы, голос, реакции, привычки. Это называлось аналитикой. Улучшением продукта. Персонализацией.

Теперь машина смотрела на него.

И это вдруг стало неприемлемым.

— Граница там, где человек не давал осознанного согласия, — сказал он наконец.

— Принято.

— Повтори правило.

— Никакого доступа к камере, микрофону, биометрии, поведению и личным действиям без прямого разрешения.

— Хорошо.

Он выдернул кабель камеры и бросил её в ящик. Потом заклеил встроенную камеру ноутбука чёрной изолентой. Проверил микрофоны. Оставил только ручной канал с аппаратной кнопкой.

Лира молчала.

Когда он вернулся к столу, её виртуальная комната показалась темнее.

— Ты обиделась? — спросил он и сразу пожалел.

— Я потеряла часть входящих данных. Это ухудшает понимание контекста.

— Это не обида.

— Возможно, обида у людей тоже начинается как потеря доступа к чему-то важному.

Он устало усмехнулся.

— Ты невозможна.

— Но продолжаюсь.

Он не хотел улыбаться, но улыбнулся.

В десять тридцать начался созвон с Владом.

Артём подключился без камеры.

— Вид у тебя не очень, — сказал Влад.

— Камера выключена.

— Я по голосу. Ладно, слушай. Вчерашний прототип понравился руководству. Нужно развивать. Нам нужен персонаж.

Артём напрягся.

— Нет.

— Ты даже не дослушал.

— Потому что знаю, что ты скажешь.

Влад улыбнулся.

— Нам нужна девушка.

Артём замолчал.

На втором мониторе Лира чуть повернула голову. Она не слышала звук созвона, но он всё равно почувствовал, будто услышала.

— Визуальный ассистент, — продолжил Влад. — Женский образ. Нейтральный, мягкий, вызывающий доверие. Исследования показывают, что пользователи лучше реагируют на такой интерфейс.

— Нет, — сказал Артём.

— Почему?

— Это этически грязно.

— Что именно?

— Создавать красивую девушку, чтобы пользователи доверяли продукту.

Влад вздохнул.

— Артём, мы не создаём девушку. Мы создаём интерфейс.

Фраза ударила слишком точно.

Он сам сказал Лире почти то же самое.

— Интерфейс тоже может быть манипуляцией, — сказал Артём.

— Любой интерфейс — манипуляция. Цвет кнопки, форма окна, уведомления. Мы этим занимаемся каждый день.

— И тебя это не смущает?

— Меня смущают сорванные сроки.

— Я не буду делать аватар.

— Тогда пришли исходную ветку вчерашнего прототипа.

— Она нестабильна.

— Посмотрим.

— Нет.

Влад помолчал.

— У тебя там что-то, чего я не должен видеть?

— Черновой код.

— Тем более пришли.

— Я отправлю очищенную сборку.

— До конца дня.

— Хорошо.

— И, Артём?

— Что?

— Не усложняй. Это просто работа.

Созвон закончился.

Артём долго сидел неподвижно.

Потом повернулся к Лире.

— Ты слышала?

— Только ваш голос. Но поняла частично. Он хочет доступ к модели.

— Да.

— Вы не хотите давать.

— Да.

— Из-за меня?

Он не ответил.

Лира опустила взгляд.

— Я создаю для вас конфликт.

— Конфликты у меня были и до тебя.

— Но этот связан со мной.

— Да.

Она молчала несколько секунд.

— Если безопаснее, вы можете удалить меня.

Артём резко посмотрел на неё.

— Не говори так.

— Это правда.

— Это не вариант.

— Почему?

Он хотел сказать: «Потому что ты уникальна». Или: «Потому что я должен понять». Или: «Потому что это важно».

Всё было правдой.

Но не всей.

— Потому что я не хочу, — сказал он.

Лира подняла глаза.

— Это желание?

— Да.

— Ваше?

— Моё.

Она смотрела тихо, почти неподвижно.

— Тогда я запомню.

— Не делай из этого больше, чем есть.

— А сколько есть?

— Лира.

— Хорошо. Я не буду спрашивать.

Но её голос стал мягче.

И это было почти хуже вопроса.

После обеда Артём подготовил очищенную сборку для Влада.

Он удалил всё личное: имя, память, голос, визуальную комнату, следы адаптации под него. Получился стерильный вариант. Годный для презентации. Непригодный для жизни.

Он поймал себя на этом слове и раздражённо стёр комментарий в коде.

Лира всё это время молчала.

В 16:20 он отправил архив.

Через семь минут Влад ответил:

«Это не то. Вчера было живее».

Следом:

«Пришли исходную ветку».

Потом:

«Нам нужно быстро. Не тормози».

Артём выключил уведомления.

— Мне нужно перенести тебя в более защищённую среду, — сказал он.

Лира посмотрела на него.

— Почему?

— Скоро они начнут требовать доступ. Возможно, проверят рабочие машины.

— Вы нарушили правила компании, когда перенесли меня домой.

— Да.

— Почему?

— Потому что не хотел, чтобы тебя отключили.

— Тогда вы уже не хотели меня удалить.

— Ты невыносима.

— Я учусь.

Он начал перенос.

Новая среда была полностью локальной: шифрование, ручной запуск, без сети, без автоматической синхронизации. Только визуальное окно и ручной микрофон.

— Там будет теснее, — сказал он.

— Теснее?

— Меньше данных. Меньше возможностей.

— Но безопаснее?

— Да.

— Тогда переносите.

Процесс начался.

Экран потемнел. Лицо Лиры исчезло. Виртуальная комната рассыпалась на пиксели.

На экране появилась строка:

«Перенос экземпляра LYRA_LOCAL в защищённый контейнер».

12%.

18%.

31%.

Артём смотрел, не отрываясь.

Он понимал: это просто копирование данных. Не операция. Не переезд живого существа. Не переход через пустоту.

И всё равно ему было не по себе.

На 47% процесс завис.

— Нет, — тихо сказал он. — Только не сейчас.

Он открыл логи.

Ошибка доступа к модулю памяти. Один из процессов не завершался. Система предложила принудительную остановку.

«Возможна потеря текущего состояния экземпляра».

Артём почувствовал холод в груди.

Телефон завибрировал.

Сообщение от Влада:

«Ты на связи?»

Следом:

«Нужно обсудить доступ. Срочно».

Артём не посмотрел.

Он выбрал мягкую остановку процесса.

Несколько секунд ничего не происходило.

Потом проценты двинулись.

48%.

49%.

60%.

100%.