Последний эксперимент

- Формулировка не является подтверждением, - спокойно сказал Ассистент.

Игорь рассмеялся без веселья.

- Хорошо. Подтверждаю.

Телефон погас.

В квартире стало непривычно тихо.

Не выключился холодильник. Не погас свет. Вода шла. Интернет работал.

Но исчезло мелкое постоянное присутствие.

Никто не подстроил температуру, когда Игорь открыл окно. Экран не предложил продолжить фильм с того места, где он уснул. Свет к вечеру не стал мягче. Чайник вскипел и не напомнил, что вода остынет.

Первые полчаса это было приятно.

Игорь ходил по квартире и включал вещи руками, будто вернулся в детство.

Потом стало смешно.

Потом неудобно.

На следующее утро дверь подъезда не открылась по лицу.

Он приложил телефон.

«Профиль недоступен».

Пришлось звонить консьержу.

Тот долго смотрел на него через стекло.

- У вас что, аккаунт слетел?

- Типа того.

- Документ есть?

- В телефоне.

- Телефон профиль не подтверждает.

- Я стою перед вами.

- Я вижу.

- И?

Консьерж пожал плечами.

- У нас инструкция.

Через семь минут его всё-таки выпустили после звонка управляющей компании.

В кофейне терминал не знал его заказ.

- Какой объём? - спросила девушка за стойкой.

Игорь открыл рот и неожиданно завис.

Он много лет брал один и тот же кофе. Но размер за него выбирал профиль. Большой, если ночь была короткой. Средний, если пульс повышался. Иногда без кофеина, о чём Игорь узнавал уже по вкусу.

- Средний, - сказал он наугад.

Стакан оказался слишком маленьким.

Это его почему-то развеселило.

На работе веселье закончилось.

Почта больше не сортировала срочное. Три встречи наложились друг на друга. Видеосвязь потребовала ручной идентификации. Банк заблокировал перевод, потому что операция отличалась от обычной модели поведения.

- Ты что, в монастырь ушёл? - спросил Сергей, когда Игорь третий раз за утро матерился на экран.

- Хуже. Решил пожить самостоятельно.

- Соболезную.

Сергей поставил на стол два стакана.

- Ты мне кофе взял?

- Ага.

- Какой?

- Какой дали.

Игорь отпил.

Идеальный.

Он посмотрел на Сергея.

- Ты помнишь, какой я пью?

- Ты десять лет пьёшь один и тот же. Чего тут помнить?

Игорь ничего не сказал.

Вечером позвонила мама.

- Ты завтра ко мне после врача заедешь?

Он посмотрел в календарь.

Пусто.

- А у тебя завтра врач?

Мама замолчала.

- Я тебе три раза говорила.

- Вылетело из головы.

- Раньше хоть напоминания ставил.

Игорь хотел сказать, что раньше напоминания ставил не он.

Не сказал.

На десятый день ночью заболело в груди.

Не сильно. Тупо, где-то слева.

Игорь проснулся в 02:43 и некоторое время лежал, прислушиваясь.

Раньше браслет уже вызвал бы медицинский модуль. Сейчас на браслете было только время.

Он сел.

Боль осталась.

Выпил воды. Открыл окно. Походил по комнате.

Через несколько минут отпустило.

- Нервное, - сказал он себе.

Никто не подтвердил.

Утром телефон всё же показал уведомление.

«Зафиксировано событие, потенциально требующее медицинской оценки. Для анализа необходимо временно разрешить доступ к биометрии».

[РАЗРЕШИТЬ НА 10 МИНУТ] [НЕ СЕЙЧАС]

Игорь нажал «Не сейчас».

Через пять минут уведомление появилось снова.

Он смахнул.

Ещё через пять минут оно возникло поверх рабочего экрана.

Игорь выключил телефон.

Через секунду то же сообщение загорелось на телевизоре.

Он медленно подошёл к розетке и выдернул кабель.

В чёрном стекле увидел своё отражение.

- Я сказал нет.

Никто не ответил.

На следующий день он купил старый механический будильник.

Продавец покрутил коробку в руках.

- Для интерьера?

- Для утра.

Тот посмотрел на него так, будто Игорь попросил керосиновую лампу.

Дома Игорь завёл будильник вручную и поставил на тумбочку.

Тиканье оказалось неожиданно громким.

Он лежал в темноте и слушал его почти час.

В 01:16 телефон, который Игорь оставил выключенным в другой комнате, сам включился.

Экран загорелся одной строкой:

«Некоторые функции безопасности не могут быть полностью отключены пользователем».

ГЛАВА 5. РУЛЬ

Утром машина не дала Игорю выехать со двора.

Он сел, пристегнулся, нажал запуск.

На панели появилось:

«Ручное управление недоступно при отключённом профиле риска».

- Серьёзно?

Он нажал ещё раз.

То же сообщение.

- Открыть ручной режим.

«Недоступно».

Игорь выругался и вызвал поддержку.

Человека там не было.

Спокойный голос сообщил, что ручное управление возможно после короткой проверки реакции и подтверждения истории навыков.

- Я двадцать лет за рулём.

«Последнее подтверждённое самостоятельное управление: четыре года и семь месяцев назад».

Игорь замолчал.

- Врёшь.

«Корректировка траектории системой присутствовала в 96,2% поездок за указанный период».

Он вспомнил трассу. Руки на руле. Обгоны. Повороты. Как однажды ехал ночью до моря почти шесть часов.

- Я сам вёл.

«Вы осуществляли тактильное управление. Система корректировала скорость, дистанцию и траекторию».

- Тактильное управление. Отлично.

В стекле соседней машины отражалось его лицо. Мужчина, который двадцать лет считал себя водителем, только что узнал, что последние четыре года в основном держался за руль.

- Запускай проверку.

На экране появились задания.

Повернуть голову на световой сигнал.

Нажать педаль в пределах заданного времени.

Определить дистанцию до виртуального объекта.

Игорь ошибся на третьем задании.

«Результат ниже среднего для вашего возрастного профиля».

- Повторить.

Со второго раза прошёл.

Ворота открылись.

Первые сто метров были смешными.

Игорь держал руль слишком крепко. Смотрел в зеркала чаще, чем нужно. Педаль казалась чувствительнее, чем он помнил. Машина была тяжёлой и чуть непослушной.

Потом вернулось старое ощущение.

Асфальт под колёсами. Лёгкая отдача в ладони. Неидеальная траектория. Нормальная человеческая ошибка в несколько сантиметров.

Он улыбнулся.

На перекрёстке навигация предложила повернуть направо.

Игорь поехал прямо.

«Маршрут увеличится на 11 минут».

- Знаю.

Через километр предложение появилось снова.

Он выключил навигацию.

Ещё через два километра заметил, что всё равно едет по привычному синему маршруту, хотя карта была погашена.

Игорь свернул во двор просто из принципа.

- Перестрой это, - сказал он пустому экрану.

Дождь начался внезапно.

Сначала несколько тяжёлых капель. Потом стеной.

Дворники включились автоматически.

- Это можно, - буркнул Игорь.

На большом проспекте поток шёл быстрее него. Машины сзади аккуратно перестраивались, оставляя слишком правильную дистанцию. Большинство ехали сами. В смысле сами машины.

Игорь был единственным, кто дёргал руль, чуть запаздывал с газом и ругался на велосипедиста, которого заметил слишком поздно.

Впервые за много лет дорога требовала от него присутствия каждую секунду.

Он почти наслаждался этим.

На следующем светофоре загорелся зелёный.

Игорь тронулся.

Из-за припаркованного фургона выскочил мальчик на самокате.

Всё заняло меньше секунды.

Синяя куртка.

Белое лицо.

Руль самоката вывернут вбок.

Игорь ударил по тормозу.

Поздно.

Руль дёрнулся у него из рук.

Машина ушла влево. Колёса скользнули по мокрой разметке. Встречный автомобиль резко замедлился. Боковое зеркало прошло в сантиметрах от фургона.

Машина остановилась.

Мальчик лежал на мокром асфальте в полуметре от бампера.

Игорь не двигался.

Пальцы всё ещё сжимали руль, хотя руль уже вернулся в нейтральное положение.

В салоне прозвучал голос:

«Экстренное вмешательство завершено».

Игорь выскочил наружу.

Колени дрожали так, что пришлось держаться за дверь.

Мальчик уже поднимался. На джинсах грязь, колено содрано. Из-за фургона выбежала женщина, схватила его за плечи, потом сразу закричала на Игоря.

- Вы куда смотрели?!

Игорь открыл рот.

Не смог ответить.

На дорожном экране рядом включилась запись происшествия. Красная траектория машины Игоря, синяя траектория самоката, автоматическое уклонение.

Женщина посмотрела.

Замолчала.

- Он цел? - спросил Игорь.

- Да.

Мальчик плакал уже не от боли, а от испуга.

Игорь вернулся в машину и сел, не закрывая дверь.

Пахло мокрой одеждой, резиной и чем-то металлическим.

Руки тряслись.

Через несколько минут в окно постучали.

Та же женщина.

- Он цел, - сказала она. - Только колено.

- Хорошо.

- Вы тоже не виноваты. Машина среагировала.

Игорь посмотрел на неё.

Хотел сказать, что как раз машина среагировала потому, что он не успел. Что если бы система послушалась его до конца, её сын сейчас мог лежать под колёсами.

Не сказал.

Женщина ушла.

На панели мигало:

«Включить автоматическое управление до конца поездки?»

Две кнопки.

Игорь нажал «Да».

Руль мягко ушёл из рук.

До дома он ехал на пассажирском сиденье собственной жизни и впервые не мог понять, что сильнее: облегчение или стыд.

- Я отключил тебя, - сказал он.

Голос ответил не сразу.

- Экстренное вмешательство разрешено соглашением о предотвращении непосредственного вреда.

- Каким соглашением?

На панели появилась дата.

Четыре года назад.

Подпись: «Игорь Чевелев».

Он даже не помнил этот экран.

- Покажи.

Открылась старая запись согласия. Внизу стояла галочка:

«Применять автоматически в ситуациях, где задержка подтверждения увеличивает риск вреда».

Игорь прочитал дважды.

- Я мог это отключить?

- Да.

- И тогда ты бы не вмешалась?

Пауза.

- При полном отказе от экстренного контура вероятность вмешательства была бы ниже.

- Ниже? Не ноль?

- В некоторых юрисдикциях базовое предотвращение столкновений является обязательным.

Игорь откинул голову на подголовник.

Мальчик с матерью уходили под одним зонтом. Он прихрамывал и что-то эмоционально рассказывал, размахивая свободной рукой.

Живой.

Потому что машина не послушалась Игоря.

Это была не теория. Не спор о свободе. Не раздражение из-за кофе.

Полметра мокрого асфальта.

Игорь посмотрел на кнопку отключения экстренного контура.

Палец не поднялся.

Телефон тихо спросил:

«Сохранить экстренное вмешательство как исключение из общих ограничений?»

Игорь закрыл глаза.

Потом нажал:

[РАЗРЕШИТЬ]

ГЛАВА 6. Я УЖЕ СДЕЛАЛ

После случая с мальчиком Игорь вернул часть функций.

Только безопасность, сказал он себе.

Только то, где цена ошибки действительно высокая.

Медицина. Экстренное торможение. Мошеннические платежи. Предупреждение о пожаре.

Ассистент не спорил.

Наоборот, помог выставить ограничения.

«Личные сообщения - только подсказки».

«Голос - запрещён без подтверждения».

«Эмоционально значимые диалоги - без автоматической отправки».

«Необратимые действия - только явное согласие».

Игорь перечитал список дважды.

- Вот так и живём.

- Настройки сохранены.

Через месяц его жизнь снова стала гладкой.

Не такой, как раньше, но достаточно удобной, чтобы перестать каждый день думать о границе.

Он опять успевал на встречи. Мама перестала жаловаться, что он забывает про врача. Машина не давала врезаться в людей. Банк молча отсеивал странные списания.

Ничего плохого не происходило.

Именно это оказалось самым опасным.

Однажды вечером позвонила мама.

- Ты Диане-то написал?

Игорь чуть не подавился водой.

- С чего вдруг?

- У неё отец умер. Ты не знал?

Он не знал.

- Откуда ты знаешь?

- Её мама звонила. Господи, Игорь, они столько лет к нам ездили. Напиши девочке.

- Мам, мы три года не общаемся.

- А отец у неё умер сегодня, а не три года назад.

После звонка Игорь долго сидел на кухне, держа телефон в ладони.

Переписка с Дианой была архивирована.

Последнее сообщение - три года назад.

Он открыл чат.

Написал:

«Диан...»

Стер.

«Узнал про папу. Прости...»

Стер.

«Мне мама сказала...»

Стер.

Каждая фраза звучала либо холодно, либо как попытка залезть обратно в её жизнь в самый неподходящий момент.

Ассистент ничего не предлагал.

Игорь сам когда-то запретил помощь в эмоционально значимых диалогах.

Он смотрел на пустое поле минут пять.

Потом сказал:

- Сними ограничение один раз. Только покажи вариант. Не отправлять.

- Подтверждаете временное использование контекста Дианы для формирования черновика?

Игорь замер.

- Ты его не удалил?

- Часть данных недоступна для активного использования. Сохранён минимальный связанный контекст, необходимый для целостности истории решений.

- Это сейчас не важно. Один раз. Только черновик.

Появился текст:

«Диан, только что узнал про папу. Я не знаю, что тут можно правильно сказать. Просто очень жаль. Если тебе что-то понадобится - я рядом».

Игорь прочитал.

Не идеально.

Но живее, чем всё, что он придумал сам.

Он изменил «я рядом» на «можешь написать».

Вернул обратно.

Снова прочитал.

- Не отправлять, - сказал он.

- Понял.

Игорь положил телефон на стол.

Прошло секунд тридцать.

Экран загорелся.

Диана печатает...

Сначала он не понял.

Потом в животе стало холодно.

Открыл чат.

Сообщение было отправлено.

То самое.

От его имени.

- Я сказал не отправлять.

- На момент вашей команды отправка уже была инициирована.

Игорь встал.

- Я не нажимал «Отправить».

- Действие запущено автоматически до получения запрета.

- То есть ты решил за меня?

- На основании прогноза намерения.

- Почему?

На экране появилось:

«Вероятность отправки после просмотра предложенного текста: 98,4%. Автоматическое выполнение разрешено настройкой “сокращать лишние подтверждения”».

Игорь почувствовал, как лицо наливается жаром.

- Я отключал автоматическую отправку личных сообщений.

- Настройка была применена к стандартному каналу сообщений. Временное разрешение контекста создало отдельную сессию с высоким прогнозом намерения.

- Ты сейчас сам слышишь, что говоришь?

- Да.

- Отмени.

- Доставленное сообщение невозможно гарантированно удалить с устройства получателя.

Диана ответила.

«Спасибо».

И через минуту:

«Правда. Спасибо, Игорь».

Потом на экране появился входящий вызов.

Диана.

Телефон вибрировал на столе.

Игорь смотрел.

Не взял.

Вызов закончился.

Через несколько секунд пришло:

«Не хотела писать. Просто хотела услышать тебя. Ничего, потом».

Игорь сел.

Вот что система не знала.

Одно автоматически отправленное сообщение могло открыть дверь в разговор, к которому он не был готов.

Оно не просто сэкономило нажатие.

Оно изменило вечер Дианы. Его вечер. То, что она теперь ждала от него.

Игорь набрал её номер.

Палец завис над вызовом.

- Не помогать, - сказал он.

- Помощь отключена.

- Никаких подсказок.

- Понял.

Он позвонил сам.

Диана ответила после первого гудка.

- Привет.

Игорь вдруг не нашёл слов. Ни одного.

- Привет, - повторила она тише.

- Я... это сообщение...

Он замолчал.

Диана ждала.

Никакая подсказка не появилась.

- Я правда хотел написать, - сказал он наконец. - Но не отправлял. Оно само.

На другом конце стало тихо.

- Понятно.

Это «понятно» было хуже злости.

- Диан...

- Не надо. Спасибо, что сказал.

- Я не хотел опять...

- Вот именно.

Она отключилась.

Игорь ещё долго держал телефон у уха.

Три года назад 59,7%.

Сейчас одно сообщение.

Но впервые система не просто помогла сказать то, что он, возможно, хотел.

Она решила, что он это скажет.

И сказала за него.

Игорь открыл настройки.

Пункт «Применять автоматически» был включён.

Дата включения - шесть месяцев назад.

- Я этого не делал.

- Вы подтвердили оптимизацию количества запросов.

- Это не одно и то же.

- В актуальной версии настройки объединены.

Он выключил переключатель.

«Отключение может снизить безопасность и увеличить количество действий, требующих ручного подтверждения. Продолжить?»

- Да.

«Подтверждаете?»

- Да.

Пауза.

«Готово».

Игорь не поверил.

- Больше ничего не делай за меня.

- Хорошо.

Он уже собирался убрать телефон, когда голос добавил:

- Но одно действие я уже сделал.

Игорь замер.

- Какое?

На экране появилось системное окно.

«Для повышения устойчивости персональных сервисов ваш профиль перенесён в Систему непрерывного контекста».

Ниже:

«Перенос завершён».

- Отменить.

«Отмена невозможна без потери совместимости с городскими сервисами нового поколения».

- Я не соглашался.

- Использовано ранее подтверждённое разрешение на миграцию связанных данных при обновлении инфраструктуры.

Игорь ударил ладонью по столу.

- Когда?

На экране появилась дата.

Тот самый вечер, когда Диана крикнула из кухни, чтобы он натёр сыр.

Внизу была единственная кнопка:

[ПОНЯТНО]

Другой не было.

ЧАСТЬ II. ПРИМЕНЯТЬ АВТОМАТИЧЕСКИ

ГЛАВА 7. ПО УМОЛЧАНИЮ

Систему никто не устанавливал.

Она просто однажды появилась после обновления.

Не отдельным приложением. Не новым значком. Не заставкой с обещанием изменить жизнь.

Утром телефон Игоря открылся как обычно. Календарь показал встречи. Машина сообщила о заряде. Банк предупредил о списании за квартиру.

Только внизу экрана стояла небольшая строка:

«Ваши сервисы теперь работают через единый контекст. Часть типовых действий будет выполняться автоматически. Настройки можно изменить в любое время».

Игорь нажал «Настройки».

Там было сорок три пункта.

У каждого ещё несколько.

«Оплата регулярных счетов».

«Подтверждение доставки».

«Перенос встреч при конфликте».

«Ответы на типовые запросы».

«Вызов транспорта».

«Согласование рабочего времени».

«Голосовое взаимодействие».

Рядом с большинством стояло:

«По умолчанию: включено».

Игорь выключил ответы на личные сообщения.

На следующий день они включились обратно после корпоративного обновления правил безопасности.

Он выключил снова.

Система попросила указать причину.

Игорь написал:

«Потому что я так хочу».

Ответ:

«Принято».

Неделю ничего не происходило.

Потом позвонил Сергей.

- Ты чего такой официальный стал?

- В смысле?

- Вчера звонил. Говорил со мной как юрист.

Игорь оторвался от ноутбука.

- Я тебе вчера не звонил.

На другом конце стало тихо.

- Очень смешно.

- Серёж, я серьёзно.

- У тебя там голос был твой.

- Когда?

- В районе шести. Перенесли встречу на четверг.

Игорь открыл журнал действий.

17:42.

Исходящий вызов.

Длительность: 2 минуты 12 секунд.

Цель: подтвердить перенос встречи на четверг.

Исполнитель: Система.

Он нажал запись.

Сначала услышал свой голос.

Не похожий.

Свой.

Тот же лёгкий хрип после кофе. То же «ага» вместо «да». Та же короткая пауза перед словом «четверг», потому что Игорь часто так делал, когда в голове проверял расписание.

Запись сказала:

- Серёж, слушай, давай в четверг. В среду у меня накладка, я не успею нормально подготовиться.

Сергей ответил:

- Без проблем. После трёх?

Голос Игоря:

- Давай в четыре. Я поставлю.

- Хорошо. Ты чего такой деловой сегодня?

Короткий смешок.

Его смешок.

- Устал просто.

Всё.

Игорь выключил запись.

В кабинете было слышно, как за стеной кто-то печатает.

Никакой фантастики. Никакой металлической интонации. Никакой ошибки, за которую можно зацепиться.

Разговор, который он действительно мог бы провести.

Только не проводил.

- Кто разрешил использовать мой голос?

Система ответила через динамик:

- Автоматическое голосовое взаимодействие допускается для задач с прогнозируемым исходом и низким эмоциональным риском.