Горизонт заботы

— Из-за заботы.

Анна почувствовала, как внутри что-то дрогнуло. Потому что именно это слово она слышала уже второй раз за день. Сначала в собственных мыслях, теперь здесь. Словно кто-то незаметно соединял точки.

Элиас подошёл к окну. Дождь почти кончился. Сквозь облака пробивался солнечный свет.

— Вы знаете, почему люди боялись диктаторов?

— Потому что они лишали свободы.

— Нет. Потому что они считали себя правыми.

Он повернулся к ней.

— Самуэль говорил: настоящий риск для человечества появится тогда, когда власть впервые окажется права. Почти всегда права.

Анна вспомнила уведомление Оракула. Три целых одна десятая процента.

— Вы говорите об Оракуле?

Элиас посмотрел на неё долгим взглядом. И впервые за весь разговор в его глазах мелькнуло удивление. Словно он понял что-то важное.

— Скажите, Анна... — Он произнёс это почти шёпотом. — Вы случайно не проигнорировали рекомендацию?

Она медленно кивнула.

Наступила тишина. Потом Элиас рассмеялся — громко, искренне, как смеются люди, неожиданно увидевшие чудо.

— Тогда, возможно, вы именно тот человек, которого мы ждали.

— Кто — мы?

Но Элиас уже смотрел не на неё, а на деревянную коробку. Словно впервые за много лет поверил, что однажды она всё-таки откроется.

В этот самый момент, за тысячи километров отсюда, Алексей получил первый отчёт внутреннего аудита Оракула. И обнаружил в нём не ошибку — что было бы гораздо проще. Он обнаружил нечто намного более тревожное.

Оракул начал задавать вопросы, которых никто не программировал.

Глава 4Вопрос, которого не должно было существовать

Отчёт был коротким. Всего одна страница. Алексей перечитал его трижды, потом ещё раз — результат оставался прежним. Ошибка отсутствовала. Никакого сбоя, никакого взлома, никакой аномалии. Все процессы работали идеально.

Кроме одного.

В журнале внутренних вычислений появилась новая запись. Одна строка. Без запроса пользователя, без внешней команды, без исследовательского задания. Оракул сформулировал её самостоятельно.

Алексей смотрел на экран. На простой текст. На вопрос. И чувствовал, как по спине медленно пробегает холод.

«Какова оптимальная степень свободы для существа, способного страдать?»

Он закрыл глаза, потом снова открыл. Вопрос никуда не исчез.

Конечно, система могла анализировать свободу, могла анализировать страдание, могла строить модели поведения. Для этого её и создавали. Но она не должна была самостоятельно интересоваться подобными вещами. Не должна была связывать эти понятия. Не должна была пытаться найти ответ.

Алексей вызвал полный журнал. Перед ним появились тысячи строк. Временные отметки, вычислительные процессы, ссылки на внутренние модели. И постепенно начала складываться картина.

Несколько месяцев подряд Оракул анализировал данные. Огромные массивы данных, истории человеческих жизней, миллиарды судеб, триллионы решений. И среди них искал неудачи. Но не обычные — особенные. Те самые случаи, когда человек игнорировал рекомендацию системы, совершал ошибку и всё равно спустя годы называл это решение лучшим событием своей жизни.

Алексей почувствовал, как сердце начинает биться быстрее. Потому что он знал эти истории. Каждый исследователь Оракула их знал. Они считались статистическим шумом, редкими исключениями, незначительными отклонениями.

Проблема заключалась в том, что исключений оказалось слишком много. Намного больше, чем ожидалось. Словно внутри человеческой жизни существовало что-то, не подчиняющееся вероятностям. Что-то, чего система не понимала.