АИ Биополитика

Наша систему. Андрей чувствовал, как эти слова налипают на него, как смола. Не его. Нашу. Коллективную вину так легче переварить.

— Дэвид, — начал он, не отрывая взгляда от экранов, — ты читал внутренний отчёт о социальных последствиях внедрения в Чжэцзяне?

— Отчёт? Какой отчёт?

— От социологической группы. Уровень самоубийств среди категории В вырос на 340% за первые три месяца. Обращения к психологам — на 600%. Распад семей, где члены получили разные категории...

— Адаптационный период, — отмахнулся Чен, усаживаясь на край стола. — Любая революционная система проходит через сопротивление. Помнишь, как люди боялись электричества? Автомобилей? Интернета? Через поколение никто не вспомнит, как было раньше.

— Может, некоторые вещи стоит помнить.

Чен рассмеялся — коротко, отрывисто, как лай:

— Андрей, дружище, ты гений кода, но наивен как школьник в политике. Мы даём миру инструмент. То, что с ним делают — не наша ответственность. Молоток может построить дом или проломить череп. Виноват молоток?

— Виноват тот, кто даёт молоток убийце, зная, что он убийца.

Тишина повисла между ними — густая, неудобная. На экранах продолжали бежать цифры: 78, 45, 92, 23, 61... Каждое число — человек. Каждый человек — приговор.

— Хочешь уйти? — спросил Чен тихо, и в его голосе впервые за три года Андрей услышал что-то похожее на искренность. — Я не держу. Но подумай вот о чём: если уйдёшь ты, придёт кто-то другой. Кто-то, кому будет плевать на эти твои терзания. Кто сделает систему ещё более эффективной. Более жестокой. Разве не лучше, если у руля стоит человек с совестью?

Андрей повернулся к нему наконец. Чен смотрел на него с выражением отеческой заботы — искусной маски, за которой, Андрей знал, скрывался расчёт.

— Совесть, говоришь? — усмехнулся он. — Знаешь, что я делал вчера вечером? Запустил себя через систему. Неофициально. Хотел узнать свой индекс.

— И?

— Сорок семь. Категория Б-2. Знаешь почему? Система учла мой возраст — тридцать шесть. Учла, что я не публикуюсь в научных журналах. Что не патентую изобретения на своё имя. Что живу один, без семьи. Что недавно обращался к психотерапевту. И решила: я создатель алгоритма, изменившего мир, стою меньше, чем средний менеджер по продажам.

Чен молчал. Впервые за их знакомство он выглядел растерянным.

— Ирония в том, — продолжал Андрей, вставая, — что система права. Я действительно избыточен. Моя работа закончена. Алгоритм работает сам. Он больше не нуждается в создателе. Я написал код собственного устаревания.

Он прошёл мимо Чена к двери, но у порога обернулся:

— А ещё я запустил через систему 500 случайных сотрудников компании. Хочешь знать результаты?

— Не уверен...

— Твой индекс — восемьдесят девять. Поздравляю. Ты нужен миру. А вот Лиза из бухгалтерии — двадцать три. Марк из техподдержки — тридцать один. Соня-уборщица — девятнадцать. Они работают здесь каждый день, поддерживают функционирование офиса, но система решила: они лишние.

— Андрей...

— Я не ухожу, Дэвид. Не сейчас. Знаешь почему? Потому что ты прав — придёт кто-то ещё более бездушный. Но я хочу, чтобы ты понял одну вещь.

Он вернулся, наклонился к Чену, заглянул ему в глаза:

— Когда система решит, что твой индекс упал. Когда болезнь, или возраст, или просто смена экономической конъюнктуры сделает тебя менее ценным. Когда ты получишь серый браслет и почувствуешь эти взгляды — те самые, что проскальзывают мимо, словно ты невидим. Вспомни этот разговор. И спроси себя: создавал ли ты инструмент или монстра?

Чен открыл рот, но Андрей не дал ему ответить. Он вышел, оставив генерального директора одного в комнате с мерцающими экранами.

Прошло девять лет.

Андрей сидел в крошечной квартире в спальном районе Москвы, на запястье — синий браслет категории Б-2. Индекс упал до сорока семи официально в 2042-м, после того как его уволили из NeoMetrics за -идеологическую ненадёжность-. Попытка уничтожить исходный код в 2036-м провалилась — система размножилась, распространилась, стала бессмертной. Как вирус. Как проклятие.

Перед ним лежала тетрадь — старомодная, бумажная. Цифровые записи могли отследить. Бумага была анонимна.

Он писал мемуары. Не для публикации — кто бы рискнул их издать? Для памяти. Для свидетельства. Чтобы хоть кто-то в будущем знал: это не должно было случиться так.

-Я создал алгоритм, который изменил мир. Не хотел — просто решал техническую задачу...-

Слова текли медленно, как кровь из незаживающей раны. Каждое предложение — признание. Каждый абзац — камень на могилу собственной невинности.

В окно он видел вечернюю Москву — серую, промозглую, разделённую на зоны цветными полосами света. Зелёные кварталы категории А. Синие — Б. Серые трущобы категории В, где света почти не было.

Где-то там, в серой темноте, жили четыре миллиарда человек, которых машина — его машина — назвала избыточными. Сколько из них уже мертвы? Сколько выбрали -достойное завершение-? Сколько просто угасли в Зонах Ожидания?

Цифры. Всегда возвращались цифры. 4,2 миллиарда. Сорок два процента человечества. Он не знал точной статистики смертности — её засекретили ещё в 2041-м. Но слухи, фрагменты данных, утечки... Консервативная оценка: миллиард погибших за восемь лет. Миллиард.

И он нажал Enter.

Телефон завибрировал. Сообщение от системы:

-Уважаемый Андрей Игоревич. Ваш индекс снизился до 39. Вы переведены в категорию Б-3. Обновлённый браслет можно получить в ближайшем центре обслуживания. Рекомендуем ознакомиться с программами повышения индекса. -

Он смотрел на экран долго. Потом рассмеялся — тихо, безумно, до слёз.

Система пожирала своих создателей. Конечно. Разве могло быть иначе?

Андрей вернулся к тетради. Рука дрожала, но он продолжал писать:

-Каждую ночь вижу цифры. 4,2 миллиарда. Сколько из них уже мертвы? Сколько умрут завтра? И главный вопрос, который не даёт спать: если бы я знал, к чему приведёт моя работа, нажал бы я ту первую клавишу? Написал бы первую строку кода?

Честный ответ: не знаю. Потому что тогда, в 2031-м, это была просто задача. Красивая, элегантная, интеллектуальная задача. А зло всегда начинается с задач. С решений проблем. С благих намерений и технической красоты.

Я создал монстра. Но монстром оказался не алгоритм. Монстром оказался я — человек, который смог написать код, способный оценить ценность жизни числом от нуля до ста. -

Он закрыл тетрадь, спрятал её под половицу. Завтра пойдёт за новым браслетом. Серым. Потом, возможно, придёт письмо с предложением Добровольного Перехода. Пятьдесят тысяч ЭРублей компенсации. Кому? У него не было семьи. Друзья отвернулись год назад — контакт с идеологически ненадёжными понижал индекс.

Но он не выберет Переход. Не из-за страха смерти — смерть была бы облегчением. Из-за упрямства. Система хотела, чтобы он исчез тихо, добровольно, эффективно. Он не даст ей этого удовольствия.

Он будет жить. Каждый день — свидетельством. Каждый вдох — обвинением.

И когда система наконец заберёт его насильно или он умрёт от голода в Зоне Ожидания, его тетрадь останется. Спрятанная, но не уничтоженная.

Кто-то найдёт. Кто-то прочитает. Кто-то узнает.

Что этого не должно было быть.

Что мы могли выбрать иначе.

Что каждая цифра когда-то была лицом, именем, надеждой.

[Записка, вложенная в тетрадь, почерк другой — женский, аккуратный:]

-Андрей Игоревич Волков. Найден мёртвым 12 марта 2048 г. в своей квартире. Официально — сердечная недостаточность. Индекс на момент смерти: 22. Категория В-1. Похоронен в общей могиле для В-категории, участок 7, Зона Утилизации № 3.

Эту тетрадь я, Марта Соколова, забрала при обыске квартиры покойного. Я работаю архивистом в Министерстве Эффективности. Мой долг — уничтожать подобные материалы.

Я не уничтожила.

Потому что Андрей Волков был прав. Это нужно помнить.

Передаю тетрадь в Архив Несогласных. Пусть будущие поколения судят нас — всех нас, кто молчал, когда нужно было кричать.

М.С., апрель 2048-

ЗОНА ОЖИДАНИЯ № 7

Письмо пришло в среду, когда Лена Григорьевна Тимошина возвращалась с работы — точнее, с того, что еще называлось работой в категории Б-2. Конверт лежал в почтовом ящике между счетами за электричество и рекламной брошюрой о новых моделях биометрических браслетов для детей. Бумага была серая, грубая, казенная. Штамп Рязанской области. Зона Ожидания № 7.

Лена стояла в подъезде пятиэтажки постройки 2010-х годов — той эпохи, когда еще строили для людей, а не для эффективности — и смотрела на конверт так, словно он мог взорваться. В каком-то смысле мог. Контакт с категорией В фиксировался системой автоматически. Даже получение письма. Её индекс — хрупкие 52 балла — мог просесть на пять пунктов. Может, на семь. А это означало переход из Б-2 в Б-3. Сокращение пайка. Потерю доступа к детскому саду для Миши.

Она сунула конверт в карман и поднялась на четвертый этаж. В квартире пахло вчерашним супом и сыростью — систему отопления в их доме оптимизировали два года назад, теперь температуру регулировал алгоритм исходя из средней категории жильцов. В их подъезде жили в основном Б-2 и Б-3. Алгоритм считал, что восемнадцать градусов — достаточно.

Миша сидел у окна с планшетом — образовательная программа для категории Б, стандартный курс. Мальчику было шесть лет, и у него еще не было браслета. Детям присваивали категорию в десять лет, после первого тестирования. Лена каждую ночь молилась несуществующему богу, чтобы у Миши был хороший индекс. Чтобы он не повторил путь деда.

— Мама, смотри! Я прошел урок про эффективность! — Миша обернулся, его лицо светилось тем особенным детским восторгом, который не знает еще, что мир разделен на нужных и лишних.

— Молодец, зайчик. — Лена погладила его по голове, чувствуя, как письмо жжет в кармане. — Иди помой руки, будем ужинать.

Когда Миша ушел в ванную, Лена достала конверт. Вскрыла. Внутри был один лист, исписанный неровным почерком — отец никогда не умел писать красиво, говорил, что руки у него инженерские, для чертежей, а не для каллиграфии.

-Дорогая Лена...-

Она начала читать и почувствовала, как что-то сжимается в груди. Отец писал о бараках, о синтетической каше, о старике, умершем от пневмонии. О взглядах людей, которые видят друг в друге избыточность. О том, что он думает о Добровольном Переходе все чаще.

Лена читала и вспоминала. Отец — Виктор Семенович Морозов, инженер-конструктор, человек, который проектировал мосты. Настоящие мосты, по которым ездили машины и ходили люди. Он показывал ей фотографии своих работ: виадук под Тулой, путепровод в Рязани, пешеходный мост через Оку. -Видишь, Леночка, — говорил он, — после меня останется что-то настоящее. Что-то, что соединяет людей-.

Потом пришла автоматизация проектирования. ИИ научился создавать мосты за часы — более прочные, более дешевые, более эффективные. Инженеры стали не нужны. Индекс отца упал с 73 до 34 за два года. Сначала Б-1, потом Б-3, потом В-1.

Он отказался от Добровольного Перехода. Сказал Лене: -Я не лишний. Я построил мосты. Я создал то, что переживет меня-. Его отправили в Зону Ожидания № 7 в марте 2042 года. С тех пор прошло восемь месяцев.

Лена дочитала до конца. -Твой лишний отец-. Эти три слова резали больнее всего.

Она сложила письмо, спрятала его в книгу на верхней полке — старое издание Толстого, которое никто уже не читал. Книги категории В не выдавали, считалось, что литература — непродуктивное занятие. У Лены осталось несколько томов от прежней жизни, когда отец еще был категории А и мог себе позволить покупать ненужные вещи вроде классики.

Ужинали молча. Миша рассказывал что-то про виртуальную экскурсию в музей эффективности, но Лена не слушала. Она думала об отце, о письме, о том, что нужно ответить. Но как ответить? Что написать человеку, который называет себя лишним?

Когда Миша уснул, Лена достала письмо снова. Перечитала. И тут заметила странность.

Почерк отца. Неровный, угловатый, с характерным наклоном влево — он был левшой, в детстве его переучивали, поэтому писал всегда неловко. Но в этом письме... почерк был правильным. Слишком правильным. Наклон вправо. Буквы ровные, одинаковые, как будто написанные под линейку.

Лена встала, включила настольную лампу. Поднесла лист к свету. И увидела.

На просвет проступали едва заметные вмятины — следы другого текста, написанного с обратной стороны листа. Кто-то писал что-то, потом стер или закрасил, а сверху написал то, что она прочитала. Но бумага сохранила память о первых словах.

Лена перевернула лист. С обратной стороны был чистый белый фон. Но вмятины были. Она пошла на кухню, взяла карандаш, стала легонько заштриховывать поверхность под углом — старый детективный трюк из книг, которые она читала в прежней жизни, когда у нее было время на такие глупости.

Слова проявлялись постепенно, как проявляется фотография в химическом растворе.

-Лена. Это не я. Меня заставили подписать. Говорят, если не подпишу — тебя переведут в В. Миша останется один. Они знают все. Я подписал. Прости. Но знай: я не сдаюсь. Здесь есть люди. Мы...-

Дальше текст обрывался. Кто-то заметил, стер, переписал письмо заново. Но не до конца. Оставил след.

Лена сидела на кухне и смотрела на проявившиеся слова. В голове медленно складывалась картинка. Письмо написал не отец. Письмо было фальшивкой. Кто-то в администрации Зоны хотел, чтобы она получила послание от сломленного человека, готового к Переходу. Чтобы она свыклась с мыслью. Чтобы, когда придет официальное уведомление, она не удивилась.

Но отец оставил ей знак. Между строк лжи спрятал правду.

-Я не сдаюсь. Здесь есть люди. Мы...-

Мы что? Сопротивляемся? Организуемся? Планируем побег?

Лена встала, прошлась по кухне. За окном Москва светилась тысячами огней — зелеными в районах категории А, синими в Б, тусклыми желтыми в зонах В. Система была везде, проникала во все щели, знала все. Но отец нашел способ. Обманул её. Оставил след в фальшивом письме.

Она вспомнила его слова, сказанные в последний раз перед отправкой в Зону: -Леночка, помнишь, я говорил, что мосты — это не просто конструкции? Мост — это символ. Соединение берегов. Даже когда берега враждуют, мост стоит. Я построил мосты. Они не могут их стереть. И не могут стереть меня-.

Тогда она не поняла. Думала, это просто слова отчаяния. Но теперь...

Лена достала чистый лист бумаги. Старый, желтоватый, из тех, что еще делали из настоящей древесины, а не из синтетики. Взяла ручку. Начала писать.

-Дорогой папа...-

Нет. Зачеркнула. Если система перехватит письмо, а она перехватит — все письма в Зоны читают автоматически — нужно писать так, чтобы алгоритм не заподозрил ничего странного.

-Дорогой отец,

Получила твое письмо. Понимаю, как тебе тяжело. Миша спрашивает о тебе. Говорю, что ты далеко, работаешь на важном проекте. Он гордится дедушкой-инженером.

Помнишь мост через Оку? В прошлом месяце проезжали мимо. Миша смотрел и спросил: -Это дедушка построил? - Я сказала: -Да-. Он ответил: — Значит, дедушка соединил два берега. Значит, он нужный-.

Дети иногда мудрее взрослых.

Береги себя. Мы ждем.

Лена-

Она перечитала. Вроде бы обычное письмо. Алгоритм не должен зацепиться. Но отец поймет. -Мост через Оку- — их условный код, придуманный еще до Зоны на случай, если понадобится передавать сообщения незаметно. Мост через Оку означал: -Я понимаю. Я с тобой. Держись-.

Лена запечатала конверт, написала адрес. Завтра отнесет на почту. Индекс, возможно, просядет еще на пару пунктов. Но это не важно.

Важно другое. Отец не сломлен. В Зоне Ожидания есть сопротивление. Люди, которые не верят системе, не приняли вердикт избыточности.

Она вернулась в комнату, где спал Миша. Мальчик лежал на боку, обнимая старую плюшевую игрушку — медведя, которого когда-то подарил дед. Лена села рядом, погладила сына по волосам.