Проект 'Чистота'

– Технически это выполнимо, – сказал Денис, просмотрев спецификацию. – Но потребуется доступ к огромному количеству персональных данных. И вычислительные мощности на порядок выше, чем для «Чистоты».

– Это проблема? – спросил я.

– Нет, если бюджет соответствующий, – он пожал плечами. – Но есть этический аспект. Мы фактически создаем систему, которая будет решать, кто имеет право голоса, а кто нет.

Все посмотрели на меня, ожидая реакции. Я чувствовал их взгляды – вопросительные, обеспокоенные, может быть, даже осуждающие.

– Я понимаю ваши опасения, – сказал я наконец. – Но решение принято на самом высоком уровне. Наша задача – реализовать проект с максимальной эффективностью и… минимальными побочными эффектами.

– Какие могут быть «побочные эффекты» у системы, созданной для превентивного подавления свободы слова? – тихо спросила Марина.

Я не ответил. Что я мог сказать? Что сам испытываю все больше сомнений? Что начинаю понимать, что мы создаем чудовище?

– Давайте сосредоточимся на технических аспектах, – сказал я вместо этого. – Денис, подготовьте детальный план работ. Марина, вам нужно разработать критерии оценки потенциальной «деструктивности» пользователей. Остальные – изучите спецификацию и представьте свои предложения по реализации.

Команда разошлась, и я остался один в конференц-зале. Включил большой экран на стене и вывел на него текущую статистику работы «Чистоты». Цифры были впечатляющими: за последний месяц система заблокировала более миллиона единиц «деструктивного» контента.

Но что на самом деле скрывалось за этими цифрами? Сколько среди этого миллиона было действительно опасных материалов, а сколько – просто неудобных для власти мнений? Критических статей? Научных работ, не вписывающихся в официальную идеологию?

Я начал просматривать примеры заблокированного контента. Система хранила все в архиве, классифицируя по уровню «опасности».

Вот статья о коррупции в оборонной промышленности – блокировка по критерию «подрыв доверия к стратегическим отраслям».

Вот научная работа о демографическом кризисе – блокировка по критерию «распространение панических настроений».

Вот литературное произведение с антиутопическим сюжетом – блокировка по критерию «аллюзии на действующую власть».

И так далее, страница за страницей. Большинство материалов не содержали ничего противозаконного – только неудобные факты, критические мнения, альтернативные точки зрения.

И теперь мы собирались пойти дальше – создать систему, которая будет определять, кому вообще позволено высказываться публично.

Вечером ко мне в кабинет зашла Марина. Она выглядела встревоженной.

– Вадим, мы должны поговорить.

Я жестом пригласил ее сесть.

– Я просматривала спецификацию «Призмы», – начала она. – Там есть раздел о «превентивных мерах» против потенциальных создателей деструктивного контента. Вы читали его внимательно?

– Еще нет. А что там?

– Система будет не только выявлять таких людей, но и рекомендовать в отношении них «административные меры». От блокировки аккаунтов до… – она запнулась, – …инициирования проверок правоохранительными органами.

Я почувствовал, как внутри все холодеет.

– Вы уверены?

– Это прямо написано в документации. Страница 47, раздел «Механизмы реагирования».

Я открыл папку и нашел указанный раздел. Действительно, там черным по белому описывались меры против лиц, которых система определит как «потенциально опасных». От мягких, вроде «корректирующей беседы» и «предупреждения», до жестких – «административное преследование», «уголовное расследование», «принудительное лечение» (для случаев «информационно-психологической девиации»).

– Мы создаем не просто систему фильтрации, – тихо сказала Марина. – Мы создаем систему репрессий.

Я молчал. Что я мог возразить? Она была права.

– Вадим, я не могу участвовать в этом, – продолжила она. – Это… это неправильно. Это противоречит всему, во что я верю.

– Вы хотите уйти из проекта? – спросил я.

– Я не знаю, – она выглядела потерянной. – Уйду я или нет, «Призму» все равно создадут. Может быть, лучше остаться и попытаться… смягчить ее? Сделать менее радикальной?

Я понимал ее дилемму. Сам мучился тем же вопросом: что правильнее – уйти, умыв руки, или остаться и пытаться влиять на процесс изнутри?

– Я не могу решать за вас, Марина. Но я был бы рад, если бы вы остались. Мне нужны люди, которые понимают, что на кону.

Она долго смотрела на меня, словно пытаясь понять, что я на самом деле думаю.

– Хорошо, – сказала она наконец. – Я останусь. Пока.

После ее ухода я долго сидел, глядя в окно на ночную Москву. Решение, которое я принял утром – играть роль лояльного исполнителя, одновременно саботируя проект изнутри – казалось все менее реалистичным. Степнов не дурак. Он заметит любые попытки замедлить или исказить разработку.

А если он заметит, последствия будут серьезными. Не только для меня, но и для всех, кто мне дорог. Включая Антона, которого до сих пор разыскивали.

Я достал телефон и написал брату в зашифрованном мессенджере: «Они готовят новую систему. Превентивное выявление „потенциально опасных" авторов. Будь предельно осторожен».

Ответ пришел через несколько минут: «Понял. Мы почти закончили новый материал. Он взорвет всю вашу конструкцию».

Я почувствовал одновременно гордость за брата и страх за него. Что он раскопал на этот раз? И как далеко власти готовы зайти, чтобы его остановить?

Домой я вернулся за полночь. Налил себе виски, выключил свет и сел у окна, глядя на город. Где-то там, среди миллионов огней, скрывался мой брат, готовящий новое разоблачение. Где-то там были тысячи людей, которые могли стать целями «Призмы» – системы, которую я помогал создавать.

Тяжесть этой мысли была невыносимой.

Я заснул в кресле у окна и снова увидел сон об отце. На этот раз он стоял на кухне нашей старой квартиры и смотрел на меня с грустью.

– История повторяется, Вадим, – сказал он. – Только теперь ты с другой стороны.

Я проснулся в холодном поту. Часы показывали 5:30 утра. Сон как рукой сняло.

Я принял душ, оделся и поехал в офис. Нужно было подготовиться к презентации проекта «Призма» перед расширенной командой. Сыграть роль уверенного руководителя, не выдав своих сомнений и страхов.

В офисе было пусто – слишком рано даже для самых рьяных трудоголиков. Я сел за компьютер и начал готовить презентацию. Слайды появлялись один за другим: цели проекта, технические требования, этапы реализации. Все выглядело профессионально, впечатляюще.

И совершенно чудовищно по своей сути.

Через час начали появляться первые сотрудники. Денис, как всегда, раньше других – он, кажется, вообще редко покидал офис.

– Доброе утро, – кивнул он мне. – Не ожидал вас увидеть так рано.

– Готовлюсь к презентации, – ответил я. – Как ваши успехи с архитектурой «Призмы»?

– Продвигаются, – он пожал плечами. – Технически это интересная задача. Этически… – он замолчал.

– Я знаю, – кивнул я. – Поверьте, я понимаю ваши сомнения.

Он внимательно посмотрел на меня.

– Правда? Мне казалось, вы полностью поддерживаете проект.

– Вещи не всегда такие, какими кажутся, Денис.

Он помолчал, словно обдумывая мои слова.

– Вы знаете, что я раньше был хакером? – спросил он неожиданно. – До того, как начал работать «на светлой стороне»?

– Слышал что-то такое.

– Я взломал базу данных ФСБ, – сказал он тихо. – Они поймали меня и предложили выбор: тюрьма или работа на них. Я выбрал второе.

– Понимаю.

– Но я никогда не переставал быть хакером в душе, – продолжил он. – И знаете, в чем главный принцип хакерской этики? Информация должна быть свободной. А системы вроде «Призмы»… они противоречат этому принципу.

Я внимательно посмотрел на него. Денис никогда не казался мне идеалистом. Скорее техническим гением, которого интересуют только сложные задачи, а не их этические последствия.

– К чему вы клоните, Денис?

– Просто хочу, чтобы вы знали: если вам когда-нибудь понадобится… техническая помощь особого рода, вы можете на меня рассчитывать.

С этими словами он развернулся и ушел к своему рабочему месту, оставив меня в легком шоке от этого разговора.

Что он имел в виду? Предлагал помощь в саботаже проекта? Или это была проверка моей лояльности?

У меня не было времени разгадывать эту загадку. В десять утра началось совещание по «Призме». Я представил проект расширенной команде, объяснил новые требования и цели. Говорил уверенно, четко, словно полностью поддерживал эту идею.

После презентации посыпались вопросы. Большинство были техническими: о доступе к данным, о вычислительных мощностях, о методах анализа. Но некоторые затрагивали этическую сторону.

– Как система будет отличать критическое мышление от «деструктивных намерений»? – спросил один из аналитиков.

– На основе комплексного анализа активности пользователя, – ответил я заготовленной фразой. – Система учитывает контекст, тональность, исторические паттерны поведения.

– А если система ошибется? – продолжил он. – Если пометит обычного человека как «потенциально опасного»?

– Все решения системы будут проверяться операторами, – солгал я, зная, что при планируемых масштабах это невозможно. – Человеческий фактор остается ключевым.

Еще несколько вопросов, еще несколько уклончивых ответов. Я видел скептицизм в глазах некоторых членов команды, но большинство приняло проект как данность. Просто еще одна техническая задача, которую нужно решить.