Проект 'Чистота'

– Я понимаю, Игорь Валентинович.

– Вот и хорошо, – он похлопал меня по плечу. – Жду список кандидатов через два дня.

После его ухода я прошел в свой кабинет. Просторный, минималистичный, с тем же потрясающим видом на Москву. Стеклянный стол, кожаное кресло, встроенные шкафы. На стене – 65-дюймовый экран для видеоконференций. В углу – небольшой бар с минеральной водой, кофемашина Jura последней модели.

Я сел в кресло и повернулся к окну. Кремль был виден как на ладони. Символично. Я достал ноутбук и открыл файл, который готовил последние сутки – список потенциальных кандидатов в команду «Чистоты».

Первое имя в списке – Марина Ольховская, 32 года. Опыт работы в Яндексе, потом в компании, разрабатывающей поисковые алгоритмы для государственных структур. Блестящий аналитик с опытом управления командами до 30 человек. Трудоголик, перфекционист, амбициозна до мозга костей.

Я познакомился с ней два года назад на конференции по искусственному интеллекту. Она выступала с докладом о применении нейросетей для анализа текстов на русском языке. Доклад был сухим, техническим, но я сразу понял: это именно тот человек, который нужен «Чистоте». Умная, прагматичная, без лишних моральных терзаний.

Второе имя – Денис Климов, 29 лет. Гений программирования, бывший хакер, избежавший тюрьмы только благодаря сделке с ФСБ. Теперь работал «на светлой стороне», разрабатывая системы кибербезопасности. Говорили, что у него синдром Аспергера, но я в это не верил – скорее, Денис просто предпочитал компьютеры людям из-за более предсказуемого поведения первых.

Остальные кандидаты были специалистами более узкого профиля: лингвисты для настройки семантических анализаторов, психологи для выявления манипулятивных техник, дата-аналитики для построения прогностических моделей.

Я начал с самого важного – звонка Марине.

– Марина, добрый день. Это Вадим Белов, мы встречались на…

– Я помню, – ее голос звучал настороженно. – Чем обязана?

– У меня есть предложение, которое может вас заинтересовать. Новый проект, государственный, но с фактически неограниченным бюджетом и полной творческой свободой.

– Звучит слишком хорошо, чтобы быть правдой, – в ее голосе появились нотки иронии. – В чем подвох?

– Повышенный уровень секретности и… специфика задачи. Мы создаем систему фильтрации контента нового поколения.

Пауза. Я почти видел, как в ее голове крутятся шестеренки, просчитывая все плюсы и минусы.

– Цензура? – спросила она наконец.

– Защита информационного пространства, – поправил я. – Вы как никто другой знаете, что происходит с общественным дискурсом в эпоху пост-правды и фейк-ньюс.

Еще одна пауза, дольше первой.

– Давайте встретимся и поговорим, – сказала она наконец. – У вас или у меня?

– На нейтральной территории. Бар «Стрелка», сегодня в семь?

– Договорились.

Следующий звонок был Денису. С ним оказалось проще – он даже не спрашивал о моральных аспектах. Его интересовали только технические задачи и зарплата. Когда я назвал сумму, он присвистнул.

– Это в два раза больше, чем я получаю сейчас.

– Проект того стоит, – ответил я. – Завтра в 10 в кафе «Белый» на Покровке. И, Денис, никому ни слова.

– Само собой, – он усмехнулся. – Я умею хранить секреты.

К вечеру я провел еще семь телефонных разговоров, назначил четыре встречи на завтра и получил три предварительных согласия. Неплохое начало.

Бар «Стрелка» на Болотной набережной был идеальным местом для неформальных деловых встреч. Модное, но не слишком шумное заведение с приглушенным светом и достаточным расстоянием между столиками, чтобы вести конфиденциальные разговоры.

Марина уже ждала меня. Стильная, подтянутая, в строгом черном платье, которое на ней выглядело одновременно деловым и сексуальным. Короткие темные волосы, минимум макияжа, внимательный взгляд умных глаз.

– Вадим, – она пожала мою руку с неженской силой. – Рассказывайте.

Я начал с общих слов о проекте, наблюдая за ее реакцией. Лицо оставалось непроницаемым, но глаза выдавали интерес. Когда я перешел к техническим аспектам, она начала задавать вопросы – точные, конкретные, демонстрирующие глубокое понимание предмета.

– То, что вы описываете, потребует невероятных вычислительных мощностей, – заметила она, отпивая вино.

– Бюджет позволяет, – ответил я. – Мы получим доступ к новому дата-центру ФСО.

– И какова моя роль в этом?

– Руководитель аналитического направления. Под вашим началом будет команда из шести-семи человек. Полная свобода в методологии, ограничения только по срокам.

Она задумчиво покрутила бокал.

– А моральная сторона вопроса вас не беспокоит? – спросила она наконец.

Я слегка улыбнулся.

– Вы о цензуре? Марина, не будем лицемерить. Вы работали в Яндексе, когда они внедряли фильтры по запросу властей. Вы разрабатывали алгоритмы для «чистки» контента. Это не сильно отличается.

– Масштаб отличается, – возразила она. – И уровень проникновения. То, что вы описываете, это фактически тотальный контроль над информационным полем.

– Который уже существует, – я пожал плечами. – Facebook, Google, Twitter – все они фильтруют контент. Мы просто хотим делать это на своих условиях, а не на условиях западных корпораций.

Она задумалась, потом кивнула.

– Логично. И все же, почему именно я?

– Потому что вы лучшая, – ответил я просто. – И потому что вам это интересно. Не только деньги, не только карьера. Вам интересна сама задача.

Это была правда. Марина была из тех редких людей, для которых интеллектуальный вызов значил больше, чем материальные стимулы. Именно поэтому она была так ценна.

– Когда нужен ответ?

– Чем скорее, тем лучше. В идеале – завтра.

Она допила вино и посмотрела мне прямо в глаза.

– Мне нужно подумать. Это серьезный шаг.

– Конечно, – я кивнул. – Но не думайте слишком долго. Такие предложения делаются раз в жизни.

После встречи с Мариной я поехал домой, по дороге заказав ужин из ресторана. Мой телефон снова показал пропущенный звонок от Антона и сообщение: «Нам нужно поговорить. Это важно».

Что ему могло понадобиться? Мы не разговаривали уже несколько месяцев, с нашей последней ссоры. Может, проблемы с деньгами? Или очередное «моральное прозрение», которым он хочет поделиться?

Я отложил телефон. Не сейчас. Сейчас все мои мысли должны быть сосредоточены на «Чистоте».

Домой я вернулся около десяти. Квартира встретила меня стерильной тишиной. Я бросил пиджак на диван, налил себе скотча и подошел к окну. Огни Москвы расстилались подо мной, создавая иллюзию контроля над городом.

Мой телефон зазвонил. На экране высветилось имя Марины.

– Я согласна, – сказала она без предисловий. – Когда приступать?

– Завтра в десять. Пришлю адрес.

– Договорились.

Я улыбнулся. Первый кирпичик заложен. Завтра добавим еще несколько.

Утро началось с сообщения от Дениса: «Условия принимаю. До встречи».

Два из двух. Неплохо.

К обеду я провел еще пять встреч и получил три согласия. К вечеру у меня был костяк будущей команды: Марина, Денис, два лингвиста, один психолог, два аналитика данных и один специалист по информационной безопасности. Оставалось еще несколько вакансий, но это был уже впечатляющий старт.

Вечером я отправил список Степнову. Ответ пришел через час: «Одобрено. Приступайте».

Через неделю команда «Чистоты» была полностью сформирована и приступила к работе в новом офисе. Мы начали с мозгового штурма, определяя основные направления работы и архитектуру системы.

Марина предложила разделить проект на несколько модулей: сбор данных, анализ контента, оценка угроз, принятие решений. Денис разрабатывал техническую архитектуру, постоянно споря с нашим безопасником о балансе между эффективностью и защищенностью.

Я наблюдал за ними, периодически направляя дискуссию в нужное русло. Эти люди были лучшими в своих областях, и было удовольствием видеть, как они работают.

К концу второй недели у нас был черновой проект системы. Марина представила его команде в конференц-зале.

– «Чистота» будет работать на трех уровнях, – она указала на схему на экране. – Первый уровень – лингвистический анализ контента. Выявление ключевых слов, семантических конструкций, эмоциональной окраски. Второй уровень – контекстуальный анализ. Кто автор, где размещено, какова потенциальная аудитория, какие связи с другими материалами. Третий уровень – прогнозирование эффекта: как этот контент может повлиять на общественное мнение, какие реакции вызвать.

– И на основе этого система будет принимать решение о блокировке? – спросил один из аналитиков.

– Не совсем, – ответила Марина. – Система будет давать рекомендацию с определенным уровнем уверенности. Финальное решение – за оператором.

Это была ложь, и мы оба это знали. При объемах контента, который предстояло анализировать, никакие операторы не справились бы. Но эта фикция была необходима – никто не хотел чувствовать себя создателем полностью автономной системы цензуры.

После презентации я пригласил Марину в свой кабинет.

– Отличная работа, – сказал я, наливая нам обоим кофе. – Команда впечатлена.

– Но вы – нет, – она проницательно посмотрела на меня. – Что не так?

– Все так, – я улыбнулся. – Просто я знаю, что вы солгали о роли операторов. При тех объемах, о которых мы говорим, человеческое участие будет минимальным.

Она не стала отрицать.

– Людям нужно чувствовать, что они создают инструмент, а не autonomous weapon system. Это психологически важно.

– Согласен. Просто хотел убедиться, что мы с вами понимаем реальную картину одинаково.

Она кивнула и отпила кофе.

– Знаете, что самое интересное в этом проекте? – спросила она вдруг. – Не технические вызовы. А тот факт, что мы фактически создаем искусственный интеллект, который будет решать, что людям можно знать, а что – нет.

– И это вас не беспокоит?

– Беспокоит, – она пожала плечами. – Но кто-то все равно будет это делать. Лучше мы, чем кто-то другой.

Я улыбнулся. Именно эти слова я говорил себе каждое утро, глядя в зеркало.

К концу месяца офис «Чистоты» превратился в слаженный механизм. Программисты писали код, аналитики готовили обучающие выборки, лингвисты разрабатывали семантические модели. Я ежедневно докладывал Степнову о прогрессе, и он был доволен.

Моя личная жизнь, и без того не слишком насыщенная, практически исчезла. Я приезжал в офис к восьми утра и уезжал редко раньше одиннадцати вечера. То же самое делала большая часть команды. Марина, кажется, вообще жила на работе – несколько раз я заставал ее спящей на диване в комнате отдыха.

Денис работал в своем ритме – мог исчезнуть на день, а потом появиться с готовым решением сложной проблемы. Я не вмешивался в его режим, пока он выдавал результаты.

Один раз я застал его в три часа ночи в офисе, напряженно смотрящим в монитор.

– Что-то случилось? – спросил я.

– Решаю проблему с распределенной архитектурой, – ответил он, не отрываясь от экрана. – Нам нужна система, которая сможет масштабироваться до петабайт данных без потери эффективности.

– И как успехи?

– Почти готово, – он позволил себе слабую улыбку. – Знаете, Вадим Александрович, это самая интересная задача, над которой мне приходилось работать. Даже жаль, что приходится ее использовать для цензуры.

– Не для цензуры, – поправил я автоматически. – Для защиты информационного пространства.

– Конечно, – он хмыкнул. – Как скажете.

Я не стал спорить. Денис был слишком ценен, чтобы ссориться с ним из-за терминологии.

По мере того, как проект обретал форму, я всё реже вспоминал о звонках Антона. Он продолжал периодически набирать меня, но я был слишком занят, чтобы ответить. Или так я себе говорил.

Правда была в том, что я избегал этого разговора. Антон всегда умел найти мои уязвимые места, заставить почувствовать вину за сделанный выбор. А сейчас, когда я был так глубоко погружен в создание системы тотального контроля, его моральные лекции были последним, что мне хотелось слышать.

Иногда, лежа без сна в своей пустой квартире, я думал: что бы сказал Антон, узнав о «Чистоте»? Назвал бы меня цифровым палачом? Архитектором нового ГУЛАГа? Предателем всего, во что мы когда-то верили?

Наверное, так и было бы. И в глубине души я знал, что он был бы прав.

Но утром эти мысли растворялись в потоке рабочих задач, совещаний, отчетов. «Чистота» требовала полной отдачи, не оставляя места для сомнений.

В один из вечеров, когда я задержался в офисе до полуночи, ко мне зашла Марина с бутылкой виски.

– Вы слишком много работаете, – сказала она, ставя на стол два стакана. – Даже такому трудоголику, как вы, нужен отдых.

Я не стал возражать. Мы выпили, глядя на ночную Москву из панорамного окна моего кабинета.

– Как ваша личная жизнь? – спросила она вдруг. – Или это запрещенная тема?

– Никакой личной жизни, – я усмехнулся. – Работа поглощает всё время.

– То же самое, – она кивнула. – Иногда мне кажется, что я забыла, как выглядит моя квартира.

Мы помолчали, наслаждаясь редким моментом тишины и покоя.

– Знаете, что странно? – сказала она наконец. – Мы создаем систему, которая изменит жизнь миллионов людей, но наши собственные жизни при этом практически не существуют.

– Издержки профессии, – я пожал плечами. – Кто-то должен этим заниматься.

– И почему именно мы?

– Потому что мы можем, – ответил я. – А значит, должны.

Она посмотрела на меня долгим взглядом, потом кивнула и допила виски.

– Завтра большой день, – сказала она, вставая. – Денис обещал показать первую рабочую версию алгоритма.

– Да, – я тоже поднялся. – Завтра мы увидим, стоила ли игра свеч.

Она улыбнулась и направилась к двери. На пороге остановилась и обернулась:

– Вадим… вы верите в то, что мы делаем? По-настоящему верите?

Я мог бы солгать, сказать что-то пафосное про информационный суверенитет и защиту общества. Но почему-то не стал.

– Я верю, что мир нуждается в порядке, – ответил я. – А порядок невозможен без контроля.

Она кивнула, словно это был именно тот ответ, который она ожидала услышать.

– Спокойной ночи, Вадим.

– Спокойной ночи, Марина.

Когда она ушла, я долго стоял у окна, глядя на ночной город и думая о том, что мы создаем. «Чистота» начинала казаться чем-то большим, чем просто проект. Она становилась нашей общей миссией, нашим предназначением.

И, возможно, нашим проклятием.

Глава 3: Алгоритм

– Что мы видим? – Марина стояла перед огромным экраном, где в режиме реального времени отображались графики и диаграммы.

Денис, нервно стуча пальцами по клавиатуре, комментировал происходящее:

– Система анализирует текст, выделяет ключевые фразы, оценивает тональность, контекст, связи с другими текстами… – он указал на разноцветные линии, соединяющие блоки на схеме. – Вот тут происходит семантический анализ, здесь – оценка потенциального воздействия, а это – финальная классификация по уровню угрозы.

Мы находились в центре управления «Чистотой» – просторном помещении с несколькими рядами компьютеров и гигантским экраном на стене. Сегодня был день первого полномасштабного тестирования алгоритма, и вся команда собралась, чтобы наблюдать за процессом.

– Попробуем запустить тестовую выборку, – предложил я. – У нас есть примеры материалов разной степени «опасности»?

– Конечно, – кивнула Марина. – Мы подготовили корпус из десяти тысяч текстов, предварительно промаркированных нашими аналитиками. От полностью безобидных до откровенно экстремистских.

Денис нажал несколько клавиш, и на экране начали появляться результаты обработки. Система прогоняла тексты один за другим, присваивая им цветовую маркировку: зеленую, желтую, оранжевую или красную.

– Точность распознавания – 87%, – прокомментировал Денис, глядя на статистику. – Для первого запуска это отличный результат.

– А ложноположительные? – спросил я, обращая внимание на несколько зеленых текстов, которые система почему-то отметила оранжевым.

– Около 7%, – ответила Марина. – Значительно ниже, чем мы ожидали. Но есть интересная закономерность, – она подошла к экрану и указала на группу материалов. – Система особенно чувствительна к текстам, которые не содержат прямых призывов или запрещенной лексики, но используют определенные нарративные структуры.

– Например? – я подошел ближе.

– Например, тексты, которые формально критикуют отдельные недостатки, но в совокупности создают впечатление системного кризиса. Или материалы, которые используют иронию и сарказм для дискредитации государственных институтов.

Я кивнул. Именно на такие материалы и был нацелен проект «Чистота». Не на примитивные экстремистские высказывания, которые легко блокировать существующими методами, а на более изощренную «деструктивную» информацию, формально не нарушающую закон.

– Давайте посмотрим конкретный пример, – предложил я.

Денис вывел на экран один из текстов, отмеченных оранжевым. Это была статья о проблемах в здравоохранении – анализ бюджетных расходов, статистика смертности, интервью с недовольными врачами. Ничего криминального на первый взгляд.

– Почему система отметила этот материал как потенциально опасный? – спросил я.

– Несколько факторов, – Марина указала на графики справа от текста. – Во-первых, эмоциональная тональность: несмотря на обилие фактов и цифр, текст создает устойчивое ощущение безнадежности и системного коллапса. Во-вторых, избирательность данных: приводится только негативная статистика, позитивные тенденции игнорируются. В-третьих, скрытые обобщения: проблемы конкретных больниц подаются как свидетельство провала всей системы здравоохранения.

Я внимательно просмотрел статью. Действительно, автор мастерски использовал эти приемы, создавая впечатление, что российская медицина находится в катастрофическом состоянии. При этом формально придраться было не к чему – все факты верны, все цитаты реальны.

– Кто автор? – спросил я, чувствуя смутное беспокойство.

Денис кликнул на имя в шапке статьи, и система выдала досье: «Антон Белов, 33 года, журналист-расследователь…»

Я замер. Антон. Мой брат. Значит, вот чем он занимается.

– Что-то не так? – Марина заметила мою реакцию.

– Нет, все в порядке, – я быстро взял себя в руки. – Просто удивлен точностью системы. Этот материал действительно можно классифицировать как манипулятивный.

Я старался говорить ровным голосом, но внутри нарастало беспокойство. Конечно, я знал, что Антон продолжает заниматься журналистскими расследованиями. Но видеть его статью в качестве примера «деструктивного контента», который наша система будет блокировать… это было неожиданно личным.

– Давайте проверим еще несколько примеров, – предложил я, стараясь переключить внимание.

Следующие два часа мы анализировали работу алгоритма, выявляя сильные и слабые стороны. Система демонстрировала впечатляющую точность, особенно для первой версии. Но были и проблемы: некоторые безобидные шутки распознавались как сарказм с политическим подтекстом, а литературные тексты с метафорами иногда классифицировались как закодированные призывы.

– Нам нужно доработать модуль контекстуального анализа, – подвел итог Денис. – И расширить обучающую выборку. Но в целом – система работает.

– Когда мы сможем перейти к тестированию на реальном потоке данных? – спросил я.

– Через неделю, может быть раньше, – ответил Денис. – Нам нужно настроить интеграцию с источниками контента, оптимизировать алгоритмы для работы с большими объемами и усилить безопасность.

– Хорошо, – кивнул я. – Значит, через неделю мы увидим «Чистоту» в действии.

После совещания я вернулся в свой кабинет и закрыл дверь. Достал телефон и набрал номер Антона. Гудки шли долго, и я уже думал, что он не ответит, когда наконец услышал его голос.

– Вадим? – в его тоне звучало удивление. – Ты наконец решил перезвонить?

– Привет, Антон, – я старался говорить непринужденно. – Да, извини, был очень занят. Как ты?

– Нормально, – он помедлил. – Учитывая, что ты игнорировал мои звонки месяц, должно быть что-то важное заставило тебя набрать мой номер?

– Просто соскучился по младшему брату, – солгал я. – Может, встретимся, поужинаем вместе?

Теперь настала его очередь удивляться.

– Серьезно? Ты, мистер Большая Шишка из Минцифры, хочешь встретиться с журналистом-оппозиционером? Не боишься запятнать репутацию?

– Перестань, Антон. Ты мой брат, независимо от наших политических разногласий.

Он хмыкнул.

– Ладно, давай встретимся. Когда у тебя есть время?

– Как насчет завтрашнего вечера? – предложил я. – Часов в восемь?

– Подойдет. Место?

Я задумался. Нужно было выбрать что-то нейтральное, не слишком шикарное (Антон всегда морщился от моих «элитных» предпочтений), но и не слишком простое.

– «Северяне» на Тверской? – предложил я. – Там неплохая кухня и тихо.

– Договорились, – согласился он. – До завтра.

Когда я положил трубку, то понял, что нервничаю. Странное чувство для человека, который только что успешно презентовал революционную систему цензуры группе высокопоставленных чиновников. Но мысль о предстоящей встрече с Антоном вызывала больше беспокойства, чем любое рабочее совещание.

Что я скажу ему? Как объясню, что система, которую я создаю, будет блокировать его статьи? И зачем вообще я решил встретиться с ним именно сейчас?

Я не мог ответить на эти вопросы даже самому себе.

Остаток дня прошел в привычной рутине: совещания, отчеты, решение технических проблем. Вечером ко мне зашла Марина.

– Команда собирается отметить успешное тестирование в баре «Стрелка», – сказала она. – Присоединитесь?

Я колебался. С одной стороны, было бы правильно поддержать командный дух, особенно после такого прорыва. С другой – мне хотелось побыть одному, подумать о предстоящей встрече с братом.

– Да, конечно, – решил я наконец. – Небольшой праздник нам не помешает.

Бар «Стрелка» в этот вечер был заполнен типичной московской публикой: бизнесмены среднего звена, креативщики из модных агентств, молодые чиновники, старательно изображающие светскую непринужденность. Наша группа из десяти человек заняла большой стол на веранде с видом на Москву-реку.

Настроение было приподнятым. Даже обычно сдержанный Денис улыбался, явно довольный результатами тестирования. Я заказал шампанское для всех и произнес короткий тост:

– За успешный старт проекта «Чистота» и за команду, которая делает невозможное возможным!

Все с энтузиазмом поддержали тост. Начались разговоры, смех, шутки – обычное расслабление после напряженной работы. Я сидел между Мариной и одним из аналитиков, поддерживая легкую беседу и стараясь не думать о завтрашней встрече.

– Вадим? Вадим Белов? – услышал я вдруг знакомый голос.

Обернувшись, я увидел Кирилла Соловьева, своего бывшего однокурсника. Когда-то мы вместе начинали в «Ведомостях», но потом он ушел в «Дождь», а оттуда – в одно из последних независимых изданий.

– Кирилл, какая встреча, – я поднялся и пожал ему руку. – Как жизнь?

– Не жалуюсь, – он окинул взглядом наш стол. – Вижу, у тебя все отлично. Корпоративная вечеринка?

– Что-то вроде того, – уклончиво ответил я. – Отмечаем завершение важного этапа проекта.

– В Минцифры, я так понимаю? – он усмехнулся. – Слышал, ты теперь большая шишка в правительстве.

– Преувеличивают, – я пожал плечами. – Просто руководитель проекта.

– И что за проект, если не секрет?

– Боюсь, это как раз секрет, – я улыбнулся. – Закрытый государственный проект.

Кирилл хмыкнул.

– Ясно. Что-нибудь связанное с контролем интернета, полагаю? Это сейчас главная забота властей.

Я почувствовал, как напряглась сидящая рядом Марина. Весь стол притих, прислушиваясь к нашему разговору.

– Кирилл, ты же знаешь, что я не могу обсуждать рабочие вопросы, – я старался говорить дружелюбно. – Давай лучше о тебе. Как дела в вашем издании?

– Выживаем, – он пожал плечами. – Пока власти не закрыли нас окончательно. Хотя, судя по последним законодательным инициативам, это вопрос времени.

– Законы просто приводят медиасферу в соответствие с современными вызовами, – сказал я дипломатично. – Никто не стремится закрывать качественную журналистику.

– Серьезно, Вадим? – Кирилл посмотрел на меня с иронией. – Ты в это веришь? Или это официальная линия, которую ты обязан транслировать?

Я почувствовал, как внутри нарастает раздражение. Кирилл всегда умел задевать за живое.

– Я верю, что государство имеет право защищать информационное пространство от деструктивного влияния, – ответил я. – Как любое суверенное государство.