Цифровой концлагерь: код хаоса

Александр Паркер

Цифровой концлагерь: код хаоса

Настоящее издание является художественным произведением. Все имена, персонажи, события, организации, компании и иные элементы повествования являются результатом художественного вымысла. Любое сходство с реальными лицами, действующими или прекратившими деятельность организациями, компаниями, а также с реальными событиями и обстоятельствами носит исключительно случайный и непреднамеренный характер.

Пролог

Смартфон светился в темноте спальни, выхватывая из полумрака лицо пятнадцатилетнего Кирилла. Было три часа ночи. За окном монотонно шумел осенний дождь, но парень не слышал его. Его пальцы совершали одно и то же механическое движение — короткий свайп вверх, доля секунды на оценку, следующий свайп.

Два часа назад всё начиналось безобидно. Алгоритм подсовывал ему забавные ролики с котами, обзоры футбольных матчей и рецепты быстрых десертов. Кирилл улыбался, задерживал взгляд на несколько секунд, и система послушно фиксировала эти микрореакции. Миллисекунды задержки на кадре, глубина прокрутки, траектория движения пальца — всё это уходило на удалённые серверы, где бездушный математический код выстраивал его цифровой портрет.

Затем тональность ленты незаметно изменилась.

Среди ярких видео замелькали другие кадры. Короткие, тусклые, под меланхоличную музыку.

«Тебе кажется, что ты здесь лишний?» — гласила надпись на фоне серого дождливого города.

Кирилл нахмурился, но не пролистнул. Алгоритм зафиксировал пятисекундную паузу.

Следующий ролик: «Родители думают, что знают тебя. Но им всё равно».

Ещё один свайп. «Физическая боль заглушает душевную. Это просто способ почувствовать себя живым». На экране на мгновение промелькнули тонкие шрамы на запястье.

Кирилл почувствовал, как внутри шевельнулось странное, липкое чувство узнавания. Система не просто предлагала контент — она словно заглядывала в самые тёмные уголки его сознания, вытаскивая наружу подростковое одиночество, обиду на отца и страх перед будущим. Он хотел закрыть приложение, но палец сам потянулся к экрану. Лента затягивала его всё глубже, превращаясь в бесконечный туннель, из которого не было выхода.

Глава 1. Эпидемия в рекомендациях

Осенний Петербург за окном кабинета казался нарисованным тушью на мокром сером картоне. Дождь, начавшийся еще на рассвете, к четырем часам дня превратился в плотную взвесь, которая оседала на стеклах и превращала свет уличных фонарей в размытые желтые пятна.

Елена Зорина потерла переносицу, чувствуя, как под кожей пульсирует привычная тупая боль — следствие многочасового напряжения. На ее рабочем столе, под мягким светом зеленой лампы, лежала раскрытая медицинская карта. Пятнадцатая за эту неделю.

Напротив нее, на глубоком кожаном диване, сидела шестнадцатилетняя Софья Воронова. Девочка была одета в безразмерное черное худи, рукава которого она настойчиво натягивала на пальцы, словно пытаясь полностью исчезнуть в этой плотной хлопковой броне. Ее мать, бледная женщина с уставшими глазами, сидела на самом краю соседнего стула, судорожно сжимая в руках влажный носовой платок.

— Соня, посмотри на меня, пожалуйста, — тихо произнесла Елена. Ее голос, ровный и мягкий, годами нарабатывался как профессиональный инструмент, способный заземлить пациента в состоянии самого острого кризиса.

Девочка медленно подняла голову. В ее взгляде не было ни злости, ни подросткового бунта. Только бесконечная, вымороженная пустота, которая пугала Елену гораздо сильнее, чем любые проявления агрессии.

— Расскажи мне про вчерашний вечер, — попросила Елена. — Что произошло перед тем, как ты взяла лезвие?

Софья пожала плечами. Движение вышло механическим, похожим на жест сломанной куклы.

— Ничего не произошло. Просто… всё стало слишком громким. И бессмысленным. Я просто хотела, чтобы это прекратилось.

— Что именно должно было прекратиться?

— Шум, — Софья наконец вытащила правую руку из рукава худи, чтобы поправить волосы.

Елена невольно зафиксировала взгляд на ее запястье. Под свежими, еще розовыми полосами пластыря угадывались старые, уже побелевшие рубцы. Они шли параллельными линиями, похожими на штрих-код.

— Этот шум… он был в твоей голове? Или в телефоне? — спросила Елена, осторожно нащупывая границу.

Мать девочки всхлипнула, закрыв лицо руками. Софья же лишь посмотрела на свой смартфон, лежащий на журнальном столике экраном вниз. Телефон беззвучно завибрировал, на мгновение осветив полированную поверхность дерева коротким синим сполохом уведомления. Девочка инстинктивно дернулась к нему, но сдержалась.

— Он везде, — тихо ответила Софья. — Он просто не останавливается.

После того как Вороновы ушли, Елена долго сидела неподвижно, глядя на закрытую дверь. Как специалист по клинической психологии и реабилитологии, она знала природу подросткового кризиса до мельчайших деталей. Она защитила диссертацию по депрессивным состояниям у несовершеннолетних и прекрасно понимала, как работает мозг в этот сложный период.

Биологическая уязвимость подростков — это не вопрос плохого воспитания или слабого характера. Это чистая физиология. Префронтальная кора головного мозга, отвечающая за долгосрочное планирование, оценку рисков, волевой контроль и критическое мышление, завершает свое формирование последней — часто только к двадцати пяти годам. В то же время лимбическая система, управляющая эмоциями, страхом и поиском удовольствий, у подростков уже работает на полную мощность. Этот дисбаланс делает их невероятно чувствительными к любому внешнему одобрению или отвержению. Они буквально не способны затормозить эмоциональный импульс так, как это делают взрослые. И именно эта незрелость префронтальной коры превращает их в более уязвимую мишень для внешнего воздействия.

Но то, с чем Елена сталкивалась последние полгода, выходило за рамки обычной возрастной психопатологии. Это не было спонтанным всплеском гормонов. Это выглядело как спланированная, методичная осада.

Она открыла свой рабочий журнал. За последние три месяца к ней обратились двадцать семь семей с практически идентичными симптомами у детей: внезапная изоляция, потеря интереса к учебе, тяжелые нарушения сна, перерастающие в хроническую тревожность, и, как финал, самоповреждения. И у всех этих историй был один и тот же цифровой след.

Через три дня Елена стояла в коридоре Василеостровского районного суда. Высокие арочные окна пропускали слишком мало света, и тусклые люстры под потолком оставляли углы коридора в глубокой тени.

Здесь слушалось гражданское дело по иску семьи четырнадцатилетней Юлии Смирновой к представительству крупной технологической платформы «PulseNet». Юля погибла три месяца назад. Ее нашли в собственной комнате после того, как она в течение полугода практически не выпускала из рук телефон.

Елена выступала на процессе в качестве независимого эксперта-психолога. Она провела несколько дней, изучая материалы дела, включая посмертную психолого-психиатрическую экспертизу и выгрузку активности девочки в социальной сети.

Зал судебного заседания был небольшим и душным. На деревянных скамьях для публики сидели лишь несколько журналистов местных изданий и родители Юли — почерневшие от горя люди, которые казались уменьшившимися в размерах под тяжестью своего несчастья.

Напротив них, за столом ответчика, сидели двое мужчин в безупречно скроенных темно-синих костюмах. Их лица выражали вежливое, профессиональное сочувствие, за которым скрывалась абсолютная, железобетонная уверенность в своей неуязвимости. Это были ведущие юристы корпорации.

— Уважаемый суд, — говорил старший из адвокатов, мужчина с аккуратной сединой на висках и мягким, усыпляющим баритоном. — Мы глубоко соболезнуем утрате истцов. Это ужасная трагедия. Однако мы вынуждены указать на полное отсутствие причинно-следственной связи между работой рекомендательных алгоритмов нашей платформы и действиями несовершеннолетней.

Он перелистнул страницу лежащего перед ним документа.

— Платформа «PulseNet» является исключительно нейтральным техническим посредником. Алгоритм не создает контент. Он лишь оптимизирует выдачу на основе предпочтений самого пользователя. Если пользователь проявляет интерес к определенной тематике, система предлагает ему схожие материалы. Это стандартная практика для всей индустрии. Мы не можем контролировать психологическое состояние миллионов пользователей. Ответственность за душевное здоровье ребенка и контроль за его поведением в сети лежат исключительно на родителях.

Елена почувствовала, как у нее перехватило дыхание от этой ледяной, юридически выверенной демагогии. Она поднялась со своего места, когда судья предоставила ей слово.

— Позвольте возразить, — произнесла она, стараясь, чтобы ее голос звучал максимально твердо. — Называть эти алгоритмы «нейтральными» — значит сознательно вводить суд в заблуждение. Мы имеем дело не с пассивным зеркалом, а с активным инструментом воздействия. Негативные новости, деструктивный контент, эстетизированные изображения насилия и самоповреждений оказывают прямое криминогенное и психосоматическое воздействие на здоровье человека. Это доказано многочисленными клиническими исследованиями. У подростков под влиянием такого контента резко возрастает уровень тревожности, разрушаются естественные механизмы психологической защиты, что напрямую провоцирует тяжелые депрессивные состояния. Алгоритм не просто предлагает то, что ищет ребенок. Он создает замкнутую информационную петлю, из которой незрелая психика выбраться самостоятельно не в состоянии.

Адвокат ответчика снисходительно улыбнулся, даже не повернувшись в ее сторону.

— Это интересная теоретическая концепция, доктор Зорина. Однако закон оперирует фактами, а не психологическими гипотезами. В действующем законодательстве отсутствует само определение «алгоритмического воздействия» как источника опасности. Нет ни одного правового механизма, который позволял бы квалифицировать математический код как орудие причинения вреда. Платформа полностью соблюдает все требования действующего законодательства.

Судья — немолодая женщина с грустным лицом, на котором читалось искреннее сочувствие к родителям погибшей девочки и одновременно глубокое юридическое бессилие — вздохнула. Она долго изучала представленные документы, после чего зачитала решение.

В удовлетворении иска было отказано.

Существующие юридические механизмы просто не позволяли привлечь владельцев платформ к ответственности. Закон требовал физического действия, прямого умысла конкретного человека, осязаемого оружия. Перед лицом невидимых математических формул, которые медленно разрушали человеческий мозг изнутри, правовая система оказалась абсолютно слепой и беспомощной.

Когда зал заседаний начал пустеть, Елена осталась сидеть на скамье. У нее не было сил даже на то, чтобы собрать бумаги в сумку. Чувство глубокой несправедливости и собственного бессилия давило на плечи физической тяжестью.

— Они никогда не признают это добровольно, — раздался рядом спокойный, чуть хрипловатый голос.

Елена вздрогнула и повернула голову. На скамью рядом с ней присел мужчина лет пятидесяти. На нем был простой, слегка помятый серый пиджак поверх темной водолазки. Лицо мужчины, изрезанное глубокими мимическими морщинами, казалось усталым, но взгляд серых глаз был на удивление цепким и живым.

— Простите? — переспросила Елена.

— Я говорю о юристах корпорации, — мужчина протянул ей руку. — Виктор Орлов. В прошлом — следователь по особо важным делам, сейчас занимаюсь независимыми расследованиями и правозащитной деятельностью. Я наблюдал за вами во время процесса. Вы отлично держались. Жаль только, что в этом зале ваши аргументы никто не мог услышать.

— Почему? — Елена пожала его крепкую, сухую ладонь.

— Потому что судья судит по букве закона, а буква эта безнадежно устарела, — Виктор горько усмехнулся. — Наш уголовный и гражданский кодексы писались в эпоху, когда самым сложным техническим устройством в быту был стационарный телефон. Они не понимают, что такое информационное воздействие. Для них опасность — это когда бьют кирпичом по голове. А то, что можно уничтожить человека, просто показывая ему определенные картинки в определенной последовательности — это для них фантастика.

— Вы тоже это видите? — Елена внимательно посмотрела на него.

— Я вижу это каждый день в своей практике, — лицо Виктора стало серьезным. — Только с другой стороны. Вы видите пациентов в клинике, а я вижу статистику происшествий. За последний год в нашем регионе произошел необъяснимый всплеск подростковой агрессии. Дети из абсолютно благополучных семей вдруг совершают немотивированные нападения на сверстников, калечат себя, уходят из дома. И когда начинаешь копаться в их телефонах, понимаешь, что все они прошли через одну и ту же цифровую мясорубку. У вас есть время? Нам нужно поговорить без лишних ушей.

Они вышли из здания суда и направились к небольшой, полупустой кофейне, расположенной в одном из тихих переулков Васильевского острова. Дождь продолжал стучать по стеклам, создавая ощущение изолированности от остального мира.

Они устроились за угловым столиком. Виктор заказал два черных кофе, достал из потертого кожаного портфеля плотную папку-скоросшиватель и положил ее перед Еленой.

— Здесь материалы по трем случаям за последние два месяца, — сказал он, открывая папку. — Все подростки. Все совершили попытки суицида или тяжелого самоповреждения. Родители передали мне их телефоны для анализа. Мой знакомый IT-специалист сделал полные дампы их активности в сети перед трагедией. Посмотрите на это.

Елена углубилась в чтение распечаток логов активности. Перед ее глазами разворачивалась пугающая картина. Это не было хаотичным блужданием по сети. Это был четко выстроенный, направленный маршрут.

— Обратите внимание на время, — Виктор постучал пальцем по бумаге. — Вот здесь мы видим регистрацию нового аккаунта. Чистый профиль, никаких предустановок. Первые полторы минуты пользователь видит стандартный набор: смешные видео с животными, кулинарные рецепты, обзоры компьютерных игр. Но затем происходит нечто странное.

Елена всмотрелась в цифры таймстампов.

— Алгоритм фиксирует задержку взгляда на определенном типе контента, — пояснила она. — Достаточно задержаться на ролике с грустной музыкой всего на три-четыре секунды дольше обычного, как система считывает это как микрореакцию интереса.

— Именно, — кивнул Виктор. — И запускается так называемый эффект «кроличьей норы». Наш специалист провел серию тестов на чистых смартфонах. Результаты шокируют. Алгоритмы социальных сетей способны полностью перенаправить внимание пользователя на деструктивный контент всего за две целых и шесть десятых минуты после регистрации нового аккаунта. Две с половиной минуты, Елена! За это время система успевает проанализировать первичные реакции, составить психотип и начать целенаправленно подсовывать подростку видео, эксплуатирующие его скрытые страхи, одиночество или обиду на родителей.

— Это биологическая ловушка, — тихо произнесла Елена, чувствуя, как внутри нарастает холод. — Мозг подростка реагирует на негативные стимулы гораздо острее. Страх и тревога вызывают мощный выброс кортизола. Чтобы справиться с этим стрессом, мозг начинает искать способы разрядки. И тут алгоритм услужливо подсовывает ему «решение» — сообщества, где обсуждается самоповреждение как способ снять внутреннее напряжение. Физическая боль вызывает кратковременный выброс эндорфинов, притупляя душевную боль. Возникает сильнейшая нейрохимическая зависимость, сравнимая с наркотической. И система поддерживает эту зависимость, постоянно подбрасывая новые порции деструктивного контента.

— Но это еще не все, — Виктор подался вперед, понизив голос. — Мы проанализировали структуру этого контента. Это не просто грустные картинки. В этих видео используется техника двойного наложения смысла.

Он вытащил из папки распечатку раскадровки одного из популярных роликов, который смотрели все пострадавшие дети.

— Посмотрите сюда. На первый взгляд — обычный подростковый сериал. Молодые люди спорят, говорят о несправедливости мира, о том, как их ненавидят родители. Это вызывает у зрителя-подростка мгновенный отклик, сопереживание, воспоминания о собственных обидах. Но одновременно с этим, на подсознательном уровне, накладываются визуальные и звуковые триггеры. Короткие вспышки кадров с изображением лезвий, шрамов, специфические звуковые частоты, вызывающие чувство безотчетной тревоги. Это чистой воды суггестивное воздействие. Подростку внушается мысль, что единственный способ обрести свободу и заявить о себе — это разрушить себя. Родители в этих сюжетах всегда изображаются как жестокие, бесчувственные враги, от которых нужно избавиться — либо уйдя из жизни, либо… применив насилие к ним.

Елена почувствовала, как у нее задрожали пальцы. Она вспомнила Софью Воронову, ее пустой взгляд и слова о «шуме», который не прекращается.

— Это не просто алгоритм оптимизации рекламы, — медленно произнесла она. — Это система направленного изменения поведения. Но кто за этим стоит? Зачем кому-то превращать детей в управляемых, сломленных людей, уничтожающих самих себя?

— Вот это нам и предстоит выяснить, — ответил Виктор. — Я начал копать в этом направлении месяц назад. И чем глубже я погружаюсь, тем яснее понимаю: мы имеем дело не с техническим сбоем и не с глупостью программистов. Это скоординированная кампания. Существуют целые сети анонимных аккаунтов, которые вбрасывают этот контент, обходя любые фильтры модерации. Они используют скрытые хэштеги, меняют кодировку файлов. Они действуют как профессиональная диверсионная группа.

Он закрыл папку и посмотрел Елене прямо в глаза.

— Мне нужна ваша помощь, Елена. Я умею искать людей, сопоставлять факты и работать с документами. Но я не понимаю, как устроена человеческая психика. Я не могу расшифровать те психологические коды, которые они используют для взлома детского сознания. Вы — единственный специалист, который открыто заговорил об этом в суде. Давайте объединим наши усилия.

Елена посмотрела на чашку с остывшим кофе, затем перевела взгляд на окно, за которым в сумерках тонул серый город. Она вспомнила лица родителей Юли Смирновой в зале суда. Вспомнила шрамы на руках Софьи.

— Хорошо, — тихо, но твердо сказала она. — Я в деле. С чего мы начнем?

— С физических улик, — Виктор достал из кармана небольшой пластиковый пакет, в котором лежал старый, со сколом на корпусе смартфон. — Это телефон Юли Смирновой. Официально следствие вернуло его родителям, посчитав, что там нет ничего, кроме «личной переписки депрессивного характера». Но мой человек успел сделать полную копию файловой системы до того, как его почистили. Нам нужно детально восстановить хронологию последних недель ее жизни. Шаг за шагом. Мы должны понять, как именно система вела ее к обрыву.

Они вышли из кофейни. Дождь почти прекратился, уступив место сырому, пронизывающему ветру с залива. Город зажигал огни, и в этом неоновом свете миллионы людей продолжали смотреть в экраны своих телефонов, даже не подозревая, что каждый их шаг, каждая эмоция и каждый страх уже давно просчитаны и превращены в строчки бездушного математического кода.

Глава 2. Биологическая ловушка

Утреннее солнце так и не сумело пробиться сквозь плотную завесу петербургских туч, оставив город в состоянии затянувшихся сумерек. Елена сидела за своим рабочим столом в клинике, бездумно глядя на экран монитора. На почте висело письмо от главного врача, Михаила Шестакова. Текст был предельно вежливым, но от этого не менее тревожным: «Уважаемая Елена Владимировна, руководство клиники выражает обеспокоенность вашим участием в недавнем судебном процессе в качестве независимого эксперта. Ваши заявления о “системном алгоритмическом воздействии” вызвали неоднозначную реакцию среди наших попечителей. Прошу вас зайти ко мне завтра в десять утра для обсуждения соответствия вашей публичной активности академическим стандартам нашего учреждения».

Елена закрыла почту. Вот оно, первое проявление того самого социального давления, о котором предупреждал Виктор. Никаких угроз, никаких людей в черных плащах — просто мягкое, но настойчивое напоминание о том, что система не любит тех, кто пытается заглянуть за ее фасад.

Вибрация телефона на столе заставила ее вздрогнуть. Звонил Виктор.

— Елена, доброе утро. Наш общий знакомый согласился на встречу. Одевайтесь теплее, на Васильевском сегодня ветрено. Я заеду за вами через двадцать минут.

Через полчаса они уже пробирались сквозь лабиринт серых кирпичных корпусов бывшего кожевенного завода на Кожевенной линии. Огромные заброшенные цеха из красного кирпича соседствовали здесь с модными лофтами и дешевыми офисами, которые арендовали мелкие IT-компании и веб-студии. Ветер с Финского залива нес мелкую, колючую взвесь, которая мгновенно оседала на стеклах очков и воротнике пальто.

— Денис Волков — парень своеобразный, — говорил Виктор, перешагивая через глубокую лужу, в которой отражалось свинцовое небо. — Три года назад он был ведущим разработчиком в «Квант Медиа». Это агентство занималось локализацией и оптимизацией рекомендательных систем для крупных платформ, включая ту самую «PulseNet», с которой мы столкнулись в суде. Денис ушел оттуда сам. Точнее, его вежливо попросили уйти, когда он начал задавать слишком много вопросов о том, почему их новые алгоритмы удержания внимания вызывают у фокус-групп подростков симптомы клинической депрессии.

Они поднялись по скрипучей металлической лестнице на третий этаж одного из корпусов. За тяжелой железной дверью скрывалось просторное, но неуютное помещение с высокими потолками. Повсюду тянулись кабели, на столах громоздились системные блоки, мерцали экраны мониторов, а в углу тихо гудел старый серверный шкаф.

Из-за перегородки навстречу им вышел молодой человек лет тридцати в растянутом сером свитере. У него были глубокие темные круги под глазами и бледная, почти прозрачная кожа человека, который месяцами не видит дневного света. В руках он держал металлическую головоломку, которую непрерывно вертел длинными, тонкими пальцами.

— Виктор, — Денис кивнул бывшему следователю, затем перевел настороженный взгляд на Елену. — Это тот самый психолог?

— Елена Владимировна, — представил ее Виктор. — Денис, мы здесь не для того, чтобы читать лекции. Нам нужно понять, как эта штука устроена изнутри. Мы видели результаты на детях. Теперь мы хотим увидеть код.

Денис молча указал им на два свободных офисных кресла возле своего рабочего стола, на котором стояли три огромных монитора. Он сел напротив, на мгновение закрыл глаза, словно собираясь с силами, а затем заговорил быстрым, монотонным шепотом:

— Все думают, что рекомендательные системы созданы для того, чтобы помогать пользователю находить интересный контент. Это официальная сказка для инвесторов и судов. На самом деле задача любого коммерческого алгоритма — это максимизация времени, проведенного на платформе. Время — это деньги рекламодателей. Но обычными методами удерживать человека часами невозможно. Мозг устает, включаются механизмы критического мышления, человек закрывает приложение. Чтобы этого не происходило, нужно обойти критический фильтр сознания.

Денис повернулся к экрану и открыл программу для видеомонтажа. На таймлайне была разложена видеозапись — типичный подростковый ролик с динамичной музыкой и яркими цветами.

— Сознательное восприятие человека имеет свои физиологические ограничения, — продолжил Денис, кликая мышкой по кадрам. — Чтобы вы успели осознать визуальный образ, сопоставить его со своим опытом и дать ему критическую оценку, вашему мозгу требуется определенное время. Обычно это около 350–400 миллисекунд для сложных стимулов. Все, что длится меньше этого порога, сознанием просто не фиксируется. Вы не сможете сказать, что именно вы видели. Но ваше подсознание, ваши древние субкортикальные структуры мозга, обработают эту информацию гораздо быстрее.

Он увеличил масштаб таймлайна, выделив крошечный отрезок видео.

— Посмотрите сюда. Вот идет стандартный видеоряд — 60 кадров в секунду. А вот здесь, между сценами, встроена визуальная вставка длительностью всего в три кадра. Это примерно 50 миллисекунд. На этих кадрах изображено лицо человека в состоянии крайнего ужаса, инвертированное в негатив, и схематичное изображение лезвия. Ваше зрение не успевает передать этот образ в зрительную кору для осознания. Но сигнал от сетчатки глаза по более короткому, эволюционно более древнему пути идет напрямую в миндалевидное тело — зону мозга, отвечающую за страх и выживание.

Елена подалась вперед, всматриваясь в экран.