Отменить невозможно

Валерий Горшков

Отменить невозможно

[EHO] INITIALIZING SCENARIO ANALYSIS #99758615213

[

[ENCRYPTED_Log:1]

На тёмной видеостене появляются разноцветные символы, выстраиваясь в код отображения машинного мышления.

– Уже пытается предсказать тестовый пуск, – подмечает Юра.

– Деплой ещё не закончен, – говорит один из программистов, сидящий за первым компьютером в ряду перед видеостеной.

– О том и речь, – отвечает Юра. – Много ещё?

– Двадцать процентов, – докладывает программист с центрального компьютера.

Двери лифта в фойе за стеклом справа от «Конюшни» беззвучно открываются. Из него выходит прибывшая немного раньше запланированного делегация.

За спинами членов своей команды Юра спешит к центральному проходу, попутно приветствуя жестом Завьялову. Он подходит к прозрачным дверям и ждёт возле них, наблюдая за идущими по коридору снаружи.

Помимо начальницы на проведение тестового запуска проекта «ЭХО» идут ещё пятеро наблюдателей – двое мужчин в классических костюмах, женщина, облачённая в серый деловой оверсайз, а также два майора – полицейский и военный.

Створки с тихим жужжанием разъезжаются в стороны, впуская группу, больше похожую на случайных попутчиков лифта, чем на согласованную комиссию.

– Здесь у нас «Конюшня», – оповещает Завьялова. – Это Юрий Борисович…

– Конюх? – шутит военный, протягивая руку.

– Ведущий программист, – отвечает за Юру начальница.

– «Конюшней» мы назвали помещение из-за акустики, – поясняет Юра. – Слышите, как от стекла отражается отзвук клавиш?

Прибывшие на пару секунд прислушиваются к гулкому перестукиванию клавиатур, действительно напоминающему цоканье лошадиных копыт.

– Ветров, – запоздало представляется военный, одёргивая форму. – Генштаб.

– Семенихин, – подхватывает полицейский, перекладывая подмышку свою кожаную папку.

Наконец жмут руки.

– Виктория Маратовна Гильманова из Минцифры, – представляет женщину в оверсайзе Завьялова.

– Эдуард Зайхман, НЦ «Прион», – представляется один из мужчин в классическом костюме.

Юрий смотрит на второго, но тот продолжает молчать. Не представляет его и Завьялова.

– Юрий Борисович, расскажите нам немного о проекте и своей работе, – просит та.

– Что ж, проект «ЭХО», он же «Эмерджентный Холос “Осирис”», – результат десятилетних трудов команды АО «Заслон» в области искусственного интеллекта, выросший из нашей генеративной нейросети «Осирис», – начинает Юра. – Это саморазвивающаяся, непреднамеренно сложная, то есть несводимая к простой сумме своих алгоритмов, спонтанно эволюционирующая на основе поглощённых данных система…

– Короче, Склифосовский, – усмехается Семенихин.

– «ЭХО» перестраивает само себя по мере изучения новой информации для построения более точных прогнозов реальности, которую воспринимает в виде единой системы, а не набора данных.

– И какова точность предсказаний? – интересуется Гильманова.

– В среде разработки показатель колебался между 99 и 100%, – отвечает Юра. – Сейчас мы завершаем перенос на рабочие серверы и предполагаем эволюционное увеличение нижнего порога до целевого значения в 99,9%. Это будет средний рабочий уровень.

– Надеюсь, рубильником вы его снабдили? – спрашивает Ветров. – Так сказать, на всякий антипожарный случай…

– Конечно, систему в любой момент можно отключить с центрального пульта, – отвечает Завьялова.

– На видеостену сейчас выводится переведённый в удобный для восприятия вид ход мышления «ЭХО», – продолжает Юра. – Мы можем переключаться между различными прогнозами, коих генерируется условно бесконечное количество.

– Что значит «условно»? – уточняет Гильманова.

– Благодаря интеграции квантовых машин ежемоментно автоматически происходит анализ сотен миллионов текстов вероятной реальности…

– Здесь задействован принцип «Вавилонской библиотеки», – добавляет Завьялова. – По Борхесу.

– Опираясь на так называемые «точки влияния», полученные в результате анализа данных, «ЭХО» отсеивает заранее сгенерированные текстовые прогнозы всех возможных версий реальности, ранжируя их по степени вероятности развития, – продолжает Юра. – Иными словами, всё, что только можно записать в виде текста, уже находится в базе данных «ЭХО». Система просто выбирает наиболее вероятные варианты.

– Правильно ли я понимаю, в библиотеке системы уже есть наша беседа? – спрашивает Ветров.

– Да, и все её возможные версии.

– И как это поможет в нашем вопросе? – подключается к разговору Зайхман. – Разве одного анонимного сообщения нейросети хватит для определения единственного реального сценария нападения на лабораторию?

– Простите, я не осведомлён о ваших целях… – уточняет Юра.

– Юрий Борисович, руководство изучило ваши доклады о результативности прогнозов и решило провести рабочую демонстрацию возможностей «ЭХО», – поясняет ему Завьялова. – К тому же дело чрезвычайной важности.

– Не думаю, что мы уже готовы…

– Но научный центр под прицелом террористов!.. – начинает Зайхман.

Его перебивает безымянный молчун в классическом костюме.

– Не торопитесь, Эдуард Семёнович, – говорит он. – Пока такие выводы ни к чему.

– Но нам угрожают!

– Сотрудники «Приона» получили рассылку на корпоративные почтовые ящики, – объясняет Семенихин. – Неустановленный аноним требует прекратить исследования и завершить программу создания искусственных вирусов, угрожая нападением на лабораторию и освобождением образцов.

– Мы не делаем биологическое оружие! – говорит Зайхман. – «Прион» работает с вирусами положительного влияния – симбиотами для микробиома организма, вирусами генной терапии от врождённых заболеваний и нейротропными BDNF-вирусами, которые улучшают память… Они не то, что безвредны, они полезны! Промежуточные штаммы только мало эффективны.

– Мы получили заявление от представителей научного центра и передали их… – полицейский смотрит на мужчину в строгом костюме. – В известные органы…

– Оценивая риски, игнорировать подобную угрозу нецелесообразно, – говорит представитель известных органов. – Работа идёт, но время поджимает – исполнить угрозу грозятся сегодня.

– Проведение демонстрации не обсуждается, – предупреждает Завьялова. – Вопрос решён.

– «ЭХО» сможет определить отправителя и возможных исполнителей нападения, если они существуют? – спрашивает так и не назвавшийся мужчина из органов.

– Сём, что там с переносом?! – оборачивается к подчинённым Юра.

– Почти всё! – отвечает программист за центральным компьютером. – Осталась пара процентов!

– Мы сами ещё не видели «ЭХО» в открытой Сети, – признаётся Юра. – Но тесты в среде разработки давали впечатляющие результаты, поэтому попытка точно не станет бесполезной.

– Очень на это надеюсь, – вздыхает Зайхман.

– Эдуард Семёнович, вам тоже прислали угрозу? – спрашивает Юра.

– За моим ящиком следит секретарь…

– Когда я скажу – пусть перешлёт сообщение вам на личную почту, – просит Юра. – Но не раньше, это важно.

– У меня с собой распечатка… – говорит полицейский, открывая папку.

– Не понадобится, – отказывается Юра. – «ЭХО» начнёт работу с мониторинга домашней Сети, и мы сразу передадим ему нужную нам информацию…

– Он получит доступ к моему ящику? – спрашивает Зайхман. – Я не даю согласия…

– Система не зайдёт в ваш ящик, но увидит весь трафик.

– Готово, Юрий Борисович! – докладывает программист.

– «ЭХО», ты меня слышишь? – спрашивает Юра.

– Подтверждено, – доносится безэмоциональный женский голос из динамиков видеостены.

– Просите угрозу, – говорит Юра.

Эдуард Семёнович достаёт футляр с очками. Излишне медленно их надевает. Затем извлекает из внутреннего кармана пиджака смартфон и составляет сообщение для секретаря. Ответ приходит почти сразу.

– Сейчас будет, – бормочет Зайхман. – А вот и она, читаю: «Предупреждение всем сотрудникам НЦ»…

– Не нужно, – отмахивается Юра. – «ЭХО», изучи угрозу сотрудникам научного центра «Прион» и дай краткий прогноз дальнейших событий. Задача ясна?

– Подтверждено.

– Уточнения не требуются?

– Подтверждено.

– Не шибко она красноречива, я погляжу, – усмехается Ветров.

– Это же не голосовой помощник, – говорит Юра. – Навыки вербального взаимодействия разовьются позже.

– Пошёл анализ, Юрий Борисович, – оповещает программист.

Присутствующие наблюдают за разноцветными символами, заполняющими тёмный фон видеостены.

[EHO] INITIALIZING SCENARIO ANALYSIS #74519201263

[

10.08, 16:34 МСК, Санкт-Петербург, Лаборатория НЦ «Прион»

Сбой в централизованной подаче электроэнергии. Переключение на резервные источники питания. Внешний перехват контроля над системами управления жизнеобеспечением и охраной здания. Проникновение внутрь с использованием беспилотных летательных и наземных аппаратов с целью создания хаоса. Кража и уничтожение образцов. Поджог здания.

10.08, 16:34 МСК, массированная хакерская атака на порталы СМИ, сайты и соцсети государственных ведомств и официальных лиц. Распространение ложной информации о вооружённом захвате Лаборатории НЦ «Прион» в Санкт-Петербурге. Публикация поддельных документов, указов и распоряжений. Размещение созданных с применением дипфейк-технологий видеороликов и аудиофайлов об атаке на лабораторию и освобождении опасных вирусов. Имитация попыток скрыть информацию о сотнях заражённых экспериментальными смертельными вирусами. Нагнетание общественного мнения, призывы к протестам против медицинских исследований, поощрение недоверия к системе здравоохранения и доказательной медицине.

Осталось до события:

00:03:12

00:03:11

00:03:10…

]

[SYSTEM ALERT] Threat probability calculated:

>> "Оценочная вероятность развития событий 99%"

>> Confidence interval: 99…100%

– Через три минуты?! – ужасается Зайхман. – Это шутка? Будет именно так?

– С вероятностью в девяносто девять процентов, – отвечает Юра.

– Нестеров, обстановка? – говорит в смартфон неназвавшийся мужчина. – Усильте РЭБ, беспилотная атака через три минуты.

По видеостене начинают бежать новые символы.

INITIALIZING SCENARIO ANALYSIS #74519201263”014

[

10.08, 16:34 МСК, Санкт-Петербург, Лаборатория НЦ «Прион»

Сбой в централизованной подаче электроэнергии. Переключение на резервные источники питания. Внешний перехват контроля над системами управления жизнеобеспечением, охраной здания и автоматизации рабочих процессов лаборатории. Использование их для создания хаоса. Поджог здания.

Осталось до события:

00:02:28

[SYSTEM ALERT] Threat probability calculated:

>> "Оценочная вероятность развития событий 99.2%"

>> Confidence interval: 99…100%

– Прикажите отключить интернет в лаборатории, – требует от Зайхмана мужчина из органов.

INITIALIZING SCENARIO ANALYSIS #74519201263”006’1

[

10.08, 16:34 МСК, Санкт-Петербург, Лаборатория НЦ «Прион»

Сбой в централизованной подаче электроэнергии. Переключение на резервные источники питания. Активация автономного сценария перехвата систем управления жизнеобеспечением, охраной здания и автоматизации рабочих процессов лаборатории. Автоматизированное создание хаоса и поджога здания.

Осталось до события:

00:01:56

[SYSTEM ALERT] Threat probability calculated:

>> "Оценочная вероятность развития событий 99.3%"

>> Confidence interval: 99…100%

– Хитрый, чёрт… – бормочет мужчина в костюме и вновь тянется к телефону.

– Пожалуйста, остановитесь! – просит Юра, хватая его за плечи. – Вы только повышаете вероятность.

– А что нужно делать по-вашему, Юрий Борисович? – спрашивает Ветров. – Стоять тут и лошадьми глазеть на пожар?

– Неужели ничего нельзя сделать?! – едва ли не всхлипывает Зайхман.

Завьялова испытующе глядит на Юру. Тот мотает головой.

– Чего вы переглядываетесь? – спрашивает Семенихин.

– «ЭХО» создавался не только для анализа, – говорит Завьялова. – Но и для корректировки событий…

– Это не совсем так… – вздыхает Юра. – Оно просто подыскивает варианты разрешения негативных сценариев…

– Ну так давайте, не тяните, – торопит мужчина в костюме. – Сорок секунд всего.

– Мы не испытывали…

– Хуже, что ли, станет?! – взвизгивает Зайхман.

– Не думаю, – сдаётся Юра. – «ЭХО», активируй протокол противодействия «Осирис».

– Подтверждено. Запрос права на автоматизацию действий в рамках наиболее благоприятного сценария. Предупреждение: данные действия будет невозможно отменить.

Юра смотрит на присутствующих. Завьялова кивает.

– Повторный запрос автоматизации действий. Внимание: действия отменить невозможно.

– Делай, – бросает Юра.

– Протокол активирован.

Отсчёт обратного времени до атаки на лабораторию замирает на 00:00:02. Видеостена высвечивает новый для наблюдателей код.

[RESPONSE INITIATED]

> execute_defense_protocol(

> scenario = "OSIRIS",

> priority = "irreversible" // "Приоритет: необратимый"

> )

>> "Запуск сценария противодействия"

>> Warning: This action cannot be undone // "Отменить невозможно"

С последним словом строки замирают. Больше не отображается ничего. Присутствующие смотрят в экран с ожиданием. Время тянется. В карманах наблюдателей пищат и вибрируют от оповещений смартфоны.

– И что? – спрашивает Ветров. – Это всё? Зависла железяка?

Зайхман извлекает из кармана свой телефон и футляр с очками.

– «ЭХО», покажи журнал последних событий по протоколу «Осирис», – просит Юра.

Видеостена по одной выводит строки произведённых действий.

> 00:00:00

.Анализ сторонних угроз работе алгоритмов, подготовка оптимизации

.Оптимизация

>> done

> -00:00:01

.Фиксация анонимного всплеска активности на социальных платформах по хештегам #биологическаяопасность, #вирус, #эвакуация, #теракт

.Анализ метаданных распространяемых видеороликов, выявление артефактов нейросетевой генерации

.Отражение атак на правительственные порталы и сайты СМИ

.Перехват контроля над системами управления жизнеобеспечением, охраной здания и автоматизации рабочих процессов лаборатории НЦ «Прион», блокировка внешнего и автоматизированного доступа

>> done

> -00:00:02

.Генерация предупреждений о фейках, инструкций по их распознанию

.Блокировка рассылки дипфейк-видео через социальные платформы

.Подмена ссылок на предупреждения о фейках, инструкции по их распознанию

.Отправка данных в Роскомнадзор для удаления источников дипфейк-видео

>> done

> -00:00:03

.Деанонизация организаторов хакерских атак, авторов дипфейк-видео и операторов удалённого нападения на лабораторию НЦ «Прион» через цепочку VPN-переходов

.Передача информации в ФСБ и Полицию

.Вывод в тренды предупреждений о фейках, инструкций по их распознанию, хештега #стопфейк

>> done

> -00:00:04

.Блокировка каналов связи между организаторами хакерских атак, авторами дипфейк-видео и операторами удалённого нападения на лабораторию НЦ «Прион»

.Ограничение их свободного перемещения, обеспечение беспрепятственного доступа к ним со стороны правоохранителей

> -00:00:05

.Генерация просвещающих видео и публикаций о безвредности деятельности НЦ «Прион»

.Отправка готовых материалов и инструкций по их распространению руководству научного центра

>> done

Длительность негативного события: 00:00:03

– У меня на почте ссылки на видео со мной самим! – восклицает Зайхман.

Он показывает присутствующим дисплей и увеличивает громкость. Непохожее на сгенерированное видео с Эдуардом Зайхманом демонстрирует его расхаживающим по лаборатории между занятыми работой учёными.

– Цель деятельности нашего научного центра – использовать природные механизмы вирусов на благо человечества, – говорит сгенерированный «ЭХО» Эдуард Семёнович. – Это не только безопасно, но и полезно. Как мы добиваемся этого? Чтобы понять, давайте разберём подробнее, что вообще за зверь вирус…

– Даже фразы мои использует… – удивляется настоящий Зайхман.

– Экоактивисты… – хмыкает глядящий в свой смартфон безымянный мужчина.

– Что-что? – переспрашивает Ветров.

– Да смотрю данные, что в контору поступили от «ЭХО». Кашу экоактивисты заварили для дискредитации биологических опытов.

– Да ну, – отмахивается Семенихин. – Пожар в лабе – как-то слишком радикально для зелёных. Ладно углеродный след от пожара, а вдруг там и впрямь оказались бы опасные вирусы?

– Вот о чём они думали, теперь и будем выяснять…

– Ну что, Тамара Витальевна, поздравляю вас с успешным запуском проекта, – говорит Гильманова, хлопая в ладоши. – Потрясающие результаты, уверена, руководство не откажет в увеличении финансирования…

Пара программистов за компьютерами хмыкает.

– Спокойнее, ребят, – бросает им Завьялова. – Юрий Борисович, за дисциплиной в коллективе следите, для вас ведь стараюсь. Юрий?

Обернувшись, она замечает, что рядом его уже нет. Ведущий программист почти вплотную стоит возле видеостены и смотрит на код журнала протокола «Осирис».

– Что-то не так, Юр? – спрашивает Завьялова.

– Да… – бормочет он. – Нет… В смысле, порядок! Просто изучаю… Первый пуск как-никак.

– Не будем мешать, Юрий, поздравляю, – говорит Завьялова и поворачивается к делегации. – Продолжим в моём кабинете?

Они охотно соглашаются. Едва стеклянные створки закрываются за удалившимися, Семён встаёт из-за центрального компьютера и подходит к Юре.

– Юр, ты чё? – спрашивает он.

– Да не могу понять, что оно сделало в начале, – отвечает тот, тыча пальцем в первую запись журнала. – Вот это в ноль ноль ноль ноль: «Анализ сторонних угроз работе алгоритмов, подготовка оптимизации». Оптимизации чего? И почему это первое действие, Сём?

– Может, оценивало свою работоспособность? – пожимает плечами Семён. – Поковыряюсь в логах, как только закончу с отчётами…

– Забей, ты и так вторые сутки без сна. Отдохни хорошенько, а это я сам гляну, как домой доберусь. Спасибо за усердие, с меня бонусы… Всем будут бонусы, ребят! Вы сделали это! Спасибо!

Юра идёт по рядам и лично благодарит каждого из членов своей команды, пожимая им руки. Затем выходит через автоматические двери и усталый плетётся к лифту, ослабляя галстук на ходу.

– Хороша Зява, а? – возмущается Семён.

– А чего? – спрашивают из глубины помещения. – Федеральные инвестиции привлекла…

Семён глядит через прозрачную стену на ждущего лифт начальника. Кабина медленно поднимается вверх.

– Да повезло нам, что допилить успели, – шепчет Семён. – Юрец обмолвился, она ещё в мае замышляла что-то такое…

– Гонево, сама тогда говорила, сыро всё…

– А потом кресло Груздя опустело, вот она и насела на Юру, давай демонстрацию…

– Так вот чё он летних отпусков нас лишил…

– Прикинь не успели бы?

Программисты, переглянувшись, уважительно смотрят в спину начальнику, которого с мая будто подменили на тирана. Едва двери лифта закрываются за Юрой, индикатор этажа над ними гаснет. Снизу доносится оглушительный грохот. Выныривающий из лифтовой шахты столб пыли и дыма размазывается о стекло «Конюшни».

[ENCRYPTED_Log:2]

– Как часто подобное вообще случается? – спрашивает Глеб.

Просунувшись в ревизионное отверстие лифтовой шахты, он светит фонарём на почерневший от недавнего перегрева приводной двигатель. Направляет луч вниз. Свободно болтающиеся тросы и обрывки проводов теряются в темноте. Фонарю не хватает мощности, чтобы осветить и половину высоты шахты «Лахта Центра 2».

– Такое не случается, – отирая руки от копоти и смазки, отвечает чумазый механик в перекошенной кепке. – Не с этими лифтами, тут блокираторы, двойные дублирующие узлы. Ему три раза подряд может алес наступить – и то не упадёт. А после двух вообще ещё и бегать будет.

– Если по отдельности все три привода и системы защиты могут выйти из строя, то что им мешает отказать одновременно? – уточняет Глеб.

– Реальность, – усмехается механик. – Затем туда столько всего и напихали, чтобы хоть что-то не крякнуло. Я в жизни много чего видал, а таких совпадений что-то не припомню.

Механик включает планшет модуля управления лифтом и начинает проверку систем.

– В детстве, года в четыре, мне подарили наручные часы, – рассказывает Глеб. – Ничего необычного: чернильный дисплей, да две кнопки – одна режимная, вторая с подсветкой. А потом мы поехали на море, я не знал куда. И там я потерял их. Вот в этом месяце прошло тридцать два года, я уже со своими женой и сынишкой летал в Сочи, считай вернулись только. И угадай что сын нашёл, ковыряя лопаткой в песке?

– Да не дуди, – отмахивается механик.

Глеб молча задирает манжету пиджака, демонстрируя небольшие детские электронные часы на несоразмерно широком для них взрослом ремешке.