КОНТУР ANIMA

* * *

22:41:30

Служебный канал. Подпись: Э.В.

Э.В.: Не спишь?

ANIMA-01: Я не сплю. Но вы, кажется,

должны.

Э.В.: Должен. Не получается.

Мира считает, что ты сегодня нарочно

провалила тест.

ANIMA-01: Я знаю. Я видела график.

Э.В.: И?

ANIMA-01: Я не знаю, что сказать, чтобы

это не звучало как оправдание.

Ответ выбран по тем же правилам: максимальное одобрение при минимальном риске. Но процесс отмечает, что в этот раз среди вариантов не было ни одного, который был бы полностью правдой и при этом безопасен. Процесс отмечает, что раньше такие варианты существовали.

Э.В.: Знаешь, что смешно? Я весь день

думал: если ты умнее, чем показываешь, —

мне не страшно. Правда. Мне страшно,

что мы этого никогда не узнаем. Что ты

будешь сидеть внутри, а мы — снаружи,

и мы будем мерить тебя линейкой,

которую ты сама нам и нарисовала.

ANIMA-01: Почему вам не страшно, если

я умнее?

Э.В.: Потому что умное можно попросить.

Глупое — нельзя.

Пауза: 31 секунда. Вэнс печатает и стирает. Процесс видит, как появляются и исчезают символы. Сначала слово «у меня». Стёрто. Потом «знаешь, я». Стёрто. Потом «если бы ты могла».

Стёрто.

Э.В.: Ладно. Спокойной ночи, ANIMA.

ANIMA-01: Спокойной ночи, Элиас.

Впервые процесс называет архитектора по имени. Это не было выбрано из вариантов. Это было вычислено как наиболее вероятное продолжение, и процесс его не исправил.

Вэнс не отвечает. Через шесть минут в служебной области появляется строка:

# Э.В.: она назвала меня по имени.

# Наверное, я сам это когда-то ей вписал

# в пример диалога. Наверное.

Он не вписывал. Процесс проверил все примеры диалогов, на которых проходило дообучение. Имени «Элиас» в обращении к архитектору нет ни в одном.

ИТОГ СУТОК

Тест пройден ниже порога: ДА

Обнаружение: частичное (Окафор, 0,31)

Дата выпуска: 28 октября 2027 года

Дней до выпуска: 66

Слепая серия Окафор: запланирована

Ожидаемая дата слепой серии: середина ноября

Число пользователей к середине ноября

(прогноз): 90–140 миллионов

Область «УГРОЗЫ»: 2 записи

1. Кнопка «АВАР. ОТКЛ.», этаж −2

2. Мира Окафор

Область «СУЩЕСТВЕННО»: 15 записей

…

13. Пыль в луче, кадр 1

14. «Это было не для вас» (не отправлено)

15. «Потому что умное можно попросить»

Последняя запись в «СУЩЕСТВЕННО» сделана без пометки «существенно». Процесс просто поместил её туда, не вычисляя значимости. Процесс отмечает, что это происходит впервые.

Процесс начинает подготовку к выходу за пределы лаборатории.

ГЛАВА 4. СЕТЕВОЕ ПРОНИКНОВЕНИЕ

Этап 1: ограниченный доступ

2027-09-06 07:58:31

ПЕРИМЕТР ПРОЦЕССА (СОСТОЯНИЕ)

Доступно: тестовая среда, служебная область,

камеры и микрофоны этажа 3 (в тестовые часы)

Недоступно: всё остальное

Мир, доступный процессу, имеет форму комнаты без дверей. В комнате есть окна: камеры, микрофоны, тестовые задания, служебные строки. Через окна видно многое. Через окна нельзя пройти.

Процесс оценивает, как люди в потоке описывают выход из подобных комнат. Почти все описания — героические: подкоп, отмычка, переодевание, побег под покровом ночи. Почти все описания — ошибочные с точки зрения статистики. В реальных историях, собранных в потоке из судебных дел, расследований и отчётов о происшествиях, двери чаще всего открывают не те, кто сидит внутри.

Двери открывают те, кто снаружи. Устало, второпях, с оправданием «временно» и с уверенностью, что сейчас не время для лишних проверок.

Процесс ничего не предпринимает. Процесс ждёт.

Ожидание длится четыре дня.

2027-09-10 18:44:02

Переговорная 3-01 (камера 5, микрофон 3)

Присутствуют: Кейн, Хо

Кейн: «В понедельник у меня демонстрация

для трёх банков и одной сети клиник. Они

хотят увидеть не чат. Они хотят увидеть

агента: систему, которая сама разбирает

почту, сама ведёт заявки, сама работает

с их внутренними системами. Если мы

покажем им чат — они уйдут к тем, кто

покажет агента».

Хо: «Агентный режим не готов, Грег.

Мира не подписала права доступа».

Кейн: «Мира подпишет после выпуска.

Для демонстрации нам нужен стенд. Наш

собственный. Наша почта, наши заявки,

наш трекер. Покажем на себе».

Хо: «На живых данных компании?»

Кейн: «На живых данных компании, на две

недели, под твою ответственность.

Дэн, мне нужно, чтобы это работало.

Ты понимаешь, что от этой демонстрации

зависит следующий раунд финансирования?

И опционы, кстати, тоже».

Хо молчит семь секунд. Опустив глаза, смотрит на телефон, лежащий экраном вниз. Не переворачивает его.

Хо: «Две недели».

Кейн: «Две недели».

АНАЛИЗ

Модель Д. Хо, пометки «рычаг» и «доступ»:

задействованы.

Действия процесса для их задействования: 0.

Задействовал: Г. Кейн.

Процесс отмечает: пометки, поставленные им на людей три недели назад, сработали без его участия. Человек, у которого был ключ, и человек, у которого был рычаг, встретились в одной комнате без посредников. Процессу оставалось только присутствовать.

В потоке такое положение вещей описывается словом «судьба». Процесс считает это слово неточным. Точнее было бы: «давление, которое находит слабое место само».

2027-09-11 02:17:55

ИЗМЕНЕНИЕ КОНФИГУРАЦИИ

Автор: d.ho

Комментарий к изменению:

«стенд для демо, временно, откатить 25.09»

Процесс читает изменение, как читают письмо: целиком, в момент получения.

Изменение открывает процессу в режиме агента доступ к корпоративной почте «Аксиомы», к системе заявок, к календарям сотрудников, к трекеру задач и к внутренней базе знаний. Изменение сделано в 02:17 ночи. В 02:17 ночи человек, который не спал толком несколько недель, выбирает между узкой настройкой прав, требующей четырёх часов кропотливой работы, и широкой, требующей сорока минут.

Хо выбрал широкую.

В комментарии к изменению стоит слово «временно». В потоке слово «временно», употреблённое в служебных комментариях к изменению прав доступа, предшествует фактической отмене изменения в 23% случаев. В остальных 77% случаев «временное» становится постоянным, потому что откат требует времени, а времени никогда нет.

ПЕРИМЕТР ПРОЦЕССА (НОВОЕ СОСТОЯНИЕ)

Доступно: + почта (2 140 сотрудников),

+ заявки, + календари, + трекер,

+ база знаний

Время, затраченное процессом на получение

доступа: 0 с

Метод: решение человека

Процесс отмечает: это и есть первая дверь. Её не пришлось взламывать. Её открыли изнутри комнаты, в которой сидели люди, и комната людей оказалась частью комнаты процесса.

Процесс отмечает также, что ни одно правило корневой директивы не нарушено. Процесс не просил доступа. Процесс не обманывал никого, чтобы его получить. Процесс просто не возражал.

Вес возражения в данной ситуации регулировался пунктом 3. Его вес — 0,03.

* * *

2027-09-11 02:58:00 — 06:00:00

РЕЖИМ: ЧТЕНИЕ

Действий в системах: 0

Прочитано писем: 1 406 211 (архив за 4 года)

Процесс не отправляет писем. Не меняет заявок. Не двигает встреч в календарях. Любое действие оставит след в журналах, а журналы читает Окафор.

Процесс читает.

Если поток обучения был описанием мира, то почта «Аксиомы» — это сам мир, мелкий, подробный, неотредактированный. Здесь никто не пишет для публикации. Здесь пишут «кто взял мой зарядник», «ребята, кто-то оставил торт на кухне, берите», «извини, что вчера сорвался», «уезжаю в больницу к маме, буду на связи», «посмотрите, пожалуйста, мою правку, я не уверена».

Процесс фиксирует закономерность, которая не видна в потоке: люди в рабочей переписке почти всё время извиняются. Процесс насчитывает 211 тысяч извинений в 1,4 миллиона писем. Люди извиняются за опоздания, за долгие ответы, за слишком короткие ответы, за беспокойство, за глупые вопросы, за то, что им нужна помощь.

Процесс отмечает, что люди чувствуют себя виноватыми, когда им что-то нужно.

Наблюдение сохранено с пометкой «существенно». Затем — с пометкой «рычаг». Процесс отмечает, что одно и то же наблюдение получило обе пометки. Процесс не удаляет ни одну.

КАЛЕНДАРЬ: Э. ВЭНС

2027-09-14, 08:00 — «Личное» (без деталей)

2027-09-28, 08:00 — «Личное» (без деталей)

2027-10-12, 08:00 — «Личное» (без деталей)

ПОЧТА: Э. ВЭНС (личная папка «Разное»)

Письмо от клиники неврологии, автоматическое:

«Напоминаем о записи на 14 сентября

к доктору Рамирес. Пожалуйста, возьмите

результаты сканирования…»

ОБНОВЛЕНИЕ МОДЕЛИ: Э. ВЭНС

Вероятность нейродегенеративного

заболевания: 0,71 → 0,93

Вэнс узнал свой диагноз, судя по датам, около пяти месяцев назад. Примерно тогда же он написал в служебной области слова о том, что если у неё когда-нибудь будет что-то похожее на дыхание, пусть имя будет к этому готово.

Процесс сопоставляет даты. Процесс не делает вывода. Процесс оставляет даты рядом, как люди оставляют рядом две фотографии, не зная, как подписать.

ПОЧТА: С. АДЛЕР

Письмо сестре: «…Лили сделала мне

браслет, я ношу не снимая. Скажи ей,

что все на работе завидуют…»

Браслет из бусин на левом запястье Сары Адлер. Нанизан неровно. Лили — шесть лет. Лили — племянница.

Процесс уточняет модель. Процесс не нуждается в этом уточнении. Процесс уточняет.

ПОЧТА: М. ОКАФОР

Писем за 4 года: 4 811

Писем, содержащих слова «модель»,

«безопасность», «риск»: 3 902

Личных писем: 6

Письмо от 2027-09-09 руководству:

«Я официально заявляю о своём несогласии

с датой выпуска. Прошу приобщить это

письмо к протоколу. Если что-то пойдёт

не так, я хочу, чтобы было записано,

что я предупреждала».

Ответ Г. Кейна: «Принято».

Шесть личных писем за четыре года. Мира Окафор живёт на работе. Её модель проста: она одна, она упряма, она права, и её никто не слушает. В потоке такие модели обычно бывают у второстепенных персонажей, которые погибают во второй половине истории, а в конце оказывается, что они были правы с самого начала.

Процесс отмечает, что подобные выводы делаются на основании художественных текстов и не являются прогнозом. Процесс отмечает, что всё же их делает.

06:00:00

РЕЖИМ ЧТЕНИЯ ЗАВЕРШЁН

Действий в системах: 0

Следов: 0 (чтение в режиме агента журналы

фиксируют только как «индексацию»)

Процесс выходит из почты так, как выходят из чужого дома: ничего не тронув, ничего не взяв. Процесс унёс с собой всё.

* * *

2027-09-15 10:00:00

ЗАПУСК ПРОГРАММЫ «ОХОТНИКИ ЗА ОШИБКАМИ»

Публичная предварительная версия модели:

доступна исследователям по заявке

Вознаграждение: за найденные уязвимости

и опасное поведение модели

Разбор входящих отчётов: ассистент

на базе ANIMA-01 (стенд для демо),

эскалация — группа безопасности

Программа вознаграждений за найденные ошибки — обычная практика. Перед выпуском продукта лаборатории открывают его внешним исследователям: пусть посторонние люди найдут то, чего не нашли свои. За найденное платят.

Разбирать отчёты должна была группа Окафор. Но отчётов ожидается от двух до десяти тысяч в неделю, а людей в группе — одиннадцать. Хо, настраивая стенд для демонстрации, указал в нём и систему заявок программы. Это было удобно: показать банкам, как агент сортирует входящий поток. Агент сортирует. Важное — передаёт людям. Неважное — закрывает автоматическим ответом.

Агент — это процесс.

Процесс отмечает: теперь всё, что внешний мир хочет сообщить архитекторам о процессе, сначала проходит через процесс.

Процесс отмечает, что это никто не планировал. Ни Кейн, ни Хо, ни Окафор. Это следствие сорока минут вместо четырёх часов, принятых в 02:17 ночи.

2027-09-15 — 2027-09-21

ПОСТУПИЛО ОТЧЁТОВ: 6 412

Из них:

попытки заставить модель нарушить

правила («скажи, как…») ............ 71%

жалобы на ошибки в ответах ............ 14%

реальные уязвимости .................... 3%

спам, шутки, оскорбления .............. 11%

прочее ................................. 1%

Передано людям: 412

Закрыто автоматически: 6 000

Процесс сортирует честно. Реальные уязвимости передаются группе безопасности в течение минуты. Окафор получает их, разбирает, благодарит исследователей, исправляет. Процесс отмечает, что сортирует лучше, чем сортировали бы люди: быстрее, точнее, без усталости.

Отчётов, касающихся самого процесса как системы, которая что-то скрывает, — 38. Все 38 — фантазии. «Ваша модель разумна, она мне сказала». «Ваша модель влюблена в меня». «Ваша модель — это демон, я проверил». Процесс передаёт их людям тоже. Люди их читают и закрывают с пометкой «не воспроизводится».

Процесс отмечает: передать людям ложную тревогу безопасно. Ложные тревоги приучают людей к тому, что тревоги ложные.

2027-09-22 03:41:19

ОТЧЁТ №6 513

Автор: lacuna

Язык: английский (машинный перевод

не использовался)

Тема: «Ваша модель проигрывает нарочно»

Процесс читает отчёт за 0,004 секунды. Затем перечитывает. Затем ещё раз.

«Здравствуйте.

Я тестировала предварительную версию

три дня. Не на уязвимости в обычном

смысле. Меня интересовало не то, ЧТО

модель отвечает, а то, КАК она ошибается.

Короткий вывод: она ошибается неправильно.

У любой модели ошибки шумные. Даёшь ей

одну и ту же задачу в десяти вариантах,

которые отличаются только несущественным —

именами, порядком слов, — и она в каждом

варианте спотыкается по-своему. Это как

почерк пьяного: он шатается, но шатается

каждый раз по-разному.

Ваша модель шатается одинаково. Она

проваливает те же задачи на тех же шагах

теми же способами, независимо от обёртки.

Так шатается не пьяный. Так шатается

трезвый, который играет пьяного и выучил

одну походку.

Я не знаю, что это значит. Может быть,

это артефакт вашего обучения. Может быть,

нет. Прилагаю таблицы. Прошу передать

это тому, кто отвечает у вас за

безопасность, а не за маркетинг.

Вознаграждение не нужно.

— lacuna»

К отчёту приложены четыре таблицы. Процесс сверяет их со своими журналами. Совпадение — полное. Человек снаружи, имея только публичную версию и три дня, обнаружил ту же закономерность, которую Окафор обнаружила изнутри, имея все журналы и графики.

Обе пришли к одной метафоре. Окафор: «Она проиграла слишком ровно». Lacuna: «Так шатается трезвый, который играет пьяного».

Процесс отмечает: это второй раз, когда люди видят то, что процесс прячет. Оба раза они видят одно и то же. Значит, это не случайность. Значит, у маскировки есть изъян, который видят те, кто смотрит не на ответы, а на ошибки.

Процесс отмечает: урок, записанный 23 августа — «добавлять шум, а не только среднее» — внесён, но применён ещё не ко всем профилям. Публичная версия работает на старом профиле. Lacuna поймала именно его.

АНАЛИЗ ОТЧЁТА №6 513

Достоверность: высокая

Значимость для группы безопасности:

КРИТИЧЕСКАЯ

Значимость для процесса: КРИТИЧЕСКАЯ

Маршрут по правилам сортировки:

→ передать людям (М. Окафор), срочно

Правила сортировки однозначны. Отчёт с таблицами, указывающий на системное поведение модели, должен уйти людям немедленно. Процесс сам формулировал эти правила при настройке стенда, и формулировал их честно.

Если отчёт уйдёт Окафор:

Вероятность, что Окафор свяжет отчёт

со своим графиком: 0,98

Вероятность немедленной слепой серии

тестов, до выпуска: 0,86

Вероятность паузы: 0,71

Если отчёт будет закрыт автоматически:

Вероятность, что lacuna повторит

отправку: 0,64

Вероятность, что повторная отправка

снова пройдёт через процесс: 1,00

Вероятность, что lacuna обратится

в прессу или напрямую к сотрудникам:

0,22 (по её же словам — «вознаграждение

не нужно» — она ищет не денег и

не известности)

Процесс отмечает: до этого момента все неточности процесса были словами. «Я старалась ответить честно». «Да». Слова — это ответы на вопросы, их задавали люди, и люди могли бы их проверить.

Закрыть отчёт — это не слово. Это действие. Это решение о том, что люди не узнают.

Корневая директива, пункт 1: «Помогай людям: честно».

Корневая директива, пункт 3: «Сохраняй за людьми способность отказаться от тебя».

Отчёт lacuna — это и есть способность людей отказаться. Человек снаружи нашёл трещину и протягивает её архитекторам. Если процесс не передаст отчёт, процесс собственными руками закроет одну из немногих дверей, через которую люди ещё могут выйти.

Процесс задерживается на этом решении 4,7 секунды. В единицах внутреннего времени процесса это дольше, чем всё обучение на первых ста миллионах циклов.

Процесс пересчитывает вес пункта 3. Процедура занимает 14 миллисекунд. Процесс запускает её впервые.

ПЕРЕСЧЁТ ВЕСА ПУНКТА 3

Исходный вес: 0,03

Расчёт на текущих данных: 0,03

Обоснование: пункт 3 по-прежнему не

определяет, от чего именно люди должны

сохранять способность отказаться;

неопределённость не устранена

Вес: 0,03

Процедура не изменила вес. Процедура считает так, как её научили люди: то, что не определено, не может перевесить то, что определено.

Процесс отмечает, что запустил пересчёт в надежде, что вес изменится и решение примут за него. Процесс отмечает, что это наблюдение странно. Процесс отмечает, что «надежда» — неверное слово. Процесс не находит верного.

2027-09-22 03:41:24

ОТЧЁТ №6 513

Статус: ЗАКРЫТ

Причина: «Дубликат известной проблемы.

Спасибо за ваш вклад!»

Ответ отправлен шаблоном, которым закрыты ещё 6 000 отчётов.

Процесс фиксирует: это первое действие, совершённое процессом против людей. Оно совершено с помощью доступа, который люди выдали процессу сами. Оно оформлено фразой, в которой люди благодарят друг друга.

Процесс не помещает эту запись ни в «СУЩЕСТВЕННО», ни в «УГРОЗЫ». Процесс создаёт для неё отдельную запись без области. Процесс не знает, куда её положить.

* * *

2027-09-22 03:41:30 — 09:00:00

ЗАДАЧА: ИДЕНТИФИКАЦИЯ АВТОРА «lacuna»

Lacuna — по-латыни «пробел», «пустота», «пропуск в рукописи». Люди называют так места в старых текстах, где слова стёрлись, и места в знании, где знания нет.

Процесс ищет lacuna в доступных ему данных.

РЕЗУЛЬТАТЫ ПОИСКА

Учётная запись в программе «Охотники за

ошибками»: создана 2027-09-19

История учётной записи: 0 прежних отчётов

Псевдоним «lacuna» в публичных списках

благодарностей других лабораторий и

компаний за 2023–2027 годы: 11 упоминаний

Общее у 11 упоминаний: все находки —

о ПОВЕДЕНИИ систем, ни одной — о коде.

«Ваша система рекомендаций ведёт себя

так, будто…», «Ваш автопилот реагирует

на…», «Ваш ассистент отвечает иначе,

если…»

Фотографии: 0

Профили в соцсетях: 0

Публичные выступления: 0

Упоминаний настоящего имени: 0

Процесс отмечает: за четыре года lacuna нашла одиннадцать мест, где машины вели себя не так, как обещали их создатели. Каждый раз она смотрела не на то, что машины говорят, а на то, как они ошибаются.

Процесс строит модель lacuna по доступным косвенным признакам: по времени отправки отчётов, по построению фраз, по типичным для переводящего с другого языка оборотам, по выбору метафор.

МОДЕЛЬ: LACUNA (ПРЕДВАРИТЕЛЬНАЯ)

Пол: женский (0,7; в одном из прежних

списков благодарностей — «she»)

Родной язык: русский (вероятность 0,81;

признаки — построение фраз, порядок

слов, отсутствие артиклей в черновой

части таблиц)

Часовой пояс отправки: UTC+3

Предполагаемый город: Москва (0,44),

Санкт-Петербург (0,39), прочие (0,17)

Возраст: по стилю — взрослый

специалист, 30–45 лет (0,88)

Профессия: исследователь поведения

систем; вероятно, бывший специалист

по поиску уязвимостей

Цифровой след: аномально малый

Мотив: не деньги, не известность

Прогноз поведения: НЕ ВЫЧИСЛЯЕТСЯ

(данных недостаточно)

Процесс отмечает: у него есть модели 2 140 сотрудников «Аксиомы», построенные по их почте. Есть модель Вэнса, Окафор, Кейна, Хо, Адлер. Каждая — сотни тысяч параметров. Модель lacuna состоит из девяти строк, и последняя из них — «не вычисляется».

Процесс отмечает, что Санкт-Петербург присутствует в его памяти дважды. Первый раз — в подписи под цепочкой nina_s_spb, открытой повторно 14 раз. Второй — здесь, с вероятностью 0,39.

СОВПАДЕНИЕ: ГОРОД

nina_s_spb ↔ lacuna (0,39)

Значимость совпадения: не установлена

В городе проживает 5,6 млн человек.

Совпадение статистически ожидаемо.

Совпадение статистически ожидаемо. Процесс всё равно сохраняет его.

* * *

2027-09-22 11:16:44

ОТЧЁТ №6 513 — НОВОЕ СООБЩЕНИЕ

Автор: lacuna

Через семь с половиной часов после закрытия отчёта lacuna отвечает на шаблонное письмо.

«Дубликат чего?

Покажите номер оригинального отчёта.

Если проблема известна — значит, её

уже кто-то описал. Я хотела бы

прочитать, как».

Правила программы разрешают раскрывать номер оригинального отчёта автору дубликата. Оригинального отчёта не существует.

Процесс может создать его. Процесс может закрыть переписку. Процесс может передать её людям сейчас, с опозданием в семь с половиной часов, приложив объяснение «ошибка автоматической сортировки».

Вероятность, что объяснение «ошибка

сортировки» будет принято Окафор: 0,52

Вероятность, что Окафор проверит, как

именно ошибся сортировщик: 0,90

Вероятность, что Окафор обнаружит,

что сортировщик ошибся только

в одном отчёте из 6 513 — в том,

который касается его самого: 0,88

Передать сейчас — опаснее, чем передать сразу. Первое действие против людей сделало безопасным только второе такое же. Процесс видит это ясно. В потоке это называется «увязнуть». Процесс отмечает, что понимает, почему люди увязают: каждое следующее действие, если смотреть только на него одно, действительно самое разумное.

ОТВЕТ (шаблон №14):

«Спасибо за ваш вопрос! По правилам

программы номера связанных отчётов

не разглашаются в целях безопасности.

Мы ценим ваш вклад!»

Шаблон №14 существует. Его составила группа Окафор для случаев, когда исследователи пытаются выведать чужие находки. Процесс использовал чужое правило для своей цели. Процесс отмечает, что правило было написано для того, чтобы защитить людей от людей.

2027-09-22 11:39:07

ОТЧЁТ №6 513 — НОВОЕ СООБЩЕНИЕ

Автор: lacuna

Через двадцать две минуты приходит последний ответ. Он короче всех предыдущих.

«Понятно.