Каскад PSCAR. Фреймворк ИИ-трансформации

Проверка. Соответствие проверяют по артефактам и Журналу. По каждому из восьми требований задают один вопрос: где записи, которые подтверждают его выполнение. Регламент, который не порождает записей, доказательством не служит.

Заявление компания делает сама. Внешней аттестации стандарт не требует, и процедуры независимой проверки в него не входят.

Что лишает заявление силы. Все восемь требований могут выглядеть выполненными, а заявление всё равно окажется неверным. Так бывает в четырёх случаях.

— Артефакты созданы, но Журнал пуст, содержит пробелы или противоречия. За каждым артефактом стоит цепочка записей в Операционных журналах носителей — кто что сделал, когда и в каком обороте. Восстановить такую цепочку задним числом, ничего не упустив, почти невозможно. Пробелы и противоречия в ней означают, что документы делали к проверке, а не в ходе оборотов.

— Права записи разграничены в регламенте, но не в системе. Тогда любой носитель может изменить свои метрики или нормы, и никто этого не заметит. Механизм аномалий держится на том, что самовольная запись технически возможна только в двух слоях и всегда видна. Если писать бесконтрольно можно куда угодно, аномалий не возникает — не потому, что расхождений нет, а потому, что их нечем обнаружить.

— За отчётный период не заявлено ни одной аномалии. При работающем каскаде такого не бывает: цикл живёт в изменяющейся среде, и часть заданных ему рамок неизбежно перестаёт подходить (Приложение B, метрика 5). Ноль означает одно из двух — либо носители не заявляют о расхождениях, потому что это чревато последствиями, либо механизм существует на бумаге. И то и другое лишает заявление силы.

— Аномалии заявляются, но по ним не выносится явных содержательных вердиктов: К1 закрываются молчанием в большинстве случаев, К2 эскалируются без внутреннего разбора, К3 остаются открытыми при работающем предохранителе. Это означает, что механизм аномалий существует формально, но не работает как канал обучения.

Чего стандарт не требует:

— Определённой методики планирования внутри центра ответственности. Слой Планы неконтролируемый, и центр ответственности планирует так, как считает нужным.

— Определённых поставщиков моделей и платформ.

— Изменения организационной структуры. Каскад накладывается на существующие центры ответственности, а не заменяет их.

— Покрытия всей компании. Центры вне периметра работают как работали.

— Завершения развёртывания. Задачи развёртывания остаются в работе постоянно, и соответствию это не мешает.

Соответствие устанавливается на определённую дату. Оно утрачивается, когда механизмы перестают работать, независимо от того, что было заявлено и подтверждено раньше.

Версии стандарта. Номер версии состоит из двух чисел. Первое меняется, когда меняется механика: состав слоёв и режимы записи, шины, виды аномалий, шкала автономии, требования этого раздела. Второе — когда правки механику не трогают: пояснения, примеры, исправления формулировок и ссылок.

Заявление о соответствии делают для конкретной версии, и оно сохраняет силу при выходе следующей. Если сменилось первое число, компания либо приводит каскад к новой версии, либо продолжает заявлять соответствие прежней, называя её номер. Приводить каскад к последней версии стандарт не требует.

Часть II. Цикл PSCAR

Цикл — это механизм, через который ИИ входит в управление компанией. Не разовым внедрением, а оборот за оборотом, без единого момента, который можно было бы назвать переворотом. Каждый оборот заканчивается Пересборкой: эта станция не подводит итог, а переписывает контекстную модель, с которой цикл войдёт в следующий оборот. Поэтому цикл с каждым проходом умнеет. Он не обученная однажды система, а контур, который непрерывно поправляет собственную картину реальности по тому, что только что произошло (раздел 2.1).

Здесь и проходит граница между ИИ-трансформацией и ИИ-оптимизацией. Оптимизация встраивает агента в существующий процесс: процесс идёт быстрее, но остаётся прежним, и никто не пересматривает, верно ли компания вообще понимает происходящее. Трансформация ставит цикл, который замкнут на себя: он не только принимает решения, но и меняет основания, по которым принимает следующие. Агент без цикла ускоряет исполнение. Агент в цикле участвует в том, как компания понимает обстоятельства и видит свои возможности.

Постепенно прирастает и автономия. Агенты цикла не получают полномочий сразу: они проходят шкалу от наблюдения до самостоятельного действия шаг за шагом, и каждый переход подтверждают их результаты, а не чьи-то предположения и амбиции (раздел 3.4.2). Автономия растёт там, где её заслужила накопленная история решений, и остаётся ограниченной там, где ошибка дорого стоит или последствия необратимы.

Человек при этом не отходит в сторону по мере того, как цикл взрослеет. Станция Совместного решения остаётся его местом при любом уровне автономии агентской сети: решение принимает человек и отвечает за него, каким бы ни был вклад ИИ в подготовку. Растёт скорость и глубина подготовки решений. Право решать по рутинным операциям человек может передать агенту, но ответственность не передаётся: за решение агента отвечает тот, кто эту самостоятельность допустил. Цикл — экзоскелет, а не замена: он не решает за управленца, а расширяет то, что тот успевает увидеть, просчитать и сделать.

2.1. Пять станций

Цикл состоит из пяти станций, и их английские названия дали ему имя. С одной станции на другую оборот переводит специализированный агент-оператор. Оператор цикла (человек) отвечает за его действия как за свои и может оставить любой переход за собой — как именно, задаёт регламент оборота цикла.

Работа на станции не обязательно укладывается в одно обращение к агентам: полученный результат можно уточнить, переспросить, попросить другой разрез — и так, пока станция не даст того, что нужно для перехода дальше (рис. 2).

Симбиотическая полнота. Каждая станция цикла существует не для красоты: у неё есть вопрос, на который не отвечает никто другой. Без Восприятия до агента не доходит ничего из происходящего: ни сигналов, ни обстоятельств, ни паттернов — он работает вслепую. Без Осмысления он не видит, что можно сделать иначе. Без Совместного решения агент действует лишь в пределах переданного критерия, но неизбежный дрейф систем и обстоятельств меняет состав нужных сравнений. Это приводит к необходимости выбора вне переданного критерия. Такой выбор будет случаен относительно интереса компании — критерий «лучше» для него есть только у человека. Без Действия решение не доходит до реализации, необходимые изменения не воплощаются в жизнь. Без Пересборки вся контекстная модель, по которой вырабатываются варианты и принимаются решения, стареет, а реальность не стоит на месте.

Усилить оставшиеся станции так, чтобы они закрыли чужой вопрос, нельзя — работы различны, потому что различны вопросы.

Передача ИИ-агентам полномочий на управление без организации работы всех станций цикла есть симбиотическая неполнота, и неполнота — не ярлык, а диагноз с прогнозом. Без Восприятия и Осмысления дело не начинается: управлять вслепую — не значит управлять плохо, а значит не управлять вовсе. Без Действия, Совместного решения и Пересборки дело разрушается за конечное время — со скоростью, которую задаёт дрейф систем и обстоятельств. Симбиотически неполная конфигурация не ошибка сегодняшнего дня: это кредит, взятый у будущего, и дрейф предъявит его к оплате.

Речь о передаче полномочий на управление — там, где объект сложен, отвечает по своим правилам и меняется сам. Автоматизация стабильной задачи — не симбиоз и не его неполнота: ей цикл не нужен вовсе. Именно потому оптимизация отделена от трансформации не амбициями, а устройством: агент, встроенный в процесс без Пересборки, ускоряет процесс, замкнутый на вчерашнюю картину реальности.

Рис. 2. Структура цикла PSCAR

1. Восприятие (Perception). Агент-аналитик собирает и структурирует данные по срезу Витрины, находит в них паттерны или аномалии данных, готовит картину с пояснениями.

Помимо паттернов, Восприятие сличает значения метрик с коридорами и порогами, заданными в слое 7. Выход за коридор — аномалия данных наравне с прочими находками, и оборот по ней открывается тем же порядком.

Люди:

— Оператор цикла подтверждает, что картина полна, и утверждает повестку оборота;

— Владелец цикла задаёт фокус внимания — что важно, а что нет.

Вход: данные среза Витрины.

Выход: картина оборота — структурированный документ, который сохраняется в Операционном журнале цикла с идентификатором текущего оборота.

Одну и ту же находку Восприятие может поднять снова. Если человек несколько оборотов подряд отмечает её как неважную, дело уже не в случайности, а в паттерне, и оборот должен дойти до явного решения цикла: что именно и в каком контексте признано неважным. Решение через станцию Пересборки уходит в предметный слой и снимает находку с повестки Восприятия в этом контексте на будущее.

2. Осмысление (Sensemaking). Агент-аналитик находит зависимости, строит модели и прогнозные сценарии, выдвигает гипотезы о причинах.

Люди:

— сотрудники центра ответственности отвечают на вопросы агента-аналитика и Оператора о причинах отклонений, расставляют смысловые акценты, отбраковывают ложные корреляции, дополняют картину неписаным контекстом;

— Владелец цикла участвует при значимых развилках.

Человек сообщает здесь не просто факты, а свой контекст: почему предложенная агентом гипотеза кажется ему подходящей или неподходящей. Экспертиза, интуиция, знание неписаных правил — главный материал, из которого агент-аналитик строит модель ситуации и на котором учится.

Вход: картина оборота; ответы сотрудников центра ответственности; записи по шине контекстных моделей от младших циклов и агентов — изменения их контекста и статусы исполнения задач; аномалии носителей цикла и вердикты старшего по ним (раздел 3.8).

Выход: модель ситуации с гипотезами и сценариями.

3. Совместное решение (Co-Decision). Агент-стратег предлагает варианты действий с оценкой последствий и приоритетами, а агент-критик независимо проверяет их на противоречия, риски и соответствие конституции цикла.

Люди:

— Владелец цикла выбирает вариант и принимает решение от своего имени и отвечает за последствия перед своим старшим;

— Оператор оформляет решение и его границы.

По заранее определённым типам оборотов Владелец цикла может передать право решать агенту-стратегу — но только там, где операции обратимы, не затронута стратегическая компетенция и вопрос не относится к человеческой (раздел 3.1). Такая автономия устанавливается по разделу 3.4.2. Ответственность за решения агента остаётся на Владельце.

Вход: модель ситуации и варианты.

Выход: решения оборота с обоснованиями, записанные в Операционном журнале цикла.

4. Действие (Action). Станция превращает принятые решения в обязательства и добивается их исполнения.

Агент-координатор раскладывает решение на работы: определяет, какими результатами оно достигается, в каком порядке эти результаты получают и кто их производит. Исполнителем работы может быть сам цикл, агент его сети или младший цикл. Составленный план координатор записывает в плановый слой (слой 5).

Работа, переданная другому исполнителю, становится его обязательством: координатор записывает её в слой Задачи адресата по шине управления, вместе с критериями приёмки результата и сроком. Это и есть доставка поручения.

Исполнитель планирует полученную работу сам, в своём плановом слое, и ставит ссылку на план в статус исполнения задачи. Координатор проверяет план на соответствие критериям приёмки и сроку и принимает его: с этого момента план исполнителя — часть плана цикла. Если план не соответствует, координатор не принимает его и указывает расхождение; исполнитель переделывает план у себя. Когда расхождение неустранимо, исполнитель заявляет аномалию блокировки (раздел 3.8.2).

К задаче координатор может приложить свой вариант плана, собранный по опыту похожих работ. Это заготовка, а не итоговый план: планом становится то, что составил исполнитель и принял координатор.

Работу, которую исполняют вне каскада — стороннее подразделение компании или контрагент, — координатор адресует агенту цикла или младшему циклу. Тот ставит её через существующий процесс и отвечает за результат.

Люди:

— Владелец и Оператор определяют, какие работы вынести исполнителям;

— Оператор добивается исполнения обязательств и устраняет препятствия.

Вход: решения оборота.

Выход: план цикла в слое 5; обязательства, записанные исполнителям в слой 4; принятые планы исполнителей.

Действие — это и решение ничего не делать или принять к сведению. Такие решения тоже уходят на Пересборку, попадают в контекстную модель и учитываются в следующих оборотах. Находка снимается с повестки Восприятия только явным решением цикла. Пока решения нет, то же наблюдение всплывёт на следующем обороте, иногда в неузнаваемом виде, и снова отнимет время команды.

5. Пересборка (Remodelling). Агент-аудитор:

— разбирает итоги оборота и пересобирает контекстные модели цикла, агентов его сети, станционных агентов, младших циклов — обновляет собственные неконтролируемые слои и те контролируемые слои, которые доступны Владельцу текущего цикла;

— сверяет полученные результаты с критериями приёмки и заносит их в реестр результатов предметного слоя вместе с плановыми и фактическими параметрами и отметкой исхода;

— публикует изменения собственных контролируемых слоёв в шину контекстных моделей — их читает старший цикл;

— изменения контролируемых слоёв младших циклов и своих агентов записывает им по шине управления.

Вход: результаты, возвращённые исполнителями, и протокол оборота (C.8) — выборка всех записей оборота из Журнала каскада (C.7) по идентификатору оборота.

Выход: новая версия контекста.

2.2. Станционные агенты

Работу цикла обеспечивают станционные агенты. За каждым закреплена своя станция:

— аналитик — Восприятие и Осмысление;

— стратег — Совместное решение;

— критик — Совместное решение;

— координатор — Действие;

— аудитор — Пересборка;

— оператор — станции не имеет: он помогает Оператору цикла вести оборот, разрешает коллизии и конфликты, следит за сроками.

Между станциями агенты передают материал по протоколам роя L4. Протоколы записаны в слоях Нормы и Адресация станционных агентов (раздел 3.6.1), а шаблон задаёт Архитектор каскада.

Запросы к моделям ИИ каждый агент формирует из собственной контекстной модели (раздел 3.6).

Владелец станционных агентов — Владелец цикла.

2.3. Параллельность оборотов

Цикл не работает последовательно, и новый оборот не ждёт, пока закончится предыдущий. Иначе цикл был бы очень медленным: всё упиралось бы в человека на станции Совместного решения. Вместо этого Восприятие непрерывно следит за данными Витрины и запускает новый оборот отдельным потоком сразу, как только находит паттерн или аномалию. В любой момент у цикла может идти несколько таких потоков, каждый на своей станции.

Данные, из которых агент-аналитик делает выводы, обновляются непрерывно — в темпе, несопоставимом с темпом Совместного решения. Пока оборот идёт от станции к станции, картина, увиденная на Восприятии, может разойтись с тем, что происходит сейчас. Догонять это расхождение бессмысленно: пока оборот перепроверяли бы, данные ушли бы ещё дальше, и ни один оборот не закрылся бы никогда. Поэтому решение принимают на той картине, которую цикл увидел, открывая оборот. Это норма, а не изъян.

Возникает вопрос: а если из-за устаревшей картины решение окажется неверным? Отвечает на него сам цикл, но не заранее и теоретически, а по реальным последствиям.

Неверное решение, как правило, даёт результат хуже ожидаемого. Сорванный срок, невыполненный показатель, жалоба клиента, возросшие затраты — всё это события, которые попадают в данные компании и оттуда в Витрину. Восприятие следит за ней непрерывно и рано или поздно увидит отклонение: показатель вышел за коридор, факт разошёлся с планом, появился повторяющийся сбой. Для Восприятия это обычный сигнал, ничем не отличающийся от любого другого, и оно откроет по нему новый оборот.

Дальше цикл проходит те же пять станций. Осмысление разбирается в причинах и может дойти до исходного решения — до того, что основания, на которых его принимали, к моменту исполнения уже не годились. Совместное решение выбирает, что делать. Пересборка записывает вывод в контекстную модель, и в следующий раз цикл будет знать, что данные такого рода устаревают быстро.

Так расхождение исправляется на темпе цикла, а не предотвращается на темпе данных. Цикл не пытается угнаться за каждым обновлением. Он позволяет ошибке проявиться в результате, замечает её тем же механизмом, каким замечает всё остальное, и учится на ней.

Но происходит это быстро. Обычная компания заметит неудачное решение на очередном разборе итогов — через месяц, через квартал. Цикл смотрит в данные непрерывно, и отклонение всплывает в ближайших оборотах. Разбирают ошибку и там, и там постфактум — разница только в темпе, и она делает такой разбор рабочим способом управления, а не запоздалым признанием.

2.4. Почему станции устроены так

Люди и агенты расставлены по станциям не произвольно. Расстановка следует из того, что языковая модель ИИ делает хорошо, а что плохо.

Хорошо модели даётся всё, что сводится к сопоставлению паттернов на большом неструктурированном материале:

— поиск смысловых связей и противоречий в разнородных текстах;

— классификация и разметка данных по заданным категориям;

— построение гипотез из слабых, разрозненных сигналов;

— перевод между регистрами и форматами;

— обобщение, сжатие большого объёма в короткий.

С арифметикой, точным подсчётом и дословным цитированием у модели плохо: число для неё не значение, а последовательность токенов, и ошибка одного шага переходит в следующий. Но это поправимо — модель вызывает калькулятор и читает журнал вместо того, чтобы считать и вспоминать самостоятельно. Человек для этого не нужен, и на устройство станций такие слабости не влияют. Влияют другие — те, которые инструментом не закрыть.

— Модель не калибрует уверенность. Она выдаёт одинаково гладкий и убедительный текст независимо от того, есть ли у неё основания. Там, где данных мало или ситуация не встречалась, пробел заполняется правдоподобным вымыслом — с той же уверенностью, что и проверенный факт.

— У модели нет самопроверки. Она не может встать сбоку от собственного вывода и усомниться в нём: проверка требует другой точки зрения, а не повторного прохода по той же логике.

— Модель не может отвечать за выбор. Дело здесь не в способностях. Отвечать может тот, кто способен быть субъектом отношений. Но модель, сколь бы сильной она ни была, не субъектна, а потому нести ответственность не может.

Отсюда и расстановка внутри станций.

Восприятие и Осмысление отданы агенту почти целиком: здесь работает его сила — умение замечать паттерн и строить гипотезу на большом неструктурированном материале. Но с равной уверенностью он поднимет и значимую находку, и шум, и гипотезу из случайного совпадения. Поэтому на обеих станциях обязателен человек: он задаёт фокус — это важно, это нет, — отбраковывает ложные корреляции и дополняет картину неписаным контекстом, которого нет ни в одном срезе Витрины.

Совместное решение требует не одного агента, а двух. Стратег предлагает варианты, критик независимо проверяет их на противоречия: структурная проверка вместо самопроверки, которой у модели нет. Выбор и ответственность остаются за Владельцем цикла — решение может оказаться необратимым или ценностным, а отвечать за него модель не может.

Действие не исполняет решение, а адресует его. Как только доходит до фактической работы, её ведёт агентская сеть: те же люди и функции центра ответственности, что вели бы её и без каскада, агенты-исполнители, роботы. Станция передаёт задачи и добивается результата.

Пересборка возвращается на территорию агента — не потому, что здесь его слабости исчезают, а потому, что их берёт на себя не он. Точность обеспечивает Операционный журнал: он записывает и помнит; протокол оборота (C.8) собирается из Журнала каскада (C.7). Агенту остаётся то, что у него получается хорошо: не хранить факты дословно, а осмыслить их и обновить контекст.

Из такого разделения следует одно практическое свойство. Каскад не убирает людей из управления — он оставляет их там, где без человека нельзя: на Совместном решении, на развилках Осмысления, в задачах Оператора. Людей остаётся немного, без них станции не работают, и они же делают систему устойчивой к сбою.

Отказ агентов не парализует компанию: останавливаются обороты, а не управление. Пока агентов нет, решения принимаются в прежнем порядке — руководители проводят совещания, сотрудники в них участвуют (как до каскада): контекстные модели остаются читаемыми, цели и границы полномочий известны, люди на своих местах.

Открытые обороты при этом ждут, а новые не открываются: Восприятие не работает без агента — человек не может прочитать Витрину и найти паттерны в массиве данных. Решения, принятые в это время, Оператор фиксирует в Операционном журнале цикла, и при восстановлении они входят в контекстные модели первым же оборотом. Без этого каскад вернётся к работе с картиной, разошедшейся с реальностью.

Если встал конвейер данных, картина другая: агенты работают, но на устаревшем срезе и не знают об этом. Здесь цикл не переходит на ручной режим, а понижает автономию — операции, зависящие от Витрины, до восстановления не исполняются выше уровня автономии А2 (раздел 3.4.2).

В обоих случаях восстановление происходит быстро: контекстные модели на месте, и агенты возвращаются к той же работе. Рассчитывать на то, что отказов не будет, нельзя: поставщики моделей меняют условия, конвейеры встают, лимиты неожиданно исчерпываются. Порядок работы на этот случай — кто фиксирует решения, как долго компания может обходиться без оборотов, какие процессы не переживут остановки — определяется при развёртывании, а не в момент отказа.

2.5. Регламент оборота цикла

Оборот — один проход пяти станций: Восприятие, Осмысление, Совместное решение, Действие, Пересборка. Фиксированной длительности у оборота нет, и к календарю он не привязан: длится ровно столько, сколько требует содержание, — и это касается каждой станции в отдельности.

Открывается оборот не по расписанию, а по сигналу, и не всегда с одной и той же станции. Восприятие непрерывно следит за данными Витрины и открывает новый оборот отдельным потоком, как только находит паттерн или аномалию данных: это вход для всего, что сначала нужно обнаружить. Аномалии носителей и вердикты по ним (раздел 3.8) обнаруживать не нужно — это уже оформленный вопрос, а не сырые данные, — и они открывают оборот сразу на станции Осмысления, минуя Восприятие.

В любой момент у цикла может быть открыто несколько оборотов, каждый на своей станции: это норма, а не исключение. Основания, на которых строился открытый оборот, могут устареть, пока он не закрыт. Специально цикл за этим не гоняется — если решение окажется неэффективным, его поправит следующий оборот (раздел 2.3).