Лёгкий Путь V

Отпущенные.

Отклонённые внешним лимитом.

Среднее время человеческой проверки.

Потерянные возможности.

Всё выглядело хорошо.

Слишком хорошо, чтобы не захотеть следующий шаг.

Я захотел.

Конечно.

• • •

— Что расширяем? — спросил я.

Лиав посмотрел на меня.

Не обвиняюще.

Хуже.

Ожидаемо.

— Ничего.

— Почему?

— Потому что сегодня хочу показать тебе один повторный разбор.

Дор улыбнулся.

— Вот и закончилась радость.

• • •

Вчера в 14:11 система видела три хорошие возможности по одному диспетчерскому контуру.

Первая — раннее сервисное окно для одной машины.

Вторая — освобождение погрузочной площадки для другой.

Третья — изменение последовательности двух вторичных операций, которое не требовало нового действия водителю, но меняло итоговый резерв.

Первая существовала сорок секунд.

Вторая — чуть больше минуты.

Третья — без жёсткого срока, но её ценность зависела от первых двух.

Система удержала первую.

Через девять секунд — вторую.

Третью не удерживала.

Она и не требовала удержания.

Диспетчер открыл первую.

Проверил.

Потом вторую.

Пока работал со второй, система пересчитала третью.

Она стала лучше.

Потом первая стала чуть хуже.

Вторая — лучше.

На экране повторный разбор всё это выглядело красиво.

Три линии.

Цифры.

Версии.

— И что сделал человек? — спросил Дор.

— Выбрал вторую, — сказал Лиав.

— Правильно?

— Да.

— Тогда?

— Потом первую.

— Тоже правильно?

— Да.

— Третью?

— Отклонил.

— Почему?

— После первых двух она давала мало.

Дор развёл руками.

— Где проблема?

Лиав нажал Play дальше.

Через сорок семь секунд после второго решения один клиент обновил своё окно.

Третья возможность снова стала лучшей.

Но уже требовала ещё одного изменения.

Диспетчер не стал открывать.

Смена шла нормально.

Никаких нарушений.

Итоговый результат был хорошим.

Просто повторный разбор показывал, что система всё время знала больше альтернатив, чем человек мог держать в голове одновременно.

— Он ошибся? — спросил я.

— Нет.

— Слишком медленно работал?

— Нет.

— Тогда что ты мне показываешь?

Лиав остановил запись.

— Он выбрал хорошо из того, что успел нормально обработать.

— А система?

— Не выбирала.

Вот.

• • •

До сих пор это звучало как защита человека.

Система считает.

Человек решает.

Очень удобная граница.

Проблема была в том, что система уже не просто считала один вариант.

Она держала несколько.

Знала, как они влияют друг на друга.

Видела, как новое событие меняет их относительную ценность.

Человек получал карточки по очереди.

— Можно показать ему все три одновременно, — сказал Дор.

Лиав ответил:

— Тогда через двадцать секунд будет четыре.

— Сортировать.

— По чему?

Дор остановился.

Этот вопрос уже приходил к нам раньше.

Но теперь он был другим.

Раньше мы спрашивали, что вообще показывать человеку.

Теперь — как ранжировать несколько хороших решений, если правильность каждого зависит от того, какие другие решения будут приняты после него.

— Общая выгода, — сказал Дор.

— Какая?

— Время.

— Только?

— Деньги.

— Только?

— Клиентское окно.

— Только?

Дор посмотрел на меня.

— Он специально.

— Да.

Лиав не улыбнулся.

— Я не знаю, какой один показатель здесь должен стать хозяином.

• • •

Томер подключился ближе к девяти.

Посмотрел повторный разбор.

Сказал:

— Можно считать набор.

— Что значит набор? — спросил я.

— Не отдельные рекомендации. Пакет решений.

Лиав откинулся.

— Вот.

— Что?

— Вот туда я и не хотел сегодня идти.

Томер продолжил.

Если система оценивает решения совместно, она может предложить не:

A.

B.

C.

А:

если принять A и B — не делать C;

если B и C — отпустить A;

если A исчезает — пересчитать весь пакет.

Дор нахмурился.

— И человеку что показывать?

Томер задумался.

— Рекомендованный пакет.

Лиав посмотрел на него.

— То есть уже не три решения.

— Одно составное.

— Которое система выбрала сама из вариантов.

— Да.

В комнате стало тихо.

Не потому, что кто-то сказал опасное слово.

Потому что опасное слово уже не требовалось.

Если человек видит один «лучший пакет», система решила, какие альтернативы он вообще не будет рассматривать.

Формально последнее подтверждение остаётся у него.

Но часть выбора уже произошла раньше.

• • •

Дор первым нарушил тишину.

— Это плохо?

Никто не ответил сразу.

Я посмотрел на Лиава.

— Ты чего боишься?

— Не боюсь.

— Тогда?

Он показал на повторный разбор.

— Сейчас диспетчер может сказать: я выбрал B, потому что видел A и C.

— Да.

— Если система покажет один пакет, он скажет: я подтвердил то, что система посчитала лучшим.

— И?

— Это другой вид работы.

Не хуже.

Не лучше.

Другой.

• • •

Мы сделали моделирование.

Только моделирование.

Четыре вчерашних эпизода.

В первом диспетчер видел отдельные рекомендации.

Во втором — рекомендованный пакет.

Потом наоборот, чтобы не привыкал.

На первом сценарии пакет помог.

Вместо трёх карточек человек увидел одну структуру:

USE EARLY WINDOW.

KEEP CURRENT DRIVER STOP.

RELEASE SECONDARY PICKUP OPTION.

Прочитал.

Открыл основания.

Подтвердил.

Быстрее.

Спокойнее.

На втором сценарии тоже.

На третьем диспетчер остановился.

— Почему запуск?

Томер показал основание.

В момент расчёта вторичная операция снижала общий резерв.

— А если клиент задержит разгрузку?

— Тогда пакет пересчитается.

— После?

— После нового события.

Диспетчер покачал головой.

— Я бы не отпускал.

— Почему?

— Потому что этот клиент часто опаздывает после обеда.

Томер открыл данные.

В модели этого не было.

Не потому, что система была глупой.

Этого признака просто не существовало как входа.

— Это можно добавить, — сказал Дор.

Диспетчер посмотрел.

— Можно.

Лиав спросил:

— А всё, что ты ещё знаешь и не умеешь назвать полем?

Диспетчер улыбнулся.

— Вот этого побольше.

• • •

Это был удобный момент сказать:

человек нужен навсегда.

Я уже почти сказал.

Не сказал.

Потому что через двадцать минут случился четвёртый сценарий.

Там диспетчер настоял на своём.

Система рекомендовала пакет B+C.

Он выбрал A+B.

На основании опыта с площадкой.

В моделирование мы прогнали фактическое продолжение дня.

Площадка не задержалась.

Клиент пришёл вовремя.

Пакет системы оказался лучше на двадцать три минуты.

Диспетчер посмотрел итог.

— Значит, я был неправ.

Лиав ответил:

— Нет.

— Был.

— Ты принял разумное решение по информации, которая у тебя была.

— И проиграл двадцать три минуты.

— Да.

— Тогда был неправ.

Лиав не стал спорить.

Вот это мне понравилось больше любого вывода.

Иногда уважать человека — не значит объявлять каждое его разумное решение правильным.

• • •

После моделирование Дор спросил диспетчера:

— Если система чаще будет лучше выбирать пакет, ты хочешь видеть только пакет?

Тот подумал.

— Нет.

— Почему?

— Хочу понимать, что она отбросила.

— Всё?

— Нет.

— Тогда что?

— То, что могло бы изменить моё решение.

Томер засмеялся без радости.

— Очень удобно.

— Вы спросили.

— Я знаю.

Лиав записал фразу.

Не как требование.

Как проблему.

WHAT REJECTED ALTERNATIVES ARE DECISION-RELEVANT TO HUMAN REVIEW?

Я посмотрел.

— Английский обязательно?

— Интерфейсный черновик.

— Тогда прощаю.

• • •

После обеда я встретил Дора у кофемашины.

Он держал два стакана.

Один протянул мне.

— Растёшь.

— Не привыкай.

Мы отошли к окну.

— Ты хочешь пакет? — спросил он.

— Хочу результат.

— Это не ответ.

— Я CEO. Иногда могу.

— Нет.

Я отпил кофе.

— Хочу, чтобы человек не тратил три минуты на то, что система реально может собрать лучше за секунду.

— И?

— Не хочу, чтобы подтверждение человека стало декоративным.

Дор кивнул.

— Вот.

— Что «вот»?

— Я тоже.

Мы помолчали.

Потом он сказал:

— Самое неприятное, что обе вещи могут случиться одновременно.

— Какие?

— Система реально будет выбирать лучше. А человек всё равно останется ответственным.

Кофе вдруг стал хуже.

• • •

Вечером я позвонил Эле.

— У тебя бывает, что менеджеру приносит система один лучший вариант?

— Конечно.

— И?

— Иногда удобно.

— А иногда?

— Иногда он перестаёт думать, какие варианты не попали в список.

— Что делаешь?

— Зависит.

Я засмеялся.

— Что?

— Все отвечают одинаково.

— Значит, вопрос нормальный.

— А если система почти всегда права?

Пауза.

— Тогда опасность не в том, что ей поверят.

— А в чём?

— В том, что человек разучится замечать редкий случай, когда не надо.

Она сказала это спокойно.

Потом добавила:

— Но если система действительно лучше, заставлять человека каждый раз заново доказывать очевидное тоже глупо.

— Спасибо.

— За что?

— Ты умудрилась не помочь сразу в обе стороны.

— Учусь у тебя.

• • •

Перед закрытием дня Лиав прислал четыре строки.

Не предложение о запуске.

Не запрос Институту.

Не новую политику.

Рабочие вопросы Operations.

WHEN DOES RANKING BECOME DECISION?

WHEN DOES A RECOMMENDED PACKAGE HIDE MATERIAL ALTERNATIVES?

WHAT MUST A HUMAN UNDERSTAND TO OWN THE FINAL CHOICE?

WHEN DOES HUMAN CONFIRMATION BECOME CEREMONIAL?

Последняя строка мне не понравилась.

Я открыл чат.

Написал:

«Не нравится слово ceremonial».

Удалил.

Потом:

«Слишком рано».

Тоже удалил.

В конце ничего не отправил.

Потому что вопрос был правильный.

Система ещё не принимала маршрутные решения сама.

Не меняла действия водителю без человека.

Не получила права выполнить пакет.

Мы всё ещё держали последнюю кнопку.

Но впервые стало видно, что последняя кнопка и последний выбор — не обязательно одно и то же.

Глава 10. То, чего не показали

На следующий день Лиав не принёс новый алгоритм.

Принёс бумагу.

Обычный лист А4.

На нём было три строки:

ПОКАЗАНО.

НЕ ПОКАЗАНО.

ПОЧЕМУ.

Дор прочитал.

— Мы вернулись в двадцатый век?

— На десять минут.

— Тогда переживу.

Я спросил:

— Что ты хочешь?

— Вчера диспетчер сказал, что хочет понимать, что система отбросила, если это могло изменить его решение.

— Да.

— Сегодня проверим, может ли человек вообще пользоваться таким знанием.

Томер подключился к моделирование.

Не к рабочий режим.

После вчерашнего разговора никто не торопился давать системе новое право.

Она по-прежнему могла удерживать ограниченные внешние возможности в уже разрешённом контуре.

Не могла сама менять маршрут.

Не могла выдавать водителю новое действие.

Не могла исполнять пакет.

Последняя кнопка оставалась у человека.

Сегодня мы собирались проверить, сколько смысла остаётся в этой кнопке, если перед ней показать чуть больше правды.

• • •

Первый сценарий был простым.

Система рекомендовала пакет A+B.

На экране диспетчер видел:

РЕКОМЕНДОВАНО: A+B.

АЛЬТЕРНАТИВА: A+C.

ПРИЧИНА ОТКЛОНЕНИЯ C: НИЖЕ СЕТЕВОЙ РЕЗЕРВ.

Диспетчер открыл основание.

Сравнил.

Подтвердил A+B.

— Полезно? — спросил Лиав.

— Да.

— Почему?

— Я вижу, что C не пропал. Его сравнили.

— Если бы не показали?

— Я бы всё равно подтвердил.

— Тогда зачем?

Диспетчер пожал плечами.

— Спокойнее.

Дор сразу сказал:

— Отлично. Платим интерфейсу за спокойствие.

Лиав не посмотрел на него.

— Следующий.

• • •

Во втором сценарии было четыре альтернативы.

Система показала рекомендованный пакет.

Потом две ближайшие альтернативы.

Потом причины, почему каждая ниже.

Диспетчер читал сорок девять секунд.

За это время моделирование дважды обновил состояние.

На третьем обновлении рекомендованный пакет изменился.

Экран перестроился.

Диспетчер откинулся.

— Всё сначала?

Томер ответил:

— Основание изменилось.

— Я вижу.

Он снова открыл сравнение.

Лиав остановил моделирование.

— Полезно?

Диспетчер снял гарнитуру.

— Было.

— А потом?

— Потом вы дали мне больше информации, чем я успел закончить.

Дор показал на лист.

— Значит, не показывать.

— Я этого не сказал.

— А что сказал?

— Если вы показываете, не меняйте мне страницу посередине чтения.

Томер сразу начал что-то записывать.

Лиав сказал:

— Не интерфейс пока.

Томер убрал руки.

— Я просто записываю.

— Это у вас начинается одинаково.

• • •

Третий сценарий оказался хуже.

Система рекомендовала пакет, который по данным был лучшим.

Диспетчер открыл отброшенную альтернативу.

Она проигрывала двенадцать минут по общей сети, но оставляла больше резерва одной машине к концу смены.

— Я бы взял её, — сказал он.

Дор спросил:

— Почему?

— Потому что у этого водителя вечером сложная разгрузка.

Томер открыл модель.

— Разгрузка учтена.

— Время — да.

— Что ещё?

Диспетчер задумался.

— Там новый бригадир.

— Это влияет на длительность?

— Иногда.

— Насколько?

— Не знаю.

— Есть данные?

— Нет.

Дор посмотрел на меня.

Я уже знал, что он скажет.

— Добавим.

Диспетчер усмехнулся.

— Куда?

Дор не ответил.

Потому что вопрос был хороший.

Новый бригадир.

Скользкий въезд после дождя.

Клиент, который формально подтверждает окно, а потом держит машину у ворот.

Водитель, который после пяти вечера начинает хуже слышать голосовые сообщения, потому что снимает один наушник.

Половина реальной работы существовала не как правило.

Она существовала как память людей.

• • •

— Значит, система никогда не будет знать всё, — сказал я.

Томер посмотрел на меня.

— Человек тоже.

— Я знаю.

— Тогда это не аргумент за человека.

— И не против.

Лиав кивнул.

— Вот.

Дор вздохнул.

— Можно хотя бы один день без «вот»?

— Нет.

• • •

После обеда Лиав сделал второй прогон.

На этот раз система не показывала альтернативы сразу.

Только рекомендованный пакет и маленькую строку:

2 MATERIAL ALTERNATIVES AVAILABLE.

Диспетчер мог открыть их сам.

В первом случае не открыл.

Подтвердил.

Во втором открыл одну.

Изменил решение.

В третьем открыл обе.

Оставил рекомендацию системы.

В четвёртом не открыл.

Именно там система позже оказалась хуже.

Дор посмотрел на итог.

— Значит, надо было открыть.

Диспетчер ответил:

— После того как мы знаем продолжение — да.

— А тогда?

— Тогда пакет выглядел обычным.

— Как понять, когда открывать?

Диспетчер улыбнулся.

— Если узнаете, скажите.

Лиав записал:

REVIEW ATTENTION IS ALSO A SCARCE RESOURCE.

Я прочитал.

— Это мы уже знаем.

— Знаем.

— Тогда зачем?

— Раньше внимание уходило на рекомендации. Теперь оно может уходить на альтернативы, которые система сама решила не рекомендовать.

Дор сказал:

— То есть мы уменьшили очередь решений и создали очередь сомнений.

Никто не засмеялся.

Потому что получилось слишком точно.

• • •

В 15:10 я поехал в North Hub.

Самир был у ворот.

Увидел меня.

— Опять что-то не сломалось?

— Пока нет.

— Тогда проходи.

Внутри было шумно.

Обычная база.

Машина заезжала на осмотр.

Кто-то спорил о накладной.

Кто-то искал ключ.

Я увидел Рами.

— Есть минутка?

— Если настоящая.

— Постараюсь.

Я рассказал ему про пакет.

Про альтернативы.

Про то, что система может показать человеку лучший вариант и оставить рядом две отброшенные возможности.

Рами слушал.

Потом спросил:

— А мне что будет приходить?

— После решения диспетчера — только то, что надо делать.

— Хорошо.

— Тебе не интересно, что система отбросила?

— Нет.

— Почему?

— Потому что я за рулём.

Он сказал это так, будто объяснял ребёнку.

Потом добавил:

— Если хотите, чтобы я выбирал из трёх маршрутов, посадите меня к компьютеру. Если хотите, чтобы я ехал, дайте один.

Я кивнул.

— А диспетчеру?

— Пусть выбирает.

— А если компьютер выбирает лучше?

Рами пожал плечами.

— Тогда зачем диспетчер?

Вот так.

Без философии.

Без осторожных формулировок.

Я не ответил.

• • •

На обратном пути эта фраза не отпускала.

Не потому, что Рами был прав.

Потому что вопрос уже существовал.

Раньше диспетчер видел ситуацию, сравнивал и выбирал.

Потом система стала находить варианты быстрее.

Потом удерживать возможность, пока человек думает.

Потом собирать несколько взаимозависимых решений в пакет.

Теперь мы обсуждали, сколько отброшенных вариантов показать человеку, чтобы его подтверждение оставалось настоящим.

В какой-то момент можно было сделать идеальный интерфейс для роли, которая уже изменилась.

• • •

Вечером Лиав позвонил.

— У меня один человек попросил убрать альтернативы.

— Почему?

— Говорит, после них весь день думает, не пропустил ли что-то.

— А второй?

— Попросил оставить.

— Почему?

— Говорит, без них чувствует, что просто подписывает.

— Отлично.

— Да.

— Что будешь делать?

— Ничего сегодня.

— Тоже отлично.

Он помолчал.

— Ури.

— Что?

— Мы всё время говорим, что человек должен понимать решение.

— Да.

— А что значит «понимать»?

— Плохой вопрос на вечер.

— Поэтому звоню тебе.

— Спасибо.

• • •

Дома Эла работала за ноутбуком.

Я сел напротив.

— Если тебе система даёт один лучший вариант и показывает, что ещё два были хуже, ты считаешь, что сама приняла решение?

Она не подняла глаз.

— Нет.

— Почему?

— Потому что ты уже сказал мне, какой лучший.