Physical AI: От нейросетей к гуманоидным роботам

Культура near miss

Без наказаний за сообщение. Шаблон короткий. Разбор с hop слоем. Если near miss прячут, вы слепы. Это культурный рычаг безопасности не хуже сканера.

Страх замены и саботаж

Говорите заранее: какие задачи уходят, какие появляются (супервизия, разметка, исключения). Участие смены в дизайне эскалаций снижает сопротивление. Игнор страха — грязные данные и «случайные» столкновения ограждений.

Чеклист человеческого фактора перед пилотом смены

Роли расписаны. UI проверен в перчатках. Звук fault слышен. Обучение проведено. Лимит эскалаций/час понятен. Режим честного teleop есть. Near miss канал жив. Стимулы не бьют по safety. После near miss план снижения уровня готов. Мастер смены знает, кого будить.

Детали телеоп-рабочего места

Стул и высота монитора важны не меньше модели: усталость шеи сокращает сессию. Задержка видео и рассинхрон с усилием на рукоятке ломают навык. Измеряйте RTT и показывайте оператору. При превышении — авто freeze. Рукоятки с force feedback помогают, но без калибровки врут. Храните профили операторов отдельно: один и тот же gain неудобен всем.

Освещение комнаты телеопа не должно бликовать на экране. Казалось бы мелочь — а даёт ошибки хвата «непонятно откуда».

Супервизия несколькими роботами

Один человек на N роботов: N растёт, внимание делится. Нужны приоритеты тревог и возможность быстрого drill-down к видео. Без этого супервизор смотрит «самое мигающее», не самое опасное. Алгоритм сортировки тревог — safety critical design, его меняют через change control.

Коммуникация в смене

Радиопереговоры, жесты, «не лезь». Робот должен вписываться в существующие практики или официально их менять. Тихий робот за спиной опасен: звуковой beacon на движении в shared zone часто полезнее ещё одной нейросети.

Ошибки новичка vs ошибки эксперта

Новичок не нажимает confirm. Эксперт обходит процедуру. Разные контрмеры: обучение против принуждения procedure через UI (не дать пойти дальше без шага) осторожно, чтобы не родился ещё более опасный обход. Наблюдайте реальную работу.

Совместная отладка смены и инженеров

Совместный разбор короткого клипа раз в сутки строит общий язык. Без него инженеры чинят «модель», смена чинит «мир» по-своему. Пятнадцать минут стендап у ячейки окупаются.

Метрики человеческого контура

Время реакции на эскалацию. Доля закрытий с информативным тегом. Число скрытых teleop минут. Субъективная нагрузка (короткий опрос NASA-TLX упрощённый раз в неделю). Текучка операторов. Игнорирование этих метрик делает «автономию» бумажной.

Когда человек должен остаться в контуре надолго

Высокая цена хвоста исключений. Регуляторика. Сильно меняющийся процесс. Пока хвост толстый, уровень автономности 2–3 честнее, чем якобы 4. Человеческий фактор здесь не временный костыль, а часть дизайна.

Связь с системой и контуром

Человеческий фактор — узел системной карты. Нагрузка людей связана с age/abort (контур) и с уровнем автономности (следующая/эта шкала). Не проектируйте людей после железа.

Практика на две недели

Прогнать UI в перчатках. Замерить эскалации/час. Ввести честный teleop лог. Провести симулятор супервизии на 5 fault. Собрать опрос нагрузки. Обновить карточку на стене. Назначить канал near miss. Разбор одного клипа с сменой.

Добор объёма

Человек в Physical AI — не помеха автоматизации, а носитель residual risk и источник данных. Спроектируйте его работу так же тщательно, как hot path. Тогда совместная работа станет предсказуемой, а не героической. Героизм смен закрывает дыры дизайна до первого отпуска ключевого оператора. Дизайн должен переживать отпуск.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Не кладите confirm и cancel рядом одинаковыми по форме кнопками.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Не кладите confirm и cancel рядом одинаковыми по форме кнопками.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.

Держите бумажную карточку процедур на случай падения планшета.

Спрашивайте смену, какие три эскалации бесят больше всего — чините их первыми.

Введите право оператора отклонить задачу как unsafe без наказания.

Логируйте, кто учил оператора и когда: иначе текучка без следа.

Совместный KPI смены и инженерии на near miss reporting повышает рапортность.

Не используйте лицо оператора в рекламных роликах без согласия: ломает доверие.

При двуязычной смене UI должен держать оба языка без маленького шрифта.

Проверьте виброоповещение на запястном пульте в реальном шуме, не в тишине офиса.

Разведите учебный робот и боевой: обучение на боевом в пике — риск.

Итого: человеческий фактор проектируется, измеряется и обслуживается как подсистема.

Проверьте, что E-stop доступен без взгляда на экран: рука сама знает где.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Цветовая схема режимов должна читаться дальтониками: дублируйте формой/текстом.

Обучение ночной смены отдельно: они другие люди, другой контекст.

Запретите тестировать новый UI в час пик заказов.