ИИ без фантазий

Александр Торшин

ИИ без фантазий

Правовая и профессиональная оговорка

Книга носит образовательный характер. Примеры не заменяют требования промышленной безопасности, корпоративные регламенты, проектную документацию, экспертное заключение и обязательные согласования. Числа и ситуации в учебных кейсах изменены. Перед использованием ИИ с рабочими данными необходимо проверить внутренние правила компании, режим коммерческой тайны, требования к персональным данным и допустимость использования внешних сервисов.

Введение. Почему производству нужен другой разговор об ИИ

Большинство разговоров об искусственном интеллекте начинается не с задачи, а с инструмента. Людям показывают, как нейросеть пишет письмо, строит картинку или пересказывает документ. Несколько минут это производит впечатление. Затем руководитель возвращается к своей работе: десятки таблиц, разнородные отчеты, история решений, ограничения технологии, ответственность за результат и необходимость объяснить выводы другим специалистам.

И здесь выясняется, что красивый ответ еще не является рабочим решением.

В производстве ценность создается не текстом как таковым. Ценность появляется, когда специалист быстрее обнаруживает отклонение, не пропускает ограничение, выбирает более сильного кандидата, предотвращает ошибочную операцию или сокращает время подготовки решения. Поэтому главный вопрос звучит не так: «Что умеет нейросеть?» Правильный вопрос: «Какой участок процесса можно сделать быстрее и надежнее, не потеряв управляемость?»

Я работаю с задачами, где исходная информация редко бывает идеальной. Форматы меняются, часть параметров отсутствует, одинаковые показатели называются по-разному, а важное объяснение может находиться в примечании, письме или старом отчете. Опыт быстро отучает верить в кнопку «проанализировать все». Сначала нужно понять физический и организационный смысл данных, затем определить допустимые допущения, и только потом подключать автоматизацию.

Из этого родился основной принцип книги: ИИ не должен заменять инженерное решение. Он должен делать видимыми данные, допущения, противоречия и варианты, чтобы человек принимал решение быстрее и осознаннее.

Ключевая мысль: хороший ИИ-процесс не скрывает неопределенность. Он показывает, где данных достаточно, где есть риск ошибки и что обязан проверить специалист.

В книге используется практический контур из шести элементов:

Проблема. Какая потеря времени, денег или качества существует сейчас.

Пользователь. Кто выполняет работу и кто отвечает за решение.

Пределы. Что системе разрешено и что запрещено делать.

Проверка. Каким способом обнаруживается ошибка.

Пилот. На каком небольшом участке проверяется идея.

Показатель. По какой метрике определяется ценность.

Этот контур подходит и для простого шаблона запроса, и для Excel-инструмента, и для программы, и для внутреннего помощника, работающего с документами компании.

Книга построена последовательно. Сначала мы выберем подходящую задачу. Затем разберем данные, научимся задавать ИИ техническое задание, создадим проверяемый процесс и только после этого перейдем к автоматизации. Такой порядок может показаться медленнее, чем установка очередного сервиса. На практике он экономит недели бесполезных экспериментов.

Глава 1. ИИ как усилитель, а не ответственный исполнитель

Что ИИ действительно делает хорошо

Современные языковые модели сильны в операциях, где нужно быстро обработать текст или структуру: выделить факты, привести записи к единому виду, предложить классификацию, составить черновик, найти противоречия, преобразовать описание в таблицу или объяснить сложную тему на другом уровне детализации.

В производственной работе особенно полезны пять способностей.

Сжатие. ИИ может сократить длинный отчет до списка событий, выводов и открытых вопросов.

Структурирование. Свободный текст превращается в карточки, таблицы, категории и последовательности действий.

Сопоставление. Модель сравнивает версии документов, фактические и плановые показатели, требования и исполнение.

Черновая генерация. Быстро создаются письма, протоколы, пояснительные записки и варианты формулировок.

Объяснение. Один и тот же материал можно представить для инженера, руководителя или нового сотрудника.

Эти операции экономят время, но не снимают ответственность. Модель не присутствовала на объекте, не знает неописанных обстоятельств, не несет последствий и не понимает физику процесса так, как ее понимает опытный специалист.

Четыре опасные иллюзии

Первая иллюзия - уверенный тон означает правильность. Языковая модель оптимизирована на правдоподобный ответ. Она может одинаково уверенно сформулировать правильный вывод и аккуратно оформленную ошибку.

Вторая иллюзия - чем больше данных передано, тем лучше результат. Если в массиве смешаны разные периоды, единицы измерения и версии справочников, модель не исправит смысл автоматически. Она может лишь замаскировать проблему красивым обобщением.

Третья иллюзия - подробный промпт заменяет методику. Даже идеальная формулировка не спасет задачу, если неизвестно, по каким правилам оценивать результат.

Четвертая иллюзия - автоматизация должна быть полной. В реальных процессах самый устойчивый вариант часто оставляет человеку два или три важных решения. Полная автоматизация хрупка там, где часто меняются форматы, исключения и требования.

Три роли ИИ

Полезно заранее определить роль системы.

Первая роль - секретарь. Система извлекает, сортирует, оформляет и напоминает. Риск обычно невысок, если исходные документы сохранены и результат можно быстро проверить.

Вторая роль - аналитик. Система рассчитывает показатели, ищет отклонения, сравнивает варианты и предлагает гипотезы. Здесь уже нужны формулы, контрольные примеры и подтверждение специалиста.

Третья роль - советник. Система предлагает решение или приоритет. Это самая опасная роль. Она допустима только при прозрачных критериях, указании неопределенности и обязательном человеческом утверждении.

Практическое правило: начинайте с роли секретаря. Переходите к роли аналитика только после того, как научились проверять извлечение и структуру. Не отдавайте модели роль советника, пока критерии решения не записаны человеком.

Зеленая, желтая и красная зоны

Зеленая зона включает задачи, где ошибка легко обнаруживается и не вызывает прямого ущерба: форматирование, классификация писем, подготовка черновика, создание списка вопросов, преобразование заметок в протокол.

Желтая зона включает расчеты, интерпретацию данных, ранжирование объектов и подготовку рекомендаций. Здесь необходимы контрольные формулы, источники, журнал допущений и утверждение специалистом.

Красная зона включает команды оборудованию, решения по безопасности, юридически значимые действия, самостоятельное изменение критичных данных и выдачу окончательного технологического решения без проверки. В этих задачах ИИ может готовить информацию, но не должен самостоятельно запускать действие.

Таблица 1. Зоны применения ИИ

Зона

Примеры

Обязательный контроль

Зеленая

Черновики, форматирование, классификация, перечень вопросов

Быстрая проверка пользователем

Желтая

Расчеты, ранжирование, аналитика, рекомендации

Источники, тесты, экспертное утверждение

Красная

Команды оборудованию, решения по безопасности, необратимые действия

ИИ не выполняет действие самостоятельно

Первый навык руководителя

Главный навык руководителя в работе с ИИ - не умение писать длинные промпты. Это способность разделить процесс на этапы и увидеть, где именно нужна человеческая ответственность.

Возьмите одну регулярную задачу и ответьте на четыре вопроса:

Что является исходными данными?

Как выглядит проверяемый результат?

Какая ошибка наиболее опасна?

Кто и каким способом ее обнаружит?

Если на четвертый вопрос нет ответа, автоматизировать задачу рано.

Практикум к главе

Выберите одну задачу, которую вы выполняли на прошлой неделе. Разделите ее на действия и напротив каждого поставьте роль: секретарь, аналитик, советник или ответственный исполнитель. Затем отметьте цвет риска. Например, извлечение дат из отчета может относиться к зеленой зоне, расчет показателя - к желтой, а утверждение технологического действия - к красной.

Теперь проведите мысленный эксперимент. Представьте, что система допустила убедительную ошибку на каждом этапе. Каким сигналом она обнаружится? Если сигнал появляется только после выполнения действия, перенесите человеческую проверку раньше. Итогом упражнения должна стать схема, где ИИ ускоряет подготовку, но не получает право незаметно превратить предположение в решение.

Глава 2. Как выбрать задачу, которую стоит автоматизировать

Почему начинают не с того

Самая заметная задача редко является лучшей для первого проекта. Руководитель может захотеть «проанализировать весь фонд», «создать цифрового сотрудника» или «автоматически выбирать лучшие решения». Такие формулировки слишком широки. В них нет стабильного входа, четкого выхода и понятной проверки.

Хорошая первая задача выглядит скромнее. Например: собрать из пяти файлов единый список объектов по общему ключу, выделить пропущенные значения, подготовить карточку отклонений и показать строки, требующие ручного решения.

Пять признаков сильной задачи

Она повторяется не реже одного раза в месяц.

В ней есть понятные входные данные.

Результат можно проверить по образцу или правилу.

Сейчас на нее тратится заметное время.

Ошибку можно остановить до реального действия.

Если присутствуют четыре признака из пяти, задача подходит для пилота.

Матрица отбора

Оцените каждую идею по шкале от 1 до 5 по следующим критериям: частота, трудоемкость, стандартизируемость, доступность данных, проверяемость, цена ошибки и ожидаемый эффект. Для цены ошибки используется обратная логика: чем опаснее ошибка, тем ниже стартовый балл.

Таблица 2. Оценка идеи для первого пилота

Критерий

1 балл

5 баллов

Частота

Реже раза в квартал

Ежедневно или еженедельно

Трудоемкость

До 15 минут

Несколько часов

Стандартизируемость

Каждый раз новые правила

Стабильный порядок действий

Доступность данных

Данные трудно получить

Данные доступны и понятны

Проверяемость

Нет образца и критерия

Есть формула, правило или эталон

Цена ошибки

Высокий необратимый ущерб

Ошибка обнаруживается до действия

Ожидаемый эффект

Почти не влияет на процесс

Заметно сокращает срок или потери

Сумма баллов помогает сравнить идеи, но не заменяет здравый смысл. Проект с высоким эффектом и высокой ценой ошибки лучше разделить. Сначала автоматизировать сбор и проверку данных, затем расчет, а рекомендацию оставить человеку.

Декомпозиция по узкому месту

Рассмотрим подготовку решения по производственному объекту. Процесс может состоять из семи частей:

Найти актуальные данные.

Объединить источники.

Проверить полноту.

Рассчитать показатели.

Сопоставить с критериями.

Сформулировать вывод.

Согласовать действие.

Необязательно автоматизировать все. Если большая часть времени уходит на первые три этапа, именно они дадут основной эффект. Автоматизация вывода без исправления сбора данных лишь ускорит получение сомнительного решения.

Паспорт задачи

Перед началом заполните короткий паспорт.

Название процесса.

Пользователь и владелец результата.

Частота выполнения.

Источники данных.

Текущая продолжительность.

Обязательный формат результата.

Критичные ограничения.

Типовые исключения.

Способ проверки.

Метрика успеха пилота.

Паспорт занимает одну страницу и спасает от бесконечной доработки. Если новый запрос не относится к метрике пилота, его можно перенести в следующую версию.

Что не брать первым проектом

Не начинайте с процесса, который каждый раз выполняется по новым правилам. Не берите задачу без владельца. Не пытайтесь автоматизировать конфликт между подразделениями. Не выбирайте процесс, где никто не доверяет исходным данным. И не начинайте с задачи, цена единичной ошибки в которой выше годовой экономии проекта.

Ключевая мысль: лучший первый проект не самый впечатляющий. Он достаточно полезен, чтобы его заметили, и достаточно ограничен, чтобы его можно было проверить.

Практикум к главе

Составьте список из пяти идей автоматизации и оцените их по матрице отбора. Не выбирайте победителя только по сумме. Для двух лучших идей отдельно опишите опасную ошибку и стоимость сопровождения. Если одна идея экономит больше времени, но требует постоянного исправления входных файлов, более скромный шаблон может оказаться выгоднее.