Цена мысли. Об экономике агентного ИИ

Цена мысли

Об экономике агентного ИИ

Сергей Кирницкий

Иллюстрация на обложке С использованием ChatGPT

© Сергей Кирницкий, 2026

ISBN 978-5-0071-4055-3

Создано в интеллектуальной издательской системе Ridero

Пролог. Вопрос, заданный не в тех единицах

Цена на экране выглядит как факт. Два числа в столбик, одно меньше другого в разы, и ничего не нужно истолковывать: разница видна глазом, без пояснений и без контекста. Я много раз наблюдал, как после такого экрана в комнате возникает молчаливое согласие — никто не считал, всем стало ясно. Очевидность приходит раньше расчёта и занимает его место, и отличить одно от другого трудно именно поэтому.

Странность того вечера была в другом. Модель, которую я выбирал, предназначалась не для разговора со мной. Она должна была работать ночью, в пустом кабинете, без единого человека рядом, и к утру оставить готовый результат. Я выбирал не собеседника, а исполнителя, которого никогда не увижу за работой, — и выбирал его по числу, написанному на входе.

Вопрос звучал так, как он звучит у всех: зачем платить в двадцать раз больше за то же самое. Я задавал его себе, мне задавали его коллеги, его задают на каждом совещании о бюджете, где речь заходит о строчке расходов на модели. И всякий раз он уходит из разговора таким же, каким пришёл. Два прайса на одном экране.

0.1. Два прайса на одном экране

Вечер, когда я впервые увидел эти две цены рядом, ничем не выделялся. Я закрывал последние дела, открыл страницу с ценами — не ради исследования, а чтобы уточнить одну цифру для сметы, — и остался на ней дольше, чем собирался. Страница была устроена так, как устроены все такие страницы: список моделей, у каждой стоимость за миллион токенов на входе и за миллион на выходе. Строчки шли одна под другой, одинаковым шрифтом, в одинаковых столбцах. Ничто в оформлении не намекало, что между соседними строчками лежит разница в порядки.

Глаз считает сам, без разрешения. Он берёт число из нижней строки, берёт число из верхней и делит одно на другое быстрее, чем я успеваю сформулировать, зачем мне это отношение. Дальше он умножает результат на объём, который прошёл через нас за прошлый месяц, — а объём я знал наизусть, потому что как раз сводил смету. Вышло число, от которого я на секунду отстранился от экрана. Не потому, что оно было огромным; огромным оно не было. Потому что оно было настолько больше другого числа, что разговор о нём казался уже законченным.

На соседней вкладке у меня было открыто другое. Там, в узком окне журнала, шла работа: система читала наш код, переходила от файла к файлу, вносила правки, запускала тесты, читала, что тесты сказали, возвращалась и правила снова. Это была рабочая очередь из накопившихся мелких дефектов — тех, до которых у людей не доходят руки месяцами. Она разбирала её по одному, всю ночь, а к утру оставляла набор готовых изменений, которые оставалось посмотреть и принять. Тем вечером предстоял очередной такой прогон, и цифра, которую я уточнял для сметы, была ценой этой работы: ей нужна модель, и вопрос был — какая.

Очередь была длинной, и в этом состояла вся привлекательность затеи. Мелкие дефекты стоят инженеру по полчаса, но их накопились сотни, и никакая живая команда не станет разбирать их подряд — у неё есть дела поважнее. Машина станет: ей всё равно, интересная задача или скучная, она не устаёт к четвергу и не откладывает неприятное. Но там, где задач сотни, цена перестаёт быть строчкой в смете и становится множителем. Один прогон стоит пустяк при любой цене; тысяча прогонов превращает пустяк в сумму, которую придётся называть вслух. И чем лучше идёт дело, тем больше прогонов, — то есть чем удачнее затея, тем сильнее давит выбор, сделанный в самом начале.

Две вкладки не мешали друг другу. В одной было решение, которое я принимал; в другой — то, о чём это решение. Я переключался между ними десяток раз и ни разу не подумал, что смотрю на две разные вещи. Мне казалось, что я смотрю на одну: вот цена, вот работа, остаётся подставить первое во второе.

Работа в журнале шла так, как она идёт всегда, — без меня. Я мог закрыть вкладку и уйти, мог оставить её открытой и смотреть, как строчки бегут снизу вверх; на результат это не влияло никак. Между тем, что система решала на одном шаге, и тем, что она делала на следующем, не было ни паузы, ни вопроса, ни человека. Она сама определяла, какой файл открыть следующим; сама решала, что правка удалась; сама сообщала, что закончила. Утром я получал не ход работы, а её итог — папку изменений и короткое сообщение о том, что всё сделано.

Утро после такого прогона выглядело буднично. Я открывал папку с изменениями, пробегал список затронутых файлов, смотрел, что тесты зелёные, и принимал. Не построчно — построчно чужую ночную работу никто не перечитывает, иначе она теряет смысл: если я собираюсь заново пройти каждую правку сам, дешевле было не поручать. Я смотрел на то, что видно снаружи: сколько файлов задето, не разрослась ли правка за пределы дефекта, зелено ли там, где должно быть зелено. Это занимало немного времени — куда меньше, чем заняла бы сама работа. Ровно за это я и платил, хотя, если бы меня тогда спросили, за что я плачу, я бы ответил: за токены.

Ощущение, которое у меня было в тот вечер, я узнаю до сих пор, и оно не имеет отношения к арифметике. Это лёгкое, почти незаметное раздражение — из тех, что не выливаются в спор, а оседают в решении. Кто-то платит в двадцать раз больше за то же самое. Обе модели пишут код; обе понимают, чего от них хотят; обе на любом показанном мне примере выглядят одинаково прилично. Разница между ними — предмет разговора знатоков, а разница между ценами — предмет разговора с финансовым директором, и второй разговор всегда конкретнее.

Я и проверял. Взял один настоящий дефект из очереди — не показательный пример из документации, а свой, с невнятным описанием и кодом, которому лет больше, чем мне хотелось бы, — и прогнал его дважды, разными моделями. Обе нашли место. Обе написали похожую правку. Дешёвая была многословнее в объяснении, сильная — суше, но, положа руку на сердце, если бы мне показали эти два результата без подписей, я не взялся бы сказать, где какой. Разница, о которой говорили знающие люди, на моём материале не проявилась. Это не было аргументом; это было наблюдением, и оно легло туда, где уже лежало ощущение.

К раздражению добавлялось кое-что ещё, и вот это было важнее. Речь шла о работе, которую всё равно никто не увидит в процессе. Если бы модель отвечала мне в диалоге, я бы, пожалуй, согласился доплатить за качество формулировок — я сижу напротив и вижу каждую фразу, мне с ней работать. Но тут никого нет. Ночью, в пустом кабинете, между одним шагом и другим — нет ни одной пары глаз. Платить премию за изящество там, где на изящество некому смотреть, казалось разновидностью тщеславия.

Я не изобрёл этот ход мысли. Я слышал его в десятке вариантов от людей, которых уважаю, и ни разу он не звучал глупо. Ведущий инженер говорит: у нас прогон идёт без остановки, с утра до ночи, и я не готов объяснять, почему эта строчка расходов выросла в разы. Технический директор говорит: покажите мне разницу, которую я увижу в поставленном продукте, и я подпишу. Продуктовый руководитель говорит: у нас нет бюджета на веру. Все трое правы в своей части, и ни одному из них нечего возразить на том материале, который у них есть. Материал — это две строчки на одной странице.

Скорее всего, вы видели этот экран. Может быть, не вчера и не в этом году, но видели: две цены, одинаковый шрифт, разница в порядки. Вы, вероятно, тоже сделали то, что делают все, — открыли страницу второй раз, чтобы проверить, правильно ли прочли, не перепутали ли миллион с десятью миллионами и вход с выходом. Прочли правильно. И дальше вы почувствовали то, что положено чувствовать разумному человеку перед таким экраном: что вопрос, в общем, закрыт, и обсуждать тут нечего, кроме, разве что, деталей.

Я тоже так думал. Не день и не неделю — долго, в нескольких проектах подряд, и всякий раз с ясным ощущением, что поступаю ответственно. Экономить деньги компании — не слабость, а работа; человек, который платит больше, не объяснив зачем, плохо делает свою работу, и я не хотел быть этим человеком. Есть особый род уверенности, который даёт число: оно снимает необходимость спорить. Спорить можно о качестве, о надёжности, о вкусе; с числом не спорят, его читают.

Слово, которым такое решение называют, тоже работает на его очевидность. Его называют экономией, а у экономии хорошая репутация и долгая история: бережливость числится среди добродетелей, и отстаивать её не приходится. Никто ведь не говорит о себе: я выбрал слабое. Говорят: я не стал переплачивать. Разница между этими фразами лежит не в содержании, а в том, кем ты выглядишь, произнося их. Выбирая дешёвую модель, я чувствовал себя не скупым, а трезвым, и чувство это было приятным настолько, что проверять его не хотелось.

Тем вечером я выбрал дешёвую. Решение заняло меньше минуты, и я даже не помню момента, когда его принял, — помню только, что закрыл вкладку с ценами и вернулся к вкладке с журналом, где очередь уже разбиралась дальше. Обе вкладки остались открыты до утра. Одна показывала, сколько стоит вход. Другая показывала работу, которой никто не смотрел.

0.2. Почему этот вопрос задают все и не дожимают

Совещание о бюджете устроено так, что на строчку расходов на модели приходится минуты три, не больше. Она стоит где-то в середине таблицы, между лицензиями и облаком, и до неё доходят, когда все уже устали от предыдущих строк. Кто-то произносит фразу, которая произносится всегда: а нельзя ли здесь дешевле. Кто-то отвечает, что можно, но качество будет ниже. Первый спрашивает, насколько ниже, второй признаёт, что зависит от задачи, и на этом разговор заканчивается — не потому, что пришли к решению, а потому, что следующая строка сама себя не обсудит.

Я был в таких комнатах с обеих сторон стола. Иногда спрашивал я, иногда спрашивали меня, и оба раза разговор шёл по одной колее. В нём не было ни спора, ни небрежности; была вежливая невозможность продолжать. Обе стороны говорили правду и обе понимали, что сказанного недостаточно, — но следующего шага у разговора не было, и его отсутствие никто не считал проблемой. Через минуту обсуждали хранилище, и обсуждали его обстоятельно, с прикидками на год вперёд. Строчка осталась в таблице такой, какой была, и решение — то, которое действовало по умолчанию, — осталось действовать дальше. Никто его не принимал; оно продолжилось само, и это самая обычная форма, в которой решения существуют в компаниях.

Через квартал вопрос возвращался. Дословно тот же, с той же интонацией, у того же места таблицы, иногда от того же человека, который задавал его в прошлый раз и получил тот же ответ. Это и есть то, что стоит заметить в этом вопросе: он не редкий. Он постоянный — и постоянно нерешённый. Вещи, которые обсуждаются регулярно и регулярно не сдвигаются с места, обычно устроены не так, как о них думают; их не двигает не нехватка воли, а что-то в самой их конструкции.

Один раз при мне его попробовали дожать. Финансовый директор — человек, у которого профессия состоит в неудобных вопросах, — спросила: а что мы теряем, если возьмём дешевле. Вопрос был точный, и в комнате стало тихо не от неловкости, а от работы: все честно искали, что ответить. Ответили ей, что иногда придётся переделывать. Она спросила, как часто. Этого никто не знал, и знать было неоткуда: мы никогда не мерили, сколько у нас переделок и с чем они связаны. Она подумала, сказала «понятно» и вернула разговор в колею, и никто не мог её за это упрекнуть. Она спрашивала о величине, которой у нас не было, — а из того, что было, следовал единственный ответ, и он был у неё перед глазами.

Соблазн объяснить это ленью я отбрасываю сразу. Люди в той комнате час выясняют ставку подрядчика и умеют считать до третьего знака там, где на счёт есть время. Они спорят о том, стоит ли держать холодные данные на быстрых дисках, и в этом споре у них есть всё, что нужно: что мы храним, сколько это стоит, как быстро оно нам понадобится и что случится, если понадобится позже. Разговор доходит до конца, потому что конец у него есть. Тот же самый человек, встретив строчку про модели, задаёт вопрос и через две реплики его оставляет. Дело не в нём.

Дело в том, что вопрос кажется решённым в момент, когда его задают. Цена есть — она написана, её можно скопировать в таблицу. Разница есть — она видна без вычислений. Дальше вроде бы нечего обсуждать: остаётся вкус, осторожность и вера, а на совещании о бюджете это не аргументы. Вопрос имеет форму вопроса, но устройство утверждения; он звучит как «зачем платить больше», а работает как «незачем платить больше». Ответить на него не получается не потому, что ответа нет, а потому, что для ответа не открыто место: разговор закончился раньше, чем начался.

Я говорю это не со стороны. Я сам долго считал именно так и был в тех разговорах не наблюдателем, а тем, кто закрывал тему. Когда у меня спрашивали, есть ли разница, я отвечал, что на нашем материале не вижу, — и отвечал честно, я и вправду не видел. У меня были цифры и не было слов; всё, что я мог бы назвать в пользу дорогого, звучало как предчувствие, а предчувствия в смете не пишут. Мне казалось, что человек, платящий больше без доказательства, перекладывает свою неуверенность на чужой бюджет. Это приятная позиция, и держался я в ней годами.

Однажды я написал короткую записку в защиту дешёвого выбора. Она заняла полстраницы, состояла из одного сравнения и одного умножения, и её приняли за три минуты; я помню лёгкость, с которой это прошло. Через полгода я попробовал написать обратную — не потому, что во что-то поверил, а потому, что хотел понять, как она вообще выглядит. Я не закончил ни одного абзаца. Каждое предложение упиралось в «мне кажется» или в «бывали случаи», и обе эти опоры рассыпались при первом же уточняющем вопросе, который я задавал себе сам. Записку я не отправил и счёл это подтверждением своей правоты.

Осталось, впрочем, неудобство. Не сомнение в ответе — ответ меня устраивал, — а что-то более раннее, у самого основания разговора. Я замечал его в одном месте: когда пытался объяснить, чем именно рискую, у меня менялся язык. Про цену я говорил числами, а про то, что стоит за ценой, — историями, оговорками, словами вроде «надёжнее» и «спокойнее». Два эти способа говорить не сводились друг к другу. Я приносил на весы гирю и перо и удивлялся, что весы не показывают ничего осмысленного.

Тогда я думал, что дело в моей неспособности выразиться, и стыдился этого. Теперь я думаю иначе. Вопрос был задан в определённой единице измерения, и единицу эту выбрал не я. Её выбрал счёт, который приходит в конце месяца, — он написан в токенах, потому что в токенах его удобно выставлять. Её выбрала таблица бюджета, у которой есть графа для суммы и нет графы для всего остального. Её выбрала панель наблюдения, повешенная у нас на стену: там расход рисуется графиком по дням, и график этот честный, подробный, с делениями — у него есть ось для денег и нет оси ни для чего другого. На такую стену смотрят каждый день, и через месяц она уже не отражает мысль, а формирует её. Ни на одном совещании я не слышал, чтобы кто-то спросил, в чём мы, собственно, считаем. Мера пришла вместе со счётом, как приходит упаковка вместе с товаром, и никому не пришло в голову, что упаковку можно было выбрать другую.

Вот отчего вопрос уходит с совещания таким, каким пришёл. Он поставлен в единицах, в которых у него есть ровно один ответ, и ответ этот получают немедленно — быстрее, чем успевают усомниться в единицах. Всё, что могло бы возразить, говорит на другом языке и на весы не ложится. Никто не виноват: спрашивающий спрашивает добросовестно, отвечающий отвечает добросовестно, оба пользуются мерой, которой их снабдили, и эта мера прекрасно работает для всего, для чего она создавалась. Она создавалась, чтобы выставлять счета.

Я не знал этого в тот вечер с двумя вкладками и не знал ещё долго. Знал только, что после каждого такого разговора остаётся осадок — ощущение, что мы очень точно ответили не на тот вопрос. Оно возвращалось вместе со строчкой в таблице, и каждый раз я отмахивался от него, потому что человеку, у которого нет другой меры, нечего предъявить, кроме настроения. Настроение — плохой аргумент в разговоре о деньгах, и я не считаю, что коллеги были неправы, не принимая его в расчёт.

Но оно оказалось хорошим указателем на то место, где стоит копать.

0.3. Обещание книги

Книга, которую вы держите, не скажет вам, что дорогое лучше. Написать такую книгу было бы легче: у неё есть готовый вывод, к нему подбираются примеры, и всякий несогласный оказывается человеком, который ещё не понял. Я пробовал думать в эту сторону и остановился, потому что не верю в её пользу. Тот, кто примет вывод, не пройдя пути, применит его неправильно — доплатит там, где доплачивать не нужно, и сэкономит там, где экономия обойдётся дороже всего. Вывод без пути — это чужая привычка, надетая на свои обстоятельства; она натирает.

Не будет здесь и нескольких других вещей, которых от такой книги ждут. Поставщиков я не сравниваю: имена, которые я мог бы назвать, устареют раньше, чем книга дойдёт до второго читателя, и всё, что на них держится, устареет вместе с ними. Я не учу разворачивать и настраивать — об этом написано людьми, которые делают это каждый день лучше меня. Я не обещаю, что сильное всегда право; у меня будет целая глава о случае, когда оно не право, и написать её честно было труднее всего. И я не пишу о том, какими станут модели через два года, потому что не знаю, а делать вид, что знаю, — самый дешёвый способ потерять читателя. Меня занимает то, что останется верным при любых именах в прайсе.

Я обещаю другое, и обещание это скромнее, чем проповедь. Я предложу считать в другой единице. Не переубеждать и не давить примерами, а сменить меру и заново посмотреть на ту же сцену. Если единица окажется верной, ничего доказывать не придётся: числа сойдутся сами, и ответ, который сейчас кажется единственным, окажется частным случаем — иногда правильным, иногда нет, и, что важнее, вы будете видеть, когда каким. Число, записанное не в той единице, не становится от этого ложным; оно остаётся правдой, отвечающей на другой вопрос.

Поэтому главный вопрос этой книги звучит не так, как звучал тот, вечерний. Не «сколько стоит?», а «что именно мы покупаем и в чём это считать?». Первая половина вопроса кажется наивной: мы ведь знаем, что покупаем, — вон оно, в счёте, миллионы токенов на входе и на выходе. Но в счёте написано то, что удобно посчитать продавцу, а не то, ради чего мы к нему пришли. Мы платим не за то, что нам отгружают; мы платим за то, что после этого становится возможным. Расстояние между первым и вторым — и есть предмет книги.

Вторая половина вопроса — «и в чём это считать?» — выглядит педантизмом, пока не окажется, что в ней вся работа. Единицу измерения обычно не выбирают: она приходит вместе с прибором, с накладной, с привычкой отрасли, и кажется свойством самого предмета, а не нашим решением о нём. Между тем это решение, и оно из тех, которые определяют всё последующее. Выбрав единицу, вы уже выбрали, какие вопросы можно будет задать, а какие не сформулируются; какие потери станут видимыми, а какие останутся за краем таблицы. Спор о единицах скучнее спора о ценах — до того момента, пока вы не увидите, что второй без первого не имеет смысла.

Вопрос «что именно мы покупаем» неудобен ещё и тем, что в большинстве ремёсел он не возникает. Столяр, покупая доску, видит доску; она лежит на прилавке, её можно взвесить в руке, и никому не приходит в голову спрашивать, что же он приобретает по существу. Здесь предмет покупки невидим целиком: его нельзя ни потрогать, ни показать коллеге, а всё, что от него остаётся снаружи, — строчка в счёте и папка изменений наутро. Когда предмет невидим, единственным его описанием становится то, в чём его мерили. Мера перестаёт быть способом смотреть и становится самим предметом. Отсюда и лёгкость, с которой разговор о покупке подменяется разговором о цене: ничего другого в поле зрения нет.

Речь пойдёт о модели, которой поручили действовать самостоятельно, а не о той, с которой разговаривают. Разница не в мощности и не в размере, а в устройстве работы: машина получает задачу, а не вопрос; сама читает и ищет; сама решает, что делать следующим шагом; сама правит, запускает, проверяет; сама сообщает, что закончила. Исправить дефект и добиться зелёных тестов; провести изменение через несколько модулей незнакомой системы; прочесть длинный документ целиком и вынести о нём суждение; перевести весь проект с одного способа делать что-то на другой. У всех этих работ общий признак, и он бытовой: между шагами никого нет.

Мы называем это поручением, а не вопросом. Вопрос и ответ — это обмен, в котором вторая сторона видит первую; спросивший читает ответ и решает, годится ли он. В поручении обмена нет. Есть начало, есть конец, а посередине — время, которое никто не наблюдал. Всё, что вы получите, — результат и уверенность исполнителя в том, что результат хорош.

Одна и та же машина живёт по обе стороны этого различия, и в этом вся трудность. Модель, которая утром объясняет мне незнакомый кусок кода, и модель, которая ночью разбирает очередь дефектов, могут быть одной и той же — куплены по одному счёту, вызываются одним ключом, стоят одинаково. Разделяет их не устройство, а то, как они употреблены: есть ли между шагами тот, кто смотрит. Поэтому решение, о котором идёт речь, нельзя принять раз и навсегда для всей компании, как выбирают поставщика электричества. Оно принимается для работы, а не для инструмента, и первый вопрос к работе — не «сложная ли она», а «кто окажется рядом, когда она пойдёт не так».

Разговор в чате, подсказка в редакторе, объяснение непонятного фрагмента, короткая заметка к сохранённым правкам — всё это другая территория. Там человек стоит между шагами, читает каждую фразу и в любой момент может сказать «нет». Я буду вспоминать эти сценарии только затем, чтобы показать, где проходит граница моего предмета: за ней многое из сказанного здесь перестаёт работать, а кое-что переворачивается. Книга не о них. Книга о том, что происходит, когда посередине никого нет.

Дорога впереди короткая, и я назову её в четыре слова. Сначала — единица: выясняется, в чём мы считали и что получается, если считать иначе; мир после этого выглядит непривычно, хотя ничего в нём не изменилось. Потом — соблазн: даже с верной мерой остаётся желание сэкономить на лёгком, и я разберу, где это желание честное, а где обманывает само себя. Потом — вещество: спуск на уровень ниже, к тому, что такое модель как вещь, что она помнит, чем расплачивается за память и что теряется в копии. И наконец — правило: возвращение к тому самому решению, которое я принял тем вечером за минуту, но теперь оно формулируется иначе и по другим основаниям. Единица, соблазн, вещество, правило. Больше в этой книге ничего нет.

Пишу я это не сверху. Тем вечером я выбрал дешёвую и в следующие месяцы выбирал её ещё не раз. Большинство доводов, которые вы, возможно, сейчас мысленно мне предъявляете, я предъявлял себе сам — и находил их разумными. Место, с которого я говорю, — не кафедра, а стул перед тем же экраном; всё различие в том, что я просидел на нём дольше и успел увидеть счёт, пришедший позже. Оппонент в этой книге всегда умён и в чём-то прав; иначе и быть не может, потому что оппонент этот — я сам, каким был до того вечера с двумя вкладками и каким оставался долго после него.

Я не прошу верить мне ни в чём. Я прошу об одном: подержите вопрос о единицах открытым немного дольше, чем он держался на том совещании. Три минуты у строчки бюджета — не срок для вопроса, который возвращается каждый квартал и каждый квартал уходит целым. Дальше я буду медленным; медленность — единственный способ пройти дорогу так, чтобы в конце она была вашей, а не моей.

Экран с двумя прайсами останется ровно тем же. Числа на нём не изменятся ни от одной страницы этой книги, и разница между строчками не станет меньше; тот, кто сравнит их через год, увидит другие величины, но то же отношение. Изменится не экран. Изменится то, в чём считает смотрящий на него, — и вместе с этим изменится ответ, хотя ни одного нового довода в пользу дорогого я не приведу.