Когда интеллект стал дешёвым. Том 3: Доверие. Как создавать основания для доверия, когда меняются доказательства, сделки и отношения

У проблемы уже есть имя

В декабре 2025 года редакторы Merriam-Webster, старейшего словаря Америки, выбрали словом года слово slop15. Старое английское слово когда-то означало жидкую грязь и пищевые отходы. Теперь словарь зафиксировал новое значение: низкокачественный цифровой контент, который обычно производится с помощью ИИ — быстро и в большом количестве.16 Почти одновременно австралийский словарь Macquarie назвал словом года AI slop — так решили и редакционный комитет, и читатели. А в январе 2026-го slop победило и в голосовании Американского диалектного общества, профессионального объединения лингвистов.17 Русский язык не отстал: «слоп» — у нас его успели растянуть в «нейрослоп» — вошёл в шорт-лист слова года по версии Грамоты.ру. Победил, впрочем, «зумер».18

За два года разговор о подлинности заметно сменил тон. В 2023-м словом года у Merriam-Webster было authentic — «подлинный»: редакторы связывали всплеск интереса к нему с ИИ, дипфейками и поиском того, чему ещё можно верить.19 В 2025-м люди уже искали не слово для настоящего, а ругательство для потока искусственного. Когда явление получает имя в словарях двух полушарий за один сезон, значит, оно уже стоит у каждого в телефоне.

Но эта глава не о том, что ИИ научился делать много плохих текстов и картинок. Плохого контента хватало всегда. Изменение глубже: контент больше не доказывает сам себя. Хорошо написано — ещё не значит, что писал специалист. Убедительно сказано — не значит, что говорит человек. Профессионально оформлено — не значит, что документ прошёл профессиональную проверку.

Форма осталась. Подпись исчезла.

Подпись здесь — не имя внизу, а след: откуда пришло сообщение, кто за ним стоит и чем сказанное подтверждается за его пределами.

Что именно сломалось

В Томе 1 мы подробно разбирали, почему производство output — текста, изображения, презентации, кода, любого видимого результата работы — резко подешевело. Возвращаться к этой экономике не нужно. Для Тома 3 важно одно её следствие.

Раньше приличная форма была слабым, но полезным сигналом. Чтобы написать связный отраслевой отчёт, надо было хотя бы потратить время. Чтобы сделать убедительную иллюстрацию, требовались навык и инструменты. Чтобы подготовить десятки разных откликов на вакансии, нужен был человек, который прочитает описание каждой роли. Форма ничего не гарантировала, но за ней обычно стояла некоторая цена производства.

Почти до нуля подешевела не готовая работа, а правдоподобная первая версия. Один человек за вечер может создать объём, на который раньше требовалось несколько исполнителей. Один продавец — заполнить площадку отзывами. Один кандидат — собрать портфолио и ответы на тестовое задание, не владея тем, что в них описано. Не обязательно хорошо. Достаточно правдоподобно для нескольких минут чужого внимания. Но цена проверки, профессионального суждения, ответственности и исправления ошибки никуда не делась. Именно поэтому дешёвая форма способна сделать дорогим следующий шаг — решение на её основе.

Я знаю эту ловушку по работе с банковскими и платёжными системами. Такой опыт приучает: чем убедительнее документ, тем меньше хочется судить только по форме. Иногда подделка действительно выглядит слишком безупречной. Но это лишь подсказка, не доказательство. Помарка не гарантирует подлинность, а гладкость не доказывает обман. Надёжнее проверять биографию документа: по какому каналу он пришёл, совпадает ли получатель с историей платежей, кто и каким способом подтвердил новые реквизиты.

В отчёте австралийского регулятора за 2021 год приведено обращение покупательницы недвижимости. Реквизиты пришли будто бы от её юриста — с правильного адреса и внутри настоящей цепочки писем. Два банка провели два перевода: 90 и 350 тысяч австралийских долларов. Третий остановил следующую операцию и позвонил клиентке. После отдельного звонка юристу выяснилось: реквизиты в письме были подменены.20

ㅤ

В этом случае мошенничество не выдала помарка. Снаружи всё выглядело настоящим. Спасла проверка за пределами сообщения: остановка операции и звонок по независимому каналу. Убедительность можно создать на поверхности. Проверка начинается за её пределами.

Представьте три аналитические записки. Первую специалист написал сам после недели работы. Вторую он собрал вместе с ИИ, проверил цифры и подписал своим именем. Третью сгенерировал человек, который не разбирается в теме, но хорошо умеет задавать модели вопросы. Все три выглядят одинаково уверенно. Иногда третья — даже лучше первой: модель не устала и не сомневается вслух.

Отсюда возникает соблазн объявить подозрительным вообще всё синтетическое. Понятная реакция — и тупиковая. Текст, созданный с помощью ИИ, может быть честным и проверенным. Отзыв, написанный человеком от первого до последнего слова, может быть заказной подделкой. Способ производства, происхождение и правдивость — три разные вещи. Если их смешать, мы получим не защиту от обмана, а всеобщую подозрительность.

Работа, которая выглядит работой

Та же гладкая форма появилась и в рабочих документах: письмах, отчётах и презентациях.

Осенью 2025 года авторы исследования, опубликованного в Harvard Business Review, дали этому явлению имя — workslop21: рабочий контент, сделанный ИИ, который выглядит выполненной задачей, но не содержит ничего, что двигало бы её вперёд. В их опросе четыре из десяти офисных сотрудников в США получали такое от коллег за последний месяц, и на разбор каждого случая уходило в среднем почти два часа.22 Это данные опроса, а не перепись офисов.

Выглядит это так. Приходит документ на восемь страниц: аккуратные заголовки, уверенные выводы, ни одной орфографической ошибки. Минут через двадцать приходит и понимание: внутри нет ни одного решения. Вопросы не закрыты — текст лишь аккуратно обходит их. Работа выглядит сделанной, но делать её придётся вам. Отправитель сэкономил себе полчаса, купив их за два часа вашего времени. Запомните это ощущение: позже в книге мы выставим такому времени счёт.

Раньше плохая работа выглядела плохо. Теперь она выглядит хорошо.

Половина трафика — не то, о чём вы подумали

В разговорах о синтетическом интернете часто мелькает «сильная» цифра: больше половины трафика в Сети уже создают не люди. В отчёте компании Imperva о ботах за 2025 год говорится, что в её данных за 2024-й автоматический трафик23 впервые превысил человеческий и достиг 51%; на «плохих» ботов пришлось 37%.24 Imperva продаёт защиту от ботов, так что перед нами отраслевой отчёт заинтересованного поставщика, а не перепись интернета. Но как сигнал масштаба он важен.

С тех пор масштаб только вырос. В июне 2026 года о том же сообщила Cloudflare — компания, через сеть которой проходит заметная часть мирового веб-трафика: автоматические обращения к страницам впервые обошли человеческие и составили около 57%.25

Важно и другое: чего эта цифра не означает. Она не означает, что больше половины статей, отзывов и фотографий созданы нейросетями. Трафик — это запросы к сайтам и сервисам. В нём живут поисковые роботы, сборщики цен, системы мониторинга, сканеры уязвимостей и множество другой служебной автоматики. И наоборот: текст, сочинённый моделью, может опубликовать живой человек с обычного браузера.

Ещё недавно на этом можно было закончить: доля большая, но за ней стояли обычные служебные программы, не имевшие отношения к нейросетям. Теперь это уже не так. Быстрее всего в этой доле прибавляет новая её часть — программы, которые ходят по сайтам не сами по себе, а по заданию конкретного человека: сравнивают, отбирают, заполняют формы. Их и разбирать нужно отдельно, и пугаться их не стоит: агент, честно собирающий для хозяина список подрядчиков, — не подделка и не мусор. Но он меняет ответ на вопрос, для кого вообще пишется страница. К этому мы вернёмся в конце книги, когда речь пойдёт уже не о том, как проверять других, а о том, как проверяют вас.

В спорах про «мёртвый интернет» всё это сваливается в одну кучу — и в ней тонет главное. Разложим на три потока.

Синтетический контент26 — сам объект полностью или частично создан моделью: текст, изображение, голос, видео.

Автоматическое участие27 — программа читает, публикует, голосует, покупает или отвечает без человека в каждом шаге.

Подделка — кто-то намеренно скрывает происхождение или выдаёт объект и личность за то, чем они не являются.

Эти круги пересекаются, но не совпадают. Помощник поддержки может честно сообщать, что он бот. Человек может вручную написать фальшивый отзыв. ИИ может помочь врачу объяснить пациенту сложный диагноз простыми словами — без всякой попытки выдать программу за врача. Обман — только третий поток. Но пока мы не различаем потоки, любой из них бросает тень на остальные.

У потока есть экономический стимул. В ноябре 2025 года компания Kapwing, которая делает инструменты для работы с видео, вручную проанализировала по сто трендовых YouTube-каналов в каждой стране — пятнадцать тысяч каналов всего. 278 из них авторы анализа отнесли к каналам, публикующим только AI slop; вместе они набрали десятки миллиардов просмотров. Kapwing оценила их возможный годовой рекламный доход примерно в 117 миллионов долларов по данным Social Blade. Это не аудит YouTube и не подтверждённая выручка. Но вывод уже достаточен: пока дешёвая генерация получает охват и допускается к монетизации, у части производителей остаётся стимул продолжать.28 Ждать, что поток остановится по доброй воле, не приходится — у него положительная экономика.

Теория «мёртвого интернета» утверждает, что значительная часть сети уже состоит из ботов, которые пишут для ботов. Как фактическое описание интернета это утверждение остаётся недоказанным. Но как бытовая метафора она победила: мы начали главу словами создателя ChatGPT, который признал, что его собственная лента стала казаться ему нежилой. Цитата Альтмана в эпиграфе важна не как измерение, а как симптом нового восприятия: даже опытный участник рынка больше не уверен, где заканчивается человеческая речь и начинается автоматическая.

Человек открывает комментарии и впервые не уверен, есть ли там вообще собеседник. Это новая граница недоверия. Мы сомневаемся уже не только в сказанном, но и в том, был ли вообще тот, кому мы всё это говорили.

Собеседник, которого не было

Лучший пример сомнения в самом существовании собеседника появился не в лаборатории и не на выборах. Он появился на Reddit, в сообществе r/changemyview — «измени мою точку зрения». Туда приходят именно затем, чтобы спорить с незнакомцами. Автор публикует убеждение, другие участники приводят аргументы, а если мнение изменилось, автор отмечает убедительный ответ специальным знаком.

С ноября 2024-го по март 2025 года исследователи Цюрихского университета незаметно включили в эти разговоры ИИ-аккаунты. Те оставили больше 1700 комментариев. Некоторые представлялись людьми с конкретной биографией — например, жертвой насилия или консультантом по травме. Для части ответов система анализировала историю публикаций собеседника и подбирала аргументы под предполагаемый возраст, пол и политические взгляды.29

Сообщество узнало об эксперименте постфактум. Модераторы назвали его несанкционированным: участников не предупредили, а правила прямо запрещали выдавать машинный текст за человеческий. Reddit заблокировал связанные аккаунты. Исследователи извинились, а результаты так и не были опубликованы как научная работа.

В черновике исследования авторы сообщали, что ИИ-ответы получали знак изменённого мнения в три-шесть раз чаще человеческой базовой линии. Эту цифру нельзя превращать в закон «ИИ убеждает в шесть раз лучше человека»: эксперимент был этически спорным, методика — уязвимой, результат не прошёл рецензирование. Корректный вывод уже и неприятнее: в реальном сообществе синтетический собеседник смог достаточно убедительно носить человеческую биографию.

Здесь подделали не только текст. Подделали основание, на котором текст получает вес.

Одно дело — прочитать аргумент без подписи. Другое — поверить рассказу человека, который якобы пережил то, о чём говорит. Опыт жертвы, профессиональная роль, возраст — всё это меняет наше отношение к словам. Мы слышим не просто довод. Мы слышим довод от кого-то.

Цюрихские аккаунты заняли это место без права на него. Именно поэтому реакция сообщества была не технологической, а человеческой. Пользователи возмущались не тем, что предложения составила модель. Их превратили в участников эксперимента и дали им выдуманных собеседников.

ИИ оказался убедительным не вопреки отсутствию личности. Он получил преимущество, потому что личность ему нарисовали.

Когда подозрение само становится доказательством

У кризиса происхождения есть обратная сторона. Если подделку трудно распознать, настоящий человек тоже рискует не пройти проверку.

В марте 2026 года крупный издатель Hachette отменил американский выпуск хоррор-романа Shy Girl Миа Баллард и прекратил распространение британского издания. До этого читатели, рецензенты и авторы видеоразборов указывали на повторяющиеся конструкции, разрывы логики и другие признаки, которые считали машинным почерком. Издатель сообщил, что принял решение после собственной проверки текста.30

Баллард отрицала, что использовала ИИ для написания романа. Она говорила, что с ИИ мог работать человек, которого она привлекла к редактированию ранней версии. В публичном поле не появилось цепочки происхождения, которая позволила бы внешнему наблюдателю восстановить, где заканчивался текст автора, что менял редактор и на каком этапе мог использоваться ИИ.

Мы не будем выносить приговор по этому делу. Оно важно именно потому, что однозначного ответа нет.

Издатель имел право оценить собственный риск и принять решение. Автор имела право отрицать обвинение. Читатели имели право задавать вопросы. Но все стороны оказались в мире, где стиль используется как улика, а исходных следов недостаточно, чтобы быстро закрыть спор.

Так дешёвая подделка облагает налогом настоящее. Уже недостаточно создать работу. Иногда надо ещё доказать, что путь её создания соответствует заявленному. Художник хранит промежуточные слои. Фотограф — исходный файл. Исследователь — данные и ход расчёта. Автор — черновики и историю правок. Не потому, что каждый заранее виноват. Потому, что объект больше не может свидетельствовать за себя.

Когда доказательства происхождения нет, его место занимает стилистическая экспертиза толпы. А толпа умеет подозревать гораздо лучше, чем отменять собственное подозрение.

Не вся синтетика — обман

На этом месте легко написать книгу против ИИ. Она была бы эмоциональной, понятной и бесполезной.

Миллионы людей уже используют модели для черновиков, перевода, поиска формулировок, иллюстраций, анализа документов и кода. Граница между «написал сам» и «поручил генерацию модели» давно не проходит по одной кнопке. Один человек попросил модель поправить запятые. Другой — предложить структуру. Третий принял готовый ответ, не читая. Формально во всех трёх случаях «использовался ИИ». Фактически перед нами три разных отношения к работе.

И здесь обнаруживается двойной стандарт. Свой ИИ кажется инструментом, чужой — попыткой обмануть. Свой текст мы оцениваем по тому, сколько в него вложили после генерации, чужой — по одному подозрительному обороту или длинному тире. Свой помощник «только ускорил». А чужой, разумеется, «всё сделал сам».

Этот спор нельзя решить подсчётом процентов машинного текста. Важнее контекст.

Если коллега с помощью ИИ сделал черновик внутреннего письма, проверил факты и подписал его своим именем — цена вопроса невелика. Если тот же коллега приложил к кредитному решению сгенерированное заключение, которого не читал, способ производства становится критичным. Если компания явно пометила автоматического помощника поддержки — это автоматизация. Если бот придумал политику возврата и подписался именем сотрудника — это уже подмена.

Не нужно требовать одинаковой «чистоты происхождения» от поздравления, медицинского заключения и распоряжения на перевод денег. Нужна другая дисциплина: чем дороже ошибка, тем сильнее доказательство.

Так вопрос «это сделал ИИ?» уступает более точным вопросам. Откуда это взялось? Кто сейчас говорит? Что подтверждает сказанное за пределами самого сообщения?

Три вопроса доверия

Назовём их тремя вопросами доверия31. Вокруг них будет крутиться вся эта книга — но увидеть их целиком полезно уже сейчас, в первой главе.

Первый вопрос — откуда это взялось? У фотографии это исходный файл и история обработки. У документа — автор, версия, подпись и журнал изменений. У отчёта — данные, ссылки и ход расчёта. Происхождение не делает объект правдивым: человек способен подписать ложь. Но оно возвращает связь между результатом и процессом его появления. И у честного ответа на этот вопрос всегда три зоны: подтверждено, вероятно, неизвестно. Сильная проверка отличается не тем, что закрывает всё, а тем, что не прячет непроверенный остаток за общей уверенностью.

Второй вопрос — кто говорит и чем отвечает? Важно не имя на экране, а основание говорить от этого имени — и готовность отвечать за сказанное. Один и тот же текст, опубликованный официальным каналом компании и свежим аккаунтом с похожим логотипом, — два разных объекта. Один и тот же голос, пришедший с незнакомого номера и подтверждённый при обратном звонке, — две разные степени уверенности. Этому будет посвящена отдельная часть книги.

Третий вопрос — кто подтвердит со стороны? Самый сильный ход проверки — выйти за пределы того, что вас убеждает. Письмо просит срочно сменить реквизиты — позвоните по известному номеру. Цитата выглядит безупречно — найдите первоисточник. Отзыв обещает чудо — посмотрите историю профиля. Видео требует немедленного решения — проверьте событие через канал, который в самом видео не указан.

Три вопроса — не обязательная процедура для каждого сообщения. Большую часть повседневного контента мы разумно потребляем без расследования: ошибка в смешном ролике не стоит ничего. Ошибка в платёжном поручении, диагнозе, кадровом решении или публичном обвинении стоит дорого. Поэтому глубина проверки зависит не от того, насколько странно выглядит объект, а от цены ошибки32. Правдоподобный объект с дорогими последствиями требует больше проверки, чем неуклюжий объект без последствий.

Это непривычный разворот. Мы привыкли проверять то, что выглядит подозрительно. Теперь проверять надо прежде всего то, что просит нас сделать что-то дорогое.

Проверять не странное, а дорогое

Первая реакция на синтетический поток — стать детектором. Замечать одинаковый ритм, неестественные пальцы на картинках, любимые слова моделей, странные паузы в голосе. Иногда такие признаки помогают. Но строить на них систему доверия нельзя: модели меняются, признаки исчезают, а живые люди начинают попадать под подозрение за собственный стиль. Чем это заканчивается — тема третьей главы.

Есть ход надёжнее. В каждом из нас живут два режима. «Я доверяю» экономит силы и позволяет жить — и в большинстве случаев этот режим прав: мир не превратился в зал кривых зеркал. «Я проверяю» включается редко, но по делу. Беда в том, что переключаем мы их не тем тумблером. «Я доверяю» верит гладкой форме, потому что она приятна. «Я проверяю» азартно расследует мемы и опечатки, потому что они бросаются в глаза. Оба заняты не тем. Правильный тумблер — цена ошибки: к какому действию меня подталкивает этот объект и что я потеряю, если он окажется не тем, чем кажется. Просто прочитать — читайте. Переслать всей семье, изменить мнение о человеке, отдать данные, перевести деньги — здесь форма перестаёт быть аргументом, и начинаются три вопроса.

У этого правила есть зеркало, и о нём стоит сказать уже в первой главе. Теперь вы — не только тот, кто проверяет. Вы — тот, кого проверяют: ваш отчёт, ваш отклик на вакансию, ваш честный отзыв тоже читают через прищур. Как честному автору не выглядеть подделкой? Тем же способом, только в обратную сторону: показывайте происхождение. Черновики, версии, данные, источники, датированную историю работы. Не оправдание «я не пользовался нейросетью», а след, который легко проверить. Дальше в книге мы разберём это подробно; пока достаточно принципа: не заставляйте людей верить вам на слово — дайте им способ убедиться.

Если единственное доказательство подлинности сообщения — само сообщение, подлинность ещё не доказана.

Практикум к книге

В Практикуме к этой главе лежат:

• минимальный пакет доверия — пять листов на один вечер: с чего начать, когда проверять хочется всё, а времени нет;

• рабочая тетрадь Тома 3 — маршрут тома: где проверяете вы, а где пометку «проверено: человек»33 предъявляете вы сами.

Открыть Практикум: https://cheap-intelligence.vercel.app/

Глава за минуту

1. Гладкая форма подешевела почти до нуля. Красивый текст, картинка или профиль больше не доказывают ни усилия, ни компетентности, ни того, что за ними есть человек.

2. Синтетика, автоматика и подделка — три разных потока. Автоматическое может быть честным, человеческое — ложным; обман — только один из трёх потоков, и смешивать их вредно.

3. Кризис бьёт в обе стороны. Синтетический собеседник принимается за человека, а настоящий автор не всегда может доказать, что работа настоящая.

4. Новая опора — не впечатление, а три вопроса: откуда взялось? кто говорит и чем отвечает? кто подтвердит со стороны? Глубину проверки задаёт цена ошибки, а не странность объекта.

Что забрать каждому.

• Специалист: оставляйте след работы. В мире дешёвой формы черновики, исходники, данные и история решений становятся частью профессионального капитала.

• Руководитель: назовите команде дорогие действия, для которых одного письма, голоса или красивого документа недостаточно. Общий призыв «быть внимательнее» не работает.

• Предприниматель: проектируйте проверяемость вместе с продуктом. Происхождение, полномочия и ответственность, которые клиент не может подтвердить, остаются рекламным обещанием — даже если внутри компании всё устроено честно.

Как объяснить близким.

• Семье: «Если письмо или знакомый голос просят денег, не продолжаем разговор по этому каналу — сами звоним по сохранённому номеру. Не по номеру и не по ссылке из сообщения. Проверяем не настроение собеседника, а человека и просьбу через независимый канал».

• Коллеге: «Красивый документ теперь ничего не доказывает. Смотри не на то, как сделано, а на то, откуда пришло и кто под этим подписался».

Раньше содержание могло служить доказательством подлинности. Теперь содержанию нужна собственная подпись.

К следующей главе

Контент первым потерял способность свидетельствовать за себя. Но у текста и отзывов есть милосердное свойство: их можно закрыть, отложить, не дочитать. Следующий объект такой паузы не даёт. Он звонит знакомым голосом, знает семейные подробности и просит решить всё прямо сейчас.