Когда интеллект стал дешёвым. Том 3: Доверие. Как создавать основания для доверия, когда меняются доказательства, сделки и отношения

Датчик, который мы не выбирали

Чтобы понять, почему пятнадцать несуществующих гостей способны ранить настоящий ресторан, придётся признаться в одной слабости. У человека есть встроенный датчик правды: «так говорят многие». Психолог Роберт Чалдини полвека назад назвал его социальным доказательством83: мы считаем поведение правильным, когда видим, что так ведут себя другие.84 Датчик честно служил тысячи лет, потому что опирался на железную арифметику: один человек может врать, но сорок незнакомых людей не могут врать одинаково — им слишком трудно сговориться. Каждый голос толпы был слабым сигналом, зато независимым от остальных. Складываясь, слабые сигналы давали сильный.

Подделывать этот датчик пробовали задолго до нейросетей. Ещё в 1985 году американский сенатор Ллойд Бентсен, получив гору «возмущённых писем избирателей», организованных страховым лобби, усмехнулся: техасец отличит настоящую траву от астротурфа — искусственного газона. Так родился термин «астротурфинг»85: искусственная «народная волна», изображающая стихийную.86 Но у астротурфинга прошлого века была честная себестоимость: каждое письмо кто-то печатал, каждый фальшивый отзыв кто-то сочинял. Толпа из ста человек требовала если не ста человек, то хотя бы заметных денег и времени. Датчик ошибался, но редко — подделка толпы была кустарным промыслом.

Генерация сделала с толпой то же, что раньше сделала с текстом, голосом и лицом: уронила цену единицы почти до нуля. Сто «разных людей» с разными именами, манерами и историями болезней пишутся за вечер. Им можно сгенерировать лица и биографии. Стаж на площадке — старые публикации, связи и следы чужих ответов — тоже можно имитировать, но уже не одним запросом: для этого нужны время, контроль над аккаунтами и согласованная история. Арифметика датчика умерла тихо: сорок незнакомцев по-прежнему не могут врать одинаково — но теперь никто не обещает, что их сорок. Может быть, их ноль.

Толпу больше не нужно собирать. Её можно заказать.

Ломают по прейскуранту, чинят по счётчику

Вернёмся к субботнему вечеру Алпаны Сингх — в нём спрятана вся экономика новой репутации.

Сингх вымогателю не заплатила. Вместо этого она четыре часа собирала доказательства, жаловалась платформе и рассказала историю публично. Google снял фейковые отзывы в течение суток и заблокировал аккаунты — редкая для таких атак скорость; аптеке Danny’s ждать пришлось пару дней, ресторану SHŌ — почти неделю. Казалось бы, победа: подделку стёрли, справедливость восстановлена.

А теперь арифметика после победы. Пока шла атака, постоянные гости Alpana, узнав о беде, написали 65 настоящих пятизвёздочных отзывов. Рейтинг не сдвинулся. Сингх посчитала: чтобы вернуть утраченные десятые доли, ресторану нужно порядка ста шестидесяти безупречных оценок. Пятнадцать подделок обрушили то, что теперь должны чинить сто шестьдесят настоящих людей. Разрушение репутации продаётся по прейскуранту — доллары за пакет отзывов. Восстановление устроено иначе: оно требует месяцев хорошей работы и десятков реальных клиентских оценок.

Эта асимметрия не сбой конкретного алгоритма — это свойство самого доверия: копить его приходится медленно, потому что каждый настоящий сигнал стоит кому-то усилий, а терять можно быстро, потому что подозрение усилий не требует. Хозяйка строительной компании из Лос-Анджелеса Наталия Пайпер сформулировала это без всякой теории. Летом ей написали с пакистанского номера: «Мне заказали негативные отзывы на ваш бизнес. Заказ — двадцать штук». Её безупречные 5,0 на Google рухнули до 3,6 — вместе с потоком клиентов. Пайпер сделала то, что делать нельзя, и её можно понять: заплатила. Сто пятьдесят долларов одному «подрядчику», потом сто другому. Платёж не гарантирует остановки. Он может показать злоумышленнику, что перед ним жертва, готовая платить, и тем самым повысить вероятность повторного требования. В случае Пайпер именно это и произошло: через несколько недель после двух платежей на странице появились десять свежих однозвёздочных отзывов. Пайпер перестала платить, дождалась удаления через жалобы и подвела итог одной фразой, которую стоило бы печатать на каждом рейтинге: «Я восемь лет зарабатывала репутацию на этом рынке — а один человек может разрушить её за день».

Есть в этой истории и деталь, от которой не знаешь, смеяться или нет. В первую большую волну отзывного рэкета, ещё в 2022-м, вымогатели просили у американских ресторанов всего 75 долларов подарочной картой — и писали жертвам вежливые письма с извинениями: простите, нам нужно кормить семью, вашего платежа хватит на три недели.87 Было ли это признанием или частью сценария давления, неизвестно. Но экономика видна и без биографии отправителя: небольшой платёж с одной жертвы может быть рациональным только при массовом потоке атак. И мы видим, что по ту сторону атаки сидит не голливудский злодей, а исполнитель на аутсорсе, для которого чужая репутация — сдельная подработка. Это, пожалуй, самая точная иллюстрация новой цены толпы: разрушить дело, которое строили восемь лет, стоит дешевле, чем месячная аренда ресторана.

У толпы есть оптовый склад

Если единичная атака стоит семьдесят пять долларов, где-то должен существовать и опт. Он существует, и масштабы у него промышленные.

Летом 2022 года Amazon подала в суд на администраторов более чем десяти тысяч групп в соцсетях, где торговали отзывами: продавец платит деньгами или товаром — участник группы публикует «честный восторг». Одна такая группа, скромно называвшаяся «Amazon Product Review», насчитывала 43 тысячи участников; чтобы прятаться от модераторов, торговцы намеренно искажали слова звёздочками: «отзв» и «возврт». Через год компания отчиталась ещё о полутора сотнях исков к торговцам отзывами в США, Китае и Европе.88 Tripadvisor в отчёте о прозрачности признал фейковыми 4,4 процента всех присланных за год отзывов — больше миллиона трёхсот тысяч штук, — а среди источников назвал профессиональные «конторы платных отзывов», половина которых работала из шести стран.89 Google за один только 2023 год удалил больше 170 миллионов поддельных отзывов и 12 миллионов фальшивых профилей компаний.90 Последняя цифра заслуживает отдельной паузы: двенадцать миллионов несуществующих бизнесов — с адресами, фотографиями и графиком работы — целая теневая экономика, нарисованная поверх карты.

Россия в этом рынке не наблюдатель: судя по открытым прайсам отечественных бирж накруток, один заказной отзыв стоит от полутора сотен рублей, а при оптовом заказе — дешевле чашки кофе.91

Государства начали отвечать. С октября 2024 года в США действует правило Федеральной торговой комиссии, прямо запрещающее фейковые отзывы — включая сгенерированные ИИ, — покупку отзывов и отзывы сотрудников без раскрытия; за осознанное нарушение грозит штраф до 51 744 долларов за каждый случай.92 Подделка сигналов впервые получила официальный ценник наказания. Это хорошая новость. Плохая состоит в том, что закон и платформенный антифрод разбираются с подделкой постфактум — а решение о том, куда пойти ужинать и с кем подписать договор, вы принимаете сегодня вечером, глядя на рейтинг, который прямо сейчас может не отражать реальность.

Толпа научилась разговаривать

Пока мы обсуждали отзывы, у синтетической толпы появилась новая возможность. Отзыв — толпа молчащая: написала и замолчала. Новая толпа умеет отвечать на вопросы.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

Kenneth J. Arrow, «Gifts and Exchanges», Philosophy & Public Affairs, 1 (4), 1972, с. 343—362; цитата — с. 357.

2

ABC News и CBS News, 2 октября 2023 года: Том Хэнкс заявил, что не участвовал в рекламе, использовавшей ИИ-версию его образа.

3

Дивиденд лжеца — возможность подделок помогает отрицать и настоящую запись. Подробнее — «Словарь Тома 3».

4

Чесни и Ситрон, California Law Review (2019): liar’s dividend («дивиденд лжеца») — возможность подделки помогает отрицать и подлинные записи.

5

Полномочия — право действовать, подписывать или решать от имени человека, компании или системы; их проверяют отдельно от личности. Подробнее — «Словарь Тома 3».

6

Происхождение контента — история файла или сообщения: откуда оно пришло, кто его создал и какие следы это подтверждают. Подробнее — «Словарь Тома 3».

7

Подлинность — проверяемая связь источника сообщения, его происхождения и ответственности за действие; она не равна правдивости каждого слова. Подробнее — «Словарь Тома 3».

8

Капитал подлинности — авторская рамка Тома 3: проверяемый след, который человек или бизнес накапливает годами (история решений, реальные отношения, подписанный канал, принятая ответственность). Это актив; его отдача — премия за подлинность. Подробнее — «Словарь Тома 3».

9

О«Нил предлагает спрашивать не «как повысить доверие», а «какие основания позволяют судить о надёжности».

10

Премия за подлинность — отдача от уже накопленного капитала подлинности: более быстрое решение, меньшие издержки проверки или готовность выбрать вас при прочих равных. Подробнее — «Словарь Тома 3».

11

Финансовая разведка Минфина США (FinCEN) и ФБР рекомендуют подтверждать критичные платёжные запросы по независимому каналу.

12

Детектор оценивает свойства объекта, но не устанавливает автора: высокий или низкий балл сам по себе не доказывает, кто создал текст и как именно использовался ИИ. Подробнее — «Словарь Тома 3».

13

Национальный институт стандартов и технологий США (NIST), AI 100—4 (2024; обновление 2026): детектор — лишь один сигнал наряду с фиксацией происхождения, маркировкой, тестированием и аудитом.

14

Сэм Альтман, пост в X, 3 сентября 2025 года: «LLM-run accounts» — «аккаунты, которые ведут нейросети».

15

Не каждый ИИ-текст — slop: решающими признаками служат низкое качество и потоковое производство; само участие модели этого ярлыка не требует. Подробнее — «Словарь Тома 3».

16

Merriam-Webster закрепил новое цифровое значение старого слова slop. Это оценка качества и массовости контента, а не способ доказать его машинное происхождение.

17

Macquarie Dictionary и American Dialect Society выбрали AI slop («ИИ-слоп») / slop («слоп») словом 2025 года; речь о двух институциях, а не о «трёх словарях».

18

Грамота.ру включила «слоп/нейрослоп» в шорт-лист 2025 года; победил «зумер», а происхождение термина связали с Саймоном Уиллисоном.

19

Merriam-Webster назвал authentic («подлинный, настоящий») словом 2023 года, связав интерес к нему в том числе с ИИ, дипфейками и идентичностью.

20

Комиссия по защите потребителей Австралии (ACCC), Targeting Scams 2021, с. 22: два перевода прошли; третий банк остановил. Финансовая разведка США (FinCEN): новые реквизиты подтверждают по нескольким каналам.

21

От обычного slop workslop отличается адресатом издержек: даже аккуратный текст становится workslop, если получателю приходится восстанавливать отсутствующие решения, проверку и логику. Подробнее — «Словарь Тома 3».

22

Нидерхоффер и соавторы, Harvard Business Review (2025): workslop («рабочий слоп») выглядит работой, но переносит разбор и издержки на получателя; данные основаны на опросе.

23

Бот-трафик — автоматические запросы программ к сайтам и сервисам; он не равен доле контента, созданного ИИ. Подробнее — «Словарь Тома 3».

24

Imperva/Thales, 2025 Bad Bot Report («Отчёт о вредоносных ботах»): автоматизация составила 51% наблюдаемого трафика; это вендорский отчёт о ботах, не доля ИИ-контента.

25

Cloudflare, июнь 2026: автоматические обращения к веб-страницам впервые превысили человеческие — около 57%. Замер по сети одной компании, продающей защиту от ботов, и только по запросам к страницам.

26

Синтетическое происхождение само по себе не означает ложь или обман: важны раскрытие роли ИИ, человеческая проверка и тот, кто принимает ответственность. Подробнее — «Словарь Тома 3».

27

Автоматическое участие бывает открытым и полезным либо скрытым и вредным; отсутствие человека на каждом шаге ещё не означает подделку. Подробнее — «Словарь Тома 3».

28

Kapwing, AI Slop Report («Отчёт об ИИ-слопе», 2025): ручная выборка трендовых YouTube-каналов; просмотры, аудитория и доход взяты из внешних агрегаторов и остаются оценочными.

29

Модераторы r/changemyview, 2025: эксперимент Цюрихского университета был несанкционированным; заявленные результаты не прошли рецензирование.

30

The New York Times, 19 марта 2026 года: Hachette отменила выпуск «Shy Girl» из-за подозрений в использовании ИИ; автор возражала.

31

Три вопроса доверия — авторская рамка: откуда это взялось, кто говорит и чем отвечает, кто подтвердит со стороны. Подробнее — «Словарь Тома 3».

32

Цена ошибки — возможный ущерб от неверного решения; чем он выше, тем глубже должна быть проверка. Подробнее — «Словарь Тома 3».

33

«Проверено: человек» — отметка о человеческой проверке и принятой ответственности, а не обещание полностью ручного производства. Подробнее — «Словарь Тома 3».

34

Уоррен Баффетт, собрание Berkshire Hathaway 4 мая 2024 года: он назвал ИИ перспективной «индустрией мошенничества».

35

От обычной записи или статичного дипфейка поддельное присутствие отличается участием в действии: копия отвечает, просит, подтверждает или торопит от имени человека. Подробнее — «Словарь Тома 3».

36

Показания Дженнифер ДеСтефано Сенату США, 13 июня 2023 года: голос дочери проверили независимым звонком; применение ИИ в этом звонке технически не подтверждено.

37

«Коммерсантъ», июнь 2025 года: эксперты оценили нужный образец голоса примерно в 20 секунд; это оценка, а не техническая константа.

38

«Коммерсантъ», июнь 2025 года: мошенники записывали голос жертвы под видом социологического опроса; это оценка экспертов, не регулятора.

39

МВД России в изложении «Известий», 6 июля 2026 года: голос родственника можно синтезировать прямо во время звонка.

40

Полиция Фучжоу и китайские СМИ, май 2023 года: предприниматель перевёл 4,3 млн юаней после видеозвонка с подменой лица и голоса «друга».

41

Правительство Гонконга, 26 июня 2024 года: HK$200 млн перевели после заранее записанной дипфейк-конференции без живого диалога; Arup позднее подтвердила кейс.

42

Bloomberg и MIT Sloan Management Review, 2024: попытку имитации голоса CEO Ferrari остановил личный проверочный вопрос; потерь не было.

43

The Guardian, 10 мая 2024 года: атаку на WPP с поддельным аккаунтом CEO, клоном голоса и видео с YouTube удалось остановить.

44

Полиция Сингапура, апрель 2025 года: US$499 тыс. после дипфейк-звонка удалось заморозить и вернуть компании.

45

Банк России учитывает операции без добровольного согласия клиента. В 2025 году объём хищений вырос до 29,3 млрд рублей (+6,4%): показатель 2024 года — срез динамики, а не верхняя точка.

46

Социальная инженерия — обман, который заставляет человека самому раскрыть данные, перевести деньги или обойти защиту; атакуют решение человека, а не только систему.

47

Показатель означает долю похищенной суммы, а не четверть потерпевших или случаев. Данные Банка России за 2023 год приведены в пересказе «Ведомостей» февраля 2024 года.

48

Банк России, опрос за 2024 год: чаще страдали работающие горожанки со средним доходом и образованием; особенно уязвима экономически активная группа 25—64 лет.

49

Пикабу, декабрь 2024 года: рассказ от первого лица о переводе 75 тыс. рублей после звонка голосом, похожим на голос брата; банк отказал в возврате.

50

France 24 и NBC News, январь 2025 года: жительница Франции потеряла около €830 тыс. в мошеннической переписке с образом «Брэда Питта».

51

Финансовая разведка Минфина США (FinCEN), 13 ноября 2024 года: банки чаще сообщали о схемах с deepfake media («дипфейк-материалами»), обслуживающих обычное мошенничество с документами, счетами и займами.

52

Europol, «Facing Reality?» (2022): в ОАЭ перевод $35 млн связали со звонком, имитировавшим голос директора компании.

53

Центр приёма жалоб на интернет-преступления ФБР США (IC3), отчёт за 2025 год: маркер AI Related («связано с ИИ») отмечен в 22 364 жалобах с потерями около $893 млн; это не оценка доли ИИ во всём мошенничестве.

54

Кодовое слово — заранее выбранный семейный секрет для быстрой проверки срочного звонка или сообщения от близкого. Подробнее — «Словарь Тома 3».

55

Второй канал — независимый способ подтвердить дорогое действие: например, самостоятельно перезвонить по заранее известному номеру. Подробнее — «Словарь Тома 3».

56

Федеральная торговая комиссия США (FTC), финансовая разведка Минфина США (FinCEN) и МВД России сходятся в одном правиле: прервать подозрительный разговор и перезвонить по заранее известному номеру.

57

Питер Стайнер, подпись к карикатуре в The New Yorker, выпуск от 5 июля 1993 года.

58

Rolling Stone, 2025: длинное тире стали принимать за признак ChatGPT, и некоторые авторы начали избегать привычного знака.

59

Здесь выражение используется шире CAPTCHA: экзаменатором становится работодатель, вуз или платформа, а доказательством — не один ответ, а след процесса и решений. Подробнее — «Словарь Тома 3».

60

Метаанализ объединяет результаты многих опубликованных работ. Точность 55,5% в целом и 52% для текстов показывает: по внешнему виду человек не может точно определить, создан материал ИИ или человеком. Универсального теста «на ИИ» нет: вывод зависит от модели, материала и условий проверки.

61

Diel et al., 2024: метаанализ 56 исследований оценил среднюю точность распознавания синтетики людьми в 55,5%.

62

Porter и Machery, Scientific Reports (2024): неэксперты различали стихи ИИ и людей с точностью 46,6% и чаще принимали машинные стихи за человеческие.

63

Jones и Bergen, PNAS, 2026: в пятиминутных диалогах GPT-4.5 с ролевой инструкцией принимали за человека в 73% случаев; без неё — в 36% раундов.

64

Детектор синтетического контента ищет признаки генерации или изменения; его результат — один сигнал для проверки, а не окончательный приговор. Подробнее — «Словарь Тома 3».

65

Здесь и далее «процент детектора» — числовой вероятностный ответ модели. Интерфейс может показать его как долю, вероятность или уверенность, но это не установленная доля ИИ-текста и не доказательство авторства. Это сигнал для разбора, не единственное основание решения.

66

OpenAI закрыла AI Text Classifier в июле 2023 года из-за низкой точности: он находил 26% ИИ-текстов и давал 9% ложных срабатываний.

67

OpenAI, FAQ для педагогов: надёжность детекторов ИИ-текста не доказана, а ChatGPT не может установить, писал ли он конкретный текст.

68

Liang et al., Patterns (2023): семь детекторов ошибочно назвали ИИ-текстом в среднем 61,3% эссе неносителей английского.

69

Fast Company и EdSurge, 2024: студентку Марли Стивенс наказали после срабатывания Turnitin на эссе, обработанном Grammarly; позже ей компенсировали $4000.

70

Rolling Stone и Washington Post, май 2023 года: преподаватель использовал ChatGPT как детектор; историю версий приняли как доказательство авторства студентов.

71

The Bookseller и другие издания, 2026: рассказ Джамира Назира проверяли Claude и Pangram, но после пересмотра автор сохранил победу в Commonwealth Short Story Prize.

72

«Коммерсантъ», 28 апреля 2026 года: «Антиплагиат» давал высокие оценки ИИ-текста для самостоятельных дипломов; заявленная точность — оценка вендора.

73

«Коммерсантъ», 8 июня 2026 года: суд восстановил студентку, указав на вероятностный характер отчёта «Антиплагиата» и необходимость экспертного решения.

74

Для дивиденда лжеца не требуется изготовить подделку: достаточно правдоподобно сослаться на существование технологии и перенести спор с поступка на запись. Подробнее — «Словарь Тома 3».

75

Chesney и Citron (2019); Schiff et al. (2024): заявления «это фейк» могут снижать ответственность за подлинный компромат.

76

Reason и версии отчёта Europol: прогноз о «90% ИИ-контента к 2026 году» восходит к вендору Synthesia и не подтверждён измерениями.

77

RAW-файл — исходный файл с камеры с минимальной обработкой; он хранит больше данных съёмки, чем готовый JPEG, и помогает подтвердить происхождение фотографии.

78

Джонатан Свифт, The Examiner, 9 ноября 1710 года: «ложь летит, а правда ковыляет следом». Популярная версия про ботинки — апокриф.