ИИ без страха. Что спросить, как проверить, чему не верить

Я попробую третий способ. Без единого термина из машинного обучения и без вранья.

Она не ищет ответ. Она его дописывает

Начнём с того, чего не происходит. Внутри нейросети нет базы знаний, куда она заглядывает. Нет справочника, нет таблицы фактов, нет поиска по интернету — если поиск не подключён отдельной функцией. Когда вы отправляете вопрос, она не находит готовый ответ. Она его составляет.

Составляет по одному принципу: какое слово вероятнее всего идёт следующим.

Яндекс Практикум в июле 2026 года сформулировал это точнее всех, что я встречал на русском: модели не проверяют факты так, как это делает человек, а прогнозируют наиболее вероятное продолжение текста. Всё. Это полное описание механизма.

Вы пишете «столица Франции — », и модель продолжает «Париж», потому что в текстах, на которых её учили, после этих слов почти всегда шёл Париж. Вы пишете «напиши письмо в управляющую компанию», и она пишет самое вероятное письмо в управляющую компанию: с обращением «уважаемые», с просьбой рассмотреть обращение, без вашей текущей протечки.

Она не знает, что Париж — столица. Она знает, что здесь идёт слово «Париж». Разница выглядит философской ровно до того момента, когда модель с той же уверенностью допишет несуществующий номер закона.

Т9 на стероидах и почему эта метафора хромает

Есть метафора, которая для человека тридцати пяти — шестидесяти лет работает лучше любой другой. В марте 2023 года Павел Комаровский и Игорь Котенков выпустили разбор «Эволюция нейросетей от Т9 до ChatGPT» — до сих пор, на мой взгляд, лучший русскоязычный текст на эту тему. Их формулировка: это Т9 из вашего телефона, только на стероидах.

Т9 вы помните. Кнопочный телефон, вы набираете начало слова, он предлагает продолжение. Иногда угадывает, иногда подставляет глупость, и вы отправляете сообщение с чужим словом. Никакого понимания там не было — была статистика: какие слова чаще встречаются вместе.

Языковая модель делает то же самое, только предсказывает не следующее слово в слове, а следующий кусочек в тексте любой длины: в письме, в статье, в ответе на ваш вопрос. И статистику она собрала не с вашего телефона, а с такого объёма текста, который человек не прочитает за десять жизней.

Метафора хорошая. Но у неё есть слабое место, и я обязан его назвать сразу, иначе она вас обманет.

Т9 предсказывал плохо, и вы это видели. Модель предсказывает так хорошо, что результат перестаёт быть похож на угадывание. Она пишет связный текст, держит стиль, ловит иронию, разбирает вашу таблицу, объясняет теорему. Из «это просто угадывание следующего слова» очень легко сделать вывод «значит, это ерунда», и вывод будет неверным.

Правильный вывод другой: это угадывание, которое доведено до такого качества, что часто неотличимо от знания. Часто — но не всегда. И вся практическая часть этой книги про то, как отличать.

Насмотренность вместо правил

Второе слово, которое стоит забрать в свой словарь, — насмотренность. Оно из речи дизайнеров и фотографов: человек посмотрел десять тысяч хороших обложек и теперь чувствует, что здесь шрифт не тот, хотя правила назвать не может.

Модель учится так же. Её не программировали правилами русского языка. Ей не объясняли, что такое падеж и почему после «согласно» идёт дательный. Она увидела столько текста, что научилась воспроизводить его закономерности сама. Яндекс Практикум описывает это тем же словом: нейросеть учится путём насмотренности, собирая массивы информации и выявляя закономерности.

Отсюда две вещи, которые дальше объяснят половину странностей.

Первая: у модели нет источника. Она не помнит, откуда узнала, что аспирин разжижает кровь. Знание размазано по её устройству так же, как у вас размазано умение говорить по-русски: вы не помните, из какой книги взяли слово «навзничь».

Вторая: если чего-то в текстах было мало, модель это воспроизведёт плохо — но всё равно уверенно. Редкая фамилия, местный закон, тарифы вашей управляющей компании, свежая новость. Она не скажет «мало данных». Она допишет самое вероятное. Правдоподобное, а не правдивое.

Есть ещё третья метафора, расхожая: нейросеть похожа на мозг, она учится на своих ошибках. Словарь терминов, который в марте 2026 года опубликовал MTS Media, описывает её примерно так — миллионы виртуальных нейронов передают друг другу сигналы. Технически придраться не к чему, но для читателя это опасная метафора: она незаметно подсказывает, что машина понимает. Понимания там нет. Есть очень хорошая статистика.

Три слова и две даты, которые снимают половину путаницы

Теперь короткий, но важный кусок про слова. Без него вы будете спотыкаться в каждой второй новости.

Нейросеть — это способ устройства программы. Не только языковой: нейросети распознают лица, ставят диагнозы по снимкам, предсказывают погоду. В обиходе слово захватило всё: «нейронка», «нейросеть написала», «спрошу у нейросети». В опросах ВЦИОМ так и пишут — «нейросети в нашей жизни». Это слово вашего собеседника, и я буду им пользоваться.

Модель — конкретный экземпляр, обученный и выпущенный: GPT-5, Gemini 3, GigaChat, YandexGPT. У модели есть версия и дата выпуска, как у прошивки. Модель — то, что думает.

Сервис — то, куда вы заходите: приложение, сайт, окно в мессенджере. ChatGPT, Алиса AI, ГигаЧат. Сервис — то, где вы разговариваете.

Путаница между вторым и третьим стоит людям нервов. Человек читает новость «вышла новая модель», идёт в своё приложение и не видит разницы — потому что сервис ещё не переключили. Или наоборот: сервис обновили, а человек уверен, что говорит с той же программой, что месяц назад, и не понимает, почему ответы изменились.

Практический вывод простой. Когда вам говорят «ИИ теперь умеет генерировать видео» — спрашивайте, какой именно сервис и в каком тарифе. Умение принадлежит не «искусственному интеллекту вообще», а конкретному продукту в конкретном месяце.

Она думает не словами, а кусочками

Ещё одно слово, без которого не обойтись, потому что вы встретите его в тарифах: токен.

Модель работает не со словами и не с буквами, а с кусочками текста. Короткое частое слово — один кусочек. Длинное или редкое разваливается на два-три. Для русского языка грубая прикидка такая: один токен — примерно три четверти слова, а страница обычного текста — это порядка семисот-восьмисот токенов.

Зачем вам это знать? Затем, что в токенах измеряется всё, за что берут деньги, и всё, что ограничивают. Сбер, например, даёт физическим лицам бесплатный годовой объём в токенах — на сентябрь 2026 это триста шестьдесят пять миллионов на все модели GigaChat вместе. Цифра выглядит астрономической, и по бытовым меркам она такая и есть: обычный человек за год не выберет и малой доли.

В токенах же измеряется и объём разговора, который модель удерживает. У неё нет памяти в человеческом смысле — есть окно, в которое влезает переписка. Всё, что не влезло, для неё перестаёт существовать. Отсюда знакомая многим история: на двадцатом сообщении модель забывает, о чём вы договаривались на третьем. Это не сбой и не «она устала». Это край окна.

Практический вывод один и простой: длинный разговор о разном — плохая идея. Новая задача — новый чат.

Почему она заговорила по-русски именно сейчас

Короткая справка, чтобы вы понимали, почему всё случилось так быстро.

Публичный запуск ChatGPT — тридцатое ноября 2022 года. До этого языковые модели существовали лет пять, но жили внутри исследовательских лабораторий и разговаривать с ними мог не всякий программист. Изменилось не устройство, а дверь: модель посадили в окно чата, и оказалось, что этого достаточно.

Русскоязычные сервисы появились через полгода. Двадцать четвёртого апреля 2023 года Сбер представил GigaChat. Семнадцатого мая того же года Яндекс встроил YandexGPT в Алису — и, к чести компании, сразу предупредил, что Алиса может ошибаться в фактах. Предупреждение это тогда почти никто не заметил, а зря: в нём вся суть дела.

С тех пор поколения моделей сменялись примерно раз в год, и каждое следующее делало то, что предыдущее не умело: разбирать картинки, слушать голос, работать с файлами, искать в интернете. Я вернусь к этой хронологии в последней главе, когда буду объяснять, как не отстать. Пока достаточно одного: механизм всё это время оставался тем же самым. Модель по-прежнему достраивает текст по вероятностям. Она просто делает это точнее.

Почему один и тот же вопрос даёт разные ответы

Это первое, что сбивает с толку новичка, и объясняется тем же механизмом.

Модель предсказывает не одно слово, а вероятности для многих слов сразу. Дальше она выбирает — и выбирает не всегда самое вероятное, иначе тексты выходили бы деревянными и одинаковыми. Есть настройка случайности; в сервисах для обычных людей её обычно не показывают, но она работает всегда.

Отсюда следствие, которое пригодится вам при проверке. Если вы зададите один и тот же фактический вопрос трижды в разных чатах и получите три разных ответа — это сигнал. Не доказательство ошибки, но сигнал: модель здесь не уверена, она достраивает. Если три раза придёт одно и то же — уверенность выше. Не гарантия, но выше. Этим приёмом, кстати, пользуются и сами разработчики: Anthropic в своей документации по снижению выдумок прямо советует прогнать запрос несколько раз и сравнить ответы.

Второе следствие бытовое: не пугайтесь, если ответ у вас и у коллеги не совпал дословно. Это не значит, что кому-то из вас досталась «плохая версия».

Что из этого следует практически

Соберу механику в четыре следствия, которые пригодятся вам уже завтра.

Следствие первое: она не проверяет, она вспоминает похожее. Значит, вопрос «а это точно так?» бессмыслен по устройству — модель не может сходить и посмотреть, если ей не дали поиск. Полезнее спрашивать не о правильности, а об основании: откуда это, на чём держится, есть ли источник.

Следствие второе: чем чаще тема встречалась в текстах, тем надёжнее ответ. Из этого выводится карта доверия, которой я пользуюсь ежедневно. Общеизвестное — надёжно. Профессиональное, но распространённое — обычно надёжно. Редкое, местное, свежее, ваше личное — ненадёжно всегда. Именно поэтому она прекрасно объяснит, как работает страхование ответственности, и соврёт про тариф вашей страховой компании.

Следствие третье: форма даётся ей легче содержания. Модель безупречно воспроизводит структуру делового письма, вид ссылки, стиль искового заявления, интонацию отзыва. Наполнение при этом может быть выдуманным. Отсюда обманчивое впечатление компетентности: мы оцениваем текст по форме, а форма у неё всегда отличная.

Следствие четвёртое: качество ответа зависит от количества полезного, что вы дали. Не от вежливости, не от волшебных слов, не от тарифа. От того, сколько определённости вы положили в вопрос. Об этом вся вторая часть книги, и это самый управляемый параметр из всех.

Есть и пятое следствие, о котором говорят реже. Раз модель воспроизводит закономерности текстов, она воспроизводит и их перекосы. Если в текстах какая-то точка зрения встречалась чаще, она будет чаще звучать и в ответах — не потому, что она вернее, а потому, что её было больше. На бытовых вопросах это незаметно, на спорных — вполне. Хороший способ это увидеть: задать один и тот же спорный вопрос с противоположных позиций и сравнить два ответа.

Ирина из первой главы, когда я объяснил ей механизм на примере Т9, сказала фразу, которую я потом повторял многим: «То есть она мне не отвечает, а сочиняет самое подходящее». Да. И качество сочинения зависит от того, сколько подходящего вы ей дали.

Попробуйте сегодня одно упражнение на пять минут. Задайте любому доступному вам чату вопрос, ответ на который вы точно знаете: про свой город, свою профессию, свой дом. Потом задайте тот же вопрос ещё раз в новом чате. Сравните два ответа между собой и с тем, что знаете вы. Вы за пять минут увидите и силу инструмента, и его слабое место — раньше, чем я успею про них рассказать.

А в следующей главе разберём, почему это слабое место не чинится и почему модель врёт не по ошибке, а по устройству.

Глава 3. Почему она врёт и почему это не поломка

Семьдесят пять процентов.

Это доля неверных утверждений, которые выдала одна из моделей OpenAI на наборе фактических вопросов под названием SimpleQA. Цифру опубликовала сама OpenAI в сентябре 2025 года в работе с прямым заголовком: «Почему языковые модели галлюцинируют». Компания, которая продаёт эти модели, честно написала, что её модель на этом наборе вопросов ошибается в трёх ответах из четырёх.

И в той же таблице стоит вторая цифра, ради которой всё и затевалось. Другая модель того же семейства ошибается в двадцати шести процентах случаев. Не потому, что она в три раза умнее. Потому что она в половине случаев отказывается отвечать.

Разберём эту пару чисел медленно. В ней объяснение всего, за что нейросети ругают.

Модель, которая молчит, проигрывает модели, которая врёт

Вот полная картина из той работы. Модель o4-mini: воздерживается от ответа в одном проценте случаев, отвечает правильно в двадцати четырёх, ошибается в семидесяти пяти. Модель GPT-5-thinking-mini: воздерживается в пятидесяти двух процентах, отвечает правильно в двадцати двух, ошибается в двадцати шести.

Правильных ответов почти поровну — двадцать четыре против двадцати двух. А неверных втрое меньше у той, которая умеет промолчать.

Теперь главное. Почему первая не молчит?

Объяснение, которое даёт OpenAI, я считаю самым полезным фактом во всей этой книге. Модели оценивают по доле правильных ответов. Не по доле честных. Если модель на экзамене из ста вопросов знает шестьдесят и на сорок отвечает «не знаю», она получает шестьдесят баллов. Если она знает те же шестьдесят, а на сорок пишет правдоподобное угадывание, часть угадываний попадёт — и балл будет выше.

Вы делали то же самое в школе. На тесте с четырьмя вариантами вы не оставляли пустое поле, а ставили галочку наугад, потому что за пустое поле точно ноль, а за галочку есть шанс. Модель обучали ровно этой логике, тысячами прогонов, всё время её создания.

Отсюда вывод, который переворачивает отношение к инструменту: выдумка — не сбой модели, а её натренированное поведение. Она не сломалась, когда сочинила несуществующий закон. Она сделала то, за что её всю жизнь хвалили: не оставила поле пустым.

Слово «галлюцинация» вам мешает

Термин прижился, и я буду им пользоваться, потому что вы встретите его везде. Но он неудачный, и вот чем.

Галлюцинация у человека — состояние необычное, болезненное, отличимое от нормы. Слово подсказывает, что модель обычно работает правильно, а иногда сбоит. На самом деле механизм один и тот же всегда: она достраивает вероятное продолжение. Когда данных было много, вероятное продолжение совпадает с правдой. Когда мало — не совпадает. Изнутри процесса разницы нет никакой.

Точнее звучит формулировка, которую я слышал в обсуждениях на профессиональных площадках: она уверенно врёт. Не «иногда сбоит», а именно так — с ровной интонацией, без единого признака сомнения. В комментариях к разбору проверок моделей в январе 2026 года это сформулировали жёстче: машина ошибается с полной уверенностью в голосе, и это опаснее человеческого вранья. Человек, который не знает, обычно мнётся. Модель — нет.

Где она врёт чаще всего

За три года у меня накопился список мест, где выдумка почти гарантирована. Это не исследование, а записи практика, и я так их и подаю.

Ссылки и адреса страниц. Самое частое. Модель прекрасно знает, как выглядит ссылка, и составляет правдоподобную: правильный домен, правдоподобный раздел, осмысленный набор слов в конце. Страницы по ней не существует. Проверяется за две секунды и потому обиднее всего.

Цитаты. Особенно цитаты известных людей. Модель знает стиль, знает темы, знает, что этот человек мог бы такое сказать, — и составляет фразу, которой никто не говорил.

Номера и даты в документах. Номер закона, пункт договора, номер судебного дела, дата вступления в силу. Форма правильная, содержание выдумано. Это место, где люди теряют деньги: российский суд уже штрафовал за жалобу со ссылками на несуществующие судебные акты.

Фамилии и должности. Кто автор исследования, кто возглавляет ведомство, кто написал книгу. Модель соединяет правдоподобных людей с правдоподобными делами.

Ваша местная конкретика. Тарифы вашей управляющей компании, расписание вашей поликлиники, условия вашего банка. Этого в её текстах не было никогда, но признаться она не умеет.

Общий признак у всех пяти пунктов один: это факты, у которых есть строгая форма и мало упоминаний. Форму модель воспроизводит блестяще. Содержание берёт из воздуха.

И зеркальное наблюдение, полезное практически: там, где тема обсуждалась миллион раз, выдумок почти нет. Как варить гречку, чем отличается ОСАГО от каско, что делать при ожоге первой степени — здесь модель надёжна, как приличный справочник. Опасность не размазана ровным слоем. Она сидит в редком.

Лишняя фраза, которая ломает решение

Есть исследование, которое я люблю за наглядность. В октябре 2024 года исследовательское подразделение Apple опубликовало работу с набором задач GSM-Symbolic. Брали простые школьные задачи по математике и добавляли в условие одну фразу — осмысленную, но никак не влияющую на решение. Что-то вроде: «пять киви были мельче обычных».

Точность моделей падала — иногда до шестидесяти пяти процентов от исходной.

Человек эту фразу пропускает: он понимает, что размер киви не влияет на их количество. Модель не понимает, она сопоставляет с образцом. Появилось лишнее число или лишнее уточнение — образец поплыл.

Здесь я обязан сделать оговорку, которую в популярных пересказах не делают. В 2026 году этот же набор задач прогнали на новых моделях, и результаты вышли заметно лучше. Значит, точная формулировка не «нейросети не умеют думать», а другая: устойчивость их рассуждения ниже, чем кажется по гладкости ответа, и она растёт от поколения к поколению. Тот, кто цитирует работу Apple как доказательство глупости моделей, цитирует позапрошлый год.

Практический вывод для вас прямой: чем чище условие, тем надёжнее ответ. Лишние подробности в запросе не украшают его, а сбивают.

Что меряют эти проценты и чего они не меряют

Теперь заступлюсь за инструмент, иначе картина выйдет однобокой.

Цифра «ошибается в семидесяти пяти процентах» звучит как приговор, но она не про вашу жизнь. SimpleQA — специально составленный набор коротких вопросов, подобранных так, чтобы модели на них спотыкались. Это тест на прочность, а не замер бытовой точности. Если бы модель врала в трёх ответах из четырёх на обычных вопросах, ею не пользовались бы семьдесят восемь процентов российских интернет-пользователей.

Так устроены все подобные измерения. Они отвечают на вопрос «где инструмент ломается», а не «как он работает в среднем». Когда вы в новостях увидите очередной процент, первым делом спрашивайте: на каких вопросах меряли.

Отдельно скажу про то, чего эти проценты не измеряют вовсе, — про интонацию. Ни один известный мне бенчмарк не оценивает, насколько уверенно звучит неверный ответ. А это как раз то, что вредит больше всего: в измеренных экспериментах ответы, сделанные с ИИ за пределами его возможностей, оказывались убедительнее правильных.

Есть, кстати, и хорошая новость в том же исследовании OpenAI. Раз модель молчит чаще, когда ей это разрешают, значит, разрешение работает. Прямая просьба «если не уверен — скажи, что не знаешь» действительно повышает долю честных отказов. Anthropic в своей документации ставит этот приём на первое место среди способов уменьшить выдумки. Это не волшебное заклинание и не гарантия, но одна фраза, которая заметно меняет поведение, стоит того, чтобы её запомнить.

Почему подключённый поиск помогает не до конца

Резонное возражение: если модель не знает свежего и врёт в редком, пусть посмотрит в интернете. Многие сервисы это умеют — Алиса, ГигаЧат, поисковые ответы Яндекса и Google.

Помогает, и заметно. В обсуждениях за 2026 год встречается ровно эта формулировка: с включённым поиском ответы надёжнее, без него — выдумки. Логика понятна: модель не достраивает по памяти, а берёт кусок реального текста и пересказывает.

Но проблема не исчезает, а меняет вид. Появляются две новые.

Первая: поиск нашёл не то. Модель добросовестно пересказала страницу, которая сама содержит ошибку или устарела на два года. У неё нет способа оценить, хороший ли это источник, — она видит текст, а не репутацию.

Вторая, более коварная: ссылка настоящая, а пересказ вольный. Модель ставит рядом с абзацем адрес реальной страницы, и человек расслабляется — ссылка же есть, значит, проверено. А в абзаце сказано не совсем то, что на странице. Или то, но с чужой цифрой.

Отсюда правило, которое я вывел для себя и которым пользуюсь до сих пор: наличие ссылки в ответе не означает, что ответ ей соответствует. Ссылка — это приглашение проверить, а не отчёт о проверке. Открывать её занимает секунды, и дальше в книге будет короткая процедура, которая укладывается в две минуты.

Что с этим делать: короткий ответ

Полный ответ — вся третья часть книги, шесть глав. Здесь дам рабочий минимум, чтобы вы могли пользоваться инструментом уже завтра.

Первое. Разделите свои вопросы на два вида. Вопросы на понимание — объясни, перескажи, помоги сформулировать, придумай варианты, разбери мой текст. Здесь выдумка почти не страшна: вы сами видите, годится ответ или нет. И вопросы на факт — сколько, когда, кто, какой номер, где написано. Вот здесь начинается работа.

Второе. Всё, что вы собираетесь передать дальше — начальнику, клиенту, врачу, в документ, — проверяется независимо от того, насколько уверенно оно звучит. Не потому что модель плохая, а потому что отвечать за это будете вы. Одному представителю компании пропущенная проверка стоила пятидесяти тысяч рублей штрафа.

Третье. Разрешайте ей не знать. Одна строка в конце запроса: «если данных нет, так и напиши, не придумывай». Это не гарантия, но измеренная разница между моделью, которая молчит, и моделью, которая всегда отвечает, — в три раза по числу ошибок.

Ирина, когда я объяснил ей всё это, спросила ровно то, что спрашивают все: «Тогда зачем оно нужно, если врёт?» Ответ такой же, как про любой инструмент с известной погрешностью. Микроволновка не готовит стейк. Это не делает её бесполезной — это делает её микроволновкой. Проблема начинается там, где человек ждёт от неё стейка и обижается.

Как выглядит выдумка вблизи

Полезно один раз рассмотреть её в упор, чтобы дальше узнавать без объяснений.

Возьмём типичный случай: вы спрашиваете про порядок оформления какой-нибудь бытовой процедуры — возврата товара, оформления пособия, подачи показаний. Ответ приходит стройный: сначала то, потом это, срок такой-то, основание — приказ такой-то от такого-то числа.

Первые две трети ответа, скорее всего, верны. Процедура описана правильно, потому что про неё написаны тысячи статей. А вот номер приказа и дата — самое слабое место, потому что в текстах они встречались редко и в разных вариантах.

Заметьте, что выдумка не выглядит как выдумка. Она не написана другим шрифтом и не сопровождается оговоркой. Она стоит в том же ровном ряду, что и правда, и берёт достоверность взаймы у соседей по предложению.

Это и есть главная механика обмана — не злого умысла, а именно обмана восприятия. Верное соседство делает неверное правдоподобным. Человек читает: «сначала подаёте заявление, потом ждёте десять дней, основание — приказ номер такой-то». Первые две части он может проверить своим опытом и убеждается, что всё так. Третью проверить не может — и по инерции доверяет.