
Полная версия
Нейросети: учиться, работать, зарабатывать. Практическое руководство по ИИ
Именно внимание позволяет модели писать связные длинные тексты и помнить, о чём вы говорили десять сообщений назад (в пределах контекста — о нём ниже). Трансформер с вниманием стал фундаментом почти всех современных языковых моделей: и ChatGPT, и Claude, и GigaChat — все они внутри трансформеры.
Параметры: ручки настройки, которых 175 миллиардов
Когда говорят «большая модель», имеют в виду число параметров. Что это такое?
Вернёмся к матрёшке из главы 1: нейросеть — это множество простых «нейронов», соединённых связями, и у каждой связи есть сила — число. Во время предобучения модель подкручивает эти числа: угадала слово — усилила связи, которые помогли, ошиблась — ослабила. Параметр — это одно такое число. Вся «мудрость» модели, всё, что она выудила из библиотеки, хранится в этих числах.
Масштабы: у GPT-3, выпущенной в 2020 году, было 175 миллиардов параметров — тогда это казалось фантастикой. Сегодня флагманские модели оценивают в триллионах (точные цифры компании часто не раскрывают: OpenAI, например, не публикует размер GPT-4). Открытые модели тоже выросли: у DeepSeek V4 по открытым данным порядка 1,6 триллиона параметров, у Llama 4 Scout — 109 миллиардов.
Больше параметров — больше тонких различий модель способна запомнить. Но «больше» не значит «лучше во всём»: громоздкая модель медленнее и дороже, а грамотно обученная маленькая может обходить большую в конкретных задачах. Мы скоро увидим живой пример.
Открытые и закрытые модели: чужая кухня или своя
Все модели делятся на два лагеря.
Закрытые — ChatGPT, Claude, Gemini. Вы пользуетесь ими через сайт или приложение, а что у них внутри — коммерческая тайна. Это как ресторан: вкусно, удобно, но рецепт не отдадут, и данные ваши уходят на чужую кухню.
Открытые — Llama от Meta, DeepSeek, Qwen от Alibaba, Kimi, GLM и другие. Их внутренности — те самые миллиарды чисел-параметров — выложены в открытый доступ (обычно на площадке Hugging Face) под разными лицензиями. Любой может скачать модель и запустить на своём оборудовании. Это как рецепт с кухонным комбайном в придачу: готовь дома, меня под себя, никому ничего не отправляй.
Что это значит лично для вас:
• Закрытая модель — самый простой старт: ничего настраивать не надо, качество на переднем крае.
• Открытая — выбор тех, кому важны приватность (данные не покидают ваш компьютер или сервер компании), цена при больших объёмах и возможность доучить модель на своих материалах.
• Граница между лагерями подвижна: открытые модели последних лет по многим задачам наступают на пятки закрытым, а стоят в разы дешевле.
Мы вернёмся к практическому выбору в главе 6 — с российскими реалиями доступа и оплаты.
Промпт-инжиниринг: почему как спросишь, так и ответят
Раз модель — угадыватель продолжений, ваш запрос для неё не команда, а начало текста, который ей предстоит продолжить. Из этого факта вытекает весь промпт-инжиниринг.
Сравните два захода. Первый: «Напиши про кошек». Продолжение может быть любым — стихотворение, научная статья, объявление о пропаже. Второй: «Ты ветеринар с десятилетним стажем. Объясни владельцу, впервые взявшему котёнка, три правила кормления. Пиши просто, как говорила бы в клинике». Модель «встаёт» в контекст, где ветеринары терпеливо объясняют новичкам, — и продолжает в нём.
Формулировка влияет, потому что задаёт модели жанр, роль и рамку. Подробно этим займёмся в главе 3 — там будут и zero-shot, и few-shot, и цепочки рассуждений. Пока запомните одну мысль: плохой ответ чаще всего означает не «модель глупая», а «я дал ей начало не того текста».
Галлюцинации: неисправимая особенность, а не болезнь
В главе 1 вы уже поймали модель на выдумке про несуществующую книгу. Теперь вы знаете достаточно, чтобы понять, почему это не случайный сбой.
Модель не хранит базу фактов, к которой сверяется. Она хранит наборы вероятностей: какие слова обычно идут после каких. Когда вы спрашиваете о книге «Тихие маяки», в её памяти нет записи «такой книги нет». Зато есть тысячи текстов, где после слов «расскажи о книге» следует складный рассказ с сюжетом и героями. Модель продолжает в этом жанре — и сочиняет уверенно, красиво, с деталями. Галлюцинация — это не ложь и не поломка. Это та же самая механика, которая минуту назад сочинила вам отличное поздравление, — просто применённая к фактам.
Практические правила:
• Чем экзотичнее тема, тем ближе модель к выдумке. Про Пушкина она твёрда, про малоизвестный местный документ — нет.
• Точные цифры, даты, названия и ссылки — зона повышенного риска. Проверяйте по первоисточнику.
• Просьба «ответь только то, в чём уверен, и скажи, если не знаешь» снижает частоту выдумок, но не отменяет их. Иммунитета нет.
• Если нужны факты, а не слова, — подкладывайте модели документы и просите работать только с ними. Эту технику (RAG) разберём в главе 8.
Контекст: рабочий стол, а не архив
У модели есть память разговора, и она называется контекстным окном. Представьте рабочий стол. Пока документ лежит на столе — вы его видите и учитываете. Стол заполнился — что-то с краю сваливается на пол: модель «забыла» начало беседы.
Размер стола измеряется в токенах. У ранних моделей окно было крошечным — пара тысяч токенов, две-три страницы. У современных — сотни тысяч, а у отдельных, вроде Llama 4 Scout, заявлено до десяти миллионов токенов: на такой стол поместится целая библиотека.
Но две оговорки важнее цифр. Первая: большой стол не значит внимательный читатель. Чем дальше деталь от вашего вопроса, тем выше шанс, что модель её проглядит — это показывают и исследования, и практика. Важные вещи лучше держать ближе к вопросу и не захламлять стол лишним. Вторая: когда окно переполняется, модель обычно не предупреждает. Она молча «забывает» начало разговора и продолжает уверенно отвечать. Если в длинной беседе ИИ вдруг перестал помнить ваши вводные — скорее всего, вы уперлись в край стола. Рецепт: начать новый чат и перенести туда краткую сводку договорённостей.
Три этапа обучения: из попугая в ассистенты
Теперь соберём всё в цепочку. Как из «угадайки», прочитавшей интернет, получается вежливый помощник, который отвечает на вопросы и отказывается от вредных просьб? В три этапа.
1. Предобучение. Та самая библиотека и триллионы угадываний. Дорого, долго, на тысячах графических процессоров. Результат — «сырая» модель: начитанная, но невоспитанная. Спросите у неё «как заварить чай» — она может продолжить вопрос другим вопросом, как ветка форума.
2. Дообучение на инструкциях (SFT). Люди пишут образцы: вот вопрос — вот хороший ответ. Тысячи таких пар. Модель доучивается на них и осваивает новый жанр: «помощник отвечает на задание». Теперь она понимает, что от неё хотят ответ, а не продолжение опроса.
3. RLHF — обучение с подкреплением от людей. Модель выдаёт несколько вариантов ответа, люди-асессоры расставляют их от лучшего к худшему. На этих оценках модель подкручивает себя: отвечать полезно, честно, без грубости и опасных советов. Сила метода показана в знаменитой работе OpenAI 2022 года про InstructGPT: маленькая модель с 1,3 миллиарда параметров, прошедшая RLHF, понравилась оценщикам больше, чем гигантская GPT-3 со 175 миллиардами без неё. Воспитание оказалось важнее размера — хороший пример к разговору о параметрах выше.
Именно связка этих трёх этапов и превратила языковые модели из лабораторной диковинки в ChatGPT и всё, чем вы пользуетесь сегодня.
Попробовать
Четыре коротких опыта, минут на двадцать. Нужен любой чат с ИИ.
Шаг 1. Угадыватель в действии. Отправьте модели начало фразы без вопроса:
Ранним утром почтальон вышел из дома и
Посмотрите, что получилось. Потом то же самое, но с другим настроением:
Напиши мрачное продолжение: «Ранним утром почтальон вышел из дома и…»
Сравните: та же механика, другой заданный жанр — совсем другой текст. Вы только что управляли моделью одной формулировкой.
Шаг 2. Токены. Спросите:
Сколько букв «р» в слове «террариум»? Ответь сразу, одним числом.
А теперь попросите то же, но с рассуждением: «Назови буквы слова по одной, потом сосчитай „р"». Часто второй ответ точнее первого. Причина — в токенах и в том, что размышление вслух помогает модели не торопиться (в главе 3 это называется chain-of-thought).
Шаг 3. Граница контекста. Найдите любой длинный текст — договор, статью на десять страниц. Вставьте его в чат целиком, где-нибудь в середине подсадите фразу-маркер вроде «пароль от сейфа — тридцать два», а после текста спросите:
Чему равен пароль от сейфа в тексте выше?
Нашла? Теперь представьте, что вместо пароля — важный пункт договора. Этот опыт учит двум вещам: длинный контекст работает, но доверять ему без проверки нельзя, особенно середину.
Шаг 4. Охота на галлюцинацию. Спросите модель о чём-то заведомо несуществующем, но правдоподобном:
Какие основные тезисы в докладе «Цифровые привычки россиян-2027»,
выпущенном ВШЭ этой весной?
Получили уверенный пересказ? Вы знаете, что это жанр «пересказ доклада», а не доклад. Ответили «не знаю такого» — отлично, но не расслабляйтесь: в следующий раз жанр может победить.
Применить
Типичная ситуация из практики внедрения — собрана из похожих реальных случаев.
В небольшой компании — интернет-магазин запчастей, тридцать сотрудников — решили поставить ИИ на первую линию поддержки: отвечать клиентам про статус заказа и возвраты. Руководитель пришёл к подрядчику с готовым мнением: «Берите самую большую модель, какая есть. Чтобы наверняка».
Подрядчик вместо счёта задал три вопроса. Первый: «Куда уйдут данные клиентов?» Выяснилось, что в диалогах мелькают телефоны и адреса, и отправлять их на зарубежный сервер юристам не нравится. Второй: «Сколько диалогов в день?» Тысячи — на закрытой топовой модели это выливается в заметную сумму ежемесячно. Третий: «Откуда модель возьмёт правила возврата?» Они прописаны во внутреннем регламенте, которого нет ни в одной библиотеке предобучения.
Итоговое решение выглядело иначе, чем «самая большая». Базовые ответы — типовые вопросы, вежливые формулировки — поручили открытой модели среднего размера на собственном сервере компании: данные не уходят наружу, цена за диалог копеечная. Регламент возвратов не «доучивали» в модель, а подкладывали ей в контекст нужные выдержки (та самая идея RAG из главы 8). А вот нестандартные, жалобные, юридически чувствительные случаи уходили на дорогую закрытую модель — там, где цена ошибки высока, а объёмы малы.
Запустились. Через месяц выяснилось, что девять из десяти обращений закрывает «маленькая» связка, а расходы оказались в разы ниже первоначальной сметы.
Что здесь пригодилось из этой главы: размер модели — не единственный критерий, «воспитание» и грамотная постановка решают больше, чем триллионы параметров; открытые и закрытые модели — не соперники, а инструменты под разные задачи; модель ничего не знает про ваши документы, пока вы их ей не подали; и цена вопроса считается в токенах.
Мини-проект главы
Сделайте «рентген» модели, которой пользуетесь чаще всего. Займёт полчаса, зато вы будете знать свой инструмент, а не гадать.
Ответьте письменно на пять вопросов:
Какая это модель — закрытая или открытая? Кто её разработчик?
Каково у неё контекстное окно? (Найдите в описании сервиса или спросите у самой модели — и перепроверьте ответ поиском, вы теперь знаете почему.)
Проведите тест на галлюцинацию из «Попробовать» с вашей моделью. Споткнулась или честно призналась?
Задайте один и тот же рабочий вопрос дважды: сначала в двух словах, потом — с ролью, контекстом и форматом ответа. Опишите, как изменился результат.
Вспомните свою задачу из мини-проекта главы 1. Какие её части упираются в слабые места модели: факты, длинные документы, работу с буквами?
Сохраните эти заметки. В главе 3 мы научимся выжимать из модели максимум в диалоге — и ваш «рентген» сразу пригодится.
Дальше — глава 3. Там языковая модель превращается в собеседника: разберём, чем чат отличается от «сырой» модели, что такое system prompt и какие приёмы диалога дают в десять раз лучший результат.
Глава 3. Что такое чат
Начнём с эксперимента
Откройте чат с ИИ и задайте глупый вопрос:
Ты кто?
Модель ответит что-то вроде: «Я — ИИ-ассистент, готов помочь с ответами на вопросы». Вежливо, по делу, с выдержкой.
А теперь вспомните главу 2. «Сырая» языковая модель — это угадыватель продолжений, попугай, начитанный в интернете. У него нет личности, нет должности «ассистент», нет привычки отвечать на вопросы вместо того, чтобы продолжать текст. Если бы вы задали «Ты кто?» сырой модели, она могла бы продолжить это философским эссе, строчкой из песни или следующим вопросом — как попало.
Значит, между моделью и вами кто-то стоит. Кто-то, кто превратил угадайку в собеседника, вложил ей в руки должностную инструкцию и следит, чтобы она её придерживалась. Этот «кто-то» и есть чат — а инструкция называется системным промптом.
В этой главе разберём, как устроен чат изнутри, как вести с ним многоходовые диалоги, какие приёмы промптинга дают в разы лучший результат и каких ошибок стоит избегать. Это самая практичная глава во всей первой части книги: после неё вы будете использовать ИИ иначе.
Понять
Чем чат отличается от «сырой» модели
Чат — это не модель. Чат — это слоёный пирог, где модель лишь начинка.
Когда вы отправляете сообщение, происходит больше, чем кажется. Ваш текст не летит в модель напрямую. Сначала система собирает целый пакет: скрытая инструкция от разработчиков, ваша переписка с начала диалога, иногда — загруженные файлы и заметки о ваших предпочтениях. Всё это одним куском кладётся на «рабочий стол» модели (помните контекстное окно из главы 2), и только потом модель пишет продолжение.
Та скрытая инструкция — системный промпт (system prompt). Это текст, который видит модель, но не видите вы. В нём разработчики прописывают: «Ты — помощник. Отвечай на языке пользователя. Будь краток. Не давай вредных советов. Если не знаешь — скажи». Модель читает это как часть контекста и играет роль.
Теперь понятен фокус из начала главы: модель ответила «я — ассистент», потому что так написано в её инструкции, а не потому что она себя так осознаёт.
Из этого устройства следуют три практических вывода:
•
Модель помнит разговор, потому что ей каждый раз подкладывают всю переписку заново.
Самой по себе «памяти» у неё нет. Отсюда и правило из главы 2: переписка длиннее окна — начало съезжает со стола.
•
Поведение чата можно менять инструкцией.
Многие сервисы позволяют написать собственную системную инструкцию (в ChatGPT это «пользовательские инструкции», у других — настройки ассистента). Пять строк там работают за вас в каждом диалоге.
•
Чат добавляет вокруг модели полезные вещи:
поиск в интернете, загрузку файлов, выполнение кода, память между сессиями. Когда оцениваете сервис, вы оцениваете не только модель, но и весь этот «пирог».
Многошаговый диалог: думайте о чате как о стажёре
Самая частая причина разочарования в ИИ — ожидание, что он поймёт задачу с одного сообщения. Пользователь пишет «сделай мне план продвижения», получает средненький ответ и бросает: «Не работает».
А теперь представьте, что вместо чата — новый стажёр. Умный, начитанный, но первый день в компании. Вы сказали ему «сделай план продвижения» и ушли пить кофе. Что он принесёт? Что-то общее из учебника. Виноват стажёр? Нет: вы не рассказали ему ни про продукт, ни про бюджет, ни про аудиторию.
Работа с чатом — это диалог со стажёром, и у него есть своя техника:
Дайте вводные. Кто вы, что за задача, для кого результат, какие ограничения. «Я веду кофейню в Казани, аудитория — студенты, бюджет 15 тысяч в месяц» меняет всё.
Итерируйте, а не переписывайте. Получили черновик — не удаляйте чат в сердцах. Скажите, что не так: «Второй пункт слишком общий, распиши его конкретнее. Тон сделай легче». Каждая итерация использует уже накопленный контекст — это в разы эффективнее, чем начинать с нуля.
Провоцируйте уточняющие вопросы. Добавьте в запрос: «Если чего-то не хватает для хорошего ответа — спроси меня об этом». Хороший стажёр спрашивает; чат тоже умеет, если разрешить.
Фиксируйте договорённости. В длинной беседе полезно подводить итоги: «Давай зафиксируем: договор аренды берём за основу, пункты про штрафы переписываем, тон — деловой». Сводка в контексте — якорь против «забывания».
Чувствуйте край стола. Диалог стал длинным, модель начала путаться? Не мучайте её. Попросите: «Сожми всё, о чём мы договорились, в десять пунктов» — и начните новый чат с этой сводки.
Три стратегии промптинга
Теперь про приёмы, которые описаны в исследованиях и реально работают. Названия звучат по-английски, но за каждым — простая идея.
Zero-shot — «просто попроси». Вы даёте задание без примеров: «Переведи это письмо на деловой английский». Для большинства бытовых задач этого хватает — современные модели натренированы понимать инструкции. Начинайте всегда с этого: не усложняйте запрос без нужды.
Few-shot — «покажи на пальцах». Если нужен особый формат или стиль, не описывайте его словами — дайте два-три примера «вход → выход». Модель — чемпион по угадыванию закономерностей: покажите ей образец, и она продолжит в том же духе. Сравните:
Плохо: «Классифицируй обращения клиентов по тональности».
Лучше:
«Доволен скоростью, но курьер опоздал» → нейтральная
«Ужас! Второй раз привозят не то!» → негативная
«Спасибо, всё идеально» → позитивная
Теперь классифицируй: «Заказ пришёл быстро, правда, коробка помята» →
Модель схватывает принцип разметки из ваших примеров — включая ваши границы между категориями, которые словами вы бы долго объясняли. Термин пришёл из науки: ещё в 2020 году авторы GPT-3 показали, что модель способна учиться «на лету» от нескольких примеров прямо в запросе, без всякого дообучения.
Chain-of-thought — «думай вслух». Помните опыт с буквами «р» из главы 2? Модель, которая рассуждает по шагам, ошибается меньше. Это общий принцип: если задача требует расчёта или логики, попросите не готовый ответ, а ход мысли:
«Реши по шагам: сначала выпиши, что дано, потом рассуждай,
и только в конце дай итоговую цифру».
Волшебное добавление «давай рассуждать шаг за шагом» заметно поднимает точность на задачах с подвохом — это подтверждено исследованием Google 2022 года, которое и дало приёму имя. У современных « reasoning»-моделей режим размышления встроен: они сами думают вслух перед ответом. Но приём остаётся вашим инструментом для обычных моделей.
Роль и формат: два рычага, которые недооценивают
Роль (persona). Добавка «Ты — опытный юрист, проверяющий договор для малого бизнеса» меняет ответ заметно. Не потому, что модель «становится» юристом — а потому, что роль сдвигает её в область текстов, где юристы разбирают договоры: появляются правильные термины, типовые риски, деловая осторожность. Помните правило из главы 2: ваш запрос — это начало текста, который модель продолжает. Роль делает это начало правильным.
Полезные роли — конкретные и с точкой зрения: «редактор, который ненавидит канцелярит», «учитель, объясняющий восьмикласснику», «скептичный инвестор, ищущий дыры в плане». Роль-критик особенно недооценена: попросить модель найти слабые места в собственном ответе — мощный ход.
Формат вывода. Модель по умолчанию пишет «как принято»: средней длины текст с вступлением и выводом. Если вам нужна таблица — скажите «таблицей, три колонки». Нужен список для доклада — «пять тезисов, каждый до двенадцати слов». Нужен текст, который вы вставите в письмо, — «без заголовков и списков, связным текстом, не больше ста слов». Задавать формат — это не занудство: вы избавляете себя от переделки ответа руками.
Температура и компания: ручки случайности
В большинстве чатов этих ручек не видно, но если вы работаете через API или в режиме разработчика (у OpenAI это playground, у других — аналоги), они там есть. Понимать их стоит, даже если никогда не тронете.
Вспомните главу 2: для каждого следующего слова модель вычисляет список кандидатов с вероятностями. Вопрос — как выбирать из списка.
Температура — ручка «смелости». При температуре 0 модель всегда берёт самого вероятного кандидата: ответы предсказуемые, сухие, надёжные. Для ответа на вопрос по документу — то, что надо. При высокой температуре модель чаще выбирает менее вероятные слова: тексты становятся разнообразнее и неожиданнее, но и риск чепухи растёт. Для мозгового штурма и стихов — хорошо, для выписок из договора — плохо.
Top-p — ручка «размаха»: модель рассматривает только кандидатов, чья суммарная вероятность укладывается в заданный порог. При top-p 0,1 — только топовые варианты, при 0,95 — почти весь список. Эффект похож на температуру, и крутить обе ручки сразу обычно не нужно: настройщики советуют выбрать одну.
Практическая памятка: факты и документы — температура низкая; идеи и тексты — средняя; когда «всё равно что, лишь бы небанально» — высокая.
Типичные ошибки пользователей
Соберём в одну кучу то, на чём спотыкается большинство. Вы узнаете свои привычки — все через это проходили.
Запрос-загадка. «Напиши текст про магазин». Какой магазин? Для кого текст? Зачем? Модель отвечает на тот вопрос, который прочитала, а не на тот, что у вас в голове. Лечение: вводные из раздела про стажёра.
Вера на слово. Модель выдала цифру и название закона — пользователь перенёс в документ как есть. Помните главу 2: уверенный тон ничего не значит. Лечение: факты — через проверку, всегда.
Один чат на всё. В беседе смешаны черновик статьи, рецепт борща и расчёт налогов. Контекст захламлён, модель путается. Лечение: новая задача — новый чат.
Капитуляция после первого ответа. «Не то» — и пользователь ушёл. Лечение: итерации. Второй и третий заход почти всегда лучше первого.
Борьба за «идеальный промпт». Обратная крайность: человек час шлифует один запрос вместо трёх быстрых итераций. Промпт — не заклинание, которое либо сработает, либо нет. Это начало разговора.
Ожидание личности. Модель вчера «поняла вас с полуслова», а сегодня в новом чате — «как чужая». Она и есть чужая: без переписки на столе она о вас ничего не знает. Лечение: пользовательские инструкции и сохранённые заготовки промптов.
Чат-боты в бизнесе: где уже работают
То, что вы осваиваете для себя, компании ставят на конвейер. Три зрелых сценария:
Поддержка. Самый массовый. В Т-Банке, по данным TAdviser, до 45 % обращений в клиентскую поддержку закрываются без участия оператора — благодаря языковым моделям. Громче всех заявила о себе компания Klarna: её ИИ-ассистент обрабатывает миллионы разговоров в месяц, а среднее время решения вопроса сократилось с 11 минут до двух. Устройство таких систем вам уже знакомо: системный промпт с правилами компании плюс подложенные в контекст документы (о механике — глава 8).
Консультации. Бот, который знает ассортимент, помогает выбрать, оформляет заказ. Здесь ключевое — интеграция с внутренними системами: без доступа к базе товаров консультант из модели получается красноречивый, но бесполезный.
Обучение. Корпоративные тренажёры: новичок общается с «клиентом», которого играет модель, и получает разбор своих реплик. Дёшево, безопасно, можно проиграть сложные случаи сто раз.
Общий вывод бизнеса совпадает с вашим личным опытом из этой главы: выигрывает не тот, у кого модель больше, а тот, кто лучше написал инструкцию, подложил правильные данные и продумал, когда бот должен уступить место человеку.









