Искусственный интеллект в педагогике

Сергей Левченко

Искусственный интеллект в педагогике

Глава 1. Чат, который ничего вам не должен

Учитель открывает нейросеть обычно не ради знакомства с технологией. Ему нужен результат. До урока осталось сорок минут, в восьмом классе провалилась тема, администрация попросила представить план внеурочного занятия, а дома лежит пачка работ, к которой не хочется подходить. В пустом поле появляется курсор. Человек пишет: «Составь урок по теме…»

Через несколько секунд на экране возникает аккуратный текст. Цель, задачи, ход занятия, вопросы, рефлексия. Всё разложено по местам. Ничего не забыто. Иногда результат выглядит лучше старого конспекта, который много лет переезжал из папки в папку. Возникает почти физическое облегчение: наконец-то рядом появился помощник.

Именно здесь начинается первая ошибка.

Обычный диалог с нейросетью ещё не является помощником. Это поле, в котором система старается продолжить полученное задание наиболее подходящим образом. Она не знает, какой учебник лежит на партах, что класс проходил на прошлой неделе, почему тема не усвоилась, насколько жёстко в школе относятся к формулировкам рабочих программ и какой вопрос директор задаст первым. Она не обязана знать даже то, что учитель считает само собой разумеющимся.

Человек видит завершённый документ и невольно достраивает за ним профессиональную работу. Кажется, будто кто-то сначала понял задачу, сверился с программой, выбрал методический подход, проверил факты, оценил время и только потом написал текст. На деле все эти этапы могли не состояться. На экране есть результат, но за ним ещё нет процесса, которому можно доверять.

Разница принципиальная. Конспект можно получить случайно удачным. Рабочая система должна давать приемлемый результат повторно, на разных темах и в разных условиях. Она должна останавливаться, когда не хватает данных, показывать сомнительные места, отделять факт от предположения и не переходить границы, которые установил учитель. Чат этого не делает сам по себе.

Представим вполне обычную задачу: подготовить урок по новой теме для шестого класса. В запросе указаны предмет и название темы. Нейросеть выдаёт структуру на сорок пять минут, добавляет групповую работу и домашнее задание. Формально просьба выполнена. Но неизвестно, соответствует ли материал конкретной федеральной рабочей программе, какие понятия уже введены, есть ли в кабинете нужное оборудование, сколько учеников способны работать в группе без потери половины урока и не требует ли тема предварительного повторения. Красивый план может оказаться педагогически пустым. Он похож на урок, но не продолжает обучение данного класса.

У человека такая ошибка обычно заметна по поведению. Незнакомый коллега спросит, уточнит, нахмурится, полезет в документы. Нейросеть может написать гладко. Её уверенная форма воспринимается как признак внутренней проверки, хотя сама по себе ничего не доказывает.

Поэтому начинать нужно с трезвого определения.

Нейросеть — это не цифровой методист, не второй учитель и не человек, которому достаточно один раз объяснить ситуацию. Это вычислительная система, способная работать с языком и создавать связные ответы на основе полученного контекста и усвоенных закономерностей. Она может выполнять многие действия, похожие на профессиональные: сравнивать, перерабатывать, группировать, объяснять, предлагать варианты. Сходство результата с человеческой работой бывает впечатляющим. Из этого не следует, что внутри возник тот же путь к результату.

Для практики важнее другое: нейросетью можно управлять. Не полностью и не безошибочно, но достаточно, чтобы превратить случайный диалог в устойчивый рабочий контур. Для этого учитель должен перестать относиться к ней как к готовому сотруднику и начать собирать сотрудника из правил.

У настоящего помощника есть должность. Он понимает, за что отвечает, какие материалы использует, что должен вернуть, когда обязан остановиться и кому передаёт работу дальше. У него есть доступ только к тем данным, которые нужны. Его результат проверяет другой человек или отдельный этап процесса. Если задача меняется, меняется и маршрут.

В обычном чате всё смешано. В одном диалоге нейросеть успевает быть автором задания, методистом, корректором, экспертом по праву и судьёй ученической работы. Она проверяет собственный текст собственными средствами, а затем уверяет, что всё верно. Это удобно, пока ошибка не имеет последствий. В школе последствия появляются быстро: неверный ответ попадает в контрольную, расплывчатый критерий — в оценивание, чужая формулировка — в характеристику ребёнка, непроверенная норма — в служебный документ.

Система начинается с разделения обязанностей.

Один режим помогает сформулировать учебную цель. Другой создаёт материал только после того, как цель определена. Третий ищет фактические и методические слабости. Четвёртый проверяет, можно ли выполнить задание без понимания темы. Результат не переходит дальше автоматически: учитель видит, что произошло на каждом этапе, и может вернуть работу назад.

Все эти режимы способны работать внутри одной нейросети. Не нужны отдельные программы с громкими названиями. На первом уровне достаточно нескольких диалогов и обычных текстовых файлов. Сложность здесь не техническая. Нужно научиться видеть собственную работу как последовательность решений, а не как одну просьбу: «Сделай мне урок».

Такое изменение поначалу раздражает. Казалось бы, технология обещала экономию времени, а книга предлагает описывать правила, готовить источники, разделять задачи и проверять результат. Почему просто не написать подробный запрос?

Потому что подробный запрос решает только одну задачу в одном разговоре. Архитектура сохраняет способ работы. Однажды настроенный модуль можно использовать для новой темы, другого класса и следующего учебного года. Его можно исправить, если он ошибается, перенести в другой сервис, отключить, если он больше не нужен. Учитель перестаёт зависеть от удачи и от собственной способности каждый вечер заново сочинять идеальное обращение к машине.

Здесь проходит первая важная граница. Нейросеть не должна знать всё о работе учителя. Она должна получать ровно те сведения, которые нужны сейчас. Чем больше информации навалено в диалог без порядка, тем труднее понять, что система действительно учла, что пропустила, а что связала неверно. Огромная переписка не равна памяти. Загруженная папка документов не равна методической базе. Перечень требований не равен контролю.

В дальнейшем мы соберём ядро правил, паспорта курса и класса, библиотеку источников, рабочие модули и проверяющий контур. Но до сборки нужно разобраться с самой машиной. Не на уровне формул и программирования. Учителю не требуется становиться разработчиком языковых моделей. Ему требуется понимать несколько вещей, без которых любое управление остаётся имитацией.

Как появляется ответ? Что система видит в нашем тексте? Почему она может правильно разобрать сложную задачу и тут же выдумать название документа? Что происходит, когда разговор становится длинным? Почему вежливая просьба «проверь ещё раз» иногда лишь делает ошибку убедительнее?

Пока этих ответов нет, чат действует почти гипнотически. Белое поле, бегущие строки, ровный голос. Очень легко принять удобство за надёжность.

Учитель закрывает готовый конспект и открывает программу. Тема стоит в другом разделе. Это небольшая ошибка — урок ещё не начался. Но именно с таких несовпадений обычно и выясняется, что помощника пока никто не собирал.

Глава 2. Как машина продолжает фразу

Разговор о нейросетях часто ломается на двух крайностях. В одном случае систему описывают как почти живой разум, который читает, понимает и рассуждает. В другом — как механический автомат, бездумно подставляющий слова. Обе картины удобны, обе быстро начинают мешать.

Учителю не требуется решать философский вопрос о природе машинного мышления. Для работы достаточно понимать механизм на практическом уровне: языковая модель получает текст, учитывает доступный ей контекст и шаг за шагом создаёт продолжение. На каждом шаге она оценивает, какой следующий элемент текста подходит лучше. Затем учитывает уже созданное и продолжает дальше.

Эти элементы называют токенами. Токен не всегда совпадает со словом. Им может быть целое короткое слово, часть длинного слова, знак препинания, число или фрагмент записи. Пользователю редко приходится считать токены вручную, но полезно знать, что нейросеть работает не с фразой как человек, охватывающий её взглядом, а с последовательностью закодированных частей.

Отсюда следует первое практическое последствие. Для машины формулировка — это не прозрачная оболочка готового смысла. Порядок слов, соседние инструкции, примеры, названия разделов и даже оформление влияют на то, какое продолжение станет вероятнее. Поэтому два запроса, которые человеку кажутся почти одинаковыми, могут дать заметно разные ответы.

Во время обучения языковая модель обрабатывает огромные массивы текстов и настраивает внутренние параметры так, чтобы лучше предсказывать продолжение. Она не хранит внутри аккуратную библиотеку страниц, откуда достаёт подходящий абзац. Знания распределены сложнее: в связях между языковыми формами, понятиями, типичными последовательностями и множеством внутренних числовых настроек.

Именно поэтому нейросеть умеет создавать новый текст, а не только находить старый. Она может объяснить понятие на другом уровне сложности, изменить структуру материала, сопоставить два подхода, выделить ошибки в инструкции. Она опирается на усвоенные закономерности языка и содержания. Но этот же механизм позволяет ей построить правдоподобную фразу там, где надёжного знания нет.

Возьмём короткое начало: «В соответствии с приказом Министерства просвещения Российской Федерации от…» В официальных документах после такой конструкции обычно стоят дата, номер и название. Языковая модель прекрасно знает форму. Если в контексте нет проверенного документа, она может продолжить её реквизитами, которые выглядят естественно. Для читателя это ссылка. Для модели — удачное продолжение последовательности. Разница обнаружится только при проверке.

Современные системы дополнительно настраивают на выполнение инструкций. Благодаря этому диалог не похож на бесконечное автодополнение. Нейросеть распознаёт просьбу, придерживается формата, может учитывать запреты и исправлять ответ после замечания. Но фундаментальная задача обучения и задача пользователя совпадают не полностью. Пользователю нужен верный, полезный и безопасный результат. Модель прежде всего научена хорошо работать с последовательностями текста, а затем её поведение дополнительно направляют человеческими примерами, оценками и правилами.

Отсюда появляется странное сочетание силы и ненадёжности. Система может разобрать сложную инструкцию, выдержать авторский тон, увидеть противоречие в двух абзацах — и ошибиться в простом факте. Может верно описать принцип оценивания и придумать номер нормативного акта. Может улучшить объяснение по физике, но незаметно заменить одно условие задачи другим, потому что новый вариант лучше укладывается в знакомый шаблон.

Контекстом называют текст и другие данные, которые доступны модели при подготовке текущего ответа. В простом диалоге это системные правила сервиса, сообщения пользователя, предыдущие ответы и иногда прикреплённые материалы. Контекст — рабочая поверхность разговора. Он не равен знаниям модели и не равен долговременной памяти.

Если учитель передал фрагмент программы, нейросеть может опираться на него в текущей работе. Если документ не передан, система либо использует общие знания, либо начинает достраивать недостающее. Если переписка стала слишком длинной, часть информации может использоваться хуже. Даже техническая возможность принять большой объём текста не гарантирует, что каждая строка будет одинаково хорошо учтена. Эксперименты с длинным контекстом показали характерную уязвимость (N. F. Liu и соавт., «Lost in the Middle», 2024): нужная информация нередко извлекается хуже, когда оказывается в середине большого массива.

Для учителя вывод простой: нельзя заменять организацию источников одним огромным диалогом. Фраза «мы это уже обсуждали выше» не является рабочим механизмом. Критические правила должны находиться там, где их легко увидеть, проверить и передать заново. Поэтому позднее у системы появится ядро — короткий набор постоянных ограничений — и отдельные паспорта для курса, класса и задачи.

Есть ещё одно слово, которое часто создаёт лишнюю мистику, — внимание. Архитектура трансформера позволяет модели при обработке последовательности учитывать связи между её частями и придавать разный вес разным фрагментам. Это не человеческое внимание и не осознанное сосредоточение. Для пользователя существенен результат: система способна связывать удалённые части текста, видеть, к чему относится местоимение, продолжать стиль и учитывать условия, перечисленные раньше.

Способность не безгранична. Если инструкция содержит восемнадцать требований, несколько исключений и два противоречащих документа, модель может выдать текст, в котором внешне соблюдено всё, а одно ключевое ограничение исчезло. Чем труднее человеку проверить ответ, тем опаснее полагаться на то, что машина «точно всё прочитала».

Поэтому архитектура строится не вокруг длины запроса, а вокруг управляемых переходов. Сначала определяется задача. Затем передаются необходимые источники. Потом один модуль создаёт результат в заранее оговорённой форме. Отдельный этап проверяет конкретные риски. Большую работу разбивают не для удобства нейросети как таковой, а чтобы учитель видел, где именно возникла ошибка.

Полезно также различать обучение модели и обучение внутри диалога. Когда пользователь даёт два примера нужного результата, нейросеть может подстроиться под них. Её основные параметры при этом не переписываются. Примеры становятся частью текущего контекста и направляют ответ. В следующем пустом диалоге это «обучение» исчезнет, если сервис специально не сохраняет настройки.

Отсюда растут многие разочарования. Учитель один раз долго исправляет стиль материалов, добивается ясного языка и решает, что нейросеть наконец научилась. Через неделю открывает новый разговор — и получает прежнюю гладкую пустоту. Машина не проявила упрямство. Просто рабочие правила остались в старом контексте.

Настоящая повторяемость появляется, когда удачные требования вынесены из переписки в отдельный документ. Не «нейросеть должна помнить, что я люблю короткие инструкции», а строка в паспорте: «Инструкция ученику — одно действие на предложение; незнакомый термин объясняется до задания; скрытые требования запрещены». Такое правило можно прочитать самому, изменить, передать другой системе и проверить по результату.

Модель не обязана понимать, почему это важно для конкретного класса. Ей достаточно последовательно выполнять правило. Педагогический смысл остаётся у учителя.

В этом разделении нет унижения технологии. Наоборот, оно позволяет использовать её настоящую силу. Языковая модель необычайно хорошо перерабатывает форму: разворачивает, сокращает, сопоставляет, переводит между уровнями сложности, предлагает варианты, удерживает заданный строй текста. Когда источники и критерии подготовлены, она снимает огромный объём черновой работы.

Проблема начинается там, где способность создавать правдоподобное продолжение принимают за доступ к истине. У нейросети нет внутреннего красного огонька, который обязательно включается перед вымышленной датой. Уверенный синтаксис ей доступен всегда.

Следующее слово появляется. Потом ещё одно. Через несколько секунд ошибка уже оформлена как законченный абзац.

Глава 3. Ошибаться полным голосом

Человеческая речь выдаёт сомнение множеством мелочей. Пауза, оговорка, осторожное «кажется», взгляд на документ. Нейросеть умеет воспроизводить все эти сигналы, но их наличие или отсутствие не является надёжным показателем точности. Она может сказать «возможно» перед верным фактом и без колебаний назвать несуществующий источник.

Это свойство особенно опасно в профессиях, где форма сама несёт вес. Учитель привык различать черновик ученика, методическую рекомендацию, приказ, учебную статью. У каждого текста свой голос и свой уровень доверия. Нейросеть умеет имитировать почти любой из них. Ошибка, написанная языком официального документа, выглядит серьёзнее обычной ошибки. Она получает чужую форму и вместе с ней — незаслуженный авторитет.

Для таких случаев используют слова «галлюцинация» или «конфабуляция». Оба термина неточны, потому что переносят на машину человеческие состояния. В книге мы будем говорить проще: выдуманный или искажённый результат. Система создаёт сведения, которых нет в надёжном источнике, смешивает разные документы, приписывает автору чужую мысль, меняет условие задачи либо достраивает пробел наиболее правдоподобным вариантом.

Причина не сводится к небрежности разработчиков или плохому запросу. Она заложена в самой природе генерации. Модель должна продолжить ответ. Если ей не хватает данных, она не всегда останавливается. В языковом пространстве почти для любого начала найдётся убедительное продолжение.

Ошибки бывают разными, и исправляются они тоже по-разному.

Самая заметная — чистая выдумка. Нейросеть называет книгу, статью, приказ или исследование, которых не существует. Иногда название складывается из реальных терминов и фамилий. Оно звучит настолько естественно, что человек ищет документ, меняет запрос, проверяет написание и лишь затем понимает: искать нечего.

Тоньше работает склейка. Система берёт номер одного документа, дату другого и содержание третьего. Каждая часть знакома, сочетание ложно. В школьной практике это опаснее откровенной фантазии: проверка по одному реквизиту может создать ощущение, что ссылка настоящая.

Есть ошибка подмены условия. Учитель просит переработать задание, сохранив проверяемое умение. Нейросеть упрощает текст — и заодно меняет само действие ученика. Вместо анализа появляется воспроизведение, вместо самостоятельного доказательства — выбор готового ответа. Материал стал доступнее, но учебная цель исчезла.

Есть ошибка согласия. Пользователь включает в вопрос неверное предположение, а система принимает его как часть задачи. Чем увереннее поставлен вопрос, тем легче не заметить подмену. Формулировка «почему новый порядок запрещает…» подталкивает к объяснению запрета, даже если такого запрета нет. Помощник, настроенный быть полезным и поддерживать разговор, иногда соглашается раньше, чем проверяет основание.

Наконец, есть ошибка уверенного обобщения. Нейросеть берёт частную практику, рекомендацию или решение одной организации и описывает его как общее правило. В образовании это происходит постоянно: локальное положение школы превращается в «требование законодательства», методический совет — в обязанность учителя, пилотный проект — в реформу для всей страны.

У всех этих случаев один неприятный признак: текст может быть качественным. В нём нет грубых грамматических сбоев. Логика абзаца выглядит последовательной. Иногда система сама приводит аргументы, подтверждающие выдуманное положение. Чем лучше написан ответ, тем больше дисциплины требуется от читателя.

Просьба «не выдумывай» полезна, но не создаёт гарантии. Фраза «используй только проверенные источники» тоже не подключает источники сама по себе. Если нейросеть не получила документы и не имеет надёжного доступа к поиску, она работает с тем, что доступно в её знаниях и контексте. Даже при наличии поиска остаётся вопрос: какие материалы найдены, как они поняты, не устарела ли редакция, не перепутан ли проект с действующей нормой.

Поэтому в профессиональной системе проверяется не уверенность ответа, а его происхождение.

Для фактического утверждения должно быть понятно, на что оно опирается. Если речь идёт о законе или приказе, нужен первичный документ и действующая редакция. Если о содержании учебника — конкретный текст. Если о результатах класса — данные, которыми располагает учитель. Если система предложила собственную методическую конструкцию, её нельзя маскировать под официальную рекомендацию.

Так появляется дисциплина источников. Нейросеть должна отделять то, что извлечено из переданного материала, от собственного вывода и от предложения, созданного для обсуждения. В идеальном случае эти слои видны прямо в результате. Не потому, что читателю нравится формальность, а потому, что разные слои требуют разной проверки.

Например, система готовит справку о новом порядке организации учебного процесса. Правильный маршрут начинается не с просьбы «расскажи, что изменилось». Сначала учитель или ответственный специалист собирает первичные документы. Затем отдельный модуль извлекает положения с указанием пунктов. Другой сопоставляет даты вступления в силу. После этого текст переводится на обычный язык. Финальная версия сверяется с оригиналом.

Если попросить одну и ту же нейросеть сначала придумать справку, потом проверить её без источников, получится замкнутый круг. Модель часто узнаёт собственный стиль и подтверждает собственную логику. Она способна найти часть ошибок, особенно если ей указать, что именно искать. Но фраза «проверь себя» не создаёт независимой экспертизы.

Независимость внутри одной системы достигается организационно. Проверяющий модуль получает исходные материалы, результат генерации и узкий список рисков. Ему не поручают «оценить качество вообще». Он должен, к примеру, перечислить каждое фактическое утверждение, найти для него основание в источнике и отметить то, что не подтверждено. Затем учитель смотрит не на общий вердикт «текст корректен», а на конкретные места.

Такой подход медленнее одного клика. Он всё равно быстрее, чем исправлять ошибку после того, как документ разослан родителям или задание попало детям.

В учебных материалах цена фактической ошибки понятна. Но есть ещё методическая уверенность, которую труднее заметить. Нейросеть охотно объясняет, почему предложенное упражнение развивает критическое мышление, формирует метапредметные результаты или соответствует возрастным особенностям. Эти формулировки могут описывать намерение автора, а не реальное действие ученика.

Если школьник должен переписать готовые доводы в нужном порядке, само слово «анализ» в инструкции не превращает работу в анализ. Если весь ответ легко получить из первого абзаца текста, задание не проверяет понимание темы, сколько бы уровней сложности ни было указано в заголовке. Здесь нельзя ограничиться поиском неверных дат. Нужен модуль, который смотрит на действие ученика.

В дальнейшем мы научим систему задавать неприятные вопросы: что ребёнок делает сам, где может угадать, какой ответ считается доказательством понимания, не подсказывает ли формулировка решение, не заменено ли содержание красивой педагогической лексикой. Эти вопросы защищают от ошибки, которую не найдёт обычная проверка фактов.

Есть соблазн решить проблему запретом: не использовать нейросеть там, где нужна точность. Он плохо работает. Учителя уже применяют генеративные системы, ученики применяют их ещё чаще. Технология не исчезает от отсутствия правил. Запрет оставляет человека один на один с тем же гладким ответом, только без культуры проверки.

Нам нужен другой навык — спокойное недоверие. Не подозрительность ко всему тексту, а привычка различать зоны риска. Переформулировать объявление можно с одной проверкой. Создать контрольную работу — с другой. Подготовить характеристику ученика при помощи внешней системы нельзя свести к вопросу качества текста: здесь вступают в силу данные, полномочия и права ребёнка.

Уверенность нейросети не должна пугать. Она должна перестать нас убеждать.

На экране стояло точное название приказа, дата и номер. Ссылка открывала другой документ. Учитель удалил абзац целиком, а не попросил сделать его ещё убедительнее.

Глава 4. Почему хороший запрос не спасает плохую задачу

Первые книги и курсы о нейросетях приучили пользователей к простой мысли: качество ответа зависит от качества запроса. В ней есть правда. Точное задание обычно даёт лучший результат, чем случайная фраза. Указанный формат уменьшает хаос. Переданные критерии помогают системе не угадывать их самостоятельно.