Искусственный интеллект в педагогике

Сергей Левченко

Искусственный интеллект в педагогике

Глава 1. Чат, который ничего вам не должен

Учитель открывает нейросеть обычно не ради знакомства с технологией. Ему нужен результат. До урока осталось сорок минут, в восьмом классе провалилась тема, администрация попросила представить план внеурочного занятия, а дома лежит пачка работ, к которой не хочется подходить. В пустом поле появляется курсор. Человек пишет: «Составь урок по теме…»

Через несколько секунд на экране возникает аккуратный текст. Цель, задачи, ход занятия, вопросы, рефлексия. Всё разложено по местам. Ничего не забыто. Иногда результат выглядит лучше старого конспекта, который много лет переезжал из папки в папку. Возникает почти физическое облегчение: наконец-то рядом появился помощник.

Именно здесь начинается первая ошибка.

Обычный диалог с нейросетью ещё не является помощником. Система отвечает на полученное задание в пределах того контекста, который ей доступен. Она не знает, какой учебник лежит на партах, что класс проходил на прошлой неделе, почему тема не усвоилась, насколько жёстко в школе относятся к формулировкам рабочих программ и какой вопрос директор задаст первым, если эти сведения ей не передали. Она не обязана угадывать даже то, что учитель считает само собой разумеющимся.

Человек видит завершённый документ и невольно достраивает за ним профессиональную работу. Кажется, будто кто-то сначала понял задачу, сверился с программой, выбрал методический подход, проверил факты, оценил время и только потом написал текст. На деле все эти этапы могли не состояться. На экране есть результат, но за ним ещё нет процесса, которому можно доверять.

Разница принципиальная. Конспект можно получить случайно удачным. Рабочая система должна давать приемлемый результат повторно, на разных темах и в разных условиях. Она должна останавливаться, когда не хватает данных, показывать сомнительные места, отделять факт от предположения и не переходить границы, которые установил учитель. Чат этого не делает сам по себе.

Представим вполне обычную задачу: подготовить урок по новой теме для шестого класса. В запросе указаны предмет и название темы. Нейросеть выдаёт структуру на сорок пять минут, добавляет групповую работу и домашнее задание. Формально просьба выполнена. Но неизвестно, соответствует ли материал конкретной федеральной рабочей программе, какие понятия уже введены, есть ли в кабинете нужное оборудование, сколько учеников способны работать в группе без потери половины урока и не требует ли тема предварительного повторения. Красивый план может оказаться педагогически пустым. Он похож на урок, но не продолжает обучение данного класса.

У человека такая ошибка обычно заметна по поведению. Незнакомый коллега спросит, уточнит, нахмурится, полезет в документы. У нейросети нет обязательного внешнего признака сомнения: неверный ответ она способна написать тем же ровным и уверенным языком, что и верный. Форма выглядит как результат внутренней проверки, хотя сама по себе ничего не доказывает.

Поэтому начинать нужно с трезвого определения.

Нейросеть — это не цифровой методист, не второй учитель и не человек, которому достаточно один раз объяснить ситуацию. Это вычислительная система, способная работать с языком и создавать связные ответы на основе полученного контекста и усвоенных закономерностей. Она может выполнять многие действия, похожие на профессиональные: сравнивать, перерабатывать, группировать, объяснять, предлагать варианты. Сходство результата с человеческой работой бывает впечатляющим. Из этого не следует, что внутри возник тот же путь к результату.

Для практики важнее другое: нейросетью можно управлять. Не полностью и не безошибочно, но достаточно, чтобы превратить случайный диалог в устойчивый рабочий контур. Для этого учитель должен перестать относиться к ней как к готовому сотруднику и начать собирать сотрудника из правил.

У настоящего помощника есть должность. Он понимает, за что отвечает, какие материалы использует, что должен вернуть, когда обязан остановиться и кому передаёт работу дальше. У него есть доступ только к тем данным, которые нужны. Его результат проверяет другой человек или отдельный этап процесса. Если задача меняется, меняется и маршрут.

В обычном чате всё смешано. В одном диалоге нейросеть успевает быть автором задания, методистом, корректором, экспертом по праву и судьёй ученической работы. Она проверяет собственный текст собственными средствами, а затем уверяет, что всё верно. Это удобно, пока ошибка не имеет последствий. В школе последствия появляются быстро: неверный ответ попадает в контрольную, расплывчатый критерий — в оценивание, чужая формулировка — в характеристику ребёнка, непроверенная норма — в служебный документ.

Система начинается с разделения обязанностей.

Один режим помогает сформулировать учебную цель. Другой создаёт материал только после того, как цель определена. Третий ищет фактические и методические слабости. Четвёртый проверяет, можно ли выполнить задание без понимания темы. Результат не переходит дальше автоматически: учитель видит, что произошло на каждом этапе, и может вернуть работу назад.

Все эти режимы способны работать внутри одной нейросети. Не нужны отдельные программы с громкими названиями. На первом уровне достаточно нескольких диалогов и обычных текстовых файлов. Сложность здесь не техническая. Нужно научиться видеть собственную работу как последовательность решений, а не как одну просьбу: «Сделай мне урок».

Такое изменение поначалу раздражает. Казалось бы, технология обещала экономию времени, а книга предлагает описывать правила, готовить источники, разделять задачи и проверять результат. Почему просто не написать подробный запрос?

Потому что подробный запрос решает только одну задачу в одном разговоре. Архитектура сохраняет способ работы. Однажды настроенный модуль можно использовать для новой темы, другого класса и следующего учебного года. Его можно исправить, если он ошибается, перенести в другой сервис, отключить, если он больше не нужен. Учитель перестаёт зависеть от удачи и от собственной способности каждый вечер заново сочинять идеальное обращение к машине.

Здесь проходит первая важная граница. Нейросеть должна получать ровно те сведения, которые нужны для текущей работы. Если в диалог без порядка навалены переписка, документы, старые инструкции и новые условия, становится трудно понять, что система действительно учла, что пропустила, а что связала неверно. Большой объём контекста ещё не создаёт память, методическую базу и контроль. Их приходится проектировать отдельно.

В дальнейшем мы соберём ядро правил, паспорта курса и класса, библиотеку источников, рабочие модули и проверяющий контур. Но до сборки нужно разобраться с самой машиной. Не на уровне формул и программирования. Учителю не требуется становиться разработчиком языковых моделей. Ему требуется понимать несколько вещей, без которых любое управление остаётся имитацией.

Как появляется ответ? Что система видит в нашем тексте? Почему она может правильно разобрать сложную задачу и тут же выдумать название документа? Что происходит, когда разговор становится длинным? Почему вежливая просьба «проверь ещё раз» иногда лишь делает ошибку убедительнее?

Пока этих ответов нет, чат действует почти гипнотически. Белое поле, бегущие строки, ровный голос. Очень легко принять удобство за надёжность.

Учитель закрывает готовый конспект и открывает программу. Тема стоит в другом разделе. Это небольшая ошибка — урок ещё не начался. Но именно с таких несовпадений обычно и выясняется, что помощника пока никто не собирал.

Глава 2. Как машина продолжает фразу

Разговор о нейросетях часто ломается на двух крайностях. В одном случае систему описывают как почти живой разум, который читает, понимает и рассуждает. В другом — как механический автомат, бездумно подставляющий слова. Обе картины удобны, обе быстро начинают мешать.

Учителю не требуется решать философский вопрос о природе машинного мышления. Для работы достаточно практической модели: языковая система получает последовательность токенов, учитывает доступный контекст и шаг за шагом создаёт ответ. На каждом шаге она рассчитывает, какое продолжение лучше согласуется с тем, что уже дано и создано. Затем новый токен входит в контекст, и расчёт повторяется.

Эти элементы называют токенами. Токен не всегда совпадает со словом: им может быть короткое слово целиком, часть длинного слова, знак препинания, число или фрагмент записи. Пользователю почти никогда не нужно считать токены вручную. Важно другое: для модели текст существует как последовательность закодированных элементов, а не как готовая мысль, которую она одним взглядом увидела целиком.

Отсюда следует первое практическое последствие. Для машины формулировка — это не прозрачная оболочка готового смысла. Порядок слов, соседние инструкции, примеры, названия разделов и даже оформление влияют на то, какое продолжение станет вероятнее. Поэтому два запроса, которые человеку кажутся почти одинаковыми, могут дать заметно разные ответы.

Во время предварительного обучения языковая модель обрабатывает огромные массивы данных и настраивает внутренние параметры так, чтобы точнее предсказывать продолжение. Она не хранит внутри аккуратную библиотеку страниц, откуда по запросу достаёт нужный абзац. Усвоенные закономерности распределены по множеству параметров и внутренних представлений, поэтому знакомая форма не означает наличие конкретного проверенного источника.

Именно поэтому нейросеть умеет создавать новый текст, а не только находить старый. Она может объяснить понятие на другом уровне сложности, изменить структуру материала, сопоставить два подхода, выделить ошибки в инструкции. Она опирается на усвоенные закономерности языка и содержания. Но этот же механизм позволяет ей построить правдоподобную фразу там, где надёжного знания нет.

Возьмём короткое начало: «В соответствии с приказом Министерства просвещения Российской Федерации от…» В официальных документах после такой конструкции обычно стоят дата, номер и название. Языковая модель прекрасно знает форму. Если в контексте нет проверенного документа, она может продолжить её реквизитами, которые выглядят естественно. Для читателя это ссылка. Для модели — удачное продолжение последовательности. Разница обнаружится только при проверке.

Современные языковые системы не ограничиваются предварительным обучением на продолжении текста. После него модели дополнительно настраивают на выполнение инструкций, предпочтительное поведение, безопасность и работу с инструментами. Поэтому диалог давно не похож на бесконечное автодополнение: система умеет соблюдать формат, учитывать запреты, исправлять ответ после замечания и в некоторых режимах обращаться к внешним данным. Но это не превращает её автоматически в источник истины. Пользователю нужен верный и пригодный результат, а способность хорошо продолжать задачу и следовать инструкции сама по себе такой верности не гарантирует.

Отсюда появляется странное сочетание силы и ненадёжности. Система может разобрать сложную инструкцию, выдержать авторский тон, увидеть противоречие в двух абзацах — и ошибиться в простом факте. Может верно описать принцип оценивания и придумать номер нормативного акта. Может улучшить объяснение по физике, но незаметно заменить одно условие задачи другим, потому что новый вариант лучше укладывается в знакомый шаблон.

Контекстом называют текст и другие данные, доступные системе при подготовке текущего ответа. В конкретном сервисе это могут быть служебные инструкции, сообщения пользователя, предыдущие ответы, прикреплённые материалы и результаты подключённых инструментов. Иногда отдельно существуют сохранённые настройки или память. Всё это важно различать: текущий контекст не равен знаниям модели и не равен надёжной долговременной памяти.

Если учитель передал фрагмент программы, нейросеть может опираться на него в текущей работе. Если документ не передан и внешняя проверка не включена, система использует то, что уже есть в её знаниях и контексте, либо достраивает недостающее. Большое окно контекста эту проблему не отменяет. Современные модели способны принимать очень объёмные материалы, но ёмкость окна не означает, что каждая строка будет одинаково хорошо найдена, сопоставлена и использована. Чем больше массив, тем важнее структура источников и явное указание на то, что действительно нужно для задачи.

Для учителя вывод простой: организацию источников нельзя заменять одним огромным диалогом. Фраза «мы это уже обсуждали выше» не является рабочим механизмом контроля. Критические правила должны находиться там, где их легко увидеть, проверить и передать заново. Поэтому позднее у системы появится ядро — короткий набор постоянных ограничений, паспорта курса и класса, а данные текущей задачи будут передаваться отдельно.

Есть ещё одно слово, которое часто создаёт лишнюю мистику, — внимание. В трансформерной архитектуре этот механизм помогает модели учитывать связи между разными частями последовательности и по-разному использовать их при обработке текста. Это не человеческое внимание и не осознанное сосредоточение. Для учителя важнее практический результат: система умеет связывать удалённые фрагменты, поддерживать структуру текста и учитывать условия, заданные раньше, но делает это не идеально.

Если инструкция содержит восемнадцать требований, несколько исключений и два противоречащих документа, модель может выдать текст, который выглядит полным, хотя одно ключевое ограничение потерялось. Чем труднее человеку проверить результат, тем опаснее успокаивать себя мыслью, что система «точно всё прочитала».

Поэтому архитектура строится не вокруг длины запроса, а вокруг управляемых переходов. Сначала определяется задача. Затем передаются необходимые источники. Потом один модуль создаёт результат в заранее оговорённой форме. Отдельный этап проверяет конкретные риски. Большую работу разбивают не для удобства нейросети как таковой, а чтобы учитель видел, где именно возникла ошибка.

Полезно различать обучение модели и подстройку в текущем контексте. Когда пользователь даёт два примера нужного результата, нейросеть может продолжить работу по их образцу. Основные параметры модели при этом не переписываются: примеры становятся частью текущего контекста и направляют следующий ответ. В новом пустом диалоге такая подстройка исчезнет, если сервис отдельно не сохраняет инструкции или память.

Отсюда растут многие разочарования. Учитель один раз долго исправляет стиль материалов, добивается ясного языка и решает, что нейросеть наконец научилась. Через неделю открывает новый разговор — и получает прежнюю гладкую пустоту. Машина не проявила упрямство. Просто рабочие правила остались в старом контексте.

Повторяемость появляется, когда удачные требования вынесены из переписки в отдельный документ. Вместо надежды, что система вспомнит предпочтение, появляется проверяемая строка в паспорте: «Инструкция ученику — одно действие на предложение; незнакомый термин объясняется до задания; скрытые требования запрещены». Такое правило можно прочитать самому, изменить, передать другой системе и проверить по результату.

Модель не обязана понимать, почему это важно для конкретного класса. Ей достаточно последовательно выполнять правило. Педагогический смысл остаётся у учителя.

В этом разделении нет попытки обесценить технологию. Оно как раз позволяет использовать её сильные стороны без лишней мистики. Языковая модель хорошо перерабатывает материал: сокращает, разворачивает, сопоставляет, меняет уровень объяснения, предлагает варианты, удерживает заданную структуру. Когда источники и критерии подготовлены, она снимает большой объём черновой работы.

Проблема начинается там, где способность создавать правдоподобное продолжение принимают за доступ к истине. У нейросети нет внутреннего красного огонька, который обязательно включается перед вымышленной датой. Уверенный синтаксис ей доступен всегда.

Следующее слово появляется. Потом ещё одно. Через несколько секунд ошибка уже оформлена как законченный абзац.

Глава 3. Ошибаться полным голосом

Человеческая речь выдаёт сомнение множеством мелочей. Пауза, оговорка, осторожное «кажется», взгляд на документ. Нейросеть умеет воспроизводить все эти сигналы, но их наличие или отсутствие не является надёжным показателем точности. Она может сказать «возможно» перед верным фактом и без колебаний назвать несуществующий источник.

Это свойство особенно опасно в профессиях, где форма сама несёт вес. Учитель привык различать черновик ученика, методическую рекомендацию, приказ, учебную статью. У каждого текста свой голос и свой уровень доверия. Нейросеть умеет имитировать почти любой из них. Ошибка, написанная языком официального документа, выглядит серьёзнее обычной ошибки. Она получает чужую форму и вместе с ней — незаслуженный авторитет.

Для таких случаев используют слова «галлюцинация» или «конфабуляция». Оба термина неточны, потому что переносят на машину человеческие состояния. В книге мы будем говорить проще: выдуманный или искажённый результат. Система создаёт сведения, которых нет в надёжном источнике, смешивает разные документы, приписывает автору чужую мысль, меняет условие задачи либо достраивает пробел наиболее правдоподобным вариантом.

Причина не сводится к небрежности разработчиков или плохому запросу. Сам механизм генерации тянет систему к продолжению. Современная настройка может научить модель остановиться, попросить недостающие данные, отказаться от ответа или обратиться к инструменту, но это поведение не гарантировано в каждой ситуации. Если опоры не хватает, правдоподобное продолжение всё ещё может победить осторожность.

Ошибки бывают разными, и исправляются они тоже по-разному.

Самая заметная — чистая выдумка. Нейросеть называет книгу, статью, приказ или исследование, которых не существует. Иногда название складывается из реальных терминов и фамилий. Оно звучит настолько естественно, что человек ищет документ, меняет запрос, проверяет написание и лишь затем понимает: искать нечего.

Тоньше работает склейка. Система берёт номер одного документа, дату другого и содержание третьего. Каждая часть знакома, сочетание ложно. В школьной практике это опаснее откровенной фантазии: проверка по одному реквизиту может создать ощущение, что ссылка настоящая.

Есть ошибка подмены условия. Учитель просит переработать задание, сохранив проверяемое умение. Нейросеть упрощает текст — и заодно меняет само действие ученика. Вместо анализа появляется воспроизведение, вместо самостоятельного доказательства — выбор готового ответа. Материал стал доступнее, но учебная цель исчезла.

Есть ошибка согласия. Пользователь включает в вопрос неверное предположение, а система принимает его как часть задачи. Чем увереннее поставлен вопрос, тем легче не заметить подмену. Формулировка «почему новый порядок запрещает…» подталкивает к объяснению запрета, даже если такого запрета нет. Помощник, настроенный быть полезным и поддерживать разговор, иногда соглашается раньше, чем проверяет основание.

Наконец, есть ошибка уверенного обобщения. Нейросеть берёт частную практику, рекомендацию или решение одной организации и описывает его как общее правило. В образовании это происходит постоянно: локальное положение школы превращается в «требование законодательства», методический совет — в обязанность учителя, пилотный проект — в реформу для всей страны.

У всех этих случаев один неприятный признак: текст может быть качественным. В нём нет грубых грамматических сбоев. Логика абзаца выглядит последовательной. Иногда система сама приводит аргументы, подтверждающие выдуманное положение. Чем лучше написан ответ, тем больше дисциплины требуется от читателя.

Просьба «не выдумывай» полезна, но не создаёт гарантии. Фраза «используй только проверенные источники» тоже ничего не проверяет сама по себе. Если у системы нет переданных документов или надёжного доступа к внешним источникам, она работает с тем, что доступно в её знаниях и контексте. Если поиск, база документов или другие инструменты подключены, появляется новый слой проверки: что именно найдено, насколько источник надёжен, действует ли нужная редакция и не перепутаны ли проект, рекомендация и обязательная норма.

Поэтому в профессиональной системе проверяется не уверенность ответа, а его происхождение.

Для фактического утверждения должно быть понятно, на что оно опирается. Если речь идёт о законе или приказе, нужен первичный документ и действующая редакция. Если о содержании учебника — конкретный текст. Если о результатах класса — данные, которыми располагает учитель. Если система предложила собственную методическую конструкцию, её нельзя маскировать под официальную рекомендацию.

Так появляется дисциплина источников. Нейросеть должна отделять то, что извлечено из переданного материала, от собственного вывода и от предложения, созданного для обсуждения. В идеальном случае эти слои видны прямо в результате. Не потому, что читателю нравится формальность, а потому, что разные слои требуют разной проверки.

Например, система готовит справку о новом порядке организации учебного процесса. Правильный маршрут начинается не с просьбы «расскажи, что изменилось». Сначала учитель или ответственный специалист собирает первичные документы. Затем отдельный модуль извлекает положения с указанием пунктов. Другой сопоставляет даты вступления в силу. После этого текст переводится на обычный язык. Финальная версия сверяется с оригиналом.

Если попросить ту же систему сначала подготовить справку, а потом просто «проверить себя» без источников и критериев, получится слабая проверка. Второй ответ легко наследует исходные допущения, формулировки и слепые зоны первого. Модель способна заметить часть ошибок, особенно когда ей точно сказано, что искать, но общий вопрос «всё ли здесь верно?» не создаёт независимой экспертизы.

Снизить эту зависимость можно организационно, даже если используется та же модель. Проверяющий контур получает исходные материалы, результат генерации и узкий список рисков. Ему не поручают «оценить качество вообще». Например, он должен перечислить фактические утверждения, найти для каждого основание в источнике и отметить неподтверждённые места. Это всё ещё не независимая экспертиза в строгом смысле, зато учитель получает конкретные точки для собственной проверки вместо общего вердикта «текст корректен».

Такой подход медленнее одного клика. Он всё равно быстрее, чем исправлять ошибку после того, как документ разослан родителям или задание попало детям.

В учебных материалах цена фактической ошибки понятна. Но есть ещё методическая уверенность, которую труднее заметить. Нейросеть без труда выдаёт объяснение, почему предложенное упражнение развивает критическое мышление, формирует метапредметные результаты или соответствует возрастным особенностям. Такие формулировки могут описывать намерение автора текста, а не реальное действие ученика.

Если школьник должен переписать готовые доводы в нужном порядке, само слово «анализ» в инструкции не превращает работу в анализ. Если весь ответ легко получить из первого абзаца текста, задание не проверяет понимание темы, сколько бы уровней сложности ни было указано в заголовке. Здесь нельзя ограничиться поиском неверных дат. Нужен модуль, который смотрит на действие ученика.

В дальнейшем мы научим систему задавать неприятные вопросы: что ребёнок делает сам, где может угадать, какой ответ считается доказательством понимания, не подсказывает ли формулировка решение, не заменено ли содержание красивой педагогической лексикой. Эти вопросы защищают от ошибки, которую не найдёт обычная проверка фактов.

Есть соблазн решить проблему полным запретом: не использовать нейросеть там, где нужна точность. Это не создаёт культуру работы с инструментом. Доступ к генеративным системам существует за пределами конкретного урока и конкретной инструкции, а гладкий ответ от запрета не становится менее убедительным. Полезнее научить человека видеть зоны риска и проверять их по-разному.

Нам нужен навык спокойного недоверия: не подозрительность ко всему тексту, а привычка различать цену ошибки. Объявление можно проверить одним способом, контрольную работу — другим. Подготовку характеристики ученика при помощи внешней системы вообще нельзя свести к качеству формулировок: здесь появляются персональные данные, полномочия взрослого и права ребёнка.

Уверенность нейросети не должна пугать. Она должна перестать нас убеждать.

На экране стояло точное название приказа, дата и номер. Ссылка открывала другой документ. Учитель удалил абзац целиком, а не попросил сделать его ещё убедительнее.