ИИ. История машины, которая научилась говорить

Это важное отличие от привычной программы на правилах. В правилах логика может быть написана словами вроде «если A, то B». У обучаемого классификатора поведение возникает из числовой конфигурации. Порой она компактна и понятна; порой даже разработчику трудно объяснить вклад каждого параметра. У раннего перцептрона число параметров было небольшим по нынешним меркам, но уже сама идея распределённого представления ставила вопрос: можно ли сказать, какое знание хранится в какой связи?

Строго говоря, для корректного обучения недостаточно реагировать на ошибку как на факт. Нужно знать, в какую сторону менять веса и насколько сильно. Нужно также решить, когда остановиться и как проверить, что уменьшение числа ошибок не произошло только на уже виденных образцах. В простейших случаях геометрия даёт ясную процедуру: неверный пример подталкивает границу в нужном направлении. Но для сложных задач обучение превращается в инженерную дисциплину, где важны темп обновления, последовательность примеров, структура сети и точность обратной связи.

Поэтому лозунг «покажем машине примеры» лишь начало. Какие примеры? В каком порядке? Сколько раз? Кто поставит метки? Какой уровень ошибки допустим? Нужно ли считать два почти одинаковых образца одним классом? Не перепутала ли модель основной признак с фоном? На все эти вопросы отвечают люди и проект системы. Машина корректирует параметры внутри заданных рамок, но рамки определяют, какой вид ответа вообще возможен.

Ещё одна ловушка — считать, что обученная модель хранит точную копию каждого примера. Иногда модель действительно переобучается и запоминает детали тренировочных данных; в других случаях найденная граница позволяет переносить навык на новые образцы. Нельзя заранее сказать, что делает конкретная система, не проверив её на новых данных. Перцептрон тем самым рано поставил проблему, ставшую центральной для машинного обучения: как отличить обобщение от простого подражания обучающим примерам?

Демонстрация как эксперимент, а не чудо

Публичный показ обычно стремится быть коротким. Исследователь хочет, чтобы зрители увидели изменение до и после обучения; журналисту нужен понятный сюжет; организатору важно не тратить время на технические сбои. Поэтому демонстрация выбирает задачу, в которой результат можно быстро оценить. Отметка слева или справа подходила для этого лучше, чем распознавание незнакомой рукописи или разговор на естественном языке.

Но лабораторный результат нельзя понять по сценическому показу одному. Нужно знать, как были подготовлены карточки, что именно кодировалось, какие ответы считались правильными, сколько было учебных предъявлений и как проверяли незнакомые примеры. Популярный пересказ «после пятидесяти карточек научилась» звучит завершённо, хотя без определения обучающего набора не сообщает читателю, что модель обобщила. Одна и та же цифра может означать сильный результат для одной задачи и почти ничего для другой.

Такие ограничения не были секретом, известным лишь критикам. Розенблатт публиковал теоретические работы и рассматривал перцептрон как программу исследований, а не как готовую машину общего назначения. Но публичная аудитория часто не видела разницы между концептуальной перспективой и предъявленным результатом. Заголовок «компьютер учится» понятнее, чем описание условий эксперимента, и потому получает больше внимания.

Сходная проблема знакома исследователям сегодня. Демонстрация удобного примера может доказать, что система работает хотя бы в этом режиме; она не даёт автоматически измерения надёжности, устойчивости к новым условиям или поведения на исключениях. Необходимо различать «может сделать один раз», «может повторять на похожих примерах», «обобщает в заранее определённой области» и «способна справляться с открытым миром». Эти уровни иногда склеивают одним глаголом «понимает», но технически это разные утверждения.

Для исследователя публичная демонстрация была всё равно полезна. Она давала конкретный объект разговора: не абстрактное «может ли машина учиться?», а вычислительный процесс, который можно наблюдать и воспроизводить. Журналисты могли преувеличивать перспективу, но сама возможность переучить систему на примерах не была рекламной фантазией. Результат ограничен — и потому проверяем. Наука часто начинается именно с подобной узкой постановки, а не с решения самой широкой версии задачи.

Особенно ценно, что перцептрон легко объяснить через противопоставление ручному перечислению. Представьте, что нужно различать карточки с отметкой на одном из двух краёв. Можно написать отдельную инструкцию для каждого положения, размера и небольшого сдвига. Но число вариантов быстро растёт. Обучаемая система вместо этого меняет коэффициенты по примерам. Это не значит, что она автоматически справится с любым изменением изображения; значит только, что вместо списка случаев используется параметризованное правило, способное подстраиваться.

Этот переход — от ручного правила к настраиваемому механизму — и есть исторический масштаб эксперимента. Карточки сами по себе не впечатляют; впечатляет изменение способа задавать компьютерную работу. Вопрос «как запрограммировать каждый случай?» получает конкурента: «как определить архитектуру и научить её по образцам?» Эти вопросы останутся рядом в последующих десятилетиях, иногда соединяясь в одной системе.

Военные деньги и гражданская наука

Контекст финансирования важен, если не сводить его к единственной причине проекта. После Второй мировой войны государственные ведомства США расширяли поддержку фундаментальных и прикладных исследований. Военные системы генерировали большие объёмы информации, а интерпретация сигналов и изображений была очевидной технической трудностью. Поэтому государственные организации поддерживали разработки, которые могли расширить возможности обработки и анализа данных.

Корнеллская авиационная лаборатория находилась в подходящей среде для подобных задач. Она занималась инженерными исследованиями, где теория должна была встретиться с аппаратурой. Для перцептрона это было практически важно: психологическая идея требовала датчиков, электронных соединений и вычислительной инфраструктуры. Плата за оборудование, работа техников и время на настройку не появляются из одной интеллектуальной смелости. Их обеспечивает организация, способная финансировать долгую работу без немедленного потребительского продукта.

Office of Naval Research и Rome Air Development Center были среди организаций, связанных с поддержкой проекта. Но из наличия военного финансирования нельзя выводить конкретное военное применение там, где источники подтверждают лишь исследование модели восприятия и памяти. В истории науки слова «оборонное финансирование» иногда становятся коротким объяснением всего, хотя внутри грантовой программы могли соседствовать фундаментальные вопросы, инженерные прототипы и далекие прикладные ожидания.

И у финансирующего ведомства, и у лаборатории был свой язык ценности. Для науки важен вопрос: чему учит эксперимент? Для учреждения — какая задача может получить практическое применение и оправдать расходы? Для прессы — что из этого поймёт читатель сегодня? Один и тот же перцептрон можно было представить как математическую модель мозга, обучаемый распознаватель или аппарат с потенциалом военного значения. Это не три разных машины, а три разных рамки, каждая из которых выделяет одно измерение проекта и затеняет другие.

Поддержка давала возможность строить систему, но не гарантировала бесконечного терпения. Финансирование зависит от приоритетов, доказанных результатов, новых задач и институциональной конкуренции. Когда направление перестаёт соответствовать ожиданиям, ресурсы переходят к другой программе — не обязательно по злой воле и не обязательно после одного решающего отчёта. Научное поле живёт в экономике внимания: аспиранты идут туда, где видят перспективу, руководители формируют группы, ведомства выбирают проекты, а заметные публикации влияют на следующий выбор.

Именно поэтому поздний спад нельзя рассказать как месть Минского или как простое наказание Розенблатту за громкие обещания. Математическая критика имела значение; вычислительные трудности имели значение; конкуренция подходов и меняющийся климат финансирования тоже. Свести сложный переход к одной причине — значит сделать рассказ проще, а историю менее точной.

Почему правила снова казались лучшим ответом

Когда обучаемые модели столкнулись с пределами, символьные программы не выглядели устаревшим заблуждением. Они решали задачи, где знания можно было представить явно: логические выводы, шахматные ходы, математические выражения, планирование. Если эксперт способен сформулировать условие, компьютер может применить его точно и многократно. В такой системе легче указать, какой шаг привёл к ответу, и легче исправить неверное правило.

Это не означает, что символические методы победили потому, что нейросети ошиблись. Разные программы исследований преуспевали на разных типах задач. Перцептрон был привлекателен там, где признаки трудно перечислить вручную и можно собирать примеры. Символический подход был удобен там, где структуры и отношения можно описать через формальные правила. В реальных интеллектуальных задачах часто встречаются оба вида сложности: есть регулярности, которые лучше извлекать из данных, и ограничения, которые люди могут ясно сформулировать.

Ретроспективно легко представить, что учёные могли просто сложить методы вместе. Но исследовательская среда не была супермаркетом с готовыми компонентами. Архитектура нейросети, обучение многослойной структуры, быстрые вычисления и доступные массивы данных ещё не были собраны в практическую комбинацию. А символические программы уже показывали результаты на задачах, которые можно было описать и проверять. Выбор направления зависел от того, какие вопросы казались решаемыми на существующей технике.

Был и психологический контраст. Правила можно было «прочитать» и обсудить, веса нужно было исследовать статистически. Для учреждения, которому важно понимать, почему система дала ответ, явный код казался более управляемым. Для машинного обучения оставался трудный вопрос: как убедиться, что модель опирается на нужные признаки и будет вести себя устойчиво за пределами лабораторного набора? Этот вопрос не исчез с ростом вычислительных мощностей — он по-прежнему сопровождает обучаемые системы.

В следующей главе появится необычный пример именно символического подхода. ELIZA не будет искать веса по примерам и не будет копировать работу мозга. Её ответы будут сформированы людьми заранее: набором ключевых слов, шаблонов и операций над текстом. Это покажет, что программа может выглядеть внимательно даже без механизма перцептрона. И тогда спор о вычислении перейдёт в спор о том, что люди готовы считать пониманием.

Восприятие как задача, а не метафора

Для психолога слово «восприятие» означало не только способность назвать предмет. Это был вопрос о том, как организм организует неоднородный сигнал и выделяет в нём устойчивое. Один и тот же предмет меняет вид при повороте, удалении, разном освещении; один и тот же контур может быть представлен с пропусками или шумом. Человек обычно не замечает, сколько вариантов он мысленно объединяет в категорию. Компьютер же получает конкретный массив значений и должен работать с тем представлением, которое ему передали.

У перцептрона это различие было особенно явным. Фотодатчик регистрирует интенсивность света в своей точке. Несколько сотен датчиков могут дать грубую карту: где светлее, где темнее. Но сам сигнал ещё не является предметом, буквой или намерением человека. Чтобы система различала категории, кто-то должен решить, какие изображения составляют примеры одной категории и какое соотношение между ними полезно считать существенным.

Это можно показать на двух написанных от руки буквах. Человеку очевидно, что слегка наклонённые варианты «А» всё ещё одна буква. Однако для сетки светочувствительных ячеек сдвиг линии на несколько ячеек меняет конкретные сигналы. Чтобы машина сохраняла категорию при изменениях, она должна иметь подходящую архитектуру, обучающие примеры или оба условия сразу. Если показать только один образец, система может выучить его расположение, но не правило, которое человек считает «буквой А».

Здесь кроется разница между низкоуровневым сигналом и семантическим смыслом. Перцептрон обрабатывает сигналы, которые закодировали люди, и выдает класс, который назначили люди. Это может быть полезная классификация. Но нельзя перескочить от неё к утверждению, что машина видит тот же объект и приписывает ему тот же смысл, что наблюдатель. Даже когда ответ системы совпадает с человеческим, путь к этому ответу может быть совершенно иным.

Розенблатт выбрал зрительное восприятие как область, где такой вопрос можно было материализовать. Свет можно измерить датчиком, изображение можно разбить на элементы, ответ можно проверить. Это сильная исследовательская стратегия: начать с достаточно определённого входа и формализуемого результата, а затем спрашивать, какие принципы масштабируются на более сложные задачи. Но зрительная «простота» обманчива. Даже маленькая сетка чувствительна к тому, как расположены примеры, а разнообразие реального мира почти сразу раздувает число возможных сочетаний.

Из-за этого Mark I полезно представлять не как робота с глазами, который смотрел на всё подряд, а как экспериментальную систему, получавшую заранее подготовленный материал. Такое описание менее кинематографично, зато отвечает на научный вопрос. Когда речь идёт о машинном распознавании, всегда следует спросить: что было сенсором, что считалось объектом, как формировались категории и на каких случаях проверяли вывод?

Обещание и масштаб реального результата

В публикациях и газетных текстах о перцептроне сталкивались три разных масштаба времени. На коротком горизонте были уже существующие эксперименты: входные данные, корректировка связей и проверяемая классификация. На среднем — построение Mark I, испытания дополнительных моделей и переход от плоской карточки к более сложным сигналам. На дальнем — возможность машин, которые воспринимают мир, адаптируются и выполняют задачи, требующие сейчас человеческого участия. При пересказе эти горизонты часто превращались в одну фразу о машине будущего.

Полезно держать их раздельно, потому что каждое обещание требует своей проверки. Машина могла быть обучаемой, но обучаемость сама по себе не гарантирует широкого набора навыков. Успешная классификация на ограниченной задаче не гарантирует надёжности на новых условиях. И даже высокая точность не доказывает, что система использует человеческое объяснение категории. Это не придирки постфактум; это разные уровни технического утверждения.

Розенблатт сам говорил о перспективах, выходивших за пределы показанных карточек. В эпоху, когда компьютеры только становились объектом массового внимания, именно такие высказывания делали новую идею доступной. Журналист мог пересказать её без диаграмм; читатель видел связь с собственным опытом — ребёнок учится отличать формы, человек узнаёт букву после нескольких примеров. Сравнение помогало понять задачу, но могло спрятать различие в масштабе и устройстве обучения.

Например, младенец не получает набор размеченных карточек от преподавателя и не начинает с сенсорной сетки, построенной конструктором. Его обучение связано с движением тела, звуком, вниманием, социальным взаимодействием и миллионами повторений в непрерывном мире. Перцептрон получал искусственно подготовленный сигнал в лабораторной процедуре. Сравнение «как ребёнок» помогает сформулировать цель, но не является доказательством сходства процесса.

При этом широкие аналогии сыграли конструктивную роль. Они позволяли поставить задачу, которую инженерное сообщество иначе могло не считать вычислительной. Если память и распознавание можно описать как связи, то возможно ли построить электронную систему с похожими принципами? Если обучение меняет соединения, можно ли реализовать это в аппаратуре? Ответ был не в том, что человека заменили машиной, а в том, что некоторые элементы обучения можно было перенести в вычислительную процедуру.

Это и есть осторожная оценка ранней амбиции: Розенблатт увидел направление, которое оказалось важным, но не мог заранее знать весь набор условий, без которых оно не станет масштабируемой практикой. Иногда исторический вклад состоит не в том, чтобы предсказать готовый продукт, а в том, чтобы дать будущим исследователям точную проблему и работающий первый инструмент. Перцептрон был в этом смысле началом разговора, а не его окончательным ответом.

Чему учит карточка

Карточка с меткой была одновременно входом и маленьким договором между человеком и машиной. Человек сообщал: вот изображение, а вот категория, к которой оно относится. Система подстраивалась под этот договор. Если исследователь менял правило маркировки, менялся и смысл «правильного» ответа. Внешне машина всё так же сортировала карточки, но задача, которую она решала, определялась человеческой разметкой.

Это кажется очевидным, пока не перенести идею на более сложные примеры. Когда в наборе есть изображения предметов, кто решает, что считать чашкой: сосуд с ручкой, стакан без ручки, чашку с трещиной, чашку в рекламе? Когда два специалиста расходятся в категории, модель получает не естественную истину, а след конкретного соглашения или институциональной практики. Перцептрон 1958 года не сталкивался с современными спорами об огромных наборах данных, но уже демонстрировал базовое устройство обучаемой классификации: чтобы система «училась», люди должны были превратить желаемый ответ в метку, понятную процедуре.

Есть также разница между числом примеров и разнообразием опыта. Пятьдесят карточек могут содержать пятьдесят почти одинаковых случаев. Это много предъявлений и мало нового. Десять тщательно подобранных вариантов могут проверить больше различий, чем сотни повторов одного шаблона. Поэтому вопрос «сколько примеров нужно?» нельзя решить одной цифрой: важны их вариативность, репрезентативность и соотношение с будущими случаями.

В 1950-х эти вопросы обсуждались не под современными названиями практики данных, но они не были чужды исследовательской логике. Чтобы сказать, чему научилась система, необходимо описать, чему её учили. Чтобы сравнить варианты, нужно менять условие контролируемо: один набор входов, другой набор весов, одинаковый критерий проверки. Машинное обучение с самого начала было не только вычислительным методом, но и способом поставить эксперимент.

Тут появляется человеческая цена, которую легко упустить в рассказе о «самообучающейся машине». Чем больше система зависит от примеров, тем важнее работа по их подготовке и проверке. В ранней лаборатории это могли быть карточки, датчики и часы ручной настройки. В более поздних проектах масштаб вырос, но зависимость не исчезла. Автоматизация классификации не автоматизирует решение о том, какие категории важны, какие ошибки допустимы и кто будет отвечать за последствия неверного ответа.

Поэтому перцептрон полезно помнить не только как предка современных моделей, но и как ранний урок о разделении труда. Машина рассчитывает границу; люди определяют пространство, где граница имеет смысл. Такой вывод не отменяет технического достижения. Он точнее описывает его: обучение позволило алгоритму менять параметры и находить различия, но цель, критерии и наблюдаемый мир оставались человечески сконструированы.

Розенблатт и жизнь исследования

Фрэнк Розенблатт погиб в 1971 году, в возрасте сорока трёх лет. Его смерть иногда превращают в слишком удобный финал: пионер умер, не дождавшись нейросетевого возрождения. Но такое описание делает его биографию прологом к будущей славе, а не самостоятельной научной работой.

Он не построил уменьшенную версию современных больших моделей, не предсказал точный облик глубокого обучения и не решил проблему интеллекта. Он предложил важную линию исследования, создал математические модели, руководил экспериментами и помог публично сформулировать вопрос об обучении связей. Многие его надежды остались гипотезами; часть идей сохранила значение потому, что последующие исследователи вернулись к ним в совершенно других условиях.

И сам перцептрон не исчез в один день. Нейросетевые эксперименты продолжались, иногда под другими названиями и в отдельных исследовательских группах. Параллельно росли статистические методы распознавания, развивались символические системы, алгоритмы поиска и экспертные базы знаний. История не была пустой паузой между Mark I и возрождением нейронных сетей. Она была конкурентной средой, в которой разные подходы получали разные задачи и бюджеты.

Поэтому связь с современными моделями правильнее проводить не через буквальную преемственность корпуса машины, а через принцип. В обучаемых системах параметры меняются по данным и обратной связи. Современные модели работают на иных архитектурах, иных объёмах данных и вычислений, учатся на гораздо более сложных задачах. Между ними и Mark I нет прямой линии, где каждый шаг гарантированно ведёт к нынешним результатам. Есть идея, к которой разные поколения возвращались, меняя и теорию, и оборудование.

От лабораторного времени к историческому

Лаборатория работала в другом ритме, чем нынешняя индустрия программного обеспечения. Устройство нельзя было обновить удалённо; изменить вход значило подготовить новые материалы, подключить датчики и проверить цепи. Даже если общая идея казалась простой, испытание требовало коллективной ручной работы. Это ещё одна причина не путать математическую краткость с инженерной лёгкостью. Несколько строк формулы могут описывать систему, на изготовление и настройку которой уходили месяцы.

В то же время аппарат не был концом этой истории. Модель можно было запускать на IBM 704; отдельная версия воплощалась в Mark I; другие исследователи могли проверять теорию на собственных схемах и задачах. У перцептрона не было единственной формы, и его значение не зависело исключительно от того, насколько хорошо работал один музейный экземпляр. Идея расходилась через статьи, отчёты, доклады и критику. В этом отношении она была одновременно машиной, математической программой и предметом спора.

Когда позднее нейросети вернулись в центр внимания, они не просто включили старый аппарат и продолжили прерванный эксперимент. Поменялись сами средства: цифровые вычисления, методы обучения, объём данных и структура моделей. Историческая связь проходит через исследовательский вопрос — как система может извлекать регулярности из примеров, — а не через прямую передачу готового решения от одного поколения к другому.

Такой тип преемственности менее эффектен, чем легенда о пророке, опередившем время, зато точнее. Розенблатт не знал, каким станет глубокое обучение; позднейшие инженеры не получили от него чертёж современных сетей. Между ними лежит работа многих поколений, иногда продолжавших, иногда критикуя, а иногда заново формулируя похожую проблему. Перцептрон оставил не устройство, которое нужно было лишь дождаться, а направление, для которого ещё предстояло собрать теорию, технику и данные.

После карточки

Mark I Perceptron теперь хранится в Национальном музее американской истории Smithsonian. Музейный экспонат напоминает, что ранний ИИ был физическим: фоточувствительные элементы, схемы, переключатели, шкафы и люди, которые должны были подключить всё это так, чтобы эксперимент состоялся. Увидеть аппарат — значит заметить разницу между образом «искусственного мозга» и инженерной работой по созданию конкретной обучаемой системы.

Путь от июльской демонстрации 1958 года до современных моделей не был прямым и не был неизбежным. Одни обещания перцептрона оказались слишком широкими; некоторые ограничения были математически доказаны для конкретных моделей; практические инструменты для обучения более сложных сетей сложились позднее. Но остался вопрос, который не умещался в спор о газетных заголовках: может ли система приобрести полезное поведение, если ей показывать примеры и корректировать ошибки, а не выписывать полный список правил заранее?

На этот вопрос можно было ответить не только нейронной сетью. В следующей истории появится программа, устроенная почти противоположным образом. Она не будет менять сеть связей после каждой реплики: человек заранее задаст ключевые слова, шаблоны и правила обработки фраз. Но в разговоре с ней пользователи увидят не только программу, но и собственную готовность приписывать машине больше понимания, чем в ней заложено. Её будут звать ELIZA.

Глава 5. Программа, которая умела слушать