ИИ. История машины, которая научилась говорить

Число 38 также не означает, что остальные четырнадцать теорем были неверными или недоказуемыми. Как показывает пример теоремы 2.31, программа могла исчерпать свой поиск, не найдя доказательства. Её эвристики были неполными: они направляли поиск к многообещающим вариантам, но не гарантировали, что в каждом случае путь будет найден. Кроме того, результат зависел от того, какие ранее выведенные теоремы система могла использовать. Накопленные доказательства расширяли её арсенал.

Понятие «первый успешный ИИ» поэтому полезно только как историческая метка с оговорками. У Logic Theorist была конкретная задача, конкретный формализм и конкретный набор ресурсов. Она не умела читать произвольную математическую статью, самостоятельно выбирать аксиоматику, доказывать каждое утверждение или объяснять его человеку обычным языком. Она демонстрировала возможность машинного поиска доказательств и моделирования некоторых стратегий решения задач. Это много — именно потому, что мы не приписываем ей больше.

Демонстрация также не зависела от того, победила ли машина человека в прямом соревновании. Её целью не был турнир, где один математик решает задачи, а компьютер должен получить более высокий счёт. Исследователи тестировали гипотезу о том, что процесс решения можно представить как программу и исследовать опытным путём. Успех состоял в том, что система действительно производила доказательства, а исследователи могли анализировать и улучшать процедуру.

С этой точки зрения, ограничения программы были не провалом замысла, а частью результата. Она помогла увидеть, какие элементы формальной задачи легче автоматизировать, как быстро растёт поиск, почему нужны эвристики и что приходится задавать вручную. Если бы Logic Theorist доказала все теоремы без единой ошибки, это всё равно не решило бы вопрос о мышлении в общем. А её реальные неудачи позволили поставить более содержательные вопросы о границах подхода.

Сильная демонстрация в очень узком мире

У формальной логики есть необычное преимущество: мир уже подготовлен к вычислению. Теоремы записаны в символах, правила перечислены, цель известна. Программа не должна видеть страницу, переводить человеческую речь в формулы или решать, какие детали ситуации важны. Большую часть трудной работы по постановке задачи выполняли люди до запуска системы.

Рассмотрим бытовую инструкцию: «Положи чашку на стол, который не шатается». Чтобы выполнить её, человек должен определить, какая чашка имеется в виду, найти стол, понять, что считается шатанием, оценить расстояние, поднять предмет и заметить, если стол занят. В формальной системе все объекты и отношения уже записаны в допустимом языке. Вход не приходит в виде потока неясных слов и сенсорных сигналов; он появляется как тщательно подготовленная формула.

Поэтому способность доказывать теоремы не переносится автоматически на открытые задачи. В доказательстве заранее известен набор разрешённых операций. В реальной жизни часто сначала надо понять, какие операции вообще уместны. В логике программа проверяет структуру символов. В разговоре те же слова могут менять смысл из-за контекста, интонации, общего прошлого и неполноты фразы. Формальный успех не отвечает на вопрос, способна ли машина построить правильное представление сама.

Эта граница не уникальна для Logic Theorist. Почти всякая сильная программа сначала получает задачу в более аккуратной форме, чем ту, с которой сталкивается человек. Для автоматизации важна не только сила алгоритма, но и труд по преобразованию реальности в формат, где алгоритм может действовать. Если не учитывать эту подготовку, система кажется автономнее, чем она есть.

Но узость задачи одновременно была преимуществом эксперимента. Когда программа ошибалась, исследователи могли отследить ход поиска и понять, связано ли затруднение с применением правил, выбором подцели или ограниченным ресурсом. В открытой среде причин сбоя было бы слишком много: неверно распознанный объект, неполный контекст, двусмысленное указание или неудачная последовательность действий. Сначала нужно было получить работающий результат в мире, который возможно контролировать.

Так Logic Theorist воплощала характерный обмен. Чем точнее ограничена задача, тем убедительнее можно проверить способность машины; чем шире и ближе задача к повседневной человеческой деятельности, тем меньше заранее известных правил и тем труднее установить, что именно программа поняла или сделала. Это не дилемма с одним правильным ответом. Исследователям нужны были и чистые эксперименты, и способы постепенно расширять их границы.

Позднее этот метод назовут символическим подходом: знания и задачи в нём представлены символами, связями и явными правилами. Logic Theorist была особенно наглядным примером, поскольку работала с формулами и операциями над ними. За пределами формальной логики обнаружится следующая трудность: повседневная деятельность опирается на огромное количество фактов, правил и исключений, которые сложно перечислить заранее. В 1956 году команда показывала, что программа может искать в пространстве формальных рассуждений, а не только выполнять числовые вычисления.

После доказательства остаётся вопрос о разуме

Logic Theorist поставила старый спор о машинном разуме на новую основу. Одни могли счесть корректное доказательство признаком рассуждения; другие — указать, что программа манипулирует символами без человеческого понимания их значения. Результат не обязывал принять одну философскую позицию.

И это нормально. Термин «интеллект» охватывает разные вещи: способность решать задачи, знание, адаптацию, понимание, сознательный опыт. Logic Theorist свидетельствовала об одной способности — поиске формальных доказательств. Она не давала оснований считать, что система обладает всеми свойствами, которые человек связывает с математиком. Чтобы утверждение было честным, его нужно соразмерять с задачей, на которой получено доказательство.

Фраза «программа понимала логику» требует уточнения. Она хранила формулы, выполняла правила и находила проверяемые выводы. Назвать такую работу пониманием или вычислением — вопрос о том, какие признаки мы считаем достаточными для понимания. Технический отчёт не может решить философскую проблему одним словом.

Сила ранней программы как научного события состояла в переходе от общего спора к конкретным наблюдениям. Система перебирала варианты, строила последовательности вывода, находила одни теоремы, не справлялась с другими и порой предлагала путь, неожиданный для разработчиков. Обсуждение машинного мышления теперь могло опираться на поведение работающей системы.

Есть риск качнуться в любую крайность. Если объявить программу просто механическим трюком, исчезает реальный результат: она действительно производила доказуемые цепочки, и эти операции можно было исследовать. Если объявить её математиком в полном человеческом смысле, исчезают ограничения: система зависела от подготовленной формальной среды, заданных правил и написанной людьми процедуры. Точнее удерживать обе части: способность была реальной, а общий вывод о разуме — открытым.

Такой способ разговора и сегодня важен. Когда алгоритм выполняет полезную работу, можно признать эту способность, не приписывая ему сознание. И можно исследовать механизм, не отказываясь от больших вопросов. Logic Theorist не заставила философов закрыть спор. Она сделала его предметным и дала инженерам новый объект для экспериментов.

От программы к исследовательской программе

В 1956 году Ньюэлл и Саймон представили Logic Theorist как «сложную систему обработки информации». Заголовок подчёркивал не мистику разума, а инженерное устройство: программа получает формальные выражения, проводит над ними операции и строит последовательность, которая может стать доказательством. Публикация в журнале по теории информации сообщала специалистам, что произошло, но сама по себе не делала систему общепринятым объяснением мышления.

В 1957 году Ньюэлл, Шоу и Саймон описали серию экспериментов с программой и рассмотрели эвристики как предмет исследования. Теперь читатель видел не только общее описание машины, но и примеры её поведения: какие теоремы она находила, где терпела неудачу, что означает гарантия решения и почему простой перебор становится неприемлемым. Это важное изменение жанра. Идея уже не оставалась частным замыслом трёх исследователей: она превращалась в программу опытов, которую можно обсуждать, критиковать и расширять.

В Дартмуте проект получил аудиторию, но не там впервые возник. Ньюэлл и Саймон уже вели работу, а команда располагала и программой, и первыми результатами. Презентация на летней встрече показала участникам, что формулировка предложения 1955 года может означать конкретную программу. Вместо общего обещания «изучать интеллект» можно было указать на работающую систему, рассказать, как она ищет доказательство, и предъявить результат для проверки.

Демонстрация не была исчерпывающим доказательством того, что машинный интеллект создан. Участники Дартмута увидели один исследовательский подход. Его значение — в следующем шаге: выяснить, какие ещё задачи можно представить через эвристический поиск и можно ли распространить программный метод за пределы доказательства теорем.

Команда вскоре двинулась в этом направлении. General Problem Solver — «универсальный решатель задач» — пытался работать не только с теоремами, но и с различными проблемами, используя более общие стратегии вроде анализа различия между текущим состоянием и желаемой целью. Это не означает, что программа стала универсальной в буквальном смысле или могла решать любую человеческую задачу. Название выражало амбицию искать более переносимый способ постановки подцелей и выбора действий. Logic Theorist стала для этой линии ступенью: проект помог выработать язык, идеи и исследовательский метод.

Тот переход был одновременно логичным и рискованным. Успех на одной задаче подталкивает расширить подход, но правила, удобные в формальной логике, не обязательно работают в повседневном мире. Чем шире задача, тем больше неясностей появляется до начала поиска: что считать исходным состоянием, как представить цель, какие действия доступны, чем измерять продвижение. Программа, созданная для небольшой системы формул, не могла просто взять с собой все правила и ожидать, что мир будет столь же аккуратно устроен.

Для молодой области это была продуктивная проблема. Logic Theorist демонстрировала, что программу можно изучать по внутреннему процессу, а не только по ответу. Ошибки и успехи становились данными, которые могли изменить следующую версию. То, что компьютер быстро доказывал некоторые формулы и не справлялся с другими, позволяло ставить более точные вопросы о представлениях, эвристиках, памяти и вычислительных затратах.

Машина вывела формулу. Учёные должны были вывести границу

Сила Logic Theorist не в том, что программа завершила философский спор о разуме. Её сила в том, что она заставила спор учитывать реальную работу машины. Компьютер выполнял процедуру поиска, выдавал доказательство, терпел неудачу в конкретных условиях, а люди могли проверить его результат и разобрать путь.

Это достижение имеет точные границы. Программа не выбирала собственную математическую проблему, не читала естественный язык Principia Mathematica и не оценивала, какие теоремы важны для науки. Люди формализовали вход, подготовили правила и разработали механизм. Внутри этой рамки программа делала больше, чем печатала заранее заданный ответ: она строила последовательность вывода и иногда находила неожиданный маршрут. Оба утверждения верны одновременно.

Эта двойственность и делает раннюю программу интересной сегодня. С одной стороны, она показывает, как много может дать точное представление задачи: символы, операции и критерии проверки создают пространство, где компьютер способен выполнять работу, прежде считавшуюся исключительно человеческой. С другой — напоминает о скрытом труде, который предшествует вычислению. Нужно решить, какие сведения превращаются в символы, какие отношения кодируются, какие правила доступны и какие результаты будут засчитываться.

Логика удобна для автоматизации благодаря явным правилам. В задачах с неформализованными знаниями и меняющимися условиями машине труднее выбрать представление. Logic Theorist обозначила эту границу: дальнейшие исследования будут проверять, задаёт ли человек правила системе или та способна выделять закономерности из примеров.

Следующая глава перейдёт к перцептрону, который предлагал иной путь. Исследователи изучали сеть простых вычислительных элементов, меняющих параметры по примерам, вместо программирования каждого шага доказательства вручную. Перцептрон не решал те же задачи, что Logic Theorist; он проверял, способна ли машина научиться различать объекты, корректируя поведение по ошибкам.

За этим переходом скрывается не простая смена старого подхода на новый. Logic Theorist показала силу явных правил и управляемого поиска. Перцептрон исследовал обучение и настройку по данным. Одна линия пыталась точно записать, что системе нужно делать; другая — выяснить, можно ли получить нужное поведение из множества простых изменений. В следующих главах эти направления будут пересекаться, спорить и менять свои роли.

Дартмутское название объединило их прежде, чем появилась общая теория, объясняющая, как они связаны. Logic Theorist стала одним из первых убедительных ответов на вопрос, может ли компьютер выполнить работу, связанную с рассуждением. Она не сказала, что такое интеллект целиком. Но после неё исследователям уже не нужно было обсуждать машинное рассуждение только как далёкую возможность: перед ними были программа, её шаги, её успехи и её пределы.

Глава 4. Нейрон без мистики

В июле 1958 года в зале сидели журналисты, перед ними стояла машина размером с комнату, а рядом лежала стопка перфокарт. Фрэнк Розенблатт показывал, как система различает, с какой стороны карточки напечатана отметка. После примерно пятидесяти предъявлений она стала чаще выбирать правильный ответ.

У демонстрации было два названия, и между ними — важная разница. Перцептрон запускался на IBM 704, большом компьютере, который обрабатывал перфокарты. Специальную машину, Mark I Perceptron, ещё только создавали. Позднейшие рассказы нередко слили программную демонстрацию и отдельный аппарат в один эффектный эпизод: будто журналисты уже видели работающий электронный глаз, самостоятельно научившийся читать. В действительности событие было скромнее и интереснее. Розенблатт показал не искусственного человека в шкафу, а вычислительный способ, который менял параметры под действием опыта. Mark I стал следующим шагом, материальным воплощением той же исследовательской программы.

Различие важно. Оно позволяет увидеть, что именно произошло в 1958 году — и не требовать от этого события невозможного. Перцептрон не понимал карточки, не узнавал предметы в человеческом смысле и не обладал собственными целями. Он решал задачу классификации: относил заданный вход к одному из классов. Новизна состояла в способе получить правило разделения. Вместо того чтобы вручную прописать ответ для каждого варианта, исследователь давал системе примеры, а та корректировала числовые связи между входом и ответом.

За этим скромным изменением скрывалась большая ставка. А что, если часть правил не нужно записывать по одному? Можно ли построить машину, которая находит их по опыту?

От доказательства к обучению

Предыдущая глава закончилась программой Logic Theorist. Она искала доказательство в пространстве формальных правил: брала утверждение, применяла разрешённые преобразования и проверяла, ведут ли они к нужной цели. Такой подход был мощным, но требовал, чтобы человек заранее задал язык задачи и правила перехода между выражениями.

Перцептрон предлагал другой способ действовать. Не перечислять машине все признаки, по которым левую отметку нужно отличить от правой, а показать набор примеров и позволить системе подобрать числовое разделение. Это не отменяло человеческого проектирования: люди по-прежнему задавали вход, классы и процедуру обучения. Но часть решения теперь находилась не в тексте программы, а в настройках, которые менялись во время работы.

Это различие звучит привычно, потому что сегодня мы часто встречаемся с обученными моделями. В 1950-х идея ещё не была повседневностью. Компьютер обычно воспринимали как исполнителя точной последовательности команд. Если нужно получить другой результат, меняют инструкцию. Розенблатт исследовал механизм, у которого программа задаёт процесс, а конкретные числовые параметры складываются из опыта.

Здесь полезно сразу договориться о словах. «Нейронная сеть» — не цифровая копия мозга, не сознание из проводов и не обязательно сложная система. В простейшем виде это набор вычислительных элементов, каждый из которых получает числовые сигналы, объединяет их и выдаёт результат. «Вес» — число, показывающее, насколько сильно один сигнал влияет на следующий. «Обучение» означает, что некоторые веса меняются по заданной процедуре, чтобы ответы на примеры становились точнее.

Само слово «нейрон» напоминает о биологии, но аналогия ограничена. Живые клетки передают сигналы в сложной химической и электрической среде; они меняют связи по множеству механизмов, работают во времени и встроены в тело. Перцептрон был математической моделью некоторых общих идей о сигнале, связи и адаптации. Его не следует принимать за реалистичный чертёж мозга. И всё же аналогия дала исследователям продуктивный вопрос: можно ли получить распознавание из взаимодействия множества простых элементов, не прописывая каждую реакцию отдельно?

Как простая модель выбирает

Представим плоскую карту и две группы точек. Одни обозначают карточки с меткой слева, другие — с меткой справа. Если превратить изображение в числа, у каждого примера появится набор входных значений. Самая простая модель придаёт каждому входу свой вес, складывает результаты и сравнивает сумму с порогом. Если сумма выше порога, она выбирает первый класс; если ниже — второй.

Геометрически это похоже на линию, которая разделяет карту на две области. Все точки по одну сторону получают одну метку, точки по другую — другую. В пространствах с большим числом входных признаков вместо линии возникает гиперплоскость — граница, которую трудно нарисовать, но легко задать формулой. Эта граница и есть краткий ответ модели на вопрос «как различать классы?».

Сначала веса могут быть выбраны случайно или заданы исследователем. Затем система получает пример и выдаёт ответ. Если ответ неверный, правило обучения меняет веса, двигая границу так, чтобы следующий похожий пример получил правильный класс. В простом учебном варианте можно вообразить, что каждому входу начисляют небольшой числовой «голос»: сигнал, связанный с нужным ответом, усиливают, а ошибочно поддержавший выбор ослабляют. Это лишь наглядная версия принципа; конкретные ранние перцептроны и разные алгоритмы обучения не сводятся к одной современной формуле.

Важный момент — система не получает готовое объяснение «почему слева». Она получает указание, какой ответ требовался для предъявленного примера, и корректирует числовую конфигурацию. После серии примеров веса могут кодировать закономерность, которую инженер не записывал в виде обычного правила. Зато по одному лишь набору весов не всегда легко пересказать эту закономерность человеческим языком.

У такого обучения есть естественная граница. Если два класса действительно можно разделить подходящей прямой или гиперплоскостью, однослойный перцептрон способен найти такую границу при определённых условиях и достаточно хороших данных. Если правильное решение требует более хитрого разделения, один слой бессилен. Проблема не в том, что машине не хватило старания. Ей просто дали геометрическую форму, которая не может выразить нужное правило.

Розенблатт интересовался не только распознаванием отдельных карточек. В его работах «перцептрон» обозначал целое семейство моделей и машин, призванных изучать связь восприятия, памяти и действия. Поэтому полезно разделять три вещи: идею адаптивных сетей, математическое описание в его статьях и конкретное устройство Mark I. Они связаны, но не тождественны. Когда газетный заголовок обещает «машину, которая учится», читатель может представить единое устройство с одной понятной схемой. В лаборатории же были отчёты, варианты сетей, программы и аппаратные эксперименты.

Психолог в авиационной лаборатории

Фрэнк Розенблатт пришёл к перцептрону через психологию. Он учился в Корнеллском университете, окончил его в 1950 году, а докторскую степень по психологии получил в 1956-м. Его интересовали восприятие, обучение и память — то есть вопросы, которыми занимаются психологи, физиологи и философы, а не только инженеры.

В Корнелле Розенблатт работал с вычислительным анализом данных и ещё до перцептрона разрабатывал Electronic Profile Analyzing Computer — систему, предназначенную для статистического анализа психологических профилей. Это не была ранняя нейросеть в сегодняшнем смысле. Но этот опыт показывает, что компьютер для него был не просто быстрым калькулятором. Он искал способы формализовать сложные явления, которые нельзя было свести к одной арифметической операции.

Затем его работа продолжилась в Корнеллской авиационной лаборатории в Буффало. В названии учреждения слышится отрасль, далёкая от психологии, но послевоенная наука регулярно соединяла исследования мозга с задачами обороны. Военные и государственные организации вкладывали средства в радары, навигацию, обработку сигналов и интерпретацию изображений. Специалистам приходилось быстро разбирать множество визуальных данных; естественным становился вопрос, нельзя ли часть распознавания поручить вычислительной машине.

Это институциональное окружение объясняет, почему абстрактный вопрос об обучении получил бюджет, инженеров и возможность построить оборудование. Office of Naval Research (Управление военно-морских исследований США) и Rome Air Development Center финансировали работу над Mark I. Но неверно превращать этот факт в сюжет, будто военные заказали готового автономного разведчика или машина сразу имела прикладную боевую функцию. Исследовательская программа изучала модели восприятия и памяти и возможность их аппаратной реализации; потенциальные применения лежали впереди и не совпадали с тем, что устройство реально умело в лаборатории.

В 1957 году Розенблатт выпустил технический отчёт «Перцептрон: воспринимающий и распознающий автомат». Через год в журнале Psychological Review вышла более теоретическая статья, где он описывал перцептрон как вероятностную модель для хранения и организации информации в мозге. Это были разные типы текстов. Отчёт обсуждал техническую осуществимость и проектную программу; статья связывала формальный аппарат с вопросами психологии. В обоих случаях он пытался не доказать, что мозг уже разгадан, а построить модель, на которой можно проверять гипотезы о том, как простые связи могут поддерживать обучение.

Розенблатт был необычным посредником между лабораторией и публикой. Он мог говорить о математике, психологии и будущих применениях. Такое положение помогает понять ранний оптимизм: он видел в перцептроне не только один алгоритм классификации, но и направление исследований. Одновременно широкая амбиция делала особенно важным различие между тем, что аппарат демонстрировал, и тем, что ещё предстояло выяснить.

IBM 704 и стопка карточек

Вернёмся в июль 1958 года. Журналисты собрались на демонстрацию, организованную при участии Office of Naval Research. Перед ними был не современный экран и не маленький настольный компьютер, а IBM 704 — машина весом в несколько тонн, занимавшая большое помещение. Данные поступали на перфокартах, где отверстия кодировали информацию для компьютера.

Задача была зрительно простой: различать карточки, на которых отметка стояла слева или справа. Класс определялся положением небольшого элемента, а не богатым содержанием картинки. После примерно пятидесяти учебных примеров программа стала выполнять это различение. Публика увидела, как компьютер изменяет свою работу на основании примеров, вместо того чтобы механически выполнять один заранее написанный ответ для каждой карточки.

В газетной истории здесь возникло расхождение между скоростью заголовка и скоростью постройки. Позднейшая колонка The New Yorker специально уточняла: продемонстрированная система пока была смоделирована на IBM 704; специализированный Mark I ещё не был готов. Физический перцептрон создавался примерно в то же время, и музейная датировка Smithsonian указывает 1958 год. Но это не один и тот же объект. Программный эксперимент доказал, что процедуру можно выполнить на существовавшем компьютере; отдельный Mark I показывал, что её можно воплотить в специальной аппаратуре.