ИИ. История машины, которая научилась говорить

Чтобы такая цепочка не превращалась в игру «испорченный телефон» с числами, работу нужно было организовать. Один человек считал отдельный фрагмент, другой переносил значения в сводную таблицу, третий проверял расчёт независимым способом. При сбое приходилось выяснять, на каком именно шаге он возник: ошибка в исходном наблюдении и ошибка при переписывании требовали разного исправления. Поэтому вычислительный труд включал не только арифметику, но и процедуру контроля — ту самую невидимую часть, без которой готовая таблица не заслуживала доверия.

Человеческая команда не была просто медленной версией будущей машины. Люди могли заметить странный результат, восстановить пропущенный шаг, изменить способ вычисления, если задача оказалась устроена не так, как предполагалось. Они понимали, зачем нужна таблица, для кого она предназначена и какие отклонения выглядят подозрительно. Машинная автоматизация могла ускорить однотипную операцию, но не автоматически переносила весь этот контекст. Если механизм повторял ошибочное действие быстрее человека, ошибка не становилась менее ошибочной — она становилась производительнее.

Такое перераспределение труда будет повторяться всю историю вычислений. Электронные компьютеры автоматизируют расчёты, но потребуют операторов и программистов. Системы распознавания изображений смогут обрабатывать массивы снимков, но сначала понадобятся примеры, которые люди отобрали и подписали. Модель, которая отвечает на вопрос, может скрывать за гладкой репликой труд по сбору данных, настройке и оценке результатов. Поэтому история ИИ — не последовательный марш машин, которые вытесняют людей. Это история изменения границы между человеческой работой и работой устройства, где часть прежних операций исчезает, часть перемещается, а часть появляется только потому, что система существует.

Переход от людей к устройству был связан и с тем, что значит «задать задачу». Человек в вычислительной команде нередко получал инструкцию, но при этом мог применять понимание к исключениям. Механизм должен был получить процедуру, достаточно точную, чтобы не нуждаться в подобном импровизированном суждении. Чем больше исключений, тем труднее формализовать задачу. Это не просто недостаток старой техники: это первая версия проблемы, с которой исследователи столкнутся, когда захотят научить машину читать текст или видеть сцену. Операция над числами легко задаётся, если порядок шагов известен; распознавание важного в незнакомой ситуации устроено гораздо менее прозрачно.

В конце XIX века эта профессия обрела особенно наглядную форму в обсерватории Гарвардского колледжа. Там фотографические стеклянные пластины хранили снимки звёздного неба, которые требовалось сравнивать, каталогизировать и измерять. С 1881 года обсерватория нанимала женщин для работы с растущей коллекцией: среди них были Анна Уинлок, Селина Бонд, Нетти Фаррар и Уильямина Флеминг. Их должность называлась «компьютер» — и это было профессиональное название, не шутка о человеке с калькулятором.

Работа с пластинами требовала больше, чем переписать несколько чисел. По снимкам определяли положение и яркость звёзд, изучали спектры, искали переменные звёзды и готовили каталоги. Для современной аудитории полезно помнить: телескоп мог собрать изображения ночного неба, но сами изображения не превращались автоматически в астрономические знания. Нужны были люди, которые научились читать пластины, сравнивать наблюдения и превращать видимые следы света в последовательные записи. Именно такая работа помогала стандартизировать наблюдения и делать небесные объекты сопоставимыми для разных исследователей.

Поиск переменной звезды хорошо показывает, почему одной фотографии было недостаточно. Исследователь сравнивал снимки одного участка неба, сделанные в разное время, и искал объекты, чья яркость менялась. След света на пластине приходилось измерять и сопоставлять с другими звёздами и наблюдениями. Речь шла не о том, чтобы взглянуть на снимок и «увидеть ответ»: нужно было превратить множество отдельных изображений в последовательность данных, где изменения можно заметить, проверить и обсудить.

Эти сотрудники не составляли однородную группу. У некоторых была подготовка по математике и астрономии, другие выполняли расчёты и поддерживали исследовательскую инфраструктуру; отдельные женщины вели собственные исследования и получили известность как астрономы. Гарвардская коллекция связывает с этой работой имена Флеминг, Энни Джамп Кэннон, Антонии Мори, Генриетты Ливитт и Сесилии Пейн-Гапошкиной. Называть всех их одинаково «помощницами» означало бы повторить иерархию, которая определяла их положение в обсерватории, а не полностью описывала их вклад. Особенно наглядно это видно в карьере Флеминг. Она приехала из Шотландии в США и сначала работала у директора обсерватории Эдварда Пикеринга; в 1881 году он пригласил её в группу вычислителей. За следующие десятилетия Флеминг каталогизировала более десяти тысяч звёзд, обнаружила 310 переменных звёзд и 52 туманности. Среди них была туманность Конская Голова, распознанная на фотопластине. В 1899 году Флеминг стала первым куратором астрономических фотографий в Гарварде. Один и тот же труд соединял повторяемые измерения, руководство большой коллекцией и научные открытия. В 1890 году вышел первый каталог звёздных спектров, подготовленный в рамках мемориального проекта Генри Дрейпера. Директор Эдвард Пикеринг указал, что Флеминг выполнила основную часть измерений и классификации и подготовила материалы к публикации. Она не только анализировала пластины, но и организовывала работу коллег, редактировала научные публикации и обучала новых сотрудниц. Научное открытие здесь не отделено от кропотливой инфраструктуры: каталог становился возможен благодаря сотням измерений, единой системе записи и людям, которые удерживали порядок в огромном массиве наблюдений. Стеклянная пластина сохраняла исходное наблюдение, а не только число, уже внесённое в каталог. Позднее к ней можно было вернуться, заново измерить изображение или сопоставить его с другим снимком. Для науки это важное различие: таблица хранит прежний вывод, а архив оставляет возможность перепроверить данные и задать новый вопрос к старому материалу. Сохранение и учёт такой коллекции тоже были частью исследовательской работы.

При этом доступ к профессии не означал равенства. Женщин нанимали в том числе потому, что руководство считало их пригодными для внимательной, повторяющейся работы и могло платить им меньше, чем мужчинам. В дневнике 1900 года Флеминг сравнивала свою зарплату в 1 500 долларов с 2 500 долларами, которые получали мужчины за сопоставимую работу, и писала о необходимости содержать дом и семью. Женщинам также были ограничены возможности наблюдать через телескоп в Кембридже, хотя конкретные роли и возможности различались. Это не украшение истории вычислений социальной драмой. Это объяснение того, как научная инфраструктура распределяла доступ к инструментам, оплате и признанию.

История Гарварда показывает, что человеческий компьютер мог заниматься не только механической арифметикой. В центре работы находились измерение, суждение и классификация — задачи, где опыт позволял отличить полезное наблюдение от ошибки или сомнительного следа. Когда позднее вычислительные машины возьмут на себя расчёты, они не унаследуют автоматически этот опыт. Его придётся превратить в правила, данные или процедуры, а затем проверить, какие части человеческого решения были действительно формализованы.

Логика получила выключатель

В аналитической машине числа и операции были разделены конструкцией механизма. Но чтобы вообще поручить машине логический вывод, требовалось ещё одно преобразование: абстрактные знаки должны были получить физическое представление. На бумаге «истина» и «ложь» — слова или символы. В электрической цепи можно различить два состояния: ток проходит или не проходит. Само по себе это сходство ничего не доказывает о разуме. Зато оно даёт инженеру способ построить устройство, которое будет переключаться по заданным правилам.

В середине XIX века Джордж Буль исследовал логику с помощью алгебраического языка. Его работа не описывала электрические компьютеры, которых ещё не существовало; она показывала, что отношения между логическими высказываниями можно выражать формально и преобразовывать. Позже, в 1930-х годах, Клод Шеннон увидел, что такой язык подходит для анализа схем реле и переключателей. В магистерской работе 1937 года он связал булеву алгебру с устройством релейных цепей. То, что раньше было способом рассуждать о высказываниях, стало практическим инструментом проектирования электрической системы.

Представим простую схему управления светом: кнопка замыкает цепь, лампа загорается; размыкает — гаснет. Это ещё не логический процессор. Но если объединить несколько контактов, можно построить условия типа «оба переключателя должны быть включены» или «достаточно одного». В языке логики это знакомые операции «и» и «или». Реле при этом ничего не знают о значении слов «оба» и «достаточно». Они переключают ток. Человек задаёт соответствие между состояниями цепи и тем, что система должна считать входом, условием или результатом.

Здесь срастаются два уровня. Булева алгебра помогает определить, какие состояния должны быть связаны; инженерная схема реализует переход физически. При сложном проектировании алгебра позволяет упрощать цепи и находить эквивалентные конфигурации. Ошибка на одном уровне может проявиться на другом: неверно записанное условие останется неверным, даже если все реле работают безупречно; плохо собранная схема не исполнит правильную формулу. Надёжность вычисления всегда зависит от того, как связаны описание и устройство.

Эта история важна, потому что компьютер не появился в результате одного философского прозрения. Между мечтой превратить рассуждение в процедуру и машиной, способной исполнять программу, стояла длинная работа по передаче состояний: через механические детали, реле, перфокарты, электрические цепи и позднее электронные компоненты. ИИ часто описывают так, будто алгоритм — это вся система. На деле алгоритм не включается сам по себе. Ему нужно физическое устройство, способное сохранять и менять состояние, и люди, которые решат, какие состояния что означают.

Булева алгебра не сделала релейные схемы разумными. Она сделала их вычислимой конструкцией: поведение цепи можно было проектировать заранее, описывать математически и проверять по условиям. Это был важный шаг, но он оставлял следующий вопрос открытым. Если машина может выполнять заданный набор правил, может ли она менять поведение по результатам своих действий?

Что можно вычислить?

В 1930-е годы математики и логики обсуждали не только то, как выполнить конкретный расчёт, но и то, какие задачи вообще имеют решение в виде чёткой процедуры. Можно ли сформулировать метод, который за конечное число ясных шагов найдёт ответ? Существуют ли математические вопросы, для которых такого метода не может быть? Чтобы обсуждать эти границы не на уровне интуиции, требовалась модель вычисления.

В работе «О вычислимых числах», опубликованной в 1936–1937 годах, Алан Тьюринг описал абстрактное устройство, которое стало известно как машина Тьюринга. Это не был проект металлического компьютера и не попытка воспроизвести устройство мозга. Модель состояла из простых элементов: ленты, разделённой на ячейки, символов, которые можно читать и записывать, и набора правил, определяющих, что сделать дальше. Машина может передвинуться по ленте, изменить символ, перейти в другое состояние или остановиться.

Сила этой модели в предельной простоте. Чтобы представить сложное вычисление, не нужно воображать хитрый механизм с тысячами шестерёнок. Достаточно выяснить, можно ли разложить задачу на маленькие однозначные операции, которые выполняются по конечным правилам. Лента служит памятью; состояние и таблица правил определяют следующий шаг. Это очень далеко от человеческого мышления: модель не видит, не слышит и не понимает, о чём говорят символы. Она помогает ответить на более узкий вопрос — что считать механическим вычислением.

Можно представить крошечную задачу на такой ленте. Пусть число записано палочками: три палочки означают три. Чтобы прибавить одну, машина должна найти конец ряда, поставить ещё одну палочку и остановиться. Для нас это почти смешно просто. Для теории важен не масштаб задачи, а возможность точно сказать, что машина видит, какое правило применяет и когда прекращает работу. Если шаг нельзя сформулировать без слов «ну, дальше понятно», значит, процедуру ещё не удалось полностью описать.

Тьюринг работал над математической проблемой разрешимости, а не над «искусственным интеллектом»: этого названия ещё не было. Но его анализ сделал важное различие возможным. Одно дело — задача, для которой можно в принципе описать процедуру. Другое — конкретная машина, на которой эту процедуру можно выполнить с нужной скоростью и объёмом памяти. И третье — вопрос о том, обладает ли исполнитель человеческим пониманием. Эти три уровня часто смешивают, когда говорят: «компьютер решил задачу». Математическая вычислимость не гарантирует практическую выполнимость; успешное выполнение не доказывает наличия опыта или сознания.

Модель Тьюринга также помогает понять, почему слово «программа» оказалось столь мощным. Если машина может выполнять простые операции, а последовательность операций хранится в форме, которую сама машина может читать, одно устройство способно решать разные задачи — в зависимости от того, какую программу ему дали. Аналитическая машина Бэббиджа предвосхитила эту идею в механическом проекте, но у Тьюринга была формальная модель, созданная для анализа границ вычисления. Они не одно и то же и не образуют прямую техническую родословную «от чертежа Бэббиджа к современному ноутбуку». Они показывают разные стороны одного сдвига: операция может быть отделена от конкретной задачи и описана достаточно точно, чтобы исполнитель следовал ей шаг за шагом.

Война резко повысила практическую ценность вычисления. Государствам требовались расчёты и обработка информации в масштабах, недоступных отдельному человеку; военные проекты ускорили развитие электронных устройств, криптоанализа, радиолокации и инженерных методов. Тьюринг участвовал в британской работе по криптоанализу в Блетчли-парке, а его теоретические исследования вычислимости были отдельной линией его карьеры. Важно не превращать эти сюжеты в упрощённую легенду, будто одна военная задача «изобрела компьютер» или сразу породила ИИ. Война обеспечила ресурсы и давление, которые помогали строить вычислительную инфраструктуру; математические вопросы, инженерные конструкции и государственные цели пересекались, но не сливались в одну причину.

К 1940-м годам стало возможно говорить о вычислении одновременно как о математической процедуре, работе человеческих групп и работе электронного устройства. Машина уже не была только философской метафорой. Её можно было проектировать, собирать и запускать под конкретные задачи. Но вопрос, может ли она мыслить, оставался открытым — и, возможно, именно поэтому Тьюринг позднее попробовал изменить его форму.

Не всякая задача имеет рецепт

Теория вычисления нужна не только для того, чтобы показать, что машина может выполнить задачу. Она помогает увидеть и предел: некоторые вопросы нельзя решить общим алгоритмом, который всегда выдаёт правильный ответ. Это не означает, что любую трудную задачу следует объявить неразрешимой, стоит лишь компьютеру задуматься подольше. Сложность и невозможность — разные вещи. Первое означает, что решение может требовать слишком много времени или памяти; второе — что определённого универсального метода в принципе не существует.

Разницу можно представить на примере огромного архива. Если нужное письмо лежит где-то в неупорядоченной стопке, мы можем перебирать листы один за другим: способ есть, но поиск способен занять неприемлемо долго. Если же сам вопрос сформулирован так, что никакое правило не сможет всегда давать правильный ответ для всех возможных случаев, дополнительная скорость не поможет. Теория вычисления изучает обе границы, но не смешивает их: долгий поиск — ещё не невозможность, а невозможность — не просто очень долгий поиск.

Один из результатов Тьюринга касался проблемы остановки. Можно ли написать процедуру, которая для любой программы и любых её входных данных заранее определит, завершится ли выполнение или будет продолжаться бесконечно? Тьюринг показал, что общего решателя такого рода не может быть. Это не хитрая техническая оговорка, интересная лишь математикам. Она ломает наивное представление, будто достаточно дать машине достаточно времени и мощности, и любая задача превратится в ответ. У вычисления есть границы, которые нельзя преодолеть простым увеличением скорости.

Пример можно представить так: мы хотим создать универсального проверяющего, который читает любую инструкцию и любой набор исходных данных, после чего безошибочно говорит, остановится ли исполнение. Если сам проверяющий получает описание программы, в которое встроен вопрос о результате его собственного анализа, возникает противоречие: что бы проверяющий ни предсказал для специально сконструированной программы, её можно определить так, чтобы она поступила наоборот. Детали доказательства формальны, но идея знакома: некоторые обещания самоссылки рушатся, когда система претендует предсказывать поведение абсолютно всех систем своего класса, включая собственное.

Эта граница не отвечает на вопрос, способен ли компьютер мыслить. Она отвечает на более узкий вопрос о том, какие процедуры могут быть универсально реализованы. Иногда разговор о машинном интеллекте перескакивает от «мы пока не умеем решить» к «это невозможно в принципе» или в обратную сторону — от «машина уже это делает» к «значит, все барьеры исчезли». Теория вычисления удерживает разговор от обоих скачков. Она учит различать то, что можно выразить в виде алгоритма, то, что можно практически посчитать, и то, что вообще означает получить осмысленный ответ.

Универсальная машина Тьюринга — тоже математическая конструкция, но она показывает обратную сторону предела. Если описание другой машины и входные данные представить в подходящем виде, одна универсальная машина может имитировать работу этой машины. В этом смысле не обязательно строить отдельное железо для каждой вычислимой задачи: можно менять описание операций. Это не означает, что любая задача доступна одной машине в любой момент или с приемлемыми затратами. Модель говорит о принципе универсальности, а не о скорости и экономике реальных вычислительных систем.

Связь с аналитической машиной Бэббиджа здесь соблазнительна: оба проекта подталкивают к идее устройства, способного исполнять разные программы. Но Тьюринг не просто переписал чертежи Бэббиджа в математических терминах. Он ставил иной вопрос — что считать эффективной процедурой и каковы её границы. Историческое сходство не отменяет разницу между механическим проектом XIX века и формальной моделью вычисления XX века.

Когда позднее компьютер запускает программу, пользователь видит результат, а не доказательство, что задача была вычислима в требуемом смысле. Когда система отвечает связным текстом, он может увидеть нечто похожее на суждение, но за внешним поведением стоят конкретные процедуры. Теория вычисления не говорит, что значение результата исчерпывается его алгоритмом. Она позволяет точнее спросить, что именно делает машина, и не спутать выполнимость с пониманием.

Нейрон как математический элемент

Параллельно с исследованиями логики и вычисления возникал другой способ говорить о мышлении: через нервную систему. Человеческий мозг не похож на таблицу правил, аккуратно записанную в книге. В нём есть миллиарды клеток, которые связаны между собой, получают сигналы и меняют активность. Для математика и нейрофизиолога это была возможность задать вопрос иначе: можно ли описать хотя бы некоторые стороны нервной активности через простые элементы и связи между ними?

В 1943 году Уоррен Маккаллок, психиатр и нейрофизиолог, и математик Уолтер Питтс опубликовали статью, в которой предложили формальную модель нервной активности. Их искусственный нейрон был идеализацией: он получал сигналы от других элементов и переходил в активное состояние, если выполнялось заданное условие. Сеть таких элементов можно было описывать с помощью логических операций. Авторы исследовали связь между нейронной активностью и вычислением, а не пытались нарисовать точный портрет одной живой клетки.

Чтобы почувствовать идею, представьте охранника, который открывает дверь, только если сработали два датчика, или если сработал третий, независимо от остальных. Такой механизм можно описать логическим правилом. Теперь замените охранника простым вычислительным элементом, а датчики — входными сигналами. Сеть элементов способна реализовать комбинации условий. Но аналогия заканчивается там, где начинается биология: настоящие нейроны не являются идеальными переключателями, а мозг — не аккуратный логический шкаф, в котором каждый элемент выполняет отдельное «и» или «или». Модель оставляет за бортом огромное количество деталей, чтобы исследовать ограниченный вопрос.

В этом заключается и ценность упрощения, и его опасность. Если модель претендует объяснить всё мышление, её простота превращается в обещание без основания. Если она заявляет более скромную цель — проверить, какие виды вычисления возможны в сети идеализированных элементов, — её можно оценивать по тому, что она действительно описывает. Математическая модель не должна быть копией мозга, чтобы оказаться полезной. Но сходство слов «нейрон» и «нейронная сеть» не доказывает, что современная модель учится тем же способом, что человек или животное.

Если выход одного элемента подключить ко входу другого, сигнал может пройти через несколько шагов и изменить общий результат сети. Но это не значит, что сеть сама научилась нужному поведению: в модели 1943 года устройство связей и правила перехода задавались заранее. Чтобы система менялась на примерах, требовалось отдельно описать механизм обучения. Такое различие легко упустить, услышав слово «нейрон»: биологическая метафора звучит близко, но за ней стояла строгая и очень ограниченная математическая конструкция.

Работа Маккаллокa и Питтса не описывала обучение по примерам в том смысле, который позднее станет центральным для машинного обучения. Элементы и связи задавались в формальной конструкции. Чтобы система меняла свои параметры на основании опыта, требовалось придумать отдельный механизм изменения. Позже исследователи будут разрабатывать перцептроны и способы обучения, но между логической сетью 1943 года и практическими обучаемыми моделями пройдут годы новых идей, споров и аппаратных ограничений.

Тем не менее в этой работе встретились два языка: язык логики и язык нервной активности. Благодаря этому возникла продуктивная возможность: рассматривать сеть простых элементов как систему, которая может выполнять вычисления. Это не означает, что мозг свели к машине; скорее, машина стала способом проверять предположения о мозге. Вместе с работами о формальном вычислении возник ещё один путь к будущему ИИ — не кодировать каждый вывод вручную, а создавать систему из компонентов, чьё совместное поведение будет иметь интересные свойства.

Здесь уже видны две конкурирующие интуиции, которые будут возвращаться десятилетиями. Первая: чтобы машина действовала разумно, нужно достаточно точно описать знания и правила. Вторая: возможно, нужное поведение легче получить из множества простых взаимодействующих элементов, чем записать вручную. Первая приведёт к символическим программам и экспертным системам; вторая — к нейросетям и обучению на данных. К 1940-м годам эти пути ещё не превратились в два лагеря, но вопрос о том, что именно нужно строить — правила или обучаемую систему, — уже начал проступать.

Машины, которые слушали ответ мира

У переключателя есть положение; у вычислительной схемы — входы, выход и правило, связывающее одно с другим. Но многие устройства должны работать в мире, который не остаётся прежним на протяжении выполнения инструкции. Самолёт отклоняется от курса под действием ветра. Печь нагревает помещение, температура в котором меняется. Ракета получает сведения о собственном движении и должна корректировать траекторию. Команда «делай так» здесь быстро устаревает, если система не проверяет, что происходит после её действия.

В таких задачах действует обратная связь. Система измеряет состояние среды, сравнивает его с некоторой целью и использует разницу как сигнал для корректировки. Представим термостат: задана температура, датчик показывает текущую, механизм включает или выключает нагрев. Если контур устроен плохо, нагреватель может включаться слишком поздно или слишком часто. Если датчик врёт, система будет исправно регулировать не ту температуру, которая есть в комнате, а ту, которую он ошибочно сообщает. Устройство может выполнять функцию надёжно и всё равно приводить к плохому результату, когда измерение, цель или сама модель процесса выбраны неверно.