Разум, который мы создали

Kalia Kavea

Разум, который мы создали

От автора

Я не начинала писать эту книгу с готовыми ответами.

На самом деле всё произошло наоборот.

Сначала был интерес. Потом — вопросы. А затем я начала читать: научные статьи, исследования, описания экспериментов, работы учёных, которые пытаются понять, на что уже способен искусственный интеллект и куда всё это может привести.

Чем больше я читала, тем меньше мне хотелось найти простой ответ.

Потому что за каждым новым достижением возникал следующий вопрос.

Если машина способна находить закономерности, которые человек не заметил, — что это меняет в науке?

Если она помогает создавать новые решения, — где заканчивается инструмент и начинается сотрудничество?

Если однажды мы научимся создавать системы, которые будут всё больше напоминать интеллектуальных существ, — что тогда вообще будет означать слово «разум»?

И постепенно я поняла, что не хочу писать книгу, которая заранее знает, чем всё закончится.

Мне хотелось сделать другое.

Собрать свои размышления.

Посмотреть на происходящее глазами человека, который живёт именно в этот момент — когда искусственный интеллект уже перестал быть фантастикой, но мы всё ещё не знаем, во что он в конечном счёте превратится.

Поэтому в этой книге рядом существуют наука и философия.

Здесь есть реальные исследования и эксперименты. Есть то, что уже удалось обнаружить и проверить. Есть результаты, которые можно воспроизвести и обсудить.

Но есть и вопросы, на которые у нас пока нет окончательных ответов.

И там, где я начинаю заглядывать в будущее, я не хочу выдавать предположение за факт.

Возможно, некоторые мои мысли окажутся ошибочными.

Возможно, будущее пойдёт совершенно другим путём.

Но разве это делает размышления о нём бессмысленными?

Мне кажется, нет.

Иногда нам нужно не знать ответ, а осмелиться задать вопрос, на который ответа пока не существует.

Эта книга появилась именно из такого любопытства.

Я читала о том, что уже умеет искусственный интеллект, и пыталась представить, что это может означать не только для машин, но и для нас.

Для науки.

Для человеческого мышления.

Для нашего представления о разуме.

И, возможно, для самого понятия знания.

Потому что, когда инструмент начинает помогать нам находить то, чего мы сами ещё не понимаем, меняется не только инструмент.

Меняется сам вопрос о том, что значит знать.

Я не знаю, станет ли когда-нибудь искусственный интеллект настоящим разумом.

И, возможно, сегодня мы ещё даже не умеем точно определить, что должно произойти, чтобы назвать систему разумной.

Но мне стало интересно другое:

а что, если мы сейчас находимся только в начале пути, смысл которого сами ещё не способны полностью увидеть?

Эта книга — моя попытка посмотреть на этот путь немного внимательнее.

Не предсказать его.

Не дать окончательный ответ.

А понять, какие вопросы он уже заставляет нас задавать.

Пролог

Мы создали нечто, чего ещё не существовало

В какой-то момент истории человечество сделало то, чего прежде не делало никогда.

Мы создали не просто новый инструмент.

Не новый двигатель. Не новый способ передвижения. Не машину, которая могла поднимать больше, двигаться быстрее или считать точнее человека.

Мы создали системы, способные работать с информацией и участвовать в процессах, которые прежде считались исключительно человеческими: распознавать закономерности, строить связи между разными фрагментами информации, предлагать решения и формулировать гипотезы.

Сначала это казалось продолжением уже знакомой истории.

Компьютеры давно превосходили человека в вычислениях. Они могли хранить огромные объёмы данных, выполнять сложнейшие операции и искать информацию за доли секунды.

Но постепенно искусственный интеллект начал делать нечто, что заставило нас посмотреть на него иначе.

Он стал находить закономерности.

Строить связи.

Предлагать решения.

Формулировать гипотезы.

Иногда — такие, которые человек не сформулировал заранее.

Именно здесь начинается история, которую мы пока не до конца понимаем.

На протяжении тысячелетий человеческое знание росло почти незаметно для самого человека.

Один человек мог знать растения своего леса. Другой — движение звёзд. Третий — свойства металлов. Четвёртый — устройство человеческого тела.

Потом появились города, письменность, библиотеки, университеты и научные общества.

Знаний становилось больше.

Затем — значительно больше.

А затем их стало столько, что ни один человек уже не мог охватить даже малую часть того, что знало человечество.

Это не было поражением человеческого разума.

Наоборот.

Это стало одним из величайших свидетельств его силы.

Мы научились разделять знания на области, создавать дисциплины и специализации, передавать результаты одного поколения следующему. Человек мог посвятить десятилетия одной области, одновременно оставаясь способным соединять её с другими областями знания. Учёные сотрудничивали, спорили, исправляли ошибки друг друга и постепенно собирали картину мира, которую невозможно было бы создать в одиночку.

Так возникла современная наука.

Но вместе с её успехом появилась странная проблема.

Чем больше мы узнавали, тем труднее становилось увидеть всё сразу.

Физик мог потратить годы на изучение одной закономерности. Биолог — десятилетия на исследование одной системы. Математик — годы на доказательство одной теоремы.

Каждый мог знать то, чего не знали другие.

Не потому, что другие уступали в интеллекте.

Просто человеческая жизнь имеет пределы.

Мы можем учиться десятилетиями. Можем стать специалистами сразу в нескольких областях. Можем объединять знания разных дисциплин и работать в командах.

Но всё человеческое знание всё равно остаётся распределённым между миллиардами отдельных умов.

И затем появилась машина, способная искать связи в огромных массивах информации совсем иначе.

Сначала мы создавали искусственный интеллект для вполне конкретных задач.

Распознавать изображения.

Переводить текст.

Играть в игры.

Предсказывать последовательности.

Находить закономерности в данных.

Помогать человеку работать быстрее.

Долгое время интеллект машины воспринимался как набор отдельных способностей.

Она могла хорошо считать, но не работала с языком.

Она могла распознавать изображения, но не могла вести содержательный анализ текста.

Она могла побеждать человека в игре, но это ещё не означало, что она понимала смысл самой игры.

Каждый новый успех казался ещё одной узкой победой технологии.

Затем границы начали размываться.

Машины стали всё лучше работать с языком.

А язык — это гораздо больше, чем средство общения.

Через него мы описываем физические законы, формулируем математические идеи, объясняем устройство клеток, записываем историю, создаём философские концепции, проектируем технологии и передаём опыт от одного человека к другому.

Язык связывает между собой огромные области человеческой деятельности.

И когда искусственный интеллект научился всё сложнее работать с этим пространством, произошло нечто важное.

Он получил возможность находить связи между огромным количеством информации, созданной людьми, — связи, которые не всегда были очевидны заранее.

И тогда возник вопрос, который мы, возможно, слишком долго откладывали:

Что произойдёт, если созданная нами система начнёт обнаруживать то, чего не заметили мы?

Мы привыкли считать открытие исключительно человеческим актом.

Учёный изучает данные.

Замечает странность.

Формулирует вопрос.

Предлагает гипотезу.

Проверяет её.

Иногда ошибается.

Иногда начинает сначала.

А иногда обнаруживает нечто, что меняет наше представление о мире.

Но что произойдёт, если часть этого процесса сможет выполнять не человек?

Если система обнаружит закономерность, которую исследователь не заметил?

Если предложит математическую конструкцию, которую никто не искал?

Если поможет найти молекулу с необычными свойствами?

Если соединит результаты нескольких научных областей и предложит гипотезу, которая прежде не возникала?

И если эксперимент подтвердит эту гипотезу — что именно произошло?

Мы получили новое знание.

Но кто был его источником?

Человек?

Машина?

Или мы впервые столкнулись с формой сотрудничества, для которой привычного представления об авторстве уже недостаточно?

Эта книга не пытается доказать, что искусственный интеллект станет доминирующей силой на Земле

И не пытается убедить вас в обратном.

Будущее ещё не написано.

Мы не знаем, каким окажется искусственный интеллект через десять, двадцать или пятьдесят лет. Не знаем, появится ли когда-нибудь сознание, которое можно будет назвать машинным. Не знаем, существуют ли принципиальные пределы развития таких систем. И не знаем даже, насколько хорошо понимаем собственный интеллект.

Но кое-что мы уже знаем.

Мы создали системы, способные участвовать в задачах, которые ещё недавно казались исключительно человеческими.

И, возможно, историческая важность этого шага заключается не в том, что машины стали похожи на людей.

Возможно, всё наоборот.

Впервые мы создали интеллект, который не обязан быть похожим на нас.

Он не обязан учиться так, как учимся мы.

Не обязан воспринимать мир так, как воспринимаем его мы.

Не обязан приходить к решениям тем же путём.

И именно поэтому сравнивать его с человеком становится одновременно необходимым и недостаточным.

Перед человечеством возникает необычная задача.

Нам предстоит понять не только то, на что способен искусственный интеллект.

Нам предстоит понять, что происходит с нами, когда рядом появляется другой способ обрабатывать информацию, искать закономерности и приходить к решениям.

Потому что, возможно, величайшее открытие эпохи искусственного интеллекта окажется не открытием о машинах.

А открытием о самих себе.

О том, что такое интеллект.

Что значит понимать.

Что значит создавать новое.

Что именно происходит в тот момент, когда найденное решение существует, но путь к нему не похож на человеческое рассуждение.

И, наконец, что значит быть человеком — в мире, где способность решать всё более сложные интеллектуальные задачи больше не является нашей исключительной территорией.

Возможно, прежде чем спросить, каким станет искусственный интеллект, нам придётся заново спросить себя:

что именно мы называем интеллектом?

Глава 1

Мы всегда пытались превзойти собственные пределы

Представьте человека, который впервые взял в руки камень и понял, что теперь может сделать то, чего раньше не мог.

Расколоть орех.

Разбить кость.

Обработать другой камень.

Защититься от хищника.

Сам камень не стал частью его тела. Но человеческое действие изменилось.

В этом простом моменте скрывается одна из самых важных особенностей нашей истории.

Мы никогда не ограничивались тем, чем были наделены природой.

Мы создавали то, чего у нас не было.

Инструмент становился продолжением руки.

Колесо — продолжением движения.

Лодка — продолжением способности пересекать воду.

И каждый раз граница между тем, что человек мог сделать сам, и тем, что он мог сделать с помощью созданного им инструмента, отодвигалась немного дальше.

Но однажды человечество начало расширять не только тело.

Мы начали расширять память.

Первым великим интеллектуальным инструментом была не вычислительная машина.

Это была письменность.

Пока знания существовали главным образом в памяти людей, их сохранение зависело от способности одного поколения передать опыт следующему. Человек мог рассказать другому, где найти лекарственное растение, как обработать металл или как ориентироваться по звёздам.

Но память несовершенна.

Детали забываются.

Истории меняются.

Ошибки передаются вместе с фактами.

Письменность позволила сделать нечто принципиально новое: оставить информацию вне человеческой памяти.

Можно было записать наблюдение и передать его человеку, которого никогда не встретишь.

Сохранить закон.

Описание растения.

Математическую задачу.

Историю.

Карту.

Наблюдение за небесным телом.

Знание больше не должно было исчезать вместе с человеком, который им обладал.

Это изменило саму природу накопления знаний.

Теперь новое поколение могло начинать не с того места, где начинало предыдущее, а с того, где оно остановилось.

Но чем больше знаний удавалось сохранить, тем сложнее становилось ими управлять.

Появились архивы.

Библиотеки.

Каталоги.

Системы классификации.

Человечество создавало всё новые способы не только сохранять информацию, но и находить её.

Затем появился печатный станок.

В середине XV века технология Иоганна Гутенберга резко увеличила скорость воспроизведения текстов в Европе. Книги перестали быть исключительно результатом кропотливого ручного переписывания и начали распространяться в значительно больших масштабах.

Но значение этого изменения было гораздо глубже самой технологии печати.

Представьте учёного, который делает наблюдение.

В мире рукописей его идея может остаться известной небольшому кругу людей.

В мире массового книгопечатания она получает возможность путешествовать гораздо дальше своего автора.

Один человек пишет книгу.

Её читают тысячи.

Один исследователь описывает эксперимент.

Другие могут ознакомиться с его результатами и попытаться повторить их.

Математик публикует доказательство.

Следующий учёный начинает работу уже с этого результата.

Знание становится накопительным.

Каждое поколение получает возможность строить новое поверх уже созданного.

Именно так постепенно возникла одна из величайших интеллектуальных конструкций человечества — современная наука.

Но её успех породил новую проблему.

Чем больше становилось знаний, тем труднее было одному человеку охватить их все.

Началась специализация.

Физик мог посвятить годы изучению свойств материи.

Биолог — живых систем.

Химик — взаимодействий между веществами.

Математик — абстрактных структур.

Инженер — превращению научных идей в работающие технологии.

Это не означало, что человек больше не способен понимать разные области.

Напротив, многие выдающиеся исследователи работали на пересечении дисциплин.

Но существовала другая граница.

Масштаб человеческого знания рос быстрее, чем способность отдельного человека изучить его целиком.

Можно было стать специалистом в нескольких областях.

Можно было всю жизнь расширять свои знания.

Можно было сотрудничать с другими исследователями.

Но невозможно было лично прочитать и глубоко осмыслить всё, что создавала современная цивилизация.

И это было не поражением человека.

Это было следствием его успеха.

Мы создали столько знаний, что теперь сам их масштаб требовал новых инструментов.

Следующий такой инструмент оказался уже не бумажным.

Он был электронным.

Одной из первых больших задач вычислительных машин стало то, с чем человек всегда справлялся хуже всего: выполнение огромного количества точных операций.

Человек способен распознавать лица, понимать контекст, строить планы и замечать неожиданные события. Но он не предназначен для выполнения миллионов одинаковых операций с абсолютной точностью и постоянной скоростью.

Машина — предназначена.

Сначала компьютеры выполняли расчёты, которые человеку потребовали бы огромного количества времени.

Затем они начали работать с задачами, которые становились практически невозможными для ручного выполнения.

Но компьютер оставался инструментом.

Человек определял процедуру.

Машина выполняла её.

Именно здесь проходит важная граница между традиционным программированием и тем, что позже станет машинным обучением.

В обычной программе человек заранее описывает правила.

Если происходит одно событие — выполнить определённое действие.

Если число превышает заданное значение — применить определённую операцию.

Если пользователь нажимает кнопку — запустить процедуру.

Машина следует инструкции.

Но что делать, если мы сами не знаем всех правил?

Представьте задачу распознавания кошки на фотографии.

Мы могли бы попытаться описать её математически.

Четыре лапы.

Два глаза.

Шерсть.

Уши определённой формы.

Хвост.

Но достаточно показать системе сфинкса, котёнка, животное в необычной позе или фотографию, сделанную в темноте, — и список заранее написанных правил быстро становится недостаточным.

Проблема не в том, что мы не способны описать кошку.

Проблема в том, что реальный мир слишком разнообразен, чтобы полностью свести его к заранее составленному перечню инструкций.

И тогда возникает другой подход.

Не объяснять машине каждое правило.

Дать ей множество примеров и позволить алгоритму находить закономерности в данных.

Так постепенно сформировалась идея машинного обучения.

Она изменила саму роль программиста.

Вместо того чтобы вручную описывать каждую возможную ситуацию, человек мог создавать алгоритм обучения, выбирать данные и задавать критерий, по которому система должна улучшать результат.

Машине больше не обязательно было сообщать каждый шаг.

Ей можно было показать множество примеров и позволить вычислительной системе самостоятельно настроить внутренние параметры так, чтобы лучше выполнять поставленную задачу.

Это был фундаментальный сдвиг.

Но он не произошёл мгновенно.

История искусственного интеллекта началась задолго до современных нейронных сетей.

В 1950 году Алан Тьюринг опубликовал статью Computing Machinery and Intelligence, в которой исследовал вопрос о возможности машинного мышления и предложил заменить расплывчатый вопрос «могут ли машины мыслить?» более конкретным экспериментальным подходом.

Через несколько лет появилась идея, которая дала новой области исследований её название.

В 1955 году Джон Маккарти, Марвин Минский, Натан Рочестер и Клод Шеннон подготовили предложение о летнем исследовательском проекте в Дартмутском колледже. В нём использовалось выражение artificial intelligence — «искусственный интеллект».

Летом 1956 года участники проекта собрались для обсуждения возможности исследовать обучение, рассуждение, решение задач и другие процессы, которые обычно связывали с человеческим интеллектом.

Их предположение было смелым.

Они считали, что различные аспекты обучения и интеллекта в принципе могут быть описаны настолько точно, чтобы машина могла их воспроизводить или моделировать.

Это не было доказательством.

Не было готовой технологией.

И уж тем более не было гарантией быстрого создания искусственного разума.

Это была исследовательская гипотеза.

Но именно такие гипотезы иногда становятся началом длинных научных историй.

Первые десятилетия развития ИИ были полны противоречий.

Одни исследователи строили системы на логике и символах.

Другие пытались создавать модели, вдохновлённые устройством нервной системы.

Появлялись программы, способные решать математические задачи, играть в игры и работать с языком.

Некоторые результаты выглядели впечатляюще.

Некоторые обещания оказались преждевременными.

Технологии часто не соответствовали ожиданиям.

Наступали периоды разочарования, когда финансирование сокращалось, интерес к отдельным направлениям падал, а обещанный прогресс не наступал.

Но научные идеи редко исчезают только потому, что их первое воплощение оказалось неудачным.

Иногда проблема находится не в самой идее, а в недостатке вычислительной мощности.

Иногда не хватает данных.

Иногда ещё не существует подходящего алгоритма.

А иногда исследователи просто задают природе вопрос, на который технология пока не умеет отвечать.

Тем временем менялся сам мир.

Компьютеры становились быстрее.

Память — дешевле.

Данные — доступнее.

А компьютеры начали соединяться друг с другом.

Появление интернета изменило масштаб человеческой информационной среды.

Раньше компьютер мог быть мощным инструментом отдельного человека или организации.

Теперь миллиарды устройств получили возможность обмениваться информацией.

Человечество словно построило внешнюю систему памяти и связало её миллиардами каналов.

Мы начали создавать и передавать информацию с такой скоростью, которая ещё недавно казалась невозможной.

Каждый текст, фотография, научная статья, измерение, программа и цифровая транзакция могли становиться частью огромного массива данных.

И здесь возник новый парадокс.

Мы научились создавать информацию быстрее, чем человек способен её прочитать.

Научная литература продолжала расти.

Цифровые архивы увеличивались.

Количество данных, которые оставляют после себя люди и созданные ими системы, стало огромным.

Но способность отдельного человека читать, сравнивать и осмысливать всё это не увеличивалась с той же скоростью.

Сутки по-прежнему состоят из двадцати четырёх часов.

Человеческая жизнь по-прежнему конечна.

И это означало, что следующий шаг должен был быть связан уже не только с хранением информации.

Нужна была система, способная искать структуру внутри её масштаба.

К этому моменту несколько линий развития встретились.

У человечества были огромные массивы данных.

Были компьютеры, способные выполнять колоссальное количество операций.

Были десятилетия исследований в области алгоритмов и статистики.

И существовала идея, которая постепенно становилась всё более важной:

машину необязательно программировать для каждого отдельного случая.

Её можно обучать на примерах.

Именно сочетание этих факторов позволило машинному обучению перейти из относительно узкой исследовательской области в одну из центральных технологий современного ИИ.

Нейронные сети становились глубже и эффективнее.

Методы обучения улучшались.

Вычислительные мощности росли.

Объёмы доступных данных увеличивались.

И системы начали справляться с задачами, которые ещё недавно казались слишком сложными для машин.

Распознавать речь.

Анализировать изображения.

Переводить языки.

Играть в сложные игры.

Генерировать текст.

Работать с программным кодом.

А затем — соединять несколько таких способностей в одной системе.

Это был уже другой тип инструмента.

Не потому, что машина внезапно стала человеком.

А потому, что человек всё меньше задавал ей каждый конкретный шаг.

Мы могли поставить задачу.

Предоставить данные.

Определить критерий результата.

А часть пути между началом и ответом система находила сама.

И именно здесь возникает вопрос, который определит следующую главу нашей истории.

Что на самом деле происходит, когда машина учится?

Если человек не объясняет ей каждое правило, то что именно она извлекает из примеров?

Как информация превращается в внутренние представления?

Почему система иногда находит закономерности, которые мы не задавали ей напрямую?

И где проходит граница между тем, что мы называем вычислением, и тем, что начинаем называть обучением?

Чтобы ответить на эти вопросы, нам теперь придётся сделать то, чего мы раньше не делали.

Не просто посмотреть на то, что машина делает.

А заглянуть внутрь самого процесса, благодаря которому она этому научилась.

Глава 2

Как научить машину учиться

Представим простую задачу.