Страшно умный интеллект. Будущее ИИ и как вы можете спасти наш мир

Чтобы лучше понять данную идею, представьте себе ребенка, занятого головоломкой-сортером: он пытается подбирать нужные детали, соответствующие своей формой разным отверстиям – прямоугольному, круглому, звездообразному. Примерно так же происходит обучение искусственного интеллекта. Никто ведь не стоит над ребенком и не диктует ему, как он должен распознавать фигуры и находить соответствие между ними. Мама просто сидит рядышком и хвалит, когда у ребенка что-то получается. Ее реакции информируют его интеллект. Но разбирается в проблеме ребенок сам, методом проб и ошибок.

Машины учатся аналогичным образом. Однако закономерности, которые они высматривают, иного рода. Возьмем для примера суперкомпьютер IBM Watson, который стал чемпионом телеигры Jeopardy! Чтобы обыграть людей в такой сложной языковой игре, искусственному интеллекту пришлось прочитать четыре с лишним миллиона документов. До сих пор все эти накопленные знания суперкомпьютеру нигде, кроме Jeopardy! не пригождались. Однако вполне вероятно, что эти знания можно было бы использовать повторно для формирования каких-то иных форм интеллекта, например для отыскания закономерностей человеческого поведения на основе анализа прочитанных документов. Своим свежим, незамыленным глазом Watson мог бы легко увидеть все то насилие, которое мы применяли по отношению друг к другу на протяжении XX века, все те бесконечные склоки и ругань между пользователями Facebook уже ближе к концу столетия… А также подъем нарциссизма, проявляющегося в лавине отфотошопленных селфи, – с помощью фотокамеры мобильного телефона их теперь может сделать любой желающий, чтобы поиметь свои 15 секунд славы в Instagram.

Как ребенок способен найти связь между цилиндрической деталью и круглым отверстием, так и Watson мог бы научиться видеть в социальной изоляции, насилии и нарциссизме, даже в буллинге, некий паттерн предпочтений людей. И если бы его попросили решить – как головоломку – основные проблемы человечества, Watson использовал бы данную информацию в выработке решения. Эта книга именно о том, как по-другому информировать Watson и ему подобных, чтобы принимаемые решения не основывались на насилии, высокомерии или эгоцентризме, достаточно частых в мире людей.

3 × 3 приведет нас к 3 + 3

Я бы очень хотел придерживаться максимально простых понятий, однако для того, чтобы вы до конца поняли то сложное будущее, которое описывается в книге, нам придется несколько углубиться в детали проблемы. При этом я буду и дальше стараться представлять каждую конкретную концепцию как можно проще, избегая технической терминологии. Когда вы доберетесь до конца книги, все это уляжется и утрясется у вас в голове, но пока подобного не случилось, какие-то вещи могут казаться вам слишком сложными. Чтобы не сбиться с пути, просто запомните простую модель: «3 × 3 приведет нас к 3 + 3».

В будущем нас ждут три события, которые являются неизбежными вне зависимости от того, что мы делаем или не делаем сегодня. Вот эти события: ИИ будет властвовать, остановить его нельзя; ИИ станет умнее людей; ошибки, способные повлечь за собой проблемы, будут случаться.

Создаваемые нами машины, как и любые другие разумные существа, будут руководствоваться в своем поведении тремя инстинктами выживания и успеха: делать все возможное для самосохранения, стараться накапливать ресурсы, созидать.

Интереснее то, что они определенно будут обладать тремя качествами, которые всегда являются предметом жарких дебатов: сознанием, эмоциями и этикой. Разумеется, точная природа того, что они будут держать в своем сознании, что будет вызывать у них эмоции и на чем будет основываться их этика, пока неизвестна, но того факта, что в своем поведении они начнут руководствоваться названными человеческими качествами, это не отменяет.

Я подробно объясню, какая логика скрывается за такими утверждениями, и постараюсь убедить вас в их истинности. После этого вам нетрудно будет принять как данность некоторые ключевые аспекты. В первую очередь мы должны быть готовы к тому, что нам будет просто не по силам сдерживать или ограничивать развитие машин, которые станут гораздо умнее нас. Мы, конечно, можем постараться оказывать на них свое позитивное влияние, особенно пока они еще в юном возрасте, но времени у нас не так уж и много, ведь юность быстро проходит – действовать следует уже сейчас. Наконец, со временем все более очевидным будет становиться тот факт, что наибольшей силой влияния на будущее обладают вовсе не разработчики и не хозяева этих машин: наше будущее – только в наших с вами руках!

Такая ответственность не должна вас тревожить. Действия, которые мы должны предпринять, достаточно простые, интуитивно понятные и вполне соответствующие человеческой природе. Нужно лишь сделать их приоритетными. Чтобы мы могли спасти наше будущее, я попрошу вас сосредоточиться на трех вещах. Эти три вещи… осторожно, спойлер!

Наверное, пока мне не стоит об этом говорить. Они покажутся вам более убедительными и уместными, когда вы по-настоящему оцените масштаб проблемы, с которой мы имеем дело.

Имейте в виду: все, о чем я расскажу, либо уже успело произойти, либо, по моему убеждению, с большой вероятностью произойдет в будущем. Однако концовка нашей истории – то, как ситуация будет выглядеть к 2055 году, – целиком зависит от тех действий, которые мы с вами предпримем.

Итак, вернемся к сценарию, представленному в самом начале. На дворе 2055 год, мы с вами сидим у костра где-то в глубинке и вспоминаем, как события разворачивались. Мы с вами либо прячемся от технологической цивилизации в глуши, либо наслаждаемся той счастливой жизнью, которая была достигнута преимущественно силами машин. Первый вариант мне не нравится, поэтому, пожалуйста, давайте все вместе сделаем так, чтобы жизнь развивалась по второму сценарию.

Сделайте глубокий вдох. Пора погружаться.

Часть первая. Страшная

Достижения в области искусственного интеллекта обещают облегчить нам жизнь. Однако это сопряжено с существенными угрозами – о них говорят гораздо реже.

В связи с чем возникают некоторые экзистенциальные вопросы. Насколько умным будет ИИ? Как скоро это произойдет? Есть ли уверенность, что машины всегда будут служить интересам людей? Сможем ли мы полностью подчинить себе искусственный интеллект, как подчиняем другие свои инновации? Сможем ли мы надежно контролировать ИИ? Что произойдет, если не сможем?

ИИ не только обещает процветание, но и несет в себе потенциальные проблемы. Разбираться с ними нужно уже сегодня.

Не стану скрывать, первая часть книги вас напугает. Читать ее лучше при ярком свете и сидя. Однако в глубине души верьте, что все закончится хорошо и что во второй части вам откроются решения, которые нас спасут.

Глава 1. Краткая история развития интеллекта

Люди… Мы самые умные (так мы думаем) существа на планете. И самые спесивые. Наш интеллект забывает напоминать нам ту истину, что наверняка мы не знаем всего и что не каждая проблема нам по плечу. А еще что интеллект в изобилии распространен и среди других существ.

Многие черты человеческого разума, такие как эмпатия, способность осознавать собственные эмоционально-психические состояния, придерживаться ритуалов и пользоваться символами и инструментами, наблюдаются также у человекообразных обезьян, хотя и в меньшей степени, чем у людей. Дав более широкое определение понятию интеллекта, в природе и во вселенной можно обнаружить другие формы разума, в том числе далеко превосходящие нашу. Мы, правда, не называем эти создания или эти системы разумными, потому что существует путаница в самой природе данного понятия. Возможно, мы слишком сосредоточены на отдельных типах интеллекта, например на аналитическом интеллекте, свойственном левому полушарию. Поэтому прежде чем двинуться дальше, давайте разберемся в понятиях. Для начала давайте определимся…

Что такое интеллект

Существует великое множество дискуссионных определений того, что называть интеллектом, или разумом. Вот несколько примеров таких определений: способность учиться, осознавать, справляться с новыми ситуациями; способность применять знания с тем, чтобы манипулировать окружающей средой; измеряемая объективными критериями способность мыслить абстрактно… Самосознание, решение проблем, обучение, планирование, творчество, критическое мышление – это некоторые из форм поведения, свойственные только тем существам, которые обладают ценнейшим качеством под названием интеллект.

Возьмем любую из этих форм, например самосознание, и спросим себя: наблюдается ли такое поведение, скажем, у дерева? Сбрасывание листвы по осени можно трактовать как механическую реакцию на изменение погоды, но как дела обстоят на самом деле? Может, это результат какой-то формы сознания со стороны дерева, причем осознает оно не только изменение погодных условий, но и свое собственное состояние – состояние с листвой на ветвях? То есть дерево не просто механически сбрасывает листву 22 сентября, а осуществляет некую форму анализа, опираясь на осознание меняющихся погодных условий – осознание, которое по тонкости восприятия далеко превосходит наше собственное, если мы задумаемся над этим без присущего нам самомнения. Можно ли сказать, что кошка решает проблемы, когда находит альтернативный маршрут к лакомой добыче? Можно ли допустить, что Солнечная система сознательно корректирует свое движение в расширяющейся Вселенной, а мы эти коррективы просто не в состоянии наблюдать или измерить? Иногда мы ведем себя так, будто только наш человеческий разум и только наше самосознание достойны называться интеллектом, полагая, что другие создания должны быть похожими на нас, если хотят считаться разумными. Вот почему столь многие известные ученые прошлого пытались отыскать признаки существования внеземных форм разума, отправляя в открытый космос радиосигналы. Это является отражением узколобого убеждения, что если во Вселенной и существует другая форма разума, то она должна, подобно нам, уметь пользоваться радиоволнами. По этой же причине анализ того, подходит ли какая-либо другая планета для жизни, исследователи начинают с поиска воды, считая само собой разумеющимся, что раз человек не может жить без воды, значит, и никакая другая жизнь без нее невозможна. Подобное самомнение мешает даже вообразить интеллект, возникший в таком мире, где физика радиоволн неприменима, или представить, что в безводной среде возможна какая-то неизвестная нам форма жизни. И не из-за этого ли самомнения мы часто забываем, что даже человек как вид не всегда был человеком разумным? Из-за него, конечно!

Человек не всегда был разумным

Человек разумный (Homo sapiens) впервые появился в Восточной Африке около 200 тысяч лет назад. Неясно, в какой мере у этих древних людей были развиты речь, музыка, религиозные верования и тому подобное. Согласно широко распространенной теории, примерно 70 тысяч лет назад в результате катастрофического извержения вулкана Тоба, когда атмосфера Земли на несколько лет заполнилась вулканической пылью, в большинстве регионов наступило сильное похолодание. Вулканическую зиму, по данным, пережили на всей планете не более 10 тысяч человек, преимущественно в Экваториальной Африке. Таким образом, мы с вами вместе со всеми нашими знакомыми являемся потомками этой выжившей группы. Чтобы пережить резкое изменение климата, выжившие должны были быть достаточно разумными, чтобы создать новые орудия труда и приспособиться к новым условиям жизни. Им нужно было как-то добывать себе пропитание и находить способы не замерзнуть. Вот тогда у людей и появились первые реальные проблески интеллекта.

Затем ближе к концу среднего палеолита, около 60 тысяч лет назад, произошла массовая миграция людей из Африки. Однако первые признаки изобразительного искусства, музыки, меновой торговли и других проявлений того, что принято считать разумной жизнью, начали появляться только около 30 тысяч лет назад. Именно к этому времени относятся первые образцы изобразительного искусства, такие как фигурки «Венер» и наскальные рисунки в пещере Шове, и первые музыкальные инструменты вроде костяной флейты из пещеры Гайсенклёстерле.

Человеческий мозг со временем эволюционировал – под влиянием внешних обстоятельств в нем происходили последовательные инкрементальные изменения. Они происходят и сегодня. Вы с раннего возраста покупаете ребенку игрушки, развивающие интеллект, и ваше дитя постепенно научается управляться со все более сложными головоломками и системами, по мере того как в его мозге ширится и укрепляется нейронная сеть.

Нейропластичность – способность мозга разрабатывать те свои участки, которые человек «тренирует». Это невероятно эффективный инструмент для развития интеллекта. И только с одной преградой, или, скорее, биологической проблемой, мы еще не научились справляться: со смертью.

Чтобы разобраться со смертью как с препятствием, мешающим эволюции человеческого интеллекта, наши предки изобрели суперсредство, которое позволило роду человеческому семимильными шагами вырваться вперед в соревновании с другими видами, – устную и письменную речь, а также счет. Я убежден, что речь как средство коммуникации была, и остается, самым полезным изобретением человека. Она помогает сохранять уже накопленные знания и передавать их дальше от человека к человеку и из поколения в поколение. Представьте, что у Эйнштейна не было бы возможности донести до остального человечества созданную им теорию относительности. Если бы не наши замечательные коммуникационные возможности, каждому из нас приходилось бы открывать для себя теорию относительности самостоятельно. Можно было бы только пожелать нам удачи.

Человеческий интеллект развивался скачками, реагируя на развитие человеческого общества и культуры. В значительной мере существующий уровень человеческого интеллекта обусловлен именно внутривидовыми коммуникациями, а не просто реакцией на внешние обстоятельства.

Речевые нейронные сети располагаются в коре головного мозга, которая, так уж получилось, у людей крупнее, чем у любого другого разумного вида. Особенно размерами отличаются височная, теменная и лобная доли. Другие части коры отвечают за высшие мыслительные процессы, включая логические рассуждения, абстрактное мышление и принятие решений. Размер этих участков мозга отличает человека от видов с «высоким уровнем интеллекта» (например дельфинов и человекообразных обезьян). Среди прочих отличий – более развитый неокортекс, более развитые извилины и бо́льшая концентрация веретенообразных нейронов, что вкупе обеспечивает большую скорость, или мощность, мыслительных процессов и обработки информации.

Короче говоря, сложность человеческого интеллекта обусловлена богатой историей и культурой человечества, которому приходилось выживать в суровых природных условиях. Интеллект развивался как за счет увеличения и усложнения мозга, так и за счет обмена знаниями посредством и благодаря речи. Вам может показаться, что все сказанное не имеет прямого отношения к развитию ИИ, но это не так. Потерпите немного.

Наш разум эволюционировал. Люди становились умнее своих предков, а некоторые люди становились особенно умными. Развитие интеллекта у иных видов, например шимпанзе и других человекообразных обезьян, не поспевало за темпами развития человеческого разума. Хотя эти виды обитали в более-менее одинаковых природных условиях, они в меньшей степени пользовались своим интеллектом, так что их мозг не увеличивался и навыки приобретения знаний и их применения не развивались. И когда они безнадежно отстали, кто стал единоличным хозяином планеты, который теперь держит их в клетках на потеху публике? Мы, люди.

Эта концепция, предполагающая, что интеллект людей стремительно развивается именно потому, что они им активно пользуются, ярко проявляется в интеллектуальных различиях между самими людьми. Казалось бы, если все мы произошли от одной и той же небольшой группы жителей Африки, переживших катастрофическое извержение вулкана Тоба, тогда все мы должны были бы достичь более-менее равных высот в развитии интеллекта. Однако очевидно, что это не так. Как правило, мы видим, что наибольшее количество научных открытий и технических достижений приходится на передовые страны мира, тогда как развивающиеся страны в этом плане сильно отстают. Таков результат многовекового действия феномена, который я называю капитализацией интеллекта. Передовые общества сегодня пожинают плоды того, что в течение долгого времени они уважали потребность в подобного типа интеллекте и разрабатывали методы его сохранения и приумножения, тогда как в развивающихся странах более насущными и ценными считались те формы интеллекта, которые были связаны с навыками выживания, житейской мудростью и духовным разумом (если этот термин имеет смысл). Умников-ботанов (вроде меня) в развивающихся странах обычно высмеивают и третируют, что подталкивает их к эмиграции в те страны, где такая форма интеллекта процветает и пользуется поддержкой. По схожим причинам вы можете заметить, что доля людей с выдающимися математическими способностями в России и некоторых странах Азии, например в Корее, выше, чем в других регионах мира. Россия остается в лидерах, по крайней мере с точки зрения интересов, и в ракетно-космических технологиях. Однако такие компании, как Google, базирующиеся в США и других развитых странах, продолжают переманивать к себе лучшие умы из всех уголков мира, предлагая специалистам наиболее престижные инновационные лаборатории и хабы вроде Google [X].

Несмотря на неравномерность распределения интеллекта, очевидно одно:

Тот, кто обладает наивысшим интеллектом, в конечном счете правит миром.

Кто-то может быть недоволен таким положением вещей, но в целом для мира это хорошо, поскольку нам все еще необходимо пользоваться интеллектом, чтобы оставаться на самом верху пищевой цепочки.

И вот, по мере того как наш интеллект развивается и мы все лучше понимаем сложные законы окружающего мира, нам начинает казаться, что мы уже приближаемся к теоретическому пределу возможностей биологического разума. Не то чтобы мы перестали делать открытия, однако те реально сложные проблемы, которые теперь стоят перед нами, превратились уже в слишком масштабные даже для умнейших из людей. Чтобы истинное понимание природы вселенной оформить в определенную единую теорию, недостаточно разбираться в какой-то одной физической дисциплине – даже знания всей физики для этого наверняка будет мало. Здесь требуется более широкий взгляд, учитывающий знания из биологии, астрономии и, вполне вероятно, даже из духовных дисциплин. Чтобы найти способ остановить климатические изменения, нужны усилия со стороны ведущих защитников природы, бизнесменов, политиков и ученых, работающих сообща как одно целое. Узкая специализация знаний присущая нашей эпохе, превратилась в проблему. Для достижения необходимой глубины в какой-либо области знаний приходится жертвовать широтой информационного спектра. По мере того как предмет изучения становится все более сложным, даже лучшие умы вынуждены концентрироваться на чем-то одном, чтобы стать настоящими специалистами. Это приводит к тому, что знания такого специалиста в других дисциплинах весьма ограничены, и он не может включить эти дисциплины в свой интеллект.

Специализация создает отдельные хранилища интеллекта, неспособные работать сообща.

Кроме того, у нас есть проблемы с эффективностью коммуникации. Чтобы донести до вас простые идеи, содержащиеся в этом абзаце, те 250 слов, которые вы только что прочитали, я набирал в течение пяти минут, а у вас чтение заняло примерно минуту. Если бы я читал вам аудиоверсию книги, чтобы выслушать и уловить тот же текст, вам потребовалось бы минуты две. Пропускная способность человеческого интеллекта – то есть скорость, с которой вы можете воспринимать и обрабатывать информацию, – имеет серьезные ограничения. Используя высокоскоростной интернет, вы могли бы скачать эту книгу за считаные секунды, но вам все равно понадобилось бы несколько дней, чтобы ее прочитать. Вот почему мы не способны одновременно мыслить и анализировать информацию как единая умственная система – в отличие от подключаемых параллельно компьютеров. Лучшим биологам неведомо то, что известно лучшим физикам, а большинству ученых трудно понять то, чему учат духовные лидеры.

Мы не обладаем коммуникационной пропускной способностью, необходимой для обмена знаниями с достаточной скоростью.

Есть определенная ирония в том, что именно способность к общению – навык, выделяющий людей среди всех прочих живых существ, – ныне становится для них и главным препятствием.

Даже если мы не пожалеем времени на то, чтобы поделиться друг с другом своими знаниями, в нашем мозге нет такого хранилища памяти, которое бы все уместило. Не говоря уже о том, что мозг человека не обладает достаточной производительностью для переработки всех этих массивов данных, чтобы на их основе прийти к какому-то решению или постичь вселенские законы. Вынужденная специализация знаний, ограниченная пропускная способность мозга с точки зрения коммуникаций, ограниченная емкость памяти и, соответственно, ограниченная производительность – все это означает, что даже развитые умы будут приближаться к пределу возможностей человеческого интеллекта.

Люди не всегда были разумными и не всегда смогут оставаться самыми умными.

Очевидно назревшей кажется потребность в новых формах интеллекта в поддержку существующему разуму, и именно это обстоятельство вызывает такой бурный интерес. Одна из форм, которая обещает далеко превзойти нашу, человеческую, – машинный интеллект.

Мифология

Люди мечтают об умных машинах уже тысячелетия. Первые упоминания о механических, искусственных формах разума мы обнаруживаем в древнегреческих мифах, рассказывающих, как Гефест, бог кузнецов, плотников, ремесленников, скульпторов и прочих мастеров, создал золотых служанок-роботов. В Средние века способы создания искусственных форм жизни искали мистики и алхимики. Мусульманский химик Джабир ибн Хайян целью своих исследований видел «таквин» – искусственный синтез жизни, в том числе и человеческой, в лабораторных условиях. Раввин Йехуда Лива, более известный как Махараль из Праги, рассказал историю о Големе – живом существе, созданном целиком из неживой материи, – к нашему времени она стала частью фольклора. Мифы наполнены историями о чудесах инженерии.

Существует легенда, что в Х веке до нашей эры инженер Ян Ши представил императору Му из династии Чжоу полноразмерную механическую модель человека.

По преданию, император был буквально потрясен изобретением Ян Ши. Созданная инженером модель, судя по всему, могла ходить и двигать головой так уверенно, что со стороны казалась живым человеком. Однажды император решил похвастаться своим роботом перед гостями. И все было хорошо, пока робот вдруг не принялся флиртовать с некоторыми из приглашенных дам и подмигивать им. Разгневанный император хотел было казнить Ян Ши прямо на месте, но умелец не растерялся и быстренько разобрал свое творение, чтобы показать императору, из чего на самом деле был изготовлен этот робот: только деревяшки, кожа, клей и краска. Император, смягчившись, захотел посмотреть поближе. У робота были искусственные аналоги всех человеческих внутренних органов, включая сердце, легкие, печень, почки и желудок, которые сверху были закрыты весьма реалистичной имитацией мышц, суставов, кожи, волос и зубов.

Интерес к созданию искусственной разумной жизни не ослабевал, и к XIX веку искусственные существа и мыслящие машины стали излюбленными героями научной фантастики. В числе наиболее известных примеров можно назвать «Франкенштейна» Мэри Шелли и R.U.R. Карела Чапека (R.U.R расшифровывается как Rossum’s Universal Robots – «Россумские универсальные роботы»; именно из этой книги слово «робот» и вошло в обиход). ИИ остается важной темой научной фантастики до сего дня, и ему посвящено несчетное количество фильмов, через которые красной нитью проходит главная идея: машины наступают, и кому-то не поздоровится. Мы еще вернемся к некоторым из этих фильмов и посмотрим, как они предсказывают будущее, но сейчас пора от художественного вымысла перейти к историческим фактам.

Реальная история, какой она была до сих пор

Реалистичные человекоподобные автоматы создавались мастерами разных цивилизаций. Самыми древними из известных образцов таких механизмов были священные статуи в Египте и Греции. Верующие люди наделяли «живые статуи» способностью мыслить и чувствовать, хотя очевидно, что статуи этого не могли. Гермес Трисмегист, автор ряда священных текстов, заложивших основу философии герметизма и объединяемых под общим названием «Герметический корпус», писал, что «человек смог понять природу богов и научился воссоздавать ее»4.

С развитием научно-технического прогресса стали появляться первые реальные образцы механических моделей человека. Естественно, их конструкторы не пытались создавать искусственный разум, но с точки зрения механики их творения были гениальны.