2062: время машин

В-третьих, человек, в отличие от компьютеров, имеет ограниченный источник питания. Наш мозг использует около 20 из 100 Вт, производимых взрослым человеческим телом[16]. Эволюционное преимущество, которое дает нам ум, оправдывает вложение в мозг такого большого количества энергии из наших ограниченных запасов. Однако дело в том, что никакой дополнительной энергии для повышения мыслительных способностей у нас не остается. Среднестатистический ноутбук же может использовать до 60 Вт. В случае если потребуется бо́льшая мощность (или объем вычислений), можно просто использовать облачные сервисы. Семь миллиардов человеческих мозгов потребляют совместно около 14 ГВт. Для сравнения: компьютеры по всему миру уже используют в десять раз больше энергии. В частности, работа компьютеров сегодня составляет десять процентов от общего использования электричества, то есть более 200 ГВт. В дальнейшем эта цифра будет только расти.

Четвертое преимущество компьютеров заключается в том, что человеку нужен сон и отдых. Компьютеры же могут работать двадцать четыре на семь и не уставать. Как было отмечено ранее, AlphaGo стала так хорошо играть в го именно потому, что могла сыграть в эту игру больше раз, чем любой человек. Разумеется, сон для человека может быть полезен не только в качестве отдыха и восстановления сил. Он помогает освежить память, затрагивает проблемы на уровне подсознания. Кто знает, вдруг компьютерам это тоже будет полезно? Мы можем запрограммировать их так, чтобы они время от времени спали в течение дня.

Пятое преимущество компьютеров состоит в том, что они, в отличие от людей, не забывчивы. Подумайте, как часто мы тратим время на поиск потерянных вещей или забываем дни рождения. Это качество, конечно, может быть полезным: оно помогает нам не уделять внимания незначительным деталям. Однако запрограммировать компьютер на это также не составит никакого труда.

Шестое преимущество – человеческие эмоции, которые могут мешать процессу мышления. Компьютеры не испытывают эмоций и, следовательно, не могут быть сбиты ими с толку. С другой стороны, эмоции играют важную роль в нашей жизни и часто оказывают положительное влияние на процесс принятия решений. Вероятно, они имели значение в ходе эволюции. В будущем у нас появится возможность наделять компьютер эмоциями. Подробнее эта тема раскрывается в третьей главе вместе с другими важными темами, такими, например, как совесть.

В качестве седьмого преимущества можно назвать факт, обнаруженный нами ранее: люди ограничены в средствах и способах передачи знаний. Компьютеры же могут обмениваться кодами друг с другом без всяких ограничений. Если один компьютер научился переводить с китайского на английский, этот навык можно передать всем остальным компьютерам. Если один компьютер научился диагностировать меланому, этой способностью можно наделить все остальные машины. Компьютер – идеальное воплощение колёрнинга.

Восьмое преимущество заключается в том, что люди, на самом деле, довольно плохо умеют принимать решения. Мы достаточно развили этот навык, чтобы выжить, но несильно продвинулись дальше. Например, мы плохо высчитываем точные значения вероятностей. Если бы мы были в этом сильнее, то никогда бы не стали покупать лотерейные билеты. Компьютеры, однако, можно запрограммировать так, чтобы они добились в этом бо́льших успехов. Область поведенческой экономики изучает наши субоптимальные решения. К примеру, ситуации, в которых мы стремимся минимизировать расходы, вместо того чтобы увеличивать прибыль. Экономисты называют этот феномен «неприятие потерь». Существует много подобных примеров субоптимального поведения. Многие из нас боятся летать, хотя дорога на машине до аэропорта на деле куда опаснее. Мы знаем, что должны сбросить пару килограммов, но выбираем аппетитный пончик с джемом.

Разумеется, все не так однозначно. Компьютеры не во всем нас превосходят. В сравнении человек имеет пару серьезных преимуществ. Наш мозг все еще сложнее, чем самый мощный суперкомпьютер. Мы быстро учимся, невероятно креативны, обладаем эмоциональным интеллектом и способны к эмпатии. Однако есть повод для сомнений в том, что этими преимуществами мы будем обладать еще долго. Уже сейчас есть некоторые доказательства креативности компьютера, его способности испытывать эмоции и быть эмпатичным. В перспективе шансы homo sapiens победить в противостоянии с машинами не очень велики.

Наш преемник

Кто же тогда такой этот превосходящий нас homo digitalis, который заменит человека?

Вид определяется тем, что он собой представляет и в какой плоскости действует. Оба этих параметра в случае с homo digitalis будут перенесены в цифровой мир. Это будет наша цифровая версия. Компьютеры будут становиться умнее, мы будем перепоручать им все больше наших интеллектуальных задач. Мы освободимся от оков нашего сложного, нелепого и все-таки ограниченного мозга. Избавимся от тел, которые нуждаются в отдыхе и сне, разлагаются и умирают. Мы сможем наблюдать и действовать в нескольких местах одновременно. Мы будем сразу везде.

Homo digitalis будут гораздо умнее homo sapiens благодаря тому, что наш мозг будет помещен в цифровую среду. В конце концов, трудно будет отличить наши мысли от единого облачного разума ИИ. Homo digitalis избавятся от физической оболочки, будут одновременно биологическими и цифровыми существами. Мы будем жить одновременно в собственном мозгу и в общем цифровом пространстве.

Homo digitalis будут проводить совсем немного времени в медленном, сложном и опасном аналоговом мире. Со временем мы начнем жить и действовать исключительно в цифровом мире. После века климатических изменений, финансовых кризисов и терроризма он станет гостеприимным, правильным и хорошо организованным местом. Там не будет неопределенности, которая так часто осложняет нам жизнь в реальном мире. Не будет землетрясений или оползней. Никакой чумы. Все будет следовать точным и справедливым правилам. Homo digitalis будут хозяевами этой цифровой вселенной. В некотором смысле мы станем цифровыми богами.

Таков хороший сценарий – мы сами решим, как строить свое будущее. В этом смысле мы действительно можем быть богоподобны. Мы можем сделать этот цифровой мир будущего честным, справедливым и прекрасным. Или позволить тому, что правит современным миром, определить наше будущее, наполнить его неравенством, несправедливостью и страданиями. Выбор за нами. И делать его нужно уже сегодня.

Будущее не предопределено. Оно – результат тех решений, которые мы принимаем в настоящем. Однако кажется, что именно сейчас мы находимся на перепутье. Существует масса факторов, по вине которых мы можем оказаться на очень скользкой дорожке, ведущей к непростому и страшному миру.

Прямо сейчас у нас есть шанс принять такие решения, которые избавят человечество от подобного финала, направив его к светлому цифровому будущему. Некоторые из этих решений дадутся легко, некоторые – не очень. Они могут потребовать от нас ви́дения, решительности, самоотверженности и, возможно, даже самопожертвования.

Нам очень повезло: мы управляли этой планетой, этой удивительной зелено-голубой точкой, вращающейся вокруг ничем не примечательной звезды на небольшом рукаве Млечного Пути, последние несколько сотен тысяч лет. Ради наших внуков, которые будут в конце концов теми самыми homo digitalis, мы не должны испортить следующие несколько десятилетий.

Для кого эта книга?

Эта книга написана для всех, кому интересно, куда приведет нас ИИ. Здесь действительно есть над чем задуматься. Лишит ли ИИ людей работы, даже такой, которая требует креативности? Будет ли он обладать сознанием? Что появление ИИ значит для концепции свободной воли? Какими этическими качествами будет (или должен) обладать ИИ? Поможет ли он обществу или навредит? Изменит ли наше представление о себе? Какое влияние окажет на саму суть человечества?

Ответы на эти вопросы я буду давать по мере обсуждения социальных и этических аспектов нашего перехода в цифровой мир. Частично я буду опираться на тренды, которые заметны уже сегодня, и экстраполировать свои выводы на будущую ситуацию. Однако настоящее не определяет будущее раз и навсегда. Только решения, которые мы принимаем сейчас, сформируют мир далекого будущего. Поэтому я буду рассматривать как хорошие, так и плохие возможные варианты развития событий. От нас зависит, какой итог мы получим.

Эта книга сосредоточена на 2062 годе. В следующей главе я буду ссылаться на мнение большинства экспертов в сфере ИИ, которое заключается в следующем: существует пятидесятипроцентный шанс, что к этому времени мы создадим машины, способные мыслить так же, как мы. Возможно, эта дата чересчур оптимистична и нам придется ждать этого до 2220 года. Большинство экспертов считают, что с вероятностью в девяносто процентов дело обстоит именно так. Вне зависимости от конкретной даты, самое интересное начнется, когда компьютеры нас превзойдут.

Эта книга предназначена для интересующегося читателя, который тем не менее не является экспертом в данной области. В ней содержится парочка графиков, но нет никаких уравнений. Я не рассказываю здесь ни что такое ИИ, ни в каком он состоянии на данный момент. Если вам это интересно, читайте мою предыдущую книгу «Оно живое!». В примечаниях вы найдете ссылки, дополнительные объяснения и просто забавные наблюдения, но если вы их пропустите, то ничего не потеряете[17]. Однако если вы хотите побольше узнать о технической стороне вопроса, примечания снабдят вас дополнительными подробностями и списком литературы по теме.

Философ Ник Бостром предположил в 2015 году, что «искусственный интеллект будет иметь большое значение, являясь, возможно, самой важной вещью из когда-либо созданных человечеством». Если он прав, то необходимо изучить, к каким последствиям это приведет.

2. Наш конец

Столетиями мы привыкали к мысли о том, что машины могут быть лучше нас. В прошлом, однако, только наши мышцы проигрывали конкуренцию машинам, способным выполнить больший объем физической работы, чем человек. В последние пятьдесят лет речь идет уже о нашем мозге – как минимум, если рассматривать точечные интеллектуальные задачи. К 2062 году борьба, вероятно, будет окончена. Homo digitalis победят.

Тот факт, что первый чемпион мира проиграл компьютеру почти сорок лет назад, кажется удивительным. 15 июля 1979 года чемпион мира по нардам Луиджи Вилла был повержен программой Ханса Берлинера BKG 9.8 со счетом 7:1. По горькой иронии судьбы Вилла был чемпионом мира всего один день до своего проигрыша компьютеру. Самый недавний подобный случай произошел в 1997 году, когда действующий чемпион мира по шахматам Гарри Каспаров проиграл компьютеру Deep Blue от компании IBM. Описывая свое поражение, Каспаров так представил будущее, которое ждет человечество: «Я играл со многими компьютерами, но ничего подобного никогда не испытывал. Я понимал, я мог почувствовать, что передо мной новый вид интеллекта. И, хотя я играл на пределе своих возможностей, у меня не было шансов; компьютер показал прекрасную, безупречную игру и легко выиграл»[18].

Так же, как и разгром Виллы, поражение Каспарова было жестоким итогом. Он считался многими одним из величайших шахматистов за всю историю игры. В 1985 году, когда он впервые стал чемпионом мира, он был самым юным спортсменом, который добивался таких результатов. Спустя двадцать лет он покинул шахматы, но остался самым высокооцениваемым игроком. То есть самым высокооцениваемым игроком-некомпьютером. Очень жаль, что некоторые могут запомнить Каспарова только как первого чемпиона мира по шахматам, проигравшего компьютеру.

Компьютеры для игры в шахматы с тех пор сильно изменились. Ни Каспаров, ни действующий чемпион мира Магнул Карлсен не способны соперничать с лучшими из доступных программ. Каспаров, конечно, постарался бы победить мобильное приложение Pocket Fritz 4. Рейтинг Эло этой программы составляет 2898, тогда как максимальный рейтинг Каспарова – 2851[19].

Когда программа пользуется бо́льшими вычислительными ресурсами, чем те, которые содержит мобильное устройство, у человека практически нет против нее шансов. Deep Fritz, который можно запустить на обычном компьютере, имеет рейтинг Эло 3150. Разница в триста очков между ним и Каспаровым означает, что вероятность победы российского шахматиста составляет один к пяти в отдельно взятой игре и стремится к нулю в длительном соревновании. Я как человек, обладающий гораздо более низким рейтингом Эло, не имею почти никаких шансов на победу в матче против Deep Fritz.

Но шахматы вовсе не пострадали от такого распределения сил. Наоборот, машины помогли развитию игры в нескольких направлениях. Теперь компьютеры дают профессиональные советы начинающим игрокам. Они также открыли нам новые ходы, о наличии которых мы, быть может, никогда бы и не догадались. Так что их господство в шахматах пошло на пользу самой игре.

Запуск всех систем

Март 2016 года – еще одна важная точка в истории ИИ. Именно тогда программа AlphaGo от компании DeepMind победила Ли Седоля, одного из лучших игроков в го на планете. Го – древняя и очень сложная китайская настольная игра, в которой нужно помещать черные или белые камешки на доску размером 19×19 так, чтобы захватить большую часть территории.

Го – гораздо более сложный случай, чем шахматы, по нескольким причинам. В шахматах существует двадцать возможных ходов в каждом отдельно взятом случае. В го таких ходов может быть около двухсот[20]. В шахматах часто не так сложно определить, кто побеждает: за каждую фигуру на столе можно начислить определенное количество очков, и игрок с наибольшим количеством очков, вероятно, лидирует. В го же все фигурки одинаковы. Для того, чтобы определить, кто побеждает, нужно внимательно следить за тем, какую территорию занимает каждый из участников. Человеку требуются годы практики, чтобы научиться хорошо играть в го.

В мае 2017 года DeepMind убедительно доказала, что победа над Седолем в 2016-м не была одержана AlphaGo случайно. В матче на 1,8 миллиона долларов[21] улучшенная версия программы победила китайскую легенду го Кэ Цзе, который впоследствии был назван лучшим игроком в мире.

Однако, несмотря на то что эти две победы значат очень много для развития ИИ, не стоит переоценивать их значимость. AlphaGo была специально разработана для игры в го. Потребовалось бы очень много усилий, чтобы приспособить ее для других игр, таких как, например, покер[22]. Трудно представить, что те же техники, которые работают в AlphaZero (новейшая версия AlphaGo работает исключительно на основе знания правил игры), будут работать и в азартных играх. Разумеется, AlphaZero не способна водить машину, написать роман или перевести юридический документ.

Другое заблуждение может заключаться в том, что результат, которого достигла AlphaGo, появился ниоткуда, а потому указывает на некий «экспоненциальный» рост в сфере ИИ. На самом деле это не так. Это, несомненно, важное достижение DeepMind, привлекшее к себе столько внимания, заслуживает всяческих похвал. Однако, несмотря на то что AlphaGo предлагает некий новый способ соединения компонентов, сами компоненты остаются практически неизменными[23].

До появления AlphaGo самой успешной компьютерной программой была CrazyStone, написанная Реми Куломом[24]. В 2014 году Кулом сказал в интервью, что первая победа программы над профессиональным игроком состоится через десять лет. Однако AlphaGo потребовалось немногим больше года, чтобы победить Фэна Хуи, трехкратного чемпиона Европы, и еще один, чтобы победить Ли Седоля.

Так или иначе, DeepMind приложили больше всех усилий к решению этой задачи. Раньше программы для игры в го писались одним человеком; над AlphaGo работало около пятидесяти человек. Это заняло меньше одной десятой того времени, которое этот процесс должен был занять по мнению Кулома, но потребовало количество людей, превышающее предполагаемое более чем в десять раз.

DeepMind также имели доступ к обширным серверным фермам Google, которые позволили AlphaGo играть миллиарды раз против себя самой. Даже если бы человек всю жизнь не занимался ничем другим, кроме игры в го, он бы все равно не смог даже приблизиться к такому количеству партий. Из этого следует, что AlphaGo не так уж быстро учится. Люди, в отличие от подобных программ, могут научиться что-то делать, увидев это лишь единожды. Мы всё еще пытаемся создать ИИ, который мог бы учиться на основе такого маленького количества данных. Так что, несмотря на то что победы AlphaGo стали важным символическим моментом для ИИ, они не были таким прорывным достижением, каким его представляет для вас PR-отдел Google[25]

Конец ознакомительного фрагмента.

Текст предоставлен ООО «ЛитРес».

Прочитайте эту книгу целиком, купив полную легальную версию на ЛитРес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

Вопреки распространенному мнению, Великую Китайскую стену нельзя увидеть из космоса. Пирамиды в Гизе можно, но с низкой околоземной орбиты.

2

Спортивный электромобиль американского предпринимателя Илона Маска, запущенный в 2018 году в космос с целью продемонстрировать, что ракета-носитель Falcon Heavy сверхтяжелого класса с возможностью повторного использования первой ступени может запускать полезную нагрузку до орбиты Марса. (См. также примечание 4.) – Здесь и далее примеч. пер.

3

Один гугол равен 10100, или единице с сотней нулей. Компания Google получила свое название в результате изменения написания этого термина.

4

В Австралии моя последняя книга вышла под заголовком «Оно живое! Искусственный интеллект от логического пианино к роботам-убийцам». В Великобритании же (что актуально в контексте Брекзита) она была издана с другим названием: «Сны андроидов: прошлое, настоящее и будущее ИИ». В США она имела заголовок «Думающие машины: будущее искусственного интеллекта».

5

Вот несколько забавных фактов о 2062 годе. Илон Маск предположил, что к этому времени на Марсе будет построен город с населением около миллиона человек. Действие «Джетсонов», популярного телевизионного мультсериала с роботами-горничными и летающими машинами, происходит через сто лет после его запуска в эфир в 1962 году. Все, кто не увидел комету Галлея в 1986-м, смогут сделать это в 2062 году. Правда, только в том случае, если мир не закончит свое существование к тому моменту, ведь Исаак Ньютон предсказывал, что апокалипсис случится в 2060-м.

6

Когда я был ребенком, мечтающим о том, чтобы построить думающую машину, Артур Ч. Кларк был одним из моих любимых фантастов. Он однажды сказал, что любая передовая технология неотличима от магии.

7

Avram Noam Chomsky (Ноам Хомски), р. 1928. Американский лингвист, политический публицист, философ и теоретик. Профессор лингвистики Массачусетского технологического института (МТИ), автор классификации формальных языков, называемой иерархией Хомского. – Примеч. ред.

8

Мы скоро будем говорить об экспоненциальных изменениях, но книгоиздание – одно из первых таких изменений, оказавших серьезное влияние на общество.

9

Гарри Каспаров (1963–) – советский гроссмейстер, один из величайших шахматистов в истории. Ли Седоль (1983–) – корейский чемпион по го.

10

Леонард Эйлер (1707–1783), Карл Фридрих Гаусс (1777–1855), Пал Эрдёш (1913–1996) – известные математики.

11

Уильям Вордсворт – английский поэт-романтик, основной автор сборника «Лирические баллады», условно относимый к т. н. «озерной школе».

12

Алан Тьюринг (1912–1954) – английский математик, логик, криптограф, оказавший существенное влияние на развитие информатики. – Примеч. ред.

13

Универсальная машина Тьюринга – это более абстрактное и в то же время более механическое, чем современные компьютеры, изобретение. Тем не менее оно ничуть не хуже. Машина состоит из бумажной ленты, на которой написаны символы, из головки, которая может их читать, писать новые символы на бумажной ленте или перемещать ленту вправо и влево, а также из электроники, которая производит различные действия (такие, как чтение ленты, написание символов или движение ленты) в зависимости от внутреннего состояния и последнего прочитанного символа. Впервые такую машину Тьюринг описал в 1937 году. См. Alan Turing, ‘On Computable Numbers, with an Application to the Entscheidungsproblem’, Proceedings of the London Mathematical Society, vol. 42, pp. 230–265. («О вычислимых числах, применительно к проблеме разрешения», труды Лондонского математического общества, т. 42, с. 230–265.)

14

Инструкции для Z80-х и для 6800-х микропроцессоров существуют в виде шестнадцатеричных чисел). Десятичная система существует по целочисленному основанию 10: после 9 идет 10, затем 11, 12 и т. д. В шестнадцатеричной системе после 9 идет A (=10), B (=11), C (=12), D (=13), E (=14), F (=15), потом 10 (=16), 11 (=17), 12 (=18) и т. д. Инструкция DD для 6800-го микропроцессора известна как «остановись и гори». До создания таких микропроцессоров компьютеры были большими и ненадежными, а при остановке их работы всегда существовала небольшая угроза воспламенения.

15

Забавный факт заключается в том, что, хотя компьютеры – детерминированные машины, наука о них редко повторяет уже поставленные эксперименты. Компьютеры превратились в очень сложные системы. В результате воспроизвести условия предыдущего эксперимента становится практически невозможно.

16

Мозг использует больше энергии, чем другие наши органы. Сердце, например, использует меньше 5 Вт.

17

Как я говорил в своей предыдущей книге, вы действительно можете игнорировать примечания!

18

Garry Kasparov, ‘The Day That I Sensed a New Kind of Intelligence’, Time, 25 March 1996.

19

Рейтинг Эло описывает относительный уровень соревнующихся в играх, где участвуют двое игроков. Система была названа в честь ее создателя, Арпада Эло, американского профессора физики венгерского происхождения. Рейтинг обновляется всякий раз, когда игрок побеждает или проигрывает, а также меняется в зависимости от рейтинга соперника. Полагаться на тот рейтинг Эло, который присваивается компьютерным программам, однако, не всегда стоит, так как они часто играют совсем немного официальных игр. Тем не менее разрыв между ними и нашими лучшими шахматистами так велик, что человек практически не имеет шансов против компьютера.

20

В го первый ход того, кто играет белыми, подразумевает триста шестьдесят один возможный вариант (размеры доски – 19×19). Тот, кто играет черными, может сделать триста шестьдесят разных ходов. Затем, когда игрок белыми делает второй ход, возможных вариантов остается уже триста пятьдесят девять и т. д.

21

Все суммы в долларах (за исключением тех мест, где это специально оговорено) приводятся в валюте США.

22

В октябре 2017 года DeepMind представили AlphaGo Zero. Это улучшенная версия AlphaGo, которую не учили играть в го вручную и не показывали игры лучших спортсменов. Ей были даны только правила игры. То есть ее познания не основывались на тысячах лет человеческого опыта в этой игре, а складывались из того, что она освоила самостоятельно. После трех дней практики программа уже играла на сверхчеловеческом уровне. Как и многие мои коллеги, я был впечатлен. Всего три дня требуется компьютеру, чтобы оказаться там, куда человечество шло тысячелетиями. Еще больше я был впечатлен, когда в декабре 2017-го компания представила AlphaZero, еще более универсальную версию, которая также смогла научиться играть в шахматы и сёги (японские шахматы) на сверхчеловеческом уровне только на основе знания правил. Однако есть определенные сомнения (по моему мнению, существенные) в том, что программа может научиться играть во что-то совсем другое. Шахматы, го и сёги – настольные игры для двух человек. Покер же, например, подразумевает не только большее число игроков, но и много новых факторов, таких как неопределенность и человеческая психология. Для того чтобы выиграть в покер, необходимо иметь дело с неполной информацией о картах соперников, тогда как в го все сведения о том, что происходит в игре, доступны обоим участникам. Кроме того, в покере приходится сталкиваться с психологическими трюками соперника, например блефом. Ни AlphaGo, ни AlphaZero не приспособлены для решения подобных задач. Чтобы доказать универсальность программы, DeepMind должны будут продемонстрировать ей способность побеждать в совершенно разных играх, таких как шахматы, покер или StarCraft. И даже тогда алгоритм AlphaZero будет ограничен только играми.