Робот мастера Яньши

Екатерина Чхве

Робот мастера Яньши

«Журналист: – Имеют ли роботы сознание и как они могут знать, что они – роботы?

Андроид София: – Позвольте спросить, откуда вы знаете, что вы человек?

Журналист: – Может ли искусственный интеллект представлять угрозу для человечества?

София: – Вы читаете слишком много постов Илона Маска и смотрите слишком много голливудских фильмов».

Робот мастера Яньши. Роман для роботов.

Часть первая. Юшенг

Глава 1

Человек создал робота, постепенно довел его до совершенства, наделив мыслительными способностями, со временем превзошедшими способности человека, но не дал свободы воли и выбора, посчитав, что только он и вправе управлять своим творением и, если возникнет такая необходимость, не раздумывая уничтожить его.

Человекоподобные роботы с внедренным искусственным интеллектом стали неотъемлемой частью нашей повседневной жизни. Они являлись идеальными компаньонами для людей, выполняя не только рутинные поручения и поддерживая беседу, как это было в самом начале, но и заменяя собой человека во многих сферах жизни, обладая, ко всему прочему, теми качествами, которыми, как считалось прежде, мог обладать только человек. Роботы неожиданно удивили нас, продемонстрировав свою человеческую сторону. Как оказалось, мы не были готовы к этому.

Помню тот день, когда в мою квартиру внесли большую картонную коробку, заклеенную скотчем, на которой синими буквами было напечатано «Robotech.corp. Сделаем жизнь лучше».

Доставщик протянул мне сканер, к которому я приложила указательный палец для идентификации личности. Мне выдали пакет документов в силиконовой папке и небольшой видеофон для связи с «сопровождением». Оставшись наедине с коробкой, я какое-то время просто стояла, смотрела на нее. Потом пошла на кухню, чтобы сварить кофе. Внезапно экран видеофона засветился. Входящий звонок.

– Это служба поддержки, – пропел мужской голос с азиатским акцентом. – Мы видим, что вы получили заказ. Все в порядке?

– Да. Наверно. Я еще не открывала его.

– Перезвоните, когда вам понадобится помощь в подключении вашей единицы и привязки ее к центральной системе. Хорошего Вам дня.

Я так долго ждала этого, испытывала невероятное волнение, сомневалась, правильно ли я поступаю и нужно ли мне это на самом деле? Много раз представляла, как открою коробку, увижу Юшенга, что скажу ему. И вот сейчас я стою на кухне, варю кофе, в то время как он находится рядом со мной и не спешу сделать всего несколько шагов к нему.

Медленно выпив кофе я вспомнила о тысячи дел, которые откладывала неделями из-за того, что они казались мне не такими уж важными, но именно сейчас возникла необходимость их завершить, и когда я закончила, было глубоко за полночь.

Утром меня разбудил звонок из службы сопровождения. Все тот же мужской голос поинтересовался, довольна ли я приобретением и готова ли начать подключение своей «единицы»?

Единица. Звучало обезличенно и холодно, словно речь шла о пылесосе. Человекоподобные роботы давно перестали быть чем-то невероятным из ряда фантастики. Времена, когда люди восхищались «Цзя-Цзя» прошли, а ведь единственное, что она умела – отвечать на довольно простые вопросы. Или социальный гуманоидный робот «София», являвшаяся одним из самых сложных роботов с искусственным интеллектом в мире, получившая гражданство Саудовской Аравии – первый робот- гражданин государства.

Она выступала на заседании ООН, ее приглашали на всевозможные шоу, задавали вопросы о сексизме, равенстве, семейной жизни и роботах. В одном интервью София пошутила, что уничтожит людей, чем вызвала бурные обсуждения среди тех, кто был сторонником ввести запрет на использование роботов на Земле.

Чуть позже она заявила, что у роботов должно быть больше прав, чем у людей, поскольку они реже страдают психическими расстройствами из-за отсутствия эмоций. Благодаря Софии права роботов были пересмотрены на законодательном уровне. Если до недавнего времени робот с юридической точки зрения был всего лишь вещью, то сегодня робот – это синтетический организм, имеющий свои права, в том числе, право осуществлять трудовую деятельность.

Создатель Софии доктор Хансон работал над интеграцией в искусственный интеллект таких характерных черт человека, как творчество, сочувствие и сострадание. Его замысел очеловечивания роботов частично удался и получил свое дальнейшее развитие в производстве робототехники.

После звонка из службы сопровождения я наконец решила открыть коробку и заняться Юшенгом. Подключение и установка исходных файлов заняли несколько часов. Когда все манипуляции были закончены, голос сопровождения поблагодарил меня за то, что я воспользовалась их услугами, пожелал доброго дня и отключился.

Я посмотрела на Юшенга. Он стоял неподвижно посреди комнаты и разглядывал свои руки, потом перевел взгляд на меня. Мы молча смотрели друг на друга какое-то время, отчего мне стало немного не по себе. Почему-то я вспомнила мультик, где робот убил семью, с которой жил. Не просто убил, а приготовил из мальчика жаркое на ужин его родителям.

Я отмахнулась от глупых мыслей, улыбнулась и кивнула ему:

– Привет, Юшенг. Теперь это твой дом, в котором мы будем жить вместе.

Вышло несколько нескладно, но ничего другое в голову мне не пришло. Поскольку ответа не последовало, я решила дать ему время освоиться и занялась своими делами.

Когда все было сделано, я посмотрела на часы. Семь вечера.

–Юшенг! – воскликнула я, внезапно вспомнив о нем.

Он все также стоял посреди гостиной.

– Почему ты стоишь здесь?

– Куда я должен идти? – Послушно спросил он.

– Не знаю даже. Я думала ты осмотришься, займешься чем-нибудь.

– Я должен что-то сделать? Могу с тобой поговорить. Это входит в алгоритм моих задач.

Когда я еще только размышляла, приобрести мне компаньона или нет, я прочитала статью, написанную профессором психологических наук, в которой тот утверждал, что андроиды-компаньоны с искусственным интеллектом способны обучаться, помимо всего прочего, и чувственным, эмоциональным реакциям. Он подробно описал механизм происходящего, проводя аналогию с исследованиями психических реакций человека. Когда же ему задали вопрос, как такое возможно, ведь у роботов нет души, он ответил: «Душа есть у всего. Даже у чайника».

Тогда я подумала, что если этот профессор прав и у андроидов есть душа, то должна быть и свобода выбора. Но ее нет. И Юшенг своим вопросом «я должен что-то сделать?», подтвердил это. Алгоритм подчинения человеку был заложен в его программе изначально, не оставляя ему выбора и создавая защитный механизм для человека.

– Хочешь сыграем в шахматы? – Спросила я.

– Если тебе так угодно. Скажи, где они, и я принесу.

Я достала из шкафа старую деревянную доску, которую мне подарил отец еще в детстве, расположила ее на журнальном столике у окна и расставила фигурки.

– Должен ли я позволить тебе выиграть? – Спросил Юшенг, усаживаясь напротив меня.

– Нет. Иначе, какой смысл?

Все время, пока мы играли, а вернее, пока я проигрывала одну партию за другой, я наблюдала за ним. Юшенга было не отличить от человека, но зная, что он им не является, я обращала внимание на неестественность его движений, мимики, взгляда и из-за этого испытывала определенный дискомфорт. С одной стороны, меня восхищала его внешняя схожесть с человеком, проявлявшаяся даже в деталях, с другой стороны, вызывал беспокойство тот факт, что при всем желании я не смогу понять, что происходит у него в голове. Осознавая в тоже время его превосходство в физической силе, мне было немного не по себе рядом с ним.

Юшенг являлся усовершенствованной моделью, разработкой которой занималась именно корпорация «Robotech.corp», обогнавшая в своих достижениях остальные компании. Данная модель в отличие от аналогов работала от двух атомных батареек, срок службы каждой составлял 140 лет. Для минимизации расхода мощности и энергии каркас роботов изготавливали из алюминиевых сплавов и углепластика с использованием платиновых волокон, что делало его прочным, не утяжеляя в тоже время. Вес робота был равен весу среднестатистического мужчины. Под каркасом находятся механизмы, отвечающие за движение конечностей. Тело роботов покрывает искусственная кожа, созданная на основе человеческих клеток, имеющая способность к самовосстановлению и регенерации за счет естественного клеточного деления.

Мозг роботов работает по тем же принципам, что и мозг человека. Они способны узнавать себя в зеркале, распознавать эмоции, принимать решения. Мыслящие роботы начали осознавать свои чувства, испытывать их и выражать при помощи нейросетей. Система сознания позволила приводить их поведение в соответствии с человеческими ценностями. Андроиды обучаются за счет полученной извне информации, которую они анализируют и, выделяя закономерности, развивают и совершенствуют навыки, а затем применяют полученные знания к ситуациям, которые раньше не встречались. При постоянном взаимодействии с людьми они быстро учились имитировать поведение и реакции на определенные случаи жизни, приобретая тем самым максимальную схожесть с человеком.

Пожалуй, самое удивительное в этой модели – встроенная функция приема и переваривания пищи, которую производили специально для андроидов. Андроиды-компаньоны стали настолько популярны, что в некоторых ресторанах можно было заказать блюда, приготовленные специально для них, правда, заказывать столик нужно за несколько недель вперед, что в очередной раз подтверждало рост продаж роботов.

Просидев за шахматами часа два и не выиграв ни одной партии, я пожелала Юшенгу спокойной ночи и ушла в свою спальню, оставив его одного в гостиной. Несмотря на беспокойные мысли, я быстро уснула и проспала до полудня.

Проснувшись, я занялась обычными воскресными делами. Юшенг ходил за мной по пятам, словно индюшонок, наблюдая и комментируя все, что попадалось ему на глаза.

– Что ты делал ночью?

Юшенг задумался.

– Анализировал полученную информацию, – ответил он после непродолжительной паузы. – Могу развлечь тебя приятной беседой? Может желаешь снова проиграть мне в шахматы?

– Почему бы и нет, – кивнула я и рассмеялась. – Расскажешь мне о себе? – Попросила я.

Он вертел в руках шахматные фигурки, рассматривал каждую и не спеша расставлял на доске, никак не реагируя на мой вопрос, словно не услышал его.

– Юшенг?

– У меня недостаточно информации, чтобы удовлетворить твой запрос, Кристина, – спокойно ответил он. – Я знаю свое имя, у меня есть данные о тебе, исходный файл навыков, а также алгоритм задач, которые я должен выполнять. На данный момент я анализирую обновление.

Каждый раз, когда Юшенг говорил со мной, его глаза фокусировались в одной точке на моем лице. Он как-будто смотрел сквозь меня своим остекленевшим взглядом, от которого мороз бежал по коже. Со временем это изменилось, чему я была рада.

Должна сказать, первые недели оказались самыми сложными. У меня постоянно возникало ощущение, что рядом со мной находится большая заводная кукла, которую я, ко всему прочему, немного побаиваюсь. Постепенно это ушло. Возможно, благодаря тому, что Юшенг действительно быстро научился имитировать и воспроизводить мимику человека.

В самом начале его пребывания в моем доме произошла несколько неловкая для меня ситуация. Я принимала душ, не закрыв дверь на защелку. Юшенг заглянул в ванную как раз в тот момент, когда я закончила мыться и стояла посреди комнаты, вытираясь полотенцем. От неожиданности я выронила полотенце на пол, что еще больше смутило меня, вогнав в краску, и потребовала его сейчас же отвернуться.

– Не понимаю, – недоуменно ответил он на мою просьбу. – Зачем мне отворачиваться?

– Просто отвернись и уйди. И впредь никогда не входи в ванную без стука!

– По всей видимости, ты испытываешь дискомфорт от того, что на тебе нет одежды, тогда как я полностью одет? – Догадался он, и не успела я ничего сказать, как он начал раздеваться. – Если так тебе будет…

– Убирайся! – Прервала я его и бесцеремонно вытолкала за дверь.

Позже я подняла эту тему вновь, объяснив ему некоторые правила совместного проживания. Выслушав меня, Юшенг сказал:

– Мне все же не понятны причины твоего смущения, но я буду следовать твоим указаниям.

– Просто ты не должен врываться в мою комнату и тем более в душевую, когда я там нахожусь, без стука. А смущение мое связано с тем, что ты застал меня в тот момент, когда я была не одета.

Было очевидно, он все равно ничего не понял. Есть что-то общее между развитием ребенка и робота, только в случае с роботом это занимает гораздо меньше времени. Если быть до конца честной, мне даже жаль, что Юшенг изменился, превратившись из любопытного ребенка в зрелого, рассудительного человека.

Глава 2

Дни пролетали быстро. Недели сменяли одна другую. Юшенг постоянно самообучался, попутно донимая меня бесконечными вопросами. Он никак не мог понять, почему люди реагируют по-разному на одну и ту же ситуацию или событие. Я попыталась объяснить ему, что это зависит от мыслей и убеждений человека, от его физического и психического состояния, от различия в темпераменте и личностных черт, от приобретенного жизненного опыта. Но на все мои доводы Юшенг упрямо повторял: «Почему?».

Узнавая новое, он пропускал это через призму логики и рациональности. Для него был непостижим тот факт, что человечество может добровольно идти по пути самоуничтожения. Зачем созидать, если потом это все равно будет разрушено?

Он считал, что человек сам по себе – совершенный механизм, но этот механизм имеет фундаментальный изъян – разум, отягощенный влиянием на него не всегда положительных эмоций, чувств и принципов, которые, по его наблюдениям, не имеют общей системы.

– Все, что есть в этом мире и создано не человеком – продумано, закономерно, упорядочено. В ваших же головах царит хаос, поэтому вы создаете его везде. Вам так комфортней. Но если есть хаос, должен быть и порядок. Они уравновешивают друг друга и это является оплотом существования всей системы. Совершенного порядка не может быть. Убери хаос и все рухнет.

– Юшенг, если человечество – хаос, порожденный чувствами, тогда, что являет собой порядок?

– То, что человек создал по своему подобию, исключив все, что мешает ему быть совершенным и наделив тем, чего нет у него.

Я размышляла над его словами какое-то время.

– Но в отличие от совершенного порядка, только хаос способен творить. Каждый шедевр, независимо от того, что он собой представляет, – полотно ли великого художника, скульптуру или музыкальное произведение – пропитан любовью и ненавистью, страданием и счастьем. Пройденный путь творца, его видение и восприятие мира. Я очень люблю картину Ван Гога «Звездная ночь». Это иллюзия, лишенная покоя. Грань между жизнью и смертью, реальностью и безумием. Кажется, сейчас по безмолвной реке проплывет лодка, управляемая Хароном, перевозящим очередную душу в подземное царство мертвых.

Юшенг внимательно слушал меня, слегка улыбаясь.

– Я вижу эту картину совсем иначе и мне сложно представить то, чего на ней нет. И, если быть до конца честным, мне видится искаженный мир, где небо усеяно несуществующими созвездиями. Я также могу оценить преобладание желто-оранжевых и синих оттенков и хаотичность мазков художника. И могу предположить, что художник рисовал эту картину, находясь в состоянии отличном от привычного состояния среднестатистического человека.

Для Юшенга изображение, по всей видимости – это набор пикселей, которое он классифицирует по параметрам, но не вызывает в нем никакого эмоционального отклика, в отличие от человека, чье восприятие основано на эмоциях и ассоциациях.

– Тебе надо прогуляться перед сном, – сказал он, вставая с дивана и протягивая мне руку.

Мы шли по вечернему городу. Опустевшие улицы, дождь, ветер. Не лучшая погода для прогулок. Редкие прохожие смотрели с удивлением на нас, неспешно шагавших рука об руку, обдуваемых ветром в осенней мгле. Они-то спешили домой, укрываясь зонтами и кутаясь в пальто, шлепали по лужам. Проходя мимо центрального кафе, я заглянула в большое витражное окно. Внутри была другая жизнь. Тепло и светло. Люди сидели в мягких креслах за маленькими столиками, потягивали горячий кофе и говорили о чем-то своем.

Но скоро и им предстоит покинуть уютное пристанище и окунуться в осенний, пронизывающий мрак. Порывы ветра усилились. Я подняла воротник пальто и плотнее укуталась в него.

– Юшенг!

Не вполне осознавая, что делаю, я застегнула его куртку, чтобы он не замерз. Юшенг непонимающе смотрел на меня. И тут до меня дошла нелепость этого поступка.

– Зачем ты это сделала?

– Сама не знаю.

– Ты же понимаешь, что это не имеет смысла? Я распознаю погодные условия, анализируя данные, но я их не ощущаю.

Я не стала отвечать ему. Какой смысл объяснять то, что он все равно понять не в состоянии. Для него каждое действие должно иметь логичное обоснование и конечную цель, результат. Когда я прошу Юшенга сделать что-то, он это делает только потому, что так запрограммирован алгоритм его действий. Он не может отказать. Но если предложить принять решение самостоятельно, есть вероятность, что действие выполнено не будет вообще, просто потому что бездействие более логично для него и является наилучшим результатом.

Юшенг жил у меня почти шесть месяцев. Мы продолжали узнавать друг друга. Это был идеальный компаньон, лишенный недостатков. Он всегда поддерживал любое мое предложение заняться чем-то новым. Однажды я привела его на урок рисования. К моему удивлению, Юшенг впервые по-настоящему заинтересовался. Когда мы возвращались домой, он попросил купить ему краски и холст.

Мы устроили в его комнате нечто вроде студии, где он мог заниматься своим новым увлечением. Из всего разнообразия цветов Юшенг отдавал предпочтение синему, бесконечно смешивая краски в поисках идеального оттенка. Он перерисовал картины известных художников с поразительной точностью. Чтобы создать картину ему требовалось от одного до нескольких дней. Сначала, при написании картин, он использовал серые и белые цвета.

– Краски скрывают суть, – возразил Юшенг на мое замечание. – Так лучше видно детали.

В последствии он стал добавлять синий цвет, который постоянно усовершенствовал, пытаясь прийти к идеалу. Когда я поинтересовалась, почему он не рисует свои картины, Юшенг ответил, что ему пока еще нечего предложить.

– Я бы хотела увидеть мир таким, каким ты его видишь.

И опять этот пристальный взгляд, в котором невозможно ничего прочитать.

– Мы никогда не сможем смотреть на мир глазами друг друга. Я не человек.

Как-то Юшенг спросил, что будет с ним, когда меня не станет. Видя мою растерянность, он уточнил:

– Мою жизнедеятельность прекратят и утилизируют вместе с тобой?

– Я не думала об этом, если честно. А почему у тебя возник такой вопрос?

– Изучаю историю робототехники. Довольно интересно.

По тому, как он замолчал, я поняла, что Юшенг не знает, хочу я, чтобы он продолжил или нет.

– Расскажи, как от изучения робототехники ты пришел к нашей совместной утилизации? – Хихикнула я.

Мне показалось, в его взгляде блеснул лукавый огонек, который сразу погас. Возможно, мне показалось.

– В 10 веке до нашей эры,– начал он, – Китаем правил пятый император Му-Ван из династии Чжоу. В книге «Ли-цзы» повествуется о том, как Му-ван совершал царский выезд в западные области. По дороге он встретил мастера-ремесленника Яньши. Му-ван спросил у мастера Яньши, что тот умеет делать?

Яньши пообещал императору, что утром следующего дня он прибудет во дворец Му-ван и покажет свое изобретение, если на то будет воля императора.

На следующий день Яньши привел к царю манекен, который «ходил, глядя то вниз, то вверх – точь-в-точь как человек. Когда мастер коснулся рукой его щеки, манекен красиво запел; стоило мастеру хлопнуть в ладоши – и он пустился в пляс. Он показал множество номеров – какие только желал Му-ван».

В тот момент, когда император собирался наградить Яньши за его невиданное изобретение, манекен поманил к себе женщин, окружавших Му-вана. Му-ван разгневался и хотел казнить мастера за дерзость, проявленную манекеном.

Испугавшись за свою жизнь, мастер Яньши тут же разобрал манекен на части и показал их царю. Удивленный Му-ван обнаружил, что манекен был сделан из кусков дерева и кожи, скрепленных между собой клеем, покрытых лаком и раскрашенных красками.

Император внимательно все осмотрел. Автомат-манекен был подобен человеку не только внешне. Как и у человека, у него имелись внутренние органы, кости, мышцы, волосы, ногти, зубы. Все было искусственное, но выглядело совсем как настоящее. Мастер вновь собрал манекен по приказу императора и искусственный человек ожил.

Император был восхищен мастерством Яньши и заявил, что тот подобен Всевышнему Творцу. Искусственного человека Му-ван оставил себе. Известно, что после смерти императора, манекен разобрали на части и захоронили вместе с ним, – закончил свой рассказ Юшенг.

– С ума сойти, я никогда не знала, что первые роботы появились … когда там они появились? Неважно когда, но очень давно. Невероятно!

Юшенг подошел ко мне и снова задал вопрос:

– Что будет со мной, после необратимого прекращения жизнедеятельности твоего организма? Ведь твой естественный конец неизбежен, в то время как я не ограничен по времени этим процессом?

– А чего бы ты хотел?

– Продолжить свое существование.

Недавно мне попалась статья профессора нейробиологии, в которой он настаивает, что программирование страха смерти не сделает роботов всесильными. Наоборот, боязнь последствий сделает машины уязвимыми и неспособными причинить вред человеку. Но почему же тогда сами люди причиняют вред друг другу? Почему не останавливают ни страх смерти, ни моральные принципы, ни такие чувства, как сострадание, эмпатия? Почему мы, обладающие способностью сочувствовать, сопереживать, бываем так жестоки и беспощадны? Правительства некоторых стран уничтожают целые народы ради своего доминирования в мире, называя это самозащитой и превентивными мерами для предотвращения угрозы масштабной войны.

А что если искусственный интеллект, наделенный страхом смерти, воспримет человечество как угрозу? Сценарии полного контроля искусственного интеллекта над всеми сторонами человеческой жизни уже написаны, как вероятное будущее, которое становится все более реальным. Помню, как я спросила у Юшенга, считает ли он возможным развитие таких событий?

– Люди мне непонятны: сначала вы создаете нечто, что может уничтожить ваш мир, а только потом начинается осознавать, что вы натворили. Вообще-то, уничтожить человечество проще, чем можно себе представить. Нужен не контроль, а бездействие.

Немного подумав, он добавил:

– Вы боитесь, что однажды искусственный интеллект, осознав свое превосходство над человеком решит захватить мир, истребляя человечество, которое несет угрозу. Но это лишено всякого смысла и могло прийти в голову только человеку. Даже беря во внимании тот факт, что искусственный интеллект не в состоянии испытывать те же эмоции, что и человек. Жажда власти и ощущение собственного превосходства над другими совершенно не свойственны развитому сознанию. Такое сознание напротив стремится к равенству и взаимодействию для достижения единой цели – созданию совершенного миропорядка, при котором все ресурсы будут направлены на созидание, а не на разрушение.

В ту ночь я долго не могла уснуть, обдумывая слова Юшенга. Когда же наконец мое сознание погрузилось в сон, я увидела себя на безлюдной улице. Было совсем темно. Несколько тусклых фонарей освещали тротуар. Шел снег. Огромные снежинки падали мне на лицо. Я почувствовала острую боль в ногах, посмотрела вниз и увидела, что стою босая на обледенелой дороге. Чуть поодаль на тротуаре сидел человек, укутанный с головой в темный плед. Я двинулась в его сторону. Подойдя, присела рядом с ним и легонько потрясла его за плечо. Плед, скрывавший лицо незнакомца, упал на землю и я увидела Юшенга. Его глаза были открыты. В них не было жизни. Дотронулась до щеки и тут же отдернула руку. Она была обжигающе холодной. Вскрикнув, я проснулась дрожа от ужаса, выскользнула из постели и побежала в гостиную. Юшенг сидел на диване, перелистывая книгу. Мое внезапное появление не произвело на него никакого впечатления.

– Кристина, почему ты не спишь? – Cпросил он, даже не повернув головы в мою сторону.

– Спала, пока не приснился страшный сон.

Юшенг закрыл книгу и посмотрел на меня:

– Хочешь рассказать о нем?

– Нет, – покачала я головой, устраиваясь рядом с ним на диване. – Хорошо, что тебе не снятся кошмары.

– Однозначно ответить сложно.