Механическое чудо

– Можно поинтересоваться размером моей предполагаемой заработной платы? – первым делом спросил Олег.

– Окончательный размер заработной платы зависит от результатов решения вами тестового задания. Он может колебаться от пяти до тридцати тысяч евро. Вас устраивает такой вариант?

Олег сглотнул слюну и машинально кивнул.

– А тестовое задание оплачивается?

– Нет, но если указанное вами решение нам понравится, возможна разовая премия. Ещё вопросы есть? Не стесняйтесь, спрашивайте.

– Вроде нет.

– Тогда перейдём, собственно, к заданию, от которого будет зависеть ваше трудоустройство.

Березин нажал кнопку телефона и внятно произнёс:

– Пригласите, пожалуйста, мистера Доулинга.

Ирвин К. Доулинг вошёл в кабинет и без приглашения уселся в кресло напротив директора.

– Ведущий эксперт отдела программирования мистер Доулинг, – представил его Березин. – А это соискатель вакантной должности в отделе программирования господин Бондарев. Пожалуйста, господин Бондарев, присаживайтесь. Мистер Доулинг сформулирует техническую сторону тестового задания.

Олег опустился в кресло. Ирвин К. Доулинг тщательно спрятал усмешку и перевёл взгляд на Березина.

– Компания «Рашен Роботс» в данный момент разрабатывает программу ГРО – глобальной роботизации общества, – продолжил Березин. – У нас имеется оригинальный концепт робота, способного взять на свои плечи всю физическую работу и обеспечить россиян массой свободного времени. По проекту каждый робот будет обладать саморазвивающимся псевдоинтеллектом. Кроме того, роботы должны быть надежно защищены от случайной порчи, абсолютно послушны и безвредны для человека. С какими трудностями нам пришлось столкнуться в ходе решения этой задачи, сейчас расскажет мистер Доулинг.

Ирвин К. Доулинг широко улыбнулся.

– Изобретать велосипед в этом вопросе нам не пришлось. За основу были взяты три закона роботехники известного учёного и фантаста Азимова. «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред», «робот должен повиноваться приказам человека, если выполнение этих приказов не противоречит первому закону» и «робот должен защищать себя, если эта защита не противоречит первому и второму законам».

– А в чём возникла проблема? – спросил Олег.

– Третий закон реализовать было проще всего. Хотя изначально роботы просто отказывались работать. По их мнению, физический труд ведёт к износу составляющих робота деталей. Но мы ввели ограничение на срок, через который возможно полное нарушение работоспособности механизма, и всё нормализовалось. Со вторым законом было гораздо сложнее. Требовалось в доступных для псевдоинтеллекта терминах объяснить что такое «человек».

– Двуногое прямоходящее животное, обладающее разумом? – предположил Олег.

– А если этот человек – инвалид. И у него только одна нога. Или вообще ни одной? А если он поступает с точки зрения робота неразумно? К тому же под выданное вами определение попадают сами роботы. Что будет, если один робот станет считать другого робота человеком?

– Кх-кх, – Олег пристыжено опустил голову. – Как я понимаю, это и есть моё тестовое задание?

– Нет, – Ирвин К. Доулинг задумчиво постучал пальцами по подлокотнику кресла. – Это достаточно простая задача. Нудная, но всё-таки простая. Нами написана программа, выявляющая на основании семидесяти трёх показателей, человек находится перед роботом или нет. Максимальные проблемы возникли, когда мы попытались программно реализовать первый закон роботехники.

– Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред? – спросил Олег.

– Именно. Здесь имеются два подводных камня, с которыми мы уже сталкивались при решении предыдущих задач. Термин «человек» и понятие «вреда».

– А как же программа, которая «на основании семидесяти трёх показателей…"? – ехидно заметил Олег.

– Одно дело, когда человек находится прямо перед тобой и пытается отдавать тебе приказы. И совсем другое дело, когда он находится, например, около строящегося дома, а робот с пятнадцатого этажа выбрасывает строительный мусор. Дистанционно распознать человек это или вовсе не человек за короткий отрезок времени крайне затруднительно.

– Понятно, – тяжело вздохнул Олег. – А с вредом-то что вышло?

– Вред, наносимый роботом самому себе, и вред, наносимый роботом человеку, несопоставимы. Идеальный вариант – когда робот вообще не наносит никакого вреда человеку, но это, увы, невозможно. В нашем обществе достаточно людей, которым само существование роботов может нанести моральный вред. Концепция вреда для человека так и не сформулирована. Представьте себе робота, который препятствует альпинистам, так как подъём в горы на его взгляд напрямую связан с риском для жизни. Или робота, который громит табачную лавку, потому что курение вредит человеческому здоровью. Представили?

– В общих чертах, – ответил Олег.

– Так вот, это ещё не всё. При полевых испытаниях выяснилось, что концепции трёх законов роботехники и саморазвивающегося псевдоинтеллекта несовместимы.

– А это ещё почему? – не понял Олег.

– Самостоятельное развитие интеллекта подразумевает динамические приоритеты, зависящие от опыта данного индивида. Если наш псевдоинтеллект сделать полностью динамическим, то рано или поздно три закона уйдут в историю, как не соответствующие изменившимся приоритетам робота. Если же три закона жестко привязать к основам мотивации псевдоинтеллекта, то это затормозит развитие робота, некоторые ситуации, связанные с риском для жизни человека не будут рассматриваться, что обесценит роботов в ряде специальностей. Например, такой робот не сможет работать спасателем или инструктором экстремальных видов спорта.

– Господин Бондарев, ваше задание состоит в создании концепции алгоритма, который мог бы реализовать три закона роботехники в программном коде российского робота, – сказал Березин. – В вашем распоряжении все наработки мистера Доулинга и других программистов компании. Единственное ограничение – вы не можете снимать с этих материалов копии или выносить их за проходные – вы понимаете, эти материалы стоят денег.

– Естественно, господин Березин, – ответил Олег.

– Ещё вопросы есть? Если нет, можете идти работать.

– Хорошо, господин Березин.

– И удачи вам!

Когда Олег вышел за дверь, Ирвин К. Доулинг расхохотался.

– Думаете, у него получится?

– Это называется «свежий взгляд», – ответил Березин. – Человек со стороны способен объективно увидеть картину в целом, её слабые и сильные места.

– Этот «свежий взгляд» будет работать ровно двадцать минут, до тех пор, пока он не откроет наши наработки.

– Мистер Доулинг, как вы думаете, сколько времени необходимо, чтобы прийти к концепции глобального открытия?

– Вся жизнь, – не задумываясь, ответил Ирвин К. Доулинг.

– А чтобы осуществить его, когда вся база уже имеется?

– В некоторых случаях несколько минут. Господин Березин, вы полагаете, это тот случай?

– Очень хочется на это надеяться.

В течение недели Олег деловито шарил по архивам компании, пытаясь разобраться в наработках «Рашен Роботс». Они касались программного кода, компоновочных решений, дизайна роботов, а так же многих вещей, отношение которых к роботехнике казалось весьма отдаленным. Роботы оказались классическими – с двумя ногами, двумя руками и головой; вот только в высоту они не превышали пятидесяти сантиметров. Питался робот от автономного генератора, заряжаемого от электрической сети. Погружаясь в детали, Олег день за днем все более приходил к мысли, что для того, чтобы просто разобраться в текущих делах, потребуется гораздо больше времени, чем неделя. Олег уже был морально готов признать поражение, но на третий день Березин пригласил его к себе.

– Как движется дело?

– Пока глухо. Чтобы изучить и систематизировать тематические разработки, нужно не меньше года.

– Полагаю, даже больше. – Березин достал из бара коньяк, разлил по стаканам и пододвинул один Олегу. – Только этого от вас не требуется. Ваша задача, молодой человек, предложить концепцию решения, а вникать в детали будут другие сотрудники. Они за это деньги получают.

Олег залпом выпил коньяк и закусил протянутой Березиным долькой лимона.

– Вы полагаете, общей концепции будет достаточно?

– Да. Если это будет красивым решением. Хотите, я вам расскажу, как появилась «Рашен Роботс»?

– С удовольствием послушаю.

– В начале XXI века мы назывались «РосГазТранзит» и занимались продажей российского газа в страны Европы. Небольшая дочерняя компания Газпрома, о которой мало кто слышал. Помимо продажи газа нас интересовали всякие сопутствующие дела – компания была маленькая, надо было как-то крутиться. И вот в один прекрасный день мы выиграли тендер на обслуживание нескольких секций российского газопровода в Восточной Европе. А это очень неплохие деньги. Единственная беда – приходилось много платить рабочим; стоимость трудодней в ту пору была немаленькой. И тут у одного сотрудника возникла красивая идея – заменить обслуживающих газопровод рабочих примитивными роботами.

– Без шансов, – тут же высказался Олег. – Это того не стоит.

– Это того стоило. Конечно, с газопроводом ничего не вышло. Профсоюзы начали стачку и мелкие диверсии, роботы выходили из строя раз в десять чаще, чем было запланировано, а кончилось это тем, что газопровод банально взорвали, свалив вину на наших роботов. Но согласитесь, идея была красивая?

– Красивая, – кивнул Олег.

– Именно поэтому мы начали заниматься роботами и стали одной из ведущих роботопромышленных компаний во всем мире. Попробуйте сформулировать концепцию выданного вам задания, не особо углубляясь в частности.

В тот день они ещё долго проговорили, а уже на следующее утро у Олега появилась идея, которую он и обдумывал ближайшие дни. Красивая идея, правда, не без погрешностей. И когда отпущенный срок истек, Олег был готов предложить концепцию требуемого алгоритма.

Они собрались в кабинете Березина – Олег, Ирвин К. Доулинг, Березин и ещё несколько специалистов, заинтересованных в реализации проекта. Олег беспомощно огляделся в поисках кафедры, не обнаружил её, глубоко вздохнул и прокашлялся.

– Я хочу предложить вам концепцию алгоритмизации трех законов Азимова в приложении к профильному развитию программы ГРО.

Публика притихла.

– Начну с основополагающей проблемы, стоящей перед нами. Каким образом совместить самообучающийся псевдоинтеллект и некоторые базовые законы, служащие отправной точкой для создания управляемой роботехники? Я предлагаю разделить блок программного управления роботом на базовый блок псевдоинтеллекта и некую служебную зону, предназначенную для администрирования деятельности робота. Для упрощения терминологии назовем эти разделы сознанием и подсознанием. Информация от сенсоров будет поступать к модулю «подсознание» и после некоторой обработки передаваться псевдоинтеллекту. После того как роботом будет принято то или иное решение, команда на осуществление деятельности будет передаваться «подсознанию», которое проверит это действие на соответствие законам Азимова. Если предлагаемое роботом действие не противоречит законам Азимова, оно будет выполнено, в противном случае «подсознание» заблокирует действие робота.

– Можно вопрос? – со стула поднялся Ирвин К. Доулинг. – У нас были подобные наработки, они назывались проект «совесть». Единственное отличие – информация от сенсоров сразу поступала в зону псевдоинтеллекта, минуя «подсознание». Это может значительно ускорить работу.

– Мистер Доулинг, разрешите узнать, почему этот проект не был доведен до конца?

Ирвин К. Доулинг вопросительно уставился на Олега, словно пытаясь понять, чего от него хочет этот выскочка. Потом медленно произнес:

– Мы не смогли создать описательную часть законов Азимова.

– А я смог, – спокойно сказал Олег. – Потрудитесь сначала выслушать доклад, прежде чем давать комментарии.

Ирвин К. Доулинг уселся на своё место, а Олег внимательно обвел взглядом присутствующих.

– Итак, приступим, собственно, к концепции алгоритмизации законов Азимова. Первый закон гласит: «робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред». Как доказал в своих произведениях классик, вторая часть этого утверждения по существу равна первой. Ситуация из Азимова: робот, не способный действием причинить вред человеку, но способный сделать это бездействием, решил убить человека. Робот берёт большой камень, поднимается на крышу дома и, когда человек проходит внизу, бросает камень ему на голову. Сил и возможностей робота хватит, чтобы остановить камень в полете, собственно, изначально он и собирается так сделать, не причинив человеку вреда. Первый закон не нарушен. Но во время полёта камня робот меняет своё решение. Он решает не спасать человека, и тот умирает.

– Нам известен этот парадокс, – ровным голосом сообщил Березин.

– В таком случае, я собираюсь его опровергнуть, – улыбнулся Олег.

По залу прокатился гул изумления.

– Существует ситуация, в которой робот даже с облегченным первым законом не способен умышленно причинить вред человеку. Это когда робот не знает о существовании человека. Механизм реализации этого действия таков. Подсознание получает информацию об окружающем мире и анализирует её на предмет наличия там человека. Существует подпрограмма, на основании семидесяти трех показателей определяющая человека. Псевдоинтеллект будет получать данные только о тех объектах, про которые подпрограмма сказала, что это «не человек». А все данные об объектах «человек» заносятся в отдельный буфер, и каждое действие робота «подсознание» проверяет на предмет нанесения вреда жизнедеятельности человека. Первый закон Азимова реализован.

– Кхм-кхм, интересная трактовка, – улыбнулся Березин. – Но если робот не знает о существовании человека, то как вы намерены реализовать второй закон?

– Ключевое слово, – ответил Олег. – Когда человек произносит определенный ключ, «подсознание» на него реагирует и передает псевдоинтеллекту устойчивое желание выполнить просьбу человека. Алгоритмизацию же третьего закона мистер Доулинг сообщил неделю назад. «Подсознание» просчитывает, как скоро будет нарушено функционирование робота и, если этот срок превышает гарантию, то игнорирует причиняемый роботу вред. Мистер Доулинг, теперь вы поняли, чем моя концепция отличается от проекта «совесть»?

– Полагаю, он понял, – ответил за Доулинга Березин. – И горит желанием продолжить сотрудничество с нами в течение следующих десяти лет.

Спустя полгода первая модель робота с псевдоинтеллектом прошла полевые испытания. Программное обеспечение работало без сбоев, робот надежно контролировался законами Азимова. В самом конце испытания Ирвин К. Доулинг, проверяя возможности псевдоинтеллекта, произнес ключевое слово:

– Человек.

Робот повернулся в сторону Доулинга и застыл, ожидая приказа.

– Скажи мне, кто я такой?

Робот на секунду задумался, потом произнес два слова:

– Ты Бог.

На воскресенье Ирвин К. Доулинг взял отгул.

– На пикник собрался? – спросил его Березин, подняв голову.

– В церковь. К баптистам.

– Ты же не верил в Бога? – удивился Березин.

– Теперь верю, – сообщил Доулинг. – Если при реализации законов Азимова мы пришли к концепции Бога, почему этого не мог сделать кто-нибудь другой? Тот, кто создал людей.

Игорь Книга. Небо не для всех

Пальто цвета высохших водорослей сидело на нём как на огородном пугале. Старик поглядывал на небо, на озеро, чесал затылок и кашлял. Несколько раз доставал пачку сигарет – но не прикуривал, что только подтверждало подозрения Артура Эллисона.

Неделю назад кто-то ночью украл старенький бензиновый электрогенератор. Эллисон попытался обратиться в полицию – безуспешно. Хитроватый сержант сообщил, что таких краж ежедневно десятки. Народ приезжает в Шотландию отдохнуть, развеяться, попить виски, а на пропажу всяких мелочей внимания обращает мало. Потерпевший попытался возразить, мол, электрогенератор не мелочь, но инспектор и слушать не стал.

Знающие люди посоветовали нанять охранника или завести большую овчарку. Про охрану и думать не стоило: средства истощились, последние две недели гений самоучка питался купленными на распродаже военного имущества сухпайками. Вариант с овчаркой тоже не устраивал – аллергия на собак и вообще всех животных. Как только кошка или собака подходили ближе пяти футов, на Артура нападал хронический чих.

Старик засунул руки в карманы и замурлыкал заезженный местными радиостанциями хит. У Эллисона возникло желание устроить незваному гостю взбучку, но боязнь потерять клиента сдерживала. Сначала бизнес, остальное потом.

Клиент, владелец парка развлекательных аттракционов Барковский приехал посмотреть плод многолетних трудов изобретателя. Артур надеялся продать своё детище, вылезти из долгов и продолжить исследования.

– Как настоящий, – вывел из глубин размышлений клиент.

Эллисон натянул на лицо улыбку:

– Да-да, сэр. Внешность я скопировал со старинных гравюр – от настоящего не отличишь, если они существовали.

– Как поменять высоту? – поинтересовался Барковский.

– Вот здесь, сэр. Красную и зелёную одновременно, потом набираете высоту в футах.

– Ага.

Барковский надавил кнопки на ручном пульте, чёрный дракон пошёл на снижение.

– А он не врежется в воду?

Эллисона холодный пот прошиб.

– Нет-нет, не должен, сэр. Электронные компоненты защищены от попадания воды, но лучше не экспериментировать. Минимально допустимая высота полёта десять футов.

Пришла очередь улыбаться Барковскому:

– Я выставил двадцать.

Дракон продолжал нарезать круги над озером, но уже на двадцати футах. Эллисон облегченно выдохнул, что не укрылось от клиента.

– По правде говоря, – начал бизнесмен, – я собирался использовать компьютерную графику и лазеры. Но тут мне попалось ваше объявление. Виртуальные персонажи порядком поднадоели публике. Понимаете?

– Да-да, сэр, – поспешил согласиться Артур.

– Вот, – продолжал Барковский. – По замыслу моих инженеров дракон будет летать над озером в центре парка. И летать так низко, что резать когтями воду. Понимаете?

– Да-да, сэр, понимаю.

Барковский закатил глаза и о чём-то задумался:

– А скажите, гений, у этого… э … у этого дракона есть интеллект?

– Разумеется, сэр. Он даже понимает голосовые команды и может внятно отвечать. Нужно только назвать кодовое слово – имя. Эй, Ланцелот, как ты там?

Дракон взмахнул крыльями и поднялся чуть выше.

– Самочувствие нормальное, – ответил механический голос из пульта. – Влажность и ветер в допустимых пределах, но какие-то помехи. Возможны сбои, рекомендую прекратить испытания.

Лицо Эллисона помрачнело.

– Какие помехи?

– Не знаю, хозяин, но помехи идут с вашей стороны.

Изобретатель и бизнесмен одновременно обернулись.

– Нигде никого, – пробормотал Артур. – Не могут же помехи исходить от бездомного?

– А, это, наверное, станция, – сообразил клиент. – Тут неподалёку военные какие-то радиолокационные испытания проводят.

– Военные? – лицо Артура накрыл испуг. – Эй, малыш, давай обратно.

– Хорошо. Только по пути пусть коснётся воды когтями. Понимаете, да?

– Да-да. Коснись лапами воды, Ланс, – ласково произнёс Эллисон.

Дракон снизился. На мгновенье показалось, что крылатый робот слился с водной поверхностью.

– А вот это хорошо, такая птичка меня устраивает, – Барковский расплылся в улыбке.

За миг до падения аппарата…

***

Эллисон напоминал каменного идола. Побледневшее лицо не выражало ничего, кроме отчаяния.

– Этого не может быть.

Сзади послышался стрёкот винтов.

– М-да, – бизнесмен обернулся и махнул идущей на посадку винтокрылой машине. – Очень жаль, мистер Эллисон. Контракт был у вас в кармане, но…

Барковский повернулся и зашагал к вертолёту.

Эллисон очнулся:

– Сэр. Сэр, подождите!

Изобретатель вприпрыжку догнал долговязого покупателя.

– Сэр, это нелепая случайность. Это… это я не знаю что.

Барковский остановился и глубокомысленно закатил глаза:

– От меня вы чего хотите?

– Сэр, я думаю, здесь глубина небольшая, его можно поднять и восстановить.

– Можно? – ухмыльнулся бизнесмен. – Когда восстановите – наберите мой номер, повторим всё сначала. Удачи вам, Эллисон.

Бизнесмен взялся за поручень.

– Сэр, но у меня нет средств для поднятия дракона. Может быть вы…

Барковский обернулся. Взгляд не сулил ничего хорошего.

– Эллисон, так дела не делаются. Реанимируете дракона – наберите меня. Удачи.

Вертолёт шустро поднялся и скрылся за верхушками деревьев, Артур продолжал смотреть вслед.

Сзади кто-то кашлянул.

– Простите, сэр, – прогнусавил старческий голос.

Эллисон сжал голову ладонями и присел на траву.

– Я всё видел, сэр, – продолжал незваный гость. – Это ужасно, сэр. Я знаю, этот богатей хотел купить вашего чудного дракона, но всё провалилось, сэр. Хотите виски?

Артур молча взял протянутую бутылку и сделал большущий глоток. К удивлению изобретателя, виски оказался хорошего качества, что не очень стыковалось с внешностью бездомного.

– Хоть вешайся, – всхлипнул Артур.

– Нет-нет, сэр. Не надо вешаться, не стоит оно того.

Эллисон сплюнул:

– Что ты понимаешь? Полжизни и потерянная мечта.

Артур выхватил из рук бородача бутылку и сделал несколько больших глотков.

– Я ведь мечтал стать пилотом, водить магистральные авиалайнеры. Но председатель медкомиссии сказал мне: «Небо не для всех». Понимаешь?

Эллисон закрыл лицо ладонями и зарыдал.

– Он сказал: «Не для всех! Не для всех! Не для всех!»

Отшвырнув пустую бутылку, старик достал из-за пазухи новую.

– Вы очень расстроены, сэр. Надо выпить ещё.

Эллисон не отказался.

– Знаете, сэр, – прошепелявил старик. – Через час сюда прибудет катер, там мои хорошие знакомые.

Бездомный сделал большой глоток виски.

– Так вот, у них есть снаряжение для подводного плавания. И лебёдка есть. Думаю, они смогут вам помочь, сэр.

Депрессию Эллисона как ветром сдуло:

– Что ты сказал? Повтори!

Изобретатель схватил бездомного за плечи и сильно тряхнул:

– Если выгорит, я тебе ящик – два ящика виски поставлю…

***

Старик не соврал, знакомые действительно имели акваланги, на катере стояла лебёдка. И помочь бедному изобретателю согласились. Вот только цена оказалась не слишком малая – четверть от стоимости объекта. И будь это где-нибудь в другом месте, будь у Эллисона больше времени, изобретатель поискал бы кого-то ещё. Но не на этом озере.

И теперь, стоя на берегу, Артур мог только щуриться от солнечных лучей и наблюдать. Как сменяя друг друга, аквалангисты погружались в мутную толщу озера. Катер несколько раз менял место поиска, но обнаружить аппарат не удавалось.

Лишь когда солнце начало клониться к горизонту с катера раздались радостные крики:

– Хвост! Хвост торчит!

Ну да, конечно. Он погрузился в ил, но это не страшно. Главное – они его нашли. Ещё час ушёл, чтобы закрепить трос и подтянуть аппарат к пристани. Рыжий капитан улыбался, что-то говорил. Ему вторили аквалангисты, но Эллисон мало что понимал. Эмоции захлестнули сознание – пережить такое и выйти с честью, когда он почти потерял надежду.

– А что я вам говорил – мечту не убьёшь, – подмигнул старик, отправляя в глотку очередной глоток.

В другое время Артур обязательно бы поинтересовался, как человек может стоять на ногах после такой порции спиртного, но не сейчас.

– Будут проблемы – наберите мой номер, – капитан протянул изобретателю визитку.

Затарахтел дизель, катер отчалил, оставив гения наедине со своим творением и надвигающейся темнотой.

Эллисон надел очки.

Цвет дракона изменился с чёрного на серо-зелёный, но создатель летающего монстра не нашёл в этом ничего необычного – местный ил с затонувшими лодками и не такое вытворял.

Хвост аппарата странным образом свернулся кольцом, словно змея. Артур присел, потрогал – всё в порядке, повреждений нет. Ладонь наткнулась на какой-то предмет, что-то вроде камушка на тонкой стальной цепочке, надетой на хвост.

Эллисон осторожно снял находку – медный, сильно окислившийся амулет. Артур не удержался, чтобы не примерить на себя.

Шею кольнуло, словно по цепочке пропустили слабый электрический ток. В носу защипало, нестерпимо захотелось чихнуть. Изобретатель потёр ноздри, но зуд не отпустил. Аллергия вновь напомнила о себе.

– Апчхи!

Лицо Артура густо покраснело. В носу засвербело так, что хотелось разодрать ноздри.

– Апчхи, апчхи, апчхи!