Fохтаун

– Может быть, ваш отец когда-либо рассказывал вам или упоминал в разговорах с иными людьми о некой программе или конфликте программ? Возможно, вы слышали что-то, что не имело отражения в документации? Как насчёт запланированного устаревания?

– Йехо находился у руля корпорации «Галах» с двадцати лет. Сначала в совете директоров, а потом и как владелец. Искусственный интеллект в «Лим А» был совершенен. Он обгонял своё время на десятки, если не на сотни лет. А отказ от политики запланированного устаревания обеспечил лояльность покупателей по всему земному шару.

– Ваш отец разработал машину с нуля, или над прототипом трудился коллектив учёных? – спросил Атир.

– Да, это был коллектив. Но именно папа написал код, который лёг в основу всей программы. Его формула расчёта возможных реакций человека на внешние импульсы стала основным законом построения систем с искусственным интеллектом. Он разделил все входящие сигналы на те, которые требовали изменения существующей реальности, и те, которые требовали описательных действий. Эти два типа сигналов и стали отправными точками для дальнейших вычислений и формул. Отец сконцентрировался на тех сигналах, которые требовали изменения реальности. Его формула оценки таких сигналов, их обработки и выполнения стала основой работы искусственного интеллекта. Только после изысканий отца группа инженеров усовершенствовала систему и довела её до идеала в моделях Джеймс и Кити.

– Вы упомянули код, разделяющий все входящие импульсы на требующие действия и требующие описания, – с неподдельной заинтересованностью начал Киэй. – Ваш отец, как вы сказали, детально разрабатывал импульсы действия. А как проходила работа с импульсами описательными?

– В искусственном интеллекте код – это самое главное, – начала Астора не без того удовольствия, которое присуще всем рассказчикам, кому выпадает счастье поведать слушателям нечто неизвестное. – Но если в обычных вычислительных машинах код – это алгоритм действия, то в случае с интеллектом код совершенно иной. Представьте себе малыша, запертого в комнате с определённым набором деталей конструктора. Он может собрать из этих деталей всё что угодно. Но выбор поделок всё равно ограничен количеством деталей и комбинациями соединения. Так работала вся наша техника до появления искусственного интеллекта. А теперь представьте себе такого же ребёнка с такими же деталями конструктора, в такой же комнате, однако добавьте ещё станок, способный печатать самые разные детали. Когда количество и варианты деталей безграничны, а точнее, ограничены только фантазией ребёнка, что возможно построить из этих деталей? Код интеллекта – это не заданный заранее набор команд. Это и код, и клавиатура, с помощью которой можно этот код переписать.

Она задумалась. Киэй и Атир, не нарушая её молчания, наблюдали, как старуха впёрла свой взгляд в пространство и еле заметно покусывала мундштук.

– Вы, Атир Деянович, столь молоды и не можете помнить тех времён, когда каждый второй робототехник экспериментировал с этими кодами, в особенности с кодами описательных импульсов! А вы, Киэй Лиуанович, напротив, человек опытный и, вероятно, застали времена, когда люди с ума сходили от всяческих роботизированных собачек и кошечек. Какой восторг испытывал городской житель, стеснённый бетонными стенами, когда приобретал очередную игрушку, почти неотличимую от живого существа. Ах! Все эти игуаны, сервалы и манулы! Сколько искусственной шерсти продавали наши дочерние компании! Деньги текли рекой!

– У нас это выражалось менее ярко, чем в Америке, – сказал Киэй.

– Невероятные времена! Множество контор соревновались между собой в функциональности и красоте этих искусственных питомцев. Золотой век предпринимательства! Наука дала им возможность творить, а свободная конкуренция заставила довести своё творчество до идеала!

– Такая свобода была вам на руку, – заметил Киэй. – Ваша корпорация «Галах» не вмешивалась в конкуренцию до тех пор, пока мелкие лавочники набивали руку, обкатывали технологии, прощупывали потребности рынка за свой счёт.

– Мне казалось, что в СКПД изучают «Систему» минувшего столетия, а не запад, где располагалась «Галах», – заметила Астора.

– Изучая «Систему», неизбежно изучаешь весь мир, – ответил Киэй. – И всё же «Галах» сидели и наблюдали за развитием техники, собирали данные, анализировали спрос и предложение, потребности и чаяния потребителей. А потом выкатили своих унифицированных питомцев Джеймса и Кити. Они стоили в разы дешевле всех моделей, предлагаемых на рынке, имели превосходные функции и были созданы с возможностью бесконечных модификаций по желанию владельца. Когда ваши роботы-питомцы вышли на рынок, все частные компании разорились, потому что их дорогой штучный товар перестали брать!

– Это суть конкуренции, товарищ, – заметила Астора.

– Это называется «неизбежная монополизация»! – возразил Киэй.

– Как угодно! Всё равно мы победили! Наш товар разлетался, как горячие пирожки!

– Ваш товар и близко не стоял с тем, что предлагали некоторые маленькие конторы. Они торговали шедеврами. Да, они не являлись совершенством с точки зрения техники и запросов массового потребителя. Но в них была душа! Ваши серийные роботы-питомцы – просто мультяшная пародия на природу и её красоту.

– А что вы удивляетесь, дорогой друг?! – развела руками Астора. – Исследования рынка показали, что людям требовались не копии живой природы, а мультяшная пародия! Природу создал творец, но человек убежал из леса, подальше от этих божественных зверей и насекомых. Мы создали банальность, но весь мир нёс нам деньги, только чтобы заполучить частичку этого новшества! Людям вовсе не нужна настоящая жизнь, мой дорогой гость. Им нужна именно пародия на жизнь. И если все грани чётко очерчены, как в мультфильме, – оно и лучше. Жизнь слишком сложна. В ней много неожиданностей, шероховатостей. Постоянно приходится сталкиваться с новыми, незнакомыми вещами. Куда проще иметь набор давно известных образов, из которых создано всё окружение. Это вселяет бесценное чувство защищённости.

Атир продолжил разговор, а Киэй снова закрыл рот, борясь с нахлынувшей хандрой. Ему стало печально от того, что он говорил несдержанно, как юный идеалист, и вообще находился в унизительном положении по отношению к этой особе.

Знавший наперёд все доводы умной, но всё же предсказуемой Асторы, Киэй ощущал нестерпимую тоску от той бесконечной перепалки мировоззрений, с которой работал в СКПД. В конце концов он решил смириться со своей участью «лишнего человека». И, как ни странно, ему стало легче. Он начал думать о роботах, о двойственной природе импульсов. Мало-помалу начала вырисовываться истинная картина происходящего: роботы с искусственным интеллектом повсеместно выходили из строя, нарушая привычный ход вещей. Люди стали жаловаться в корпорацию «Галах», но эффективные менеджеры ничем не могли им помочь. И когда ситуация начала выходить из-под контроля, «Галах» сами обратились в полицию. Полицейские сначала пытались заниматься этим вопросом «в порядке общей очереди». Однако скоро выяснилось, что требуются решительные действия. «Галах» заплатили полиции некую сумму, чтобы дело перешло в отдел Расследований Особой Важности. Матёрые шишки засучили рукава. Но требовалось, чтобы кто-то званием пониже взял лопату и «покопался в старых бумагах». Тут и появился Атир Деянович Маворский, вероятно, самый перспективный сотрудник из молодых. Видимо, он хорошо копнул, раз попросил себе в помощники того, кто понимает в языках; ведь программирование роботов – тоже вопрос языка. А программирование роботов с искусственным интеллектом – особенно. Атир серьёзно отнёсся к тому, что программный код разделили на две части: на ту, что обрабатывает импульсы, требующие действий, и ту, что обрабатывает импульсы, требующие описательной, или, как сказал бы сам Киэй, вербальной, реакции. Несомненно, Атир понял, что в этой вербальной части он сам не разберётся, и запросил на помощь языковеда. Киэй не обольщался тем, послужной список пятидесятипятилетнего безработного языковеда удивил кого-то в отделе кадров полиции. Единственное объяснение того, что на эту работу взяли именно его, Киэй видел в случайном стечении обстоятельств. Вероятно, он оказался единственным уволенным в тот день языковедом. Его социальный профиль попал в первые строки списка доступных к найму лиц.

Что из всего из этого следовало? Только то, что рано или поздно полиция разберётся с этим делом. Молодой полицейский Атир будет, конечно же, стараться изо всех сил, но ничего толкового не найдёт. Если же расследование затянется и ситуация усугубится, «Галах» внедрит какой-нибудь «План Б» и вырубит всех роботов.

«В любом случае я получу свою зарплату, – размышлял Киэй, не замечая разговора Атира и Асторы. – Если повезёт, ещё успею на день рождения Жданы».

В этот момент мысли Киэя сбились. Он заметил что-то странное на этом квадратном куске дёрна, парящем в воздухе над журнальным столиком. Луч света бил прямо на сочную траву, и Киэю удалось различить еле заметное движение среди зелёных стебельков. Медленно по одной из травинок вверх поднялась бабочка. Она сидела на самом кончике и двигала синими крыльями, будто бы разминая их перед полётом. Потом она резко взмыла в воздух и стала порхать по комнате, среди пыльных книг и шестигранных подвесок люстр. Бабочка пролетала сквозь лучи света, закручивая в воздушные воронки застывшие в пространстве пылинки, горящие золотом солнца. С волшебной лёгкостью насекомое перемещалось, не понимая речи старой женщины и юного мужчины. Киэй вытянул руку, и бабочка, описав ещё несколько кругов по комнате, опустилась ему на пальцы. Киэй стал рассматривать это дивное создание с голубыми крыльями, а потом позволил улететь. Насекомое исчезло где-то в коридоре.

Киэй огляделся: Атир и Астора ушли на балкон. Там старуха села в кресло-качалку и закурила. Атир опёрся локтем на каменную балюстраду и что-то увлечённо рассказывал; через приотворённую балконную дверь до Киэя доносились лишь обрывки фраз и редкий смех молодого человека.

– У них много общего, – услышал Киэй позади. В комнату вошла длинноногая женщина. Киэй тут же поднялся из своего кресла.

– Вы мне нравитесь, – произнесла она с глубоким западнофризским акцентом, придававшим соблазнительность каждому слову. – Сегодня редко встречаются люди с хорошими манерами.

Она подошла к дивану и грациозно опустилась на него, сдвинув длинные ноги, обтянутые мини-юбкой, чуть влево и положив на них руки. Она сидела с ровной спиной и высоко поднятым подбородком. Киэй снова сел.

– Вы хорошо говорите по-русски, – похвалил он собеседницу.

– Моё имя – Бендида, – представилась она и стала пристально смотреть на гостя.

Киэй пребывал в том возрасте, когда интерес к женщинам не столь велик, как интерес к жизни, но он всё же смутился: слишком шикарно выглядела эта особа. Он попытался смотреть в другую сторону, но её фигура притягивала внимание.

– Вам не по себе? – поинтересовалась она.

Несмотря на весь жизненный опыт, Киэй не нашёл что ответить и глупо смолчал. Бендида посмотрела на парящий в воздухе квадратик дёрна над журнальным столиком, протянула к нему руку и надавила на траву, прижав странную вещь к серебряному подносу. Дёрн обратно в воздух не поднялся.

– Так лучше? – спросила она.

– Признаться, когда он летал, комната выглядела не такой мёртвой, – ответил Киэй. – Но теперь, когда пришли вы…

– Оставьте, – перебила его Бендида. – Мне не нравятся комплименты. Они не делают мне приятно.

– Скажите, а почему он летал? – сменил тему Киэй, которому тоже не нравились ситуации, в которых комплименты – единственный выход из неловкого молчания.

– Я так делаю.

– Это своеобразный робот?

– Нет, – ответила Бендида, – это не робот. Я заставляю траву летать. Это моя врождённая особенность. Очень бесполезная.

– Как занимательно! Я никогда о таком не слышал! – удивился Киэй.

Бендида глянула на дёрн. Он шелохнулся, а затем поднялся в воздух, остановившись сантиметрах в пятидесяти от журнального столика. Мелкие песчинки и кусочки сухой земли тихим звоном упали на серебряный поднос.

– Невероятно! – восхищённо заметил Киэй, впрочем, излишне не демонстрируя свои эмоции. – Вряд ли я готов так сразу судить о пользе такой способности, но вот денег на этом можно было бы заработать немало. Даже попросту показывая это в сети, на разных развлекательных каналах.

– Некоторые вещи не продаются, – с грустью в голосе ответила Бендида.

И как только она это сказала, Киэй вдруг увидел её не как женщину с идеальной фигурой, а как девушку, старше его дочери Жданы на каких-то лет пять.

– Я рад это слышать, – улыбнулся Киэй. – Вы уж простите меня за то, что перевёл всё на деньги. В наше время сложно освободиться от этой клетки кредитов и страха за будущее. Ваша позиция достойна уважения. Не каждому это дано. И вот такой дар по-настоящему редок.

– Благодарю, – смутилась Бендида. – Будем считать, что это не было комплиментом.

Балконная дверь скрипнула, и Астора с Атиром вернулись в кабинет. Все четверо поговорили ещё минут с десять. Расстались на том, что завтра Атир и Киэй снова зайдут, на случай, если Астора что-нибудь вспомнит или найдёт «зацепки» в старых файлах и документах.

Коллеги вышли из дома номер двести пятьдесят четыре по Второй улице Восточного парка. Темнеющая синева неба тушила алый закат, опускающийся за кубические силуэты городских стен. Поужинали Киэй и Атир тут же, на углу, в местечке, где скромные порции компенсировались дешевизной и отменным вкусом.

– Расскажите мне об этих алгоритмах, – попросил Киэй Атира, когда они допивали чай, после ужина.

– Зачем? – спросил Атир, уставившись в коммуникатор. – Вы ведь не думаете, что мы сможем «раскрыть это дело»?

– А вам неинтересно разобраться?

– Интересно, но я устал, – вздохнул молодой человек. – Дело раскроют те, кто копает по горячим следам, а не сидит на старых документах. Вся слава достанется им. А если я что-то дельное и раскопаю, то передовики пришьют это к своим делам. Меня похлопают по плечу и направят на другое задание.

– Но вы ведь для чего-то попросили себе в помощь языковеда!

– Попросил, – зевнул парень. – Да что толку?! Мимолётная слабость в момент невероятного предположения. Теории, домыслы и версии вскружили голову. Всё это тлен.

– Циничный, уставший от жизни сыщик, – подытожил Киэй.

– Сыщик?! – оторвался от коммуникатора Атир. – Я детектив!

– Ах, вот оно как! – подколол его Киэй. – Позвольте тогда старому лингвисту дать вам совет, господин детектив: если вам не по душе то, что вы делаете, то попробуйте делать это ради веселья.

– Какое же тут веселье? – удивился Атир.

– Самое настоящее. Разве не весело сидеть в амстердамском кафе и рассказывать об алгоритмах искусственного интеллекта старому лингвисту, который ничего не смыслит в технике?

– Что тут весёлого? – не понимал Атир.

– Всё, дружище! – обрадовался Киэй. – Вы, я, этот стол, наш чай, свет этой жёлтой лампы и тёмный вечер за окном. Дым от кофейного аппарата и робот-официант с чепчиком на пластиковой пирамидальной голове. Всё это весело. Вы просто не понимаете этого, потому что молоды. Вы думаете, что завтра будет каждый день. Что завтра будет всегда. Но посмотрите с другой стороны: завтра может и не быть. Вы можете умереть и лишиться всего этого. Не будет возможности пить чай, смотреть в коммуникатор, говорить, слышать запахи, испытывать дискомфорт из-за того, что у вас чешется нос. Всё, что вас раздражает, всё, что вам не нравится, – навсегда исчезнет, оставив взамен тьму и пустоту.

Атир с минуту молча смотрел в окно. Потом он выключил коммуникатор и убрал его во внутренний карман пиджака.

– А вы умеете поднять настроение, – сказал он и выпил наконец чаю, который до этого стоял нетронутым. – Алгоритмы… Это просто название процессов, происходящих по заданному сценарию в процессоре машины. Просто этот сценарий предполагает свободу выбора машины в том, что делать после обработки информации. Представьте себе, что отдаёте команду роботу. Это может быть любая команда.

– Хорошо, – включился в обсуждение Киэй. – К примеру, я решил похвалить робота-помощника за то, что он сообщил мне прогноз погоды. Я говорю ему: «Молодец, возьми с полки пирожок».

– Что? – удивился Атир. – Что это за команда такая? Вы так говорили своему роботу-помощнику?

– А что в этом такого?

– Это странно! – смутился Атир. – Хотя погодите! Вот ведь оно! Великолепно!

Атир залпом осушил кружку чаю и с грохотом шлёпнул её об стол. Люди за соседними столиками обернулись.

– Давайте отмотаем немного назад, к тому моменту, когда вы попросили у робота сообщить прогноз, – воодушевлённо начал молодой сыщик. – Ваша просьба для робота – сигнал. Процессор преобразовывает его в импульс. Импульс должен быть обработан. Представьте, что из процессора выходит одна условная труба, по которой этот импульс отправляется на обработку. Обрабатывается он во втором процессоре. Но там уже два отсека. В одном отсеке обрабатываются импульсы, требующие каких-либо действий, а в другом – требующие вербальных, поведенческих или эмоциональных реакций.

– Разве вербальный ответ нельзя считать действием? – спросил Киэй.

– Можно. Но только в том случае, если этот ответ передаёт вам какую-нибудь информацию. Если ответ информативен. Если же ответ не будет нести смысла или информации, то робот не посчитает его полезным действием.

– Если я спросил о погоде, то от робота требуется устный ответ, – предположил Киэй.

– Не совсем так. От робота просто требуется ответ. А какой ответ он даст, зависит от развилки. Что такое развилка? Это как раз место между трубой, выходящей из первого процессора, и двумя трубами, входящими в два отсека второго процессора. В этом месте происходит парадокс выбора. Условный процесс, при котором активируется тот самый искусственный интеллект. Первая его фаза. Здесь на основе изначальной программы и впоследствии – на основе полученного опыта интеллект создаёт связь между возможной реакцией из базы данных и импульсом. Робот знает, что должен дать вам ответ. Он выбирает действие – и тогда импульс попадает в отдел, отвечающий за конкретные действия. Импульс обрабатывается, и в итоге мы имеем результат: робот рассказывает вам о погоде.

– В этом случае вербальный ответ робота – это конкретное действие? – переспросил Киэй.

– Верно. Рассмотрим иной вариант событий: робот выбирает не отвечать вам. Почему бы ему так делать? К примеру, вы вели себя цинично при нём, и он записал в базу данных такое поведение. Теперь у него есть вариант не ответить вам, а просто подойти к окну, раздвинуть шторы и указать на улицу, мол, «сам посмотри на небо и не задавай глупых вопросов».

– И теперь, даже подойдя к окну и двигая занавески, робот не рассматривает свою активность как конкретные действия?

– Именно! – обрадовался Атир. – Искусственный интеллект робота сам решает, что ему считать действием, а что – эмоциональной реакцией. Это парадокс выбора. С одной стороны, выбор основывается на изначально заложенных данных и на основе полученного опыта. С другой – искусственный интеллект не имеет алгоритма выбора одного из вариантов. Этот алгоритм он вырабатывает сам, основываясь не на случайных числах, а на собственном представлении об адекватности, которое, в свою очередь, базируется на опыте и изначальных данных.

– Поразительно! – закачал головой Киэй.

– Нет! Это не поразительно! Поразительно то, что происходит в блоке, в котором обрабатываются импульсы, требующие вербальных и эмоциональных реакций.

– Давайте назовём его «Блок Б» для удобства, – предложил Киэй.

– Согласен. С «Блоком А» всё ясно и так. Там требуется действие, и искусственный интеллект выбирает самый логичный вариант из возможных. Этот «Блок А» и разработал отец Асторы Бунди. А вот «Блок Б» – для всех в корпорации «Галах» загадка. Дело в том, что изначальный код ничтожно мал. Но это именно тот код, который интеллект может сам себе переписать. У корпорации есть только сжатый, готовый для внедрения файл, отвечающий за функциональность. Все эти годы файл просто вставляли в программу, и он работал. Поэтому в корпорации никто особо на него не обращал внимания. А вот вне её все просто с ума сходят от этого кода. Представляете, разумной машине дали возможность изменять свой код, а она этого не делает. Точнее, не подаёт признаков того, что она это делает. Машина обучается, но файл кода никогда не изменяется. Он остаётся неизменного объёма. То есть, как именно робот «запоминает» новые алгоритмы и где их хранит, мы не знаем. Есть даже виртуальные сообщества, где люди годами пытаются понять механизм использования этого кода машиной. Я копался на тамошних форумах и в группах. Эти дельцы утверждают, что приблизились к решению своей задачи менее чем на пять процентов. Но вернёмся к вашему роботу-помощнику. Вы послали его взять с полки пирожок.

– Да. После этого он отправился на кухню, а через минуту вернулся и сообщил, что у нас нет пирожков.

– Это потому, что в его базе данных, основанной на опыте, не было примеров того, как реагировать на такую шутку. Поэтому он расценил это как импульс, требующий действия, и отправился совершать это действие. Но если бы опыт робота был больше, то ваша жесть направила бы этот импульс в «Блок Б».

– И что тогда? – с нетерпением спросил Киэй. – Тогда он бы выдал что-то вроде смеха, так?

– Да. Скорее всего, он посмеялся бы. А может, и нет. Он сделал бы нечто, приписанное тем изначальным кодом, который он, в теории, изменил, для выдачи вам соответствующих реакций.

– Постойте! – схватился за лоб Киэй. – Так машина переписывает этот маленький код или нет?

– Нет, не переписывает. Хотя имеет на это полномочия. Однако роботы совершенствуются! Это факт. То есть где-то они что-то записывают. Но где, нам пока непонятно.

– А что если этот код – нечто вроде словаря? Старого такого, ещё в виде книги. Есть слово на человеческом языке и перевод на язык искусственного интеллекта. А в конце словаря добавлены грамматические правила.

– Интересная аналогия. Да, это похоже на словарь, но только на такой словарь, где напротив каждого слова на нашем языке не стоит перевод, а повторяется одно и то же слово на языке искусственного интеллекта.

– Какое?

– В этом и загадка! – пожал плечами Атир. – Если бы это был русско-английский словарь, то там напротив каждого слова было бы написано «английский язык». Здесь речь не о языке, а о каком-то другом понятии. О чём-то глобальном, описывающем все наши чувства, импульсы и перемены настроения. Когда меня осенила эта догадка, я и запросил в помощь лингвиста.

– Неужели машина способна понимать наши эмоции? – усомнился Киэй.

– Важно другое: как человек смог объяснить машине, что обладает эмоциями? – заключил Атир.

***

До гостиницы коллеги добирались, когда город закутался в мягкое одеяло жёлтого света фонарей и разноцветных огней автомобилей. Скрыв лица под респираторными масками, защищающими от шальных инфекций дыхания улицы, коллеги смешались с толпой. Пучина масс увлекла их в подошедший к остановке трамвай.

Они проехали несколько остановок в переполненном вагончике, держась за алюминиевые поручни.

– Я попросил помощи специалиста, потому что этот «Блок Б» фактически копирует природные когнитивные процессы, происходящие в голове человека, когда тот решает что-либо сказать, – объяснил Атир коллеге. – Если вы хотите, я запрошу для вас документацию любого уровня, связанную с этой темой.

Киэй смотрел молодому человеку прямо в глаза – единственную видимую часть лица, между шляпой и голубоватой респираторной маской. Что-то иное увидел старый языковед на этот раз. Теперь перед ним стоял не странный тип, вечно уткнувшийся в коммуникатор, а человек, проживший хоть недолгую, но всё же жизнь, наполненную познанием, интересами, стремлениями. Как же ловко всё это можно упустить в образе человека, вечно смотрящего в горящий голубым огоньком прямоугольный экран на ладони!

– Миллионы травинок на лугу клонятся к земле под порывами ветра. Наблюдая за всеми сразу, сложно заметить, что каждая в отдельности тянется к солнцу, – сказал Киэй больше сам себе, нежели своему собеседнику.

– Трава? – удивился Атир. – О чём вы говорите? Я не понимаю.

– Сколько нам ещё ехать? – спросил Киэй.

В следующий миг что-то громко щёлкнуло, свет погас, и трамвай плавно остановился. Окна домов почернели. Поток автомобилей встал. Прошло секунд десять. Народ в трамвае оживился. В толпе послышались отдельные громкие голоса. Люди включали свои коммуникаторы, чтобы светом экранов озарить окружающее пространство.

– Приехали! – вздохнул Киэй.

– Слушайте, – тревожно обратился Атир к своему старшему товарищу, – как по-западнофризски «без паники»?