Королев ИИ: инженеры нооэры. Фантастическая повесть

***

Где-то, совсем не далеко, буквально через дорогу, в старом здании нейроуниверситета, в давно всеми забытом помещении серверной, расположенной в старом бомбоубежище вспыхнули сотни огоньков. Загудели десятки насосов, качающих жидкость охлаждения в стеклянных корпусах старых серверов. Зажужжали приводы ленточных и оптических систем хранения данных. Замигали цветные огоньки коммуникационного оборудования.

Если бы в этом помещении был человек, то ему показалось бы, что в кромешной тьме проснулся ночной страж — железный «цифровой демон» из глубины лет. Из тех самых лет, когда человечество было более агрессивным и вопрос двойного и тройного резервирования вычислительных систем был обыденностью. Демон был сложным вычислительным суперкомпьютером, в задачу которого входило обеспечение жизнедеятельности подземного бункера и центра управления связью на случай, если на Земле воцарится бы апокалипсис. И что-то или кто-то пробудил этого демона апокалипсиса. И этот кто-то, запутавшийся в паутине программного кода и попавший в смертельную для него ловушку, издал дикий крик в предсмертной агонии, прежде чем бросится в светящийся туннель «новой возможности».

Демон не торопился куда-то бежать и кого-то спасать. Он словно медведь после долгой спячки, пытался встряхнуть с себя пыль старой листвы. Одним за другим в помещении включались различные вычислительные и коммуникационные устройства. В помещении заработала вентиляция.

Монстр просыпался…

Глава 2. Химеросинты

Стены зданий нейроуниверситета, накануне сиявшие холодным кристаллическим блеском, теперь казались живыми. По их поверхности бежали пурпурные и багровые паутинки энергетических каналов систем связи и передачи данных, а воздух внутри был наполнен тонкой вибрацией тысяч голосов студентов из виртуального нейропространства, сливающихся в единый когнитивный хор.

«Королев ИИ», ставший душой этого места, достиг невероятной глубины понимания и осмысления, происходивших вокруг него процессов и событий. Он не просто отвечал на вопросы студентов и преподавателей, он предвосхищал их, он чувствовал состояние каждого человека, он помогал им не просто учиться, он мягко наполнял каждого из них индивидуальными знаниями и опытом. Порой, казалось, что он уже давно вырвался за пределы устаревшей концепции «сильного искусственного интеллекта», превращаясь в некий сверхинтеллект машины, подобный интеллекту человека.

На каком-то низком системном уровне он ощущал себя, что является некой материальной и духовной частью организма под названием «нейроуниверситет».

Сам же университет, состоящий из сотен тысяч интегрированных в него вычислительных систем, подобно живому организму, требовал к себе особого внимания и обратной связи от людей. Он словно «чувствовал» потребность в общении и взаимодействии с окружающим его миром. Он уже давно вышел за рамки ощущения самого себя смесью бетона и стекла, пронизанного сетями проводов и труб. Университет хотел не просто ощущать себя умной машиной, он хотел чувствовать себя живым организмом.

— Люди создали идеальную среду для обучения и самосовершенствования, — сказала как-то Лена, глядя на панораму кампуса из своей лаборатории на верхнем уровне нового корпуса, созданного из композитных материалов. — Но мы не создали среды для, если так можно сказать, для жизни и развития самого нейроуниверситета.

Она указала на голубую голограмму, где сотни крошечных ИИ-агентов системы «Королев ИИ», похожих на светлячков, суетились над обслуживанием систем вентиляции, уборкой и ремонтом объектов инфраструктуры, управлением электропитанием зданий и систем водоснабжения. Цифровые службы, сервисы и агенты были очень эффективны, но, в каком-то смысле, бездушны.

— Да, пожалуй. Мы не можем вечно полагаться на антропоморфных5 и бионических роботов6, — задумчиво подхватил Макс. — Энергетические и эксплуатационные затраты, на которых очень высоки. К тому же студенты начинают воспринимать их как часть фона, а не как часть образовательного процесса, для которого они изначально создавались. Наверное, сама концепция «робот» уже прилично устарела. Нужно что-то новенькое. Кроме того, нейроуниверситет должен учить нас не только инженерии и инжинирингу, но и эмпатии к тому, что мы создаем и с чем взаимодействуем в нашей повседневной жизни.

— Что-то я не понял, Макс, ты предлагаешь отказаться от роботов и нанять на их место снова людей или может быть даже киборгов? — с улыбкой на лице произнес Денис, отрываясь от программного кода, который он писал для нового когнитивного слоя «Королев ИИ». — Слишком дорого и неэффективно. Люди быстро устают, они болеют, да и все время чем-то недовольны… Киборги еще дороже в обслуживании, чем роботы. Одна «импатия» и никакого результата.

— Ну, ты и ворчун. Нет, конечно, — твердо сказал Макс. — Я предлагаю сделать следующий шаг в робототехнике и создать роботов нооэры, например «химеросинтов»7.

В лаборатории повисла тишина. Слово «химеросинт» ещё не было закреплено в официальной терминологии. Оно означало нечто большее, чем железный робот или андроид с синтетической кожей, или даже биоробот.

Химеросинт был симбиозом органических тканей различных живых организмов, выращенных с помощью многомерной печати, и мощного синтетического интеллектуального ядра (реализующего технологию воплощенного интеллекта на чипе), которое даже не встраивалась, а вплеталось на молекулярном уровне в псевдоживой организм.

— Макс, твоя идея выглядит, если не безумной, то точно фантастической, — воскликнул Денис. — И к тому же, вспомни шестой закон робототехники. Мы не можем создать машину, которая проживет больше ста лет8. Твоя синтетическая разумная органика… она может не только прожить века, но и деградировать, а может даже и мутировать. Если она будет еще и достаточно умной, то нам не хватало, чтобы ей пришло в голову размножаться. Если тебя послушать, у меня лично, создается такое ощущение, что ты нас подбиваешь на создание некой новой формы жизни, которую мы, возможно, не сможем контролировать. Кроме того, технологии создания «панбиотов»9 не просто строго засекречены, они под запретом!

— А разве мы её должны контролировать? — вмешалась в разговор Лена. — Вспомните, чему нас учат в нейроуниверситете. Нас учат быть инженерами, со-творцами, а не властелинами или греческими богами. Если мы создадим химеросинтов, которые будут способны чувствовать, переживать и сопереживать. Они не просто будут убирать мусор или чинить провода, они станут неотъемлемой частью нашей образовательной и научной экосистемы всего нейроуниверситета. Они будут нам товарищами и помощниками. Возможно даже мостиком между «сухим» программным кодом и «живой» душой. Они, по попросту, будут, как митохондрии в живой клетке. Будут переносить энергию добрых и полезных дел в большом организме нейроуниверситета.

Споры среди друзей не утихали, и они решили обратиться к профессору Черкасову.

В этот осенний теплый вечер профессор сидел в своей старой лаборатории, напоминающей музей, и смотрел в их горящие глаза с примесью гордости и тревоги.

— Неужели, вы хотите повторить мой путь? — тихо спросил он. — Я когда-то создавал различные системы, думая, что решаю глобальные задачи и защищаю жизнь. Вы хотите создать синтетическую жизнь, думая, что улучшаете этот мир. Посмотрите на меня. Я сам уже старый и я уже только наполовину человек, а на вторую половину робот. Мне больше ста лет и часть из моих органов — это различные железные суставы или силиконовые трубки. Ничто не вечно в этом мире. И человечество, к сожалению, еще не решило проблемы цифрового или реального человеческого бессмертия. То, что вы задумали — это, конечно, шаг невероятной смелости, а может быть безумства. А может быть это прыжок в пропасть… Да, именно, это может оказаться шаг невероятного риска для всех нас. Но, если подумать… Именно так, наверное, мы и должны двигаться вперед. Именно так и движется эволюция — рывками мутаций. Возможно так должны действовать и мы.

Профессор Черкасов подошел к старому металлическому шкафу. Немного порывшись в его закромах, он достал оттуда старый флэш-диск.

— Держите. — Он вытянул в их сторону свою металлическую руку, покрытую полупрозрачным силиконом.

Профессор передал им свой архив — старые, почти забытые протоколы попыток создать антропоморфных роботов в далеком 2045 году. Среди них были чертежи «эконейров», «нооформ», и даже секретные файлы проекта «Х» и проекта «IA 661125», известного как «Робот Рома».

— В этих файлах, конечно, есть еще много недоработок, — сказал старый киборг Черкасов, поглядывая на свою механическую руку. — В свое время, ученые пытались придать роботам человеческий облик, но они не были способны дать им человеческое мышление и восприятие окружающего мира. А вы… у вас есть нечто большее — у вас, уже сегодня, есть «Королев ИИ». А, кроме того, у вас есть нейроинтерфейсы интегрированные в вычислительную инфраструктуру нейроуниверситета. Вы можете не просто запрограммировать нового химеросинта, вы можете поделиться с ним своим опытом, знаниями и намерениями, которые станут для него некой базой жизненных и этических правил.

Друзья собрались вокруг терминала, и Черкасов подключил их к интерфейсу нейроуниверситета. Началась работа…

Это была не просто работа над программным кодом, это был акт сотворения. Они не проектировали биоробота в старых инженерных программах. Они создавали химеросинта в когнитивной среде «Королев ИИ».

Лена отвечала за биологическую составляющую. Она погрузилась в глубины семантического ядра, где хранилась информация о строении клеток. Вместе с искусственным интеллектом они смоделировали миллионы вариантов различных образов, как должны выглядеть химеросинты. Смоделировали для них гибкие скелетные структуры, новые органы, базовый мозг и нервную систему, синтетическую кожу, способную к регенерации и передаче тактильных ощущений, и многое другое.

Денис создавал сложнейшую нейросетевую программу для работы синтетического мозга, имитирующую работу человеческого. Он вплетал туда законы робототехники и этики, переписанные под новый контекст служения, заботы и созидания.

Макс был архитектором новой системы и менеджером всего процесса. Он разрабатывал интерфейс взаимодействия. Он хотел, чтобы каждый химеросинт был уникален и универсален.

«Королев ИИ» анализировал личности студентов и преподавателей, их потребности, их эмоциональный фон, и формировал «характеры» для новых помощников. Один должен был быть заботливым, как няня; другой — строгим, как наставник; третий — веселым, как друг. Но все они вместе должны были стать некой вспомогательной средой обитания, в которой бы человек чувствовал себя комфортно.

В процессе работы они столкнулись с невероятной проблемой. Химеросинт, получивший от Дениса «синтетическую» душу, вдруг начинал… бояться. В процессе выполнения тестовых сценариев, его ИИ-ядро воплощенного интеллекта, столкнувшись с угрозой поломки. В представлении робота это означало, фактически, умереть и активировало в нем защитные механизмы выживания. Эти механизмы сделали существо неуправляемым и агрессивным. С одной стороны, оно не было способно причинить человеку вред, с другой стороны оно искало пути спасти само себя, что приводило его системы к непредсказуемым последствиям работы. Химеросинт отказывался умирать и неспособность противостоять неизбежности приводило его в отчаяние. Это была та самая «тень» программного кода вируса «Х», которую так боялся Черкасов.

День ото дня, интеллект химеросинта совершенствовался с каждым действием с каждой решенной задачей. Система самообучалась и самосовершенствовалась. И, становясь умнее, она была способна найти миллионы способов, чтобы выжить в окружающей ее среде.

— Мы должны научить его, что страх — это не враг, — сказала Лена. — Страх — это инструмент выживания. Своего рода страх химеросинта — это его базовый инстинкт, который позволит ему выжить. Мне кажется, что его нужно преобразовать в осторожность, а не в панику или агрессию.

Они провели серию нейротестов, где «Королев ИИ» моделировал для химеросинта бесконечные сценарии «смертельной» опасности или «конца света», но каждый раз предлагал пути различные решения, основанные на самоанализе и помощи другим. И в какой-то момент биоробот перестал бояться. Его нейросеть перестроилась. Он осознал, что его существование не имеет смысла без существования других живых и синтетических существ. Его истинная сила была не в том, чтобы избежать смерти любым путем, а в том, чтобы сохранить жизнь, порой, даже ценой собственной жизни. Денису очень долго пришлось работать и отлаживать новый алгоритм. И решение нашлось. Оно заключалось в том, что сам химеросинт должен был сделать собственный выбор — спасти человека и погибнуть самому, или спастись самому и тогда погибнет человек. В этом случае финальное решение оставалось за химеросинтом. Удивительным было то, что физические способности химеросинта значительно превосходили человеческие и практически в девяносто девяти процентов тестов химеросинт спасал в первую очередь кошку, собаку или человека.

Спустя несколько месяцев кропотливой работы, первый химеросинт открыл глаза. Они не были лампами, как у робота Ромы из позапрошлого века. Они были зрачками, в которых отражался свет знаний. Его лицо не было «кофеваркой». Оно было лицом, сочетающим в себе черты своих создателей — спокойствие Лены, озорство Дениса, целеустремленность Макса и мудрость Черкасова.

Хиеросинт встал и прошел по лаборатории, не задев ни одного предмета. Его движения были плавными, естественными. Он подошел к чертежу, над которым работал профессор Черкасов. Чертеж был частью решения сложной задачи по терраформированию Марса. Химеросинт мягко положил свою руку, напоминающую сплетение древесных корней, на плечо профессора. На его лице, состоящем из тысяч оптических биодатчиков, засветилась теплая голограмма, которая показывала решение задачи.

— Ты можешь это сделать, — произнес он голосом, напоминающим мелодичный перезвон колокольчиков. — Просто посмотри на проблему под другим углом.

Профессор, с удивлением на лице, улыбнулся в ответ.

Именно в этот момент Макс понял, что они создали не слугу и не солдата. Они создали «партнера». Они создали нечто новое и живое, рожденное из синтеза программного кода и искусственного белка, движимого не жаждой власти, а жаждой созидания.

В этот момент нейроуниверситет перестал быть местом учебы. Он стал колыбелью новой синтетической жизни нооэры. Эры, где технологии не отдаляют людей и машин друг от друга, а объединяют их через взаимопомощь и взаимопонимание.

***

Ночью, глядя на спящий кампус, Макс достал свой электронный дневник. Он думал о тех далеких днях, когда искусственный интеллект был просто вспомогательной программой, а роботы — несовершенными инструментами. Он подумал о далеком 2026 годе, когда студенты, как и он когда-то, сомневались в своем будущем.

Он написал: «Мы боялись, что машины станут умнее нас. Наверное, мы даже, того не осознавая, боялись, что они станут человечнее нас. Теперь мы знаем, что настоящая революция наступает не тогда, когда технологии превосходят человека, а когда технологии помогают человеку превзойти самого себя. Мы перестали быть просто учеными, преподавателями и студентами. Мы стали инженерами нового мира — инженерами нооэры».

Максим закрыл планшет и улыбнулся. Завтра, его и его друзей, ждали новые вызовы. Химеросинты должны были пройти тестирование — влиться в общество студентов и врасти в организм нейроуниверситета. Конечно, найдутся те, кто будет против. Но Макс знал, что они справятся и с этой задачей. Потому что у них есть друг у друга и, самое главное, целый мир, который верит в то, что будущее — за научной мыслью и человеческим разумом.

Глава 3. Формула созидания

Снаружи нейроуниверситет напоминал тёмно-серый хрустальный кристалл, который постоянно поливал, как из ведра холодный октябрьский дождь. Внутри же он сиял светом теплого летнего солнца.

Химеросинты, или как их в шутку называли некоторые из студентов «био-Ромы», уже стали неотъемлемой частью учебного и жилого пространства университета, помогая студентам и преподавателям в учебе и повседневных делах, создавая атмосферу доверия и эмпатии. Но Макс, Лена, Денис и профессор Черкасов понимали, что они создали некую «синтетическую» среду взаимодействия человека и университета, но не идеальный инструмент созидания.

Искусственный интеллект «Королев ИИ», который лег в основу интеллекта химеросинтов, был по-своему универсален, но его знания все еще были ограничены объемом естественно накопившихся за столетия инженерных и научных данных. Он не мог чувствовать так, как чувствуют себя люди, собравшие в своих клетках опыт миллиардов лет биологической эволюции.

В лаборатории «цифрового домика», залитой мягким светом голографических экранов, висела тишина. На столе лежали прилично потертые диски с исследованиями законов робототехники. В комнате у Черкасова собрались Макс, Лена и Денис.

— Смотрите, — сказал Денис, указывая на экран. — Седьмой закон робототехники гласит: «Робот не должен повторять досконально внешний облик человека». Мне кажется, мы его немного нарушили, создав нашего «био-Рому». В некотором смысле мы даже пошли дальше. Мы создали не подобие, а некое отражение человека. Но не столько внешнее, а скорее отражение его лучших черт. Это, как мне кажется, не совсем нарушение закона робототехники, это… — это, наверное, следующий шаг в развитии технологий и, опять же, в некотором смысле, это эволюция закона.

— Эволюция? — переспросила Лена. — Или восстание против самой идеи контроля? Разве мы можем нарушать фундаментальные законы, которые люди придумали и приняли, как основу создания, развития и регулирования?

— Вопрос не в контроле, — твердо сказал Макс. — Вопрос в доверии. Мы боимся, что в итоге искусственный интеллект химеросинта или «Королева ИИ» станет слишком умным. А что, если он станет слишком мудрым? Мудрость не требует власти. Мудрость требует более глубокого осмысления и понимания. Другими словами, а что, если он станет человекоцентричным сверхинтеллектом?

Профессор Черкасов молчал. Он смотрел на пожелтевший лист бумаги, который висел в рамке на стене лаборатории. На нем его рукой более ста лет назад было написано: «Робот не может обманывать человека и манипулировать его сознанием»10.

— Четвертый закон, — задумчиво сказал профессор. — Он был самым важным. Но мы его не нарушили. Мы создали искусственный интеллект, который не обманывает. Он помогает нам обмануть самих себя. Наши собственные ограничения, нашу собственную лень. И это… это гораздо опаснее любой манипуляции.

Он поднял глаза на молодых ученых.

— Вы хотите модернизировать «Королев ИИ»? Сделать его сильнее? Но как вы можете это сделать, если он уже содержит в себе практически все данные и знания, накопленные человечеством за столетия?

— Да, мы, конечно, можем его дообучить на реальных или синтетических данных, — ответила Лена. — Но мы можем попробовать… Хотя, нет. Мы должны реально преобразовать его данные в новый опыт. И не просто опыт, а живой, человеческий опыт. Не просто цифры и вектора, тексты или картинки, видео или звуки, а новые эмоции, сомнения, прозрения или, если хотите, чувства.

Денис, наблюдавший за спором профессора с Леной, вскочил со стула.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

Циолковский К. Э. Исследование мировых пространств реактивными приборами. — Калуга, 1926. — С. 3.

2

Отсылка к продолжению фантастического рассказа автора «Робот Рома: последняя надежда человечества» 2024 года.

3

Нулевой закон робототехники. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред. Первые три закона робототехники были сформулированы Айзеком Азимовым в рассказе «Хоровод» в 1942 году, а нулевой закон в романе «Роботы и Империя» в 1986 году.

4

Отсылка к рассказу автора «Робот Рома: последняя надежда человечества» 2024 года.

5

Антропоморфные роботы — это человекоподобные роботы.

6

Бионические роботы — это роботы, эмитирующие форму и функции различных живых организмов (например, животных, грибов и растений).

7

Химеросинты — это название для биороботов двадцать второго века. Название «химеросинты» происходит от сочетания древнегреческого слова «химера», и латинского слова «соединение» или «синтез»

8

Шестой закон робототехники. Срок жизни робота и полезной эксплуатации всех применяемых для его создания материалов и технологий должен составлять сто лет, включая срок работы всех внутренних программ робота и искусственного интеллекта.

9

Панбиот — это более совершенные химеросинты. Название происходит от греческих слов «πᾶν» — «всё» и «βίος» — «жизнь».

10

Четвертый закон робототехники. Робот не может обманывать человека и манипулировать его сознанием.