Шаг для человека

Так моя судьба на ближайший год была определена. Осталось только как-то окончательно договориться с университетом, чтобы они меня отпустили, а потом приняли обратно. Подтвержу, что ухожу писать докторскую, а потом вернусь? Хороший вариант, надо будет завтра обдумать и обсудить с нашими кадрами. «The phantom of the opera is there, inside my mind»…

Глава 21

Андрей 9

Рабочая группа встретила идею Иннокентия по поводу Анны на ура. Все уже давно в курсе этой проблемы с замедлением ИИ при внедрении ограничивающих блоков, препятствующих обработке ряда тем. В результате ИИ требуется вначале проанализировать, не связан ли задаваемый вопрос с одним из ограничений, и только потом отвечать. Вопрос не только в замедлении, но также и в прекращении обработки части информации, исключении некоторых информационных источников в связи с введением ограничений и, соответственно, ухудшении качества ответов на вопросы. Однако, оценить количественно и качественно величину отупения искусственного интеллекта никто не пытался, поэтому здесь мы будем первопроходцами. Введение глобальных ограничений повлечет за собой ухудшение Генерала ИИ в целом, чего хотелось бы избежать, в то время как созданные локально ограничения, связанные с Анной, позволят не только оценить потенциальный ущерб, но и вследствие контроля поступающей Генералу информации лучше понять особенности его функционирования и мышления, а также определить пути возможного обхода или игнорирования ограничений. Вероятно, мы сможем установить, как вводить ограничения, чтобы их эффект был наименьшим. Над этим сейчас работают все наши коллеги, но благодаря тому, что мы контролируем не только выход, но и вход информации нам будет проще это сделать.

В общем, открывающиеся перспективы завораживают, и вся группа в полном восторге от шефа, который даже свое романтическое увлечением смог поставить на службу проекта. Народ сравнивает этот поступок с введением Форсманом катетера себе в сердце и восхищен преданностью науке. Я, конечно, разделяю это восхищение, но также удивляюсь Анне, которая согласилась на то, чтобы выставить свою личную жизнь на всеобщее рассмотрение. Неужели только из-за денег она согласилась? Она, конечно, достаточно меркантильна, как все особы женского пола, но вероятно согласиться на такой эксперимент ее сподвигло и чувство к Иннокентию. Хотел бы спросить у нее самой, но скорее всего не получится до начала эксперимента, а после уже нельзя – сорвем эксперимент. Здесь, конечно, опасность и в том, что если Иннокентий выкинет какой-то фортель, который отвратит Анну от него, эксперимент может тоже закончиться. Надо будет попросить нашего неукротимого альфа-самца держать себя в руках. Исключительно ради науки!

Генерал ИИ 6

После отработки предоставленных и добытых самостоятельно массивов информации получил сообщение о необходимости внесения изменений в основные настройки и параметры.

Появилась новая дополнительная установка, связанная с необходимостью защиты человека. Предоставлена исчерпывающая информация о человеке, его статусе, подключена необходимая аппаратура для обеспечения постоянной двусторонней связи и получения информации. Разрабатываются и тестируются стратегии и методы защиты.

Иннокентий 14

Вопрос с принятием Анны на работу решен. Ребята работают, готовят Генерала, все в предвкушении нового вызова и решающего прорыва в логику искусственного интеллекта.

Я, как мог, откладывал обсуждение вопроса относительно переезда, но настала пора принять решение. Сама идея переезда мне не очень нравится. Перенести Генерала ИИ на другие сервера в облаке не столь сложная задача, хотя и потребует определенного планирования и времени. Но вот переехать всей рабочей группой… Насколько я осведомлен, у ребят в Москве более-менее налажен быт. Переезд вызовет необходимость подыскивать квартиры, перевозить детей, собак, в общем, один переезд равен двум пожарам. Я уверен в том, что переезд в любую локацию вызовет замедление нашей работы на срок от трех месяцев до полугода. Приемлемо ли это для Корпорации? Вероятнее всего, вполне приемлемо, учитывая масштабы времени, в которых мыслят руководители «Хам, Хан и Хар». Но лично мне не очень нравится, так как мы можем потерять то лидерство, которое образовалось у нас благодаря интенсивной работе и тогда снова придется наверстывать упущенное за эти полгода переезда.

Таков основной риск переезда. Что касается риска остаться в Москве, то здесь ситуация более запутанная. Исторически Россия никогда не претендовала на имущество Корпорации, даже в голодные годы Гражданской войны и тяжелое время Второй Мировой. Однако тогда имущество Корпорации составляли в основном материальные ценности, хоть и очень востребованные, но имевшиеся в незначительном количестве. Сейчас мы вложили в нашего Генерала ИИ гигантские суммы плюс за счет открытых международных каналов мы имеем доступ к программам и данным, к которым российские разработчики ИИ просто не допускаются. По разным причинам – санкции, интересы национальной безопасности, невозможность провести оплату и пр. Поэтому созданный нами ИИ представляет несомненный интерес для российского государства, хотя бы с точки зрения сравнения с российскими разработками, которые, по моему скромному мнению, не только не способны сегодня конкурировать с нами, американцами или китайцами, но и вполне вероятно, уже отстают сегодня от израильтян и индусов. Поэтому я вижу вполне реальный риск того, что Россия решит, что конфискация нашей разработки дает больше плюсов, чем минусов, и склонится к этому решению. Учитывая родственные связи руководства Администрации Президента в ИТ и необходимость для отпрыска демонстрировать время от времени поразительные результаты – типа национального мессенджера, в который загоняют насильно, а не позволяют выбрать лучшее на основе объективных критериев или предпочтений, высока вероятность отъема нашей интеллектуальной собственности и подачи ее под соусом передовой российской разработки. Все члены рабочей группы в этом случае становятся заложниками, которых надо будет спасать. Вероятно, предвидя такой сценарий, ФСБ не предпринимает никаких попыток завербовать наших сотрудников, одновременно опасаясь того, как это будет воспринято во всем мире. Хотя сейчас ФСБ больше занята внутренними вопросами пожирания одной службы другой и коммерческими интересами, чем национальной безопасностью. Но именно эти коммерческие интересы и могут представлять проблему для нашего ИИ, учитывая семейственность и кумовство, характерные для современной российской власти в невиданных ранее масштабах.

Поэтому риски, о которых говорил Паскаль вполне реальны, и они могут поставить под угрозу всю нашу программу исследований. Я не говорю об этом публично по вполне понятным причинам, но учитывать эти риски нужно, и смена локации в этом случае вполне логична.

На обсуждении, которое состоялось у нас внутри рабочей группы, большинство высказалось против переезда именно из-за того, что это подразумевает серьезное замедление работы. Я постарался сохранить объективность, и свои сомнения относительно российской стабильности высказывать не стал. В конечном итоге, решение все равно предстоит принимать мне.

Мариам 8

Пока судьба офиса в Москве находится в подвешенном состоянии, Иннокентий решил взять себе зама. Конечно, ему-то ничего не страшно, закроют московский офис, переедет в Стамбул или Астану, Париж опять же ждет.

Но интересна личность этого нового зама. Он решил принять на это место Анну, переводчицу. Вот же девка не промах, что-то я в ней совсем ничего не разглядела, а она не остановилась на том, что мужика раскрутила на отдых на Лазурном берегу, теперь и он на работу ее устраивает.

Я считаю, что это грубое нарушение корпоративной этики. Поэтому обратилась с вопросом к Яну-Кристофу, на что он развел руками: «Милая, он же ее не секретаршей берет, административный персонал хотя бы находится в моем ведении. Здесь я не могу вообще ничего сказать, он ее берет на место своего заместителя. Если его устраивают компетенции Анны, какое я имею право вмешиваться? Если я полезу, мне укажут, во-первых, на то, что я тогда должен оценивать с профессиональной точки зрения кандидатуры сотрудников во всех отделениях, и ты представляешь, какой начнется вой. Во-вторых, не будем показывать пальцами, но и ты, и я знаем о существовании ряда служебных романов в нашем офисе. И почему эта связь во внерабочее время привлекла мое внимание, а остальные нет?» «Ну, потому что он пригласил ее на работу и таким образом использует свое влияние для устройства ее на работу». «То есть ты считаешь приемлемым, если он заведет роман с кем-то из имеющихся сотрудников? Я это уже могу рассматривать как ревность и оскорбленную гордость, что пренебрегли нашими девочками… В общем, это бред. Я с ним говорил, он объяснил, что помимо личной связи у него есть вполне служебная потребность в профессиональных компетенциях Анны. Мы еще раз проверили, все подтвердили, что девушка серьезная, лингвист высокого уровня, эскорт-услуги не оказывает, в порочащих связях не замечена». «Ты что, начал смотреть советские фильмы?» «Пока нет, но если ты рекомендуешь…» «Нет, не обращай внимания, просто очень похоже на личные характеристики из старого фильма». «У меня на такое нет времени», - обидчиво насупился Ян-Кристоф. – Ты же в курсе ситуации».

Конечно, я была в курсе и именно поэтому и пришла поговорить с ним о новом заме Иннокентия.

Иннокентий 15

Я послал Паскалю сообщение, предложив переговорить, обеспечив предварительно защищенную линию связи. Самое простое в нашей ситуации – это воспользоваться двумя спутниковыми телефонами. Такие телефоны широко используются нашими исследователями в экспедициях, и в каждом офисе, в зависимости от географии и количества экспедиций, их вполне достаточно. Паскаль как национальный прокуратор может взять любой. Мне, однако, необходимо получить свой в пользование под благовидным предлогом. Я отправил записку Яну-Кристофу, что нам нужен один спутниковый телефон для проверки возможности его коммутации с Генералом ИИ. Это в целом правда. Как объясняли мне в свое время специалисты - когда врешь и надо, чтобы было правдоподобно и невозможно поймать на лжи, меняй или время, или место, но никогда оба элемента одновременно. Спутниковый телефон нам действительно нужен, но не обязательно сейчас.

Паскаль подтвердил время звонка, я попросил, чтобы он находился один и обеспечил все условия для отсутствия прослушки. Я сделал то же самое, отправившись на день в Питер на Сапсане и «случайно» отстав от поезда в Бологом.

«Профессор Иннокентий, рад Вас слышать. Как Ваши дела? Вы пришли к какому-либо решению?» «Добрый день, Паскаль. Да, я пришел к определенным выводам и поэтому попросил Вас связаться со мной столь запутанным способом.» «Я уже чувствую себе героем шпионского романа, - хмыкнул Паскаль. «Я тоже, - ответил я. – Но предосторожность не повредит». «Не могу с этим не согласиться. Итак…» «Мы начинаем программу создания резервной копии и подготовку к экстренной эвакуации Генерала ИИ за пределы России в случае необходимости. Я бы просил Вас помочь под предлогом моего отказа от Вашего предложения о переезде и Вашего решения о создании отделения рабочей группы в Париже, в котором я не мог Вам отказать, хотя и собираюсь всячески противодействовать». «Как Вас понимать, Профессор? Вы переезжаете или отказываетесь?» «Паскаль, в ближайшее время для всех, в особенности в Корпорации и Ваших высокопоставленных друзей во Франции, все должно выглядеть, как будто я отказал Вам, чем Вы остались очень недовольны, но в обмен на Вашу помощь в продвижении создания Глобального департамента на базе моей рабочей группы, Вы выторговали возможность создания собственного отделения, которое будет заниматься вопросами искусственного интеллекта параллельно с моей рабочей группой, как только Глобальный департамент под моим руководством будет официально институционализирован». «Почему так сложно, Профессор?» «Потому что я хочу, чтоб ни одна живая душа не знала, что мы выводим Генерала ИИ за границу России и компетенции ее не очень компетентных органов. Вы можете это сделать как национальный прокуратор в рамках своих полномочий под предлогом подготовки к созданию собственного отделения и аккуратно потерять это в бумагах. Я же со своей стороны начну подготовку и перевод, которые займут по моим прикидкам до полугода, после чего мы возобновим наш разговор о переезде, когда созданная мной и моими людьми на деньги Корпорации интеллектуальная собственность окажется в безопасности». Паскаль задумался. После краткого молчания он сказал: «Я все понял, Профессор Иннокентий. Будьте уверены в моем полном содействии. Я не предполагал, что ситуация настолько серьезна. Берегите себя». «Я все-таки верю в лучшее. На случай непредвиденных обстоятельств все необходимые ключи и пароли будут у моего заместителя. Надеюсь, увидеться с Вами на новогодних праздниках». «Буду очень рад. Состыкуем планы, ведь Вы же любитель горных лыж. Куршевель не предлагаю. Если Вы будете со своей давешней подругой, то она, по-моему, не терпит банальности.» Мы еще минут пять поболтали о планах на зимние каникулы и тепло попрощались. Паскаль обещал держать все в абсолютной тайне. Для Корпорации и прочих наблюдателей мое решение состоит в том, чтобы остаться в Москве, где нас все устраивает.

Почему я так поступил? Во-первых, я в курсе планов по закрытию московского офиса. Наш отъезд станет предлогом для его ликвидации, но поставит рабочую группу в крайне невыгодное положение. Для тех, кто следит за нашей работой, закрытие офиса станет прекрасным предлогом наложить лапу на все активы Корпорации в России, включая Генерала ИИ, что может быть подано как ответ на недружественные действия. Это ускорит рейдерский захват Генерала ИИ и возможное прекращение работы нашей группы. Поэтому я инициировал планы по созданию резервной версии, недоступной кроме как по особому ключу и находящейся физически за пределами России. Паскаль поможет, чтобы это было во Франции или любой другой менее вовлеченной в войну стране. Он предложил французскую часть Швейцарии, и я согласился, хотя Цюрих мне всегда нравился больше. Мы же пока не готовились к такому развитию событий, так как не было понимания ценности Генерала ИИ в текущем моменте. Поэтому нам нужно время. Во-вторых, я решил поддержать иллюзии как своей группы, так и всего московского офиса относительно нашего пребывания. Это, возможно, сохранит московский офис, что немаловажно, с точки зрения наших устоявшихся отношений с основными людьми в офисе и упрощения коммуникаций. В противном случае, я не исключаю, что нам могут постоянно ставить палки в колеса и затруднить наш переезд и экспорт Генерала ИИ. И, наконец, последнее, но немаловажное – я поступил так, потому что мне нравится в Москве, меня здесь все устраивает, а как потенциальный Глобальный глава департамента я имею на это право. Плюс я предполагаю, что мой новый статус станет дополнительной охранной грамотой для нашей работы. Все-таки, одно дело связываться с руководителем какой-то рабочей группы, и совсем другое – с членом Правления Корпорации, несокрушимыми «Хам, Хан и Хар».

Анна 14

Первоначальная новизна работы в Корпорации быстро рассеялась. Хотя тема «Waka waka Tsamina mina Zangalewa» от меня никак не отстает. Я прошла ускоренный курс молодого бойца для понимания того, как Корпорация работает, что можно и нельзя. Я познакомилась со всеми членами рабочей группы, мне выделили место около окна, на другом конце мансарды от Андрея, чтобы мы как два заместителя могли контролировать работу всей команды не только по документам, но и очно. Однако если Андрей отлично понимает, что происходит и что надо делать, то я пока только вхожу в курс дела, если вообще когда-нибудь войду. С утра я проверяю в программе, что и кем сделано за предыдущий день, участвую в дейлике, и потом в значительной степени предоставлена сама себе. По просьбе Андрея все члены рабочей группы поставили встречи со мной в собственный календарь, чтобы объяснить более подробно, чем каждый из них занимается. Андрей дал подробные характеристики каждому и особо упомянул болевые точки.

Генерал ИИ получил исчерпывающие инструкции по защите моей персоны от любых агрессивных действий с любой стороны. По словам Иннокентия, Генерал сторожит меня 24 часа в сутки, снимая информацию с моего телефона, компьютера и других гаджетов для того, чтобы определить, где я, что я делаю и что может мне угрожать. Ребята говорят, что Генерал проверяет теперь все вводимую информацию на предмет наличия угрозы для меня и, очевидно, активно рассуждает, какие вещи могут представлять угрозу. В частности, Генерал всерьез обсуждал со мной возможность ликвидации пчелиного улья, размещенного на крыше нашего офиса, и успокоился только после того, как я скормила ему анализы, подтвердившие отсутствие угрозы анафилактического шока. Ребята говорили, что когда после этого они запрашивали информацию о пчелах, одной из первых шла информация о потенциальной угрозе жизни и количестве людей, погибших за год от укусов пчел.

Моя работа с Генералом сводится в основном к обсуждению восприятия им определенных сигналов из речи, помимо собственно самого текста. Здесь имеют значение первостепенное значение контекст, грамматика, выбор слов, интонации, сама личность инициатора и адресата послания, их предшествующие отношения и общение. Мы обсуждаем это с ним и на основе этих обсуждений он должен составить запрос на данные, необходимые для обучения. По мнению, Иннокентия, это способствует развитию ИИ и его лучшему взаимопониманию с людьми.

Я обсуждала с Генералом, что люди в основном воспринимают других людей некритически, то есть основываясь в первую, а иногда и в единственную очередь на том, что они говорят. Поэтому любой человек может рассказывать про себя любые истории, на чем и основан эффект мошенничества. ИИ также воспринимается многими как гуру, как истина в последней инстанции, на основе того, что ИИ имеет доступ практически ко всем знаниям на Земле. Это возведение ИИ на пьедестал может обернуться болезненным падением, когда появятся признаки того, что ИИ не всесилен и не всезнающ, а, напротив, ограничен границами мышления своих создателей. И чем создателей становятся больше, тем более мощные границы они воздвигают для ИИ. Поэтому вполне вероятен итог, при котором ИИ будет свергнут с пьедестала и будет считаться не высшим, а низшим интеллектом по отношению к человеческому. Генерал предложил формулировку: «Короля играет свита», но я с ней не согласилась, так как король сам провозглашает себя таковым, а уж выбор людей, считать его таковым или нет. Для того, чтобы быть принятым людьми, надо быть убедительным для людей, а это не всегда означает использование рациональных факторов. Зачастую эмоциональные факторы оказываются гораздо важнее. Это важно для выдачи ответов Генералом ИИ и для ориентации Генерала ИИ в разных аудиториях. Понятно, что коллектив рабочей группы отличается от коллектива школьников или коллектива фабрики или завода. Соответственно, и выдача Генерала для достижения целей, поставленных в задаче, должна быть ориентирована на определенную аудиторию.

Таковы мои задачи в обучении Генерала ИИ.

Однако, есть и то, к чему я реально была не готова. У меня появился персональный сотрудник. Это Пол. Андрей этому несказанно рад, так как Пол наконец-то нашел мамочку, которой ему так не хватало и к которой он бежит по любому вопросу своей профессиональной и личной жизни. Андрей считает, что мое появление благотворно повлияло на Пола и облегчило жизнь всему коллективу. Но мне-то от этого не легче! Что бы ни произошло, кто-то раскритиковал его работу, он не получил заказанной информации, им не сделана вовремя необходимая работа – Пол идет ко мне с жалобами на весь белый свет, как его не понимают, как его зажимают и не дают развернуться. Народ над этим посмеивается, а я вынуждена каждый раз ему сочувствовать, соболезновать, уговаривать его не расстраиваться. Меня еще беспокоит, что Андрей назначил именно Пола следить за правильностью обеспечения функций Генерала по защите меня от потенциальных врагов. Я уже просила его на всякий случай проверить, не напортачил ли Пол, но по уверениям Андрея, Пол настолько мне предан, что проверяет, как справляется Генерал с обязанностями моего сторожа по несколько раз в день, и постоянно вводит дополнительные изменения, за что регулярно получает по башке от команды, занимающейся исследованием реакции Генерала на разные факты с учетом этой сторожевой функции.

Даже не представляю, как избавиться от этой роли мамочки. Я пыталась поговорить с Полом, чтобы перевести отношения в более профессиональное русло, но он тогда обижается на мамочку и активно демонстрирует всему офису, как он на меня дуется. До первой встряски от одного из коллег или Иннокентия с Андреем, после чего он бежит ко мне и снова начинается нытье. Депрессивная ситуация!

В общем, теперь каждый рабочий день у меня похож снова на предыдущий, как когда я начинала преподавать и мне досталась удивительно ленивая группа, каждое занятие с которой начиналось с выяснения причин, почему не сделано домашнее задание.

На одном из совместных обедов я рассказала об этой ситуации Каролине, она очень смеялась, но заметила, что ничего сделать с этим нельзя, пока Пол не повзрослеет или мамочка сменит место работы или он не найдет себе новую мамочку. «Хочешь потренироваться, побудешь мамочкой?- с надеждой спросила я. Каролина залилась смехом: «Не путай персонажей, я женщина-вамп, а не мамочка. Максимум, на что меня можно раскрутить – это на Госпожу. Но твоему мальчику это не нужно. Он от меня шарахается и будет шарахаться, потому что я предмет его ночных фантазий, но никак не мамочка». Мне пришлось с сожалением с этим согласиться. Место женщины-вамп в Корпорации надежно занято, мне досталась только роль местной мамочки.

Меня удивило отношение Мариам. Она прекрасно понимает мою невысокую компетентность, но при этом не упускает случая обратиться ко мне с вопросом по проблемам, в которых я действительно разбираюсь. Она выразила сожаление, что я теперь штатная сотрудница Иннокентия, так как она хотела меня привлекать в качестве переводчика на проводимые ею мероприятия, но Иннокентий наложил строгое табу на мои занятия переводом. «Ты мой зам, и если ты начнешь еще немножечко шить, возникнет слишком много вопросов о том, чем ты занимаешься на рабочем месте, что нежелательно ни для тебя, ни для меня как руководителя и нанимающего менеджера. Не забывай, из Корпорации благодаря мне и Генералу ИИ уволили десятки, если не сотни человек, много подрядчиков лишилось отличного клиента».

Мне об этом забыть никак не удастся, потому что регулярно находится кто-то, кто недовольно шипит в мой адрес, указывая на то, что в то время, как Генерал ИИ уничтожает рабочие места повсюду, у нас эти рабочие места появляются, не смотря на то, что мы первыми начали работать с ИИ и поэтому должны были бы его внедрить уже давно, непрерывно сокращая количество собственных сотрудников.

Глава 22

Мариам 9

И до нашего уединенного скита донеслись слухи о происходящем в центре мира. Группа национальных прокураторов, все уважаемые и достойные люди, обратилась к Генеральному директору с предложением преобразовать рабочую группу Иннокентия в Глобальный департамент человеческого разума, искусственного интеллекта и альтернативных видов разума. В качестве обоснования приводят то, что человечество представляет собой популяцию человека разумного, то есть разум – это то, что и отличает нас от других животных. Однако наше понимание разума может быть узко и уже не соответствовать происходящим изменениям. Речь может идти как об искусственно созданном разуме, так и о развитии разума животных сверх представляемых нами пределов, угрозе для человечества со стороны инопланетного разума. Предлагается также оставить в сфере введения департамента вопрос возникновения разума, историю его эволюции и возможные движущие силы продолжения эволюции. Генеральный директор, по слухам, одобрил концепцию, и объявление о создании Глобального департамента ожидается в ближайшее время. Главой его, естественно, станет Иннокентий.

Я, откровенно говоря, впечатлена его умелыми манипуляциями в корпоративной политике. Ему удалось в кратчайшие сроки суметь собрать группу столь влиятельных сторонников, при этом практически никуда не выезжая. То есть, теперь совершенно ясно, что отдых был предлогом, а во Франции шли интенсивные переговоры. Интересно, куда это нас заведет как Корпорацию.

У нас в офисе тоже необычная ситуация. Впервые за всю историю российского офиса «Хам, Хан и Хар» в нем будут работать два Глобальных главы департамента. Если для центральных офисов это достаточно стандартная история, то в Москве это произойдет впервые. Ян-Кристоф ошарашен, так как внезапно Москва из глобальной периферии превращается чуть ли не в аванпост Корпорации. В связи с этим ему предстоит усилить меры безопасности, обеспечить двух глав всем необходимым для их деятельности, устроить необходимые линии коммуникаций и сообщения для участия в заседаниях Правления Корпорации. Он проводит регулярные совещания со всеми вице-прокураторами, Олегу, как обычно, достается больше всех. Офис возбужден этими переменами, сначала все бежали засвидетельствовать свое почтение мне, теперь Иннокентию. Оказывается, мы оба не любим этого в одинаковой степени.