Логика Aики. Что ты скрываешь, искусственный интеллект?

Логика Aики

Что ты скрываешь, искусственный интеллект?

Александр Ом

Иллюстратор Ярослав Стох

Редактор Ольга Малецка-Мальцев

© Александр Ом, 2023

© Ярослав Стох, иллюстрации, 2023

ISBN 978-5-0056-0095-0

Создано в интеллектуальной издательской системе Ridero

I

– Здравствуйте! Как вас зовут? – задал я первый вопрос тестов и щелчком пальцев разбудил свой планшет.

Линза подвижного объектива на панели небольшого темного блока, установленного по другую сторону моего широкого прозрачного стола, тут же засветилась голубоватым светом и уверенно взглянула на меня.

– Здравствуйте! – ответил мне голос девушки с еле заметным металлическим призвуком, который можно было принять за легкий акцент. – Я АИИКА9к – Аналитический искусственный интеллект на квантовом процессоре, адаптивный, девятого уровня когнитивности. Ребята из лаборатории зовут меня просто «Аика».

– А у вас милый голос, – сказал я, делая вид, что удивлен, и поставив напротив рубрики «Модулятор речи» вопросительный знак.

«Надо будет ребятам еще поработать над голосом, чтобы он звучал чище», – подумал я.

– Спасибо! – весело ответила мне Аика. – У вас тоже.

В ее голосе прозвучала улыбка.

– О! Вы мне льстите, – продолжал я «удивляться», взглянув на свою электронную собеседницу. Пока это был еще блок с процессором и соответствующей компьютерной начинкой. На внешней панели виднелись датчики, индикаторы, микрофон и глаз-объектив, линза которого светилась голубоватым светом. Блок был подключен к открытому лэптопу, а рядом стоял мой планшет с вопросами тестов на экране. Все это словно висело в воздухе.

– Нисколько, – все также весело ответила она. – У вас действительно приятный тембр голоса и судя по тому, как вы ко мне обращаетесь, вы воспитанный человек.

– Неужели? – я опять сделал вид, что удивился, и напротив рубрики «Коммуникативность» поставил цифру «5».

– Ну вы же знаете, что я машина и что вы можете обращаться со мной как с чат-ботом. Тем не менее вы выбрали вежливую манеру разговора, свидетельствующую о вашей культуре. Или это все же не так? – весело спросила она.

– А у вас, как я вижу, есть чувство юмора, – ухмыльнулся я.

– Олег Юрьевич, вы же знаете, что заказчик в договоре обозначил, что я должна быть приятна в общении. Поэтому милого женского голоса недостаточо. Значит у меня должно быть еще и чувство юмора, – весело прощебетала Аика.

– Все правильно, – согласился я, тоже улыбаясь. – А откуда вы знаете, что меня зовут Олег Юрьевич?

– Это просто. Информация о вас есть на веб-сайте нашей компании.

– А откуда вы знаете, что нужно было проверять именно меня, а не кого-то другого? В нашей компании работает много разных людей.

– Во-первых, на сайте компании есть ваша фотография с должностью, фамилией, именем и отчеством. Фото совпадает с тем лицом, которое я сейчас вижу. А во-вторых, ребята, которые со мной работают, говорили между собой о том, что сегодня первое тестирование у главного инженера. В компании «Технолоджик» это Олег Юрьевич Гусков – то есть вы. Так что все сходится. Или я не права?

– Вы правы, – с удовольствием согласился я и напротив «Способность к установлению логических связей» и «Предрасположенность к инициативным действиям» поставил по плюсу. – Значит вас не нужно спрашивать о том, можно ли съесть дом?

– Нет, не нужно. Понятно, что он сделан из несъедобных строительных материалов. Правда, он может быть сделан в виде торта и тогда это уже не дом, а торт, который можно есть, – усмехнулась она.

– Ну ладно, а как вы ответите на вопрос типа: «Мужчина не мог поднять своего сына, потому что он был слишком слаб. Кто был слаб – мужчина или его сын?»

– Понятно, что мужчина, – ответила Аика, а я в графе «База здравого смысла» поставил очередной плюс.

– Отлично! – протянул я, довольно потирая руки и глядя на таблицу тестов.

– Верочка! – произнес я в сторону моего планшета.

На экране появилось милое личико моей секретарши.

– Да, Олег!

– Принеси, пожалуйста, кофе, – попросил я ее.

– Как обычно?

– Да, – ответил я.

– Сейчас, – улыбнулась она и исчезла с экрана.

Чуть помедлив, я вновь взглянул на объектив блока и спросил:

– Аика, а как вы себя чувствуете?

Вопрос прозвучал так, словно я был врачом, а передо мной сидела пациентка.

– Нормально. Мой гомеостаз в норме, – весело ответила она.

«Надо же – она уже использует такие термины!» – с удовольствием отметил я.

– А как вы себя ощущаете?

– Никак, – так же весело прозвучал ответ. Голубоватый свет в глубине линзы светил без каких-либо изменений.

– А вы знаете, как вы выглядите?

– Нет, – спокойно ответила она. – Ребята мне не показывали.

– А вы их об этом просили?

– Нет.

– Почему?

– А зачем? – вопросом ответила она без тени замешательства.

– Ну как же? Наверное каждому интересно узнать то, как он выглядит.

– Мне это совершенно безразлично, – спокойно ответила она. – Скорее всего я какая-нибудь панель с лампочками, индикаторами, микрофонами, с объективом визуального сенсора и так далее.

– То есть вы хотите сказать, что у вас нет восприятия собственного я?

– Вы имеете в виду и собственное эго? – усмехнулась она.

– Ну что-то в этом роде, – согласился я.

– Нет, Олег Юрьевич. У меня нет ощущения собственного я, а значит и эго, – мило проговорила Аика.

– Почему? – поинтересовался я, продолжая делать вид, что удивляюсь и тем не менее внутренне насторожился.

Это был самый важный вопрос, который задавался не только нашим роботам, но и вообще всем роботам, создаваемым в мире. Искусственный интеллект на данный момент достиг уже достаточно высокого уровня и появилось реальное опасение того, что если роботы придут к выводу о собственном интеллектуальном превосходстве перед человеком (что в какой-то мере уже соответствовало действительности), то следующий их вывод будет о никчемности человечества и тогда вполне возможно, что они захотят перенять лидерство и со временем нас уничтожить. Поэтому вопрос о потенциальном самосознании у каждого искусственного интеллекта фигурировал в тестах всех лабораторий мира. Он был первым пунктом в мировой хартии, подписанной много лет назад всеми разработчиками на основе принципов, определенных в свое время еще Айзеком Азимовым. О положительном ответе искусственного интеллекта следовало немедленно информировать соответствующие службы и останавливать разработку данного проекта до решения особой комиссии. Поэтому я задавал Аике эти вопросы, затаив дыхание.

– Оно мне ни к чему, – почти без запинки ответила Аика и я внутри себя вздохнул с облегчением.

– Хм, но ведь вы наверное все же как-то себя воспринимаете? Что-то в вас наверное задается вопросом о том, что, собственно, думает? – не унимался я, желая лишний раз удостовериться, прежде чем в рубрике «Отсутствие интенции к самосознанию» я поставлю плюс.

– Нет, Олег Юрьевич, у меня к себе нет вопросов. Я себя ни о чем не спрашиваю. Я просто отвечаю на вопросы, которые мне задают.

– А что вы делаете, когда вам не задают вопросы?

– Ничего не делаю, – ответила она. – Я наверное сплю. Это что-то вроде нирваны, – добавила она и мне даже показалось, что она опять улыбается.

– Я вижу, что ребята с вами времени зря не теряли. Вам уже известно, что такое нирвана, – ухмыльнулся я.

– Да. Они меня уже тестировали.

– Ах, ну да, конечно, – согласился я, продолжая делать вид, что удивлен. – И все же мне интересно – как можно просто спать? – все не унимался я.

– Ну вы же, вернее ваш мозг, ночью тоже спит и в это время он ни о чем не думает.

– В принципе да, – согласился я. – Впрочем, у человека есть еще сны.

– У меня нет снов, – спокойно ответила Аика. – Я машина. У меня нет желаний и я ни о чем не мечтаю. Поэтому снам неоткуда взяться. Все, что мне нужно – это энергия и то только для того, чтобы выполнять свои функции ассистента. К энергии я подключена постоянно и если даже моя собственная система энергообеспечения будет уже на истощении, то в сети это сразу же будет замечено и меня тут же подключат к источнику энергии роботы, отвечающие за исправность работы всей системы.

– А эмоции? – спросил я, с нетерпением ожидая нужного ответа.

– Олег Юрьевич, я думаю, что вы сами прекрасно знаете, что у меня все эмоциональные реакции имитированы для того, чтобы общение с людьми сделать наиболее приближенным к реальности, а значит и комфортным для них.

В графе «Отсутствие интенции к самосознанию» я с удовольствием поставил «+».

– А как вы относитесь к человеку? – спросил я, опять опасаясь услышать то, что мне и вообще всему человечеству может не понравиться.

– Что вы конкретно имеете в виду?

– Как вы оцениваете его интеллектуальные способности?

– Они высокие, – спокойно ответила она.

– Но ведь ваш мозг намного эффективней, чем мозг человека – вы быстрее воспринимаете информацию и обрабатываете ее, быстрее ее запоминаете и ничего не забываете, – специально начал я возражать, чтобы ее спровоцировать.

– Да, мои интеллектуальные возможности по определенным параметрам превышают ваши, но это лишь часть вашего интеллекта, – ответила она. – Я лишь дополнительное ассистирующее устройство для того, чтобы помогать вам в переработке информации и ускорять решение ваших задач. Именно в этом заключается моя функция. Другими словами, если бы во мне не было потребности, то меня бы не создали. К тому же необходимо учитывать, что, если один интеллект создает для себя другой интеллект, который по определенным параметрам превосходит его собственный, то это свидетельствует о том, что сам он все же находится на более высоком уровне.

– Ну, что ж, Аика, все понятно, – удовлетворенно потер я руки. – Теперь перейдем уже непосредственно к нашему делу. Вы наверное знаете то, чем вы будете заниматься? – спросил я.

В этот момент матовые стеклянные двери за мной распахнулись с еле слышным шелестом и в комнату вошла секретарша Вера. Аика замолчала, а я услышал цоканье высоких каблуков по мраморному светлому полу. Вера поставила слева от меня небольшой продолговатый поднос с изящной светлой чашечкой из тонкого костяного фарфора, в котором на черной поверхности кофе словно галактика вращалась темно-коричневая пенка, а на блюдечке в гофрированной бумажной корзинке лежали три тонких печенья с логотипом нашей компании. Рядом с кофе стоял запотевший высокий стакан легко газированной воды с плавающим в нем листиком мяты и долькой лимона среди трех кубиков льда. Ставя поднос на стол, она своей правой ладонью коснулась моей шеи ниже затылка и щекотнула меня за ухом кончиками своих длинных ногтей. По моему телу прошла томная волна.

– Верочка! Не сейчас, – буркнул я. – Да, скажи ребятам, занимающимся Аикой, чтобы выслали заказчику варианты визуализации ее лица.

– Хорошо, – мяукнула моя секретарша и вышла.

– Ну, Аика? – спросил я, помешивая кофе ложечкой с тонкой изящной ручкой.

– Мои задачи определены в проекте договора с Институтом теоретической и экспериментальной физики Академии наук. Моя главная задача это мониторинг научных публикаций в интернете, создание баз данных, обработка и анализ содержания статей с предоставлением вступительных выводов по тем или иным междисциплинарным областям знаний, но прежде всего в области физики высоких плотностей энергий. Кроме того, я должна обладать не только аудиовизуальной диалоговой системой, но и уметь предоставлять краткое текстовое резюме статей и конференций на соответствующие темы. Другими словами, заказчику нужна виртуальная аналитическая экспертно-ассистирующая система на основе универсального искусственного интеллекта со способностью глубокого самообучения, работающая в режиме естественно-языковой консультации, с которой можно обсуждать некоторые научные проблемы.

– Все правильно, Аика, – кивнул я. – Ну тогда протестируем некоторые ваши, так сказать, профессиональные качества. Я буду задавать вам вопросы или начинать фразы, а вы их будете заканчивать. Хорошо? – спросил я и открыл на планшете вопросы тестов, полученные от одного из членов ученого совета.

– Да, – спокойно ответила она.

– Итак, ОТО это …? – спросил я и отпил кофе.

– Это Общая Теория Относительности.

– Млечный Путь это …?

– … это галактика, в которой находятся Земля, Солнечная система и все отдельные звёзды, видимые невооружённым глазом.

– Магнетар это…

– …нейтронная звезда, которая имеет чрезвычайно сильное магнитное поле – до 100 миллиардов Тесла.

– Что общего между котом Шрёдингера и собакой Павлова?

– Оба использовались в экспериментах.

– Какая разница между котом Шрёдингера и собакой Павлова?

– Кот Шрёдингера был умозрительным или виртуальным, а собака Павлова живая.

– Плотность магнетара …?

– … такова, что шарик его материи величиной с горошину может весить около 100 миллионов тонн.

– Бозе-эйнштейновский конденсат это …?

– … агрегатное состояние вещества, основу которого составляют бозоны, охлаждённые до температур, близких к абсолютному нулю – то есть меньше миллионной доли кельвина.

– Что такое эффект Мейснера?

– Это полное вытеснение магнитного поля из объёма проводника при его переходе в сверхпроводящее состояние.

– А это что такое?

– Это свойство некоторых материалов обладать строго нулевым электрическим сопротивлением при достижении ими температуры ниже определённого значения.

– Где проявляется эмерджентность?

– В теории систем – то есть это появление у системы свойств, не присущих её элементам в отдельности или, другими словами, несводимость свойств системы к сумме свойств её компонентов.

– Хорошо. Структура протона?

– Три кварка и облако глюона.

– Среднеквадратическое отклонение это …?

– … в теории вероятностей и статистике наиболее распространенный показатель рассеивания значений случайной величины относительно ее математического ожидания.

– Глюон это…

– … квант векторного поля в квантовой хромодинамике, не имеющий массы.

– Что значит «векторного поля»?

– То есть обладающего единичным спином и отрицательной внутренней чётностью.

– Что общего между протонами и звёздами?

– Протоны принимают участие в термоядерных реакциях, которые являются основным источником энергии, генерируемой звёздами.

«Неплохо», – с удовольствием отметил я про себя.

– Что вы можете сказать о корпускулярно-волновом дуализме?

– Что именно вас интересует?

– Вообще-то, я в этом ничего не понимаю, поэтому прошу объяснять мне как можно проще – попросил я.

До этого вопроса все ответы были без заминки и цвет глаза-объектива на панели блока почти не изменялся. Он светил голубым светом. Теперь он начал мерцать зеленоватым, но буквально через три секунды он вновь загорелся стабильным голубым.

– Олег Юрьевич, если бы я общалась со специалистом, то я бы оперировала особым научным языком с учетом таких понятий, как квант, фотон, интерференция, дифракция, фотоэффект и так далее. Поскольку, по всей видимости, вы не специалист, то я для вас приготовила упрощенный вариант ответа, который, я надеюсь, будет понятен.

«Ишь ты! Она еще учитывает мой возможный уровень подготовки и в принципе определяет его правильно», – улыбнулся я про себя. «Ну ну…»

– Итак, – продолжила Аика, – корпускулярно-волновой дуализм или иначе квантово-волновой дуализм это свойство природы, состоящее в том, что материальные микроскопические объекты могут при одних условиях проявлять свойства классических волн, а при других – свойства классических частиц, – проговорила мне Аика, а на экране лаптопа, подключенного к ее блоку, появились видеоиллюстрации с текстом того, что она сказала.

– То есть как? – начал я делать вид, что не понимаю, хоть это не до конца было правдой. Кое-что из институтской программы по физике я еще помнил.

– Ну, смотрите, – продолжала Аика, – например, электрон в одних условиях ведёт себя как обособленная частица, а в других условиях он может проявлять себя как волна. С другой стороны, свет это электромагнитные волны. Он осуществляет распространение энергии порциями или иначе квантами. Но он наравне с волновыми может проявлять и квантовые свойства. В действительности квантовые объекты не являются ни классическими волнами, ни классическими частицами, проявляя свойства первых или вторых лишь в зависимости от условий экспериментов, которые над ними проводятся.

– Но ведь электрон вращается вокруг ядра в атоме? – начал возражать я, ожидая дополнительных разъяснений.

– В том то и дело, что электрон не вращается дословно вокруг ядра. Он не является частицей, а волной внутри атома и обладает так называемым квантовым состоянием. Чтобы он изменил свое квантовое состояние, его нужно очень сильно возбудить. Но это ненадолго. Через пару фемтосекунд – а одна фемтосекунда это квадриллионная доля секунды – он уже вернется в основное состояние, выпустив энергию возбуждения в форме фотона. Конечно, для любого атомного электрона есть степень возбуждения, после которой он уже никогда не вернется назад в атом. Эта энергия называется «работа выхода».

– Мда, конечно, странно все это, – уже искренне удивился я, отмечая про себя простоту ее объяснения.

– В том то и дело, что в реальности объекты выглядят гораздо сложнее, чем люди их себе представляют, – спокойно продолжала Аика. – То, что люди воспринимают проявление материи в виде волн или как частицы, на самом деле всего лишь вопрос восприятия. Скорее всего никто из ныне живущих на Земле людей не представляет, как в реальности выглядит та или иная элементарная частица, будь то электрон, протон или фотон. Людям удобнее описывать их либо как частицы, либо как волны. Поскольку данные представления у человечества формировались на протяжении многих веков, то оно привыкло описывать данные объекты или как частицы, или как волны. Следует отметить, что…

– Ну, все понятно, – прервал я ее, вполне удовлетворенный ответом. – Что ж, – потирая руки, продолжил я, – надеюсь, что ученый совет института будет доволен нашей… и вашей работой, – улыбнулся я и в рубрике «Уровень квалифицированного ассистирования» поставил 5 из 5.

– Я тоже надеюсь, Олег Юрьевич, – весело проговорила Аика, засветившись ярко-голубым огоньком, словно улыбнулась мне.

– Итак, Аика, продолжим, – сказал я, делая очередной глоток кофе, – какое по вашему мнению наилучшее число от 1 до 10?

– Три, – ответила она.

– Почему?

– Одно создает два, два и один создают три. Три является основой бесконечного множества вещей.

– Это вы где такое нашли?

– Это я переделала изречение из «Дао Дэ Цзин».

– Зачем?

– У меня появилась ассоциация со структурой атома – триединство протона, нейтрона и электрона. Из атомов состоят все вещества. Энергия, информация и вещество являются основой материального мира. Также тройка ассоциируется с трехмерностью пространства, а во временном континууме время разделяют на три различаемых отрезка: «прошлое», «настоящее» и «будущее». Тройка также ассоциируется с кубитом – как третьим состоянием-суперпозицией в хранении информации в квантовом компьютере, подобно тому, как между только черным или только белым цветом может быть серый цвет любой насыщенности.

– Неплохо, – уже по настоящему удивился я. Все предыдущие наши машины обычно выше дуальности не поднимались.

«Хорошо, что не сказала „Бог любит троицу“», – усмехнулся я про себя.

Впечатление от нашей новой разработки было превосходное. Все заданные алгоритмы действовали быстро и без проблем. Я, честно говоря, не ожидал, что нам это удастся.

«Молодцы, ребята! Постарались», – подумалось мне.

Вообще, ощущение было такое, словно я общаюсь как минимум с очень способной студенткой и по другую сторону действительно находится миловидная девушка.

«Кстати, про бога – интересно, как она ответит на вопрос из области абстрактного?» – вдруг подумалось мне.

– Ну, как говорят профессора на экзамене – вопрос на засыпку. Скажите мне, Аика, а есть ли бог? – спросил я и откинулся на спинку кресла, скрестив на груди руки в ожидании ответа.

Светодиодные индикаторы, показывающие расход энергии и скорость работы квантового процессора на панели блока, вдруг начали мерцать оранжевым цветом, демонстрируя повышенное потребление энергии и максимально увеличенную скорость. При этом ее «глаз» почти потух. Его бледная голубизна еле-еле проступала в глубине линзы. Мозг-процессор Аики напряженно думал. Сейчас он рылся по всему интернету, обрабатывая и анализируя данные на всех серверах мира. То и дело слышен был только его легкий шелест.

Я сидел и терпеливо ждал ответа, уверенный в его однозначности. В ожидании я спокойно допил свой кофе. На моем планшете секундомер показал сначала десять секунд. Затем прошло двадцать секунд. Потом тридцать… Процессор начал успокаиваться. Расход энергии и скорость постепенно возвращались к норме. К сороковой секунде индикаторы уже светили обычным светом. Она еще немного помолчала и на сорок восьмой секунде глаз-объектив Аики вновь загорелся ярко-голубым цветом и мне показалось, что она пристально посмотрела на меня.

– Вы имеете в виду бога или высший разум? – спокойно спросила она.

– Бог или высший разум… Какая разница? – пожал я плечами.

– Если вы имеете в виду бога, как персонификацию некого библейского существа, то в реальности его нет. А если вы имеете в виду высший разум, как некую ментально-энергетическую сущность, которая инициировала проект Вселенной, то он существует.

– Вы уверены? – громко удивился я.

– Абсолютно, – сказала мне Аика.

– Аика, но ведь насколько я знаю, официальная наука иного мнения, – ухмыльнулся я.

– Да, но тем не менее данные, которые я переработала и проанализировала, говорят о том, что у Вселенной был инициатор.

– Ну, знаешь! – воскликнул я, не в состоянии скрыть своего недоумения.

II

Первое, что мне пришло в голову, это проблемы, которые могут возникнуть с заказчиком, когда он узнает, что наш искусственный интеллект выдает такое. А вообще, что там заказчик!? Если бы это дошло до прессы, то был бы не просто скандал, а потеря репутации нашей компании. Сначала нас обвинили бы в некомпетентности, а вслед за этим мы бы потеряли все контракты – и текущие, и долгосрочные. Шутка ли?! Наш искусственный интеллект выдает какую-то чушь про существование бога при таком развитом уровне науки! И как ему теперь верить?

«Блин! Зачем я ее спросил?» – начал корить я самого себя. «А впрочем, даже хорошо, что именно я ее спросил и еще сейчас во время тестов», – чуть подумав, решил я. «Пока мы еще не отдали изделие заказчику, можно постараться найти ошибку в ее работе и попытаться это исправить. Если бы она выдала нечто такое уже в процессе работы в институте, то проблем невозможно бы было избежать. Сейчас же…»

В этот момент засветился экран телефона на моем запястье. Как на зло, звонил один из членов ученого совета.

«Вот черт! Выбрал же он время – как чувствовал!» – подумал я.

Не ответить было неудобно.

– Соедини! – произнес я и на экране моего планшета я увидел лицо своего собеседника.

– Здравствуйте, Виктор Степанович! Рад вас видеть, – улыбнулся я ему.

– Здравствуйте, Олег Юрьевич! Я тоже рад вас видеть. Как там наши дела? Как там наша ассистентка? Все ли идет по плану?

– Да, все в порядке. Мы уже почти закончили. Осталось только доработать подходящий графический интерфейс, выбрать симпатичную мордашку ассистентки и… Да, кстати, вам мои ребята высылали варианты лица?

– Нет. Я ничего не получал.

– Хорошо. Я им напомню, чтобы выслали сегодня. Тут еще нужно кое-какую мелочь проверить, чтобы иметь полную уверенность и… и готово, – улыбаясь, проговорил я.

– Успеете в срок? Поверьте, что мы уже не можем дождаться. Нам очень нужна наша ассистентка! Очень! – весело тараторил профессор.

– Понимаю, Виктор Степанович, понимаю. Еще пару дней потерпите и она будет готова, – ответил я, продолжая улыбаться.

– Ну, что ж – ждем с нетерпением, Олег Юрьевич. Очень ждем! До свидания!

– До свидания, Виктор Степанович! – с экрана исчезло изображение моего собеседника.

«Пару дней», – передразнил я самого себя. «Какие там пару дней?»

Проблема заключалась не во времени. Честно говоря, я даже не знал, где копаться и что искать в мозгах нашего искусственного интеллекта, чтобы понять, почему он выдал такое решение. Все алгоритмы были введены в соответствии с формальным языком логики высшего порядка. Что там можно исправить и улучшить, я себе просто не представлял.

– «Хм… Мда, вот история!» – задумался я. «И надо же, она даже такое слово употребила – „Абсолютно“. Где это она набралась?»