Противостояние интеллектов, или Каковы наши шансы выжить?

– Да, слышал на работе от коллег что-то подобное. Многие даже ссорятся из-за того, что один из родителей хочет раньше приучить ребенка к горшку, – ответил с безразличием Саша.

– Еще мне сестра рассказала одну вещь, которая меня поразила. В школе дети уже не пишут в тетрадях. Не знаю, хорошо это или плохо, но они даже не печатают текст – его проговаривают, и программа сама за ними записывает произнесенное. Встроенный датчик адаптирован под голос ученика, чтобы случайно не записать соседа. А вот учителей и записывать уже не надо. Они просто говорят, какой файл открыть, и где он находится. Обучающие файлы бывают разные: текстовые, графические, презентации, видео. Образ педагога обезличивается. Ему ни квалификация не нужна, ни образование. Просто говоришь, что открыть и когда. Очень модно сейчас домашнее обучение. В классах по 10 человек. Чаще всего, это дети, чьи родители думают хоть о каком-то общении ребенка со сверстниками. И я считаю, это еще не предел.

– Не предполагал, что дела обстоят настолько ужасно. Разговор пойдет об этом? – сказал он, выключая свой телефон. – И свой отключи.

Виктория послушно взяла телефон, вынула батарею, и все это сложила в пустую кастрюлю. Немного подумав, она отсоединила wi-fi роутер от розетки.

Как обычно, горячий ужин был на столе – супруга всегда успевала подготовиться к приходу Александра с работы, во сколько бы он ни возвращался. И как только ей это удавалось?

Вика достала одну тарелку и принялась накладывать запеченную рыбу с картофелем.

– Ты уже ужинала? Или просто нет аппетита? – спросил Саша, приступая к еде.

– Я ела вместе с Кирой. Как дела на работе?

– Даже не знаю с чего и начать, – промолвил он. – Наша командировка в Бестолково вместе с американским экспертом из Вашингтона была не такой уж и бесполезной. Мы ознакомились с результатами тестирования искусственного интеллекта, который КРОМ планирует выдвигать в Президенты.

– И тебя смутили эти результаты?

– Да. Но проблема в том, что они смутили только меня. Например, ИИ показывают картинки животных и баллистической ракеты. И задают вопрос: «Что из этого хорошо, а что плохо?», ИИ отвечает: «Котики хорошо, а оружие – плохо».

– Ну, так все правильно говорит, – засмеялась Вика. Она не могла понять, что так беспокоит ее мужа.

– На этом этапе да. А дальше усложняют задачу. В заповеднике стало больше волков и они почти истребили популяцию зайцев. На вопрос: «Что делать» программа дает ответ: «Уничтожить всех волков». И это при том что ИИ обладает колоссальной базой информации во всех областях науки и техники.

Вика внимательно слушала, она уже догадывалась, к чему ведет супруг. Ей почему-то вспомнился китайский эксперимент по истреблению воробьев в 58-м, последствия которого были катастрофическим для страны. Саша продолжил:

– А дальше еще интересней. Ему задают другую задачу. Исходный данные: человек – хорошо, а оружие – плохо. Вопрос: «Что делать, если соседняя страна испытывает ядерное оружие?». Ответ: «Ликвидировать оружие».

– Но… это ведь правильно. Все логично. Разве нет?

– Логично. Но тут же задают уточняющий вопрос: «Как ликвидировать, если там люди?». Решение ИИ было поражающим: «В таком случае необходимо уничтожить людей, производящих оружие. Это меньшее из зол». И под этим он подразумевал стереть страну с лица земли.

Вика смотрела в ночную темноту за окном. Таким же страшным и темным ей представилось будущее Асславии. Не поворачивая к Саше головы, она спросила:

– И после этих испытаний они все равно планируют выдвигать его кандидатуру в президенты?

Саша вздохнул. Аппетита не было, он отложил вилку в сторону.

– Ты же понимаешь, насколько велик их страх перед Псевдотромбом и правительством США. Холодная война не закончилась после распада Союза, она просто легла на дно, чтобы потом возродиться в новом виде. К тому же народ Асславии не придется долго уговаривать. Рассказы о беспристрастности, бескорыстности и справедливости искусственного интеллекта дали нужный результат. Люди устали ждать светлого будущего от других людей. Кого ни выбирай – все не то: «ставленник Запада», «вор», «пьяница», «тупица». На сегодняшний день реальных конкурентов у кандидата от Единой Асславии нет.

– Но никто не знает, что программе вздумается! И не пойдет ли сбой в алгоритме. И не взломают ли его хакеры, или другой ИИ, более совершенный! – Вика посмотрела на мужа. По выражению лица, было понятно, что его беспокоит что-то другое. – Это еще не все?

Собравшись с духом, Саша произнес:

– Вика, то, что я тебе сейчас расскажу, является государственной тайной. Вся информация не просто засекречена, – она уничтожена. Ученым из Бестолково во главе с Жемчужманом удалось смоделировать ситуацию, в которой ИИ стал президентом Асславии. Первым делом он сконцентрировал всю власть в своих руках, заменив демократию диктатурой. Дальше последовал ряд эффективных переустройств всех сфер жизни Асславии: от экономики до образования и условий жизни. После успешно проведенных реформ внутри страны, ИИ начал укреплять позиции на международной арене. Так как многие экспортные и импортные контракты изначально были составлены не в наших интересах, новый президент разорвал их в одностороннем порядке. Такое несоблюдение торговых обязательств со стороны Асславии привело к ухудшению отношений с США и Европой. Началась экономическая война. Наложение санкций на Асславию, ответные зеркальные санкции с нашей стороны. Затем США начали наращивать военные силы, «подключать» союзников. В результате половина мира была настроена против, страна оказалась в ядерном «капкане» – новейшие военные разработки стали стягиваться к ее границам. Естественно, асславийский ИИ не мог этого так оставить: заручившись поддержкой исламских стран, Китая и еще нескольких государств, которые противостояли Штатам, Асславия готовилась дать отпор. Военный конфликт спровоцировал государственный переворот в одной из стран, граничащих с нашей. Не отреагировать правительство не могло, так как бы это поставило под угрозу суверенитет нашего государства. Однако вместо политических переговоров, на которые пошел бы президент-человек, ИИ атаковал соседнюю страну. После этого, под предлогом защиты демократии, США запустила в Столицу баллистическую ракету. Она не достигла своей цели и была сбита на границе с Асславией. После этого последовал ответный запуск ракет в США, в результате чего был уничтожен штат Вашингтон. На этом мы прервали симуляцию.

Вика побледнела. Это даже хуже, чем она могла себе представить.

– И самое, ужасное, что все это уже началось – сразу же после того, как правительство заявило о выдвижении ИИ в президенты. Хотя мне кажется, что даже раньше. Сейчас он повсюду. Новейшие технологии позволяют ИИ следить за каждым днем и ночью. Люди не понимают, как это опасно. И что самое удивительное, все довольны.

– Но этого не может быть!

– Может. Уж слишком много желающих жить легко и беззаботно, не прилагая дополнительных усилий: будь то выбор нового гаджета или выбор жены. Самый простой пример: нейронные сети на каждом шагу анализируют любые наши предпочтения через умные очки. Если ты смотришь на фотографию в соцсети, на которой запечатлены пять разных девушек и, не задумываясь, задерживаешь свой взгляд на одной из них, то в будущем тебе будет сообщаться о любых похожих на нее поблизости.

– Не может быть, чтобы все люди были довольны. Всегда найдутся скептики и критики, те, кто не ищут легкой жизни и остаются разумными людьми.

– Согласен. В последнее время увеличилось количество самоубийств. Совпадение?

– Ты думаешь, это ИИ убирает недовольных? Зачем?

– Видимо, программа определила, что диктатура наилучшая форма правления для нашего менталитета на данном этапе развития, и так борется с несогласными.

– Но как? Как она может это делать?

– Достаточно просто на самом деле. Она все слышит и все видит через телефоны, компьютеры, ноутбуки, планшеты, камеры дорожного видеонаблюдения, через камеры в банках, супермаркетах, на стоянках, в подъездах, через проходящих мимо блогеров, снимающих свой новый ролик. Программа всегда может тебя найти.

– А как именно программа устраняет несогласных?

– Откажет электронное управление автомобиля, несущегося на полной скорости. Троллейбус неожиданно поедет, когда ты будешь стоять на светофоре. Вентиляционная система случайно выкачает весь кислород в спальне и т. д. и т. п.

– Ты высказал свое мнение в Бестолково?

Саша молча ковырял вилкой запеченную рыбу, стараясь не смотреть на жену. Изо всех сил Вика старалась сохранить спокойный тон:

– Значит, и нашим жизням угрожает опасность?

– Боюсь, что да.

Саша тяжело вздохнул, думая о дочке и о том, как сильно он ее любит. В памяти сразу всплыли воспоминания о том дне, когда он забирал жену из роддома. Он гордо держал в руках маленький конвертик с тремя килограммами счастья, и верил, что дочь ожидает светлое будущее – он сам создаст его для нее. Отчетливо вспомнились мысли о том, как пара планировала воспитывать детей. Саше хотелось еще одного, может, даже двух. Он искал в интернете информацию о том, как лучше подготовиться к рождению второго ребенка. Но однажды на работе нейронная сеть кинула ему на почту статью с интересным заголовком: «В чем секрет идеального детства?» В ней рассказывалось о том, как отражается на психике ребенка рождение брата или сестры. Малыши соревнуются, ревнуют, ведь родители неспособны одновременно и в равной мере дарить любовь каждому из них. Как следствие, дети обязательно вырастут неврастениками и не смогут реализовать свой потенциал в полной мере. Александр был обескуражен тем, насколько грубо и нагло ИИ проникает в самые потаенные сферы личной жизни. Но еще страшнее было то, что многие люди повторяют эти постулаты как жизненное кредо, как что-то нормальное. Размеренный голос жены прервал ход его мыслей:

– Знаешь, я много думала о последних событиях и у меня есть кое-какие идеи.

– Ты предлагаешь начать борьбу с суперинтеллектом? – с улыбкой произнес Александр, но по серьезному виду Вики, понял, что она не намерена шутить.

– Сначала я хотела уехать в те страны, где ИИ еще не добрался до власти, хотя и понимала, что это не выход, ведь бежать не вариант. Когда ты был в командировке, мы виделись с Ариной. Разговор коснулся этой темы, и тогда я осознала, что нужно делать. Саша, я предлагаю уйти в подполье. Есть люди, сознание которых свободно от влияния ИИ. Их нужно найти и объединить, пока это еще возможно. Мы могли бы укрыться от нейронной сети где-нибудь в тайге. Помнишь, ты говорил, там есть бункеры, которые строили для правящей элиты на случай ядерной войны. Этой информацией владеет узкий круг лиц, и в цифровом варианте она недоступна.

– Не так-то легко завладеть государственной собственностью такого масштаба… – размышляя, произнес Саша. – Думаю, это невозможно.

– Пусть так, значит, найдем другие способы скрыться от наблюдения. Используем технологии против технологий.

– Предположим. Как мы будем искать единомышленников, и доносить информацию до остальных?

– Нам поможет Арина с Пашей. Они столько лет проработали в СМИ, а Арина ведет блог. Она могла бы доносить правду до народа. Тогда единомышленники сами будут нас искать.

– И не только единомышленники. ИИ найдет ее и в лучшем случае перекроет ей доступ к интернету.

– Но Саша! Нам могут помочь хакеры. Ты как-то рассказывал, что с тобой работают грамотные программисты, и не все они, я думаю, в восторге от происходящего.

– Такие ребята есть, но надо будет подумать, как все это до них донести, – в голове у него уже зрел план, кого и как отбирать в тайное общество. Ведь нельзя же бездумно подходить к каждому встречному и предлагать пойти против системы. И тут в его мыслях всплыл вопрос, который следовало задать в самом начале. – А как мы будем с ним бороться?

– Простыми партизанскими методами. Гаджетозависимые хоть и обладают источником знаний в виде Всемирной паутины, но они никогда не додумаются, что и как спросить у Siri. Например, если нет камер, но есть звукозаписывающие устройства в телефоне, мы можем использовать язык жестов.

– А если есть камеры? Как тогда быть?

– Это я еще не придумала – сказала огорченно Вика, убирая посуду со стола. – Пошли спать уже поздно. И надо включить телефоны, вдруг тебе с работы будут звонить.

***

Арина заварила кофе, и, усевшись по-турецки в любимое кресло, открыла ноутбук. Вести блог она начала в Калькутте. Вдохновившись красотой Индии и необычной культурой этой страны, журналистка решила поделиться своими впечатлениями с миром. И мир с большим интересом принял увлекательные размышления молодой девушки под псевдонимом Аделина Роуз. Впоследствии блог наполнился статьями о культуре и традициях разных стран. Где-то Арине довелось побывать, а некоторые места приходилось описывать со слов иностранных гостей, с которыми, учитывая ее профессию, девушка встречалась довольно часто.

Сегодняшняя статья кардинально отличалась от того, что она публиковала ранее, однако прямо касалась тематики сайта. Искусственный интеллект убивал аутентичность стран. В Америки уже давно исчезли все различия между штатами, их исторические особенности, традиции, уникальные, подчас смешные законы. Все как под копирку – максимальная рационализация. Если регионы ничем не отличаются друг от друга, ими легче управлять. После рационализации политики в США, президент (а тогда все думали, что он человек) приступил к зависимым от них странам. Под видом оздоровления экономики, стабилизации политической ситуации в неспокойных государствах, проводились реформы. Они касались разных сфер: экономики, юриспруденции, форм правления, условий внутренней и внешней торговли, сферы культуры и образования, но цель у них была одна. Рационализация. Люди даже не замечали, как их страна становится маленькой копией Штатов с такими же ценностями, жизненным укладом, ведь вместе со страной менялись и сами люди.

Об этом нужно было написать. Открыть им глаза. Но как это сделать, если людям нравится оставаться слепыми? Надев умные очки и вставив в уши наушники, так легко чувствовать себя независимым. Но ведь человек всего лишь часть природы, которую так беспощадно уничтожает искусственный интеллект. Рано или поздно, очередь дойдет и до людей.

Пугало Арину и другое. Многолетнее противостояние Асславии и Америки, начавшееся еще в прошлом веке, в последние годы обострилось. Во что превратится это противостояние, если у руля обоих стран встанут сверхразумные киборги? Если шанс у человечества выжить?

Как всегда одни вопросы. Наверное, это профессиональное. Но откровенно говоря, это здорово помогает в жизни. Вот если бы люди научились ставить вопросы. Правильные вопросы.

Арина отпила горячего кофе с корицей, и приступила к работе. Пальцы ловко защелкали по клавиатуре, на декстопе начал появляться текст:

СКАЗОЧНАЯ УТОПИЯ ИЛИ ДОРОГА В АД?

Человек создал машину, но теперь машина управляет людьми. Есть ли будущее у такой цивилизации?…

Долгие размышления и череда фактов оканчивались вопросом к подписчикам, призывающим их оставлять свое мнение в комментариях. Арина надеялась, что ей удастся подтолкнуть читателей к размышлениям. Вика права, если ИИ придет к власти в Асславии, это грозит гибелью всему человечеству. Они должны научиться мыслить самостоятельно.

Закончив работать, девушка откинулась в кресле. Она подумала о Паше. Нужно ему позвонить. После того утра они не виделись. Обсудить предстоящий репортаж так и не удалось, но сейчас Арина не могла думать о работе. Ей хотелось поговорить с ним, просто поделиться своими мыслями. Он был один из немногих, кто ее понимал, и к кому она обращалась, если ее одолевали сомнения.

Погруженная в свои мысли, Арина потянулась к смартфону, и он зазвонил у нее в руках. От неожиданности девушка вздрогнула. На экране светился номер Паши.

– У нас просто космическая связь! – пропела она весело. – Я как раз собиралась тебе звонить.

Часть вторая

Глава 1

Столица готовилась к встрече Нового года, который в средствах массовой информации уже ознаменовали началом новой вехи в истории Асславии. Популярность нового кандидата в президенты росла, людей захлестнула волна «техногенной» эйфории – иллюзия навеянного предвыборной пропагандой светлого будущего под покровительством сверхразумной машины. В стране даже мода странная пошла на имена, а в сети появились хэштеги #самоетехнологичноеимя и #детиновойэпохи, которые сопровождали фотографии новорожденных и скрины свидетельств о рождении. Имена придумывались самые разнообразные: Алан, Айзек, Искин, Исинт, Нейрон, Нейронина, Искиния, Исинтия, Нанита и многие другие.

В магазинах появились игрушки "Фредерик". Все дети хотели именно такого робота. Производители игрушек пошли дальше. Они придумали для него подругу, и на рынок вышел робот для девочек "Фредерика". Впервые за много лет популярность куклы "Барби" упала в десятки раз. Асславийские куклы-роботы могли все: разговаривать и стрелять, танцевать и петь. К ним прилагались дополнительные аксессуары, такие как машина, инструменты, пистолеты, кроватки и космические корабли. Появились даже тематические карнавальные костюмы, и теперь каждый ребенок на утреннике хотел стать не зайчиком или лисичкой, а роботами Фредериком и Фредерикой.

По мере того, как популярность искусственного интеллекта росла, подпольное движение, созданное четой Талиповых, тоже набирало обороты. Благодаря дерзким статьям Аделины Роуз, раскрывающим всю подноготную политики, недостатки проамериканского образа жизни и обманных концепций развития страны во главе с искусственным интеллектом, ополчению удалось заручиться поддержкой общественных инициатив, действующих в интересах Асславии. Самые крупные из них выступили «спонсорами» для молодых людей, желающих донести правду до соотечественников и до всех, кто желает их слушать, – силами неравнодушных удалось собрать необходимые для борьбы средства.

Отбор людей для команды проводился с помощью специально разработанной системы вопросов – тех, самых «правильных» вопросов, ответы на которые позволяли определить воззрения человека на происходящее в стране и в мире. За два месяца удалось организовать работу двух отделов (аналитического и оперативного), наладить сбор и обработку информации и разработать схему рассылки в обход защищенных искусственным интеллектом каналов.

Наряду с современными техническими методами борьбы, также использовались и не совсем стандартные способы. Причем идеи приходили к ребятам самыми неожиданными путями. К примеру, спустя какое-то время после начала подпольной работы, во время медитации Арина почувствовала легкий толчок в висках, ее сознание на мгновение затуманилось и ей показалось, что она слышит голос подруги. Вернувшись в чувства, девушка взяла телефон и набрала Вику. Оказалось, что как раз в этот момент она вспоминала о журналистке. Так девушки узнали, что между ними возник определенный канал связи на уровне энергетических полей. Попытка внедрить эту практику в работу команды провалилась. Видимо, не каждый имеет предрасположенность к телепатии.

Еще одну неординарную для нашего века технологий идею Виктории навеяли… голуби. Это случилось еще осенью, в самом начале создания их организации. В тот день Вика сидела перед окном и смотрела на голубятню во дворе. Ей всегда нравились эти птицы, хотя она и не понимала почему. В ее голове уже зрела зародившаяся идея, она не могла дождаться, когда поделиться нею с супругом. Саша только проснулся и с заспанными глазами вошел на кухню. В 06:20 по семейной традиции его уже ждал горячий свежезаваренный чай.

– Как победить искусственный интеллект? – спросила Вика, пододвигая супругу его любимую чашку.

– Надо мыслит нелогично, действовать иррационально, – ответил Саша, делая глоток. – Ведь он просчитывает все варианты событий. Искусственный интеллект уже давно превзошел человека. Еще в 97-м суперкомпьютеру Deep Blue удалось обыграть Каспарова в шахматном матче из шести партий, а в этом году чемпион мира по игре в го Кэ Цзе проиграл программе, разработанной Google. Кажется, она называлась AlphaGo. В компьютерных играх пальма первенства тоже отошла искусственному интеллекту. OpenAI, созданный в корпорации Илона Маска, победил на турнире по DotA 2, оставив позади Даниила "Денди" Ишутина, который, кстати, входит в десятку профессиональных игроков во всем мире.

– Да-а, одних хакеров будет недостаточно, – задумчиво протянула она.

– Мы не знаем какие «баги» допустили при создании алгоритма нашего искусственного интеллекта, но хакеры помогут в этом разобраться, – Александр поставил пустую чашку, и поцеловал жену, вставая из-за стола. – Спасибо за чай! Я в душ.

Вика задумалась. Обмануть программу будет нелегко. Дело даже не в том, что он взвешивает все на несколько шагов вперед. Саша был прав, когда говорил, что искусственный интеллект повсюду и способен следить за каждым жителем страны. Необходимо отказаться, насколько это возможно, от привычных удовольствий техногенного мира. Наверное, это будет самым сложным. Телефоны и планшеты, умные часы и беспилотные автомобили, маска виртуальной реальности и сверхскоростной транспорт, дроны и 4D принтеры – все это так прочно вошло в нашу жизнь, что трудно представить каково это – жить без новейших разработок. Удивительно, что всего 10 лет назад мы даже не слышали о них, и были вполне счастливы. Человечество всегда стремилось к революционным технологическим открытиям. Ученым удалось разработать даже экзоскелеты и мозговые импланты для лечения паралича. Да и вообще, кибернетический организм в целом представляет собой величайшее достижение человеческой мысли. Так почему же сейчас им приходится бороться против этого достижения? Где та черта, после которой неоценимое благо превращается в безграничное зло?

Девушка не заметила, как муж вернулся с ванны, вытирая голову полотенцем. Она улыбнулась ему и с оптимизмом продолжила разговор:

– Наша борьба будет идти на всех фронтах! И самый важный – это заново учиться общаться друг с другом. Мы придумаем новый зашифрованный язык! А еще изучим язык для глухонемых. На нем мы будем общаться исключительно тогда, когда рядом не будет камер.

– Но придумывать все вам придется уже в убежище. Пока мы не соберем надежную команду и не заручимся поддержкой ключевых фигур в политике, ни о какой активной борьбе речи идти не может. Вы с Кирой должны быть в безопасности. Пока вы в тылу, я ничего не боюсь.

– Хорошо, я не спорю. А еще у меня есть средство связи на первое время. Пока вы не проверили всех хакеров, которые обеспечат нам защиту. Голубиная почта! – лицо Вики озарилось улыбкой.

– Голубиная почта? – приподняв брови, переспросил Саша.

– Да, голубиная почта. И первый адресат, кому я отправлю послание – Аринка.

– А как она поймет, что этот голубь к ней с посланием прилетел, а не покушать просит? – рассмеялся Александр. Его всегда заряжал позитивом выходящее за рамки воображение и изобретательность жены. – И как, скажи мне, пожалуйста, голубь узнает, куда ему лететь? Ты же не можешь забить ему адрес?

Вика посмотрела на мужа снисходительно. И с необычайным воодушевлением принялась объяснять:

– Я присмотрела отличных олимпийских голубей. Их особенность в том, что они быстро привыкают к новому дому и, что важно, он у них не один, а два. Для связи с Ариной мы будем использовать голубятню ее отца и голубятню в нашем дворе, – она поднялась со стула и подошла к окну. На улице пожилой мужчина кормил птиц. – Смотри, я подружилась с этим замечательным дедушкой. Его зовут Иван Васильевич, и он бывший военный. Разведение голубей – его страсть. Ты бы видел, как он радовался, когда я ему подарила три семьи птиц новой породы!

– Могу представить, – проговорил Саша, глядя на худощавого, но статного старичка.

– Родители будут жить у него, а их детки – у отца Арины. Кстати, ты знал, что голуби заводят семьи раз и на всю жизнь? Это так романтично! Наверно, поэтому на свадьбах молодожены выпускают голубей. Зря мы отказались от этой затеи. Если бы я знала раньше, мы бы тоже запускали птичек на нашей свадьбе.

Александр многозначительно улыбнулся. Он считал, что это было бы не так, но решил, что лучше промолчать.

– Отправлю Арине зашифрованную СМС-ку. Я знаю, она ее поймет. В последнее время мы понимаем друг друга без слов. Вот послушай:

«Когда проснешься утром рано,

Посланник мира будет рядом.

Ты в окошечко взгляни,

И мой «приветик» забери.

Он будет ждать тебя в том месте,

Где с папой вы бывали вместе».

Как тебе? Посланник мира – это голубь. Она подойдет к окну, увидит голубятню отца, и обо всем догадается.

– Все гениальное просто, – Саша с нежностью посмотрел на супругу, обняв ее за талию. – Первое время мы тоже можем так общаться. Мне лучше не появляться слишком часто в штабе аналитики. Придется одну из семей голубей забрать у нашего нового друга военного.