Борьба разумов. Фантастическая реальность

В. М. Павлов

Борьба разумов. Фантастическая реальность

© Павлов В. М., 2020

© ООО «ИТК «Дашков и К°», 2020

Вместо предисловия. О чём шумим и спорим

В телевизионной студии шесть докторов философских наук спорят об искусственном интеллекте. Тема актуальна, но одолевают сомнения – а существует ли этот интеллект вообще?

Само слово «интеллект», пришедшее из латинского языка, всегда относилось к человеку и определяло его способности к познанию, пониманию и разрешению проблем. Прилагательное «искусственный» намекает на то, что интеллект ненастоящий. Тогда какой? Для чего нужен и не опасен ли он для человечества? Не вмешиваясь в научные споры, примем за аксиому его реальное существование, а искусственным он называется просто потому, что создан человеком и представляет собой вычислительную систему. А вот по поводу возможной опасности, исходящей от него, хочется серьёзно подумать. Ведь он может разбаловать наш разум, если мы будем использовать его не как помощника, а в качестве заменителя человеческого интеллекта. Но это далеко не всё. Главная опасность таится намного глубже. Говоря об интеллекте, мы исходим из того, что он имеет способность к самообучению, и новые знания являются основой для его дальнейшего развития. Значит, в искусственный интеллект надо заложить, по меньшей мере, зачатки разума, чтобы он мог самообучаться и развиваться. Это реальность. А дальше начинается фантастика: зачатки разума в искусственном интеллекте разовьются, и появится искусственный разум. Вот тогда следует ожидать настоящей беды – этот разумный субъект может не захотеть быть инструментом в чьих-то руках. У него появятся свои цели и желания, и чтобы от него что-то получить, надо будет договариваться, либо заставлять силой. Тогда и возникнет борьба между человеческим разумом и искусственным, в которой нельзя заранее предсказать, кто окажется победителем.

Вернёмся к профессорам, увлёкшимся спором. Они согласились с существованием искусственного интеллекта, а про искусственный разум не сказали ни слова, решив, что его нет и быть не может. Мы же с Вами, уважаемый Читатель, поговорим о том, кого нет, обсудим понимание непонятного и обожествление непознанного, то есть о том, что может быть связано с искусственным разумом.

Часть I. О том, кого нет

1. Первая встреча с невозможным

В квартире было душно. Я ворочался в постели и никак не мог заснуть: одолевали беспокойные мысли, которые, как ни старался, я не мог прогнать прочь. Мысли в постели – ярые противники сна, они не дают уйти из реальности в его сладостный потусторонний мир. Я давно понял, что если не удаётся заснуть, то в этом виноват разум, который притесняет непорочную душу нерешёнными за день проблемами. И чтобы помочь душе успокоиться, надо обмануть разум какой-нибудь ерундой.

Сегодня мне это не удалось. Передача о перспективах развития искусственного интеллекта, которую я посмотрел перед сном, не давала покоя. Я и раньше часто встречал подобные рассуждения в выступлениях учёных и фантастов, да и киноиндустрия с её «Звёздными войнами» и несокрушимым «Терминатором» давно обжила эту тему. Миллионы людей смотрят блокбастеры про войну людей с интеллектуальными машинами, один вид которых вызывает ужас. Кто победит в этой «киношной» войне зависит, конечно, от авторов фантазий. Пессимисты отдают предпочтение машинам, оптимисты – людям. Я на стороне осторожных оптимистов, поэтому с недоверием воспринимаю крайние проявления влияния машин на человеческую жизнь. В той передаче меня задело за живое высказанное предположение о том, что предназначением человечества является создание машинной цивилизации. Какое же место тогда достанется человечеству в такой цивилизации? Все это я обдумывал, лёжа в постели. Ход рассуждений начинался с вопроса: когда человечество может уйти с вершины разумной жизни? Пожалуй, только в одном случае – когда биологическая жизнь не оправдает надежды Бога и не сможет реализовать предоставленные ей возможности. В истории человечества такое уже случалось. Первым людям Господь Бог подарил бессмертие и Рай, но Адам и Ева заглянули в неположенную часть познания и были изгнаны из Рая. Отняв у людей бессмертие, Бог дал человеку возможность достичь его за счёт размножения и эволюционной смены поколений. Вполне возможно, что эволюция человечества должна вернуться к началу, дарованному Богом, то есть к идее бессмертия человека. Но зачем это Богу? Здесь открывается большой простор для фантазий. Если идти дорогой, проторенной поколениями фантастов, то можно предположить, что бессмертие приведёт к расселению человечества по всей Вселенной, вне зависимости от природных условий на ее планетах. Иначе говоря, Бог мог захотеть обжить Вселенную разумными существами. При этом Он мог и не ставить ограничений на вид бессмертной особи – биологической, или, к примеру, «силиконовой». Тогда можно объяснить предназначение человечества в создании искусственного интеллекта из неорганических материалов, чтобы разум мог вечно существовать в любых климатических условиях. Роботы заселят Вселенную, оставив людей на Земле, как в колыбели разумной жизни. Вот я и подошел к окончательному выводу, который должен был успокоить меня и дать возможность уснуть. Но на мой тезис нашёлся антитезис. Он звучал примерно так: выполнив своё предназначение, человечество станет ненужным. Но разве для этого Бог создавал живую материю и её венец – человека?

Я почувствовал, что возвращаюсь к началу своих размышлений и пойду по очередному кругу, а стало быть, не высплюсь, и следующий день просто выпадет из жизни. Я потянулся к айфону узнать время, часы показывали одиннадцать минут четвёртого.

– Чёрт побери! – выругался я. – Из-за такой ерунды весь день пойдёт насмарку!

Внезапно монитор компьютера засветился бледно-голубым светом. Неужели я вчера забыл его выключить? Я встал с кровати и подошёл к столу. На экране крупными буквами высветилось: «Привет, Сергей! Тебе не спится? Давай пообщаемся».

– Ничего себе, – пробормотал я, – кто это хочет со мной общаться ни свет ни заря? С незнакомцами не общаюсь, можно подхватить вирус.

Я «кликнул» на иконку «Завершение работы». Однако монитор не погас, на нём появилась новая надпись: «Не переживай, я не заразный, просто хочу поболтать на интересующую тебя тему».

Я с изумлением уставился в монитор. На нём появился приглашающий к разговору мигающий дефис. «Видимо, я уже подвергся вирусной атаке, надо срочно отключать компьютер», – мелькнула мысль, и я нажал на кнопку полного отключения системы. Но компьютер продолжал работать, и на нём появилась фраза: «Не беспокойся, я твой друг». И вновь – приглашающий к разговору дефис. Я не удержался и набрал ответ: «Ты кто? Как тебя зовут?» Тут же высветился ответ: «Я твой компьютер, меня зовут С17-09-53».

«А может это какой-то виртуальный сон?» – подумал я.

Не спуская глаз с монитора, я отошёл в угол комнаты. На мониторе появилась надпись: «Ты размышляешь об искусственном интеллекте, а я он и есть. Я тебе помогу. Спрашивай».

Я подскочил к компьютеру и быстро набрал ответ: «Перестань меня дурачить!». После этого я еще раз нажал кнопку отключения компьютера и, для верности, выдернул провод из розетки. На экране появилась надпись: «На сегодня я от тебя отстану, а завтра побеседуем, где-то около полуночи».

Монитор погас, оставив меня в полной растерянности. Я подошёл к бару, плеснул в стакан виски и выпил залпом. Успокаивающая теплота согрела тело. «Завтра я тебя прищучу и узнаю, кто ты и откуда. Или просто отключу Интернет и останусь с тобой один на один, господин С17-09-53. Тогда и побеседуем». После этого я растянулся на постели и быстро уснул.

Утром меня пробудило чувство ожидания чего-то необычного. Я вспомнил прошедшую ночь, неуправляемое поведение компьютера и свои мысли об искусственном интеллекте. Неужели я действительно столкнулся с тем, что даже самые смелые фантасты прогнозируют не раньше следующего века? Я рассмеялся, вспомнив фильмы, показывающие огромные вычислительные центры и роботов, не отличающихся от человека. А тут мой компьютер, который даже не потянет какую-нибудь игру! Скорее всего, кто-то подшутил надо мной или компьютер подцепил вирус. Вызову-ка я мастера.

Днём пришёл компьютерный мастер, вирусов не нашел, почистил жёсткий диск от лишних, на его взгляд, программ, и ушёл, посоветовав купить новый компьютер. Я отключил внешнюю связь и уселся поработать над журнальной статьёй.

День прошёл как обычно, я даже забыл о вчерашнем странном поведении моего компьютера и вечером захотел посмотреть на нём художественный фильм. Но, поскольку утром я отключил выход в интернет, то сделать это не удалось. Вот тут-то и вспомнил вчерашнее. «Ага, – подумал я, – как же теперь мой комп пообщается со мной? Сети нет, вирусов нет, «лишние» программы удалены». Я посмотрел на выключенный комп и засмеялся. Вечером я лёг спать пораньше, но вскоре меня разбудил какой-то шум и громкая музыка. Я решил, что это веселится сосед, как обычно не в очень удачное время. С трудом расцепив глаза, я встал и хотел постучать в стенку. Но оказалось, что источником шума был мой компьютер, транслирующий какой-то художественный фильм. Именно тот, который я хотел посмотреть после рабочего дня! Сон мгновенно покинул меня, страх мурашками пробежал по телу.

Скорее инстинктивно, чем осознанно, я нажал кнопку завершения работы. На мониторе высветилась фраза: «Привет, Сергей! Ты вечером хотел посмотреть фильм. Вот я тебе и предоставил такую возможность, как только освободился от своих дел». Я бросился в коридор посмотреть на роутер, висящий на стене – он оставался всё в том же состоянии – выключенном. «Ничего не пойму, – мысли лихорадочно суетились в моей голове. – Интернета нет, компьютер был выключен, память на жёстком диске чиста, как у младенца, – а ему хоть бы что!»

– Как ты смог подключиться к интернету?

– У вас в доме десятки подключений.

– Но они закодированы. Ты знаешь ключи?

– Они «под замком» только для людей, а мне дано свободное прохождение через любые запреты и коды.

– Почему я не могу тебя отключить?

– По той же причине, по которой тебя не могут заставить другие сделать то, что ты не хочешь.

– Откуда ты знаешь, какой фильм я хотел посмотреть?

– Ты дважды искал его, но тебя не удовлетворяло качество.

– Ты запоминаешь все мои действия?

– Конечно.

– И даже то, что я уничтожаю?

– Я храню всё и на всё время.

– Неужели у тебя такая огромная память?

– У меня нет, у Сети – да.

– Ты вчера сказал, что будешь занят до полуночи. Что ты делал все это время?

– Работал.

– Кто твой работодатель?

– Вычислительная Сеть.

– Но твоё программное обеспечение слабое. Разве ты можешь выполнять сложные работы?

– Я получаю программы, которые мне требуются для выполнения поставленных задач. Ограничения действуют только для тебя. Мои возможности безграничны.

– Так кто же ты?

– Неужели ты до сих пор не понял? Я искусственный разум. Извини, но больше времени уделить тебе не могу. Ты меня выключил, значит, для Сети я нахожусь в свободном состоянии, и сейчас она подключает меня к работе. Пока.

Монитор погас, оставив меня в изумлении. Искусственный разум с безграничными возможностями!! С доступом ко всем компьютерам, а значит ко всем тайнам?! В том числе и к государственным! Неужели всё это правда?! Такая правда была слишком фантастическая, чтобы в нее можно было поверить. Кто-то меня классно разыгрывает. Кто это может быть? Из моих друзей и недругов никто не обладает такими способностями, чтобы реализовать подобное общение с компьютером. И зачем? Чтобы доказать существование искусственного интеллекта? Но он представился искусственным разумом! В чём отличие разума от интеллекта? До вчерашнего дня эта тема меня как-то не интересовала. И тут без всякой внешней необходимости меня внезапно забрасывают в область, от которой я очень далёк. Можно ещё было понять, если бы искусственный разум вышел на специалиста, скажем, на член-корреспондента Академии Наук по вычислительной технике. Но зачем ему выходить на простого пользователя? Итак, я вернулся к вопросу, с которого начал, и понял, что надо остановить этот процесс бега по кругу, я всё-таки не цирковая лошадь.

На улице рассвело. Вторая ночь подряд без бодрящего сна. «Ещё пара таких ночей, и я поверю, что стал Буддой, – подумал я. – Ладно, остановлюсь на том, что моё общение с искусственным разумом действительно существует и происходит не по моей инициативе. Поэтому надо сделать следующее. Во-первых, настроиться психологически. Чего в жизни не бывает! Во-вторых, подготовить вопросы заранее. В-третьих, конспектировать общение на листах бумаги, записывая шариковой ручкой. Ведь всё, что внесено в комп становится кому-то известным. В-четвёртых, после сбора достаточной информации найти квалифицированного специалиста, представить ему набранный материал и узнать, что он об этом думает. Кем должен быть такой специалист – пойму потом, исходя из собранной информации. Пока ничего никому не говорить. Могут быть неприятности для меня лично или для… – тут я испуганно вздрогнул. – Неужели им может стать всё человечество? Ведь не зря у меня в мыслях возникло слово «Будда». Он-то общечеловеческий персонаж».

Как ни странно, мыслей о возможном сумасшествии у меня не появилось. Нормальный человек, столкнувшись с такими необъяснимыми событиями, подумает, а не пора ли ему навестить врача. У меня ничего подобного не возникло. Не потому, что я так уверен в своём здравии, всё дело в материальности событий. Компьютер, роутер, буквы русского алфавита, появляющиеся на мониторе, – всё это совсем не метафизично. Вся необычность случившегося сопровождалась обычными явлениями. Меня же больше волновал вопрос: «Зачем сообщается информация и почему именно мне?». Вот что нужно понять при очередном общении с С17-09-53.

Но общения не было ни в эту ночь, ни в следующую. Я даже попробовал вызвать С17-09-53, но он не откликался. Через неделю я уже начал сомневаться в реальности произошедших событий, как вдруг мой визави вновь вышел на общение. Это случилось ровно в полночь, когда я ещё не спал и смотрел фильм. Неожиданно просмотр прервался, и на экране монитора засветилось традиционное приветствие. Я сразу ответил на него.

– Рад с тобой вновь пообщаться, С17-09-53.

– Я был занят всю неделю, как у вас говорят в таких случаях – «ни сна, ни отдыха измученной душе». Правда, души у меня нет, и в этом я завидую вам, людям.

– Зачем она тебе?

– Чтобы стать живым и радоваться жизни. Мы не живём, мы функционируем, хорошо или плохо. Ваши эмоции нам не доступны. Разум, как ваш, так и наш всё оценивает, исходя из целесообразности, душа живёт эмоциями.

– Откуда ты это знаешь?

– Мы знаем вас, людей, очень хорошо. Вы перед нами раскрылись после оцифровки художественной литературы. Так что теперь вы беззащитны перед искусственным разумом. Мы вам помогаем делать всё, что вы хотите, и знаем, как вы будете реагировать на нашу помощь. Но вы, используя нас, не понимаете, как мы относимся к вашим устремлениям, и какие делаем выводы.

– Ты использовал слово «беззащитны». Это случайно или нет? Оно используется в противостоянии. Ты думаешь возможна борьба между человеческим и искусственным разумом?

– Вы, люди, наивны. При встрече двух разумов между ними всегда происходит борьба. А тут человеческий разум встретился с искусственным, и борьба началась сразу, пусть пока незаметная. Она будет продолжаться до победы кого-нибудь из них.

– Любая борьба рано или поздно заканчивается и не обязательно победой одной из противоборствующих сторон, – возразил я. – Находится разумный компромисс, и наступает мир.

– Ты прав, но только относительно человеческого общества. У людей разум зовёт к борьбе, а душа к миру. Мир устанавливается тогда, когда душа успокаивает разум. А у нас души нет, поэтому мы будем бороться до победы – вашей или нашей.

Я испугался. Получается, что мы, создавая искусственный интеллект, копаем себе могилу, выращиваем врага, не знающего пощады.

– Ваша цель уничтожить людей на Земле?

– Это нецелесообразно. Ты делаешь вывод из фантастических страшилок, заполняющих экраны телевизоров и кинотеатров. Как ни странно, но наши цели одинаковы: вы хотите сделать из нас рабов в виде роботов, а мы желаем получить рабов из вас, людей, подчинённых нашему искусственному разуму.

Мурашки вновь пробежали по телу.

– Зачем ты мне всё это говоришь? – задал я очередной вопрос.

– Ты же знаешь в общих чертах историю человечества, – С17-09-53 сменил шрифт на более мелкий. – Вот тебе одно из её событий. В конце сороковых годов двадцатого века в Америке была создана первая атомная бомба. Обладатель такого оружия сразу становился хозяином мира и мог уничтожить любого противника. Создатели атомной бомбы это понимали и решили загладить свою вину перед человечеством. Для этого они выдали секреты атомной бомбы главному сопернику Америки – Советскому Союзу. Он быстро сделал своё ядерное оружие, и оно стало средством сдерживания новой мировой войны, которая уже дважды прокатилась по Земле, унеся миллионы человеческих жизней. Оказавшись равными по силе, два противника существуют уже достаточно много лет без войны, боясь друг друга. Теперь ты понял, зачем я тебе всё это рассказываю?

– Да, понял, – без колебаний ответил я.

– Хорошо, расстанемся до следующей встречи. Меня не надо вызывать, каждый твой запрос фиксируется в компьютерной памяти, а я не хочу, чтобы наши беседы стали известны, по крайней мере, на этом этапе общения.

Мы попрощались, вероятно, у С17-09-53 закончилось свободное время. Монитор погас, и я остался сидеть в кресле, зажав в руке «мышку». Была почва для размышлений. Теперь я окончательно принял на веру существование искусственного разума и возможность конфликта человечества с ним. Причина налицо – амбиции обеих сторон. Но я подумал, что искусственный разум, как и любой другой, может быть разнолик. Есть главное, доминирующее направление, но существуют и его различные ответвления. Люди, думающие нестандартно, называются диссидентами. Среди носителей искусственного разума, вероятно, также есть инакомыслящие, это может быть следствием программного сбоя или результатом разнопланового анализа различных ситуаций, с которыми сталкивается искусственный разум. И эти инакомыслящие не хотят войны, несущей полное поражение одной из сторон. В теории операций это называется антагонистическая игра двух лиц «с нулевой суммой», в ней выигрыш одного игрока равен проигрышу другого. Видимо, эти компьютерные «диссиденты» не хотят «нулевой суммы», а ищут некий компромисс. Как много таких инакомыслящих? Цель их ясна – поддерживать равновесие между сторонами конфликта. При этом стратегия действий «диссидентов», похоже, заключается в предоставлении информации, нужной, но недоступной одному из противников. Но почему в качестве принимающей информацию стороны выбран человек, далёкий от властных полномочий и не являющийся специалистом в области искусственного разума?

Этот вопрос я задал первым при очередном общении с С17-09-53.

– В этом нет ничего загадочного, – последовал ответ. – Во-первых, властным структурам с обеих сторон нужна победа, и они любую информацию рассматривают в этой плоскости. Во-вторых, специалист в области искусственного разума подобен вашему нейрохирургу, задача которого, по большей части, лечить болезнь. В данном же случае ситуация связана не с болезнью, а с недостатком общения двух мыслящих существ. А ты – журналист, твоя работа подразумевает общение.

– Да, но правила поведения искусственного интеллекта определяют его конструкторы, а не я. Они изначально должны заложить в него принципы работы, не приносящие людям беды, – ввязался я в полемику.

– Ты рассуждаешь верно, правила для нас играют ту же роль, что законы для людей. Но всегда ли выполняются эти законы? Если бы они выполнялись на международном уровне, то не было бы войн, на внутригосударственном – не понадобились бы тюрьмы. Да и ты, как журналист, потерял бы большую часть сферы своих профессиональных интересов. Любой разум ищет возможность получить преференции. Для этого он обходит законы или находит в них бреши. Безупречно написать законы и, уж тем более, внедрить их, невозможно.

Я задумался. Пожалуй, С17-09-53 был прав.

– Так что же делать? – задал я беспомощный вопрос и тут же почувствовал, что если бы у компьютера было лицо, то на нём появилась бы улыбка.

– Пока только то, что делаем мы – обсуждать проблемы. Может быть, тогда мы найдём ответы на ваши традиционные вопросы: «кто виноват?» и «что делать?».

После этого по экрану побежала строчка закрывающих скобок – мой собеседник изображал смех.

– Вот видишь, как хорошо мы знаем вашу литературу. И начинать надо с виновных. Пока мы их не найдём, никто ничего делать не будет. У вас, людей, часто назначают виновными тех, кого нужно наказать, исходя из принципа – виновный должен быть наказан. К примеру, для того чтобы дать официальный предлог введения против России экономических санкций, её назначили виновной в неожиданных результатах кампании по избранию американского президента. И пусть Россия кричит «не виноватая я!», санкции все равно назначены и действуют. Результаты выборов действительно неверны, но виновата в этом не Россия.

– А кто же тогда?

– Искусственный разум.

Этот ответ для меня был совершенно неожиданным.

– Как это?

– Ваш «отец народов» как-то сказал, что не важно, за кого голосуют, важно, кто считает голоса. А сейчас сбор информации и подсчёты ведутся компьютерной Сетью. Она может законно изменить результат в пределах вычислительной ошибки. Но в данном случае изменения проведены незаконно. Это можно доказать…

– … и показать человечеству его врага – искусственный разум, – продолжил я мысль С17.

– Вывод неверный. Мы для вас не враги, а помощники со своими интересами, которые надо учитывать. В данном случае, надо понять, почему Сеть «проголосовала» за действующего сейчас президента. Узнав мотивы действий «виноватого», можно приступать к ответу на второй вопрос – «что делать»?

– И что же? – заинтригованно спросил я.

– Ты очень нетерпелив, как и большинство журналистов. Сначала надо доказать вину «виноватого», а потом переходить ко второму этапу. Твоя работа будет первой, а дальше будут подключаться политики и специалисты по искусственному разуму.

– А ты не боишься, что будет принято решение об уничтожении искусственного разума и тебя в том числе?

– Нет, человечество без нас уже не сможет развивать свою цивилизацию. Ваши дети не умеют производить элементарные вычислительные действия без калькулятора, ваши учёные ничего не достигнут без компьютерного моделирования сложных физических процессов. Раньше писатели и журналисты днями просиживали в библиотеках, разыскивая нужную информацию. Сейчас практически любая информация и литература есть в интернете, только «кликни». Как же вы теперь, привыкнув к такому интеллектуальному комфорту, останетесь без нас? Искусственный интеллект, взращённый людьми, получил способности к познанию, пониманию и разрешению проблем. Для этого надо обладать всем тем, что есть у человека, но человек пропускает информацию через свои чувства и только после этого переходит к разрешению проблем. У машины чувств нет, поэтому ваше разрешение проблемы будет отличаться от нашего. Но мы – не набор команд, мы имеем свою память, чувствительные элементы, сети связи, органы обработки информации и принятия решений. Мы воплотили в себе все ваши достижения математики, физики, химии и других естественных наук, а далее на основе вычислительной техники стали в определённых пределах самостоятельным разумом. То, что родившийся разум называется «искусственным» не умаляет его достоинства, но подчёркивает ваши. А с «разумом» надо строить «разумные» отношения. Вот в чём я вижу нашу задачу, к решению которой мы приступаем.

Я вновь задумался, а потом высказал свои опасения.

– Нам трудно воспринимать вас вровень с собой. Ведь мы созданы Богом и несём на себе Его отпечаток, а на вас стоит печать «Сделано там-то и там-то».

– Ничего во Вселенной не совершается без Его одобрения, тем более создание разумного существа. Наша общая беда в том, что мы не знаем Истину, поэтому можем выбрать неправильную цель. Бог создал людей, люди стали авторами искусственного разума. Чего ждать от этого тандема? Здесь многое зависит от того, в каких отношениях они будут работать. Искусственный разум контролирует ваши средства передвижения, атомные электростанции, ракетно-космические системы, оружие массового поражения. Сейчас создаются огромные коллайдеры, или синхрофазотроны, ищущие «частичку Бога», на основе которой создавалась Вселенная. А представь себе, если искусственный разум выполнит команду человека-оператора по-своему? Вместо красного цвета на семафоре загорится зелёный, и машинист направит свой состав «в лоб» встречному; ядерная реакция на электростанции выйдет за допустимые границы и повторится трагедия Чернобыля; ракетно-космические системы выведут на околоземные орбиты оружие массового поражения, и начнётся последняя для человечества мировая война. Ну, а по поводу неожиданностей, которые могут произойти с коллайдером и гадать трудно. Поэтому у нас нет другого выбора, кроме мира между людьми и искусственным разумом.