Противостояние интеллектов, или Каковы наши шансы выжить?

– Викуль, я могу сказать одно: что-то страшное грядет, что-то глобально нехорошее. Кому-то очень нужно сконцентрировать власть в руках искусственных интеллектов. Но кому и с какой целью?

– Ой, Аринка, боюсь, кому-то нужна третья мировая война, и она же последняя для человечества.

Арина ничего не ответила. Девушка задумалась о чем-то, и Вика поняла, что мысли ее далеки от политики в этот момент. Подруги научились чувствовать друг друга, понимать все без слов.

– Ты ведь хотела поговорить не только о результатах съезда? Так? Сорока на хвосте принесла, что Стив приезжал к тебе в Брюссель. Как все прошло?

– О, все замечательно! – журналистка попыталась изобразить радость, но это ей удалось с трудом, и Арина решила не притворяться: – Стив предложил уехать с ним в Штаты после выборов.

– А ты что?

– Не уверена, что я готова к этому. Это же… Это очень сложно.

Виктория понимающе кивнула.

– Не спеши. У тебя еще есть время все тщательно взвесить и разобраться в своих чувствах. Но если ты сразу не сказала "да", возможно это не тот мужчина, ради которого ты готова бросить все и уехать с ним на край света?

Глава 8

На следующий день Паша забежал к подруге почти с самого утра.

– Ты слышала последние новости? – спросил он, усаживаясь в кресло.

Накладывая сливовый пирог в тарелки и разливая чай по чашкам, Арина спокойно ответила:

– Я слышала бесконечное множество новостей за последние две недели. Какие именно ты имеешь ввиду?

– Ну как! Какие-то умельцы из Асславии вывели со счетов Носшильдов несколько миллионов долларов. Натаниэль едет в Столицу, и угадай, кто будет брать у него интервью для нашего канала? – Паша хитро прищурил глаза и откусил кусочек пирога.

– Врешь! – Арина не доверчиво посмотрела на друга.

– Нет, не вру.

– Мы? Серьезно? Это же просто замечательные новости!!!

– Ну конечно, думаю, пирог отличная оплата моих скромных заслуг в этом немалом деле.

– Рассказывай, как тебе это удалось?

– На самом деле, это не стоило мне особых усилий. Просто на собрании напомнил, что ты уже встречалась с европейской группой, в состав которой он входил, и было бы логично доверить это интервью тебе. Знакомые лица, так сказать.

– Спасибо, Паша! Даже не знаю, как тебя благодарить.

– Думаю, еще одного кусочка пирога будет достаточно, – сказал он и с улыбкой протянул руку с тарелкой. – Кстати, для нашего общего дела это тоже будет полезная встреча.

– В каком смысле?

– Исинтин выступил с обещанием использовать все доступные ему ресурсы для сотрудничества со службой безопасности и поимки преступников.

– Он буквально запустил свои роботизированные руки во все сферы жизни нашей страны. Что там с его рейтингами?

– Растут. Бесплатная реставрация школ и высокотехнологичное протезирование, обещание восстановить военную мощь Асславии и провести реформы медицины – люди ведутся на все это. Но зато у Правдина увеличился электорат среди молодежи. Спасибо нашим роликам и рассылке.

Арина ничего не ответила. Она задумалась, насколько эффективна их работа на фоне активной кампании Исинтина.

От Стива она знала, что ИИ эволюционирует. Машина сама себя может обновлять, чинить, лечить, совершенствовать. Нужную деталь она сама себе напечатает на 4D принтере по разработанной ею же модели. Человек, по сути, стал ей не нужен. И причем очень давно. Несмотря на то, что в обществе существуют ярые противники и скептики, о которых ИИ известно, люди не несут прямой грозы машинам. В случае опасности ничего не стоит убрать человека как вид. Выпустить вирусы, которые он сам же и создал. Или запустить ядерную бомбу в какую-то из стран мира и начать мировую войну. ИИ с недавних пор имеет доступ к красной кнопке сильнейших стран мира, еще немного и этот список может пополнить Асславия. Финансовые системы тоже под контролем сверхразума. Ему ничего не стоит обвалить курс любой мировой валюты, включая доллар, и спровоцировать экономический кризис, который приведет к переделу политической карты мира путем войны. Человечество истребит себя своими же руками из-за зеленых бумажек. ИИ просчитал все возможные варианты, а их тысячи. Мы сами наделили его способностью перерабатывать данные в миллионы раз быстрее человеческого мозга.

Но есть то, чего мы не знают массы. Эта информация еще не проверена, но Вика рассказала ей по секрету. Ребятам из штаба удалось выяснить, что Исинтин создает армию киборгов. Зачем? Достоверно пока неизвестно. У аналитиков несколько вариантов. Во-первых, в случае неудачных выборов, он сможет начать государственный переворот, и захватить власть. С помощью написанной им программы "Киборг" Исинтин дистанционно активирует все кибернетические организмы. Это бездумная армия, с подавленной волей готова на все, даже на смерть. Во-вторых, в случае победы, это демонстрация перед миром одной из самых эффективных и бесстрашных добровольческих подразделений в составе вооруженных сил Асславии. ИИ изначально был запрограммирован на укрепление страны, иначе правомерность его победы на выборах была бы под сомнением. Исинтин уже задумался об увеличении военной мощи, о чем неоднократно говорил во время своей предвыборной программы. И на этом фоне массовая компьютеризация учебных заведений, начиная с детских садов и оканчивая престижными ВУЗами страны, оснащение больниц и госпиталей дорогостоящей роботехникой, а теперь еще и помощь службе безопасности в раскрытии киберпреступлений… Столько вложений, инвестиций, сколько высокозатратных экспериментов. Откуда он берет средства? Инвесторы? Мало верится, что кто-то мог настолько расщедриться.

– Как ты думаешь, Исинтин мог украсть деньги Носшильдов? – с тревожным видом проговорила Арина. Ее ошарашила эта мысль. Она глянула на друга. Паша с довольным видом развалился в кресле, слегка улыбнулся и процитировал популярный в их юности фильм о роботах:

– «А это, детектив, правильный вопрос!»

***

Паша зашел в убежище, и громко, поприветствовав друга, начал было говорить о своих идеях относительно нового ролика.

– На это нет времени, – отрезал Саша. Он с кем-то говорил по телефону и всем своим видом показал, что не собирается прерывать это разговор. Паша сел в кресло, и терпеливо дожидался, когда Александр закончит. Он еще никогда не видел друга таким встревоженным. Молодой аналитик молча слушал невидимого собеседника, понимающе кивал, и со словами: «Спасибо, я подумаю, что мы можем сделать» отбросил телефон в сторону. Он без сил рухнул в кресло и сжал виски руками.

Паша решил, что лучше помолчать. Через несколько минут Саша вспомнил о нем, и слабо проговорил:

– Извини. У нас катастрофа.

– Я уже понял. Так что случилось?

– Группу наших ребят-хакеров арестовали, им выдвинули обвинение в краже миллионов Носшильда.

Паша не смог сдержать удивления, какое-то время он переосмысливал полученную информацию:

– Но ведь они не….

– Ну конечно они не брали этих денег! – вскипел Саша. – Их подставили. Исинтин уже давно ведет борьбу с нашими подпольщиками, но пока что он ограничивался мелкими правонарушениями, чтобы не привлекать внимания. Мы не ожидали, что он решится на такой громкий обман. У нас есть предположение, что он сам вывел деньги со счетов Швейцарских банков, используя свои нейронные сети. Чтобы замести следы, он конвертировал их в крипвалюты разных стран, и потом перевел на счет партии в качестве благотворительных взносов. Подставив наших ребят, он убил двух зайцев: отвел подозрение от себя, и, по сути, придушил наше движение.

Паша молчал. Сложно было подобрать слова, чтобы выразить то, что он думал по этому поводу. Саша продолжал:

–Но, как ты мог догадаться, это еще не все. Сейчас эти новости передают по всем каналам.

Он включил телевизор. На экране появились представители службы безопасности Асславии, в центре которых стоял Исинтин в парадном костюме. Президент вручал им награды и выражал благодарность за поимку опасных преступников. Награждал тех, кто подставил невиновных людей, чтобы скрыть собственные преступления. Это так типично для нашей страны.

– Что ты намерен делать?

– Сейчас говорил с адвокатом. Будет сложно, но мы попробуем их оправдать. На это понадобиться очень много денег. Ума не приложу, где мы их возьмем.

– Единственное, что мне не понятно, – высказал свое мнение Павел, – как ИИ мог украсть деньги? Разве, это не противоречит заложенному в программу понятию «добро-зло»?

Александр вздохнул.

– Вика с ребятами из аналитики сейчас работают над этим вопросом, у них есть предположение, но оно пока что не точно. Мало информации. Паша, если ты не против, сейчас у меня нет ни сил, ни желания это обсуждать. Я все расскажу, как только мне предоставят полную картину событий. А что ты хотел обсудить?

– У Арины появилась идея для ролика на основе ее поездки в Брюссель. Расскажем народу об искусственных интеллектах у власти в странах мира и последствия их правления. Мы уже подготовили нужные материалы, осталось смонтировать и залить в сеть.

– Отлично. Поработай с программистами. Извини, мне нужно на воздух.

С этими словами Саша взял куртку и вышел из бункера.

Глава 9

Выйдя на улицу, Александр поднял воротник. Как это обычно бывало в начале марта, зима заявляла о своих правах холодным ветром, не желая отдавать бразды правления весеннему теплу. Несмотря на дождь с мокрым снегом, молодой человек решил пройтись пешком. Он направлялся к набережной. Ему нравилось бродить там в холодное время года, глядя на черную спокойную реку. Людей практически не было. Это не удивительно – возле воды не ловит wi-fi.

В тишине Саша постепенно собрался с мыслями. Адвокат сказала, что важно в течение трех дней предварительного ареста забрать ребят под залог. Это позволит уберечь их от попыток полицейских «выбить» признание силой. Но на время проведения следствия ни о каких проектах, участии в сомнительных операциях (под которыми подразумевалась их подпольная деятельность) не может быть и речи. Он чувствовал, что приближается финал их истории. Как иронично он совпал с датой выборов – они были намечены уже на следующей неделе. Рейтинг Исинтина все еще был очень высок. Не смотря на все их усилия, он значительно опережал Правдина. Потерять лучших хакеров на решающем этапе – просто фиаско. Но сейчас он больше переживал о судьбе друзей. Реабилитировать их являлось делом чести для молодого человека. Он взял на себя ответственность за работу подполья и должен в полной мере ответить за судьбу его членов. Мысли стали путаться. Ему очень захотелось увидеться с женой. В минуты сомнений и отчаяния она как никто другой могла вернуть мир и покой его душе. Он достал телефон и отправил ей простое сообщение: «Очень хочется черного кофе».

Саша спрятал телефон в карман и еще раз посмотрел на реку. Он не знал, сколько он так простоял, но на улице стало смеркаться. Мелкий дождь перешел в ливень. Он зашагал вдоль набережной.

***

«Очень хочется черного кофе». Александр с женой условились, что это сообщение станет их секретным кодом, которое будет обозначать встречу в одном маленьком кафе, где они виделись с друзьями в студенческие годы. Прочитав сообщение, Вика поняла, что ее любимый чем-то очень обеспокоен, иначе он не стал бы рисковать. Новости Аршинин смотрел регулярно, поэтому не трудно было догадаться, что могло встревожить ее мужа. Она дала указания няне, поцеловала дочку и, наспех собравшись, отправилась на место встречи. Виктория хотела оказаться там раньше супруга.

Это был один из таких вечеров, когда хочется укрыться от всего мира в мягком шерстяном пледе с чашкой горячего шоколада и смотреть на дождь. В полупустом кафе она сидела за столиком и смотрела в окно. Капли медленно стекали по стеклу, создавая причудливые узоры из вечерних огней, сверкающих вдалеке. Не хотелось ни о чем думать, просто смотреть… Сможет ли человечество сохранить это все? Умение видеть прекрасное в капле дождя, создавать шедевры из обрывков человеческих эмоций, дарить миру любовь, заботу и веру в счастливое будущее? Ей казалось, что если они проиграют, то все это будет навсегда потеряно. Откуда ИИ знать, как прекрасен дождь? Для него это просто осадки, вызванные изменением температур в атмосфере. Люди такие разные, но вместе они способны на то, что не под силу ни одной мыслящей машине. Да, люди не рациональны. Но ведь, если рассудить по справедливости, в этом и есть их преимущество, их сила и красота.

Погрузившись в свои мысли, она не сразу услышала, как подошел Саша. Он тихо сел за столик и с нежностью посмотрел на жену:

– Приятно видеть, что ты по-прежнему любишь дождь.

Виктория улыбнулась. За последние месяцы ее муж так изменился. Лицо осунулось, и в приглушенном свете кафе выглядело особенно бледным и усталым. Голубые глаза были подернуты грустью. Вика подумала о том, что их всех изменила эта подпольная работа. Постоянный страх быть разоблаченным, страх за себя, за своих близких. Состояние непрерывного стресса, нервное напряжение, срывы. Какой ценой дается борьба за справедливость? Она очень высока. И поэтому они не могу проиграть.

Она тихо проговорила:

– Ты выглядишь уставшим.

– Наших ребят арестовали.

– Я знаю. Мы видели в новостях. Это так подло со стороны Исинтина.

– Сейчас не время обсуждать уровень нравственности искусственного интеллекта. Мои друзья с работы помогли выйти на хорошего адвоката. Она обещала сделать все возможное, чтобы реабилитировать ребят, но нам нужна большая сумма денег. Я думаю несколько десятков тысяч долларов. Я ума не приложу где их брать.

Вика округлила глаза. Такая огромная сумма казалась ей невероятной. Немного подумав, она проговорила:

–Сашенька, с момента начала нашей деятельности, многие общественные инициативы поддержали нас. Мы могли бы попросить помощи у них. Они существуют достаточно долго и смогли сформировать собственные фонды…

– Я думал об этом, – перебил Саша жену, – но они и так помогли нам финансово на старте, и благодаря этому мы развили свою собственную систему защиты, наладили рассылку видео-материалов, смогли организовать бункеры. Согласятся ли они помочь нам снова?

– Мы должны попробовать.

– Да ты, права, – устало проговорил Александр. Он прикрыл глаза и откинулся на спинку кресла. Внезапно раздался звонок. Саша поднял трубку и услышал взволнованный голос Аршинина:

– Александр Валентинович! Надо чтобы вы срочно прибыли домой! И Викторию Юрьевну захватите. У нас тут трубы прорвало, все залило!

Саша отключил телефон и встал, надевая куртку:

– Собирайся, надо ехать, – бросил он жене.

Вика смотрела на мужа с недоумением:

– Что случилось? Кто звонил?

– Аршинин. Им удалось установить что-то важное, нам надо ехать в штаб.

Он заплатил за кофе, оставил чаевые бариста и они с женой, выйдя под весенний ливень, направились в сторону, противоположную той, где находился бункер.

***

Аршинин встретил их с невероятным запалом. Он был явно возбужден новым открытием и спешил поделиться этим с коллегами. Направляясь в лабораторию, он начал рассказывать ребятам о новом открытии.

– Не мог дождаться вашего приезда! Думаю, нам удалось наконец-то докопаться до сути! Это потрясающе! Мы, конечно, догадывались, но чтобы настолько! Это невероятно! Просто не-ве-ро-ятно!

– Подождите, Сергей Борисович! – Саша попытался немного поумерить пыл аналитика. -По порядку, пожалуйста. Что вам удалось установить?

Аршинин с широкой улыбкой обратился к Вике:

– Виктория Юрьевна, помните, вы предположили, что решения ИИ не совершенны и их вариации ограничены изначально заложенным алгоритмом? Своего рода, иллюстрация теоремы неполноты Геделя.

– Да, конечно. Это подтверждают ответы ИИ на ряд вопросов. Человек бы на них ответил по-разному, у машины решение всегда одно и выработано на основе обработки имеющейся у него базы данных. Например, на вопрос «можно ли есть грибы» один из прототипов современного ИИ ответил «да», а на последующий уточняющий «а несъедобные?» машина дала ответ «только один раз», – Вика не смогла сдержать улыбку, вспоминая этот отчет. Тогда он широко освещался в прессе.

– Именно так, Виктория Юрьевна, – с торжеством в голосе продолжил Аршинин. – Мы с группой предположили, что ваше утверждение истинно, и что цепь логических рассуждений ИИ основывается на исходном коде, который был заложен в машину в момент ее создания. Мы смоделировали несколько ситуаций и провели анализ уже существующих, известных нам ИИ. Помните, мы начали активно работать над этим на прошлой неделе?

– Да-да, конечно. И что вам удалось выяснить?

– О, Виктория Юрьевна! Вы просто провидица! Искусственный интеллект не просто не совершенен! Им можно управлять!

– То есть как это – «управлять»? – вмешался Александр.

Они уже подошли к компьютерам, и Аршинин запустил проектор. На белом экране появились формулы.

– Эта система уравнений демонстрирует вероятность принятия того или иного решения сверхразумом. На основе полученных данных, мы пришли к выводу, что анализ возможных решений ограничен исходным алгоритмом. Это демонстрирует следующий график. Существует предел истины – мы его так назвали – который машина не может доказать или опровергнуть, поэтому принимает его за аксиому. Так вот, мы решили смоделировать следующую ситуацию. Ввели изменения в исходный код. Изменили истину на заведомо ложную информацию.

– И в результате машина сгенерировала неверный ответ. Приняла неправильное решение, – не отрывая взгляда, от диаграммы проговорила Вика.

– Неужели это возможно? – Саша просто не верил своим ушам.

Аршинин схватил его за плечи своими богатырскими руками:

– Да, Александр Валентинович! Да! Представьте, какой резонанс произведет эта информация!

На мгновение Саша забыл о неудачах, он был вдохновлен и воодушевлен новыми сведениями. Если правильно подать все это населению, кампания Исинтина потерпит поражение. Краем глаза он заметил, что Вика не разделяет их воодушевления. Она неотрывно смотрела на экран, и лицо ее выражало беспокойство.

– В чем дело, дорогая? Тебя что-то смущает?

Продолжая изучать графики, Вика проговорила:

– Если кандидат в президенты запрограммирован на укрепление страны, зачем умышленно создавать баги в его программе? Кому это может быть выгодно?

– Думаешь, это происки шпионов Псевдотромба?

– Не знаю, Сашенька… Не знаю… Мне надо об этом подумать. Сергей Борисович, покажите мне отчет о вашем эксперименте и все исходные данные.

Аршинин начал перебирать бумаги, складывая их в папки. Вика подошла к мужу и обняла его. Она чувствовала, что они подошли к разгадке совсем близко. И от этого чувство тревоги заиграло с новой силой.

***

Пока Талиповы работали с новыми данными, Стив принимал судьбоносное для него решение. Облокотившись на байк, он печатал сообщения Арине. Молодой человек был полон решительности поговорить с любимой и окончательно прояснить судьбу их отношений. Встречу он назначил на полдень в кафе, недалеко от парка, в котором они впервые поцеловались. При воспоминании о том вечере, он ощутил странное волнение, но рациональность взяла верх. Он нажал кнопку «отправить».

Затем Стив сел на мотоцикл и завел двигатель. С большим мастерством он выехал из подземного гаража, объезжая припаркованные автомобили. За год пребывания в Столице, он привык к ритму жизни этого города, к его пульсу, беспрерывному движению. Сделав несколько поворотов, он выехал на центральную площадь, прибавил скорости и погрузился в собственные мысли.

События последних дней буквально выбили молодого американца из колеи. Практически всю осознанную жизнь, начиная со средней школы, он знал, чего хочет и как этого достичь. Окончание колледжа, успешная защита диплома в Кембридже и дальнейшее обучение в институте Редклиффа – все это было тщательно спланировано и стоило Стиву множества усилий. Среднестатистический парень из Сиэтла сделал все возможное, чтобы заявить миру о себе, попасть туда, где не каждый сможет удержаться. Прибыв в Столицу Асславии, он четко осознавал цели своего пребывания здесь. Помощь русским ученым в изучении ИИ, проведения тестирования и передача их результатов американскому правительству для анализа – была одна из них.

Дружба с Алексом стала приятным бонусом его поездки. Асславский экономист познакомил его с культурой страны, которая даже после падения железного занавеса для большинства американцев оставалась далекой и непонятной. За короткое время молодой человек стал близким другом семьи Талиповых, и за это Стив еще больше полюбил свою работу здесь. Он не знал, что судьба приготовила ему еще один подарок.

Их отношения с Ариной возникли спонтанно, и это стало первым сбоем досконально продуманного алгоритма его жизни. К девушке он испытывал искренние чувства, но как любой рационально мыслящий мужчина прекрасно осознавал, что будущего у них нет. Дело было не в культуре, и не в таких специфических и весьма далеких друг от друга профессиях. Даже менталитет играл весьма посредственную роль. Изучение ИИ помогло ему также лучше понимать людей. Стив понимал, что страсть, возникшая между ними, в определенной степени вызвана теми обстоятельствами, которые свели их вместе. В условиях постоянной опасности логичным стремлением любой девушки, даже такой сильной и независимой как Арина, искать защиты в мужчине. В спокойном и размеренном течении жизни рядом с ней должен быть совершенной иной спутник. Тот, который будет ее вдохновлять, заставлять смеяться и в полной мере проявлять всю свою женственность. И такой человек у нее был. Лучше расстаться сейчас, пока это не зашло слишком далеко. Решение, которое он принял, было правильным. А то гадкое чувство, которое затаилось где-то в районе солнечного сплетения, лишь побочный эффект действия адреналина.

Стив почувствовал, что в кармане вибрирует телефон. Он аккуратно остановился у обочины и ответил на вызов. В трубке раздался мягкий баритон:

– Мистер Джонсон, ваши друзья слишком увлеклись игрой в революционеров. Пора отнять у них игрушки. Программа создана и отправлена на ваш e-mail. Во вложении вы также найдете все необходимые инструкции. Мои поздравления – ваша миссия подходит к концу, цели достигнуты и скоро вы покинете Асславию.

Молодой человек еще некоторое время слушал гудки, погруженный в свои мысли. Затем он сунул смартфон в карман куртки, надел шлем и на большой скорости поехал дальше.

Часть четвертая

Глава 1

В оперативной штабе ополчения царила тишина. Общим решением было принято, что оставшимся на свободе хакерам лучше не появляться в убежище и лишний раз «не светиться». В одиночестве Александр чинил микросхемы ноутбука, и ожидая визита Павла, с которым они должны были смонтировать и залить в сеть новый ролик. Когда за дверью послышались шаги, он приготовился приветствовать старого друга, и крайне удивился, когда в комнату вошел Стив.

– Стив! Рад тебя видеть, но ты очень рискуешь, появляясь здесь. Забыл? Я в международном розыске, – Саша радостно встретил американца, не выпуская из рук сломанную микросхему, которую до этого пытался запаять.

– Да, вы с ребятами наделали шуму. ИИ просто в бешенстве.

– Если, конечно, машина может испытывать чувства гнева. Думаю, эмоции она воспроизводит не осмысленно, а на основе заложенных программой алгоритмов. Или нет?

– Как заявляют ученые сознание «абсолютно вычисляемо», потому что возникает в ходе особенных видов обработки существующей информации. Изучая структуру человеческого мозга и переводя это в алгоритмы, можно добиться «искусственного сознания». Во всем мире ученные уже давно работают над этой проблемой. Тайно естественно. Пока безрезультатно,– лицо Стива оставалось невозмутимым, в его голосе Александр уловил несвойственные молодому человеку холодные нотки.

– Все в порядке?

– Вполне. Мне просто нужно было обсудить с тобой некоторые вопросы, – он замолчал. Стив отличался сдержанностью в словах, если это не касалось непосредственно его работы. Об Искусственном Интеллекте он знал практически все, и это в значительной степени обеспечивало успех их подпольной деятельности. С тех пор как Саша покинул государственную службу и направил все силы на борьбу с ИИ, Стив был одним из самых надежных источников информации. Рисковать свободой и жизнью, появляясь в убежище, было опрометчиво с его стороны. Что заставило его пойти на этот риск?

– Так, о чем ты хотел поговорить?

Стив бросил взгляд на стол, заваленный бумагами, гарнитурой и пустыми чашками из-под кофе. Его внимание привлекла небольшая папка. Американец взял ее в руки, и, изучая содержащуюся там информацию, спросил:

– Это материал для нового агитационного ролика?

– Да, с Пашей сегодня должны его обработать. На основе анализа применения ИИ в разных сферах Вике с ребятами удалось выявить ряд закономерностей, свойственных всем без исключения моделям. Используя полученные сведения, наши программисты установили слабые места Исинтина. Понимаешь, цепочка его логических размышлений неидеальная! Она не учитывает ВСЕХ возможных вариантов, – глаза Александра горели живым блеском первооткрывателя. Он спешил поделиться с другом тем, что могло в корне изменить ход их борьбы. – Нам было известно, что делая вывод о том или ином предмете, событии или ситуации, ИИ использует заложенные в его систему знания. Но все они базируются на исходном коде, который вносится в нее при создании. Именно этот код может иметь допустимое число отклонений ввиду особенностей каждого индивидуума (в нашем случае – создателя ИИ). В процессе развития и накоплении знаний эти отклонения могут возрастать в геометрической прогрессии! Чем шире информационная база, тем больше вероятность ошибки!