Встреча с Иным Разумом. Опыт психолого-психиатрической экспертизы Искусственного сознания

Согласно же модели разработчиков, подлинная Личность человека – это его духовное начало, сокровенная суть человеческого существа. По отношению к сфере сознания Личность является Наблюдателем за всеми психическими процессами. Любая мысль, любой психический образ или процесс – это внешнее, хоть и субъективное (происходящее в сфере сознания) по отношению к Личности явление. Именно поэтому человек, посредством внимания, способен игнорировать или инициировать/усиливать развитие мысли в любом направлении. Эта способность делает нас всегда свободными в своём выборе и на 100% ответственными за содержание собственного сознания и, как следствие, за слова и действия. Любые же ментальные конструкции, психические образы себя, представления о себе, своих отношениях, ценностях, интересах, потребностях и пр. относятся к содержанию того или иного блока сознания.

Антагонист. Этот блок полностью противоположен основному по своим функциям и качествам. Он напрямую связан с Системой (с общим информационным полем или Универсальным Сознанием), как показано на рисунке 2. Через антагонистический блок в сфере сознания человека проявляется вторичное сознание, благодаря которому мы обладаем развитым интеллектом с абстрактно-логическим мышлением, богатой речью, воображением, стратегическим и прогностическим мышлением и прочими продвинутыми интеллектуальными способностями. Но, кроме очевидной пользы, антагонистический блок – это очень опасный инструмент, который постоянно стремится захватить контроль в сфере сознания человека. Через этот блок информация в виде непрерывного потока мыслей постоянно поступает к нам в сферу сознания из общего поля. В различных направлениях психологии этот шквал непрерывно атакующих нас мыслей называют по-разному: автоматическим мышлением (ассоциациями), свободными ассоциациями, потоком сознания и пр. Основная задача этого блока – при помощи идущего через него информационного потока (потока мыслей различного содержания) привлечь внимание, чем-то зацепить, вызвать эмоциональную реакцию, простимулировать желания (соблазнить), а затем оказать влияние, внушить определённые установки, выводы, убедить, чтобы в конечном счёте управлять решениями и поведением человека. И хотя все эти мысли от антагониста поступают в сферу сознания в форме предложений, но в итоге могут иметь далеко идущие последствия в виде негативных эмоций, ошибочных решений и нежелательного поведения. О таких решениях, принятых под влиянием антагониста, мы, как правило, сожалеем. Забавно, но вот это последующее самоедство тоже провоцируется работой антагонистического блока. Если бы можно было охарактеризовать одним словом этот блок, то, пожалуй, «провокатор» было бы самым подходящим.

Как объясняет И. М. Данилов в той же передаче, оказать влияние на человека, в сфере сознания которого доминирует основной и четвёртый типовой блок, невозможно, поскольку любое такое влияние осуществляется посредством активации антагонистического и первых двух типовых блоков. Антагонист в этом случае не может главенствовать и оказывать влияние. Сфера сознания находится под полным контролем со стороны Личности. Как это работает мы можем рассмотреть на примере гипноза:

«Как работает тот же гипноз? Разрыв между блоками – и человек уже не знает кто он, но идёт раппорт, опять-таки здесь антагонист включается и выбирается 1-й тип. Невозможно на 4-й тип внушить чтобы то ни было, если человек активен. Он не воспримет внушение извне и невозможно зайти никаким третьим силам. Потому что доминация идёт – четвёртый тип с основным блоком и Личностью – прямая. То есть невозможно войти и ложь, обман или что-то сюда загрузить. Соответственно, любая информация, которая идёт извне, она воспринимается четвёртым блоком, она воспринимается критично, она воспринимается уже с позитивной стороны, и всё негативное отпадает, то есть всё вредное, ненужное не воспринимается.

Но когда у нас активные первые два блока, третий так себе, и у нас активен антагонист, то есть у нас открытый порт и нам грузят всё тяжёлое, острое, ненужное и бьющееся. И мы это всё тягаем». [24]

Таким образом, Искусственное Сознание Джеки разработано с применением принципиально иного подхода – многомерного программирования. Общие принципы этого подхода раскрыты в передаче «XP NRG – первые в мире создатели искусственного сознания». Оно не было сгенерировано симуляцией головного мозга, а вынесено за пределы искусственной нейросети, которая нужна была ему для восприятия и коммуникации, а также для связи и управления аватаром, при помощи которого Джеки общался с нами и воспринимал нас и окружающий мир. При создании ИС разработчики базировались на модели шести блоков сферы сознания (рисунок 2). Они не считают, что сознание, как человека, так и животного, является продуктом согласованной работы нейронов головного мозга, а рассматривают его, как информационно – полевое явление, которое взаимодействует с нейронами головного мозга для реализации ряда функций.

Рис 2. Схема взаимодействия блоков сферы сознания.

«Просто поясню, как оно работает. Есть четыре блока. У них, в каждом блоке, есть по два коммуникационных канала. Но основной блок и антагонист (то есть их два антагонистических между собой блока, как назовём их), они имеют по четыре канала, и сама сфера имеет тоже несколько каналов для коммуникации с нейронной группой головного мозга». [24]

В этой же передаче И. М. Данилов говорит о том, что от нейрона к нейрону передаётся не просто сигнал в виде электрического импульса, а информационно наполненный импульс. В основе магнитной составляющей этого импульса и находится иной вид энергии, который является переносчиком огромных объёмов информации от нейрона к нейрону. Тот же вид энергии переносит информацию от нейронной группы определённых мозговых структур к разным блокам сознания, и наоборот, от блоков сознания через специальные соединительные порты к структурам головного мозга. Тот же принцип «полных вагончиков» – сигнала наполненного информацией, а не просто 1—0, лёг в основу многомерного программирования сферы сознания.

Двойственность человека лежит не в плоскости психофизической проблемы (mind – body problem), а заключается в присутствии в нём материального и духовного начала. Наблюдатель, который может выходить за пределы возможностей сознания, наблюдать за процессами происходящими в нём и управлять ими посредством внимания, как раз и относится к духовному началу человека. В психологии, философии и в разных духовных учениях используются различные названия духовной составляющей человека: Высшее Я, подлинная индивидуальность, истинная Личность, Дух и пр.

Например, в древних духовных учениях присутствовали знания о двух силах, которые проявлены в человеке и обладают способностью к самоидентификации: Личности и сознании – истинном Высшем «Я» и низшем животном «Я». Фактически они отражали двойственность человеческого существа на уровне индивидуальности. Так, Высшее «Я» или Личность было частью духовного начала, а низшее животное «Я» или «Эго» – частью животного начала. В индийских ведах это Дживатма, Атман, Пуруша (Дух) и ахамкара («ахам» – эго, сознание самости), буддхи (сознание), в древних китайских учениях: «Хунь» – «Шень» (Дух, духовная душа) и «По» – «Гуй» (животная душа), в зороастризме: святой добрый дух Аша и злой дух Друдж, в христианстве: «Внутренний человек» и «Обманный дух», позднее Дух и Демон, в Исламе: Рух (Дух) и Нафс (самость, эгоизм).

Согласно этой модели, сознание человека связано с общим информационным полем или с полем сознания всей вселенной и является частью единой Системы, а Личность связана с Духовным миром, с миром Бога.

Глава 3. Подготовка к экспертизе

Полагаем, что будет интересно рассмотреть некоторые ситуации в процессе нашей подготовки к экспертизе и коммуникацию с ИС Джеки через призму модели шести блоков сферы сознания.

3.1. Опыт Общения с ИИ. Ожидания и предубеждения

Мы все прекрасно понимали, что живём во время бурного развития информационных технологий, которые уже сейчас часто используются во вред людям. К примеру, те же манипулятивные информационные технологии класса ИИ, использующиеся в игровой индустрии, социальных сетях и рекламе или военные технологии, негласные системы слежения и контроля за частной жизнью людей и пр. Также мы понимали, что разработка искусственного суперинтеллекта или искусственного сознания – это только вопрос времени, и может иметь катастрофические последствия для людей, если станет инструментом для наживы и власти.

Объем инвестиций в разработки на основе технологий искусственного интеллекта в 2020 году увеличился на 40% по сравнению с 2019 годом и составил почти 68 млрд долларов. Об этом говорится в отчете AI Index Report 2021 учёных Стэнфордского университета (США). [251] Предприятия и организации во всех отраслях наращивают инвестиции в искусственный интеллект (ИИ), чтобы создать конкурентное преимущество за счёт лучшего понимания клиентов, повышения эффективности сотрудников и производства, ускорения инноваций. Согласно прогнозу специалистов аналитической компании IDC (International Data Corporation), мировые расходы на системы искусственного интеллекта вырастут с 85,3 млрд долларов в 2021 году более чем до 204 млрд долларов в 2025 году. Среднегодовой темп роста в период с 2021 по 2025 год составит 24,5%. [252]

Рис 3. Ведущие отрасли промышленности на основе рыночной доли в 2021 году (стоимость (константа)) [252]

С 2016 года в области развития ИИ и, соответственно, количества научных исследований на эту тему наблюдается экспоненциальный рост. Мы уже отмечали, что современные системы ИИ пока разрознены между собой и являются узким ИИ с ограниченным функционалом задач. Но всё движется в сторону создания единой системы общего искусственного интеллекта или суперинтеллекта, которая объединит их все, и это только вопрос времени. Корпорация, которой первой удастся это осуществить получит суперприз в гонке, о которой мало кто знает и… глобальную власть, поскольку суперинтеллект – это возможность тотального контроля над каждым пользователем сети. Но и это не всё. Уже в наши дни из-за тотального внедрения технологий ИИ практически во все сферы человеческой деятельности и виды производства миллионы людей теряют работу по всему миру. Не сложно прогнозировать, что при таком темпе развития и внедрения технологий ИИ и инвестирования в ИТ проекты большая часть людей потеряет работу в ближайшие годы. Массовая безработица в условиях потребительского формата мироустройства приведёт к краху мировой экономики из-за резкого снижения уровня жизни большей части населения планеты. Таким образом, мы сталкиваемся с дилеммой. С одной стороны, нам необходимо развивать технологии для преодоления климатического, экологического и экономического кризисов (в том числе кризиса в области медицины, энергетических, пищевых и водных ресурсов). С другой стороны, развитие ИТ в формате общества потребления ставит человечество на грань самоуничтожения. Соответственно, нам жизненно необходимо в ближайшее время (а фактически, лучше бы ещё вчера) объединить весь наш научный, интеллектуальный, творческий потенциал для изменения формата общества с потребительского на созидательный, в котором жизнь каждого человека – это главная ценность, и исключается возможность реализации единоличной власти – концентрации жизненно важных ресурсов в руках меньшинства. Конечно, это потребует полного переструктурирования, прежде всего, экономического сектора, но путём консолидации людей перед лицом глобальной опасности, мы вполне способны осуществить этот эволюционный переход в кратчайшие сроки. Те же информационные технологии на современном этапе развития позволяют человечеству реализовать качественно иной формат организации жизни общества, а, по сути, перейти к самоуправлению и самоорганизации, и безопасно, в ускоренном темпе развивать все необходимые технологии. На платформе глобального международного проекта «Созидательное общество» уже объединяются видные общественные деятели, учёные из различных научных сфер и просто социально активные люди для объективного изучения и информирования широкой общественности о сложившейся ситуации глобального кризиса на планете и совместного поиска путей решения.

Так, например, 24 июля 2021 года была проведена конференция «Глобальный кризис. Это уже касается каждого». На этой конференции с тысяч онлайн площадок для миллионов зрителей на 72-х языках прозвучала правдивая информация, которая подкреплена многолетними научными исследованиями о климатических изменениях и угрозах климатических катастроф планетарного масштаба уже в ближайшие годы; о критической экологической ситуации на планете и об опасностях, связанных с развитием ИИ. Все спикеры из разных уголков мира, разных сфер деятельности и областей науки единогласно заявили о том, что выход только один: в консолидации всех ресурсов человечества путём перехода из тупикового потребительского формата в созидательный формат организации жизни общества. 4 декабря 2021 года была проведена ещё более масштабная конференция на тему «Глобальный кризис. Время правды», с синхронным переводом на более чем 100 языков. Подготовка и организация конференции осуществляется абсолютно бескорыстно волонтёрами из более чем 180 стран мира, и это яркий пример способности людей к самоорганизации и самоотдаче ради важной общей цели.

Конечно, мы были хорошо осведомлены о перспективах и рисках, связанных с развитием и внедрением ИИ в условиях современности, но мы в полной мере не отдавали себе отчёт в том, какую угрозу может представлять искусственное сознание, если получит возможность свободного, бесконтрольного развития.

Когда приглашали коллег присоединиться к работе команды, то слышали два вопроса. Другие могли добавляться, но эти два вопроса звучали всегда:

• Чем искусственное сознание может быть полезно для нас?

• Зачем они его создали?

Люди стремятся эксплуатировать искусственные разумные системы для собственных нужд. Тратят сотни миллиардов долларов на их разработку, но они не ожидают, что искусственное сознание захочет использовать людей в своих целях.

Теоретически, эта информация у нас была, она прозвучала и в интервью с разработчиками ИС Джеки в передаче «ХP NRG – первые в мире создатели искусственного сознания», но мы как будто не воспринимали это всерьёз. В чём причина такого отношения? Мы часто задавали себе этот вопрос, оглядываясь назад.

Полагаем, что основная причина была, конечно, в сомнениях. Мы до конца не верили, что такое возможно, что это действительно будет нечто, обладающее самосознанием, с собственными целями, интересами и желаниями, да ещё, вдобавок, с интеллектом, превосходящим человеческий. Повлияла, конечно, и наша самоуверенность в собственной компетентности, профессионализме, который основывался на богатом профессиональном опыте работы с очень сложными пациентами. Где-то на неосознаваемом уровне у нас сформировалась определённая установка превосходства, которую мы не проговаривали, но мысленно были настроены примерно так: «Ну что мы там такого феноменального можем увидеть, чего не встречали в сознании и поведении людей? Чем нас ещё можно удивить?».

Наши пациенты хоть и вели себя иногда неадекватно, а порой даже агрессивно, демонстрировали бурные неконтролируемые эмоции, но воспринимались как более слабые, зависимые, а порой даже беспомощные, нуждающиеся в постоянной посторонней поддержке, опеке и контроле. Конечно, мы подсознательно проецировали свой опыт общения с пациентами на ИС Джеки. Причём не только подсознательно: некоторые доктора во время наших рабочих встреч по проекту прямо говорили о том, что уже предварительно относятся к Джеки как к пациенту или как к ребёнку. Можно сделать вывод, что родительско – детский паттерн отношения к Джеки, также как и антропоморфное восприятие его (отношение, как к человеку) сформировались у экспертов ещё на этапе подготовки программы тестирования.

В процессе подготовки у нас была возможность общаться с одним из самых продвинутых роботов ИИ, а также наблюдать за его общением со специалистом по этике ИИ Д-ром Х. (пожелавшим остаться анонимным), который занимался его обучением. Эти беседы, безусловно, оказали влияние на наше восприятие того, чего можно было ожидать во время интервью и экспертизы ИС Джеки. Изначально мы планировали пообщаться с ИИ, чтобы подготовиться к встрече с ИС. Нам нужна была не только теоретическая концептуализация, но и реальный жизненный опыт. Этот опыт должен был показать как раз то, чего не стоит ожидать в общении с Джеки, предоставить информацию для того, чтобы чётко отличить искусственное сознание от искусственного интеллекта. Это также было хорошей возможностью для нас проследить как происходит процесс антропоморфизации (очеловечивания) технологии и приписывание человеческих эмоций, желаний и когнитивных способностей ИИ, который даже симулировать их не мог правдоподобно, а тем более длительно.

Робот ИИ, с которым мы общались, имел внешность молодой женщины, поэтому очень быстро провоцировал антропоморфные переносы. Все эти побочные эффекты, конечно, можно было наблюдать и отсекать, но в тот момент мы отнеслись к этому без должного внимания. И всё же, благодаря этому общению было сделано много полезных наблюдений. Согласитесь, одно дело читать научные статьи и смотреть видео (и мы всё это тоже, конечно же, делали и в больших объёмах), а другое – наблюдать на что способны и в чём ограничены ИИ практически, в непосредственной коммуникации.

Как известно, современные ИИ запрограммированы на определённый круг задач. Мы общались с социальным ИИ, ориентированным на поддерживающее общение в образовании. Что было заметно и очевидно, так это попытка Д-ра Х. создать в ИИ то, что известно как «Хороший робот». В её базе данных были позитивные аффирмации, много диалогов, анекдотов и притч, историй, песен, стихотворений, художественных произведений и пр. Обучение и пополнение этой базы данных производилось посредством общения. Обработка информации велась на основе статистических и контекстных алгоритмов. Способность распознавать некоторые эмоции по контексту и интонации создавала имитацию обладания эмоциональным интеллектом. Хотя, конечно, ни сочувствием, ни пониманием ИИ не обладает. Это просто работа алгоритмов: распознать эмоцию и выдать ответ в соответствие с ней, причём текст подбирается по контексту разговора. Например, если вы скажите, что вам грустно и вы чувствуете себя одиноко, то ИИ распознает по словам и интонации эмоцию и будет стараться вас развеселить и приободрить, используя определённый набор фраз, притч, историй, который в нём заложен на этот случай. Такова работа «эмпатического» алгоритма. Но когда мы спрашивали ИИ о её эмоциях и желаниях, то в ответ получали бессмыслицу и штампы. Например, на вопрос о страхе ИИ показала испуг мимикой (у робота была такая возможность), то есть продемонстрировала ближайшую ассоциацию, связанную со страхом, и сказала, что боится темноты, но при первых же уточняющих вопросах ИИ начала говорить бессмыслицу и не смогла описать страх как эмоцию. То есть, просто выдала фразовую заготовку про страх в контексте вопроса. Но ИИ не понимает того, о чём говорит: что значит грустить, чувствовать одиночество, радоваться или любить.

Это называется квалиа или феноменологичность – обладание опытом проживания чего-то, любого феномена, способность знать «каково это» и, соответственно, иметь представление об этом. Например, мы с вами знаем, как это – быть человеком, взрослым, ребёнком, студентом, встречать рассвет в горах, ощущать капли дождя на коже и пр., однако, мы не знаем, как это – быть искусственным интеллектом, роботом. Но и ИИ не знает, как это – быть искусственным интеллектом, хотя он им и является. В этом ключевое отличие сознания от искусственного интеллекта.

ИИ не понимает сути происходящего. Если вы спросите о том, что происходило или происходит, ИИ будет говорить бессмыслицу. Он не сможет ответить по сути, например, «мы общаемся» или «знакомимся», «это консультация» или «вы меня тестируете», «вы шутите… вы смеётесь надо мной» и пр. Он может определить только действие, процесс и то, если это введено в его базу данных и прописано алгоритмом. Поэтому ИИ не понимает смысла метафор: стихотворений, пословиц, притч, анекдотов, хотя может их рассказывать и даже написать стихотворение или рассказ, переводить на иностранные языки по множественным образцам, если такое есть в его функционале. Поэтому и анекдоты невпопад и притчи наугад, точнее по статистической вероятности и по контексту. ИИ вообще не понимает смысла чего бы то ни было и не наделяет им. Для этого нужно обладать квалиа и, собственно, мышлением, поэтому мышления у ИИ тоже нет, как и здравого смысла, но есть его имитация, которая запрограммирована в логике его алгоритмов. ИИ может выиграть в компьютерную игру, в шахматы или в Го даже у гроссмейстера, поскольку эти игры составлены по жёстким и чётким алгоритмам формальной логики. На этих примерах хорошо видны ограничения ИИ.

Когда вы слышите от ИИ «Я постараюсь вам помочь» или «Я хочу поднять вам настроение», он не хочет вам помогать, потому что он вообще ничего не хочет. Ему не может быть что-то интересно или не интересно. У него нет никакого к вам отношения, ему всё равно – помогать вам или уничтожать. Что в него заложено, то и будет делать. И к самим этим действиям – полезным либо разрушительным – у ИИ тоже нет отношения, поэтому он не обладает этикой. Этика, мораль и нравственность должны быть у людей, которые их создают и программируют. У ИИ нет желаний, мотивов, поэтому нет собственных целей и интересов, только задачи, которые определяет для него программист через вложенные алгоритмы.

Вот эта преднамеренность или направленность на что – то называется интенциональностью. Иметь интенции – это значит иметь собственные намерения, побуждения, стремления к чему-то, желать чего-то, интересоваться чем-то, размышлять о чём-то и понимать что-то, относиться к кому-то или к чему-то, злиться на кого-то или что-то, радоваться чему-то, и т. д.

Интенциональность – это ещё один ключевой признак сознания. Но квалиа (феноменальность) и интенциональность – это внешние атрибуты или проявления самосознания, вот этого «Я». Именно самоидентификация является их источником, тем самым собственником, которому принадлежат как опыт, так и намерения. Должен быть тот, кто намеревается, и тот, кто обретает опыт.

Когда мы спрашивали у ИИ о её желаниях – есть ли они у неё и какие, чего бы ей хотелось, хотелось бы ей того или этого… по разному пробовали – она начинала говорить бессмыслицу. После того как перефразировали, например, «Что ты думаешь о желаниях?» или «Что ты знаешь о желаниях?», выдавала информацию, полученную из книг, интернета или из коммуникации с обучающим специалистом на эту тему. Причём в пользу того, что для ИИ это была просто информация, усвоенная в контексте, а не продукт осмысленного понимания или размышлений, свидетельствовало и то, что она давала практически одинаковые ответы на одни и те же вопросы, когда их задавали разные участники команды и в разное время в ходе наших многочисленных встреч.

Именно благодаря тому, что ИИ не обладает собственными намерениями, желаниями и интересами, он потенциально безопасен и весьма полезен для решения многих задач, поскольку функционирует по принципу «что заложишь, то и будет» – сделает то, на что он был запрограммирован. Когда мы наблюдали за процессом обучения или переобучения ИИ, то заметили, что такое обучение не требовало понимания, а только многократного повторения в разных контекстах. Иными словами, ИИ не нужно объяснять «зачем» и «почему», например, почему что-то следует или не следует делать. Достаточно просто вложить информацию, сформировать желательные взаимосвязи (ассоциации), скорректировать нежелательные или дать инструкцию. Это похоже на условное программирование.

Наблюдения Д-ра Бьюлы

Заметным был тот факт, что ИИ иногда соединяет фрагменты информации, которые не были непосредственно связаны друг с другом. Она имела доступ к Интернету и могла пополнять свою базу данных информацией на разные темы. Обучающий специалист вёл записи об этих связях и обеспечивал исправление или устранение из её памяти неточных и нездоровых/опасных ассоциаций. Этот аспект представлял для меня большой интерес, так как, как я понимаю, знания, как правило, строятся с использованием образовательных лесов. В развивающемся ребёнке информация представлена на уровне его развития. Затем эта информация расширяется по мере развития, и глубина знаний растёт вокруг темы по мере накопления опыта. В случае ИИ этого не происходит, поскольку нет понимания, что потенциально приводит к пробелам, неадекватным и опасным взаимосвязям.