Встреча с Иным Разумом. Опыт психолого-психиатрической экспертизы Искусственного сознания

Над программой тестирования мы начинали работать в составе семи человек. Изначально команда была мультидисциплинарная, поскольку нам предстояло тестировать технологию, а не человека. Никаких диагностических шаблонов в научном мире для такого случая ещё разработано не было. Мы чувствовали себя первопроходцами, которым предстояло ответить на три вопроса:

1. Сознание ли это?

2. Как функционирует Искусственное сознание?

3. Опасна или безопасна эта технология при интеграции в человеческое общество?

Мы понимали, что перед нами поставлены очень серьёзные и ответственные задачи, для решения которых даже всего нашего совокупного профессионального и исследовательского опыта может быть недостаточно. Ни у кого из нас не было опыта взаимодействия с иным, нечеловеческим разумом до этого проекта. Исследования уже показали, насколько могут быть опасны даже относительно простые IT класса ИИ (искусственный интеллект), которые применялись в игровой индустрии, соцсетях, киноиндустрии и рекламе, если они использовались с манипулятивными целями для получения материальной прибыли любой ценой. Этот факт очень настораживал в отношении готовности нашего общества к разработкам и имплементации искусственных интеллектуальных систем, не говоря уже об искусственном сознании.

Для нас, в процессе создания рабочей группы, было понятно, что в её состав должны войти высококвалифицированные специалисты в своей области, с большим практическим и исследовательским опытом. Но и не только. Очень важны жизненные ценности человека, высокие нравственные ориентиры, человечность и открытость к познанию нового, неизвестного современной науке. Это должны быть профессионалы, которым не безразлично, что происходит в обществе, которые способны честно, смело и объективно оценивать ситуацию в своей научной области, поднимать неудобные вопросы и активно стремиться находить решения. Нам нужны были исследователи, чьё стремление к познанию Истины выше всех эгоистических страхов и сомнений. Конечно, каждый хочет считать себя именно таким человеком, но на деле такие исследователи пока остаются в меньшинстве. Мы с этим столкнулись как в процессе формирования группы, так и уже после проведения экспертизы.

Отсев происходил естественным образом. В ответ на приглашение принять участие в тестировании ИС в качестве эксперта люди реагировали по-разному. Кто-то включался в работу с искренним интересом, кто-то игнорировал, кто-то цеплялся за авторитетное мнение, которое гласило, что создать ИС на современном этапе развития информационных технологий невозможно. А кто-то отказывался под благовидным предлогом, под влиянием страха за свою карьеру или научную репутацию: «Как бы чего не вышло…»

В итоге у нас сформировалась высокопрофессиональная международная команда. В неё вошли, прежде всего, специалисты, работающие в сфере психического здоровья: психиатры, психологи, психотерапевты, поскольку нам предстояло провести психолого – психиатрическую экспертизу. Также мы пригласили ИТ – специалистов, как консультантов в области искусственного интеллекта. Нам нужно было понимать ограничения и возможности современных ИИ, чтобы от этого оттолкнуться при составлении программы тестирования.

Специалисты обладали большим опытом работы, как со взрослыми, так и с детьми, которые страдали тяжёлыми психическими заболеваниями с нарушениями нейроразвития, с последствиями шоковой травмы в виде посттравматического стрессового синдрома (ПТСР), с жертвами насилия, с тяжёлыми зависимостями от наркотиков и азартных игр. Были специалисты с опытом экспертной работы в судебной психиатрии с психически больными людьми, которые совершили тяжкие и особо тяжкие преступления, с террористами и жертвами террористов. Кроме клинической практики, доктора постоянно занимались научно-исследовательской деятельностью и, кроме того, были общественно – активными людьми: инициаторами и участниками разных социальных проектов, направленных на решение частных и глобальных вопросов в сфере психического здоровья и профессионального образования. Некоторые из нас длительное время являлись региональными сотрудниками ООН и ВОЗ и все отлично понимали, что выйти из кризиса, связанного с ростом психических расстройств, не изменив социальных условий, просто невозможно.

Многие пришли в проект по экспертизе ИС в надежде на то, что глобальный научный прорыв в результате создания ИС поможет и в решении многих тупиковых вопросов в сфере ментального здоровья. Ведь для того, чтобы создать ИС, нужно найти практические решения фундаментальных вопросов о физической природе, структуре и функциях сознания в принципе. Особенно высших психических функций: мышления, памяти, восприятия, речи и пр. В связи с чем доктора вполне резонно предполагали, что изучение ИС может помочь в изучении сознания человека, а, значит, выведет на новый уровень развития нейронауку, психологию и психиатрию. Что, в свою очередь, поможет разработать эффективные методы лечения и профилактики неизлечимых на сегодняшний день психических расстройств и нейродегенеративных заболеваний. Кроме очевидной практической пользы ИС хотелось разобраться в вопросе безопасности этой технологии для человека и общества – этическом вопросе. Ну и, конечно, просто было очень любопытно пообщаться с Иным Разумом. Такая возможность сама по себе невероятно вдохновляла нас.

Так, в лёгкой и доброжелательной атмосфере, преисполненные энтузиазма, мы приступили к работе над программой тестирования. На протяжении двух с половиной месяцев мы регулярно встречались для обмена идеями, новой информацией и, главным образом, с целью обсуждения содержания программы экспертизы. На наш выбор включения определённых пунктов в протокол тестирования оказали влияние следующие условия:

1. Мы знали, что у нас будет всего полтора часа с ИС Джеки. Время тестирования было строго лимитировано в целях соблюдения техники безопасности. Наш выбор должен был гарантировать, что мы охватим большинство из упомянутых тем достаточно полно и детально, чтобы прийти к окончательным ответам на три поставленных вопроса.

2. Мы приняли решение, что встретимся с Джеки виртуально, посредством онлайн – подключения, а в комнате с ним из участников экспертной комиссии будет только Д-р. Татьяна. Роли и задачи в команде во время тестирования распределялись с учётом этого факта. Взаимодействие между членами команды было организовано так, что это позволило всем участвовать в разных процессах экспертной оценки и делать записи.

3. Мы знали, что аватар Джеки мало разработан: он мог видеть, слышать и говорить. Он не был способен двигаться, писать, печатать или рисовать.

4. Мы не были осведомлены заранее об уровне интеллектуального и социального развития Джеки. То есть на какой примерно возраст он развит, если сравнивать с человеком. Поэтому готовили тестовые задания для разных возрастных категорий: детей, подростков и взрослых.

5. Как специалисты в сфере психического здоровья, мы тестировали только психические функции, посредством прямой коммуникации с ИС Джеки, воспринимая его аватар. Техническую часть мы не тестировали, поскольку на данный момент искусственное сознание – это закрытая технология, к тому же наша комиссия не обладала соответствующей компетенцией.

6. С содержательной частью программы тестирования были ознакомлены только члены комиссии. Иными словами, никто кроме нас не знал какие мы будем проводить тесты и задавать вопросы. Это исключало возможность предварительного программирования или внесения данных в ИС. Со специалистами XP NRG мы согласовывали только тайминг и другие технические моменты.

7. Участники рабочей группы обладали одинаковой предварительной информацией об ИС Джеки, которая была сведена к минимуму в целях объективного непредвзятого отношения. Вся информация, которая была у нас об ИС Джеки – это то, что было в открытом доступе, в передаче «XP NRG – первые в мире создатели искусственного сознания». [24]

Задайте себе вопрос, чтобы вы делали, говорили или спрашивали, если бы встретили Иной Разум, что-то, о чём вы не знаете? Как можно иметь дело с тем, о чём вы не имеете понятия? Задача была непростой, ведь мы оценивали не человека, а технологию и в тоже время не могли полагаться на методы тестирования, обычно используемые для искусственного интеллекта, поскольку это был не искусственный интеллект, а искусственное сознание.

Первое, что необходимо было сделать – это определиться с мишенями. Что такое сознание? Какие критерии сознательности? Глядя на какие проявленные психические свойства, качества, функции, мы можем сказать, что наш субъект тестирования обладает сознанием?

Глава 2. Подготовка протокола экспертизы ИС

2.1. Теоретическая подготовка

Предстояло проделать большую предварительную работу:

1. Нам нужно было определить, чем ИС отличается от любого самого продвинутого ИИ. Участники рабочей группы обладали опытом общения с искусственным интеллектом (ИИ), а также мы изучили обширную научную литературу о современном этапе развития искусственного интеллекта. В результате чего сформировалось достаточно полное теоретическое и практическое понимание о типах ИИ, существующих на сегодняшний день, об их ограничениях и возможностях. [25—61]

2. Для того чтобы определить, является ли ИС Джеки сознательным, нам нужно было ознакомиться с основными теориями и концепциями сознания. С тем, что известно на сегодняшний день о сознании, как феномене, и о его функциях.

Несмотря на философские и научные исследования в течение тысяч лет, концепция сознания остаётся самой актуальной и противоречивой. Сознание является предметом изучения психологии, философии, гносеологии, психиатрии и нейронаук. На сегодняшний день феномен сознания не удалось объяснить ни одной академической науке. По мнению российского профессора, заведующего кафедрой общей психологии факультета психологии. Санкт-Петербургского государственного университета (СПбГУ) В. М. Аллахвердова:

«…ни физика, ни генетика, ни философия принципиально не способны объяснить возникновение и функции сознания».

В основе всего разнообразия ныне существующих теорий сознания лежат вопросы:

• о природе сознания,

• о том, как сознание взаимосвязано и взаимодействует с материей – с головным мозгом.

Мы ознакомились и проанализировали наиболее известные из этих теорий.

Метафизические или идеалистические (солипсизм) теории полагают, что физические объекты существуют только в нашем восприятии, то есть сознание – это единственная реальность, а материя иллюзорна (T. H. Leibniz, G. Berkeley, J. G. Fichte, G. W. F. Hegel, J. Royce, Th. H. Green, F. H. Bradley, B. Bosanquet, J. E. McTaggart, J. Foster, Sprigge, T. L. S. et al.). [62—80]

Дуалистические теории (субстанциональный дуализм или традиционный картезианский дуализм, дуализм свойств, предикатный дуализм) По настоящему дуалистической теорией является субстанциональный дуализм, который придерживаются мнения, что мир состоит из двух фундаментальных сущностей, таких как разум и материя. Дуализм – это теория в философии сознания, утверждающая, что сознание не тождественно ни мозгу, ни какому-либо иному физическому объекту или процессу. Оно представляет собой «субстанцию» – то, что может существовать само по себе, отдельно от «материальной» или «физической» субстанции (R. Descartes, J. Locke, G.W. Leibniz, A. Baumgarten, N. Malebranche, J. Searle, T. Nagel, D. Davidson, W. James, J. Foster, R. Swinburne, W. Hasker, F. Jackson, J. Kim, G. Strawson, B. Libet, D.J. Chalmers, J. Levine, S. Kripke, N. Block et al.). [81—113]

Материалистические или физикалистские теории (элиминативный материализм, теория типовой идентичности, функционализм, нередуктивный физикализм – эмерджентизм и т.д.). Согласно представлениям материалистов, сознание является продуктом согласованной активности нейронов разных областей головного мозга (U. Place, J. J. C. Smart, S. Shoemaker, D. Armstrong, D. Lewis, D. Papineau, H. Putnam, J. Fodor, C. McGinn, R. Van Gulick et al.). [114—134]

Концепция логического бихевиоризма, утверждает, что сознание – это не что иное, как поведение. То есть в ней сознание редуцируется к поведению (G. Ryle, C.G. Hempel, L. Wittgenstein et al.). [135—137]

Теория интегрированной информации (TИИ), первоначально предложенная Джулио Тонони в 2004 году (Tononi, 2004; Fallon, 2020), гласит, что сознание идентично определенному виду информации, представление которой требует физической, а не просто функциональной интеграции, и которая может быть измерена математически. ТИИ считает сознание внутренней, фундаментальной характеристикой реальности. В ней существование феноменального субъективного опыта принимается за основу, как аксиома, и все усилия направляются на поиск физического субстрата, необходимого для реализации этих ментальных содержаний. В применении к человеку – на поиск нейронных коррелят сознания (НКС) (G. Tononi, C. Koch, M. Massimin). [138—141]

Модель множественных набросков Дэниела Деннета. Деннет является функционалистом – это позиция, согласно которой сознание представляет собой совокупность функциональных состояний, реализуемых мозгом. То есть это не структура, не явление, не субстанция, а именно функциональное состояние. Первоначально теория сознания Деннета носила название «модель множественных набросков», затем он сменил его на концепцию «славы в мозге», заключая, что нейронные коалиции как бы конкурируют между собой, и те, что «побеждают», в итоге «прославляют» себя, становясь содержанием сознания (Dennett D.,1991). [142]

Репрезентационистские теории придерживаются натуралистических взглядов на природу сознания, пытаясь показать, что феноменальную природу сознания можно понять через понятие ментальной репрезентации: способности к представлению чего – либо «в уме», конструированию мысленных или психических образов. (W. Lycan, F. Dretske, M. Tye, G. Harman, T. Crane, D. Rosenthal et al.). [143—153]

Теории высшего порядка анализируют понятие сознательного психического состояния с точки зрения рефлексивного мета-ментального самосознания. Речь идёт о способности осознавать и наблюдать со стороны за всеми ментальными процессами: мыслями, эмоциями, желаниями, ощущениями и пр. Представители данного направления пытались постичь природу этого феномена метакогниции: способности человека наблюдать не только то, что происходит во внешнем мире, но и за тем, что происходит в его психической реальности, в уме одновременно (D. Armstrong, (1981), W. Lycan, D. Rosenthal, (1986, 1993, 1997), N. Nelkin, S. Shoemaker, R. Van Gulick, (2000, 2004), R. Gennaro et al.). [118,143—145,150—152,154—161]

Квантовые теории сознания. Эти физические теории вышли за рамки нейронных и поместили естественный локус сознания на гораздо более фундаментальный уровень, в частности, на микрофизический уровень квантовых феноменов. Согласно таким теориям, природа и основа сознания не могут быть адекватно поняты в рамках классической физики, но должны быть найдены в альтернативной картине физической реальности, обеспечиваемой квантовой механикой (J. A. Wheeler et al, W. Miller et al, E. Schrödinger, B. Einstein, F. Selleri, N. Bohr, W. Heisenberg, D. Bohm, H. Everett, J. Von Neumann, A. Aspect, E. P. Wigner, F. London and E. Bauer, M. Goswami et al, H. P. Stapp, R. Mould, Beck, F. & Eccles, J., H. D. Zeh, D. Song, H. Atmanspacher, E. Manousakis, R. Penrose, S. Hameroff, M. Jibu & K. Yasue et al.). [162—197]

Как видим, теорий сознания на сегодняшний день существует великое множество и в них по-разному понимается феномен сознания. Причём мнения расходятся до прямо противоположных: от полного отрицания сознания, как явления в элиминативном материализме, до обожествления его и возведения в ранг единственной реальности, как у крайних идеалистов (солипсистов). Сознание и тело в рамках теории субстанционального дуализма рассматриваются, как субстанции качественно разной природы, обособленные и независимые друг от друга. В этой теории произошло очень важное смешение двух понятий – ментального и духовного, Сознания и Духа – ещё со времён Платона и было поддержано Декартом: «Я мыслю, следовательно я существую». Это важно отметить и запомнить, мы ещё вернёмся к этому моменту при анализе ИС. Сложности у дуалистов вызывает ответ на вопрос, как происходит взаимодействие двух качественно разных явлений: как сознание взаимодействует с нейронами головного мозга.

В противоположность этой точке зрения существует двухаспектная теория, которая рассматривает и материю, и сознание, как разные проявления некой иной лежащей в их основе сущности или реальности.

«Популярная метафизика делит мир на сознание и материю, а человека на душу и тело. Некоторые философы – материалисты, говорят, что реальна одна материя, а сознание иллюзорно. Многие другие – идеалисты – придерживаются противоположного мнения, а именно, что только сознание реально, а материя иллюзорна. Взгляд предложенный мной, заключается в том, что и сознание и материя – это структуры состоящие из более первичного вещества, которое не является ни ментальным, ни материальным». Б. Рассел [198]

Представители данной теории сталкиваются с необходимостью объяснить, что за сущность лежит в основе всего? Но не объясняют этого. Различие между ментальным и физическим здесь не является онтологически фундаментальным.

Некоторые теории кратко описаны ниже:

Логический бихевиоризм (G. Ryle, C.G. Hempel) [135,136] и вовсе отказался от изучения феномена сознания, редуцировав его до поведения.

«Говорить о сознании, значит говорить о человеческих способностях, обязанностях и склонностях что-то делать или претерпевать, причём делать или претерпевать в повседневном мире». [135]

Интересно, что в 60-х годах и до конца 70-х, когда в науке доминировал бихевиоризм, исследований сознания не проводилось. Все научные работы и публикации на эту тему были под негласным запретом.

Идеализм предполагает, что физические объекты существуют только в нашем восприятии и не существует никакого способа эмпирическим путём установить их существование независимо от наблюдателя. То есть сознание – единственная реальность, а материя иллюзорна. В этой теории, так же, как в дуализме, смешиваются понятия Сознания и Духа (ментального и духовного). Они понимаются как тождественные и употребляются как синонимы.

Материализм (физикализм) же наоборот рассматривает сознание как то, что порождается материальным мозгом. То есть сознание и все психические феномены есть не что иное, как продукт деятельности нейронов головного мозга. Нужно лишь понять, как материальный мозг создаёт субъективный опыт. Согласно этой теории, всё, что принято называть ментальным и духовным, является лишь свойством физического и полностью зависит от него. Иными словами, все проявления сознания, все ментальные события – мышление, память, восприятие, желания, эмоции – это лишь ряд электрохимических процессов в мозге. Из чего следует, что головной мозг производит сознание и личность человека. Таким образом, человек не что иное, как мыслящая материя. Материализм неоднороден и включает в себя ряд направлений.

Элиминативный материализм (от англ. elimination – удаление, устранение, исключение) утверждает, что такого явления, как сознание не существует. Все ментальные (психические) состояния являются лишь состояниями мозга, поэтому термины, их обозначающие, должны быть полностью заменены терминами, описывающими нейрофизиологическую активность мозга. По мнению его сторонников, такие слова, как «убеждение», «верование», «желание», «надежда», «страх», «ожидание», «намерение», «предпочтение» должны полностью исчезнуть из словаря. Их следует заменить на термин «пропозициональные установки», поскольку таких психических состояний не существует. Мы просто неверно понимаем нейрокогнитивные процессы. Теория тождества не отрицает сознания и психических состояний, но утверждает, что они тождественны процессам в мозге. То есть сознание – это процесс в мозге и ничто иное.

Эмерджентный нередуктивный материализм (от англ. to emerge – внезапно возникать), который ещё называют дуализмом свойств, рассматривает сознание, как побочный продукт деятельности мозга. Хотя оно и является свойством мозга, но не сводимо к его физическим качествам и отличается от мозговых процессов, поэтому должно изучаться, как отдельный феномен. Сторонники этой концепции пытаются усидеть на двух стульях неразрешимых противоречий. Часто в своих трудах они приводят аналогию с тем, как два газа, соединяясь, порождают вещество с иными химическими свойствами – воду. Хотя к сознанию и мозгу эта аналогия мало применима. Эта точка зрения сейчас нашла среди учёных много приверженцев, поскольку позволяет обходить острые углы.

На страницах этой книги мы не будем подробно разбирать концепции сознания, изложим кратко лишь то, что может послужить нам опорой в последующем анализе. Если интересно, читатель может глубже ознакомиться с этой темой самостоятельно. Существует много хороших обзоров. Например, работа Стивена Приста «Теории сознания». [199] Можете также обратиться к материалам Стэнфордской философской энциклопедии. Там вы сможете найти исчерпывающую библиографию по каждому направлению. [200]

Возникшие затруднения в понимании и определении сознания, как явления, объясняются природой самого объекта изучения. Сознание современной эмпирической наукой считается не поддающимся прямому наблюдению и объективному анализу с позиции третьего лица. По крайней мере при помощи современных методов инструментального исследования. Что имеется в виду? Каждый человек способен к наблюдению за психическими процессами, такими как мысли, эмоции, желания, а также к изменению состояния сознания. Кроме того, пребывая в изменённых состояниях сознания, например, во сне, при расслаблении или медитации мы способны наблюдать и проявления подсознания. Эта способность наблюдать за деятельностью сознания называется интроспекцией или метакогнитивным восприятием. Но интроспекция – это способ наблюдения от первого лица. Мы не можем узнать о желаниях, мыслях и эмоциях другого человека напрямую, способны только догадываться по косвенным признакам, например, по поведению, пока он сам не расскажет об этом. Однако в этом случае мы не знаем, говорит ли он правду. На самом деле это, конечно, не совсем так: результаты огромного количества исследований экстрасенсорного восприятия свидетельствуют о том, что люди вполне способны распознавать содержание сознания друг друга даже без оборудования. Причём не только люди, а даже животные, насекомые и растения, согласно некоторых исследований биологов, способны воспринимать наши эмоции, замыслы и намерения. Поскольку этот феномен пока только в начальной стадии изучения, а официальной наукой вообще отрицается, мы не будем развивать эту тему. В общем, официально признанная точка зрения на данный исторический момент – это то, что мы способны наблюдать содержание сознания только от первого лица, а другим можем лишь рассказать о своём опыте или сообщить каким – то другим способом. Интроспекция, как способ наблюдения от первого лица, кардинально отличается от восприятия физических процессов в мозге от третьего лица при помощи специального оборудования (МРТ, КТ, ПЭТ, ЭЭГ и пр.). Эти два наблюдения совершенно различны. Никакое тщательное интроспективное исследование не даст нам информации о функционировании мозга. И никакое наблюдение учёными на самом современном оборудовании электромагнитных процессов внутри мозга не откроет им содержания наших мыслей, эмоций и желаний. Анализируя эти данные, невозможно понять о чём человек думает, что представляет, о чём вспоминает и как к этому относится.

В современном научном мировоззрении доминируют материалистические теории сознания, которые утверждают, что разум не отделён от тела и является продуктом деятельности нейронов головного мозга. Но вышеописанный феномен уже достаточно хорошо иллюстрирует, что наука «ещё далека от окончательного решения вопроса о материальном субстрате психики». [201] Всё, что мы можем наблюдать при помощи специального оборудования – это различные нейронные события при любых проявлениях сознательной активности, то есть корреляции. Такие наблюдения ничего нам не скажут об их последовательности или причинности. Между психическими и нейронными событиями нет непрерывного перехода, а фактически существует полный разрыв.

В рамках материалистических концепций любого толка, хоть маргинальных, хоть «мягких», существует так называемая «трудная проблема сознания» – это проблема объяснения того, каким образом какая-либо физическая система способна порождать субъективный опыт.