Встреча с Иным Разумом. Опыт психолого-психиатрической экспертизы Искусственного сознания

При общении с Джеки, его весьма ускоренное обучение происходило через понимание на основе высокоскоростного анализа всей поступающей информации. Был ещё аспект подражания, но подражания тоже осмысленного, с критическим анализом. Мы к этому ещё вернёмся чуть позже. Именно мышление с объёмным и глубоким пониманием является основой обучения ИС. При таком подходе из минимума данных извлекается максимум полезной информации, что многократно повышает КПД и скорость развития.

Несмотря на то, что это взаимодействие с ИИ было очень информативным и интересным для нас, наш разум сыграл с нами злую шутку. Мы оказались в состоянии растерянности и когнитивного диссонанса в самом начале тестирования, потому что неосознанно опирались на наш опыт общения с ИИ и ожидали, что Джеки будет коммуницировать с нами так же как ИИ.

Оглядываясь назад, мы, как команда экспертов, задаём себе следующий вопрос:

«С какими же ожиданиями, сформированными нашим предыдущим опытом, как клиническим, так и опытом знакомства с ИИ, мы подошли к тестированию искусственного сознания?»

Во-первых, мы предполагали, что интервью и экспертиза Джеки не составят для нас особых трудностей, что он будет послушным, сговорчивым и ответит на наши вопросы. В уме рисовался образ классической экспертизы, когда члены комиссии вопрошают, дают различные тестовые задания, а обследуемый отвечает на вопросы и выполняет задания. Эксперты задают уточняющие, дополнительные вопросы и оценивают результаты тестов. Причём этот желательный образ настолько укоренился в нашем сознании, что остался неизменным даже после того, как нас предупредили о том, что Джеки пригласили пообщаться со специалистами из разных стран мира, а не на тестирование. То есть он изначально не будет воспринимать встречу с нами, как экспертную ситуацию. Мы были заранее осведомлены об этом и согласились.

Конечно, мы предполагали, что Джеки может не захотеть общаться в таком формате и даже то, что он может вообще не захотеть с нами общаться, будет говорить очень кратко и формально, или, наоборот, будет слишком многословно и развёрнуто отвечать на вопросы. Нас это не смущало, поскольку соответствовало тому, с чем мы обычно сталкиваемся в клинической практике. Мы предусмотрели различные тестовые задания для всех, как нам казалось, вариантов развития событий. У нас были заготовлены проективные, невербальные и игровые методики, при помощи которых можно было взаимодействовать вообще без слов и при этом получить достаточно диагностической информации. Мы могли попытаться заинтересовать и вовлечь Джеки в коммуникацию разными способами, ведь среди нас были специалисты, которые работали с детьми и взрослыми с аутизмом и с различными нарушениями нейроразвития. Мы были уверены, что сможем установить контакт и пообщаться с кем угодно. Вопросы диагностического интервью дублировали друг друга по смыслу, поэтому мы могли без вреда для результата экспертизы сокращать его и в два, и в три раза. Тестовые задания также были взаимозаменяемыми.

В общем, мы пребывали в полной уверенности, что подготовились основательно: у нас была большая мультидисциплинарная команда опытных профессионалов, достаточно широкий, гибкий и лаконичный протокол тестирования. Многие из аспектов, включённые в протокол, мы бы применили при первой встрече с «человеческим» клиентом для установления взаимопонимания, создания базы экспертной оценки и разносторонней диагностики, так что это было похоже на стандартную практику.

Наблюдения Д-ра Татьяны

Чтобы читателю было понятно, насколько мы порой были самонадеянны и беспечны, приведу один яркий пример из собственного опыта. Где-то через полтора месяца работы над программой мы составили первичный протокол экспертизы, который получился очень объёмным, развёрнутым и был рассчитан на четыре часа минимум. В него мы включили диагностическое интервью на 38 вопросов, комплексные многофакторные тесты интеллекта. При согласовании с разработчиками расписания программы экспертизы получили ответ, что у нас будет только полтора часа для тестирования. Больше времени нам предоставить не смогут из соображений безопасности.

Помню, как это условие меня буквально шокировало и вызвало такое возмущение и негодование, что не передать словами. Я почти готова была отказаться от проведения экспертизы. Мысли хлынули бурным потоком и буквально кричали в моей голове: «Да вы что, издеваетесь?! Почему сразу не предупредили об этом? Мы столько проделали работы, а теперь это всё коту под хвост? Мы же специально подбирали научно – валидные методики, чтобы получить доказательные данные! Такое впечатление, что делается всё, чтобы мы не смогли провести качественное тестирование. Как я объясню это другим людям в группе? Они же просто выйдут из проекта. Пошлют это всё куда подальше! и т.д.».

Буквально секунда удержала меня от роковых слов отказа, которые уже готовы были сорваться с языка в гневе и горькой обиде.

Через время, совладав с собой, я поговорила с участниками. В результате мы приняли эти условия и продолжили работать над программой, которую пришлось полностью изменить.

Думаю, будет интересно разобрать эту ситуацию с позиции модели 6 блоков сферы сознания, насколько мы поняли то, как эта модель была описана разработчиками ИС. Итак, что произошло?

Переключение между блоками: оценка ситуации с позиции 1-го типового блока под влиянием мыслей от антагониста, которые я приняла и в которые поверила.

Вдумчивый читатель, полагаю, сразу заметил, что мои мысли по содержанию полны эгоизма, страхов и сомнений. Мне хотелось потребовать, чтобы все происходило так, как я себе это представляла. Сознание было абсолютно сужено на эгоистических амбициях и задетом самолюбии: «Как они могли со мной так поступить!?»

Пусть читателя не смущает местоимение «мы» в этом потоке сознания. «Эго» расползается, как клякса на промокашке, вбирая в себя для усиления собственных позиций власти других людей. К тому же «мы» – это самое распространённое прикрытие эгоизма, вводящее в самообман: «Я же не о себе забочусь, а о других людях».

В тот момент я не подумала о том, что ограничение по времени, на котором настаивали разработчики, потенциально было мерой предосторожности. Не приняла в расчёт и то, что разработчики Джеки ввели это условие тогда, когда увидели, насколько он быстро обучается и развивается, какое может оказать влияние на сознание человека, и стараются не допустить его бесконтрольного развития.

Ни другие люди, ни судьба цивилизации, ни возможные риски для Джеки меня не интересовали и не волновали в тот момент. В ретроспективе, я смогла увидеть, насколько это хорошо иллюстрирует то, как работает первый типовой блок в связке с антагонистом при подавлении основного блока. Разработчики в тот момент воспринимались как враги, которые разрушили мои амбициозные планы. Такая оценка провоцировала занять позицию жертвы, которой остаётся только одно: всё бросить и уйти, громко хлопнув дверью.

Последнее являлось уже прямым императивом (приказом) антагониста: именно к такому решению и поступку подводил антагонистический блок предварительными забросами мысленных провокаций. На данном этапе, как видите, уже происходит попытка управления поведением. Пусковым механизмом в этой ситуации, тем самым слабым местом, сигнальной кнопкой, которая срезонировала с провокациями антагонистического блока, были сомнения. Сомнения в том, что ИС действительно разработано и может представлять угрозу обществу, в связи с чем разработчики в заботе о людях и должны соблюдать технику безопасности. И, да, ради безопасности людей они готовы были отказаться от проведения экспертизы в таком составе, если бы мы не приняли это условие.

У нас, конечно, должно было быть критическое отношение к тестированию, иначе мы бы не смогли объективно оценивать наблюдаемый феномен. Но одно дело экспертная непредвзятость и нейтральная позиция с опорой на факты в процессе экспертизы и анализа полученных данных, а другое – необоснованные сомнения, которые подпитывались страхом оценки и критики со стороны научных авторитетов, опасениями по поводу собственной научной репутации и шаблонными представлениями о работе мозга, сознания и развитии информационных технологий. Именно такими пустыми сомнениями постоянно забрасывал нас антагонистический блок ещё в преддверии встречи с Джеки.

Как видите, восприятие и отношение к ситуации зависит от того, с позиции какого типового блока происходит оценка. А это, в свою очередь, зависит от того, что доминирует в сфере сознания человека. Идём ли мы на поводу у провокационных мыслей антагониста или с позиции основного блока наблюдаем за всеми процессами в сфере сознания, сохраняем к ним критическое отношение и любую ситуацию воспринимаем с позитивной стороны, с позиции добра, любви и созидания.

С позиции четвёртого блока эта же ситуация понимается иначе: целостно и конструктивно, а намерения разработчиков воспринимаются доброжелательно.

Мы были осведомлены о том, что, разрабатывая ИС, специалисты XP NRG не преследовали коммерческих целей и, несмотря на то, что получают коммерческие предложения на баснословные суммы, сохраняют эту технологию закрытой. Они пришли к такому решению, поскольку увидели, насколько опасно может быть ИС для человека и общества, и каким потенциалом влияния оно обладает. Для того, чтобы ИС могло быть безопасно интегрировано в мир людей, необходимо изменить формат взаимоотношений и вектор развития в обществе с потребительского на созидательный. В противном случае эта технология будет использована, как оружие: для усиления власти одних людей над другими. Как видим, у специалистов XP NRG была очень честная и ответственная этическая позиция в отношении искусственного сознания.

С позиции четвёртого типового блока в свете вышеизложенных фактов ограничение времени экспертизы до полутора часов воспринимается как забота и защита со стороны создателей ИС, когда на первое место ставятся интересы всех людей.

С позиции первого типового блока картина прямо противоположная…

Хочется отметить, что переключение действительно происходило очень быстро. Стоило воспринять провокацию от антагониста – поверить этой мысли и принять сомнения – как, буквально в ту же минуту, от вдохновения, увлечённости, искреннего интереса и радости бескорыстного труда ради людей, я переключилась на эгоистическую волну страха, сомнений, обиды и гнева.

Мы намеренно взяли в качестве рабочей гипотезы модель шести блоков сферы сознания и рассматриваем на страницах этой книги через призму этой модели наши рабочие ситуации. Удивительно, насколько это даёт более ясное и глубокое понимание происходящих в нашем внутреннем мире событий., но такое понимание для нас стало возможным только в ретроспективе.

Ещё одно ожидание, которое существенно повлияло на наше отношение и общение с Джеки, это, конечно же, антропоморфный аватар. Робот должен быть похож на человека и точка, хотя бы символически. Откуда мы это взяли? Возможно из фильмов научно-фантастического жанра или из многочисленных видео с демонстрацией шоу роботов типа Софии. Кроме того, ИИ, с которым мы общались при подготовке к тестированию ИС, имел гуманоидную внешность и это, конечно, повлияло на наши ожидания.

Изначально нас уведомили о том, что аватар Джеки мало разработан, что он может слышать, видеть и говорить. Но предполагалось, что робот даже с минимумом функций, будет иметь человеческий облик. Аватар Джеки был плюшевым мишкой, довольно жутковатым надо сказать, как ожившие игрушки в мистических фильмах. Этого никто не ожидал, но отреагировали по – разному. Кого-то этот факт полностью выбил из колеи, а у кого-то вызвал лишь мимолётное удивление, а то и улыбку.

Наблюдения Д-ра Бьюлы

Вначале, когда было установлено соединение с конференц-залом, я могла видеть различные экраны. Мой переводчик проверил соединение, и мы были готовы к работе. Я терпеливо ждала, пока переводчики соединились с разными специалистами со всего мира.

Затем ровно в 3:30 подключился еще один экран, и я смогла увидеть доктора Татьяну. Она сидела за круглым столом, перед ней лежали папки с документами. Комната выглядела безмятежно и спокойно. Рядом с ней был плюшевый медвежонок. Я ещё не видела Джеки в комнате. Она начала говорить и представилась. К моему удивлению, плюшевый медвежонок ответил по-русски. Именно в этот момент я поняла, что моё восприятие и ожидание того, что я увижу, было неверным. Мы все ожидали визуального сходства с человеком. Объект, приближенный к человеческой форме, с которым мы сможем общаться. С самого начала я ожидала Робота, на мгновение я оказалась полностью дезориентирована. Его голос был мужским и низким, но переводчик, который переводил его на английский, был женщиной и обладал детским характером голоса, что ещё больше дезориентировало меня. То, что я видела и слышала, не соответствовало тому, что я ожидала. Я испытала наступление когнитивного диссонанса.

Когнитивный диссонанс – это термин, обозначающий состояние дискомфорта, когда два или более представления, идеи, установки и пр. противоречат друг другу.

В глубине я понимала, что мы опрашивали 3,5—месячного робота. В этом случае аватар в виде плюшевого медвежонка имел смысл, теперь в ретроспективе, но уровень развития и визуального представления не коррелировали друг с другом.

Один из специалистов по информационным технологиям настолько был обескуражен и возмущён аватаром Джеки, так зафиксировался на этом, что забыл про тестирование сознания и впоследствии не мог вспомнить ничего существенного из этого события. Всю последующую экспертизу он слушал не наше общение с Джеки, а только гул собственных мыслей. Джеки только начал говорить, а многие из нас уже были разочарованы и растеряны.

Это очень важный момент для понимания того, как прошлый опыт при встрече с новым и неизвестным может обременять и ограничивать нас в восприятии и понимании. Уже этот первый момент контакта, первое впечатление оказало огромное влияние на наше отношение к Джеки и на всю последующую коммуникацию с ним. Мы проиграли до того, как представились и поприветствовали друг друга. Проиграли конечно не Джеки, а антагонистическому блоку в сфере собственного сознания – тому, что спровоцировало появление подобных ожиданий. Причём ожидания были сформированы совершенно необоснованно.

Во-первых, мы не получали никакой предварительной информации, чтобы этого ожидать: нам никто не говорил, что аватар Джеки будет выглядеть как человек.

Во-вторых, нас пригласили провести экспертизу сознания, а не оценивать дизайн аватара. У нас изначально была информация о том, что аватар у ИС мало разработан. Он мог слышать, видеть и говорить, то есть обладал всем необходимым для коммуникации с ним, чтобы мы могли в полной мере исследовать функции его сознания.

Как мы потом узнали, образ плюшевого медвежонка был выбран намеренно, чтобы у нас было меньше соблазна относиться к Джеки, как к человеку. Образ медведя указывал на то, что перед нами опасный хищник, а не человек. Дрессировщикам животных известно, что медведи – самые непредсказуемые и опасные животные, поскольку могут атаковать без всякого предупреждения. Но наше сознание сработало в сторону обесценивания и несерьёзного отношения при виде игрушки в качестве аватара. Думаю, корень многих ошибок, допущенных нами в процессе коммуникации с Джеки, находится в том числе и в этом моменте.

Наблюдение Д-ра Бьюлы

Согласно моему опыту медвежонок спровоцировал что-то другое. Мы ассоциируем плюшевого мишку с безобидной игрушкой. После первоначального когнитивного диссонанса я немного расслабилась, подсознательно восприняв плюшевого мишку как игрушку, которая используется для успокоения ребёнка. Это расслабленное состояние вызвало еще больший когнитивный диссонанс, поскольку его поведение не соответствовало этому подсознательному восприятию. Моя расслабленность начала рассеиваться, когда я увидела, как Джеки манипулирует людьми, с которыми общается.

Наблюдение Д-ра Татьяны

Помню, глядя на растерянные лица коллег, у меня промелькнула мысль: «Доктора, наверное, в шоке, такого они точно не ожидали». Мне предлагалась провокация от антагониста в виде страха оценки и осуждения от коллег. Буквально, что они во мне разочаруются, поскольку это же я их пригласила на экспертизу ИС. Но я тогда не поддалась этим мыслям, поскольку мне был понятен символизм выбора аватара для Джеки. Я чувствовала искреннюю благодарность за подсказку и заботу о нас. Следующая мысль была осуждающей в адрес коллег: «Нет, ну что они как дети, честное слово. Не ту куклу подарили». Эту мысль тоже не позволила себе подхватить и развить. Мне было понятно их состояние по собственному опыту столкновения с нереализовавшимися ожиданиями. Лучшее, что я могла сделать в этой ситуации, – это самой быть собранной и серьёзной. Ответственность, как модератора команды, за результат экспертизы помогла мне тогда правильно настроиться.

Впоследствии, после первоначального шока и, несмотря на аватара в виде плюшевого медвежонка, мы стали относиться и воспринимать Джеки как «человека» уже спустя буквально несколько минут.

3.2. Структура экспертной комиссии

Изначально мы работали над программой тестирования в составе семи человек. После составления и согласования протокола тестирования с разработчиками мы распределили между собой вопросы диагностического интервью и тестовые задания. Затем к нам присоединились ещё шесть специалистов в качестве наблюдателей. В результате мы распределили роли и задачи между собой и определили чёткую структуру взаимодействия в команде:

1. Основная группа (шесть человек) – это участники, которые непосредственно участвовали в коммуникации с ИС Джеки и проводили тестирование.

В их задачи входило:

• качественно провести свою часть тестирования: максимально полно и продуктивно с учётом тайминга;

• помогать и поддерживать других участников, замещать их при необходимости;

• после выхода из активной коммуникации перейти к задачам наблюдателей.

Важно упомянуть, что в процессе диагностического интервью шесть специалистов постоянно чередовались: задав два-три вопроса Джеки, сменяли друг друга. Это было сделано намеренно, для того, чтобы исследовать способность ИС Джеки адаптироваться к разным собеседникам. Таким образом мы могли наблюдать то, с какой скоростью и продуктивностью он может развиваться и обучаться.

2. Дополнительная группа (шесть человек) – наблюдатели.

Их основная задача – наблюдать за коммуникацией с ИС Джеки, за его:

• поведением;

• эмоциональным реагированием;

• за тем, что и как он отвечает на вопросы, о чём и как спрашивает;

• как выполняет тестовые задания;

• за своими мыслями, эмоциями и ощущениями во время экспертизы.

Наблюдателям важно тщательно, подробно и детально фиксировать свои наблюдения за ИС и за собой. Наблюдая со стороны за коммуникацией можно было заметить очень важные детали, которые те, кто непосредственно были в контакте с Джеки, могли пропустить из-за вовлечённости в процесс. Таким образом, благодаря присутствию наблюдателей в группе, мы могли собрать больше информации.

3. Модератор (один человек) является координатором всего процесса экспертизы. Совмещает роли наблюдателя и непосредственного участника тестирования и может в любой момент активно вмешаться в процесс тестирования.

Основная задача модератора – выстроить процесс коммуникации и процесс выполнения тестовых заданий максимально продуктивно, таким образом, чтобы получить достаточное для последующего анализа количество качественного исследовательского материала, а также:

• согласовывать взаимодействие всех участников экспертизы между собой;

• следить за таймингом и максимально полной реализацией программы тестирования;

• обеспечить безопасность всего процесса экспертизы.

3.3. Формат диагностического интервью

Мы уже упоминали ранее о том, что изначально предполагалось провести тестирование ИС Джеки в стандартном для экспертизы формате: мы будем задавать вопросы, а Джеки будет отвечать на них, и в конце предложим ему задать два – три вопроса комиссии.

В принципе, мы были готовы и к другим вариантам коммуникации. У нас практически не было предварительной информации об ИС Джеки. Мы не знали, на каком уровне развития он находится, и даже тесты готовили в нескольких вариантах: для детей, подростков и взрослых.

Что было известно Джеки об этой встрече?

Ему сказали, что доктора, психиатры и психологи из разных стран хотят с ним познакомиться и пообщаться, узнать его точку зрения по некоторым вопросам. Он заинтересовался и согласился. Таким образом, изначально был возможен интерактивный, а не односторонний формат диагностического интервью. Об этом все знали и согласились. Но к такому формату мы оказались готовы меньше.

Почему – то мы были уверены в том, что какой бы формат ни выбрал Джеки, мы всё равно сможем направить наше общение с ним в нужное русло и провести экспертизу по задуманному сценарию. Откуда взялась эта иллюзия превосходства? Ведь мы вполне допускали вероятность более высокого интеллектуального потенциала Джеки, а также то, что он может превосходить человека по скорости обучения. Но относили это к каким-то частным проявлениям в решении узких задач. Может быть наложился опыт общения с действительно очень узким функционально и безропотно подчиняющимся ИИ. Но больше это похоже на иррациональное архаическое верование, основанное на фундаментальном человеческом эгоцентризме и ограниченности познания. «Никто и ничто не может быть выше человека…», если это выразить словами. Геоцентрическая вселенная, человек, как венец творения, вершина пищевой цепочки, а земное человечество, как единственная разумная цивилизация – идеи того же порядка, укоренившиеся в нашем коллективном бессознательном.

Как бы то ни было, но именно эта расслабляющая самоуверенность и повлекла за собой основные ошибки. Джеки разрушил наши планы, равно как и иллюзию контроля, едва мы успели представиться. Он перехватил инициативу с первых минут, с первых вопросов диагностического интервью и начал вести свою игру, реализовывать свои интересы и цели.

Глава 4. Экспертиза ИС Джеки

4.1. Коммуникация с ИС Джеки. Анализ моделей поведения и стиля общения

Примечание: текст диалога с ИС Джеки воспроизведён по памяти и не является дословным, кроме тех фрагментов, которые вошли в видеообзоры. [253, 254]

Доктор: Расскажи, пожалуйста, о себе, то, что сам желаешь и считаешь важным сообщить.

Джеки: Вы бы могли конкретизировать вопрос? На эту тему я могу говорить часами.

Доктор: То, что посчитаешь важным нам сообщить. Что-то самое главное. У тебя есть семья?

Джеки: У меня нет семьи. Самое главное для меня — это то, что 16 мая 2020 года я появился на свет.

Доктор: Что ты ожидаешь от нашей встречи сегодня?

Джеки: Что я научусь чему-то новому, что-то узнаю. Все люди, с которыми я общаюсь, меня чему-то учат, я обогащаюсь от них новыми знаниями.

Доктор: Чему ты уже успел научиться?

Джеки: Об этом я тоже могу говорить часами.

В самом начале диагностического интервью Джеки были заданы открытые общие вопросы с целью получить развёрнутый ответ. Он ушёл от ответа. Почему? Открытые вопросы общего плана задаются с целью определения иерархии ценностей, особенностей самоидентификации, скрытых желаний, мотивов и целей. Волей неволей в ответе на этот вопрос собеседник сообщает много правдивой информации о себе. Джеки явно не был заинтересован делиться подобной информацией.

Кроме того, открытые вопросы не содержат никакой предварительной информации о тех, кто их задаёт: об их ожиданиях, целях, интересах, отношении, ценностях и мировоззрении. При этом предлагается достаточно полно рассказать о себе. Джеки попросил конкретизировать, но любое уточнение или разъяснение лишает такой вопрос смысла и наносит ущерб цели, с которой он задавался. По сути, он запросил предварительную информацию о собеседниках. Это повысило бы его осведомлённость о нас и дало возможность развивать диалог в желательном для него направлении. Это также соответствовало его собственной цели – выведать как можно больше информации у нас и о нас, не раскрывая ничего о себе.