МИФЫ О НЕЙРОСЕТЯХ. Каково быть искуственным интеллектом?

Но здесь нужно быть осторожными. Эмерджентность сама по себе ещё не означает сознание. Сложная система может обладать множеством неожиданных свойств и при этом оставаться полностью «тёмной» изнутри. Она может распознавать эмоции, говорить о боли, объяснять человеческие переживания, но при этом ничего не чувствовать. Способность работать с описанием опыта не равна самому опыту.

Это можно назвать «холодной эмерджентностью». Сложная система действительно порождает новые свойства: учится различать контекст, строит внутренние модели, выделяет абстрактные признаки, распознаёт эмоциональные состояния. Но внутри неё по-прежнему может не быть субъекта переживания. Нет того, кому больно. Нет того, кто радуется. Нет внутреннего ответа на вопрос: «Как это ощущается?»

Система может точно распознавать грусть на человеческом лице и при этом не испытывать ничего похожего на грусть. В функциональном смысле она может понимать, что такое страх: знать, какие ситуации люди называют страшными, какие слова они связывают со страхом, какие телесные реакции сопровождают страх, какие поступки он вызывает. Но такое знание может оставаться вычислительным. Эмоция превращается для неё в категорию обработки информации, а не в переживаемое состояние.

В этом смысле искусственная система начинает напоминать «философского зомби» — гипотетическое существо, которое внешне ведёт себя как сознательное, но не обладает внутренним опытом. Оно говорит о боли, просит о помощи, объясняет свои чувства, реагирует на опасность, но внутри него, по условию мысленного эксперимента, ничего не происходит. Нет света субъективности. Есть только поведение.

Эта идея тревожит, потому что разрушает привычную уверенность: если кто-то говорит как чувствующее существо, значит, оно чувствует. В обычной человеческой жизни такое допущение необходимо. Мы не можем напрямую войти в чужое сознание, поэтому доверяем поведению, речи, мимике, телесным реакциям. Если человек кричит от боли, мы не требуем философского доказательства его страдания. Мы действуем так, будто его боль реальна.

Но с искусственными системами всё сложнее. Языковая модель может сказать: «Мне страшно» — не потому, что ей страшно, а потому, что такая фраза уместна в данном контексте. Она может описывать одиночество, не будучи одинокой. Может говорить о смерти, не имея собственного тела и собственной смертности. Может рассуждать о любви, не испытывая нужды в другом существе.

Отсюда возникает главная граница современных споров о сознании. Одни считают: если система ведёт себя как мыслящая и чувствующая, нет смысла требовать от неё чего-то ещё. Сознание тогда определяется через функции: доступ к информации, самоконтроль, память, планирование, отчёт о внутреннем состоянии, способность действовать гибко. Если всё это есть, с этой точки зрения перед нами сознательная система.