Человек как ценность: новая теория безопасности в эпоху искусственного интеллекта

Сергей Гриняев

Человек как ценность: новая теория безопасности в эпоху искусственного интеллекта

Предисловие

Настоящая книга возникла на пересечении нескольких научных дискуссий, каждая из которых сама по себе носит острый и не завершённый характер. Первая из них — о природе безопасности человека и о том, применима ли эта концепция, сложившаяся в 1990-х годах в контексте миропорядка, сложившегося после Холодной войны, к реалиям середины 2020-х. Вторая — об этических и политических последствиях распространения систем искусственного интеллекта, которое к 2026 году приобрело характер технологического сдвига, сопоставимого по масштабу с промышленной революцией. Третья — о методологических основаниях изучения скрытых форм управления человеком в условиях, когда воздействие осуществляется не через явное принуждение, а через незаметную модификацию информационной среды.

Объединение этих дискуссий в единое аналитическое пространство продиктовано необходимостью: ни одна из них в отдельности не даёт ответа на вопрос, который стоит перед исследователем всё настойчивее — каков тот новый тип угрозы, с которым столкнулся человек в эпоху ИИ, и какие инструменты защиты здесь релевантны? Исходная гипотеза, выдвигаемая в данной работе, состоит в следующем: угроза носит одновременно структурный, культурный и психологический характер, и традиционный арсенал теорий международной безопасности — государственноцентричный, опирающийся на правовые инструменты и военно-политические категории — для её описания и нейтрализации недостаточен.

Монография не претендует на окончательность выводов. Сфера, которую она исследует, меняется быстрее, чем любой научный текст может за ней угнаться. Цель настоящего исследования иная: предложить концептуальные инструменты, позволяющие удерживать в фокусе именно человека — его достоинство, автономию, способность к моральному суждению — как центральный предмет политики безопасности в эпоху, когда на него претендуют всё более мощные и непрозрачные системы.

Как читать эту книгу

Настоящая монография представляет собой теоретико-аналитическое исследование, построенное по принципу последовательного разворачивания единой концептуальной модели — от философско-нормативных оснований к прикладной стратегии безопасности. Текст рассчитан на читателя с базовой подготовкой в области международных отношений, философии права или социальных наук, однако структура книги позволяет использовать её и в более узких, прикладных целях.

Логика построения текста. Монография организована по принципу восходящей аргументации: каждая последующая глава опирается на понятия и выводы, введённые в предыдущей. Введение задаёт постановку проблемы и цель исследования. Глава 1 формирует теоретический аппарат — категории человечности, автономии и субъектности, без которых невозможно понимание остальных разделов. Глава 2 переносит эти категории в исторический контекст, демонстрируя механизмы массового расчеловечивания на конкретном примере. Главы 3 и 4 разворачивают многоуровневую модель скрытого управления и показывают роль искусственного интеллекта как усилителя этой модели. Глава 5 переводит анализ в правовую и институциональную плоскость, выявляя пределы существующих механизмов регулирования. Глава 6 синтезирует предыдущий материал в виде интегративной стратегии безопасности, завершающейся нормативным «Кодексом защиты человечности».

Такое построение означает, что книга рассчитана прежде всего на последовательное чтение. Пропуск ранних глав затрудняет понимание терминологии и аргументации, используемой в последующих разделах.

Возможные траектории чтения. Читателю, заинтересованному в теоретических основаниях проблемы, целесообразно сосредоточиться на введении и главе 1, где определяются ключевые понятия человечности, автономии и субъектности. Читателю, работающему с историческим и социально-психологическим материалом, будет полезна глава 2, содержащая анализ механизмов подчинения, конформизма и диффузии ответственности. Специалисту по технологической политике и рискам искусственного интеллекта рекомендуется обратиться к главам 3 и 4, где рассматривается многоуровневая модель скрытого управления и технологическое усиление угроз. Практикующему юристу, регулятору или эксперту в области международного права наибольший интерес представит глава 5, посвящённая ограничениям правового и институционального подхода. Наконец, читателю, ориентированному на прикладные рекомендации и разработку политики, следует обращаться непосредственно к главе 6, где представлена интегративная модель безопасности и нормативный кодекс.

Работа со вспомогательными элементами. В тексте книги использованы вспомогательные элементы, облегчающие навигацию и восприятие материала. Подразделы внутри глав выделяют отдельные содержательные блоки и могут использоваться как самостоятельные единицы для точечного обращения к конкретной теме. Иллюстративные схемы, сопровождающие каждую главу, предназначены для визуального обобщения ключевых моделей и не заменяют текстового изложения, а служат для его закрепления. Литературные вставки, размещённые в отдельных главах, выполняют иную функцию: они не содержат новой аналитической информации, а призваны образно передать эмоциональное и экзистенциальное измерение рассматриваемых процессов.

Терминологические пояснения. Поскольку монография вводит ряд авторских теоретических конструкций — в частности, представление о человечестве как «информационной экосистеме» и модель четырёхуровневого скрытого управления, — рекомендуется при первом чтении обращать особое внимание на разделы, где эти понятия определяются впервые. Последующее использование данных терминов в тексте опирается на значения, установленные в главах 1 и 3, и не сопровождается повторным разъяснением.

Источники и научный аппарат. Все фактические утверждения, статистические данные и ссылки на международные документы сопровождаются указаниями на источники, приведённые в соответствующих разделах текста. Читателю, заинтересованному в дальнейшей проверке или углублённом изучении отдельных вопросов, рекомендуется обращаться непосредственно к цитируемым первоисточникам — докладам международных организаций, нормативным актам и научным публикациям, перечисленным по тексту книги.

Все иллюстрации подготовлены при содействии ИИ-ассистента.

Введение

Постановка проблемы

Современная техногенная цивилизация вступила в фазу, при которой положение человека в структуре социальной реальности принципиально меняется. Человек перестаёт быть единственным и центральным носителем труда, знания и ответственности — он всё чаще оказывается в положении конкурента или дополнения по отношению к искусственным системам, превосходящим его по скорости обработки информации, объёму памяти и устойчивости к нагрузкам. Особую значимость приобретает тот факт, что совокупное наследие человеческой цивилизации — как материальное, так и духовное — массово используется для обучения систем искусственного интеллекта. Практически весь доступный корпус текстов, изображений, звуков, программного кода и иных форм символической деятельности превращён в обучающую среду для ИИ-моделей.

В этом смысле человечество всё более выступает информационной экосистемой: средой, в которой искусственные системы возникают, развиваются и адаптируются. Человеческая деятельность — общение, творчество, поведение в цифровой среде — редуцируется до потока данных, из которых ИИ извлекает закономерности и строит модели, затем используемые для управления теми же людьми. Возникает своеобразный замкнутый контур: человек создаёт культурную и информационную среду → на ней обучается ИИ → ИИ начинает участвовать в структурировании человеческой реальности. Подобная конфигурация порождает угрозу нового типа, которую традиционные концепции безопасности человека не охватывают.

Масштаб технологических изменений подтверждают актуальные данные. По оценкам Gallup, к 2025 году доля американских работников, регулярно использующих ИИ в профессиональной деятельности, возросла с 13% до 28%

в течение одного года. Компании из списка Fortune 500 сокращают административный персонал в пользу ИИ-агентов, способных выполнять задачи аналитики, коммуникации и принятия оперативных решений. Агентство DARPA в 2018–2023 годах инвестировало около 2 млрд долл. только в программу AI Next — разработку алгоритмов нового поколения с возможностями объяснимого ИИ, непрерывного обучения и моделирования здравого смысла. Министерство обороны США заключило соглашения с OpenAI, Google, Microsoft, Amazon, Nvidia и рядом других технологических компаний на развёртывание крупных языковых моделей в засекреченных военных сетях. Концепция Pax Silica, описывающая формирование нового мирового порядка под управлением нескольких технологических платформ, перестала быть метафорой и превратилась в объект аналитики ведущих мировых изданий.

На этом фоне вопрос о безопасности человека приобретает новое измерение: речь идёт не только о защите от физического насилия или экономической уязвимости, но и о защите самой способности человека быть субъектом — носителем автономии, морального суждения и человечности как нормативного качества.

Цель и задачи исследования

Цель настоящего исследования состоит в теоретическом описании структуры угроз человечности в эпоху ИИ и обосновании принципов новой интегральной стратегии безопасности человека. Для достижения этой цели решаются следующие задачи: концептуализация категорий человечности, автономии и субъектности в нормативном ключе; построение многоуровневой модели скрытого управления человеком с учётом роли ИИ как усилителя; историко-аналитическое исследование механизмов массовой деградации человечности; выявление ограничений правовых и институциональных подходов; формулирование принципов новой стратегии безопасности.

Методология

Исследование опирается на синтез нескольких методологических подходов. Нормативно-аналитический метод применяется для концептуализации человечности и автономии как ценностных категорий, составляющих предмет защиты. Сравнительно-исторический анализ используется для выявления устойчивых механизмов деградации человечности на примере исторических кейсов. Системный анализ применяется при построении многоуровневой модели управления. Технологический анализ на основе верифицированных данных о развитии ИИ-систем позволяет описать специфику современных угроз. Критический дискурс-анализ применяется для выявления механизмов нормализации дегуманизирующих практик в публичном пространстве.

Теоретическая база

Концепция безопасности человека, введённая в международный дискурс в Докладе ПРООН о развитии человека 1994 года, понимает безопасность как свободу от нужды и страха. Настоящая монография расширяет это понимание: к традиционным измерениям — экономическому, продовольственному, здоровью, личной безопасности, экологическому, общественному и политическому — добавляется восьмое: защита от утраты человечности и субъектности под воздействием технологических систем. Это расширение не риторическое — оно продиктовано логикой технологического развития, при котором человек рискует стать ресурсом систем, которые он создал, но не контролирует.

Глава 1. Теоретические основания: человечность, автономия, субъектность

1.1. Человечность как нормативное содержание человеческого

Понятие человечности в данном исследовании употребляется не в биологическом, а в нормативном смысле. Человечность — это качество человеческого существования, которое включает признание другого человека как равной ценности и не средства; способность к эмпатии и сопереживанию; наличие внутреннего морального различения; готовность принимать ответственность за собственные действия. Человечность, таким образом, является условием возможности этики и права: без признания другого как субъекта невозможно ни подлинное право, ни подлинная мораль.

Это нормативное определение принципиально отличается от подходов, понимающих человечность исключительно через биологические признаки Homo sapiens. Биологический редукционизм уязвим именно в контексте ИИ: биологический вид может сохраняться, тогда как его нормативные качества — способность к моральному суждению, эмпатия, автономия — могут систематически подавляться. Именно поэтому защита человечности как нормативной характеристики самостоятельно стоит как задача политики безопасности.

В современном контексте угрозу человечности создаёт прежде всего тенденция к редукции человека до носителя данных, источника внимания или элемента производственной и управленческой инфраструктуры. Чем сильнее усиливается эта редукция, тем слабее в практике — и в правовом регулировании, и в корпоративных стандартах, и в культурных нормах — закрепляется признание человека как цели, а не средства. Технологические системы, обученные на поведенческих данных людей и применяемые для управления их поведением, не нейтральны по отношению к этой тенденции: они встраиваются в неё, усиливают её и легитимизируют её через авторитет «объективного» алгоритмического вывода.

1.1.1. Инструментализация человека в эпоху больших данных

Переход к экономике данных изменил сами условия, при которых человек оказывается объектом инструментализации. Если в индустриальную эпоху человек использовался как физическая рабочая сила, то в цифровую — как источник данных о поведении, предпочтениях и реакциях. Персонализированный таргетинг, поведенческое моделирование, управление вниманием через алгоритмические ленты — всё это инструменты, целенаправленно оптимизирующие человеческое поведение в интересах платформ, рекламодателей или политических акторов. Принципиально важно, что эти инструменты действуют скрыто: пользователь платформы, как правило, не осознаёт, что алгоритм формирует его информационную среду не в интересах его развития, а в интересах максимизации вовлечённости.

В рамках этой логики человеческая активность приобретает двойной статус. С одной стороны, она остаётся формой самовыражения, коммуникации, творчества и участия в общественной жизни. С другой стороны, та же самая активность становится сырьём для цифровых платформ, алгоритмических систем и моделей машинного обучения, извлекающих из неё коммерчески и политически значимые закономерности. Просмотр страницы, пауза перед видео, интонация сообщения, маршрут перемещения, ритм покупок, длительность чтения текста — всё это превращается в данные, пригодные для обработки, анализа и прогнозирования. Тем самым повседневная жизнь человека перестаёт быть только областью его частного существования и становится элементом инфраструктуры вычисления.

Существенно, что инструментализация в условиях больших данных не всегда носит принудительный или явно насильственный характер. Напротив, её эффективность во многом обеспечивается тем, что она встроена в привычные практики удобства, персонализации и цифрового комфорта. Пользователь получает сервис, быстрый доступ к информации, рекомендации, навигацию, автоматизацию рутинных действий. Однако плата за это удобство часто выражается не только в передаче отдельных персональных данных, но и в более глубокой утрате контроля над тем, как его поведение фиксируется, интерпретируется и используется. Человек оказывается включён в асимметричную систему обмена, где объём собираемой о нём информации и масштабы её вторичного использования несоразмерны его реальному пониманию происходящего.

Именно здесь проявляется ключевая особенность современной инструментализации: объектом извлечения становится не только то, что человек знает или производит, но и то, как он чувствует, реагирует, колеблется, ошибается, боится и желает. Большие данные ценны не потому, что они фиксируют уже завершённые действия, а потому, что позволяют строить вероятностные модели будущего поведения. В этом смысле цифровая экономика стремится не только описывать человека, но и предвосхищать его решения, а затем и мягко направлять их в нужную сторону. Предсказание и воздействие оказываются двумя сторонами одной и той же логики.

Такое положение имеет прямые последствия для нормативного статуса личности. Там, где человек рассматривается прежде всего как массив данных, его достоинство и уникальность уступают место статистической репрезентации. Индивидуальное суждение, моральное колебание, внутренняя работа сознания плохо поддаются формализации и потому вытесняются моделями вероятности, профилями риска и сегментами целевой аудитории. В результате управленческие и коммерческие системы начинают иметь дело не с человеком как с носителем внутренней ценности, а с его вычислимым двойником — цифровым профилем, пригодным для сортировки, ранжирования и поведенческой настройки. Это и есть одна из центральных форм расчеловечивания в цифровую эпоху.

Особую роль в этом процессе играют платформенные архитектуры, организующие внимание пользователя как экономический ресурс. Внимание становится не побочным эффектом участия в коммуникации, а объектом целенаправленной конкуренции, инженерии и эксплуатации. Алгоритмические ленты, механизмы рекомендаций, уведомления, автозапуск контента, адаптивная подача сообщений — все эти инструменты конструируются так, чтобы удерживать человека внутри платформы максимально долго и максимально предсказуемо. При этом интересы пользователя и интересы платформы совпадают лишь частично. Пользователь может стремиться к знанию, общению или отдыху, тогда как платформа оптимизирует метрики удержания, вовлечённости и монетизации. Следовательно, уже на уровне повседневного интерфейса закладывается конфликт между человеческими целями и логикой системы.

Когда-то человеку казалось, что его главное отличие от мира вещей очевидно и не требует доказательств. Камень лежит, дерево растёт, машина работает, а человек помнит, любит, стыдится, отвечает за поступки и может остановить собственную руку, если она поднята во зло. Но новая эпоха принесла иную оптику. Теперь человека всё чаще рассматривают как носитель сигнала, как узел данных, как совокупность реакций, привычек, предпочтений и уязвимостей. В гигантских хранилищах цифровой цивилизации он распадается на следы: фразы, маршруты, покупки, паузы, интонации, тревоги. И в этом распаде возникает соблазн забыть главное: личность не сводится к сумме своих проявлений. Человечность начинается там, где другой перестаёт быть функцией и вновь становится тем, кому нельзя причинять зло лишь потому, что это удобно, выгодно или рационально. Именно с этого отказа от редукции и начинается подлинная безопасность человека.

Важнейшим следствием этого конфликта становится смещение представления о человеке от субъекта к функции. В цифровой среде он начинает оцениваться через показатели кликабельности, конверсии, отклика, времени удержания, платёжеспособности, вероятности согласия или отказа. Эта оценка может быть технически изощрённой и статистически точной, но именно поэтому она особенно опасна: она создаёт иллюзию нейтрального знания о человеке, скрывая тот факт, что речь идёт о редукции личности до набора операциональных параметров. Чем больше сфер жизни подчиняется подобной логике, тем слабее сохраняется культурная привычка воспринимать человека как цель, а не как средство.

Инструментализация усиливается и тем, что цифровой след человека редко ограничивается одной платформой или одной функцией. Данные агрегируются, сопоставляются и перепрофилируются. Информация, собранная для улучшения сервиса, может использоваться для маркетингового таргетинга, алгоритмической оценки благонадёжности, политического моделирования или обучения универсальных ИИ-систем. Таким образом, человек предоставляет данные в одном контексте, а последствия их применения проявляются в совершенно другом. Именно эта контекстуальная разорванность создаёт фундаментальную уязвимость: субъект не в состоянии проследить цепочку преобразований, в рамках которой его жизненный опыт становится материалом для внешних решений о нём самом.

В условиях распространения искусственного интеллекта указанная проблема приобретает ещё более острый характер. Большие массивы человеческих текстов, изображений, голосов, паттернов общения и поведения используются не просто для статистического анализа, а для обучения моделей, способных воспроизводить, комбинировать и масштабировать усвоенные закономерности. Следовательно, человек становится не только объектом цифрового наблюдения, но и средой формирования новых когнитивных инструментов власти. Его повседневность превращается в обучающий субстрат. Затем эти системы возвращаются к нему в форме цифровых ассистентов, рекомендательных механизмов, автоматизированных фильтров, систем оценки и управления. Возникает замкнутый контур, в котором человек одновременно производит материал для системы и подвергается обратному воздействию этой системы.

Здесь необходимо подчеркнуть, что инструментализация не сводится к нарушению приватности в узком смысле. Приватность — лишь один, хотя и важный, аспект проблемы. Более широкий вопрос состоит в изменении самого способа социального видения человека. Когда социальные институты, корпорации и государственные структуры начинают воспринимать человека прежде всего через его данные, меняется и критерий значимости. Ценится уже не личность как таковая, а её полезность для модели, рынка, безопасности, прогнозирования или автоматизированного администрирования. В этом смысле большие данные формируют не только новый технологический режим, но и новую морально-политическую оптику.

Особенно опасной становится нормализация этой оптики. Чем привычнее общество относится к постоянному извлечению данных, тем менее заметной становится сама утрата субъектности. Человек привыкает к тому, что его предпочтения предугадываются, реакции тестируются, контакты анализируются, а среда вокруг него персонализируется без его явного запроса. Постепенно формируется тип цифровой повседневности, в которой внешнее управление воспринимается как сервис, а ограничение автономии — как цена удобства. Именно в этом состоит качественное отличие современной инструментализации от более грубых исторических форм эксплуатации: она часто не переживается как насилие, поскольку маскируется под эффективность, помощь и индивидуальную настройку среды.

С научной точки зрения это требует пересмотра традиционных представлений о безопасности человека. Если ранее угроза связывалась главным образом с физическим насилием, бедностью, репрессией или войной, то в условиях больших данных возникает дополнительный уровень риска — риск утраты человеком статуса самостоятельного центра оценки и выбора. Безопасность в таком контексте должна включать защиту от тех форм цифровой организации среды, которые делают личность полностью просчитываемой, направляемой и функционально заменимой. Речь идёт не о романтическом отрицании технологий, а о признании того факта, что не всякая технологическая эффективность совместима с сохранением человечности.

Таким образом, инструментализация человека в эпоху больших данных представляет собой системный процесс, в рамках которого человеческая жизнь переводится в формат вычислимого ресурса. Этот процесс затрагивает не только сферу экономики, но и культуру, политику, право и повседневную психологию. Его главная опасность состоит в том, что он подрывает фундаментальное различие между человеком как субъектом и человеком как материалом для управления. В условиях, когда именно это различие начинает стираться, задача защиты человечности становится не факультативным этическим пожеланием, а необходимым элементом новой теории безопасности человека.

1.2. Автономия как реалистическая форма свободы воли

Метафизически свободная воля в строгом философском смысле остаётся предметом дискуссии. Исходной предпосылкой настоящего исследования является отказ от упрощённого понимания свободы воли как абсолютной независимости человеческого решения от каких-либо внешних и внутренних причин. Подобное понимание плохо совместимо с современными данными психологии, нейронаук и социальных наук, показывающими, что человеческое поведение всегда формируется в поле множественных детерминант. Биологические особенности организма, эмоциональные состояния, травматический опыт, семейные сценарии, групповые нормы, экономические обстоятельства, культурные коды и технологическая среда — все эти факторы воздействуют на процесс выбора. Поэтому метафизически свободная воля в строгом смысле оказывается не столько рабочей аналитической категорией, сколько предметом философского спора.