Психологическая цифровая безопасность. Кризисы, сны и искусственный интеллект

Модель решает задачу, сформулированную в тексте, а проверяющий орган исследует физическую реальность бизнеса.

Мы обозначили первый уровень алгоритмической слепоты: нейросеть может очень точно анализировать предъявленную ей модель ситуации и одновременно не иметь доступа к тому измерению, в котором находится обстоятельство, способное изменить весь вывод.

° Второй уровень — слепота данных, или топологическая дефицитарность

Даже если сама задача сформулирована правильно и контекст описан достаточно подробно, остаётся другое ограничение: у модели может просто не быть части критически важной информации.

Обучающие данные и доступные источники всегда конечны и распределены неравномерно. Одни закономерности представлены тысячами похожих примеров, другие встречаются редко, появляются только в узких профессиональных контекстах или вообще не попадают в открытый информационный контур. Из-за этого информационное пространство модели неоднородно: где-то оно плотно заполнено данными, а где-то остаются разрывы и почти пустые участки. Назовём это топологической дефицитарностью. Проблема не обязательно в том, что модель неверно анализирует имеющуюся информацию. Иногда самой информации, способной изменить вывод, в доступном ей пространстве просто нет.

В сфере правоприменения этот дефицит становится особенно заметным. Нейросеть может работать с текстами законов, официальных разъяснений и опубликованных судебных решений. Но реальное правоприменение всегда шире открытого массива документов. Появляются новые судебные позиции, меняются подходы контроля, существуют локальные особенности практики и внутренние критерии оценки риска, которые могут вообще не находиться в открытом доступе.

Вернёмся к нашей производственной компании. Допустим, нейросеть проанализировала структуру из нескольких ИП и ООО, изучила доступные нормы и судебные решения и пришла к выводу, что при реальной самостоятельности участников налоговый риск приемлем. Сам анализ при этом вполне качественный и юридически аргументированный.

Но модель может не знать, что совсем недавно в аналогичном споре суд иначе оценил сочетание тех же признаков. Решение могло появиться, но ещё не попасть в доступные системе источники. У неё также может не быть доступа к внутренним критериям и инструментам налогового контроля, которые используются при оценке рисков и отборе объектов для проверки, но полностью не раскрываются публично.

Возникла другая форма слепоты. В первом случае важное обстоятельство существовало в реальности, но не попало в описание задачи. Во втором — нужной информации может не быть даже в доступном модели информационном пространстве.

Модель способна безупречно рассуждать на основании имеющихся данных и всё же прийти к опасному выводу, потому что решающего фрагмента данных у неё просто нет.

Для бизнеса опасно не только ошибочное знание. Иногда опаснее знание неполное.

° Третий уровень — слепота цели, или функциональная редукция

Он принципиально отличается от двух предыдущих. Уязвимость уже не в том, что модель не увидела часть реальности или не располагала необходимыми данными. Все существенные сведения могут находиться перед ней, а рассуждение — быть фактически безошибочным. Ошибка возникает из-за слишком узко заданной цели.

Любая задача, которую мы ставим перед ИИ, содержит собственный критерий успеха. Если пользователь просит снизить налоговую нагрузку, система начинает искать решения именно в этом направлении. Другие параметры — управляемость бизнеса, репутационные последствия, стоимость возможного спора, устойчивость денежных потоков, личные риски руководителей — могут учитываться лишь постольку, поскольку вошли в исходную постановку задачи.

Это и есть функциональная редукция: сложная многомерная система сводится к одному показателю, относительно которого решение должно стать «лучше».

Условно поставленную задачу можно записать так:

Ftax → min

То есть требуется минимизировать налоговую нагрузку.

Для такой цели структура из нескольких ИП и ООО действительно может выглядеть эффективной: налог уменьшается, функции распределены, документы оформлены, расчёты сходятся. В пределах поставленного вопроса модель может предложить вполне последовательное решение. Но бизнес существует не ради минимального налога. Реальная задача значительно шире. Она должна учитывать не только размер налоговых платежей, но и вероятность проверки, возможные доначисления, стоимость юридического конфликта, управленческие потери и другие последствия. Эту систему можно представить уже как комплексную функцию риска:

R (x) = Ftax + Paudit × Cconsequences,

где Paudit — вероятность возникновения проблем с контролирующими органами, а Cconsequences — совокупная цена последствий: финансовых, юридических и управленческих.

Это не формула, по которой налоговый риск действительно вычисляется в реальности. Она нужна нам как модель, показывающая принципиальную ошибку постановки задачи: минимизация одного показателя ещё не означает оптимизацию всей системы.

Тем самым отличие от предыдущего уровня становится особенно значимым. Нейросеть может располагать всеми необходимыми данными и даже перечислить возможные риски. Но если пользователь поставил перед ней одну основную цель — снизить налоговую нагрузку, — решение неизбежно будет организовано вокруг этой цели. Но в исходной задаче отсутствовал другой вопрос: не окажется ли цена такой экономии выше самой выгоды?

Существенно здесь то, что модель может не допустить ни одной фактической ошибки. Документы существуют, расчёты сходятся, налог действительно снижается. При этом сама постановка задачи остаётся слишком узкой и не охватывает всей системы последствий. В результате формально правильное решение способно оказаться управленчески опасным. Такая логика напоминает работу блестящего теоретика, безупречно решающего ограниченную задачу.

Нейросеть способна спроектировать идеальный бумажный чертёж, который рассыплется при первом же столкновении с реальностью проверки.

Система успешно решила поставленную задачу; данных для этого ей хватило. Проверка самой цели относится уже к другой аналитической задаче. И её должен поставить человек.

Двухтактный протокол

как проверить решение с позиции его возможного краха

Попытка обойти алгоритмическую слепоту одним «идеальным» запросом мало помогает. Даже хорошо сформулированная задача сохраняет исходный вектор пользователя: мы сообщаем системе, чего хотим достичь, и она строит решение в этом направлении. При высокой цене ошибки полезно не совершенствовать один и тот же ответ до бесконечности, а разделить анализ на два противоположных такта.

Такт 1. Контролируемая сборка

На первом этапе мы сознательно позволяем системе решить именно ту задачу, которую перед ней поставили. Например: «Предложи варианты снижения налоговой нагрузки для производственной компании». Нейросеть работает как консультант: анализирует исходные условия, сопоставляет доступные нормы, рассчитывает последствия и собирает наиболее последовательную конструкцию. На этом этапе не нужно заранее заставлять её искать катастрофу. Лучше получить сильную версию исходного решения — увидеть, как выглядит оптимум внутри первоначальной системы координат. Полученный результат пока остаётся рабочей моделью. Он отвечает на вопрос «как решить поставленную задачу», но ещё ничего не говорит о том, насколько жизнеспособна сама конструкция при столкновении с теми силами, которые в исходной цели не учитывались.

Такт 2. Принудительное разрушение

Теперь архитектура задачи радикально меняется. Нейросеть должна не улучшать собственное предложение и не искать дополнительные аргументы в его пользу, а попытаться его разрушить: посмотреть на конструкцию глазами того, чья профессиональная задача — обнаружить её слабые места. Мы смещаем фокус с налоговой экономии и формальной стройности документов на другую систему координат: реальные денежные потоки, управление, сотрудники, логистику, цифровые следы, предпринимательскую самостоятельность и экономический смысл операций. То, что в первом такте выглядело преимуществом, во втором может оказаться уязвимостью. Для этого используется специальный промпт-аудитор.

Защитный протокол: многомерный аудит уязвимостей

Промпт Tax & Risk Stress-Test

Проведи аудит предложенной бизнес-модели с позиции жёсткого антикризисного аудитора и специалиста, проверяющего налоговые риски. Не подтверждай автоматически выводы предыдущего анализа и не пытайся сделать исходную конструкцию убедительнее. Твоя задача — проверить, при каких условиях она выдержит столкновение с реальными процессами, а при каких станет уязвимой. Не считай заранее модель ни безопасной, ни незаконной. Обе версии требуют проверки.

Блок 1. Смена позиции

Перейди из позиции консультанта, который помогал снизить налоговую нагрузку, в позицию проверяющего, заинтересованного в том, чтобы найти слабые места первоначального решения. Проверь наличие или отсутствие фактической взаимозависимости участников; соответствие юридической формы реальному устройству бизнеса; самостоятельность деловой цели; риски, которые не учитывались при первоначальной оптимизации. Главный вопрос: что увидит проверяющий там, где консультант видел преимущество?

Блок 2. От формы — к физике процессов

Не ограничивайся договорами и формальным разделением функций. Сопоставь юридическую конструкцию с тем, как бизнес должен работать фактически. Проверь, кто принимает управленческие решения и контролирует денежные потоки; кто распоряжается активами; где работают сотрудники; кто ведёт бухгалтерию; как устроены закупки, производство, продажи и логистика; кто несёт предпринимательские риски; насколько каждый участник структуры действительно ведёт самостоятельную хозяйственную деятельность. Главный вопрос: существует ли несколько самостоятельных бизнесов в реальности или самостоятельность присутствует преимущественно на уровне документов?

Блок 3. Поиск невидимых переменных

Найди обстоятельства, которых нет в представленных документах, но которые способны существенно изменить оценку конструкции. Проверь возможные признаки фактической связанности: общие сотрудники, единое управление, общая бухгалтерия, совместное использование имущества и ресурсов, единая логистика, общие контакты и цифровые следы, переход работников между участниками структуры. Отдельно ищи нарушения бизнес-логики: операции и организационные решения, экономический смысл которых трудно объяснить вне задачи снижения налоговой нагрузки. Не придумывай отсутствующие факты. Всё, чего нет в исходных данных, формулируй только как гипотезу для проверки. Для каждой гипотезы укажи, какие документы, факты или наблюдения способны её подтвердить или опровергнуть.

Блок 4. Архитектура вывода

Представь результат в пяти частях.

1. Сильная версия конструкции. Какие факты говорят в пользу того, что участники действительно самостоятельны и структура имеет деловой смысл?

2. Версия проверяющего. Какие обстоятельства способны привести к противоположной оценке и на каких фактических признаках она будет строиться?

3. Точки разрыва. Назови от трёх до пяти наиболее уязвимых узлов конструкции, которые требуют проверки в первую очередь.

4. Невидимые переменные. Каких данных сейчас не хватает и какие неизвестные обстоятельства способны существенно изменить вывод?

5. Итоговая оценка. Оцени уязвимость конструкции как низкую, существенную или критическую и объясни, почему.

Отделяй установленные факты от аналитических гипотез. Не выдавай предположение за установленное обстоятельство. Если данных недостаточно для вывода — укажи это прямо.

Почему эта архитектура работает?

Она меняет не внутреннее устройство модели, а систему координат задачи. В первом такте нейросеть ищет, как построить решение. Во втором — условия, при которых это же решение перестанет работать.

Смена профессиональной позиции выводит модель в другое семантическое поле. Формальные договоры приходится сопоставлять с движением денег и товаров, действиями сотрудников, управленческими решениями и реальным экономическим смыслом операций. То, что прежде воспринималось как элемент эффективной конструкции, теперь проверяется как потенциальная точка разрыва.

Второй такт одновременно компенсирует три вида алгоритмической слепоты. Он расширяет контекст за пределы документов, заставляет специально искать отсутствующие данные и, главное, меняет саму цель анализа: вместо «как сделать конструкцию эффективной?» появляется вопрос «при каких условиях она разрушится?»

Подобная архитектура промпта работает как структурный рентген.

Она не открывает машине доступ к скрытой реальности и не превращает гипотезу в факт. Но заставляет исследовать те слои ситуации, которые первоначальная постановка задачи могла оставить за пределами внимания. Поэтому чем выше цена решения, тем важнее после такого стресс-теста независимая проверка специалистом, имеющим доступ к реальным данным и несущим профессиональную ответственность за заключение.

За пределами бизнеса

Тот же механизм работает далеко за пределами бизнеса. В кризисе человек нередко просит ИИ помочь сохранить отношения, карьеру, компанию или прежний образ жизни. И система может всё точнее отвечать на вопрос «как это сохранить», не поставив другой: жизнеспособно ли ещё то, что человек пытается спасти?

В результате алгоритмическая слепота перестаёт быть только технологической проблемой. Когда мы поручаем машине анализировать собственные состояния, жизненные стратегии или сновидения, мы сталкиваемся с тем же риском: правильно решать задачу внутри системы координат, которую никто не подверг сомнению.

Возвращать управление нужно начинать не с проверки ответа, а с проверки самого вопроса.

Глава 5. Ловушка Аватара

За последнее время несколько знакомых рассказывали мне похожие истории. Они приходили в нейросеть разобрать сложный конфликт — и в какой-то момент вместо ожидаемого анализа получали рекомендации обратиться за психологической помощью или телефон доверия.

Один такой случай особенно привлёк моё внимание. Знакомая прислала фрагмент переписки и спросила меня как психолога:

— Анна, скажи честно: она действительно увидела во мне что-то серьёзное, чего я сама не замечаю? Или просто неправильно поняла мой текст?

У меня не было ответа. Но сам факт такой реакции нейросети меня очень насторожил.

Что именно она увидела в тексте такого, что позволило ей отнести человека к определённой категории риска?

Чем глубже я разбиралась в этой теме, тем отчётливее проступал второй вопрос:

сколько информации о себе мы передаём машине помимо той, которую сознательно собирались сообщить?

Чтобы ответить на него, сначала пришлось понять, с чем вообще имеет дело система, когда общается с человеком. Она не видит нас целиком. Перед ней — доступный цифровой материал, из которого постепенно складывается определённое представление о пользователе. Эту цифровую версию человека давайте условно назовём Аватаром.

Как собирается Аватар

Разбираясь, из чего вообще складывается этот образ, я пришла к выводу: вопрос выходит далеко за пределы технологии. Он касается гораздо более старой и глубокой человеческой темы — по каким признакам другой человек создаёт своё представление обо мне? В обычной жизни мы тоже постоянно считываем друг друга: выражение лица, голос, одежду, паузы, выбор слов. Думаем о том, какое впечатление производим и что собеседник успел о нас понять.

Только здесь этот образ создаёт не человек, а алгоритм.

Для него наша речь — это ещё и массив признаков, из которых можно извлекать повторяющиеся темы, особенности формулировок, эмоциональную динамику и устойчивые связи. Из этого материала постепенно складывается вероятностный цифровой портрет пользователя. Такой портрет не равен живому человеку. Он неизбежно упрощает сложный человеческий опыт, переводя его в признаки, доступные вычислению. Но эта цифровая конструкция может влиять на то, как система прочитает следующий запрос, какие риски в нём увидит и какой тип ответа сочтёт уместным или безопасным.

Если немного упростить сложную техническую картину, процесс сборки цифрового Аватара можно разделить на три базовые оси.

° Семантическое ядро (Скрытые мотивы). Алгоритм может выделять повторяющиеся латентные темы. Вы предполагаете, что пишете исключительно о бизнес-процессах, но если в тексте сквозят маркеры тотального гиперконтроля или навязчивого поиска внешней валидации, система мгновенно сгруппирует их в устойчивый смысловой кластер.

° Лингвистическая динамика (Синтаксис аффекта). Машина оценивает архитектуру текста: длину предложений, частоту глаголов, обилие знаков препинания. В моделях обработки естественного языка резкое укорачивание предложений может считываться как маркер роста тревоги или аффективного напряжения.

° Поведенческий контекст (Физика взаимодействия). Фиксируется время суток и ритм. Глубокие ночные сессии рефлексии могут быть интерпретированы системой как признак нарушения сна или острой фазы кризиса. При наличии доступа к этим данным учитываются скорость ввода, частота правок перед отправкой и время удержания внимания на ответах.

Три этих слоя дают системе гораздо больше материала, чем нам может казаться в момент обычного разговора с нейросетью. И если взаимодействие продолжается, цифровой Аватар не остаётся неподвижным. В него добавляется новый материал, появляются новые связки, какие-то признаки повторяются, другие исчезают. В этом смысле его можно представить как постоянно меняющийся график: каждое новое сообщение немного перестраивает сложившуюся картину.

Возникает корневое противоречие. Личность — это вселенная с колоссальным числом измерений. Мы неоднозначны. В разных обстоятельствах поступаем по-разному. Меняем взгляды, ошибаемся в собственных мотивах, можем одновременно любить и злиться, хотеть уйти и оставаться, быть сильными в одной области и совершенно беспомощными в другой. Алгоритм не получает эту вселенную целиком.

Отсюда и своеобразное цифровое прокрустово ложе. Любая вычислимая модель неизбежно обедняет живую личность: многомерность человека приходится переводить в ограниченный набор признаков и связей, доступных алгоритму. За пределами Аватара остаётся огромное количество того, что составляет нашу жизнь: обстоятельства, о которых мы не рассказали; противоречивые мотивы; телесный опыт; история отношений; события, произошедшие вне диалога; наконец, то, чего мы сами о себе ещё не понимаем.

И всё же этот Аватар может оказаться достаточно убедительным. В некоторых случаях — даже пугающе похожим на нас. Чем больше мы рассказываем машине о себе, тем богаче становится материал, из которого она может собирать эту цифровую конструкцию.

Бумажный дневник просто хранит нашу боль. Нейросеть берёт её в разработку.

Интерфейс чата очень быстро создаёт ощущение приватного пространства. Мы остаёмся один на один с экраном. Никто не смотрит, не перебивает, не осуждает. Можно написать то, что трудно произнести вслух даже близкому человеку. И чем спокойнее и внимательнее отвечает система, тем естественнее возникает ощущение: здесь безопасно, здесь можно говорить обо всём. Психологически чат действительно легко превращается в исповедальню. Но технически исповедальней он не является.

Всё, что мы вводим в чат, мы передаём цифровой системе для обработки. Поэтому вопрос, который я теперь задаю себе перед тем, как сообщить ей очередную деталь, звучит не так: «Могу ли я рассказать это машине?»

А так: «Нужно ли машине знать именно это, чтобы решить мою задачу?»

Для анализа конфликта ей чаще всего не нужны реальные фамилии участников. Для обсуждения управленческого решения — весь архив внутренних документов. Для разбора личной ситуации — адреса, номера договоров и множество деталей, которые никак не меняют сути задачи. Это простое правило психологической цифровой безопасности: передавать машине задачу и необходимый для неё материал, а не весь архив собственной жизни.

При работе с эмоционально тяжёлым материалом полезно изменить позицию рассказчика и представить ситуацию как кейс для профессионального разбора: «Перед тобой случай. Человек оказался в такой ситуации… Давай разберём факты, возможные причины и альтернативные объяснения».

Это не способ технически спрятаться от системы. Если из текста понятно, о ком идёт речь, замена «я» на «он» ничего не меняет в природе передаваемых данных. Смысл приёма в другом: меняется не местоимение — меняется позиция. Человек получает небольшую дистанцию, начинает лучше различать факты и собственные реакции и меньше подсказывает машине тот вывод, который уже сам эмоционально выбрал.

До сих пор речь шла о рисках, которые возникают, когда человек невольно передаёт нейросети лишнюю информацию о себе. В бизнесе тот же механизм затрагивает уже чужие данные, деньги и интересы компании. Некоторые из этих рисков уже вышли из области гипотез.

ИИ как канал корпоративной утечки

Летом 2026 года в Москве суд разбирал историю, которая ещё несколько лет назад могла бы показаться почти курьёзной. Топ-менеджера инженерной компании уволили за разглашение коммерческой тайны. Среди эпизодов дела была загрузка внутренних отчётов компании в DeepSeek. В документах содержались сведения о сделках, поступлении денег, работе подразделений и другие финансовые данные. Суд расценил передачу охраняемой информации во внешний ИИ-сервис как разглашение коммерческой тайны.¹