Информационные и правовые асимметрии разумных технологий: искусственный интеллект как автономный цифровой агент в праве XXI века

Ключевые термины новой концепции. Для перехода к иной парадигме нам потребуются новые термины, чтобы чётко выражать идеи. Введём три базовых определения:

●

Автономный цифровой агент.

Под этим термином понимается система искусственного интеллекта, способная в определённых границах самостоятельно принимать решения и совершать действия, которые имеют юридическое значение или значимый фактический эффект.

Автономный

– значит, действующий без пошаговых команд человека, на основе алгоритмически заданных критериев и обученных моделей.

Цифровой агент

подчёркивает двойственность природы: он не субъект права, но выполняет роль, сходную с ролью доверенного лица или посредника в отношениях. Важно, что автономия здесь не абсолютна – она ограничена рамками задачи, поставленной человеком, и техническими параметрами системы.

●

Цифровая воля как машиночитаемое выражение воли принципала, закреплённое в цифровом мандате.

Это концепт, обозначающий

задание или цель

, поставленную человеком и воплощённую в алгоритмической форме для исполнения ИИ. Грубо говоря, цифровая воля – это

“чего хочет достичь доверитель с помощью ИИ”

, переведённое на язык машины (через код, метрики оптимизации и т.п.). Цифровая воля проистекает из воли человеческого участника (доверителя, заказчика, оператора), но после передачи ИИ приобретает относительно самостоятельное существование – машина может добиться цели

способами, не предписанными напрямую человеком

. Например, цифровая воля банкира: “минимизируй риск портфеля инвестиций” – ИИ получает эту цель и сам решает, какие сделки совершать. В нашем подходе цифровая воля – центральное звено связи между человеком и агентом-алгоритмом: она определяет пределы допустимого и именно ей должна соответствовать деятельность ИИ.

●

Куратор ИИ.

Так мы назовём субъект (физическое или юридическое лицо), который несёт ответственность за управление и надзор над автономным цифровым агентом. Куратор – своего рода гарант, что цифровая воля, воплощаемая ИИ, находится под наблюдением и при необходимости может быть скорректирована или остановлена человеком. Роль куратора чем-то похожа на роль опекуна для несовершеннолетнего или на роль руководителя проекта, отвечающего за результат работы подчинённой ему команды. Куратор не обязательно “стоит у плеча” алгоритма ежесекундно, но он обязан: а) задать корректную цифровую волю (постановку задачи, не провоцирующую незаконные действия), б) обеспечить мониторинг работы ИИ, в) вмешаться или отключить систему при признаках сбоев или злоупотреблений, г) принять на себя юридические последствия действий ИИ, как если бы действовал сам.

Именно институт куратора позволяет интегрировать автономного агента в правовое поле

: любые права и обязанности, возникающие из деятельности ИИ, связываются с куратором. Если всё идет хорошо – куратор реализует через ИИ свои права; если ИИ причиняет вред – куратор компенсирует, как если бы причинил вред его служащий или представитель.

4.3. Авторская концепция: ИИ как доверенный автономный агент.

Обобщив эти элементы, сформулируем концепцию. Предлагается рассматривать ИИ в праве по аналогии с конструкцией сложного поручения (доверенности), где ИИ – исполнитель поручения, наделённый автономией средств, но не целей. Человек (или организация) выступает доверителем и одновременно куратором, определяя цифровую волю и неся ответственность за её реализацию. Результаты действий ИИ принадлежат доверителю, аналогично тому как служебное произведение в авторском праве принадлежит работодателю, даже если фактическим создателем выступил сотрудник. Проведём прямую аналогию: если компания привлекла работника для создания отчёта, и тот подготовил его – права на текст обычно закрепляются за компанией как за работодателем (служебное произведение). Если же компания сгенерировала отчёт с помощью ИИ, по нашей модели следует исходить из того, что права на него должны принадлежать компании на тех же основаниях, как если бы это был трудовой результат. ИИ в данном случае – “цифровой сотрудник”, не имеющий собственных прав, но его вклад учитывается через права и обязанности куратора.

Таким образом, устраняется пробел: контент или изобретения, созданные с помощью ИИ, не остаются вне правового поля. Они либо охраняются, либо нет – но уже не по формальному критерию участия человека, а по критерию наличия ответственного куратора и достаточного творческого вклада последнего. Например, Бюро по авторским правам США в 2023 г. выработало процедуру: при регистрации произведения автор обязан раскрыть и исключить из защиты фрагменты, созданные ИИ без творческого редактирования человеком25[25]. Если же человек использовал ИИ как помощника и внес свой вклад, охрана предоставляется. Это совпадает с нашей идеей: человеческий куратор с творческим участием – автор; ИИ – инструмент. В Китае, кстати, уже был судебный прецедент, прямо поддержавший такую логику: суд признал за человеком авторское право на изображение, сгенерированное нейросетью по его описанию и отредактированное им, указав, что вклад человека достаточен для охраны . В обоих системах важна прозрачность: раскрытие использования ИИ и роли человека стало условием защиты прав . Это показывает жизнеспособность модели “доверенный агент” даже в действующих рамках: там, где человек проявил себя как куратор и творец, право готово признать результат его.

Кроме интеллектуальных прав, концепция автономного агента применима и к договорам и деликтам.

Договорная аналогия: ИИ – исполнитель по договору, чьи действия считаются действиями исполнителя-куратора. Значит, если консалтинговая фирма привлекла ИИ для анализа, она всё равно гарантирует качество результата как своего собственного. В договорах можно прямо прописать: “Исполнитель может применять системы ИИ для выполнения задания, оставаясь полностью ответственным за их действия, как за действия своих работников”. Такой подход уже сейчас находит отражение в передовой практике: многие компании включают в контракты условия об обязательном раскрытии применения ИИ и оговорку, что ошибки ИИ трактуются как ошибки исполнителя.

Деликтная аналогия: если ИИ причиняет вред, отвечает куратор. Это может быть реализовано через прямое закрепление в законе нового основания ответственности – ответственность куратора (владельца, оператора) за автономный алгоритм, по аналогии с ответственностью владельца источника повышенной опасности. Но, в отличие от беспечного хранения взрывоопасной вещи, речь об интеллектуальной деятельности – поэтому ответственность куратора может наступать при сочетании факторов: отсутствие должного надзора, невыполнение требований по прозрачности, некорректная постановка задачи, приведшая к вреду и т.д. Здесь мы переходим к этическим основам.

4.4. Этические основания и пределы “цифровой воли”.

Предлагаемая модель требует прочного этического фундамента, чтобы не превратить ИИ в инструмент безудержной индульгенции. Цифровая воля должна рассматриваться как производная от воли человека, ограниченная нормами права и морали. Если доверитель поручает агенту-человеку совершить преступление, тот обязан отказаться. Так же и с ИИ: недопустимо задавать алгоритму цели, требующие нарушения закона или этики. Куратор несёт моральную обязанность фильтровать свою цифровую волю. Более того, даже легитимная цель не оправдывает любых средств: ИИ должен программироваться с встроенными этическими ограничителями. Здесь уместна метафора “цифрового совести”: систему можно (и нужно) снабдить рамками, запрещающими ей выбирать пути, которые человек-куратор сам бы не выбрал из-за их безнравственности или опасности. Например, алгоритмическому торговому агенту можно встроить правило не совершать сделок, способных обрушить рынок ради сиюминутной выгоды, поскольку человеческий трейдер связан регулятивными ограничениями против манипуляций. В Великобритании рассматривалась концепция “долга благоразумия” для ИИ, когда разработчик обязан обеспечить, что ИИ-система действует в разумных пределах, не создавая обществу непропорциональных рисков26[26]. В международных принципах тоже прослеживается эта идея: ОЭСР помимо транспарентности подчёркивает принцип подотчётности – человек, применяющий ИИ, отвечает за его корректную работу и должен быть готов обосновать каждый шаг системы27[27]. Этическое измерение нашей модели в том, что куратор – не просто номинальный ответчик, но и «пастух», приручающий ИИ. Если права – базовая ценность права – должны сохраниться, ИИ необходимо сделать “добросовестным слугой”, а не бездумным исполнителем любых приказов. Куратор обязан воспитывать (через настройки и контроль) в своём цифровом агенте “послушание” законам и морали.

Конечно, полностью снять риск злоупотреблений нельзя – как и в случае с человеческими агентами. Но предложенный подход существенно сокращает пространство безответственности. Информационная асимметрия уменьшается: заказчик знает, что ИИ задействован и кто лично за ним присматривает; регулятор получает чёткое лицо – куратора – к кому предъявлять вопросы; сам куратор понимает, что не может прятаться за спину алгоритма. В следующей главе мы рассмотрим, как разные страны и организации подходят к проблеме статуса ИИ и насколько их модели соответствуют или противоречат нашей концепции. Это позволит выявить лучшие практики и общие тренды, а также критически осмыслить, почему крайности “просто вещь” и “юридический субъект” постепенно уступают месту более гибридным решениям.

Глава 5. Мировая карта правовых режимов ИИ: сравнение и критика

5.1. Подходы разных стран и международных организаций.

Правовые системы мира по-разному реагируют на вызовы ИИ. Условно можно выделить несколько стратегий регулирования: от жёсткого государственно-контролирующего (как в Китае) до рыночно-самоорганизующегося (как в США), с промежуточными вариантами (ЕС, Сингапур, Россия и др.). Также важную роль играют международные организации, формирующие soft law – рекомендации и принципы, которые влияют на национальные политики (например, ВОИС и ОЭСР). Рассмотрим кратко ключевые подходы:

●

Европейский союз (ЕС).

Евросоюз выбрал путь комплексного опережающего регулирования. В 2024 году, первым в мире, ЕС принял Акт об искусственном интеллекте (AI Act) – масштабный регламент, классифицирующий ИИ-системы по уровням риска и устанавливающий для них разные режимы. В частности, Act требует транспарентности: разработчики и провайдеры высокорисковых ИИ обязаны документировать алгоритмы, обеспечивать объяснимость и маркировать сгенерированный контент. Например, любой контент (изображение, аудио, текст), созданный или существенно изменённый ИИ, должен иметь понятную метку, указывающую на искусственное происхождение28[28]. Этот принцип – ответ на волну дипфейков и генеративных моделей: ЕС старается предотвратить обман пользователей относительно природы контента. Также Act закрепляет, что взаимодействуя с ИИ, человек имеет право знать, что перед ним машина, а не человек. Дополняя жёсткие нормы, Еврокомиссия и научное сообщество ЕС выработали рекомендации по ответственному использованию ИИ. Свежий пример – Руководство по генеративному ИИ в исследованиях (ERA Forum, 2024), где учёным советуют воздерживаться от применения ИИ в экспертных оценках (peer-review) и обязательно раскрывать использование ИИ при публикации результатов29[29]. Это подчёркивает: честность и прозрачность – краеугольные камни европейского подхода, связующие с темой доверия. По модели правосубъектности ЕС однозначен: ИИ – не субъект права, а объект регулирования. В ранних обсуждениях тема электронной личности всплывала, но финальная позиция: ответственность должна лежать на людях и компаниях, никакого «э-лица» ИИ не получают. Уровень госконтроля при этом высокий: предусмотрены надзорные органы, реестры систем, сертификация. Критикуют ЕС за излишнюю строгость (мол, затормозит инновации), но факт – Европа стремится управлять рисками заранее.

●

США

В Соединённых Штатах картина более фрагментарная. Единого федерального закона об ИИ нет, но действует множество целевых норм и инструкций. Принцип США – адаптировать существующие институты (ответственность за обман, стандарты безопасности) к новым технологиям, не создавая специальный режим для ИИ до тех пор, пока это не абсолютно необходимо. Например, вместо общего закона о маркировке ИИ-контента, в США опираются на законы о недобросовестной рекламе и защите потребителей: FTC (Федеральная торговая комиссия) открыто предупреждает, что сокрытие использования алгоритмов или ложные заявления об ИИ рассматриваются как обман потребителей30[30]. Уже были прецеденты: так, в 2023 г. юридическая фирма попала под расследование, когда выяснилось, что её рекламные материалы были написаны нейросетью с выдуманными кейсами – FTC расценила это как недопустимую практику. Вместе с тем на уровне штатов появляются первые законы: в Калифорнии принят закон (SB 942, вступает в силу с 2026 г.), обязывающий помечать все материалы, сгенерированные крупнейшими генеративными системами – фактически, локальный аналог европейских требований о маркировке31[31]. Это реакция на дипфейки и дезинформацию. В сфере найма Нью-Йорк ввёл требование уведомлять кандидатов об использовании автоматизированных систем при принятии решений о найме – забота о праве на информированность. Кроме законодательства, активно издаются гайдлайны. Управление по науке и технологиям при Белом доме выпустило «Blueprint for an AI Bill of Rights» (2022) – пока декларацию, призывающую обеспечить защиту от алгоритмической дискриминации, право на объяснение решений ИИ и возможность отказаться от взаимодействия с машиной в пользу человека. С точки зрения правового статуса США тоже не признают самостоятельной субъектности ИИ; вместо этого развивают концепцию «duty of care» и профессиональных стандартов. Например, SEC (Комиссия по ценным бумагам) ещё в 2017 г. дала рекомендации для робо-эдвайзеров (автоматических финансовых советников), потребовав предоставлять клиентам полное раскрытие алгоритмической природы услуги, принципов работы алгоритма, его ограничений и степени участия человека32[32]. То есть, фактически, законодатели идут через обязанности человека-оператора: ты можешь использовать ИИ, но будь добр объяснить клиенту, как и где, чтобы не вводить его в заблуждение. В итоге американский подход можно охарактеризовать как “soft-law first” и саморегуляция при базовом надзоре. Уровень прямого государственного контроля ниже, чем в ЕС или Китае, ставка делается на то, что судебные и регулирующие органы смогут применить гибко имеющиеся нормы (мошенничество, ответственность за продукт, профессиональная небрежность и пр.) к ситуациям с ИИ. Критики отмечают, что это создаёт неопределённость и может быть недостаточно превентивно. Сторонники же указывают, что гибкость права – залог не задушить инновации на старте.

●

Китай

Китайская Народная Республика придерживается, пожалуй, самого строгого и всеобъемлющего подхода к контролю ИИ. Здесь философия простая: технологические инновации должны развиваться под бдительным оком государства. Уже в начале 2020-х Китай внедрил ряд нормативных актов: с января 2023 года действуют правила об алгоритмической персонализации, требующие от интернет-сервисов раскрывать пользователям принципы работы рекомендательных алгоритмов и дающие право отказаться от профильтрованного контента. Также с 2023 года вступил в силу закон о синтезированном контенте: любые гиперреалистичные медиа (дипфейки) обязаны сопровождаться явной пометкой, что это результат алгоритма33[33]. Далее, в августе 2023 приняли Временные меры по управлению генеративным ИИ – по сути, первый регламент, устанавливающий требования к разработчикам генеративных моделей: регистрировать модели, проводить оценку безопасности, не допускать генерации запрещённого контента, проверять точность данных и пр. . Китай движется быстро: уже осенью 2024 опубликованы проекты Правил по маркировке всего AI-контента, которые должны вступить в силу с сентября 2025 . Эти правила вводят двухуровневую систему маркировки: все сгенерированные изображения, аудио, видео, текст должны иметь либо явную визуальную метку, либо скрытый цифровой водяной знак в метаданных . Цель – сделать так, чтобы даже при отсутствии видимой пометки технические средства позволяли установить искусственное происхождение контента. Более того, требование распространяется не только на самих создателей ИИ-контента, но и на платформы, где он распространяется: платформы должны следить, чтобы пользователи декларировали загрузку ИИ-сгенерированного материала, и автоматически его помечали. Сравнивая с ЕС и США, у Китая иная мотивация: помимо защиты от обмана, тут явственно прослеживается стремление к тотальной прослеживаемости и контролю информации. Принцип: ничто, созданное машиной, не должно скрыться от государства. Модель правосубъектности при этом сугубо объектная: ИИ – инструмент, полный контроль над которым должен быть у либо у ответственной компании, либо, в конечном счёте, у государства. Никакой речи о самостоятельных правах ИИ нет. Уровень госконтроля – максимальный: регистрация алгоритмов, сертификация, прямое вмешательство регуляторов в деятельность провайдеров. В деловом секторе это породило феномен, что китайские компании стремятся соответствовать не только букве, но и духу регулирования: внутренние кодексы предписывают сотрудникам не использовать ИИ без уведомления клиента, обязательно проверять результаты ИИ вручную перед передачей их заказчику. Таким образом, Китай формирует стандарт: скрытое применение ИИ без уведомления рассматривается как нечестная практика . Это, фактически, устанавливает новую норму добросовестности в гражданском обороте – близкую тому, о чём мы говорили в главе 2 (цифровая воля под контролем, обязательство прозрачности куратора).

●

Сингапур и другие страны Юго-Восточной Азии

Сингапур интересен тем, что активно позиционирует себя как “AI-хаб” и стремится балансировать инновации с ответственностью. Вместо жёсткого закона, Сингапур выпустил Model AI Governance Framework (2019, обновлён в 2020) – подробное руководство для организаций, как внедрять ИИ этично и прозрачно. В нём содержатся принципы, схожие с ОЭСР: транспарентность, объяснимость, человеческий надзор. Но всё это – добровольное. Правительство поощряет компании проходить сертификацию (например, программа AI Verify – тестирование систем на соответствие принципам) и делиться лучшими практиками. В итоге режим Сингапура – soft law с правительственной поддержкой: нет регламентирующего акта, но есть тесное взаимодействие между госорганами и бизнесом для саморегулирования. Уровень контроля государства умеренный: упор на то, что компании сами станут ответственными под страхом потерять репутацию и выгоды доступа к мировым рынкам (где требования растут). Другие страны региона (Южная Корея, Япония) тоже пока идут по пути рекомендаций и пилотных проектов регулирования. Например, Япония приняла “Социальные принципы ИИ” – очень общие, о человекоцентричности, и уповает на существующие законы и индустриальные стандарты. Южная Корея сконцентрировалась на вопросах ответственности в случае вреда: обсуждается необходимость поправок к законам о продуктовой ответственности и об ущербе от ИТ-систем, но без признания ИИ субъектом. В Индии и странах Африки регулирование ИИ пока на ранней стадии: в основном наблюдают за опытом ЕС/США.

5.2. Российская модель регулирования ИИ

Регулирование искусственного интеллекта в России исторически развивается по модели, которую условно можно обозначить как гибридную, осторожную и реактивную. Государство довольно рано зафиксировало, что искусственный интеллект является самостоятельным направлением технологической политики, однако долгое время избегало жесткого нормативного контура, предпочитая концепции, стратегии, экспериментальные режимы, отраслевые рекомендации и этические декларации. В этом была своя логика: искусственный интеллект менялся быстрее, чем юридический аппарат успевал вырабатывать понятия, а преждевременное регулирование могло бы заморозить рынок в тот момент, когда сами участники еще не понимали, какие практики окажутся жизнеспособными. Но у такой осторожности есть оборотная сторона: если право слишком долго остается на уровне общих принципов, фактическое регулирование начинает складываться в недрах платформ, банков, государственных информационных систем и крупных технологических компаний, то есть там, где пользователь и гражданин изначально находятся в положении слабой стороны.

Первой системной попыткой описать российский подход стала “Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года”, утвержденная распоряжением Правительства РФ от 19 августа 2020 года № 2129-р. Этот документ был именно концепцией, а не законом прямого действия: он задавал рамку будущего регулирования, фиксировал необходимость развития технологий, устранения правовой неопределенности, создания нормативных возможностей для применения систем ИИ, включая государственное управление, и осторожного поиска баланса между стимулированием инноваций и защитой охраняемых законом интересов.Уже в этом документе проявилась главная особенность российского подхода: право не столько шло впереди технологии, сколько оставляло за собой право догнать ее позднее, когда появится достаточно политической, экономической или административной причины.

Вторым шагом стал проект новой концепции развития регулирования отношений в сфере технологий искусственного интеллекта до 2030 года, подготовленный Минцифры совместно с Альянсом в сфере искусственного интеллекта в 2025 году.

Сама по себе такая логика выглядит разумной: законодатель начинает с принципов, потому что предмет регулирования подвижен, а ранняя детальная регламентация рискует устареть раньше, чем ее успеют согласовать. Но именно здесь и возникает российская странность: принципы постепенно множатся, складываются в аккуратные формулы, перекочевывают из концепции в концепцию, а прямые права гражданина, обязанности разработчика, процессуальные гарантии, правила доказывания, распределение ответственности и режим синтетического контента остаются в полутени.

На практике до появления проекта специального закона регулирование ИИ в России держалось на двух основных инструментах.

Первый - экспериментальные правовые режимы, предусмотренные Федеральным законом от 31 июля 2020 года № 258-ФЗ “Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации”, позволяющие тестировать цифровые технологии при временном изменении отдельных обязательных требований.

Второй - этические и методические документы, разработанные крупными участниками рынка, ассоциациями и регуляторами отдельных отраслей, включая банковский сектор. Такой механизм удобен для апробации, но он плохо работает как система защиты прав: экспериментальный режим по своей природе точечен, временный и разрешительный, а этический кодекс существует ровно до того момента, пока его соблюдение не начинает мешать экономическому интересу сильного участника.