Защита от злоупотребления искусственным интеллектом и нейротехнологиями в аспекте медиабезопасности

В отношении большинства других сквозных технологий специальное правовое регулирование пока отсутствует. Вместе с этим Федеральный закон от 31 июля 2020 г. № 258 «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» предполагает создание правовых условий для ускоренного появления и внедрения новых продуктов и услуг применения цифровых технологий в разных сферах (технологий ИИ, нейротехнологий, цифровых двойников и т. д.). Данный Закон позволяет ввести экспериментальный правовой режим, то есть так называемое временное специальное регулирование в целях ускоренного внедрения результатов развития цифровых технологий на практике. Речь здесь идет в первую очередь именно о сквозных технологиях.

Такие сквозные технологии, как ИИ, большие данные, блокчейн (распределенные реестры), являются ключевыми элементами цифровой трансформации различных отраслей экономики и социальной сферы. Их потенциал для ускорения внедрения инноваций велик, однако в силу отсутствия постоянного правового регулирования могут возникать постоянные правовые и этические риски. В связи с этим введение экспериментальных правовых режимов позволит адаптировать существующие правовые нормы к новым условиям, подвергать тестированию инновационные технологии в реальных условиях без риска нарушения законодательства, а также создавать правовую базу для их дальнейшего полноценного внедрения.

Одной из важных задач такого подхода является обеспечение некоего баланса между балансом стимулирования инновационной активности и защитой прав участников рынка, включая и граждан, данные которых могут использоваться в ходе экспериментов. Введение временного правового регулирования направлено, с одной стороны, на поддержку бизнеса, а с другой – на защиту принципов безопасности и конфиденциальности данных.

Приведенный подход позволяет ускорить выход на рынок новых технологий, устраняя те преграды, которые связаны с бюрократическими и правовыми барьерами. Именно оптимизация способствует быстрому внедрению инноваций, что особенно важно в стремительно развивающейся сфере технологий ИИ. При этом необходимо учитывать, что ускорение выхода на рынок не должно влиять на снижение стандартов безопасности и защиты прав граждан. Здесь следует руководствоваться сохранением баланса между быстрым внедрением технологии и ее тщательной проверкой.

Безусловно, в будущем будет разработано более детальное правовое регулирование технологий, обеспечивающее гармоничное развитие ИИ с сохранением конкурентных преимуществ и соблюдением этических и правовых норм. Мы уже сейчас наблюдаем, как законодатель работает над созданием гибкой правовой среды, способствуя и инновациям, и защите интересов общества и отдельных его категорий граждан.

Развитие и использование технологий ИИ должны основываться на ряде ключевых принципов. В первую очередь речь идет о принципах, вытекающих из Национальной стратегии развития искусственного интеллекта: защиты прав и свобод человека, безопасности, прозрачности, технологического суверенитета, целостности инновационного цикла, наиболее эффективного использования технологий ИИ, поддержки конкуренции, открытости и доступности, преемственности, защищенности, достоверности исходных данных[32].

Ключевыми целями развития технологии ИИ в Российской Федерации, определенными с учетом перечисленных принципов, являются[33]:

• обеспечение роста благосостояния и качества жизни граждан. Технологии ИИ способны трансформировать различные отрасли экономики, делая услуги более качественными и доступными, что ведет к общему улучшению условий жизни, повышению уровня доходов и созданию новых возможностей для самореализации; это достигается за счет автоматизации процессов, повышения эффективности труда и улучшения доступа к таким жизненно важным услугам, как медицина, социальная поддержка и образование;

• обеспечение национальной безопасности и правопорядка. Технологии ИИ используются для повышения эффективности работы правоохранительных органов по предотвращению преступлений, обеспечению кибербезопасности и защите важных инфраструктур (современные технологии ИИ сегодня уже помогают выявлять потенциальные криминальные угрозы на самых ранних этапах, что способствует поддержанию стабильности и безопасности в государстве; успешно расследуются преступления прошлых лет). Внедрение ИИ в системы мониторинга, анализа данных и прогнозирования поможет минимизировать внешние и внутренние угрозы;

• достижение устойчивой конкурентоспособности в отечественной экономике. Инновационные технологии способствуют росту как уже сложившихся, так и новых отраслей экономики и стимулируют ее производительность. В будущем технологии ИИ могут стать двигателем экономического роста, помогая отечественным компаниям занимать лидирующие позиции на международном рынке, а само их развитие сможет укрепить позиции Российской Федерации как одного из лидеров в этой области, что положительно скажется на росте экспорта передовых решений и услуг. Со временем технологии на основе ИИ станут главным фактором роста экономика.

Включение нейротехнологий и ИИ в перечень важнейших, основных элементов цифровой трансформации отражает их исключительную роль в развитии национальной экономики и технологической независимости. Каждая из технологий, созданная на основе ИИ, направлена на решение критически важных задач, к числу которых относятся: обеспечение технологической независимости; развитие экспортного потенциала; достижение целей импортозамещения.

В 2019 г. была разработана Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект», в соответствии с которой выделяются семь субтехнологий, развитие которых и окажет высокий уровень влияния на технологическое лидерство[34].

Компьютерное зрение – технология ИИ, отвечающая за разработку систем, способных анализировать и интерпретировать визуальные данные. Компьютерное зрение находит применение в автоматизированных производственных процессах; диагностике, применяемой в медицине; при обеспечении безопасности и обороны; в системах автономного вождения на транспорте.

Рекомендательные системы и интеллектуальные системы поддержки принятия решений – технологии ИИ, оказывающие помощь в обработке больших объемов данных и предоставляющие пользователям или компаниям персонализированные рекомендации. Такие системы позволяют значительно повысить эффективность и точность принимаемых решений, например, при использовании онлайн-услуг, постановке диагнозов в медицине; в бизнес-аналитике.

Распознавание и синтез речи – технологии, отвечающие за создание технологий, позволяющих системам ИИ понимать и генерировать речь. Все чаще такие системы используются в виртуальных ассистентах, контактных центрах, устройствах с голосовым управлением и в различных интерактивных системах. Распознавание речи в нашей стране имеет особое значение в контексте развития технологий, поддерживающих национальные языки и культурные особенности.

Обработка естественного языка (NLP) – технологии, предназначенные для анализа, последующей интерпретации и генерации человеческой речи и текстов. В настоящее время они активно используются в чат-ботах, системах автоматизированного перевода, инструментах анализа больших объемов текстовой информации, что очень важно для улучшения взаимодействия между человеком и компьютером на естественном языке.

Современные технологии ИИ включают в себя разработку новых алгоритмов, подходов на основе моделирования в области машинного обучения и знание других технологий. Это содействует созданию таких технологических систем ИИ, которые будут способны решать самые сложные задачи.

Сегодня благодаря таким алгоритмам мы уже получили, например, технологии, которые направлены на разработку устройств, способных заменить или восстановить утраченную функцию организма (в медицине, например, благодаря таким технологиям созданы искусственные конечности с обратной связью, управляемые мысленными командами, что позволяет вернуть подвижность и качество жизни людям с инвалидностью).

Такие технологии, как нейроинтерфейсы, нейростимуляция и нейросенсинг, направлены на создание прямых связей между мозгом и внешними устройствами и предоставляют большие возможности в исследовании когнитивных процессов и даже в расширении человеческих возможностей путем мониторинга и анализа активности мозга в реальном времени.

Развитие технологий играет ключевую роль в создании инновационной экосистемы, которая способна будет обеспечить технологическую независимость Российской Федерации и продвижение ее на международный рынок, предоставит возможность занять на нем лидирующие позиции в области новых технологий. Что касается сквозных технологий, то они, обладая универсальными характеристиками, могут быть интегрированы в самые разные сферы экономики, медицины, образование, государственное управление. Наиболее активно используются технологии ИИ в государственном управлении, что объясняется необходимостью оптимизации процессов принятия решений в условиях координации действий различных органов. Самый низкий уровень использования сквозных технологий наблюдается в сфере строительства, что объясняется низкой активностью частного сектора и отсутствием инвестиций. При этом возможности технологий ИИ в сфере строительства имеются и могли бы быть направлены на улучшение управления проектами, автоматизацию процессов проектирования и строительства, повышение точности выполнения задач, что в итоге привело бы к сокращению затрат.

Основными заказчиками научно-исследовательских (НИР) и опытно-конструкторских работ (ОКР) в области сквозных технологий выступают государственные фонды и федеральные органы власти, что свидетельствует об активном участии государства в содействии переходу к цифровой экономике. Именно государственные инвестиции и поддержка призваны обеспечить стабильное финансирование ключевых направлений исследований и разработок, позволяющих России оставаться конкурентоспособной страной на международной арене. Такое государственное содействие осуществляется через различные программы и стратегии, включая Программу «Цифровая экономика Российской Федерации»[35] (далее – Программа), направленную на создание условий для развития цифровых технологий, на повышение уровня цифровой грамотности населения, укрепление позиций России в глобальной технологической гонке. Принятая Программа определяет своей целью обеспечение более активного использования сквозных технологий во всех отраслях экономики, включая и те, где уровень их применения остается заметно ниже (в строительной отрасли).

Широкие возможности и универсальность сквозных технологий позволяют им становиться уникальным и ключевым инструментом как для коммерческого, так и для государственного сектора, а активное участие государства в их развитии способствует переходу России к цифровой экономике, обеспечивая высокую конкурентоспособность на международном рынке и создавая условия для дальнейшего технологического прогресса.

Взаимосвязь ИИ и нейротехнологий находит свое выражение в их общей направленности, связанной с познанием и возможным моделированием интеллекта и работы мозга человека. Изучение и воспроизводство таких сложных когнитивных процессов, как восприятие, мышление, память и принятие решений, позволяет создавать технологии, применяемые для улучшения качества жизни и решения как технологических, так и социальных, медицинских задач.

Искусственный интеллект многими специалистами рассматривается как важный инструмент для изучения мозга. При этом современные ИИ-системы воспринимают результаты нейроисследований, так как обладают передовыми когнитивными и перцептивными способностями, максимально приближенными к возможностям биологических систем, что включает такие функции, как распознавание объектов, классификация данных и принятие решений. Примером здесь служит система распознавания лиц на базе машинного обучения и компьютерного зрения, позволяющая идентифицировать или подтверждать личность человека по его лицу.

Благодаря тесной связи ИИ и нейротехнологий появляются новые методы исследования мозга и технологические решения, которые помогают лучше понять когнитивные процессы человека. Развиваются нейроинтерфейсы, позволяющие осуществлять взаимодействие между мозгом человека и внешними устройствами: инвазивные (внедряемые непосредственно в организм) нейроинтерфейсы используются для управления протезами конечностей, лечения тяжелых заболеваний (эпилепсии, болезни Паркинсона), а неинвазивные (используемые без такого внедрения) – в создании систем управления компьютерными устройствами или роботами с помощью мозговых сигналов, что позволяет улучшить качество жизни людей с ограниченными возможностями.

Примером инвазивных технологий являются чипы-импланты, которые вживляются в мозг с целью прямого взаимодействия с нейронной сетью. Такие чипы-импланты[36] позволяют мозгу напрямую управлять внешними устройствами, используя нейронные сигналы. Примером неинвазивных методов являются очки виртуальной реальности (VR)[37], которые взаимодействуют с мозгом через визуальные и сенсорные стимулы. Они активно применяются, с одной стороны, в развлекательной индустрии, образовании, в спорте при тренировках, а с другой – в медицине, в частности в терапии. Так, VR-очки могут использоваться для реабилитации пациентов с двигательными нарушениями или лечения посттравматического стрессового расстройства.

Большое количество нейротехнологий в настоящее время охватывают много направлений, которые могут взаимодействовать с человеком на совсем новом уровне – от восстановления когнитивных функций до разработки интеллектуальных систем.

Под нейротехнологиями и нейроинтерфейсами традиционно понимают интерфейс «мозг – компьютер» (BCI) – устройство, с помощью которого используется нейронная активность мозга для установления прямой связи с внешними исполнительными механизмами. Основная идея такого интерфейса «мозг – компьютер» заключается в регистрации нейронных сигналов и их преобразовании в команды для управления различными устройствами: от компьютерных программ до роботизированных систем.

Нейротехнологии и ИИ представляют собой мощные инструменты, оказывающие в современном мире значительное влияние на различные сферы человеческой жизни. Их активное внедрение в образование, медицину, экономику открывает новые возможности для повышения эффективности, улучшения качества жизни и обеспечения безопасности государства и общества. Их применение не только помогает решать сложные задачи в области медицины, образования, экономики, но и открывает перспективы для создания новых форм взаимодействия между человеком и машиной.

Интерес к сквозным нейротехнологиям со стороны частных компаний и государства способствует проведению более профильных изысканий (что и делалось в последние несколько лет) благодаря, например, таким программам, как BRAIN Initiative, организованной в США в 2013 г. в рамках изучения мозга посредством инновационных технологий, или Human Brain Project, созданной странами Европейского союза. Подобные проекты позволяют внедрять нейротехнологии практически в любую сферу жизни общества. Их необходимость и популярность объясняется тем, что с каждым годом растет политическая воля различных субъектов государственного управления. Техногенные катастрофы, эпидемии новых вирусов, старение населения и другие факторы обуславливают повышенный интерес человека к цифровым технологиям как средству решения многих проблем.

Основными направлениями дальнейшего развития нейротехнологий и ИИ становятся их интеграция в социальные и экономические процессы и разработка стандартов, которые бы гарантировали безопасное и эффективное использование данных технологий. Технологиям ИИ придается особая значимость для разработки и внедрения механизма их правового регулирования на данный момент. По мнению представителей исследовательских центров США, Великобритании, Швейцарии, Франции, Италии, иных стран, этические и правовые последствия начинающейся революции в области нейротехнологий должны рассматриваться превентивно[38].

§ 1.2. Нейротехнологии и ИИ как часть информационно-коммуникационной инфраструктуры

Анализ происходящих трансформаций социального бытия является обязательным условием эффективной реакции на них. Результаты комплексного исследования парадигмальных изменений информационной сферы общественной жизни, осуществленного с юридической и экспертной позиций, были приведены в ранее написанной авторами монографии[39]. Вместе с тем широта рассмотренной проблематики не позволила полностью сосредоточиться на вопросах изменения медиакоммуникации под влиянием ИИ и нейротехнологий; эти вопросы, на наш взгляд, заслуживают самостоятельного монографического исследования. Кратко изложим основные тезисы, описывающие цифровую медиасреду как часть информационного пространства, после чего сосредоточимся на предмете нашего исследования – влиянии вынесенных в заглавие технологий на информационно-коммуникативную деятельность, а также на ресурсы и инфраструктуру ее осуществления.

В настоящее время информационная деятельность главным образом осуществляется за счет использования технических средств (в первую очередь – обрабатывающих данные в цифровой форме), связанных друг с другом в сети и позволяющих распространять информацию среди неопределенного круга лиц. Элементы единой информационной среды (всей совокупности информации, информационных технологий и информационных систем) находятся в процессе постоянного преобразования и развития; возникают цифровая среда (часть информационной среды, представляющая собой совокупность информационных технологий и информационных систем, которые обрабатывают информацию, имеющую цифровую форму представления, а также содержащих такую информацию информационных ресурсов) и медиасреда (часть информационной среды, в которой информация вне зависимости от формы распространяется при помощи средств массовой информации и коммуникации, сокращенно – СМИ и СМК, реализованных на основе информационно-коммуникационных технологий – ИКТ).

Пересечение данных частей формирует цифровую медиасреду – наиболее динамичную и (к настоящему моменту) значимую с точки зрения эффективного осуществления информационной деятельности часть информационной среды, включающую в себя социальные сети (такие как «ВКонтакте», «Одноклассники» и др.), системы мгновенного обмена сообщениями – мессенджеры (Telegram, WhatsApp, Viber), иные ресурсы (форумы, видеохостинги, почтовые сервисы и т. д.).

Таблица 1Медиасреда, ее составные элементы и основные акты ее нормативного правового регулирования

Большая скорость научно-технического прогресса в сравнении с прогрессом социальным приводит к тому, что у людей появляются технологии, к использованию которых они не в полной мере готовы, не полностью осознают все принципиально возможные последствия их применения. Взаимодействие через цифровые СМК чревато не только приятным времяпрепровождением, но и столкновением с агрессивной пропагандой, недостоверной информационной продукцией (фейками), диффамацией, мошенниками, неприятным и незаконным контентом; «сливом» персональных данных, «взломом» и кражей личных учетных записей (аккаунтов) и т. д. Поэтому вопрос информационной безопасности (и в особенности – медиабезопасности в цифровой среде) стоит достаточно остро.

Перечисленные выше элементы цифровой медиасреды – технологии Web 2.0, связанные с распространением в Интернете по сетевому принципу разнообразного по форме и содержанию пользовательского контента на бесплатных общедоступных платформах (в соцсетях, на форумах, хостингах и проч.)[40]; все это в первую очередь подразумевает обеспечение понимания информации человеком.

Однако в результате информационной деятельности в цифровой медиасреде произошел экспоненциальный рост объема данных: если на рубеже 2010-х гг. объем всей информации в Интернете оценивался примерно в 1 зеттабайт (триллион гигабайтов)[41], то к 2022 г. его объем возрос уже до 90 зеттабайт[42]. Исследователи отмечают, что около 90 % мировой информации, существующей сегодня, было создано за последние десять лет, и сохранение таких темпов приведет к катастрофическим последствиям: в масштабах нескольких столетий энергия, необходимая для поддержания процесса создания цифровой информации, сравняется со всей энергией, которая производится сейчас на Земле, а количество битов, созданных человеком, превзойдет количество атомов на Земле[43].

Для автоматизации работы с большими данными (будь то систематизированные датасеты или же просто совокупность пользовательских данных) хорошо подходят технологии самообучающегося ИИ, в основе построения которых – созданные в процессе машинного обучения искусственные нейронные сети. Вместе с тем данные технологии могут быть приложены к любой сфере, поэтому все, у кого есть такая возможность, занялись их внедрением (в немалой степени из-за боязни проиграть в конкурентной борьбе): к примеру, недавно в Японии разработали ИИ – цифрового посредника, который перерабатывает реплики разгневанных клиентов колл-центров, «подавляя» эмоции и делая их речь менее агрессивной[44]. Разработка и внедрение таких средств является важной частью Web 3.0 (наряду с децентрализацией и внедрением блокчейн-технологий), в котором обеспечивается взаимодействие между собой и понимание данных компьютерными системами.

Позволить себе создание и дальнейшее поддержание работоспособности собственных функциональных ИИ пока могут только государства и компании с объемным финансированием, так как для этого необходимо дорогостоящее и дефицитное обеспечение:

• программно-аппаратное: значительные вычислительные мощности (включающие в себя нейронные процессоры, также называемые ИИ-ускорителями) и специализированные программные средства, многие из которых являются закрытыми (их исходный код известен только автору или иному правообладателю и недоступен иным лицам) и проприетарными (требующими приобретения лицензии);

• кадровое: квалифицированные программисты и специалисты по прикладной и математической лингвистике, способные организовать качественное обучение нейросетей обработке естественного языка, а также работе с иными данными;

• информационное: программирование либо обучение ИИ подразумевает формирование его онтологии (условно – «картины мира»), выраженной в сформированной в процессе его разработки базе знаний. Для этого необходим специальный (предназначенный для обучения ИИ под решение конкретных задач, например, создание изображений), самостоятельно собранный либо приобретенный, массив (база) данных, который будет использоваться при программировании/обучении.

Все это в комплексе может рассматриваться как фактор «цифрового неравенства»; а учитывая, что ИИ является продуктом двойного назначения стратегического характера, отставание и просчеты в его разработке и использовании являются серьезной угрозой для национальной безопасности любой страны.

По результатам проведенного исследования представляется возможным заключить, что в настоящее время ИИ в цифровой медиасреде используется в следующих качествах:

• как поисковая система, использующаяся для агрегирования, систематизации, обобщения и анализа информации с указанием источников ее получения либо без оного (так называемый виртуальный ассистент);

• как участник коммуникации – виртуальный собеседник (чат-боты, в задачу которых входит поддержание беседы с целью выполнения каких-либо функций: развлекательной, консультационной, коммерческой и т. д.);

• как инструмент, предназначенный для обработки существующих и создания новых информационных продуктов в любой форме (генеративный ИИ);

• как инструмент обеспечения межкультурной коммуникации (переводчики на базе ИИ, способные обрабатывать информацию в различной форме и осуществлять синхронный перевод).

Сложные и дорогие ИИ, обученные на большом массиве данных (такие, как ChatGPT), универсальны и могут использоваться для всех целей, перечисленных выше; более бюджетные проекты, как правило, имеют конкретную специализацию, однако ввиду этого могут лучше справляться с решением узких задач (например, с переводом).

Как любой инструмент, технологии ИИ могут быть использованы для достижения как благих, так и предосудительных целей. Хотя разработчики и предпринимают меры по ограничению возможностей их применения в противоправных целях (к примеру, для поиска и анализа информации, оборот которой ограничен законом), способность ИИ к самообучению и постоянный «творческий поиск» злоумышленников приводят к возникновению и обнаружению новых способов взлома, обхода подобных программных ограничений – так называемых джейлбрейков (от англ. jailbreak – побег из тюрьмы).

Кроме того, важно отметить, что использование средств ИИ для парсинга сайтов (автоматического сбора и обработки данных с них) позволяет создавать наборы данных, которые в дальнейшем используются как для машинного обучения, так и для аналитической работы. Вместе с тем при таком сборе данных может быть нарушен закон (в случае сбора и агрегирования конфиденциальной информации или информации, запрещенной к обороту), прямо либо косвенно затронуты интересы физических или юридических лиц. Эффективность же таких технологий заставляет задуматься о рисках, которые влечет возможность быстрого сбора информации, например персональных данных или финансовой документации.