Искусственный интеллект. Этика и право

Елена Ларина, Владимир Обнинский

Искусственный интеллект. Этика и право

Введение

Реализация Стратегии развития технологий искусственного интеллекта в Российской Федерации до 2030 года предполагает интеграцию всего мирового опыта на данном направлении.

В январе 2019 года на сайте ООН был представлен первый Доклад Всемирной организации интеллектуальной собственности (ВОИС), посвященный развитию искусственного интеллекта (ИИ).

С середины 50-х годов прошлого века изобретатели и исследователи подали заявки на почти 340 тысяч изобретений на основе ИИ. Более половины всех изобретений, связанных с ИИ, были запатентованы после 2013 года.

Эксперты отмечают, что в последнее время увеличилось число патентных заявок на использование ИИ в робототехнике. В 2013 году их было 622, а в 2016-м – уже 2272. Ведущее место занимает транспортный сектор: в 2016 году на его долю приходилось 8764 патента. 6684 поданных заявки были связаны со сферой коммуникаций. В медицине, где ИИ активно применяется, например, в робото-хирургии, число заявок в 2016 году достигло 4112, что на 40 % больше, чем в 2013 году. В секторе персональных устройств, вычислительной техники и взаимодействия человека с компьютером число заявок в 2016 году составило 3977, что на 36 % больше, чем в 2013 году.

В числе лидирующих направлений использования ИИ – сфера безопасности. Применение ИИ в юриспруденции находится в самой нижней строке рейтинга. Тем не менее, этому направлению в США, странах Евросоюза, Японии, Южной Корее и Китае уделяется не меньшее значение, чем применению ИИ в сферах бизнеса, промышленности, транспорте, медицине и IT.

Российские и зарубежные исследователи проблем использования ИИ в правосудии и правоохранительной деятельности нередко задаются вопросами об этичности и правомерности этого процесса. Высказываются предположения о том, что использование в правосудии ИИ таит опасность сделать человека, его права и свободы уязвимыми, а само правосудие бесчеловечным и формальным. Как отмечал на одной на одном из научных обсуждений в 2018 году начальник Управления конституционных основ уголовной юстиции Конституционного Суда России Олег Вагин, «страшно представить, что решения в отношении человека, общества или человечества будут приниматься исходя из заданности информационных технологий, следуя совету «умного» искусственного интеллекта, полагаясь на который человек сам перестает думать, анализировать, прогнозировать свое будущее, а потому деградирует в качестве разумного существа, станет беспомощным и уязвимым, зависимым и от «машины», и от того лица, которое ею управляет, ее обслуживает, модернизирует, корректирует программное обеспечение, а в конечном счете, возможно и манипулирует поведением и решениями отдельных лиц, а через них интересами многих, тем самым превращая людей в марионеток, заложников IT технологий и средств их реализации».

Для того чтобы развеять эти сомнения в мировом сообществе делаются первые шаги. Так, в декабре 2018 года Европейской Комиссией одобрена Европейская Этическая Хартия использования искусственного интеллекта в судебной и правоохранительной системах.

Кроме того, в феврале 2019 года Центр Европейских Политических исследований при Евросоюзе опубликовала доклад об этических, правовых и политических принципах регулирования развития и применения искусственного интеллекта относительно любых направлений деятельности.

В США Партнерство по искусственному интеллекту (PAI), в которое входит более 80 корпоративных разработчиков и пользователей ИИ, в начале 2019 года опубликовало отчет об алгоритмических инструментах оценки рисков в системе уголовного правосудия США.

25 мая 2019 года Организация экономического развития и сотрудничества (ОЭСР) поддержала Принципы ответственного управления надежным ИИ.

В России противники применения ИИ в судебной системе часто апеллируют к тому, что у нас не прецедентное право, поэтому нельзя основываться в судебных решениях на аналоги уголовных дел. При этом закрываются глаза на то, что судьи всегда основываются на своем прошлом опыте по делам об аналогичных составах преступления, опыте региональных судей, решениях Конституционного Суда РФ и постановлениях Президиума Верховного Суда РФ, которые по сути своей – разновидность прецедентного права.

Но технологический «ветер перемен» коснулся и российских судов. Выступая 12 февраля 2018 года на совещании – семинаре судей судов общей юрисдикции и арбитражных судов России председатель Правительства РФ Дмитрий Медведев подчеркнул, что в стране продолжается работа по цифровизации судебной системы. В банке автоматизированной системы ГАС «Правосудие» уже более 80 млн. дел. В 2018 году суды общей юрисдикции приняли более 500 тыс. заявлений в электронном виде, и более 250 тыс. заявлений поступило в арбитражные суды. Активно ведется работа по размещению в интернете решений судов. В базе данных Верховного суда уже более 600 тыс. дел.

Это только первые шаги, которые должны вести к использованию российскими судами ИИ. Многие задачи, которые выполняют юристы и адвокаты, очень трудоемкие, утомительные и дорогостоящие. При этом существует риск ошибок и неточностей в работе специалистов.

Вопрос о делегировании таких задач ИИ очень актуален. Сервисы по автоматизации поиска юридической информации и анализа документов могут сэкономить до 80 % времени юристов и до 90 % стоимости их консультаций.

Еще один драйвер внедрения ИИ в юридическую сферу – большие данные (bigdata). Это огромный массив накопленной человечеством информации: судебные решения, иски, договоры, консультации. Благодаря росту мощностей современных компьютеров, совершенствованию алгоритмов и математических моделей, появляется возможность на базе этих больших данных создавать принципиально новые продукты.

Создание и использование ИИ и БД не является попыткой заменить человека (судью, прокурора, следователя, полицейского и адвоката) в процессе принятия решений по всем направлениям судопроизводства.

Главное цель это максимальная объективность на основании БД и сокращение сроков на принятие решений или получения достоверной информации с помощью ИИ. На уже упомянутом совещании – семинаре судей Дмитрий Медведев особый акцент сделал на нагрузке судей. Если в 2017 году 33 тыс. судей страны рассмотрели 28 млн. дел, то в 2018 году уже более 31 млн. дел. Причем прогнозируется постоянный рост числа дел для рассмотрения.

Внедрение ИИ и БД – это уже вынужденная мера для обеспечения качественной и эффективной судебной защиты прав наших граждан, обеспечения доступа граждан к правосудию и их безопасности.

Глава I

Использование ИИ в судебных и правоохранительных системах

§ 1. Общий обзор

Судебная и правоохранительная сферы относятся к числу областей с наиболее продвинутым использованием искусственного интеллекта (ИИ). В 2018 г. в Соединенных Штатах «роботы-адвокаты» уже оказали услуги более чем на 1 млрд, долларов. Они помогают клиентам готовить первичную документацию и различного рода юридические документы для представления в государственные органы.

Юридические стартапы, специализирующиеся на разработке новых юридических услуг, продали юристам, юридическим службам и страховщикам услуг на 2,3 млрд, долларов. Появились также частные компании, оказывающие юридическим и физическим лицам экзотическую услугу, а именно, прогнозирование решений судов присяжных по различным делам. Данная услуга при всей своей спорности лежит в рамках законодательства штатов и поэтому получает все большее развитие.

В ряде государств, прежде всего, в Нидерландах, Германии, Франции, Австрии, Польше уже разработан чрезвычайно продвинутый подход к использованию практических приложений ИИ, прежде всего, в системе электронного документооборота, в судах и правоохранительных органах. В некоторых государствах, а именно в Нидерландах, Франции, Австрии системы ИИ, использующие глубокие нейронные сети на основе машинного обучения, взяты на вооружение правоохранительными органами крупных городов и используются для предиктивной аналитики, а также цифровых расследований.

В Великобритании главное внимание уделено использованию ИИ для поиска информации в юридических архивах и хранилищах, а также повышения эффективности электронного документооборота судебной и правоохранительной сфер.

С 2019 года китайские суды уже используют в судебных процессах и исполнении судебных решений технологии искусственного интеллекта для улучшения услуг и развития интеллектуальных судов. Об этом проинформировали в Верховном народном суде КНР в марте 2019 года.

По словам директора информационного центра Верховного народного суда Сюй Цзяньфэна, народные суды в стране будут использовать приложения для электронной подачи заявлений, продвигать мобильные электронные судебные процессы, а также создавать мобильные микросуды, позволяющие интеллектуальным приложениям охватывать все аспекты судебных процессов.

Что касается создания «умных» судов, народные суды будут сосредоточены на точном исполнении судебных решений, создании голограмм людей, находящихся под следствием, а также формировании связи с системой социального кредитования.

Одновременно с помощью технологии распознавания лиц народные суды Китая будут совершенствовать комплексные услуги и создавать базу данных для предоставления услуг по проверке личности и совместному использованию информации о гражданстве, адвокатах, предприятиях и судьях.

Китайская онлайновая судебная система, одна из публичных судебных платформ страны, обнародовала более 60 миллионов судебных документов. На платформе зарегистрировано к началу 2019 года более 20 миллиардов посещений.

В Аргентине прокуратура округа Буэнос-Айрес в 2018 году подвела промежуточные итоги эксперимента по использованию ИИ по ряду категорий гражданских и административных дел. Оказалось, что местными судьями были утверждены 100 % решений, принятых за 2018 год с помощью ИИ.

Приложение Prometea, как сообщало издательство Bloomberg, было создано 29-летним программистом Игнасио Раффой в партнерстве с офисом окружного прокурора аргентинской столицы. Раффа обучил двуязычную программу (она распознает английский и испанский языки), используя цифровую библиотеку документов: Prometea проанализировала порядка 300 тыс. отсканированных судебных решений с 2016-го по 2017 год, в том числе 2000 постановлений (в Аргентине окружные прокуроры составляют решения, а председательствующие судьи по делам либо отклоняют их и пишут свои собственные, либо просто одобряют их).

Теперь, как только новое дело попадает в прокурорскую систему, Prometea сопоставляет фактуру с наиболее релевантными решениями в своей базе данных – и это позволяет программе примерно за 10 секунд угадать, как суд отреагирует на ситуацию. Речь пока идет об относительно простых случаях, например, спорах о выдаче лицензии на перевозки такси, отказах в выплате компенсации учителям, купившим школьные принадлежности за свой счет, и т. п. В результате применения приложения прокурорские работники оказались освобождены от больших массивов рутинной деятельности. По словам главы офиса, 15 его юристов сейчас за шесть недель справляются с таким объемом работы, на который прежде им требовалось около шести месяцев, ошибки при просмотре сгенерированных компьютером файлов встречаются весьма редко. Окружной прокурор, в частности, поведал, что его сотрудники, однажды подававшие рядовую жалобу на вождение в нетрезвом виде, должны были внести в нее «39 деталей 111 раз». Теперь, формируя подобный документ в новой программе, они вносят все данные только один раз.

Высоко оценили приложение и судьи, которыми к настоящему времени одобрено 33 из 33 предложенных им решений (сейчас оно используется еще в 84 других рассматриваемых делах). По словам проводившего презентацию Prometea профессора Оксфордского университета Эсекьеля Гонсалеса, программу нельзя считать полноценной заменой интеллекту судьи-человека, однако она очень помогает служителям Фемиды, которые буквально «похоронены» в бумажной работе.

По данным Европейской Комиссии на декабрь 2018 года, судьи в государствах-членах ЕС широко и повсеместно применяют традиционный софт и сервисы, связанные с документооборотом, и вообще не используют прогнозное программное обеспечение, базирующееся на ИИ, в своей профессиональной деятельности.

По оценкам Европола, правоохранительные органы Европы, возможно, за исключением Нидерландов, отстают как минимум на 10–12 лет от Соединенных Штатов, Великобритании и Китая в использовании и прогнозной или предиктивной аналитики в практической правоохранительной деятельности, включая полицейских непосредственно на земле. В целом, использование ИИ в судебной и правоохранительной системах государств-членов ЕС крайне незначительно и относится скорее к перспективным, чем к текущим задачам.

Согласно материалам государств-членов ЕС, на начало 2019 года на государственном уровне ни в одной из стран не реализуется государственная программа цифровизации судебной системы и национальных правоохранительных органов. Все успехи европейского ИИ, за исключением Франции и выходящей из Европейского Союза Великобритании, связаны исключительно с разработками частного сектора, нацеленными на европейские адвокатские и в целом юридические фирмы.

По мнению экспертов ЕС, отставание Европы от лидеров в области ИИ имеет не только очевидные минусы, но и некоторые плюсы. В частности, при разработке и внедрении ИИ в судебную сферу можно использовать зарубежный опыт феномена «предсказательной юстиции».

В настоящее время, особенно в Соединенных Штатах, Великобритании, отчасти в Китае, Южной Корее и Японии, все шире используется система предсказательного судопроизводства и предсказательных полицейских действий. Использование предсказательной аналитики в судебной и правоохранительной сферах сталкивается в этих государствах со значительной критикой. Соответственно производители систем ИИ публикуют достаточно большой объем дынных, программ, статистики, характеризующих работу их систем. В рамках ЕС обсуждается вопрос создания межстрановой комиссии, которая могла бы на междисциплинарной основе обобщить результаты дискуссии и подготовить базис для создания европейских систем ИИ.

Столь быстрое развитие предиктивной аналитики связано не только с практическими нуждами, но и объясняется соревнованием США и Китая в области ИИ, используемого для поведенческого управления и контроля. Прогноз – важнейшая фаза поведенческого контроля, а соответственно в значительной степени предопределяет его эффективность.

Анализ американской и азиатской практики применения предиктивной судебной аналитики позволяет увидеть еще одну опасность. Не секрет, что все большее распространение в мире, в том числе в Европе, приобретает практика создания частных инвестиционных пулов, которые финансируют адвокатов в судебных процессах, где потерпевший выступает против корпораций. Особенно это связано с табачной, алкогольной, медицинскими отраслями, производителями товаров для населения. Если ранее подобного рода пулы формировались исключительно на основе экспертного анализа, то теперь они покупают услуги предиктивной судебной аналитики, рассчитывающей шансы на то или иное завершение судебного процесса.

Эксперты ЕС полагают, что в перспективе это может привести к усилению зависимости судей, присяжных и других участников судебного процесса от заранее сделанных прогнозов относительно итогов процесса, которые базируются не на каких-то предпочтениях и личных оценках, а исключительно на объективных статистических расчетах.

В этой связи в ЕС поставлена задача проанализировать, насколько целесообразно с точки зрения соблюдения прав человека разрешить или нет осуществлять подобную деятельность на территории ЕС.

Все более жестко разворачивающаяся гонка между США и Китаем в области ИИ и больших данных, которые, по сути, на наших глазах из различных областей сливаются в одну, подкрепленную интернетом вещей, позволяет разглядеть еще одну опасность. Уже сегодня очевидно, что тот, кто обладает АЮТ (ИИ + большие данные + интернет вещей) на порядок сильнее и могущественнее того, у кого этого нет. Использование полицией и судебной властью, включая прокуратуру, АЮТ делает одну из сторон судебного разбирательства на порядок более мощной и вооруженной, чем другая. Де фак-то, по мнению экспертов ЕС, это с большой вероятностью подрывает право граждан на независимый и беспристрастный суд, а также равенство сторон в судебном разбирательстве.

Эксперты ЕС полагают, что бесконтрольное использование ИИ и АЮТ в судебной и правоохранительной областях без преувеличения в короткие сроки может уничтожить важнейший европейский принцип соблюдения прав человека и состязательный характер судебного процесса. Использование АЮТ одной стороной процесса, по их мнению, сродни превращению состязания в преодолении местности между людьми в соперничестве человека и автомобиля.

Проще всего было бы запретить использование АЮТ в судебной сфере, тем более что пока в государствах ЕС ИИ применяется только в сфере повышения эффективности судебного документооборота. Однако практика использования новых технологий в мире показывает, что подобного рода запреты не работают, и любая технология получает соответствующее распространение. К тому же решения ИИ уже сегодня используются криминалом и организованной преступностью[1]. Соответственно, если правоохранительные органы и судебные системы на основе законодательных решений будут лишены АЮТ, тем самым они будут поставлены в заведомо проигрышную позицию по отношению к криминальным структурам.

Вопрос применения ИИ в судебной и правоохранительных сферах – это не вопрос технологий и информационной политики, а политическая и отчасти социально-психологическая проблема. ИИ – это вычислительная система, делающая выбор на основе статистической информации. Как правило, главная проблема, которая решается в подобных системах, это – обеспечение отражения в статистической информации фактического положения дел. Наиболее эффективный ИИ будет принимать или рекомендовать решения на основе реальных связей, зависимостей и отношений, которые выявлены на основе анализа реального положения дел.

Однако, хорошо известно, что политика базируется не на реальном положении дел, а на компромиссе между интересами, возможностями и силой, которой обладают различные группы, слои, страты общества и паттерны давления. Политическая система компромиссов имеет свое отражение и в судебной системе. Любое судебное решение – это ситуативное решение, когда закон применяется к определенной конкретной ситуации. Особенно это очевидно в британском прецедентном праве. Однако в более неявном виде ситуационный принцип реализуется и в так называемом континентальном праве.

Главная проблема использования ИИ в судебной практике это то, что ИИ базируется не на ситуационной логике, а на вычислительных процедурах. ИИ не умеет работать с контекстами. Соответственно, в каждом государстве политические силы должны прийти к компромиссу и установить, в каких сферах и в каких аспектах судебной системы и правоохранительной деятельности можно использовать ИИ, а в каких использование этого инструмента опасно для политического консенсуса.

Вопрос об использовании ИИ в судебных системах был впервые рассмотрен на уровне Европейской Комиссии в апреле 2018 г. Результаты опроса свидетельствуют о том, что министерства юстиции государств-членов ЕС сообщили, что широко пользуются как на федеральном, так и на низовом уровне инструментами ИИ. Однако при обработке результатов опроса удалось установить, что практически во всех случаях под инструментами ИИ понимались либо корпоративные информационно-аналитические системы, т. е. фактически хранилища документации, оснащенные визуализаторами и поисковиками, либо стандартные статистические пакеты, обрабатывающие стандартные цифровые данные. Ни первые, ни вторые программные комплексы не являются ИИ, а относятся к предыдущей стадии интеллектуального софта – datamining.

Приведенные ниже сведения основаны не на результатах опроса, а на исследовании в частном секторе, проведенном экспертами ЕС. Прежде всего, следует сразу уточнить, что выбраны приложения, где уже сегодня участвует хоть в какой-то степени ИИ. Под ИИ в данном случае понимаются платформы, обеспечивающие анализ и прогнозирование в судебной и правоохранительной сферах на основе обработки больших данных с использованием машинного обучения, нейронных сетей и методов распознавания образов с выводом результатов в визуальном или любом ином понятном для конечных пользователей виде. Выделяется несколько направлений практического использования ИИ в судебной и правоохранительной сферах. Конкретно речь идет о:

• продвинутых семантических корпоративных поисковых системах;

• системах поиска и анализа ситуаций, содержащихся в юридических документах;

• системах поддержки разработки юридических документов на основе автоматического генерирования шаблонов;

• системах предиктивной судебной аналитики, ориентированных на адвокатские компании;

• юридических чатботах, осуществляющих информирование сторон в ходе первоначальных контактов по тем или иным делам на естественных языках.

Первым государством ЕС, которое заявило, что приступило к изучению возможностей машинного обучения для повышения качества судебных решений, стала Латвия. Основная цель на сегодняшний день – это запуск не позднее конца 2020 г. охватывающей все судебные решения страны системы прогнозной аналитики для составления предварительной оценки людских и материальных ресурсов, которые могут быть потрачены на ведение того или иного процесса, начиная от принятия решения о начале судопроизводства и вплоть до вынесения окончательного вердикта. Фактически в Латвии собираются запустить систему предиктивной судебной аналитики, рассчитанную не на частные компании, выступающие на стороне, как правило, защиты, а в интересах государства – в основном стороны обвинения.

Наиболее широко система ИИ на сегодняшний день в государствах ЕС применяются в двух странах – Нидерландах и Франции. В остальных государствах ЕС отсутствуют национальные решения в области использования ИИ в судебной и правоохранительных сферах. В Нидерландах на сегодняшний день ИИ используется для предиктивной судебной и правоохранительной аналитики, для углубленного datamining текстовых документов и для обработки документов, включая генерирование шаблонов, в рамках электронного документооборота.

Французы создали внутренний государственный семантический поисковик, используемый судебными работниками и правоохранителями для работы с государственными базами данных и архивами судебных решений. Также во Франции юридические компании широко используют системы превентивной судебной аналитики и чатботы, поддерживающие наряду с французским, английский и арабский языки. В остальных странах национальных систем ИИ для судопроизводства выявить не удалось.

§ 2. Европейская политика в области больших данных, относящихся к судебной и правовой системам

Доступность данных является важнейшим условием развития ИИ, позволяющим ему выполнять определенные задачи, ранее выполняемые людьми. Чем больше доступных данных, тем больше ИИ может совершенствовать свои модели, улучшать их способность к распознаванию тех или иных ситуаций и прогнозированию. Поэтому подход раскрытия больших данных, относящихся к судебным решениям, является обязательным условием использования ИИ в судебной системе.

По мнению экспертов ЕС, растущее отставание большинства государств ЕС от мировых лидеров в области ИИ связано не со слабостью европейских компаний, специализирующихся в области интеллектуального софта и не с отсталостью европейской математики, а с гораздо более жесткими и запретительными по сравнению с Соединенными Штатами, Китаем и рядом других стран законами ЕС и отдельных стран в части использования, хранения и извлечения любых видов данных, имеющих отношение к гражданам Европейского Союза.

Компьютерные данные являются «нефтью» XXI века. Их использование производит новое богатство. Глобальные успехи в цифровой индустрии за последние десятилетия подтвердили огромный потенциал этой сферы деятельности, как локомотива четвертой производственной революции. Эксперты ЕС признают, что европейские страны в большинстве своем проигрывают цифровую гонку, уступая не только Соединенным Штатам и Китаю, но и Японии, Южной Корее, вышедшей из состава ЕС Великобритании и т. п.