Аналитическая справка «Изучение опыта зарубежных стран по использованию искусственного интеллекта в оценке качества судебного решения» (Академия правосудия при Верховном Суде Республики Казахстан)

АНАЛИТИЧЕСКАЯ СПРАВКА

по пп. 3) п.2. раздела 1 протокольного решения онлайн-заседания

Международного совета при Верховном Суде Республики Казахстан,

принятого 5 июня 2020 года (протокол № 9)

тема: Изучение опыта зарубежных стран по использованию искусственного интеллекта в оценке качества судебного решения.

Оглавление

1. Общие положения

2. Предстоящие изменения в законодательстве по искусственному интеллекту

3. Международный опыт по использованию искусственного интеллекта в судебной деятельности

1. Общие положения

Во исполнение Протокола онлайн-заседания Международного Совета при Верховном Суде Республики Казахстан № 9 от 5 июня 2020 года изучен зарубежный опыт (в том числе опыт Нидерландов) на тему: «Использование искусственного интеллекта в оценке качества судебного решения».

Цель. На основе анализа передового зарубежного опыта выработать и обсудить предложения и рекомендации по использованию искусственного интеллекта в оценке качества судебного решения.

Актуальность темы исследования.

Развитие информационных систем, помогающих человеку принимать решения, началось с появления в 1950-х годах экспертных систем, описывающих алгоритм действий по выбору решения в зависимости от конкретных условий. На смену экспертным системам пришло машинное обучение, благодаря которому информационные системы самостоятельно формируют правила и находят решение на основе анализа зависимостей, используя исходные наборы данных (без предварительного составления человеком перечня возможных решений), что позволяет говорить о появлении искусственного интеллекта.

Технологические решения, разработанные с использованием методов машинного обучения, являются примером искусственного интеллекта, способного решать только узкоспециализированные задачи (слабый искусственный интеллект). Создание универсального (сильного) искусственного интеллекта, способного, подобно человеку, решать различные задачи, мыслить, взаимодействовать и адаптироваться к изменяющимся условиям, является сложной научно-технической проблемой, решение которой находится на пересечении различных сфер научного знания - естественно-научной, технической и социально-гуманитарной. Решение этой проблемы может привести не только к позитивным изменениям в ключевых сферах жизнедеятельности, но и к негативным последствиям, вызванным социальными и технологическими изменениями, которые сопутствуют развитию технологий искусственного интеллекта.

В последние годы в экспертной среде все чаще обсуждается вопрос о том, можно ли, используя искусственный интеллект, автоматизировать весь процесс отправления правосудия, в том числе заменить судью системой универсального (сильного) искусственного интеллекта, способного анализировать фактические обстоятельства дела, давать им правовую оценку и выносить соответствующее решение.

В декабре 2018 года появился первый международный акт, специально посвященный использованию искусственного интеллекта в правосудии, - это Европейская этическая хартия о применении искусственного интеллекта в судебных системах и окружающих их реалиях, утвержденная Европейской комиссией по эффективности правосудия Совета Европы.

В хартии сформулировано пять принципов применения искусственного интеллекта:

1. Принцип соблюдения основных прав: обеспечить разработку и применение инструментов и услуг, основанных на искусственном интеллекте, соответствующих основным правам.

2. Принцип не дискриминации: а именно, предупреждать развитие или усиление дискриминации между отдельными лицами или группами лиц.

3. Принцип качества и безопасности: касательно обработки судебных решений и данных, использовать сертифицированные источники и нематериальные данные с применением моделей, разработанных на междисциплинарной основе, в безопасной технологической среде.

4. Принцип прозрачности, беспристрастности и достоверности: сделать доступными и понятными методы обработки данных, разрешить проведение внешнего аудита.

5. Принцип контроля пользователем: отказаться от предписывающего подхода и позволить пользователю выступать информированным участником и контролировать свой выбор.

Учитывая ратификацию Казахстаном международных документов в этой области и необходимость выполнения взятых на себя обязательств, возникла потребность в изучении международного опыта по использованию искусственного интеллекта в оценке качества судебного решения.

2. Предстоящие изменения в законодательстве по искусственному интеллекту

Проект Закона Республики Казахстан «О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам регулирования цифровых технологий». Проект Закона Республики Казахстан «О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам регулирования цифровых технологий» подготовлен в целях выполнения поручения Правительства Республики Казахстан, в части правового регулирования цифровых технологий и реализации Государственной программы «Цифровой Казахстан».

Изменения в законодательство нужны для уточнения действующих норм общественных отношений, связанных с применением цифровых технологий (это технологии блокчейн, открытые данные, yellow pages rales, роботизация и беспилотный транспорт, биометрическая аутентификация, краудфандинг, большие данные, регулятивные песочницы, единая лицензионная политика, интернет-вещи, искусственный интеллект).

В закон об информатизации вводятся понятия:

• блокчейн - метод создания, хранения, обработки и передачи информации, основанный на выстроенной по определённым правилам непрерывной последовательной цепочке блоков (связный список), содержащих информацию;

• майнинг - процесс создания блоков транзакций в блокчейне путём решения криптографических задач с целью получения вознаграждения.

При внедрении новых технологий, таких как токен (заменитель ценных бумаг в цифровом мире) и блокчейн, и связанных с ними новых видов деятельности, таких как майнинг, правовое поле необходимо для защиты имущественных прав в новых правоотношениях и для общего позиционирования государства как прогрессивного правового режима, адаптированного к новым технологиям.

Законопроект нацелен на развитие открытых данных - площадки, где размещаются общедоступные данные государственных органов в электронном виде без ограничений авторского права, патентов и других механизмов контроля.

Государственные органы хранят огромный объём информации, которая остаётся в архивах и не получает никакого вторичного применения. При правильном использовании эта информация может приносить большую выгоду. Смысл открытых данных в том, чтобы сведения государственных органов не хранились в их стенах бесполезным грузом, а публиковались в общем доступе на едином ресурсе.

В Предпринимательский кодекс МИК хочет внести изменения под общим названием yellow pages rules.

Суть yellow pages rules заключается в создании условий для поддержания здоровой конкурентной среды с ограничением создания дочерних структур госкомпаниями и исключения вмешательства государства в те сферы экономики, где представлен бизнес.

Это правило получило своё название от жёлтого справочника, посредством которого определялись компании, оказывающие услуги, аналогичные государственным.

ИТ-рынок ущемлён в справедливом и открытом участии в государственных закупках способом открытого конкурса. Поэтому возникла необходимость в ограничении ИТ-деятельности, проводимой субъектами квазигосударственного сектора.

Согласно предлагаемым изменениям, «не допускается создание или развитие объектов информатизации государственными предприятиями, юридическими лицами, более 50% акций которых принадлежат государству, и аффилированными с ними лицами».

Изменения затрагивают и регулирование правовых отношений в робототехнике. При возникновении какой-либо ситуации с участием робота в Казахстане до сих пор применялись общие принципы и нормы права.

В Кодексе о здоровье народа закрепляется понятие «умный робот» (автоматическое устройство, действующее по заранее заложенной программе, которое способно воспринимать окружающую среду, распознавать обстоятельства, в которых оно функционирует), а также прописывается, что виртуальные и дополненные реальности должны минимизировать риск психологического ущерба для пользователей, а также в зависимости от контента иметь возрастные ограничения.

МИК также предлагает пересмотреть требования к электронной подписи, снять ограничения по применению биометрической аутентификации в электронном документе.

В законопроекте прописаны положения по краудфандингу (коллективное сотрудничество людей, которые добровольно объединяют свои деньги вместе, чтобы поддержать усилия других людей). Так, на уровне нормативно-правовых актов хотят прописать, что деятельность по микроинвестированию не является индивидуальным предпринимательством и, соответственно, не требует государственной регистрации в качестве ИП.

Для стимулирования индивидуальных венчурных инвесторов (бизнес-ангелов) предлагается предоставить им налоговые преференции.

Законопроект предусматривает введение в Казахстане так называемых регулятивных песочниц. Это правила, которые позволяют инновационным компаниям протестировать свои продукты и услуги в контролируемой среде, без риска нарушить законодательство.

Цель создания «песочницы» в том, чтобы найти баланс между продвижением инноваций и защитой прав потребителей.

Лицензионное программное обеспечение, в случае принятия законопроекта, все госорганы будут покупать централизованно, а не разрозненно, как сейчас. МИК предлагает создать единого провайдера, который обеспечит все государственные органы лицензионными программами по максимально сниженной стоимости за счёт больших объёмов госзакупок.

Министерство информации предлагает, основываясь на концепции «интернет вещей», интегрировать все города в одну уникальную сеть - «интернет всего».

Это позволит видеть общую картину, извлекать общереспубликанские данные и принимать решения на основе того, что происходит в реальном времени.

Вопросы использования искусственного интеллекта могут регулироваться «Европейской этической хартией о применении искусственного интеллекта в судебных системах и окружающих их реалиях».

3. Международный опыт по использованию искусственного интеллекта в судебной деятельности

Введение

Судебная и правоохранительная сферы относятся к числу областей с наиболее продвинутым использованием искусственного интеллекта (ИИ). Ожидания от инноваций в судебной системе высоки: по подсчетам агентства Bloomberg, инвесторы высоко оценили потенциал этого сектора LegalTech и только в третьем квартале 2019 года вложили в него более $150 миллионов. Технологии виртуальных судов призваны улучшить доступ всех слоев населения к правосудию, ускорить процесс рассмотрения дел и повысить эффективность судебной системы в целом. Как ведущие экономики мира разрабатывают и принимают многоэтапные стратегии по цифровой трансформации судебной системы и для чего необходимо внедрение платформенных решений в судоустройство, выяснял ipquorum.ru.

В ряде государств, прежде всего, в Нидерландах, Германии, Франции, Австрии, Польше уже разработан чрезвычайно продвинутый подход к использованию практических приложений ИИ, прежде всего, в системе электронного документооборота, в судах и правоохранительных органах. В некоторых государствах, а именно в Нидерландах, Франции, Австрии системы ИИ, использующие глубокие нейронные сети на основе машинного обучения, взяты на вооружение правоохранительными органами крупных городов и используются для предиктивной аналитики, а также цифровых расследований. Нейронная сеть также может быть применена по отношению к существующим и действующим нормативным правовым актам для обнаружения дефектов, таких как, например, коррупциогенные факторы. Примером может служить система Expertisze, разработанная Koerdelaas для Нидерландов еще в 1993 году.

Опыт США

В 2018 г. в Соединенных Штатах «роботы-адвокаты» уже оказали услуги более чем на 1 млрд долларов. Они помогают клиентам готовить первичную документацию и различного рода юридические документы для представления в государственные органы. В США в 2016 году создан алгоритм, который способен предсказать верное решение Верховного суда США в 70% случаев.

Юридические стартапы, специализирующиеся на разработке новых юридических услуг, продали юристам, юридическим службам и страховщикам услуг на 2,3 млрд долларов. Появились также частные компании, оказывающие юридическим и физическим лицам экзотическую услугу, а именно, прогнозирование решений судов присяжных по различным делам. Данная услуга при всей своей спорности лежит в рамках законодательства штатов и поэтому получает все большее развитие.

Опыт Великобритании

В Великобритании главное внимание уделено использованию ИИ для поиска информации в юридических архивах и хранилищах, а также повышения эффективности электронного документооборота судебной и правоохранительной сфер.

В Великобритании, где сейчас полным ходом идет реформа судебной системы, цифровая инфраструктура делопроизводства НМ Courts&TribunalsService (HMCTS Digital Case System) с момента своего запуска в 2015 году позволила сократить объемы используемой бумаги на 500 тонн, а временные затраты на подачу искового заявления - с 15 рабочих дней до 10 минут. По ожиданиям экспертов HMCTS, к 2023 году ежегодно более 2 миллионов дел будут рассматривать вне реальных залов суда, за счет чего государству удастся сэкономить £244 миллиона.

Недавняя разработка ученых Университетского колледжа Лондона верно предсказала 79% решений Европейского суда по правам человека. По прогнозам компании Deloitte, в течение ближайших 20 лет компьютерные алгоритмы в одной только Великобритании заменят около 114 тысяч юристов (39% от их общего числа).

Опыт Аргентины

В Аргентине прокуратура округа Буэнос-Айрес в 2018 году подвела промежуточные итоги эксперимента по использованию ИИ по ряду категорий гражданских и административных дел. Оказалось, что местными судьями были утверждены 100% решений, принятых за 2018 год с помощью ИИ.

Приложение Prometea, как сообщало издательство Bloomberg, было создано 29-летним программистом Игнасио Раффой в партнерстве с офисом окружного прокурора аргентинской столицы. Раффа обучил двуязычную программу (она распознает английский и испанский языки), используя цифровую библиотеку документов: Prometea проанализировала порядка 300 тыс. отсканированных судебных решений с 2016-го по 2017 год, в том числе 2000 постановлений (в Аргентине окружные прокуроры составляют решения, а председательствующие судьи по делам либо отклоняют их и пишут свои собственные, либо просто одобряют их).

Теперь, как только новое дело попадает в прокурорскую систему, Prometea сопоставляет фактуру с наиболее релевантными решениями в своей базе данных - и это позволяет программе примерно за 10 секунд угадать, как суд отреагирует на ситуацию. Речь пока идет об относительно простых случаях, например, спорах о выдаче лицензии на перевозки такси, отказах в выплате компенсации учителям, купившим школьные принадлежности за свой счет, и т.п. В результате применения приложения прокурорские работники оказались освобождены от больших массивов рутинной деятельности. По словам главы офиса, 15 его юристов сейчас за шесть недель справляются с таким объемом работы, на который прежде им требовалось около шести месяцев, ошибки при просмотре сгенерированных компьютером файлов встречаются весьма редко. Окружной прокурор, в частности, поведал, что его сотрудники, однажды подававшие рядовую жалобу на вождение в нетрезвом виде, должны были внести в нее «39 деталей 111 раз». Теперь, формируя подобный документ в новой программе, они вносят все данные только один раз.

Высоко оценили приложение и судьи, которыми к настоящему времени одобрено 33 из 33 предложенных им решений (сейчас оно используется еще в 84 других рассматриваемых делах).

Опыт Евросоюза

По данным Европейской Комиссии на декабрь 2018 года, судьи в государствах-членах ЕС широко и повсеместно применяют традиционный софт и сервисы, связанные с документооборотом, и вообще не используют прогнозное программное обеспечение, базирующееся на ИИ, в своей профессиональной деятельности.

По оценкам Европола, правоохранительные органы Европы, возможно, за исключением Нидерландов, отстают как минимум на 10-12 лет от Соединенных Штатов, Великобритании и Китая в использовании и прогнозной или предиктивной аналитики в практической правоохранительной деятельности, включая полицейских непосредственно на земле. В целом, использование ИИ в судебной и правоохранительной системах государств-членов ЕС, крайне незначительно и относится скорее к перспективным, чем к текущим задачам.

Согласно материалам государств-членов ЕС, на начало 2019 года на государственном уровне ни в одной из стран не реализуется государственная программа цифровизации судебной системы и национальных правоохранительных органов. Все успехи европейского ИИ, за исключением Франции, и выходящей из Европейского Союза Великобритании, связаны исключительно с разработками частного сектора, нацеленными на европейские адвокатские и в целом юридические фирмы.

По мнению экспертов ЕС, отставание Европы от лидеров в области ИИ имеет не только очевидные минусы, но и некоторые плюсы. В частности, при разработке и внедрении ИИ в судебную сферу можно использовать зарубежный опыт феномена «предсказательной юстиции».

Использование предсказательной аналитики в судебной и правоохранительной сферах сталкивается в государствах ЕС со значительной критикой. Соответственно, производители систем ИИ публикуют достаточно большой объем данных, программ, статистики, характеризующих работу их систем. В рамках ЕС обсуждается вопрос создания межстрановой комиссии, которая могла бы на междисциплинарной основе обобщить результаты дискуссии и подготовить базис для создания европейских систем ИИ.

Прогноз - важнейшая фаза поведенческого контроля, а соответственно, в значительной степени предопределяет его эффективность.

Анализ практики применения предиктивной судебной аналитики позволяет увидеть следующую опасность. Не секрет, что все большее распространение в мире, в том числе в Европе, приобретает практика создания частных инвестиционных пулов, которые финансируют адвокатов в судебных процессах, где потерпевший выступает против корпораций. Особенно это связано с табачной, алкогольной, медицинскими отраслями, производителями товаров для населения. Если ранее подобного рода пулы формировались исключительно на основе экспертного анализа, то теперь они покупают услуги предиктивной судебной аналитики, рассчитывающей шансы на то или иное завершение судебного процесса.

Эксперты ЕС полагают, что в перспективе это может привести к усилению зависимости судей, присяжных и других участников судебного процесса от заранее сделанных прогнозов относительно итогов процесса, которые базируются не на каких-то предпочтениях и личных оценках, а исключительно на объективных статистических расчетах.

В этой связи в ЕС поставлена задача проанализировать, насколько целесообразно с точки зрения соблюдения прав человека разрешить или не осуществлять подобную деятельность на территории ЕС.

Следующая опасность заключается в том, что тот, кто обладает AIOT (ИИ + большие данные + интернет вещей) на порядок сильнее и могущественнее того, у кого этого нет. Использование полицией и судебной властью, включая прокуратуру, AIOT делает одну из сторон судебного разбирательства на порядок более мощной и вооруженной, чем другая. Де-факто, по мнению экспертов ЕС, это с большой вероятностью подрывает право граждан на независимый и беспристрастный суд, а также равенство сторон в судебном разбирательстве.

Эксперты ЕС полагают, что бесконтрольное использование ИИ и AIOT в судебной и правоохранительной областях без преувеличения в короткие сроки может уничтожить важнейший европейский принцип соблюдения прав человека и состязательный характер судебного процесса. Использование AIOT одной стороной процесса, по их мнению, сродни превращению состязания в преодолении местности между людьми в соперничестве человека и автомобиля.

Проще всего было бы запретить использование AIOT в судебной сфере, тем более, что пока в государствах ЕС ИИ применяется только в сфере повышения эффективности судебного документооборота. Однако практика использования новых технологий в мире показывает, что подобного рода запреты не работают, и любая технология получает соответствующее распространение. К тому же решения ИИ уже сегодня используются криминалом и организованной преступностью. Соответственно, если правоохранительные органы и судебные системы на основе законодательных решений будут лишены AIOT, тем самым они будут поставлены в заведомо проигрышную позицию по отношению к криминальным структурам. Вопрос применения ИИ в судебной и правоохранительных сферах - это не вопрос технологий и информационной политики, а политическая и отчасти социально-психологическая проблема. ИИ - это вычислительная система, делающая выбор на основе статистической информации. Как правило, главная проблема, которая решается в подобных системах, это - обеспечение отражения в статистической информации фактического положения дел. Наиболее эффективный ИИ будет принимать или рекомендовать решения на основе реальных связей, зависимостей и отношений, которые выявлены на основе анализа реального положения дел.

Однако, хорошо известно, что политика базируется не на реальном положении дел, а на компромиссе между интересами, возможностями и силой, которой обладают различные группы, слои, страты общества и паттерны давления. Политическая система компромиссов имеет свое отражение и в судебной системе. Любое судебное решение - это ситуативное решение, когда закон применяется к определенной конкретной ситуации. Особенно это очевидно в британском прецедентном праве. Однако в более неявном виде ситуационный принцип реализуется и в так называемом континентальном праве.

Главная проблема использования ИИ в судебной практике это то, что ИИ базируется не на ситуационной логике, а на вычислительных процедурах. ИИ не умеет работать с контекстами. Соответственно, в каждом государстве политические силы должны прийти к компромиссу и установить, в каких сферах и в каких аспектах судебной системы и правоохранительной деятельности можно использовать ИИ, а в каких использование этого инструмента опасно для политического консенсуса.

Вопрос об использовании ИИ в судебных системах был впервые рассмотрен на уровне Европейской Комиссии в апреле 2018 г. Результаты опроса по сообщениям министерств юстиции государств-членов ЕС показали, что широко пользуются как на федеральном, так и на низовом уровне инструментами ИИ. Однако при обработке результатов опроса удалось установить, что практически во всех случаях под инструментами ИИ понимались либо корпоративные информационно-аналитические системы, т.е. фактически хранилища документации, оснащенные визуализаторами и поисковиками, либо стандартные статистические пакеты, обрабатывающие стандартные цифровые данные. Ни первые, ни вторые программные комплексы не являются ИИ, а относятся к предыдущей стадии интеллектуального софта - data mining.

Приведенные ниже сведения основаны не на результатах опроса, а на исследовании в частном секторе, проведенном экспертами ЕС. Прежде всего, следует сразу уточнить, что выбраны приложения, где уже сегодня участвует хоть в какой-то степени ИИ. Под ИИ в данном случае понимаются платформы, обеспечивающие анализ и прогнозирование в судебной и правоохранительной сферах на основе обработки больших данных с использованием машинного обучения, нейронных сетей и методов распознавания образов с выводом результатов в визуальном или любом ином понятном для конечных пользователей виде. Выделяется несколько направлений практического использования ИИ в судебной и правоохранительной сферах. Конкретно речь идет о:

- продвинутых семантических корпоративных поисковых системах;

- системах поиска и анализа ситуаций, содержащихся в юридических документах;

- системах поддержки разработки юридических документов на основе автоматического генерирования шаблонов;

- системах предиктивной судебной аналитики, ориентированных на адвокатские компании;

- юридических чатботах, осуществляющих информирование сторон в ходе первоначальных контактов по тем или иным делам на естественных языках.

Первым государством ЕС, которое заявило, что приступило к изучению возможностей машинного обучения для повышения качества судебных решений, стала Латвия. Основная цель на сегодняшний день - это запуск не позднее конца 2020 г. охватывающей все судебные решения страны системы прогнозной аналитики для составления предварительной оценки людских и материальных ресурсов, которые могут быть потрачены на ведение того или иного процесса, начиная от принятия решения о начале судопроизводства и вплоть до вынесения окончательного вердикта. Фактически в Латвии собираются запустить систему предиктивной судебной аналитики, рассчитанную не на частные компании, выступающие на стороне, как правило, защиты, а в интересах государства - в основном стороны обвинения.

25 мая 2019 года все 36 стран, входящих в Организацию экономического сотрудничества и развития (ОЭСР), поддержали Принципы ответственного управления надежным ИИ:

1. Инклюзивный рост, устойчивое развитие и благополучие

Заинтересованные стороны должны активно участвовать в ответственном управлении заслуживающим доверия ИИ в достижении полезных результатов для людей и планеты, таких как расширение человеческих возможностей и повышение креативности, расширение участия недопредставленных групп населения, сокращение экономического, социального, тендерного и другого неравенства и защита природной среды, таким образом, стимулируя инклюзивный рост, устойчивое развитие и благосостояние;

2. Ориентированные на человека ценности и справедливость

а) Участники ИИ должны уважать верховенство закона, права человека и демократические ценности на протяжении всего жизненного цикла системы ИИ. К ним относятся свобода, достоинство и автономность, конфиденциальность и защита данных, недискриминация и равенство, разнообразие, справедливость, социальная справедливость и трудовые права, признанные на международном уровне;

б) С этой целью субъекты ИИ должны внедрять механизмы и гарантии, такие как способность к человеческой решимости, которые соответствуют контексту и соответствуют уровню техники;

3. Прозрачность и объяснимость

Участники ИИ должны обеспечить прозрачность и ответственное раскрытие информации о системах ИИ. С этой целью они должны предоставлять значимую информацию, соответствующую контексту и соответствующую уровню техники:

- способствовать общему пониманию систем ИИ,

- информировать заинтересованные стороны об их взаимодействии с системами искусственного интеллекта, в том числе на рабочем месте,

- дать возможность пострадавшим от системы ИИ понять результат и внутривенно дать возможность тем, на кого система ИИ оказывает негативное воздействие, оспаривать ее результаты на основе простой и понятной информации о факторах и логики, которая послужила основой для прогноза, рекомендации или решения;

4. Надежность и безопасность

а) Системы ИИ должны быть надежными и безопасными на протяжении всего их жизненного цикла, чтобы в условиях нормального использования, предполагаемого использования или неправильного использования или других неблагоприятных условий они функционировали надлежащим образом и не представляли необоснованного риска для безопасности;

б) С этой целью субъекты ИИ должны обеспечивать отслеживаемость, в том числе в отношении наборов данных, процессов и решений, принятых в течение жизненного цикла системы ИИ, для обеспечения возможности анализа результатов и ответов системы ИИ на запрос, соответствующих контексту и в соответствии с уровнем техники;

с) Субъекты ИИ должны, исходя из своих ролей, контекста и способности действовать, применять систематический подход к управлению рисками на каждом этапе жизненного цикла системы ИИ на постоянной основе для устранения рисков, связанных с системами ИИ, включая конфиденциальность, цифровую безопасность, безопасность и предвзятость;

5. Подотчетность

Участники ИИ должны нести ответственность за надлежащее функционирование систем ИИ и за соблюдение вышеуказанных принципов, исходя из их ролей, контекста.

Наиболее широко система ИИ на сегодняшний день в государствах ЕС применяются в двух странах - Нидерландах и Франции. В остальных государствах ЕС отсутствуют национальные решения в области использования ИИ в судебной и правоохранительных сферах. В Нидерландах на сегодняшний день ИИ используется для предиктивной судебной и правоохранительной аналитики, для углубленного data mining текстовых документов и для обработки документов, включая генерирование шаблонов, в рамках электронного документооборота.

Французы создали внутренний государственный семантический поисковик, используемый судебными работниками и правоохранителями для работы с государственными базами данных и архивами судебных решений. Также во Франции юридические компании широко используют системы превентивной судебной аналитики и чатботы, поддерживающие наряду с французским, английский и арабский языки. В остальных странах национальных систем ИИ для судопроизводства выявить не удалось.

Опыт Китая

С 2019 года китайские суды уже используют в судебных процессах и исполнении судебных решений технологии искусственного интеллекта для улучшения услуг и развития интеллектуальных судов. Об этом проинформировали в Верховном народном суде КНР в марте 2019 года.

По словам директора информационного центра Верховного народного суда Сюй Цзяньфэна, народные суды в стране будут использовать приложения для электронной подачи заявлений, продвигать мобильные электронные судебные процессы, а также создавать мобильные микросуды, позволяющие интеллектуальным приложениям охватывать все аспекты судебных процессов.

Что касается создания «умных» судов, народные суды будут сосредоточены на точном исполнении судебных решений, создании голограмм людей, находящихся под следствием, а также формировании связи с системой социального кредитования.

Одновременно с помощью технологии распознавания лиц народные суды Китая будут совершенствовать комплексные услуги, и создавать базу данных для предоставления услуг по проверке личности и совместному использованию информации о гражданстве, адвокатах, предприятиях и судьях.

Китайская онлайновая судебная система, одна из публичных судебных платформ страны, обнародовала более 60 миллионов судебных документов. На платформе зарегистрировано к началу 2019 года более 20 миллиардов посещений.

Опыт России

На текущий момент в Российской Федерации имеются правовые, технические и технологические предпосылки активного применения искусственного интеллекта, способного решать узкоспециализированные задачи (слабый искусственный интеллект). В России главной новостью юридической сферы в 2016 году стал запуск Сбербанком робота-юриста, который будет оформлять исковые заявления. Нововведение повлечет за собой сокращение трех тысяч сотрудников банка. Сбербанк не скрывает, что в будущем планирует запускать целый ряд подобных роботов.

В целях развития цифровизации судебной системы Российской Федерации, в том числе на основе технологий слабого искусственного интеллекта, разрабатывается суперсервис «Правосудие онлайн», представляющий собой основу цифрового правосудия.

Составляющими «правосудия онлайн» являются дистанционное обращение в суд в электронном виде, дистанционное получение информации о начавшемся судебном процессе (судебные извещения), дистанционный доступ к материалам электронных дел, получение судебных актов или их копий в электронном виде, дистанционное участие в судебных заседаниях и др.

Суть «правосудия онлайн» заключается в предоставлении возможности гражданину, не приходя в суд (дистанционно), подавать в электронном виде исковые заявления или жалобы, получать информацию о назначении судебного заседания, участвовать в судебном заседании с использованием технологии веб-конференции из офисных или жилых помещений, а также получать электронные копии судебных документов, подписанные электронной подписью суда.

При этом гражданину не придется покупать дорогостоящее оборудование или программное обеспечение. Достаточно иметь персональный компьютер или смартфон и доступ к интернету.

Возможность участия в судебном заседании с использованием технологии веб-конференции из офисных или жилых помещений будет обеспечена внедрением в судебную деятельность технологии биометрической аутентификации участника судебного процесса по лицу и голосу.

Суперсервис «Правосудие онлайн» предполагает также автоматизированное составление проектов судебных актов с использованием технологий искусственного интеллекта на основе анализа текста процессуального обращения и материалов судебного дела.

Представляется, что в судебной системе внедрение искусственного интеллекта может обеспечить:

а) повышение качества и эффективности судебной деятельности за счет:

- использования систем поддержки принятия решений судом, например, системы назначения наказания в уголовном судопроизводстве;

- использования систем обработки естественного языка - распознавание общего смысла текста с возможностью выделять ключевые тезисы из текста;

- использования систем распознавания речи и видеоизображения в целях разметки аудио- и видеопротоколов судебных заседаний;

- автоматизированной подготовки проектов судебных актов;

б) повышение эффективности судебной защиты прав и законных интересов граждан, организаций, органов государственной власти (за счет использования интеллектуальных помощников участников судебных процессов, расширения дистанционного участия в судебных заседаниях за счет использования технологий биометрической идентификации граждан);

в) снижение конфликтности, повышение правосознания за счет внедрения экспертных систем прогнозирования результата рассмотрения судебного дела;

г) создание систем прогнозирования изменения судебной нагрузки в зависимости от изменения законодательства.

Если на первых порах информационные технологии использовались в судах фрагментарно, главным образом для уменьшения объема рутинных операций и учета судебных дел, то в настоящий момент происходят коренные изменения, информационные технологии используются непосредственно для осуществления процессуальных действий судом и участниками процесса, а информационные системы становятся средой осуществления процессуальных действий.

В России противники применения ИИ в судебной системе часто апеллируют к тому, что у нас не прецедентное право, поэтому нельзя основываться в судебных решениях на аналоги уголовных дел. При этом закрываются глаза на то, что судьи всегда основываются на своем прошлом опыте по делам об аналогичных составах преступления, опыте региональных судей, решениях Конституционного Суда РФ и постановлениях Президиума Верховного Суда РФ, которые по сути своей - разновидность прецедентного права.

Но технологический «ветер перемен» коснулся и российских судов. Выступая 12 февраля 2018 года на совещании - семинаре судей судов общей юрисдикции и арбитражных судов России тогдашний председатель Правительства РФ Дмитрий Медведев подчеркнул, что в стране продолжается работа по цифровизации судебной системы. В банке автоматизированной системы ГАС «Правосудие» уже более 80 млн дел. В 2018 году суды общей юрисдикции приняли более 500 тыс. заявлений в электронном виде, и более 250 тыс. заявлений поступило в арбитражные суды. Активно ведется работа по размещению в интернете решений судов. В базе данных Верховного Суда уже более 600 тыс. дел.