|
|
|
Международно-правовые рамки регулирования искусственного интеллекта: вызовы и перспективы[*]
М.Ш. Құрманғали, к.ю.н., профессор Школы права и государственного управления НАО «Университет Нархоз»
Аннотация. Статья посвящена исследованию международно-правовых аспектов регулирования искусственного интеллекта. В ней представлены возможные основания для обязательного международно-правового регулирования и описаны складывающиеся подходы в правовом регулировании искусственного интеллекта на международном уровне. Осуществлен обзор различных международных актов рекомендательного характера и международных инициатив, направленных на решение этических и правовых вопросов, связанных с разработкой и внедрением искусственного интеллекта. Автор затрагивает некоторые важные международно-правовые аспекты условий использования искусственного интеллекта в системе отправления правосудия. В статье также обозначены основные вызовы и перспективы международно-правового регулирования искусственного интеллекта. Ключевые слова: искусственный интеллект; международно-правовое регулирование искусственного интеллекта; международное сотрудничество в области искусственного интеллекта; искусственный интеллект в системе отправления правосудия.
Аннотация. Мақала жасанды интеллектті реттеудің халықаралық-құқықтық аспектілерін зерттеуге арналған. Онда міндетті халықаралық-құқықтық реттеудің мүмкін негіздері ұсынылған және халықаралық деңгейде жасанды интеллектті құқықтық реттеудің қалыптасқан тәсілдері сипатталған. Жасанды интеллектті әзірлеуге және енгізуге байланысты этикалық және құқықтық мәселелерді шешуге бағытталған ұсынымдық сипаттағы әртүрлі халықаралық актілерге және халықаралық бастамаларға шолу жасалды. Автор сот төрелігін жүзеге асыру жүйесінде жасанды интеллектті пайдалану шарттарының кейбір маңызды халықаралық-құқықтық аспектілерін қозғайды. Мақалада жасанды интеллектті халықаралық құқықтық реттеудің негізгі сын-қатерлері мен перспективалары көрсетілген. Түйінді сөздер: жасанды интеллект; жасанды интеллектті халықаралыққұқықтық реттеу; жасанды интеллект саласындағы халықаралық ынтымақтастық; сот төрелігін жүзеге асыру жүйесіндегі жасанды интеллект.
Annotation. The article is devoted to the study of international legal aspects of the regulation of artificial intelligence. It presents possible grounds for compulsory international legal regulation and describes the emerging approaches in the legal regulation of artificial intelligence at the international level. The review of various international acts of recommendatory character and the international initiatives directed on the decision of ethical and legal questions connected with working out and introduction of an artificial intellect is carried out. The author touches on some important international legal aspects of the conditions of use of artificial intelligence in the system of administration of justice. The article also identifies the main challenges and prospects of international legal regulation of artificial intelligence. Keywords: artificial intelligence; international legal regulation of artificial intelligence; international cooperation in the field of artificial intelligence; artificial intelligence in the administration of justice.
Искусственный интеллект (ИИ) может принести обществу значительные преимущества, такие как улучшение здравоохранения, снижение энергопотребления и повышение производительности. Однако это также сопряжено со значительными рисками, такими как предвзятость и дискриминация, нарушение конфиденциальности и возможность создания автономного оружия. В правовом регулировании ИИ на международном уровне наметились два различных подхода. Первый заключается в разработке международных стандартов и руководств в отношении ИИ. Второй подход заключается в разработке обязательных юридических документов, таких как международные договоры, которые устанавливали бы минимальные стандарты для разработки и использования ИИ. В целом среди экспертов растет признание того, что международное сотрудничество и координация необходимы для решения юридических и этических проблем, связанных с ИИ. Хотя особенности международного регулирования ИИ все еще обсуждаются, ясно, что необходима определенная форма регулирования для гарантий безопасности и полезности для общества в целом. Международно-правовое регулирование ИИ должно быть достаточно гибким, чтобы соответствовать быстро развивающемуся характеру ИИ. Поскольку ИИ продолжает развиваться и появляются новые технологии и приложения, нормативная правовая база должна быть в состоянии адаптироваться к этим изменениям и обеспечивать разработку и использование ИИ в соответствии с этическими стандартами и стандартами в области прав человека.
1. Основания международно-правового регулирования ИИ Есть несколько важных аспектов использования ИИ, которые могут рассматриваться в качестве оснований для обязательного международно-правового регулирования, они следующие. - Поскольку функционирование систем ИИ все больше зависит от Big Data, международное регулирование необходимо для обеспечения защиты прав на неприкосновенность частной жизни и предотвращения неправомерного использования или эксплуатации персональных данных. - Системы ИИ не застрахованы от предвзятости и дискриминации, которые могут иметь серьезные негативные последствия для отдельных лиц и групп. Международное регулирование может способствовать исключению таких негативных проявлений при разработке и использовании ИИ. - Международное регулирование ИИ может способствовать обеспечению прозрачности и подотчетности, а также ответственности государств (лиц и организаций) за любой ущерб, причиненный их использованием. - Системы ИИ могут причинить физический вред, если они неисправны или используются ненадлежащим образом. Международное регулирование может способствовать обеспечению того, чтобы эти системы разрабатывались и использовались безопасным образом для отдельных лиц и общества в целом. - Использование автономного оружия (также известного как роботы-убийцы) вызвало серьезные этические и юридические проблемы в мировом сообществе. Международно-правовое регулирование необходимо для обеспечения разработки и использования такого оружия в строгом соответствии с нормами международного гуманитарного права и прав человека.
2. Международные универсальные акты и инициативы по регулированию ИИ Несмотря на отсутствие в настоящее время всеобъемлющей международно-правовой базы, специально регулирующей ИИ, существуют универсальные международные акты т.н. «мягкого права» (в том числе ООН и ее учреждений); акты органов Европейского Союза (ЕС); акты (рекомендации, инициативы и руководства) международных правительственных и неправительственных организаций, направленные на решение этических и правовых вопросов, связанных с разработкой и внедрением ИИ. Они следующие. 1. В рамках поддержки глобального сотрудничества в области ИИ под эгидой ООН в 2019 году был разработан документ «Дорожная карта цифрового сотрудничества», в котором Генеральным секретарем ООН предложено создание многостороннего консультативного органа по глобальному сотрудничеству в области ИИ для решения вопросов, связанных с включением, координацией и наращиванием потенциала в этой области [1]. 2. На основе проведенных работ ООН опубликовала Сборник «UN Activities on AI», в который вошли отчеты 36 агентств ООН об их использовании ИИ по глобальным вызовам. Анализ документа дает представление о проблемах, связанных с ИИ, решении этических и человеческих проблем [2]. 3. В ноябре 2021 г. 193 государства-члена на Генеральной конференции ЮНЕСКО приняли Рекомендации по этике искусственного интеллекта, который считается первым глобальным нормативным документом по этому вопросу. В документе определены общие ценности и принципы, а также установлены конкретные политические меры в отношении этических аспектов ИИ [3]. 4. В докладах ЮНКТАД 2021 года обосновывается необходимость единого подхода к управлению трансграничными потоками Big Data. Новая глобальная система, по мнению экспертов, должна предотвратить дальнейшую фрагментацию интернета, решить политические проблемы, возникающие из-за доминирующего положения ведущих цифровых платформ, а также сократить масштабы неравенства во всемирном облаке [4]. 5. В Международном союзе электросвязи исследования в области нейросети «Искусственный интеллект во благо» проводятся для того, чтобы ускорить обмен между правительством и отраслью, а также способствовать разработке технических стандартов и рекомендаций, в том числе связанных с использованием технологий ИИ [5]. 6. В январе 2019 года был опубликован Доклад ВОИС, посвященный ландшафту инноваций в области ИИ. Этот документ из серии «Тенденции развития технологий» является общей информационной базой по вопросам ИИ для лиц, отвечающих за определение политики в государственных и частных структурах [6]. В ноябре 2020 года ВОИС инициировала открытую международную дискуссию на тему «Интеллектуальная собственность и искусственный интеллект»: третий раунд [7]. 7. Управление Верховного комиссара ООН по правам человека (УВКПЧ) акцентирует внимание на вопросах неприкосновенности частной жизни в цифровом мире и защиту прав человека в условиях цифровизации [8]. УВКПЧ проводит исследования вопросов управления постоянно растущим объемом рекомендаций в области прав человека (180 000 замечаний и рекомендаций) и обеспечения широкого доступа к этим материалам [9]. 8. Еще одна важная международная инициатива - Глобальное партнерство по ИИ (GPAI), запущенное в июне 2020 года [10] с участием 15 участников (сегодня их 29). GPAI представляет инструмент реализации идей и политик регулирования в этой области в рамках G7. Глобальное партнерство по ИИ представляет собой многосторонний форум, объединяющий правительства, промышленность и гражданское общество для содействия ответственному развитию и использованию ИИ. Он направлен на развитие международного сотрудничества, поддержку исследований и разработок, а также разработку лучших практик управления ИИ. 21-22 ноября 2022 года в Токио (Япония) состоялся Саммит GPAI, на котором Министры стран-участниц Глобального партнерства по ИИ приняли Декларацию министров GPAI 2022 года [11]. 9. По мнению экспертов, на международном уровне идет процесс формирования двух больших пространств политики в области ИИ. Первое пространство формируется по линии Организации экономического сотрудничества и развития (ОЭСР) и объединяет крупнейших мировых лидеров в области ИИ с безусловным доминированием США и ЕС в области научных исследований, разработок, инфраструктуры, инвестиций и стандартов. Второе пространство опирается на технологическое и финансовое могущество КНР [12]. В этой связи, одной из примечательных инициатив являются Принципы ОЭСР в отношении ИИ [13], которые были приняты 42 государствами в мае 2019 года. Принципы содержат рекомендации для политиков связанные с инвестициями в исследования и разработки в области ИИ; созданием цифровой экосистемы для ИИ; предоставлением благоприятной политической среды для ИИ; наращиванием человеческого потенциала и подготовки технологий ИИ к переходу на рынок труда; международным сотрудничеством для надежного ИИ [14]. 10. В дополнение к этим инициативам существуют также международные договоры и соглашения, которые косвенно регулируют ИИ, такие как Конвенция ООН о конкретных видах обычного оружия, которая включает положения об использовании автономных систем вооружения [15]. Государства-участники данной Конвенции придерживаются различных позиций по вопросу о том, имеется ли потребность в принципиально новом правовом регулировании или же существующего международного гуманитарного права достаточно [16].
3. Международные региональные (европейские) акты и инициативы по регулированию ИИ 1. Европейский подход предполагает надежный ИИ, который создаст безопасную и благоприятную для инноваций среду для пользователей и разработчиков таких технологий. Европейская комиссия предложила 3 взаимосвязанные правовые инициативы, которые будут способствовать созданию надежного ИИ: 1) европейская правовая база для ИИ для закрепления основных прав и устранения рисков безопасности, характерных для систем ИИ; 2) рамки гражданской ответственности - адаптация правил ответственности к цифровому веку и ИИ; пересмотр отраслевого законодательства по безопасности (например, Регламент по машинному оборудованию, Директива по общей безопасности продукции и др.) [17]. 2. «Белая книга по искусственному интеллекту», предполагает основательный общий подход государств-членов ЕС, опирающийся на Европейскую стратегию по ИИ от 2018 года [18] на фоне жесткой глобальной конкуренции. Согласно документу, для решения проблем и использования возможностей ИИ, ЕС должен действовать как единое целое и определить свой собственный путь, основанный на европейских ценностях, для продвижения разработок и внедрения ИИ. Значимость «Белой книги» состоит изложении вариантов политики достижения этих целей [19]. 3. ЕС предложил нормативную правовую базу для ИИ, которая включает набор обязательных требований для технологий и приложений ИИ с высоким риском, таких как распознавание лиц и автономные транспортные средства. Проект данной базы правовых актов в настоящее время находится на рассмотрении в странах-членах ЕС [20]. 4. Европейская декларация о цифровых правах и принципы цифрового десятилетия 2022 года отражает приверженность ЕС безопасной, надежной и устойчивой цифровой трансформации, в центре которой люди, в соответствии с основными ценностями и основными правами ЕС [21] 5. Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях 2018 года [22] предназначена для государственных и частных лиц, ответственных за разработку и внедрение инструментов и услуг, основанных на ИИ и направленных на обработку судебных решений и данных. Она касается также государственных лиц, ответственных за нормативную базу, разработку, контроль или использование таких инструментов и услуг. 6. Совет Европы является лидером в определении подходов в регулировании ИИ, считает профессор Медицинского университета Астана Ж.У. Тлембаева, которая проанализировала содержание большого числа правовых актов данной региональной международной организации по регулированию ИИ [23]. Отдельно она отмечает значимость Рекомендации Комиссара Совета Европы по правам человека «Раскрытие искусственного интеллекта: 10 шагов для защиты прав человека», 2019 года [24].
4. Международно-правовые аспекты ИИ в отправлении правосудия Использование ИИ в судебной системе и при отправлении правосудия имеет несколько международно-правовых аспектов, которые необходимо учитывать: - любые системы ИИ, используемые в отправлении правосудия не должны нарушать эти права человека. Любые погрешности в данных, используемых для обучения систем ИИ, должны быть выявлены и устранены, а их влияние на разные социальные слои общества должно быть строго учтено. - прозрачность и подотчетность означает, что процессы принятия решений любых систем ИИ, используемых в этих контекстах, должны быть открыты для проверки, а лица, ответственные за их разработку и развертывание, должны нести ответственность за любой вред, причиненный их использованием. - конфиденциальность и защита данных означает, что любые данные, используемые системами ИИ в этих контекстах, должны собираться и использоваться в соответствии с применимыми законами о защите данных. - использование ИИ в судебной системе и правосудии должно соответствовать этическим соображениям, включая принципы автономии, благодеяния, не причинения вреда и справедливости.
Таким, образом, существующие вызовы международно-правового регулирования ИИ включают следующие моменты. Так, в разных странах действуют разные правовые акты для ИИ, что может создать трудности при разработке международных стандартов и правил. Отсутствие консенсуса в отношении этических принципов, регулирующих использование ИИ, может затруднить разработку общепризнанных международных стандартов и правил. Многие законодатели и юристы могут иметь ограниченное техническое понимание ИИ, что может затруднить разработку эффективных правил и стандартов. Даже при наличии согласия по международным стандартам и правилам их внедрение и обеспечение соблюдения в разных странах может быть проблематичным. Международное сотрудничество по регулированию ИИ ограничено геополитическими, экономическими и иными причинами, что может замедлить разработку эффективных международных стандартов и правил. Государства могут сомневаться в принятии международных правил ИИ, которые, по их мнению, противоречат их собственным национальным интересам. Технологии ИИ быстро развиваются, что может затруднить разработку правил и стандартов, которые останутся актуальными и эффективными с течением времени. Решение этих задач и проблем потребует сотрудничества и сотрудничества между политиками, юристами и техническими экспертами из разных стран. Перспективы международно-правового регулирования ИИ зависят от различных факторов, таких как потенциальные риски и преимущества ИИ, а также существующие правовые и нормативные рамки в разных странах. Однако, как было показано выше, на международном уровне признана необходимость определенной формы регулирования для обеспечения разработки и использования ИИ безопасным, этичным образом и с соблюдением прав человека. Поскольку ИИ продолжает быстро развиваться, растет потребность в международном сотрудничестве и взаимодействии государств и международных организаций для решения юридических и этических проблем, связанных с его разработкой и внедрением.
1 Road map for digital cooperation: implementation of the recommendations of the High-level Panel on Digital Cooperation / Report of the Secretary-General / United Nations A/74/821 / General Assembly Distr.: General, 29 May 2020 [Electronic resource] - Access mode: https://www.un.org/en/content/digital-cooperation-roadmap/ (date of the application 26.04.2023) 2 United Nations Activities on Artificial Intelligence (AI), 2019 / Published in Switzerland, Geneva [Electronic resource] - Access mode: https://www.itu.int/dms_pub/itu-s/opb/gen/S-GEN-UNACT-2019-1-PDF-E.pdf (date of the application 26.04.2023) 3 Ad Hoc Expert Group (AHEG) for the Preparation of a Draft text of a Recommendation the Ethics of Artificial Intelligence / SHS/BIO/AHEG-AI/2020/4 REV.2 [Electronic resource] - Access mode: https://unesdoc.unesco.org/ark:/48223/pf0000373434_rus (date of the application 26.04.2023) 4 ЮНКТАД: нужен единый подход к управлению трансграничными потоками цифровых данных, 29 сентября 2021 [Электронный ресурс] - Режим доступа: https://news.un.org/ru/story/2021/09/1410912 (дата обращения 26.04.2023) 5 «Искусственный интеллект во благо». Технологическое учреждение ООН запускает систему подбора на основе ИИ для ускорения устойчивого развития [Электронный ресурс] - Режим доступа: https://www.itu.int/ru/mediacentre/Pages/PR-2022-02-01-AI-for-Good.aspx (дата обращения 26.04.2023) 6 Генеральный директор ВОИС открывает третий раунд дискуссии ВОИС на тему «Интеллектуальная собственность и искусственный интеллект», 4 ноября 2020 [Электронный ресурс] - Режим доступа: https://www.wipo.int/about-wipo/ru/dg_tang/news/2020/news_0014.html (дата обращения 26.04.2023) 7 Дискуссия ВОИС на тему «Интеллектуальная собственность и искусственный интеллект»: третий раунд / 4 ноября 2020 г. (Женева, Швейцария) [Электронный ресурс] - Режим доступа: https://www.wipo.int/meetings/ru/details.-jsp?meeting_id=59168 (дата обращения 26.04.2023) 8 Неприкосновенность частной жизни в цифровом мире и права человека / Управление Верховного комиссара ООН по правам человека [Электронный ресурс] - Режим доступа: https://www.ohchr.org/ru/privacy-in-the-digital-age (дата обращения 26.04.2023) 9 Включение прав человека в основу целей в области устойчивого развития посредством искусственного интеллекта, 10 мая 2022 / Управление Верховного комиссара ООН по правам человека [Электронный ресурс] - Режим доступа: https://www.ohchr.org/ru/stories/2022/05/ai-ensures-human-rights-are-heart-sdgs (дата обращения 26.04.2023) 10 The Global Partnership on Artificial Intelligence (GPAI), 2022 [Electronic resource] - Access mode: https://gpai.ai/ (date of the application 26.04.2023) 11 Декларация министров GPAI 2022 [Электронный ресурс] - Режим доступа: https://www.gpai.ai/events/tokyo-2022/ministerial-declaration/ (дата обращения 26.04.2023) 12 Выходец Р.С. Большие ИИ-пространства и стратегия России в условиях санкционной войны // Вестник РУДН. Серия: МО, 2022. Т. 22, № 2. - С. 256-270. 13 Recommendation of the Council on Artificial Intelligence / OECD/LEGAL/0449, 22/05/2019 [Electronic resource] - Access mode: https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449 (date of the application 26.04.2023) 14 OECD AI Principles overview / Policies, data and analysis for trustworthy artificial intelligence [Electronic resource] - Access mode: https://oecd.ai/en/ai-principles (date of the application 26.04.2023) 15 Конвенция о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие, принята 10 октября 1980 года в Женеве [Электронный ресурс] - Режим доступа: https://www.un.org/ru/documents/decl_conv/conventions/pdf/conweapons.pdf (дата обращения 26.04.2023) 16 Lewis D. International legal regulation of the employment of artificial-intelligence-related technologies in armed conflict. - Moscow Journal of International Law. 2020. No. 2. P. 53-64. 17 Европейский подход к искусственному интеллекту, 2020 [Электронный ресурс] - Режим доступа: https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence (дата обращения 26.04.2023) 18 Artificial Intelligence for Europe, SWD (2018) 137 final / European Communication, Brussels, 25.4.2018 [Electronic resource] - Access mode: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN (date of the application 26.04.2023) 19 WHITE PAPER / On Artificial Intelligence - A European approach to excellence and trust / EUROPEAN COMMISSION, Brussels, 19.2.2020 [Electronic resource] - Access mode: https://commission.europa.eu/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en (date of the application 26.04.2023) 20 Формирование цифрового будущего Европы / Предложение о Регламенте, устанавливающем согласованные правила в отношении искусственного интеллекта от 21 апреля 2021 года [Электронный ресурс] - Режим доступа: https://digital-strategy.ec.europa.eu/en (дата обращения 26.04.2023) 21 European Declaration on Digital Rights and Principles for the Digital Decade / European Communication / Publication 26 January 2022 [Electronic resource] - Access mode: https://digital-strategy.ec.europa.eu/en/library/european-declaration-digital-rights-and-principles# (date of the application 26.04.2023) 22 Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях от 3 декабря 2018 года [Электронный ресурс] - Режим доступа: https://rm.coe.int/ru-ethical-charter-en-version-17-12-2018-mdl-06092019-2-/16809860f4 (дата обращения 26.04.2023) 23 Тлембаева Ж.У. О некоторых вопросах правового регулирования использования технологии искусственного интеллекта в условиях цифровой трансформации / Вестник Воронежского государственного университета. Серия: Право. 2021, № 4 (47). - С. 331-349. 24 Раскрытие искусственного интеллекта: 10 шагов для защиты прав человека / Рекомендации Комиссара Совета Европы по правам человека / Совет Европы, май 2019 г. [Электронный ресурс] - Режим доступа: https://rm.coe.int/-10-/16809a42e4 (дата обращения 26.04.2023)
[*] Материалы Международной научно-практической конференции «ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И БОЛЬШИЕ ДАННЫЕ (BIG DATA) В СУДЕБНОЙ И ПРАВООХРАНИТЕЛЬНОЙ СИСТЕМЕ: РЕАЛИИ И ТРЕБОВАНИЕ ВРЕМЕНИ» - Қосшы: «Қазақстан Республикасының Бас прокуратурасы жанындағы Құқық қорғау органдары академиясы», 2023. - 350 бет. / Доклад автора. - С. 67-75. / https://academy-gp.kz/?p=17660&lang=ru
Доступ к документам и консультации
от ведущих специалистов |