|
|
|
О необходимости учета политэкономических аспектов в правовом регулировании технологий искусственного интеллекта в Казахстане [1]
М.Ш. Құрманғали, к.ю.н., профессор Школы права и государственного управления НАО «Университет Нархоз»
1. Развитие технологий приводит к ужесточению борьбы за власть между государствами и корпорациями. Развитие технологии создало ситуацию, в которой очень многие атрибуты индустриальной эпохи - и экономические, и политические - оказываются ненужными. Помимо массового рабочего и среднего классов, в эти «ненужные» атрибуты попадает и государство, которое было интегратором промышленных структур, среднего и рабочего классов в мировую систему и, в той или иной степени, их защитником в этой мировой системе, защитником их интересов. Оперативная зона государства также сократилась в результате давления надгосударственных структур: транснациональных корпораций (ТНК), структур типа Европейского союза (ЕС) и макрорегиональных структур, с другой стороны - организаций локально-регионального уровня. Таким образом, по всему миру начался процесс, который на Западе называют «исчезновением государства» (Fading Away of the State). Это означает, что различные политические и экономические силы приватизируют власть. Государство не является больше единственным монополистом в этой области [2]. К тому же большие данные (Big Data) и персональные данные людей собираются, обрабатываются, анализируются и монетизируются IT-гигантами и другими корпорациями. В работе «Эпоха «надзорного капитализма»: борьба за будущее человечества на новых рубежах власти», Ш. Зубофф, профессор Гарвардской бизнес-школы наглядно демонстрирует последствия проникновения «надзорного капитализма» из Кремниевой долины во все сектора экономики. Огромное богатство и власть аккумулируются на зловещих новых «поведенческих фьючерсных рынках», где прогнозы о нашем поведении покупаются и продаются, а производство товаров и услуг подчинено новым «средствам модификации поведения». Здесь находится горнило беспрецедентной формы власти, характеризующейся крайней концентрацией знаний и свободной от демократического контроля [3]. Таким образом, в глобальном плане технологии искусственного интеллекта являются одним из инструментов построения нового «глобального порядка» в эпоху пост-капитализма. Большие данные (Big Data) и особенно персональные данные используются корпорациями для накопления поведенческого капитала, который выступает основой для формирования нового «глобального порядка». Учитывая, что в таком новом «порядке» политическая власть будет принадлежать корпорациям, а не государствам, то главной задачей государства должно быть сохранение своего статуса как субъекта верховной власти в стране и защита цифрового суверенитета страны. На наш взгляд, правовое регулирование отношений, связанных с ИИ, на национальном уровне должно базироваться на этой основополагающей идее. В настоящее время сложилась ситуация, когда юристы более склонны обслуживать интересы корпораций и всего лишь обеспечивать правовое сопровождение коммерческих и бизнес-процессов. В то время как юристы должны помнить о своей роли в обществе как хранителей общечеловеческих ценностей и социального порядка. Такая роль юристов особенно важна в правовом регулировании новых технологий, в том числе ИИ, где юристы должны отстаивать ценность человека как существа и человека - как субъекта права, препятствуя его превращению в объект права, а также защищать ценности социального порядка. Исходя из сказанного, предметом правового регулирования следовало бы рассматривать непосредственно саму деятельность ТНК (IT-гигантов и цифровых платформ), а не только условия использования их технологии ИИ. Под предметом регулирования национального права следует рассматривать общественные отношения (а не ИИ) и деятельность различных субъектов в юрисдикции государства, связанную с разработкой и использованием таких технологий. 2. Предложения по доработке проекта Концепции развития искусственного интеллекта на 2024 - 2029 годы [4] (далее - проект) следующие. 1) Разработчики проекта констатируют, что согласно Индексу готовности правительства к искусственному интеллекту на 2023 год, проведенному Oxford Insights, Казахстан находится на 72 месте среди 193 стран. В мире уже несколько лет ведется гонка технологий ИИ, в которой есть два явных лидера - США и КНР, в основном благодаря наличию технологических гигантов (Google, Facebook, Microsoft, Alibaba, Baidu и Tencent), а также значительным инвестициям в исследования и разработки в области ИИ. Здесь, по нашему мнению, можно было бы показать концептуальные различия моделей ИИ этих двух ведущих стран-глобальных конкурентов. Так, по мнению экспертов, в конечном счете столкновение КНР и США имеет сильную ценностную составляющую или политическую модель. И в основе этого столкновения лежит преимущественно технологическая динамика, два совершенно разных способа понимания общества, личности и политических прав в цифровом пространстве. Китайская модель построена на широком внедрении технологий мониторинга и агрегирования информации, последние из которых производятся на высоких уровнях административного аппарата и могут поступать из частных и государственных источников [5]. 2) В качестве барьеров в развитии ИИ в Республике Казахстан отмечается отсутствие современной инфраструктуры и достаточного количества вычислительных мощностей для ИИ. Авторы проекта правильно обращают внимание на риски безопасности использования технологий ИИ, включая риски утечки персональных данных (Раздел 2. Анализ текущей ситуации). Вместе с тем, здесь важно было бы указать, что если не установлены ограничения на информацию, которую корпорации могут собирать от граждан, возможен практически постоянный мониторинг их поведения. Это практика, которая может привести к ситуации, в которой права и свободы сильно ограничены: надзорный капитализм, при котором корпорации знают все наши вкусы и предпочтения и используют их в своих целях. Такие технологии, как ИИ, делают этот сценарий гораздо более вероятным, особенно если достижения в области сбора и обработки информации сочетаются с достижениями в области поведенческих наук и нейробиологии [5]. Исходя из этого, в Концепции важно было бы предусмотреть основы полномочий государства устанавливать ограничения на тип, количество, задержку и степень детализации информации, которую корпорации могут собирать от граждан и организаций. Решением проблемы управления рисками может быть рецепция норм GDPR (Общий регламент по защите данных ЕС) [6] и Акта (Регламента) об искусственном интеллекте ЕС [7] и других. 3) Индустрия ИИ в настоящее время определяется чипами, интеллектуальными роботами и дронами, технологическими платформами, технологиями обработки естественного языка, распознавания речи, приложениями машинного обучения, компьютерного зрения и изображений, и автоматическом вождении. Крупные технологические компании в США и КНР доминируют в сфере инноваций в промышленности и включают такие компании США, как Google, Amazon, Meta, Apple, Microsoft, IBM, NVIDEA, Open AI, а также китайские компании Baidu, Alibaba, Tencent, Huawei, Xiaomi (Раздел 3. Обзор международного опыта). Разработчики проекта указывают, что по мере распространения революции в области ИИ может появиться и продолжать расширяться разрыв между развитыми и развивающимися странами. Здесь следовало бы указать на глобальные риски для государства, если оно ничего не будет делать. Мир меняется экспоненциально. Главной движущей силой этого процесса трансформации являются технологии и их все более ускоренное внедрение. Это породило новую плоскость международных отношений: технологическую, которая уже стала новым пространством столкновения между государствами, где урегулируются стратегические ценности и интересы. Если страны хотят иметь возможность защитить своих граждан от угроз 21-го века, обеспечить экономический рост, качественные рабочие места, а также сохранить демократические ценности, им будет крайне важно развернуть эффективную технологическую дипломатию. Это потребует институциональных инноваций, подготовки кадров, способных говорить на языке дипломатии и технологий, а также структуры постоянного диалога между обществом и частным сектором [5]. 4) В проекте Концепции представлена информация о существующих в мире свыше 7000 крупных дата-центров, из которых больше 800 гипер-масштабируемых, со специальной архитектурой, позволяющей обрабатывать экзабайты (миллионы терабайт) информации. Происходит параллельное развитие сферы управления данными. В 2022 году объемы всех данных, накопленных человечеством, составили примерно 97 зеттабайт, а к 2025 году это число возрастет до 180 зеттабайт. По данным исследования агентства LaunchSquad, 96% компаний крупного и среднего бизнеса анализируют собранные данные. В этой связи, на наш взгляд, следовало бы обратить особое внимание государства и общества на формирующиеся рынки данных, которые выступают основой «новой цифровой экономики». К примеру, о важности этого можно судить по политике китайского правительства, считающего развитие этого рынка одной из основополагающих задач создания новой цифровой экономики КНР, которое обеспечит их глобальное лидерство в будущем [8]. 5) В проекте Концепции указаны 13 основных вопросов (направлений регулирования), которые ставят перед собой государства при нормативно-правовом регулировании ИИ, а также 5 подходов к определению правового положения ИИ (Раздел 3. Обзор международного опыта). Видимо, проект документа разрабатывался до принятия Акта (Регламента) об искусственном интеллекте ЕС [7], так как многие из затронутых вопросов уже нашли свое решение. К примеру, определение ИИ закреплено в статье 12 Акта (Регламента) ЕС об ИИ. Другие неопределенные правовые вопросы, которые разработчики поднимают в проекте, также получили свое решение. Поэтому следует обновить положения Концепции в этой части. 6) Разработчики проекта Концепции правильно отмечают, что дальнейшее развитие ИИ и роботизации может привести не к очередной промышленной революции, а к смене социально-экономической формации. Здесь они задаются вопросом: если при феодализме отчуждалась земля, а при капитализме отчуждается труд, и если труд человека будет полностью заменен ИИ, какую добавочную стоимость теперь должен давать человек в процессе производства? И не находят ответа (Раздел 4. Видение реализации развития ИИ). На наш взгляд, здесь нужны знания и смелость признать, что главный фактор, который отчуждается IT гигантами и контролируется им, это человеческое поведение. И если капитализму предшествовало первоначальное накопление капитала, то у истоков, в основе пост-капитализма (ранней формой и является то, что Ш. Зубофф неточно назвала «надзорный капитализм») - накопление поведенческого капитала. «Здесь наше поведение, привычки и опыт упаковываются таким образом, что они служат чужим интересам и человек становится сырьём» [9]. Европейский человеко-центрированный подход к регулированию ИИ, который мы могли бы заимствовать, предлагает правовые механизмы решения этого жизненно важного и ценностного противоречия. 7) Разработчики проекта Концепции видят развитие ИИ в Казахстане посредством создания экосистемы ИИ и для этого предлагают провести работу по следующим направлениям: инфраструктура, данные, человеческий капитал, НИОКР. Практический интерес, по их мнению, представляют функций, выполняемые прикладным (узкоспециализированным) ИИ, а также вопросы эффективного внедрения соответствующих решений в государственное управление и приоритетные отрасли экономики (Раздел 5. Основные принципы и подходы развития). Этим авторы проекта как бы указывают на возможные направления практической работы уполномоченных государственных органов и компаний в сфере развития ИИ в Республике Казахстан с учетом их понимания ограниченных возможностей страны. По нашему же мнению, не следует ограничивать возможные направления развития ИИ в Казахстане, и здесь необходим учет экспертных мнений всех потенциальных участников этой индустрии и заинтересованных лиц. 8) В подразделе «Направление 5. Экономика искусственного интеллекта» проекта Концепции представлены задачи, требующие первоочередного решения в рамках формирования национальной системы правового регулирования в сфере ИИ. Он выглядит достаточно проработанным и сформулированным на основе экспертных мнений. Однако разработку и принятие норм по соблюдению прав и свобод человека, недопущение всех видов дискриминации вследствие некачественных решений ИИ, обеспечение соответствия нравственным, духовным и культурным ценностям Казахстана не стоит отдавать «на откуп» самим участникам индустрии ИИ в виде принятия ими этических правил в сфере ИИ. Принятие и обеспечение исполнения правовых норм на законодательном и подзаконном уровне по охране и защите человека, его достоинства, прав, свобод и законных интересов, а также по защите культурно-цивилизационных ценностей нашего общества в сфере технологий ИИ должно быть исключительной прерогативой государственных органов. 3. Выводы и предложения по вопросам правового регулирования технологий ИИ в РК. На наш взгляд, важно при этом учитывать следующие важные моменты. а) Наш ответственный подход как государственников в правовом регулировании технологий ИИ должен учитывать не только стремление Казахстана занять долю рынка IT-индустрии (т.е. только узкие экономические интересы), но, что более важно, понимание того, что основной ценностью страны и основным активом выступают Большие данные (Big Data) и особенно персональные данные наших граждан и организаций, которые формируют поведенческий капитал. А поведенческий капитал, как было отмечено выше, является основой «новой цифровой экономики» (уже в настоящее время) и выступает основой зарождающегося нового «глобального порядка». Государство не должно отдавать этот главный актив и будущую основу власти, если хочет сохраниться как институт верховной власти в стране, в руки ТНК. б) Как правило, при правовом регулировании необходимо определиться, какие конкретные вопросы следует регулировать, как регулировать и почему? В этом плане, конечно же, мы будем использовать уже разработанные подходы и нормы других стран. Так, мы могли бы принять т.н. европейскую модель регулирования ИИ, заложенную в GDPR (Общий регламент по защите данных ЕС) [6] и Artificial Intelligence Act EU (Акт (Регламент) об искусственном интеллекте ЕС) [7] и других актах. Это покажет стремление государства обеспечить защиту персональных данных и регулирование технологий ИИ на уровне признанных международных стандартов. Предполагается, что IT-гиганты, имея негативный опыт нарушения европейских норм, будут воздерживаться от неправомерных действий в киберпространстве РК. Казахстан по правовым основам защиты персональных данных и регулирования ИИ будет ориентироваться на опыт развитых стран, что не только должно укрепить наш международный имидж, но и способствовать стимулированию инноваций. Это также должно показать мировому сообществу намерение Казахстана защищать свой цифровой суверенитет. Также, по нашему мнению и мнению экспертов (А. Абдрасилов), нет необходимости в принятии отдельного закона об ИИ. Во-первых, в проекте закона об ИИ отсутствуют какие-либо новеллы, во-вторых, по такой логике пришлось бы принимать отдельные законы о технологии 5G, о сетевой модели TCP/IP, о глобальной спутниковой системе Star Link и т.п. Законы должны быть вне контекста технологий и не нужно под каждую технологию писать отдельный закон. К тому же известно, что одновременно с разработкой закона об ИИ ведется разработка Цифрового кодекса, в котором имеется отдельный раздел, посвященный ИИ. В случае принятия Кодекса, придется закон об ИИ ставить на отмену. в) Важно в целостном виде заимствовать определенную модель регулирования ИИ, а не имплементировать отдельные положения из разных моделей и подходов. Человеко-центрированная и риск-ориентированная европейская модель представляется для нас на данном этапе развития более подходящей по многим причинам. Среди таковых можно назвать высокое качество правовых норм, способных выступать международно-признанными стандартами в этой сфере (по примеру GDPR - Общего регламента по защите данных ЕС), ориентированность на защиту цифрового суверенитета государств-членов ЕС, способность перевешивать слабые стороны (доля компаний ЕС на мировом рынке технологий ИИ около 1,5 %) посредством сильной стороны - качественного нормативного регулирования. Также европейской модели регулирования ИИ характерны способности эффективной защиты от агрессивных действий IT-гигантов и цифровых платформ США и КНР, ценностный (человеко-центрированный) подход, институты континентальной (романо-германской) правовой системы, облегчающие понимание их смысла, содержания и их имплементацию, схожая правовая культура и другие. К тому же, около 80-ти стран в той или иной мере разрабатывают свое законодательство, опираясь на европейский подход в этой сфере, что может в будущем облегчить гармонизацию законодательств государств. г) Правовое регулирование должно учитывать комплексность характера такого регулирования. Так, со сферой ИИ связаны и требуют согласованности и координации следующие основные вопросы, регламентируемые самостоятельными правовыми актами: Большие данные (Big Data), персональные данные, информатизация, ИКТ и цифровые технологии, национальная безопасность, кибербезопасность, киберпреступность, интеллектуальная собственность, антимонопольное регулирование, космическая деятельность, обороноспособность и сфера вооружений, технологическая дипломатия и другие. Поэтому в разработке проекта Концепции развития ИИ в РК и законодательных актов в этой сфере, кроме МЦРИАП РК, требуется участие Института законодательства и правовой информации РК МЮ РК, Администрации Президента РК, МИД РК, органов национальной безопасности, Генеральной прокуратуры РК, Верховного суда РК, МВД РК, МНиВО РК, МНЭ РК, МФ РК и других государственных органов и организаций, а также представителей экспертного и академического сообщества. д) Проекту нашей Концепции можно было бы дать идейную основу (в ее названии) по примеру указа Президента США о запуске Американской инициативы в области ИИ - Accelerating America’s Leadership in Artificial Intelligence, 2019 (Ускорение лидерства Америки в области искусственного интеллекта). Такое название отражает цель принятия такого документа: «Сохранение американского лидерства в области ИИ имеет первостепенное значение для поддержания экономической и национальной безопасности США». Нашей казахстанской идейной основой и целью принятия Концепции развития ИИ могла бы стать идея сохранения и укрепления цифрового суверенитета государства как нации и института верховной власти в стране, которая красной нитью пронизывала бы все законодательство РК, регулирующее рассматриваемую сферу отношений. ____________ 1. Доклад на Международной научно-практической конференции на тему «Искусственный интеллект и право: опыт Республики Казахстан и зарубежных стран», организованной Институтом законодательства и правовой информации РК совместно с Министерством юстиции РК, г. Астана, 24 мая 2024 г. https://www.zqai.kz/ru/node/16383 (Публикация выполнена в рамках проекта, финансируемого Комитетом по науке Министерства науки и высшего образования Республики Казахстан (грант № AP19678623)). 2. Фурсов А.И. Пересдача карт Истории, 19 октября 2023 г. https://dzen.ru/a/ZTEr1kt21ku8LCOi 3. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier January 15, 2019 by Shoshana Zuboff. 4. Проект Концепции развития искусственного интеллекта на 2024-2029 годы (Казахстан) https://legalacts.egov.kz/npa/view?id=14945497 5. Muñiz, Manuel. Diplomacia tecnológica para la era digital (Технологическая дипломатия в цифровую эпоху). Revista CIDOB d’Afers Internacionals, n. 134 (septiembre de 2023), p. 91-102. DOI: doi.org/10.24241/rcai.2023.134.2.91 6. General Data Protection Regulation / Regulation (EU) 2016/679 (Общий регламент по защите данных / Регламент (ЕС) 2016/679) 7. Artificial Intelligence Act European Parliament legislative resolution of 13 March 2024 on the proposal for a regulation of the European Parliament and of the Council on laying down harmonized rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts (COM(2021)0206 - C9-0146/2021-2021/0106(COD)) https://www.europarl.europa.eu/doceo/document/-TA-9-2024-0138_EN.pdf 8. Законы и положения об искусственном интеллекте, машинном обучении и больших данных 2023 г. Китай https://www.globallegalinsights.com/practice-areas/ai-machine-learning-and-big-data-laws-and-regulations/china и Бугаенко А. Разные скорости: чем Казахстану может быть полезен пример цифровизации КНР? 2020 https://ekonomist.kz/bugayenko/cifrovizaciya-kazahstan-kitaj-internet-skorost/ 9. Фурсов А.И. По ту сторону свободы и достоинства. Хозяева денег превращаются в хозяев человечества, 31 октября 2023 г. https://dzen.ru/a/ZUCzXN30nXso8NTd
Доступ к документам и консультации
от ведущих специалистов |