| ||||||||||||||||||||
|
|
|
Искусственный интеллект: мифы и реальность
С.И. Климкин, к.ю.н., профессор НАО «Университет Нархоз», в.н.с. НИИ частного права Каспийского университета
В Концепции развития искусственного интеллекта, утвержденной постановлением Правительства Республики Казахстан от 24 июля 2024 г. № 592, отмечается, что сохраняются следующие пробелы в законодательстве: не закреплен понятийный аппарат, что препятствует внедрению проектов с применением искусственного интеллекта (в Закон Республики Казахстан «Об информатизации» внесены понятия «интеллектуальный робот», «электронные информационные ресурсы», которые частично раскрывают понятие «искусственный интеллект», однако нет прямых определений); отсутствуют нормы, регламентирующие этические нормы применения искусственного интеллекта, которые согласно международной практике являются фундаментом для развития правоотношений в сфере искусственного интеллекта; не определена сфера регулирования искусственного интеллекта, отсутствует регламентация взаимоотношений субъектов искусственного интеллекта, включая компетенции государственных органов, а также права, обязанности и ответственность субъектов в сфере искусственного интеллекта; отсутствуют технические регламенты и национальные стандарты для продуктов и технологий искусственного интеллекта. Между тем, информационные агентства сообщают о всё более активном использовании искусственного интеллекта в различных, в том числе стратегически важных областях человеческого бытия. Так, представители ВВС и Космических сил США считают, что ИИ сыграет важнейшую, если не решающую роль в системе управления и контроля ядерного арсенала США [1], а в Финляндии впервые состоялось богослужение, созданное с помощью искусственного интеллекта. ИИ написал проповеди и песни, сгенерировал музыку и визуальные эффекты, а также «оживил» бывшего президента Финляндии Урхо Кекконена. На экране разыгралась сцена борьбы Иисуса и Сатаны, а вместо священников говорили их цифровые аватары [2]. Международная команда ученых из Франции и США разработала инновационную систему на основе искусственного интеллекта, которая способна заранее предупреждать о риске внезапной остановки сердца [3]. Венский университет прикладного искусства стал первым в мире учебным заведением, зачислившим искусственный интеллект в качестве студента. По информации Euronews, ИИ под названием Flynn поступил на программу цифрового искусства университета и будет посещать занятия, участвовать в дискуссиях и получать оценки наравне с другими студентами [4]. Казахстан также не остается в стороне от происходящих в этом вопросе процессов. Так, на крупнейшей AI-выставке в Центральной Азии её одним из ключевых участников - АО «Казахтелеком» было заявлено, что промышленная сеть Private LTE/5G, которую развивает дочерняя компания «Казахтелеком» - Kcell, уже применяется в десяти проектах в горнодобывающем секторе Казахстана, включая разрез «Восточный» компании ERG. Следующим этапом станет внедрение этой технологии на производственной площадке компании «Qarmet». Таким образом, Казахстан формирует новый стандарт цифровизации в промышленности - на уровне, который соответствует международным требованиям по эффективности и безопасности. Отдельный акцент на выставке был сделан на цифровизации системы образования. В 202 школах Атырауской области установлено около 2,5 тысяч видеокамер с функциями видео- и аудиозаписи. Система использует нейросети и компьютерное зрение для анализа учебного процесса и обеспечения безопасности. ИИ способен отслеживать присутствие учителей и учеников, фиксировать случаи агрессивного поведения, как, например, драка, появление на территории школы разыскиваемых лиц или вооруженных людей, и при возникновении угроз мгновенно передавать данные в полицию. Все видеозаписи хранятся на облачной платформе «Казахтелекома» в течение 30 дней [5]. Как сообщил 1 апреля 2025 г. на пресс-конференции в Правительстве Вице-министр цифрового развития, инноваций и аэрокосмической промышленности Р. Коняшкин, в стране будут использовать суперкомпьютер. Он пояснил, что суперкомпьютер - это набор различных серверов и систем хранения данных. Вычислительная машина работает на базе GPU (Graphics Processing Unit, графический процессор) и является нейросетью, моделью искусственного интеллекта. Р. Коняшкин отметил, что для полноценного внедрения интеллектуальных помощников в государственных органах необходимы большие ресурсы. До конца текущего года планируется еще несколько поставок оборудования, в том числе передовые решения компании Nvidia - лидера в разработке серверов и оборудования для искусственного интеллекта [6]. Примеры можно продолжить. Посещая 11 декабря 2024 г. Международный центр искусственного интеллекта Alem.AI, который создается в целях трансформации Казахстана в ИИ-ориентированное государство, обеспечивая развитие информационных технологий во всех сферах общественной и экономической жизни страны, К-Ж.К. Токаев поручил создать Совет по развитию искусственного интеллекта с привлечением ведущих международных экспертов. Это обеспечит синхронизацию нашей институциональной среды с передовыми мировыми стандартами [7]. Выступая 14 марта 2025 г. на четвертом заседании Национального курултая, Президент Республики Казахстан отметил следующее: «На мой взгляд, у Казахстана есть огромные возможности как минимум в четырех направлениях, по которым мы способны не только стать самодостаточными, но и задавать тон в региональном и даже глобальном масштабе. Цифровизация и искусственный интеллект, транспорт и транзит, энергетика, агропромышленный сектор, и, конечно, особняком стоит человеческий капитал. Что касается цифровизации и внедрения искусственного интеллекта, то у нашей страны есть возможность добиться прорыва [8]. На заседании Правительства 1 апреля 2025 г. Премьер-министр Республики Казахстан О. Бектенов указал, что согласно поручению главы государства, надо активно внедрять искусственный интеллект. В первую очередь, на платформе «электронного правительства». О. Бектенов подчеркнул, что его применение должно обеспечить бесперебойную работу информационных систем госорганов и будет содействовать упрощению доступа населения к услугам [9]. Таким образом, необходимость законодательного регулирования общественных отношений в сфере искусственного интеллекта обусловлена обеспечением выполнения стратегических целей государства. Она также вытекает из Концепции цифровой трансформации, развития отрасли информационно-коммуникационных технологий и кибербезопасности на 2023-2029 годы, утвержденной постановлением Правительства Республики Казахстан от 28 марта 2023 г. № 269, Концепции развития искусственного интеллекта, утвержденной постановлением Правительства Республики Казахстан от 24 июля 2024 г. № 592. Объективности ради отметим, что еще Законом Республики Казахстан 2 января 2021 г. № 399-VI «О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам восстановления экономического роста» статья 1 Закона Республики Казахстан от 4 июля 2003 г. № 476-II «Об автомобильном транспорте» была дополнена подпунктом 17-2) следующего содержания: «17-2) интеллектуальная транспортная система - комплекс взаимосвязанных автоматизированных систем, обеспечивающих управление, мониторинг и контроль за дорожным движением и перевозочной деятельностью, в том числе сертифицированных специальных контрольно-измерительных технических средств, приборов и оборудования, работающих в автоматическом режиме, фиксирующих правонарушения в области автомобильного транспорта и дорожного движения». Подпунктом 26-1) была дополнена статья 1 Закона Республики Казахстан от 17 апреля 2014 г. «О дорожном движении»: «26-1) интеллектуальная транспортная система - комплекс взаимосвязанных автоматизированных систем, обеспечивающих управление, мониторинг и контроль за дорожным движением и деятельностью по перевозке пассажиров, багажа, грузов и почтовых отправлений, а также сертифицированных специальных контрольно-измерительных технических средств, приборов и оборудования, работающих в автоматическом режиме, фиксирующих правонарушения законодательства Республики Казахстан о дорожном движении и об автомобильном транспорте» [10]. Подпункты 54) и 55) статьи 1 Закона Республики Казахстан от 24 ноября 2015 г. «Об информатизации» изложены в следующей редакции: «54) национальная платформа искусственного интеллекта - технологическая платформа, предназначенная для сбора, обработки, хранения и распространения наборов данных и предоставления услуг в области искусственного интеллекта; 55) оператор национальной платформы искусственного интеллекта - юридическое лицо, определяемое Правительством Республики Казахстан, на которое возложено обеспечение развития и функционирования закрепленной за ним Национальной платформы искусственного интеллекта». Также Закон «Об информатизации» был дополнен статьей 13-2 «Компетенция оператора национальной платформы искусственного интеллекта». Презентуя 3 марта 2025 г. проект закона «Об искусственном интеллекте (ИИ)», депутат Мажилиса Е. Смышляева, отметила, что «если правильно отработаем свой проект закона, то это будет вторая юрисдикция в мире, где будет отдельный закон, посвященный искусственному интеллекту. Следующий момент - безусловно, сегодня искусственный интеллект очень сильно воздействует на отрасли, он внедряется во все сферы экономики, и сегодня очень важно, чтобы это происходило безболезненно. Если это будет так, значит, туда пойдут инвестиции, и отрасли экономики будут сориентированы. Еще один вызов - защита авторских прав и данных, а также ответственность за решения искусственного интеллекта», - сказала Е. Смышляева [11]. В нашем распоряжении имеется проект закона Республики Казахстан «Об искусственном интеллекте» (далее - Проект) по состоянию на январь 2025 г. Рассмотрим его отдельные положения. В преамбуле проекта отмечается, что закон регулирует общественные отношения в сфере искусственного интеллекта, возникающие на территории Республики Казахстан между государственными органами, физическими и юридическими лицами, а также определяет правовые и организационные основы для обеспечения прозрачности, безопасности и государственной поддержки развития искусственного интеллекта. Согласно Проекту, искусственный интеллект - это информационно-коммуникационная технология, позволяющая имитировать или превосходить когнитивные функции человека, с целью выполнения интеллектуальных задач и поиска решений. Под системой искусственного интеллекта понимается объект информатизации, функционирующий на основе искусственного интеллекта. Указанные положения позволяют однозначно утверждать, что искусственный интеллект не наделяется хотя бы малейшими признаками субъекта прав. Это - объект права, то есть то, по поводу чего возникают гражданско-правовые и иные отношения. Субъектами же таких отношений, согласно Проекту, выступают собственники, владельцы, пользователи систем искусственного интеллекта, собственники и владельцы библиотек данных, оператор национальной платформы искусственного интеллекта. В этой связи следует рассматривать как юридически некорректные такие термины, как «правовой статус» или «правовое положение» искусственного интеллекта, но использовать термин «правовой режим», как это и сделано в Проекте. Оставляя в целом в стороне вопросы юридической техники, в том числе теоретические проблемы использования вещно-правовой терминологии, обратим внимание лишь на отдельные положения Проекта. В соответствии с частью первой п. 4 ст. 24 Закона Республики Казахстан от 6 апреля 2016 г. № 480-V «О правовых актах», в законе устанавливаются принципы правового регулирования, а также могут устанавливаться основные понятия, используемые в его тексте, порядок и условия применения иных нормативных правовых актов после вступления закона в силу. Как отмечает М.К. Сулейменов, комментируя статью 2 Гражданского кодекса Республики Казахстан (Общая часть), принципы гражданского законодательства - это «его самые главные положения, служащие фундаментом всей системы гражданского права. Формулируются эти положения весьма абстрактно, но имеют вполне конкретную практическую направленность. Во-первых, они обязательно учитываются при разработке новых или изменении старых нормативных правовых актов. Во-вторых, именно на них нужно ориентироваться, если окажется, что какой-либо спорный случай не подпадает под действие существующих и применяемых юридических норм (аналогия права, см. ст. 5 ГК). <…> В-третьих, основные начала учитываются при толковании, т.е. выяснении подлинного содержания нормы права (ст. 6 ГК) либо договора (ст. 392 ГК)» [12, с. 35-36]. В Проекте вызваны семь принципов регулирования общественных отношений в сфере искусственного интеллекта: 1) законность; 2) справедливость и равенство; 3) прозрачность и объяснимость; 4) ответственность и подконтрольность; 5) приоритет благополучия человека, свободы воли в принятии им решений; 6) защита конфиденциальности и данных; 7) безопасность и защищенность. При этом каждый из них получил свое раскрытие, соответственно, в семи, специально посвященных каждому из них, статьях. Такой подход, как и само содержание статей, раскрывающих эти «принципы», вряд ли заслуживают поддержки, поскольку все они направлены на регулирование определенных, конкретных групп отношений, и возлагают на субъектов этих отношений вполне определенные обязанности, о чем свидетельствует активное использование термина «должны». Например, принцип прозрачности и объяснимости раскрывается так: «1. Пользователям систем искусственного интеллекта должна быть предоставлена полная информация о эксплуатационных и иных характеристиках и ограничениях системы искусственного интеллекта, для обеспечения правильного и целевого использования системы искусственного интеллекта. 2. Каждое физическое лицо, в отношении которого принимаются решения с использованием систем искусственного интеллекта, имеет право быть информированным о порядке автоматизированной обработки и возможных последствиях, о возможности заявить возражение против автоматизированной обработки, а также о порядке защиты своих прав и законных интересов». Принцип ответственности и подконтрольности толкуется в Проекте следующим образом: «1. Система искусственного интеллекта должна всегда оставаться под контролем ее собственника, владельца и пользователя в объеме и порядке, зависящем от их роли на всех этапах жизненного цикла системы искусственного интеллекта. 2. Все субъекты, занимающиеся созданием, эксплуатацией систем искусственного интеллекта, несут ответственность за деятельность систем искусственного интеллекта, а также за результаты деятельности систем искусственного интеллекта, исходя из их роли на всех этапах жизненного цикла системы искусственного интеллекта». В этой связи нам представляется обоснованным и даже необходимым наличие в нормативном правовом акте указания на принципы правового регулирования соответствующих отношений, как это сделано, например, в Гражданском кодексе Республики Казахстан (Общая часть). Ситуация же с проектом закона «Об искусственном интеллекте» является обратным примером, когда ни качественная, ни количественная (более четверти от всех статей Проекта посвящены принципам) стороны регулирования не выдерживают критики. При этом мы вполне допускаем, что соответствующие отраслевые принципы могут найти свое отражение в так называемом «цифровом кодексе», актуальное состояние проекта которого на настоящий момент не известно. С другой стороны, представляются крайне важными положения Проекта, которыми запрещается на территории Республики Казахстан создание и выпуск в обращение полностью автономных систем искусственного интеллекта, а также систем искусственного интеллекта, не исключающих возможность возникновения непредвиденных последствий или злоупотреблений, таких как использование подсознательных, манипулятивных или иных методов, существенно искажающих поведение физического лица и ограничивающие способность принимать осознанные решения или вынуждающих принимать решение, которые могут причинить лицу вред или создавать угрозу причинения вреда жизни, здоровью и имуществу и иного вреда лицу; использование моральной и (или) физической уязвимости физического лица из-за возраста, инвалидности, социального положения и по любым иным обстоятельствам, с целью причинения или создания угрозы причинения вреда лицу и т.п. Названные угрозы требуют в таких случаях от собственников и владельцев систем искусственного интеллекта принятия мер, направленных на минимизацию ущерба и защиту интересов граждан, общества, в том числе путем приостановки или полного прекращения эксплуатации системы искусственного интеллекта. Ряд положений Проекта сформулирован бланкетно и отсылает к законодательству об информатизации, персональных данных и их защите, авторском праве и смежных правах, из причинения вреда, страховании. Данное обстоятельство потребует разработки проекта закона о внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам искусственного интеллекта. В заключении отметим, что основатель Microsoft, американский предприниматель и общественный деятель Билл Гейтс предрек закат множества профессий за исключением трех. Он искренне убежден, что искусственный интеллект в будущем существенно изменит рынок труда. По его мнению, ИИ вытеснит человека из множества сфер - от промышленности до сельского хозяйства. Об этом Гейтс рассказал изданию Tom's Guide: «Нейросети с легкостью возьмут на себя задачи, которые в настоящее время требуют специальных навыков человека». Тем не менее, по его словам, есть три области, которые все же будут требовать человеческих рук. В их числе программирование, биология, энергетика [13]. Иная позиция у И. Каляева, одного из ведущих российских и мировых специалистов в области компьютерных технологий, академика Российской академии наук: «Искусственный интеллект, скорее всего, никогда не обретет самосознание и вряд ли в обозримом будущем достигнет уровня человеческого интеллекта. Во-первых, мы сами толком не понимаем, что такое сознание, и поэтому прогнозировать, что ИИ когда-то обретет то, что мы сами не понимаем - это абсурд. Честно говоря, я не верю, что в обозримом будущем будет создан ИИ просто более-менее сравнимый с естественным человеческим интеллектом, не говоря уже о ИИ с самосознанием, хотя еще в начале эры искусственного интеллекта у ученых были надежды и вера в то, что такой ИИ вот-вот будет создан» [14]. По нашему мнению, нет сомнений в том, что уже на современном этапе развития общества искусственный интеллект может отчасти заменить собой работу «живых» корпоративных юристов, адвокатов, юридических консультантов, нотариусов и судей. Например, там, где требуется лишь «шаблонно-квадратное» мышление (поиск применимой нормы, расчет неустойки и т.п.). Однако внутреннее правосознание, субъективное понимание принципов права присущи лишь человеку. _____________
1. Титова А. Военные предложили передать ядерный арсенал США под контроль ИН // Zakon.kz, 11 марта 2025 г. 2. Абди А. В Финляндии прошло первое богослужение с ИИ // Zakon.kz, 12 марта 2025 г. https://www.zakon.kz/tekhno/6469960-v-finlyandii-proshlo-pervoe-bogosluzhenie-s-ii.html 3. Абдуллаева Д. Искусственный интеллект научился прогнозировать риск остановки сердца за две недели // Zakon.kz, 31 марта 2025 г. https://www.zakon.kz/nauka/6472048-iskusstvennyy-intellekt-nauchilsya-prognozirovat-risk-ostanovki-serdtsa-za-dve-nedeli.html4. Дюсупов А. ИИ стал студентом: искусственный интеллект поступил в европейский университет // Zakon.kz, 6 апреля 2025 г. 5. Московчук А. ИИ в школах и беспилотные самосвалы: чем удивил «Казахтелеком» на AlmatyFair.ai и пора ли менять законы // Zakon.kz, 31 марта 2025 г. 6. Муканов Б. Как будут использовать суперкомпьютер в Казахстане // Zakon.kz, 1 апреля 2025 г. https://www.zakon.kz/tekhno/6472264-kak-budut-ispolzovat-superkompyuter-v-kazakhstane.html 7. Концепцию Центра искусственного интеллекта Alem.AI презентовали президенту // Центр деловой информации Kapital.kz, 11 декабря 2024 г. 9. Елисеева Е. Бектенов поручил ужесточить ответственность всех, кто работает с персональными данными // Zakon.kz, 31 марта 2025 г.10. Термин «интеллектуальная транспортная система» использовался в Законе Республики Казахстан «О дорожном движении» со дня его принятия и понимался как комплекс взаимосвязанных автоматизированных систем, обеспечивающих управление и контроль за дорожным движением. 11. Елисеева Е. В Мажилисе презентовали законопроект об искусственном интеллекте // Zakon.kz, 3 марта 2025 г. 12. Гражданский кодекс Республики Казахстан (Общая часть): Комментарий (постатейный). В трех книгах. Книга 1. Статьи 1-114. Издание четвертое, исправленное и дополненное, с использованием судебной практики / Отв. ред. М.К. Сулейменов. - Алматы, 2020. - 896 с. 13. Абди А. Билл Гейтс предсказал исчезновение всех профессий, кроме трех // Zakon.kz, 1 апреля 2025 г. 14. Цитата по: Дюсупов А. Академик рассказал, почему искусственный интеллект никогда не обретет самосознание // Zakon.kz, 22 марта 2025 г.
Доступ к документам и консультации
от ведущих специалистов |