|
|
|
Кому и зачем нужны Ваши персональные данные? (кратко о влиянии «надзорного капитализма» на природу человека посредством цифровизации и искусственного интеллекта) [1]
М.Ш. Құрманғали, к.ю.н., профессор Школы права и государственного управления НАО «Университет Нархоз»
Кедей бай болсам дейді, бай Құдай болсам дейді. (Казахская поговорка) Что такое персональные данные (по обобщенному международному определению): - любая информация, относящаяся к человеку, которого можно идентифицировать; - любая информация, устанавливающая личность человека, или информация, с помощью которой личность человека может быть установлена путем получения дополнительных сведений. Что относится к Вашим персональным данным: - имя (средство личной идентификации и связи с семьей); - изображение (фото/видео) и голос человека; - пол; - сексуальная ориентация и сексуальная жизнь (конфиденциальные данные); - информация о здоровье человека (конфиденциальные данные); - расовая или этническая принадлежность (конфиденциальные данные); - политические предпочтения, религиозные или другие убеждения (конфиденциальные данные). Какие устройства собирают и используют Ваши персональные данные: - смартфоны; - персональные компьютеры; - планшеты; - видеокамеры; - «умные» часы; - фитнес-браслеты; - «умная» бытовая техника; - дроны и др. Данный перечень не является исчерпывающим; например, в него можно включить современные автомобили, в том числе электрические. Эпоха «надзорного капитализма»: борьба за будущее человечества на новых рубежах власти В 2019 г. Ш. Зубофф (Shoshana Zuboff, профессор Гарвардской бизнес-школы) издала книгу «Эпоха надзорного капитализма: борьба за будущее человечества на новых рубежах власти» [2]. Ее труд впервые дает научное понимание феномена «надзорного капитализма» и его влияния на общество и человеческую автономию. В нем исследуется, как личная информация людей собирается, анализируется и монетизируется технологическими гигантами и другими корпорациями. «Ставки не могут быть выше: глобальная архитектура модификации поведения угрожает человеческой природе в 21 веке точно так же, как промышленный капитализм изуродовал мир природы в 20 веке». Если быть кратким, то главная ценность исследования состоит в том, что Ш. Зубофф наглядно демонстрирует последствия проникновения «надзорного капитализма» из Кремниевой долины во все сектора экономики. Огромное богатство и власть аккумулируются на зловещих новых «поведенческих фьючерсных рынках», где прогнозы о нашем поведении покупаются и продаются, а производство товаров и услуг подчинено новым «средствам модификации поведения». Угроза переместилась от тоталитарного государства «Большого Брата» к повсеместной цифровой архитектуре: «Большому Другому», действующему в интересах «надзорного капитала». Здесь находится горнило беспрецедентной формы власти, характеризующейся крайней концентрацией знаний и свободной от демократического контроля. Всеобъемлющий анализ Ш. Зубофф обнажает угрозы обществу XXI века: контролируемый «улей» тотальной связи, который соблазняет обещаниями полной уверенности для получения максимальной прибыли - за счет демократии, свободы и нашего человеческого будущего. При незначительном сопротивлении со стороны закона и общества «надзорный капитализм» находится на грани доминирования над социальным порядком и формирования цифрового будущего - если мы позволим этому [3]. По ту сторону свободы и достоинства. Хозяева денег превращаются в хозяев человечества Уточняя и раскрывая доступным для большинства языком вышеуказанный труд, профессор А. Фурсов, ученый-историк, социальный философ, директор Института системно-стратегического анализа, РФ, пишет: «Что же касается посткапитализма, то в его основе контроль именно над невещественным, над средствами модификации поведения: над социальными сетями, информацией, потребностями, а не над средствами производства (она имеет в виду в данном случае именно вещественные факторы производства). А это уже не капитализм». Главный фактор, который отчуждается БигТехом и контролируется им, - человеческое поведение. И если капитализму предшествовало первоначальное накопление капитала, то у истоков, в основе посткапитализма (ранней формой и является то, что Ш. Зубофф неточно назвала «надзорный капитализм») - накопление поведенческого капитала [4]. Здесь «наше поведение, привычки и опыт упаковываются таким образом, что они служат чужим интересам. Человек становится сырьём». Причём не в качестве тела, как при рабовладении, и не в качестве приложения к земле, как при феодализме, а как социально-духовное, социально-гомогенное целое, человек как целостное существо в единстве целей, ценностей и потребностей, которые формулируются, навязываются, отчуждаются и контролируются властелинами новых «колец всевластия» - поведенческих. Если промышленный капитал, поясняет Ш. Зубофф, процветал за счёт природы (как естественной, так и искусственной), то новый «информационный строй» - за счёт человеческой природы [4]. Еще в 70-х годах прошлого века знаменитый американский психолог-бихевиорист Б. Скиннер (Burrhus Frederic Skinner, 1904-1990) опубликовал книгу «По ту сторону свободы и достоинства» [5]. Критики сразу же окрестили ее «К рабству и унижению», поскольку речь в ней - ни много ни мало - шла о необходимости отказа от ряда ценностей, в частности, от свободы, приватности - привет цифровизаторам будущего. Также в 1971 году и К. Шваб выпустил книгу «Управление современным предприятием в машиностроении», где впервые поднял тему стейкхолдерского капитализма, а самих стейкхолдеров определил как «вторичных участников огромного коммерческого проекта» [4]. Создавая «средства модификации поведения», платформы не столько навязывают определённые нормы поведения, сколько формируют поведение с заданными коммерческими и политическими результатами, вырабатывают у человека предсказуемое поведение, то есть дрессируют его. «Интернет вещей» - важнейший элемент НК: здесь происходит комбинация социальной инженерии, психологии, физики, биологии и электроники. Люди превращаются в стандартизированные поведенческо-потребительские группы, то есть в обезволенные человеческие стада. При этом Большие данные (Big Data) обеспечивают наблюдение и контроль над такими сторонами и формами поведения, которые раньше невозможно было отследить в принципе [4]. Важность исследований и критического анализа влияния цифровизации и ИИ на социальный порядок и политические системы, подчеркивая противоречия между «надзорным капитализмом», т.н. «технологическим гуманизмом» и естественной природой человека С учетом вышесказанного, представляется важным изучение проблем (в том числе и правовых) цифровизации и использования технологий ИИ в Казахстане и мире на основе знаний сущности политэкономических, глобальных геоэкономических и геополитических процессов современного мира. К примеру, начальной темой для исследования может быть: «Управление искусственным интеллектом: ценностные противоречия, возникающие из концепции «наблюдательного капитализма» и «человек-ориентированного» (в том числе европейского) подхода. При этом, такое исследование может изучить растущее значение ИИ в современном обществе и исследует, как эта технология может отражать напряженности между приоритетами «надзорного капитализма», который предполагает массовый сбор и обработку данных и ценностями европейского сообщества, ориентированного на человека, которое выделяет защиту конфиденциальности и индивидуальных прав. В этом же исследовании или отдельно также может быть проведен сравнительный анализ подходов ЕС, Великобритании, США, Китая, а также IT-корпораций в глобальной борьбе за доминирование и создании международных правил регулирования ИИ. Этот сравнительный анализ будет способствовать более глубокому пониманию этических последствий, связанных с ИИ и его регулированием во всем мире. Важно критически рассмотреть влияние ИИ на политические системы, подчеркивая противоречия между «надзорным капитализмом» и демократическими политическими системами, т.н. «технологическим гуманизмом» и естественной (божественной) природой человека. В этой научной работе можно проанализировать, как текущие политики и практики управления ИИ могут отражать эти ценностные противоречия, и как решения в этой области могут повлиять на повседневную жизнь людей. Необходимо рассмотреть критический аспект проблемы - неуправляемый сбор и обработку данных приложениями ИИ, исследуя этические и конфиденциальные аспекты, связанные с их использованием. В заключение отметим, что исследование может касаться ключевых вопросов управления ИИ, таких как глобальная конкуренция за доминирование в этой области, влияния ИИ на политические системы и продвижение т.н. «технологического гуманизма», этические вопросы обработки данных и критической важности «человек-ориентированного» (в том числе европейского) подхода к регулированию ИИ. Такой исследовательский подход необходим для текущих дискуссий о том, как обеспечить, чтобы технологический прогресс не подрывал фундаментальные ценности сообщества, и как обеспечить справедливое и этичное управление ИИ в будущем. ____________ Сноски: 1. Доклад на научно-практической конференции «Юридическая наука в цифровую эпоху» в Q University в Алматы, 29 февраля 2024 г. (Публикация выполнена в рамках проекта, финансируемого Комитетом по науке Министерства науки и высшего образования Республики Казахстан (грант № AP19678623)). 2. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier January 15, 2019 by Shoshana Zuboff. 3. Harvard Business School / Publications, 2019. https://www.hbs.edu/faculty/Pages/item.aspx?num=56791 4. Фурсов А. По ту сторону свободы и достоинства. Хозяева денег превращаются в хозяев человечества, 31 октября 2023 г. https://dzen.ru/a/ZUCzXN30nXso8NTd 5. Скиннер Б.Ф. По ту сторону свободы и достоинства / Перевод с английского А. Федорова, 2015. - 192 с. https://vk.com/doc-74992645_448389783?hash=gE4CJRZUs8AsCEsKHYVZOmvSvZR3k4UEW1Aw6kVIpvw
Доступ к документам и консультации
от ведущих специалистов |