Надзорный капитализм или демократия?

З-91

Надзорный капитализм возник в результате отступления демократии. За два десятилетия он превратился в глобальную систему, которая не выдерживает проверки на ответственное управление цифровой информацией. Гиганты этой системы создали всеобъемлющий политико-экономический порядок с олигополистическим контролем над цифровыми пространствами. В основе развития надзорного капитализма лежит коммерциализация человеческого поведения через масштабное извлечение данных, генерируемых человеком. Экономическая концентрация власти перерастает в социальную олигархию.

Зубофф рассматривает надзорный капитализм как единое поле институционального развития через четыре стадии, каждая из которых создает условия для следующей и характеризуется новыми экономическими операциями, захватом управленческих функций и социальным вредом. Конфликт между надзорным капитализмом и демократическим порядком представляет собой борьбу за контроль над знаниями в цифровом веке. Антидемократические императивы надзорного капитализма создают ситуацию, когда возможно существование либо его, либо демократии, но не обоих одновременно.

ОТЗЫВ:

Андрей Зубарев, к.э.н., старший научный сотрудник лаборатории исследования цифровых финансов Института Гайдара:

Книга Шошаны Зубофф «Надзорный капитализм или демократия? Противостояние институциональных порядков и политика знания в нашей информационной цивилизации» посвящена такой острой проблеме, как отставание эволюции институтов (в первую очередь правовых) по отношению к рискам, связанным с «неправомерным» использованием всё ускоряющихся в своём развитии технологий сбора, анализа и использования индивидуальных данных.

В наши дни мы можем наблюдать не просто рост оборота индивидуальных данных, а даже ускорение многих показателей, связанных с их сбором и использованием. Это стало возможным, в существенной степени, благодаря развитию информационных технологий и вовлечению большого числа пользователей в те или иные сервисы. Априори рост технологий и сетевых эффектов не является каким-то негативным событием, однако человеческой природе никогда не был чужд риск недобросовестного поведения (moral hazard), поэтому и возникает активная дискуссия о неправомерном использовании технологий в контексте данных. В связи с этим вполне ожидаемо появление подобных книг, не только описывающих факты и масштабы злоупотреблений в использовании данных, но обозначающих глобальные риски в рамках более широкой картины жизни людей, государств и всего мира. Неблизорукий взгляд, позволяющий всё же «увидеть лес за деревьями», должен помочь в осознании глобальных проблем (как сейчас, так и в недалёком будущем), а также и в поиске возможных решений и ответов на появляющиеся цивилизационные вызовы. Именно такой глобальный взгляд на проблемы демонстрирует в своей книге Шошана Зубофф. Стиль написания книги может показаться читателю несколько «кошмарящим», однако большой набор аргументов и некоторый уход в сторону научности от легко воспринимаемого научно-популярного стиля свидетельствует об остроте восприятия автором обсуждаемых в книге проблем и вызовов.

Книга очень хорошо структурирована, что можно понять уже по оглавлению, описывающему стадии развития, являющиеся в некотором роде блоками фундамента, на котором строится «надзорный капитализм». Наблюдаемое нами возникновение этого, если угодно, нового политического строя и является ключевым нарративом книги Шошаны Зубофф. Описывая суть понятия надзорного капитализма, автор приводит следующее заключение, в которой явным образом просматривается и вызов, столь её беспокоящий: «Институциональный порядок надзорного капитализма представляет собой информационную олигополию, от которой зависят как демократические, так и нелиберальные правительства в вопросах масштабного извлечения данных, генерируемых людьми, их обработки и прогнозирования». Именно риски от этого нового порядка как для привычных нам институтов, так и для индивидуальных прав граждан и являются основной проблемой, возникающей на наших глазах, к скорейшему решению которой и призывает автор книги.

Что же лежит в основе этих вызовов? Откуда возникают эти риски? Кто ответственен за них? Ответы на эти вопросы и раскрывает в своей книге Шошана от главы к главе.

Основу проблемы, ведущей к институциональному кризису, автор видит в неконтролируемом и неподотчётном сборе и использовании данных об индивидах крупными IT-корпорациями. Данные собираются совершенно непрозрачным образом, зачастую непонятным и неизвестным ни самим индивидам, ни каким-либо контролирующим органам. Крупные корпорации, по мнению автора, используют эти данные исключительно для обогащения, расширяются, что приводит к удешевлению и ускорению сбора больших массивов данных за счёт эффекта масштаба. Зачастую, по мнению автора, подрываются права индивидов на конфиденциальность.

Отсутствие какого-либо адекватного развитию отрасли регулирования ведет к тому, что, исходя из чисто экономических принципов (роста кликов, цитируемости, вовлечения новых пользователей), информационные гиганты не только не контролируют, но, напротив, часто способствуют распространению недостоверной информации. Всё это приводит к тому, что автор называет «эпистемическим хаосом». Столь важный вопрос распространения недостоверной информации явным образом не обсуждается в книге, однако неразрывно связан с дискурсом об искажении реальности и получении несуществующих фактов и данных посредством использования ИИ (AI, artificial intelligence, искусственный интеллект) – технологии, наиболее активно развивающейся в последние годы и ускоряющей и без того растущую сферу IT.

Однако на этом проблемы не заканчиваются. Сбор данных может использоваться (и, как показывает автор, используется!) не только для конструирования альтернативной реальности, но и для управления поведением людей. Причем как индивидуальным, так и коллективным. Всё это может оказывать влияние на глобальные процессы и приводить к результатам, недостижимым без искажений информации. В качестве одного из примеров автор приводит манипулирование избирателями посредством прямой дезинформации и склонения к голосованию за другого кандидата, а также и через влияние на явку в тех или иных регионах с помощью определенной направленности постов в социальных сетях. Данные, собранные по критической массе индивидов, позволяют не только таргетировать рекламу согласно предпочтениям, но и знать пол, цвет кожи, возраст и другие критические данные, дающие возможность манипулировать политическими процессами на глобальном уровне. Всё это, по мнению автора, ведёт к подрыву привычных многим демократических институтов, так как глобальные процессы теперь могут быть продиктованы просто волей руководителей IT-гигантов.

Следует, однако, отметить, что автор воспринимает демократические институты как абсолютное благо и делает это в некотором смысле аксиоматически – постулированием. Этот факт не умаляет достоинства самих институтов, но здесь явно есть место для отдельной дискуссии об их качествах и достижимости моделей вообще, в чём, возможно, могли бы помочь и некоторые элементы надзорного капитализма.

Решение озвученных проблем Шошана Зубофф видит в скорейшем независимом анализе и регулировании действий соответствующих корпораций. Она демонстрирует, почему до сих пор эти действия ни к чему не привели. Тут дело в абсолютно ангажированных (судя по их составу) различных государственных комиссиях.

Отдельным пунктом стоит сказать о методе аккумулирования фактов, использованных для написания книги. Шошана Зубофф провела серию независимых больших интервью с несколькими высокопоставленными источниками, непосредственно учавствовавшими в принятии решений по контролю за использованием данных в США и ЕС. Интервью анонимны, автор не раскрывает источников, лишь нумерует их, причём интервьюируемые не знали о фактах интервьюирования друг друга (по утверждению автора книги), что делает исследование «слепым», а совпадение мнений и фактов – более значимым и весомым аргументом.

В свете дискуссии о регулировании и поддержании функционирования институтов «сверху» явным образом возникает вопрос о возможном запросе на подобное регулирование «снизу» и о конкретных действиях самих индивидов, ведь именно их права нарушаются, именно ими управляют, именно они испытывают негативные экстерналии от сбора данных и дезинформации, даже если они никак не были в этом задействованы. Это оставляет читателю массу места для размышления, ведь все эти проблемы актуальны сейчас в любом обществе, с любыми взглядами и политическим строем.