Цифровой феодализм

Ведь именно это поставлено на карту. Интернет, который обещал стать глобальным интеллектуальным достоянием, был разделен на вотчины без участия пользователей, населяющих это достояние.

Перевод статьи Зака Скотта (Towards Data Science).

К сожалению, наша современная цифровая экосистема быстро превращается в феодальную структуру власти, возведенную параллельно с существующими структурами власти и свобод. Согласно общепринятой концепции феодализма, относительно небольшой класс рантье (лорды) использует различные тонкие и открытые политические и экономические системы для извлечения стоимости из повседневной жизни класса производителей (крестьян), которые, как правило, имеют мало выбора или влияния на систему. Пользователи участвуют в работе платформ (таких как Google или Amazon), зачастую имея лишь самое скудное представление о данных, которые они предоставляют, и эти данные затем используются для создания стоимости исключительно для владельцев платформ. Но параллелей между нашей современной цифровой экосистемой и феодальным обществом гораздо больше, чем можно описать широкими мазками, и эти общие черты настолько поразительны, что можно утверждать, что цифровая экосистема, и особенно экосистема социальных сетей, представляет собой де-факто феодальное общество.

Средневековые времена

Прежде чем мы начнем, важно кратко обсудить природу реального исторического феодализма. Это было не вовсе: "Рыцари, лорды и леди, ура!", как мы можем подумать из популярных источников информации. В широком смысле это называется рыцарством. Точнее, рыцари, лорды и леди (или любая другая терминология, используемая в данном обществе для обозначения воинов и благородных классов), безусловно, были, но они составляли очень малую часть населения, которое в основном было крепостными (или любой другой термин, используемый землевладельцами для обозначения "сброда"). Чтобы уточнить определения, рыцарство в основном охватывает все "веселые" части феодализма, которые мы любим видеть в фильмах и книгах. Другая половина феодализма (принудительный труд и массы немытых крестьян, подчиняющихся благородному лорду) в основном называется манориализмом.

Как и следовало ожидать от средневековых политических систем, большинство феодальных обществ в основном сосредоточены вокруг сельского хозяйства. Феодальная система, используемая для управления сельскохозяйственным производством и сельской жизнью в целом, называется манориализмом. При манориализме лорд контролирует определенный участок земли, который обычно был пожалован ему более могущественным лордом или королем. Крестьяне живут на этой земле, и они, как правило, политически и экономически подчиняются лорду и его многочисленным членам семьи и прислуге. В целом, крестьян можно разделить на свободных, которые обычно либо владели собственным участком земли, либо платили денежную ренту; крепостных, которые были обязаны обрабатывать участки земли для своего господина в качестве своего рода несвободного труда; и рабов, которые считались собственностью и имели мало юридических прав. Хотя до сих пор ведутся споры о переходе от рабства к крепостному праву как доминирующей форме несвободного труда в Европе, общепризнанно, что по мере того, как рабство становилось все менее распространенным в Европе, на смену ему приходило крепостное право.

Во многих случаях крепостные имели основные права на такие вещи, как общие пастбища для скота и небольшие сады для личного пользования, поэтому формально они не были рабами. Однако крепостные также были обязаны обрабатывать участки господской земли в качестве принудительного труда или, в более капиталистических феодальных системах, платить (часто непомерные) налоги. Для того чтобы жить и производить достаточно продуктов питания для своего существования, крепостные должны были подчиняться производственным требованиям сеньора. Кроме того, поскольку обязательства крепостных были напрямую связаны с землей, которую они занимали, любой обмен землями означал переход обязательств крепостных. Во многих случаях крепостные считались просто продуктивным элементом самой земли, как плодоносящее дерево или стадо оленей.

Крестьяне, будь то крепостные или другие, также часто были обязаны пользоваться платными услугами, предоставляемыми в поместье лорда. Например, во многих поместьях были зерновые мельницы, которые могли использоваться крестьянами для перемалывания зерновых продуктов в муку, но эти мельницы также обычно требовали платы или сдачи части произведенной муки. В некотором смысле, эти мельницы представляли собой своего рода местную монополию, в которой крестьянам оставалось только пользоваться мельницей сеньора и платить за нее или не пользоваться вообще. Последний "вариант", хотя и был теоретически возможен в некоторых обстоятельствах, был функционально невозможен, поскольку мука была одним из немногих легко сохраняемых источников калорий.

В судебном отношении лорд, как правило, отвечал за всех своих подданных. Были некоторые исключения (как и следовало ожидать от такой разнообразной и давней системы, как манориальная), и судебные модели средневекового феодализма несколько различались, но в целом лорд создавал и содержал суд или ряд судов, которые рассматривали мелкие преступления и гражданские споры. Эти феодальные суды также существовали для обеспечения соблюдения любых условий, налагаемых на крестьян и других арендаторов земель сеньора. Часто существовали различные правила и положения, регулирующие каждый вид жильцов на землях сеньора, и суды обычно регулировали эти различные обязательства, а также любые возникающие споры. Конечно, существовали и высшие суды, отвечавшие за более тяжкие преступления, и они, как правило, контролировались высшими эшелонами знати.

Как и в большинстве систем принудительного труда, дать клятву и стать крепостным было гораздо проще, чем вырваться из крестьянства. Как правило, большинство крепостных были привязаны к своему социальному классу. Существовали некоторые способы избежать крепостного права, но они варьировались в зависимости от общества и даже от конкретного лорда. И наоборот, люди, которым выпало несчастье бедности или катастрофы, часто были вынуждены подчиниться феодальным обязательствам, чтобы выжить. Обычно это включало в себя некую церемонию, связывающую человека с лордом и его поместьем, и, возможно, некую плату за проживание. Как и следовало ожидать, крепостные обычно не имели механизмов или ресурсов для выполнения своих обязательств перед хозяином поместья, поэтому их семьи были навечно привязаны к земле и поместью как несвободные работники.

В большинстве поместий также проживало некоторое количество свободных крестьян, которые не были обязаны обрабатывать землю принудительным трудом, но платили налоги, ренту и другие подати. Этих свободных людей можно считать ранними версиями того, что сегодня можно назвать "нижним средним классом", но различные классы средневекового общества настолько изменчивы и запутанны, что прямое сравнение затруднительно. Один из простых способов представить себе свободных людей – это люди, которые были достаточно богаты, чтобы арендовать или купить землю, но недостаточно богаты, чтобы крепостные работали на них. Таким образом, у них было больше свободы в плане бизнеса, которым они занимались, но они все равно должны были сами выполнять свою работу. Это грубое упрощение, и о природе свободы и свободных людей в каждом феодальном обществе написаны целые книги, но оно дает достойное представление о типах людей, которые считались свободными.

Некоторые читатели, возможно, уже имеют представление о том, к чему идет дискуссия, но важно провести параллель и противопоставить современную цифровую экосистему и экосистему манориализма. Эта дискуссия будет в основном сосредоточена вокруг компаний социальных сетей, которые являются одними из крупнейших и наиболее зрелых компаний в современной экономике. Кроме того, более традиционные технологические компании часто стремятся подражать компаниям социальных сетей во многих своих практиках работы с данными, поэтому они также будут рассмотрены.

Крепостные – пользователи социальных сетей

Властные структуры современных социальных медиа и окружающей их экосистемы науки о данных очень напоминают феодальную социально-экономическую структуру. Только вместо того, чтобы производить урожай и скот, крепостные этой системы производят и сдают данные в ходе своей повседневной жизни, а господами этой системы являются руководители технологических компаний, вся инфраструктура которых построена на сборе и эксплуатации пользовательских данных.

Прежде чем мы продолжим, необходимо рассмотреть аргумент "добровольного участия" или согласия социальных медиа. Любой, кто обсуждает справедливость экосистемы науки о данных и социальных медиа, почти неизбежно сталкивается с аргументом, что участие в социальных медиа является добровольным. Хотя это может показаться хорошим стандартом, согласие нарушено и в целом неэффективно как парадигма для современных цифровых данных. Современные подходы к согласию (например, "Мы отслеживаем вас, нажмите здесь, чтобы передать нам ваши данные, и мы будем делать с ними все, что захотим, до конца времен") можно рассматривать как нечто подобное тому, как средневековые крестьяне "добровольно" обязывались стать крепостными. Хотя в современном обществе ситуация менее жестока физически, чем в средневековом, когда почти вся личная и профессиональная коммуникация в обществе осуществляется в цифровом формате, неучастие является добровольным остракизмом. Неучастие также практически невозможно в современном обществе, поскольку физические магазины вчистую проигрывают онлайн-заказам, поскольку любое взаимодействие между международными телефонами требует непомерно высоких цен или бесплатных цифровых альтернатив, поскольку вечеринки планируются и приглашения рассылаются через социальные сети, а заявления на работу через интернет становятся единственными заявлениями на работу.

Эта формулировка даже не затрагивает тот факт, что для многих инвалидов и людей с другими возможностями цифровой вариант – это единственный вариант, что еще больше приближает ситуацию к ситуации "подчинение или смерть". Интернет дал беспрецедентную свободу многим людям, которые раньше были изолированы или зависели от опекунов. Но в современном интернете всегда есть оговорка: все, что вы закажете или скажете, будет кем-то отслежено, независимо от того, насколько это необходимо для вашей жизни.

Если мы признаем, что неучастие – это ложный или, по крайней мере, крайне обременительный вариант, то участие в системе – это основное состояние бытия. Что касается участия, то ключевое различие между средневековым манориализмом и цифровым феодализмом заключается в том, что ни один человек не обязан пользоваться только одной платформой. Вместо этого у каждого человека есть целая сеть обязательств перед различными цифровыми поместьями, каждое из которых требует различные данные в обмен на использование. Для тех, кто обеспокоен неприкосновенностью частной жизни, вопрос заключается в том, сколько данных они готовы отдать стольким господам и сможет ли их личная и профессиональная жизнь соответствовать этим решениям.

По мере того, как облачные сервисы, такие как Office 365 или Slack, агрессивно вторгаются в бизнес, это решение становится спорным. Традиционно на работе ваше время не принадлежит вам, и работодатель всегда знал ваш общий график, производительность и стиль работы. Но теперь все это известно и другой сторонней компании, и она может легко сопоставить их с данными, собранными в других компаниях. Ваше время и производительность труда могут принадлежать вашему работодателю, но теперь они также работают на вторую компанию, которая использует их для того, что не принадлежит вашему работодателю. Вторжение облачных сервисов в бизнес-среду – это корпоративная медиатизация цифрового пространства, поскольку ранее суверенные цифровые среды, такие как локальные корпоративные серверы, уступают обязательства и права по хранению и использованию данных третьим лицам. Во многих случаях ваш работодатель может оказаться в точно такой же ситуации, как и вы, решив отдать свои данные. Полезная концептуальная схема для корпоративных клиентов "облачных сервисов" – это рыцари или мелкие лорды, которым лорды платформы предоставляют пространство и доступ и которые управляют своей собственной вотчиной крепостных.

Одним из ключевых различий между общественными группами, участвующими в цифровом феодализме, является настойчивое утверждение, что индивидуальные данные функционально ничего не стоят, но совокупных данных достаточно для оценки стоимости крупнейших компаний на планете. Это неравенство (или, если быть милосердным, "эффект масштаба") лежит в основе цифрового феодализма, и это то, с чем традиционным крепостным не приходилось сталкиваться. Крепостному легко оценить ценность зерна или других культур, сдаваемых господину поместья, и любому господину будет трудно обоснованно утверждать, что еда ничего не стоит, особенно в голодные времена. Не зря многие революции были вызваны засухами, контролем цен и другими событиями, ограничивающими доступность продовольствия. Голод является мощным мотиватором, чего нельзя сказать о приватности.

Компании по сбору данных используют эти слепые пятна и настаивают на том, что данные отдельного человека не имеют никакой значимой ценности, кроме как в совокупности. Можно также утверждать, что один доллар в оценке TikTok в 220 с лишним миллиардов долларов функционально ничего не стоит по сравнению с совокупностью, так почему же от них не ждут, что они отдадут эти "никчемные" деньги людям, которые создают основу их стоимости? Конечно, этот вопрос намеренно несколько туповат, но он иллюстрирует фундаментальный дисбаланс власти между хозяевами цифровых поместий и их пользователями. Они определяют ценность ваших данных, но они также настаивают на том, что любая выгода, которую они вам предоставляют, имеет такую же ценность (за вычетом прибыли, которую они извлекают). При цифровом манориализме владельцы платформ категорически лишены стимула когда-либо оценивать стоимость данных одного человека, в то время как они с радостью оценивают свои совокупные данные в астрономических цифрах.

Джентри – корпоративные партнеры, инфлюенсеры и крупные блогеры

Эти дисбалансы власти усугубляются тем, что правовые системы цифрового и средневекового феодализма также имеют много общего. "Низшими судами" цифровых поместий являются любые системы отчетности и персонал, которые они предпочитают использовать, а преступления, которые они контролируют на своих платформах, выросли органически. Домогательство – серьезное и юридическое преступление, но большинство полномочий по расследованию и наказанию за случаи цифрового домогательства было передано владельцам платформ. Вы, конечно, можете подать заявление в полицию, но если кто-то преследует человека из другого штата или страны, у жертвы мало средств правовой защиты, помимо систем, установленных владыками данной платформы. Жалобы на авторские права часто следуют аналогичной схеме с дополнительным слоем чрезвычайно строгих юридических структур, требующих от владельцев платформ проведения настолько агрессивной политики, что запросы на снятие ограничений в соответствии с законом об авторском праве цифрового тысячелетия могут сами стать инструментом преследования.

Как и следовало ожидать, эти системы часто совершенно неадекватны для защиты прав "крепостных" и имеют тенденцию благоприятствовать правам "союзных классов" в цифровой феодальной структуре. Медиа-компании платят огромные деньги за рекламу, как явную, так и скрытую, на платформах социальных сетей, поэтому если они жалуются, что кто-то использует их интеллектуальную собственность, то платформы обязательно набросятся на них. Но что если компания украдет ваше искусство или музыку без согласия? Что ж, вам лучше иметь свой собственный канал в социальных сетях и большую аудиторию, потому что в противном случае, возможно, они займутся этим через несколько недель, когда их крупный клиент уже получит огромную прибыль.

Между крупными компаниями, которые используют платформы социальных сетей и их данные для своих собственных стратегий, находится любопытная группа "мелких дворян", инфлюенсеров. Это люди, которые получают различные привилегии или доход от социальных медиа. Они редко являются настоящими сотрудниками медиа-платформ, но получают деньги (обычно через "партнерские программы") за привлечение большего числа пользователей на платформу и, таким образом, за увеличение потока данных, поступающих на платформу. Конечно, они несут обязательства перед платформами, которые их размещают, но у платформ нет взаимных обязательств. Многие платформы будут с радостью размещать самый отвратительный контент, если он привлечет к ним огромное количество пользователей, но они откажутся от такого контента, как только кто-нибудь начнет обсуждать бойкот или рекламодатели пригрозят уходом.

Наиболее успешные представители цифрового дворянства даже могут получить собственные подплатформы, сети сайтов, построенных вокруг их основной аудитории, или прибыльную работу на полный рабочий день, распределяемую в качестве вознаграждения от повелителей платформ. Эти подплатформы обычно служат для обеспечения чувства автономии без фактической свободы от сбора данных и эксплуатации. Часто это связано с такими привилегиями, как возможность создавать несколько аккаунтов под брендом, в то время как большинство индивидуальных пользователей вынуждены использовать только свою настоящую личность, если несколько аккаунтов вообще возможно. Многие платформы прямо запрещают создание нескольких аккаунтов, если, конечно, вы не ведете бизнес на их платформе. Когда у вас есть бизнес (или вы утверждаете, что у вас есть бизнес), ваш доступ к данным, накопленным на платформе, также увеличивается. Но вам никогда не предоставляется полный доступ ко всем данным, даже к тем, которые приносят ваши субплатформы, потому что хозяева вашей платформы, конечно же, "серьезно обеспокоены" конфиденциальностью данных своих пользователей. В циничном переводе это означает, что владельцы подплатформ просто недостаточно могущественны или богаты, чтобы заслужить полный доступ.

Властелины и короли – владельцы платформ

Наконец, мы подошли к широко обсуждаемым владыкам нашего цифрового манориального хозяйства. Это люди, которые владеют и контролируют массивные платформы и все данные, которые они генерируют. Часто возникает соблазн обсудить право собственности в терминах корпораций или организационных структур, но при этом игнорируется основное понимание этой группы: это (в основном белые, в основном мужчины) люди. Они определяют политику конфиденциальности и продаж своих платформ. Они пожинают умопомрачительные доходы от пользовательских данных. Они подписывают любые новые схемы получения дополнительных данных или более агрессивного отстаивания своих прав в качестве суверенных правителей своих цифровых владений.

Важно понимать природу структур власти, воздвигнутых цифровым манориализмом, и ошибочно полагать, что владельцы платформ универсально злобны или доброжелательны. Многие из них пытаются быть хорошими людьми и, возможно, считают себя таковыми. Но они возглавляют корпорации, а единственной целью корпорации является получение прибыли. Поскольку данные пользователей являются их основной ценностью, цифровые владыки вынуждены постоянно посягать на конфиденциальность пользователей и расширять усилия по сбору данных, чтобы их власть не была узурпирована кем-то, кто больше хочет максимизировать сбор данных. Владельцы платформ вечно ходят по краю, балансируя между новыми способами извлечения данных и риском того, что пользователи покинут их эксплуататорскую среду. Это во многом схоже с манориальными лордами, которые должны были поставлять десятину, налоги и призывные сборы своим покровителям или королям, обеспечивая при этом процветание собственного поместья. Но в цифровом манориализме конечной властью является не правитель или правители нации, а экономические силы финансового рынка. По иронии судьбы, организации, извлекающие ценность из своих пользователей, в свою очередь, являются подотчетными коллективным группам инвесторов, хотя большинство их пользователей никогда не будут достаточно богаты, чтобы приобрести достаточную собственность для защиты собственных прав.

Чтобы узаконить эти дисбалансы власти, манориальные системы почти всегда возвращаются к какому-либо механизму договорной верности. Исторически крепостные подчинялись или из поколения в поколение подчинялись контракту или соглашению, условия которого устанавливал их господин. В современном мире договоры цифрового манориализма представляют собой бесконечные пользовательские соглашения, многие из которых содержат такое количество пунктов и таких эксплуататорских условий, что они не имеют законной силы во многих юрисдикциях. Пользовательские соглашения редко, если вообще когда-либо, представлены в простых терминах, и часто они настолько объемны, что для их полного понимания потребуется несколько дней чтения и, вероятно, юридическое образование. Таким образом, пользовательские соглашения представляют собой еще одну часть артефакта, символизирующего выбор пользователя.

Настройки обмена данными – это еще один инструмент в арсенале властелина сбора данных. Утверждается, что эти настройки позволяют пользователям вручную контролировать, какими данными они делятся с другими. Однако это верно лишь в некоторых случаях, и поддержание этих настроек обычно требует постоянной бдительности. Во многих случаях при обновлении или перестройке пользователи по умолчанию переходят на наиболее разрешительные параметры обмена данными, и после каждого обновления им приходится вручную переустанавливать свои настройки. Самый гнусный из таких сбросов предполагает обратное согласие: если ваши настройки по умолчанию разрешают передачу определенного фрагмента данных, то платформа немедленно получает разрешение на передачу всего исторического архива этих данных. Таким образом, "контроль конфиденциальности" не препятствует хранению данных; он просто ограничивает обмен этой информацией.

У пользователей не всегда есть даже этот иллюзорный выбор согласия. С развитием науки о данных растет и новая сфера количественной оценки работников. К сожалению, движение Quantified Worker – это просто тейлоризм с тонким слоем технологии на лице, принятый в обществе без трудовой защиты прошлого. Но поставщики услуг, осуществляющие количественную оценку, почти всегда являются сторонними платформами данных, которые ищут новых партнеров, чтобы сделать свои стратегии сбора данных обязательными. Такую политику проводит уже не один работодатель, а несколько влиятельных работодателей или даже государственных структур, сотрудничающих с целью максимизации количественной оценки результатов труда. Естественно, крепостные этих цифровых предприятий всегда называются "пользователями", "участниками" или другими терминами, подразумевающими возможность отказаться от участия, в то время как на самом деле они скорее субъекты, чей выбор – отдать свои данные третьей стороне или потерять работу. Предсказуемо, что работников, подвергающихся этим обязательным схемам сбора данных, можно разделить на профсоюзных работников, которые успешно сопротивляются этим вторжениям, и не профсоюзных работников, которые видят, что качество их жизни и работы резко снижается, поскольку они отчаянно борются за сохранение своей работы, в то время как показатели эффективности стремительно растут.

Поэтому нам остается только гадать, какое событие может послужить толчком к более серьезному регулированию конфиденциальности пользователей/потребителей. Можно было бы привести логичный аргумент в пользу чего-то вроде крупных нарушений безопасности или утечек, но это уже повседневная проблема, и ни одна компания не выглядит особенно обеспокоенной этим. Они просто добавляют стоимость расследования в свои расчеты по управлению рисками и продолжают жить как обычно. Что вы собираетесь делать, перестать пользоваться услугами банков, потому что ваши личные данные были украдены в результате утечки информации? Вы можете думать, что безопасность ваших данных чрезвычайно важна, но для компании, занимающейся обработкой данных, единственная разница между успешной продажей и нарушением безопасности заключается в том, сколько им заплатят за ваши данные.

Что дальше

Очевидно, что манориальные системы несовместимы с эгалитарными и свободными обществами. Но тенденция к цифровым манориальным системам относительно молода, и у нас есть возможность изменить курс, пока она не укоренилась. Чем более устоявшимися становятся манориальные системы, тем более разрушенными они становятся, и если это будет продолжаться, пользователи могут оказаться в роли подданных цифрового Старого порядка. Существует множество вариантов решения проблем цифрового манориализма без прямого противодействия значительным инновациям и возможностям науки о данных. Если пользователи генерируют ценность для компании, то им следует рассмотреть возможность объединения в профсоюз. Большинство препятствий для традиционного объединения в профсоюз связаны со статусом занятости, но владельцы платформ очень тщательно следят за тем, чтобы пользователи ни в коем случае не считались работниками. Хотя различные группы пытались проводить бойкоты или отключения социальных сетей, они часто были плохо организованы или носили разовый характер. Постоянно действующие стабильные профсоюзы пользователей могли бы предоставить значительные рычаги для пресечения наиболее вопиющих случаев эксплуатации цифрового манориализма или даже пресечь их еще до начала. Они также могли бы обеспечить рычаги влияния на сотрудников, подвергающихся обязательному сбору данных третьими лицами, и могли бы значимо лоббировать регулирование со стороны политической системы.

Любое устойчивое равенство между владельцами платформ и пользователями требует сильных законов и политики в области конфиденциальности, которые могут быть эффективно приняты и обеспечены только политическими институтами. В некоторых случаях (например, в Китае) владельцы платформ и политические деятели тесно связаны друг с другом, если не являются одной и той же группой, что представляет собой крайне опасную парадигму. Но во многих других случаях владельцы поместий данных отличаются от политического аппарата, и история цифровых поместий – это история политического бездействия. Многие политические системы, особенно в США, имеют значительные пробелы в технологических знаниях, о чем свидетельствуют показания Марка Цукерберга перед Конгрессом после скандала с вмешательством в выборы 2016 года. Это усложняет задачу политиков по эффективной защите частной жизни и прав своих избирателей, если они вообще склонны это делать. Европейский союз недавно добился больших успехов в защите конфиденциальности пользователей, приняв Общий регламент по защите данных.

Бонус таких политических усилий, ориентированных на пользователя, заключается в том, что они имеют побочный эффект для пользователей, которых они напрямую не защищают. Многие компании, занимающиеся обработкой данных, являются глобальными, и для них нецелесообразно вводить различные меры защиты в каждом регионе и оставаться в соответствии с GDPR и другими нормативными актами, поэтому они часто принимают общие политики, которые соответствуют наиболее строгим нормам. Это уже видно по новым уведомлениям и опциям конфиденциальности, которые появляются на платформах, работающих в ЕС, даже если пользователи и корпоративные офисы расположены не в этой юрисдикции. По мере распространения этих законов и политик по всему миру компании, возможно, со временем станут более избирательными в применении различных правил, но пока это отличные инструменты для защиты не только граждан одной страны, но и всех пользователей цифрового пространства.

Ведь именно это поставлено на карту. Интернет, который обещал стать глобальным интеллектуальным достоянием, был разделен на вотчины без участия пользователей, населяющих это достояние. Если мы сможем изменить эту тенденцию сейчас, пока она не укоренилась, мы сможем повысить не только конфиденциальность, но и качество жизни всех, кто взаимодействует с цифровыми технологиями.