Цифровая антиутопия и мы: уничтожит ли новая глобальная парадигма наши свободы

Пандемия COVID-19 принесла карантин, режим самоизоляции и другие ограничения, которые сопровождаются мерами цифрового контроля. Правительства используют геолокацию смартфонов, распознавание лиц и технологии, явно вторгаясь в частную жизнь граждан.

Грозит ли нам тотальная власть государства над цифровым пространством, связаны ли эти риски с охватившем мир коронавирусом или просто времена меняются? Журнал ForkLog предлагает перевод статьи главного редактора forklog.media Дженни Айсгарт, в которой она ответила на эти вопросы.

В разгар пандемии COVID-19 люди во всем мире высказывают опасения по поводу постоянно усиливающегося контроля над частной жизнью людей. Закрытие границ, расширение полицейских функций, определение местоположения по сотовым телефонам и другие подобные меры, кажется, предвещают новую эру, в которую вступает мир.

Однако это не совсем так. Кризис COVID-19, чем бы он не закончился, — всего лишь триггер того, что назревало уже давно.

Убийство Юлия Цезаря в 44 г. до н.э. спровоцировало крах Римской республики и превращение ее в империю. Убийство эрцгерцога Франца-Фердинанда в 1914 году спровоцировало Первую мировую войну. Тем не менее, ни один из этих инцидентов не был причиной последовавших событий. Они просто стали поводом или, как сказали бы римляне, casus belli.

Объединение Германии в 1871 году сделало Первую мировую войну практически неизбежной. Мир к тому времени уже был поделен между другими империями, и для колониальных аппетитов нового игрока практически не оставалось места. К 1910 году уже все правительства Европы понимали, что война за передел колоний неизбежна и готовились к ней.

Убийству Цезаря предшествовали диктатуры Мария и Суллы и гражданская война. Коррумпированные интересы новой римской знати, профанация выборов де-факто узаконенным подкупом, политические амбиции понтификов и, самое главное, почти неиссякаемые реки богатства, текущие в Рим из недавно завоеванных провинций, сделали падение республики лишь вопросом времени.

Триггеры сильно отличаются от причин. Если предположить, что Цезаря и эрцгерцога никто не убивал, ход истории от этого поменялся бы в очень незначительной степени. Более чем вероятно, что Цезарь в конечном итоге стал бы первым принцепсом (т.е. ранним императором) Рима. Если бы Франц-Фердинанд был жив и здоров, война началась бы чуть позже. Ей бы просто понадобился другой повод. А если бы повода не нашлось, его можно было бы выдумать — так же, как это сделал Гитлер в 1939 году, когда заявил, что Польша напала на Германию.

Станет ли кризис COVID-19 триггером, который превратит нашу цивилизацию в киберпанк-антиутопию или что-то подобное? Чтобы ответить на этот вопрос, посмотрим на то, что происходило в последние 20 лет.

Когда каждый год — 1984

Существует очень тонкая грань, отделяющая диктатуры прошлого от современных, и грань эта — 2000 год. Тот самый момент, когда доступ в интернет стал широко распространенным. До этого самой большой угрозой для автократических режимов было недовольство их элит и/или военных.

Согласно эссе The Digital Dictators и Mass Mobilization Project, почти треть всех диктатур с 1946 по 2000 год были свергнуты в результате путча. Народные же протесты сместили лишь 16% режимов в течение того же периода. Кроме того, в XX веке авторитарным режимам было относительно легко сохранять контроль над населением с помощью тайной полиции и государственной пропаганды, поэтому их самой большой проблемой была относительно небольшая группа фактических аристократов.

С появлением интернета все изменилось. По тем же данным, с 2000 по 2017 год протесты сбросили 23% диктаторов. Простота общения через интернет значительно облегчила для оппозиции координацию усилий. За серией так называемых «цветных революций» в бывших советских республиках Грузии, Украины и Киргизии последовала «Арабская весна», вторая революция в Украине и крах правительства в Ливии. Так народные протесты стали более ощутимой угрозой для автократов по всему миру.

По этой причине диктаторы всех видов склонны в той или иной форме ограничивать свободный доступ к интернету. Это очевидно на примере Кубы, где выход в интернет из собственного дома — редкая роскошь, России, где Роскомнадзор по желанию может запретить доступ к любому сайту, или Северной Кореи, где выйти во всемирную сеть можно только с одобрения правящей партии и только на ограниченное количество сайтов.

Поначалу интернет даже называли убийцей диктатур, но автократические режимы и сами нашли способы применить его для укрепления своего положения. А после широкого распространения технологий распознавания лиц, искусственного интеллекта и нейросетей автократам стало еще легче следить за народом.

Конечно, сами по себе эти технологии не плохи и не хороши. Их риски исходят исключительно от намерений людей, которые ими пользуются. Если бы их не было, правительства нашли бы альтернативные решения для тех же проблем. Например, в ГДР Штази прослушивала почти каждый телефон в стране, а соотношение численности агентов к населению составляло 1:67. Для сравнения, это же соотношение в Ираке при Саддаме Хусейне было 1:5090. У Штази не было ни технологий распознавания лиц, ни спутников. Но их эффективность, если здесь применим такой термин, была вполне сравнима с эффективностью их современных коллег.

Наиболее ярким примером использования высоких технологий в укреплении автократии, очевидно, является Китай. Его скандально известная система социального кредита широко использует распознавание лиц, чтобы стимулировать лояльность граждан и наказывать тех, кого партия считает неблагонадежным. Правительство использует ИИ для сбора гигантских объемов данных о каждом человеке в стране и успешно держит всех под контролем. Система еще не до конца отлажена, но скоро заработает на полную мощность.

Характерно, что это касается не только обычных граждан, но и членов правительства. После фактической коронации Си Цзиньпина, он может легко следить за каждым придворным или министром, чтобы пресечь любое отступничество или брожение мысли на ранних стадиях. Это фактически делает китайский режим первым, который смог одним махом устранить риски протестов и государственного переворота.

Китай также прилагает большие усилия для экспорта своих решений государственного контроля за рубеж, в первую очередь в некоторые африканские автократии, такие как Уганда. В 2019 году сообщалось, что ее правительство использует китайские системы для взлома сообщений своих политических оппонентов.

Но как бы зловеще это ни выглядело, крупнейшими поставщиками решений для цифрового наблюдения и разведки являются не китайские компании. Большинство производителей находятся в демократических странах вроде Италии, Израиля и США. И продают свои системы цифровой слежки правительствам ОАЭ, Саудовской Аравии и Мозамбика.

Наконец, есть понятие государственной пропаганды, которая также является предметом экспорта в случаях Китая и России. Интернет наводнен фейковыми новостями, созданными их пропагандистами, в то время как технологии вроде deepfake позволяют очень легко создавать доказательства несуществующих событий, чтобы повлиять на общественное мнение или очернить оппонентов.

Все это происходило задолго до того, как SARS-CoV-2 поднял свою шипастую голову. Международная пропаганда распространяется на безупречном английском радикальными СМИ и блогами. Те, кто верят в их рассказы, зачастую даже не подозревают, что им промывает мозги иностранная держава.

Таким образом, COVID-19 — это даже не триггер массовой слежки и манипуляций в СМИ и соцсетях. Они все были в нашем мире и раньше. Из-за цунами фейковых новостей многие уже не могут отличить правду от лжи. Прямо по рецепту Джорджа Оруэлла.

Гегемония корпораций и государственные интересы

Одно из опасений последнего времени — это то, что после краха мировой экономики правительства начнут скупать технологических гигантов и получат идеальный инструмент для контроля над обществом. Хотя это определенно не самый невероятный сценарий, опять же все может быть не так, как кажется.

Термин «технологические гиганты» применяется в отношении американских корпораций, таких как Apple, Amazon, Facebook, Google и Microsoft. Они достаточно могущественны, чтобы напугать государственных регуляторов, и некоторые политики в США не раз высказывались за то, чтобы как-то разделить их во избежание монополизации.

Представители корпораций в ответ говорили, что это разделение только поможет китайским предприятиям закрепиться в США и, что еще более важно, разрушит шансы Америки на победу в технологической гонке вооружений.

На самом деле Amazon или Google являются американскими только по месту регистрации. Это транснациональные корпорации с транснациональными интересами. Все технологические гиганты за исключением Facebook уже работают в Китае. Apple производит там iPhone, Amazon конкурирует с Alibaba, а Microsoft даже сделала специальную версию Windows 10 для правительства Китая.

У Китая, в свою очередь, есть доктрина гражданско-военного слияния, которая по сути требует, чтобы любые исследования и изобретения были пригодны для использования и в гражданской и в военной сферах. Все компании, работающие в Китае, должны подчиняться тамошним правилам, что фактически означает прямое или косвенное сотрудничество с Коммунистической партией Китая.

Сами Google и Facebook при этом хорошо известны тем, что не раз нарушали конфиденциальность пользователей: достаточно вспомнить печально известный инцидент с Cambridge Analytica или перлюстрацию электронной почты, не говоря уже о цензуре в соответствии со сложными корпоративными правилами.

Конечно, корпорации преследуют свои собственные цели, ориентированные на доступ к новым рынкам и на получение прибыли, что абсолютно нормально для любого бизнеса. Тем не менее, когда дело доходит до Китая, его могущество касается не только технологий, но и порождает самоцензуру за пределами Китая. И вызвано это все теми же корпоративными интересами мегакорпораций.

Например, в первоначальном сценарии, скажем прямо, неудачного фильма «Пиксели», уничтожалась Великая китайская стена, но ее заменили Тадж-Махалом, чтобы не обидеть китайских чиновников. В случае с ремейком «Красного рассвета» 2012 года китайское правительство пожаловалось, что их сделали «плохими парнями», поэтому сценаристы заменили Китай на Северную Корею — страну, на чьи жалобы всем плевать. По этим же причинам компания Mercedes-Benz удалила цитату Далай-ламы в аккаунте в Instagram и заявила, что это «ошибочное сообщение», которое «оскорбляет чувства людей» в Китае.

Это, однако, не помешало крупнейшей китайской газете «Жэньминь жибао» назвать Mercedes-Benz «врагом народа» — термином, ранее использовавшимся во времена якобинского террора во Франции и сталинских чисток в СССР (хотя и придуманного в Древнем Риме). Это лишь несколько примеров того, как китайская повестка дня влияет на западный бизнес, присутствующий там, и как этим компаниям впоследствии приходится пропагандировать те же нарративы на Западе. Специалист по Китаю из Университета Южной Калифорнии Стэнли Роузен заявил The Financial Times, что «размеры китайского рынка заставляют вас заниматься самоцензурой», и в этом суть «мягкой силы» Поднебесной.

Иными словами, деловые интересы крупных транснациональных корпораций диктуют им необходимость обелять политические причуды китайского правительства и подвергать цензуре собственную повестку дня или даже помогать распространению авторитарной коммунистической пропаганды, чтобы заработать больше денег. Это довольно своеобразный союз коммунизма и капитализма даже с учетом того, что мы говорим о Китае.

Транснациональные корпорации не очень заботятся о национальных интересах. Как следует из названия, они уже выше них. Станут ли они обслуживать правительства? Они уже это делают. Не в результате какого-то заговора рептилоидов или вторжения с планеты Нибиру, а благодаря самому явному стимулу — деньгам.

Экономическая реальность капитализма такова, что корпорации для получения прибыли должны обслуживать интересы конечного источника этой прибыли — например, правительства, которое может запретить или разрешить работу в своей юрисдикции. И дело не в одном лишь Китае. Тот же скандал с Cambridge Analytica наглядно показал, что подобные вещи могут происходить где угодно.

После кризиса COVID-19 правительства действительно могут начать инвестировать в технологических гигантов. Но с точки зрения государственного контроля им это не так уж нужно. Приобретение может сделать командную цепочку немного короче и заменить рыночные стимулы прямыми заказами, но результат будет примерно таким же. В конечном итоге, использование или неиспользование технологических наработок частного сектора во зло зависит исключительно от воли правительства и степени его ответственности.

Гибель старого порядка

Если кризис COVID-19 не приведет к массовой слежке и слиянию бизнеса и государства, значит ли это, что последствия будут незначительными? Если коротко, то нет. Но эти изменения будут более концептуальными и глубокими, чем мы привыкли ожидать от киберпанк-антиутопий. И мир был к ним готов. Так же, как и в случае с Цезарем или Францем-Фердинандом, неизвестный любитель супа из летучей мыши мановением руки начал перерождение нашего мира.

То, что мы наблюдаем, — практически акт художественного разрушения отживших старое социальных норм. Это случается не впервые: так было сто лет назад после большевистской революции в России, когда институты семьи, многовековая традиция социальной иерархии и сама идея творчества были выброшены революционерами за борт парохода современности.

Последние двадцать лет мы строили фундамент совершенно новой системы цивилизационных отношений. И эта система основана на больших данных и социальной прозрачности, порожденных соцсетями.

Благодаря интернету мир превратился в одну большую деревню, где все взаимосвязано и почти любой человек находится в паре кликов от тебя. Благодаря смартфонам доступ в интернет можно иметь практически везде. Благодаря Facebook все на планете — друзья.

Все это практически разрушило те самые понятия дружбы, романтики и занятости, какими они были известны раньше. На их месте оказались друзья в Facebook, любовники из Tinder и работодатели из интернета. Заниматься любовью онлайн — уже нормально. Работать из дома — новый тренд. Миллионы людей попробовали его и сочли приятным.

Забавно, но, мы, интроверты, всю дорогу имели эволюционное преимущество.

Вручную отобранные мнения в старых газетах и теленовостях сменились множеством постов в интернете, часть из которых на поверку оказываются бредом. Традиционные СМИ постепенно утрачивают свою изначальную роль рупора новостей и становятся фильтрами, отделяющими фейковые новости от реальных.

Между тем пропагандистские СМИ тоже меняют свою роль: вместо исказителей или фильтров реальности они становятся генераторами новостей. Новая информационная реальность сменила доступность новостей на их достоверность и балансирует между этими двумя полюсами на лезвии бритвы.

Эти процессы сущностно подрывают и постепенно меняют социальную иерархию и концепцию места человека в обществе. Процесс до времени шел своим чередом и оставался сравнительно незаметным, как будущая гибель Римской республики, но стала очевидной после того, как произошло событие-триггер.

Изменения заняли всего месяц или около того, отсюда и начальный шок. Пандемия внезапно освободила нас от большинства элементарных социальных практик и концепций, которые мы принесли из XX века, оставив нам только то, что мы построили за последние двадцать лет. И сейчас мы как цивилизация переживаем процесс от отрицания до принятия новой социальной реальности.

Еще одна часть уравнения — недавние новости о том, что правительства используют мобильные данные для отслеживания собраний людей во время карантина. Хотя эти данные предположительно анонимны, это обозначает растущую зависимость властей от Big Data. Когда ИИ станет принимать более разумные решения на их основе, эта зависимость только вырастет. В итоге принятие решений вообще могут перестать доверять человеку, так как его ум неспособен обработать огромные массивы данных.

В сочетании с уже существующей практикой цифровой слежки и неэтичного сбора данных, это рисует картину будущего общества, зависимого от ИИ и подчиняющегося ему по доброй воле либо через пропаганду или пока не известные устройства. К концу века мир станет неузнаваемым для тех из нас, кто видел старый порядок. Это, конечно, футурологическое допущение, но шансы на его реализацию есть.

В основном, все зависит от того, в каком обществе мы жили в момент, когда сработал триггер. Изменения всегда требуют времени. И сейчас мы живем во времена столь масштабных перемен, что человечество всего несколько раз за свою историю видело нечто сравнимое.

Пока же мы должны привыкать работать из дома и не удивляться, что китайское правительство знает, что у нас было на завтрак.

Подписывайтесь на новости ForkLog в Telegram: ForkLog Feed — вся лента новостей, ForkLog — самые важные новости и опросы.