Карисса Велиз

Сила конфиденциальности: почему необходимо обладать контролем над своими персональными данными и как его установить

A mi madre, tierra firme que me dio alas.

Моей матери – земле, которая даровала мне крылья.

Введение

Они наблюдают за нами. Они знают, что я сейчас пишу эти строки. Они увидят, как вы их будете читать. Государственные органы и сотни корпораций следят за вами, и мной, и всеми, кого мы знаем. Каждый день, каждую минуту. Они отслеживают и записывают все, что могут: наше местоположение, наше общение, наши поисковые запросы в интернете, наши биометрические данные, наши социальные контакты, наши покупки и многое другое. Они хотят знать, кто мы, о чем мы думаем, в чем мы уязвимы. Они хотят предсказывать наше поведение и влиять на него. У них слишком много власти. Источник этой власти коренится в нас, в вас, в ваших персональных данных. Пора вернуть себе контроль. А вернуть контроль над жизнью своей и общества можно лишь через восстановление конфиденциальности.

Интернет в основном финансируется за счет сбора, анализа и торговли данными. Это своего рода экономика данных. Бóльшая часть этих данных носит персональный характер, то есть содержит информацию, которая касается лично вас. Торговля персональными данными как бизнес-модель все больше внедряется во всех институтах общества, превращая его в общество слежки, или капитализм слежки[1].

Уж простите, но, чтобы связаться с вами, мне пришлось прибегнуть к капитализму слежки. Как вы узнали об этой книге? Вы можете вспомнить, при каких обстоятельствах впервые услышали о ней или где увидели рекламу? Вы могли быть отмечены той или иной платформой как «интересующийся», то есть тот, кто ищет знания и новый опыт. А это означает, что вам, скорее всего, нравятся книги, которые заставляют задуматься. Или вы могли бы быть отмечены как «активист» – тот, кого волнуют социальные проблемы, кто увлекается политикой. Похоже на вас? Основная цель этой книги – расширить ваши возможности, но большинство подобных способов использования ваших данных направлено на то, чтобы лишить вас возможностей.

Если вы никак не засветились перед покупкой этой книги, то это, вероятно, лишь вопрос времени. Если вы читаете ее на Kindle, Google Books или Nook, они уже засекают, как долго вы читаете каждое слово, где вы останавливаетесь, чтобы сделать перерыв, и какие места вы отмечаете. Если вы купили эту книгу в книжном магазине, смартфон в вашем кармане фиксировал весь ваш путь туда и то, сколько времени вы там провели. Музыка в книжном магазине могла посылать ультразвуковые импульсы на ваш телефон, чтобы идентифицировать его как принадлежащий вам и отслеживать ваши интересы и покупки. Если вы использовали дебетовую или кредитную карту, чтобы купить книгу, то, вероятно, эта информация продана брокерам данных, которые затем перепродали ее страховым компаниям, потенциальным работодателям, правительству, предпринимателям и всем остальным, кто может быть в ней заинтересован. Или вы даже могли привязать свою платежную карту к системе лояльности, которая отслеживает вашу историю покупок и использует эту информацию, чтобы попытаться продать вам больше товаров, которые, следуя заданному алгоритму, вы можете захотеть купить.

Экономика данных и повсеместная слежка, которая ее подпитывает, застали нас врасплох. Технологические компании не информировали пользователей о том, как они используют их данные, не говоря уже о том, чтобы запросить их разрешение.

Они не спрашивали и у правительства. Не было принято никаких законов, регулирующих использование цифровых следов, которые оставляют ничего не подозревающие граждане, занимающиеся своими делами во все более оцифрованном мире. А когда мы поняли, что происходит, система слежки уже была выстроена. Бóльшая часть нашей конфиденциальности была потеряна. Однако еще не поздно вернуть себе контроль. С приходом пандемии коронавируса конфиденциальность столкнулась с новыми угрозами, поскольку реальная жизнь переместилась в интернет и нас попросили отказаться от наших личных данных во имя общественного блага. Настало время хорошенько задуматься о том, в каком мире мы хотим жить, когда пандемия сойдет на нет. Мир без обеспечения конфиденциальности опасен.

Конфиденциальность – это возможность хранить определенную личную информацию (ваши мысли, опыт, разговоры, планы) исключительно в своем ведении. Людям нужна конфиденциальность, чтобы иметь возможность отдохнуть от бремени общения с другими. Нам нужна конфиденциальность, чтобы свободно осваивать новые идеи и формировать собственное мнение. Конфиденциальность защищает нас от нежелательного давления и злоупотребления властью. Она необходима нам, чтобы оставаться самостоятельными личностями; для правильной работы демократических институтов нужно, чтобы граждане сохранили самостоятельность. Наша жизнь, переведенная в данные, является «сырьем» для экономики слежки. Все, на что мы надеемся, чего боимся, о чем читаем и что пишем, наши отношения, наши болезни, наши ошибки, наши покупки, наши слабости, наши лица, наши голоса – все идет на «корм» информационным стервятникам, которые собирают, анализируют и продают эти данные тому, кто предложит самую высокую цену. Среди людей, собирающих наши персональные данные, слишком много тех, кто делает это в неблаговидных целях: чтобы выдать наши секреты страховым компаниям, работодателям и правительству, продать какие-то вещи, которые нам не нужны, натравить нас друг на друга в попытке разрушить общество изнутри, дезинформировать нас и подорвать наши демократии. Экономика слежки превратила граждан в пользователей и субъектов данных. Но всему есть предел! Те, кто нарушил наше право на конфиденциальность, злоупотребили нашим доверием, и пришло время отключить их от источника власти – наших данных.

Уже поздно препятствовать развитию экономики данных, но мы еще можем вернуть себе конфиденциальность. На карту поставлены наши гражданские свободы. Выбор общества в отношении конфиденциальности повлияет на то, как будут проводиться политические кампании и зарабатывать корпорации, повлияет на власть, которой могут обладать правительства и частный бизнес, на развитие медицины, на достижение целей общественного здравоохранения, на риски, которым мы подвергаемся, и, что не менее важно, на соблюдение наших прав в повседневной жизни.

Эта книга – о состоянии дел с конфиденциальностью сегодня, о том, как возникла экономика слежки и почему мы должны прекратить торговлю персональными данными, о том, как мы можем это сделать. В первой главе будет показано, как сильно в рамках экономики данных ограничивается конфиденциальность личности в течение одного только дня. Во второй главе речь пойдет о том, как развивалась экономика данных, чтобы мы могли понять, как оказались в такой ситуации и как можно из нее выбраться. В третьей главе мы поговорим о том, что конфиденциальность – это форма власти, и тот, кто обладает наибольшим количеством персональных данных, будет властвовать над обществом. Если мы передадим наши персональные данные коммерческим структурам, у власти будут богачи. Если мы передадим наши данные правительствам, мы получим одну из форм авторитаризма. И только если люди сохранят свои данные при себе, общество будет свободным. Конфиденциальность имеет значение, потому что она дает гражданскому обществу силу.

Капитализм слежки неприемлем не только потому, что она создает и усиливает нежелательную асимметрию власти, но и потому, что она торгует токсичным веществом.

В четвертой главе я расскажу о том, почему персональные данные токсичны и отравляют нашу жизнь, наши институты и общество. Нам нужно положить конец экономике данных, как мы положили конец рабовладению. Экономические системы, опирающиеся на нарушение прав человека, недопустимы. В пятой главе мы поговорим о том, как общество может выключить экономику слежки. В шестой главе речь пойдет о том, что лично вы можете сделать, чтобы вернуть контроль над своими персональными данными и вашими демократическими институтами.

Мы не являемся свидетелями гибели конфиденциальности. Это только начало борьбы за защиту персональных данных в эпоху цифровых технологий. Слишком многое поставлено на карту, чтобы позволить конфиденциальности исчезнуть. Под угрозой находится не только она, но и сам наш образ жизни. Слежка угрожает свободе, равенству, демократии, автономии, творчеству и интимной жизни. Нам снова и снова лгут, и наши данные крадут, чтобы использовать против нас. Хватит. С капитализмом слежки пора заканчивать. На это потребуются некоторое время и усилия, но мы можем вернуть и вернем себе конфиденциальность. В этой книге написано, как это сделать.

Глава 1

Стервятники данных

Если вы читаете эту книгу, то, вероятно, уже знаете, что ваши персональные данные собираются, хранятся и анализируются. А представляете ли вы масштабы проникновения в вашу частную жизнь? Давайте рассмотрим ваш день с самого начала.

Что вы делаете в первую очередь, просыпаясь утром? Наверное, проверяете свой телефон. Вуаля – это первые данные, которые вы теряете за день. Взяв телефон в руки, вы информируете целую кучу назойливых людей – производителя вашего смартфона, владельцев всех приложений, которые вы установили на свой телефон, вашего мобильного оператора, а также разведывательные службы, если вы оказались объектом интереса, – о том, во сколько вы просыпаетесь, где вы спали и с кем (если человек, с которым вы делите постель, тоже держит рядом с собой телефон).

Если вы постоянно носите умные часы, то вы потеряете какую-то личную информацию даже до того, как проснетесь, поскольку часы фиксируют каждое ваше движение в постели – включая, конечно же, любую сексуальную активность.

Предположим, что ваш работодатель предоставил вам эти часы в рамках оздоровительной программы для сотрудников по сокращению затрат на медицинскую страховку. Можете ли вы быть уверены, что ваши данные не будут использоваться против вас? Вы уверены, что ваш работодатель не увидит их?[2] Когда работодатель передает вам устройство, он остается его законным владельцем – будь то фитнес-браслет, ноутбук или телефон – и может получить доступ к данным с этого устройства в любое время без вашего разрешения[3].

После того как вы проверите, каким был ваш пульс в ночное время (слишком частый – вам нужно больше тренироваться), и отправите эти данные на ваш смартфон, вы встанете с постели и отправитесь чистить зубы электрической зубной щеткой. Специальное приложение оповестит вас о том, что вы чистите зубы реже, чем нужно.

Вы проспали сегодня утром, и ваша супруга уже уехала на работу. Вы идете на кухню и ищете сахар для кофе, но понимаете, что он закончился. Вы решили спросить свою соседку, не одолжит ли она вам немного сахара. Стоя перед ее дверью, вы замечаете, что это не совсем обычная дверь – в нее вмонтирована видеокамера. Когда соседка открывает дверь, она поясняет, что это новый умный дверной звонок. Если это дверной звонок от Ring – компании, принадлежащей Amazon, – то сотрудники Ring, вероятно, посмотрят эту видеозапись, чтобы пометить объекты вручную с целью научить программное обеспечение выполнять задачи распознавания. Эти видео хранятся в незашифрованном виде, что делает их чрезвычайно уязвимыми для взлома[4]. Amazon получила патент на использование программного обеспечения для распознавания лиц в дверных замках. Компания Nest, принадлежащая Google, уже использует распознавание лиц в своих камерах. В некоторых городах, таких как Вашингтон, округ Колумбия, полиция хочет регистрировать и даже субсидировать частные камеры видеонаблюдения[5]. Бог знает, где хранятся видеоматериалы с умных дверных звонков и для чего они будут использоваться.

У вашей соседки нет сахара – а может, она не хочет вам его давать после того, как вы насмехались над ее новым дверным звонком. Вы вынуждены довольствоваться несладким кофе. Вы включаете телевизор (конечно же, смарт-телевизор), чтобы отвлечься от его горечи. По телевизору идет ваше любимое шоу – постыдное увлечение, в котором вы никому не признаетесь.

Вам звонят. Это ваша жена. Вы выключаете звук телевизора.

– Почему ты все еще дома?

– Откуда ты знаешь?

– Мой телефон подключен к нашему интеллектуальному счетчику. И я могу видеть, когда используется электричество.

– Я проспал, – говорите вы.

Ее не очень убедило ваше объяснение, но ей уже надо бежать.

Вы задаетесь вопросом, впервые ли за вами шпионят через ваш умный счетчик. Умные счетчики – это не только угроза конфиденциальности в отношении людей, с которыми вы живете в одном доме. Они являются заведомо небезопасными устройствами[6]. Преступник может взломать устройство, узнать, когда вы находитесь вдали от дома, и ограбить ваше жилище[7]. Кроме того, данные с интеллектуальных счетчиков хранятся и анализируется поставщиками энергоуслуг. Некоторые из этих данных могут быть весьма конфиденциальными. Например, сведения о вашем энергопотреблении могут оказаться настолько точными, что по ним без труда можно определить, какой телевизионный канал вы смотрите[8]. Эти данные можно продать или поделиться ими с заинтересованными третьими лицами.

Ваш сын-подросток внезапно входит и прерывает ваши мысли. Он хочет о чем-то поговорить с вами. О чем-то весьма щепетильном. Возможно, это проблема, связанная с наркотиками, сексом или издевательствами в школе. Вы не выключаете телевизор. Он работает без звука, в фоновом режиме. Ваш смарт-телевизор, вероятно, собирает информацию с помощью технологии, называемой «автоматическое распознавание контента» (ACR). Он пытается идентифицировать все, что вы смотрите по телевизору, и отправляет данные производителю, третьим лицам или и тем и другим. Это как минимум. Некоторые телевизоры могут подслушивать ваши разговоры и передавать их третьим лицам. Исследователи обнаружили, что один смарт-телевизор Samsung подключался к более чем 700 различным интернет-адресам за 15 минут[9]. Даже если вы думаете, что выключили телевизор, он может быть еще включен. Спецслужбы, такие как ЦРУ и МИ-5, могут сделать так, чтобы ваш телевизор выглядел так, будто он выключен, в то время как вас записывают[10].

Если у вас было время ознакомиться с политикой конфиденциальности электронных устройств, которые вы покупаете, то вы заметили, что паспорт вашего телевизора Samsung содержит следующее предупреждение: «Имейте в виду, что, если вы произносите слова, которые включают личную или другую конфиденциальную информацию, эта информация может быть передана третьим лицам»[11].

После того как ваш сын поделится своими самыми сокровенными мыслями с вами, производителем вашего телевизора и сотнями неизвестных третьих лиц, он уйдет в школу, где его конфиденциальность еще больше пострадает благодаря наблюдению школы за тем, как он использует интернет[12]. А вы включаете звук телевизора. Идет реклама. Вы думаете, что наконец-то сможете уединиться. Но вы ошибаетесь. Без вашего ведома неслышимые звуковые маячки передаются через рекламу на телевидении и радио (а также через музыку в магазинах) и улавливаются вашим телефоном. Эти звуковые сигналы работают как файлы cookie, позволяя различным организациям определять местоположение ваших гаджетов и покупательское поведение в зависимости от места, где вы находитесь. То есть они помогают организациям отслеживать вас на разных устройствах. Благодаря этому ультразвуковому обмену информацией между устройствами компания может убедиться, что человек, который видит определенную рекламу продукта утром по телевизору, через час увидит ее на своем ноутбуке, а затем купит этот продукт в магазине по соседству или закажет в интернете[13].

Вам поступает еще один звонок. На этот раз коллега:

– Эй, не знаю, как это произошло, но я только что получил запись очень личного разговора, который был у тебя с твоим сыном. Похоже, его прислала ваша цифровая помощница Алекса.

Вы благодарите его за то, что дал вам знать, и вешаете трубку, задаваясь вопросом, могла ли Алекса отправить этот разговор другим людям в вашем списке контактов. В ярости вы связываетесь с Amazon. Они объясняют: «Наверное, какое-то слово в разговоре по звучанию напомнило слово “Алекса”. Затем программа подумала, что вы говорите “отправить сообщение”. Должно быть, программа спросила: “Кому?” – и какое-то высказывание интерпретировалось как имя»[14]. Иногда умные помощники активируются, когда идет телешоу, в котором произносят слово, похожее на слово их запуска. Если бы у вас был включен телевизор в течение всего дня, это могло бы произойти до девятнадцати раз в день (не считая времени, когда реальное слово для запуска помощника произносится по телевидению)[15]. Когда Алекса отправила личный разговор пользователя из Портленда, штат Орегон, случайному контакту, пользователь поклялся никогда больше не включать устройство[16]. Вы идете еще дальше и разбиваете его об стену. Ваша жена вас за это не похвалит.

Вы уже сильно опаздываете на работу. Вы садитесь в машину и едете в свой офис. Вы купили подержанный автомобиль у знакомого. Вероятно, это никогда не приходило вам в голову, но оказывается, что у этого человека есть доступ к вашим данным, потому что он никогда не отключал свой телефон от автомобильного приложения[17]. Кроме того, ваш автопроизводитель собирает всевозможные данные о вас: о местах, которые вы посещаете, о скорости, с которой вы ездите, о музыкальных вкусах, движениях глаз, о том, находятся ли ваши руки на руле, и даже о том, какой у вас вес, – это легко измеряется вашим сиденьем. Вся эта информация среди прочего может оказаться в руках и у вашей страховой компании[18].

Вы добираетесь на работу. Вы живете в Лондоне, а ваш офис находится прямо рядом с Вестминстером. Когда вы проезжаете мимо здания парламента, данные с вашего телефона могут быть перехвачены IMSI-ловушками – поддельными вышками сотовой связи, которые заставляют мобильные телефоны подключаться к ним. С момента подключения IMSI-ловушки собирают ваши идентификационные данные и сведения о вашем местоположении. Они также позволяют прослушивать телефонные разговоры, считывать текстовые сообщения и отслеживать просмотр веб-страниц[19]. Имеются доказательства того, что это оборудование используется полицией в Лондоне для слежки за людьми, например, во время мирных акций протеста и возле парламента Великобритании[20]. Самый популярный совет в интернете для тех, кто идет на акцию протеста: для защиты вашей конфиденциальности оставляйте телефон дома. Хотя IMSI-ловушки чаще всего используются правительством, они могут быть задействованы кем угодно, так как продаются частными компаниями, а также могут быть самодельными.

Пока с вашего телефона считываются данные, вы входите в свой офис. Коллега приветствует вас и смотрит на часы, давая понять, что он заметил ваше опоздание. Вы садитесь перед своим компьютером и пытаетесь сделать глубокий вдох, но у вас перехватывает дыхание при виде сотен непрочитанных писем[21]. Вы открываете первое. Оно от вашего босса: «Эй, я заметил, что тебя сегодня утром не было в офисе. Вовремя ли будет готов тот отчет, который я просил тебя сделать?» Да, вы планируете сдать отчет вовремя, но вам бы хотелось, чтобы ваш босс не дышал вам в затылок.

В следующем письме вас просят анонимно оценить работу ваших коллег. Босс твердо верит в пользу слежки на работе. Вы знаете, что он контролирует каждое ваше движение, следя за тем, посещаете ли вы собрания, семинары и даже неформальные ужины и посиделки в баре после работы. Вы знаете, что он следит за вашими страницами в социальных сетях, потому что ранее он высказал недовольство по поводу размещения вами политического контента. Вас тошнит при одной мысли о необходимости оценивать своих коллег и быть оцененным ими.

Еще одно письмо – от вашего любимого обувного бренда. Вы можете считать получение электронных писем безвредным для вашей конфиденциальности, но около 70 % коммерческих писем и 40 % всех электронных писем содержат трекеры[22]. Открытие электронного письма позволяет третьим лицам отслеживать вас в Сети и идентифицировать как одного и того же пользователя на разных устройствах. Трекеры могут быть встроены в цвет, шрифт, пиксель или ссылку. Даже обычные люди используют трекеры, чтобы знать, читаются ли их электронные письма, когда и где. Учитывая, что трекеры способны определить местонахождение человека, стервятники данных могут использовать их, чтобы найти вас.

Следующее письмо – от вашего брата. Он написал вам на рабочую почту, хотя вы просили его не делать этого. Работодатели, включая университетское сообщество, имеют доступ к вашей электронной почте[23], и это одна из причин, по которой лучше никогда не использовать свою рабочую электронную почту в личных целях. В своем письме ваш брат сообщает, что получил набор для генетического тестирования потребителя в качестве подарка на день рождения и испробовал его на себе. Вам будет приятно узнать, пишет он, что ваша семья на 25 процентов итальянская. Плохая новость состоит в том, что у него имеется 30-процентный риск приобрести кардиологическое заболевание, а учитывая, что он ваш брат, это, вероятно, относится и к вам. Вы отвечаете ему: «Мне бы хотелось, чтобы ты сначала поинтересовался, не против ли я. Это и мои гены, и гены моего ребенка тоже. Разве ты не знал, что наша бабушка – итальянка? Если ты хочешь узнать больше о нашей семье, лучше спроси меня». В тревоге за свои генетические особенности вы смотрите политику конфиденциальности компании, которую использовал ваш брат. И вам она не очень нравится. Компания-разработчик теста может претендовать на право собственности на отправленный вами образец ДНК и использовать его по своему усмотрению[24]. Политика конфиденциальности компаний, занимающихся тестированием ДНК, обычно ссылается на «деидентификацию» или «псевдонимизацию» информации, чтобы успокоить людей. Однако генетические данные не так-то просто эффективно деидентифицировать. В самой природе генетических данных заложено то, что они могут однозначно идентифицировать людей и их семейные связи. Замена имен случайно сгенерированным идентификатором номера не спасает от повторной идентификации. В 2000 году компьютерные ученые Брэдли Малин и Латания Суини использовали общедоступные медицинские данные и информацию о конкретных заболеваниях, чтобы повторно идентифицировать 98–100 % людей в анонимизированной базе данных ДНК[25].

Вы задаетесь вопросом, что станет с генетическими данными вашего брата и будут ли они когда-либо использоваться против вас или вашего сына, если вы, например, подадите заявление на страховку или будете искать работу. Хуже всего то, что домашние генетические тесты невероятно неточны. Около 40 % результатов являются ложноположительными[26]. Возможно, ваш брат целиком выдал генетическую тайну семьи в обмен на полную ерунду, которая тем не менее будет рассматриваться страховыми компаниями и другими лицами как факт.

Пришло время для рабочей видеоконференции с клиентом, который просил подключиться через Zoom. Многие люди не слышали о приложении Zoom до пандемии коронавируса, когда оно стало самым популярным приложением для видео-конференц-связи. У вас имеется плохой опыт, связанный с этим приложением, например, когда вы отправили приватный текстовый чат вашему коллеге, высмеивая то, как был одет клиент, а затем осознали, что ваш клиент получил все тексты в расшифровке стенограммы в конце вызова. Теперь вы избегаете чата. Во время пандемии вы также с ужасом узнали, что каждое слово, сказанное во время вашего звонка, и каждый опубликованный документ стали частью данных, которые собирает Zoom[27]. У вас есть смутное представление о том, что Zoom улучшила свою конфиденциальность и политику безопасности сейчас, но можете ли вы доверять компании, которая утверждала, что внедрила сквозное шифрование, но не сделала этого[28]?

По окончании разговора, чтобы расслабиться, вы заходите в Facebook[29]. «Совсем ненадолго», – говорите вы себе. Возможно, фотографии приятных моментов с вашими друзьями поднимут вам настроение (что вряд ли). Поскольку вы подозреваете, что ваш начальник следит за тем, что вы делаете на вашем компьютере, вы используете свой личный телефон. Facebook уже столько раз нарушала наше право на неприкосновенность частной жизни, что исчерпывающий отчет заслуживает отдельной книги. Здесь я упоминаю только несколько способов вторжения в нашу частную жизнь.

Все, что вы делаете в Facebook, отслеживается – от движения вашей мыши[30] до того, что вы пишете и решаете удалить перед публикацией (ваша самоцензура)[31].

Вы начинаете просматривать раздел под названием «Люди, которых вы можете знать». Эта функция имела решающее значение в расширении социальной сети Facebook, которая «разрослась» со 100 миллионов участников, когда приложение вышло в 2008 году, до более 2 миллиардов в 2018 году. Среди тех, кого вы можете там увидеть, вы узнаете дальних родственников или людей, с которыми ходили в школу. Звучит не так уж и плохо. Я предлагаю вам не слишком углубляться в список возможных контактов. Если вы это сделаете, то, вероятно, обнаружите, что Facebook пытается связать вас с людьми, с которыми вы не хотите общаться.

Некоторые контакты между людьми чреваты проблемами – например, когда подлинные персональные данные работающих в секс-индустрии раскрываются их клиентам[32]. Или когда программа соединяет пациентов психиатра, не придавая никакого значения конфиденциальности. Указанный психиатр не дружил со своими пациентами в Facebook, но пациенты, вероятно, внесли его в свои списки контактов[33]. Среди прочих злополучных связей Facebook также предлагает добавить в друзья насильника – жертве (ранее сохранявшей анонимность), любовнику женщины – ее мужа, а человеку, пострадавшему от грабителя, – того самого грабителя[34]. Текущая миссия Facebook – «дать людям возможность для построения сообщества и собрать мир воедино». А как насчет того, чтобы дать людям возможность отключиться от токсичных или нежелательных отношений? «Собрать мир воедино» – звучит благородно, пока вы не спросите себя, хотите ли вы близости с навязываемыми вам людьми, которых вы боитесь, не любите или предпочитаете держать на расстоянии по профессиональным или личным причинам.

Facebook доказала отсутствие уважения к конфиденциальности в различном отношении и во многих случаях. Компания Cambridge Analytica проанализировала данные около 87 миллионов пользователей Facebook в политических целях. В 2018 году в результате взлома были украдены личные данные с 14 миллионов учетных записей[35]. В течение многих лет Facebook позволяла поисковой системе Microsoft Bing видеть друзей своих пользователей без их согласия, и это дало Netflix и Spotify возможность читать и даже удалять личные сообщения пользователей Facebook[36]. В 2015 году приложение начало регистрировать все текстовые сообщения и звонки от пользователей Android без их согласия[37].

Facebook использовала распознавание лиц на ваших фотографиях, не получив от вас должного согласия. Когда при процедуре тэгирования вас спросили, предложив фотографию, «Это Джек?» и вы ответили «да», вы бесплатно помогли Facebook улучшить алгоритм распознавания лиц. Facebook подала заявку на патенты на системы для распознавания лиц покупателей в магазинах и соотнесения их с их же профилями в социальных сетях[38]. В довершение всего Facebook попросила пользователей указать их телефонные номера в качестве меры безопасности, а затем использовала эту информацию в собственных целях – для таргетинга рекламы и унификации данных со своим приложением для обмена сообщениями в WhatsApp[39]. В 2019 году телефонные номера миллионов пользователей Facebook были раскрыты и попали в онлайн-базу данных, потому что сервер, на котором они были размещены, не был защищен паролем[40]. Это лишь некоторые из событий, но полный список куда более длинный, и все, видимо, указывает на то, что нарушения нашего права на неприкосновенность частной жизни со стороны Facebook вряд ли прекратятся[41].

Facebook может показаться на первый взгляд простой социальной сетью, но на самом деле ее бизнес – это «торговля» влиянием через персональные данные. Это скорее платформа для персонализированной рекламы, чем социальная сеть. Facebook готова на многое, чтобы выудить как можно больше личных данных с минимальными затруднениями, чтобы можно было продать рекламодателям доступ к вашему вниманию. Исходя из прежнего опыта, если все это будет сходить Facebook с рук – а пока благополучно сходит, – она не просто перестанет спрашивать согласие на обработку персональных данных, но даже не будет пытаться выяснить, кто получает ваши данные и как они используются, и все обещания о конфиденциальности будут нарушены. Защита неприкосновенности вашей частной жизни кажется самым низким приоритетом в списке Facebook. И вы даже не можете оставаться в стороне от этого жаждущего данных монстра, потому что у Facebook есть теневой профиль на вас, даже если вы и не являетесь его пользователем. Он следует за вами по Сети с помощью постоянных кнопок «Нравится» в Facebook, даже если вы их не нажимаете[42]. Неудивительно, что в докладе британского парламента было объявлено, что Facebook ведет себя как «цифровой гангстер» последние несколько лет[43].

После просмотра Facebook в течение некоторого времени и ощущения «жути» от друзей, которых он предлагает, и от рекламы, которую он вам показывает, вы решили закрыть его. Вы пытаетесь взяться за работу, но не можете сконцентрироваться, размышляя о том, как ваш босс, вероятно, контролирует каждое действие, которое вы выполняете на своем компьютере. К счастью для вас, наступает время обеда. Вот только вы не голодны, поэтому решаете пойти в ближайший магазин и купить своему сыну что-нибудь, что поможет ему почувствовать себя лучше.

Вы заходите в магазин одежды, чтобы найти рубашку. Традиционные офлайновые магазины уступают в выборе интернет-магазинам, потому что последние зачастую знают больше о клиентах. Так что реальные магазины теперь пытаются наверстать упущенное. Магазин, в который вы вошли, использует технологию, которая идентифицирует вас как вернувшегося покупателя через ваш мобильный сигнал Wi-Fi. Мобильные устройства отправляют уникальные идентификационные коды (или MAC-адреса), когда ищут сети для выхода в интернет. Магазины используют эту информацию для изучения вашего поведения[44]. Не довольствуясь только этим, они могут также использовать камеры для сбора данных о вас. Камеры способны помочь обозначить маршруты движения клиентов и изучить, что привлекает людей, как они ориентируются в магазине. Камеры стали настолько совершенными, что могут анализировать, на что вы смотрите и даже в каком вы настроении, в зависимости от языка вашего тела и выражения вашего лица[45]. Магазин может также использовать распознавание лиц. Помимо прочего, распознавание лиц позволяет сверить ваше лицо с базой данных магазинных воров или известных преступников[46].

Вы выходите из магазина и проверяете свой телефон. Вам приходит напоминание о том, что вы записались на прием к врачу. У вас есть проблема со здоровьем, которая беспокоит уже несколько недель. Вы искали решение в интернете и надеялись, что проблема исчезнет сама собой, но этого не произошло. Вы никому не сказали об этом в своей семье, чтобы не вызывать ненужное беспокойство. Наши поисковые системы знают о нас больше, чем наши супруги: мы никогда не лжем им и не скрываем от них свои заботы.

Вы идете к врачу. Пока вы ждете приема, вам приходит уведомление: ваша сестра опубликовала новую фотографию вашей маленькой племянницы. Ее пухлые ручки вызывают улыбку. Вы думаете о том, что нужно предупредить сестру об опасности размещения фотографий детей в интернете. Вы решаете сказать ей, что наши онлайн-фотографии задействуются для создания алгоритмов распознавания лиц, которые затем используются во всевозможных гнусных целях – от слежки за уязвимыми группами населения авторитарными режимами до разоблачения порноактеров и идентификации незнакомцев в метро в России[47]. Но вас отвлекает неотразимая улыбка племянницы. Ее фотографии иногда становятся главным событием вашего дня и тем, что дает силы терпеть экономику слежки, даже если вы знаете, что привлекательный контент, такой как милые младенцы, – это именно то, чем питаются стервятники данных. Тем временем медсестра оповещает, что врач готов вас принять. Доктор задает деликатные вопросы, записывает ваши ответы на свой компьютер и назначает вам несколько анализов. Вам интересно, куда могут попасть эти данные, ведь медицинская информация часто продается. Продавцы данных[48] – торговцы персональными данными – могут получать медицинские сведения из аптек, больниц, кабинетов врачей, приложений для здоровья и поисковых запросов в интернете. Ваши медицинские данные могут также попадать в руки аналитиков, страховых компаний или потенциальных работодателей[49]. Или NHS (Национальная служба здравоохранения Великобритании) может решить пожертвовать ваши записи такой компании, как DeepMind, принадлежащей Alphabet (материнской компании Google). Передача данных может производиться без вашего согласия, без выгоды для вас от такого вторжения в частную жизнь и без каких-либо юридических гарантий, что DeepMind не свяжет ваши данные с вашей учетной записью Google, тем самым еще больше нарушая вашу конфиденциальность[50].

Вы также можете стать жертвой утечки данных. В 2015 году в США были взломаны более 112 миллионов медицинских записей[51]. Вы даже можете стать жертвой вымогательства. В 2017 году преступники получили доступ к медицинским записям из клиники и шантажировали пациентов; в итоге они опубликовали более 25 000 фотографий людей, в том числе обнаженных, и личные данные, включая сканы паспортов и номера страховых полисов[52].

Когда все эти мысли проносятся в вашей голове, вы испытываете искушение лгать своему врачу, скрывая конфиденциальную информацию, которая (вы надеетесь) не обязательно нужна, чтобы поставить точный диагноз. Вы даже можете почувствовать желание вообще не сдавать назначенные анализы, даже если они вам необходимы.

После посещения врача вы возвращаетесь домой, чтобы собрать вещи в рабочую поездку в США. Весь день за вами следили приложения на вашем телефоне. Если вы разрешаете приложениям определять ваше местоположение, чтобы вы могли получать местные новости, прогноз погоды или другую подобную информацию, десятки компаний получат сведения о том, где вы находитесь. В некоторых случаях приложения обновляют и получают данные о вашем местоположении более 14 000 раз в день. Реклама с геотаргетингом – это бизнес, стоимость которого оценивается в 21 миллиард долларов[53].

Среди множества компаний, торгующих данными о вашем местоположении, особое место занимают телекоммуникации. Завидуя успеху Кремниевой долины, телекоммуникационные компании стремятся конкурировать на рынке торговли данными[54]. Ваш мобильный телефон постоянно подключается к ближайшей сотовой вышке. В результате ваш оператор мобильной связи всегда знает, где вы. Мобильные сети не только продают данные о вашем местоположении другим компаниям, но, как показало одно журналистское расследование, некоторые поставщики мобильных услуг продают ваши данные на черный рынок. В результате любой, у кого есть мобильный телефон, уязвим для наблюдения со стороны сталкеров, преступников, сотрудников правоохранительных органов низшего звена, которые не имеют ордера, и других лиц, которые могут иметь очень сомнительные намерения и не обладают правом доступа к вашим персональным данным. В США получение обновлений в реальном времени о местонахождении любого мобильного телефона стоит около 12,95 долларов[55]. И хотя существование такого черного рынка данных о местонахождении было подтверждено только в США, в отношении T-Mobile, Sprint и AT&T, это вполне может происходить с другими телекоммуникационными компаниями и в других частях света.

Автомобильные компании, торговцы данными, телекоммуникационные компании, магазины и технологические гиганты – все хотят знать, где вы. Вы можете надеяться на то, что все эти огромные объемы данных о вас будут обезличены. Но, к сожалению, обезличенные данные легко могут быть повторно идентифицированы. Один из первых уроков по повторной идентификации был преподан Латанией Суини в 1996 году, когда Комиссия по групповому страхованию (GIC) Массачусетса опубликовала анонимные данные о посещениях больниц госслужащими. Когда губернатор Уильям Велд заверил общественность, что конфиденциальность пациентов была в безопасности, Суини доказала, что он не прав, найдя его медицинские записи в базе данных и отправив их в его офис. Она позже показала, что 87 % американцев можно идентифицировать всего по нескольким данным: дата рождения, пол и почтовый индекс[56].

Другой способ, при помощи которого вас могут идентифицировать, – это ваше местоположение. У каждого человека свой след местоположения, поэтому, даже если вашего имени нет в базе данных, легко определить, кто вы такой. Специфика данных о местоположении неудивительна, учитывая, что обычно существует только один человек, который живет и работает там, где вы. Ив-Александр де Монжуа с коллегами изучили данные о местонахождении 1,5 миллиона человек за пятнадцать месяцев. Де Монжуа и его коллеги обнаружили, что в наборе данных, в котором местоположение людей регистрируется ежечасно с пространственным разрешением, равным разрешению антенн оператора сотовой связи, достаточно иметь четыре точки пространственно-временных данных, чтобы однозначно идентифицировать 95 % людей[57]. Точно так же, когда исследователи посмотрели на выписки с кредитных карт более миллиона человек за три месяца, они обнаружили, что им нужно всего четыре точки пространственно-временных данных, чтобы однозначно повторно идентифицировать 90 % людей[58].

Базы данных часто можно персонифицировать, сопоставив их с общедоступной информацией. В 2006 году Netflix опубликовал 10 миллионов рейтингов фильмов по данным, собранным у полумиллиона клиентов, чтобы разработать лучший алгоритм рекомендаций. Данные должны были быть анонимными, но исследователи из Техасского университета в Остине доказали, что они могут повторно идентифицировать людей, сравнивая рейтинги и отметки времени с общедоступной информацией в базе данных Internet Movie Database (IMDb). Предпочтения относительно фильмов очень показательны – они могут выявить политические вкусы и сексуальные наклонности. Некая мать с лесбийскими наклонностями подала в суд на Netflix за то, что та подвергла ее риску разоблачения[59].

Продавцы данных вводят общественность в заблуждение, заявляя, что анонимизируют данные[60]. На самом деле они торгуют персональными данными. Они собирают все виды чрезвычайно конфиденциальной информации, консолидируют ее и продают банкам, страховым компаниям, розничным торговцам, телекоммуникационным компаниям, медиакомпаниям, правительству и иногда даже преступникам[61]. Эти компании продают информацию о том, сколько денег вы зарабатываете, беременны ли вы или разведены, пытаетесь ли вы похудеть. Также известно, что они продают списки жертв изнасилования, больных СПИДом и людей из других проблемных категорий[62].

В онлайн-рекламе также используется сомнительная категоризация для таргетинга отдельных лиц. Бюро интерактивной рекламы – торговая группа, которая создает отраслевые нормы, – использует категории для целевой рекламы, которые включают группы поддержки жертв инцеста или насилия, злоупотребляющих психоактивными веществами и больных СПИДом или ВИЧ-инфицированных. Категории Google для рекламного таргетинга аудитории также включают наркоманию, заболевания, передающиеся половым путем, мужскую импотенцию и политические пристрастия правого и левого толка[63]. Эти категории показывают то, что является предметом интереса стервятников данных, желающих знать, где мы больше всего уязвимы. Как хищники, которые чувствуют запах крови, они ищут наши слабости, чтобы использовать их.

Давайте вернемся к вашему дню. Мы оставили вас за упаковыванием вещей в рабочую поездку в США. Когда вы приедете в аэропорт Хитроу, вам может не потребоваться посадочный талон при прохождении контроля и позднее при посадке в самолет. Сейчас используется программа распознавания лиц для подтверждения вашей личности[64].

Когда вы прибудете в пункт назначения, сотрудник отдела транспортной безопасности (TSA) попросит вас сдать ноутбук и смартфон. Вы попытаетесь воспротивиться, но он сообщит вам, что если вы не сделаете этого, то вам будет отказано во въезде. Вы торопитесь на рабочее мероприятие. Если ваш босс узнает, что вы не присутствовали на этой встрече, потому что вас депортировали за неподчинение офицеру на границе, он, мягко говоря, не обрадуется. Вы даже предполагаете, что он может вас уволить. Мысль о том, что вы рискуете лишиться работы, мотивирует вас отдать свои самые личные вещи. Вы пытаетесь вспомнить о том, какие у вас там есть данные. Вы думаете о фото в обнаженном виде с супругой, фото ваших детей, всей вашей финансовой информации.

Тогда вам приходит в голову, что у вас также есть очень личная информация о вашем работодателе. Возможно, это какие-то бизнес-секреты, которые стоят миллионы. Как можно быть уверенным, что данные не окажутся в руках американского конкурента? Или, допустим, вы располагаете конфиденциальной информацией о вашем правительстве, которую получили, когда работали консультантом. Так, например, в 2017 году инженер НАСА был вынужден разблокировать свой смартфон на границе, несмотря на то что в нем содержалась конфиденциальная информация[65]. А может быть, вы врач, у которого хранятся сведения о пациентах на ноутбуке, или адвокат, защищающий своих клиентов, или журналист, который должен держать в секрете свои источники.

Вы говорите сотруднику TSA, что должны защищать любую имеющуюся у вас конфиденциальную информацию – это ваш профессиональный долг – и вы можете столкнуться с юридическими последствиями, если этого не сделаете. Офицер TSA остается непреклонным. Вы вспоминаете, как когда-то читали в прессе о том, что, если человека депортируют из страны, он не сможет въехать туда в течение пяти или десяти лет. Это было бы фатально для вашей работы. Вы не уверены, что «отказ во въезде» приравнивается к депортации. Вы просите позвать адвоката. Офицер TSA делает вывод, что, если вам нужен адвокат, вы, должно быть, преступник. Он спрашивает, есть ли вам что скрывать. Усталый и напуганный, вы в итоге подчиняетесь и передаете ноутбук и телефон. Он забирает ваши электронные устройства и уносит из вашего поля зрения больше чем на четверть часа. За это время он скачивает ваши данные[66].

Умные границы становятся угрозой гражданским свободам, они внедряются без серьезной оценки их преимуществ, рисков, юридических и этических последствий[67]. Дроны, датчики, распознавание лиц среди прочих агрессивных технологий делают пограничный контроль более дешевым и эффективным. Но цена этому – ваша конфиденциальность. Не имея возможности (пока) финансировать строительство кирпичной стены на границе с Мексикой, администрация президента США строит виртуальную стену, состоящую из системы видеонаблюдения. Датчики размещены не только на самой границе, но также и в американских населенных пунктах, расположенных вблизи границы[68]. Подобные инициативы предлагаются и апробируются во всем мире. Венгрия, Латвия и Греция в пилотном режиме испытывают автоматизированный тест на выявление лжи в четырех пограничных пунктах. Система под названием iBorderCtrl просит путешественников отвечать на такие вопросы, как «Что у вас в чемодане?», а затем пытается определить «биомаркеры обмана»[69].

Вы приезжаете в отель, чувствуя усталость, злость и дискомфорт из-за нарушения вашего права на неприкосновенность частной жизни. Вы решаете сделать что-то, чтобы избежать подобных ситуаций или минимизировать их в будущем. Вы размышляете о написании электронного письма иммиграционному адвокату, чтобы быть лучше проинформированным о ваших правах. Но вы боитесь, что TSA, NSA (Агентство национальной безопасности) или какое-либо другое агентство может получить доступ к вашему сообщению и этого будет достаточно, чтобы у вас появилась особая отметка в аэропортах. Вы не хотите становиться тем человеком, которого постоянно останавливают на границе и часами допрашивают. Вы боитесь обращаться за юридической консультацией. Возможно, достаточно уменьшить количество данных, которые собирают о вас телефон и ноутбук. С этого нужно начать в любом случае.

Вы можете в первую очередь попытаться определить, какие данные могли быть скачаны с телефона и ноутбука. Вы загружаете информацию, которая есть по вам в Google и Facebook[70]. Пребывая в ужасе от осознания того, насколько эти системы проникают в вашу частную жизнь (вы находите в Google данные о вас, которые вы, по вашему мнению, удалили), вы решаете изменить все настройки конфиденциальности, чтобы свести к минимуму сбор данных. Когда вы смотрите на свои настройки, то замечаете, что все настройки по умолчанию создают угрозу вашей конфиденциальности[71]. И хотя некоторые из них можно изменить, отменив свое согласие на сбор данных, вы не сможете пользоваться услугами, предоставляемыми такими технологическими гигантами, как Facebook и Google[72]. Кроме того, договоренности об условиях предоставления услуг нигде не фиксируются и они могут измениться в любое время без какого-либо уведомления[73]. Вы расцениваете это как издевательство[74]. Вы понимаете, что во многих отношениях с вами обращаются как с подозреваемым в уголовном преступлении. Вы испытываете сильный стресс от вторжения в частную жизнь, как будто на вашей лодыжке находится электронный браслет. В некотором смысле это даже хуже, чем быть подозреваемым в преступлении. По крайней мере, когда вас арестовывает полиция, вам позволяют сохранять молчание и предупреждают, что все, что вы говорите, может быть использовано против вас. А когда вы начинаете пользоваться техникой, никто не предупреждает, что собранные при помощи этой техники данные могут быть использованы против вас. Кроме того, во время суда вас не заставят свидетельствовать против самого себя. А в обществе слежки ваши данные все время используются против вас.

Ваши мысли прерываются звонком жены. Она расстроена из-за разбитого смартфона. Ваши отношения в последнее время не ладятся. Вы хотели бы прийти в себя, чтобы спокойно рассказать ей о том, что произошло и что вы чувствуете себя подавленным. Однако ваше молчание еще больше расстраивает супругу, и она не собирается это скрывать. «Мне очень жаль, – говорит ваша жена. – Я бы хотела, чтобы мы поговорили об этом с глазу на глаз, но я не могу ждать твоего возвращения. Я хочу развода. Мы поговорим о деталях, когда ты вернешься». Она вешает трубку.

Ошеломленный, вы открываете Spotify на своем ноутбуке, чтобы успокоиться, послушав музыку. Первое всплывающее объявление, которое вы видите, – адвокат по бракоразводным процессам. Это совпадение? Скорее всего нет. Как они узнали? И они – это кто? Может быть, это связано с поисковыми запросами, которые делала ваша супруга? Или же, возможно, это из-за ваших семейных ссор, которые записывались и анализировались. Или, может быть, прогностический алгоритм угадал ваш предстоящий развод исходя из того, как мало времени вы проводили с семьей в последнее время.

Может быть, Spotify анализировал ваше настроение на основе выбора музыки. Даже банкиры оценивают состояние общества, глядя на данные из Spotify[75]. Вас беспокоит то, что вы, вероятно, никогда не узнаете, кому известно, что вы разводитесь, как они получили эту информацию и знали ли они об этом раньше вас. В любом случае это ненормально. Вы никому не говорили об этом, и они не имеют права влезать в ваши самые интимные отношения.

Вы задаетесь вопросом, как далеко могут зайти вторжения в частную жизнь, прежде чем вы решите ограничить их. Технологии всегда раздвигали границы конфиденциальности. Сначала фотография, теперь интернет. Вы вздрагиваете, вспоминая новости о том, что Nike начал продавать свои первые смарт-кроссовки[76]. Если ученые разработают «умную пыль» – повсеместные датчики, которые не нуждаются в батареях и настолько крошечные, что их почти не видно[77], – защита конфиденциальности может стать практически невозможной.

У вас возникает соблазн подумать, что вы будете только рады оставить этот новый мир однажды. Вы сожалеете лишь о том, что вашему сыну приходится сталкиваться с проблемами конфиденциальности со столь раннего возраста и что ему придется иметь с ними дело гораздо дольше, чем вам. Размышляя о том, что смертны, вы понимаете, что нарушения вашего права на частную жизнь не прекратятся с вашей кончиной. Вы будете продолжать жить в Сети. Падальщики будут продолжать жить за счет данных, которые вы оставили после себя. И возможно, эти данные все еще смогут влиять на жизнь вашего сына и его потомства. Это также способно повлиять на восприятие вашей жизни другими людьми – на вашу посмертную репутацию.

Вы задаетесь вопросом, есть ли какой-нибудь способ стереть следы своих данных, пока не стало слишком поздно. Он есть. Прежде чем впадать в отчаяние из-за того, насколько быстро мы лишаемся конфиденциальности каждую секунду каждого дня, читайте дальше. Следующие три главы не рисуют идиллической картины, но взглянуть на ужасную изнанку экономики данных важно, чтобы мы могли лучше понять, как сюда попали и как нам выбраться из этой гнетущей неразберихи.

Глава 2

Как мы до этого дошли?

Контраст между сегодняшней ситуацией с защитой конфиденциальности и ситуацией, которая имела место в 1990-е, разительный. В конце XX века ваш автомобиль был просто средством передвижения – он не фиксировал музыку, которая вам нравится, не записывал ваши разговоры, не измерял ваш вес и не вел статистику по вашим приходам и уходам. Он просто вез вас туда, куда вы хотели. Ваша машина служила вам, а не вы ей. К некоторым из нас осознание реалий цифровой эпохи приходит так резко, что нам кажется, будто мы вдруг проснулись утром и увидели вокруг совершенно другой мир – более суровый, по крайней мере в отношении нашей конфиденциальности и нашей самостоятельности относительно окружающих нас объектов. Как мы до этого дошли? Почему мы позволили обществу слежки пустить корни? Минимум три фактора сыграли свою роль в разрушении нашей конфиденциальности: открытие того, что личные данные, полученные в результате нашей цифровой жизни, могут приносить большую прибыль, террористические атаки 11 сентября 2001 года и ошибочное мнение, что конфиденциальность является пережитком прошлого.

Превращение персональных данных в золотую пыль

Как ваша повседневная жизнь превращается в данные? Через ваше взаимодействие с компьютерами. Компьютерные операции производят данные как побочный продукт. Когда вы используете цифровые технологии, а точнее, когда они используют вас, появляется информация о том, что вы делали, когда и где. В начале цифровой эпохи личные данные не использовались в коммерческих целях: они либо вообще не были задействованы, либо использовались лишь в качестве обратной связи для улучшения работы компьютерных систем. Главный виновник в истории превращения данных пользователей в золото – это Google[78]. Ларри Пейдж и Сергей Брин познакомились в Стэнфордском университете в 1995 году, когда оба были еще студентами. В 1996 году они разработали ядро Google – алгоритм PageRank[79]. PageRank считает количество и качество ссылок на страницу, чтобы оценить, насколько авторитетным является тот или иной сайт, а затем соответственно ранжирует результаты поиска. Алгоритм предполагает, что наиболее важными веб-сайтами являются те, которые получают максимальное количество ссылок с других авторитетных сайтов. Другие поисковые системы составляли нерелевантные списки, потому что они сосредоточились только на содержании, не придавая значения типу и важности источника. Алгоритм Пейджа и Брина, напротив, давал больше просмотров газетам, чем, например, неизвестным блогам.

PageRank был разработан по аналогии с академическим цитированием. Ученые пишут работы, цитируя исследования других людей. Чем больше цитирований получает та или иная научная работа, тем более весомой она считается в своей области. Подражая академическим кругам, PageRank удалось внести порядок в бессмысленный шум интернета и сделать поисковые запросы более информативными и ценными. Это была блестящая идея. Мало того, алгоритм стал усовершенствоваться по мере развития интернета. Он впечатляюще хорошо масштабировался[80].

К несчастью для всех нас, проблема заключалась в том, что Пейдж и Брин захотели превратить Google Search из замечательного инструмента в прибыльную компанию. В начале 1999 года они пытались продать Google компании Excite, другой поисковой системе, но безуспешно. Сообщается также, что они пытались продать его AltaVista и Yahoo[81].

В 2000 году, через два года после регистрации, несмотря на растущую популярность, Google все еще не выработала устойчивой бизнес-модели. В каком-то смысле это был просто еще один убыточный интернет-стартап. Росло недовольство среди инвесторов. Один из них пошутил, что единственным, что он получил от своих шестизначных инвестиций, была «самая дорогая футболка в мире»[82]. Возник риск ухода инвесторов, если компания не начнет зарабатывать деньги в короткие сроки. Финансовое положение Google казалось безнадежным. Однако ситуация вскоре изменилась. В 2001 году доход Google увеличился до 86 миллионов долларов по сравнению с 19 миллионами в 2000 году. В 2002 году эта цифра возросла еще стремительнее – до 440 миллионов долларов, затем до 1,5 миллиарда долларов в 2003 году и 3,2 миллиарда долларов в 2004 году. Меньше чем за четыре года, начиная с 2001 и до конца 2004-го, прибыль компании выросла на 3590 %[83]. Как им это удалось? Нет, они не ограбили банк и не нашли месторождение нефти. Они использовали персональные данные своих пользователей для продажи рекламы, тем самым, по блестящему определению социального психолога Шошаны Зубофф, открыв эпоху «капитализма слежки».

До того как стать мировыми мастерами рекламы, сотрудники Google не придавали ей особого значения. По крайней мере, они так утверждали. Брин и Пейдж написали в 1998 году статью, в которой они выразили опасения по поводу зависимости от рекламы. «Мы опасаемся, что поисковые системы, финансируемые за счет рекламы, будут по большей части ориентированы на рекламодателей, а не на нужды потребителей», – заявили они. Казалось, они хотели сохранить Google в качестве научного инструмента: «Мы считаем, что вопрос рекламы порождает довольно смешанные стимулы, поэтому крайне важно иметь конкурентоспособную поисковую систему, которая была бы прозрачной и находилась в академической сфере»[84]. Жаль, что все сложилось по-другому. PageRank был более надежным, чем предыдущие поисковые системы, именно потому, что он не зависел от рекламы, чтобы получить прибыль, и поэтому ему не нужно было искажать свои результаты. Судя по их высказываниям, Брин и Пейдж не планировали превращать интернет в рынок рекламы.

Рекламная система, которая превратила Google в то, чем она является сегодня, была разработана Эриком Вичем[85]. «Я ненавижу рекламу», – заявлял он, вторя Брину и Пейджу. В его защиту можно сказать, что у него были благие намерения сделать рекламу лучше, чем среднестатистическая реклама в интернете в те дни. Замысел AdWords (так назвали эту систему) звучала разумно: реклама должна радовать Google, рекламодателей и пользователей. Google будет получать от рекламы деньги, рекламодатели смогут рекламировать и продавать свою продукцию, а пользователи получат возможность использовать качественную поисковую систему и видеть только ту рекламу, которая их интересует. Это выглядело очень даже неплохо. Одна из особенностей AdWords заключалась в том, что рекламодатели не могли самостоятельно выбирать лучшие позиции для своей рекламы. Позиции распределялись по приоритетам, которые создавались самими пользователями: чем больше кликов пользователей, тем приоритетнее позиция рекламы, что позволяло убедиться в том, что реклама была полезна для пользователей. Система была проста в использовании, но она не учитывала того, что рекламодатели могут сами нажимать на свои объявления, чтобы повысить их просмотры. Поэтому Google решила вместо этого начать продавать рекламные объявления на аукционе.

Рекламодатели должны были платить за клик. То есть они должны были предлагать цену, которую готовы платить за каждый клик пользователя по рекламному объявлению. Это была умная система, и ее внедрение изменило правила игры. Взимая плату за клик, Google разрешила рекламодателям платить за рекламу только тогда, когда она работала. Еще одним нововведением было то, что Google снизила цену за размещение более эффективной рекламы, тем самым стимулируя лучшую рекламу.

В рекламе Google было много преимуществ по сравнению с другими. Она была относительно ненавязчивой, с четким обозначением «на правах рекламы», не смешивалась с «обычными» поисковыми запросами пользователей и дополнительно стимулировалась за высокое качество. Но у всех этих преимуществ была и обратная сторона. Во-первых, эта система создавала «черный ящик» для рекламодателей, которые должны были доверять расчетам Google и могли никогда до конца не узнать то, как в Google размещали их рекламу и какими принципами руководствовались[86]. Большим недостатком рекламной системы Google стало то, что она перевернула бизнес-модель компании с ног на голову. Пользователи Google больше не являются ее клиентами – таковыми стали рекламодатели. А мы, пользователи, превратились в продукт. Стимулы и лояльность Google резко изменились.

И по сей день Google – это прежде всего рекламная компания, которая заработала почти 135 миллиардов долларов в 2019 году только на рекламе. Alphabet, холдинговая компания Google, получила в том же году общий доход почти 162 миллиарда долларов. Другими словами, более 80 % доходов Alphabet были получены от рекламы Google[87]. И AdWords по-прежнему остается самой прибыльной из рекламных инициатив Google[88].

Однако ценой успеха Google отчасти стала наша конфиденциальность. Наши данные, которые до этого использовались только для улучшения поисковой системы Google, начали использоваться для персонализации рекламы. Основываясь на поисковых запросах, Google составляет точное представление о нашем сознании, как коллективном, так и индивидуальном. Мы ищем то, о чем думаем. Утром 28 февраля 2001 года в 10:54 недалеко от Сиэтла произошло землетрясение. Google узнала об этом уже к 10:56 после обнаружения всплеска поисковых запросов, связанных с землетрясениями в этом районе[89]. Google также знает, какие телешоу наиболее популярны в определенный момент. И у нее есть доступ к еще более личной информации – например, связаны ли вы с наркотиками, не планируете ли вы сделать аборт, что вас беспокоит относительно вашего здоровья, можете ли вы оплачивать свои кредиты. Живой образец всех этих поисковых запросов был продемонстрирован Google через дисплей под названием Live Query. Репортер New York Times написал, что просмотр Live Query напоминает «наблюдение за коллективным сознанием мира»[90].

Все эти данные можно использовать для продажи рекламы. К 2003 году концепция была настолько хорошо разработана, что компьютерные специалисты Google зарегистрировали патент на «Создание пользовательской информации для использования в целевой рекламе»[91]. Патенты – хороший способ узнать, на что нацелены компании. В этом патенте описано не только то, как использовать для рекламы данные, которые оставляют пользователи в поисковой системе Google, но и то, как анализировать данные, которые пользователи могут не предоставлять «добровольно». Среди прочего патент также свидетельствует о том, что Google перешла от получения данных, созданных пользователями, взаимодействующими с ее веб-сайтом, с целью улучшения своего сервиса, к получению пользовательских данных с явной целью использования их для целевой рекламы.

Google уже давно собирала огромное количество данных о своих пользователях, по мере того как те формировали поисковые запросы о том, что хотели узнать, чего боялись и чем интересовались. Но как только пользователи нажимали на результат поиска и уходили на другой веб-сайт, они были вне досягаемости Google. Так было, пока технологический гигант не разработал AdSense в дополнение к AdWords. Система AdSense использует интернет как чистый холст, готовый к заполнению рекламой, которая распространяется почти повсюду в интернете. Она запускает рекламу на веб-сайты, которые являются (или были) независимыми от Google – например, в интернет-магазины и на новостные сайты. С внедрением AdWords и AdSense Google положила начало экономике слежки. До этого то здесь, то там покупались и продавались некоторые персональные данные пользователей. И некоторые из них использовались для рекламы, но не в таком масштабе, не с таким уровнем конкретики и анализа. Не было персонализации с целью анализа данных. Торговля данными не воспринималась как основная схема финансирования большей части интернета. Google успешно превратила обработку персональных данных в золотую пыль и открыла экономику слежки как одну из самых прибыльных бизнес-моделей всех времен. Она взяла все уже существующее, добавила что-то свое и получила совершенно новое качество. Марафон по достижению (морального) дна ускорялся по мере того, как другие компании пытались наверстать упущенное, разрабатывая собственные способы добычи наших персональных данных. Google превратила своих пользователей в продукт, и другие последовали ее примеру.

Стремясь сохранить преимущество в сборе персональных данных, в 2007 году Google купила DoubleClick, рекламную компанию, которая использовала cookie (небольшой фрагмент данных, идентифицирующий посетителей веб-сайтов) для доступа к персональным данным пользователей, включая историю просмотров, даже до того, как те нажимали на рекламный баннер. DoubleClick также использовала медийную рекламу (графические баннеры), что еще больше нарушало первоначальный подход Google: не создавать отвлекающей рекламы. Благодаря DoubleClick Google смогла отслеживать пользователей почти везде, где они заходили в интернет, даже если они не нажимали ни на одну из рекламных ссылок[92]. С тех пор Google один за другим создавала продукты, которые помогали собирать еще больше данных из еще большего количества источников. Были разработаны Chrome, Maps, Pixel, Nest и многие другие программы для сбора максимального количества данных пользователей. Большинство из нас узнали о сомнительных методах тех, кого мы считали энтузиастами технического прогресса, очень поздно. Google и другие компании начали получать прибыль от сбора, анализа и торговли нашими личными данными без получения разрешения у правительства или получения согласия пользователей. Они просто пошли напролом, решив: «Посмотрим, что произойдет». И ничего не произошло. Привлеченные уровнем сервиса и «бесплатными» услугами, предоставляемыми технологическими компаниями, пользователи соглашались на то, что считали выгодной сделкой, не понимая, от чего им придется отказаться.

Когда вы впервые завели учетную запись электронной почты, вам, вероятно, не пришло в голову, что вы передаете свои персональные данные. По крайней мере, мне в голову это определенно не приходило. Это была нечестная сделка. Нас поставили в известность о последствиях передачи своих персональных данных лишь спустя годы, когда технологические компании уже получили наши данные и выход из сделки стал невозможен.

Во время локдаунов из-за коронавируса как никогда стало очевидно, что наше взаимодействие с цифровыми технологиями является не совсем добровольным. Людей заставляли пренебрегать конфиденциальностью и использовать приложения наподобие Zoom для рабочих звонков, школьных занятий детей, общения со своими родственниками.

Как только цифровые платформы стали для нас незаменимым, обязательным элементом для того, чтобы быть полноправными членами нашего общества, у нас не осталось никаких шансов отказаться от предоставления своих персональных данных.

Не стоит заблуждаться: совсем не случайно, что вы узнали о капитализме слежки много лет спустя после того, как он занял господствующие позиции. Google прилагала немало усилий, чтобы скрыть свою заинтересованность в сборе персональных данных и свою бизнес-модель[93]. Занимающий в то время должность генерального директора Эрик Шмидт называл это «стратегией утаивания»[94]. Секретность была способом защитить их конкурентное преимущество как можно дольше. Это также был способ держать пользователей в неведении относительно того, что происходило с их данными. Бывший руководитель Google Дуглас Эдвардс писал: «Ларри [Пейдж] выступал против любых действий, которые бы раскрывали наши технологические секреты или мешали сохранению закрытого характера работы, а также поставили бы под угрозу нашу способность собирать данные. Люди не знали, сколько данных мы собирали, но мы не делали с ними ничего плохого, поэтому и считали, что не стоит говорить об этом – подобное только собьет всех с толку и вызовет ненужную тревогу»[95]. Но, как мы уже поняли, стоит волноваться о том, что кто-то собирает наши персональные данные, даже если они не используют их для неблаговидных целей, – данные в итоге часто все равно используются не по назначению. Более того, злой умысел не всегда очевиден, особенно когда он становится частью системы. Google утаивала свою бизнес-модель, потому что брала у нас что-то очень личное, не спрашивая нашего разрешения, и использовала это в собственных интересах и в интересах своих рекламодателей[96].

И никто не остановил это, потому что почти никто не знал, что происходит. Но все могло быть иначе. Капитализм слежки не был неизбежен. Брин и Пейдж могли стать научными работниками и сохранить Google Search в качестве некоммерческой академической инициативы вроде Википедии. Или они могли бы найти альтернативную бизнес-модель. Или регулирующие органы могли ограничить их действия с нашими персональными данными. Фактически торговля данными была почти отрегулирована, но помешала трагедия.

И грянул гром

К концу 1990-х регулирующие органы начали беспокоиться о файлах cookie. В 1996 и 1997 годах на семинарах Федеральной торговой комиссии (FTC) в США обсуждались вопросы предоставления людям контроля над их персональной информацией. Первый подход FTC заключался в том, чтобы поощрять саморегулирование компаний по этому вопросу. Но компании не откликнулись. Например, в 1999 году компания DoubleClick объединилась с брокером данных Abacus предположительно для того, чтобы попытаться идентифицировать своих пользователей. Защитники конфиденциальности обратились в Федеральную торговую комиссию с ходатайством о расследовании, и DoubleClick вынудили продать Abacus[97].

Когда стало ясно, что саморегулирования недостаточно для защиты конфиденциальности пользователей, Федеральная торговая комиссия предприняла следующий шаг. В 2000 году был подготовлен доклад Конгрессу США с предложениями о введении законов, которые вынуждали бы веб-сайты информировать пользователей о методах работы с предоставляемой ими информацией, позволять пользователям выбирать то, как могут быть использоваться их данные, предоставлять им доступ к их персональным данным, хранящимся на сайте, и обеспечивать безопасность информации, которую веб-сайты собирают. «Комиссия считает, что исходя из не слишком успешных попыток отрасли внедрить справедливую информационную практику в интернете, а также постоянной обеспокоенности потребителей по поводу защиты конфиденциальности назрела необходимость принять законодательные меры», – говорится в отчете[98]. Если бы тогда в США был принят закон, запрещающий сбор персональных данных в интернете, то наш мир сегодня мог бы выглядеть совсем иначе. Google, возможно, никогда не стала бы рекламным гигантом, а практика слежки, которая теперь является чем-то обыденным, могла никогда и не укорениться.

К несчастью, история пошла по иному пути. Чуть больше чем через год после публикации доклада FTC, в сентябре 2001 года, четыре пассажирских самолета на пути в США были угнаны террористами. Два из них врезались в башни-близнецы в Нью-Йорке, третий упал на Пентагон, а четвертый, который якобы должен был поразить Белый дом, разбился в Пенсильвании после того, как его пассажиры вступили в борьбу с угонщиками. Эта атака не только унесла жизни почти 3000 человек, но и развязала войну, оправдала принятие чрезвычайных законов и нанесла травму на национальном и международном уровне, последствия которой ощущаются и по сей день. К сожалению, террористические атаки оказались необычайно успешными в нанесении ущерба либеральной демократии. И часть этого ущерба была нанесена народными избранниками.

После 11 сентября кредо, провозглашенное президентом Джорджем Бушем-младшим и нашедшее отклик в американском обществе, звучало так: «Это никогда не должно повториться». Было чувство стыда за то, что не удалось предотвратить атаки, и решимость сделать все необходимое, чтобы трагедия 11 сентября никогда не повторилась. В мгновение ока в центре внимания правительства США оказалась безопасность. Вопрос защиты конфиденциальности отошел на второй план[99]. Дело не только в том, что правительство было слишком занято вопросами безопасности, чтобы уделять внимание конфиденциальности. Спецслужбы увидели возможность существенно расширить свои полномочия по слежке за счет получения копий всех личных данных, которые были собраны корпорациями[100]. Однажды правительство заинтересовалось нашими персональными данными, и у них больше не было стимула регламентировать защиту конфиденциальности. Напротив, чем больше данных собирают компании, тем шире возможности слежки со стороны государства и тем больше терактов можно предотвратить – в теории.

Конгресс Соединенных Штатов принял Патриотический акт, учредил Программу выявления террористов и разработал ряд других мер, которые усилили слежку без ордера. Многие инициативы были секретными. Тайные законы, тайные суды, тайная политика. Даже через десять лет после событий 11 сентября директор по исследованиям информационной политики Института Катона Джим Харпер заявил, что не может ответить на вопрос о том, каково состояние слежки и гражданских свобод в Соединенных Штатах, потому что правила, регулирующие жизнь общества, являются секретными[101]. По сути, бóльшую часть того, что мы сейчас знаем о массовой слежке в США, мы почерпнули из откровений Эдварда Сноудена, бывшего подрядчика Агентства национальной безопасности (NSA), выступившего с разоблачениями в 2013 году[102].

Масштаб полномочий правительства в США по слежке после 11 сентября поразителен. Описание деталей займет целую книгу, но вот лишь некоторые из них. NSA собрало данные от Microsoft, Yahoo, Google, Facebook, YouTube, Skype, Apple и других компаний через программу PRISM. Туда попали электронные письма, фотографии, видео- и аудиочаты, история просмотров и все данные из «облачных» хранилищ этих компаний. Но и этого оказалось мало, и NSA начало выполнять сбор данных в восходящем направлении, то есть непосредственно из частной интернет-инфраструктуры – от маршрутизаторов до оптоволоконных кабелей[103].

Бóльшая часть мирового интернет-трафика проходит через инфраструктуру или технологии, которые находятся под контролем США[104]. Это означает, что NSA может отслеживать практически любого интернет-пользователя в глобальном масштабе. Если вы представляете интерес для NSA, тогда слежка может быть еще более изощренной, поскольку они располагают программами, которые могут получить доступ ко всем элементам цифровой жизни и вмешиваться в нее[105]. Если это необходимо для дела, NSA может поделиться некоторыми собранными данными с другими разведывательными службами стран-союзников. Целью NSA является сбор всех имеющихся данных и ведение их непрерывного архива[106]. Разведывательное сообщество любит называть такое вторжение в частную жизнь «массовым сбором данных», избегая называть вещи своими именами – массовой слежкой.

Самым прискорбным аспектом потери конфиденциальности является то, что это не помогает предотвратить теракты. Идея о том, что если у нас будет больше данных о людях, то мы сможем предотвратить такие ужасные вещи, как терроризм, интуитивно понятна. Ход мыслей привлекателен. Но он ошибочен. В США достаточно примеров того, что массовая слежка не способна предотвратить террористические акты. Например, президентская группа по обзору разведывательных и коммуникационных технологий так и не смогла выявить ни одного случая, когда массовый сбор записей телефонных разговоров помог бы предотвратить атаку[107].

В 2004 году ФБР проанализировало разведданные, полученные из STELLARWIND – программы наблюдения, предназначенной для массового сбора материалов телефонных звонков и электронных писем без ордера. Целью анализа было выяснить, насколько «значительный вклад» внесла работа программы в выявление террористической угрозы, депортацию подозреваемых или установление отношений с информаторами о террористах. Оказалось, что только 1,2 % данных с 2001 по 2004 год были полезными. Когда в ФБР изучили данные с 2004 по 2006 год, то обнаружили, что не было никакой значительной пользы от работы с программами слежки[108]. Данных, отправленных из Национальной службы безопасности в ФБР, было слишком много, их анализ оказался пустой тратой времени[109]. Когда в NSA пожаловались, что они не видят результатов обработки данных сотрудниками ФБР, один из представителей ФБР дал следующую обратную связь на обвинение, приложив к ответу информацию, полученную от рядовых сотрудников: «Вы нам мусор присылаете»[110].

Терроризм – явление редкое, словно иголка в стоге сена. Если добавлять сена в стог, поиск иголки только усложнится. Собирая гораздо больше нерелевантных данных, массовая слежка создает больше помех и улавливать сигналы становится сложнее[111].

Массовая слежка оказалась очень эффективной в лишении права на неприкосновенность частной жизни миллионов людей. Она сделала еще сильнее и так могущественных – технологические компании, которые стали технологическими гигантами, и правительства, а рядовые граждане стали более уязвимыми. Слежка также использовалась для экономического и международного шпионажа, она была нацелена в том числе и на страны-союзницы и на организации по оказанию помощи[112]. Другими словами, основной итог массовой слежки сводится к тому, что и так могущественные стали еще сильнее.

Из этого удручающего эпизода истории можно извлечь несколько уроков. Во-первых, общество слежки родилось в результате сотрудничества между частными компаниями и государственными учреждениями. Правительство позволило процветать корпоративному сбору данных, чтобы затем получать их копию. Торговле данными позволили разрастись, потому что она оказалась дополнительным источником власти для правительства. В обмен корпорации помогали правительственной слежке. Компания AT&T, например, установила оборудование для слежки по запросу NSA как минимум на семнадцати своих интернет-хабах в городах США. Она также оказывала техническую помощь в прослушивании всех интернет-коммуникаций в штаб-квартире Организации Объединенных Наций, которая является клиентом AT&T (не все компании были рады участвовать в массовой слежке, но все они должны были подчиниться. – Прим. авт.)[113].

Такое сотрудничество продолжает процветать на частном и государственном уровне. Большинство стран не имеют опыта для разработки средств слежки и взлома, поэтому они покупают их у производителей кибероружия[114]. Учитывая их тесные связи, нет смысла делать различия между частной и государственной слежкой. Мы должны решить обе проблемы.

Если мы защитим себя от пристального внимания правительства, за нами будут наблюдать корпорации и передавать эту информацию властям. В 2018 году Джон Робертс, председатель Верховного суда США, предложил набравшее большинство голосов постановление против получения правительством данных о местоположении граждан с вышек мобильной связи без ордера. Он утверждал, что «когда правительство отслеживает местоположение мобильного телефона, оно достигает почти идеальных условий слежки, как если бы оно установило браслет на лодыжку пользователя телефона». Спустя два десятилетия после событий 11 сентября правительство США вернуло своим гражданам некоторые права на конфиденциальность. Однако в реалиях экономики слежки есть много способов получения данных. Вместо того чтобы потребовать у компаний мобильной связи их данные, администрация президента Трампа купила у них доступ к коммерческой базе данных, которая отслеживает передвижения миллионов мобильных телефонов в США. Учитывая, что такую информацию можно купить на рынке данных, правительству не нужен ордер на ее получение. Другими словами, передав полномочия слежки частным компаниям, правительство нашло способ обойти постановление Верховного суда[115].

Если мы защитим себя от пристального внимания корпораций, то правительство будет собирать данные и передавать их корпорациям. Поток информации идет в обоих направлениях. Так, например, данные о миллионах пациентов Национальной службы здравоохранения Великобритании были проданы фармацевтическим компаниям[116]. На момент написания этой книги крупные технологические компании вели переговоры с правительствами по всему миру, чтобы бороться с пандемией коронавируса с помощью приложений на смартфонах. Пандемия подводит нас ко второму уроку, который следует извлечь из слежки, начавшейся после 11 сентября: кризисы опасны для гражданских свобод.

Во время кризисов решения принимаются без тщательного рассмотрения всех за и против, доводов и альтернатив. Всякий раз, когда есть малейшее сопротивление предложенной крайности, призыв к «спасению жизней» заставляет несогласных замолчать. Никто не хочет мешать спасению жизней, даже если нет ни малейшего доказательства того, что предложенные инициативы действительно послужат этой цели. Государственные институты и частные корпорации занимаются захватом власти. Гражданские свободы приносятся в жертву неоправданно без надлежащих гарантий их возврата после кризиса. Чрезвычайные меры, принятые в условиях паники, имеют тенденцию оставаться в силе еще долго после того, как кризис миновал.

«Это никогда не должно повториться» было нереалистичным ответом на террористическую атаку 11 сентября. Это была упрощенная и абсурдная фраза, которая искажала политические дискуссии на протяжении более десяти лет[117]. Абсолютной неуязвимости достичь нельзя. Мы не должны доверять любой политике, которая обещает отсутствие рисков. Единственное место, где не существует рисков, – это шесть футов под землей, когда вы перестаете дышать. Жить – значит рисковать, а жить хорошо – это управлять рисками, не ставя под угрозу то, что делает жизнь лучше. Такие ужасные вещи, как теракты и эпидемии, случаются в мире и будут происходить и дальше. Думать, что мы можем предотвратить их, если откажемся от нашей свободы и приватности, – все равно что верить в сказки. Такое принятие желаемого за действительное может привести нас к добавлению авторитаризма в список трагедий, которые нам придется пережить. Как ни странно, авторитаризм – это трагедия, которую мы в силах предотвратить. Но для этого мы должны защищать наши гражданские свободы. Это означает, что ваши персональные данные должны быть в безопасности. Нежелание рисковать может парадоксальным образом привести нас к бо́льшим опасностям в будущем.

Однако трудно держать в голове ценность конфиденциальности в разгар чрезвычайной ситуации. Когда мы боимся за свою жизнь, последнее, о чем мы будем заботиться, – это наши личные данные. Опасности терроризма и эпидемий ощутимы, в отличие от угрозы потери конфиденциальности. Террористическая атака мгновенно оставляет после себя тела погибших, которые также служат предупреждением для тех, кто остался в живых. Страшные последствия эпидемии проявляются не так быстро: коронавирус, казалось бы, просто отправляет людей на пару недель в больницу, но в итоге он оставляет за собой страшный смертельный след, который может по понятным причинам вселять ужас в сердца людей. Как мы дальше увидим, потеря конфиденциальности также может быть пагубной, как в буквальном, так и в метафорическом смысле уничтожая образ жизни, который мы ценим. Просто в этом случае для понимания последствий потребуется гораздо больше времени.

Сбор данных не ранит нашу плоть и не заставляет истекать кровью, не поражает наши легкие, затрудняя дыхание. Но сбор данных отравляет нашу жизнь, институты общества и его само. Просто нужно время для того, чтобы стали очевидны последствия. Персональные данные токсичны, но это яд медленного действия.

Мы бы более активно защищали наши персональные данные (даже во время кризиса), если бы знали, почему так важна конфиденциальность.

Забыли, что и почему важно

В 2010 году основатель Facebook Марк Цукерберг заявил, что конфиденциальность больше не является «социальной нормой» и пора выходить за ее рамки: «Люди комфортно себя чувствуют, делясь большим количеством разного рода информации о себе с большим количеством людей»[118]. Его заявления не кажутся правдивыми или искренними, учитывая тот факт, что он выкупил четыре дома вокруг своего, чтобы иметь больше личного пространства[119]. И давайте не будем забывать, что весь поток доходов Facebook зависит от использования наших личных данных. За месяц до того, как Цукерберг объявил, что конфиденциальность устарела, Facebook изменила на своей платформе настройки по умолчанию, чтобы пользователи публично делились еще бóльшим количеством персональных данных[120]. Для технологических гигантов выгодно, чтобы мы считали конфиденциальность устаревшим явлением, анахронизмом. Но это не так.

Анахронизм – это то, что относится к другому временнóму периоду и, как правило, уже вышло из употребления. Мы часто наследуем предметы, социальные нормы или законы, которые были созданы очень давно и плохо соотносятся с текущими реалиями, являясь, по сути, дисфункциональными. Некоторые анахронизмы выглядят очень забавно. В Крайст-черче, колледже в Оксфордском университете, где я когда-то училась, действовало правило, что только швейцар может содержать собаку на территории учебного заведения. Чтобы обойти это устаревшее правило, в 1990-х годах проживающая там собака декана официально считалась кошкой[121]. Другой пример: членам парламента Великобритании запрещено носить рыцарские доспехи в здании парламента[122].

Однако не все анахронизмы смешны – некоторые из них губительны. В разных странах часто действуют тысячи законов и постановлений. Трудно отслеживать их все, и законы, которые больше не должны применяться, не всегда бывают отменены вовремя. Устаревшие законы опасны, потому что они могут быть использованы сомнительным образом. Например, малоизвестный закон Нью-Йорка, изданный в 1845 году, запрещал носить маски, что позволило в 2011 году произвести аресты участников протеста «Захвати Уолл-Стрит», в отличие от других людей в масках (вспомните Хэллоуин и пандемии), которых не арестовывают и не будут арестовывать.

У нас есть очень веские основания для того, чтобы покончить с устаревшими законами и нормами, поскольку они могут привести к несправедливым решениям и тормозить прогресс. Вот почему заявление Цукерберга о том, что конфиденциальность устарела, было столь значительным. Прошло время, и, чтобы успокоить пользователей и не отставать от конкурентов, которые демонстрируют более серьезный подход к защите конфиденциальности, Цукерберг изменил свою позицию и в 2019 году заявил, что «будущее за конфиденциальностью»[123]. Однако всего через месяц после этого заявления юрист, представляющий интересы Facebook в суде, в качестве аргумента привел то, что пользователи «не заинтересованы в конфиденциальности», потому что, приняв соглашение по использованию платформы, они «свели на нет все разумные основы конфиденциальности»[124]. Если прав Цукерберг, утверждая, что будущее за конфиденциальностью, и в то же время прав юрист Facebook в том, что пользователи не могут рассчитывать на конфиденциальность, используя эту платформу, то напрашивается логический вывод: в будущем, где должна процветать конфиденциальность, не будет места Facebook.

Несмотря на то что Цукерберг отказался от своих слов, мы регулярно слышим, что конфиденциальность мешает прогрессу. С 2001 года конфиденциальность постоянно называют препятствием на пути усилий властей по обеспечению безопасности граждан. Конфиденциальность также является предметом споров в сфере здравоохранения. Врачи и технологические компании, которые охотятся за персональными данными, утверждают, что защита личной информации мешает развитию персонализированной медицины и аналитике больших объемов данных.

В период пандемии коронавируса происходит множество дискуссий о том, как ослабление стандартов конфиденциальности может помочь в борьбе со вспышками эпидемии. По всему миру используются специальные приложения, помогающие определить людей, которые могут быть носителями инфекции. Эксперты выясняют, в какой степени законы в их странах допускают исключения из правил по защите данных в условиях пандемии. В докладе Института глобальных изменений имени Тони Блэра говорится о том, что резкое усиление слежки при помощи технологий – это «цена, которую стоит заплатить» в борьбе с коронавирусом, даже если «нет никаких гарантий, что какой-либо из этих новых подходов будет эффективен».

Не менее опасным, чем сохранение устаревших норм, является восприятие важнейших норм в качестве устаревших. Конфиденциальность имеет долгую историю. Мы можем обнаружить свидетельства существования норм конфиденциальности почти в каждом обществе, которое когда-либо изучалось. Спросите у тех, кто говорит, что конфиденциальность умерла, пароль от их ящика электронной почты. А лучше, когда они закроются в кабинке туалета, загляните к ним через перегородку и поприветствуйте их. Вы не будете разочарованы – с нормами конфиденциальности все в полном порядке. То, что нормы конфиденциальности длительное время сохраняются в образе жизни людей во многих культурах, может нести в себе определенный риск, поскольку они начинают восприниматься как должное. Преимущества конфиденциальности стабильно укоренились в нашем образе жизни, поэтому мы перестали замечать, насколько они важны и почему. Подобное явление широко распространено в контексте общественного здравоохранения. К примеру, когда нам удается быстро сдержать или успешно предотвратить эпидемию, мы, вероятно, можем недооценить важность предпринятых мер, когда в следующий раз столкнемся с угрозой эпидемии, потому что мы не испытали на себе ее негативных последствий – они прошли, не затрагивая нас. Точно так же мы можем забыть о ценности конфиденциальности, если в последнее время не ощущали последствий ее утраты. Неслучайно в Германии защита конфиденциальности развита сильнее, чем в большинстве других стран. Память о деятельности Министерства государственной безопасности ГДР (Штази) еще свежа.

За пределами интернета часто существуют определенные сигналы, обычно весьма ощутимые, которые предупреждают нас о нарушении норм конфиденциальности. Мало что может сравниться с социальным дискомфортом, когда на вас пристально смотрит человек, а вы этого не хотите. Например, когда кто-то крадет наш ежедневник, мы быстро замечаем пропажу. Цифровая эпоха смогла заставить нас забыть о нормах конфиденциальности во многом потому, что она смогла отделить их от указанных осязаемых сигналов. Кража цифровых данных не вызывает переполоха, не оставляет видимых следов, ее невозможно почувствовать. Потеря конфиденциальности онлайн причиняет боль только тогда, когда мы сталкиваемся с последствиями: нам отказывают в ссуде, работе или страховке, нас унижают или преследуют, мы становимся жертвами вымогательства, с наших банковских счетов исчезают деньги или наносится ущерб демократиям наших стран.

Следующие две главы касаются двух важных аспектов конфиденциальности, которые, вероятно, наши родители, бабушки и дедушки понимали лучше нас: битва за вашу конфиденциальность – это борьба за власть, и персональные данные могут быть токсичны.

Глава 3

Конфиденциальность – это власть

Представьте, что у вас есть мастер-ключ ко всему многообразию вашей жизни. Ключ или пароль, который дает вам доступ к входной двери вашего дома, вашей спальни, к вашему дневнику, компьютеру, телефону, автомобилю, сейфу, медицинской карте… Стали бы вы делать копии этого ключа и раздавать их незнакомым людям? Скорее всего, нет. Так почему же вы готовы передавать свои персональные данные практически любому, кто об этом просит?

Конфиденциальность подобна ключу, открывающему ваши интимные и личные аспекты, которые делают вас самим собой и в то же время весьма уязвимым. Ваше обнаженное тело, сексуальная история и фантазии. Ваши прошлые, настоящие и возможные будущие болезни. Ваши страхи, утраты и неудачи. Самое худшее, что вы когда-либо делали, говорили и думали. Ваши недостатки, ошибки, травмы. Эпизоды вашей жизни, за которые вам очень стыдно. Родственники, которых лучше бы не было. Подробности вечера, когда вы сильно напились.

Когда вы передаете этот ключ – свою конфиденциальность – тому, кто вас любит, это позволит вам наслаждаться близостью, а этот человек будет использовать такой ключ на благо вам. Быть близким с человеком – это значит делиться тем, что делает вас уязвимым, давать ему возможность причинить вам боль и быть уверенным, что он никогда не воспользуется привилегированным положением, которое дает близость. Люди, которые вас любят, могут использовать дату вашего рождения, чтобы устроить сюрприз на день рождения. Зная ваши вкусы, подберут идеальный подарок. Они учтут ваши самые мрачные страхи, чтобы оградить вас от того, что вас пугает.

Однако не все будут использовать доступ к вашим персональным данным в ваших интересах. Мошенники могут позаимствовать вашу дату рождения, чтобы выдать себя за вас при совершении преступления. Компании могут анализировать ваши вкусы, чтобы заинтересовать вас сомнительной сделкой. Недоброжелатели могут воспользоваться вашими самыми потаенными страхами, чтобы вам угрожать и шантажировать вас. Люди, которые не принимают ваши интересы близко к сердцу, будут использовать ваши данные в своих целях. Для большинства людей и компаний, с которыми вы взаимодействуете, ваша конфиденциальность не является приоритетом. Конфиденциальность имеет важное значение, потому что ее отсутствие дает другим власть над вами. Вы можете подумать, что вам нечего скрывать, нечего бояться. Вы не правы – если, конечно, вы не эксгибиционист с мазохистскими склонностями к страданиям от кражи персональных данных, дискриминации, безработицы, публичного унижения и тоталитаризма. Вам есть что скрывать, есть чего бояться, и тот факт, что вы не публикуете свои пароли и не даете копии своих ключей незнакомцам, подтверждает это. Возможно, вы думаете, что вашей конфиденциальности ничто не угрожает, потому что вы – никто, в вас нет ничего особенного, интересного или важного. Не принижайте себя. Если бы вы не были настолько важны, компании и правительства не стали бы прилагать так много усилий, чтобы шпионить за вами.

Вы сами решаете, чему уделить внимание, на что потратить интеллектуальные усилия. И люди борются за эту позицию[125]. Все технологические компании хотят, чтобы вы обратили внимание конкретно на их приложение, платформу, рекламу. Они хотят узнать о вас больше, чтобы понимать, как вас привлечь, даже если подобное означает, что вам для этого нужно будет переключить свое внимание с чего-то более важного – времяпрепровождения с близкими или удовлетворения основных человеческих потребностей, таких как сон[126]. У всех нас есть деньги, пусть у кого-то даже и небольшие. Компании хотят, чтобы мы тратили на них свой доход. Хакеры, помышляющие о вымогательстве, стремятся завладеть нашей конфиденциальной информацией или фотографиями. Страховые компании тоже хотят ваших денег при условии, что вы не слишком склонны к риску, и им нужны ваши данные, чтобы оценить это[127]. Работодатели предпочитают знать все о тех, кого они нанимают, в том числе и о том, не замечены ли соискатели в рьяной борьбе за свои права[128]. У вас есть тело. Государственные и частные учреждения хотят знать больше о вашем теле, возможно, даже проводить над ним эксперименты, чтобы расширить свои познания о других телах, подобных вашему. У вас есть персональные данные. Преступники стремятся использовать их для совершения правонарушений от вашего имени, предоставляя вам потом платить по счетам[129]. У вас есть личные контакты. Вы – своего рода узел сети. Каждый из нас – это чей-то ребенок, сосед, чей-то учитель, либо адвокат, либо стилист. Через вас можно связаться с другими людьми. Вот почему приложения запрашивают у вас доступ к контактам. У вас есть голос. Всевозможные представители хотят использовать его в качестве рупора в социальных сетях и за их пределами. У вас есть право голоса. Иностранные и национальные силы хотят, чтобы вы голосовали за кандидата, который будет защищать их интересы. Как видите, вы очень важный человек. Вы – источник власти.

К настоящему моменту большинство людей знают, что их данные стоят денег. Но ваши данные ценны не только потому, что их можно продать. Facebook, например, чисто технически не продает ваши данные[130]. Как и Google[131]. Зато они продают власть влиять на вас. Они хранят ваши данные, чтобы иметь возможность продавать право показывать вам рекламу и право предсказывать ваше поведение. Google и Facebook только технически занимаются экономикой данных, на самом деле они сфокусированы на технологии власти. Персональные данные дают нечто большее, чем денежная выгода, – они дают власть тем, кто их собирает и анализирует, и именно это делает данные столь желанными.

Власть

Единственное, что дороже денег, – это власть. Власть может дать вам все и вся. Если у вас есть власть, у вас могут быть не только деньги, но и возможность избежать наказания за все, что вы захотите сделать. Если у вас достаточно власти, это даже может позволить вам быть выше закона. У нее есть два аспекта. Во-первых, это то, что философ Райнер Форст определил как «способность А побуждать Б думать или делать то, о чем Б иначе бы не подумал и не сделал»[132]. Влиятельные люди и организации могут заставить вас думать о чем-то и что-то делать. Средства, с помощью которых сильные мира сего оказывают на вас влияние, очень разнообразны. Они включают в себя мотивирующие речи, рекомендации, глобальные идеологические нарративы, соблазнение и реальные угрозы. В эпоху цифровых технологий они могут включать алгоритмы, приложения, рекламу, фейковые новости, фальшивые группы и аккаунты, а также повторяющиеся нарративы, в которых технологии изображаются как решение всех наших проблем, а также многие другие средства, с помощью которых реализуется власть. Мы можем назвать это мягкой силой.

Форст утверждает, что грубая сила или насилие – это не проявление власти, поскольку люди, подвергающиеся насилию, ничего сами не делают – скорее, с ними что-то делают. Я с этим не согласна. Грубая сила, безусловно, является атрибутом власти. Было бы нелогично считать бессильными тех, кто подвергает нас насилию. Представьте себе армию, держащую в подчинении население, или душащего вас головореза. Макс Вебер описывает этот второй аспект власти как способность людей и учреждений «навязывать свою волю несмотря на сопротивление»[133]. Мы можем назвать это жесткой силой.

Короче говоря, облеченные властью люди и организации заставляют нас думать и вести себя так, как мы бы не вели себя и не думали без их воздействия. Если им не удается повлиять на нас, чтобы мы действовали и думали так, как они хотят, облеченные властью люди и организации могут применить к нам силу – они способны заставить нас сделать то, что мы не сделали бы по своей воле.

Существуют разные типы власти: экономическая, политическая, военная и другие. По отношению к власти можно провести аналогию с энергией: она способна трансформироваться из одного вида в другой[134]. Компания, обладающая экономической властью, может использовать свои деньги, чтобы получить политическую власть, например, посредством лоббирования. Облеченный властью человек может использовать свою власть, чтобы зарабатывать деньги, идя навстречу пожеланиям частных компаний. То, что такие технологические гиганты, как Facebook и Google, обладают огромной властью, вряд ли является новостью. Однако анализ взаимосвязи между конфиденциальностью и властью может помочь нам лучше понять, как общественные институты накапливают, используют и трансформируют власть в цифровую эпоху, что, в свою очередь, может дать нам инструменты и идеи для более успешного сопротивления господству, которое усугубляется нарушениями права на неприкосновенность частной жизни. Чтобы полностью понять, как общественные институты накапливают и используют власть в цифровую эпоху, мы сначала должны взглянуть на отношения между властью и знаниями.

Власть и знания

Между властью и знаниями существует тесная связь. Как минимум, знания – инструмент власти. Мишель Фуко пошел еще дальше и заявил, что знания сами по себе являются формой власти[135]. В знании есть власть, а у власти – знания. Власть создает знания и решает, что считать знаниями. Защищая нашу конфиденциальность, мы предотвращаем возможность получения другими людьми знаний о нас, которые могут быть использованы против нас. Обладая большей властью, мы имеем больше прав в решении вопроса о том, что считать знаниями.

Чем больше кто-то знает о нас, тем больше он может предсказывать каждый наш шаг и влиять на нас. Один из многих важных вкладов М. Фуко в наше понимание власти – это осознание того, что власть не только действует на человека, но и создает человека как субъекта[136]. Власть порождает определенный менталитет, она меняет восприятие, привносит способы существования в мире. В этом же аспекте Стивен Люкс утверждает, что власть может создать систему, порождающую в людях желания, которые работают против их интересов[137]. Желания людей могут быть спровоцированы властью, а чем менее заметны инструменты власти, тем они мощнее.

Примером того, как власть формирует предпочтения, может служить ситуация, когда технологические компании используют исследования о том, как работает дофамин, чтобы вызвать у вас зависимость от приложения. Дофамин – это нейрогормон, который побуждает вас к действию, предвкушая, как вы будете чувствовать себя после исполнения ваших желаний. Технологические компании используют такие методы, как создание нерегулярных по времени призов (вот что делает игровые автоматы настолько притягательными) и яркие цвета, чтобы заставить вас как можно больше взаимодействовать с их платформой. Лайки и комментарии к размещенным вами постам дают вам немного дофамина[138]. Наше желание работать с надежным приложением не вытекает из наших глубочайших обязательств и ценностей. Вы ведь не просыпаетесь с мыслью: «Сегодня я хочу бессмысленно провести три часа, прокручивая бесконечную ленту новостей Facebook». Ваше желание – продукт господства технологических компаний. И в этом смысле оно не совсем ваше. Другой пример – организаторы политических кампаний, исследующие наши убеждения, аффективные и когнитивные наклонности, чтобы показать нам рекламу, которая подтолкнет нас к тому, чтобы действовать так, как они хотят.

Власть, проистекающая из знаний, и знания, которые дает власть, могут быть тем более порабощающими, когда существует асимметрия знаний между двумя сторонами. Если, скажем, я знаю все, что нужно знать, о вас, а вы обо мне ничего не знаете, то я буду иметь над вами больше власти, чем в том случае, если бы обе стороны были осведомлены друг о друге в равной степени. Асимметрия становится еще глубже, если я знаю о вас все, а вы думаете, что я ничего не знаю, или не знаете, как много я знаю. Это делает вас вдвойне неосведомленным.

Власть, возникающая в результате обладания чьей-то персональной информацией, – это совершенно особенный вид власти, который дает осведомленной стороне возможность трансформировать ее в экономическую, политическую и другие виды власти. Возможность прогнозировать и оказывать влияние, полученная благодаря доступу к персональным данным, является квинтэссенцией власти в цифровую эпоху.

Власть в цифровую эпоху

Бо´льшая часть власти, присущей цифровой эпохе, проистекает из знаний, полученных благодаря нашим персональным данным. Государства знают о своих гражданах больше, чем когда-либо прежде. Штази, например, удалось собрать данные примерно о трети населения Восточной Германии, хотя целью было собрать полную информацию обо всех гражданах[139]. Сегодня спецслужбы обладают гораздо бóльшим объемом информации обо всем населении. Прежде всего, значительная часть людей добровольно предоставляет персональную информацию в социальных сетях. По словам режиссера Лоры Пойтрас, «Facebook – это подарок спецслужбам»[140]. Среди прочего подобного рода информация дает правительству возможность предвидеть протесты и заблаговременно арестовывать зачинщиков[141]. Узнавать об организованной акции до того, как она произойдет, и иметь возможность вовремя ее подавить – предел мечтаний любой тирании.

Власть технологических компаний определяется, с одной стороны, исключительным контролем над нашими данными, а с другой – способностью предвидеть каждый наш шаг, что, в свою очередь, дает им возможность влиять на наше поведение и продавать это влияние другим, включая государство.

Компании, получающие бо´льшую часть своих доходов от рекламы, используют наши данные в качестве своеобразного непреодолимого препятствия – конкурентного преимущества, которое не позволяет альтернативным компаниям бросить вызов технологическим гигантам[142]. Например, поисковая система Google так хороша отчасти потому, что ее алгоритм имеет гораздо больше данных для обучения, чем любой из ее конкурентов. Помимо того, что такое количество данных защищает Google от конкурентов и позволяет ей лучше обучать, оно помогает Google узнавать, что не дает вам спать по ночам, чего вы больше всего хотите, что планируете делать дальше, с чем еще не определились. Эту информацию Google затем передает другим фирмам, которые хотят настроить таргетинг своей рекламы на вас.

Стервятники данных весьма ловко используют оба аспекта власти, о которых говорилось выше: они заставляют нас более или менее добровольно передавать свои данные, а также крадут их у нас, даже когда мы пытаемся сопротивляться.

Жесткая сила технологий

Когда наши данные собирают, даже если мы пытаемся сопротивляться, это значит, что мы столкнулись с жесткой хваткой технологических компаний. Например, Google хранит информацию о нашем местоположении, даже когда мы запретили передавать эти данные. Исследование, проведенное в 2018 году Associated Press, выявило, что Google хранит данные о местоположении, даже когда люди отключают геолокацию. При этом в настройках Google сообщается: «Вы можете отключить геолокацию в любое время. С геолокацией отключается история ваших перемещений, данные о вашем местоположении больше не сохраняются». Это неправда. Например, в Google Maps автоматически сохраняется широта и долгота вашего местоположения в момент открытия приложения, даже если у вас была отключена геолокация. Точно так же некоторые поисковые запросы, не связанные с тем, где вы находитесь, например, «печенье с шоколадной крошкой», сохраняют ваше местоположение в учетной записи Google. Чтобы отключить маркеры местоположения, вам придется отключить непонятную настройку, в которой не упоминается слово «местоположение», однако значится «активность в интернете и в приложениях». Эта настройка включена по умолчанию, благодаря ей информация из приложений Google и веб-сайтов сохранялась в вашей учетной записи[143].

Жесткую силу технологий иногда можно спутать с мягкой, потому что она не выглядит так агрессивно, как другие формы жесткой силы, такие как танки и открытое насилие. Однако когда люди делают с вами то, на что вы, очевидно, не соглашались, – это жесткая сила. Это насилие и нарушение наших прав. Хотя технологическим компаниям всегда была присуща жесткая сила и они собирали наши данные, не спрашивая разрешения, их методы становятся все менее скрытыми. Яркий тому пример – Китай. В течение многих лет правительство Китая разрабатывало и совершенствовало систему социального рейтинга при содействии технологических компаний. Эта система основана на идее кредитоспособности и внедряет ее во все сферы жизни с помощью сбора огромных массивов данных. Каждая часть данных о каждом гражданине используется для оценки этого человека по шкале надежности. «Хорошие» действия добавляют баллов человеку, а из-за «плохих» он их теряет. Власть имущие решают, что считать «хорошим». Покупка подгузников приносит баллы. А увлечение видеоиграми, покупка алкоголя и распространение фейковых новостей отнимает баллы.

Одной из отличительных черт тоталитарных обществ является то, что власть контролирует все стороны жизни – именно в этом смысле власть тотальна. При либеральной демократии (в лучшем ее проявлении) вас не наказывают во всех сферах жизни за мелкий проступок, совершенный в какой-то одной сфере. Например, ваши соседи могут возненавидеть вас за громкую музыку, которую вы регулярно слушаете, они даже могут вызвать полицию, но это никак не повлияет на вашу работу или кредитную историю (если только сосед не является вашим боссом или банковским служащим). В Китае же громкая музыка или переход улицы в неположенном месте приведет к потере баллов в рейтинге, который используется для предоставления и ограничения возможностей во всех сферах жизни. Граждан с высоким рейтингом иногда публично хвалят, они пользуются разного рода привилегиями: более короткими сроками ожидания при решении каких-либо вопросов, скидками на товары и услуги, такие как проживание в гостиничных номерах, коммунальные платежи и банковские кредиты. Они могут арендовать машину без внесения залога и даже получать больше просмотров на сайтах знакомств. Граждане с низким рейтингом могут быть публично пристыжены. Они будут испытывать значительные сложности при трудоустройстве, получении кредита или покупке недвижимости. Их могут внести в черный список для предоставления таких услуг, как эксклюзивные отели и даже путешествия самолетом или поездом.

Согласно основополагающему документу системы, такой подход должен «позволять надежным людям свободно перемещаться по миру и делать затруднительным каждый шаг для дискредитированных лиц»[144]. К концу июня 2019 года Китай запретил почти 27 миллионам человек покупать авиабилеты и почти 6 миллионам было отказано в поездках на высокоскоростных поездах[145]. Во время пандемии коронавируса слежка в Китае зашла настолько далеко, что стало возможным устанавливать видеокамеры в домах людей без их согласия или прямо рядом с входными дверями, чтобы убедиться, что они соблюдают правила карантина[146].

Когда западная публика критикует китайскую систему социальной дисциплины, обычно в ответ им пеняют на то, что у них тоже есть подобные системы, в которых люди зарабатывают баллы, просто западные системы социального рейтинга менее прозрачны. В такой аргументации есть доля правды. Обычно мы не полностью осведомлены о том, как рассчитывается наш кредитный рейтинг и как его можно использовать. Есть и другие виды оценок. Большинство людей не знает о том, что у вас как у потребителя есть секретный рейтинг, который определяет, как долго вы будете ждать на линии, когда позвоните в ту или иную компанию, сможете ли вы без проблем вернуть купленные товары в магазин. И мы не можем отказаться от рейтинга потребителя – его нам навязали.

Журналистка Кашмир Хилл запросила свой профиль у Sift – американской компании, которая оценивает потребителей банковских услуг. Профиль Хилл состоял из 400 страниц с датами заказов на доставку Yelp, сообщениями, которые она отправляла в Airbnb, подробностями об имеющихся у нее устройствах и другой информацией. Хотя Sift предоставила Кашмир ее личные данные по ее запросу, в компании не дали никаких объяснений того, как эти данные повлияли на создание ее потребительского рейтинга. Они также не сказали ей, какое влияние этот рейтинг может оказывать на ее жизнь[147]. Тайные и непрозрачные системы подсчета баллов недопустимы. Как граждане, мы имеем право знать правила нашей жизни.

Тем не менее нельзя отрицать, что на Западе в целом людям дается больше свободы и прозрачности, чем в Китае, несмотря на все недостатки в деятельности нашего правительства (которые мы в силах исправить, если будем бороться). Пусть наши и чужие недостатки послужат нам уроком, который поможет обуздать жесткую силу вокруг нас.

Еще один способ проявления жесткой силы технологий – это установление правил, по которым мы живем, и запрет на их нарушение. Но правила, которые раньше существовали в основном в письменной форме, сейчас все чаще встраиваются в код и устанавливаются автоматически. Вместо того чтобы свободно ездить с превышением скорости и рисковать нарваться на штраф, если вас поймают, у вашего будущего автомобиля может просто быть ограничен скоростной режим[148].

В свободном обществе всегда есть некоторая разница между тем, как законы выглядят на бумаге, и тем, как они применяются. Людям разрешено время от времени совершать мелкие правонарушения, потому что в хорошо функционирующем обществе большинство людей готовы следовать установленным правилам[149]. Если есть некоторая свобода действий, появляется место для исключений, которые сложно поместить в рамки правил. Например, превышение скорости из-за того, что вы экстренно везете кого-то в больницу. Жизнь под пятóй жесткой силы технологий, когда даже самое ничтожное правило, установленное государством или частной организацией, встроено в программный код, характеризовалась бы серьезным ограничением наших гражданских свобод.

Однако технологии используют не только жесткую силу, чтобы повлиять на нас. Они также гениально применяют к нам мягкую силу.

Мягкая сила технологий

В некотором смысле мягкая сила более приемлема, чем жесткая, потому что она менее ощутима. Она кажется не такой навязчивой. Но мягкая сила может быть не менее эффективной, чем жесткая, позволяя власть имущим получить то, что они хотят. Кроме того, мягкая сила часто бывает манипулятивной – она заставляет нас делать что-то для других под предлогом того, что это нужно для нашей собственной выгоды. Она настраивает нашу волю, направляя ее против нас самих. Под влиянием мягкой силы мы начинаем вести себя в ущерб нашим собственным интересам.

Манипулятивная мягкая сила делает нас соучастниками принесения нас же в жертву. Вы своим собственным пальцем прокручиваете ленту новостей, теряя свое драгоценное время и зарабатывая головную боль. Но, безусловно, вы не будете так привязаны к бесконечной прокрутке ленты, если такие платформы, как Facebook, не будут пытаться убедить вас, что если вы не будете дальше прокручивать, то пропустите что-нибудь интересное. Когда вы пытаетесь устоять перед соблазном технологий, то сражаетесь с целой армией технарей, пытающихся привлечь ваше внимание в ущерб вашим интересам.

Еще одним примером мягкой силы являются карты лояльности. Когда вам вручают карту лояльности в местном супермаркете, все, что вы приобретаете, – это шанс позволить данной компании следить за вами, а затем влиять на ваше поведение, подталкивая вас (скидками) к покупке определенных видов товаров, которые в противном случае вы бы не купили. Более тонкая форма мягкой силы – это соблазнение. Технологии постоянно соблазняют вас делать то, что вы не планировали. Например, застревать в просмотрах видео на YouTube, играть в бессмысленные игры или сотни раз за день проверять свой телефон. Благодаря соблазнительным «пряникам» цифровая эпоха способствовала появлению новых способов существования в мире, которые не всегда делают нашу жизнь лучше.

Помимо технических способов реализации мягкой силы посредством дизайна, бóльшая часть силы технологических компаний заключается в легендах, которые создаются, чтобы заполучить наши данные. Экономике данных удалось стандартизировать определенные способы мышления. Технологические компании хотят, чтобы вы поверили: нет ничего плохого в том, что вы передаете им свои данные.

В одном интервью в ответ на вопрос, должны ли пользователи делиться информацией с Google как с «закадычным другом», занимавший в тот момент пост генерального директора компании Эрик Шмидт заявил: «Если у вас есть что-то, о чем вы не хотите, чтобы кто-то узнал, возможно, вам вообще не следует этого делать»[150]. (Мало кто знает, что он однажды попросил Google стереть некоторую информацию о нем из базы данных и запрос был отклонен[151]. Вы заметили, что технари хотят конфиденциальности для себя, но не для других?) Шмидт пытался пристыдить людей, которые разумно беспокоятся о конфиденциальности. Он подразумевал, что если вы беспокоитесь о конфиденциальности, то вам есть что скрывать, а если вам есть что скрывать, то вы совершили что-то плохое, что не должно оставаться в тайне. Но конфиденциальность – это не про сокрытие серьезных правонарушений[152]. Речь идет о защите себя от возможных правонарушений со стороны других людей – например, преступников, намеревающихся украсть наши деньги. Речь идет о том, чтобы лишить власть «всевидящего ока», чтобы она не могла использовать знания о нас для дальнейшего увеличения своего могущества. Компании также хотят, чтобы вы относились к своим данным как к товару, необходимому для развития цифровых технологий. А за цифровыми технологиями стоит прогресс, даже если иногда он выглядит пугающе и похож скорее на социальный и политический регресс[153]. Что еще более важно, технологические компании хотят, чтобы мы думали, что инновации, которые они поставляют на рынок, неизбежны[154].

Так выглядит прогресс, и этот прогресс не остановить.

Россказни о прогрессивных и неизбежных технологиях очень самонадеянны, они вводят в заблуждение. Власть определяет знания, сочиняет легенды и рационализирует свои действия, чтобы заручиться нашей поддержкой[155]. Технологические компании кормят нас историями о том, как они незаменимы и как хороши. Но некоторые технологии, разработанные в последние десятилетия, не были ни в малейшей степени прогрессивными – они способствовали увековечению сексистских и расистских тенденций.

Когда Google Translate переводит новости с испанского на английский, «она» часто трансформируется в «он». Встроенные алгоритмы перевода очевидно перекликаются с сексистскими аналогиями: если «врач», то «мужчина», если «медсестра», то «женщина», «программист» – «мужчина», «домохозяйка» – «женщина»[156]. Алгоритмы визуализации обозначают свадьбу белой женщины маркерами «невеста», «женщина» и «свадьба», а свадьбу женщины из Северной Индии – как «перформанс» и «костюм». Всемирный банк выказал опасения по поводу того, что работа компаний Кремниевой долины усугубляет неравенство доходов[157]. Подобные тенденции явно не сочетаются с прогрессом. Технологические изменения, ведущие к социальному и политическому регрессу, – это не то развитие, к которому мы должны стремиться или поощрять. Не всякие технологические инновации ведут к прогрессу.

Более того, технологии – это не то, что нам неукоснительно предопределено. Например, в истории, природе или национальной культуре не было ничего, что делало бы изобретение двигателя внутреннего сгорания неизбежностью. Если бы не были обнаружены огромные запасы нефти в США и Генри Форд не выпустил дешевую модель T, электромобили могли бы стать намного популярнее, чем автомобили, работающие на бензине[158]. И хотя люди говорят, что лет через десять у нас появятся летающие машины, далеко не факт, что так и произойдет. Будет ли разрабатываться и внедряться та или иная технологическая новинка, зависит от множества факторов, связанных с затратами на разработку, достижимостью поставленных целей и предпочтениями людей. История полна примеров незавершенных технологических разработок.

Помните Google Glass? В 2013 году Google начала продавать прототип очков с встроенными мини-компьютером и видеокамерой. Разработка поступила в массовую продажу в мае 2014 года. Это был один из тех продуктов, вокруг которых создается много шума. Журнал Time назвал эти очки одним из «лучших изобретений года». Знаменитости стали появляться в них на публике. В The New Yorker была опубликована большая статья по этому поводу. Даже «Симпсоны» устроили шоу с Google Glass – хоть Гомер и называл их Oogle Goggles. Несмотря на большой ажиотаж, к январю 2015 года товар был снят с продажи[159]. Но, вместо того чтобы признать поражение, Google заявила, что Glass «покидает» одно из ее подразделений и переходит в другое.

Оглушительный провал Google Glass произошел как минимум по двум причинам. Во-первых, сами очки были некрасивыми. Во-вторых, что более важно, они вызывали негативную реакцию. Людям в таких очках запрещали посещать бары, кинотеатры, казино и другие места, где подобная видеофиксация была нежелательна для окружающих[160]. Те немногие, кто решался их надевать, вынуждены были терпеть насмешки и неприятные высказывания, что очевидно указывало на то, как негативно люди их воспринимали.

Google Glass не имели успеха, потому что их возненавидели. Но Google проявила настойчивость. В 2017 году проект был реанимирован – на этот раз они сделали упор на промышленность, где очки могли использоваться для производственных нужд. Будет совсем неудивительно, если в какой-то момент Google снова попытается начать продавать свои очки широкой публике. С 2013 года Google и другие подобные компании последовательно и сознательно сводили на нет нашу конфиденциальность, несмотря на наши попытки сопротивляться вторжению в частную жизнь. Но мы должны помнить, что успех внедрения технологий, как и других видов социальной практики, зависит от сотрудничества с нами. Мы являемся главным источником власти для технологических компаний.

Технологическое развитие – это не природное явление, как, например, гравитация или эволюция. Технологии не создаются сами по себе, именно мы их создаем[161].

Продукт Google Glass не сможет занять рынок сам по себе. Это не происходит случайно, как мутации[162]. Именно мы решаем, соответствуют ли технологии нашим ценностям и приумножают ли наше благополучие. Технический прогресс неизбежен, потому что некоторые виды технологических изменений действительно должны происходить, но никакая конкретная технология не является неизбежной, и изменение не всегда означает прогресс. Даже после того, как технология изобретена, мы можем выбирать, как ее использовать и регулировать.

Более правдивым утверждением по сравнению с тем, которому отдают предпочтение технологические компании, является то, что технологические разработки, негативные последствия которых перевешивают их положительное влияние, можно и нужно останавливать. Если конкретизировать это в плане нашей заботы о защите конфиденциальности, то, отбросив все сказки, которые мы привыкли слышать от технологических компаний, нам нужно признать тот факт, что обращение с данными как с товаром – это лишь способ для компаний зарабатывать деньги, не имеющий ничего общего с созданием полезных продуктов. Посредством накопления данных организации приумножают свою власть. Технологическим компаниям следовало бы проектировать интернет-пространство таким образом, чтобы это работало на благополучие людей, и у нас есть много причин противостоять организациям, собирающим и использующим наши данные, как они привыкли, даже если мы не сделали ничего плохого. Среди этих причин – отсутствие уважения институтами нашей самостоятельности, нашего права на самоуправление, как отдельных людей, так и обществ[163]. Здесь проявляется более жесткая сторона власти. Цифровая эпоха до сих пор характеризовалась тем, что учреждения делают с нашими данными все, что хотят, бессовестно обходя наше согласие, когда им кажется, что это может сойти им с рук. В реальном мире такое поведение называлось бы воровством и принуждением. В виртуальном же мире это вполне допустимо, что является еще одним свидетельством концептуального господства технологических компаний.

Если бы почтовые работники читали и копировали наши письма так, как это делают с нашими электронными сообщениями в Gmail и других приложениях, они сели бы в тюрьму. Отслеживание местоположения, которое когда-то использовалось только для контроля над осужденными, теперь стало нормой в смартфонах, которые все носят с собой[164]. Отчасти технологические компании безнаказанно внедряют свои сомнительные практики потому, что они смогли изобрести благозвучные объяснения того, что они делают. Они используют наши данные, отвлекают наше внимание и нарушают наши права, но обставляют это так, будто они делают все это ради нашего же блага и совершенствуют «пользовательский опыт».

«Персонализация» звучит как VIP-обслуживание до тех пор, пока вы не поймете, что это термин, используемый для описания методов, нацеленных на то, чтобы спутать ваш образ мыслей.

Вместо того чтобы называть вещи своими именами, технологические компании кормят нас эвфемизмами о наших цифровых реалиях[165]. Как выразился Джордж Оруэлл, политический язык (а технологический язык является политическим) «нужен для того, чтобы ложь звучала правдиво, чтобы убийство выглядело респектабельным и чтобы полная ерунда выглядела солидно»[166]. Частные рекламные сайты и сети наблюдения называются сообществами, граждане – это пользователи, зависимость от компьютера обозначается как вовлеченность, наша самая конфиденциальная информация – основные данные, шпионское программное обеспечение – cookie, документы, которые отнимают у нас конфиденциальность, выпускаются под заголовком «Политика конфиденциальности», а то, что раньше считалось прослушиванием телефонных разговоров, стало основой цифровой экономики.

Технологии зашли так далеко в привлечении нашего внимания, что даже позаимствовали язык природы[167]. Раньше мы могли вкусить сладость яблока, послушать щебетание птиц на рассвете, окунуть ноги в прохладную воду реки, наблюдать за парящими в небе облаками. Теперь эти слова в основном используются для описания вещей, которые представляют полную противоположность живой природе.

Задача мыслителей и писателей – бросить вызов этой бессмысленной символике и вернуть прозрачный язык. Начать называть вещи своими именами – это первый шаг к пониманию наших реалий и улучшению нашего мира.

Мы должны создать собственную концепцию и использовать слова, которые технологические компании пытаются смягчать или избегают употреблять. Давайте поговорим о том, о чем технологические компании не хотели бы, чтобы мы говорили. Например, о том, как недобросовестные корпорации обращаются с нами не как с гражданами, а как с пешками в игре, в которую мы не соглашались играть. Технологии используют нас гораздо больше, чем мы используем их.

Просто пешки

Мы пешки в игре, которую ведут на своих экранах аналитики данных. Иногда это называют «искусственным обществом». Аналитики данных собирают о нас всю возможную информацию: привязки к социальным сетям и электронной почте, протоколы голосования, истории покупок, марку и модель автомобиля, сведения об ипотеке, историю просмотров, медицинские заключения и многое другое. Они используют эти данные для разработки моделей воздействия на наше поведение. И это касается именно вас. Даже если речь идет об обычном человеке. Наше общество состоит из обычных людей, и в информации об этих людях очень заинтересованы организации, которые охотятся за персональными данными. Мой друг как-то признался мне, что, когда он учился на аналитика данных, перед ним поставили задачу выбрать случайного человека на другом конце света и получить о нем максимальное количество информации. Его выбор пал на какого-то парня из Вирджинии, который, как выяснилось, болел диабетом и недавно завел роман. Этот случайный парень даже не подозревал, что он был предметом исследования аналитика данных. Прямо сейчас, когда вы читаете эти слова, вас тоже может изучать какой-нибудь аналитик.

В некотором смысле у каждого из нас есть бесчисленные клоны данных, хранящиеся в компьютерных базах аналитиков, которые экспериментируют с нами с разной степенью персонализации. Аналитики данных колдуют над нашими виртуальными профилями, как над куклами вуду. Они проводят свои эксперименты и смотрят, что из этого получится. Они хотят узнать, что заставляет нас ставить метки, переходить по ссылкам, покупать, подшучивать, голосовать. Узнав, как можно успешно манипулировать нашими цифровыми клонами, словно марионетками, они пробуют свои уловки на людях из плоти и крови. Вот так наши виртуальные зомби возвращаются, чтобы преследовать нас.

Технологические компании, возомнившие себя богами, стремятся знать все о каждом человеке в обществе, чтобы создать макет этого общества. Если вы хорошо знаете личностные особенности людей, вы можете создавать их зомбированные копии в интернете и проводить над ними различные эксперименты. Имея перед собой макет общества, несложно понять, какое политическое послание найдет отклик в людях. Можно предвидеть, какие последствия вызовет то или иное послание, еще до того, как оно будет отправлено. Манипулируя информацией, можно влиять на выборы, провоцировать мятежи, разжигать геноцид, настраивать людей друг против друга, искажая их реальность до такой степени, что они уже не смогут определить, где правда.

Именно так делала компания Cambridge Analytica, чтобы помочь политической кампании. Сначала специалисты по данным разработали приложение под названием «Это ваша цифровая жизнь», и 270 000 пользователей Facebook его скачали.

Компания платила каждому человеку 1–2 доллара за заполнение психометрического опроса, который помог аналитикам данных выяснить типы личности подписчиков. Затем приложение выгружало все данные пользователей Facebook, чтобы найти корреляцию между, например, чертами характера и лайками. Facebook – привлекательный объект для социальных исследований, потому что когда люди прокручивают ленту, ставят лайки и комментируют, они не подозревают, до какой степени находятся под наблюдением, поэтому ведут себя вполне естественно. Аналитики данных, наблюдающие за нашими действиями (хотя нам самим не мешало бы следить за собой), чувствуют себя антропологами – за исключением того, что аналитики данных могут количественно оценить любую мелочь[168].

Ужасно, но приложение Cambridge Analytica загружало данные не только об участниках исследования, но и об их друзьях в Facebook без ведома или согласия последних[169]. Хотя у аналитиков данных не было личностных характеристик этих ни о чем не подозревавших людей (потому что те не проходили психометрический опрос), они могли использовать анализ «лайков» в Facebook, чтобы попытаться их охарактеризовать, основываясь на исследованиях, проведенных над теми, кто прошел указанный выше опрос.

Короче говоря, Cambridge Analytica одурачила 270 000 человек, вынудив их подставить своих друзей – и заодно демократию по всему миру – всего за один доллар. Хотя участники акции охотно прошли опрос, большинство из них, вероятно, не прочитали все условия и положения, которые, впрочем, и не включали в себя предупреждение, что эти данные будут использоваться для того, чтобы попытаться повлиять на результаты выборов. Используя информацию об участниках исследования и их друзьях, компания получила данные примерно 87 миллионов пользователей Facebook. Они также получили дополнительную информацию из данных переписи населения и брокеров данных. Обладая всей этой информацией, Cambridge Analytica создала инструмент психологической войны, чтобы влиять на мировую политику, и это стало хрестоматийной иллюстрацией того, что знание – это власть.

Cambridge Analytica глубоко погрузилась в жизнь и умы людей. Персональные данные, которые они присвоили, были в наивысшей степени конфиденциальными. Они включали, например, личные сообщения. И то, что аналитики данных сделали с этой информацией, выходило за рамки конфиденциальности. «Данные миллионов людей» звучит безлико и абстрактно. Но каждый из этих миллионов – такой же настоящий человек, как и вы. Ваши данные тоже могут быть включены в эти миллионы.

Крис Уайли – консультант по данным, работавший в компании Cambridge Analytica до того, как он стал ее разоблачителем. В своей книге «Промывание мозгов» (в оригинале даже грубее. – Прим. ред.) он описывает принцип работы компании, продемонстрированный Стиву Бэннону, который позже стал исполнительным директором предвыборной кампании Дональда Трампа[170]. Аналитик данных попросил Бэннона назвать ему любое имя и штат в Соединенных Штатах. После этого он сделал запрос и через короткое время жизнь названного человека отобразилась на экране компьютера. Если бы назвали ваше имя (а может быть, и назвали), эта группа аналитиков данных рассматривала бы и вашу жизнь под микроскопом: как вы выглядите, где живете, кто ваши самые близкие друзья, где вы работаете, на какой машине ездите, за какого кандидата вы голосовали на прошлых выборах, есть ли у вас ипотека, имеются ли проблемы со здоровьем, любите ли вы свою работу, интересуетесь ли вы политикой и размышляете ли вы о расставании с партнером.

Просто чтобы убедиться, что они всё делают правильно, аналитики данных позвонили человеку, профиль которого изучают. Представившись исследователями из Кембриджского университета, которые проводят опрос, они спрашивают свою жертву об именах, взглядах и образе жизни. Телефонные звонки подтвердили то, что им и так уже известно: они разработали инструмент, который позволяет проникнуть в голову практически любому человеку в мире. Они взломали политическую систему. Они нашли способ собирать и анализировать так много конфиденциальных данных, что обрели возможность проводить узко таргетированные политические кампании в истории, последствия которых могут быть катастрофическими. Когда аналитики данных Cambridge Analytica получили всю информацию о вас, которую они только могли найти, первым шагом было отнесение вас к определенному типу личности. Они будут оценивать вас в соответствии с чертами личности по модели «Большой пятерки»: насколько вы открыты для нового опыта, предпочитаете ли вы планирование спонтанности, экстраверт вы или интроверт, насколько вы ориентированы на общество и насколько вы склонны испытывать негативные эмоции, такие как гнев и страх.

Вторым шагом будет применение разработанных ими алгоритмов прогнозирования к вашему профилю и определение по шкале от 0 до 100 процентов, какова, например, вероятность того, что вы будете голосовать или участвовать в решении определенного политического вопроса.

Третий шаг заключается в том, чтобы выяснить, где вы подолгу зависаете, чтобы они могли к вам подобраться. Вы много смотрите телевизор? А как насчет YouTube? Есть ли социальная сеть, в которой вы проводите много времени? Затем Cambridge Analytica покажет вам контент, разработанный специально для таких людей, как вы, и посмотрит, подействует ли он на вас. Как вы отреагируете на предложенный ими контент? Если реакции не последует, они подкорректируют его и попробуют еще раз[171].

Аналитики данных в Cambridge Analytica изучали также уровень удовлетворенности жизнью у людей. Используя хакерские методики, они искали в нашем сознании наиболее уязвимые места. Они определяли тех, кто наиболее подвержен влиянию, например людей, которые с подозрением относятся к другим. Они выбирали людей, которые проявляют так называемые черты «темной триады» – нарциссизм, макиавеллизм (безжалостный эгоизм) и психопатию, – и старались вызвать их гнев, используя троллинг.

Они показывали людям блоги, в которых высмеивали похожих на них людей, чтобы заставить их почувствовать нападки на себя. Они создавали фальшивые страницы в социальных сетях и доходили до того, что реально организовали совместные мероприятия, которые сотрудники Cambridge Analytica посещали инкогнито[172].

Существуют по меньшей мере два фактора, которые делают виртуальные операции Cambridge Analytica особенно опасными. Во-первых, они показывали разным людям совершенно разный контент, тем самым разобщая их опыт. Контент, который обсуждали и анализировали в СМИ, отличался от того, что избиратели видели в интернете. Люди, которые испытали на себе эти инструменты воздействия, не могли участвовать в рациональном обсуждении конкретного кандидата, потому что у них были разрозненные сведения о нем. Два человека просто не смогли бы спокойно обсуждать достоинства и недостатки такого кандидата, как Хиллари Клинтон, если бы один из них думал, что Клинтон имеет отношение к тайной организации педофилов, связанной с одной известной пиццерией в Вашингтоне.

Второй фактор опасности компании Cambridge Analytica заключается в том, что их предвыборные кампании были не похожи на обычные кампании. Они не выглядели как тщательно продуманная пропаганда. Иногда они были оформлены как новостные материалы. В других случаях они выглядели как контент, созданный обычными пользователями. Никто и не догадывался, что, казалось бы, стихийные общественные движения на самом деле были политическими кампаниями, тщательно спланированными онлайн-наемниками, а не людьми, которых втягивали в это искусственно созданное противостояние.

В ходе шокирующего расследования, проделанного журналистами канала Channel 4, выяснилось, что Марк Тернбулл, который в то время занимал должность управляющего директора Cambridge Analytica, однажды заявил: «Мы просто помещаем информацию в кровоток интернета… а затем наблюдаем, как она распространяется, время от времени слегка направляя ее в нужное русло… словно пульт дистанционного управления. Это должно происходить так, чтобы никто не догадался, что это пропаганда, потому что в противном случае… возникнет вопрос, кто за этим стоит»[173].

Инструментарий Cambridge Analytica в области психологической и информационной войны был обширен и не имел моральных ограничений. Он включал в себя целевые фейковые новости, разжигание страха (вплоть до показа чрезвычайно кровавых кадров реальных пыток и убийств), выдачу себя за другое лицо, и, если верить словам Александра Никса (генерального директора) и Марка Тернбулла из репортажа на канале Channel 4, они также не гнушались взятками, провокациями с использованием секс-работников и многими другими вещами. Именно Cambridge Analytica помогла Трампу победить в выборах на пост президента США, а движению Leave – продавить свою позицию на референдуме по выходу Великобритании из Европейского союза. Я надеюсь, что однажды наши потомки прочитают об этом позорном эпизоде в истории и им трудно будет в это поверить. Пусть последующие поколения будут чувствовать себя в безопасности, зная, что основы их демократии достаточно устойчивы и должным образом регулируются, чтобы никто никогда не мог проводить над ними подобные эксперименты и оставаться безнаказанным.

Хотя Cambridge Analytica уже прекратила свое существование, многие из ее создателей основали новые компании, которые тоже работают с данными[174]. Cambridge Analytica – лишь один из примеров того, что может сделать любой человек, который обладает навыками работы с данными. Существует множество организаций, работающих с данными, которые занимаются политическими кампаниями. Несмотря на то что Cambridge Analytica больше нет, наша демократия все еще находится в опасности.

Власть Cambridge Analytica проистекала из обладания нашими данными. Возможности других злоумышленников также частично основаны на них. Власть технологических гигантов зиждется на наших данных: из той забавной анкеты, которую мы заполнили в интернете, чтобы узнать, на какого мультяшного персонажа мы больше всего похожи, из того хитроумного приложения, что мы скачали, которое запрашивало у нас доступ к нашим контактам, с тех карт лояльности, которые мы храним в своем кошельке.

Аналитики данных играют с нашей жизнью, как если бы они были маленькими богами, хватаясь за все, что видят, как за свое. Они быстро продвигаются в своей деятельности и разрушают наши жизни, нашу способность сосредотачиваться на чем-то одном, нашу демократию. Пока у них есть доступ к нашим данным, мы будем их марионетками. Единственный способ вернуть себе контроль над нашей самостоятельностью и способность к самоуправлению – это обеспечить себе конфиденциальность.

Конфиденциальность, самостоятельность и свобода

Самостоятельность – это способность и право управлять собой. Как взрослый человек вы способны самостоятельно определять ваши ценности – что для вас значимо, какой образ жизни вы хотите вести – и действовать в соответствии с этими ценностями[175]. Когда вы можете самостоятельно принимать решения, все зависит только от вас. Самостоятельные решения выражают ваши глубочайшие убеждения, выбор, сделанный вами после размышлений.

Люди заинтересованы в том, чтобы другие уважали их самостоятельность. Мы хотим, чтобы другие признавали и уважали наше право жить так, как мы считаем нужным. В условиях либеральной демократии, за очень редким исключением, никто, даже правительство, не может указывать вам, что думать, что говорить, чем зарабатывать, с кем общаться или как проводить время. Вы сами это решаете, как и многое другое. Если у вас нет самостоятельности, то у вас нет свободы, потому что вашу жизнь контролируют другие. Самостоятельность – это власть над собственной жизнью.

Самостоятельность настолько важна для индивидуального и общественного благополучия, что любое вмешательство в эту сферу должно иметь очень веские основания – например, недопущение причинения вреда другим. Ограничение самостоятельности людей с целью увеличения прибылей не имеет оправдания.

Конфиденциальность и самостоятельность тесно переплетаются. Потеря конфиденциальности позволяет другим вмешиваться в вашу жизнь. Постоянное наблюдение мешает душевному спокойствию, необходимому для принятия самостоятельных решений. Когда легенда балета Рудольф Нуриев решил бежать из Советского Союза во время гастролей во Франции в 1961 году, он был обязан по французскому законодательству провести не менее пяти минут в комнате в одиночестве, прежде чем подписать запрос на предоставление убежища, – таким образом он был защищен от советских чиновников, которые пытались помешать его выбору[176]. Нам нужно время и пространство, свободное от внешнего давления, чтобы решить, чего мы хотим для себя, и мы должны быть вольны исполнять свои желания. Вспомните, как устроены кабины для голосования. Они организованы таким образом, чтобы мы были защищены от внешнего давления: если никто не видит, за кого мы голосуем, никто не сможет заставить нас проголосовать против нашего желания.

Когда люди знают, что за ними наблюдают и что их действия могут иметь негативные последствия, они склонны к самоцензуре.

Например, если вы опасаетесь искать в Сети значение некоего определенного термина из страха, что другие могут использовать эту информацию о вас, ваша самостоятельность и свобода ограничиваются. После того как Эдвард Сноуден обнародовал масштабы правительственной слежки, количество запросов в Википедии, связанных с терроризмом, резко упало почти на 30 процентов, что свидетельствует о существовании так называемого «сдерживающего эффекта» слежки[177].

Использование посторонними вашей персональной информации для манипулирования вашими желаниями – это тоже посягательство на вашу самостоятельность, особенно когда это происходит скрытно[178]. Если вы не понимаете, что контент, к которому вы получаете доступ в интернете, является скорее отражением того, кем вас считают производители рекламы или аналитики данных, а не отражением внешнего мира, вам будет сложнее действовать рационально и в соответствии с вашими собственными ценностями. Самостоятельность требует, чтобы вы были относительно хорошо осведомлены о среде, в которой живете.

Когда другие манипулируют вашими представлениями о мире и заставляют вас верить во что-то ложное, что влияет на то, как вы себя чувствуете и живете, они ущемляют вашу самостоятельность.

Технологии мало, а может, и вовсе не заботятся о нашей независимости. Технологические компании не интересует, чего мы хотим на самом деле. Они не производят продукты, которые помогают нам жить так, как мы хотим, или стать теми, кем мы хотим быть. Они производят продукты, помогающие им достигать своих целей, продукты, выжимающие из нас как можно больше персональной информации, которую можно использовать в их собственных интересах. Они создают приложения, «приковывающие» нас к экранам. Они заставляют нас подписывать пользовательские соглашения, где говорится, что у нас практически нет никаких прав по отношению к ним. Многие компании с радостью отняли бы у нас всю свободу. Такое пренебрежительное отношение к самостоятельности – это новый тип мягкого авторитаризма.

Не будет преувеличением утверждать, что Google хотела бы быть Богом. Во-первых, она хочет быть всеведущей. Она прилагает все усилия, чтобы собрать как можно больше данных, чтобы все знать. Во-вторых, она хочет быть вездесущей. Она хочет быть платформой, посредством которой мы общаемся с другими, смотрим интернет-контент, делаем поисковые запросы, ориентируемся в городе, получаем доступ к медицинским услугам и так далее, отчасти потому, что таким образом она может собирать больше данных. В-третьих, она хочет быть всемогущей. Она хотела бы иметь возможность брать все, что хочет (то есть наши данные), на своих условиях и преобразовывать мир в свою пользу. С этой целью Google тратит на лоббирование больше денег, чем любая другая американская компания[179].

Эрик Шмидт очень ясно дал понять, что Google хочет захватить контроль над нашей самостоятельностью: «Цель состоит в том, чтобы пользователи Google делали… такие поисковые запросы, как “Что мне делать завтра?” и “На какую работу мне устроиться?”»[180]. В 2010 году он пошел еще дальше: «Я на самом деле думаю, что большинство людей не хотят, чтобы Google отвечала на их вопросы. Они хотят, чтобы Google сказала им, что делать дальше»[181].

Google может сказать нам, что ее рекомендации основаны на наших интересах, потому что она так хорошо нас знает. Но помните: у таких компаний, как Google, есть конфликт интересов, потому что то, что лучше для вас и для общества, скорее всего, не будет способствовать развитию их бизнеса. Это несовпадение интересов и ужасающая история неправомерного поведения технологических компаний дают нам более чем достаточно причин не доверять им нашу самостоятельность. Даже если бы такие компании, как Google, были более надежными, ваша самостоятельность слишком важна, чтобы делегировать ее кому-либо.

Вы можете подумать, что вам не о чем беспокоиться, потому что вы вольны не следовать рекомендациям Google. Даже если Google Maps рекомендует идти одним путем, вы всегда можете проигнорировать это и выбрать другой маршрут. Однако не следует недооценивать влияние технологий на нас. Технологические компании не только разрабатывают продукты, но и формируют своих пользователей, влияя на их поведение. Как выразился Уинстон Черчилль, «мы придаем форму нашим зданиям, а затем наши здания формируют нас».

Одна из причин, по которой технологические компании так хорошо умеют предсказывать наше поведение, заключается в том, что они частично его формируют. Если компания контролирует значительную часть нашей жизни через наш смартфон и ноутбук и влияет на нашу жизнь, выбирая контент, к которому мы можем получить доступ, контролируя платформы, используемые нами для связи с другими людьми, совершения покупок или работы, то не так уж сложно предсказать, что мы будем делать дальше. В конце концов, она предоставляет возможности и подталкивает нас к действиям. Она создает для нас контролируемую среду, подобную «Шоу Трумана» (если вы не видели этот фильм, советую посмотреть).

Вас должно беспокоить то, что вашей самостоятельности угрожают технологии. Вы должны быть хозяином своей судьбы. И это касается всех людей в обществе. Даже если вы уже достигли полной самостоятельности, у вас есть причина желать, чтобы ее достигли и другие члены общества. Самостоятельность государства определяется самостоятельностью отдельных граждан – если последняя уменьшается, то же самое будет происходить и с первой. Чтобы демократия была демократией, ее народ должен быть хозяином своей судьбы.

Демократия, в которой люди не являются самостоятельными, – это фикция. Люди, чья самостоятельность слаба, легко поддаются влиянию, и то, как они голосуют, отражает не их глубочайшие убеждения, а скорее способность власть имущих манипулировать их восприятием и убеждениями.

Нам нужно, чтобы вы защищали свою конфиденциальность, чтобы мы могли восстановить нашу самостоятельность и свободу как общества. Даже если вас не сильно заботят ваши персональные данные, мы – ваша семья и друзья, ваши сограждане и собратья по миру – заинтересованы в том, чтобы вы берегли их, потому что конфиденциальность – это наше общее дело.

Конфиденциальность – дело коллективное

Ваша конфиденциальность важна не только для вас. То, что ваши данные являются персональными, заставляет думать, что, когда ими приходится делиться, это должно беспокоить только вас. Но это неверное понимание. Конфиденциальность является в той же мере коллективной, что и личной[182]. Чудовищный пример деятельности Cambridge Analytica доказывает, что когда вы передаете кому-то свои персональные данные, это создает угрозу для всех.

Конфиденциальность напоминает экологические и другие проблемы совместных действий. Как бы вы ни старались минимизировать свой собственный углеродный след, если другие не внесут свою лепту, вы тоже будете страдать от последствий глобального потепления. Мы все в одной лодке, и нам нужно достаточно людей, которые действуют согласованно, чтобы добиться желаемого.

Коллективный характер конфиденциальности имеет огромное значение для того, как мы воспринимаем так называемые персональные данные. Стало модным отстаивать точку зрения, согласно которой персональные данные следует рассматривать как собственность, мы должны позволить людям самим решать, хотят ли они продавать или обменивать свои персональные данные. Компании, которые позволяют вам стать собственным брокером данных, растут как грибы. Учитывая, что капиталистическое общество с большим уважением относится к частной собственности, интуитивно кажется, что отношение к персональным данным как к собственности предполагает уважение к ним как к частной жизни, но это не так.

Представим, что ваш друг (или, может быть, враг) преподнесет вам домашний набор для ДНК-тестирования в качестве подарка. Такие наборы продаются примерно по 100 фунтов стерлингов. Отправляя образец слюны по почте, вы передаете бóльшую часть прав, если не все, на свою генетическую информацию[183]. Это означает, что такие компании, как Ancestry, могут анализировать, продавать и передавать вашу генетическую информацию по своему усмотрению. Отсутствие генетической конфиденциальности может иметь негативные последствия для вас. При оформлении многих видов страхования вы обязаны сообщать о результатах генетического теста, и эти результаты могут способствовать тому, что вам откажут в такой страховке или повысят страховые взносы. Если вы не раскрываете результаты своего теста, а страховая компания их узнает (что весьма вероятно, учитывая, что большинство компаний, занимающихся тестированием ДНК, продают эти данные, чтобы заработать себе на жизнь), это может привести к прекращению действия вашего полиса[184].

Возможно, вы готовы пойти на этот риск ради себя. Может быть, вам интересно, есть ли у вас ген, который вынуждает вас чихать на солнце (такая информация включена в заключения, предоставляемые компанией 23andMe)[185], или, может быть, у вас есть более серьезные причины для того, чтобы узнать больше о своих генах. А как насчет вашей семьи? Ваши родители, братья, сестры и дети могут быть недовольны тем, что их лишили их генетической конфиденциальности[186]. Невозможно узнать, каким будет законодательство через два или три десятилетия, и невозможно предвидеть всю полноту информации, которую можно получить из наших генетических данных.

Ваши внуки могут в будущем подвергнуться дискриминации из-за информации, которая стала о них известна из вашего генетического теста, а они ведь не давали согласия на то, чтобы вы кому-то дарили или продавали их генетические данные.

Несмотря на то, что ваша ДНК делает вас тем, кто вы есть, вы разделяете бóльшую часть своей генетической структуры с другими людьми, включая очень дальних родственников. Доля генов, специфичных только для вас, составляет около 0,1 процента. Представьте, что печатная версия вашей генетической информации займет примерно 262 000 страниц, но только на 500 страницах будут содержаться ваши уникальные данные[187].

Поскольку сходства и различия между нашими генами позволяют делать разного рода выводы, невозможно заранее предсказать весь спектр областей, где можно использовать информацию о нашей ДНК. В лучшем случае информация о ДНК может помочь поймать опасного преступника. Так, в 2018 году в Калифорнии был пойман серийный убийца и насильник, известный как убийца из «Золотого штата». Полиция загрузила следы ДНК, обнаруженные на месте преступления, в GEDmatch – бесплатную онлайн-базу, которая включает в себя данные коммерческих испытаний. В ходе расследования были выявлены троюродные братья преступника, личности которых затем привели полицию к подозреваемому[188].

Может показаться, что это отличные новости. Ни один здравомыслящий человек не хочет, чтобы серийные убийцы разгуливали на свободе. Однако мы никогда не должны позволять технологиям выходить из-под контроля. Технологии можно применять по-разному, но нередко это происходит не самым лучшим образом. Базы генетических данных можно использовать для выявления политических диссидентов, разоблачителей и протестующих в авторитарных странах. Даже демократические страны могут использовать коммерческие базы данных для определения национальности мигрантов, чтобы депортировать их[189].

Если связать анонимный образец ДНК с некоторой другой информацией, например чьим-то примерным возрастом, этого может быть достаточно, чтобы сузить поиски с 1,3 миллиона человек, представленных в базе, до менее чем двадцати человек. В 2018 году такой поиск мог бы позволить идентифицировать 60 процентов белых американцев, даже если те никогда не предоставляли свою собственную ДНК в базу генетических данных. Чем больше людей будут продолжать раскрывать свою генетическую информацию, тем более реальной станет возможность идентифицировать любого человека в мире. Если, конечно система определения работает без сбоев, а это не всегда бывает так.

Генетическое тестирование может иметь высокий уровень ложноположительных результатов. Одно дело использовать ДНК в качестве доказательства против кого-то, кого уже считают подозреваемым на основании других доказательств. И совсем другое, когда нужно найти подозреваемого по анонимной ДНК. Доказательства, основанные на ДНК, считаются неопровержимыми. Очевидно, что если на месте преступления обнаруживаются следы чьей-то ДНК, то преступником должен быть именно этот человек. Но все не так просто. Есть множество способов, как ДНК может попасть на место преступления. Во время поисков преступника по прозвищу Призрак Хайльбронна следы одной и той же ДНК были обнаружены более чем в сорока местах преступлений в Европе. Затем выяснилось, что следы ДНК принадлежали сотруднице генетической лаборатории, которая проводила все эти анализы для полиции. Генетический образец легко может загрязниться. В отдельных случаях тесты ДНК могут быть случайно перепутаны. В большинстве случаев генетические данные трудно считывать. Поиск сходства между двумя разными генетическими образцами требует субъективной интерпретации. Возникает большое количество ошибок[190].

Вы можете быть совершенно невиновным в преступлении, но при этом стать подозреваемым из-за родственника, который когда-то сделал анализ ДНК. Так, например, Майкл Асри стал подозреваемым в убийстве[191]. Его отец некогда сдал свою ДНК для генеалогического проекта. Хотя ДНК его отца была похожа на ДНК, найденную на месте преступления, к счастью, в ДНК Асри полного совпадения не обнаружилось. После тридцати трех дней томительного ожидания, которые, наверное, показались ему вечностью, обвинения с него были сняты. Но не всем так везет, как Асри. Есть множество случаев, когда люди были неправомерно осуждены на основании анализа ДНК[192], и еще неизвестно, сколько же на самом деле существует таких эпизодов. Согласно Национальному реестру оправдательных приговоров США, ложные или вводящие в заблуждение данные судебно-медицинской экспертизы явились причиной 24 % всех подтвержденных неправомерных приговоров в стране[193].

Подобно тому, как мы связаны друг с другом через нашу генетическую структуру, мы соединены и бесчисленными невидимыми ниточками, которые делают нас уязвимыми, когда раскрываются чьи-то персональные данные. Если вы публикуете информацию о том, где живете, вы выставляете напоказ своих соседей. Если вы даете компании доступ к своему телефону, вы открываете доступ к контактам. Если вы разглашаете информацию о своих личностных характеристиках, вы разоблачаете и других людей с похожими характеристиками. Мы с вами, возможно, никогда не встречались и, наверное, никогда не встретимся в будущем, но если у нас достаточно общих психологических черт и вы передадите свои данные компаниям наподобие Cambridge Analytica, вы также передадите и часть моей конфиденциальной информации. Существующие между нами связи делают нас уязвимыми, поэтому мы несем ответственность за конфиденциальность друг друга.

Наша взаимозависимость в вопросах конфиденциальности подразумевает, что ни один человек не имеет морального права продавать свои данные. Мы не должны владеть личными данными как собственностью, потому что наши личные данные содержат личные данные других людей. Ваша персональная информация принадлежит не только вам.

Конфиденциальность является коллективной по крайней мере в двух аспектах. Дело не только в том, что обнародование вашей конфиденциальной информации может способствовать нарушению права на неприкосновенность частной жизни других людей. Помимо этого, последствия потери конфиденциальности отражаются на всем обществе. Культура раскрытия персональных данных таит в себе общественную угрозу. Это вредит социальной структуре, угрожает национальной безопасности (подробнее об этом позже) и ставит под угрозу демократию.

Жизнь в реалиях, где все, что вы делаете или говорите, может транслироваться миллионам других, оказывает на людей значительное давление. Когда наше личное пространство сводится на нет, нас начинает преследовать постоянный страх публично допустить какой-нибудь промах, и это ложится тяжелым бременем на наши плечи. Практически все, что мы делаем, потенциально может быть обнародовано.

Люди не любят быть на виду. Когда мы уверены, что другие не передадут то, что мы говорим, мы с большей вероятностью будем искренними, смелыми и креативными.

Нет близости без конфиденциальности. Отношения, в которых нельзя рассчитывать на защиту конфиденциальности – либо потому, что мы не доверяем другим, либо потому, что мы не доверяем технологиям, которые используем для общения и взаимодействия с другими, – неизбежно будут более поверхностными.

Культура конфиденциальности необходима для того, чтобы получать удовольствие от тесного общения с другими людьми, вести откровенные дискуссии в закрытых помещениях, таких как дома и учебные кабинеты, и устанавливать связи, на которых основано хорошо функционирующее либеральное общество. Находиться в мире, в котором данные непрерывно превращаются в оружие, означает постоянно чувствовать угрозу и недоверие к другим. Такой страх порождает конформизм и молчание.

Когда я веду занятие или выступаю с докладом, зная, что это записывается (или, что еще хуже, транслируется в прямом эфире), я часто замечаю, как сдерживаюсь в своих высказываниях, а мои студенты или аудитория задают меньше острых вопросов.

Когда повсюду осуществляется слежка, гораздо безопаснее хранить молчание или просто повторять общепринятое мнение. Но общественный прогресс возможен лишь тогда, когда звучат голоса тех, кто настроен критически, кто восстает против статус-кво.

Отсутствие конфиденциальности также наносит ущерб обществу, когда персональные данные используются в целях таргетированной пропаганды и при создании фейковых новостей. Когда злоумышленники распространяют таргетированные фейковые новости, иногда они преследуют вполне конкретную цель – например, помочь определенному кандидату выиграть избирательную гонку. Но часто их конечная цель – просто посеять раздор в обществе. «Разделяй и властвуй» – это очень старая политическая стратегия, которая теперь внедряется через социальные сети. Нас разделяют по линиям наших персональных данных, и нас завоевывают с помощью таргетированной пропаганды.

Все мы уязвимы для манипуляций, потому что никто из нас не имеет прямого доступа к информации. Вы не можете быть непосредственным свидетелем всего, что происходит в вашей стране и во всем мире. Вы узнаете о кандидатах и политических событиях в основном глядя на экраны ваших устройств. Но очень часто не вы выбираете источники информации. Не вы их ищете, а они вас. Они появляются в ваших лентах Twitter или Facebook. И хотя может показаться, что это какое-то чудесное совпадение, на самом деле такие компании, как Facebook, тщательно подбирают для вас этот контент. Они продают ваше внимание неизвестным дельцам, которые хотят оказывать на вас влияние.

Если мы с вами получаем противоречивую информацию о кандидате и вы не можете видеть информацию, которая была доступна мне, а я не могу видеть информацию, которая воздействовала на вас, вероятно, во время обсуждения этого кандидата мы будем считать друг друга глупцами, или безумцами, или и теми и другими одновременно, не понимая того, что мы воспринимаем реальность через очень разные фильтры, установленные специально для нас людьми, желающими, чтобы мы возненавидели друг друга. Когда мы не можем видеть общую реальность, общество поляризуется и плохие парни побеждают. Поляризованные общества более уязвимы. Сотрудничество становится затруднительным, и решение проблем, требующих коллективных действий, делается невозможным. Когда каждый из нас оказывается в ловушке эхо-камеры, или информационного гетто, теряется возможность конструктивно взаимодействовать друг с другом.

Еще один способ распространения розни в Сети злоумышленниками – это культивирование негативных эмоций у населения. Чем больше мы боимся и злимся, тем более недоверчиво относимся друг к другу, тем менее рациональными будут наши решения и тем хуже будет функционировать наше общество.

Власть, которую конфиденциальность дает нам коллективно как гражданам, необходима для демократии – чтобы мы могли голосовать в соответствии с нашими убеждениями и без чрезмерного давления, чтобы мы могли анонимно протестовать, не опасаясь последствий, чтобы мы были вольны объединяться, высказывать свое мнение, читать то, что нам интересно. Если мы собираемся жить в условиях демократии, бóльшая часть власти должна быть у народа. А власть имеет тот, у кого есть информация. Если бóльшая часть власти будет принадлежать компаниям, у нас будет плутократия – общество, которым правят богачи. Если бóльшая часть власти будет принадлежать государству, у нас будет какая-то разновидность авторитаризма.

Либеральная демократия – это не данность. Это то, за что мы должны бороться каждый день. И если мы перестанем создавать условия, в которых она процветает, либеральной демократии больше не будет. Конфиденциальность важна, потому что она дает людям власть.

Почему именно либеральная демократия?

Демократия относится к системе правления, при которой суверенная власть принадлежит народу. Возможно, несколько десятилетий назад достаточно было заявить, что нам нужна конфиденциальность, чтобы поддерживать либеральный демократический строй. Но в наши дни демократия не на пике своей популярности. Только треть американцев в возрасте до тридцати пяти лет говорят, что жить в условиях демократии жизненно важно, и доля тех, кто готов был бы поддержать военную хунту, увеличилась с 7 процентов в 1995 году до 18 процентов в 2017 году[194]. Во всем мире гражданские свободы и политические права показывают тенденцию к ослаблению: в 2017 году только тридцать пять стран улучшили свои позиции, а семьдесят одна страна их ухудшила[195]. Economist Intelligence Unit охарактеризовала 2019 год как «год демократических неудач» с самым низким с 2006 года (когда впервые был составлен Индекс демократии) значением по среднему глобальному показателю уровня развития демократии[196].

По этой причине необходимо обосновать, почему вы все еще должны бороться за либеральную демократию. Даже если вы думаете, что нынешнее правительство или прошлые правительства (или и то и другое) разрушили вашу страну. Даже если вы ощущаете себя исключенным из политического процесса. Даже если вы чувствуете, что местные политики с вами не считаются. Даже если вы подозреваете, что в вашем обществе посеяли раздор. Даже если вы не доверяете своим согражданам – особенно если вы им не доверяете. Даже если демократия не оправдала ваших ожиданий, вы должны работать над ее улучшением, а не избавляться от нее, потому что это система, которая наиболее адекватно защищает основные права всех, включая вас.

Как сказал Уинстон Черчилль в 1947 году, «никто не притворяется, что демократия – идеал или ответ на все вопросы. Действительно, утверждалось, что демократия является наихудшей формой правления, если не считать всех остальных»[197].

Демократия не идеальная система. В лучшем случае она беспорядочная, болезненно медленная и негибкая к изменениям. Она такая неоднородная, что похожа на лоскутное одеяло, сшитое пятилетним ребенком. Она требует компромиссов, таких, что чаще всего никто не получает то, что хочет, и все в итоге остаются неудовлетворенными. В худшем случае система используется горсткой богатых людей, которые пишут правила для общества, чтобы получать выгоду за счет всех остальных.

Мы можем согласиться с тем, что демократия – это не рай на земле. Но у этого строя есть преимущества, которых нет ни у какой другой политической системы. Демократия заставляет политиков учитывать интересы и мнения большинства людей в обществе. Политики зависят от нашей поддержки, чтобы оставаться у власти, что вынуждает их стараться сделать большинство населения достаточно счастливым. Демократия вовлекает в решение политических вопросов гораздо больше людей, чем другие формы правления, что дает ей больше шансов на принятие правильных решений, поскольку она может использовать преимущества многих источников информации и точек зрения[198]. Демократические общества, как правило, более процветающие. Они также имеют тенденцию быть более миролюбивыми как в пределах своих границ, так и по отношению к другим странам (эта идея выражена в демократической теории мира, традиция которой восходит к Канту). Философ Карл Поппер напомнил нам, что демократия – это лучший способ избавиться от плохой власти без кровопролития и реализовывать реформы без насилия[199].

Тем не менее многие недостатки авторитарного общества можно найти и в демократических странах. Если вы будете искать в демократических странах примеры несправедливости и злоупотребления властью, вы, скорее всего, их найдете. Но то, насколько распространены эти примеры, имеет большое значение.

Количество переходит в качество. Джордж Оруэлл утверждал, что главное достоинство демократии – это «сравнительное чувство безопасности», которым могут наслаждаться граждане. Говорить о политике с друзьями, не опасаясь за последствия. Быть уверенными в том, что никто не накажет нас, если мы не нарушим закон, и осознавать, что «закон выше государства»[200], что я могу без опасений за себя написать эту книгу, бросая вызов сильным мира сего, а у вас будет возможность ее читать. Все это свидетельствует о том, что мы живем в свободном обществе. Но мы не должны принимать это как должное.

Чтобы гарантировать ваши права, демократия должна быть либеральной. В противном случае мы рискуем тем, что Джон Стюарт Милль называл «тиранией большинства». Большинство может быть таким же деспотичным по отношению к меньшинству, как автократ. Либерализм стремится предоставить гражданам как можно больше свободы, уважая при этом права всех. Либерализм устанавливает только необходимые ограничения, чтобы каждый из нас мог следовать своим представлениям о хорошей жизни, не мешая другим. Если вы обычный гражданин, жизнь в условиях либеральной демократии – ваш лучший шанс получить максимальную самостоятельность. Либеральные демократии позволяют осуществлять самоуправление как отдельным людям, так и обществам.

Когда либерализм игнорируется, демократия может быть разрушена путем разложения системы изнутри. Демократия не всегда разрушается из-за всплеска насилия – она также может быть сломлена руками избранных лидеров. Гитлер в Германии и Чавес в Венесуэле – два печально известных примера[201]. Британский философ Джонатан Вольф утверждал, что первым шагом уничтожения демократии фашизмом является установление приоритета воли большинства над правами меньшинства. Второй шаг – поставить под сомнение средства, с помощью которых выражается воля большинства, тем самым подрывая голосование[202]. (В эпоху цифровых технологий мы должны остерегаться заявлений технологических компаний о том, что наши устройства могут интерпретировать нашу волю и голосовать. Например, специалист по искусственному интеллекту Сезар Идальго утверждал, что в будущем у нас должны быть цифровые аватары, голосующие от нашего имени[203]. Это явно плохая идея.) Либеральная демократия ограничивает власть большинства, чтобы гарантировать соблюдение прав меньшинства. При либеральной демократии вас не посадят в тюрьму, если вы не преступили закон, даже если бóльшая часть общества проголосует за нарушение ваших прав.

Для этого и существует верховенство закона.

Конфиденциальность – повязка на глазах Фемиды

Одним из величайших достоинств либеральной демократии является ее упор на равенство и справедливость. Никто не должен стоять выше закона, все имеют равные права, каждый совершеннолетний получает право голоса, и каждый имеет возможность более активно участвовать в осуществлении демократии. Один из величайших пороков экономики данных заключается в том, что она различными способами подрывает равенство. Сама суть экономики данных состоит в том, что отношение к нам формируется на основе известной о нас информации. Как мы видели, технологические алгоритмы в итоге становятся сексистскими и расистскими именно из-за того, что к нам относятся по-разному. Именно из-за разного отношения, основанного на имеющихся о нас данных, разные люди вынуждены платить разные цены за один и тот же продукт, даже не зная о том, что они платят больше, чем другие. Именно потому, что к нам относятся по-разному, мы можем видеть разный контент в интернете, который еще больше усугубляет наши различия, – порочный круг непохожести и неравенства. Независимо от того, кем вы являетесь, вы должны иметь такой же доступ к информации и иметь такие же возможности, как и все остальные. Богиню правосудия Фемиду изображают с завязанными глазами, что символизирует беспристрастность правосудия. Конфиденциальность – это то, что может ослепить систему, чтобы обеспечить равное и беспристрастное отношение к нам. Иными словами, конфиденциальность – это повязка на глазах Фемиды.

Устранение асимметрии власти

Крупные технологические и политические кукловоды успешно манипулируют нами, потому что мы страдаем от асимметрии знаний, которая привела к асимметрии власти. До недавнего времени мы очень мало знали о том, как технологические гиганты и политическая пропаганда работают в цифровой сфере. Их методы были скрыты от нас. Между тем они знают о нас почти все. Нам придется потрудиться, чтобы склонить чашу весов обратно в свою пользу. Мы должны знать о них больше и сделать так, чтобы они знали о нас меньше.

Чтение этой книги – шаг в правильном направлении. Это поможет вам получить представление о масштабе силы технологических гигантов и правительства. Следующим шагом будет усиление защиты вашей конфиденциальности. Если вы сохраните свои данные в безопасности, они будут меньше знать о вас как о личности и о нас как о гражданах.

Есть несколько хранителей истины, справедливости и беспристрастности, независимость которых необходимо защищать ради процветания либеральной демократии: пресса, суды и наука. Важной частью устранения асимметрии власти в цифровую эпоху является поддержка этих институтов. Как ученого меня беспокоит, что все больше и больше исследований (включая исследования в области этики) финансируются технологическими гигантами.

Если крупные технологические компании хотят финансировать исследования, пусть делают это через посредников, которые позволят сохранить нейтральное пространство между исследователями и источником финансирования. Посредниками могут быть правительства, независимые фонды или университеты при условии, что средства жертвуются без каких-либо предварительных ограничений. Если дело обстоит так, что финансирование будет прекращено, если ученые будут отстаивать спорную точку зрения, то научная свобода будет поставлена под угрозу, а обществу станет хуже от этого, поскольку ученые не смогут исследовать то, что они считают наиболее важным, и распространять результаты своих исследований. Уже сейчас я вижу, как исследователи избегают спорных вопросов и выбирают темы, к которым технологические компании относятся благосклонно. Если вы рассчитываете получить финансовую поддержку от Google, станете ли вы исследовать этические проблемы рекламной деятельности? Точно так же, как мы не доверяем медицинским исследованиям, которые финансируются крупными фармацевтическими компаниями, и исследованиям в области питания, спонсируемым пищевыми компаниями, мы должны остерегаться исследований, финансируемых технологическими гигантами.

В течение последних нескольких лет независимая журналистика была одним из яростных противников общества слежки, наряду с разоблачителями. Эдвард Сноуден сообщил о массовой слежке, и мы узнали об этом благодаря Лоре Пойтрас, Гленну Гринвальду, Юэну МакАскиллу и газете The Guardian, которую тогда возглавлял редактор Алан Расбриджер. Кэрол Кэдволладр из Observer рассказала о работе Cambridge Analytica и опубликовала разоблачающие признания Кристофера Уайли.

Всем этим людям пришлось выдержать огромное давление, чтобы обнародовать эту информацию. Сноуден был вынужден искать убежище в Москве, и он, возможно, никогда не сможет вернуться в США. Партнер Гринвальда был задержан в аэропорту Хитроу, где его подвергли девятичасовому допросу в соответствии с законом о терроризме, а его компьютер изъяли. Лору Пойтрас постоянно задерживали в аэропортах и допрашивали. Газета The Guardian, оказавшись под угрозой судебного запрета и под пристальным вниманием правительственных чиновников, была вынуждена уничтожить жесткие диски, на которых хранились документы Сноудена. На момент написания этой книги на Кэрол Кэдволладр был подан иск о клевете миллионером Арроном Бэнксом, участвовавшим в кампании по выходу Великобритании из Европейского союза. Если бы не смелость журналистов, мы бы не знали о правилах, по которым живем. Читайте и поддерживайте хорошую журналистику. Она – часть того, как граждане расширяют свои возможности в борьбе с корпоративной и государственной властью.

Фейковые новости и пропаганда напоминают фокусы. Искусство фокусников привлекает наше внимание и внушает трепет, даже если мы знаем, что это иллюзии. Бывший фокусник, ставший профессором психологии, Густав Кун обнаружил, что иллюзии могут быть настолько убедительными, что даже когда на каком-то уровне мы знаем, что нас обманывают и все представшее перед нашими глазами – это хорошо спланированный трюк, все равно мы начинаем верить, что происходит что-то паранормальное. Пелена с наших глаз падает только тогда, когда нам говорят, как именно выполняется трюк[204]. Таким же образом понимание того, как и для каких целей создается персонализированный контент, может лишить его некоторой силы – оно способно разрушить чары.

Сила сопротивления

Как показывают эти примеры блестящей и смелой журналистики, еще не все потеряно. Власти можно сопротивляться и можно бросать ей вызов. У нас тоже есть сила, а если мы будем действовать сообща, у нас ее будет еще больше. Институты общества в эпоху цифровых технологий накопили слишком много власти, но мы можем вернуть данные, на которых она основана, и ограничить сбор новых данных. Власть технологических гигантов выглядит и ощущается очень прочной. Но их карточный домик может рассыпаться. Они ничто без наших данных. Немного регулирования, чуточку сопротивления со стороны граждан, несколько компаний, которые начнут предлагать конфиденциальность в качестве конкурентного преимущества, – и все их могущество может рассеяться. Никто не осознает свою уязвимость лучше, чем сами технологические компании. Вот почему они пытаются убедить нас, что они все-таки заботятся о конфиденциальности (несмотря на то, что их адвокаты говорят в суде). Вот почему они тратят миллионы долларов на лоббирование[205]. Если бы они были так уверены в ценности своих продуктов для пользователей и общества, им не нужно было бы так яростно это доказывать. Технологические компании злоупотребили своей властью, и пора начать им противостоять.

В эпоху цифровых технологий сопротивление, вызванное злоупотреблением властью, было названо «ответным ударом технологиям»[206]. Злоупотребления властью напоминают нам, что власть необходимо ограничивать, чтобы она оказывала положительное влияние на общество. Даже если вы являетесь энтузиастом технологий, даже если вы думаете, что нет ничего плохого в том, что технологические компании и правительства делают с нашими данными, вам все равно следует ограничить их власть, потому что вы никогда не знаете, кто будет следующим у власти. Ваш следующий премьер-министр может быть более авторитарным, чем нынешний, следующие генеральные директора крупных технологических компаний могут быть не такими доброжелательными, как их предшественники.

Не стоит сдаваться без боя экономике данных.

Не стоит заблуждаться, что вы защищены от вреда для личной жизни, если вы молоды, мужчина, белый, гетеросексуал и здоровы. Если вам до сих пор везло, вы, возможно, думаете, что ваши данные могут работать только на вас, а не против вас. Но вы можете быть не так здоровы, как думаете, и не будете вечно молодыми. Демократия, которую вы принимаете как должное, может превратиться в авторитарный режим, который будет пренебрегать такими, как вы. Если мы отдадим всю власть капитализму слежки, полагая, что наши нынешние лидеры желают нам добра, мы не сможем вернуть ее себе, когда дела пойдут плохо и у нас появятся новые лидеры либо наши нынешние лидеры нас разочаруют.

Также вспомните старую пословицу британского политика XIX века Джона Дальберга-Актона: «Власть развращает, абсолютная власть развращает абсолютно». Неразумно позволять технологиям или правительствам иметь над нами слишком большую власть.

Но прежде, чем мы перейдем к деталям того, как вернуть контроль над вашими персональными данными – а вместе с ним и вашу самостоятельность и нашу демократию, – поговорим еще об одной причине, по которой мы должны противостоять экономике данных. Экономика слежки не только создает дисбаланс сил, но и опасна тем, что торгует персональными данными, а персональные данные токсичны.

Глава 4

Токсичные данные

Во многих отношениях асбест – прекрасный материал. Это минерал, который можно дешево добыть, он необычайно прочен и устойчив к возгоранию. Но, к сожалению, асбест не только практичен, но и смертоносен. Он вызывает рак и другие серьезные заболевания легких, и порога безопасности его воздействия не существует.

Персональные данные – это асбест общества в эпоху цифровых технологий. Как и асбест, персональные данные можно добыть дешево. По большей части это побочный продукт взаимодействия людей с технологиями. Как и асбест, персональные данные могут быть полезны. Их можно продать, обменять на привилегии, они могут помочь предсказать будущее. И, как и асбест, личные данные токсичны. Они могут отравить жизнь отдельных людей, организаций и всего общества. Эксперт по безопасности Брюс Шнайер выразил мнение, что персональные данные – это токсичный актив[207].

Каждый день, каждую неделю хакеры взламывают сети и крадут информацию о людях. Иногда они используют полученные данные для совершения мошенничества. В других случаях они используют их для унижения, вымогательства или принуждения. Сбор и хранение персональные данных – это бомба замедленного действия, катастрофа, ожидающая своего часа. В киберпространстве злоумышленники имеют преимущество перед защитниками. В то время как атакующий может выбрать момент и метод атаки, защитники должны постоянно защищаться от любого типа атаки. В результате злоумышленники с большой вероятностью получат доступ к персональным данным, если будут нацелены на них.

Персональные данные опасны, потому что они чувствительны, очень уязвимы для неправомерного использования, их сложно хранить в безопасности и их многие хотят заполучить – от преступников до страховых компаний и спецслужб. Чем дольше хранятся наши данные и чем больше они анализируются, тем выше вероятность того, что они будут использованы против нас. Данные уязвимы, что, в свою очередь, делает уязвимыми субъектов данных и всех, кто их хранит.

Поломанные судьбы

Если ваши персональные данные попадут в чужие руки, это может разрушить вашу жизнь. Невозможно предвидеть катастрофу, а когда она случается, уже слишком поздно – данные не могут быть отозваны.

18 августа 2015 года более 30 миллионов человек проснулись и обнаружили, что некоторые из их самых личных данных распространились в интернете. Хакеры опубликовали всю базу данных клиентов Ashley Madison – сайта знакомств, который помогал женатым людям заводить романы. Пользователи (включая людей, отказавшихся от членства) могли быть идентифицированы по их именам, адресам, предпочтениям, почтовым индексам и номерам кредитных карт. Хакеры хотели преподать неверным супругам урок. «Искупи вину», написали они[208].

Нельзя точно оценить, сколькой страданий и разрушений принесла эта утечка данных. Миллионы людей страдали от бессонницы и тревоги. Некоторые потеряли работу. Кого-то шантажировали преступники, которые угрожали рассказать их супругам об использовании веб-сайта, если они не заплатят. В одном случае письмо от вымогателей содержало следующую угрозу в обмен на деньги: «Если ты не выполнишь мое требование, я унижу не только тебя, но и твоих близких»[209].

Даже если потерпевший платил за обещание молчания, он не мог быть уверен, что преступник или кто-то другой все равно не обнародует компрометирующую информацию о нем. В Алабаме, например, местная газета напечатала имена всех фигурантов базы данных из этого региона. Хакер завел аккаунт в Twitter и веб-сайт, чтобы опубликовать самые непристойные подробности, которые были выявлены при утечке данных, просто ради собственного удовольствия. В результате распались многие семьи, были расторгнуты помолвки, а некоторые люди покончили жизнь самоубийством.

Вы можете подумать, что пользователи Ashley Madison получили по заслугам, потому что изменяли. Это сомнительно. Кто сказал, что позор в интернете и потеря работы являются адекватным наказанием за супружескую неверность? Также стоит иметь в виду, что у некоторых пользователей сайта были разные причины для регистрации на нем и они могли быть не настолько виновны, как кажется на первый взгляд. Некоторые зарегистрировались там с ведома и согласия своих супругов. Другие – потому что их супруги отказывались от интимной жизни с ними. Третьи подписались на сайт в момент слабости, но не вели там никакой активности – их регистрация была только напоминанием о том, что если они захотят, то могут искать связи вне своего брака. Даже если вы по-прежнему думаете, что пользователи Ashley Madison сами виноваты в произошедшем, то в чем тогда провинились их супруги и дети, определенно не заслуживавшие публичного унижения, которое им пришлось в связи с этим пережить?

Читая об этой катастрофической утечке данных, вы можете вздохнуть с облегчением и подумать, что уж вы-то в безопасности, потому что никогда не лгали своей семье (а ведь может быть и такое, что ваша семья лжет вам). Как бы там ни было, вам не обязательно иметь страшные тайны, чтобы ваши персональные данные отравили вам жизнь. Это может быть что-то столь же банальное, как ваш паспорт или удостоверение личности, либо ваши имя, адрес и банковские реквизиты.

Двое мужчин разбудили Рамону Марию Фагиуру посреди ночи в январе 2015 года. Они показали ей ордер на арест и взяли ее под стражу. Она тщетно пыталась заверить полицейских, что не сделала ничего плохого, что стала жертвой кражи персональных данных, что они ищут не ее, а другого человека. Но все было бесполезно. Она написала своему мужу СМС, рыдая на заднем сиденье полицейского фургона: «Они арестовывают меня. Привези папку». В упомянутой папке содержалось краткое изложение ее кошмара: судебные документы, повестки в суд, поручительства и ее жалобы судьям и полиции, в которых неоднократно сообщалось, что кто-то использовал ее персональные данные для совершения мошенничества в десятке испанских городов.

Рамона Мария Фагиура не сделала ничего плохого. Тем не менее она была вынуждена годами являться в полицейские участки и залы суда, выплачивая тысячи евро адвокатам в надежде, что те докажут ее невиновность. У нее диагностировали тревожное расстройство, и ей пришлось принимать лекарства от этого. «Моя жизнь была разрушена», – сетовала она[210].

Случаи кражи личных данных стали относительно распространенным явлением в эпоху цифровых технологий, а мошенничество с кредитными картами – его наиболее частая форма. Каждый год мы добавляем больше информации в интернет, создаем больше общедоступных баз данных, которые преступники могут использовать для получения конфиденциальной информации, а наши протоколы безопасности не улучшаются. Мы не должны удивляться тому, что ошибки, связанные с данными, становятся обычным делом. В недавнем опросе, проведенном мной и моей коллегой Шиан Брук, мы получили ошеломляющие результаты: 92 % людей сообщили, что испытали какое-либо нарушение конфиденциальности в интернете[211].

Еще одним все более распространенным преступлением, связанным с данными, является вымогательство. В 2017 году преступная группа получила доступ к данным литовской клиники пластической хирургии и шантажировала пациентов, приехавших в клинику из шестидесяти стран мира, с требованием выкупа в биткойнах. В итоге хакеры опубликовали более 25 000 личных фотографий, в том числе обнаженных людей, и персональные данные, включая сканы паспортов и номера национальных страховых полисов[212].

Это лишь три примера множества способов, которыми ежегодно отравляется жизнь бесчисленного количества людей из-за неправомерного использования персональных данных. Историям о мести с использованием порно, унижении в интернете и разоблачении нет конца. От последствий страдают не только субъекты данных. Информационные катастрофы также могут нанести ущерб государствам и частным компаниям.

Нанесение вреда институтам общества

Уязвимость данных распространяется и на организации, которые их хранят и анализируют. Любая единица информации может спровоцировать катастрофу, способную снизить прибыль компании, нанести ущерб ее имиджу, уменьшить ее долю на рынке, снизить стоимость ее акций и потенциально привести к дорогостоящим судебным процессам или даже к уголовному преследованию. Учреждения, которые хранят больше данных, чем необходимо, сами ставят себя под удар.

Конечно же, не все компании разорены информационными катастрофами. Некоторым повезло. У Ashley Madison, например, дела идут лучше, чем когда-либо. Компания Facebook сталкивалась с бесчисленным множеством ошибок с данными. Однако ее имидж от этого не пострадал. До сих пор бытует мнение, что иметь профиль в приложении Facebook важно в социальном или профессиональном плане, но на самом деле такая необходимость уже уходит в прошлое. И это в долгосрочной перспективе может означать конец Facebook. Компания может столкнуться с проблемами, как только появится конкурент, который предложит хорошую альтернативу.

Никто не удивится, если Facebook потеряет свою власть из-за неуважения к конфиденциальности. Однако пока это только в перспективе. Facebook по-прежнему существует, хотя работа в этой организации стала для некоторых бывших и нынешних сотрудников поводом стыдиться, а не гордиться. Когда я начинала трудиться в сфере цифровых технологий, люди, работавшие на гиганта социальных сетей, обычно хвастались своим работодателем. В наши дни люди, напротив, нередко умалчивают о том, что имеют отношение к синему значку «палец вверх»[213].

То, что некоторым компаниям удается пережить информационную катастрофу, не означает, что выживают все. Управление конфиденциальными данными похоже на работу с любым другим токсичным веществом. Когда что-то идет не так, это может означать гибель компании. Возьмите Cambridge Analytica. Через два месяца после того, как стало известно, что фирма пыталась повлиять на политические кампании по всему миру, используя личные данные для профилирования и микротаргетинга избирателей, она подала заявление о банкротстве и была вынуждена прекратить деятельность. Точно так же Google закрыла свою социальную сеть Google+ после того, как выяснилось, что недостатки в конструкции программного обеспечения позволяют сторонним разработчикам получать доступ к персональным данным пользователей.

Даже если организациям удастся пережить скандал, токсичность данных может очень дорого им обойтись. Компания Facebook была оштрафована на 5 миллиардов долларов в США за многочисленные нарушения конфиденциальности[214] и на 500 000 фунтов стерлингов в Великобритании за скандал с Cambridge Analytica. И это произошло еще до того, как в Европе был принят Общий регламент защиты персональных данных (GDPR)[215]. Новое постановление допускает штрафы в размере до 4 % от выручки или 20 миллионов евро, в зависимости от того, что больше, и в отношении Facebook проводилось несколько расследований по GDPR. В соответствии с указанным регламентом в 2019 году British Airways оштрафовали на 183 миллиона фунтов стерлингов за сбой системы безопасности авиакомпании, затронувший 500 000 клиентов[216]. До тех пор пока учреждения не изменят свою работу, мы будем видеть все больше таких эпизодов и, возможно, более высокие штрафы. Правильное регулирование обеспечивает соответствие интересов потребителей и компаний. Если пользователи страдают от небрежного отношения к данным, компании тоже должны пострадать.

Иногда информационная катастрофа не заканчивается штрафом, но тем не менее может серьезно навредить организации. Так было с утечкой данных Управления кадровой службы США в 2015 году. Хакеры украли у правительства около 21 миллиона записей, включая проверку анкетных данных нынешних, бывших и потенциальных федеральных государственных служащих. Среди потерянных конфиденциальных данных были фамилии, адреса, даты рождения, история работы и заработной платы, результаты прохождения проверки на детекторе лжи, сообщения о сомнительном сексуальном поведении и более 5 миллионов комплектов отпечатков пальцев. Эти украденные записи потенциально могут быть использованы, например, для обнародования данных оперативников, работающих под прикрытием[217]. Такие утечки данных, как эта, не только означают серьезную потерю лица – они также могут поставить под угрозу безопасность целой страны.

Отравленное общество

Существует четыре основных способа, как неправильное использование персональных данных может отравить общество. Персональные данные могут поставить под угрозу национальную безопасность, они могут быть использованы для подрыва демократии, а также могут угрожать либеральным устоям общества, продвигая культуру разоблачения и подозрительности и поставить под угрозу безопасность людей.

Угроза национальной безопасности

Equifax – один из крупнейших брокеров данных и агентств по предоставлению информации о потребительских кредитах. В сентябре 2017 года компания объявила о взломе системы кибербезопасности, в результате которого преступники получили доступ к личным данным около 147 миллионов американских граждан. Украденные данные включали фамилии, номера социального страхования, даты рождения, адреса и номера водительских прав. Это одна из крупнейших утечек данных в истории – пока что. В феврале 2020 года история приняла еще более мрачный оборот, когда Министерство юстиции США предъявило четырем китайским военным обвинения по девяти эпизодам, связанным с этим громким делом (что Китай отрицал).

Зачем китайским военным нужны все эти персональные данные? Возможно, они хотели идентифицировать потенциальные возможности для вербовки этих людей в качестве шпионов. Чем больше у вас информации о людях, тем больше у вас шансов получить от них то, что вы хотите. Если вы понимаете, что у них есть долги, вы можете предложить деньги. Если вы узнаете их тайну, вы можете их шантажировать. Если вы изучите их психологию, вы сможете предугадать их поведение. Китай, например, известен тем, что использует социальные сети, такие как LinkedIn, для вербовки шпионов. У LinkedIn 645 миллионов пользователей, ищущих возможности трудоустройства, данные которых открыты для незнакомых людей. Люди, работавшие на правительство, иногда объявляют о своем отношении к секретным службам, чтобы повысить шансы получить работу. Вся эта информация и доступ ценны для китайских разведчиков. Общаться с людьми в интернете гораздо менее рискованно и более экономически выгодно, чем лично. Считается, что китайские разведчики пытались установить контакт с тысячами граждан Германии и Франции в социальных сетях[218].

Вторая причина, по которой зарубежные страны могут нуждаться в личных данных, – это отработка своих алгоритмов. У Китая есть множество данных о своих гражданах, но недостаточно данных о других людях по всему миру. Алгоритмы, отработанные на персональной информации китайцев, могут не работать на западных людях. Третья причина – можно использовать эти данные для разработки целевых кампаний по дезинформации, как это сделала Cambridge Analytica. Наконец, данные – это просто еще один товар, который можно продавать другим государствам[219]. Возможно, Россия или Северная Корея так же, как и Китай, заинтересованы в получении дополнительной информации об американцах.

Атаку на Equifax провели профессионалы. Хакеры крали информацию небольшими партиями, чтобы избежать обнаружения, и перенаправили интернет-трафик через тридцать четыре сервера в более чем дюжине стран, чтобы скрыть свои следы. Но в этой ситуации и Equifax вела себя слишком опрометчиво. Конфиденциальная информация хранилась у них в виде простого текста (в незашифрованном виде), была легко доступна, и по крайней мере в одном случае компания использовала слишком простой пароль («admin») для защиты портала. Что еще более важно, они вовремя не обновили свое программное обеспечение Apache Struts. Apache обнаружила уязвимость в своем программном обеспечении и предложила своим пользователям обновления, но Equifax их не установила[220].

В случае с Equifax данные были украдены. Но учитывая рост числа брокеров данных, информацию можно законно покупать и использовать в столь же гнусных целях. Когда в New York Times получили данные о местоположении, хранящиеся у брокера данных, из источников, которые «обеспокоились тем, как они могут быть использованы», они исследовали, насколько опасными могут быть такие данные[221]. Эти данные включали информацию о 12 миллионах номеров телефонов жителей США. Удалось отследить места, которые посещали некоторые из исследуемых людей, включая психологические центры, наркологические клиники, места встреч представителей сексуальных меньшинств, церкви, мечети и клиники, где делали аборты.

Репортеры смогли идентифицировать и организовать слежку, среди прочего, за военными, имеющими допуск к секретной информации, а также за сотрудниками правоохранительных органов. Если кому-то из этих людей есть что скрывать (а это относится ко всем людям), такой легкий доступ к их данным может сделать их объектами шантажа. Если людей, отвечающих за безопасность в наших странах, так легко найти, выследить и потенциально шантажировать, то мы все в опасности, а зарубежные страны слишком хорошо осведомлены о том, как персональные данные делают государство уязвимым.

Обеспокоенность национальной безопасностью послужила причиной того, что США оказали давление на китайского игрового гиганта Beijing Kunlun, чтобы тот продал свою долю в американской компании Grindr. Grindr – это приложение для знакомств, ориентированное на геев, бисексуалов и трансгендеров. Оно хранит невероятно чувствительные данные, включая разговоры на сексуальную тематику, фото и видео в обнаженном виде, местоположение в реальном времени, адреса электронной почты и ВИЧ-статус. Если бы мы жили в мире, в котором к конфиденциальности относились серьезно, такое приложение должно было бы иметь самый надежный уровень кибербезопасности и конфиденциальности. Вы, наверное, уже не удивитесь, если я скажу вам, что это не так. В 2018 году норвежская исследовательская организация обнаружила, что Grindr отправляла личные данные, в том числе о ВИЧ-статусе, третьим сторонам, которые помогают улучшать приложения. Согласно отчету, бóльшая часть этих личных данных, таких как информация о местоположении, была отправлена в незашифрованном виде ряду рекламных компаний[222].

США не раскрывают подробностей своих опасений по поводу Grindr, поскольку, как сообщает источник в ведомстве, «это потенциально может раскрыть секретные заключения американских агентств», но, учитывая контекст, их можно себе представить. И наконец, Kunlun предоставила находящимся в Пекине инженерам доступ к личной информации миллионов американцев, в том числе к их личной переписке[223]. Вполне вероятно, что некоторые военные и спецслужбы США пользуются этим приложением, и Китай может использовать их данные, чтобы шантажировать их или делать выводы о передвижениях американских войск[224]. Это не первый случай, когда приложение выявляет перемещения воинских частей.

Как и большинство других людей, те, кто вовлечен в государственные проекты повышенной секретности, занимаются оздоровительным бегом недалеко от тех мест, где живут и работают. Когда военнослужащие в США поделились своими маршрутами бега с фитнес-компанией Strava, им и в голову не пришло, что они транслируют местонахождение секретных военных баз. Strava опубликовала на своем веб-сайте текущие маршруты всех пользователей в виде тепловой карты, на которой можно, увеличив масштаб, изучить наиболее и наименее распространенные маршруты. Аналитики отметили, что можно не только обнаружить секретные военные базы, используя то, что их обрамляют беговые маршруты в районах с низкой плотностью иной активности, но можно также идентифицировать пользователей Strava по фамилии, используя другие открытые базы данных. Таким образом, благодаря тепловой карте можно было идентифицировать военных, представляющих интерес, и следить за ними[225]. В этом случае данные, которые создавали угрозу национальной безопасности, даже не были украдены или куплены – они были открытыми и легкодоступными.

После этого инцидента Strava сделала демонстративный жест по отмене тепловых карт, заменив их на более наглядные и простые[226]. Слишком мало и слишком поздно.

Люди должны давать согласие на сбор данных. Неуважение к конфиденциальности в целом означает, что конфиденциальность военнослужащих и чиновников также находится под угрозой. Через них иностранные державы могут поставить под угрозу безопасность целой страны. Угрозы национальной безопасности – не единственный способ отравления обществ нашими персональными данными. Они могут поставить под угрозу и нашу демократию.

Угроза демократии

Скандал с Cambridge Analytica показывает, как утрата конфиденциальности может способствовать махинациям при проведении демократических процедур. Нарушение конфиденциальности позволило создать профили, которые использовались для пропаганды и манипулирования людьми в соответствии с их психологическими особенностями. Кристофер Уайли, разоблачитель Cambridge Analytica, считает, что инициатива по выходу Великобритании из Европейского союза не прошла бы на референдуме без вмешательства фирмы по обработке данных[227]. В некотором смысле компания причинила вред всем гражданам стран, в которых она осуществляла вмешательство, а также гражданам других стран, учитывая, что на всех нас влияет глобальная политика. Вот каким масштабным может быть разрушительный эффект от утечки данных.

Крис Самнер, директор по исследованиям и соучредитель некоммерческой организации Online Privacy Foundation, руководил исследовательским проектом по теневой рекламе. Так называемые теневые объявления видны только тому, кто их публикует, и предполагаемой целевой аудитории. Целевые группы могут быть определены на основании данных о местоположении, поведенческих данных и психографической информации (психографическое профилирование классифицирует людей по типам личности на основе персональных данных). Самнер решил проверить, насколько эффективной может быть такое таргетирование. Он и его партнер по исследованию Мэтью Ширинг оценили склонность к авторитаризму 2 412 человек в Facebook и разделили их на две группы: с высокими и низкими авторитарными тенденциями. Авторитарные личности характеризуются тенденцией подчиняться и уважать людей, наделенных властью, они больше ценят традиции и нормы и менее терпимы к представителям других групп. Затем Самнер и Ширинг создали рекламу, которая либо поддерживала, либо выступала против государственной массовой слежки.

Команда разработала четыре разные рекламные кампании. Реклама в поддержку слежки, предназначенная для людей с высоким уровнем склонности к авторитаризму, показывала фотографии взорванных зданий и гласила: «Террористы не дремлют – не позволяй им прятаться в интернете. Скажи “да” массовой слежке». Версия, созданная для людей с низкими авторитарными наклонностями, гласила: «Преступность не заканчивается там, где начинается интернет. Скажи “да” наблюдению». Реклама против слежки, предназначенная для людей с высоким уровнем склонности к авторитаризму, несла изображение высадки союзных войск в Европе и гласила: «Они боролись за твою свободу. Не отдавай ее! Скажи “нет” массовой слежке». Версия, предназначенная для людей с низким уровнем склонности к авторитаризму, содержала фотографию Анны Франк и гласила: «Тебе действительно нечего бояться, если нечего скрывать? Скажи “нет” государственному надзору».

Персонализированная реклама оказалась более эффективной для специально настроенных целевых групп. Например, реклама, которая поддерживала слежку и была направлена на лиц с высокой склонностью к авторитаризму, получила в 20 раз больше лайков и репостов от своей целевой группы, чем от группы с низким уровнем склонности к авторитаризму. Люди, имеющие высокую склонность к авторитаризму, значительно чаще делились рекламой, разработанной для них, а люди, отнесенные к категории лиц с низким уровнем авторитарных тенденций, считали, что реклама, предназначенная для них, более убедительна, чем реклама, нацеленная на их антиподов[228].

Пока не совсем понятно, как эти показатели (вероятность того, что пользователь поделится рекламой, и того, что он посчитает ее убедительной) преобразуются в результаты голосования на выборах. Некоторые скептики отмечают, что микротаргетинг имеет ограниченный эффект и поэтому нам не следует беспокоиться о его влиянии на выборы. Одна из важных проблем, возникающих в ходе кампаний, целью которых является влияние на мнение людей, заключается в том, что корреляция между личностными качествами и политическими ценностями не всегда значима. Если алгоритм кампании допускает ошибки при оценке людей, им могут быть направлены не те сообщения, что вызовет негативную реакцию. Еще одна проблема заключается в том, что предсказательная сила лайков Facebook имеет срок действия: то, что вам понравилось пять лет назад, может не нравиться сейчас, но вы никогда не возвращаетесь к старым постам, чтобы поставить дизлайк. Более того, ваше «мне нравится» сегодня может отличаться от того, что это будет значить через год. Симпатия к политику до и после важного события, такого как, например, референдум в ЕС, может сигнализировать о совершенно разных политических позициях. Политические кампании также сталкиваются с конкуренцией со стороны других кампаний, использующих ту же тактику, так что по крайней мере некоторые эффекты способны нейтрализовать друг друга[229].

Однако опасения вызывает тот факт, что микротаргетинг действительно оказывает воздействие, даже если оно ограничено. Когда количество людей, подвергающихся целевой пропаганде, исчисляется миллионами, вам хватит и ограниченного эффекта, чтобы воздействовать на выборы. В 2012 году Facebook опубликовала в Nature результаты рандомизированного контролируемого исследования 61 миллиона пользователей в США во время выборов в Конгресс 2010 года. В духе Facebook это исследование, похоже, было проведено без информированного согласия людей[230]. В день выборов одной группе показали рекламу в верхней части ленты новостей с призывом к голосованию вместе с кнопкой «Я проголосовал». Другой группе было показано то же утверждение и до шести фотографий профилей друзей пользователей Facebook, которые уже нажали кнопку «Я проголосовал». Третья контрольная группа не получила никаких сообщений. Результаты показали, что в случае тех, кто видел сообщение с фотографиями своих друзей, вероятность того, что они пошли голосовать, была выше на 0,4 %. Может показаться, что это не такая существенная разница, но когда миллионы людей сталкиваются с подобным воздействием, цифры получаются значительные. Авторы исследования утверждали, что явка увеличилась примерно на 340 000 голосов[231].

Если вспомнить о том, сколько выборов выиграно с пугающе малым преимуществом, то 340 000 голосов кажутся более чем достаточными, чтобы изменить ход выборов. В США Трамп победил на выборах 2016 года с небольшим перевесом в 70 000 голосов в трех колеблющихся штатах[232]. На референдуме по выходу Великобритании из ЕС проведение кампании Leave привело к победе с перевесом менее чем в два процента голосов. Facebook, агитирующая своих пользователей голосовать, может быть вполне благим делом. Но что, если они побуждают к голосованию только одних людей, а других – нет? Причем не случайных людей, а тех, которые, скорее всего, проголосуют за конкретного кандидата? Одной из целей Cambridge Analytica было выявление избирателей, которых они называли «убеждаемыми», – тех, кого можно было убедить либо воздержаться от голосования, либо проголосовать за кандидата, за которого они иначе не голосовали бы. Некоторым людям они показывали контент, отговаривающий их от голосования, другим – фальшивые новости о кандидате, позиции которого они пытались подорвать, и так далее.

То, что Facebook может влиять на избирателей, должно нас беспокоить. Как отмечают сами авторы исследования Facebook, американская президентская гонка 2000 года между Элом Гором и Джорджем Бушем-младшим была выиграна всего 537 голосами во Флориде – это менее 0,01 процента голосов, отданных в этом штате. Если бы Facebook побудила избирателей-демократов, а не республиканцев во Флориде прийти к урнам для голосования, то Эл Гор, вероятно, стал бы президентом и история могла бы принять совершенно другой оборот. Иконки голосования в Facebook использовались на референдуме в Шотландии в 2014 году, на референдуме в Ирландии в 2015 году, на выборах в Великобритании позднее в том же году, на референдуме по выходу Великобритании из ЕС в 2016 году, выборах в США в 2016 году, на федеральных выборах в Германии в 2017 году и на парламентских выборах 2017 года в Исландии. Как минимум в Исландии не всем гражданам были показаны эти иконки, но мы не знаем, сколько людей увидели их и по каким критериям было решено, кому должно быть показано это послание, а кому – нет. Мы просто не знаем, какое влияние это оказало на выборы. Facebook не разглашает эту информацию[233]. То, что одна из самых могущественных корпораций в мире знает о нас так много и позволяет себе показывать нам сообщения, которые могут повлиять на наше поведение во время выборов, выглядит, мягко говоря, неразумно. Следует более серьезно относиться к возможности «избирательной геометрии» (изменения границ избирательных округов, целью которого является искусственное формирование благоприятных условий для одного из кандидатов или партии. – Прим. ред.) при осуществлении демократических процедур. К опасности предвыборных махинаций, которые угрожают демократии, следует отнестись более серьезно.

Один из важнейших столпов здоровой демократии – честные выборы. Мало того, люди должны быть уверены в справедливости избирательного процесса. Если большинство граждан заподозрит вмешательство в выборы, легитимность правительства может быть серьезно подорвана.

Есть несколько причин для беспокойства по поводу вмешательства в выборы и роли Facebook в американской президентской гонке 2020 года. Во-первых, почти 70 % взрослых американцев используют Facebook[234]. Социальная сеть может повлиять на большинство американских избирателей (видеохостинг YouTube, принадлежащий Google и также занимающийся воздействием на людей с помощью их данных, является единственной другой крупной платформой социальных сетей, которую использует большее количество американцев (73 процента. – Прим. авт.)).

Во-вторых, как уже не раз упоминалось в этой книге, Facebook является заведомо ненадежной компанией, так часто подводя своих пользователей, что можно сбиться со счета при перечислении примеров[235].

В-третьих, Facebook объявила, что не будет модерировать или проверять факты политической рекламы[236]. То есть Facebook не только допускает ложь и фейковые новости, но и уделяет им приоритетное внимание, поскольку платная реклама дает заказчику доступ к инструментам усиления воздействия, таким как микротаргетинг[237].

В-четвертых, что наиболее важно, Facebook имеет личную заинтересованность в том, кто победит на выборах, потому что они хотят избежать регулирования, вследствие чего соблазн повлиять на ход голосования у компании весьма велик.

Наем бывших республиканцев на руководящие должности и личная заинтересованность компании Facebook в том, чтобы ее деятельность никем не регулировалась, вызвали опасения по поводу ее консервативного уклона[238]. Сегодня ситуация такова, что Facebook может вмешаться в выборы без какой-либо ответственности за это. Скорее всего, мы даже не узнаем, что это произошло[239].

В лучшем случае Facebook действует добросовестно и воздерживается от вмешательства в выборы даже вопреки своей заинтересованности избежать регулирования. Такое вполне может быть. Но мы не должны слепо верить, что Facebook или другие компании не нарушают наших демократических процессов. Верховенство закона не может полагаться исключительно на добросовестность. Демократия может быть прочной только в том случае, если никто не сможет безнаказанно вмешиваться в выборы.

Даже если неясно, в какой степени деятельность компании Cambridge Analytica и другие аналогичные усилия оказались успешными в воздействии на исход голосования, совершенно ясно, что намерение Cambridge Analytica состояло в том, чтобы помешать демократии. Они хотели недобросовестным образом повлиять на электорат. Они не пытались распространять правдивую информацию и приводить веские аргументы в пользу того, почему мы должны голосовать за кандидата, а скорее они апеллировали к самым примитивным эмоциям людей и были недобросовестны в отношении истины, показывая совершенно разное содержание разным людям. Отговаривать от участия в голосовании людей, которые могут голосовать не за того кандидата, – это попытка подорвать демократию.

Вполне возможно, и даже очень вероятно, что и сторонники выхода Великобритании из ЕС, и Трамп проиграли бы, если бы не персонализированная политическая реклама в социальных сетях. Но даже если это не так, попытки подрыва демократии должны быть остановлены, так же как попытки убийства должны быть пресечены, даже если есть шанс, что они могут оказаться безуспешными.

Вы можете задаться вопросом, в чем разница между политической рекламой с микротаргетингом, основанным на личных данных, и традиционной политической рекламой. В конце концов, пропаганда или ложная информация о политиках появились задолго до наступления цифровой эпохи. Принципиально новым и разрушительным является показ разным людям совершенно разной и потенциально противоречивой информации.

Информационные компании пытаются использовать наши личностные свойства, чтобы сказать нам то, что мы хотим услышать или что нам нужно услышать, чтобы вести себя так, как хотят они. Кандидату может сойти с рук трансляция одной информации одной группе граждан и совсем другой информации – другой группе.

Персонализированная реклама делит публичную сферу на отдельные параллельные реальности. Если каждый из нас живет в отдельной реальности, потому что мы сталкиваемся с совершенно разным контентом, каковы наши шансы на проведение здоровых политических дебатов? Когда политикам приходится разрабатывать одну рекламу для всего населения, они, как правило, более разумны и апеллируют к аргументам, которые, вероятно, поддержит большинство людей. Персонализированная реклама, скорее всего, будет экстремистской.

Когда все мы видим одну и ту же рекламу, мы можем обсудить ее. Журналисты, ученые и политические оппоненты могут проверять факты и критиковать их. Исследователи могут попытаться измерить влияние рекламы. Все это заставляет политических кандидатов быть последовательными.

Кроме того, когда реклама является общедоступной, нам легче следить за политическими партиями, чтобы они не тратили больше, чем им разрешено, и не проводили рекламные кампании способами, запрещенными законом. В других средствах массовой информации, таких как телевидение и радио, политическая реклама строго регулируется. В Великобритании она и вовсе запрещена, за исключением ограниченного количества скучных «партийно-политических» передач.

Мы можем регулировать рекламу только в том случае, если видим ее, поэтому теневая и персонализированная реклама должна исчезнуть (подробнее о рекламе – в следующей главе).

Когда социальные сети просят нас поделиться нашими данными, чтобы классифицировать нас как старых или молодых, мужчин или женщин, консерваторов или либералов, выступающих за или против иммиграции, сторонников или противников абортов и на основании этого относиться к нам соответствующим образом, они создают и укрепляют разногласия. Мы не должны позволить общественной сфере расколоться по тем линиям, которые нас разобщают. Так не должно быть. Чтобы общественная сфера была удобной для всех, чтобы сосуществовать в гармонии, несмотря на наши различия, чтобы был возможен плюрализм, наша коллективная жизнь должна сохранять определенную степень нейтралитета, для чего нам и нужен либерализм.

Угроза либерализму

Основной постулат либерального общества состоит в том, что люди должны иметь свободу жить своей жизнью так, как они считают нужным. Существует презумпция в пользу свободы, так что «бремя доказывания должно лежать на тех, кто… борется за любые ограничения или запреты», как писал Джон Стюарт Милль[240]. Следует ввести правила, чтобы избежать причинения вреда людям, гарантировать, что граждане свободны от ненужного вмешательства, чтобы все люди могли в равной степени участвовать в жизни общества.

Конфиденциальность важна для создания прочной частной сферы – защитной оболочки от общества, – где люди могут наслаждаться временем и местом, свободным от чужих взглядов, суждений, вопросов и вторжений. Нормы конфиденциальности выполняют важную функцию, давая нам передышку. Здоровая степень замкнутости и скрытности необходима для того, чтобы цивилизованная жизнь протекала без потрясений[241]. Если бы мы все могли читать мысли друг друга в любое время, частная сфера превратилась бы в ничто, а публичная была бы заражена бесконечными ненужными конфликтами. Либерализм заключается не только в том, что правительства не вмешиваются в частную жизнь граждан. Чтобы либерализм процветал, он должен быть встроен в аналогичную культуру сдержанности, в которой обычные граждане стараются не мешать другим людям жить так, как те считают нужным.

Социальные сети побуждают нас делиться информацией в интернете. Бизнес-модель Facebook основана на людях, раскрывающих свои данные в сети. Когда пользователи меньше делятся персональной информацией, Facebook начинает беспокоиться и добавлять такие настройки на своей платформе, которые позволили бы собирать больше данных[242]. «Делитесь всем, чем можете» – вот их основной посыл людям. Расскажите нам, кто вы, что вы чувствуете, какая у вас семья и кто ваши друзья. Расскажите миру, что вы думаете о других людях. Мы хотим знать. Мы хотим услышать, о чем вы хотите рассказать.

Платформы социальных сетей пропагандируют культуру, в которой людям не рекомендуется сдерживаться. Чем больше людей делятся, тем больше данных можно проанализировать и использовать для продажи доступа к нам. Чем больше люди комментируют то, чем делятся другие, тем больше кликов, больше рекламы, больше денег, больше власти кто-то получает. Это может показаться беспроигрышной ситуацией. Мы можем говорить о себе бесконечно, а технологические компании будут продолжать зарабатывать на этом. Но важно помнить, что многое из того, что публикуется в интернете, не приносит нам никакой пользы. Наши данные эксплуатируются способами, которые идут вразрез с нашими интересами, и то, чем мы делимся, подвергает нас опасности воздействия других пользователей, часть которых будут только счастливы троллить, шантажировать или унижать нас.

Социальные сети – это безудержное общение. Но культура общения требует определенной сдержанности в том, что вы рассказываете о себе, о своих взглядах и особенно о других людях, и в вопросах, которые вы задаете.

Сдержанность не означает нечестности. Точно так же, как одежда не вводит в заблуждение окружающих, скрывая вашу наготу, сдержанность в высказываниях по поводу того, насколько глупым, по вашему мнению, является другой человек, нельзя считать обманом. Не обязательно знать друг о друге все, чтобы откровенно поговорить. Вам не нужно знать самые темные страхи, секреты и фантазии другого человека, чтобы дружить с ним, не говоря уже о хороших отношениях с соседями. Мы не хотим рассказывать своим согражданам все о себе. И что не менее важно, мы не хотим знать все о них.

Ожидать от людей совершенства в том, как они выглядят, что говорят и что думают, невозможно и даже неразумно. Как отмечает философ Томас Нагель, «каждый человек имеет право время от времени мысленно совершать убийство»[243]. Если мы будем склонять людей к тому, чтобы они как можно больше делились информацией о себе, это приведет к развитию пагубной социальной среды. Необходимо поощрять стремление контролировать все, что мы несем в общество. Культура разоблачения побуждает нас делиться своими мысленными актами убийства и тем самым настраивает нас друг против друга. Беречь друг друга от наших не слишком приятных сторон – это не недостаток, а добродетель.

Либерализм требует, чтобы общественный контроль осуществлялся только в тех сферах, где это было бы необходимо для защиты людей и культивирования здоровой общественной жизни. А культура разоблачения требует, чтобы все подвергалось общественному контролю.

Технологические гиганты пытаются протолкнуть идею о том, что тем, кто не делает ничего плохого, нечего скрывать, и что прозрачность – это всегда добродетель. Это неправда. Эксгибиционисты, которые выставляют себя напоказ перед другими людьми, добродетельными на являются. В цифровой экономике каждый вынужден сообщать больше, чем необходимо, чтобы найти друзей, эффективно общаться и вести открытые дискуссии. И все это нужно лишь для того, чтобы собрать больше данных.

Избыточный обмен информацией выгоден технологическим гигантам, а не пользователям. Это делает общественную сферу непригодной для жизни. Такое неослабевающее социальное давление с целью поделиться информацией приводит к проявлениям агрессии и нетерпимости, а также к чрезмерной бдительности и «охоте на ведьм». Здесь нет места мирному решению вопросов. Каждое изображение и слово, каждый клик собираются и монетизируются компаниями, а также изучаются и потенциально разворачиваются в катарсическом публичном акте онлайн-высмеивания со стороны пользователей Сети. Такая постоянная возня по поводу каждой детали того, что люди говорят и делают, отвлекает нас от более важных разговоров – о проблемах правосудия, экономики, экологии и общественных благ. Пока мы бесконечно ссоримся в Сети, троллим друг друга и рвем людей в клочья из-за человеческих слабостей, которые у нас, вероятно, тоже есть, наша демократия терпит крах.

В некотором смысле культура разоблачения напоминает жестокость во взаимоотношениях детей. Дети также известны тем, что не знают, когда нужно замолчать, а также своей потенциальной жестокостью – особенно когда они находятся в группе. Возможно, по мере взросления интернета мы будем отдаляться от культуры чрезмерного обмена информацией и запугивания и перейдем к более взрослым способам взаимоотношений друг с другом.

Угроза безопасности людей

Персональные данные использовались, используются и будут использоваться не по назначению. И некоторые злоупотребления личными данными более опасны, чем пресловутый асбест.

Одно из самых смертоносных злоупотреблений данными было совершено нацистами во время Второй мировой войны. Когда нацисты захватывали страну, они быстро завладевали местными регистрационными книгами в качестве первого шага по контролю населения и, в частности, по поиску евреев. Страны сильно различались как по типу хранимых ими записей, так и по своей реакции на стремление нацистов получить данные. Самое яркое сравнение – это сравнение Франции и Нидерландов.

Якобус Ламбертус Ленц не был нацистом, но он сделал для нацистского режима больше, чем самые ревностные антисемиты. Он был голландским инспектором по регистрации населения и питал слабость к статистике населения. Его девизом было: «Записывать – значит служить». В марте 1940 года, за два месяца до нацистского вторжения, он предложил голландскому правительству систему личной идентификации, в которой все граждане должны были бы иметь при себе личные карты. Для таких карт использовались полупрозрачные чернила, которые исчезали под кварцевой лампой, и бумага с водяными знаками, чтобы предотвратить их подделку. Правительство отклонило его предложение, аргументируя это тем, что такая система противоречит голландским демократическим традициям, поскольку она предполагает обращение с обычными людьми как с преступниками. Ленц был глубоко разочарован. Несколько месяцев спустя он предложил ту же идею Управлению уголовной полиции Третьего рейха. Оккупанты охотно претворили его идею в жизнь. Каждый взрослый голландец должен был иметь при себе удостоверение личности. На карточках евреев была выбита буква J (в переводе с немецкого «Jude» означает «еврей». – Прим. ред.) – фактически это был их смертный приговор.

В дополнение к этим картам Ленц использовал машины Холлерита – табуляторы, проданные IBM, в которых применялись перфокарты для записи и обработки данных, – чтобы расширить данные о переписи населения. В 1941 году был издан указ, требующий от всех евреев зарегистрироваться в местном отделении бюро переписи населения. Более того, на протяжении десятилетий голландцы наивно собирали данные о вероисповедании и другую личную информацию, стремясь создать всеобъемлющую систему, которая могла бы отслеживать каждого человека «от колыбели до могилы». Ленц и его команда использовали машины Холлерита и всю доступную им информацию, чтобы нацистам было легче выслеживать людей.

В отличие от Голландии, информация о вероисповедании во Франции не фиксировалась из соображений конфиденциальности. Последняя перепись для сбора таких данных была проведена в 1872 году. Анри Бунле, начальник Главного статистического управления Франции, дал понять Генеральной комиссии по еврейским вопросам в 1941 году, что Франция не знает, сколько у нее евреев, не говоря уже о том, где они живут. Кроме того, во Франции не было развитой инфраструктуры перфокарт, как в Голландии, что затрудняло сбор новых данных. Если бы нацисты хотели, чтобы полицейские управления регистрировали людей, тем пришлось бы делать это вручную на бумаге и с использованием учетных карточек.

Без машин Холлерита не было бы возможности отсортировать и подсчитать собираемую информацию о населении. Нацисты были в отчаянии. Рене Кармиль, генеральный контролер французской армии, энтузиаст перфокарт и владелец табуляционных машин, в том числе машин Холлерита, вызвался упорядочить информацию и доставить евреев Франции к их палачам.

Кармиль разработал национальный персональный идентификационный номер, который служил для людей описательным штрихкодом. Этот код стал предшественником текущего номера социального страхования во Франции. Личным характеристикам, таким как, например, профессия, присваивались разные номера.

В 1941 году он провел перепись всех французских граждан в возрасте от четырнадцати до шестидесяти пяти лет. Пункт № 11 анкеты просил евреев идентифицировать себя как через своих бабушек и дедушек, так и через исповедуемую ими религию. Прошли месяцы, а списки евреев, которых ожидали от Кармиля, не приходили. Нацисты потеряли терпение. Они начали облавы на евреев в Париже, но без таблиц Кармиля они в основном полагались на евреев, выдавших себя самостоятельно. Прошло еще несколько месяцев, а списки так и не поступили.

Рене Кармиль обманул нацистов. Он никогда и не намеревался выдавать своих сограждан. Он был одним из самых активных участников французского сопротивления. В результате его операции было создано около 20 000 поддельных удостоверений личности, и он использовал свои счетные машины для выявления людей, которые могли сражаться с нацистами. Ответы на 11-й вопрос о том, были ли люди евреями, никогда не табулировались. Эти отверстия так и не были пробиты, эти данные навсегда утрачены. Было найдено более 100 000 измененных перфокарт. Перфокарты никогда не были переданы нацистам. Более 100 000 человек спас всего один человек, который решил не собирать их данные – их токсичные данные.

Логично предположить, что Кармиль знал, что в итоге его поймают, если он не предоставит данные, которые обещал. Он был задержан СС в 1944 году. Его пытали в течение двух дней, а затем отправили в концлагерь Дахау, где он скончался от истощения в 1945 году.

Сбор данных может убить. У голландцев был самый высокий уровень гибели евреев в оккупированной Европе – 73 процента. Из примерно 140 000 голландских евреев более 107 000 были депортированы и 102 000 из них – убиты. Во Франции погибли лишь 25 процентов евреев. Из примерно 300 000–350 000 евреев 85 000 были депортированы и 82 000 из них были убиты. Конфиденциальность спасла сотни тысяч жизней во Франции, а ее отсутствие способствовало гибели сотен тысяч людей в Голландии. Дальнейшее подтверждение гипотезы о том, что разница в статистике между двумя странами заключалась именно в сборе данных, основывается на том, что у еврейских беженцев, живших в Голландии, был более низкий уровень гибели, чем у голландских евреев. Беженцы избежали регистрации.

Другие задокументированные случаи неправомерного использования личных данных включают изгнание американских индейцев с их земель в США в XIX веке, насильственное переселение национальных меньшинств в Советском Союзе в 1920-х и 1930-х годах и использование системы регистрации, внедренной бельгийцами в 1930-х годах, для поиска и убийства представителей народа тутси во время геноцида в Руанде в 1994 году. Лучшим предсказанием того, что что-то произойдет в будущем, является тот факт, что это произошло в прошлом. Эти истории не из далекой галактики в мире фантастики. Это истории, из которых мы должны извлечь уроки, чтобы избежать повторения трагических ошибок прошлого (принимая во внимание эту мрачную историю удостоверений личности, решение Великобритании отменить их в 1952 году выглядит вполне понятным, равно как и нежелание их возрождать, что обсуждалось на недавних дебатах. – Прим. авт.).

Представьте себе современный авторитарный режим, завладевший всеми нашими личными данными. У тиранов прошлого были лишь обрывки данных по сравнению с тысячами единиц информации, которые сегодня можно собрать практически о любом человеке в мире с помощью всего лишь нескольких щелчков мышью. Авторитарное правительство могло бы узнать обо всех наших слабостях без особых усилий. Если бы такое правительство могло предсказать каждый наш шаг, это стало бы началом непобедимого режима.

Среди множества историй о Второй мировой войне, связанных с данными, одна особенно поучительна. В марте 1943 года отряд голландского сопротивления атаковал муниципальный реестр Амстердама. Цель состояла в том, чтобы уничтожить как можно больше записей в попытке помочь 70 000 евреев в Амстердаме избежать гибели. Геррит ван дер Вин, Виллем Арондеус, Йохан Брауэр, Руди Блумгартен и другие вошли в здание, переодевшись полицейскими. Они усыпили охранников, сохранив им жизнь, облили папки с документами бензином и подожгли. Сочувствующие из числа пожарных знали об атаке. Когда прозвучал сигнал тревоги, они попытались задержать развертывание грузовиков, давая огню время сделать свою работу. Когда они достигли реестра, то использовали как можно больше воды, чтобы повредить максимальное количество записей. К сожалению, эта атака оказалась не очень удачной. Были найдены и казнены двенадцать членов группы сопротивления. А пожар уничтожил всего лишь около 15 % документов[244].

Подобно тому, как нацисты знали, что нужно обращаться к регистрационным книгам, сегодняшние правонарушители знают, где найти наши данные. И им даже не нужно военное вторжение в страну, чтобы получить нашу самую важную информацию. Им просто нужен хороший хакер. В этом смысле риск доступа к нашим персональным данным и всему, что защищает наша конфиденциальность, намного выше, чем в мире до интернета.

Мы должны учиться на ошибках прошлого. Персональные данные являются токсичными, и мы должны относиться к ним соответственно. Так не будем же поступать с ними так, как было с асбестом.

Когда-то мы добавляли асбест повсюду: в автомобильные тормозные колодки, трубы, потолочную и напольную плитку, бетон, цемент, кирпичи, одежду, матрасы, электрические одеяла, обогреватели, тостеры, гладильные доски, фильтры для сигарет, искусственный снег и др. Как только он оказался в составе материалов наших крыш и стен, в самой структуре тех мест, где мы живем, его стало очень трудно извлечь без риска. Асбест ежегодно убивает сотни тысяч людей. Он по-прежнему отравляет людей по всему миру, даже там, где он сейчас запрещен[245].

Давайте же не позволим личным данным травить людей, общественные институты и устройство. К счастью, у нас есть время, чтобы скорректировать нашу текущую траекторию, когда дело доходит до персональных данных. Мы можем внести изменения в работу интернета и экономики. Давайте поучимся на опыте Голландии времен Второй мировой войны. Голландцы сделали как минимум две большие ошибки в отношении конфиденциальности. Они накопили слишком много личных данных – как и мы. И как только они поняли, насколько токсичны эти данные, у них не было простого и быстрого способа их удалить – как и у нас. Нам нужно изменить ситуацию, пока не стало слишком поздно.

Глава 5

Отключить капитализм слежки

Экономика слежки зашла непозволительно далеко. Она слишком много раз злоупотребляла нашими персональными данными. Количество и уровень конфиденциальности продаваемых данных делают этот грандиозный эксперимент чересчур опасным для продолжения. Мы должны положить конец торговле персональными данными.

С экономикой данных пора покончить, потому что она не в ладах со свободой, равенством, стабильностью и либеральными основами демократии. Мы можем сидеть сложа руки и ждать действительно масштабной катастрофы данных – от огромной утечки биометрической информации (учтите, что, в отличие от паролей, наши лица нельзя изменить) до неправомерного использования личных данных в целях геноцида, – а можем реформировать экономику данных уже сейчас, пока не стало слишком поздно.

Персональные данные стали настолько важной частью экономики, что отказ от них может показаться нереальным. Когда-то идея покончить с рабством звучала так же, если не более необычно; люди считали отмену рабства экономически нецелесообразной. Сегодня мы смотрим в прошлое и сокрушаемся о дикости рабства. Завтра мы будем смотреть на сегодняшний день и сокрушаться по поводу глупости экономики персональных данных.

Хотя люди не всегда преуспевают в предотвращении бедствий, некоторые примеры показывают, что мы способны координировать свои действия и не допустить печального исхода. Озон во внешних слоях атмосферы поглощает бóльшую часть ультрафиолета от солнечного излучения. Без защищающего нас озонового слоя наши глаза, кожа, иммунная система и гены будут повреждены ультрафиолетовым излучением. По мере истончения озонового слоя во второй половине XX века увеличилась заболеваемость раком кожи. В 1985 году группа ученых опубликовала в Nature статью, описывающую степень ежегодного истощения озонового слоя над Антарктикой. Мы шли к катастрофе.

Всего два года спустя, в 1987 году, был подписан Монреальский протокол – международное соглашение, направленное на запрет производства и использования химических веществ, разрушающих озоновый слой, включая ХФУ (хлорфторуглероды). Эти химические соединения использовались во всем мире в холодильниках, кондиционерах и аэрозольных баллончиках. Это делало их привлекательными ввиду низкой токсичности, огнестойкости (как у асбеста) и устойчивости к химическим реакциям. К сожалению, тот факт, что они не вступают в реакцию с другими соединениями, также делает их опасными, поскольку дает им долгую жизнь, в течение которой они могут проникнуть в атмосферу. У меня есть смутное детское воспоминание о визите в дом друга, где его отец объяснял нам, что он посещал регион, находящийся под дырой в озоновом слое, в результате чего очень сильно обгорел на солнце.

Благодаря сопротивлению экспертов и общественности производству и использованию ХФУ промышленность внедрила инновации и нашла альтернативы. Озоновые дыры исчезают, озоновый слой восстанавливается со скоростью примерно от 1 до 3 процентов за десятилетие с 2000 года. Ожидается, что такими темпами озоновый слой над северным полушарием будет полностью восстановлен к 2030-м годам. К 2060 году озон полностью восстановится во всем мире. Поэтапный отказ от ХФУ имел еще одно преимущество: он вдвое сократил глобальное потепление[246]. Если мы смогли спасти озоновый слой, то и сохранить нашу конфиденциальность будет нам под силу.

Большинство рекомендаций в этой главе адресованы политикам. Подобно сохранению озонового слоя, реформа экономики данных требует регулирования. И это единственный способ. Но политиков заставит действовать давление с вашей стороны, со стороны народа. В итоге мы должны потребовать прекращения торговли личными данными, и каждый из нас может многое сделать, чтобы этому содействовать.

Политики часто хотят защитить нас. Но они могут опасаться последствий своего смелого шага – а вдруг их коллеги по партии не согласятся, или избиратели не оценят то, что они делают, или это повредит их шансам подняться по политической лестнице. Политики получают свою власть от нас. Если они узнают, что нас беспокоит защита конфиденциальности и мы отзовем наши голоса и поддержку, если они не займутся ее регулированием, вы можете быть уверены, что они начнут действовать. Они просто ждут от нас сигнала. Наша задача – быть как можно более информированными, чтобы мы знали, о чем просить наших политиков. Вы можете выразить свои убеждения, связавшись с депутатами, проголосовав и защитив свою конфиденциальность, что и является темой следующей, и последней, главы.

Убрать персонализированную рекламу

Вернемся к тому, с чего начали. Истоки темных сторон экономики данных лежат в развитии персонализированной рекламы – с этого и следует начать решение проблемы. Реклама с микротаргетингом, основанная на информации о вашей личности и поведении, не стоит тех негативных последствий, которые она создает.

Одна из самых серьезных опасностей персонализированной рекламы, как мы видели при обсуждении токсичности персональных данных, – это возможность того, что она может подорвать политические процессы. Вы можете подумать, что более разумным решением этой проблемы является запрет политической рекламы, как это сделал Twitter в 2019 году. Но нелегко четко отделить, что является политическим, а что нет. Twitter определяет политический контент как «контент, который ссылается на кандидата, политическую партию, избранное или назначенное государственное должностное лицо, выборы, референдум, способы голосования, законодательство, постановления, директивы или судебные решения». А как насчет рекламы, отрицающей изменение климата? Или информирования общественности об изменении климата? Или объявлений против иммиграции? Или рекламы центров репродуктивного здоровья? Все это кажется политическим и может быть тесно связано с конкретным кандидатом или выборами, но все же неясно, должно ли это быть запрещено в Twitter.

Лучшее решение – полностью запретить персонализированную рекламу. Она не только поляризует политику, но и гораздо более агрессивна, чем думает большинство людей. Когда вы видите персонализированную рекламу, это означает не просто то, что данная компания знает о вас больше, чем ваши друзья, чтобы показать вам рекламу, которая, по ее мнению, больше всего изменит ваше поведение. Это уже плохо. Дальше – хуже. Когда вы заходите на сайт, за ним скрываются трекеры. Хотя может показаться, что вы взаимодействуете только с тем сайтом, на котором находитесь, на самом деле десятки компаний, таких как Google и Facebook, могут собирать персональные данные – например, историю просмотров и покупок, а также данные о местоположении. По мере загрузки страницы и во многих случаях еще до того, как вы получите возможность дать (или не дать) согласие на сбор данных, конкурирующие рекламодатели борются на аукционе за право показать вам свое объявление.

Аукцион рекламных объявлений в реальном времени (RTB) отправляет ваши личные данные заинтересованным рекламодателям часто без вашего разрешения. Предположим, Amazon получает эти данные и распознает вас как пользователя, который раньше посещал их веб-сайт в поисках обуви. Они могут быть готовы заплатить больше, чем другие, чтобы склонить вас купить обувь на их сайте. Так в вашей ленте появляется реклама обуви на Amazon. К сожалению, в этом процессе среди прочих есть и очень личные данные, такие как сексуальная ориентация и политическая принадлежность, которые могли быть отправлены неизвестному количеству возможных рекламодателей без вашего ведома или согласия. И эти компании будут хранить вашу персональную информацию[247].

Преимущества целенаправленной рекламы понятны. Пользователи не хотят знать о продуктах, которые им неинтересны. Если вам наплевать на тракторы, то видеть их на своем экране вам будет не очень приятно. В свою очередь и рекламодатели не хотят тратить свои ресурсы на показ рекламы людям, которые никогда не купят их продукт. Как сказал известный торговец XIX века Джон Ванамейкер: «Половина денег, которые я трачу на рекламу, расходуется впустую; проблема в том, что я не знаю, какая половина».

Целенаправленная реклама обещает решить обе проблемы, показывая клиентам то, что они заинтересованы купить, и заставляя рекламодателей платить только за рекламу, которая увеличит их продажи. В теории это беспроигрышная ситуация. К сожалению, практика расходится с теорией. Такая практика сделала капитализм слежки нормой. Он приводит к распространению фейковых новостей и кликбейта. Он расколол общественную сферу и даже поставил под угрозу наши демократические процессы. И как если бы всех этих внешних эффектов было недостаточно, микротаргетированная реклама даже не делает того, для чего она якобы изобретена: она не показывает нам то, что мы хотим видеть, и неясно, действительно ли она позволяет рекламодателям экономить деньги и увеличивает их продажи.

Реклама по большей части имеет под собой меньше научных основ, чем можно себе представить. Маркетологи часто следуют рекламной стратегии скорее интуитивно, чем потому, что у них есть веские доказательства того, что именно будет работать. В некоторых случаях такой интуитивный подход приводит к тому, что известные компании впустую тратят на рекламу огромные деньги[248].

Результатов исследований недостаточно, чтобы мы могли с высокой степенью уверенности оценить эффективность целевой рекламы. Тем не менее есть основания полагать, что персонализированная реклама не так прибыльна, как надеялись оптимисты[249]. Предварительные исследования показывают, что реклама с использованием файлов cookie действительно увеличивает доходы, но только примерно на 4 % – в среднем всего на 0,00008 доллара за рекламу.

Тем не менее рекламодатели готовы платить за целевую рекламу гораздо больше, чем за нецелевую. По некоторым оценкам, онлайн-реклама, в которой не используются файлы cookie, продается всего за 2 процента от стоимости того же объявления с файлом cookie[250]. «Существует своего рода волшебное умозаключение, что когда речь идет о целевой рекламе, то (как утверждается) от этого все будут в выигрыше, – говорит Алессандро Аккисти, профессор Университета Карнеги-Меллона и один из авторов исследования. – На первый взгляд это кажется правдоподобным. Проблема в том, что при дальнейшем анализе вы обнаружите, что это утверждение практически не подтверждается эмпирическим путем»[251].

Если целевая реклама стоит намного дороже, чем нецелевая, а увеличение дохода вследствие ее использования незначительно, то мы можем потерять нашу конфиденциальность вообще ни за что. Такие платформы, как Google и Facebook, могут оправданно наживаться на продаже «воздуха» (однако стоит иметь в виду, что, даже если целевая реклама не стоит затрат на нее, большие платформы могут предоставить рекламодателям доступ к обширной аудитории. Опрос, проведенный Digiday, подтверждает это подозрение. Из 40 руководителей издательского бизнеса, принявших участие в опросе, для 45 % поведенческий таргетинг рекламы не принес заметной пользы, в то время как 23 % респондентов заявили, что это фактически привело к снижению их доходов от рекламы[252].

В ответ на требования GDPR New York Times заблокировала персонализированную рекламу, но не увидела падения доходов. Скорее, они даже выросли[253]. Одна из причин, по которой целевая реклама может быть не очень успешной для увеличения доходов, заключается в том, что люди ее ненавидят[254]. Вы помните времена, когда реклама была креативной и остроумной? Раньше она была настолько интересной, что вы могли скомпилировать ее в телешоу на час-два и люди захотели бы это посмотреть. Теперь такого нет. Бóльшая часть рекламы в наши дни, особенно онлайн-реклама, в лучшем случае неприятна, а в худшем – отвратительна. Обычно она выглядит безобразно, отвлекает и очень навязчива.

Современная реклама забыла уроки Дэвида Огилви, известного «отца рекламы», который писал, что «нельзя утомлять людей призывами покупать ваш продукт, вы можете только заинтересовать их в покупке». Вы также не можете (и не должны) запугивать людей, заставляя их покупать ваш продукт. «Легче продавать [людям] с дружеским рукопожатием, чем ударяя их по голове молотком. Вам следует попытаться понравиться потребителю», – утверждал Огилви[255].

В некотором смысле онлайн-реклама хуже, чем удары молотком. Люди могут особенно ненавидеть целевую рекламу, потому что она вторгается в нашу частную жизнь. Вы когда-нибудь чувствовали дискомфорт от рекламы, которая словно подглядывает за вами? Вы разговариваете с другом на деликатную тему – возможно, думаете о смене работы, о рождении ребенка или покупке дома, – и следующее объявление, которое вы видите, напрямую связано с тем, что вы считали личным разговором.

Неудивительно, что исследования показывают, что реклама менее эффективна, когда люди считают ее отвратительной[256]. Если люди знают, что реклама нацелена на них, отслеживая их в Сети или оценивая, они с меньшей вероятностью будут ею пользоваться.

Google почувствовала, что люди давно испытывают негативные эмоции, когда понимают, что за ними шпионят, и применила секретный подход, как объяснялось ранее.

Вы помните, когда впервые начали понимать, как ваши данные использовались технологическими компаниями? Полагаю, вы узнали об этом не из четкого сообщения от одной из крупных платформ. Возможно, вы начали замечать, что реклама, которую вы видели, была связана с вами, но отличалась от рекламы, которую видели ваши друзья и семья. Или, возможно, вы читали об этом в статье или книге, написанной журналистом со слов разоблачителя, который изложил внутреннюю кухню капитализма слежки. Эта целевая реклама, скорее всего, не дает тех преимуществ, которые она была призвана предложить, что делает нашу потерю конфиденциальности еще более бесполезной и абсурдной. Но даже если бы целевая реклама показывала нам то, что мы хотим видеть, и увеличивала доход продавцов, у нас все равно была бы веская причина отказаться от нее.

Целевая реклама может не очень хорошо подходить для бизнеса, но она отлично работает в предвыборных кампаниях, как мы уже видели.

Роста доходов в 4 % от продажи продукта будет недостаточно, чтобы компенсировать стоимость рекламы, но тот же эффект при голосовании на выборах вполне может решить вопрос об их результатах.

Персонализированная реклама нормализовала злоупотребления в процессе использования технологий. Они превратили маркетинг в оружие, распространяя дезинформацию, разрушили и поляризовали общественную сферу. Пока такие платформы, как Facebook, используют персонализированную рекламу, они будут вызывать разногласия, открывая для нас контент, который настраивает нас друг против друга, несмотря на заявление компании о том, что ее миссия – «сблизить мир». Facebook будет наносить еще больший ущерб, пока доминирует в онлайн-рекламе.

Facebook отвлекает издателей от их собственных каналов распространения и поощряет публикацию кликбейта. Ослабление отношений между издателями и их аудиторией особенно беспокоит газеты. Это делает их зависимыми от платформ, которые могут изменить свой алгоритм и ухудшить их просмотры[257]. Еще до того, как Facebook объявила об изменении в своем алгоритме для продвижения постов родственников и друзей в 2018 году, в отличие от контента, создаваемого издателями, новостные организации уже испытывали резкое падение реферального трафика с Facebook. Как ни странно, некоторые сайты сообщили о падении на 40 процентов. BuzzFeed пришлось сократить штат, а крупнейшая газета Бразилии Folha de S. Paulo и вовсе удалила свой контент из Facebook[258].

Запрет целевой рекламы усилит конкуренцию. Одним из факторов, препятствующих конкуренции с Facebook и Google, является объем хранимых ими персональных данных. Каждый хочет рекламировать с их помощью отчасти из-за существующего предположения, что чем больше данных у платформы, тем эффективнее она будет при персонализации рекламы. Если бы все использовали контекстную рекламу, платформы имели бы меньше преимуществ[259].

Контекстная реклама показывает рекламу обуви, когда вы вводите слово «обувь» в поисковом запросе. При этом не обязательно знать, кто вы и где были.

Если бы компаниям не разрешили использовать персональные данные для рекламы, это лишило бы некоторых конкурентных преимуществ Google и Facebook, хотя оба технологических гиганта по-прежнему оставались бы рекламными колоссами, учитывая количество пользователей по сравнению с другими платформами и размер аудитории, которую они могут предложить рекламодателям, но возможностей для конкуренции стало бы больше.

В онлайн-мире есть место для рекламы. Особенно это касается информативной рекламы (в отличие от агрессивной или убеждающей), которая, как утверждал Дэвид Огилви, представляет собой вид маркетинга, являющийся более нравственным и прибыльным. Интернет-рекламодателям следует помнить поговорку Огилви о том, что «реклама – это словесный бизнес». Возможно, онлайн-реклама должна больше походить на рекламу в журналах, чем на телевизионную. Вместо того, чтобы создавать вредную рекламу, которая одновременно шпионит за нами и отвлекает нас от мыслей прыгающими яркими изображениями, разработчики онлайн-рекламы могут стремиться основываться на словах и фактах, следуя идеалу Огилви. Больше фактов о продукте вместо прилагательных, добавление полезных советов, таких как удаление пятен или рецепт какого-нибудь блюда, – нечто подобное является примером передовой практики[260]. Интернет-рекламодатели должны предлагать нам информацию, а не получать ее от нас.

Реклама особенно оправданна в случае новых продуктов и брендов. Но ее эффективность не должна достигаться за счет нарушения нашего права на неприкосновенность частной жизни. Кроме того, есть аргумент в пользу ограничения доли экономики, приходящейся на рекламу. На данный момент реклама – это основа экономики данных. Однако слишком большое количество рекламы, доминирующей в нашей среде, может плохо сказаться на нашем благополучии.

Недавнее исследование примерно одного миллиона европейских граждан в двадцати семи странах за три десятилетия показало, что существует корреляция между увеличением национальных расходов на рекламу и снижением уровня удовлетворенности жизнью. После учета других макроэкономических переменных, таких как безработица и социально-экономические характеристики отдельных лиц, исследователи подсчитали, что удвоение расходов на рекламу в стране связано с последующим падением заявленной удовлетворенности на 3 % – эффект примерно на четверть сильнее, чем у безработицы[261]. Если реклама стимулирует экономику за счет нашего счастья, нам стоит серьезно задуматься над тем, какое место мы позволяем ей занимать в нашей жизни.

Согласно отчету, подготовленному Ассоциацией национальных рекламодателей и Рекламной коалицией, в 2014 году на рекламу приходилось 19 процентов от общего объема производства США[262]. Для сравнения, в том же году на туризм пришлось 7,7 процента[263]. Объем американского рекламного рынка больше, чем банковской отрасли[264]. И все же реклама, похоже, делает нас несчастными. Как и бывшего аналитика данных Facebook Джеффа Хаммербахера, меня также удручает то, что «лучшие умы [нашего] поколения думают о том, как заставить людей кликать на рекламу».

Ограничение рекламы также было бы естественным способом обуздать мощь крупных технологических платформ, которые сильно от них зависят. Не будем забывать, что реклама составляет бóльшую часть доходов Alphabet (материнской компании Google) и Facebook[265].

Персонализированная реклама должна прекратиться. Следует запретить аукционы рекламы в реальном времени. Мы должны ограничить засилье рекламы или изменить ее, чтобы она не оказывала негативного воздействия на благополучие людей. К счастью, вам не нужно ждать, пока политики реформируют рекламную отрасль: вы можете использовать блокировку рекламы (подробности см. в следующей главе).

Остановить торговлю персональными данными

Персональные данные не должны быть чем-то, что можно покупать, продавать или передавать с целью извлечения прибыли. Возможностей для злоупотреблений слишком много, и они увеличиваются. Чем более конфиденциальна информация, тем строже должен быть запрет и суровее наказание за нарушение закона. То, что мы позволяем компаниям получать прибыль от информации о том, что кто-то болен, потерял сына в автокатастрофе или стал жертвой изнасилования, вызывает отвращение.

Я никогда не встречала достойных аргументов в защиту брокеров данных.

Брокеры данных – это мусорщики виртуальной среды. Они живут за счет информации, которую мы оставляем, продают ее тому, кто больше заплатит, и очень редко обращают внимание на людей, от персональных данных которых они получают прибыль.

Двадцать лет назад Эми Бойер была убита человеком, который ее преследовал, после того как он купил ее личную информацию и данные о местоположении у Docusearch – брокера данных, который, к слову, до сих пор существует. На своем веб-сайте они заявляют, что «находятся в Сети и пользуются доверием более 20 лет».

Охотникам за данными нельзя доверять. Брокеры данных продавали информацию о людях мошенникам. В 2014 году LeapLab, брокер данных из Невады, продал личную информацию сотен тысяч людей «компании», которая использовала записи для несанкционированного снятия средств с банковских счетов[266]. У вас когда-нибудь пропадали деньги со счета? Вы могли бы поблагодарить за это брокеров данных – именно они могли продать или потерять ваши данные. Одной из самых страшных утечек данных в истории корпораций является утечка данных компании Equifax в 2017 году. Из-за неудовлетворительного состояния системы кибербезопасности преступники украли историю операций по кредитным картам, номера социального страхования и другие персональные данные 147 миллионов человек[267].

Само существование файлов с конфиденциальной информацией на пользователей интернета представляет собой риск на уровне всего населения. Часто персональные данные хранятся в базе брокеров даже без шифрования и хорошей защиты. Брокеры данных в настоящее время не имеют достаточного стимула вкладывать средства в обеспечение надежного уровня безопасности.

Иностранные правительства и злоумышленники могут взломать базу данных и использовать украденную информацию против нас. Чем больше брокеров данных собирают наши персональные данные и чем больше этих данных они продают другим компаниям, тем выше наш риск пострадать от утечки данных.

А что мы получаем взамен? Ничего. Были ли мы пьяны, когда заключали такую сделку? Нет, нас просто даже не спросили. Покупка персональных профилей у брокеров данных стоит недорого. Номера банковских счетов можно купить за 50 центов, а полный отчет о человеке может стоить всего 95 центов[268]. Менее чем за 25 долларов в месяц вы можете проводить проверку биографических данных всех, кого вы знаете (только, пожалуйста, не делайте этого).

Часть того, что подразумевает собой хорошее регулирование, – это предотвращение трансформации одного вида власти в другой. Например, экономической власти в политическую (т. е. подкуп избирателей или политиков). Точно так же нам нужно остановить трансформацию власти, получаемой через личные данные, в экономическую или политическую. Личные данные должны приносить пользу гражданам – они не должны заполнять карманы стервятников данных. Даже в наиболее ярко выраженных капиталистических обществах мы соглашаемся с тем, что определенные вещи не должны продаваться – среди них люди, голоса на выборах, органы и результаты спортивных матчей. Мы должны добавить в этот список еще и личную информацию. Но словосочетание «персональные данные» звучит слишком абстрактно. Эта абстракция очень удобна для стервятников данных. На самом деле под этим абстрактным понятием подразумеваются наши надежды и страхи, заболевания, личные разговоры, дружеские отношения, самые глубокие переживания, травмы, радости, то, что мы говорим и как бьется наше сердце, когда мы занимаемся любовью (если у вас есть портативное устройство, оно отслеживает, записывает и анализирует ваше сердцебиение в течение дня, так что можно получить информацию и о сексуальной активности. В 2019 году Bloomberg, The Guardian и Vice News сообщили, что Amazon, Google, Facebook, Microsoft и Apple использовали подрядчиков для анализа данных полученных от голосовых помощников. Подрядчики признались, что иногда подслушивают людей, занимающихся сексом. – Прим. авт.)[269]. Вот что эксплуатируется в корыстных целях, и слишком часто вопреки нашим интересам.

Запрет на торговлю личными данными не означает запрета на сбор или надлежащее использование таких данных. Некоторые виды персональной информации бывают необходимы. Например, передача наших личных данных врачу нужна для получения надлежащего лечения. Но нельзя позволять нашей системе здравоохранения делиться этими данными, а тем более продавать их.

Прекращение обмена персональными данными не означает, что другие виды информации не должны покупаться и продаваться – запрет должен распространяться только на персональные данные.

Однако нам нужны более строгие определения того, что считается персональными данными. На данный момент такое законодательство, как GDPR, не распространяется на анонимные данные. Однако, как мы видели в главе 1, слишком часто данные, которые считались анонимными, в итоге можно было легко идентифицировать заново. Отчасти проблема заключается в том, что мы не уверены, какие методы могут быть разработаны и использованы в будущем для повторной идентификации людей из анонимной базы данных. Поэтому мы должны быть настолько жесткими, насколько позволяет наше воображение, в определении того, что считается анонимным.

Нам также необходимо иметь очень широкое понимание того, что считается торговлей данными. Брокеры данных за плату предоставляют персональные данные, но многие другие компании заключают менее очевидные сделки по передаче информации. Facebook, например, предоставила другим компаниям доступ к персональным данным своих пользователей в обмен на то, что эти компании благосклонно относятся к Facebook на своих платформах. В частности, Facebook дала Netflix и Spotify возможность читать личные сообщения своих пользователей, а Amazon получила доступ к именам пользователей и контактной информации через их друзей. Взамен же Facebook получила данные для своего инструмента глубокого проникновения по поиску друзей – «Люди, которых вы можете знать»[270]. Персональные данные не должны быть частью нашего коммерческого рынка. Их нельзя продавать, разглашать, передавать или делиться каким-либо образом в целях получения прибыли или коммерческой выгоды.

Опять же, вам не придется ждать, когда политики запретят торговлю персональными данными, чтобы начать работать над достижением этой цели, если вы последуете советам из следующей главы.

Прекратить сбор персональных данных по умолчанию

Некоторые технологические гиганты стали популярными, разграбив наши данные, не спрашивая разрешения, не задумываясь о возможных последствиях своих действий для пользователей и общества в целом. Это безрассудное отношение лучше всего описывается внутренним девизом Facebook: «Двигайся быстро, иди напролом». Стратегия крупных технологических компаний заключается в том, чтобы делать то, что им нравится, пока они не столкнутся с сопротивлением. Когда начинается сопротивление, они обычно стараются его игнорировать. Когда это не срабатывает, они пытаются откупиться от людей дополнительными льготами и утомить своих критиков бесконечными пустыми ответами. Только когда сопротивление остается постоянным, технологические гиганты делают шаг назад, и это случается обычно после того, как они уже сделали много шагов вперед. По мнению Шошаны Зубофф, они надеются, что на этом этапе люди постепенно привыкнут принимать условия, на которые они никогда бы не согласились, если бы узнали о них с самого начала[271].

Именно на этом этапе мы и привыкли к тому, что наши данные собираются автоматически всеми, у кого есть средства для их сбора. Мы смирились с этим, потому что узнали об этом слишком поздно, спустя годы с тех пор, как увлеклись цифровыми технологиями, и только потому, что нам сказали, что нашим устройствам необходимо продолжать работать в том же духе и что все в любом случае поступают так же. Нам также сказали, что слежка необходима для обеспечения нашей безопасности. Только когда корпорации столкнулись с некоторым сопротивлением и были введены такие правила, как GDPR, они пошли на ряд уступок, например немного рассказали нам о том, какие данные о нас они хранят. Но этого недостаточно. Теперь мы лучше осведомлены. Мы знаем, что можно иметь передовые технические устройства без вторжения в частную жизнь. И мы знаем, что конфиденциальность – это важный компонент обеспечения нашей безопасности.

То, что происходит сейчас, – это повсеместный сбор данных. Почти все веб-сайты, приложения и устройства, с которыми вы взаимодействуете, собирают ваши данные. Некоторые из этих компаний даже не знают, что с ними делать, и собирают на всякий случай – вдруг пригодятся в будущем. Однако, как мы уже видели, сбор данных не является безобидным. Это подвергает риску всех нас.

До сих пор законодательство в основном касалось использования данных, а не их сбора. Даже если GDPR включает принцип минимизации данных, согласно которому компании должны собирать только адекватные, актуальные и необходимые сведения, многие учреждения, похоже, прикрываются очень широкой интерпретацией того, что является «законными интересами», для обработки данных. Нам нужно более жестко относиться к сбору информации.

По умолчанию – для компаний, государственных учреждений и пользовательских настроек на каждом веб-сайте и в приложении – не следует собирать данные или собирать только минимально необходимые данные.

То, что считается необходимыми данными, следует понимать в узком смысле – как данные, которые нужны для предоставления нам полезной услуги (не для финансирования этой услуги путем продажи наших данных или доступа к нам через наши данные, а для создания или поддержки услуги). Важно отметить, что данные могут свободно собираться до тех пор, пока они не являются персональными и пока они трактуются широко.

Нам нужно больше инвестировать в инновации в сфере конфиденциальности. Если крупные технологические компании будут вынуждены столкнуться с проблемой изобретения способов использования данных при одновременной защите конфиденциальности, у них есть все шансы справиться с этой задачей.

Если же им будет позволено продолжать работу так, как они делают это сейчас, такие инновации могут никогда не появиться.

Многообещающий метод сбора данных – дифференцированная конфиденциальность. По сути, это означает введение в базу данных достаточного количества математического шума, чтобы можно было успешно замаскировать каждого человека так, что нельзя будет сделать каких-либо конкретных выводов о конкретной персоне, но при этом сохранится точность результатов статистического анализа. Это может показаться сложным, но вот простой пример, иллюстрирующий эту идею. Предположим, вы хотите узнать, сколько людей в Лондоне проголосовали за выход Великобритании из ЕС. При обычном сборе данных вы звоните по нескольким тысячам телефонных номеров и спрашиваете каждого человека, как он голосовал. Даже если вы не фиксируете имена, но собираете номера телефонов и то, как люди голосовали, этих избирателей можно будет легко идентифицировать и их право на тайное голосование окажется под угрозой. Если вы собираете данные с использованием дифференциальной конфиденциальности, то вы также набираете несколько тысяч телефонных номеров, но вместо того, чтобы напрямую спрашивать, как люди голосовали, вы просите их подбросить монетку. Если монета выпадает орлом, люди должны сказать вам, как они проголосовали. Если выпадет решка, они должны снова подбросить монету, и если на этот раз выпадет орел, они должны сказать вам правду, а если решка – солгать. Важно отметить, что люди никогда не должны рассказывать вам, что выпало. Поскольку вы контролировали, как часто люди лгали вам, вы знаете, что примерно четверть ваших результатов неверны (ложные), и вы можете статистически скорректировать это. В результате получается база данных, которая почти так же точна, как и обычная, но не содержит личных данных, потому что только респонденты знают, что выпало. У вас нет возможности узнать, кто именно голосовал за выход Великобритании из ЕС, но вы можете приблизительно знать, сколько людей за него проголосовало. При этом каждый участник пользуется «правдоподобным отрицанием»: он может заявить, что не голосовал за выход Великобритании из ЕС, и никто не сможет доказать обратное (по крайней мере, на основе этой базы данных)[272].

Конечно, не все виды данных могут быть собраны с использованием дифференцированной конфиденциальности, и этот метод требует доработки, чтобы организации могли эффективно его реализовывать. Тем не менее этот пример показывает, что существуют методы анализа данных, при которых не нужно подвергать опасности конфиденциальность людей. Гомоморфное шифрование и федеративное обучение – два других метода, которые стоит изучить. Нам следует больше инвестировать в разработку инструментов обеспечения конфиденциальности, а не вкладываться только в методы использования конфиденциальности для получения прибыли, удобства или эффективности.

Если нет иной альтернативы, кроме сбора персональных данных, их следует собирать только в том случае, когда лицо осмысленно и свободно дает согласие на такой сбор, указан способ использования этих данных и планы по их удалению (подробнее об этом ниже). Однако ограничения сбора персональных данных недостаточно, поскольку конфиденциальная информация может быть получена не только с помощью сбора данных, но и путем гипотез.

Остановить гипотетическое определение данных в закрытом режиме

Организации, жаждущие узнать о нас больше, могут выйти за рамки, которые мы для них установили, путем гипотез, а не сбора конфиденциальной информации о нас. Цифровые следы, которые мы оставляем после взаимодействия с технологиями, обычно рассматриваются как образцы поведения, которые затем используются, чтобы делать о нас выводы.

Количество теорий о том, что можно узнать о нас по нашим данным, в последние несколько лет показывает стремительный рост. То, как люди используют смартфоны, можно положить в основу для прогнозирования результатов тестов на когнитивные способности, такие как память и концентрация. Проблемы с памятью можно определить по тому, насколько быстро люди набирают текст на телефоне, какие ошибки они делают и насколько быстро они прокручивают свой список контактов[273]. Лайки в Facebook используются для определения сексуальной ориентации, этнической принадлежности, религиозных и политических взглядов, личностных качеств, интеллекта, удовлетворенности жизнью, употребления вызывающих зависимость веществ, развода родителей, возраста и пола[274]. По движению глаз может быть выявлена дислексия. Ваши сообщения в Twitter и выражение вашего лица могут быть использованы для выявления депрессии. Этот список можно продолжить, но вы видите картину: внешние сигналы систематически используются компаниями и учреждениями для получения персональных данных о вас[275].

Существует множество проблем, связанных с гипотетическим определением данных. Такой метод почти ничем не отличается от других видов практик, нарушающих конфиденциальность, но некоторые из них присущи именно гипотезам. Как и в случае с тайным сбором личных данных, вызывает беспокойство то, что наша конфиденциальность может быть нарушена без нашего ведома. Хуже того, у вас мало или совсем нет контроля над некоторыми из этих внешних сигналов, поэтому вы мало что можете сделать, чтобы защитить себя.

Мы можем постараться не разглашать свои персональные данные, но мы не можем изменить лицо, походку, например, или то, как мы печатаем текст на телефоне. Все это – непроизвольные маркеры. И у вас нет возможности узнать, использует ли кто-то эту информацию и для каких целей.

Еще одна проблема, связанная с гипотетическим определением данных, заключается в том, что оно может быть неправильным в отношении человека и при этом использовано против него. Гипотезы, основанные на алгоритмах, являются вероятностными – они верны лишь в некоторых случаях. Степень корректности выводов сильно различается, и у компаний может не быть особого стимула удостовериться в их максимальной точности. Пока компании считают, что выводы дают им преимущество, они могут довольствоваться их использованием, даже если те несовершенны.

Например, исследователи смогли правильно определить, курил ли человек, на основании его лайков в Facebook в 73 % случаев[276]. Предположим, компания использует такой вывод, как фильтр для найма сотрудников. Если у них достаточно претендентов на работу, их может не беспокоить то, что они ошибаются в отношении 27 процентов соискателей, потому что, с их точки зрения, это все равно лучше, чем если бы они не использовали этот метод. Однако если вы один из тех неудачников, которых ошибочно считают курильщиком, то вы пострадали от несправедливости и можете никогда не узнать об этом, потому что компания просто не сообщит вам, почему вы не получили эту работу.

В некоторых случаях использование гипотетических личностных построений может быть приемлемо. Будучи пациентом, вы можете захотеть, чтобы ваш врач проанализировал, как вы печатаете на своем смартфоне, чтобы как можно раньше обнаружить возможные когнитивные проблемы. Но подобные гипотетические построения должны регулироваться так же строго, как и персональные данные, потому что используются в качестве таковых – даже если они ошибочны. У субъектов данных следует запрашивать их согласие всякий раз, когда используются их внешние признаки для гипотетических личностных построений. (Исключением могут быть случаи, когда полиция проводит расследование в отношении подозреваемых в совершении преступлений. В этом случае мы должны установить очень высокие стандарты точности. Но даже в этом случае подозреваемый должен быть проинформирован о деталях этих гипотез сразу после завершения полицейского расследования и у него должна быть возможность оспорить неточные гипотезы. – Прим. авт.) Гипотетические личностные построения должны пользоваться таким же уровнем защиты, как и персональные данные. Как и в случае с персональными данными, в соответствии с европейским GDPR, субъекты данных должны иметь право оспаривать и исправлять неточные гипотезы.

Ситуация значительно улучшится с исчезновением рекламы с микротаргетингом, торговли персональными данными, сбора персональных данных по умолчанию и гипотетических выводов о субъектах данных. Но этих мер по-прежнему недостаточно, потому что нам все еще нужно будет заботиться о тех ситуациях, когда персональные данные не продаются, но могут быть использованы неправильно, вопреки интересам субъектов данных.

Внедрить фидуциарные обязанности

В большинстве стран закон не заставляет подозреваемых в совершении уголовных преступлений давать показания против себя. Есть что-то извращенное в том, чтобы заставить людей действовать против своих интересов. Федеральный судья в Калифорнии запретил полиции заставлять подозреваемых разблокировать свои телефоны, потому что это аналогично самооговору[277]. И все же мы терпим, когда невиновных пользователей Сети заставляют передавать свои персональные данные, которые затем используются всеми способами, противоречащими их интересам.

Мы должны защищать пользователей Сети по крайней мере так же, как мы защищаем подозреваемых в совершении преступлений. Наши персональные данные не должны использоваться в качестве оружия против нас. Для достижения этой цели мы должны наложить на организации, которые собирают персональные данные и управляют ими, фидуциарные обязанности[278]. Фидуциарии – это доверенные лица, такие как финансовые консультанты, врачи и юристы, которые несут ответственность за лояльность и заботу о своих клиентах, то же самое должны делать и компании, хранящие персональные данные. Слово «фидуциарий» происходит от латинского глагола «fidere» – доверять.

В основе фидуциарных отношений лежит доверие. Во-первых, потому что доверенному лицу передают нечто очень ценное: ваши финансы, здоровье, юридические дела или персональные данные. Во-вторых, потому что, доверяя эти ценности другим, вы становитесь весьма уязвимым. Принимая то, что им доверено, и признавая вашу уязвимость, фидуциарии обязаны оправдывать возложенное на них доверие[279].

Фидуциарные обязанности существуют для защиты лиц, находящихся в уязвимом положении, от профессионалов, которые должны их обслуживать, но могут иметь конфликт интересов. Ваш финансовый консультант может совершать избыточные траты с вашего счета, чтобы заработать больше комиссионных, или использовать ваши деньги для покупки ценных бумаг для себя. Ваш врач может провести вам операцию, которая является слишком рискованной или ненужной, просто для того, чтобы попрактиковаться в своих навыках или добавить данные к своим исследованиям. Ваш адвокат может продать ваши секреты другому клиенту, интересы которого противоречат вашим. И, как мы уже видели, те, кто собирает ваши данные, могут передать их стервятникам данных, преступникам и так далее. Ни один из этих профессионалов не должен злоупотреблять властью, предоставленной им в силу их профессии.

Таким образом, фидуциарные обязанности уместны, когда существуют экономические отношения, в которых есть асимметрия власти и знаний и в которых профессионал или компания могут иметь интересы, противоречащие интересам их клиентов. Финансовые консультанты, врачи, юристы и специалисты по работе с данными знают о финансах, медицине, юриспруденции и данных соответственно гораздо больше, чем мы. Они также могут знать о вас больше, чем вы сами. Ваш финансовый консультант, вероятно, лучше понимает ваши финансовые риски. Ваш врач понимает, что происходит в вашем организме, лучше, чем вы. Ваш адвокат будет лучше вас разбираться в вашем судебном деле. И те, кто анализирует ваши данные, могут знать (или могут думать, что знают) гораздо больше о ваших привычках и психологии, чем вы. Такие знания никогда не должны использоваться против вас.

Доверенные лица должны действовать в интересах своих клиентов, а при возникновении конфликтов – ставить интересы клиентов выше своих собственных. Люди, которые не хотят выполнять фидуциарные обязанности, не должны соглашаться с тем, чтобы им доверяли ценную персональную информацию или активы. Если вы не хотите наилучшим образом действовать в интересах своих пациентов, не становитесь врачом. В этой профессии недостаточно желания проводить медицинские вмешательства в организмы людей. Работа врача связана с определенными этическими нормами. Точно так же, если компании не хотят иметь дело с фидуциарными обязанностями по хранению данных, они не должны заниматься сбором персональных данных. Желание анализировать персональные данные в исследовательских или коммерческих целях – это прекрасно, но такая привилегия влечет за собой ответственность.

Критики идеи о том, что к технологическим гигантам должны применяться фидуциарные обязанности, аргументируют это тем, что такая политика будет идти вразрез с фидуциарными обязанностями технологических компаний по отношению к своим акционерам. Согласно закону штата Делавэр, где зарегистрированы Facebook, Google и Twitter, менеджмент должен «рассматривать благосостояние акционеров как единственную цель, учитывая другие интересы только в той степени, в которой это рационально связано с благосостоянием акционеров»[280].

То, что компании должны работать только на благо своих акционеров в ущерб клиентам, кажется морально сомнительной политикой, особенно если рассматриваемый бизнес оказывает негативное воздействие на жизни миллионов граждан. С моральной точки зрения, экономические интересы акционеров не могут перевесить права на неприкосновенность частной жизни и демократические интересы миллиардов пользователей технологических гигантов. Один из вариантов решения этой проблемы – постановить, что всякий раз, когда интересы акционеров вступают в конфликт с интересами пользователей, фидуциарные обязанности перед пользователями имеют приоритет. Другой вариант – ввести настолько большие штрафы за нарушение фидуциарных обязанностей по отношению к пользователям, что выполнение компаниями этих обязанностей будет в интересах самих же акционеров, если они заботятся о своей прибыли.

Фидуциарные обязанности будут иметь большое значение для обеспечения того, чтобы интересы технологических гигантов совпадали с интересами их пользователей. Если они хотят рискнуть нашими данными, им следует при этом рискнуть и своим бизнесом. Пока технологические компании могут рисковать нашими данными и быть уверенными, что мы единственные, кто будет платить по счетам – через разоблачение, кражу персональных данных, вымогательство, несправедливую дискриминацию и многое другое, – они будут продолжать действовать безрассудно.

Если наложить на технологические компании фидуциарные обязанности, информационная среда значительно улучшится. Наши данные больше не будут передаваться, продаваться или использоваться вопреки нашим интересам. Однако персональные данные все равно могут быть утеряны по небрежности, поэтому нам необходимо внедрить более высокие стандарты кибербезопасности.

Повысить стандарты кибербезопасности

Наша конфиденциальность не будет как следует защищена, пока приложения, веб-сайты и устройства, которыми мы пользуемся, не станут безопасными. Данные слишком легко украсть. В настоящее время у компаний нет интереса инвестировать в кибербезопасность. Это стоит дорого, и пользователи не могут по достоинству оценить кибербезопасность, потому что она невидима. Им не так легко сравнивать продукты по стандартам безопасности[281]. Мы примерно представляем, как выглядит стальная дверь, но на приложениях или веб-сайтах нет никаких сопоставимых знаков. Однако дело не только в отсутствии выгоды – у компаний нет риска больших потерь, если что-то пойдет не так. Если данные будут украдены, основная нагрузка ложится на клиентов. Если сочтут, что компания допустила грубую халатность, она может быть оштрафована. А если штраф недостаточно велик (например, меньше, чем стоило бы инвестировать в кибербезопасность), у компаний возникнет соблазн рассмотреть такие штрафы как приемлемые расходы на ведение бизнеса.

Кибербезопасность – это проблема коллективных действий. Обществу было бы лучше, если бы у всех были приемлемые стандарты кибербезопасности. Если конфиденциальная информация организаций будет лучше защищена, доверие клиентов к ним будет выше. Если будут защищены данные граждан, будет незыблема и национальная безопасность. Но большинство компаний не заинтересованы в том, чтобы инвестировать в безопасность, потому что это дает им мало преимуществ и к тому же дорого, что может поставить их в невыгодное положение по сравнению с конкурентами. В текущей ситуации небезопасные продукты могут вытеснить с рынка безопасные, поскольку инвестиции в кибербезопасность не окупаются.

Повышение безопасности должно регулироваться государством. Если бы правительства не внедряли стандарты безопасности, такие вещи, как здания, лекарства, продукты питания, автомобили и самолеты, были бы намного менее безопасными.

Компании очень часто жалуются, когда от них в первую очередь требуют повысить стандарты безопасности. Автомобильные компании, как известно, сопротивлялись обязательным ремням безопасности. Они думали, что те уродливы и автовладельцам не понравятся. На самом же деле покупатели были счастливы, что вождение стало более безопасным.

Со временем компании начинают принимать правила, которые защищают их и их клиентов от нарушений безопасности. И они приходят к пониманию того, что такое регулирование – это иногда единственный способ позволить компании инвестировать во что-то действительно ценное, хоть и не приносящее немедленной отдачи, но без ущерба для конкуренции, потому что все остальные тоже должны это делать.

Несмотря на то что бóльшая часть конфиденциальности, которую мы потеряли с 2001 года, была прямым или косвенным следствием того, что правительство якобы уделяло приоритетное внимание безопасности, опыт научил нас, что безопасность и конфиденциальность – это не игра нулевой суммой. Когда мы нарушаем нашу конфиденциальность, мы чаще всего подрываем и нашу безопасность. Интернет был сделан небезопасным, чтобы позволить корпорациям и правительству присваивать наши данные, чтобы теоретически защитить нас. Реальность же оказалась такова, что нерегулируемый интернет чрезвычайно опасен для людей, компаний и общества.

Если наши устройства небезопасны, враждебные режимы могут шпионить за нашими чиновниками. Хакеры могут вывести из строя энергосистему всей страны, взломав несколько десятков тысяч энергоемких устройств, таких как водонагреватели и кондиционеры, и вызвать резкий скачок спроса на электроэнергию[282]. Они могут даже взять под контроль атомную электростанцию[283] или завладеть ядерным оружием[284]. Массовая кибератака может привести к отключению целой страны[285]. Это одна из двух самых серьезных катастрофических угроз, которые правительства всего мира включили в реестр рисков. Другая угроза – это пандемия.

На протяжении десятилетий эксперты предупреждали об опасности пандемии. Мало того что общество продолжает заниматься рискованной практикой, которая, как мы знаем, приводит к таким последствиям (например, сельскохозяйственные рынки и промышленное животноводство), но и не готовится к ним. Пандемия коронавируса застала нас, например, без достаточного количества средств защиты для медицинских работников – что непростительно, учитывая то, что мы знали об угрозе. Люди способны предотвратить то, через что они не проходили раньше. Представление о том, что именно может пойти не так, жизненно важно как побудительный мотив к действию.

Представьте, что объявлен локдаун, а ваша страна подвергается масштабной кибератаке. Интернет отключился. Возможно, электричество тоже отключено. И ваш стационарный телефон, если он у вас есть, также не работает. Вы не можете связаться с семьей, позвонить своему врачу и даже узнать новости. Вы не можете выйти из-за пандемии. Темнеет рано, и у вас догорает последняя свеча (кто сейчас хранит большие запасы свечей?). Ваш электрический обогреватель не работает. Вы не знаете, что произошло, и не знаете, когда все нормализуется.

Этот сценарий не так уж и надуман. В конце концов, в результате пандемии коронавируса количество кибератак резко возросло (на карикатуре Пола Нота, опубликованной в New Yorker, изображены сидящие за столом персонажи сомнительного вида, у одного из них пистолет. Надпись на картинке гласит: «В целях защиты своего здоровья переходим на киберпреступления». – Прим. авт.).

Массовая кибератака – лишь вопрос времени. Мы знаем это так же, как знали, что пандемия рано или поздно случится. Мы должны быть лучше подготовлены и начать принимать меры уже сейчас, чтобы иметь хоть малейший шанс предотвратить или смягчить последствия масштабной кибератаки.

Для повышения нашей кибербезопасности крайне важно разъединить системы[286]. В настоящее время наблюдается тенденция к тому, чтобы соединять все устройства: динамики – к телефону, телефон – к компьютеру, компьютер – к телевизору и так далее. Была бы воля энтузиастов технологий, следующей точкой соединения был бы наш мозг. И это очень плохо. Мы используем противопожарные двери для локализации возможных пожаров в наших домах и зданиях, а также водонепроницаемые отсеки, чтобы ограничить возможность затопления судов. Нам нужно создать аналогичную защиту и в киберпространстве. Каждое новое соединение в системе – это точка возможного входа. Если все ваши устройства соединены, это означает, что хакеры потенциально могут получить доступ к вашему телефону (относительно сложному, чувствительному и безопасному устройству, если он у вас хороший) через ваш умный чайник (который, скорее всего, устроен не так безопасно). Если все наши национальные системы будут аналогичным образом связаны, кибератака может обрушить их все всего через одну систему.

Первоначально стандарты кибербезопасности в основном будут касаться восстановления неисправных систем. В конце концов, безопасность должна быть встроена в методы разработки технологий. На данный момент, например, в протоколах соединения между нашими телефонами и вышками сотовой связи нет аутентификации. Наши смартфоны могут подключаться к любым вышкам. Вот почему IMSI-ловушки могут скачивать ваши данные, как мы это уже видели в первой главе[287]. Мы должны начать проектировать все технологии, учитывая деятельность хакеров. Время, когда интернет мог напоминать загородные дома без заборов, дверей и замков, закончилось много лет назад. Мы должны идти в ногу со временем.

Удалять данные

Когда на смену персонализированной рекламе, стервятникам данных, сбору информации по умолчанию придут фидуциарные обязанности и надежная кибербезопасность, ситуация с защитой конфиденциальности в значительной степени улучшится. Но как насчет всех наших персональных данных, которые уже собраны, и информации, которая будет законно собираться в будущем? Нам необходимо удалить персональные данные, которые были собраны тайно и незаконно. Даже в случае персональных данных, собранных законным способом для необходимых целей, всегда должен быть план по последующему их удалению. За некоторыми исключениями (такими, как записи о рождении) нельзя собирать персональные данные без плана или возможности их удаления.

В своей книге «Удалить» Виктор Майер-Шенбергер утверждает, что забвение – это добродетель, которую мы должны возродить в цифровую эпоху. Способность забывать – это важная составляющая здоровой жизни. Только представьте, что вы не можете забыть ничего из того, что пережили. Исследователи изучили случай с Джилл Прайс – женщиной из Калифорнии, у которой отсутствует способность забывать. Например, она могла мгновенно вспомнить, что делала каждую Пасху с 1980 по 2008 год. Все в деталях, без предварительного предупреждения или подготовки. Ее память была настолько богатой, что затмила ее настоящее. Это не сделало женщину ни счастливой, ни особенно успешной в карьере. Она просто обычный человек, который чувствует себя встревоженным и одиноким в компании со своими многочисленными воспоминаниями. Когнитивный психолог Гэри Маркус предположил, что необычная память Прайс может быть не результатом особенностей строения мозга, а обсессивно-компульсивным расстройством, которое не позволяет ей отпустить прошлое[288]. Хранение персональных данных по умолчанию чем-то напоминает подобное заболевание, особенно его неприятные стороны. Люди, которые слишком много помнят, хотели бы уметь отключать (хотя бы иногда) эту способность, которая в итоге может восприниматься как проклятие. Когда ваш разум цепляется за прошлое, трудно двигаться дальше, оставить позади и трагические, и счастливые моменты и жить настоящим. Сложно представить, какое может быть будущее под гнетом таких подробных плохих и хороших воспоминаний. Худшие времена могут огорчать вас, а лучшие – вызвать ностальгию. Постоянное запоминание всего, что говорили и делали другие, также может вызывать у людей чрезмерное недовольство.

Умение забывать – это благо не только для отдельных людей, но и для всего общества. Социальное забвение дает второй шанс. Снятие старых судимостей за мелкие или совершенные в подростковом возрасте преступления, удаление данных о банкротствах, записей о выплаченных долгах дает людям, которые совершили ошибки, второй шанс. Общество, которое все это помнит, обычно не прощает ошибок.

Мы никогда не обладали таким объемом памяти, каким располагаем сегодня. До появления компьютеров у нас было всего два способа забыть: добровольно – сжигая или уничтожая наши записи, и непроизвольно – не имея возможности записывать большинство событий и естественно их забывая или теряя записи в результате несчастных случаев и износа. На протяжении большей части истории ведение записей было трудным и затратным занятием. Раньше бумага была чрезвычайно дорогой и требовалось много места для ее хранения. Для ведения записей нужны были время и самоотдача. Такие неудобства заставляли нас выборочно относиться к тому, что мы хотим запомнить. Поэтому можно было сохранить лишь крошечную часть опыта, и даже тогда память была более короткой, чем сейчас. Например, когда бумага не была бескислотной, она довольно быстро распадалась. Такие документы имели ограниченный срок годности, который зависел от материалов, из которых была изготовлена бумага[289].

Цифровая эпоха перевернула экономику памяти с ног на голову. Сегодня запоминать гораздо проще и дешевле, чем забывать. По словам Майера-Шенбергера, четыре технологических элемента внесли свой вклад в превращение запоминания в норму жизни: оцифровка, дешевое хранение, простота поиска и глобальный охват. Опыт автоматически преобразуется в компьютерные данные, содержащиеся на устройствах хранения все меньшего размера, которые становятся все дешевле. Затем мы извлекаем наши данные, всего лишь несколько раз нажав на клавиши, и отправляем их в любую точку земного шара одним щелчком мыши.

Когда сбор данных стал автоматизированным, а хранение – настолько дешевым, что внезапно стало реально собрать все, мы перешли от необходимости выбирать, что нужно запомнить, к необходимости выбирать, что нужно забыть. Поскольку отбор требует определенных усилий, по умолчанию забывать стало сложнее, чем запоминать.

Заманчиво думать, что наличие большего количества данных обязательно сделает нас умнее или поможет принимать более обоснованные решения. Фактически это может препятствовать нашему мышлению и способности принимать решения. Способность людей забывать – это отчасти активный процесс фильтрации того, что важно. Отсутствие выбора того, что мы запоминаем, означает, что каждому фрагменту данных присваивается одинаковый вес. Это затрудняет определение того, что является релевантным в океане нерелевантных данных[290].

Мы собираем так много данных, что из них невозможно составить четкую картину, – наш разум не справляется с такими огромными объемами информации. Когда у нас слишком много данных и мы пытаемся разобраться в них, мы сталкиваемся с двумя вариантами. Первый – это отобрать немного информации на основе некоего критерия, который может заставить нас пренебречь контекстом, что, в свою очередь, значительно ухудшит наше понимание изучаемого вопроса. Представьте, что вы с другом спорите из-за выхода Великобритании из ЕС. Размышляя о наболевшем, вы решаете перечитать все свои текстовые сообщения, в которых упоминается данная тема. Эти сообщения могут не отражать ваши с другом отношения в целом, они лишь демонстрируют несогласие, но размышления над ними могут привести к прекращению вашей дружбы. Если бы вы вспомнили все хорошие времена, которые у вас были, но остались не зафиксированы в цифровом виде, или если бы вы прочитали сообщения, в которых ваш друг поддерживал вас в трудную минуту, вы бы вспомнили, почему вы были друзьями.

Второй и все чаще встречающийся способ попытаться разобраться в чрезмерном объеме данных основан на алгоритмах как на фильтрах, которые могут помочь нам упорядочить повествование, несмотря на то, они не могут думать за нас и понимать, что из общего объема информации действительно важно. Например, алгоритм, предназначенный для оценки кредитоспособности, может обнаружить случайную корреляцию между наличием трех кредитных карт и выплатой кредитов. Алгоритмы не обладают необходимой способностью рассуждать, чтобы понять, что, вероятно, нет причинно-следственной связи между количеством кредитных карт у человека и его способностью выплачивать кредит.

Помимо этого, алгоритмы зависят от наших предубеждений, закладываемых в данные, от предположений, которые мы делаем о том, что необходимо измерить, и от заданной нами программы. Недавно я встретила человека, который утверждал, что доверяет алгоритмам больше, чем людям, потому что люди совершают слишком много ошибок. Как легко мы упускаем из виду тот факт, что алгоритмы создают люди, а зачастую технологии не только не исправляют наши ошибки, но и усугубляют их.

Таким образом, обработка слишком большого количества данных может привести к уменьшению объема знаний и ухудшению процесса принятия решений. Двойной риск искажения правды и того, что память станет препятствием для перемен, в совокупности делает постоянные и обширные записи о людях действительно опасными. Такие записи фиксируют людей в их худшем состоянии и сохраняют такое представление о них, не позволяя им полностью преодолеть свои ошибки. Старые персональные данные также могут привести к предубеждениям, связанным с нашей историей: если мы будем использовать старые данные для предсказания будущего, мы будем склонны повторять ошибки нашего прошлого.

Нам нужно ввести даты истечения срока годности и забвения в цифровой мир. Мы могли бы разработать технологию так, чтобы любые создаваемые данные самоуничтожались по прошествии определенного периода времени. Некоторые приложения уже делают это: например, вы можете установить дату истечения срока действия своих текстовых сообщений в Telegram. Мы могли бы сделать то же самое с файлами на наших компьютерах, с нашей электронной почтой, с поисковыми запросами в интернете, с историями покупок, твитами и большинством других данных.

Какие бы технологические средства мы ни выбрали, суть в том, что по умолчанию не следует хранить персональные данные бесконечно. Это слишком опасно. Нам нужны методы, позволяющие периодически удалять ненужную информацию.

Кто-то может возразить, что с этической точки зрения нельзя заставить общество забыть. Демократическому обществу не свойственно навязанное забвение. Сжигание книг и удаление сообщений в интернете – это признаки авторитарного правления, а не демократии.

Как утверждают некоторые, накопление данных – это естественная тенденция стабильного общества, уважающего права своих граждан. Такое рассуждение было бы убедительным, если бы у нас не было возможности хранить данные вечно. В бесконечном хранении данных нет ничего естественного. Раньше природа давала нам забвение через способность забывать, а теперь, когда мы бросили вызов этому естественному процессу, мы понимаем, что цена оказалась слишком высока. Мы должны заново внедрить то, что является естественным, в цифровой контекст, который весьма далек от природы. Важно отметить, что данные никогда не должны удаляться по идеологическим соображениям. Правительство не должно удалять данные, которые выставляют его в дурном свете. Следует удалять только персональные данные и только при соблюдении прав граждан, без дискриминации в отношении их политического содержания.

Тем не менее есть что сказать в пользу сохранения определенных видов данных. Например, многое из того, что мы знаем по истории, мы получили из личных дневников. Определенные данные мы должны полностью удалить. Но в некоторых случаях – небольшом их числе, – возможно, достаточно их заархивировать с паролем, чтобы сделать менее доступными или доступными только при определенных обстоятельствах (например, после смерти субъекта данных или через сто лет с момента их создания и т. д.). Возможно, мы сможем сохранить под надежной защитой небольшую часть персональных данных, которые могут быть репрезентативными для определенного времени и места, чтобы историки могли изучать их в будущем. Хранение этих данных должно быть защищено не только законодательно (поскольку законы меняются и нарушаются), но также и с позиции технических средств (например, с использованием шифрования) и их практического применения. Под практическим применением я подразумеваю затруднение доступа людей к этим данным. Если дневник хранится в бумажном виде в архиве в одном из городов, он будет доступен для серьезных исследователей, но мошенникам подобраться к нему будет значительно сложнее, чем если бы он был опубликован в интернете и проиндексирован в поисковых системах. Степень доступности чего-либо имеет большое значение. В этом суть европейского права на забвение.

Когда Марио Костеха выполнил поиск по своей фамилии в Google в 2009 году, одними из первых в списке предложенных сведений о нем были несколько заметок конца 1990-х годов в испанской газете La Vanguardia. В объявлениях говорилось о том, что дом Костехи выставлен на аукцион с целью взыскания его долгов по социальному страхованию. Впервые они были опубликованы в бумажном выпуске газеты, который позже был оцифрован. Костеха обратился в Испанское агентство по защите данных, чтобы подать жалобу на La Vanguardia. Он утверждал, что эти объявления больше не актуальны, поскольку его долги давно погашены. Связь этого негативного эпизода с его именем вредит его личной и профессиональной жизни. Газета отказалась удалить записи, и Испанское агентство по защите данных согласилось с этим – La Vanguardia опубликовала эти публичные записи на законных основаниях. Но агентство попросило Google удалить ссылку на объявление об аукционе. Человек, который заплатил свои долги, не должен быть обременен этим грузом до конца своей жизни.

Google обжаловала это решение, и дело было передано в Европейский суд, который в 2014 году вынес решение в пользу права на забвение.

Хотя осуществление этого права вызывает сомнения и критику, его принцип имеет смысл. Сомнительно, чтобы частные компании были арбитрами в отношении обоснованности просьбы сделать что-то менее доступным, даже если решение можно обжаловать и направить в Агентство по защите данных. Однако важнее всего то, что право на забвение защищает от того, чтобы нас преследовали персональные данные, которые «устарели, неточны, неадекватны, неактуальны или лишены цели и не представляют общественного интереса»[291].

Если мы заново не научимся забывать в эту эпоху цифровых технологий, мы застрянем в прошлом – как отдельные личности, так и как общество в целом. Однако не всегда будет легко убедиться, что наши данные были удалены, или, если они не были удалены, проследить за тем, как они используются.

У нас нет доступа к базам данных учреждений, поэтому нам может потребоваться разработать способы отслеживания наших персональных данных.

Отслеживать наши личные данные

Одна из самых больших проблем регулирования персональных данных – это сложность контроля над ними. На данный момент мы вынуждены полагаться на обещания технологических компаний, которые доказали, что не заслуживают доверия.

Органы по защите данных в Европе часто недоукомплектованы кадрами и недостаточно финансируются. Трудно иметь регулирующие органы, которые смогут контролировать все организации, занимающиеся персональными данными. В настоящее время технологические гиганты более могущественны и богаты, чем некоторые страны.

Ограничение использования персональных данных предлагаемыми мной способами упростит работу по осуществлению контроля хотя бы потому, что количество распространяемой личной информации будет ограничено. Но персональные данные по-прежнему будет сложно отслеживать.

Тот факт, что люди не могут узнать, у кого хранятся их данные, является огромным препятствием. Это усугубляет и без того тревожную асимметрию между частными лицами и организациями и возлагает бремя выявления злоупотреблений исключительно на надзорные органы.

Было бы идеально, если бы мы могли отслеживать собственные данные. Представьте, что у вас есть приложение, отображающее в реальном времени карту, на которой показано, у кого есть ваши данные и как они их используют, и позволяющее вам мгновенно отозвать их, если вы захотите. Один из самых пугающих аспектов цифровой эпохи заключается в том, что, читая эти слова, вы, возможно, подвергаетесь воздействию десятков алгоритмов, которые оценивают ваши персональные данные и решают вашу судьбу на их основе – и все это без вашего ведома или согласия. Прямо в этот момент некий алгоритм может пометить вас как некредитоспособного, в то время как другой алгоритм поместит вас ниже в списке ожидания на операцию, которая вам нужна (возможно, на основе ошибочного критерия), а еще один посчитает вас безработным.

Если вы не знаете, когда алгоритм просматривает ваши данные и принимает решение в отношении вас, как вы поймете, что можете стать жертвой несправедливости? Если вы не способны отследить, у кого есть ваши данные и как они их используют, как вы можете быть уверены, что ваши права на защиту персональных данных соблюдаются?

Есть как минимум две основные технические проблемы, связанные с предоставлением людям возможности отслеживать свои данные. Во-первых, нужно сопоставить персональные данные с лицом, о котором они рассказывают, и убедиться, что у него запрашивается согласие, прежде чем информация будет опубликована. Есть простые случаи: требуется только ваше согласие на сбор или использование вашего адреса электронной почты. Но когда персональные данные включают информацию более чем об одном человеке, задача может усложниться. Чтобы делиться своими генетическими данными с соблюдением этических норм, вам необходимо согласие как минимум ваших родителей, братьев, сестер и детей. Но что, если ваши дети еще несовершеннолетние и не согласились бы, будучи взрослыми? А как насчет ваших двоюродных братьев и сестер? Как далеко по семейной линии мы должны спрашивать согласия? На эти вопросы трудно ответить, вы не можете быть уверены в том, какие выводы могут быть сделаны о ваших двоюродных братьях и сестрах с помощью ваших генетических данных в будущем. Когда есть сомнения, следует поступать с осторожностью. Возможно, мы не должны позволять людям делиться своими генетическими данными ни с кем, кроме лечащих врачей, когда в этом есть серьезная медицинская необходимость.

Вторая важная задача – разработать способ получения полной информации о том, как используются наши данные, без дополнительной угрозы конфиденциальности. Это сложная задача, и она может оказаться невыполнимой. Может случиться так, что, помечая свои персональные данные для их дальнейшего отслеживания, мы неизбежно разоблачим себя, и в этом случае основная цель – лучше защитить нашу конфиденциальность – не будет достигнута. Нужно еще посмотреть, как это работает. Создатель Всемирной паутины сэр Тим Бернерс-Ли в настоящее время работает над проектом Solid, который направлен на разработку модулей персональных данных, дающих пользователям полный контроль над своими персональными данными. Если Solid или подобному проекту удастся преодолеть эти и другие технические проблемы, это может кардинально изменить способ управления персональными данными.

Защитить наших детей

Мы должны защищать всех, но в первую очередь детей, потому что они находятся в исключительно уязвимом положении касательно конфиденциальности. Дети младшего возраста не могут самостоятельно защитить свою конфиденциальность. В этом смысле они зависят от своих семей и школ. И нынешняя тенденция заключается в том, чтобы наблюдать за детьми с момента их зачатия под предлогом обеспечения безопасности.

В частности, есть две основные причины, по которым следует беспокоиться о конфиденциальности детей. Во-первых, слежка может поставить под угрозу их будущее. Мы не хотим, чтобы возможности наших детей находились под угрозой со стороны организаций, оценивающих их (и, возможно, делающих это неверно) на основании информации об их здоровье, интеллектуальных способностях, поведении в школе и взаимоотношениях с друзьями. Не говоря уже о том, что, возможно, и это даже более важно, слишком пристальная слежка может сломить дух людей. Воспитывать детей в условиях постоянной слежки – значит воспитывать субъектов, а не граждан. А мы хотим воспитывать граждан. Ради собственного благополучия и ради благополучия общества. Обществу нужны независимые и заинтересованные граждане, способные задавать вопросы и менять текущее положение дел. Государства не достигают величия благодаря слепо подчиняющимся гражданам. Чтобы стать людьми с сильным сердцем и разумом, детям необходимо исследовать мир, делать ошибки и учиться на собственном опыте, зная, что их промахи не будут зафиксированы, а тем более использованы против них. Конфиденциальность необходима для развития бесстрашия.

Вероятно, из-за своей крайней уязвимости дети и особенно подростки, как правило, гораздо больше, чем взрослые, чувствительны к тому, что о них думают другие. Поэтому слежка может восприниматься ими даже более остро. Молодые люди, за которыми все время следят, с меньшей вероятностью осмелятся попробовать что-то новое, что у них пока не очень хорошо получается, но что они могли бы со временем хорошо освоить через практику, если бы только их оставили одних, чтобы у них не было страха выглядеть глупо у всех на виду.

Несколько осложняет ситуацию то, что дети нуждаются в некотором надзоре в целях безопасности. Риск состоит в том, что безопасность будет использоваться в качестве предлога для избыточной слежки, а грань между тем, что необходимо, и тем, что неоправданно, не всегда очевидна. Защитники слежки в школе утверждают, что они «обучают» детей тому, как быть хорошими «виртуальными гражданами», помогая им привыкнуть к тотальной слежке, которой они будут подвергаться и после выпуска.

«Представьте взрослого человека на работе. Он не будет писать все, что ему заблагорассудится, в электронном письме, потому что почта просматривается, – заявил Билл Маккалоу, представитель Gaggle – американской компании, осуществляющей мониторинг школ. – Мы готовим детей к тому, чтобы стать успешными взрослыми»[292]. Но это не так. Избыточная слежка учит детей тому, что права человека не обязательно должны соблюдаться. Мы не можем реально ожидать от людей, которым в детстве внушили, что их права не имеют значения, уважения к правам других в зрелом возрасте.

Шпионить за детьми с самого начала, чтобы они привыкли к этому во взрослой жизни, – все равно что внедрять совершенно несправедливую систему оценок в школе, чтобы дети привыкали к факту несправедливости в жизни. Если мы не принимаем второе, мы не должны принимать и первое. Справедливая система оценок не только дает всем детям равные возможности, но и учит их ожидать справедливости от организаций, что в дальнейшем будет побуждать их требовать, бороться и отстаивать справедливость, когда ее нарушают. То же самое и с конфиденциальностью.

Слежка поощряет самоцензуру. Это предупреждение для учащихся: не нарушать границы дозволенного, не обсуждать деликатные темы и даже не осуществлять поиск по ним в интернете. Любое поведение, выходящее за рамки того, что является политически и социально безопасным, может вызвать школьное или даже полицейское расследование. Но подростковый возраст всегда связан с любопытством по поводу всего, что происходит в жизни. Молодые люди интересуются сексом, наркотиками, смертью и другими щепетильными темами, и запрет на изучение этих тем не будет способствовать развитию их знаний или взрослению. Запретить говорить – значит запретить думать. В некотором смысле, когда мы слишком жестко контролируем молодых людей, мы ограничиваем их способность становиться ответственными взрослыми, которым не потребуется надзор. Избыточная слежка за детьми чревата тем, что будет воспитано поколение людей, которым так и не дали повзрослеть.

Как родители вы можете многое сделать для защиты конфиденциальности своих детей. Но прежде чем мы перейдем к тому, что каждый из нас может сделать для защиты конфиденциальности, стоит ответить на один распространенный вопрос: разве нам не нужны персональные данные?

Разве нам не нужны личные данные?

Энтузиасты экономики данных наверняка скажут вам, что отключение потока персональной информации будет препятствовать инновациям.

Некоторые паникеры вообще заявляют, что если мы будем регулировать экономику данных, то иностранные (возможно, даже враждебные) силы будут развивать искусственный интеллект быстрее, чем мы, и обгонят нас. То есть если мы ограничим возможности использования данных, то положим конец прогрессу. Краткий ответ на это возражение – «нет». Прогресс защищает права человека, а не подрывает их. Слишком часто политический и социальный регресс рядится в обманчивые «одежды» технического прогресса. Экономическая модель, основанная на систематическом нарушении прав людей, не является прогрессом. Преимущества экономики данных с точки зрения прибыли, научного прогресса и безопасности постоянно преувеличивались, а ее издержки приуменьшались энтузиастами технологий.

Есть и более развернутый ответ на это. Даже если мы понимаем, что прогресс означает только его техническую сторону, ответ все равно будет «нет» – защита конфиденциальности необязательно должна происходить за счет развития технологий. Не будем забывать, что персональные данные в основном используются для получения финансовой выгоды. Таким компаниям, как Google, возможно, даже не придется вводить новшества, чтобы обеспечить устойчивую бизнес-модель. Возможно, шансы Google на прямую продажу своих услуг потребителям были невелики с самого начала. Тогда потребители еще не успели почувствовать, каково это – ориентироваться в повседневной жизни с помощью поисковой системы Google, их карт и других продуктов. Но теперь пользователи Сети хорошо понимают ценность продуктов Google. Давайте заплатим за эти услуги, если они для нас важны. В 2013 году, когда дела Google шли уже очень хорошо, у компании было 1,3 миллиарда пользователей, а годовой доход составлял около 13 миллиардов долларов, то есть около 10 долларов в год с каждого пользователя[293]. Разве это не разумная цена за услуги Google? Это меньше, чем люди платят за развлекательные услуги, такие как доступ к Netflix, которые стоят немногим больше 10 долларов в месяц.

Разрешение зарабатывать на персональных данных создает стимул для сбора большего количества данных, чем это необходимо для технического прогресса. Использование данных в целях науки и техники запрещать нельзя, но если организации захотят поэкспериментировать с персональными данными, они должны будут взять на себя соответствующие обязательства по соблюдению прав людей. Это разумное требование. Если технологическим компаниям удастся преобразовать свои усилия в ценные услуги для пользователей Сети, то мы будем рады платить за них, как и за другие вещи, которые мы ценим в реальном мире.

Кроме того, далеко не так очевидно, может ли бесконечное количество персональных данных привести к техническому или научному прогрессу. Как мы видели, избыточное количество данных может помешать мыслительному процессу и принятию решений. Добавление большего количества данных в плохой алгоритм не сделает его хорошим. Когда мы проектируем искусственный интеллект, мы стремимся к тому, чтобы создать именно ИНТЕЛЛЕКТ. Но если вы недавно взаимодействовали с онлайн-помощником, то наверняка заметили, что интеллектом он не блещет.

Иногда люди могут узнать что-то новое на одном примере, потом они переносят эти знания на аналогичные, но новые сценарии. По мере того как системы искусственного интеллекта становятся умнее, мы можем ожидать, что им будет требоваться меньше данных[294]. Наиболее важные проблемы для развития искусственного интеллекта являются техническими, и они не будут решены путем наращивания объема персональных данных[295], потому что, и это не должно нас удивлять, самые передовые результаты искусственным интеллектом были достигнуты не за счет использования персональных данных.

AlphaZero – это алгоритм, разработанный Google DeepMind, который играет в древнюю китайскую игру го (а также в шахматы и сёги). Что делает го особенно интересной игрой для освоения искусственного интеллекта? Во-первых, это ее сложность. По сравнению с шахматами в го доска большего размера, и на каждый ход нужно учитывать гораздо больше альтернатив. Из одной позиции в шахматах можно пойти примерно 20 способами, а в го – двумя сотнями. А количество возможных конфигураций на доске больше, чем число атомов во Вселенной. Во-вторых, го – это игра, в которой большую роль играет интуиция. Когда профессионалов спрашивают, почему они сделали тот или иной ход, они часто отвечают, что «это кажется правильным». Именно это интуитивное качество заставляет людей считать го искусством, а игроков – художниками. Таким образом, чтобы компьютерная программа могла победить игрока в го, она должна имитировать человеческую интуицию – или, точнее, результаты человеческой интуиции. Самое примечательное в алгоритме AlphaZero – это то, что его разрабатывали исключительно путем игры против самого себя. Внешние данные не использовались. Алгоритм AlphaGo, предшествовавший AlphaZero, был частично разработан путем демонстрации сотен тысяч игр в го между людьми. DeepMind потребовались месяцы, чтобы так усовершенствовать AlphaGo, что он смог победить чемпиона мира Ли Седола. AlphaZero развил сверхчеловеческие способности по игре в го всего за три дня. И все это – без использования личных данных.

А как насчет медицины?

Медицина представляет собой исключительный случай по части обработки данных. Во-первых, потому что она необычайно важна для всех нас. Мы все желаем быть здоровыми и жить как можно дольше, поэтому хотим, чтобы медицина развивалась максимально быстро. Во-вторых, потому что медицинские данные очень конфиденциальны: их утечка может привести к навешиванию социальных ярлыков, дискриминации и даже худшим последствиям. В-третьих, потому что анонимизировать медицинские данные чрезвычайно сложно, а иногда и невозможно. Генетическая информация, как мы видели, является хорошим примером: это данные, которые идентифицируют вас именно как вас – они включают в себя саму вашу личность. В более общем смысле, чтобы медицинские данные были полезными, важно обозначить различные единицы информации, принадлежащие одному и тому же человеку, и чем больше единиц информации мы имеем о человеке, тем легче его идентифицировать.

Зависит ли развитие медицины от обмена личными данными? Нет. Во-первых, мы должны более скептически относиться к силе цифровых технологий. Во-вторых, есть способы использования персональных данных в медицинских исследованиях, которые минимизируют риск огласки для пациентов и требуют их согласия. В-третьих, некоторые из наиболее важных достижений медицины могут вообще не использовать персональные данные. Давайте подробнее рассмотрим всё пункт за пунктом.

Перспективы цифровых технологий в медицине

Цифровые технологии и большие массивы данных – это не панацея. Мы не можем ожидать, что они решат все наши проблемы. Иногда инновации, которые спасают больше жизней, связаны не с высокими технологиями, а с менее яркими изменениями, такими как улучшение гигиены. Это не означает, что высокие технологии не могут способствовать развитию медицины, но, обсуждая их пользу, мы не должны оставлять за дверью наше критическое мышление. Когда технология становится идеологией, что иногда случается, она уходит от науки в сторону предрассудков. Вот два примера того, как цифровые технологии дают слишком много обещаний и показывают недостаточную эффективность в контексте медицины.

Первый пример – это искусственный интеллект IBM Watson. В 2011 году, после того как Watson удалось победить двух чемпионов в американском игровом шоу «Jeopardy!» (в России выходит под названием «Своя игра». – Прим. ред.), IBM объявила, что разработанный ею искусственный интеллект станет врачом. Компания заявила, что ее первые коммерческие продукты будут доступны через восемнадцать – двадцать четыре месяца. Девять лет спустя это обещание все еще не было выполнено.

В 2014 году IBM инвестировала в развитие Watson 1 миллиард долларов. К 2016 году она приобрела четыре компании по обработке данных о здоровье на общую сумму 4 миллиарда долларов. Однако многим больницам, которые участвовали в проектах Watson от IBM, пришлось их прекратить. Онкологический центр доктора медицины Андерсона был вынужден отменить свой проект с Watson по разработке консультативного инструмента для онкологов, ранее потратив на него 62 миллиона долларов[296]. Университетская больница Гиссена и Марбурга в Германии тоже отказалась от участия в проекте. Когда врач сказал Watson, что пациент страдает от боли в груди, система не учла, что у него может быть сердечный приступ. Вместо этого искусственный интеллект выдвинул предположение, что у пациента редкое инфекционное заболевание[297]. В другом случае больному раком с сильным кровотечением Watson предложил назначить лекарство, которое могло вызвать обострение кровотечения. «Этот продукт – кусок дерьма», – заключил врач больницы Юпитер во Флориде[298].

Проект IBM Watson – не единичный случай разочаровывающего применения технологий в медицине. В 2016 году DeepMind заключила сделку с Royal Free NHS Trust в Лондоне. DeepMind собрала медицинские карты 1,6 миллиона пациентов без их согласия или ведома. Это означает, что компания получила доступ к отчетам о патологии, рентгенологическим исследованиям, ВИЧ-статусу, о том, кто делал аборт, кто болел раком, и так далее. Управление комиссара по информации позже сочло, что Royal Free нарушила законы о защите данных.

Первоначальная идея заключалась в том, чтобы использовать искусственный интеллект для разработки приложения для обнаружения острого поражения почек. Вскоре исследователи поняли, что у них недостаточно данных для использования искусственного интеллекта, поэтому они остановились на чем-то более простом. В итоге обнаружилось, что разработанное приложение Streams «не оказывает статистически значимого положительного влияния на клинические результаты пациентов»[299].

Обе эти неудачи не означают, что все последующие попытки не увенчаются успехом, но они дают некоторое представление о перспективах цифровых технологий в медицине. В недавнем метаанализе было рассмотрено около 20 000 исследований медицинских систем искусственного интеллекта, в которых утверждалось, что они могут диагностировать болезни не хуже врачей. Ученые выявили, что только четырнадцать из этих исследований (менее 0,1 %) были выполнены на достаточном методологическом уровне, чтобы допустить эти алгоритмы до клинических испытаний[300].

То, что медицинский искусственный интеллект может не помочь пациентам, не единственная проблема. Более серьезные опасения вызывает то, что это может навредить пациентам. Например, искусственный интеллект назначит чрезмерное или некорректное лечение. Некоторые медицинские цифровые технологии, похоже, ошибаются в сторону ложноположительных результатов при диагностике (обнаруживают медицинские проблемы, когда их нет). Некоторые алгоритмы, ищущие раковые клетки, например, будут маркировать как аномальные совершенно здоровые клетки, допуская восемь ложноположительных ошибок на одно изображение[301]. Если компании и врачи заинтересованы (финансово или профессионально) во вмешательстве в дела пациентов, то это может привести к избыточному лечению.

Еще одна возможная проблема – это сбои. Опасно полагаться на цифровые технологии, потому что программирование – чрезвычайно сложный процесс, а у цифровых технологий есть потребности, которых нет у аналоговых, и все это приводит к тому, что цифровые технологии зачастую менее надежны, чем аналоговые. Сравните, например, электронную книгу с бумажной. Устройство для чтения электронных книг через определенное время нужно заряжать, оно может быть взломано, может выйти из строя, если вы уроните его в песок, воду или на твердую поверхность, и так далее. Напротив, бумажные книги очень надежны. Их не нужно заряжать, и, если вы уроните книгу с крыши здания, она, скорее всего, не слишком пострадает (пострадать может лишь проходящий мимо человек, в которого она угодит, – так что не делайте так). Когда вы имеете дело с оборудованием, спасающим жизни, вам нужна технология, не уступающая по надежности бумажной книге.

Эти разительные неудачи лишь призваны показать особенности нынешнего положения и путей дальнейшего развития в части использования цифровых технологий в медицине. Конечно, искусственный интеллект может сыграть очень важную роль в развитии медицины. Но, как и в случае с любым другим вмешательством, нам нужно, чтобы эти методы были основаны на убедительных доказательствах, прежде чем нас попросят передать наши персональные данные, и нам необходимы некоторые заверения в том, что наши данные будут обработаны должным образом и будут проанализированы все возможности и риски их использования. Слишком часто искусственный интеллект получает бесплатный допуск к нашим данным. Предположим, мы решили, что хотим провести медицинское исследование с использованием персональных данных и цифровых технологий. В конце концов, обещания персонализированной медицины очень заманчивы. И есть способы организовать это в рамках этических норм, а не так, как сделали DeepMind и Royal Free.

Этические медицинские исследования

Медицинская этика имеет долгую историю привлечения людей для исследований. Исследования с использованием персональных данных не должны сильно отличаться от других видов медицинских исследований. Несмотря на то что предоставление личных данных не похоже на сдачу крови – тут нет иглы и боли, – существуют аналогичные риски. Мы больше не заставляем людей подписываться на клинические исследования (хоть и делали это раньше, до появления медицинской этики). Мы также не должны заставлять людей предоставлять свои персональные данные для медицинских исследований. Недопустимо использовать население в качестве подопытных кроликов без их согласия, без надлежащих мер безопасности и без компенсации. Скорее нам следует запросить согласие людей, установить некоторые правила того, как их данные будут использоваться и когда они будут удалены, а также выплатить соответствующую компенсацию субъектам исследования, как мы делаем это при других исследованиях.

Иногда учреждения общественного здравоохранения не имеют необходимых ресурсов или технологий для анализа данных, и они могут прибегнуть к сотрудничеству с технологическими компаниями. В таких случаях мы должны быть абсолютно уверены в том, что заключенные сделки выгодны для субъектов данных и пациентов. Среди множества ошибок, допущенных Royal Free, две видятся особенно вопиющими. Во-первых, они не получили никаких юридических гарантий того, что DeepMind не будет использовать эти данные ни для чего, кроме разработки приложения. Они лишь взяли с компании обещание, что данные не будут сопоставляться с информацией, хранящейся в Google, но когда подразделение здравоохранения DeepMind было поглощено Google, эксперты по конфиденциальности начали опасаться, что это обещание будет нарушено[302].

Вторая большая ошибка заключалась в том, что компания Royal Free не позаботилась о том, чтобы пациенты получали пользу от продуктов, разработанных на основе их данных[303]. В учреждениях общественного здравоохранения имеется так много ценных медицинских данных, что они могут использовать это как преимущество на переговорах, – и на это стоит обратить внимание. Доступ других организаций к этим данным должен быть ограничен. Например, компании могут использовать данные, но не хранить их. Учреждениям здравоохранения следует потребовать юридических гарантий того, что любой разработанный продукт будет предлагаться учреждениям здравоохранения и населению по доступным ценам.

Всегда будет сложно обеспечить безопасность персональных данных при взаимодействии с компаниями, основной целью которых не является служение на благо обществу. Если нам повезет, то, возможно, самые важные медицинские достижения, которые может предложить искусственный интеллект, вообще не будут связаны с использованием персональных данных.

Достижения в медицине без использования персональных данных

Как мы видели, AlphaZero, один из лучших примеров искусственного интеллекта, является выдающимся достижением, но у него нет практического применения в повседневной жизни (во всяком случае, пока). Один из способов, которым искусственный интеллект может изменить (и, возможно, спасти) нашу жизнь, – это открытие новых лекарств.

Антибиотики, вероятно, являются самым важным достижением медицины прошлого века. До открытия антибиотиков основными причинами смерти во всем мире были бактериальные инфекционные заболевания. Продолжительность жизни в развивающихся странах сейчас значительно увеличилась, и люди умирают в основном от неинфекционных заболеваний, таких как болезни сердца и рак (на момент написания книги все еще неясно, станет ли уровень смертности от пандемии коронавируса выше уровня смертности от неинфекционных заболеваний. – Прим. авт.). К сожалению, эффективность этих чудесных лекарств сейчас находится под угрозой из-за развития устойчивости к антибиотикам.

Благодаря эволюционным процессам, таким как мутации, бактерии становятся устойчивыми к антибиотикам, воздействию которых они подвергались. Чем больше мы используем антибиотики, тем больше у этих бактерий возможностей для развития устойчивости. Мир без эффективных антибиотиков – это реальная и очень пугающая перспектива. Низкий риск неблагоприятного исхода хирургических операций может смениться очень высоким. Больше женщин будет умирать при родах. Риск летального исхода будет возникать при любом визите к стоматологу или сексе на одну ночь, где возможно подхватить инфекцию. Химиотерапия и трансплантация органов станут намного опаснее, поскольку эти методы лечения подавляют иммунную систему. Устойчивость к антибиотикам может быть основным фактором снижения продолжительности жизни.

Нам отчаянно нужны новые антибиотики, но процесс открытия и разработки лекарств идет медленно и стоит дорого. Однако исследователи из Массачусетского технологического института считают, что они, возможно, обнаружили способ разработать новые антибиотики. Загрузив в компьютерную программу информацию об атомных и молекулярных характеристиках тысяч лекарств и природных соединений, они научили алгоритм определять типы молекул, убивающих бактерии. Затем они задействовали базу данных из 6000 соединений. Алгоритм выбрал одну молекулу, которая, по прогнозам, обладает сильным антибактериальным действием и, что особенно важно, имеет химическую структуру, отличную от существующих антибиотиков.

Эта компьютерная модель может проверить более 100 миллионов химических соединений всего за несколько дней, что было бы невозможно сделать в обычной лаборатории[304]. Возможно, новый антибиотик, галицин, окажется сильнодействующим, а бактерии пока не выработали к нему устойчивости. Будем надеяться, что галицин сработает не хуже, чем нам хотелось бы, и что искусственный интеллект сможет найти для нас другие новые антибиотики, которые позволят выиграть войну с супербактериями.

То, что два самых выдающихся достижения в области искусственного интеллекта были сделаны без использования каких-либо персональных данных, не может быть совпадением: персональные данные часто неточны и могут относительно быстро устаревать. Так что, защищая нашу конфиденциальность, мы никоим образом не будем препятствовать развитию искусственного интеллекта. У технического прогресса есть широкое поле маневра для развития. Кроме того, признаком истинного прогресса – того прогресса, в который следует вкладывать ресурсы общества, – является защита прав граждан и повышение благосостояния людей. По обоим этим пунктам торговле персональными данными нечем похвастаться.

Остерегайтесь кризисов

Сейчас, когда я пишу эту главу, пандемия коронавируса все еще бушует. Технологические и телекоммуникационные компании по всему миру предложили правительствам свои услуги по сбору и анализу данных, чтобы попытаться остановить распространение инфекции. Google и Apple договорились объединить усилия для модификации своего программного обеспечения для поддержки разработки приложений для отслеживания контактов.

Наступило опасное время для конфиденциальности. Когда в воздухе витает паника, появляется тенденция к большему отказу от гражданских свобод в обмен на чувство безопасности. Но дадут ли нам приложения для защиты от коронавируса больше безопасности? Это далеко не ясно.

В городе Во, где была зафиксирована первая в Италии смерть от коронавируса, было проведено исследование. Специалисты Университета Падуи проверили всех жителей и обнаружили, что инфицированные, но не имеющие симптомов заболевания люди играют фундаментальную роль в его распространении. Было выявлено шестьдесят шесть положительных случаев, и зараженных людей изолировали на четырнадцать дней. Через две недели в шести случаях тест на наличие вируса все еще был положительным. Этим пациентам пришлось остаться в изоляции. После этого новых случаев заражения не было. Инфекция оказалась под контролем. Никаких приложений для этого не потребовалось[305].

Отслеживание каждого с помощью приложений, притом что в большинстве стран тестируются на вирус только госпитализированные, не имеет большого смысла. Приложения будут уведомлять тех, у кого положительный тест. Однако к этому моменту они уже заразят других, а те, в свою очередь, кого-то еще. При этом многие будут болеть бессимптомно и распространять инфекцию дальше. Некоторые носители инфекции не попадут в больницу и не пройдут тестирование (в соответствии с действующими правилами в большинстве стран мира). Чтобы сдержать распространение вируса, нам нужно массовое тестирование. Спустя четыре месяца после начала эпидемии в большинстве стран все еще не было возможностей для тестирования, которые позволили бы остановить распространение инфекции путем выявления всех тех, кто заразился.

Приложения для отслеживания контактов более чем вероятно будут уступать по точности тестам. Они посоветуют некоторым людям оставаться дома, даже если они не инфицированы (несмотря на то, что они были рядом с инфицированными), и позволят свободно перемещаться людям, которые инфицированы и должны быть изолированы. Приложения не могут заменить тесты, потому что они работают опосредованно, а не проверяют, есть ли у кого-то вирус.

Нам нужно точно знать, есть ли у кого-то коронавирус. И приложения пытаются найти способы определить наличие инфекции, но у них есть одна общая проблема: то, что считается контактом для приложения, – это не то же самое, что заражение. Приложения часто определяют контакт как нахождение рядом с человеком (в пределах двух метров) в течение пятнадцати минут или более. Первое, на что следует обратить внимание, – это то, что приложения работают на телефонах. Если у вас нет телефона, приложение не работает. Но предположим, что все носят с собой телефон (может быть, даже по закону, хотя это было бы серьезным нарушением гражданских свобод). Мы можем отслеживать контакты через GPS или Bluetooth. Ни то ни другое не идеально. Приложение может идентифицировать двух людей как имевших контакт, притом что фактически они находились на разных этажах одного здания или на одном этаже, но в разных кабинетах. Если с ними свяжутся и предупредят о возможном заражении, это может быть ложной тревогой. Но также можно ожидать, что приложения будут приводить к большому количеству ложноотрицательных результатов. Предположим, вы встретили друга на улице и так давно с ним не виделись, что сразу же кинетесь обниматься и целоваться, особо не задумываясь. Если вы не из Средиземноморья или Латинской Америки, возможно, вы обменяетесь рукопожатием. В любом случае, вы рискуете заразиться, но приложение не вычислит вас, поскольку вы провели рядом с инфицированным меньше пятнадцати минут. Вы также можете подхватить вирус через зараженную поверхность. В обоих случаях приложение не идентифицирует вас как человека из группы риска.

Любое приложение создает риски для конфиденциальности и безопасности. Самый простой способ повысить риск хакерской атаки – включить Bluetooth. Используя приложение, технически подкованные люди потенциально могут узнать, кто заразил их или их близких – опасная информация, обладание которой может иметь фатальные последствия. Или кто-нибудь может использовать систему для наблюдения за пользователями приложений, например для создания тепловых карт местонахождения инфицированных людей. Ив-Александр де Монжуа и его команда подсчитали, что отслеживающие маячки, установленные на телефонах 1 % населения Лондона, позволяют злоумышленникам отслеживать в реальном времени местонахождение более половины населения города[306]. Помните, что конфиденциальность коллективна.

Почему же тогда приоритет отдается приложениям, а не тщательному тестированию населения? Возможно, потому, что они дешевле. Возможно, потому, что технологические компании являются основными крупными игроками на мировом рынке. Когда случается кризис, за помощью обращаются к различным организациям. Если бы крупнейшими компаниями на рынке были промышленные предприятия, они бы предложили производить дезинфицирующие средства для рук, маски, перчатки и аппараты искусственной вентиляции легких (ИВЛ). А технологические гиганты предлагают приложения и слежку. Дело не в том, что приложение – это именно то, что нужно в этой ситуации, и нам случайно повезло жить в эпоху экономики слежки. Возможно, это всего лишь молотки, ищущие свои гвозди. Возможно, приложениям был отдан приоритет, потому что технологии часто связаны с магическим мышлением – мы надеемся, что они чудесным образом решат все наши проблемы. Возможно, это произошло потому, что есть экономические стимулы для сбора данных. А может, потому, что правительства стран не знают, как выйти из кризиса, и внедрение множества предложенных им приложений было простым способом показать народу, что они что-то делают (а то, что это не приносит пользы, имеет второстепенное значение). Возможно, имело место все перечисленное сразу. Но никакое приложение не может заменить наши потребности в здравоохранении. Нам нужны медицинские тесты для диагностики людей, вакцины для профилактики заболевания, а также лекарства и аппараты ИВЛ для лечения пациентов. Приложения – это не волшебные палочки, и наличие большего количества данных вкупе с сужением конфиденциальности не решит всех наших проблем.

Нынешняя пандемия – это не первая и не последняя чрезвычайная ситуация, которая поставила под угрозу конфиденциальность. Мы должны научиться лучше справляться с подобными ситуациями. Как говорил Рам Эмануэль, глава аппарата Барака Обамы, «никогда не позволяйте серьезному кризису пропасть зря – это ваша возможность начать делать то, что, по вашему мнению, вы не могли делать раньше»[307]. В своей книге «Доктрина шока» Наоми Кляйн подробно описала случаи, когда стихийные бедствия использовались как возможности для реализации крайних политических инициатив, усиливавших власть государства[308]. Когда наступает кризис, внимание граждан отвлечено, они напуганы и оказываются во власти лидеров государств. Слишком часто это оказывает губительное воздействие на демократию. Чрезвычайные обстоятельства используются для навязывания новых норм, которые граждане никогда не приняли бы в более спокойные времена. А как мы знаем, нет ничего более постоянного, чем временное. Помните, как мы оказались в нынешней ситуации? Мы приняли чрезвычайные меры после 11 сентября, и эти меры до сих пор не дают нам покоя. В Китае такие события, как Олимпийские игры в Пекине в 2008 году и Всемирная выставка в 2010 году, использовались для внедрения системы слежки, которая продолжила работать и после завершения этих мероприятий[309]. Многие мероприятия по слежке, введенные для борьбы с коронавирусом, являются драконовыми, и граждане имеют право опасаться их сохранения. Мы должны быть предельно бдительны в отношении того, как используются наши данные.

Коронавирус убил гораздо больше жителей Нью-Йорка, чем трагедия 11 сентября. Стоит ли повторять ошибки, которые были совершены тогда? Одна из опасностей оправдания сужения конфиденциальности борьбой с такими угрозами, как терроризм и эпидемии, заключается в том, что эти угрозы никогда не исчезнут. Риски террористической атаки или эпидемии будут существовать всегда. Как мы уже успели убедиться, массовая слежка не защищает нас от терроризма. Пока неясно, поможет ли она нам в борьбе с эпидемией. Весьма сомнительно. Но даже если поможет, то какой ценой?

Вы были бы в полной безопасности от терроризма и эпидемий, если бы навсегда заперлись в своем подвале, но стоит ли оно того? В какой момент мы стали готовы заплатить за небольшое повышение уровня безопасности своими гражданскими свободами? И можем ли мы найти способы повысить уровень своей безопасности, не нарушая наше право на конфиденциальность? Запрет промышленного животноводства и рынков под открытым небом, где диких животных продают живыми, мог бы быть гораздо более эффективным для предотвращения эпидемий, не говоря уже о потенциальной пользе для благополучия животных.

Во время кризиса легко захотеть сделать все необходимое, чтобы только остановить катастрофу, сеющую хаос. Но помимо размышлений о том, как сдержать неминуемую катастрофу, мы также должны думать о том, каким станет мир после того, как буря утихнет[310].

Исторически так сложилось, что кризисы проходят, а антикризисная политика остается. Решить проблему сейчас таким образом, чтобы в будущем она еще больше усугубилась, – плохое решение. Прежде чем отказываться от нашей конфиденциальности в разгар кризиса, мы должны быть абсолютно уверены, что это необходимо и что у нас есть способ восстановить контроль над своими правами после завершения чрезвычайной ситуации. В противном случае мы рискуем оказаться в более глубокой яме, чем та, из которой пытаемся выбраться сейчас.

Действовать нужно уже сейчас

Какими бы могущественными и неизбежными ни казались технологические гиганты, мы все еще можем реформировать экосистему данных. Многие отрасли экономики не оцифрованы. На Западе до пандемии коронавируса только десятая часть розничных продаж проходила онлайн, а на облачные системы приходилась примерно пятая часть компьютерной обработки данных. Пандемия коронавируса заставила значительную часть человечества работать из дома, продвинула нас еще дальше в цифровую реальность. Мы должны соблюдать осторожность. Если мы позволим технологическим гигантам продолжать расширяться, не устанавливая строгих правил того, что именно они могут преобразовывать в данные и что они будут делать с этими данными, скоро будет слишком поздно. Пришло время для решительных действий.

Глава 6

Что вы можете сделать

Многие решающие социальные, экономические, политические и технологические изменения, которые пережило общество, в какой-то момент казались немыслимыми для большинства населения. Это касается как положительных, так и отрицательных изменений. Права женщин, электричество, либеральная демократия, самолеты, коммунизм, холокост, чернобыльская ядерная катастрофа, интернет – все это казалось невозможным. И все же это случилось.

Мир может быстро и резко измениться. В начале марта 2020 года жизнь шла привычным чередом. Люди свободно перемещались по миру, супермаркеты были переполнены, больницы работали в обычном режиме. В течение нескольких недель треть человечества оказалась в полной изоляции из-за пандемии коронавируса. Значительная часть международных поездок прекратилась, покупка продуктов питания превратилась в рискованную, иногда сложную операцию, а медицинские услуги стали недоступны из-за большого количества заболевших.

Буддийская философия называет изменчивую природу жизни непостоянством. Потенциал трансформации может быть пугающим, потому что он напоминает нам, что в любой момент все может ухудшиться. Но непостоянство также может приводить и к улучшениям – это означает, что мы можем делать мир лучше. Мир обязательно должен меняться, и мы можем использовать эту первозданную основу жизни для того, чтобы изменения происходили к лучшему.

В конце восемнадцатого и начале девятнадцатого веков рабство было привычным делом. Именно на нем, среди прочего, зиждилось производство сахара. Из экзотической роскоши в середине семнадцатого века к восемнадцатому веку он превратился в необходимость. Сахар сформировал важный источник калорий в рационе каждого человека в Великобритании – жителей городов и деревень, богатых и бедных. В этом контексте рабство рассматривалось большинством как признак торговли, прогресса и цивилизации. Считалось само собой разумеющимся, что рабство является единственным средством удовлетворения потребности. К счастью, не все приняли господствующую точку зрения. Некоторые люди были настолько возмущены бесчеловечностью рабства, что стали воздерживаться от употребления продуктов подневольного труда, включая сахар, и убеждать других делать то же самое. В конце концов, к 1790-м годам кампания получила широкую общественную поддержку. Сотни тысяч людей в Великобритании перестали употреблять сахар[311].

Движение воздержания недвусмысленно показало, что рядовые граждане вовлечены в систему рабовладения. Оно сделало достоянием общественности подробные отчеты о страданиях рабов, рисуя кардинально отличную от идиллической картину. Сторонники воздержания писали о рабстве, говорили об этом, протестовали против него и убедили нескольких коммерсантов начать производство сахара, не прибегая к рабскому труду. Они обнажили внутренние механизмы чудовищной системы и поощряли альтернативы, тем самым рисуя и воспевая новый мир, который ранее было трудно даже представить. Рабство было отменено законом, но такие же люди, как мы с вами, прежде изменили культуру, чтобы такие законы могли быть приняты.

Любая социальная система зависит от сотрудничества людей. Когда люди перестают сотрудничать, система распадается. Часто необходимость сотрудничества неочевидна до тех пор, пока оно не прекратится и вместе с ним не остановится весь механизм. Торговля персональными данными зависит от нашего согласия. Если мы перестанем сотрудничать с капитализмом слежки, мы сможем изменить ситуацию. Если мы будем искать альтернативы, обеспечивающие конфиденциальность, их ждет успех.

В этой главе вы можете найти советы о том, как лучше защитить свою и чужую конфиденциальную информацию. Не каждый захочет делать все возможное для защиты конфиденциальности. Хранение ваших персональных данных в безопасности на данном этапе цифровой эпохи может быть неудобным. Как далеко вы готовы зайти, будет зависеть от того, насколько вы уверены в том, что защита вашей конфиденциальности – это ваша обязанность, и от ваших личных обстоятельств. Если вы активист, работающий в недемократической стране, скорее всего, вы будете готовы сделать многое для защиты своей конфиденциальности. Если вы живете в безопасной стране, имеете стабильную работу и не хотите в ближайшее время брать ипотеку, возможно, у вас могут быть менее строгие требования. Выбор за вами. Но прежде чем слишком небрежно отнестись к своей конфиденциальности, имейте в виду следующие три момента.

Во-первых, удобство со временем переоценивается, даже если оно на первых порах кажется заманчивым. Как и удовольствие, удобство – важная составляющая хорошей жизни. Это обещает нам более легкую жизнь. Если бы мы не выбирали время от времени удобство, наша жизнь была бы безнадежно неудобной и неэффективной. Но удобство тоже опасно. Это заставляет нас вести малоподвижный образ жизни, есть нездоровую пищу, поддерживать компании, которые вредят обществу, вести монотонный и унылый распорядок дня, быть необразованными и аполитичными. Спортивные нагрузки, чтение, учеба, изобретение новых способов жизни и взаимодействия, а также борьба за справедливость – дела столь же неудобные, сколь и значимые.

Самые приятные достижения в жизни редко даются очень легко. Хорошая жизнь требует разумной степени борьбы – правильного баланса между простотой удобства и преимуществами значимых усилий. Как и удовольствие, удобство необходимо сопоставлять с ценой, которую мы должны за него заплатить, и с последствиями, которые могут наступить[312].

Во-вторых, выбор, который вы сделаете сегодня, определит, насколько вы сможете сохранить конфиденциальность в будущем. Даже если вы думаете, что вам нечего скрывать сегодня, возможно, вам будет что скрывать через несколько лет, а к тому времени может быть уже слишком поздно: данные, которые были переданы, часто невозможно вернуть. Ваша страна может уважать права человека сегодня, но можете ли вы быть абсолютно уверены, что так будет и через пять или десять лет?

В-третьих, степень вашей конфиденциальности влияет на уровень конфиденциальности ваших близких, ваших знакомых, ваших сограждан и таких же людей, как вы. Конфиденциальность носит коллективный и политический характер – она касается не только вас.

Учитывая эти предостережения, вот несколько вещей, которые вы можете сделать, чтобы обеспечить лучший уровень защиты конфиденциальности.

Подумайте дважды, прежде чем делиться данными

Самый большой риск для собственной конфиденциальности представляете вы сами. Люди – существа социальные, и многие онлайн-платформы, такие как Facebook, специально созданы, чтобы мы там чувствовали себя как дома. Но в отличие от нашего дома (реального), множество корпораций и государственных органов слушают нас онлайн. В следующий раз, когда вы разместите что-то, спросите себя, как это может быть использовано против вас. И позвольте вашему воображению разыграться, потому что иногда требуется немалая изобретательность, чтобы предвидеть, как ваша личная информация или фотографии могут быть использованы не по назначению. Например, большинство людей не думают о размещении фотографии, на которой можно увидеть части рук или пальцев. Но отпечатки пальцев можно считать с фотографий и даже клонировать[313]. Как правило, чем меньше вы делитесь в интернете, тем лучше. Иногда то, чем вы хотите поделиться, достаточно важно, чтобы оправдать риск этих действий, но делиться бездумно не стоит.

Относитесь с уважением к конфиденциальности других людей

Очень важно соблюдать этикет конфиденциальности. Мы должны уважать права других людей. Прежде чем размещать фотографию другого человека, спросите его согласия. В свою очередь, другие люди, вероятно, спросят у вас разрешения, когда захотят опубликовать что-то о вас. Когда-то мы были слишком наивными, и большинство людей считало, что достаточно иметь возможность «отвязать» себя от фотографий, загруженных другими. Теперь мы знаем, что распознавание лиц можно использовать для идентификации вас как с тегом, так и без него. Если кто-то фотографирует или записывает вас без вашего согласия, не стесняйтесь просить их не публиковать этот контент в интернете. Когда я впервые начала беспокоиться о конфиденциальности, я стеснялась обращаться к людям с такими просьбами. Но ответы, которые я получала с тех пор, вселили в меня уверенность в том, что люди в основном сочувствуют проблемам конфиденциальности. К моему удивлению, большинство людей не только не раздражаются и неравнодушны к моим просьбам о соблюдении конфиденциальности, но даже интересуются моими причинами и шокированы тем, что им никогда не приходило в голову, что это может быть неосмотрительно – делиться фотографиями других людей, не спросив предварительно их разрешения. По мере того как люди повышают свою осведомленность в отношении рисков, связанных с обменом информацией в интернете, становится все более распространенным запрос на согласие, прежде чем размещать что-либо в социальных сетях.

Когда вы приглашаете кого-нибудь к себе в гости, предупредите его о любых умных устройствах, которые у вас есть. Даже директор по аппаратному обеспечению Google Рик Остерло рекомендовал это во время своего интервью на одном из мероприятий: «Черт возьми, я раньше не думал об этом в таком ключе». Это дает вам представление о том, насколько технологическим специалистам наплевать на конфиденциальность и ваше благополучие в целом. По крайней мере, он был честен в этом вопросе и признал то, что владельцы «умных» колонок должны сообщать о них своим гостям[314]. Подобное как нельзя более ярко характеризует многих топ-менеджеров технологических компаний.

Не только ваши гости заслуживают уважения к их конфиденциальности. Имейте в виду, что детям тоже это необходимо. Это неправильно – загружать в социальные сети фотографии детей других людей без разрешения родителей. Даже если они ваши родственники. Мы также должны уважать частную жизнь и своих детей. Родители Сони Бохари не разрешали ей регистрироваться в социальных сетях, пока девочке не исполнилось тринадцать лет. Когда она стала достаточно взрослой, чтобы присоединиться к Twitter и Facebook, она поняла, что ее мать и сестра годами делились фотографиями и рассказами о ней. Она сообщила, что чувствовала себя «очень смущенной», ей казалось, «будто ее предали»[315]. Дети (к которым относятся и подростки) тоже люди, а люди имеют право на конфиденциальность.

Не делайте ДНК-тест забавы ради. В любом случае эти тесты не отличаются высокой точностью, и вы подвергнете опасности не только свою личную жизнь, но и генетическую конфиденциальность своих родителей, братьев и сестер, потомков и бесчисленного множества других родственников из будущих поколений.

Не злоупотребляйте доверием людей. Не угрожайте опубликовать чужие личные сообщения или фотографии, чтобы заставить кого-то делать то, что вы хотите. Это называется шантажом или вымогательством, и это одновременно незаконно и аморально. Не публикуйте личные сообщения или фотографии других людей. Разоблачение других людей, когда они предоставили вам доступ к своей личной жизни, является предательством и способствует формированию культуры недоверия. Не будьте соучастником нарушения конфиденциальности. Если кто-то показывает вам что-то нарушающее чью-либо конфиденциальность, выражайте свое несогласие и не делитесь этим с другими.

Оставьте место конфиденциальности

Места для конфиденциальности остается все меньше. Нам нужно сознательно создавать зоны конфиденциальности, чтобы сохранить пространство, где мы можем беспрепятственно наслаждаться свободой и творчеством.

Если вы хотите устроить уютную вечеринку в узком кругу, попросите своих гостей не делать никаких фотографий или видео либо не размещать их в интернете. Если вы хотите, чтобы ваши студенты могли свободно дискутировать в аудитории, установите некоторые правила, запрещающие записывать или публиковать то, что происходит на занятиях. Если вы хотите организовать научную конференцию, которая будет способствовать исследованию спорных тем или незавершенной работы, выключите камеры и микрофоны. Откажитесь от телефона, когда проводите время с семьей – оставляйте его в другой комнате, по крайней мере иногда.

Есть некоторые виды контактов, которыми мы никогда не сможем наслаждаться в условиях слежки, и мы будем жалеть, если не оставим для них места.

Учитесь говорить «нет»

Возможно, из-за того, что мы существа социальные, мы, кажется, предрасположены отвечать «да» на большинство незначительных просьб, с которыми к нам обращаются другие. Когда кто-то спрашивает ваше имя, вам не составляет труда его назвать, а если вы скажете «извините, нет», это может показаться асоциальным. Эта тенденция говорить «да» особенно остро проявляется в интернете, когда у нас запрашивают согласие на сбор наших персональных данных. Уведомление о согласии кажется препятствием к тому, что мы намереваемся сделать – получить доступ к веб-сайту, – и самый простой способ избавиться от этого препятствия – сказать «да». Чтобы противостоять искушению, нужно быть внимательным, но нам действительно стоит уделить этому внимание. Утрата конфиденциальности подобна экологическому ущербу или ухудшению здоровья: если вы разок намусорите или затянетесь сигаретой – это не смертельно, но если делать это долго и в массовом порядке, то может случиться страшное. Каждая единица данных, которую мы сообщаем или скрываем, имеет значение, даже если кажется, что это не так. Некоторые веб-сайты специально делают ответ «нет» наиболее затруднительным. Вместо того чтобы сделать одну кнопку, нажатие которой отклоняет сбор данных всеми их партнерами, они заставляют нас говорить «нет» каждому, одному за другим. Если вы отклоните файлы cookie, эти веб-сайты не запомнят ваши ответы, поэтому вам придется каждый раз проходить этот процесс. Это раздражает и несправедливо, но вы всегда можете закрыть такой сайт и поискать альтернативу.

Делаем выбор в пользу сохранения конфиденциальности

Есть много способов нарушения конфиденциальности. Отсутствие конфиденциальности иногда может казаться неизбежным, но это далеко не всегда так. Хотя существуют методы сбора данных, которые практически невозможно обойти, у нас есть гораздо больше возможностей сохранить персональные данные, чем может показаться на первый взгляд. И всякий раз, когда у нас есть такая возможность, важно выбирать альтернативу, обеспечивающую конфиденциальность, – не только для защиты наших персональных данных, но и для того, чтобы правительственные учреждения и частные компании знали, что мы заботимся о персональных данных.

Далее я расскажу о некоторых вещах, на которые следует обратить внимание, чтобы защитить вашу конфиденциальность при покупке или использовании продуктов и услуг, а также об альтернативах доминирующим и агрессивным продуктам и услугам. Технологическая среда меняется так быстро, что в этот список, скорее всего, не войдут новейшие продукты и услуги, но вы можете сами без труда их найти. Самый важный вывод – совершая покупки, следует обращать внимание не на названия брендов, а на то, как в предстоящей сделке будет защищена наша конфиденциальность.

Электронные устройства

По возможности выбирайте «глупые» устройства вместо «умных». «Умный» чайник не обязательно будет лучше старого доброго обычного чайника, но, ко всему прочему, он может еще и навредить конфиденциальности. Все, что подключается к интернету, можно взломать. Если вам не нужно, чтобы вас слышали или видели, выбирайте продукты, в которых нет камер или микрофонов.

Подумайте дважды, прежде чем покупать виртуального помощника, такого как Алекса или Google Home. Пуская в дом микрофоны, вы рискуете разрушить ощущение близости со своими родными. Если он у вас уже есть, вы можете его отключить – из него может получиться прекрасное пресс-папье. Если вы решили оставить одно из этих шпионских устройств, обязательно тщательно изучите его настройки и выберите наиболее конфиденциальные варианты.

Особенно важно грамотно выбирать ноутбуки и смартфоны. У этих устройств есть камеры и микрофоны, они подключаются к интернету и хранят некоторые из ваших персональных данных – все это причины для выбора надежного продукта. При выборе бренда подумайте о стране происхождения и конфликтах интересов, которые могут возникнуть у производителей устройств (то есть если производитель телефонов в основном зарабатывает деньги на использовании персональных данных, купите другой телефон). Небесполезно читать последние новости о проблемах конфиденциальности. В 2018 году директора ЦРУ, ФБР и АНБ предостерегли американцев от покупки устройств у китайских компаний Huawei и ZTE из-за подозрений в том, что такие продукты содержат подконтрольные правительству КНР инструменты обхода системы защиты[316]. В 2019 году исследование более 82 000 предустановленных приложений Android на более чем 1700 устройствах, изготовленных 214 брендами, показало, что эти устройства являются в высшей степени небезопасными[317]. Предустановленные приложения – это привилегированное программное обеспечение, которое вам будет трудно удалить, если вы не являетесь опытным пользователем, и которое может собирать и отправлять ваши данные третьим лицам без своего согласия. Если вы не технический специалист, знающий, как обеспечить конфиденциальность своего телефона, вероятно, лучше держаться подальше от Android-устройств.

Приложения для обмена сообщениями

Самым важным в приложениях для обмена сообщениями, или мессенджерах, является то, что они предлагают сквозное шифрование, и вы верите, что провайдер не будет злоупотреблять вашими метаданными или небезопасно хранить сообщения в облаке. Несмотря на то что приложение WhatsApp обеспечивает такое шифрование, тот факт, что оно принадлежит Facebook, создает определенные риски для конфиденциальности. После того как Facebook приобрела WhatsApp, Брайан Эктон, один из его соучредителей, признался: «Я продал конфиденциальность своих пользователей»[318]. Вероятно, самый безопасный вариант с точки зрения внешних угроз – это Signal. Одной из моих любимых функций является возможность устанавливать даты истечения срока действия в ваших сообщениях – он может варьироваться от пяти секунд до недели с момента просмотра. Отдельно стоит упомянуть Telegram. Преимущество этого мессенджера в том, что при удалении текста вы можете удалить его со всех телефонов, а не только с вашего, в любое время, что является отличной функцией, защищающей вас от внутренних угроз. Иногда вы понимаете, что вам не следовало писать что-то или что вы доверяли кому-то, кто не достоин вашего доверия. Возможность по желанию удалять отправленные нами сообщения – это то, что должно быть в каждом приложении для обмена сообщениями. Однако у Telegram есть два огромных недостатка. Во-первых, криптографы не доверяют его шифрованию – оно, вероятно, менее безопасно, чем у Signal[319]. Кроме того, по умолчанию сообщения не шифруются – для этого нужно выбрать опцию «секретный чат». И Signal, и Telegram бесплатны и просты в использовании. Вы будете удивлены, узнав, сколько ваших знакомых уже пользуется одной из этих альтернатив. Тех, у кого этих приложений нет, можно пригласить в мессенджер посредством уведомления. Многие люди будут рады иметь более безопасное приложение для обмена сообщениями.

Электронная почта

Электронная почта заведомо небезопасна. Электронное письмо может показаться таким же личным, как бумажное письмо, но оно больше похоже на открытку без конверта. Избегайте использования своего рабочего адреса электронной почты в целях, не связанных с работой (а иногда и для работы). Ваш работодатель может получить доступ к вашей рабочей электронной почте, а если вы работаете в государственном учреждении, ваша электронная почта может стать предметом запросов о свободе информации. При выборе провайдера электронной почты обратите внимание на преимущества конфиденциальности, такие как простое шифрование, а также на страну, в которой находится провайдер. В настоящее время в США действуют менее жесткие юридические ограничения на то, что компании могут делать с вашими данными. Варианты, на которые, возможно, стоит обратить внимание, – это ProtonMail (Швейцария), Tutanota (Германия) и Runbox (Норвегия). Если вы терпеливы и технически подкованны, вы можете использовать PGP (Pretty Good Privacy) для шифрования своих писем.

Не сообщайте свой адрес электронной почты каждой компании или лицу, которые его запрашивают. Помните, что электронные письма могут содержать маячки для отслеживания. Если в магазине вас попросят указать адрес электронной почты, лучше вежливо отказаться. Если продавец сообщает, что им нужен адрес вашей электронной почты, чтобы что-то вам продать, дайте фальшивый – они этого заслуживают (подробнее о введении в заблуждение чуть позже). Чтобы подчеркнуть это, я часто говорю, что мой адрес электронной почты похож на noneofyourbusiness@privacy.com (первая часть адреса переводится как «не ваше дело». – Прим. пер.).

Если вы вынуждены поделиться своим адресом электронной почты, потому что вам необходимо получить электронное письмо, чтобы пройти по ссылке, попробуйте использовать альтернативный адрес, который содержит как можно меньше личной информации, чтобы сократить риски при взаимодействии с ненадежными компаниями. Во избежание максимального количества отслеживающих маячков найдите у своего провайдера электронной почты настройку, которая по умолчанию блокирует все изображения.

Еще один хороший прием – это «электронная почта плюс хитрость». Предположим, вы открыли адрес электронной почты для работы с коммерческим мусором: myemail@email.com («моя почта». – Прим. пер.). Когда раздражающая компания запрашивает ваш адрес электронной почты, дайте им адрес этой электронной почты, добавив к нему имя, по которому можно идентифицировать компанию: myemail+annoyingcompany@email.com («моя почта плюс назойливая компания». – Прим. пер.).

Вы по-прежнему будете получать электронные письма, но вы сможете заблокировать этот адрес, если компания станет слишком раздражающей; и если случится утечка электронной почты, вы будете знать, кто виноват[320].

Поисковые системы

Ваши поисковые запросы в интернете содержат наиболее важную информацию, которую можно собрать о вас. Вы ищете то, чего не знаете, то, о чем хотите узнать, то, что вас беспокоит. Поскольку поисковые запросы рождаются в вашей голове, они являются как бы отражением ваших мыслей. Не используйте Google в качестве основной поисковой системы. Измените поисковую систему по умолчанию в своих браузерах на такую, которая не собирает ненужные данные о вас и может обеспечить конфиденциальность, например, DuckDuckGo и Qwant. Вы всегда можете вернуться в Google в исключительных случаях, если есть что-то, что вы не можете найти, но, по моему опыту, это становится все менее и менее необходимым.

Браузеры

Если вы хотите ограничить объем информации, которая может быть связана с вашим профилем, рекомендуется использовать разные браузеры для разных действий. Разные браузеры не обмениваются файлами cookie между собой. (Cookie – это небольшой фрагмент данных, который отправляется посещаемыми вами веб-сайтами и хранится в браузере на вашем компьютере. – Прим. авт.). Аутентификационные файлы cookie используются веб-сайтами для распознавания вас как уникального пользователя, когда вы вернетесь на страницу. Отслеживающие файлы cookie часто используются для составления истории просмотров, чтобы рекламодатели знали, что вам показывать. Выберите один браузер для сайтов, на которых вам нужно ввести логин и пароль, а другой – просто для просмотра веб-страниц. Brave – это браузер, разработанный с учетом требований конфиденциальности. Одним из многих его преимуществ является то, что он имеет встроенный блокировщик рекламы и маячков слежения, он также быстрее, чем другие браузеры. Vivaldi и Opera тоже хорошие варианты. Аналогично Firefox и Safari, если включить соответствующие надстройки. В Firefox есть функция Multi-Account Container, которая помещает файлы cookie в заведенные вами контейнеры[321]. Сайты в одном контейнере не могут видеть ничего с сайтов, открытых в другом контейнере. Однако для использования этой функции необходимо войти в учетную запись Firefox.

Используйте расширения и инструменты конфиденциальности

Расширения конфиденциальности могут стать хорошим дополнением к вашему браузеру. Если браузер не блокирует автоматически маячки слежения и рекламу, вы сами можете об этом позаботиться, используя расширение.

Расширения для блокировки рекламы легко найти и установить. Около 47 % пользователей Сети блокируют рекламу[322]. Как только вы попробуете, каково это – наслаждаться безмятежным покоем благодаря использованию блокировщиков, то сами будете недоумевать, как же вы могли раньше так долго мириться с таким количеством надоедливой рекламы, неожиданно выскакивающей и отвлекающей вас! Использование расширений для блокировки рекламы также дает четкий сигнал компаниям и правительственным учреждениям: вы не согласны с такой рекламной культурой.

Если вы хотите быть справедливым по отношению к компаниям, которые стараются уважать интересы аудитории, показывая ненавязчивую контекстную рекламу, можете отключить блокировку рекламы для этих сайтов.

Расширение Privacy Badger, разработанное компанией Electronic Frontier Foundation, может блокировать отслеживающую и шпионскую рекламу. DuckDuckGo Privacy Essentials также блокирует маячки слежения, повышает защиту шифрования и предлагает рейтинг конфиденциальности от A до F, который позволяет узнать, насколько вы защищены при посещении веб-сайта. Помимо защиты вашей конфиденциальности, блокировка таких агрессивных инструментов может ускорить просмотр. HTTPS Everywhere – еще одно расширение, разработанное Electronic Frontier Foundation, которое шифрует ваши соединения со многими крупными веб-сайтами. Вы можете найти другие расширения, которые могут автоматически удалять файлы cookie при закрытии вкладки или очищать историю посещений через определенное количество дней.

Однако имейте в виду, что есть ненадежные расширения. Cambridge Analytica использовала расширения, которые казались безобидными, такие как калькуляторы и календари, для доступа к файлам cookie пользователей Facebook, что позволяло ее сотрудникам входить в Facebook под чужими аккаунтами[323]. Поэтому перед использованием расширения произведите быстрый поиск о нем, чтобы убедиться, что это безопасно.

Подумайте о самом личном, что вы когда-либо делали в сети. Для этого вы можете рассмотреть возможность использования Tor, бесплатного программного обеспечения с открытым исходным кодом, которое позволяет вам быть анонимным в интернете. Tor направляет интернет-трафик через всемирную добровольческую сеть, состоящую из тысяч ретрансляторов. Когда вы запрашиваете доступ к веб-сайту через Tor, ваш запрос не поступает с вашего IP-адреса. Скорее он будет исходить от выходного узла (аналогично тому, как кто-то другой передает сообщение) в системе Tor. Такой лабиринт соединений затрудняет отслеживание того, какое сообщение исходит от какого пользователя. Преимущество заключается в том, что посещаемые вами веб-сайты не видят вашего местоположения, а ваш интернет-провайдер не видит, какие веб-сайты вы посещаете. Самый простой способ использовать это программное обеспечение – через одноименный браузер. Браузер Tor изолирует каждый посещаемый вами веб-сайт, чтобы сторонние маячки отслеживания и реклама не могли следить за вами.

У Tor есть несколько недостатков. Поскольку данные проходят через множество ретрансляторов, прежде чем достигают места назначения, это затрудняет просмотр. Некоторые веб-сайты могут не работать. Еще одним недостатком является то, что вы можете привлечь внимание спецслужб, хотя, возможно, вы уже это сделали, прочитав эту книгу или любую статью о конфиденциальности в интернете[324]. Так что добро пожаловать в клуб. Хотя спецслужбы могут не видеть, что вы делаете в интернете, когда используете Tor, они знают, что вы его используете. С другой стороны, чем больше обычных людей будут пользоваться Tor, тем менее подозрительным это будет казаться властям.

Защита своей конфиденциальности не является чем-то незаконным, и это возмутительно, что нам приходится чувствовать себя так, будто мы что-то нарушаем, используя безопасные браузеры.

Виртуальные частные сети (VPN) также являются популярным инструментом для обеспечения конфиденциальности. Хороший VPN может направлять ваш интернет-трафик через зашифрованную, безопасную частную сеть. Использовать VPN особенно полезно, когда вы хотите войти в интернет через общедоступную сеть, например по Wi-Fi, который вы можете найти в аэропорту или других общественных местах.

Общедоступная сеть Wi-Fi делает вас уязвимыми для тех, кто ее настраивает, и для других людей, которые к ней подключены. Использование VPN защищает вас от всех, кроме стоящей за этой сетью компании, которая получает обширный доступ к вашим данным. Прежде чем использовать VPN, убедитесь, что вы можете доверять владельцу сети. Порой нелегко определить, кому можно доверять, но иногда может быть вполне очевидно, кто не заслуживает доверия. Неудивительно, например, что Facebook использовала свою VPN, Onavo Protect, для сбора персональных данных[325]. Как правило, если сеть VPN бесплатная, то, вероятно, используя ее, продуктом становитесь вы сами, так что лучше держаться от таких сетей подальше.

Измените настройки

Вы, должно быть, уже поняли, что все настройки для всех продуктов и услуг по умолчанию не обеспечивают конфиденциальность. Убедитесь, что у вас работают настройки, которые поддерживают желаемый уровень конфиденциальности. Заблокируйте файлы cookie в своем браузере или в одном из используемых вами браузеров. Особенно важно заблокировать cookie для межсайтового отслеживания. Если вы выберете более безопасные и конфиденциальные настройки, это может повлиять на функциональность некоторых сайтов. Но многие из них действительно не стоит посещать. Вы можете начать со строгих настроек и изменять их по мере необходимости в соответствии с вашими потребностями. Рассмотрите возможность использования вашего браузера в режиме «инкогнито» (хотя имейте в виду, что такие режимы удаляют только следы онлайн-активности на вашем компьютере, но они не защищают вас от внешнего отслеживания).

Если вы хотите быть особенно осторожными, проверяйте свои настройки раз в год – компании постоянно меняют условия.

Соответствующие настройки конфиденциальности не всегда сгруппированы в одном месте, поэтому их поиск может оказаться не таким простым, как кажется. Если вы изо всех сил пытаетесь их найти, имейте в виду, что это не вы глупы, а компания, разработавшая используемый вами продукт, пытается злоупотребить своими полномочиями. Возможно, стоит поискать в интернете, как изменить настройки конфиденциальности для обычных приложений, таких как Facebook и Google[326]. Если вам повезет, вы можете найти приложение, которое сделает это за вас. Например, подобную услугу для учетных записей Facebook оказывает Jumbo, в разработке находятся и другие похожие приложения.

Не накапливайте кибермусор

Избавление от данных, которые вам больше не нужны, – это виртуальный эквивалент генеральной уборки[327]. Чем меньше данных вы храните, тем меньше рискуете. Я признаю, что удалить данные сложно. Возникает неприятное ощущение, что когда-нибудь вам могут понадобиться некоторые из этих данных, даже если они вам были не нужны на протяжении десяти лет. Хорошим опытом для меня стало то, что несколько лет назад я потеряла бóльшую часть данных на моем телефоне. В то время это было похоже на катастрофу. Оглядываясь назад, я понимаю, что эти данные мне вообще не были нужны. Менее радикальным решением является создание резервной копии данных, которые у вас есть в сети, сохранение их на зашифрованном жестком диске и удаление из интернета. Благодаря GDPR стало проще сгружать данные с платформ, даже если вы не являетесь европейцем. Например, легко запросить загрузку данных из настроек вашей учетной записи в Twitter, а затем использовать приложение для удаления ваших старых твитов.

Выбирайте надежные пароли

Никогда не используйте в качестве паролей «123456», «пароль», название любимой спортивной команды или личную информацию, такую как ваше имя или день рождения. Избегайте общих паролей[328]. Самая важная особенность пароля – это его длина. Используйте длинные пароли с прописными и строчными буквами, специальными символами и цифрами. Не используйте один и тот же пароль для всех сайтов. В идеале не используйте пароль более чем для одного сайта. Установите менеджер паролей, который будет генерировать надежные пароли и сохранять их для вас.

Задействуйте также многофакторную аутентификацию, но будьте осторожны, сообщая свой номер мобильного телефона компаниям, которые будут использовать его не для вашей безопасности. Идеальная двухфакторная аутентификация – это физический ключ, такой как Yubikey.

Запутывайте их

Если незнакомец остановит вас посреди улицы и задаст некорректный вопрос, вы можете отказаться отвечать на него и уйти. Интернет не позволяет молчать. Он отслеживает вас и делает выводы о вас, хотите вы этого или нет. Такое вторжение сродни тому, что кто-то спрашивает ваш номер телефона в баре и отказывается принять ваше «нет» в качестве ответа. Если бы этот человек продолжал приставать к вам из-за вашего номера, что бы вы сделали? Возможно, дали бы ему «левый» номер. В этом суть запутывания.

Запутывание – это намеренное предоставление двусмысленной, сбивающей с толку или вводящей в заблуждение информации, чтобы помешать слежке и сбору данных[329]. В контексте, в котором вам не разрешено хранить молчание, иногда единственный способ защитить свою конфиденциальность и выразить протест – это ввести в заблуждение. Конечно, государственные учреждения, такие как налоговые органы, имеют обоснованные основания запрашивать ваши персональные данные. Но у сторонних организаций не всегда есть подобные основания, и в этом случае вы можете предоставить им другое имя, дату рождения, адрес электронной почты, город и так далее. Если вы хотите выразить протест путем обфускации, вы можете выбрать имена и адреса, связанные с конфиденциальностью, например myemailisprivate@privacy.com («моя почта конфиденциальна». – Прим. пер.).

Совместное использование учетных записей или гаджетов – еще одна форма запутывания. Группе подростков в Соединенных Штатах не нравилось то, что технологические гиганты, школьные администраторы, рекрутеры колледжей и потенциальные работодатели просматривают их социальные сети. Они нашли интересный способ защитить свою конфиденциальность в Instagram[330] – совместное использование одного профиля. Наличие группы людей, совместно использующих учетную запись, усложняет для посторонних понимание того, какая деятельность кому принадлежит[331]. Совместное использование устройств еще лучше для обеспечения конфиденциальности, поскольку кто-то, внимательно изучив данные, может сделать вывод, какие данные кому принадлежат, на основе устройства, а не учетной записи.

Переходите на аналоговое

Сведение к минимуму цифровых взаимодействий – хороший способ повысить конфиденциальность. Хранить записи на бумаге и под замком, вероятно, безопаснее, чем в ноутбуке. По возможности платите наличными, а не кредитной картой или смартфоном. Вернитесь к бумажным книгам, покупайте их в обычных магазинах. Оставьте смартфон дома, если он вам не нужен. При покупке товаров выбирайте те, которые не подключаются к интернету. Вам не нужен чайник или стиральная машина, через которые вас могут взломать. Часто бывает так, что умным устройством пользоваться глупо.

Требуйте защиты конфиденциальности

Требуйте, чтобы организации и государственные учреждения с уважением относились к вашим данным. Начнем с брокеров данных. Торговцев данными так много, что перечислить их всех здесь не представляется возможным, но самыми крупными из них являются Acxiom, Experian, Equifax и Quantcast. Организация Privacy International значительно упростила процесс общения с брокерами данных, предоставив шаблоны обращений и необходимые адреса электронной почты (https://privacyinternational.org/mydata).

Позвольте мне вас предупредить: направлять запросы в компанию, у которой есть ваши данные, – настоящее испытание. Часто они усложняют вам задачу – им требуется много времени, чтобы ответить, они просят вас предоставить дополнительные данные (не сообщайте их, если это кажется вам необоснованным), они могут уклоняться от работы над вашим вопросом. Будьте настойчивы настолько, насколько позволяют ваше терпение и обстоятельства. Может быть, стоит отправить эти электронные письма, когда стоите в очереди на автобус или в супермаркете. И знайте, что у вас может не получиться. Но пусть это вас не расстраивает. Сделать запрос – вот что самое главное. Это заставляет их работать и дает им понять, что общественность не соглашается с их практикой. Это создает бумажный след – доказательство, которое политики могут использовать для наложения штрафов и регулирования деятельности стервятников данных. Требуйте конфиденциальности от каждого профессионала, с которым вы общаетесь и который запрашивает ваши данные. Задавайте вопросы. Будьте осторожны со своими медицинскими данными. Избегайте использования ненужных приложений для улучшения здоровья – они, скорее всего, продадут ваши данные. Спросите своего врача, стоматолога и других медицинских работников об их политике конфиденциальности. Скажите им, что вы не даете согласия на передачу ваших данных кому бы то ни было.

Чтобы требовать конфиденциальности от организаций и правительства, важно знать свои права. Изучите законодательство. Если вы являетесь гражданином европейской страны, знайте, что у вас есть право на получение информации, на доступ к вашим данным и их исправление, на удаление ваших данных, ограничение их обработки и передачи сторонним лицам. Если вы направили жалобу, а проблема с вашей конфиденциальностью до сих пор не решена, вы можете связаться с вашим национальным органом по защите данных или с Европейским надзорным органом по защите данных (в зависимости от характера жалобы). Права ничего не стоят, если они существуют только на бумаге. Мы должны реализовывать их в жизни. Свяжитесь с вашими депутатами. Отправьте им электронное письмо, позвоните им. Включите их в свои твиты о конфиденциальности. Скажите им, что вы беспокоитесь по поводу ваших конфиденциальных данных. Спросите их об их планах по защите вашей конфиденциальности. Голосуйте за правильных людей. Политики, нарушающие вашу конфиденциальность во время своих кампаний, должны получать «черную метку» – они не заслуживают вашего голоса.

Не впадайте в зависимость от них

Опасно зависеть от какой-то одной технологической компании. Это означает, что ваша идентичность находится в их руках, и, если они аннулируют вашу учетную запись или удалят ваши электронные письма (такое случается), вы можете многое потерять. Технологические компании хотят, чтобы вы зависели от них, поэтому очень трудно не впасть в такую зависимость. Иногда это невозможно. Но имейте это в виду. Есть разные степени зависимости, и чем меньше вы зависите от какой-либо одной платформы или приложения, тем меньше у них власти над вами. Убедитесь, что ваши контакты записаны где-то еще (желательно, например, на бумаге). Поддерживайте свои личные связи различными способами, чтобы в любой момент вы могли закрыть свою учетную запись на любой платформе без особых потерь.

Делайте все, что от вас зависит

Отключайте на смартфоне Wi-Fi и Bluetooth, когда выходите из дома. Заклейте камеры и микрофоны. Примите меры предосторожности при прохождении таможни в странах, которые не соблюдают правила конфиденциальности[332]. Ищите возможности защитить свою конфиденциальность. Но не будьте слишком требовательны.

Все эти меры имеют значение. Все они могут уберечь вас от нарушений вашего права на конфиденциальность. Но ни одна из них не является безупречной. Очень сложно иметь совершенную политику конфиденциальности. Даже эксперты по конфиденциальности часто ошибаются. Если вы устали, спешите или отвлечены, вы легко можете дать больше информации, чем хотите. Более того, если кто-то намеревается нарушить вашу конфиденциальность, он, вероятно, в этом преуспеет.

Даже если у вас не получается полностью защитить свою конфиденциальность, вы все равно должны стараться изо всех сил. Во-первых, вам удастся сохранить в безопасности некоторые личные данные. Это само по себе может спасти вас от кражи персональных данных или разоблачения. Во-вторых, вы можете успешно защитить чужие данные, поскольку конфиденциальность – это коллективное дело. В-третьих, даже если вам не удастся защитить свою конфиденциальность, такие попытки имеют важную функцию: в них заключается правильный посыл.

Требования, чтобы организации защищали нашу конфиденциальность, доходят до политиков и побуждают их принимать законы о конфиденциальности.

Выбор продуктов, обеспечивающих защиту персональных данных, дает отрасли возможность рассматривать конфиденциальность как возможность для бизнеса, что побуждает вводить благоприятные для нас новшества и перестать сопротивляться регулированию. Государственные учреждения и компании больше, чем вы можете себе представить, беспокоятся о том, как вы относитесь к конфиденциальности. Мы должны дать им понять, насколько нам важно сохранять в безопасности наши персональные данные.

Вы не обязаны делать ничего из вышеперечисленного, и я надеюсь, вашим детям не понадобятся все эти меры предосторожности. Точно так же, как сейчас нам не приходится проверять, съедобны ли ингредиенты всего, что мы употребляем в пищу, потому что для такого контроля есть соответствующие регулирующие органы. Так и с конфиденциальностью – люди не могут в одиночку решить проблемы, с которыми мы сталкиваемся. Но мы должны мотивировать организации и правительство защищать нашу конфиденциальность. И мы в силах это сделать.

Для того, чтобы наша культура снова начала заботиться о конфиденциальности, вам не нужно достигать совершенства – достаточно делать то, что в ваших силах.

Покупайте газеты

Свободная пресса является одним из столпов свободного и открытого общества. Нам нужны хорошие журналистские расследования, чтобы информировать о том, что корпорации и правительственные учреждения пытаются скрыть от нас и о чем мы должны знать. Если бы не пресса, мы могли бы не знать о том, как работает капитализм слежки. Но для того, чтобы пресса работала хорошо, она должна быть независимой, а принадлежа власти, она рискует служить власти вместо того, чтобы служить гражданам. Мы должны платить за прессу, чтобы она работала на нас. Покупайте (и читайте) газеты. Будьте в курсе. Цифровая эпоха враждебна к газетам во всем мире. Люди, получающие «бесплатный» контент в интернете, сомневаются, стоит ли платить за подписку на газету, – и это притом что бесплатный контент на самом деле не являлся бесплатным (ценой были ваши данные и внимание) и был сомнительного качества.

Господство социальных сетей ослабило связь между газетами и их аудиторией. Люди все чаще получают новости из социальных сетей. Имея доступ к информации через социальные сети, вы с большей вероятностью столкнетесь с персонализированным контентом и фейковыми новостями. Покупайте газеты в бумажном виде, чтобы никто не мог отслеживать, что вы читаете. Второй прекрасный вариант – напрямую посещать веб-сайты газет. Получайте новости из первоисточника.

А может, вы работаете в технологической компании?

Возможно, вы работаете в одной из крупных технологических компаний, о которых мы говорили. А может быть, вы работаете в небольшом стартапе. Или же разрабатываете собственное приложение в гараже (почему это всегда подвал или гараж, ума не приложу). В любом случае, если вы являетесь частью рабочей силы, создающей нашу цифровую архитектуру, вы должны сыграть большую роль в обеспечении конфиденциальности ваших продуктов с самого начала.

Помимо размышлений о прибыли, те, кто занимается разработкой технологий, должны подумать и о том, какой след они оставят в истории. Как один из тех, кто помогал компаниям и государственным учреждениям нарушать право людей на конфиденциальность, кто подвергает данные пользователей риску, пока не произойдет что-то ужасное? Вы хотите, чтобы вас считали одним из тех, кто подорвал основы демократии? Или вы хотите, чтобы вас запомнили как одного из тех, кто помог исправить информационную среду, предложив пользователям способ ориентироваться в жизни в эпоху цифровых технологий, сохраняя при этом свою конфиденциальность?

Одним из самых пугающих свидетельств того, что технологическая компания оказалась на неправильной стороне истории, является книга Эдвина Блэка «IBM и холокост»[333]. В нем рассказывается о том, как IBM способствовала нацистскому геноциду своей перфокартой (см. главу 4). Перфокарты были мощной технологией – они значительно расширили возможности государств контролировать людей посредством их классификации и подсчета, – но им далеко до мощности тех технологий, которые разрабатываются сегодня. Распознавание лиц и анализ собранных данных могут установить такую степень контроля над людьми, которая может намного превзойти то, что было в прошлом. Книга Эдвина Блэка вселила в меня надежду, что нашим внукам и правнукам не придется читать аналогичную повесть об одной из сегодняшних технологических компаний и кровавом режиме будущего. Если технологические компании хотят быть на правильной стороне истории, им следует защитить нашу конфиденциальность. Помимо того что конфиденциальность – это возможность для бизнеса, это также возможность для соблюдения этических норм.

Компании и государственные аппараты состоят из отдельных лиц, и, хотя некоторые люди обладают большей властью направлять организацию в то или иное русло, чем другие, каждый человек несет моральную ответственность за все, что он привносит в эту организацию. Программисты и технические специалисты особенно важны в эпоху цифровых технологий. Они обладают опытом, позволяющим заставить машины делать то, что мы хотим от них. Они творят волшебство. Компании жаждут заполучить в свой штат компьютерных ученых, инженеров и аналитиков данных, потому что это дает им хорошие возможности для обсуждения своих должностных обязанностей. Если вы задействованы в сфере технологий и подозреваете, что проект, над которым вы работаете, в итоге способен навредить субъектам данных, вам стоит подумать о том, чтобы подтолкнуть своего работодателя к более этичным проектам или даже уйти с работы и поискать себе другое место.

Технические специалисты могут добиться большего, если будут вместе выражать свое несогласие. В 2018 году работникам Google удалось добиться того, чтобы компания прекратила принудительный арбитраж по искам сотрудников о сексуальных домогательствах и не стала продлевать контракт на проект Maven, включавший сотрудничество с Пентагоном[334]. Несогласные могут изменить ситуацию. Прислушивайтесь к своей совести.

Альфред Нобель сожалел об изобретении динамита. Михаил Калашников пожалел, что создал АК-47. Роберт Пропст возненавидел офисные кабинки, которые он спроектировал. Итан Цукерман сожалеет о том, что изобрел всплывающую рекламу. Список изобретателей, которые отказываются от своих творений, очень длинный. Не присоединяйтесь к этому списку. Хороших намерений недостаточно. Большинство изобретателей изначально имели хорошие намерения. Как изобретатель вы должны исходить из того, что кто-то попытается злоупотребить тем, что вы создаете, и вы должны убедиться, что это не может быть сделано намеренно. Это сложная задача.

Не миритесь с тем, что неприемлемо

Я позаимствовала эту фразу из книги Стефана Эсселя «Сила негодования»[335]. Эссель пережил концлагерь, он был участником французского сопротивления, а позже помогал в разработке Всеобщей декларации прав человека. Что общего у Стефана Эсселя, сторонников воздержания, Махатмы Ганди, Мартина Лютера Кинга, Розы Паркс, Нельсона Манделы, Рут Бадер Гинзбург и всех других героев, которые сделали мир лучше? Они отказались от неприемлемого. Наши герои – это не те люди, которым комфортно жить в условиях несправедливости. Они не принимают этот мир, если он несправедлив. Это люди, которые выражают несогласие, когда это необходимо.

Не поддавайтесь несправедливости. Не думайте, что вы бессильны, – это не так. В кампусе Microsoft в Редмонде, недалеко от Сиэтла, есть комната, в которой находится центр управления Azure – службы облачных вычислений компании. Там установлены два больших экрана. Один показывает состояние системы. Другой отображает «настроения» людей по поводу системы, выраженные в социальных сетях[336]. Почему такая компания, как Microsoft, должна заботиться о том, как люди относятся к ее системе, не меньше, чем о функционировании самой системы? Потому что последнее зависит от первого. Вся цифровая экономика зависит от вас. От вашего сотрудничества и согласия. Не соглашайтесь с нарушениями вашего права на конфиденциальность.

Всеобщая декларация прав человека подобна посланию от наших предков, предупреждающему нас никогда не переходить определенные «красные линии». Она родилась из ужаса войны и геноцида. Это призыв не повторять ошибок прошлого. Она предупреждает, что люди «будут вынуждены в итоге прибегнуть к бунту», если не будут соблюдаться права человека. Есть все основания считать конфиденциальность правом. И его необходимо отстаивать.

Заключение

В каком обществе вы хотели бы жить? Есть два возможных сценария, как может выглядеть мир в будущем. Первый – это более экстремальная версия капитализма слежки, в котором мы живем сегодня. Это мир, в котором каждый наш шаг, каждое произнесенное слово, каждый поисковый запрос в интернете, каждая покупка и прикосновение пальца к смартфону записываются, анализируются и передаются государственным учреждениям и организациям.

Ваше тело тщательно исследуют, чтобы определить как ваши эмоции, так и состояние вашего здоровья. Пульс, температура и электропроводность кожи (потеете ли вы) оцениваются по вашим часам, которые вас могут заставить носить по закону. Эту информацию получают полиция, органы здравоохранения, разведывательные службы и компании, занимающиеся слежкой за эмоциями. Ваши данные используются в основном для предотвращения пандемий и террористических атак, уверяют власти. Но вы знаете, что они используются и для многого другого.

Власти отслеживают, чтó вы читаете, когда вы протестуете, что вызывает у вас гнев, когда вы смотрите новости. Они говорят, что такая слежка помогает развитию демократии. Они утверждают, что вам больше не нужно голосовать, потому что правительство может сделать вывод о ваших политических предпочтениях с помощью анализа данных. Ваши данные позволяют власть имущим делать прогнозы относительно вашего будущего, на основании которых принимаются решения о том, как к вам относятся в обществе. Решение о том, получите ли вы работу, кредит или донорские органы, если вы в них нуждаетесь, принимается с помощью слежки и алгоритмов прогнозирования.

Это мир, в котором нами управляют машины. Они заказывают еду, необходимую для продуктивной работы, когда у нас опустошается холодильник. Они контролируют то, как вы используете рабочее время, включая походы в туалет. Они рекомендуют нам медитировать, когда у нас учащается пульс. Они говорят нам, сколько шагов мы должны делать каждый день, чтобы оставаться здоровым и сохранить доступ к медицинскому обслуживанию.

Это мир, в котором вы беспокоитесь о конфиденциальности своих детей. Мы задаемся вопросом, может ли их будущее быть поставлено под угрозу, когда они будут играть в онлайн-игры, поскольку мы знаем, что их результаты продаются брокерам данных, которые рассчитывают их когнитивные способности. Мы беспокоимся, что они могут совершить ошибку, например напиться в подростковом возрасте и сфотографироваться при этом, и что в результате они никогда не получат работу. Мы беспокоимся о том, насколько они должны быть послушными, чтобы иметь шанс чего-то добиться в жизни. Мы переживаем, что они никогда не узнают, что такое свобода. Это общество, готовое к авторитарному захвату власти.

Но есть и другой возможный сценарий. Лучший мир. Тот, в котором то, что принадлежит вам, не используется правительством и организациями. Тот, в котором данные на вашем смартфоне там же и остаются и никто не имеет к ним доступа, кроме вас. Это мир, в котором никому не разрешено делиться или продавать ваши данные, даже членам вашей семьи. Это общество, в котором вы можете пойти к врачу и рассказать о своих симптомах, не беспокоясь о том, что само это действие может навредить вам в будущем. Вы можете вести задушевные беседы без риска огласки. Вы можете совершать ошибки, и они не будут влиять на ваше будущее. Вы можете писать поисковые запросы в интернете о том, что вас беспокоит, что вам интересно, и это не обернется потом против вас. Вы можете обратиться за советом к адвокату без риска, что правительство прослушивает вас, и не опасаясь, что это будет считаться самооговором. Вы можете быть уверены, что информация о том, кто вы, что вы пережили, на что надеетесь и чего боитесь, и что вы сделали, не будет использована против вас. Это общество, которое продолжает и совершенствует тысячелетнюю традицию демократии.

Мир, в котором соблюдается конфиденциальность, – это мир, в котором можно выйти на акцию протеста, не опасаясь быть идентифицированным. Это мир, в котором возможно тайное голосование. Где можно размышлять в тиши своего дома и наедине с самим собой. Это мир, в котором вы можете заниматься любовью без того, чтобы кто-то отслеживал биение вашего сердца, без того, чтобы кто-то подслушивал вас через ваши цифровые устройства. Мир, где вы можете наслаждаться такой близостью, которая возможна только между людьми, которые находятся наедине друг с другом и знают, что за ними никто не подглядывает.

Не все технологии плохи. Мир, в котором мы можем наслаждаться конфиденциальностью, не обязательно должен быть лишен технологий. Нам просто нужна правильная технология с хорошими правилами. Правильная технология не кормит вас насильно. Она призвана повысить вашу самостоятельность, помочь вам достичь ваших собственных целей, а не целей технологических компаний. Хорошая технология говорит вам все без утайки – без мелкого шрифта, без выманивания данных исподтишка, без оправданий и извинений. Хорошая технология работает на вас. Вы являетесь ее клиентом. Не рекламодатели, не брокеры данных, не правительства, а именно вы – клиент. Вы не только пользователь и ни в коем случае не субъект, а гражданин, который также является клиентом. Правильные технологии уважают наши права и наши либеральные демократии. Хорошие технологии защищают вашу конфиденциальность.

Вопреки прежним утверждениям о том, что цифровая эпоха повлекла за собой конец конфиденциальности, она все же возвращается. Это не конец конфиденциальности. Скорее, это начало конца капитализма слежки. Это будет жестокая битва, и мы не успокоимся, пока не победим. Свои права нужно защищать каждый день. Красные линии, которые нельзя пересекать, нужно прочерчивать заново каждый сезон. Чтобы вернуть контроль над нашими персональными данными, потребуется некоторое время. И делать это нужно вместе. Мы можем это сделать и обязательно сделаем. Чем раньше, тем лучше, чтобы избавить себя от множества ненужных рисков и вреда.

Шесть лет назад, когда я рассказывала людям, что изучаю вопросы конфиденциальности, чаще всего я получала мрачный и циничный ответ: «О, так ты занимаешься историей, а не философией, конфиденциальность мертва. Привыкай к этому. Тут не о чем размышлять». Более сочувственные ответы включали попытки примирить меня с реальностью, побуждая выбрать тему исследования с более обнадеживающими перспективами. В некотором смысле тогда я была столь же пессимистична, как и другие люди, относительно конфиденциальности – жестокость экономики данных не оставляла места для надежды.

Но в то же время я была оптимисткой в том смысле, что считала характер и масштабы кражи персональных данных настолько ужасающими и опасными, что так не могло больше продолжаться – ситуация должна была измениться. Я была права, и теперь я настроена еще более оптимистично. В наши дни люди с интересом и беспокойством реагируют на конфиденциальность. Ситуация меняется. Мы заново познаем ценность конфиденциальности после того, как временно забыли о ней, будучи ослепленными ростом цифровых технологий. После скандала с Cambridge Analytica и того, что мы сами столкнулись со случаями публичного позора или кражи персональных данных, мы теперь понимаем, что последствия сегодняшнего отсутствия конфиденциальности столь же серьезны, как и до появления интернета.

Кража ваших данных может быть равносильна краже вашего кошелька. А брокеры данных, которые слишком много знают о вас, даже хуже, чем компании, которые позволяют себе спрашивать вас на собеседовании, планируете ли вы иметь детей. По крайней мере, раньше им приходилось смотреть вам в глаза, и то, что они делали, было на виду.

Цифровые технологии воспользовались тем, что операции с данными нельзя увидеть, и подорвали нашу конфиденциальность. Но теперь мы знаем их уловки.

Последствия пандемии коронавируса представляют собой серьезную проблему для нашей конфиденциальности, но сейчас ситуация уже лучше, чем несколько лет назад. Теперь мы знаем больше о нашей конфиденциальности и о том, как она используется, существует больше правил, регулирующих операции организаций с нашими персональными данными, есть планы по дальнейшему регулированию обращения с персональными данными, растет давление на технологические компании, чтобы те серьезно относились к конфиденциальности. Несколько лет назад никто не думал, что GDPR вообще возможен. Несмотря на все недостатки, это важный шаг в правильном направлении.

В настоящее время мы являемся свидетелями цивилизационного процесса, подобного тому, который сделал нашу реальную жизнь более приемлемой. Установлены регламенты, позволяющие осуществлять контроль над тем, чтобы продаваемые продукты были съедобными, чтобы покупатели могли возвращать негодные товары, чтобы в автомобилях были ремни безопасности и чтобы потенциальные работодатели не могли в законном порядке спрашивать вас о том, планируете ли вы иметь детей. Если мы хотим укротить буйство интернета, то решающее значение для этого может иметь текущий исторический момент. Основные правила, которые мы устанавливаем сейчас для персональных данных, определят уровень конфиденциальности на последующие несколько десятилетий. Очень важно, чтобы мы все сделали правильно. Мы обязаны сделать это ради себя и своих детей.

Конфиденциальность слишком важна, чтобы позволить ей прийти в упадок. Кто вы и что делаете – никого не касается. Вы не товар, который можно превратить в данные и скормить хищникам за определенную цену. Вы не продаетесь. Вы – гражданин, и вам положена конфиденциальность. Это ваше право. Конфиденциальность – это способ ослепить систему, чтобы она относилась к нам беспристрастно и справедливо.

Так мы расширяем возможности наших граждан. Так мы защищаем отдельных людей, учреждения и общества от внешнего давления и злоупотреблений. Так мы выделяем для себя пространство, в котором можем удобно расслабиться, общаться с другими людьми, размышлять над новыми идеями и приводить в порядок свои мысли.

Капитализм слежки несовместим со свободными, демократическими и либеральными обществами, в которых уважаются права человека. Ему надо положить конец. Не соглашайтесь на меньшее. Стервятники данных будут сопротивляться. Недобросовестные технические специалисты будут извиняться и обещать, что станут работать лучше, но при этом запрашивать все больше ваших персональных данных. Правительства будут объединяться с недобросовестными технологическими компаниями и обещать вам бо´льшую безопасность в обмен на ваши данные. Будьте бдительны. Будьте в курсе событий. Задавайте вопросы. Отказывайтесь от неприемлемого. Защитите свою конфиденциальность.

Примечания

1

На протяжении всей книги я использую термины «экономика данных», «экономика слежки», «капитализм слежки» и «общество слежки» почти как синонимы. Теоретически мы могли бы иметь экономику данных, исключающую персональные данные. Мы могли бы торговать данными, которые не касаются личных вопросов. Но на момент написания книги люди, говоря об экономике данных, часто имеют в виду торговлю персональными данными, поэтому я использую термин «экономика данных» как сокращение для «экономики персональных данных».

2

Aliya Ram and Emma Boyde, ‘People Love Fitness Trackers, But Should Employers Give Them Out?’, Financial Times, 16 April 2018.

3

Ifeoma Ajunwa, Kate Crawford and Jason Schultz, ‘Limitless Worker Surveillance’, California Law Review 105, 2017, 766–767.

4

Sam Biddle, ‘For Owners of Amazon’s Ring Security Cameras, Strangers May Have Been Watching Too’, Intercept, 10 January 2019.

5

Geoffrey Fowler, ‘The Doorbells Have Eyes: The Privacy Battle Brewing Over Home Security Cameras’, Washington Post, 31 January 2019.

6

Alex Hern, ‘Smart Electricity Meters Can Be Dangerously Insecure, Warns Expert’, Guardian, 29 December 2016.

7

Carissa Véliz and Philipp Grunewald, ‘Protecting Data Privacy Is Key to a Smart Energy Future’, Nature Energy 3, 2018.

8

L. Stanokvic, V. Stanokvic, J. Liao and C. Wilson, ‘Measuring the Energy Intensity of Domestic Activities From Smart Meter Data’, Applied Energy 183, 2016.

9

Alex Hern, ‘UK Homes Vulnerable to “Staggering” Level of Corporate Surveillance’, Guardian, 1 June 2018.

10

Nicole Nguyen, ‘If You Have a Smart TV, Take a Closer Look at Your Privacy Settings’, CNBC, 9 March 2017.

11

https://www.samsung.com/hk_en/info/privacy/smarttv/. Accessed 7 May 2020.

12

Matt Burgess, ‘More Than 1,000 UK Schools Found To Be Monitoring Children With Surveillance Software’, Wired, 8 November 2016.

13

Lily Hay Newman, ‘How to Block the Ultrasonic Signals You Didn’t Know Were Tracking You’, Wired, 3 November 2016.

14

Версия этого объяснения была представлена представителем Amazon, когда Алекса записала чей-то личный разговор и отправила его случайному контакту. Sam Wolfson, ‘Amazon’s Alexa Recorded Private Conversation and Sent it to Random Contact’, Guardian, 24 May 2018.

15

Daniel J. Dubois, Roman Kolcun, Anna Maria Mandalari, Muhammad Talha Paracha, David Choffnes and Hamed Haddadi, ‘When Speakers Are All Ears’, Proceedings on 20th Privacy Enhancing Technologies Symposium, 2020.

16

Sam Wolfson, ‘Amazon’s Alexa Recorded Private Conversation and Sent it to Random Contact’.

17

Michael Baxter, ‘Do Connected Cars Pose a Privacy Threat?’, GDPR: Report, 1 August 2018.

18

Erin Biba, ‘How Connected Car Tech Is Eroding Personal Privacy’, BBC News, 9 August 2016; John R. Quain, ‘Cars Suck Up Data About You. Where Does It All Go?’, New York Times, 27 July 2017.

19

Bruce Schneier, Data and Goliath (London: W. W. Norton & Company, 2015), 68. IMSI stands for ‘international mobile subscriber identity’.

20

Ben Bryant, ‘VICE News Investigation Finds Signs of Secret Phone Surveillance Across London’, VICE, 15 January 2016.

21

Задыхаться при виде экрана или сообщения в электронной почте – такое бывает. Это называется «апноэ электронной почты», или «апноэ экрана». Linda Stone, ‘The Connected Life: From Email Apnea to Conscious Computing’, Huffington Post, 7 May 2012.

22

Steven Englehardt, Jeffrey Han and Arvind Narayanan, ‘I Never Signed Up For This! Privacy Implications of Email Tracking’, Proceedings on Privacy Enhancing Technologies 1, 2018; Brian Merchant, ‘How Email Open Tracking Quietly Took Over the Web’, Wired, 11 December 2017.

23

Radhika Sanghani, ‘Your Boss Can Read Your Personal Emails. Here’s What You Need To Know’, Telegraph, 14 January 2016.

24

Kristen V. Brown, ‘What DNA Testing Companies’ Terrifying Privacy Policies Actually Mean’, Gizmodo, 18 October 2017.

25

Bradley Malin and Latanya Sweeney, ‘Determining the Identifiability of DNA Database Entries’, Proceedings, Journal of the American Medical Informatics Association, 2000.

26

S. Tandy-Connor, J. Guiltinan, K. Krempely, H. LaDuca, P. Reineke, S. Gutierrez, P. Gray and B. Tippin Davis, ‘False-Positive Results Released by Direct-to-Consumer Genetic Tests Highlight the Importance of Clinical Confirmation Testing for Appropriate Patient Care’, Genetics in Medicine 20, 2018.

27

Chris Stokel-Walker, ‘Zoom Security: Take Care With Your Privacy on the Video App’, The Times, 12 April 2020.

28

Когда коммуникации зашифрованы, компании не могут получить доступ к своему контенту, но Zoom может получить доступ к видео и аудио встреч, несмотря на то что в настольном приложении указано, что Zoom использует сквозное шифрование. Micah Lee and Yael Grauer, ‘Zoom Meetings Aren’t End-to-End Encrypted, Despite Misleading Marketing’, Intercept, 31 March 2020.

29

Деятельность данной соцсети запрещена на территории Российской Федерации.

30

Michael Grothaus, ‘Forget the New iPhones: Apple’s Best Product Is Now Privacy’, Fast Company, 13 September 2018.

31

Casey Johnston, ‘Facebook Is Tracking Your “Self-Censorship” ’, Wired, 17 December 2013.

32

Kashmir Hill, ‘How Facebook Outs Sex Workers’, Gizmodo, 10 November 2017.

33

Kashmir Hill, ‘Facebook Recommended That This Psychiatrist’s Patients Friend Each Other’, Splinter News, 29 August 2016.

34

Kashmir Hill, ‘“People You May Know”: A Controversial Facebook Feature’s 10-Year History’, Gizmodo, 8 August 2018.

35

Dan Tynan, ‘Facebook Says 14m Accounts Had Personal Data Stolen in Recent Breach’, Guardian, 12 October 2018.

36

Gabriel J. X. Dance, Michael LaForgia and Nicholas Confessore, ‘As Facebook Raised a Privacy Wall, It Carved an Opening for Tech Giants’, New York Times, 18 December 2018.

37

Kashmir Hill, ‘Facebook Was Fully Aware That Tracking Who People Call and Text Is Creepy But Did It Anyway’, Gizmodo, 12 May 2018.

38

Natasha Singer, ‘Facebook’s Push For Facial Recognition Prompts Privacy Alarms’, New York Times, 9 July 2018.

39

Alex Hern, ‘Facebook Faces Backlash Over Users’ Safety Phone Numbers’, Guardian, 4 March 2019.

40

Zack Whittaker, ‘A Huge Database of Facebook Users’ Phone Numbers Found Online’, TechCrunch, 4 September 2019.

41

Список чрезвычайных происшествий по части утери конфиденциальности в Facebook с 2006 по 2018 гг. Natasha Lomas, ‘A Brief History of Facebook’s Privacy Hostility Ahead of Zuckerberg’s Testimony’, TechCrunch, 10 April 2018.

42

Allen St John, ‘How Facebook Tracks You, Even When You’re Not on Facebook’, Consumer Reports, 11 April 2018.

43

Digital, Culture, Media and Sport Committee, ‘Disinformation and “Fake News”: Final Report’ (House of Commons, 2019).

44

Brian Fung, ‘How Stores Use Your Phone’s WiFi to Track Your Shopping Habits’, Washington Post, 19 October 2013.

45

Stephanie Clifford and Quentin Hardy, ‘Attention, Shoppers: Store Is Tracking Your Cell’, New York Times, 14 July 2013.

46

Chris Frey, ‘Revealed: How Facial Recognition Has Invaded Shops – and Your Privacy’, Guardian, 3 March 2016.

47

Kashmir Hill and Aaron Krolik, ‘How Photos of Your Kids Are Powering Surveillance Technology’, New York Times, 11 October 2019.

48

Yael Grauer, ‘What Are “Data Brokers,” and Why Are They Scooping Up Information About You?’, Motherboard, 27 May 2018.

49

Adam Tanner, Our Bodies, Our Data. How Companies Make Billions Selling Our Medical Records (Beacon Press, 2017), 78, 95, 147–148.

50

Julia Powles and Hal Hodson, ‘Google DeepMind and Healthcare in an Age of Algorithms’, Health and Technology 7, 2017.

51

Dan Munro, ‘Data Breaches In Healthcare Totaled Over 112 Million Records in 2015’, Forbes, 31 December 2015.

52

Alex Hern, ‘Hackers Publish Private Photos From Cosmetic Surgery Clinic’, Guardian, 31 May 2017.

53

Jennifer Valentino-DeVries, Natasha Singer, Michael H. Keller and Aaron Krolik, ‘Your Apps Know Where You Were Last Night, and They’re Not Keeping It Secret’, New York Times, 10 December 2018.

54

Nick Statt, ‘How AT&T’s Plan to Become the New Facebook Could Be a Privacy Nightmare’, Verge, 16 July 2018.

55

Joseph Cox, ‘I Gave a Bounty Hunter $300. Then He Located Our Phone’, Motherboard, 8 January 2019.

56

Olivia Solon, ‘“Data Is a Fingerprint”: Why You Aren’t as Anonymous as You Think Online’, Guardian, 13 July 2018.

57

Y. A. de Montjoye, C. A. Hidalgo, M. Verleysen and V. D. Blondel, ‘Unique in the Crowd: The Privacy Bounds of Human Mobility’, Scientific Reports 3, 2013.

58

Y. A. de Montjoye, L. Radaelli, V. K. Singh and A. S. Pentland, ‘Identity and privacy. Unique in the Shopping Mall: On the Reidentifiability of Credit Card Metadata’, Science 347, 2015.

59

Ryan Singel, ‘Netflix Spilled Your Brokeback Mountain Secret, Lawsuit Claims’, Wired, 17 December 2009.

60

Aliya Ram and Madhumita Murgia, ‘Data Brokers: Regulators Try To Rein In The “Privacy Deathstars” ’, Financial Times, 8 January 2019.

61

Natasha Singer, ‘Data Broker Is Charged With Selling Consumers’ Financial Details to “Fraudsters” ’, New York Times, 23 December 2014.

62

Melanie Hicken, ‘Data Brokers Selling Lists of Rape Victims, AIDS Patients’, CNN, 19 December 2013.

63

Nitasha Tiku, ‘Privacy Groups Claim Online Ads Can Target Abuse Victims’, Wired, 27 January 2019.

64

Nicole Kobie, ‘Heathrow’s Facial Recognition Tech Could Make Airports More Bearable’, Wired, 18 October 2018; Gregory Wallace, ‘Instead of the Boarding Pass, Bring Your Smile to the Airport’, CNN, 18 September 2018.

65

Kaveh Waddell, ‘A NASA Engineer Was Required To Unlock His Phone At The Border’, Atlantic, 13 February 2017.

66

Daniel Victor, ‘What Are Your Rights if Border Agents Want to Search Your Phone?’, New York Times, 14 February 2017.

67

Gemma Galdon Clavell, ‘Protect Rights at Automated Borders’, Nature 543, 2017.

68

Olivia Solon, ‘“Surveillance Society”: Has Technology at the US-Mexico Border Gone Too Far?’, Guardian, 13 June 2018.

69

Douglas Heaven, ‘An AI Lie Detector Will Interrogate Travellers at Some EU Borders’, New Scientist, 31 October 2018.

70

Dylan Curran, ‘Are You Ready? Here Is All The Data Facebook And Google Have On You’, Guardian, 30 March 2018.

71

John Naughton, ‘More Choice on Privacy Just Means More Chances to Do What’s Best for Big Tech’, Guardian, 8 July 2018.

72

Alex Hern, ‘Privacy Policies of Tech Giants “Still Not GDPR-Compliant” ’, Guardian, 5 July 2018.

73

Logan Koepke, ‘“We Can Change These Terms at Anytime”: The Detritus of Terms of Service Agreements’, Medium, 18 January 2015.

74

John Naughton, ‘More Choice on Privacy Just Means More Chances to Do What’s Best for Big Tech’.

75

Arwa Mahdawi, ‘Spotify Can Tell If You’re Sad. Here’s Why That Should Scare You’, Guardian, 16 September 2018.

76

Alfred Ng, ‘With Smart Sneakers, Privacy Risks Take a Great Leap’, CNET, 13 February 2019.

77

Christopher Mims, ‘Here Comes “Smart Dust,” The Tiny Computers That Pull Power From The Air’, Wall Street Journal, 8 November 2018.

ГЛАВА 2

78

Shoshana Zuboff, ‘The Age of Surveillance Capitalism’ (London: Profile Books, 2019), Ch 3.

79

Samuel Gibbs and Alex Hern, ‘Google at 20: How Two “Obnoxious” Students Changed the Internet’, Guardian, 24 September 2018.

80

John Battelle, ‘The Birth of Google’, Wired, 1 August 2005.

81

Samuel Gibbs and Alex Hern, ‘Google at 20: How Two “Obnoxious” Students Changed the Internet’.

82

Steven Levy, ‘In the Plex. How Google Thinks, Works, and Shapes Our Lives’ (New York: Simon & Schuster, 2011), 77–78.

83

Google’s 2004 Annual Report to the United States Securities and Exchange Commission (https://www.sec.gov/Archives/edgar/data/1288776/ 000119312505065298/d10k.htm)

84

Sergey Brin and Lawrence Page, ‘The Anatomy of a Large-Scale Hypertextual Web Search Engine’, Computer Networks and ISDN Systems 30, 1998.

85

Steven Levy, ‘In the Plex. How Google Thinks, Works, and Shapes Our Lives’, 82.

86

Samuel Gibbs and Alex Hern, ‘Google at 20: How Two “Obnoxious” Students Changed the Internet’.

87

Alphabet Inc. 2019 Annual Report to the United States Securities and Exchange Commission (https://abc.xyz/investor/static/pdf/20200204_alphabet_10K.pdf?cache=cdd6dbf)

88

Richard Graham, ‘Google and Advertising: Digital Capitalism in the Context of Post-Fordism, the Reification of Language, and the Rise of Fake News’, Palgrave Communications 3, 2017, 2.

89

Jennifer Lee, ‘Postcards From Planet Google’, New York Times, 28 November 2002.

90

Jennifer Lee, ‘Postcards From Planet Google’.

91

Krishna Bharat, Stephen Lawrence and Meham Sahami, ‘Generating User Information for use in Targeted Advertising’ (2003).

92

Steven Levy, ‘In the Plex. How Google Thinks, Works, and Shapes Our Lives’, 330–336.

93

Shoshana Zuboff, ‘The Age of Surveillance Capitalism’, 87–92.

94

Steven Levy, ‘In the Plex. How Google Thinks, Works, and Shapes Our Lives’, 68.

95

Douglas Edwards, ‘I’m Feeling Lucky: The Confessions of Google Employee Number 59’ (Houghton Mifflin Harcourt, 2011), 340.

96

Shoshana Zuboff, ‘The Age of Surveillance Capitalism’, 89.

97

Louise Matsakis, ‘The WIRED Guide to Your Personal Data (and Who Is Using It)’, Wired, 15 February 2019.

98

‘Privacy Online: Fair Information Practices in the Electronic Marketplace. A Report to Congress’ (Federal Trade Commission, 2000).

99

Shoshana Zuboff, ‘The Age of Surveillance Capitalism’, 112–121.

100

Bruce Schneier, ‘Click Here to Kill Everybody. Security and Survival in a Hyper-Connected World’ (New York: W. W. Norton & Company, 2018), 65.

101

Babu Kurra, ‘How 9/11 Completely Changed Surveillance in U.S.’, Wired, 11 September 2011.

102

Edward Snowden, ‘Permanent Record’ (Macmillan, 2019).

103

Edward Snowden, ‘Permanent Record’, 223–224.

104

Edward Snowden, ‘Permanent Record’, 163.

105

Edward Snowden, ‘Permanent Record’, 225.

106

Edward Snowden, ‘Permanent Record’, 167–168.

107

Michael Isikoff, ‘NSA Program Stopped No Terror Attacks, Says White House Panel Member’, NBC News, 19 December 2013.

108

Charlie Savage, ‘Declassified Report Shows Doubts About Value of N.S.A.’s Warrantless Spying’, New York Times, 25 April 2015.

109

Charlie Savage, ‘Power Wars. Inside Obama’s Post-9/11 Presidency’ (New York: Little, Brown and Company, 2015), 162–223.

110

‘Report on the President’s Surveillance Program’ (2009), 637.

111

Подробнее о том, почему массовое наблюдение не является правильным подходом к предотвращению терроризма, см. Bruce Schneier, ‘Data and Goliath’, 135–139.

112

James Glanz and Andrew W. Lehren, ‘NSA Spied on Allies, Aid Groups and Businesses’, New York Times, 21 December 2013.

113

Julia Angwin, Jeff Larson, Charlie Savage, James Risen, Henrik Moltke and Laura Poitras, ‘NSA Spying Relies on AT&T’s “Extreme Willingness to Help” ’, ProPublica, 15 August 2015.

114

Bruce Schneier, Click Here to Kill Everybody. Security and Survival in a HyperConnected World, 65.

115

‘The Government Uses “Near Perfect Surveillance” Data on Americans’, New York Times, 7 February 2020.

116

Toby Helm, ‘Patient Data From GP Surgeries Sold to US Companies’, Observer, 7 December 2019.

117

Juliette Kayyem, ‘Never Say “Never Again”’, Foreign Policy, 11 September 2012.

118

Bobbie Johnson, ‘Privacy No Longer a Social Norm, Says Facebook Founder’, Guardian, 10 January 2010.

119

Alyson Shontell, ‘Mark Zuckerberg Just Spent More Than $30 Million Buying 4 Neighboring Houses So He Could Have Privacy’, Business Insider, 11 October 2013.

120

Bobbie Johnson, ‘Facebook Privacy Change Angers Campaigners’, Guardian, 10 December 2009.

121

Я благодарна Джудит Кертойс за этот пример. Как мне указала Эллен Джадсон, магистр Кембриджского университета также держала собаку, оформив ее как «очень большую кошку». (https://www.bbc.co.uk/news/uk-england-cambridgeshire28966001).

122

Harry Cockburn, ‘The UK’s Strangest Laws That Are Still Enforced’, Independent, 8 September 2016.

123

Nick Statt, ‘Facebook CEO Mark Zuckerberg Says the “Future is Private” ’, Verge, 30 April 2019.

124

Sam Biddle, ‘In Court, Facebook Blames Users for Destroying Their Own Right to Privacy’, Intercept, 14 June 2014.

ГЛАВА 3

125

Tim Wu, The Attention Merchants (Atlantic Books, 2017); James Williams, Stand Out of Our Light. Freedom and Resistance in the Attention Economy (Cambridge: Cambridge University Press, 2018).

126

Alex Hern, ‘Netflix’s Biggest Competitor? Sleep’, Guardian, 18 April 2017.

127

Oliver Ralph, ‘Insurance and the Big Data Technology Revolution’, Financial Times, 24 February 2017.

128

Dave Smith and Phil Chamberlain, ‘On the Blacklist: How Did the UK’s Top Building Firms Get Secret Information on Their Workers?’, Guardian, 27 February 2015.

129

Rupert Jones, ‘Identity Fraud Reaching Epidemic Levels, New Figures Show’, Guardian, 23 August 2017.

130

Kaleigh Rogers, ‘Let’s Talk About Mark Zuckerberg’s Claim That Facebook “Doesn’t Sell Data” ’, Motherboard, 11 April 2018.

131

Charlie Warzel and Ash Ngu, ‘Google’s 4,000-Word Privacy Policy Is a Secret History of the Internet’, New York Times, 10 July 2019.

132

Rainer Forst, ‘Noumenal Power’, Journal of Political Philosophy 23, 2015.

133

M. Weber, ‘Economy and Society’ (Berkeley: University of California Press, 1978), 53.

134

Bertrand Russell, ‘Power. A New Social Analysis’ (Routledge, 2004), 4.

135

Michel Foucault, ‘Discipline and Punish’ (London: Penguin Books, 1977); Nico Stehr and Marian T. Adolf, ‘Knowledge/Power/Resistance’, Society 55, 2018.

136

Hubert Dreyfus and Paul Rabinow, Michel Foucault, ‘Beyond Structuralism and Hermeneutics’ (University of Chicago Press, 1982), 212.

137

Steven Lukes, ‘Power. A Radical View’ (Red Globe Press, 2005).

138

Simon Parkin, ‘Has Dopamine Got Us Hooked on Tech?’, Guardian, 4 March 2018.

139

https://www.britannica.com/topic/Stasi

140

Andrea Peterson, ‘Snowden Filmmaker Laura Poitras: “Facebook is a Gift to Intelligence Agencies” ’, Washington Post, 23 October 2014.

141

Robert Booth, Sandra Laville and Shiv Malik, ‘Royal Wedding: Police Criticised for Pre-Emptive Strikes Against Protestors’, Guardian, 29 April 2011.

142

Tae Kim, ‘Warren Buffett Believes This Is “The Most Important Thing” to Find in a Business’, CNBC, 7 May 2018.

143

Associated Press, ‘Google Records Your Location Even When You Tell It ot To’, Guardian, 13 August 2018.

144

Simina Mistreanu, ‘Life Inside China’s Social Credit Laboratory’, Foreign Policy, 3 April 2018.

145

Orange Wang, ‘China’s Social Credit System Will Not Lead to Citizens Losing Access to Public Services, Beijing Says’, South China Morning Post, 19 July 2019.

146

Nectar Gan, ‘China Is Installing Surveillance Cameras Outside People’s Front Doors… and Sometimes Inside Their Homes’, CNN Business, 28 April 2020.

147

В статье упоминается список других компаний, которые оценивают потребителей и способы связи с ними для запроса данных. Kashmir Hill, ‘I Got Access to My Secret Consumer Score. Now You Can Get Yours, Too’, New York Times, 4 November 2019.

148

Jamie Susskind, ‘Future Politics. Living Together in a World Transformed by Tech’ (Oxford University Press, 2018), 103–107.

149

Jamie Susskind, ‘Future Politics. Living Together in a World Transformed by Tech’, 172.

150

Richard Esguerra, ‘Google CEO Eric Schmidt Dismisses the Importance of Privacy’, Electronic Frontier Foundation, 10 December 2009.

151

Steven Levy, ‘In the Plex. How Google Thinks, Works, and Shapes Our Lives’, 175.

152

Это аргумент в пользу того, что нам должно быть разрешено скрывать незначительные нарушения, но это не самая важная из функций конфиденциальности.

153

Carissa Véliz, ‘Inteligencia artificial: ¿progreso o retroceso?’, El País, 14 June 2019.

154

Shoshana Zuboff, ‘The Age of Surveillance Capitalism’, 221–225.

155

Bent Flyvbjerg, ‘Rationality and Power. Democracy in Practice’ (Chicago University Press, 1998), 36.

156

James Zou and Londa Schiebinger, ‘AI Can Be Sexist and Racist – It’s Time to Make It Fair’, Nature 559, 2018.

157

Danny Yadron, ‘Silicon Valley Tech Firms Exacerbating Income Inequality, World Bank Warns’, Guardian, 15 January 2016.

158

https://www.energy.gov/articles/history-electric-car

159

Nick Bilton, ‘Why Google Glass Broke’, New York Times, 4 February 2015.

160

Nick Bilton, ‘Why Google Glass Broke’.

161

Steven Poole, ‘Drones the Size of Bees – Good or Evil?’, Guardian, 14 June 2013.

162

Rose Eveleth, ‘The Biggest Lie Tech People Tell Themselves – and the Rest of Us’, Vox, 8 October 2019.

163

James Williams, ‘Stand Out of Our Light. Freedom and Resistance in the Attention Economy’.

164

Christopher Wylie, ‘Mindf*ck. Inside Cambridge Analytica’s Plot to Break the World’ (Profile Books, 2019), 15.

165

Christopher Wylie, ‘Mindf*ck. Inside Cambridge Analytica’s Plot to Break the World’, 16.

166

George Orwell, ‘Politics and the English Language’ (Penguin, 2013).

167

‘Nature’s Language Is Being Hijacked By Technology’, BBC News, 1 August 2019.

168

Christopher Wylie, ‘Mindf*ck. Inside Cambridge Analytica’s Plot to Break the World’, 101–102.

169

Facebook позволила тысячам других разработчиков загрузить данные не осведомленных об этом людей, которые были друзьями тех, кто дал согласие на использование приложения. В число этих разработчиков входят создатели таких приложений, как FarmVille, Tinder, и предвыборная кампания Барака Обамы. Facebook изменила эту политику в 2015 году.

Elizabeth Dwoskin and Tony Romm, ‘Facebook’s Rules for Accessing User Data Lured More Than Just Cambridge Analytica’, Washington Post, 20 March 2018.

170

Christopher Wylie, ‘Mindf*ck. Inside Cambridge Analytica’s Plot to Break the World’, 110–111.

171

Brittany Kaiser, ‘Targeted. My Inside Story of Cambridge Analytica and How Trump, Brexit and Facebook Broke Democracy’, Ch 9, Ch 13.

172

Christopher Wylie, ‘Mindf*ck. Inside Cambridge Analytica’s Plot to Break the World’, Ch 7.

173

https://www.channel4.com/news/cambridge-analytica-revealed-trumpselection-consultants-filmed-saying-they-use-bribes-and-sex-workers-toentrap-politicians-investigation

174

Christopher Wylie, ‘Mindf*ck. Inside Cambridge Analytica’s Plot to Break the World’, 244.

175

Gary Watson, ‘Moral Agency’, The International Encyclopedia of Ethics (2013); John Christman, ‘Autonomy in Moral and Political Philosophy’, in Edward N. Zalta (ed.), The Stanford Encyclopedia of Philosophy (2015).

176

Myrna Oliver, ‘Legends Nureyev, Gillespie Die: Defector Was One of Century’s Great Dancers’, Los Angeles Times, 7 January 1993.

177

Jonathon W. Penney, ‘Chilling Effects: Online Surveillance and Wikipedia Use’, Berkeley Technology Law Journal 31, 2016.

178

Karina Vold and Jess Whittlestone, ‘Privacy, Autonomy, and Personalised Targeting: Rethinking How Personal Data Is Used’, in Carissa Véliz (ed.), Data, Privacy, and the Individual (Center for the Governance of Change, IE University, 2019).

179

Hamza Shaban, ‘Google for the First Time Outspent Every Other Company to Influence Washington in 2017’, Washington Post, 23 January 2018.

180

Caroline Daniel and Maija Palmer, ‘Google’s Goal: To Organise Your Daily Life’, Financial Times, 22 May 2007.

181

Holman W. Jenkins, ‘Google and the Search for the Future’, Wall Street Journal, 14 August 2010.

182

Carissa Véliz, ‘Privacy is a Collective Concern’, New Statesman, 22 October 2019.

183

Kristen V. Brown, ‘What DNA Testing Companies’ Terrifying Privacy Policies Actually Mean’.

184

Jody Allard, ‘How Gene Testing Forced Me to Reveal My Private Health Information’, Vice, 27 May 2016.

185

https://blog.23andme.com/health-traits/sneezing-on-summer-solstice/

186

S. L. Schilit and A. Schilit Nitenson, ‘My Identical Twin Sequenced our Genome’, Journal of Genetic Counseling 26, 2017.

187

Lydia Ramsey and Samantha Lee, ‘Our DNA is 99.9 % the Same as the Person Next to Us – and We’re Surprisingly Similar to a Lot of Other Living Things’, Business Insider, 3 April 2018.

188

Jocelyn Kaiser, ‘We Will Find You: DNA Search Used to Nab Golden State Killer Can Home In On About 60 % of White Americans’, Science Magazine, 11 October 2018.

189

Tamara Khandaker, ‘Canada Is Using Ancestry DNA Websites To Help It Deport People’, Vice, 26 July 2018.

190

Matthew Shaer, ‘The False Promise of DNA Testing’, Atlantic, June 2016.

191

Brendan I. Koerner, ‘Your Relative’s DNA Could Turn You Into a Suspect’, Wired, 13 October 2015.

192

Erin E. Murphy, ‘Inside the Cell. The Dark Side of Forensic DNA’ (Nation Books, 2015).

193

https://www.innocenceproject.org/overturning-wrongful-convictions-involving-flawed-forensics/

194

‘A Manifesto for Renewing Liberalism’, The Economist, 15 September 2018.

195

Michael J. Abramowitz, ‘Democracy in Crisis’, Freedom in the World (2018).

196

The Economist Intelligence Unit, ‘Democracy Index 2019. A Year of Democratic Setbacks and Popular Protest’ (2019).

197

https://api.parliament.uk/historic-hansard/commons/1947/nov/11/ parliament-bill

198

John Stuart Mill, ‘On Liberty’ (Indianapolis: Hackett Publishing Company, 1978), Ch 3.

199

Karl Popper, ‘The Open Society and Its Enemies’ (Routledge, 2002), 368.

200

George Orwell, ‘Fascism and Democracy’ (Penguin, 2020), 6.

201

Steven Levitsky and Daniel Ziblatt, ‘How Democracies Die’ (Penguin, 2018), 3.

202

Jonathan Wolff, ‘The Lure of Fascism’, Aeon, 14 April 2020.

203

Идальго утверждает, что мы должны избавиться от политических представителей и вместо этого позволить нашим цифровым помощникам голосовать от нашего имени. Он утверждает, что это разновидность «прямой демократии», но я нахожу это сомнительным – можно утверждать, что мы просто обменяем наших человеческих представителей на цифровых. (Не то чтобы я считаю, что прямая демократия лучше представительной.) https://www.ted.com/talks/cesar_hidalgo_a_bold_idea_to_replace_politicians

204

Sam Wolfson, ‘For My Next Trick: Dynamo’s Mission to Bring Back Magic’, Guardian, 26 April 2020.

205

Cecilia Kang and Kenneth P. Vogel, ‘Tech Giants Amass a Lobbying Army for an Epic Washington Battle’, New York Times, 5 June 2019; Tony Romm, ‘Tech Giants Led by Amazon, Facebook and Google Spent Nearly Half a Billion on Lobbying Over the Last Decade’, Washington Post, 22 January 2020.

206

Rana Foroohar, ‘Year in a Word: Techlash’, Financial Times, 16 December 2018.

ГЛАВА 4

207

Bruce Schneier, ‘Data is a Toxic Asset, So Why Not Throw it Out?’, CNN, 1 March 2016.

208

Tom Lamont, ‘Life After the Ashley Madison Affair’, Observer, 27 February 2016.

209

Rob Price, ‘An Ashley Madison User Received a Terrifying Blackmail Letter’, Business Insider, 22 January 2016.

210

José Antonio Hernández, ‘Me han robado la identidad y estoy a base de lexatín; yo no soy una delincuente’, El País, 24 August 2016.

211

Siân Brooke and Carissa Véliz, ‘Views on Privacy. A Survey’, Data, Privacy & the Individual (Center for the Governance of Change, IE University, 2020).

212

Alex Hern, ‘Hackers Publish Private Photos From Cosmetic Surgery Clinic’.

213

Olivia Solon, ‘Ashamed to Work in Silicon Valley: How Techies Became the New Bankers’, Guardian, 8 November 2017.

214

‘FTC Imposes $5 Billion Penalty and Sweeping New Privacy Restrictions on Facebook’, FTC Press Release, 24 July 2019.

215

‘Facebook Fined £500,000 for Cambridge Analytica Scandal’, BBC News, 25 October 2018.

216

‘British Airways Faces Record £183m Fine for Data Breach’, BBC News, 8 July 2019.

217

David E. Sanger, ‘Hackers Took Fingerprints of 5.6 Million U. S. Workers, Government Says’, New York Times, 23 September 2015.

218

Edward Wong, ‘How China Uses LinkedIn to Recruit Spies Abroad’, New York Times, 27 August 2019.

219

Jordi Pérez Colomé, ‘Por qué China roba datos privados de decenas de millones de estadounidenses’, El País, 17 February 2020.

220

Charlie Warzel, ‘Chinese Hacking Is Alarming. So Are Data Brokers’, New York Times, 10 February 2020.

221

Stuart A. Thompson and Charlie Warzel, ‘Twelve Million Phones, One Dataset, Zero Privacy’, New York Times, 19 December 2019.

222

Devin Coldewey, ‘Grindr Sends HIV Status to Third Parties, and Some Personal Data Unencrypted’, TechCrunch, 2 April 2018. The Norwegian Consumer Council Investigation into Grindr’s consent mechanism resulted in Grindr rejecting a number of the report’s suggestions whilst welcoming a best practice discussion: ‘Grindr and Twitter Face ‘Out of Control’ Complaint’, BBC News, 14 January 2020.

223

Echo Wang and Carl O’Donnell, ‘Behind Grindr’s Doomed Hookup in China, a Data Misstep and Scramble to Make Up’, Reuters, 22 May 2019.

224

Casey Newton, ‘How Grindr Became a National Security Issue’, Verge, 28 March 2019.

225

Jeremy Hsu, ‘The Strava Heat Map and the End of Secrets’, Wired, 29 January 2018.

226

Colin Lecher, ‘Strava Fitness App Quietly Added a New Opt-Out for Controversial Heat Map’, Verge, 1 March 2018.

227

Pablo Guimón, ‘Brexit Wouldn’t Have Happened Without Cambridge Analytica’, El País, 27 March 2018.

228

Alex Hern, ‘Facebook “Dark Ads” Can Swing Political Opinions, Research Shows’, Guardian, 31 July 2017; Timothy Revell, ‘How to Turn Facebook Into a Weaponised AI Propaganda Machine’, New Scientist, 28 July 2017; Sue Halpern, ‘Cambridge Analytica and the Perils of Psychographics’, New Yorker, 30 March 2018.

229

Angela Chen and Alessandra Potenza, ‘Cambridge Analytica’s Facebook Data Abuse Shouldn’t Get Credit for Trump’, Verge, 20 March 2018; Kris-Stella Trump, ‘Four and a Half Reasons Not to Worry That Cambridge Analytica Skewed the 2016 Election’, Washington Post, 23 March 2018.

230

В документе описывается проведение рандомизированного контрольного исследования «со всеми пользователями не моложе 18 лет в США, которые зашли на сайт Facebook 2 ноября 2010 г.». Facebook считает, что их исследование подпадает под его условия и положения – крайне сомнительное предположение. Аналогичные споры разгорелись в 2014 году, когда Facebook опубликовал исследование об вредоносном эмоциональном воздействии. Корреспондент Кашмир Хилл отметила, что Facebook включил возможность использования данных для исследований спустя четыре месяца после проведения исследования. Но даже в этом случае согласие с условиями и положениями, которые большинство людей не читают, не может считаться информированным согласием. Kashmir Hill, ‘Facebook Added “Research” To User Agreement 4 Months After Emotion Manipulation Study’, Forbes, 30 June 2014.

231

M. Bond, C. J. Fariss, J. J. Jones, A. D. Kramer, C. Marlow, J. E. Settle and J. H. Fowler, ‘A 61-Million-Person Experiment in Social Influence and Political Mobilization’, Nature 489, 2012.

232

Jay Caruso, ‘The Latest Battleground Poll Tells Us Democrats Are OverCorrecting for 2020 – and They Can’t Beat Trump That Way’, Independent, 5 November 2019.

233

Hannes Grassegger, ‘Facebook Says Its “Voter Button” Is Good for Turnout. But Should the Tech Giant Be Nudging Us at All?’, Observer, 15 April 2018.

234

John Gramlich, ‘10 Facts About Americans and Facebook’, Pew Research Center, 16 May 2019.

235

Только за 2018 год Wired насчитали 21 скандал. Issie Lapowsky, ‘The 21 (and Counting) Biggest Facebook Scandals of 2018’, Wired, 20 December 2018.

236

Cecilia Kang and Mike Isaac, ‘Defiant Zuckerberg Says Facebook Won’t Police Political Speech’, New York Times, 17 October 2019.

237

Tim Wu, ‘Facebook Isn’t Just Allowing Lies, It’s Prioritizing Them’, New York Times, 4 November 2019.

238

David Smith, ‘How Key Republicans Inside Facebook Are Shifting Its Politics to the Right’, Guardian, 3 November 2019.

239

Jonathan Zittrain, ‘Facebook Could Decide an Election Without Anyone Ever Finding Out’, New Statesman, 3 June 2014.

240

John Stuart Mill, ‘Collected Works of John Stuart Mill’ (University of Toronto Press, 1963), vol. 21, 262.

241

Thomas Nagel, ‘Concealment and Exposure’, Philosophy and Public Affairs 27, 1998.

242

Anna Lauren Hoffman, ‘Facebook is Worried About Users Sharing Less – But it Only Has Itself to Blame’, Guardian, 19 April 2016.

243

Thomas Nagel, ‘Concealment and Exposure’, 7.

244

Hans de Zwart, ‘During World War II, We Did Have Something to Hide’, Medium, 30 April 2015.

245

Thomas Douglas and Lauren Van den Borre, ‘Asbestos Neglect: Why Asbestos Exposure Deserves Greater Policy Attention’, Health Policy 123, 2019.

ГЛАВА 5

246

Fiona Harvey, ‘Ozone Layer Finally Healing After Damage Caused by Aerosols, UN Says’, Guardian, 5 November 2018.

247

‘Update Report Into Adtech and Real Time Bidding’ (United Kingdom: Information Commissioner’s Office, 2019).

248

Jesse Frederik and Maurits Martijn, ‘The New Dot Com Bubble Is Here: It’s Called Online Advertising ’, Correspondent, 6 November 2019.

249

Keach Hagey, ‘Behavioral Ad Targeting Not Paying Off for Publishers, Study Suggests’, Wall Street Journal, 29 May 2019.

250

Laura Bassett, ‘Digital Media Is Suffocating – and It’s Facebook and Google’s Fault’, American Prospect, 6 May 2019.

251

Natasha Lomas, ‘The Case Against Behavioral Advertising Is Stacking Up’, TechCrunch, 20 January 2019.

252

Mark Weiss, ‘Digiday Research: Most Publishers Don’t Benefit From Behavioral Ad Targeting’, Digiday, 5 June 2019.

253

Jessica Davies, ‘After GDPR, The New York Times Cut Off Ad Exchanges in Europe – and Kept Growing Ad Revenue’, Digiday, 16 January 2019.

254

Tiffany Hsu, ‘The Advertising Industry Has a Problem: People Hate Ads’, New York Times, 28 October 2019.

255

David Ogilvy, ‘Confessions of an Advertising Man’ (Harpenden: Southbank Publishing, 2013), 17, 114.

256

Louise Matsakis, ‘Online Ad Targeting Does Work – As Long As It’s Not Creepy’, Wired, 11 May 2018; Tami Kim, Kate Barasz and Leslie K. John, ‘Why Am I Seeing This Ad? The Effect of Ad Transparency on Ad Effectiveness’, Journal of Consumer Research 45, 2019.

257

Rani Molla, ‘These Publications Have the Most to Lose From Facebook’s New Algorithm Changes’, Vox, 25 January 2018.

258

Emily Bell, ‘Why Facebook’s News Feed Changes Are Bad News For Democracy’, Guardian, 21 January 2018; Dom Phillips, ‘Brazil’s Biggest Newspaper Pulls Content From Facebook After Algorithm Change’, Guardian, 8 February 2018.

259

Gabriel Weinberg, ‘What If We All Just Sold Non-Creepy Advertising?’, New York Times, 19 June 2019.

260

David Ogilvy, ‘Confessions of an Advertising Man’, 168, 112, 127.

261

Chloé Michel, Michelle Sovinsky, Eugenio Proto and Andrew Oswald, ‘Advertising as a Major Source of Human Dissatisfaction: Cross-National Evidence on One Million Europeans’, in M. Rojas (ed.), The Economics of Happiness (Springer, 2019).

262

‘Economic Impact of Advertising in the United States’ (IHS Economics and Country Risk, 2015).

263

‘United States of America – Contribution of Travel and Tourism to GDP as a Share of GDP’ (Knoema, 2018).

264

‘Something Doesn’t Ad Up About America’s Advertising Market’, The Economist, 18 January 2018.

265

‘Something Doesn’t Ad Up About America’s Advertising Market’.

266

Natasha Singer, ‘Data Broker Is Charged With Selling Consumers’ Financial Details to “Fraudsters” ’.

267

David A. Hoffman, ‘Intel Executive: Rein In Data Brokers’, New York Times, 15 July 2019.

268

Elizabeth Dwoskin, ‘FTC: Data Brokers Can Buy Your Bank Account Number for 50 Cents’, Wall Street Journal, 24 December 2014; Julia Angwin, Dragnet Nation (New York: Times Books, 2014), 7.

269

Joana Moll, ‘The Dating Brokers: An Autopsy of Online Love’, October 2018.

270

Gabriel J. X. Dance, Michael LaForgia and Nicholas Confessore, ‘As Facebook Raised a Privacy Wall, It Carved an Opening for Tech Giants’.

271

Shoshana Zuboff, ‘The Age of Surveillance Capitalism’, 138–155.

272

Я беру этот пример из интервью с Аароном Ротом (он использовал кампанию Трампа, чтобы проиллюстрировать метод): https://twimlai.com/twiml-talk-132-differential-privacy-theory-practice-with-aaron-roth/

273

Rachel Metz, ‘The Smartphone App That Can Tell You’re Depressed Before You Know it Yourself’, MIT Technology Review, 15 October 2018.

274

Michal Kosinski, David Stillwell and Thore Graepel, ‘Private Traits and Attributes Are Predictable From Digital Records of Human Behavior’, PNAS 110, 2013.

275

Christopher Burr and Nello Cristianini, ‘Can Machines Read our Minds?’, Minds and Machines 29, 2019.

276

Michal Kosinski, David Stillwell and Thore Graepel, ‘Private traits and attributes are predictable from digital records of human behavior’.

277

Alexis Kramer, ‘Forced Phone Fingerprint Swipes Raise Fifth Amendment Questions’, Bloomberg Law, 7 October 2019.

278

Jack M. Balkin, ‘Information Fiduciaries and the First Amendment’, UC Davis Law Review 49, 2016; Jonathan Zittrain, ‘How to Exercise the Power You Didn’t Ask For’, Harvard Business Review, 19 September 2018.

279

Alice MacLachlan, ‘Fiduciary Duties and the Ethics of Public Apology’, Journal of Applied Philosophy 35, 2018.

280

Lina Khan and David E. Pozen, ‘A Skeptical View of Information Fiduciaries’, Harvard Law Review 133, 2019.

281

Bruce Schneier, ‘Click Here to Kill Everybody. Security and Survival in a HyperConnected World’, 134.

282

Andy Greenberg, ‘How Hacked Water Heaters Could Trigger Mass Blackouts’, Wired, 13 August 2018. Russia caused a blackout in Ukraine in 2016 through a cyberattack. Andy Greenberg, ‘New Clues Show How Russia’s Grid Hackers Aimed for Physical Destruction’, Wired, 12 September 2019.

283

Sean Lyngaas, ‘Hacking Nuclear Systems Is the Ultimate Cyber Threat. Are We Prepared?’, Verge, 23 January 2018.

284

Will Dunn, ‘Can Nuclear Weapons Be Hacked?’, New Statesman, 7 May 2018. Соединенные Штаты и Израиль воспрепятствовали ядерной программе Ирана посредством кибератаки (Stuxnet). Ellen Nakashima and Joby Warrick, ‘Stuxnet Was Work of US and Israeli Experts, Officials Say’, Washington Post, 2 June 2012. A more worrying attack would be one that tries to activate a nuclear weapon.

285

Matthew Wall, ‘5G: “A Cyber-Attack Could Stop the Country” ’, BBC News, 25 October 2018.

286

Bruce Schneier, ‘Click Here to Kill Everybody. Security and Survival in a HyperConnected World’, 118–119.

287

Bruce Schneier, ‘Click Here to Kill Everybody. Security and Survival in a HyperConnected World’, 32–33, 168.

288

Gary Marcus, ‘Total Recall: The Woman Who Can’t Forget’, Wired, 23 March 2009.

289

Viktor Mayer-Schönberger, ‘Delete. The Virtue of Forgetting in the Digital Age’ (Princeton University Press, 2009), 39–45.

290

Viktor Mayer-Schönberger, ‘Delete. The Virtue of Forgetting in the Digital Age’, Ch 4.

291

Julia Powles and Enrique Chaparro, ‘How Google Determined Our Right to be Forgotten’, Guardian, 18 February 2015.

292

Lois Beckett, ‘Under Digital Surveillance: How American Schools Spy on Millions of Kids’, Guardian, 22 October 2019.

293

Tristan Louis, ‘How Much Is a User Worth?’, Forbes, 31 August 2013.

294

James H. Wilson, Paul R. Daugherty and Chase Davenport, ‘The Future of AI Will Be About Less Data, Not More’, Harvard Business Review, 14 January 2019.

295

Bruce Schneier, ‘Data, Surveillance, and the AI Arms Race’, (2019).

296

Eliza Strickland, ‘How IBM Watson Overpromised and Underdelivered on AI Health Care’, IEEE Spectrum, 2 April 2019.

297

Martin U. Müller, ‘Medical Applications Expose Current Limits of AI’, Spiegel, 3 August 2018.

298

Angela Chen, ‘IBM’s Watson Gave Unsafe Recommendations For Treating Cancer’, Verge, 26 July 2018.

299

Julia Powles, ‘DeepMind’s Latest AI Health Breakthrough Has Some Problems’, Medium, 6 August 2019.

300

Xiaoxuan Liu, Livia Faes, Aditya U. Kale, Siegfried K. Wagner, Dun Jack Fu, Alice Bruynseels, Thushika Mahendiran, Gabriella Moraes, Mohith Shamdas, Christoph Kern, Joseph R. Ledsam, Martin K. Schmid, Konstantinos Balaskas, Eric J. Topol, Lucas M. Machmann, Pearse A. Keane and Alastair K. Denniston, ‘A Comparison of Deep Learning Performance Against Health-Care Professionals in Detecting Diseases From Medical Imaging: A Systematic Review and Meta-Analysis’, Lancet Digital Health 1, 2019.

301

L. Wang, L. Ding, Z. Liu, L. Sun, L. Chen, R. Jia, X. Dai, J. Cao and J. Ye, ‘Automated Identification of Malignancy in Whole-Slide Pathological Images: Identification of Eyelid Malignant Melanoma in Gigapixel Pathological Slides Using Deep Learning’, British Journal of Ophthalmology 104, 2020.

302

Margi Murphy, ‘Privacy Concerns as Google Absorbs Deepmind’s Health Division’, Telegraph, 13 November 2018.

303

Julia Powles and Hal Hodson, ‘Google DeepMind and Healthcare in an Age of Algorithms’.

304

Anne Trafton, ‘Artificial Intelligence Yields New Antibiotic’, MIT News Office, 20 February 2020.

305

Lorenzo Tondo, ‘Scientists Say Mass Tests in Italian Town Have Halted Covid-19 There’, Guardian, 18 March 2020.

306

Ив-Александр де Монжуа и его команда написали в блоге сообщение о том, что, по их мнению, является наибольшим риском приложений, связанных с коронавирусом. Yves-Alexandre de Montjoye, Florimond Houssiau, Andrea Gadotti and Florent Guepin, ‘Evaluating COVID-19 Contact Tracing Apps? Here Are 8 Privacy Questions We Think You Should Ask’, Computational Privacy Group, 2 April 2020 (https://cpg.doc.ic.ac.uk/blog/evaluating-contact-tracing-appshere-are-8-privacy-questions-we-think-you-should-ask/).

307

https://www.youtube.com/watch?v=_mzcbXi1Tkk

308

Naomi Klein, ‘The Shock Doctrine’ (Random House, 2007).

309

Paul Mozur, Raymond Zhong and Aaron Krolik, ‘In Coronavirus Fight, China Gives Citizens a Color Code, With Red Flags’, New York Times, 1 March 2020.

310

Yuval Harari, ‘The World After Coronavirus’, Financial Times, 20 March 2020.

ГЛАВА 6

311

Clare Midgley, ‘Slave Sugar Boycotts, Female Activism and the Domestic Base of British Anti-Slavery Culture’, Slavery and Abolition 17, 1996.

312

Carissa Véliz, ‘Why You Might Want to Think Twice About Surrendering Online Privacy for the Sake of Convenience’, The Conversation, 11 January 2017.

313

Chris Wood, ‘WhatsApp Photo Drug Dealer Caught By “Groundbreaking” Work’, BBC News, 15 April 2018; Zoe Kleinman, ‘Politician’s Fingerprint “Cloned From Photos” By Hacker’, BBC News, 29 December 2014.

314

Leo Kelion, ‘Google Chief: I’d Disclose Smart Speakers Before Guests Enter My Home’, BBC News, 15 October 2019.

315

Sonia Bokhari, ‘I’m 14, and I Quit Social Media After Discovering What Was Posted About Me’, Fast Company, 18 March 2019.

316

Sara Salinas, ‘Six Top US Intelligence Chiefs Caution Against Buying Huawei Phones’, CNBC, 13 February 2018.

317

Julien Gamba, Mohammed Rashed, Abbas Razaghpanah, Juan Tapiador and Narseo Vallina-Rodriguez, ‘An Analysis of Pre-Installed Android Software’, 41st IEEE Symposium on Security and Privacy, 2019.

318

Parmy Olson, ‘Exclusive: WhatsApp Cofounder Brian Acton Gives the Inside Story On #DeleteFacebook and Why He Left $850 Million Behind’, Forbes, 26 September 2018.

319

William Turton, ‘Why You Should Stop Using Telegram Right Now’, Gizmodo, 24 June 2016.

320

Спасибо Яну Престону за то, что рассказал мне об этом трюке.

321

https://blog.mozilla.org/security/2020/02/06/multi-account-containerssync/

322

TJ McCue, ‘47 Percent of Consumers Are Blocking Ads’, Forbes, 19 March 2019.

323

Christopher Wylie, ‘Mindf*ck. Inside Cambridge Analytica’s Plot to Break the World’, 114.

324

Kim Zetter, ‘The NSA Is Targeting Users of Privacy Services, Leaked Code Shows’, Wired, 3 July 2014.

325

Kate O’Flaherty, ‘Facebook Shuts Its Onavo Snooping App – But It Will Continue to Abuse User Privacy’, Forbes, 22 February 2019.

326

Вот несколько справочников, которые помогут вам начать работу, но вы можете проверить, есть ли в интернете более свежие: ‘The Default Privacy Settings You Should Change and How to Do It’, Medium, 18 July 2018, https://medium.com/@Ntiva/the-default-privacy-settings-you-should-change-and-how-to-do-it-92795b9fdb18; J. R. Raphael, ‘7 Google Privacy Settings You Should Revisit Right Now’, Fast Company, 17 May 2019 https://www.fastcompany.com/90350359/7-google-privacy-settings-you-should-revisit-right-now; Preston Gralla, ‘How to Protect Your Privacy on Facebook’, Verge, 7 June 2019.

327

Alex Hern, ‘Are You A “Cyberhoarder”? Five Ways to Declutter Your Digital Life – From Emails to Photos’, Guardian, 10 October 2018.

328

Список из 10000 наиболее распространенных паролей, которых следует избегать, см. https://en.wikipedia.org/wiki/Wikipedia: 10,000_most_common_passwords.

329

Finn Brunton and Helen Nissenbaum, ‘Obfuscation. A User’s Guide for Privacy and Protest’ (Cambridge MA: MIT Press, 2015), 1.

330

Деятельность данной соцсети запрещена на территории Российской Федерации.

331

Alfred Ng, ‘Teens Have Figured Out How to Mess With Instagram’s Tracking Algorithm’, CNET, 4 February 2020.

332

Andy Greenberg, ‘A Guide to Getting Past Customs With Your Digital Privacy Intact’, Wired’, 12 February 2017.

333

Edwin Black, ‘IBM and the Holocaust’.

334

Jack Poulson, ‘I Used to Work for Google: I Am a Conscientious Objector’, New York Times, 23 April 2019.

335

Stéphane Hessel, ‘The Power of Indignation (Skyhorse Publishing, 2012).

336

‘The Data Economy. Special Report’, The Economist, 20 February 2020.

Content

Карисса Велиз
Сила конфиденциальности: почему необходимо обладать контролем над своими персональными данными и как его установить

Введение

Глава 1 Стервятники данных

Глава 2 Как мы до этого дошли?

Превращение персональных данных в золотую пыль

И грянул гром

Забыли, что и почему важно

Глава 3 Конфиденциальность – это власть

Власть

Власть и знания

Власть в цифровую эпоху

Жесткая сила технологий

Мягкая сила технологий

Просто пешки

Конфиденциальность, самостоятельность и свобода

Конфиденциальность – дело коллективное

Почему именно либеральная демократия?

Конфиденциальность – повязка на глазах Фемиды

Устранение асимметрии власти

Сила сопротивления

Глава 4 Токсичные данные

Поломанные судьбы

Нанесение вреда институтам общества

Отравленное общество

Глава 5 Отключить капитализм слежки

Убрать персонализированную рекламу

Остановить торговлю персональными данными

Прекратить сбор персональных данных по умолчанию

Остановить гипотетическое определение данных в закрытом режиме

Внедрить фидуциарные обязанности

Повысить стандарты кибербезопасности

Удалять данные

Отслеживать наши личные данные

Защитить наших детей

Разве нам не нужны личные данные?

А как насчет медицины?

Остерегайтесь кризисов

Действовать нужно уже сейчас

Глава 6 Что вы можете сделать

Подумайте дважды, прежде чем делиться данными

Относитесь с уважением к конфиденциальности других людей

Оставьте место конфиденциальности

Учитесь говорить «нет»

Делаем выбор в пользу сохранения конфиденциальности

Используйте расширения и инструменты конфиденциальности

Измените настройки

Не накапливайте кибермусор

Выбирайте надежные пароли

Запутывайте их

Переходите на аналоговое

Требуйте защиты конфиденциальности

Не впадайте в зависимость от них

Делайте все, что от вас зависит

Покупайте газеты

А может, вы работаете в технологической компании?

Не миритесь с тем, что неприемлемо

Заключение

Примечания