Борислав Козловский

Максимальный репост. Как соцсети заставляют нас верить фейковым новостям

© Козловский Б.М., 2018

© ООО «Альпина Паблишер», 2018

* * *

Яну Сизову, с которым мы много спорили о том и этом

Предисловие

Где здесь место пробиркам?

В фантастических романах главное это было радио. При нем ожидалось счастье человечества. Вот радио есть, а счастья нет.

Илья Ильф

Записные книжки

Я ехал в метро с книжкой про изобретателей, а человек, который долго щурился на страницы у меня из-за плеча, спросил, о чем таком интересном я читаю. «Может быть, вы интересовались – в Питере на Дворцовой площади стоит колонна Монферрана, весит 600 тонн, и совершенно непонятно, как ее туда поставили». За следующие пять станций я услышал несколько увлекательных историй о роли сверхъестественного – которым власти якобы давным-давно научились пользоваться, но скрывают – в строительном деле. На моей станции собеседник высунулся из вагона и кричал мне вслед, что тибетские монахи умеют, собравшись на возвышенности в количестве ста человек, вместе издать такой особенный звук, который заставляет тяжелый валун подниматься в воздух.

В этой книге не будет ничего о том, почему на самом деле камни не летают под действием особенного звука. Меня заинтересовало другое. Кто уже успел представить себе пожилого городского сумасшедшего, тот неправ. Со мной разговаривал – я специально поинтересовался профессией – тимлид, то есть руководитель группы программистов, из знаменитой российской IT-компании. Ему было за тридцать, и он окончил хороший технический вуз. Когда вы расплачивались за эту книжку в магазине и получили у кассира чек, с большой вероятностью вы косвенно воспользовались результатами его работы.

Хотя идея этой книги к тому моменту давно сложилась у меня в голове, благодаря разговору в метро я смог сформулировать, на какой главный вопрос она отвечает: почему в ерунду верят хорошие и симпатичные нам люди. Не воображаемые мракобесы с клюкой, а родители друзей и мои собственные сверстники с хорошим образованием.

Приятельница-режиссер вспоминала, как ее берлинский знакомый – поэт и университетский преподаватель литературы – доказывал ей невозможность Холокоста. На стенках газовых камер нет следов яда, говорил он, показания Нюрнбергского процесса выбиты под пытками, убитые на фотографиях из концлагерей – жертвы эпидемии тифа, а газ «Циклон Б» использовали не для уничтожения людей, а для дезинфекции тифозных бараков. И на все рациональные доводы, имеющие в виду документы и свидетельства выживших, приводил свои соображения о том, как мировое правительство фальсифицировало каждую страницу в архивах.

Теории заговора, фальшивые новости, страх перед прививками – это все о людях, с которыми мы общаемся. Кто-то боится разогревать еду в микроволновке: микроволны заряжают пищу радиацией и вызывают рак. Кто-то доверительно сообщает: зато курение табака, наоборот, с раком никак не связано – миф про его опасность придумало и внедрило антитабачное лобби. Кто-то перепощивает фразу про «убить всех русских людей», будто бы принадлежащую Маргарет Тэтчер. Кто-то борется с жуликами, которые якобы выдумали свое глобальное потепление.

Примеры ошибочных суждений вокруг и около науки приходят мне в голову первыми (не зря же я научный журналист), но не это тут главное. Разоблачать антинаучные заблуждения – наверное, хорошее и полезное дело, которым занимается целая армия просветителей. На эту тему за последние несколько лет вышел чуть ли не десяток книг. Но мне интереснее, не во что люди верят, а почему. И как так вышло, что спустя год и два после появления всех этих безусловно полезных книг люди почему-то продолжают думать неправильно.

Вера в заговор – в каком-то смысле крайность. А между ней и проверенными фактами лежит неправда менее радикальная. Фейковые новости, например, не обязательно ставят под сомнение рациональную картину мира, где камни не летают. Они просто приписывают людям слова и действия, которых те не говорили и не совершали. И иногда этого достаточно, чтобы подтолкнуть кого-нибудь к идее пойти восстанавливать справедливость с оружием в руках: например, расстрелять посетителей пиццерии, чтобы наказать таким образом педофилов в правительстве.

Особенно загадочно, что жертвами некачественного знания становятся не только те, кто ограничен в доступе к информации, но и мы – со своими макбуками, научно-популярными книжками, лентой Facebook и лекциями на платформе Coursera. И (неожиданно) самые новые инструменты, которые у нас ассоциируются с прогрессом в чистом виде, – та самая лента Facebook, видео с места событий на YouTube, круглосуточные новости и «Википедия» – поддерживают вокруг нас территорию неправды в разных ее формах.

Есть специальный корпус просветительских текстов, которые учат: не попадайтесь на удочку таких-то и таких-то заблуждений. Рецепты против лжи – полезная штука, но не самая интересная. Заблуждения – часть ландшафта вокруг. Неправда влияет на то, как видят мир – и как ведут себя в жизни – продавщица в соседнем супермаркете, ваши друзья и родители. Ну и в конечном счете – вы сами. Опознать себя как часть этого ландшафта не менее интересно, чем научиться делать вид, что вся история про неправду в современном мире про каких-то других людей, наивных и глупых.

* * *

Просто взять и объявить сумасшедшими всех, кто верит во что-нибудь невероятное (вроде летающих камней или мирового еврейского правительства, которое выдумало Холокост) – тупиковый путь, если вы хотите разобраться, откуда заблуждения берутся.

На такие вопросы, как ни странно, особенно любят отвечать ученые. Хотя мы и привыкли думать, что науку интересуют одни объективные факты – как устроен мир на самом деле. Разве вера в инопланетян, политические теории заговора, пропаганда и дезинформация имеют отношение к науке? В качестве объекта изучения – очень даже.

Когда-то науку о мозге очень сильно продвинуло наблюдение за иллюзиями, то есть ошибками восприятия. Вот, например, знаменитая оптическая иллюзия Мюллера-Лайера: если человек видит на бумаге две линии одинаковой длины, но одна кажется ему длиннее, а другая короче из-за пририсованных на концах стрелочек, – это не он сумасшедший, это механизмы зрения заставляют мозг ошибаться (рис. 1). И если мы будем присматриваться к примерам, на которых он ошибается, мы что-нибудь новое про механизмы зрения поймем. Наше знание про слепое пятно на сетчатке и саккады, быстрые движения глаз, в результате которых цельная картинка собирается из обрывков, – прямой результат изучения таких иллюзий.

Рис. 1. Иллюзия Мюллера-Лайера

Иллюзии бывают не только зрительными, но и когнитивными – и как раз их удобно изучать на примере фальшивых новостей и теорий заговора. Нейробиологи укладывают подопытных в томографы, чтобы изучать ложные воспоминания, ошибку подтверждения и эффект обратного огня на материале газетных заметок про политику и дискуссий про гей-браки, аборты или запрет оружия. А генетики выясняют, какие комбинации генов у новорожденного создают предрасположенность к тому, чтобы ребенок вырос упертым либералом или бескомпромиссным консерватором – хотя ему самому и будет казаться, что он выработал свои политические взгляды в результате долгого анализа всех за и против.

Основной материал для таких исследований – разговоры людей про политику в том или ином виде. Потому что политика – это все поле коллективных интересов. Трудно изучать распространение слухов на примере частных историй, которые касаются ваших догадок о том, что случилось у вашего троюродного брата с вашей двоюродной сестрой. Такой слух не имеет шансов уйти далеко, потому что люди уже в трех рукопожатиях от вас не знают никого из действующих лиц.

Даже когда где-нибудь в соцсетях обсуждают очередной слух о вреде прививок, ГМО и способности кока-колы растворять наши кости – это все равно политический разговор о здравоохранении и надзоре за качеством товаров. Человек обращается к неопределенным людям по другую сторону монитора и пытается их убедить: нынешний порядок вещей плох, в общих интересах его поменять коллективным усилием – например, подписать петицию о запрете кока-колы.

Поэтому ученые, наверное, не виноваты в том, что предмет их исследований – не какая-то абстрактная информация, а заряженные ненавистью тексты про масонов, президента Обаму и вообще про власти-которые-скрывают. И, разумеется, про заговоры тех же ученых против простых людей. Так вышло.

* * *

На тему лжи, пропаганды, заговоров и слухов давным-давно пишут статьи и диссертации социологи с психологами и психиатрами – представители наук, которые по-английски называют soft science, «мягкой» наукой (в противоположность «твердым» вроде математики или нейробиологии). Племянник и последователь Фрейда Эдвард Бернейс опубликовал в 1928 году книгу «Пропаганда»{1} – руководство по манипуляции людьми, адресованное в первую очередь рекламщикам. В 1957 году напечатали бестселлер Вэнса Паккарда «Тайные манипуляторы»{2}, взгляд с другой стороны баррикад, где разоблачаются игры рекламщиков с нашими подсознательными установками. Теодор Адорно, социолог и философ, после Второй мировой развил теорию «авторитарной личности» – человека толпы, который пропаганде легко поддается.

Но есть проблема. Еще во времена Фрейда «мягкие» науки заработали репутацию таких областей знания, где редко получается дать окончательный ответ на какой-нибудь вопрос. И новая теория часто не отменяет старую, даже если ей противоречит.

Ни Адорно, ни Паккард не ставили экспериментов и не делали количественных выводов, как физики или химики. Кто-то основывался на своем опыте практикующего врача, кто-то исходил из собственных размышлений о природе человека – и все это подходы, бесконечно далекие от строгости тех методов, которые применяют в физике элементарных частиц или в клеточной биологии.

Книги (по крайней мере, Бернейса и Паккарда) переиздают на русском раз за разом, и такое особенно любят рекомендовать преподаватели факультетов маркетинга, политологии и рекламы своим студентам – чуть ли не как учебники. Другое дело, что психологические теории, на которых они основаны, сейчас невозможно воспринимать всерьез. Понятия вроде Эдипова комплекса, мортидо и суперэго давно пропали из учебников о том, как устроен мозг.

Словом, наука об ошибках и заговорах, внушаемости и вере в чепуху только совсем недавно – лет десять как – благодаря томографам и большим данным стала достаточно «твердой» и строгой.

С появлением соцсетей с их миллиардами записей в качестве больших данных стало возможно делать строгие количественные выводы о том, как передается информация от человека к человеку. Такими выводами занимаются, в частности, исследовательские команды самих компаний Facebook и Twitter, куда нанимают лучших математиков, социологов и теоретиков коммуникаций.

* * *

Биолог-эволюционист Ричард Докинз сорок лет назад сравнил распространение идей с распространением генов. Если ген – единица генетической информации, то для единицы культурной информации Докинз придумал короткое и емкое слово «мем». В конце концов так стали называть любые вирусные картинки и бродячие цитаты в интернете, но Докинз вкладывал в это понятие несколько более глубокий смысл.

Согласно его книге «Эгоистичный ген»{3}, ген важнее своего хозяина – будь то бактерия, человек или любое другое живое существо. Мы – просто вспомогательное приспособление, которым кусок ДНК пользуется в своих интересах. Если ген фермента ДНК-полимеразы встречается и у человека, и у банана – ему, гену, в некотором смысле все равно, в чьем теле пробивать себе дорогу в будущее.

Биология за последние полвека сильно продвинулась вперед как раз за счет изучения «плохих» и «вредных» генов – вроде тех, что вызывают рак или помогают вирусу иммунодефицита человека (ВИЧ) прописаться в человеческом геноме. Благодаря им стало возможно понять, как работают гены в нормальной здоровой клетке.

С идеями та же ситуация: беспристрастный взгляд на распространение «плохих» и «некачественных» идей – антинаучных слухов и бредовых теорий заговора, писем счастья и пропаганды, притворяющейся простыми человеческими историями («я сама крымчанка, дочь офицера, живу тут пятьдесят лет…») – обещает науке больше пользы, чем изучение всего хорошего.

Во лжи интересно то, почему она так жизнеспособна. Может быть, всю работу по внедрению лжи в сознание проделывают коварные заинтересованные злодеи, которые захватили почту, телефон, телеграф и имеют полный контроль над передачей любой информации? Так мы представляем – по антиутопиям вроде «1984» Оруэлла – работу «Большого Брата» в тоталитарном государстве.

Однако в реальности люди почему-то не только охотно потребляют неправду, когда ей есть альтернатива, но и включаются в цепь ее ретрансляции добровольно – и основную работу по внедрению дезинформации в умы следующих жертв проделывают сами, без Большого Брата. Пересылают друзьям письма счастья, неправдоподобные фотографии со слезливой сопроводительной историей, новости про закон, принятый несуществующими депутатами, или еще что-нибудь в том же духе. В большинстве случаев в этот момент у них за плечом не стоит автоматчик, диктующий что писать, и до опровергающих ложь аргументов всего два клика в Google.

Ложь проще отслеживать, чем правду: изъяны информации – ее опознавательный знак, что-то вроде отпечатков пальцев. Поэтому ее исследования и должны прояснить, как человечество способно распоряжаться информацией вообще.

* * *

Стоит сказать пару слов о том, что заставило эту книгу появиться на свет. Автор – научный журналист, который последние тринадцать лет писал про межпланетные зонды, редактирование генома и мозг для самых разных изданий, начиная со старой Lenta.ru (не следует путать ее с одноименным сайтом, существующим сейчас), GEO и «Вокруг света» и заканчивая журналом Vogue.

Не лучше ли было бы научному журналисту потратить время на книжку, посвященную бактериям или космосу? Как раз тогда, когда я сел дописывать предисловие, по университетским библиотекам развозят свежий номер Science[1] – одного из самых старых и уважаемых научных журналов, – на обложке у которого нарисовано нечто вроде сложных снопов искр. Так могли бы выглядеть следы космических лучей в атмосфере. Но это никакие не космические лучи, а схема каскадов слухов в Twitter; тема номера – «Как распространяется ложь». А про информационные пузыри в соцсетях пишут книги профессора математики. Неправда в ее новых формах становится чем-то таким, чего больше нельзя не замечать, даже если область ваших интересов – теория алгоритмов или диалектология.

Ссылаться на академическую науку применительно ко сну, завтраку, утренней пробежке, переутомлению на работе и походу в магазин за свитером стало привычным делом. Вы не просто бессильны перед сочным и вредным бургером – это сбой дофаминовой системы наград мозга. А любовь к сладкому – продукт эволюционных стратегий, закрепившихся в ходе миллионов лет превращения обезьяны в человека, когда концентрированные калории были очень редки. Мы уже научились (и даже привыкли) рассуждать таким образом про еду: на эту тему выходят и переводятся книжки с обязательным мозгом на обложке. А про наше восприятие политических новостей и пропагандистских мемов в соцсетях – еще нет.

Мне как научному журналисту показалось важным заполнить этот пробел.

* * *

Курс философа Андрея Великанова сделал моей привычкой читать не вдоль, а поперек: искать ключи к проблемам в том числе и в текстах, которые не обещают прямо в заголовке раз и навсегда решить проблему за меня. За три года существования кружка слушателей курса мы успели пообсуждать – в той или иной форме – разные сюжеты, разобранные в книге. Я благодарен Андрею Григорьевичу и моим друзьям из числа слушателей, бывшим и нынешним – Оле Алексеенко, Сереже Кирееву, Алене Тоже и моей жене Марине Зайцевой – за все разговоры (про носорога Витгенштейна, выдуманную войну Бодрийяра, чужую красоту, секты, психологические тренинги у менеджеров и механизмы передачи культурного знания у желтой русской канарейки), которые пришлось додумывать задним числом, а потом писать текст так, как если бы я спорил вслух с живым и критически настроенным собеседником. Марине отдельное спасибо за готовность брать на себя роль такого невоображаемого собеседника всякий раз, когда я оканчивал очередную главу.

Для меня большая честь знать, что люди, которым я обязан своим способом думать, – Мария Степанова, Шура Буртин, Андрей Великанов и, разумеется, мои родители Виктория Козловская и Михаил Дрейзлер – потратили сколько-то времени своей жизни на чтение моих постов в соцсетях, и буду рад, если они заглянут сюда.

Мой друг Ян ничего этого не прочтет, он умер. Книга посвящается ему.

В ходе работы над главами о больших данных и алгоритмах автор настолько увлекся сюжетом, что решил поступить в Школу анализа данных «Яндекса», окончил ее через два года и устроился на работу в «Яндекс» специалистом по машинному обучению – писать код и тренировать математические модели. Поэтому, к сожалению, в книге, где много написано про соцсети, нейросети, Facebook и Google, не будет ни слова о «Яндексе» – чтобы избежать конфликта интересов между автором-программистом и автором-журналистом.

Многие тексты, из которых выросли разные ее главы, выходили в разное время на сайтах Colta.ru, Snob.ru и Republic.ru, в журналах New Times и «Кот Шрёдингера»; спасибо их редакторам и редакциям.

Часть I

Среда обитания неправды

Глава 1

Фейковые новости

Каждый, кто покупал «Газету для дурако в», говорил, что он покупает ее не потому, что считает себя дураком, а потому, что ему интересно узнать, о чем там для дураков пишут.

Николай Носов

Незнайка на Луне

Известно, что на одну осмысленную строчку или истинное сообщение приходятся тысячи бессмыслиц, груды словесного хлама и абракадабры.

Хорхе Луис Борхес

Вавилонская библиотека

28-летний автомеханик садится с тремя подмастерьями в автомобиль и отправляется по делам в деревню неподалеку. Дело происходит на севере Индии, в штате Джаркханд, в мае 2017 года. На полпути машина утыкается в стихийный блокпост, где дежурят взволнованные местные.

Автомеханик не ждет от людей на блокпосту, вооруженных палками и кирпичами, ничего хорошего – и жмет на газ. Это ошибка. Дом родственников, где автомеханик остановится переночевать, к утру окружит тысячная толпа и потребует выдать гостей. Погибнут все четверо, тела и машину толпа сожжет.

Эта история могла бы случиться на Ближнем Востоке три тысячи лет назад: похожий эпизод есть прямо в Библии. Там к хорошему человеку Лоту просятся на ночлег путешественники, а потом он видит рядом с домом толпу, недовольную присутствием чужаков. «Еще не легли они спать, как городские жители, ‹…›, от молодого до старого, весь народ со всех концов города, окружили дом и вызвали Лота и говорили ему: где люди, пришедшие к тебе на ночь? выведи их к нам; мы познаем их. Лот вышел к ним ко входу, и запер за собою дверь, и сказал им: братья мои, не делайте зла»{4}.

Но у индийской истории есть одна особенность, невозможная в библейские времена: ее спровоцировала фальшивая новость, которую жители Джаркханда пересылали друг другу с телефона на телефон в мессенджере WhatsApp. В сообщении говорилось, что загадочные «люди в черном» перебираются из деревни в деревню, похищают и убивают детей. Фотографии (каких-то) изуродованных детских тел рассылали вместе с новостью – поэтому места для сомнений не оставалось: вот же фотоснимок, что тут обсуждать. И тогда самые смелые организовывают на дороге свой блокпост.

За несколько месяцев до этого, в декабре 2016-го, в американской столице Вашингтоне человек пришел в пиццерию с автоматической винтовкой. Он не выглядел как арабский террорист – это был 28-летний блондин с хипстерской бородой по имени Эдгар Уэлш, который накануне приехал из маленького городка с 30-тысячным населением. Полиция легко уговорила его сдаться. Уэлш не хотел устраивать теракт, его задачей было с оружием в руках восстановить поруганную справедливость.

И в Вашингтоне Уэлша интересовали не Белый дом, не здание конгресса и даже не штаб-квартира Международного валютного фонда, которые принято обвинять в разных бедах простых бедных людей, – а пиццерия под названием «Комет Пинг-Понг» на одной из второстепенных улиц, куда он со своей винтовкой зашел и сделал несколько выстрелов. К счастью, он ни в кого не попал. Полиции Уэлш потом объяснил: пиццерия – не что иное, как прикрытие штаба педофилов, поставляющего детей для сексуальных развлечений Хиллари Клинтон и ее соратникам по демократической партии. Об этом, рассказал он, писали в интернете.

Сюжет действительно активно упоминался в новостях и даже получил название «Пиццагейт». Сайт WikiLeaks выложил украденную переписку главы избирательного штаба Клинтон, где среди прочего упоминалась пицца с сыром. Бдительные читатели решили – это неспроста: слова cheese pizza («сырная пицца») начинаются с тех же букв, что и child porn («детское порно»), и наверняка служат заговорщикам кодом, эвфемизмом для обозначения своих тайных планов. Пиццерия «Комет Пинг-Понг» обратила на себя внимание тем, что там глава штаба подозрительно часто для политика отмечал свои дни рождения. Совпадение? Вряд ли. Новые свидетельства объявлялись одно за другим: логотип пиццерии напоминает «тайный знак педофилов», ее посетители в отзывах на сайте упоминают носящихся по залу «детей без присмотра» – какие доказательства еще нужны неравнодушному гражданину своей страны? Поэтому Уэлш взял винтовку и решил: пора действовать.

И убитые в Индии, и Уэлш, которого посадили в тюрьму на четыре года, и посетители пиццерии, выжившие по чистой случайности, – жертвы фальшивых новостей (по-английски fake news, «фейковые новости»). Такие новости начали активно обсуждать совсем недавно. Академический словарь Коллинза объявил fake news словом 2017 года, и (независимо от его редакции) то же самое сделало Американское диалектологическое общество, которое на самом деле изучает не столько «диалекты» в школьном смысле слова, сколько состояние современного английского языка. Папа римский посвятил им свое ежегодное обращение к верующим. А на платформах edX и Coursera появилось несколько онлайн-курсов от крупных западных университетов, посвященных этому явлению.

Больше пишут, наверное, только про биткоины.

Из неудачного названия «фальшивые новости» совершенно не ясно, чему тут удивляться: ну новости, ну фальшивые. Люди и раньше подозревали, что СМИ не всегда сообщают правду, а термин «газетная утка» придумали чуть ли не в XVIII веке (версии про точную дату расходятся). Что тут нового? То, что раньше это был побочный эффект, маргинальное явление, дезинформация с целью развлечь. Новости про говорящих телят и инопланетян не занимали до сих пор такого важного места на фоне прочих – и уж точно не решали, кто будет править США следующие четыре года.

Оксфордский университет и Институт журналистики Reuters вместе провели несколько фокус-групп – и в результате с огорчением выяснили{5}: «фейковыми новостями» широкая публика называет все что угодно. Необъективную журналистику. Пропаганду. Скрытую рекламу. Много шума по незначительному поводу. Новости, которые вам не нравятся.

По большому счету к феномену фейковых новостей все это имеет мало отношения. Определения, которыми предпочитают пользоваться исследователи, можно, сильно упрощая, свести к такому: фейковые новости – это грубая подделка под новости, которая не проходит самые базовые проверки на прочность и, несмотря на это, влияет на миллионы людей.

Социологи, которые подготовили на эту тему большой доклад для Европейского центра свободы СМИ, пишут: «Когда появились “фейковые новости”? Когда мы стали общаться в соцсетях»{6}.

* * *

В мае 2013 года газета Washington Post запустила у себя на сайте рубрику «Что было фейком в интернете на этой неделе» («What was fake on the Internet this week»), а через два с половиной года, в декабре 2015-го, ее редактор опубликовала прощальное письмо «Почему эта колонка последняя»{7}. Закрыть рубрику пришлось не из-за того, что по Сети перестала циркулировать неправда, а, наоборот, потому, что ее стали производить в промышленных масштабах – и промышленными методами.

Индустрия неправды в интернете середины 2010-х разрослась так же взрывообразно, как сам интернет разросся в нулевые[2].

Кульминация случилась в конце 2016-го. Про фейковые новости начали активно говорить и писать накануне американских президентских выборов, в результате которых победил Дональд Трамп. Их называют ни много ни мало ключевой причиной этой победы. «Папа римский поддержал кандидатуру Дональда Трампа». «Письма Хиллари подтвердили, что она продавала оружие ИГИЛ». «Агент ФБР, который обнаружил секретные письма Хиллари, найден мертвым в своей квартире» – это только из тех сюжетов, которые собрали сотни тысяч перепостов.

На сайте Google Trends можно посмотреть на график популярности разных поисковых запросов: у запроса «фальшивые новости» (вводить его стоит по-английски – fake news) на сравнительно ровном графике из ниоткуда вырастает мощный пик в районе октября 2016 года, буквально накануне голосования. Про фальшивые новости в это время пишет New York Times, журнал New Yorker рисует карикатуры, сайт BuzzFeed публикует подборку «Топ-50 фальшивых новостей года». Тот же BuzzFeed сосчитал: топ-20 фальшивых новостей обогнали по лайкам и перепостам двадцать самых популярных статей настоящих СМИ{8}.

* * *

В феврале 2018 года журнал Science – один из двух самых влиятельных научных журналов мира, где впервые опубликовали, к примеру, результат полной расшифровки генома человека и статью про вирус иммунодефицита человека (ВИЧ), – сделал фейковые новости темой номера. Команда ученых собрала перепосты 126 000 новостей, лживых и правдивых, сделанных на протяжении десяти лет в соцсети Twitter, и выяснила: ложь распространяется заметно активнее правды{9}.

Все трое авторов этого исследования работают в MIT Media Lab, медиалаборатории Массачусетского технологического института. Здесь когда-то придумали идею тачскринов (из нее вырос iPhone) и электронных чернил (а из нее – Kindle), концепцию «носимых устройств» (отсюда у нас шагомеры и пульсометры), специальный язык программирования для дошкольников и игру Guitar Hero, которая учит смотреть в глаза не монстрам, а толпе недовольных зрителей.

Подразделение MIT Media Lab, где разбирали данные Twitter, называется «Лаборатория социальных машин», и на ее сайте перечисляют инструменты, которыми здесь принято пользоваться, – машинное обучение, теория сетей, моделирование естественного языка. Словом, не самые традиционные средства для выяснения того, врут нам в интернете или не врут.

И сами ученые, взявшиеся за все эти подсчеты, мало похожи на обычных преподавателей обычного журфака. Профессор Деб Рой, глава Лаборатории социальных машин, несколько лет назад запустил стартап, который стал применять анализ данных к поведению телезрителей; стартап выкупила компания Twitter примерно за 60 млн долларов. Даже свои наблюдения за тем, как его годовалый сын учится говорить, Рой сумел превратить в академическое исследование по когнитивистике; его лекцию TED{10} об этой работе посмотрели в итоге 2,5 млн человек.

И вот что Рою с коллегами удалось выяснить. Фейковые новости добираются до первых 1500 адресатов в шесть раз быстрее, чем настоящие. А вероятность ретвита у отдельно взятой фальшивой новости на 70 % выше.

Еще ученых занимал параметр, который они называют «глубиной каскадов», – как далеко новость способна разойтись по цепочкам ретвитов. Два твита с одинаковой аудиторией в 1 млн человек могут иметь совершенно разную живучесть. Если один твит вывесила знаменитость, его прочитал миллион подписчиков, и этим дело ограничилось – это самый неглубокий каскад, какой только можно себе вообразить. А бывает, что провинциальный водопроводчик сделал запись, ее хором ретвитнули пятьдесят из ста его друзей, потом друзья друзей (их уже тысячи) и так далее.

И с точки зрения «глубины» различия были особенно заметны. Правдивые новости никогда не пробивались дальше глубины 10, и все равно лучшие из фальшивых новостей в десять раз быстрее достигали цепочки в 19 перепостов.

* * *

Социологи, которые написали доклад для Европейского центра свободы СМИ, объясняют: чтение (а главное, репосты) новостей – это не столько способ добыть информацию, сколько возможность показать себя другим людям{11}. То есть социальный ритуал, который можно сравнить с посещением воскресной службы в церкви. Или с покупками в дорогом магазине. Нажимая на кнопку «поделиться», вы сообщаете, что такое-то событие важно для вашей картины мира (или, точнее, для картины мира человека, которым вы хотите казаться). «Делюсь новостью про свадьбу принца Гарри и огорчаюсь, что запретили брать ручных фазанов в салон самолета», – это одна роль, а «Я возмущаюсь новыми тарифами на электричество и радуюсь открытию станции метро “Селигерская”» – другая.

Обычно вы ждете реакции от людей, чья картина мира устроена похоже. А если вам важен отклик, то ценность фальшивых и настоящих новостей неодинаковая – и ложные выгодней истинных. Почему так происходит? Авторы статьи в Science утверждают: с точки зрения теории информации, которую разработал Клод Шеннон в 1940-е (это он придумал «бит» и стал применять понятие «энтропия», которым раньше пользовались только физики, к нашим знаниям о мире), сообщение тем ценнее, чем неожиданнее. Если вы живете посреди пустыни, прогноз «завтра будет тоже сухо» несет в себе меньше информации, чем прогноз «завтра выпадет снег». Поэтому неправдоподобные новости обещают больше нового знания – то есть являются «новостью» в превосходной степени. И привлекают к себе больше внимания.

В самом начале ученые из MIT рассчитывали, что математика поможет им найти в соцсетях тайные узлы – то есть влиятельных манипуляторов, «тысячников» и «десятитысячников», которые своим авторитетом убеждают других поверить в неправду. Но оказалось ровно наоборот: больше всего фальшивых новостей распространяют непопулярные пользователи. Потому что им это нужнее.

Психологическое исследование, которое в мае 2017-го напечатал European Journal of Social Psychology, показывает: распространять «особенное необщее знание» – в частности, новости вокруг и около теорий заговора – легкий способ почувствовать себя привилегированным меньшинством{12}. Вы, один из немногих, делитесь с теми-кто-понимает информацией, недоступной для широких масс. Научная статья вышла под заголовком «Слишком особенные, чтобы дать себя обмануть». Команда психологов из Майнцского университета в Германии завербовала несколько сотен подопытных для участия в серии из четырех экспериментов и выяснила: склонность верить в теории заговора коррелирует с потребностью «быть особенным» и «не быть в стаде», какую, возможно, не удалось реализовать иначе{13}. (Поэтому если вы встретили в интернете человека, определяющего своих оппонентов как «хомячков», которые на что-нибудь «ведутся», – скорее всего, у него имеется своя, конспирологическая, картина событий.)

* * *

Спрос именно на фейковые новости делает понятным, почему первая попытка Facebook объявить им войну провалилась. В марте 2017 года соцсеть начала помечать отдельные новостные истории на английском специальной предупреждающей плашкой – красный восклицательный знак в треугольнике и рядом метка «спорное» (disputed) со ссылкой на разоблачающий разбор. Разметкой занимались вручную нанятые факт-чекеры. Уже в декабре, то есть всего через девять месяцев, эту практику свернули, потому что столкнулись с обратным эффектом. Стоило пометить новость как фальшивую, и число просмотров у нее взлетало: читатели чувствовали себя теперь уже меньшинством не просто избранным, а преследуемым. «Они пытаются заткнуть нам рты – так делайте больше репостов», – объяснял логику сопротивления в интервью британской газете Guardian автор одной из фальшивых историй (это был исторический материал про сотни тысяч ирландцев, якобы привезенных в США рабами){14}.

Кто пишет фальшивые новости? Если есть спрос и они расходятся как горячие пирожки, то производить их как минимум выгодно – и вовсе не потому, что вам заплатят из черной партийной кассы какие-нибудь политтехнологи. В каком-то смысле это самый дешевый контент, которым можно наполнить сайт, зарабатывающий показами самой обычной – не политической, а коммерческой – рекламы. Чтобы люди кликали по моргающим баннерам «онлайн-казино», «майнинговые фермы под ключ» или «быстрый заработок в интернете», их что-нибудь должно привести на страницу с этими баннерами. Короткие тексты про Клинтон, Трампа, либералов-педофилов и военных, которые вызывают ураганы своими испытаниями секретного оружия, и дешевле в производстве, чем порнография, и безопаснее с точки зрения закона, чем пиратские копии фильмов. Фальшивые новости, в общем, легальны почти всюду – за текст, который просто не соответствует действительности, мало где могут посадить в тюрьму.

Расследование британской газеты Guardian показало: полторы сотни протрамповских сайтов почему-то принадлежат жителям одного-единственного городка в Восточной Европе – а именно македонского Велеса с 44-тысячным населением. Один из владельцев этой сети признавался в интервью: они были бы не против публиковать любые другие новости – если бы по ним кликали в том же бешеном темпе, как и по новостям про Трампа. Накануне выборов они оказались самым прибыльным способом генерировать трафик – причем настолько выгодным, что если сначала новости просто копировались с американских консервативных сайтов, то потом македонцу пришлось нанимать американских авторов, чтобы те придумывали новости непосредственно для него. То, что могло бы быть политическим заказом, оказалось работой невидимой руки рынка – потому что так устроен интернет в 2018 году.

Фабрики вымышленных новостей чаще всего притворяются СМИ. Словосочетания National Report или News Examiner звучат похоже на названия солидных английских газет с историей (The Examiner, например – это реальная лондонская газета XIX века, где публиковались Диккенс и Теккерей). World News Daily Report, Empire News и News Nerd выдают себя за нечто помоложе и подинамичней. Сайты под такими названиями ежедневно десятками производят новости под заголовками вроде «Охранник Смитсоновского музея арестован за секс с 2500-летней египетской мумией» или «Подросток погиб после участия в “Огненном флешмобе” Facebook». Реальные факты в этих новостях не то чтобы искажены, а просто выдуманы от начала до конца.

Настоящие таблоиды – классические желтые газеты – такого себе позволить по большому счету не могли. Что делает человек, которому свежая газета на полном серьезе рассказала, что президент только что разбился в авиакатастрофе, в то время как тот жив-здоров? Больше не берет такую газету со стенда в супермаркете. Но у сайтов типа World News Daily Report нет аудитории, которую они могли бы потерять, – они просто не рассчитаны на то, что кто-то заходит на них напрямую или держит у себя в закладках. Целевая аудитория – те, кто узнает все новости из соцсетей. Поэтому задача сайта типа World News Daily Report – затеряться со своей новостью про мумию среди сообщений настоящих СМИ, просочиться к пользователям в ленту Facebook и заработать как можно больше репостов от людей, которые не привыкли перепроверять информацию.

Кэйтлин Дьюи – автор той самой закрывшейся колонки про фейки в Washington Post – утверждает{15}: все это стало возможным только благодаря редизайну ленты Facebook в марте 2013-го. Добавился блок рекомендованных ссылок, которые «лайкнуло особенно много друзей». И ресурсы вроде World News Daily Report, паразитирующие на новых возможностях соцсети, стали рождаться на свет один за другим.

Правда ли, что эта история в основном про США, англоязычные новости и мелкие маргинальные сайты? И какое отношение все это имеет к нам?

* * *

Сворачиваете с Тверской налево, из переулка ныряете во двор полуразрушенного старомосковского особняка, затянутого в строительную сетку, заходите в арку – а там наконец видите над входом в подвал вывеску бара «Редакция». Мало шансов оказаться здесь случайно. Кончается январь 2016 года, и в баре сегодня бесплатно угощают лапшой – в честь медиапроекта «Лапшеснималочная», он же сайт noodleremover.news. На логотипе проекта лапшу снимают вилками с ушей, а в анонсе мероприятия обещают рассказать, «кто и как вешает лапшу в российских и иностранных СМИ».

Создатель проекта Алексей Ковалев несколько лет учился журналистике в Лондоне, вернулся в Москву и здесь успел поработать в «РИА Новости» главредом сайта «ИноСМИ», где каждый день переводили свежие статьи крупных западных медиа про Россию. «Лапшеснималочную» Ковалев запустил в сентябре 2015 года – прежде всего для борьбы с теми фальшивыми новостями, которые добрались до эфира государственных телеканалов. Уже в январе 2016-го один из текстов проекта за одну ночь прочло больше ста тысяч человек: даже по меркам крупных СМИ русскоязычного интернета с пяти – десятилетней историей это невероятно много.

Каждая история на сайте – небольшое расследование про какой-нибудь телесюжет. Вот, например, телеканал RT (в прошлом Russia Today) цитирует американского «специалиста по борьбе с терроризмом», который вещает про страхи Пентагона перед военной мощью России. Ковалеву было не лень выяснить, что эксперт еще совсем недавно вовсе не боролся с терроризмом, а отбывал в США трехлетний тюремный срок: он выдавал себя за отставного сотрудника спецслужб, пытаясь получить оборонный контракт и служебную квартиру, и был пойман на вранье{16}.

А вот «РЕН ТВ» публикует у себя на сайте текст под заголовком «На Западе обсуждают гениальный ход Путина, грозящий обрушить экономику ЕС и США» – у него полмиллиона просмотров{17}.

Ковалев терпеливо объясняет: «Как вы уже наверняка догадались, если регулярно читаете “Лапшеснималочную”, если в заголовке российского издания написано что-то в духе “западные СМИ”, то, скорее всего, это никакие не СМИ (а бывает, что и не западные вовсе). Так и тут»{18}. В этот раз за СМИ выдают франкоязычную блог-платформу AgoraVox, нечто вроде «Живого журнала», где опубликоваться может кто угодно. Первоисточником этой конкретной записи про «гениальный ход Путина» оказывается человек, который представляется так: «Сестра Мария Тереза – 73-я Сорча Фаал Ордена Сорча Фаал, избранная Матерью-Настоятельницей 3 февраля 2007 года».

* * *

Ковалеву чуть больше тридцати, у него непропорционально большая коротко стриженная голова, он в хипстерском кардигане и темной рубашке в крупный горошек. Послушать его в небольшой зал «Редакции» набилось человек пятьдесят, и большинству приходится все полтора часа стоять на ногах.

«Кто из вас журналист – поднимите руки», – просит Ковалев у аудитории, и становится ясно: журналистов здесь минимум половина. Ковалев радуется, что хотя бы не все: «Есть такое английское выражение – читать проповедь церковному хору». Пропаганду и подтасовки государственных СМИ обсуждают давно, активно и даже яростно – но только внутри журналистского цеха. И Ковалев пытается сделать так, чтобы эта информация добралась наконец-то до широкой публики.

Проект «ИноСМИ.ру», когда Ковалев его возглавлял, и сам был чем-то вроде «проповедей церковному хору» – скорее «би-ту-би», business-to-business, чем «би-ту-си», businessto-consumer. Сайт был инструментом для журналистов, политиков и аналитиков, которым критически важно знать, какой представляется страна снаружи. Та аудитория состояла из придирчивых скептиков – требовала авторитетных первоисточников и выверенного перевода. Поэтому для Ковалева по возвращении стало сюрпризом, что государственные телеканалы вдруг стали активно ссылаться на мнение неизвестных ему «западных СМИ», обращаясь к менее критичным телезрителям. «Западные СМИ рассказали о превосходстве Путина над лидерами крупных держав». «Западные СМИ прочат Владимиру Путину величайший дипломатический триумф». И каждый раз при ближайшем рассмотрении оказывалось, что СМИ, где «прочат» и «обсуждают гениальный ход» – это или газета каких-нибудь коммунистов штата Висконсин, или блог сумасшедшего профессора. Но в телевизоре об этой детали обычно умалчивают.

Картина вроде бы простая и даже черно-белая: телевизор врет – а интернет его разоблачает. Но не все так просто. Ковалев с удивлением обнаружил, что неправду по ТВ подпитывает невидимая пищевая цепочка в интернете: ее звенья – и коммерческие сайты фальшивых новостей, которые притворяются СМИ ради заработка, как World News Daily Report в США, и успешные развлекательные сайты с многомиллионной аудиторией, и даже интернет-страницы самых настоящих региональных газет. Для чего это нужно? Прежде всего, для многоэтапной отмывки новостей перед тем, как они попадут в телевизор.

После того, как в 2014 году над Донбассом был сбит «Боинг» авиакомпании Malaysia Airlines с 298 пассажирами на борту (по данным международного расследования, он был сбит из российского зенитного ракетного комплекса «Бук» повстанцами), российские государственные СМИ цитировали Twitter загадочного испанского авиадиспетчера, который якобы работал в аэропорту и видел идущие на перехват «Боинга» украинские истребители. Появление такой записи в Twitter – факт, и в этом смысле новости не лгали. Человек, которому аккаунт принадлежал, был найден и даже дал интервью телеканалу RT. Другое дело, что ни в одном реестре диспетчер с таким именем не значился, а герой интервью, как выяснилось позже, действительно оказался испанцем – но только никак не связанным с авиацией и судимым за мошенничество{19}. Но формально неправда родилась в интернете, а ТВ честно преподнесло ее как мнение конкретного человека.

* * *

Любимая история Ковалева – судьба новости под заголовком «96 % читателей американской газеты за Путина»{20}. Сюжет вышел в эфире программы «Вести» на федеральном канале «Россия-24»: тележурналисты цитировали не какое-нибудь выдуманное СМИ, а главное в стране информагентство «РИА Новости». Там, в свою очередь, ссылаются на опрос газеты New York Daily News. Такая газета на самом деле есть – пусть даже это и не издание уровня New York Times, а таблоид с историями про скандалы в жизни звезд. Наконец, на сайте газеты во время сессии Генеральной Ассамблеи ООН действительно опубликовали ссылку на опрос «Кто был убедительней, Путин или Обама?» – и по результатам голосования 34 000 человек Путин действительно обошел президента США с результатом в 96 % против 4 %.

Все сходится, где же здесь неправда? У себя на сайте Ковалев размещает скриншоты комментариев, которые «96 % американцев» оставляли прямо под страницей с голосованием: «Вовка, жми. Копченый сливается» и «Амеров на их же земле нагнули», – на чистом русском пишут они. Ковалев объясняет: «Ссылку на это голосование – которую читатели New York Daily News проигнорировали, потому что на Путина им наплевать – запостили на Yaplakal.com, и там 34 000 голосов накрутили за час». «ЯПлакалъ» – российский развлекательный ресурс, где обсуждают «приколы»: смешные видео с ДТП, фото удивленных собак и российских танков, а также «истории из жизни», где менеджер младшего звена меткой фразой ставит на место начальство. «Нас 6 миллионов», – гордо сообщает Yaplakal.com своей аудитории про ее численность, так что 34 000 проголосовавших – что-то около 0,5 % от этого числа.

«Многие ресурсы – и тот же самый Yaplakal – стали оплотом патриотической общественности. Такие развлекательные сайты собирают сотни тысяч уников[3] в день, репостя смешные картинки из Сети. На них, конечно, сразу обратили внимание – и начали последовательно захватывать», – объясняет Ковалев тактику людей, которые увидели во вроде бы аполитичном развлекательном секторе интернета отличную площадку для пропаганды. И поначалу даже переусердствовали: «В какой-то момент там не было никого, кроме ботов, которые говорили сами с собой и получали какую-то копейку за каждый пост. Все условно нормальные люди ушли, потому что там делать нечего среди бесконечного потока алармистских и триумфалистских постов».

В день написания этого текста самая свежая запись на сайте называлась по-военному просто «Начни тотальный конфликт» – хотя это всего-навсего реклама компьютерной игры: на анимированной заставке российский танк-амфибия преодолевает пески пустыни и рассекает волны моря. Следующий пост, под заголовком «СССР 1985 год» – про славное советское прошлое: идиллические цветные летние фото трамваев и майских флагов с солнечных улиц без рекламы. Ниже – опять война: «Вежливые люди в Сирии, часть 2» и «Таран: последний довод или смелый маневр».

* * *

Когда телевизионщики выхватывают из потока только те новости, которые решают их задачи, или когда захватывают крупный развлекательный сайт – все понятно. Может быть, если вы не смотрите телевизор и не заглядываете на «ЯПлакалъ», все это не про вас?

Другими словами: можно ли спать спокойно, пока пропагандисты не выкупили 100 % акций компании Facebook? В конце концов, интернет большой, и у фальшивых новостей тысячи источников, которые распространяют их не сговариваясь. Допустим, неправда действительно проникает к вам в ленту – и, допустим, вы не всегда ее распознаете. (Опрос, который устроил британский телеканал Channel 4, показал{21}: только 4 % британцев безошибочно отличают фальшивые новости от настоящих. Остальные 96 % где-нибудь да ошибаются.) Но если вас со всех сторон бомбардируют маленькими порциями информации за и против, то можно рассчитывать, что суммарное воздействие на вашу картину мира будет нулевым.

Или все-таки мы беззащитны перед пропагандой и в соцсетях, где вроде бы сами выбираем, что читать, а что нет? Об этом – глава 2.

Краткое содержание главы 1

1. Хотя плохая журналистика существует давно, фальшивые новости – свежее изобретение.

Реальной силой их сделали соцсети.

2. Вероятность репоста у неправды на 70 % выше, и она распространяется в шесть раз быстрее правды.

3. Кто главные распространители? Не «тысячники» и «десятитысячники», а непопулярные пользователи.

Потому что им это нужнее.

4. Сочинять фейковые новости прежде всего выгодно – причем деньги платят не политтехнологи. Это просто самый дешевый контент и источник кликов для сайта-однодневки, где крутят коммерческую рекламу.

5. Крупные СМИ редко производят фальшивые новости сами, но часто встраивают их в цепочку по многоэтапному отмыву информации.

6. 96 % участников опроса, который устраивал крупный британский телеканал Channel 4, не справились с задачей отличить фейковую новость от настоящей.

Глава 2

Старая и новая пропаганда

Как работала пропаганда в Руанде в 1994 году и как она работает в Facebook сейчас

Учитывая, что в связи с обстоятельствами военного времени радиоприемники и передатчики могут быть использованы вражескими элементами в целях, направленных во вред Советской власти, Совет Народных Комиссаров Союза ССР постановляет: 1. Обязать всех без исключения граждан, проживающих на территории СССР и имеющих у себя радиоприемники (ламповые, детекторные и радиолы), в пятидневный срок сдать их органам Наркомата связи по месту жительства.

Постановление политбюро ЦК ВКП (б)

«О сдаче населением радиоприемных и передающих

устройств», 25 июня 1941 года

Эта форма психологического массового воздействия может быть использована, чтобы помочь людям принимать лучшие решения и жить более здоровой и счастливой жизнью.

Михаил Косински

автор алгоритмов компании Cambridge Analytica, научная статья в журнале Proceedings of the National Academy of Sciences, ноябрь 2017 года

Понятию «пропаганда» в его нынешнем значении чуть больше ста лет. Когда-то так называли работу миссионеров по обращению неверующих, а потом случилась Первая мировая война. «До 1914-го слово “пропаганда” встречалось исключительно в лексиконе людей образованных и обладало достойным, почтенным смыслом. ‹…› Два года спустя оно появилось в словаре крестьян и копателей ям и начало отдавать зловонием», – объяснял американский писатель Уилл Ирвин{22}. Именно во время Первой мировой типографии воюющих сторон начали одновременно печатать стотысячными тиражами плакаты для своих, изображающие врага карикатурным злом, которое надо стереть с лица земли, и листовки для вражеских солдат, призывающие бросить оружие и идти брататься.

Может ли пропаганда на самом деле заставить вас что-нибудь сделать? С одной стороны у человека есть жизненный опыт, привычки и представления о добре и зле, которые он разделяет со своим окружением, с другой стороны голос по ТВ или радио произносит какие-то слова. Достаточно ли этого, чтобы вы, например, встали с дивана и пошли кого-нибудь убивать?

Несколько лет назад доцент-экономист из Гарварда по имени Дэвид Янагизава-Дротт решил разобраться с этим вопросом – и не качественно, а количественно – на примере геноцида 1994 года в Руанде{23}. Дротт вспомнил школьную физику и придумал простой способ сосчитать убитых пропагандой.

За участие в геноциде международный трибунал осудил на долгие тюремные сроки ведущих пропагандистской радиостанции RTLM («Радио тысячи холмов»). Их виновность вроде бы была доказана. Да, разжигали ненависть. Да, призывали «раздавить тараканов». И действительно, за три месяца, с апреля по июль, активисты-хуту мачете и голыми руками убили 500 тысяч тутси (или миллион, о цифрах спорят). Открытым остается другой вопрос: так ли уж сильно радио повлияло на развитие событий? (Про ТВ и газеты речи нет: в стране, где большинство не умеет читать и не имеет денег на телевизор, радио вне конкуренции.)

И тут, как иногда бывает в науках об обществе, на помощь приходит физика. А конкретней – законы распространения радиоволн.

У RTLM – одной из двух станций, которые в России назвали бы федеральными, – в распоряжении было всего два передатчика: один, 100-ваттный, в столице Кигали, другой, 1000-ваттный, на высоком горном пике Муэ. «Тысяча холмов» в названии станции – это потому, что Руанда и в самом деле гористая. Горы перекрывают путь радиосигналам, поэтому в некоторых деревнях приема нет, а в некоторых покрытие частичное. Янагизава-Дротт раздобыл спутниковую карту рельефа и с легкостью рассчитал уровень сигнала в каждой обитаемой точке.

У ученого был еще один набор данных: сколько человек в какой деревне осуждены за участие в геноциде. И в зоне уверенного приема RTLM таких обнаружилось на 62–69 % больше, чем там, куда сигнал не добивал вовсе.

Уже это наблюдение ломает удобную теорию, что призывы убивать в эфире – не причина, а следствие настроений широких масс. Если большинство желает крови, найдутся СМИ, которые озвучат и эту точку зрения. Логично? Со статистикой в руках – уже не очень: где утром пропаганда, там вечером кровь, а не наоборот.

Насилие имеет разные формы. Одни убийцы – любители-одиночки (443 тысячи осужденных); им радио намекало, что за дележ имущества убитых соседей-тутси ничего не будет. Другие – так называемая милиция (77 тысяч осужденных): в переводе на русский это не люди с погонами и в фуражке, а, скорее, нечто вроде казачьих дружин, организованные добровольцы. Кумулятивный эффект, обнаруженный Янагизава-Дроттом, касался как раз вербовки таких отрядов. Лучше всего она шла, если не только сама деревня, где вербуют, но и соседние с ней попадали в зону уверенного приема RTLM. То есть головорезами в отряды милиции шли, получается, не только законченные маньяки, но и обычные люди, которым хватило бы неодобрения далеких соседей, чтобы передумать.

Для индивидуального насилия такой закономерности не обнаруживалось: если ты идешь убивать один, то, вероятно, и так отдаешь себе отчет, что это просто убийство, а не священная война. Зато когда все вокруг уверены, что ваше дело правое, примкнуть к организованным силам добра просто как никогда.

В конце статьи мало морализаторских выводов, зато много таблиц и графиков. Один, например, хорошо объясняет, зачем властям зачищать информационное пространство (ну, например, в России додавливать соцсети и блоги), если они и так доминируют в эфире. Когда доля радиослушателей в деревне переваливала за пороговую цифру в 60–80 %, уровень «насилия милиции» вырастал скачком. Последние сомневающиеся – серьезное препятствие на пути у пропаганды, и это меньшинство нельзя недооценивать.

Геноцид в Руанде – совсем недавнее прошлое: в России в 1994-м появляется сайт Lib.Ru, устанавливают первые банкоматы, крутят рекламу МММ с Леней Голубковым, первая чеченская война вот-вот начнется. Тот же список примет времени объясняет, почему новости о резне где-то в Африке стали главным сюжетом года в американских и европейских СМИ, но не у нас.

Государственные СМИ способствуют войне? Государственные СМИ нагнетают ненависть? Дэвид Янагизава-Дротт переводит эти интеллигентские суждения в плоскость цифр. Он дает свою оценку снизу для числа смертей, которые целиком и полностью на совести «Радио тысячи холмов». Получается 51 000 человек, которые были бы живы, если бы в двух точках страны сломалась пара передатчиков – один на 100, другой на 1000 ватт.

* * *

Первая ассоциация со словом «пропаганда» – рупор. Большая железная штука на столбе, из какой в июне 1941-го объявили про нападение Германии. Само собой разумеется, что у голоса в рупоре не может быть конкурентов: не случайно через три дня после начала войны советским гражданам приказали сдать радиоприемники, чтобы они не узнавали о положении дел на фронте из новостей зарубежных радиостанций. Классическая пропаганда хорошо работает тогда, когда альтернативные источники информации недоступны.

Как тогда пропаганда возможна в современном мире, где у каждого в кармане смартфон, в смартфоне интернет, а в интернете миллион мнений?

Если пропаганда будет адресной, точечной и обращаться к каждому лично, все остальные мнения не смогут с ней конкурировать. Эту идею стали обозначать словом «микротаргетинг».

Как только в ноябре 2016-го стали известны результаты выборов в США (а Дональд Трамп победил вопреки всем прогнозам, и журналам пришлось срочно переверстывать заранее заготовленные обложки с Хиллари Клинтон), британская консалтинговая компания Cambridge Analytica взяла ответственность за эту неожиданность на себя.

В пресс-релизе{24} компания объясняла успех Трампа, чью предвыборную кампанию в интернете она спланировала, своим «революционным подходом к коммуникации на основе данных».

Услугами той же компании пользовались лидеры движения Брекзит за выход Великобритании из Евросоюза – и тоже неожиданно для всех победили на референдуме.

Примеры микротаргетинга на выборах в США приводит швейцарский журнал Das Magazin в своем расследовании{25}, опубликованном через месяц после выборов (это самая обсуждаемая из всех статей, написанных в 2016 году на немецком языке). Людям с высокой тревожностью надо показывать баннеры с рукой грабителя, разбивающей стекла в доме, и сообщать: кандидат Трамп будет отстаивать ваше право на оружие, каждый должен иметь право защитить себя. А есть люди, которых от одной мысли об оружии тошнит, зато их трогает несправедливость и интересует благотворительность. Такие увидят расследование про провал фонда Хиллари Клинтон во время катастрофы на Гаити. Здесь в 2010-м случились землетрясение и эпидемия холеры, имя Клинтон помогло собрать больше 10 млрд долларов – и большая часть этой суммы ушла на бесполезные для пострадавших цели.

Каждое такое сообщение на билбордах, видимых всем, вызвало бы волну обсуждения и, вероятно, критики. Но в расследовании говорится, что это была «теневая» политическая реклама в Facebook – ее видели только те, кому она идеально подходит.

Спрашивается, откуда Cambridge Analytica узнала, что кому подойдет? Она опиралась на известную модель психотипов, придуманную еще в 1960-е. С подачи Ганса Айзенка, автора знаменитого теста на интеллект, у психологов-практиков прижилась пятифакторная модель личности: набор из пяти качеств, относительно независимых друг от друга, к которым можно свести все остальные, от импульсивности до интереса к проблеме НЛО и домовых. «Большая пятерка» – это открытость новому, добросовестность, экстраверсия, доброжелательность и невротизм. Каждое из пяти можно оценить по шкале от 0 до 1. Модель старая, на нее ссылаются в десятках тысяч психологических статей.

Нового в схеме Cambridge Analytica было вот что. Специалист по большим данным из Стэнфорда Михал Косински придумал, как вывести эти оценки из поведения человека в Facebook. А Cambridge Analytica изобрела удобный способ собрать данные об этом поведении.

Когда в 2018-м выяснились подробности о том, как именно данные 50 млн пользователей достались политтехнологам, хештег #DeleteFacebook («удалить Facebook») вышел в топ Twitter, компания Facebook подешевела на 35 млрд долларов, а Марк Цукерберг выкупил по одной рекламной полосе в шести крупных английских газетах, чтобы напечатать там свои извинения перед пользователями.

Это не были личные секреты, переписка в мессенджере и записи, спрятанные ото всех. И пользователи выдали эти данные сами – хотя, правда, и не догадывались, что с данными случится дальше.

* * *

В самой известной из своих научных статей Косински утверждает{26}: активность в Facebook позволяет с хорошей точностью предсказать сексуальную ориентацию и национальность. Пол и возраст. Вероисповедание и политические взгляды. Употребляете ли вы наркотики. И даже развелись ли ваши родители до того, как вы достигли совершеннолетия.

Главным сюрпризом стало то, что такие выводы можно делать массово и в автоматическом режиме: методику проверили на выборке из 58 000 человек. Программу вообще не интересует содержание записей – ей достаточно списка страниц, которые человек лайкнул. Причем прямолинейные связи («если человек состоит в сообществе ЛГБТ-активистов – возможно, он гей») на удивление дают не так много информации, как неочевидные: скажем, лайк сатирическому телешоу Colbert Report – индикатор высокого IQ, а лайк мотоциклам Harley-Davidson – наоборот.

Мы и сами можем составить первое впечатление о ком-либо, пробежав глазами десяток его записей на странице в Facebook. Если не возраст, когда развелись родители, то, по крайней мере, пол, возраст и политические взгляды несложно выяснить таким образом за считаные минуты. Кто знаком с человеком дольше – обладает и вовсе громадным преимуществом перед роботом, анализирующим лайки, в вопросе про его отношение к наркотикам, вероисповедание или сексуальную ориентацию. Круг общения выбирают по интересам, и все склонны про свои интересы рассказывать друзьям. Мусульмане дружат с мусульманами, монархисты с монархистами, геи с геями.

Но помимо этих протокольных социальных характеристик (христианин, гетеросексуал, сын разведенных родителей) есть и другие, которые, скорее, описывают «внутренний мир» в чистом виде и предсказывают поведение человека в разных возможных нештатных ситуациях.

А в случае «внутреннего мира» даже самая крепкая дружба не гарантирует от ошибок.

* * *

Онлайн-анкету из 100 пунктов, позволяющую оценить качества личности, по просьбе авторов{27} заполнили 86 220 добровольцев. Для 70 520 из них авторы при помощи своей программы, анализирующей лайки, построили «психологические портреты» – то есть, строго говоря, получили набор из тех же пяти цифр, описывающих черты от экстраверсии до невротизма. Что, скажем, особенно часто лайкают люди, в высокой степени открытые новому? Лекции TED, а также страницы про Сальвадора Дали и медитацию.

Кроме того, самым близким из фейсбучных друзей добровольцев разослали другую анкету. Ученые предлагали ответить «да» или «нет» всего на 10 вопросов. У него частые перемены настроения? Он душа компании? Он любит порядок? Некоторых оценивал один друг, а некоторых – двое. После автоматической обработки ответов исследователи снова получали характеристики человека в терминах «большой пятерки».

Качество оценок сильно зависело от типа отношений, которые стоят за дружбой в Facebook: супруги в среднем справляются с задачей лучше соседей по совместно снятой квартире, а те, в свою очередь, представляют себе человека куда более точно, чем его коллеги по работе.

Компьютер, анализирующий поведение в Facebook, оставил людей с их оценками далеко позади (и единственные, кому он уступил в точности хотя бы на пару пунктов, – это мужья и жены). Приятели, коллеги и даже семья на основании всего своего жизненного опыта описывали знакомых и родственников хуже, чем программа, для которой человек – это просто набор лайков.

* * *

Скандал с Facebook в 2018 году случился вовсе не потому, что кто-то научил искусственный интеллект помогать в деле политической рекламы. Сотрудник Cambridge Analytica рассказал журналистам об одной из особенностей «онлайн-анкеты», которую пользователи заполняли добровольно по заказу ученых. Перед тестом, выявляющим качества из «большой пятерки» (за прохождение которого добровольцы совершенно легально получали по 2–5 долларов), им нужно было пройти через одну формальность – щелкнуть по кнопке «Я согласен» под пользовательским соглашением, которое разрешает программе сбор данных.

Такого разрешения просит почти каждый тест «Какой ты покемон» или «Узнай, как ты записан в телефонах друзей» (и, в общем, не случайно). Другое дело, что в 2014 году политика Facebook разрешала приложению собирать после такого согласия еще и данные всех друзей человека – которые согласия, разумеется, не давали. 270 тысяч заполненных анкет открыли компании доступ к 87 млн профилей в Facebook. Большая их часть – совершеннолетние жители США и Британии, имеющие право голосовать.

И именно с таким развернутым досье на миллионы избирателей – а вовсе не со скромной математической моделью – компания предлагала свои услуги политикам.

* * *

Пропагандистам не обязательно распространять фальшивые новости – достаточно знать, что вы по ним кликаете. Они помогают оценить, что у вас с невротизмом и доверием, легко ли вас убедить и напугать. А потом можно подобрать самую обычную, неконспирологическую, новость или политический слоган, которые вызовут нужную реакцию.

Для человека, который верит в мировой еврейский заговор (подробнее про теории заговора в главах 7–8), рядовая новость о том, что некто по фамилии Ротшильд покупает какие-нибудь акции, звучит как сигнал о близком конце света. Даже если этот некто, в отличие от своих знаменитых дедушек и прадедушек – миллиардеров, не входит в список Forbes, и состояние у него в десятки раз меньше, чем у Билла Гейтса или Цукерберга{28}. И даже если само сообщение о какой-нибудь рядовой сделке украинского банка и компании, акциями которой в числе прочих владеет Ротшильд, и будет фактически достоверным, его можно опубликовать, например, под заголовком «Как дефолт сделает Украину фермой для Ротшильдов» (так поступили, например, «РИА Новости» в 2015 году, в разгар конфликта с Украиной). Фальшивая ли это новость? Нет. Пропаганда? Вероятно, да.

Колумбийская школа журналистики выпустила расследование{29}, где утверждает: в США вокруг фальшивых новостей выросла своя, замкнутая, экосистема для консерваторов, куда входят и сайты-однодневки, и солидные консервативные СМИ. Ее конечный продукт – цельная картина мира, где «обычные» СМИ лгут, настоящая политика делается за закрытыми дверьми, а публичная просто декорация; фармкомпании и ученые со своими прививками в заговоре против наших детей, а верить нельзя никому. И работает это как безотказная пропагандистская машина – в пользу старых традиционных ценностей, цензуры, войны и изоляции от чужаков.

Центром этой экосистемы называют сайт американских крайне правых Breitbart.com, исполнительного директора которого, Стивена Бэннона, Трамп на семь месяцев назначил главным стратегом Белого дома. Может ли быть так, что за всей пропагандой стоит один человек? И если нет, то кто этой машиной рулит – может быть, зарубежные агенты? Например, российские спецслужбы и «фабрики троллей», которые прямо обвиняли во вмешательстве в американские выборы? Расследование показало, что российское Агентство интернет-исследований действительно распространяло фальшивые новости и оплачивало протрамповскую политическую рекламу в Facebook перед выборами в США. Соцсеть даже удалила 270 пользователей и страниц, связанных с этим агентством, но их общее число подписчиков едва переваливало за 1 млн, то есть охват был довольно скромным и сам по себе объяснить победу Трампа никак не может.

«Мы предлагаем менее экзотическое объяснение», – пишут авторы исследования, которые проанализировали 1,25 млн новостных сюжетов, опубликованных за два года перед выборами. Двигатель пропагандистской машины – механизмы распространения информации в соцсетях. «Соцсети стали главной опорой для сети правых медиа, и те смогли транслировать сверхфанатичную картину мира». Интернет должен был сделать достоверное знание доступными всем – но парадоксальным образом создал непробиваемые стены между людьми.

И виноват в этом не конкретный злодей, а прежде всего то, как мы мыслим – и поодиночке, и группами. Об этом глава 3.

Краткое содержание главы 2

1. Во время геноцида в Руанде в 1994 году жертв было значительно больше в тех местах, куда добивал сигнал пропагандистского радио. Как минимум 51 тысяча убитых – прямые жертвы пропаганды.

2. У старой пропаганды не было конкурентов.

Во Вторую мировую войну у советских граждан изымали радиоприемники, чтобы они не могли узнавать про реальное положение дел на фронте из зарубежных радиопередач.

3. Новая пропаганда существует на фоне миллиона мнений в интернете. Как это возможно? Один из способов – сделать ее адресной и точечной, чтобы она работала со страхами и надеждами отдельных людей.

4. Ученый из Стэнфорда придумал способ предсказывать индивидуальные особенности человека – сексуальную ориентацию, цвет кожи и даже развелись ли его родители, когда тот был ребенком, – по лайкам в соцсетях.

5. Политтехнологи утверждают, что это открытие помогло Трампу выиграть выборы президента США, а британским консерваторам – референдум по Брекзиту.

6. Возможным это сделал тайный сбор профилей 50 млн пользователей Facebook под видом теста.

Его уже объявили самой большой в истории соцсети кражей данных.

7. Чтобы повлиять на выбор пользователей, нет необходимости показывать им фальшивые новости.

Достаточно знать, кто из них такие новости лайкает, – и делать выводы о том, чего они больше всего боятся.

Часть II

Гены, мозг и кожа: что делает нас внушаемыми

Глава 3

Цензура мозга

Когда новости настоящие, но нам очень не нравятся

Ярость и негодование охватили меня при чтении этих строк, и слезы затуманили мне глаза.

Аркадий Гайдар

Судьба барабанщика

12-метровый памятник Саддаму Хуссейну, иракскому диктатору, обмотали стальным тросом и, привязав трос к танку, сдернули с постамента в центре Багдада 9 апреля 2003 года – в день, когда в город вошли морпехи США. Через два года двое американских психологов, Найан и Рейфлер, набирали подопытных для своего исследования про новости, и каждый шестой из этих подопытных называл войну в Ираке «самой важной темой американской политики».

Идея была такова: проверить, как новости помогают бороться с заблуждениями по важным для общества вопросам. Таким как война. Психологи взяли несколько сюжетов – чтобы тема была на слуху и вызывала споры: снижение налога для богатых, запрет на эксперименты с человеческими стволовыми клетками и, наконец, Ирак. Поводом для вторжения в Ирак президент США Буш-младший когда-то объявил то, что у Саддама якобы есть химическое и биологическое оружие и что он помогает террористам «Аль-Каиды»; через год официальное расследование{30} (его авторов сам Буш в Ирак и направил) показало – и то и другое неправда. Как реагирует человек на газетную статью, которая ему об этом сообщает, если до этого он был убежденным сторонником войны и президента Буша?

Подопытных делили на две группы и выдавали разные версии одной газетной статьи: первый вариант рассказывал про какую-то рабочую поездку президента и приводил эмоциональный кусок из его речи, где тот рассуждал про оружие Саддама и «мир после 11 сентября». Во втором после слов президента пересказывалось содержание свежего доклада экспертов – что те ездили в Ирак, искали как могли, но никаких тайных лабораторий, подвалов с баллонами нервно-паралитических газов и даже намеков на их существование не нашли.

В конце психологи просили заполнить анкету – оценить по пятибалльной шкале (от «полностью не согласен» до «полностью согласен») утверждение, что запрещенное оружие в Ираке было.

У разоблаченной ошибочной идеи должно было поубавиться сторонников – но ничего такого экспериментаторы не увидели: результаты у двух групп почти не отличались. Больше того: на консерваторов разоблачение повлияло прямо противоположным образом. У тех, кто его читал, степень убежденности в правоте Буша только выросла.

Авторы называют это «эффектом встречного огня» (backfire effect): попытки переубедить только укрепляют в собственном мнении тех, кто ошибается. И вот почему: в сознании у читателя сталкиваются не один абзац новостной заметки с другим, равным ему по значимости, а сумма политических убеждений, накопленная за годы жизни, и какой-то конкретный факт, который разом ставит их под вопрос. Если оружия не было, то, может, и войну против диктатора не стоило затевать? И солдаты зря возвращались из-за океана инвалидами без ног или половины лица? И сильная армия государству не нужна?{31}

Что происходит в мозгу у человека, когда его пытаются переубедить фактами? Через десять лет после эксперимента Найана, в 2015-м, команда нейрофизиологов из Лос-Анджелеса стала укладывать добровольцев в томограф и там испытывать их политические убеждения на прочность{32}. Если Найана и Рейфлера интересовали в первую очередь консерваторы, «партия войны», то здесь специально отбирали по противоположному критерию – только тех, кто в анкете признался, что он ярко выраженный либерал (и что политика много значит в его жизни).

40 испытуемым, прошедшим отбор, на специальном экране внутри томографа показывали фразу, с которой либерал скорее согласится: например, «США стоит уменьшить свои расходы на военных». Следующие несколько минут прокручивали возражения: «У России вдвое больше ядерных боеголовок, чем у США» (это неправда, но психологи преувеличивали и искажали факты намеренно, чтобы эффект был сильней). На каждый тезис приходилось целых пять возражений, и для разнообразия политические тезисы были перемешаны с неполитическими («Кошки как домашние животные лучше собак») – и реакция, как и ожидалось, для политического и неполитического была разной.

Мозг тех, чье мнение не изменилось ни на йоту (по данным анкеты, заполненной потом), реагировал на политические «сухие факты» всплеском активности амигдалы, центра эмоций вроде страха или гнева. Факты воспринимались как угроза личности – и мозг эту атаку отражал как мог.

Еще на томограммах можно было увидеть, как неприятные «сухие факты» приводят в действие сеть пассивного режима работы мозга (DMN, default mode network) – ту, про которую любят писать в исследованиях медитации. Она отвечает за «отвлеченность от внешнего мира», «уход в себя» – что, наверное, тоже можно истолковать как форму защиты.

И система защиты картины мира от опасных для нее фактов со своей задачей успешно справилась. Спустя два месяца надо было снова заполнить анкету: сильно ли поменялись политические убеждения после всех контраргументов. Оказалось, что почти никак: например, степень уверенности в вопросе, что аборты должны быть разрешены, упала в среднем всего на 0,07 пункта – по пятибалльной шкале.

* * *

Для исследования про Буша, Саддама и новостей заголовок позаимствовали – с точностью до одного исправленного слова – у научного бестселлера 1950-х. Тогда социальный психолог Леон Фестингер (это он придумал термин «когнитивный диссонанс») вместе с двумя коллегами внедрился в секту, которая ждала скорого прибытия инопланетян и даже назначила точную дату конца света: 21 декабря 1954 года. Об этом своем эксперименте Фестингер написал книгу «Когда пророчество не сбывается»{33}: ему было интересно пронаблюдать, как будет вести себя секта, когда 21 декабря наступит, а летающие тарелки с планеты Кларион так и не появятся в небе над Чикаго. Члены секты к тому моменту уже поувольнялись с работы (у многих она до последнего момента была) и успели избавиться от всех металлических предметов в одежде и на теле, от пуговиц до сережек, потому что иначе пришельцы не пустили бы их на борт НЛО.

Когда запланированное время прибытия осталось позади, первым импульсом было искать виновных – например, чужаков в группе и вокруг места приземления, которые могли отпугнуть пришельцев. Но потом лидер секты, 54-летняя домохозяйка Дороти Мартин, получила – в режиме автоматического письма, когда внешняя сила, по ее словам, водила ее рукой – новое откровение: секта уже совершила духовный подвиг, готовясь к концу света, поэтому сам конец света откладывается, и человечество спасено. До конца жизни Дороти продолжала поддерживать контакт с внеземными сущностями и собирать вокруг себя новых сторонников.

Чтобы противостоять фактам, необязательно получать уточняющие откровения от инопланетян. Психологи знают целый набор стратегий, которыми пользуются взрослые дееспособные люди, хорошо вписанные в общество: можно усомниться в источнике («откуда журналисты это взяли», «да кто они такие, эти эксперты»), начать придумывать возражения или просто выборочно игнорировать новую информацию.

В старых работах по психологии любят писать про такое когнитивное искажение, как «ошибка подтверждения» (confirmation bias)[4]: если у нас уже сформировалось какое-то представление, дальше мы воспринимаем аргументы только в его пользу. Журнал New Yorker в своей статье про фальшивые новости{34} вспоминает про показательное исследование 1975 года. Добровольцам давали почитать предсмертные записки – реальные и вымышленные – и просили найти среди них тексты настоящих самоубийц. В одной группе добровольцев было почти сто из ста верных угадываний, в другой – почти одни промахи. В чем разница между группами? Ни в чем: исследователи солгали про результаты и тем и другим. Но когда обман был раскрыт – исследователи признались, что похвалы и порицания раздавали наугад – подопытных попросили самих оценить, как они справились. И теперь у тех, кому когда-то сказали про хороший результат, оценка вышла завышенной, а у второй группы – заниженной по сравнению с реальной. Сложно избавиться от идеи, которая уже прижилась в голове, даже если она позже оказалась неправдой.

Мозг умеет обманывать себя довольно изощренными способами, чтобы политическая реальность, какой мы ее видим, лучше соответствовала нашей картине мира. Как насчет ложных воспоминаний? В 2010 году новостной портал Slate.com устроил сбор свидетельств очевидцев – что вы думали и чувствовали в день таких-то исторических событий? Где вас застала новость про теракт 11 сентября? А где вы были в момент знаменитого рукопожатия президента США Обамы и президента Ирана? Все читатели видели пять таких вопросов, каждый из которых сопровождался картинкой из новостей. Вот только в одном случае из пяти картинка была сфабрикованной, а событие – выдуманным (как, например, в случае с рукопожатием Обамы): психологи из Калифорнийского университета в Ирвайне и Нью-Йоркского университета уговорили редакцию Slate поставить эксперимент над своими читателями. В нем приняло участие 5269 человек, и 27 % из них без колебаний заявили: они отлично помнят, как про исторический эпизод – тот самый, несуществующий – рассказывали по телевизору или писали газеты{35}.

Люди часто стесняются признаться (тем более ученым или уважаемому СМИ), что они не помнят чего-нибудь такого, о чем знают все – и, теоретически, могли бы из этих соображений соврать. Но, вероятно, это был не тот случай. В 2013-м нейрофизиологи в процессе похожих манипуляций снимали запись электрической активности мозга. Они убедились, что подопытные действительно заняты припоминанием, а не придумыванием на лету, – эти процессы на энцефалограмме выглядят слишком по-разному.

Другое дело, что сами воспоминания появились у них в голове только что, в ходе эксперимента. Долговременная память поддается лепке как пластилин. Еще в 1970-е профессор Вашингтонского университета Элизабет Лофтус задалась вопросом, так ли правдивы подавленные воспоминания – скажем, о пережитом в детстве насилии, – которые психоаналитикам удается добыть из пациента путем долгой терапевтической работы. Преодолевая внутреннее сопротивление, люди описывают травматичные для них события 20- или 30-летней давности, о которых они предпочитали все это время не думать, и описывают в подробностях. Есть ли здесь место для вымысла?

Один из студентов Лофтус по имени Джим Коэн, вдохновившись ее лекциями, решил сделать участниками эксперимента свою семью – отца, мать и брата. Под предлогом, что это ему нужно по учебе, он попросил их повспоминать вместе с ним разные эпизоды из детства. Свои собственные воспоминания он для удобства собрал в четырех небольших брошюрах – по одной на эпизод. Среди прочего Джим описывал, как его брат потерялся в 5-летнем возрасте в торговом центре, но нашелся добрый пожилой человек, который не поленился выслушать сбивчивые объяснения ребенка и вернул его родителям. Сам брат, теперь уже взрослый, в ходе беседы стал постепенно вспоминать одну подробность за другой. К нему присоединились родители, и им было что добавить – пока Коэн, который записывал весь семейный разговор на магнитофон, не объявил, что все это выдумка от начала и до конца. Семья отказывалась ему верить. Когда эксперимент «потерявшийся в торговом центре» повторили на выборке из нескольких десятков человек, дополнить реалистичными деталями вымышленный эпизод из собственной биографии смог примерно каждый четвертый{36}.

Именно в тот момент, когда мы обращаемся к воспоминаниям, они открыты для перезаписи. Обстоятельства, в которых мы вспоминаем – вплоть до фоновой музыки, задающей эмоциональный фон, – влияют на то, как изменится содержимое памяти. В 2014 году команда из американского Северо-Западного университета провела образцово-показательный эксперимент: в магнитно-резонансном томографе следили за поведением 168 человек в процессе спровоцированной перезаписи воспоминаний. Испытуемые играли в специально созданную компьютерную игру, где нужно было запоминать, где что лежит. Исследователи довольно технично сбивали своих подопытных с толку – и наблюдали на томограммах, как гиппокамп, наш внутренний диспетчер памяти, в режиме реального времени манипулирует прошлым. Работу опубликовал авторитетный Journal of Neuroscience{37}, а университетский пресс-релиз приводит цитату ее автора, которая в сухую научную публикацию не попала: «Наша память – не видеокамера. Память кадрирует и редактирует события, чтобы новая история укладывалась в вашу теперешнюю картину мира».

* * *

Прошлое прошлым, а как быть прямо в момент предъявления неудобного факта? Трудно просто взять и закрыть на него глаза посреди разговора. Вот вы спорите в Facebook, а оппонент раз – и предъявляет вам аргумент. За работу берется новый когнитивный механизм – «мотивированные рассуждения» (motivated reasoning), логические выкладки с заранее известным результатом. Они не выглядят, как попытка закопать голову в песок и бежать от фактов, – наоборот, мы, как рациональные люди, принимаем в расчет мнения оппонентов и взвешиваем все за и против. Что в этом плохого? Дефект самой процедуры взвешивания.

Скажем, с каким весом учитывать мнения признанных экспертов? Академик Андрей Зализняк в своей программной речи про истину и науку произнес: «В любом обсуждаемом вопросе профессионал (если он действительно профессионал, а не просто носитель казенных титулов) более прав, чем дилетант»{38}. Оказывается, оговорка в скобках – мощная лазейка, которая на практике сводит смысл всего рассуждения на нет.

Дэн Каган из Йельского университета поставил в 2010-м перед подопытными такую задачу. Представьте, что друг спрашивает у вас: видел книжку такого-то эксперта, стоит ли ему доверять? Информация к размышлению: фотография эксперта, список его регалий (член Национальной академии наук США, защитил диссертацию в одном из лучших университетов, профессор) и фрагмент его книги. Это последнее – самое интересное, потому что фрагмент (выдуманный, как и фотография с биографией) касается какого-то политически острого для США вопроса – например, он про ядерные отходы или глобальное потепление.

Отношение к глобальному потеплению в Америке еще недавно в буквальном смысле определялось партийной принадлежностью. Среди республиканцев, то есть индивидуалистов и сторонников минимального вмешательства государства в бизнес, в 2010 году было нормой считать антропогенные изменения климата выдумкой. Иначе пришлось бы признать, что государство имеет все основания регулировать выбросы, повышая налоги на бензиновые автомобили и вынуждая закрыться фабрики, которые жгут много мазута, даже если там работали ваши отец, дед и прадед.

Поэтому неудивительно, что вымышленного профессора MIT, эксперта-климатолога, который в своей вымышленной книге писал про глобальное потепление как про установленный факт, среди республиканцев признали «достойным внимания экспертом» только 23 %{39}. Среди демократов таких набралось целых 88 %. Выходит, что и ответ на вопрос, настоящий ли перед вами профессионал или «носитель казенных титулов», определяется тем, приятные вам вещи он говорит или нет.

* * *

Научные новости – особенно удобный материал для анализа, потому что научные коммуникаторы в сотнях университетов по всему миру (и особенно в США) сделали из своей работы чуть ли не отдельную дисциплину и искренне пытаются выяснить, что с их силой убеждения не так. Отрицателей науки, не верящих в полезность прививок или реальность изменений климата, принято считать людьми необразованными. А причиной антинаучных заблуждений – то, что широкую публику мало информировали; надо больше. Есть мы со своими дипломами хороших университетов, и есть они, окончившие девять классов и поэтому верящие в паранаучную чушь. У «нас» рациональное знание, а «их» нужно жалеть и просвещать.

Профессор Гарварда Стивен Пинкер, лингвист и когнитивист, эмоционально рассказывает автору по телефону про свежее наблюдение социологов, удивившее его больше других научных открытий: «Люди думают про свою принадлежность к левому или правому крылу так, как про принадлежность к тому или другому племени. Мнения даже по научным вопросам определяются вовсе не тем, как много вы знаете или понимаете. А тем, согласуются ли они с идеологией правого или левого крыла. Многие ученые не могут поверить, что столько людей отрицает реальность изменений климата, и говорят, что наша образовательная система никуда не годится. Но оказывается, что отрицатели глобального потепления знакомы с наукой не хуже тех, кто в глобальное потепление верит. Разница между первыми и вторыми только в том, что одни левые, а другие правые».

В ноябре 2017 года в New York Times вышла статья «Чем больше республиканец образован, тем меньше он верит в изменения климата»{40}. Кто учился дольше – тот, казалось бы, должен больше доверять науке. Но в реальности все наоборот: среди республиканцев со школьным аттестатом 23 % считают глобальное потепление реальным, а среди выпускников университета – только 8 %. Для сравнения: уровень консенсуса среди ученых-климатологов по этому вопросу – 97 %, и с 2013 года, когда его замеряли, он мог только вырасти.

Почему так? Кто лучше образован – тому проще публично сомневаться. «Альтернативные факты» и неподтвержденные научные теории требуют от своей аудитории некоторой базовой эрудиции. Чтобы рассуждать за коктейлем, критикуя официальную науку, про якобы вредные соединения ртути в вакцинах или про то, что реальная причина глобального потепления не углекислый газ из заводских труб, а солнечные циклы, нужно как минимум иметь представление про соединения ртути и солнечные циклы.

* * *

Политические взгляды – мощный, но не единственный фактор, который может заставить нас видеть факты предвзято. Есть и более универсальные вещи. К примеру, то, что люди по природе оптимисты и предпочитают верить в лучшее.

Два брака из пяти в западном мире заканчиваются разводом, но, если спросить новобрачных, каковы их шансы на неудачу, практически все скажут, что ничтожны. Эту ошибку совершают даже профессиональные юристы по бракоразводным процессам, когда говорят о своей семье. Нейробиолог Тали Шэрот из Лондонского университетского колледжа любит начинать с этой истории свои лекции про оптимистическую предвзятость – тему, которой она занимается больше десяти лет.

Все это время Шэрот доказывает: оптимизм – ошибка мозга, когнитивная иллюзия, по своей природе похожая на оптический обман (мы понимаем, что глаза нас обманывают, но не можем ничего поделать). То же самое и с нашими прогнозами на будущее, а особенно – с оценкой собственных способностей.

Склонность полагаться на будущее поднимает настроение, но мешает принимать решения. Оптимисты недооценивают свои шансы заболеть раком (и не показываются у врача, пока опухоль операбельна), потерять работу (и не делают сбережений), попасть в аварию (и не покупают страховку). Зато карьерные перспективы видятся им достаточно радужными, чтобы залезть в долги на годы, а в заведомо убыточный проект вкладывать силы и средства до самого конца. Эффект «Конкорда» (когда безнадежное дело выгоднее бросить на полпути и признать ошибку, но его все равно доводят до конца) – еще один распространенный пример оптимистической предвзятости.

Мало того что оптимизм искажает картину мира, он еще и мешает учиться на собственных ошибках. В 2011 году журнал Nature Neuroscience напечатал статью группы Шэрот под заголовком «Как удается поддерживать нереалистичный оптимизм перед лицом реальности»{41}. Сначала добровольцы заполняли анкету из 80 пунктов. Каждый испытуемый должен был оценить для себя риск стать жертвой той или иной неприятности: опоздания на рейс в аэропорту, мошенничества с кредитной картой, перелома костей, грабежа, развода, хронической бессонницы, алкоголизма, увольнения, смерти в возрасте до семидесяти лет, аппендицита. Потом человека укладывали в магнитно-резонансный томограф и сообщали ему, что же в действительности говорит про все эти риски статистика.

В мозгу есть области, ответственные за «работу над ошибками»: это передняя поясная кора и примыкающие к ней участки предлобной. Если вы, например, забыли, какой высоты Эверест, и решили заглянуть в «Википедию», они включатся в работу по переписыванию данных у вас в памяти. В случае с рисками оказалось, что эти зоны активируются в разной степени – в зависимости от того, хорошие или плохие новости сообщает статистика. Все, что подрывает оптимистическую установку, мозг предпочитает не запоминать.

Некоторые люди отличаются способностью давать на удивление трезвые прогнозы. Психологи обнаружили это в конце 1970-х, и новые эксперименты с применением МРТ лишний раз это подтверждают. Такие люди особенно выделяются на фоне прочих, когда исследователи просят их оценить собственные успехи. Если их спрашивают, хорошо ли они справились с экспериментальным заданием, они выставляют себе примерно тот же балл, что и проверяющие.

Общий для этих людей симптом у медиков называется «депрессивный реализм». Это побочный эффект клинической депрессии, уже наступившей или подступающей. Если оптимизм – вредная иллюзия, то его противоположность – разрушительная болезнь.

Поэтому хорошая новость такова: если вы видите мир в розовом свете, то «депрессивный реализм» обошел вас стороной. Другое дело, что если новости, одна за другой, обещают вам перемены к лучшему, а это лучшее все не наступает и не наступает, рано или поздно придется разочароваться.

Краткое содержание главы 3

1. Неприятные факты приводят в действие сеть пассивного режима работы мозга (DMN). Она отвечает за «отвлеченность от внешнего мира» и «уход в себя».

2. Психологи наблюдали за сектантами, которые ждали инопланетян и конца света. Когда апокалипсис не случился в назначенный день, сектанты убедили себя, что предотвратили его своими молитвами.

3. Эксперимент «потерявшиеся в торговом центре» показал: ложное воспоминание – например, о том, как в детстве родители потеряли вас в торговом центре и нашли, – легко внушить.

4. Мозг часто работает в режиме «мотивированного рассуждения»: вам кажется, что вы пользуетесь чистой логикой, но на самом деле подгоняете цепочку своих тезисов под заранее известный результат.

5. Если вы взяли за правило верить специалистам, но специалисты говорят что-то неприятное, вы легко докажете себе, что они просто некомпетентны.

6. Доверие к науке зависит от образования парадоксальным образом. Консерваторы с университетским дипломом чаще необразованных считают выдумкой глобальное потепление, в котором сами ученые давно перестали сомневаться.

7. Оптимизм искажает картину мира, а точнее всех оценивают свое будущее люди в состоянии «депрессивного реализма». Это побочный эффект болезни.

Глава 4

Политика в крови у новорожденного

Почему мы предвзяты от рождения

Вас помещают в магнитно-резонансный томограф. Прокручивают перед глазами серию фотографий, абсолютно бессюжетную и без намеков на политику. Через десять минут ученые в соседней комнате уже в состоянии угадать с большой вероятностью, что вам ближе – «крымнаш» или Майдан. Как вы относитесь к геям, абортам и мигрантам.

Точнее, либерал вы или консерватор.

Этот фокус срабатывает, разумеется, не со всякими фотографиями. У тех, которые используются во время процедуры, есть особенность: они очень неприятные. И неприятные в неожиданной степени. Все они берутся из закрытой базы данных IAPS (Международная система аффективных изображений). Самые невинные примеры – язва между средним и указательным пальцами, собачьи фекалии на свежей траве, мухи на обгрызенной кукурузе.

Психологи берегут IAPS от попадания в руки непрофессионалов не менее тщательно, чем когда-то набор пятен Роршаха: все, что подопытный увидит на этих картинках в процессе лабораторных тестов, должно стать для него полной неожиданностью. Поэтому даже академические издательства входят в положение и позволяют ученым не выкладывать «аффективные изображения» в разделе про материалы и методы исследования.

Вообще-то в науке так не принято. Учите шимпанзе разбирать буквы – будьте добры предъявить все карточки, которые показывали обезьяне. Описали новую оптическую иллюзию – давайте видео. Но в случае IAPS важнее, чтобы не случилось утечки. Как у вирусологов, которые работают с опасными патогенами.

Отчет об эксперименте напечатал в октябре 2014 года журнал Current Biology. Девять из одиннадцати авторов – медики, биологи и эксперты по обработке томограмм. Имя Джона Хиббинга, профессора политологии из Университета Линкольна, штат Небраска, скромно значится в середине списка. Но именно ему принадлежит научная формулировка идеи, что наша политическая ориентация запрограммирована в мозгу не менее жестко, чем склонность писать правой или левой рукой.

Разница в том, что левши с правшами осознают: это – врожденное, биологическое, тут ничего не попишешь. А левизну или правизну во взглядах до сих пор принято объяснять сознательным выбором, жизненным опытом и правильным воспитанием. В крайнем случае – влиянием пропаганды.

По просьбе ученых 83 совершеннолетних американца ответили на вопросы длинной анкеты про политику. Как вы относитесь к смертной казни? К гей-бракам? К преподаванию эволюции в школе? Можно ли заниматься сексом до свадьбы? А пытать подозреваемых в терроризме? По результатам всех разделили на примерно равные группы – 28 либералов, 28 консерваторов и 27 человек умеренных взглядов. Потом каждого укладывали в томограф, и на встроенном экране аппарата появлялись те самые фотографии из базы IAPS.

Авторы эксперимента сначала честно пробовали надавить на разные эмоции. Вот образы удовольствий: вечер в Альпах, играющие в саду дети. А вот угроза: пистолет у человека во рту, нож у горла, бойцовая собака без поводка. Как только дело доходит до отвратительного, разница между подопытными проявляется особенно остро. Особенно если показывают изуродованных животных. «Когда пилой режут горло собаке, не морщься»{42} – это Бродский предлагает читателям пойти против своей интеллигентской (либеральной, на автомате додумываем мы) природы. Но, видимо, не тем предлагает. Потому что морщатся, судя по результатам эксперимента, именно консерваторы. На томограмме у них ярко вспыхивает амигдала, подкорковый центр эмоций, и вслед за ней в работу включается целый оркестр зон мозга. Дополнительная моторная кора начинает готовить организм к бегству, а дорсолатеральная префронтальная кора, ответственная за рациональное мышление, вынуждена изо всех сил подавлять панику: ты в томографе, это просто фотография, бежать и отворачиваться не надо.

У либералов вместо всего этого многообразия загораются два еле заметных участка в районе островка Рейля, и нейрофизиологи не приписывают этой активности особого смысла. Разумеется, весь остальной мозг за вычетом названных зон не спит, просто занимается – у тех и у других – одинаковой рутинной работой: зрительная кора обрабатывает изображение, лобная доля находит на нем знакомые предметы. И так далее.

Чуткость и ранимость консерваторов, утверждает Хиббинг, – следствие «негативной установки сознания». Уродливое, стоит ему замаячить на горизонте, получает у консервативного мозга наивысший приоритет, потому что любое отклонение от нормы – сигнал о проблеме, которую нужно устранить. Этот механизм мышления, похоже, эволюция закрепляла долгие 2,5 млн лет плейстоцена, когда поддержание старого порядка вещей, круговая оборона и постоянная бдительность давали больше преимуществ в борьбе за выживание, чем, например, изобретательность.

Плейстоцен закончился всего 12 тысяч лет назад. Примерно тогда же люди одомашнили собаку – живую сигнализацию – и избавились от необходимости вскидываться на каждый шорох. Но гены, ответственные за это умение, никуда из популяции не исчезли. Мозг к тому моменту был, как говорят палеонтологи, «анатомически современным», то есть уже не отличался от нашего.

Один из побочных эффектов доисторического механизма бдительности у консерваторов – то, что можно назвать «парадоксом оскорбленных чувств верующих». Те, кто легко оскорбляется, готовы уделить раздражителю больше времени и внимания. Хотя, казалось бы, не нравится – не ешь.

В лабораторном опыте, устроенном в 2012 году командой Хиббинга, это выглядело так{43}. На экране компьютера четыре фотографии одновременно, стык в стык. Одна нейтральная или даже привлекательная – ну, например, играющие дети. И три отталкивающие (допустим, все те же язва-фекалии-мухи).

Специальный прибор, айтрекер, следит за движениями глазных яблок у подопытных. Счет идет на миллисекунды: нам кажется, что мозг впитывает картинку мгновенно, в один присест. Сознание и вправду не успевает перехватить контроль. Но техника раскладывает этот бессознательный присест на фазы. Как замедленная съемка – попадание пули в воздушный шарик.

Либералы медленно изучают все поле зрения, потом останавливаются на какой-нибудь случайной картинке из четырех и фокусируются на ней. И если она неприятная, стремительно переключаются на следующую – пока не дойдут до нейтральной. А консерваторы находят какую-нибудь отталкивающую картинку быстро – и надолго прилипают к ней взглядом.

Следует ли из этого, что консерватор обречен на ранимость, раздражительность, постоянную бдительность и искусственно суженную картину мира? Скорее наоборот: кто родился ранимым, бдительным и раздражительным – тот вырастет консерватором. Политическая ориентация, заявляют Хиггинс с коллегами, – следствие врожденных качеств и, следовательно, тоже вещь врожденная.

Словом, дело совсем не в том, что для каждой «Партии любителей пива» или «Партии пенсионеров» можно, если хорошенько постараться, отыскать свой ген, который делает ее сторонником (хотя и склонность к алкоголизму, и старение – это, конечно, генетически обусловленные вещи). Просто само существование двух полюсов политической жизни, консервативного и либерального – результат того, что в мире живут два типа людей, отличающихся биологическим устройством мозга.

Кроме обостренного отвращения, нейробиологи пытаются найти и другие физиологические реакции, которые отвечают политическим взглядам на двух полюсах спектра. Взять, например, потливость: это реакция симпатической нервной системы, такая же непроизвольная, как учащенное или замедленное сердцебиение. В ней нет ничего рассудочного, связанного с политической философией. И все-таки именно консерваторы активней потеют при резких звуках и пугающих картинках.

Это снова идет вразрез со стереотипом о «пугливых либералах», которые «пороху не нюхали» – в противоположность консерваторам, среди которых спецназовцев, полицейских и служащих МЧС хоть отбавляй. Тут работает, скорее, обратная логика: те, для кого страх – острое и глубокое переживание, охотнее идут в каскадеры или десантники. Трудно быть «адреналиновым наркоманом», если опасность оставляет вас равнодушным. Неудивительно, что в конце концов такие люди овладевают искусством управлять своим страхом действительно лучше штатских.

Национализм и вообще ксенофобию у консерваторов – то есть неприязнь к чужакам, от иммигрантов-азиатов до парней «с соседнего района», которые имеют наглость топтать асфальт рядом с вашими гаражами, – исследователи тоже выводят из чувства страха. Правда, весьма специального: это страх заболеть. Во времена доисторических эпидемий сторониться незнакомых людей, которые пришли из других мест, – единственная эффективная стратегия избегания болезней, когда ни вакцин, ни антибиотиков еще не изобретено и от простых инфекционных заболеваний вымирают целыми деревнями. Таким образом достаточно долго из человеческой популяции вымывались гены тех, кто чужаков не боялся.

* * *

Если у одних мозг лучше приспособлен отрабатывать старую и надежную оборонительную программу времен плейстоцена, у других – искать новое, то из чего состоит эта «программа»?

Трое ученых из Университета Вирджинии – Джесс Грэм, Джонатан Хайдт и Брайан Нозек (он не имеет никакого отношения к Роберту Нозику, философу и теоретику либертарианства) – в 2009 году опубликовали громкое исследование под заголовком «Либералы и консерваторы опираются на разный моральный фундамент»{44}. С тех пор эту работу успели процитировать почти в тысяче других научных статей: для исследования по социальной психологии это редкая удача.

Эту работу можно назвать чем-то вроде попытки устроить перепись «либеральных» и «консервативных» ценностей. Вывод авторов: либералы и консерваторы чаще всего расходятся во мнениях потому, что оценивают события и поступки по разной шкале. И шкалы эти связаны с довольно абстрактными категориями, а вовсе не со злободневными темами.

Для одних особенно важны категории «вред» и «польза», «справедливость» и «взаимность». Другие уделяют больше внимания вопросам «чистоты» и «сакральности», «авторитета» и «уважения». Легко догадаться, кто здесь либералы, а кто консерваторы.

Но может ли вообще быть так, что люди рождаются с готовыми моральными категориями в голове?

* * *

Когда нужно отделить «врожденное» от «приобретенного», на сцену выходят близнецы. У однояйцевых совпадает весь геном, у разнояйцевых – только 50 % генов. Вне зависимости от этого оба ребенка, если только их не отдали в разные приемные семьи, получают одинаковое воспитание: живут в одном доме, ходят в одну и ту же школу и слушают одну и ту же сказку на ночь.

И если у разнояйцевых близнецов политические взгляды различаются чаще, чем у однояйцевых, – значит, дело все-таки в генах. В 2005 году в этом убедилась команда Хиббинга на основе статистики, случайно собранной врачами за двадцать лет до того{45}. В конце 1980-х врачи разослали почтой 5670 парам близнецов и их ближайшим родственникам анкеты с вопросами на все случаи жизни – про здоровье, биографию и, в частности, про политические взгляды. (Эта последняя серия вопросов в точности совпадала с теми, которые задавали 83 добровольцам в 2014 году перед сеансом томографии, – в основу обоих исследований лег один и тот же опросник Уилсона−Паттерсона.) Близнецы ответили, ученые сели анализировать – и выяснили, что вклад генов в ответы на разные пункты опросника неодинаковый. Сильнее всего наследственность проявляет себя в оценке школьной молитвы, а слабее всего – в отношении к современному искусству и раздаче квартир бедным за счет государства.

Так или иначе, стало ясно: ДНК, которая с рождения не меняется, заметно ограничивает свободу политической воли.

Хотя и не сводит ее к нулю. Если бы гены раз и навсегда предопределяли, как человек проголосует, политикам не имело бы смысла склонять на свою сторону избирателей из другого лагеря.

Либералы, которые со временем превратились в консерваторов, – известное явление. Есть даже популярная цитата, приписываемая Черчиллю: «Кто в 25 не либерал, у того нет сердца. Кто к 35 не стал консерватором – у того нет ума». Хотя сама цитата и фейк (международное общество Черчилля утверждает, что британский премьер никогда такого не говорил и не писал), возраст действительно играет роль в политических предпочтениях. Например, в Великобритании у партии, которая так и называется – консервативная, поддержка среди 30-летних почти вдвое меньше, чем среди 70-летних. У социологов есть много способов это объяснить: например, у разных поколений по-разному обстоят дела с образованием, и среди сегодняшних пенсионеров меньше людей с университетским дипломом, чем среди тех, кому 30.

Но есть и более глубокие причины. Если биологическая подоплека консервативных взглядов – высокая чувствительность мозга к страшному и отвратительному, то консерватором можно сделать любого. Просто кого-то придется сильнее испугать. Порог реакции выше, а результат тот же.

В эксперименте, который поставили в 2017 году в Йельском университете, решили поступить наоборот: не пугать, а успокаивать{46}. Трем сотням добровольцев предлагали вообразить, что у них волшебным образом появилась суперспособность. У одной группы это было умение летать, у другой – физическая неуязвимость, когда бомбы террористов, бактерии, вирусы, голод и холод больше не могут навредить. Это мысленное упражнение предлагали незадолго перед тем, как предложить анкету со стандартными вопросами про аборты, геев и иммигрантов. Ответы тех, кому задали представить себя птицей, распределились без сюрпризов – так, как они обычно распределяются между республиканцами и демократами. Зато консерваторы, которые на короткое время вообразили себя неуязвимыми, после этого отвечали на вопросы анкеты намного мягче. Если внешние обстоятельства искусственно приглушают страх и отвращение, градус консерватизма на время понижается – даже если человек от рождения склонен всего бояться.

* * *

Значит ли это, что у нас есть специальный ген либерализма и ген консерватизма? Вряд ли.

Год назад ясность решил внести Джеймс Фаулер, классик новой социологии (его научно-популярная книга «Связанные одной сетью»{47}, написанная в соавторстве с Николасом Кристакисом, переведена на 19 языков, включая хорватский и тайский). Команда Фаулера собрала в Швеции 1000 пар близнецов-мужчин в возрасте от 52 до 67 лет и расспросила их про экономическую политику. А еще добыла из армейских архивов результаты IQ-тестов, которые те проходили несколько десятилетий назад во время срочной службы (Швеция отказалась от призыва только недавно, в 2009-м).

IQ, как аккуратно выражаются генетики, имеет сильную наследственную компоненту. Политические пристрастия – тоже. Фаулер с коллегами предположили, что одно – просто следствие другого. Те, чей IQ выше, выступали против высоких налогов и перераспределения богатства. Соответственно, высказывались как типичные американские правые. То есть вроде бы консерваторы. Это было довольно неожиданно.

Фаулер уточняет: Швеция – не Америка, а государство с гипертрофированной социальной политикой. Высокие налоги, субсидии бедным и прочие ценности левых – это текущее положение вещей. Поэтому «отнимать и делить как раньше» – самый что ни на есть консервативный лозунг. А правые в этом контексте – либералы, партия перемен. Чем выше IQ, тем сильнее и желание что-то менять.

Можно пойти другим путем и искать различия напрямую, на уровне структуры мозга. В 2011-м выяснилось: у молодых консерваторов больше серого вещества в амигдале, центре эмоций, у молодых либералов – в передней поясной коре. У этой зоны сложная миссия: когда мы учимся, наши успехи поощряет дофаминовая «система наград». Но сама оценивать наши успехи она не умеет, а передняя поясная кора ей помогает.

Гипотезу подтверждает и сам эксперимент с отталкивающими фотографиями и томографом, описанный в Current Biology. Кора обучается, подкорка не очень, поэтому разницу в подкорковой активности трудно списать на жизненный опыт. Если профессиональный военный улыбается, стоя у стены в ожидании расстрела, или профессиональный канатоходец гуляет по тросу между небоскребами – это не значит, что они отучили свою подкорку генерировать страх. Наоборот, спокойствие обеспечивают одновременно две зоны мозга: одна, подкорковая, шлет сигнал тревоги, другая, в коре, обучена подавлять реакцию на этот сигнал. Психопат, у которого амигдала не работает с младенчества, может вести себя так же бесстрашно, однако на его томограмме обе зоны, в коре и в подкорке, просто спят.

Как жить с этим знанием? Сначала плохая новость: если консерватизм зашит в генах, то навсегда переагитировать человека в либералы не выйдет, как бы вы ни оттачивали свое мастерство полемиста. Навальный для вашего дяди так и останется американским шпионом, а Эбола – происками Пентагона. Другой вопрос, что либерализм и консерватизм в разных обстоятельствах проявляются по-разному. В США это будет спор о праве гея быть священником, в условной Уганде – о том, как лучше приводить в исполнение смертную казнь за гомосексуализм: с помощью петли или мачете. Разница стоит того, чтобы за нее бороться.

Краткое содержание главы 4

1. Политическую ориентацию можно выяснить с помощью МРТ-томографа и фотографий чего-нибудь отвратительного. Мозг консерватора реагирует на них острей, чем мозг либерала.

2. Сильные эмоции по поводу неприятных вещей – защитная реакция времен плейстоцена. Угрозы каменного века исчезли, а анатомия мозга осталась прежней.

3. В современном обществе эта же реакция мозга делает людей ксенофобами: когда-то давно бояться чужаков было самой надежной защитой от инфекционных болезней.

4. Ключевые слова для консерваторов – это «чистое» и «святое», «авторитет» и «уважение». Либералы расходятся с ними в оценке людей и поступков, потому что для них важнее другие категории: «вред», «польза», «справедливость» и «взаимность».

5. Либерализм и консерватизм заложены в генах, воспитание играет более скромную роль.

Это доказывают наблюдения за близнецами: однояйцевые чаще симпатизируют одним и тем же политикам, чем разнояйцевые.

6. В мозге у либералов активнее передняя поясная кора, которая помогает учиться новому.

Что видит у нас в голове МРТ

Магнитно-резонансный томограф имеет репутацию «машины для чтения мыслей», и в первую очередь это касается фМРТ (fMRI) – функциональной томографии, позволяющей следить за активностью мозга в реальном времени. Но никаких «мыслей» оператор томографа на самом деле не видит – он наблюдает активность тех или иных зон мозга.

Что значит «активность», если мысль – вещь неосязаемая? В 1990-м японский исследователь Сэйдзи Огава придумал остроумный косвенный способ ее измерить. Он основан на том, что нервные клетки потребляют энергию: их топливо – сахар, а расходный материал для его переработки – кислород. Баланс кислорода в крови и предложил отслеживать Огава.

Молекулы гемоглобина, который насыщен кислородом, и молекулы гемоглобина, который весь свой кислород отдал, ведут себя по-разному в магнитном поле. Эту разницу можно зарегистрировать за счет эффекта ядерного магнитного резонанса (ЯМР). Поэтому главная деталь МРТ-томографа – гигантский сверхпроводящий магнит, создающий там, где находится голова подопытного, поле напряженностью в несколько тесла (это в десятки тысяч раз больше, чем у сувенирных магнитов, которые вешают на дверцу холодильника).

На выходе получается трехмерное видео, отчет о том, насколько активно в каждый момент наблюдений работала каждая точка мозга. Но у этого метода есть предел точности: типичный «трехмерный пиксель» мозга на томограмме – это кубик со стороной 3 миллиметра, куда помещаются миллионы нервных клеток одновременно.

Более тонких деталей томограф не видит. Нейрофизиологи могут сказать, какие зоны мозга активируются в ответ на стимул, и сравнить это с тем, что получается под воздействием других стимулов. Кое-какие психические функции довольно неплохо привязаны к конкретным структурам вроде гиппокампа или гипофиза, но чаще ученым приходится иметь дело с целым оркестром нервной активности в обоих полушариях.

Глава 5

Из первых рук

Что не так с друзьями и их историями

Когда-то давно главным источником новостей была утренняя газета. Потом – телевизор с беспокойным диктором и бегущей красной строкой. В сентябре 2017 года в США опубликовали данные большого соцопроса: 67 % взрослых американцев узнают новости из соцсетей – прежде всего, из записей друзей в Facebook и Twitter.

Какая по большому счету разница, где вы наткнулись на заметку про визит Путина в Шанхай – в газете, на экране смартфона, или нам ее пересказал, бубня из-за спины, телевизор в парикмахерской? Большая разница. Знаменитое «The medium is the message»[5] философа Маршалла Маклюэна придумано как раз по этому поводу – пусть даже тогда, когда ее придумали, это был скорее голый манифест без доказательств. От канала передачи информации зависит, какие сообщения из тысяч возможных к нам добираются. Что мы из них узнаем. И, наконец, в какой степени мы им доверяем – сознательно или бессознательно.

Исследователи медиа из Американского института прессы обратили внимание на то, как выглядит типичная новость в Facebook, которой кто-то с вами поделился. Слева вверху – лицо знакомого вам человека. Потом его имя жирными буквами. Его комментарий – например «всем читать!!!». Картинка. Заголовок, крупно. Подзаголовок. Наконец, в самом низу, бледным еле заметным шрифтом – источник новости. Если подходить к делу рационально, именно от этих бледных букв зависит, стоит доверять новости или не стоит: одно дело редакционная статья New York Times, другое дело – сайт «Вся правда о рептилоидах».

Может быть, все эти дизайнерские игры со шрифтами не способны сбить с толку разумного взрослого – и тот, раз уж интересуется положением дел в мире, как-нибудь разберется сам? В марте 2017 года Американский институт прессы выложил у себя на сайте результаты психологического эксперимента с участием 1489 добровольцев. И вот что оказалось: «кто перепостил» важнее, чем источник. Если новостью поделилась приятная знаменитость – вы ей верите, а если неприятная – не верите. Разница между New York Times и вымышленным сайтом DailyNewsReports.com играет намного меньшую роль. Если Джон, с которым ты ходишь в церковь по воскресеньям, поделился новостью, комментировал это исследование журнал New York Magazine, то как не поверить Джону?{48}

Чаще всего этим наше знакомство с новостью и заканчивается – прямоугольником-анонсом во френдленте, потому что мало кто в здравом уме кликает хотя бы по каждой десятой ссылке в Facebook (и тем более дочитывает до конца). Все подробности остаются внутри некликнутой ссылки. Поэтому лицо и имя-фамилия рядом с ним жирными буквами – главные критерии того, принимать ли во внимание написанное в заголовке и подзаголовке. Если мы лениво прокручиваем ленту колесиком мышки, у нас на это решение есть считаные секунды. И если вслед за нобелевским лауреатом Даниэлем Канеманом различать в мозгу «быструю» и «медленную» подсистемы{49} – примерно понятно, какая из них готова решать задачу в условиях таких ограничений на время реакции. Не можете себе позволить долго разбираться в новостях про геноцид народа рохинджа в Мьянме – значит, нужно дать волю быстрой подсистеме. А для нее портрет на юзерпике – то, что надо. В мозгу включается область распознавания лиц, расположенная на вентральной поверхности веретенообразной извилины (FFA, fusiform face area), связанная с центрами эмоций. Это как любовь с первого взгляда: верю – не верю.

А если друзья в соцсетях так на нас влияют – полезно разобраться, кто они такие и как вообще устроена наша дружба. Откуда ни возьмись в этом сюжете появляются обезьяны.

* * *

Обезьяны-гелады живут в Эфиопии, весят как трехлетний ребенок, имеют массивную гриву, как у льва, и огромную складку лысой красной кожи на груди, чем-то похожую на петушиный гребень. Такой среди приматов нет ни у кого больше, но это не главное, чем интересны гелады. Сорок четыре года назад, в 1974-м, будущий профессор Оксфорда Робин Данбар защитил про гелад диссертацию: его занимал вопрос, как устроены отношения у них в группах.

«Что касается высших приматов, со всей определенностью можно сказать, что у них бывает дружба в том же смысле, что и у нас», – говорит профессор. Про него – точнее, про «число Данбара» – чаще всего вспоминают не в связи с обезьянами, а в связи с Facebook и Twitter. Развивая свои наблюдения за дружбой у обезьян, Данбар обнаружил у человеческого мозга одно неприятное свойство, которое мешает соцсетям превратить весь мир в одну большую дружную семью. С тех пор, как с этими работами познакомились за пределами круга ученых-антропологов, журналы вроде Forbes{50} или Businessweek{51} пишут про влияние его идей на компании Кремниевой долины. А еще Данбар – автор полутора десятков научно-популярных книг, две из которых переведены на русский{52}.

В 1974-м, в год защиты его диссертации, на пике моды была этология: альфа-самцы и гамма-самцы, импринтинг, поза подчинения – термины именно этой науки, которые сейчас чаще можно услышать на тренингах личностного роста, чем встретить в журнале Science, но тогда они были горячей темой. Хочешь объяснить поведение человека? Погляди на гусей, павианов, шимпанзе – и смело экстраполируй. Отцы этологии – Конрад Лоренц, Карл фон Фриш и Николас Тинберген – только что разделили на троих Нобелевскую премию. Философ Грегори Бейтсон изучает коммуникацию между дельфинами. Еще через несколько лет выйдет фильм о говорящей горилле Коко, которую учат выражать мысли с помощью американского языка глухих{53}. Поэтому обезьянами занимались так же активно, как за тридцать лет до того – ураном и радием.

У работ Данбара про обезьян были все шансы вместе с большей частью этологических исследований остаться в прошлом веке, если бы он еще некоторое время спустя не сделал конкретный количественный прогноз про людей, который в эпоху больших данных легко проверить. В 1993-м Данбар предположил, что у разных приматов, от мартышек до людей, число социальных связей не безгранично – оно упирается в потолок, зависящий от размеров неокортекса, самой новой (в эволюционном смысле) части головного мозга. Для гиббонов этот потолок – 15 особей, для орангутанов – 50, для шимпанзе – 65. И он примерно совпадает с размером групп, которыми эти приматы предпочитают жить.

Размер неокортекса у человека тоже не проблема измерить, и если подставить его в формулу, получится 150 – то самое число Данбара, про которое много говорят и пишут. Сначала кажется, что здесь явная ошибка. Во-первых, люди селятся в многомиллионных городах. Во-вторых, у них есть Facebook с лимитом в 5000 друзей, и многим его не хватает. В-третьих, каждый знает чувство, что все знакомы со всеми.

Популярный (до такой степени, что на него ссылаются в новогоднем фильме «Елки» для семейного просмотра) способ сказать то же самое понаучней называется «теория шести рукопожатий». Между вами и любым человеком на другом конце света, говорит эта теория – цепочка из пяти-шести личных знакомств. А если вы журналист, пять-шесть превращаются в два-три. Взяли интервью у автора биографии математика Нэша, который 20-летним студентом добился в Принстоне аудиенции у Эйнштейна – и теперь вас и Эйнштейна разделяют два рукопожатия. Сходили на мастер-класс к фотографу М., у которого однажды случилась беседа со 100-летней Лени Рифеншталь, режиссером «Триумфа воли», – вот вам два рукопожатия до Гитлера.

Проблема с этой теорией одна: ни шесть рукопожатий, ни даже два не гарантируют, что вас с Гитлером или Эйнштейном хоть что-нибудь связывает на самом деле. Как и с лучшими друзьями ваших школьных приятелей. Города-миллионники – тоже слабый аргумент: социологи много времени потратили на описание защитных механизмов, позволяющих жителю мегаполиса не знать в лицо своих соседей по лестничной клетке. «Гражданское невнимание» – это когда два человека заходят в лифт и могут позволить себе не представляться по имени, не здороваться и вообще делать вид, что другого нет рядом, все те 16 этажей, которые лифт везет обоих домой.

В деревне, когда каждый знает каждого, такое вообразить невозможно – и Данбар решил сосредоточиться как раз на таких сообществах, где обстоятельства вынуждают всех быть попарно знакомыми. Средний размер деревни времен неолита: 150 человек. Манипула в древнеримской армии: 130 воинов. Английская деревня времен Вильгельма Завоевателя (это уже XI век нашей эры): снова 150.

Поселение у современных американских традиционалистов-амишей и гуттеритов – это 110 человек в среднем; но происходит так потому, что когда жителей становится 150, старейшины обычно принимают решение разделить одну деревню на две.

«Тысячу лет назад или еще раньше мы видим в точности те же самые цифры, что и сейчас. Поэтому мы думаем, что имеем дело с универсальным паттерном. И это разумно, поскольку цифры зависят от размеров нашего мозга, точнее, от размеров его передней части, а за последние сотни тысяч лет эти размеры не менялись», – говорит Данбар{54}.

Дружбу мы привыкли считать вещью рациональной – в противоположность влюбленности или материнским чувствам. Там гормоны, а тут мы вроде сами выбираем себе собеседников, чтобы обсуждать Витгенштейна или последний сезон «Игры престолов». Но Данбар считает, что корни дружбы – такие же физиологические. «У нас в коже спрятана специальная система нейронов – эти нейроны реагируют на легкое медленное поглаживание. Они есть у всех млекопитающих. Такие поглаживания активируют эндорфиновую систему мозга, и люди или обезьяны переживают чувство единения».

Зачем механизм дружбы мог понадобиться эволюции? Еще до Данбара, в 1980-е, была популярна гипотеза макиавеллиевского интеллекта. Коллективному животному обезьяне, чтобы выжить, нужно уметь строить интриги и хорошо знать как врагов, так и тех, с кем можно скооперироваться против этих врагов. В конце концов, шимпанзе – одни из самых агрессивных животных{55} в дикой природе, волкам и медведям до них далеко. Но Данбар уверяет, что «дружба против» играет не такую и существенную роль в социальном интеллекте – не в пример более мирные слоны и киты научились дружить независимо от приматов.

«Слоны приходят в возбуждение, когда встречают знакомых, с которыми давно не виделись, – как мы, когда не виделись с кем-нибудь три-четыре года. У дельфинов все примерно так же, но их поведение не так просто понять – их социальная жизнь проходит под водой, где мы их большую часть времени не наблюдаем». Еще у дельфинов нет возможности обнять друг друга или похлопать по плечу – но, говорит Данбар, социальных поглаживаний в их мире все равно невероятно много.

* * *

Хорошие исследования часто отвечают на вопросы «как?», «почему?» и «сколько?», но оставляют за кадром вопрос «ну и что?». Окей, у мозга есть лимит в 150 друзей – ну и что? Забавно, но не страшно: на день рождения и так обычно зовут меньше. Тут самое время разобраться со словом friends, которое в английском словоупотреблении означает скорее знакомство, чем съеденный вместе пуд соли. В своей книге «Сколько друзей нужно человеку» (How Many Friends Does One Person Need?: Dunbar’s Number and Other Evolutionary Quirks) Данбар уточняет: 150 – все те, с кем вы общаетесь по крайней мере раз в год.

У вас наверняка есть знакомые, которые не верят журналистам. Медиа проплачены, журналисты врут. Годятся только сведения из первых рук. Приятель-хирург рассказывает им, почему кино про врачей – это сказки. Одноклассник-эмигрант жалуется, что жизнь на Западе – не сахар. Правдива информация только от тех, кому доверяешь.

Картине мира этих скептиков число Данбара угрожает как никому. Оно задает предел объему всех доступных из первых рук сведений о мире. Разнообразие профессий, политических убеждений, религиозных взглядов, опыта борьбы с депрессией и опыта жизни в другой стране сводится к 150 голосам, которые вы можете – и они могут – соотнести с реальным живым человеком. Причем заметная часть этих голосов включается раз в год за праздничным столом где-нибудь между разговорами о погоде и пожеланиями «приходите еще».

Facebook и Instagram сделали социальное взаимодействие вроде бы дешевле в смысле потраченных усилий. Оставить другу комментарий, сидя в вагоне метро по пути домой, проще, чем выбраться с тем же другом в кафе. В еще одной статье 2016 года{56} разбирается вопрос: правда ли, что у соцсетей есть, как сформулировал сам Данбар, «потенциал пробить стеклянный потолок», который разные естественные ограничения накладывают на умение человека дружить. Короткий ответ – нет, неправда. По результатам двух свежих опросов на тему использования соцсетей, в которых участвовало примерно 3000 взрослых британцев, ученый делает вывод, что реальный круг социальных связей в Facebook описывается все тем же числом Данбара (и слоями Данбара, о которых ниже). Хотя кажется, что благодаря интернету мы можем завязать дружбу с кем угодно в любой точке мира, мы заперты все в той же невидимой клетке. Размерами она как раз с вагон метро, куда примерно 150 человек и влезает (если, конечно, не утрамбовывать).

Если полторы сотни социальных связей – это все, что у нас есть, то к ним стоит присмотреться. «Вы должны помнить, что сеть из 150 человек образована двумя отдельными сетями. Одна часть – семья, другая – друзья, которых с вами не связывает родство. Таких только половина. Потому что семья – это, конечно, расширенная семья, с троюродными братьями и так далее, а не только семья в узком смысле», – говорит Данбар. То, что называют «числом друзей», включает и тетю из Саратова, и двоюродного брата вашей бабушки дядю Валю с его женой тетей Милой, если только вы иногда видитесь с ними на семейном празднике. Профессор уточняет: «И как раз семейная подсеть обычно очень стабильна и не меняется со временем».

Сеть можно нарезать на части и иначе: по слоям. 5 самых близких друзей (в том числе родственники) – это все те, на чью поддержку вы можете рассчитывать, если с вами случится эмоциональный кризис. 15 приятелей (включая первых пятерых) – ваш постоянный круг общения. 50 хороших знакомых. Границы последнего слоя как раз и охватывают все 150 социальных связей. Данбар убежден, что слои Данбара – такая же универсальная реальность, как и число Данбара: «Мы смотрели на Facebook, смотрели на Twitter. Изучали поведение женщин в Бельгии и в Великобритании. У нас были данные из Бразилии».

Самые убедительные доказательства Данбар с коллегами опубликовали в октябре 2016 года в журнале Social Networks{57}. Неназванный оператор связи из Европы (профессор до сих пор избегает говорить, про какую страну речь) открыл группе из Оксфорда доступ к обезличенной статистике 6 млрд телефонных звонков, сделанных 35 млн людей в 2007 году. Как часто и как долго два человека общаются по телефону – неплохой индикатор силы отношений между ними, и ученые занялись анализом гигантского социального графа из таких связей разного веса. (В исследовании, кстати, отмечают, что будь данные собраны позже 2007 года, когда Стив Джобс только-только презентовал первый iPhone, телефонная статистика могла бы и обмануть – с тех пор мессенджеры и соцсети для многих заменили разговоры по телефону.) Тех, кому звонил в 2007 году каждый конкретный человек, Данбар поделил на кластеры – по суммарному количеству телефонного времени, которое досталось за год человеку на другом конце провода. Потом рассчитал средние размеры кластеров: первый слой – 4,1 человека, второй – 15,1, третий – 44,9. Если сравнить с прогнозом (5, 15 и 50), выходит завидное совпадение теории и эксперимента.

Сила дружбы убывает неравномерно. «60 % своего времени мы тратим на людей из первых двух слоев – слоя-5 и слоя-15», – говорит Данбар. И это главное объяснение, почему сильных связей не может быть слишком много. Время – самый главный ресурс в вопросах дружбы. Будь вы популярный видеоблогер или Лев Толстой – возможно, вас знают миллионы, но у вас по-прежнему 24 часа в сутках, и их не хватит, чтобы узнать как следует тысячу, сто или даже три десятка человек.

Знакомых мало иметь, надо еще и поддерживать знакомство. «Чтобы они оставались в вашей сети – особенно это касается близких друзей, – вам нужно часто с ними разговаривать. Играть с ними в футбол, пить с ними водку. Если вы не будете всего этого делать, дружеские отношения охладятся. Друзья начнут дрейфовать сквозь слои сети и, возможно, совсем из нее уйдут». Как часто это происходит? «Наши данные говорят, что 40 % людей в сети[6] за полтора года перемещаются из одного слоя в другой».

Число Данбара и размеры слоев Данбара не гарантируют, что друзей у нас будет столько-то – они, скорее, задают примерный потолок возможностей. Когда в марте этого года были опубликованы результаты опроса пяти тысяч взрослых британцев, оказалось, что примерно каждый восьмой (13 % опрошенных) не имеет близких друзей вообще{58}. А терять их как минимум вредно для здоровья. Исследование 2010 года (на его результаты опираются более двух тысяч других медицинских статей) сообщает: с точки зрения статистики активно дружить даже лучше, чем взять и бросить курить{59} – у благополучных в этом отношении людей резко повышаются шансы выжить. «Если им предстоит хирургическая операция в больнице, они быстрее восстанавливаются и так далее, – объясняет Данбар. – Мы пока не очень понимаем, как это работает. Возможно, все дело в снижении стресса».

Есть ли что-нибудь такое, что работает против ослабевания дружбы? Смерть общего друга. Стоит кому-то умереть – и вокруг образовавшейся дыры в социальном графе происходит резкий всплеск общения. Это наблюдение принадлежит команде Facebook, которая изучила 15 тысяч таких ситуаций – как они разворачиваются во времени – и в апреле 2017 года напечатала по итогам научную статью в журнале Nature Human Behaviour. Изначально дата-аналитиков интересовало другое: насколько необратимый удар наносит смерть по кругу общения в разном возрасте. У тех, кому от 18 до 24, какое-то время спустя дыры в социальном графе затянутся, и он восстановит свой объем. А у тех, кто старше, – уже вряд ли, говорят данные Facebook. Почти любой умерший – мост между какими-нибудь компаниями, и со временем выяснится, что половина всех тех, с кем вы мило болтали на его днях рождения или новосельях, больше не попадается вам на глаза. Но это будет потом, а первое время человек, которого только что сожгли в крематории или закопали, выполняет свою роль моста с удесятеренной силой.

Есть ли менее травматичный способ не оказаться в изоляции? «Недавно у нас было два исследования про то, как люди едят вместе и вместе ходят в пабы. В Британии паб – что-то вроде центра социальной жизни в деревне, куда каждый заходит пропустить пару кружек пива, и, возможно, иногда выпить водки. И, кажется, от этого времяпрепровождения зависит, сколько друзей у вас будет. Если вы не встречаетесь с друзьями, у вас нет шансов закрепить отношения. Наконец, алкоголь сам по себе работает спусковым крючком для эндорфиновой системы – вот почему нам нравится пить в компании. В самых разных культурах алкоголь помогает завести друзей – хотя, разумеется, вы и рискуете стать алкоголиком»{60}.

* * *

В итоге, болтая в баре и играя в футбол с узким кругом друзей, мы более-менее осведомлены о мелких и не очень событиях в жизни «слоя-15». Кто-то поменял работу, бросил курить, потерял загранпаспорт, перестал разговаривать с родителями из-за политики, сел смотреть сериал West World, месяц искал квартиру из-за желания домовладельцев видеть среди жильцов «только славян», отдал ребенка в школу. Обо всем таком часто не пишут в открытую, зато рассказывают при встрече. Говоря, что «все поступают так-то», мы опираемся в первую очередь на эти рассказы. Поэтому «все» – это скорее от 5 до 15 человек, а никак не 7,6 млрд жителей планеты.

Отсюда следует хорошая новость: в мире ваших друзей вы лично, сами того не зная, представляете ощутимую часть человечества. Один человек из пятнадцати – это уже 7 % «всех», а два человека из пяти – это «почти половина моих близких». В любом случае вы не один из ста миллионов и не статистическая погрешность. Так что идея влиять на других личным примером вовсе не такая абсурдная, какой ее выставляют противники любого активизма. Если вы постояли в одиночном пикете, отказались от косметики такой-то компании, потому что там мучают животных, или просто решили из соображений экологии раздельно сдавать в мусор стекло и пластик – вы наверняка так или иначе сообщите об этом своим приятелям. И если ваш собственный опыт примут к сведению пятнадцать человек, для которых вы «один из пятнадцати», то примеру могут последовать, заражаясь идеей по цепочке, сотни и тысячи человек – но это уже тема главы 9.

Краткое содержание главы 5

1. Две трети взрослых (по крайней мере, в США) узнают новости из соцсетей. Мы читаем то, чем поделились друзья.

2. «Кто поделился» важнее, чем «какая газета написала»: в Facebook рядом с новостью мы видим юзерпик и имя друга жирными буквами, а источник – внизу мелким шрифтом.

3. Чаще всего знакомство с новостью заканчивается заголовком, без подробностей. Доверять ему или не доверять – решает быстрая подсистема мозга.

И она это делает по юзерпику.

4. Ключ к пониманию дружбы в соцсетях – дружба у обезьян. Площадь новой коры мозга определяет, сколько социальных связей в состоянии поддерживать примат. Для человека это число Данбара, 150 знакомств.

5. Не все знакомства – дружба. 60 % времени мы тратим на общение с 15 людьми из 150, и – в среднем – только 5 из них придут на помощь, если у вас случится крупная неприятность.

6. Социальные сети, которые сделали общение в разы доступнее, по-прежнему не позволяют преодолеть ограничения мозга. В сети мы активно поддерживаем связь не более чем со 150 людьми.

7. Карта социальных связей постоянно перестраивается, и за полтора года 40 % знакомств меняют статус – люди из ближайшего круга переходят в дальние слои, и наоборот.

8. Терять друзей вредно для здоровья. Например, это сильно понижает вероятность выздоровления после серьезной операции.

9. Выводы о том, что «все так поступают», мы делаем на основании активного общения с 5–15 людьми.

Для ваших друзей вы лично – существенный процент тех самых «всех», поэтому поступок одного человека и способен повлиять на многих.

Часть III

Слухи, заговоры и письма счастья

Глава 6

Велосипед, сквозь который проросла секвойя

Слухи в Сети: что делает их вирусными, откуда они берутся и как работают

«В этом июле 5 пятниц, 5 суббот и 5 воскресений. Такое случается раз в 823 года. В Китае это называют “полный карман серебра”. Поделись этой записью с друзьями – и в ближайшие четыре дня деньги найдут тебя сами. А кто не поделится – тот, согласно китайскому учению фэншуй, скоро обеднеет». Знакомый текст? В Facebook с июля по август 2013 года его английскую версию перепостили 1 259 642 раза, хотя ничего не стоит понять, что главное его утверждение про 823 года – выдумка.

Даже в календарь заглядывать не придется, достаточно заметить, что «5 пятниц, 5 суббот и 5 воскресений» случаются всякий раз, когда 1 июля выпадает на пятницу. А это происходит в среднем раз в семь лет: месяцы, в том числе июль, одинаково часто начинаются с каждого из дней недели, будь то понедельник, пятница или воскресенье.

Такие истории с разоблачением вот уже двадцать лет коллекционирует сайт Snopes.com, запущенный двумя энтузиастами из Калифорнии еще в 1995 году – задолго до появления Facebook и даже «Живого журнала». Создатели называют Snopes.com «справочником по городским легендам» и причисляют к ним самые разные блуждающие по Сети сюжеты – от истории, что Барак Обама родился в Африке, а не в Америке (а значит, не имеет права быть президентом США), до жуткого описания «русского эксперимента с депривацией сна», который якобы имел место в 1940-е в СССР и проводился по заказу военных над подопытными-узниками (мораль: если долго не спать, в вашем мозгу проснется древний монстр).

Когда они собраны в одном месте и откомментированы, к слухам легко отнестись как к курьезу – поглядите, мол, какой смешной бред. Но есть поводы думать, что их роль намного серьезней.

* * *

Термин «темная материя» – из лексикона ученых-астрономов. Они его придумали, когда обнаружили, что наряду с привычным нам веществом (из атомов), Вселенная заполнена загадочным непонятно чем, которое весит впятеро больше. «Темную материю» нельзя увидеть, описать ее цвет, запах или вкус – отсюда и слово «темная». Но именно она выступает в роли невидимого дирижера для всего, что мы видим в космосе: определяет, как вращаться галактикам и какие места занимать звездам.

Слухи – такая же «темная материя» нашего коллективного знания, если за «обычную материю» принять информацию из книг, газет и научных статей, происхождение которой легко отследить.

Как и темная материя в космосе, слухи ускользают от наблюдения. Нет «подшивок слухов», которые хранились бы в библиотеках как старые газеты. Нельзя выяснить, как часто ту или иную страшилку рассказывали друг другу люди в московских трамваях в 1923 году.

При этом слухи мощно воздействуют на повседневную жизнь – как темная материя на звезды в галактиках. У слуха, что гречка исчезнет из магазинов, последствия в повседневной жизни (в виде толп, которые сметают крупу с полок в соседнем «Ашане») куда более явные, чем у проверенной новости из делового СМИ про падение цены на нефть марки Brent.

Что заставляет людей распространять слухи? Двое психологов из Гарвардского университета, Гордон Оллпорт и Лео Постман, опубликовали в 1947 году свой классический труд «Психология слуха» (The Psychology Of Rumor) по мотивам исследований, к которым их привлекли в разгар Второй мировой войны. После атаки японцев на Перл-Харбор в 1942 году стало ясно, что слухи составляют серьезную конкуренцию подцензурной печати. Чем больше правительство скрывает – тем больше простора для фантазии, и американскому президенту Рузвельту пришлось лично выступать по радио с опровержением историй о том, что японцы захватили Гавайи и вот-вот десантируются в Нью-Йорке.

Гипотеза психологов гласила: слухи объясняют людям их собственные страхи. Они позволяют избавиться от гнетущих иррациональных ощущений: вместо смутной тревоги и дискомфорта – понятная мысль «я боюсь японского десанта», а таким конкретным страхом уже не стыдно поделиться с другими. И даже необходимо. (Десять лет спустя это соображение уточнят и назовут частным случаем когнитивного диссонанса: слух – это инструмент для преодоления противоречий в сознании.)

Но по большому счету в 1947 году – за полвека до томографов и анализа больших данных, обычных для сегодняшних когнитивных наук, – это были скорее теоретические рассуждения. У Оллпорта и Постмана упоминается «1000 слухов, собранных по всем уголкам страны в 1942 году», которые ученые поделили по темам: 66 % «разжигающих рознь», 25 % – про страх, 2 % – про желания и еще 7 % «неклассифицируемых слухов». Классификация довольно расплывчатая, потому что слух про страх (перед японцами) запросто может разжигать рознь (между японцами и американцами), но эти детали остались за скобками. Никакой достоверной статистики у психологов военного времени не было и быть не могло.

И только шестьдесят с лишним лет спустя – благодаря Facebook – слухи стало возможно подсчитать и рассортировать.

* * *

В июне 2014 года четверо ученых – трое из исследовательской команды Facebook и один из Стэнфордского университета – попробовали подойти к делу математически и оценить масштабы явления в соцсетях в своем научном докладе «Каскады слухов», презентацию которого устроили на конференции Американской ассоциации искусственного интеллекта (AAAI){61}.

Подсчеты показали: слухов в нашей жизни неожиданно много. Только среди англоязычных записей в Facebook, сделанных за два месяца (с июля по август 2013 года), ученые насчитали 16 672 разных слуха, оформленных в виде вирусной картинки. Разные пользователи вывесили их к себе на стену в общей сложности 62 497 651 раз. А 62 млн человек – это чуть больше населения всей Италии и чуть меньше населения Великобритании.

Как это вычислили? И как отличали слухи от не-слухов? В базе данных Facebook есть масса популярных записей, которые распространяются так же стремительно, как свежие сплетни. Собирают те же тысячи лайков и репостов, но слухами не являются. Статьи про политику из газеты New York Times. Видеоклипы из YouTube. Фото из Instagram Ким Кардашьян.

Можно ли отделить одно от другого, не заставляя армию живых наемных работников бессонными ночами читать запись за записью и помечать подходящие галочкой? (Именно так – с помощью специальных «ферм модераторов» где-нибудь на Филиппинах – соцсети борются с детской порнографией и сценами насилия у нас во френд-лентах; но вряд ли компания решилась бы бросить те же ресурсы на удовлетворение своего научного любопытства.)

Оказалось, что можно. «Справочник по городским легендам» Snopes.com пришелся здесь как нельзя кстати.

Исследователи воспользовались известной человеческой слабостью: приятнее, чем делиться сплетнями, только указывать другим на их ошибки. В комментарии к страшилке про кока-колу или любому другому слуху в Facebook рано или поздно приходит кто-нибудь со ссылкой на Snopes.com покритиковать автора: это, мол, все ложь, а ты и твои читатели поддались на провокацию (или, не споря с изложенными фактами, просто сообщить: «эта история вот уже десять лет как бродит по интернету»).

Сами по себе обидные реплики и реакция на них ученых совершенно не интересовали. Им было важно, что ссылка на Snopes в комментариях к популярной записи – опознавательный знак слуха (иначе что разоблачать?), что-то вроде черной метки у пиратов из «Острова сокровищ»; под фото Ким Кардашьян ничего такого обычно не встретишь.

Больше того, теория вероятностей говорит, что таким способом – по комментарию со ссылкой на «справочник по городским легендам» – возможно отловить практически все каскады. Половина комментариев со словом «Snopes» приходит уже за первые 1,3 часа. В итоге шансы, что ключевое слово не встретится ни в одном из комментариев у всех тех сотен или тысяч человек, которые слухом поделились, ничтожные: меньше 0,7 %.

Авторы исследования решили для начала проигнорировать слухи, которые распространяются в формате текста (текст могут цитировать частями и видоизменять – а это сбивает поисковую программу со следа) и ограничиться слухами, оформленными как картинка. Часто это все тот же текст в новом качестве: демотиваторы, изображения с надписями или фотографии с поучительными историями под ними. Идея заключалась в том, что картинки сложнее редактировать пользователям и легче отслеживать ученым.

И вот некоторые выводы исследования в цифрах.

Рис. 2. Каскад одного слуха

Источник: статья Friggeri et al{62}.

32 % слухов в Facebook – про политику. Другие востребованные темы – медицина (8 %), еда (6 %) и преступления (6 %){63}. В классификации 1947 года это были бы типичные слухи «про страх» (еда: как нас травят McDonald’s и Coca-Cola; медицина: как прививки делают инвалидами; преступления: в городе маньяк, а власти скрывают).

Наконец, главное: слухи чаще запускают отдельные люди, чем команды, редакции и штабы. Они оказались самым демократичным из всего вирусного контента в интернете. Вот в каком смысле: если вы рядовой пользователь и мечтаете достучаться однажды до самой широкой аудитории, то запускать стоит не умилительную картинку с котятами и не демотиватор с выстраданной мыслью, а именно слух. Потому что вообще-то 94,2 % всех по-настоящему вирусных картинок (набравших 100 и больше перепостов за два месяца) впервые появляются не в личных дневниках, а на «страницах» (pages) Facebook. Это сообщества, которые, по правилам соцсети, могут создавать только «официальные организации, бренды и публичные фигуры». Страницы играют в соцсети роль СМИ и промосайтов и часто имеют свою редакцию с официальной зарплатой. У Cola-Cola в Facebook 91 млн подписчиков, у сериала «Симпсоны» – 69 млн. Вирусный контент давно стал занятием для профессионалов-рекламщиков, и одиночкам тут вроде бы не место.

Однако, несмотря на все их влияние, из каждых 100 ложных слухов со «страниц» запущены всего 49 (и 62 из каждых 100 правдивых), сообщает исследование{64}.

Каскад репостов слуха устроен как цепная ядерная реакция или как распространение вируса гриппа (отсюда поднадоевшее слово «вирусность»). Половина пользователей кликает по ссылке «Поделиться» – и физики назвали бы этот срок «периодом полураспада» – не позднее чем через 1 час и 54 минуты с момента, как слух появился у них во френдленте.

Но самое интересное наблюдение ученых – о судьбе правды и лжи в интернете.

* * *

Слух – это слух, даже если он правдивый. Важны не факты в чистом виде, а то, как люди сообщают их друг другу. Если вы получили из третьих рук порцию информации без ссылки на первоисточник, прямой или косвенной («видел своими глазами», «прочел на Forbes.Ru», «вчера в аэропорту объявили по громкой связи») – перед вами именно что слух.

Или если ссылка на источник заведомо туманная:

«Моему брату рассказывал его приятель».

«Один мой одноклассник слышал от своего родственника, который работает в ФСБ».

На Snopes напротив каждого сюжета в списке есть иконка-индикатор. Красный кружок означает, что это ложь от начала и до конца. Зеленый – что сюжет правдивый в целом, и это большая редкость: в Facebook таких слухов насчитали всего 9 % от общего числа.

Но есть масса промежуточных вариантов – между правдой и ложью.

Для ясности на Snopes.com всегда пытаются найти первоисточник. Кока-колу используют в Индии как пестицид, потому что для насекомых она смертельный яд? В 2004 году авторитетная британская газета The Guardian действительно опубликовала статью про крестьян из штатов Андхра-Прадеш и Чхаттисгарх, которые вместо дорогого синтетического концентрата (ценой в 120 фунтов стерлингов, или 10 000 рупий за бутылку) опрыскивают поля дешевой кока-колой местного разлива по 30 рупий за литр. Вправду ли это убивает насекомых-вредителей? Нет, но зато сладкие капли на листьях привлекают муравьев, которые заодно съедают и личинок жуков, вредных для хлопка и острого перца.

Так что идея, будто бы кока-кола – яд, которую пытались донести авторы вирусной картинки, – ложь. Пусть даже в основе этого слуха лежит самый настоящий факт. На сайте эта история помечена иконкой в виде зеленого круга с красной каймой, что значит «смесь правды и вымысла».

Бывает и так, что ложь притворяется правдой особенно убедительно. Мощное средство для создания ауры документальности вокруг чего угодно – фотография. «Фотография предоставляет свидетельства. О чем-то мы слышали, однако сомневаемся – но, если нам покажут фотографию, это будет подтверждением. ‹…› Фотографию принимают как неоспоримое доказательство того, что данное событие произошло», – писала в 1970-е в своей книге «О фотографии» философ и теоретик медиа Сьюзен Зонтаг{65}.

Двуногий верблюд с обложки книги – один из героев Instagram-канала про живую природу с 834000 подписчиков. Ему, сообщала подпись к фото[7], не повезло наступить на противопехотную мину – и животное потеряло обе задних ноги. Хирургам удалось вернуть его к жизни. Верблюд, научившись стоять снова, немедленно подружился с группой страусов, которые приняли его за своего. Разоблачители с сайта Snopes.com[8] без труда отыскали оригинал снимка (где задний план и передняя часть верблюда те же, а ног, разумеется, четыре), но все равно в Instagram нашлись 78000 человек, которые поставили картинке лайк.

А легко ли соврать с помощью неотретушированной фотографии? На снимке – большое и древнее хвойное дерево, секвойя или очень толстая сосна (рис. 3). Прямо из толщи ствола выглядывают руль и колесо велосипеда. Ржавый и слегка погнутый, он висит чуть выше человеческого роста – и если внимательно приглядеться, то можно понять, что велосипед детский, а модель очень старая. Подпись к картинке обычно сообщает: «Мальчик оставил свой велосипед привязанным к дереву и ушел на Первую мировую в 1914-м. Он не вернулся с войны, и велосипед со временем врос в дерево». Легко проверить, что это не фотошоп: есть масса снимков в других ракурсах. Несложно даже выяснить место действия: остров Вашон, штат Вашингтон, США, где в лес с необычным деревом возят толпы туристов. Скептики могут съездить и убедиться: фотография не врет.

Врет подпись. В 2009-м местные журналисты отыскали владельца велосипеда. Им оказался местный пенсионер по имени Дон Паз, который не только не погиб на Первой мировой войне, но и родился намного позже, в 1945-м, в год окончания Второй мировой. В 1954 году семья Дона пережила пожар, и сочувствующие соседи отдали детям массу ненужных вещей – включая старый велосипед с шинами из цельнолитой резины, который 9-летнему ребенку с самого начала не понравился, потому что был слишком похож на трехколесный, на каких катаются малыши. Велосипед Дон без особого сожаления оставил в лесу в том же 1954 году, когда получил его в подарок, и вспомнил об этой истории только в нулевые, когда на острове заговорили о новой достопримечательности.

В 1994-м местный писатель посвятил «велосипеду на дереве» роман для подростков, где и появился впервые сюжет про мальчика, ушедшего воевать. В соцсети эта история проникла, разумеется, намного позже, но не перестала бродить до сих пор – и особенно часто всплывает в связи с разными военными юбилеями.

Такие снимки – настоящие, но с вводящей в заблуждение подписью, или намеренно отретушированные – исследователи из Facebook выделяют в отдельную категорию fauxtos, что можно перевести на русский как «фактшивка». Фото мертвого тела на тротуаре, прикрытого картонной коробкой, иллюстрирует новость об артобстреле Донецка украинскими силовиками? Это самый настоящий снимок военного фотографа, но 20-летней давности и из Чечни. Щенки сосут молоко у собаки с простреленной головой под петицией против живодеров, зачищающих Сочи накануне зимней Олимпиады 2014 года? Нигде не сказано прямо, что это снимок с места событий. Ту же фотографию удается отыскать среди записей за июнь 2012 года с подписью «Так очищали улицы перед Евро-2012» и с текстом «Остановите убийства собак в Сараево» в блогах 2009 года. Эмоциональная убедительность фотографий конвертируется в доверие к тексту под ними, который сам по себе, может быть, и не обманывает (у сочинских властей действительно имелся план по истреблению уличных кошек и собак, а по Донецку действительно била артиллерия), но без картинки не вызвал бы у нас настолько острого отклика.

Рис. 3. Велосипед на дереве

У правды, полуправды и неправды в форме слухов больше общего, чем различий. Акулы на затопленном шоссе во время наводнения в Хьюстоне – поддельная фотография. А трехголовая этрусская скульптура демона, выполненная из терракоты и датированная V веком до н. э., которая выглядит точь-в-точь как Маркс – Энгельс – Ленин на советских барельефах, – реальная картинка. Но расходятся та и другая молниеносно.

Есть ли вообще разница в том, как распространяются правда и неправда? У правдивых слухов чуть длиннее цепочки репостов – в среднем их 163 на одну загруженную картинку против 108 перепостов у ложных. А разоблаченную неправду чаще удаляют сами пользователи: после комментария со ссылкой на Snopes.com перепост ложного слуха имеет в 4,4 раза больше шансов быть стертым, чем перепост правдивого. Но в обоих случаях число таких стертых постов – малая часть от числа нестертых{66}.

* * *

Одна из самых популярных категорий слухов, к которой команда Facebook относит 11 % всех сюжетов (включая историю про «5 пятниц, 5 суббот и 5 воскресений») – так называемые письма счастья. Все они сообщают вот что: прочитали сообщение – разошлите как можно больше его копий. Если разошлете – станете счастливы в ближайшие двое (трое, четверо, девять) суток, а если прервете цепь – вас накажет судьба. Описание несчастий, случившихся с теми, кто не послушался, и истории того, как послушные распространители были вознаграждены («Миссис Сэнфорд выиграла 3000 долларов в лотерею. Миссис Андрес выиграла 1000 долларов. Миссис Хоув прервала цепь и лишилась всего, что имела»), – обычно часть текста, который предлагается скопировать. Как правило, смысловое ядро письма счастья – слух, объясняющий его происхождение и сверхъестественную силу.

Дарья Радченко из РАНХиГС, один из ключевых исследователей таких писем в России, приводит в пример свой любимый сюжет: «12-летний мальчик на берегу встретил Бога. Мальчик был болен. Бог ему сказал: распространи это письмо, тогда выздоровеешь. Мальчик переписал 20 копий этого письма – и выздоровел. Одна семья переписала это письмо, и у них было все хорошо, другая семья не переписала это письмо, и у них было все совершенно ужасно. Перепишите это письмо, это письмо ходит с 1935 года по всему миру. Аминь, аминь, аминь». Дарья говорит: «Это письмо было крайне популярно в СССР в конце 1980-х – начале 1990-х годов. И абсолютно тот же самый текст мы встречаем в исламском варианте. Самое интересное, что там 12-летний мальчик становится 12-летней девочкой. Почему, я не знаю. Казалось бы, все должно быть ровно наоборот»{67}.

История их распространения – пример всемирной сети, которая намного старше Facebook и интернета. И намного раньше изобретения компьютера стала удовлетворять потребность людей в недостоверном знании. Двадцать лет назад, в 1995-м, письма счастья уже пересылали друг другу по электронной почте. А пятьдесят и сто лет назад их переписывали от руки на бумаге, заклеивали в конверт и опускали в железные почтовые ящики по всему миру.

«Письма счастья – типичный пример того, как информация пересекает абсолютно все границы. Не признает ни государственных границ, ни языковых, ни культурных. Кто-то внезапно берет на себя труд перевести письмо с одного языка на другой и распространить его уже в новой языковой среде. Таких примеров очень много. Один и тот же текст циркулирует по всему земному шару», – говорит Дарья.

Когда появились самые первые письма счастья? «Вообще-то это вопрос из серии “Когда обезьяна стала человеком?” – Дарья объясняет, почему конкретную дату назвать нельзя. – В России бытовали тексты – по крайней мере, в XVII и XVIII веке они уже точно были, – которые содержали в себе призыв распространять это письмо дальше. Сначала они формулируются таким образом: переписывайте друг у друга это письмо, кто грамотный, и читайте его вслух. Эти тексты имели хождение в городской среде, в среде старообрядцев, среди которых было достаточно грамотных. А где-то в начале XIX века появляются немного другие тексты, которые уже призывают делать определенное количество копий».

Такая эпидемия рассылок вовлекает не одних наивных крестьян, которые только-только научились читать, но и людей по всем меркам продвинутых. «Вот, например, очень традиционный текст святого письма, в распространении которого замешан Николай Васильевич Гоголь. Следующего содержания: в Иерусалиме, во время богослужения, с неба упала молитва. Перепишите эту молитву девять раз, и у вас все будет прекрасно. В середине XIX века этот текст начал распространяться на территории России. Потом его подхватили самые разные люди, он ушел в Штаты, в Англию. Блок, кстати, тоже замешан в распространении этого текста. И Любовь Дмитриевна Менделеева-Блок. И он бытует до середины XX века. Прекращает свое бытование, циркуляцию по всей Европе – и по крайней мере по Северной Америке гарантированно – только во время Второй мировой войны».

Дарья Радченко – сотрудник Лаборатории теоретической фольклористики, а современные письма счастья и слухи в Facebook интересуют ее как примеры постфольклора: «Мы делаем мониторинг актуального фольклора. То есть всего такого горячего, животрепещущего, что происходит прямо сейчас».

С подачи школьных учителей литературы мы при слове «фольклор» представляем себе прибаутки, былины, пословицы и поговорки, которыми на фоне бревенчатых изб разговаривает «простой народ» в вышиванках и сарафанах. И никак иначе. Однако невозможно представить, чтобы всем этим декоративно-народным арсеналом пользовались в реальной жизни люди, которые смотрят телевизор.

Пусть даже какие-нибудь былины – мертвый жанр (как заявил филолог Сергей Неклюдов, профессор РГГУ и автор понятия «постфольклор»). Все равно психологические механизмы, которые заставляли людей обмениваться информацией в такой форме, никуда за сто или двести лет не исчезли. «Фольклористов вообще сложно удивить. Фольклорист – это такая говорливая рыба Григорий, которая заявляет: “А в XIII веке было ровно то же самое”», – с профессиональной гордостью замечает Дарья Радченко. И если средневековый крестьянин воображал себе реки с кисельными берегами в сказочной стране Кокань (рис. 4), то офисные служащие, движимые теми же мотивами, рассказывают друг другу в соцсетях и в курилке историю про работу мечты в Антарктике – переворачивателем пингвинов.

Пингвины якобы задирают голову от любопытства, когда над ними пролетает вертолет или самолет, теряют равновесие, падают на спину и не могут самостоятельно подняться, потому что они птицы жирные и неповоротливые – но тут на помощь приходит переворачиватель и помогает им встать на ноги. Само собой, эта история тоже есть на Snopes.com, со статусом «ложь» (красный кружочек). В 2001 году британские полярники специально наблюдали за поведением пингвинов на Фолклендских островах – и ничего такого не обнаружили. При первых звуках вертолета пингвины просто разбегаются врассыпную. Мечта о счастливых местах, где не надо заниматься скучным каждодневным трудом, оказывается такой же недостижимой, как в Средневековье.

Рис. 4. «Страна Кокань» Брейгеля

У современных слухов, имитирующих новостные заметки, тоже может запросто обнаружиться совершенно средневековая схема и логика. «На Украине в прошлом году распространился сюжет о дедушке, который принес на блокпост банку с медом, и там оказалась взрывчатка. С одной стороны, у дедушки было имя-фамилия, называли фамилии пострадавших. Но типологически это классический слух об отравлении источников».

И если африканцы, как и тысячу лет назад, верят, что с помощью колдовства у мужчины можно похитить пенис (это реальный случай массовой истерии в Центральной Африке), то пользователи соцсетей из России, Америки и Европы делятся друг с другом страшными историями о «черных трансплантологах», которые обманом изымают у людей органы. Парень познакомился с девушкой, привез ее к себе домой – а проснулся в ванне, обложенный льдом, с запиской «Спасибо за почку». Родители оставили ребенка в детской комнате IKEA, вернулись – результат тот же. Этот средневековый страх оказался особенно востребован в контексте свежих новостей. «Возникают слухи об ампутации каких-нибудь частей тела у попадающих в плен военнослужащих Украины или, наоборот, Новороссии. Слухи о кастрации. Слухи об ампутации пальцев. Возникает очень неожиданный в некотором смысле слух о захоронении убитых военнослужащих под видом медицинских отходов, чтобы скрыть факт боевых потерь. Такого в принципе раньше не встречалось», – рассказывает Радченко.

Слухи этого сорта бьют по эмоциям сильнее, чем новости. Одно дело – ввели войска, убили стольких-то солдат, и совсем другое – «продали наших убитых на органы американцам».

Но самое главное – даже не эмоциональный градус каждого отдельного слуха, а система взглядов, где слухам есть место. Чтобы поверить в «черных трансплантологов» или секретных отравителей, человеку нужны готовые ответы сразу на много вопросов: какие силы все это подстроили? Почему об этом молчат газеты и информацию приходится получать окольным путем? Целостную картину мира, где всему этому есть объяснение, предлагают теории заговора – и о них две следующие главы.

Краткое содержание главы 6

1. Нелогичность и внутренние противоречия не мешают слуху собрать больше миллиона репостов в Facebook.

2. Проверить, правдив ли слух, можно на сайте Snopes.com: здесь двадцать лет собирают городские легенды и расследуют, откуда каждая взялась.

3. Психологи утверждают, что слухи помогают людям справиться с чувством тревоги. Если сказать себе, что ты боишься чего-то конкретного – будь то нападение марсиан или закрытие границ, – жить сразу становится проще. Отсюда спрос на выдуманные угрозы.

4. Исследовательская команда Facebook впервые сосчитала слухи и выяснила, что опровержения почти не мешают им распространяться. Самая популярная тема слухов – политика, потом идут медицина, еда и преступления.

5. Слух – это не обязательно ложь. Самые заразительные из слухов могут происходить от реальной новости в авторитетном СМИ, но только трансформированной до утери исходного смысла.

6. Фотография – гарантия успеха городской легенды.

Чей-нибудь портрет над текстом делает любую сомнительную историю намного правдоподобней.

7. Письма счастья стали массовым явлением еще до Первой мировой войны. Те же сюжеты столетней давности продолжают распространяться в современных соцсетях.

8. Современные слухи – часть фольклора. В среде офисных работников они играют ту же роль, что легенды о чужих странах у неграмотных крестьян.

Глава 7

Почему в Лох-Нессе пусто – и в мировом правительстве тоже

Что такое конспирология

С помощью сетевого анализатора ценой в 250 тысяч долларов мы убедились, что шапочки из фольги ослабляют радиоволны, приходящие со всех сторон… но некоторые частоты на самом деле серьезно усиливаются.

Эти усиливаемые частоты относятся к радиодиапазонам, которые, по данным Федерального агентства связи, закреплены за правительством.

Страница, удаленная с сайта Массачусетского технологического института; копия из веб-архива{68}

Знаменитая фотография лохнесского монстра – из воды озера торчит темная изогнутая шея ящера с небольшой головой – была напечатана на первой полосе британской газеты Daily Mail в апреле 1934 года. Это не первый снимок гипотетического чудовища (первый сделали годом раньше), но зато самый четкий и недвусмысленный. Людям с фантазией не потребовалось больших усилий, чтобы заподозрить в чудовище выжившего динозавра.

Среди людей, убежденных в существовании монстра, были и политики, и ученые – такие как доктор Деннис Такер, ведущий научный сотрудник лондонского Музея естественной истории и зоолог с мировым именем. В 1959 году он написал письмо в журнал New Scientist, где рассказал, что лично видел «неизвестное животное» в озере и что это, вероятно, плезиозавр – гигантская водоплавающая рептилия, известная науке по окаменелым скелетам.

Убеждения стоили Такеру карьеры – уже в 1960-м его уволили, и больше он не занимал никаких научных постов. Серьезному ученому, решило начальство музея, не пристало рассуждать про Несси публично.

Из всех озер Великобритании озеро Лох-Несс посреди Шотландского высокогорья – самое объемное. Но не очень древнее. Динозавры вымерли 65 млн лет назад, а на месте Лох-Несса еще 10 тысяч лет назад, во времена последней ледниковой эпохи, был каньон, заполненный доверху льдом и накрытый ледовым щитом сверху. Как сейчас в Антарктиде. Поэтому профессиональное сообщество биологов с самого начала с предельным скепсисом отнеслось к идее, что одинокий динозавр мог переждать все эти миллионы лет в шотландском озере. Как и вообще к идее, что кто-то может спрятаться на долгие 65 млн лет.

Однако ученые знают, что из правил бывают исключения. В тех же 1930-х рядом с Коморскими островами в Индийском океане случайно выловили современника динозавров, кистеперую рыбу – целаканта, которая вот уже 70 млн лет числилась вымершей. Это живое ископаемое – тяжелое, чешуйчатое, размерами с взрослого человека – считали исчезнувшей переходной формой между рыбами и земноводными: целакант умеет пользоваться плавниками как лапами для ходьбы по дну и выглядит совершенно неправдоподобно. А на глаза ученым он не попадался исключительно из-за своей чрезвычайной редкости: за пятьдесят лет с момента открытия по всему миру выловили всего считаные десятки особей.

Может быть, и лохнесский плезиозавр – такое же исключение из правил?

Даже когда снимок 1934 года спустя годы был разоблачен как мистификация (один из ее авторов в старости рассказал журналистам, как для предстоящей постановочной съемки приделывал макет «шеи» и «головы» к игрушечной субмарине), образовалась масса новых свидетельств – смазанные видео, зернистые снимки и бесконечные рассказы очевидцев, как над водой «что-то показалось и тут же исчезло». Можно долго спорить, в каких случаях это была крупная рыба, в каких выдра, а в каких заплывший в озеро по каналу тюлень. Но ученые-экологи (которых вопрос про монстра интересовал не в первую очередь) однажды предложили более универсальное рассуждение, которое годится не только для Лох-Несса, но и для целого класса наших представлений о политике и вообще устройстве мира.

В январе 2014 года профессор Уильям Риппл из Орегонского университета и 13 его коллег напечатали в журнале Science статью «Статус и воздействие на экосистему самых больших в мире хищников»{69}, где буквально объясняется, как именно вычислить льва по когтям. Точнее, как присутствие любого из 31 крупнейшего хищника планеты – от тигра до морской выдры – выдает их след в экосистеме. Мы можем ни разу не встретить медведя, отпечатков его лап или задранных им коров, но при этом твердо знать, что он есть в нашем лесу, по колебанию численности других видов.

Экологи научились отслеживать довольно тонкие – и неочевидные – эффекты. Например, из-за отстрела волков вымирают дубы и вязы (их обгрызают олени, которых волки едят). В роли индикатора могут выступать даже люди. Например, как связаны численность павианов и падение грамотности в Африке? Очень просто. Африканские дети, вместо того чтобы ходить в школу, вынуждены охранять посевы от голодных обезьян. Меньше львов и леопардов – больше павианов, ну и так далее.

Есть простое правило: если хищник весит 90 килограммов, рядом должны водиться 10 тонн дичи. Для десятитонного тираннозавра счет пойдет уже на тысячи тонн. И чем хищник тяжелее, тем большая территория прямо зависит от его присутствия или отсутствия.

Это рассуждение ставит крест на криптозоологии – идее, что в шотландском озере может прятаться незамеченный древний ящер, а по заснеженным горам – бегать мохнатый бигфут[9]. Динозавру в озере слишком мало рыбы, а бигфут сдохнет от голода на леднике.

Но логика ученых отлично годится для борьбы с конспирологией в широком смысле – идеей, что где-то сидит тайное мировое правительство, а папа римский или Обама – марионетка невидимых сил.

Как бы нам ни рисовало воображение эти силы – в виде «совета девяти», строящего козни при свете факелов, или масонской ложи, – это, прежде всего, организация, которая воплощает свои цели в жизнь. Значит, ей необходим нешуточный бюрократический аппарат. А не заметить большую контору нельзя чисто физически, даже если она затаилась в глубоком тылу.

ЦРУ на своем сайте хвалится историей, как в 1959 году вычислило расположение засекреченного атомного завода в СССР по одной журнальной фотографии пульта электростанции в Екатеринбурге из «Огонька». Аналитики прикинули, кто на Урале и в Сибири потребляет электричество – производства, крупные города, – и методом исключения нашли на пульте неподписанные циферблаты, имеющие отношение к «неопознанному атомному комплексу». После этого рассчитать масштабы производства оружейного урана и плутония (в закрытых городах Озерске, Новоуральске и Лесном) было делом техники.

Завод потребляет электричество. А мировое правительство или суперсекретная спецслужба должна потреблять людей – от секретарш до первоклассных математиков. Упустить из виду гигантские потоки кадров в «секретную зону» так же сложно, как не заметить, что зайцев в лесу кто-то начал есть.

Перед началом Второй мировой физик Флеров легко вычислил, что в США начался ядерный проект, потому что из открытой печати исчезли публикации лучших ядерных физиков.

Тот же метод позволяет утверждать, что в запасниках ЦРУ уже десять лет как не пылятся летающие тарелки или квантовый компьютер для взлома криптостойких шифров. Их создание потребовало бы изъять из открытой науки слишком много знаковых персонажей. Не требуется быть аналитиком спецслужб – каждый может зайти в Google Scholar и пролистать список научных статей того или иного ученого за разные годы.

Любителям теории заговоров эти вопросы не приходят в голову, потому что в волшебном мире конспирологии ресурсы зла (в том числе люди) неисчерпаемы, как патроны в компьютерной игре. А львы, медведи и динозавры запросто умещаются на одной поляне, как в диснеевском мультфильме.

Кто верит в теории заговора

Устойчивый символ конспирологии – шапочки из фольги. Их тоже придумал биолог – Джулиан Хаксли, будущий первый глава ЮНЕСКО, автор термина «трансгуманизм» и старший брат Олдоса Хаксли, сочинителя антиутопии «О дивный новый мир». В 1927 году Джулиан напечатал фантастический роман, где главный герой, ученый, научился просвечивать лучами телепатии чужой мозг, а единственным способом спастись от просвечивания было обернуть голову фольгой.

С чем ассоциируется конспирология сегодня? С малочисленными фриками где-то на периферии общества, которые сражаются с мировым правительством рептилоидов, подозревают власти в сокрытии правды об НЛО и защищают мозг от психотронного излучения теми самыми шапочками. (К слову сказать, в Массачусетском технологическом институте, где физики со времен Фейнмана шутят без перерыва, не поленились проверить, вправду ли шапочка из фольги экранирует мозг от разного сорта излучений. К ужасу конспирологов, ученые заявили, что для некоторых радиоволн она, наоборот, работает как антенна-усилитель. Например, для частот из закрытого для радиолюбителей диапазона, который зарезервирован правительством США для специального класса спутников. Исследование, правда, оказалось студенческой шуткой, но до сих пор на него много где ссылаются всерьез.)

Психолог Роб Бразертон из Лондонского университета Голдсмитс, автор вышедшей в ноябре 2015-го в США и Великобритании книги «Недоверчивые умы»{70}, в первую очередь спорит со стереотипом про горстку фриков.

Теории заговора – это как религия в Средние века: речь идет об искренней и буквальной вере сотен миллионов людей.

Выступления Дэвида Айка, которому принадлежит идея о тайном мировом правительстве рептилоидов-архонтов, собирают полный 90-тысячный стадион Уэмбли – тот самый, где играли футбольные матчи Олимпиады в Лондоне. Больше половины американцев подозревают, что президента Кеннеди не мог убить одиночка-психопат (а правду правительство скрывает). От 10 до 30 % считают высадку на Луну в 1969 году инсценировкой. Ладно бы речь шла про самых консервативных и неграмотных, но «Комитет по изучению убийства Кеннеди» (где приняли за аксиому, что убийца Ли Харви Освальд – марионетка, а официальное расследование – операция прикрытия) основал не кто иной, как нобелевский лауреат Бертран Рассел, один из отцов современной математической логики и аналитической философии. Сейчас теории заговора защищают люди масштаба профессора-лингвиста Ноама Хомски и режиссера Оливера Стоуна (три «Оскара») – таких особенно любит цитировать телеканал RT в качестве независимых американских интеллектуалов.

Поэтому чтобы изучать теории заговора как феномен массового сознания, определением «картина мира городских сумасшедших» уже не обойтись. Для начала, про какие «заговоры» речь? Обычно теория заговора имеет дело не с какой-то историей про заговорщиков, а с заговором-прямо-сейчас, который ставит целью что-нибудь от нас скрыть. Агенты ЦРУ убили Кеннеди полвека назад, но правительство и сейчас не хочет предавать этот факт огласке. Врачи сговорились скрывать, что прививки вызывают аутизм. Вирусологи выдумали СПИД, но до сих пор притворяются, что вирус существует. Пропавший над океаном лайнер MH370[10] спрятан в ангаре NASA, а над его пассажирами ставят опыты секретные ученые.

Бразертон уверен: общий знаменатель для всех этих утверждений не какой-нибудь сквозной сюжет, а одинаковый набор когнитивных ошибок в комбинации с искренним желанием рассуждать логически. Есть разные потребности мозга, с которыми теории заговора позволяют справляться. Поэтому для психолога конспирология – это не набор конкретных суждений («башни-близнецы взорвало ЦРУ», «миром правят масоны»), а состояние ума, которое создает в них потребность. Например, боязнь хаоса: нам комфортнее списывать разные катастрофы – от автомобильных аварий до стрельбы психопата по детям в школе – на злую волю какой-нибудь могущественной силы («масоны желают убрать свидетелей», «ЦРУ хочет настроить граждан против владения личным оружием»), которая действует по плану, чем на слепой случай, который может уничтожить нас вообще безо всякой причины.

Эту гипотезу – про боязнь хаоса – нашли изящный способ проверить на опыте. Одни добровольцы заполняли анкеты за компьютерами в стерильной обстановке, других усаживали за захламленные офисные столы с грудой чужих вещей. Вторые куда охотнее ставили галочку в окошке «скорее верю, чем нет» под каким-нибудь утверждением вроде такого: «миром управляют влиятельные непубличные люди, а политики просто исполняют их приказы». Такую же связь нашли между верой в теории заговора и неуверенностью в будущем: чем ниже ваша социальная защищенность – тем выше доверие к теориям заговора.

Пределы доверчивости решили выяснить семеро исследователей из Италии и один из США. Они стали следить за судьбой откровенных пародий на теории заговора, запущенных в сеть троллями. Белые следы, которые тянутся за самолетами в небе, содержат активное вещество виагры, потому что правительство желает контролировать нашу сексуальность? Сок лимона помогает не поддаваться гипнозу? Эту последнюю новость перепостили 45 тысяч пользователей. Ученым было интересно выяснить, кто все эти люди. 78 % комментаторов и 80 % тех, кто поставил «лайк», оказались постоянными потребителями других конспирологических историй. Если вы не верите, что американцы летали на Луну, и считаете, что сбитый над Донбассом «Боинг» западные спецслужбы заранее нашпиговали трупами, – вы, может быть, и причисляете себя к радикальным скептикам, но куда охотнее клюнете на любой неправдоподобный бред про лимоны и гипноз, лишь бы он выдавал себя за скрытое знание, отвергаемое официальной наукой.

Насколько парадоксально мыслят конспирологи, продемонстрировали в 2012 году психологи из Кентского университета{71}. Возьмем две группы людей. Одни убеждены, что британская принцесса Диана, погибшая в автокатастрофе в 1997 году, на самом деле инсценировала свою смерть и живет теперь под чужим именем где-нибудь в Аргентине. Других устраивает официальная версия. Еще одна теория заговора гласит, что гибель принцессы Дианы подстроила королевская семья. Попробуйте догадаться, где у этой версии больше сторонников – в первой группе или во второй? Как ни странно, в организованное убийство принцессы охотнее верят те, кто считает, что она жива и никакой аварии не было. Закон исключенного третьего («принцесса либо жива, либо мертва») для конспирологов не работает.

При этом конспирологи утверждают, что главный их инструмент – голая логика, потому что экспертное знание извне («навязанное заинтересованными лицами»), ясное дело, не заслуживает доверия. «Вместо того чтобы противостоять рационализму, конспирологическое мышление на самом деле на удивление хорошо согласуется с идеалами Просвещения», – пишут Крис Флеминг и Эмма Джейн{72}, исследователи теории заговора из Университета Западного Сиднея и Университета Нового Южного Уэльса в Австралии.

«Во всем сомневаться» – знаменитый принцип методологического сомнения, провозглашенный Декартом. Критика безусловных авторитетов – то, что позволило науке преодолеть тысячелетние заблуждения и развиться до нынешнего состояния: раньше не было принято спорить с классиками, и если Аристотель утверждал, что у насекомого подёнки четыре ноги – значит, следовало верить ему, а не своим глазам (у всех насекомых по шесть ног).

Именно мы, заявляют конспирологи, позволяем себе «думать своей головой» – в отличие от остальных, которые дают себя оболванить «официальной историей». Перед выстрелом рядом с машиной Кеннеди появляется человек с зонтом, хотя день ясный и на небе ни облачка, и раскрывает свой зонт за секунду до того, как пуля пробьет президенту голову, – что это, если не сигнал стрелку от заговорщика, которого официальное следствие предпочло не заметить?

Покупатели книги про рациональное мышление «Супермозг. Думай как Шерлок Холмс» Марии Конниковой{73}, колумниста респектабельного журнала New Yorker, и любители самостоятельных расследований про роль ЦРУ в убийстве Кеннеди и подрыве башен-близнецов 11 сентября – часто одни и те же люди. «Собака, которая не залаяла» из «Записок о Шерлоке Холмсе» – дежурная метафора у конспирологов: обращайте внимание, говорят они, не на те детали, которые есть, а на те, которых нет. На Луне не бывает пасмурно, но на фото Нила Армстронга, когда он втыкает американский флаг в лунный грунт, в небе нет ни одной звезды – что это, если не доказательство, что высадку на Луну снимали в павильоне?

На этом последнем примере легко понять, почему логика без экспертного мнения – штука довольно бесполезная. Знание, что звезды – слишком слабый источник света и оставляют хоть какой-то след на фотопленке не меньше чем за несколько секунд, приходит ко всякому профессиональному астроному еще во время практики по астрофотографии в университете. Если у вас такой практики не было, вы можете сколько угодно читать новости про космос и популярные книги по астрономии – из них запросто можно узнать, как обстоят на Луне дела с погодой, атмосферой и силой тяжести. Но простое практическое соображение, что Армстронга на Луне снимали под прямыми солнечными лучами с короткой выдержкой (в сотые доли секунды), и звезды просто не успели отпечататься, не-эксперту дается с трудом.

По Бразертону, самая популярная когнитивная ошибка – переоценивать степень своего понимания даже хорошо знакомых вещей (применительно к которым понятие «эксперт», казалось бы, вообще не имеет смысла). Вот, скажем, велосипед, который нас всю жизнь учат «не изобретать» – настолько это простая конструкция. Психолог Ребекка Лоусон из университета Ливерпуля давала своим подопытным набросок велосипеда – заднее колесо, переднее колесо, сиденье, верхняя перекладина рамы, руль – и предлагала его закончить (рис. 5). Нужно было дорисовать – схематично, без подробностей – недостающие детали. Прежде чем читать дальше, попробуйте сами.

Рис. 5. Набросок велосипеда

Перед рисованием все заполняли анкету. На вопрос «Как вы сами оцениваете свое знакомство с велосипедами (по 7-балльной шкале)?», большинство опрошенных выставило себе оценку от 4 до 5, разумно предполагая, что каких-то тонкостей они могут и не знать. Но у 40 % выполнивших тест нарисованный велосипед просто не имел шансов поехать. Испытуемые соединяли рамой переднее и заднее колеса (и тогда руль невозможно повернуть), помещали педали на ось одного из колес или соединяли колеса цепью (рис. 6). Те же 40 % допустили хотя бы одну ошибку, даже когда им предложили выбирать из уже нарисованных вариантов расположения педалей, рамы и цепи. По результатам участники эксперимента с удивлением признавались «Я не знал, что я этого не знаю»{74}.

Рис. 6. Законченные рисунки велосипеда

История, медицина, наука о климате и наука о лунных ракетах открывают куда больше, чем механика велосипеда, возможностей не знать, что вы чего-то конкретного не знаете. Лучший способ это обнаружить – проговаривать историю максимально конкретно, но теории заговора тем и отличаются, что допускают сколько угодно неизвестных. Поэтому ошибку в рассуждениях найти особенно тяжело. Так теории заговора изящно удовлетворяют нашу потребность мыслить логически, не создавая дискомфорта и когнитивного диссонанса, неизбежного при решении головоломок реального мира.

Если вы не пробовали решать свои проблемы таким способом, попробуйте демоверсию жизни в шапочке из фольги. Бразертон делится правилами игры, которую придумал историк Роб Макдугал: вам называют исторического персонажа – а вы должны экспромтом доказать, что тот участник многовекового заговора вампиров против человечества. Пример: Генри Форд подстегнул промышленную революцию XX века, чтобы по всему миру дым из заводских труб преграждал путь солнечным лучам (вампиры не любят солнца), а Эдисон изобрел лампочку, чтобы люди привыкали к жизни в темное время суток. Легко войти во вкус и почувствовать, как аргументы материализуются из воздуха и сами выстраиваются у вас в голове в стройные цепочки.

Краткое содержание главы 7

1. Мировой закулисы нет по тем же причинам, по которым в озерах не живут динозавры.

2. Шапочки из фольги не экранируют, а только усиливают сигналы со спутника (это шуточное студенческое исследование, но его всерьез обсуждают на форумах конспирологов).

3. В теории заговора верят не только фрики в шапочках из фольги, но и подавляющее большинство обычных людей.

4. Степень убежденности в заговоре зависит не от доказательной силы фактов, а от вашего психологического комфорта. Например, убрано ли у вас на рабочем столе и не собираются ли вас уволить с работы.

5. Больше всего на свете конспирологи хотят чувствовать себя рациональными людьми. «Мы думаем своей головой, а вас зомбируют».

6. Конспирологическое мышление – результат особого сорта незнания: вы не знаете, что не разбираетесь в самых простых вещах вроде конструкции велосипеда.

Какие бывают теории заговора

Большой адронный коллайдер – это на самом деле «лодка Осириса». Физики только прикрываются словами про бозон Хиггса и суперсимметрию, а на самом деле хотят через подпространственный туннель привести на Землю дреевнеегипетского бога.

«Боинг-777», который следовал рейсом MH17 из Амстердама в Куала-Лумпур и был сбит над Донецком, – тот же самый самолет, который пропал за полгода до этого над Индийским океаном. Западные спецслужбы заранее наполнили его трупами, чтобы выдать их за тела погибших пассажиров.

Следы за самолетами в небе – это химикаты, которые распыляют спецслужбы, чтобы воздействовать на нашу психику.

Ученые сами закопали кости динозавров под землю, чтобы поставить под сомнение Библию.

Какие подтвержденные факты (из энциклопедий, официальных расследований и научных журналов) легко принять за теорию заговора

Facebook избирательно показывает только грустные или только веселые записи друзей, чтобы манипулировать нашим настроением (см. главу 9).

ЦРУ в 1950-х испытывало психоделик LSD в качестве «сыворотки правды» и давало его ничего не подозревающим людям (результат официального расследования, проведенного конгрессом США в 1970-е{75}).

Прививки могут быть операцией прикрытия спецслужб, чтобы добыть ДНК ваших детей – именно таким способом ЦРУ выслеживало (и выследило) бен Ладена в Пакистане{76}.

ФБР может следить за вами через веб-камеру ноутбука, не зажигая огонек-индикатор, который показывает, что камера работает (расследование Washington Post{77}).

Камни древнего святилища Стоунхендж на самом деле поставлены туда, где они стоят сейчас, при помощи подъемных кранов в 1958 году (это была реставрация, хронику вел журнал National Geographic{78}).

Глава 8

Теория разоблачения: свисток в кармане

Как быстро вскрылся бы лунный заговор, и чем грозят мозгу заговорщиков ложь и секреты

Я услышал, как мама в коридоре сказала кому-то:

– Тайное всегда становится явным.

И когда она вошла в комнату, я спросил:

– Что это значит, мама: «Тайное становится явным»?

– А это значит, что если кто поступает нечестно, все равно про него это узнают, и будет ему очень стыдно, и он понесет наказание, – сказала мама.

Виктор Драгунский

Рассказ «Тайное становится явным»

Что если лекарство от рака давным-давно изобрели, но официальной медицине выгодней его прятать и зарабатывать сотни тысяч долларов на страданиях обреченных пациентов? Вариант: рак запросто лечится чем-нибудь общедоступным, вроде брокколи, пищевой соды или профильтрованной мочи – и тут, конечно, фармкомпании мешают этому знанию уйти в массы, чтобы и дальше навязывать за бешеные деньги свои химические препараты простым больным людям. Эти теории заговора с удивлением пересказывал еще в 1980 году The Journal of the American Medical Association{79} – чтобы врачи знали, из каких соображений пациенты время от времени внезапно отказываются от химиотерапии или операции на тех стадиях, когда это еще может помочь.

Дэвид Роберт Граймс, 31-летний ученый-биофизик из Оксфорда, несколько лет подряд вел колонку про вредные антинаучные заблуждения в британской газете The Guardian. В какой-то момент ему, похоже, надоело читать однообразные комментарии под своими текстами, и он решил переключиться с критики на роль адвоката дьявола. Допустим, самые популярные теории заговора – правда. Как долго они могли бы продержаться нераскрытыми? Так появилось на свет исследование{80} в научном журнале PLOS One с двухэтажными интегралами из теории вероятностей, которое с тех пор не поленились просмотреть 230 000 человек: в мире академических статей это примерно как собрать на YouTube 100 миллионов просмотров.

«Заговор вокруг лекарства от рака» – один из четырех сюжетов, которые Граймс разбирает в своей научной статье; три другие – заговор вакцинаторов (прививки вызывают аутизм, а медики это скрывают), климатический заговор (глобальное потепление выдумали ученые) и лунный заговор (на Луну не летали). Что между ними общего? То, что для сокрытия правды в таких случаях нужны усилия тысяч и тысяч людей, которые эту правду знают.

В статье есть сводная табличка с числом предполагаемых заговорщиков. Лунный заговор: 411 тысяча человек – столько работало в NASA в 1965 году. Климатический заговор: 405 тысяч. Это Американский геофизический союз в полном составе, Королевское общество Великобритании плюс климатологи всех стран, которые публикуют статьи в международных научных журналах. В число 714 тысяч участников ракового заговора вошли только сотрудники крупных фармкомпаний, которым обязательно пришлось бы договориться между собой, чтобы никто не воспользовался добровольным отказом конкурента от революционного лекарства.

И чтобы секрет оставался секретом, каждому из этих сотен тысяч надо молчать до конца жизни. Заговор в каком-то смысле похож на надувной шар: достаточно одного, самого маленького, прокола в любой точке, чтобы он пришел в негодность. Образцово-показательный пример – Эдвард Сноуден, вскрывший программу массовой прослушки Агентства национальной безопасности.

У человека может быть миллион мотивов выдать самый секретный секрет, даже если он верит, что за это с ним поступят как с предателями в художественных книжках про Главное разведывательное управление. Кто-то захочет отомстить за увольнение с работы в космическом центре. Кому-то пятнадцать минут славы разоблачителя могут показаться интересным опытом на излете карьеры. Кто-то может озаботиться общественным благом в ущерб корпоративным ценностям. Например, если этот человек – не профессиональный разведчик, а один из десятка тысяч обычных врачей, которые должны были бы – будь теория заговора верна – то и дело сталкиваться с серьезными последствиями прививок и с тяжелым сердцем скрывать их от широкой публики.

В английском есть слово whistleblower, описывающее как раз такие ситуации, – для него не существует точного перевода (если переводить буквально, будет «дующий в свисток»), а ближайшие русские эквиваленты по смыслу – «осведомитель», «разоблачитель», «предатель», «перебежчик» или «стукач». Но в английском в него заложена совсем другая оценка. Словарь Merriam-Webster приводит определение «человек, который сообщает полиции, репортерам и так далее про что-нибудь (вроде преступления), что держали в тайне» и добавляет, что слово в ходу с 1970-х. Так называли, например, американского рядового Брэдли Мэннинга, который передал WikiLeaks порцию документов про военные преступления в Ираке (и не только). Журнал Time, который время от времени объявляет человеком года собирательных персонажей, в 2002-м вынес слово whistleblower на финальную обложку и разместил там сразу троих «дующих в свисток». Можно сказать, что в 2017 году ситуация повторилась – «человеком года» Time объявил нескольких женщин, рассказавших, как продюсер Харви Вайнштейн и другие знаковые фигуры Голливуда принуждали зависимых от них людей к сексу. В этот раз воспользовались новой формулировкой – «нарушители тишины».

Но если проблему свести к математической задаче, конкретные мотивы «нарушать тишину» и «дуть в свисток» вообще не важны: достаточно просто взять и учесть ненулевой шанс стать разоблачителем у каждого посвященного. Вероятностная модель (на основе того, что математики называют пуассоновскими процессами) позволяет предсказать, скоро ли whistleblower появится в коллективе из ста, тысячи или ста тысяч человек.

Как подобрать параметры такой модели? Взять примеры вскрывшихся заговоров из истории и применить модель к ним.

Про систему слежки PRISM – ту самую, о которой рассказал Сноуден, – могли знать максимум 30 000 человек, утечка случилась на шестой год ее существования. «Исследование сифилиса Таскиги» (медицинская программа наблюдения за чернокожими больными сифилисом, которым целенаправленно не давали лечиться) – заговор продолжительностью в двадцать пять лет, с 1947 по 1972 год о нем могли знать около 7000 человек. Этот эксперимент тоже был прерван только благодаря утечке: врач Петр Бакстун написал о нем в New York Times. Началось расследование, в результате которого – правда, только в 1990-е – президент США официально извинился перед его жертвами и их семьями.

Подставляя цифры в свою формулу, Граймс получил примерно такие прогнозы: лунный заговор должен был бы вскрыться через три года и восемь месяцев, заговор вокруг лекарства против рака – через три года и один месяц, а про губительное действие прививок врачи должны были проговориться на девятый месяц четвертого года с того момента, как об этом впервые стало известно.

Чтобы ваш заговор продержался пять лет, рассуждает автор исследования, позаботьтесь, чтобы в него было посвящено не больше 2521 человека. Заговор, который продержится десять лет, предполагает еще более тесный круг заговорщиков – тысячу или меньше.

Защитники теорий заговора нашли лазейку и здесь: что если про заговор знали только избранные? Если в NASA почти полмиллиона сотрудников, включая уборщиков и администраторов младшего звена, то топ-менеджеры могли не посвящать их всех в детали своей провокации. Но еще до выхода исследования Граймса идея пересчитать всех участников такой инсценировки пришла в голову авторам и комментаторам русскоязычного коллективного блога Geektimes, куда программисты и инженеры с дипломами хороших университетов заглядывают почитать про компьютеры и космос. Тут появилась статья-рассуждение «“Аполлон” против лунного заговора: что реальнее осуществить?»{81} – о том, почему фальшивый полет было сложнее организовать, чем реальный.

Сотни рабочих должны были монтировать декорации для съемок фальшивой высадки на Луну в павильоне. Еще десятки тысяч – собирать на заводах по всей Америке муляж 111-метровой ракеты, имитировать фальшивые сигналы с 70-метровых антенн-тарелок для связи с кораблем, подделывать многочасовую телетрансляцию и фотосъемку. А еще кто-то в NASA должен был ставить задачи внешним компаниям-подрядчикам, от Boeing до Douglas Aircraft, где делали ключевые детали ракеты. На Geektimes задают логичный вопрос: «Какой-нибудь из этих компаний так и писать в техзадании – “разработайте макет лунного модуля”, “сконструируйте болванку с центром тяжести как у предполагаемого посадочного модуля”? Это опять несколько сотен человек, которые знают: я насыпал шариковых подшипников в адаптер третьей ступени, а они теперь по ящику рассказывают, что там летят астронавты».

С прививками ситуация еще прозрачней: их делают по всему миру. По всему миру родители должны через неделю или месяц после укола в гневе приводить в тот же кабинет поликлиники детей, которые в результате стали заторможенными и разучились смотреть в глаза людям. И если это явление массовое, то врачи, осматривающие таких детей из месяца в месяц, просто не могут не поддаться импульсу взять и рассказать правду.

А те, кто не дает выпустить в свет вакцину от рака, должны – из соображений лояльности заговору – иметь дело с еще более серьезным внутренним конфликтом, чем просто желание рассказать правду миру. Если верить статистике, собранной в 2016 году для США, от рака умирает примерно каждый четвертый{82}. Среди больных с диагнозом «рак» неизбежно окажутся и родственники тех, кто принимает решение не давать лекарству ход. Вице-президент США Джо Байден запустил в 2016 году новую программу онкологических исследований, в которой прямо или косвенно участвуют все крупные фармацевтические компании. За год до этого его 46-летний сын умер от глиобластомы, злокачественной опухоли мозга. Не мог ли вице-президент в порядке исключения выпросить для него у заговорщиков – если те в сговоре с властями – немного секретных таблеток?

Единственная логика, которая позволяет сторонникам масштабных теорий заговора хоть как-то объяснить факты, предполагает сговор властей со всеми вообще. Участников лунного заговора, если бы те решили заговорить, должны обходить стороной корреспонденты всех газет; врачи должны ставить диагноз «рак» родственникам медиков-заговорщиков, умершим не от рака, чтобы никто не узнал о наличии где-то в сейфах волшебного лекарства; и так далее. Спорить с этой системой взглядов не имеет смысла – просто полезно всякий раз уточнять, действительно ли собеседник имеет в виду, что в сокрытии какого-нибудь факта принимает участие не шайка злодеев, а многомиллионная армия разных людей, известных и не очень.

Те, кто верят, например, что ВИЧ – выдумка врачей, просто обязаны считать, что их обманывает не небольшая группа профессионалов-злоумышленников, а все сообщество медиков, которое упорно продолжает стоять на своей версии про вирус. И если 95 % научных статей про климат, опубликованных с 1991 года, поддерживают теорию глобального потепления, вызванного действиями человека, то сторонники «климатического заговора» должны считать заговорщиками не отдельных климатологов, а все сообщество.

Двое известных российских ученых (не климатологов, но из смежных областей науки) независимо друг от друга и с интервалом в несколько лет на полном серьезе доказывали автору книги, что глобальное потепление выдумано в угоду политической конъюнктуре. Тем самым они допускали, что их коллеги из США или Германии подделывают цифры и выводы в своих статьях, потому что так распорядились политики.

Человек, который рассуждает таким образом, сообщает довольно много о своей картине мира и системе ценностей. Он принимает как данность, что у целых профессиональных сообществ ложь – часть должностных обязанностей. Врачи могут лгать непосвященным про ВИЧ и прививки, а ученые подделывать цифры про климат и ГМО – не потому, что они какие-то маньяки, а потому, что такие в мире правила игры. Вряд ли говорящий считает подобное поведение невозможным для себя: если все так делают, что в этом плохого?

«Есть такая когнитивная ошибка – проекция, – объясняет профессор-психолог Кристофер Френч из Лондонского университета Голдсмитс в интервью Scientific American. – Люди, которые верят в теории заговора, сами склонны вести себя как заговорщики – распространять слухи, испытывать подозрения по поводу чужих мотивов. А если вы сами так себя ведете, вам покажется естественным приписывать то же самое другим»{83}.

Легко ли быть обманщиком?

В фильме «Бешеные псы» режиссера Тарантино полицейский под прикрытием внедряется в банду. Ему нужно иметь наготове – чтобы рассказать при случае, в порядке необязательной болтовни, – историю о том, как его чуть не поймали с полной сумкой марихуаны. Весь вымышленный эпизод, которому посвящен рассказ, занимает несколько минут; полицейский репетирует его многие часы день за днем.

«Ложь требует больших когнитивных ресурсов, чем правда», – пишет по этому поводу команда нейробиологов из Бельгии, Нидерландов и США в научной статье, которую опубликовал журнал Frontiers in Psychology{84}. Когда экспериментаторы вынуждали подопытных лгать, лежа внутри магнитно-резонансного томографа (вопросы брали из классического набора для проверки на полиграфе – там они востребованы для калибровки реакций испытуемого), сразу в нескольких областях префронтальной коры мозга начинался шквал активности. Именно здесь сосредоточены функции самоконтроля: префронтальная кора мешает нам сказать грубость, когда очень хочется, управляет вниманием и силой воли. В ситуации лжи, пишут нейробиологи, она в первую очередь подавляет естественное намерение ответить на вопрос честно. Но не только.

Нам нужно на лету выдумывать детали несуществующей истории. Попутно наблюдать за реакцией слушателей – верят они или не верят, производят наши слова нужный эффект или нет – и в зависимости от этого сгущать краски или, наоборот, сдерживать свою фантазию. Еще нужно следить за тем, чтобы ни словом, ни жестом не выдать волнение и говорить убедительно. Ясно, что когнитивный контроль для всего этого нужен как никогда, и он конкурирует за ресурсы мозга с другими задачами. Когда человек лжет, сообщает другое исследование, ему хуже даются простые арифметические подсчеты и он дольше отвечает на простые вопросы.

В 2013 году психологи из Университета Бригама Янга попросили студентов-добровольцев поучаствовать в тестировании чат-бота и время от времени говорить ему неправду. Студенты не знали, что приложение, в котором происходил диалог, следило за всеми их действиями – включая мелкие исправления в тексте до отправки. Выяснилось, что в репликах, содержащих ложь, таких исправлений больше, сами сообщения короче, при этом их сочинение занимает больше времени{85}.

Другими словами, врать трудно. Но если долго стараться, то будет легче. В эксперименте, про который писал Frontiers in Psychology, нейробиологи выяснили: если врать часто, активность в префронтальной коре падает – ложь становится более-менее автоматической и безболезненной. Этим объясняют, что вранье особенно легко дается, например, преступникам, которые долго оттачивали какую-нибудь выдуманную историю, позволяющую выдать себя за другого или доказывающую их невиновность. И еще людям, которые рассказывали неправду так долго, что сами в нее поверили. Кроме того, патологическое вранье как медицинский феномен описано еще в XIX веке и вошло в официальный диагностический и статистический справочник по психическим расстройствам, библию американских психиатров. Однако и профессиональное, и патологическое вранье – редкость и исключение из правила. С этой точки зрения теории заговора, которые винят во всем горстку злодеев, дезинформаторов, профессиональных пропагандистов и работников спецслужб, смотрятся выигрышнее тех, которые предполагают коллективный обман со стороны сотен тысяч инженеров, врачей и журналистов всех возможных СМИ.

Но лгать в глаза – это все-таки одно, а знать общественно важный секрет и ни с кем им не делиться – другое. Может ли быть так, что те же самые сотни тысяч заговорщиков просто живут с какой-нибудь особенно важной тайной, ни с кем ею не делясь?

* * *

Секреты и скрытность ухудшают работу мозга не меньше лжи. В 2014 году двое психологов из Беркли и Корнеллского университета предлагали двум группам подопытных порассуждать вслух о своей жизни{86}. При этом в одной из групп все должны были строить фразы таким образом, чтобы из этих рассуждений нельзя было ничего узнать об их сексуальной ориентации (журнал New Yorker, который посвятил исследованию длинный текст, приводит показательный пример: вместо «я встречаюсь с девушками, которые…» надо было говорить «я встречаюсь с людьми, которые…» – и так много раз подряд, в разных контекстах). Работа по цензурированию собственной речи оказалась настолько утомительной, что, как оказалось, тормозила другие мыслительные процессы. После нее подопытные на 17 % хуже, чем контрольная группа, справлялись с тестом на пространственное мышление. А когда их попросили написать воображаемому адресату письмо на тему описанной в задании конфликтной ситуации, им хуже удавалось быть вежливыми.

Вообще-то авторы ставили целью продемонстрировать, что общественное давление на гомосексуалов, которое заставляет для разговора о себе и партнере подбирать расплывчатые формулировки, ощутимо портит им жизнь, – но стало ясно, что дело не только в ориентации. И даже не просто в необходимости обходить в разговоре опасные темы стороной.

Как доказывает психолог Майкл Слепян из Колумбийского университета, секреты вредят самим фактом своего существования{87}. Больной зуб все время хочется потрогать языком, а к тому, что стараешься держать в тайне, все время возвращаешься мыслями.

Команда Слепяна опросила 1200 человек через интернет и еще 312 человек вживую – в нью-йоркском Центральном парке. (Авторы исследования, которое вышло под заголовком «Ощущение секретности», жалуются, что от стандартного подхода – пройтись по университету и набрать добровольцев из числа студентов – пришлось отказаться. Как правило, студенты попадаются хорошо образованные и богатые, без опыта сложных жизненных ситуаций, и типичные их секреты касаются алкоголя и вечеринок.)

Для начала у респондентов интересовались, бывают ли у них секреты вообще и какого они рода. На выбор предлагался список из 38 категорий (опрос можно пройти и сейчас на созданном по мотивам исследования сайте keepingsecrets.org). При ответе следовало указать, для кого, собственно, это секрет. Есть вещи, которыми не делятся ни с кем, и есть такие, которые скрывают только от некоторых: если друзьям еще можно признаться, что ты проиграл много денег в казино и по уши в долгах, то родителям, наверное, об этом лучше не говорить.

В среднем у каждого обнаружились секреты 13 видов. В десятке самых популярных – все вокруг и около отношений (мысли об измене партнеру, какое-нибудь неправильное сексуальное поведение, флирт, жизнь без секса), рядом идут обман доверия, серьезная ложь, кража, финансовые трудности и семейные проблемы.

Чтобы не выдать свои тайны, опрошенным не так уж и часто приходится хитрить и уводить разговор в сторону – в среднем 4,47 раза в месяц. А вот спонтанные мысли на тему этих секретов случаются примерно вдвое чаще – причем безо всякого повода. Эпизоды, когда секрет вклинивается в ход мыслей, как признавались сами опрошенные, портят настроение и ухудшают отношения с партнером, если секрет касается отношений. Но главный разрушительный эффект Слепян обозначает словом inauthenticity, для которого нет точного русского перевода – в приблизительном это будет «неподлинность». Оставляя какую-то важную часть своего опыта в секрете, ты предъявляешь другим – включая тех, чье мнение много для тебя значит, – неполную, урезанную версию себя. Участникам одного из экспериментов Слепяна предлагалось оценить по семибалльной шкале несколько утверждений на эту тему (например: «Я ощущаю, что скрываю часть “реального себя” от партнера»). Дополнительные вопросы анкеты имели целью отделить все прочие причины таких переживаний: вроде того, что подопытный – невротик и просто неоправданно много переживает по всем возможным поводам.

В разделе «Выводы» Слепян пишет: «Чем чаще люди возвращаются мыслями к своим секретам – тем ниже их качество жизни, независимо от того, как часто им приходится скрывать свои секреты на практике».

Краткое содержание главы 8

1. Заговоры с целью скрыть информацию возможны: американские спецслужбы шесть лет скрывали факт массовой прослушки, а медики молчали о том, что нескольким сотням чернокожих, больных сифилисом, годами не выписывали лекарств, чтобы наблюдать за течением болезни.

2. Что невозможно? Долго держать заговор в тайне.

Вскрыть вредный для общества заговор – значит стать для кого-то героем, и возможность прославиться в роли разоблачителя, несмотря на все риски, психологически привлекательна для многих.

3. Чем больше людей задействованы – тем выше вероятность, что заговор станет известным.

Статистика раскрытых заговоров позволяет оценить срок жизни секрета: чтобы, например, тайна оставалась тайной пять лет, в нее должны быть посвящены не больше двух с половиной тысяч человек.

4. Чтобы сымитировать полет на Луну, пришлось бы задействовать сотни тысяч сотрудников NASA; чтобы сфальсифицировать статистику последствий прививок – сотни тысяч терапевтов.

5. Обманывать и хранить чужие тайны – тяжелая нагрузка на мозг. Не только ложь требует работы фантазии, но и задача беречь секреты тормозит другие мыслительные процессы. Поэтому когда психологи заставляли людей скрытничать, те хуже справлялись с тестами и головоломками.

6. Тайны, которые надо скрывать ото всех, вызывают чувство «неподлинности» и вдобавок мешают сосредоточиться – мозг по четыре-пять раз в день бесконтрольно переключается с текущих дел на размышления о том, что вы скрываете.

Часть IV

Соцсети: как заблуждения распространяются

Глава 9

689 003 рассерженных пользователя

Как Facebook ставит над нами эксперименты

Данное исследование подтверждает также, что, вопреки прежним предположениям, взаимодействие лицом к лицу и невербальные сигналы для заражения эмоциями не требуются.

Адам Крамер

сотрудник Facebook, научная публикация в журнале Proceedings of the National Academy of Sciences

Застенчивый юноша-очкарик в кепке, подвернутых джинсах и гавайской рубахе позирует фотографу, облокотившись на ярко-красную пожарную лестницу. Юношу зовут Адам Крамер, он только что получил в Орегонском университете степень PhD по социальной психологии (аналог степени кандидата наук в России) и теперь устроился работать в Facebook. Этим снимком соцсеть решила проиллюстрировать интервью с новым перспективным сотрудником, меньше всего на свете похожим на Доктора Зло, каким Крамера начнут считать через два года.

«Самые интересные вопросы, на которые тебе удалось ответить за время работы здесь?» – «Распространяются ли эмоции, как заразная болезнь». – «Что ты посоветуешь выпускникам психфаков?» – «Учитесь программировать»{88}.

Больше всего оскорбительных комментариев под этим интервью появилось в июле 2014-го. В них Крамера сравнивали, например, с нацистскими врачами, которые во время Второй мировой испытывали на узниках концлагерей возбудители мучительных болезней и вскрывали людей живьем. «Вы сами поставили себя на одну доску с доктором Менгеле», – пишет один. «Я желаю знать, была ли я среди подопытных», – возмущается другая. «Как насчет того, чтобы посклонять 700 млн пользователей к суициду?» – интересуется третий.

Дело в том, что Крамер и в самом деле решил проверить, заразны ли эмоции, – и объектом его эксперимента стали, сами того не зная, 689 003 пользователя соцсети. В начале 2012 года Крамер и двое его коллег подвергли френдленты этих пользователей выборочной цензуре: одни подопытные переставали видеть у себя в ленте до 90 % записей с «негативным» содержанием, другие – до 90 % «позитивных» записей.

Что в этом плохого? Представьте, что вы уехали на неделю в командировку в другой город (эксперимент длился как раз неделю, с 11 по 18 января). За это время вашего хорошего друга избивают в питерском метро и отбирают у него любимую зеркалку со всеми объективами. В такой ситуации каждое слово поддержки не лишнее. Но если вдруг вы оказались в первой группе подопытных, вы просто ничего не прочтете о неприятностях друга. А если вы, наоборот, в группе, изолированной от «позитива», то мимо вас пройдет запись однокурсника, который давным-давно эмигрировал в Австралию и тут, наконец, собрался прилететь на пару дней в Москву. В итоге вы с ним так и не встретитесь.

Словом, если вы привыкли все самое важное о жизни небезразличных вам людей узнавать из Facebook, и при этом вам не повезло попасть в число 689 003 подопытных, то Facebook неделю держал вас в дураках. Возможно, не без последствий – как в случае с избитым другом и однокурсником из Австралии.

С технической точки зрения ничего особенно ужасного ученые не сделали: Facebook и так постоянно скрывает от нас 80 % всего написанного друзьями. Два года назад администраторы соцсети на официальной странице «Facebook для бизнеса» рассказали с цифрами, как это работает: всякий раз, когда среднестатистический пользователь заходит в соцсеть, его поджидают 1500 новых непрочитанных постов, в которых он рискует утонуть с головой. Умный алгоритм, зная наши предпочтения, выбирает из них 300 – только они отобразятся в ленте, остальные 1200 будут забракованы. Когда алгоритму предстоит тяжелый выбор – показать нам свежее фото со страницы лучшего друга, где помечены вы и ваша девушка, или пост про футбол у человека, с которым вы случайно познакомились в долгой очереди к стоматологу и с тех пор не общались, – алгоритм обычно знает, как поступить.

Но направленное вмешательство – все-таки особый случай, и его постарались сделать как можно безболезненнее: если в разгар эксперимента вы заходили напрямую на страницу друга, там все его спрятанные записи были доступны. И, разумеется, цензура не коснулась личных сообщений.

«Негатив» от «позитива» специальная программа-фильтр пыталась отличить по ключевым словам-маркерам, которые как-то соотносятся с положительными и отрицательными эмоциями. Реагировать на отдельные слова – это, конечно, не идеальный способ вникать в смысл написанного. Например, сразу понятно, что от программы ускользают ирония и сарказм. Скажем, фразу «радость-то какая» она просто из-за наличия слова «радость» классифицирует как «позитивную» вне зависимости от контекста. Зато если пожертвовать такими тонкостями, получается быстрее обрабатывать гигантские объемы данных: сквозь фильтр ученые пропустили 3 млн записей, содержащие 122 млн слов; 3,6 % слов отнесли к «позитивным» и 1,8 % – к «негативным».

Команду Facebook интересовало, как зачистка ленты отразится на поведении подопытных. Для этого ученые снова воспользовались своим излюбленным методом – подсчетом слов. Оказалось, что те, у кого из френдленты поудаляли «позитивные» записи, сами начали писать более мрачные тексты: частота соответствующих слов-маркеров выросла настолько, что с вероятностью 99,3 % это нельзя было назвать случайным совпадением.

В научной статье с описанием результатов, которую два года спустя, в марте 2014-го, опубликовал авторитетный журнал Proceedings of the National Academy of Sciences («Вестник Национальной академии наук США»), авторы говорят про «массовое заражение эмоциями через соцсети»{89}. Упомянутый в интервью с неформально одетым очкариком эффект целых два года широкую публику не интересовал – пока не стало ясно, что это мощный рычаг манипуляции нашим поведением.

* * *

В каком смысле эмоции заразны? Счастье и одиночество, идея закурить или идея бросить курить распространяются как вирус Эбола или палочка Коха. Эта идея старше работы Крамера: ее вывели из наблюдений за соцсетями реального мира, где людей связывают отношения дружбы или родства.

В 2009 году врач и социолог Николас Кристакис из Гарварда вместе с социологом Джеймсом Фаулером из Калифорнийского университета в Сан-Диего опубликовали книгу «Связанные одной сетью»{90} про немедицинские выводы из одного рекордно долгого медицинского проекта. Фремингемское кардиологическое исследование началось в 1948 году и продолжается до сих пор. Чтобы разобраться с причинами сердечных болезней, медики сформировали «когорту» из 5209 жителей небольшого городка Фремингем в американском штате Массачусетс и все эти годы собирали избыточно подробную статистику обо всей жизни участников исследования, а потом их детей и внуков. Кто на ком женился, кто развелся, кто умер от инфаркта, кто бросил курить, кто впал в депрессию – все это фиксировалось в журналах исследователей.

Разбирая эти журналы, Кристакис и Фаулер сделали главное наблюдение: перемены идут волнами – и волны эти бегут по сети дружеских и родственных связей. Ваше волевое решение бросить курить неожиданно подталкивает к тому же коллег бойфренда вашей двоюродной сестры или мужа подруги тещи, с которыми вы лично не знакомы и вряд ли познакомитесь. Люди, страдающие от одиночества, заводят дружбу с такими же одиночками – как Чебурашка с крокодилом Геной. Менее очевидно, что они укрепляют намерение оставаться одинокими и у тех, кого от них в сети дружеских связей отделяет дистанция в два-три рукопожатия.

Уравновесить этот грустный факт должно то, что и чувством счастья тоже можно заразить – через несколько промежуточных звеньев – незнакомцев, которых вы сами в глаза не видели.

* * *

В эксперименте с Facebook оценить мощность «заражения» было трудно: замеряли только ту часть эмоций, которая вернулась в эту соцсеть обратно. Неизвестно, сколько пользователей лишний раз стукнули кулаком по столу (и ни словом не обмолвились про это в Facebook), а сколько, наоборот, подарили хризантему лифтерше.

Или сходили проголосовать. В 2010 году группа ученых во главе с Робертом Бондом из Калифорнийского университета в Сан-Диего попробовала ради чистого интереса поэкспериментировать с явкой на выборы в конгресс США, используя соцсеть как инструмент. Два года спустя об исследовании рассказал Nature{91} – еще один научный журнал из первой пятерки.

Вот как это было. 2 ноября 2010 года 61 млн американцев проснулся и увидел у себя в Facebook призыв пойти и опустить бюллетень в урну. Одним показывали сообщение «Сегодня день выборов», кнопку «Я проголосовал» и счетчик пользователей, которые по кнопке уже кликнули. Другие вдобавок к этому видели юзерпики шестерых проголосовавших друзей. По сравнению с простым сообщением (эффект от которого был, судя по всему, примерно таким же, как воздействие надписи «Минздрав предупреждает» на курильщика со стажем) вариант с друзьями («социальное сообщение», как называют это сами авторы) был запредельно успешным. Сравнивая число нажатий на кнопку в одной группе и в другой, исследователи сосчитали, что им удалось мобилизовать на выборы в конгресс лишние 340 тысяч человек.

Мы уверены на все сто, что проголосовать или эмоционально высказаться нас заставляют объективные причины (про которые мы, собственно, и желаем сообщить прямым текстом миру, когда пишем пост в Facebook). Особенно это касается поступков в реальном мире. И тут внезапно оказывается, что нам навязывают свои эмоции и мысли какие-то малознакомые люди из интернета. В конце концов, Facebook – это просто страничка в браузере, где случайные знакомые и знакомые знакомых рассказывают о том, весело им или грустно, и делятся своими личными соображениями про кино и выставки. В массе своей они не эксперты и не авторитеты, к мнению которых есть хотя бы формальные поводы прислушаться. Но почему-то от этих не очень близких людей зависит, что мы будем думать, чувствовать и писать у себя на страничке сами.

* * *

Почему так происходит? Facebook, говорят психологи, работает как кривое зеркало, которое не то чтобы специально врет (у зеркала вообще нет «своей позиции», чтобы врать), а просто искажает пропорции вещей. Чуть ли не всех, кого мы добавили в друзья, соцсеть автоматически превращает в образцы для подражания, объекты зависти и – как следствие – возводит в ранг авторитетов, чьи мнения и чьи эмоции для нас важны. Психотерапевт Джессика Гроган объясняет в колонке для популярного журнала Psychology Today: Facebook делает чужую жизнь в разы ярче. Люди много пишут про редкое и приятное – путешествия, подарки, рождение детей и праздничные торты. А про рабочую рутину – наоборот, мало (если они не журналисты). В результате начинает казаться, что праздник у всех друзей, кроме вас. Ста человек, каждый из которых проводит в отпуске на море неделю в год (и активно бомбардирует друзей всю эту неделю фотографиями своего серфинга по утрам и лобстеров на льду вечером), хватит с запасом, чтобы создать во френдленте ощущение непрекращающихся каникул.

Параллельно с этим друзья в Facebook имеют на вас такое влияние еще и потому, что в целом они лучше социализированы. И это уже не иллюзия восприятия (как «непрекращающиеся каникулы»), а математический факт, который называется «парадоксом дружбы».

Первым на него обратил внимание в 1991 году американский социолог Скотт Фельд – и опубликовал статью под заголовком «Почему у ваших друзей больше друзей, чем у вас»{92}. Логика его ответа такая: чем популярней кто-нибудь, тем больше шансов, что вы добавите его в друзья. Поэтому те, с кем дружит наугад взятый пользователь, в среднем популярнее его самого.

Спустя двадцать лет, в ноябре 2011 года, несколько специалистов по большим данным из разных американских университетов, которых Facebook пригласил к себе на работу, проверили этот парадокс на всем множестве из 721 млн активных к тому моменту пользователей соцсети, связанных 69 млрд «дружб». Выяснилось, что у среднестатистического, наугад взятого человека из соцсети 190 друзей, а у каждого из этих 190 друзей в среднем целых 635 друзей. Причем парадокс работает не только «в среднем», но и строго выполняется для 93 % аудитории Facebook и 98 % аудитории Twitter{93}.

Что из этого следует на практике? Например, что ваши друзья в Facebook – довольно специальная выборка социально успешных людей, а никакие не «все», которых мы то и дело упоминаем. Социологи сказали бы, что выборка нерепрезентативна – и не только в том смысле, что убеждения вашего круга общения отличаются от убеждений страны в целом.

Нам важно знать, что «все» думают и говорят по тому или иному поводу, – и лента Facebook создает иллюзию общественного мнения. «Вся Москва обсуждает колонку Олега Кашина». «Всем ясно, что заявление про террористов – идиотская фальшивка». «Все уехали на Новый год в Индию». Обычно это неправда не только по отношению к обществу в целом, но и применительно к людям одного с вами возраста, положения и убеждений. Те, у кого друзей за тысячу, имеют понятные причины больше переживать по поводу права свободно высказываться, чем те, у кого друзей пятьдесят. Благодаря «парадоксу дружбы» среди наших друзей больше первых, чем вторых (и эти первые слышней), – поэтому нам и кажется, что ценность свободы слова понятна и самоочевидна всем, кроме редких маргиналов. А результаты опроса ВЦИОМ про 58 % сторонников цензуры в интернете{94} представляются внезапными и даже невозможными.

И соцсети, и поисковики активно помогают нам изолировать себя от непохожих мнений – вроде мнений сторонников цензуры. Три года назад вышла книга американского левого активиста Эли Паризера «Пузырь фильтров» с подзаголовком «Как новый персонализированный интернет влияет на то, что мы читаем и что мы думаем»{95}.

Когда сосед из квартиры сверху и вы одновременно заходите на главную страницу Google, поисковая выдача по одному и тому же запросу у вас будет разной – начиная с 2009 года Google подстраивает ее под ваши интересы. Например, по слову «Форд» поисковик выдаст вам биографию Генри Форда, а соседу – страницу салона, где торгуют автомобилями. То же самое, утверждает Паризер, касается и проблемных тем. Если вы параноидально боитесь ГМО, то на первой странице поисковой выдачи будут преобладать сайты про вред «еды Франкенштейна», а если вы биотехнолог – то ресурсы с более рациональным взглядом на вещи.

* * *

Механизм фильтров Facebook – тот самый, который из 1500 записей оставляет 300 наиболее интересных – можно обвинить даже в политической цензуре. Он – буквально как российские телеканалы – ограничивает доступ к новостям, которые идут вразрез с политическими убеждениями аудитории. Таков вывод в научной статье, опубликованной в журнале Science командой из исследовательского отдела Facebook и Мичиганского университета{96}.

Исследователи Эйтан Бакши, Соломон Мессинг и Лада Адамич проанализировали ленты 10,1 млн пользователей из США, которые явно указали в профиле свою политическую позицию. Для простоты все многообразие взглядов свели к трем категориям: получилось 4,1 млн «либералов», 1,6 млн «умеренных» и 4,4 млн «консерваторов».

Ученые следили за тем, как эти пользователи делились друг с другом новостями в течение шести месяцев (с 7 июля 2014 года по 7 января 2015-го). И, главное, кто какие новости видел у себя в ленте.

7 млн различных новостных публикаций, которые появлялись в лентах у пользователей в течение полугода, разделили на «мягкие» (спорт, путешествия и так далее) и «жесткие» (то, что газеты обычно печатают в разделах «Общество», «Политика» и «В мире»). В эту последнюю категорию попало 13 % всех ссылок. Ключевые слова, по которым такие статьи вычисляли, – «война», «аборты», «образование», «безработица», «иммиграция», «выборы» и так далее. В конце концов авторы сконцентрировались на судьбе тех 226 тысяч «жестких» публикаций, каждую из которых перепостили как минимум двадцать человек с заявленными в профиле политическими взглядами.

Рис. 7. Информационные пузыри: сторонники Трампа и Клинтон в социальном графе Twitter перед президентскими выборами в США. На карте, которая показывает результаты проекта Electome, запущенного MIT Media Lab{97}, видно, что консерваторы предпочитают общаться с консерваторами, а либералы – с либералами, и в итоге оказываются изолированы от оппонентов

Тут же выяснилось, что у либералов свои новости, а у консерваторов – свои. Вместо того чтобы обсуждать одни и те же статьи с разных позиций, люди противоположных политических убеждений делают акцент на разных событиях и возмущаются каждый своими несправедливостями. Условно говоря (если распространить выводы на российский сегмент Facebook), одни больше пишут про «события 6 мая на Болотной», другие – про «жертв 2 мая в Одессе».

Само собой, источники цитируются тоже разные: если вы увидели ссылку на FoxNews.com, с вероятностью 80 % можно утверждать, что ею поделился консерватор. А на HufifngtonPost.com, наоборот, в 65 % случаев ссылаются либералы.

И оба потока новостей, «консервативный» и «либеральный», в соцсетях активно фильтруются.

Первая линия цензуры – это отбор, который проделывают за нас друзья: мы склонны окружать себя людьми похожих политических взглядов. Как сосчитали авторы исследования, в среднем у пользователей-либералов всего 20 % друзей – консерваторы. Ну и, разумеется, среди друзей среднестатистического консерватора только 18 % составляют либералы.

Если бы френдлента формировалась из случайных записей, то в среднем 45 из 100 новостей, которые видит пользователь-либерал, вступали бы в конфликт с его картиной мира. Но в реальности – поскольку друзья придерживаются похожих взглядов и перепощивают отнюдь не все подряд – таких «конфликтных» новостей оказывается всего 24 из 100.

Забавно, что картина мира консерваторов искажается слабее: вместо 40 % неприятных новостей после «цензуры друзей» остается 35.

К этим цифрам загадочные алгоритмы Facebook и злая воля Марка Цукерберга лично не имеют никакого отношения: пока речь только о том, как на новостную картину дня влияет наш выбор друзей. Чем они делятся – то мы и видим. Рассуждения не изменятся, если вместо Facebook взять «Живой журнал», «ВКонтакте», «Одноклассников» или клубы по интересам в реальном мире.

Другое дело, что Facebook жестко прореживает нашу ленту, пытаясь по прежним лайкам предсказать, что из нового контента нас заинтересует, а что нет. Происходит ли на этой стадии непроизвольная политическая цензура? Да, происходит: мы чаще лайкаем то, что хорошо согласуется с нашими убеждениями, – и для умных алгоритмов соцсети это не секрет. Поэтому, когда Facebook пытается выдать нам как можно меньше неинтересного, доля «конфликтных» новостей у либералов падает еще на 8 %, а у консерваторов – на 5 %.

Наконец, ссылка на новость в ленте еще не означает, что эта новость будет прочитана. Третья линия цензуры – наш собственный выбор: если даже новость из другого лагеря преодолела первые два барьера («цензуру друзей» и «цензуру алгоритма») и все-таки просочилась в ленту, то для консерватора вероятность кликнуть по такой ссылке на 17 % ниже среднего, а для либерала – на 6 %.

Бакши и его коллеги подчеркивают, что в каскаде идеологических фильтров роль алгоритмов не такая уж большая. За невозможностью узнать чужую точку зрения стоит, прежде всего, наша свободная воля. Что может быть естественнее желания читать единомышленников и нежелания лайкать то, что расходится с устоявшимися взглядами? Получается парадокс: если предоставить пользователям полную свободу доступа к информации – мы приложим максимум усилий, чтобы себя дезинформировать.

Соцсети – еще не крайний случай. Авторы сравнивали сеть дружеских связей в Facebook с сетью политических блогов перед президентскими выборами 2004 года в США – и констатировали, что в блогах сами собой возникают изолированные друг от друга «кластеры единомыслия», где никакого реального разнообразия мнений нет.

Facebook выгодно отличается тем, что оставляет для «другой точки зрения» лазейку: в друзья мы часто добавляем людей, с которыми познакомились вне сети и не на почве политики, – коллег по работе, бывших одноклассников или соседей по лестничной клетке. Их убеждения не обязаны совпадать с нашими – и только благодаря им мы знаем, что на самом деле волнует оппонентов. Если, конечно, не «чистить ленту» всякий раз, когда ее чтение вызывает дискомфорт.

* * *

В цензуре новостей легко обвинять телевизор. В конце 1960-х теоретики медиа Джордж Гербнер и Ларри Гросс придумали беспощадно критическую по отношению к телевидению гипотезу культивации, которая объясняла, как безо всякой злой воли какого-нибудь комитета по идеологии, который занимался бы дезинформацией, телевизор выращивает («культивирует») в головах у зрителей искаженную картину мира. Скажем, у сценаристов полицейский – излюбленный герой, а аудитор или пожарный особой популярностью не пользуются – и пропорция между людьми этих профессий на экране совершенно иная, чем в реальности. У каждого отдельного телезрителя недостаточно знакомых пожарных, полицейских и аудиторов, чтобы вывести свою собственную статистику – вот он и проникается убеждением, что полиция – одна из ключевых действующих сил общества.

Социальные сети, казалось бы, полная противоположность ТВ – что смотреть и что читать, выбираем вроде бы мы сами, а не какие-то сценаристы и продюсеры новостных программ. Единственные злые парни в этой ситуации – наши собственные когнитивные ошибки, от стремления идеализировать жизнь других людей до нетерпимости к чужим мнениям. Коварные манипуляторы из числа штатных сотрудников Google, Twitter или Facebook в этом не виноваты – они просто предоставили нам возможность жить и действовать так, как мы давно хотели. Просто на практике это оборачивается непробиваемым пузырем заблуждений.

Краткое содержание главы 9

1. Facebook может управлять вашим настроением, просто меняя пропорцию веселых и грустных записей в ленте. Это доказал эксперимент на сотнях тысяч пользователей, которые не были в курсе, что на них ставят опыты.

2. Эмоции заразны, а модели поведения легко передаются через два-три рукопожатия. Это результат непрямого социального давления: если одновременно несколько знакомых ваших друзей бросят курить, резко вырастает вероятность, что бросите и вы.

3. Наши друзья в среднем популярнее нас – математики называют это «парадоксом дружбы» и объясняют при помощи теории графов. А вот ощущение, что их жизнь сплошной праздник и только у нас скучный быт – иллюзия, которую создают и поддерживают соцсети.

4. «Пузырь фильтров» – это когда соцсети и персонализированные сервисы создают ошибочное впечатление, будто нашу точку зрения разделяет весь мир. В соцсетях либералы дружат с либералами, а консерваторы с консерваторами, и Facebook предпочитает показывать записи, у которых выше шанс нам понравиться.

5. Теоретики ТВ придумали гипотезу культивации, чтобы объяснить, как именно телевизор без злого умысла пропагандистов создает у нас в голове искаженную модель общества, где полицейские важнее юристов. При всех отличиях соцсетей от ТВ для них это рассуждение тоже работает.

Глава 10

Выжить на «Титанике»

Как работают алгоритмы соцсетей, и почему они вводят нас в заблуждение

Facebook работает через алгоритмы. ‹…›

Пожалуйста, скопируйте и вставьте это на стену.

Из вирусной записи,

распространявшейся в Facebook в январе 2018 года

Дано: список пассажиров и экипажа «Титаника», где 1502 из 2224 человек на борту погибли в день столкновения корабля с айсбергом, 15 апреля 1912 года. Подробности про каждого второго из них – пол, возраст, порт отправления, где и за какие деньги куплен билет, первым классом плыл или третьим, сколько членов семьи было на борту – собраны в таблицу.

Предсказать: кто утонет, а кто выживет, основываясь только на данных из таблицы. Психологические портреты, воспоминания современников и дневники, которые могли бы что-нибудь объяснить про мотивы спасшихся и рассказать конкретную историю спасения, использовать, конечно, нельзя. Все выводы нужно делать на основе голых анкетных характеристик.

Это учебная задача на сайте Kaggle.com, с которого часто начинается карьера разработчиков искусственного интеллекта. Обычно сюда приходят решать задачи за деньги – участвовать в конкурсах с призовым фондом в десятки или сотни тысяч долларов. Крупные компании, от банков до медицинских клиник и трубопрокатных заводов, выкладывают порции своих больших данных и предлагают придумать алгоритм, который сделает из них какие-нибудь полезные выводы. Например, случится ли поломка на конвейере, есть ли на рентгеновском снимке указания на рак, и стоит ли выдавать человеку кредит. В каждом таком конкурсе соревнуются сотни, а иногда и тысячи команд программистов и программистов-одиночек. Те, кто войдет в первую тройку, разделят между собой призовые деньги, а люди из первой десятки могут быть уверены, что в ближайшие дни после оглашения результатов им напишут рекрутеры крупных компаний, работающих с данными.

Что общего у таких практических задач с вопросом о жизни и смерти пассажиров «Титаника»? С математической точки зрения они ничем не отличаются. Есть таблица, где для каждого человека записаны какие-то его признаки, а напротив части записей стоит пометка «да» или «нет» (вернул кредит или не вернул, пережил кораблекрушение или не пережил). Алгоритм должен увидеть скрытые закономерности в примерах и научиться угадывать «да» или «нет» как можно чаще.

Можно сказать, что и алгоритмы Facebook решают задачу того же сорта. Вот два человека и разные характеристики конкретной записи их дружбы в цифрах – сколько комментариев они написали друг другу за месяц, лайкает ли первый второго, часто ли оба одновременно ставят галочку «пойду» на страничке какого-нибудь концерта – и нужен однозначный ответ, показывать одному свежую запись другого или не показывать. Искусственному интеллекту достаточно сказать «да» или «нет».

К слову, на сайте Kaggle – да и вообще среди тех, кто обучает алгоритмы, – словосочетание «искусственный интеллект» не слишком популярно. Вместо него предпочитают употреблять термин «машинное обучение». (Если вы заявляли в 1990-е, что занимаетесь «искусственным интеллектом», объяснял кто-то из классиков этой науки, вас автоматически записывали в философы или футурологи, которые любят поговорить об отвлеченных сущностях, и математики стали говорить про «машинное обучение», чтобы их с футурологами не путали.)

Нейросети – частный случай машинного обучения, и не всегда самый эффективный (например, в задаче про «Титаник»). Наверное, самый популярный способ решать задачи на Kaggle (которыми пользуются и Google, и Facebook в промышленных масштабах) – это алгоритмы под странноватым названием «ансамбли решающих деревьев» (справедливости ради, «лес» и «пень» – тоже популярные герои мира алгоритмов). А самый простой способ – линейные модели.

Проходной балл: линейные модели

Представьте себе тест вроде тех, которые печатали когда-то рядом с кроссвордами в газетах, где за каждый односложный ответ начисляют баллы. С пассажирами «Титаника» алгоритм – линейная модель – проделывает это так. Купили билет второго класса? 10 баллов. Первого класса? 100 баллов. Взошли на борт в английском порту Саутгемптон? 50 баллов. Во французском Шербуре? 5 баллов. (Этот признак не самый бесполезный для прогноза, потому что косвенно указывает, на каком языке – английском или французском – пассажир разговаривал, и легко ли ему было объясниться во время эвакуации с командой, состоящей преимущественно из англичан.) В конце концов баллы складываются, и если сумма больше пороговой, модель отвечает: «Выживет».

Откуда алгоритм знает, какую характеристику оценить в 500 баллов, а какую – всего в 10? Он начинает раздавать баллы наобум и потом уточняет их раз за разом на каждом примере, для которого известен правильный ответ, – это и есть обучение. Так выясняется, какие признаки важные, какие нет. Например, класс каюты: в первом выжили 63 % пассажиров, в третьем – всего 24 %. Или пол пассажира «Титаника»: среди женщин из списка – 74 % выживших, среди мужчин – всего 19 %.

В случае с записями в Facebook, про которые алгоритму надо ответить «показывать / не показывать», есть еще один небесполезный источник информации – это слова, из которых составлена запись. Если модель знает, что вы любите читать про ракеты, Марс и Илона Маска, то за каждое из этих слов выдаст много баллов, и случайные знакомые, делами которых вы не интересовались последние пять лет, имеют шанс пробиться к вам во френд-ленту со своими рассуждениями про запуск автомобиля в космос.

Рис. 8. Нейросети шестьдесят лет назад: американский математик Фрэнк Розенблатт придумал алгоритм под названием «персептрон» (его назвали бы однослойной нейросетью – или, что то же самое, линейной моделью) и построил способную обучаться вычислительную машину Mark I, не похожую на все остальные компьютеры. «Баллы» за каждый признак были реализованы в виде вращающихся стержней-резисторов, каждый из которых в процессе обучения подкручивал свой электромотор: чем сильнее стержень выкручен – тем больше баллов полагается за каждый признак

К чему простые и быстрые алгоритмы безнадежно глухи – так это к интонации и стилю. Они не отличают стихов от прозы. Скрытые цитаты и сарказм за пределами их понимания, потому что для простой модели ваша запись – мешок слов (у специалистов по машинному обучению это устоявшийся термин): слова либо есть, либо нет, а в каком порядке идут и что означают вместе, уже неважно. И если вы из чувства возмущения приводите кусок чужой прямой речи, который вас задел, и как угодно его комментируете – вас запросто заблокируют за оскорбительный контент.

Еще простые линейные модели не умеют видеть смысл в комбинациях признаков. Если на «Титанике» выжили все мужчины из второго класса, которые сели на лайнер в Саутгемптоне (потому что, скажем, всех их разместили в удачных каютах рядом со спасательной шлюпкой), то модель выдаст только скромную порцию баллов за Саутгемптон и за второй класс, а более тонких закономерностей не увидит – и ошибется в прогнозе.

Консилиум врачей: решающие деревья

Ситуация: врач скорой зашел в дом и, чтобы решить, надо ли везти пациента в больницу, начинает с вопроса «на что жалуемся?». С точки зрения математики это по-прежнему все та же задача про «Титаник»: есть люди, у них много характеристик (медики называют их словом «симптомы»), и в конце нужно ответить «да» или «нет».

Сценарии диалога врача с больным можно нарисовать в форме ветвящегося дерева: каждый следующий вопрос зависит от ответа на предыдущий. Если у пациента болит горло, надо спросить про температуру. Если хватается за сердце – проверить пульс.

Такие ветвящиеся деревья в мире алгоритмов – проверенный способ искать и находить то, что вам нужно, в огромных множествах. В 2007 году появилась интернет-игра «Акинатор», где ее главный персонаж – одноименный джин – предлагал угадать какого угодно персонажа (реального человека, героя мультфильма, историческую личность) за 15–20 вопросов, на которые можно ответить «да», «нет» или «не знаю». «Ваш персонаж существовал в реальности?» «Ваш персонаж женского пола?» «Ваш персонаж старше сорока лет?» «Ваш персонаж умер?» «У вашего персонажа больше одной головы?»

Каждый правильно заданный вопрос сужает поле вариантов – миллионы имен, упомянутых в кино и книгах, – примерно вдвое, следующий – еще вдвое, пока в итоге, на конце одной из ветвей дерева поиска, не остается один наиболее реальный кандидат. На десятом или двадцатом ходу (как повезет) Акинатор выдает ответ: царь обезьян Хануман, Емельян Пугачев, Человек-Паук. Хотя иногда и промахивается – вместо контрреволюционера и живого монгольского бога барона Унгерна предлагает революционера Григория Котовского.

Дерево решений в голове у врача точно так же позволяет проделать путь от общей ситуации к конкретной гипотезе. Подозрение на инфаркт: надо срочно вызывать скорую. Подозрение на ОРЗ: пусть пациент сидит дома и пьет чай под одеялом.

Все просто, когда правильные вопросы уже известны. Но сначала есть только десятки или сотни признаков в случайном порядке: пульс, давление, температура, диаметр зрачка, бледность кожи, громкость кашля, хрипы в груди или их отсутствие – и вопросы нужно научиться задавать в единственно верной последовательности.

Простой выход из положения: созвать консилиум из многих врачей, пусть даже мегаэрудированного доктора Хауса среди них и нет. Каждый врач знает все про три-четыре случайных симптома и делает все выводы только на их основе. Потом врачи голосуют, и консилиум записывает мнение большинства. Если, скажем, шесть из десяти говорят «везти в больницу» – больного везут в больницу. В машинном обучении это называют «ансамбль случайных деревьев».

Но можно опрашивать врачей и по очереди. Спросили первого про сотню пациентов. Второму предъявляем в основном пациентов, на которых ошибся первый, и уточняем его диагнозы. Третьему – тех, на которых ошибся второй. И так далее. Выглядит все так, как будто по поводу каждого нового больного эти врачи тоже голосуют, но их голоса весят по-разному. Примерно так работает «градиентный бустинг на деревьях» – кажется, самый мощный класс алгоритмов после нейросетей.

В чем его слабость? Он хорошо справляется с десятками и сотнями признаков, но дальше начинает буксовать. Тексты, в которых десятки тысяч разных слов, или картинки, где пикселей миллионы, – неподъемная для него информация. Вся она поддается обработке только в полупереваренном виде, когда текст или картинку кто-то уже превратил в ограниченный набор признаков: «доля красного на картине», «число жирафов на снимке», «длина текста в словах», «как часто в тексте встречаются местоимения». Но как раз со всем этим на порядок лучше обращаются нейронные сети. Они же – глубинное обучение, deep learning.

Логическая многоэтажка: нейросети

Корень «нейро» в названии нейросетей намекает на прототип – нейроны, то есть нервные клетки живого мозга. С точки зрения математики каждый нейрон по отдельности – все та же линейная модель: он получает электрические сигналы от других нейронов, оценивает их (в условных баллах) и выдает суммарную оценку в виде собственного электрического сигнала.

Но один нейрон редко принимает окончательное решение: в мозгу они часто организованы в слои, и ответ будет готов, когда нервный импульс пройдет их все насквозь, от верхних к самым глубоким. Нейроны первого слоя получают «сырые» сигналы – например, они могут быть палочками или колбочками сетчатки, которые реагируют на свет. Каждый нейрон второго слоя будет обрабатывать импульсы от многих клеток первого и сформирует свой электрический импульс, чтобы передать его дальше.

Возвращаясь к «тестам» и «баллам», можно представить себе другую картину: вместо слоев нейронов – этажи офисного здания, где сидят HR-специалисты. И на первом этаже они заставляют людей проходить разные тесты – на IQ, на эмоциональный интеллект и на то, как хорошо кандидат разбирается в покемонах. Каждый тест оценивается в баллах.

Кадровики на втором этаже не видят уже никакой информации о том, как соискатель ответил на какой-нибудь конкретный вопрос. Все, что у них есть, – это набор итоговых оценок за тесты. Например: «IQ высокий, эмпатия низкая, в покемонах не разбирается». Каждый кадровик со второго этажа делает на основании этих признаков свой вывод. Один может решать, годится ли соискатель в уборщики, другой – есть ли у него задатки менеджера. Эти свои соображения они передают на третий этаж, где директор по кадрам на основе признаков вроде «хороший уборщик» или «посредственный менеджер» и секретного списка открытых вакансий принимает окончательное решение – брать или не брать человека на работу.

Нейросети на разных своих «этажах» извлекают признаки разной степени обобщения. Если на входе картинка, то самые первые слои, глядя на отдельные пиксели, будут отвечать на вопрос «есть ли здесь перепад яркости?» или «какой наклон у линии?», более глубокие – на вопрос «есть ли на небольшом участке картинки глаз или ухо?», а самые последние предельно конкретны: «собака на фото – это пудель? или той-терьер?».

C 2012 года, когда благодаря нейросетям случился прорыв в компьютерном зрении, компьютеры лучше человека справляются с ответом на вопрос, кто изображен на фотографии – собака или кошка. А программа AlphaGo (создана в 2015 году) всухую обыгрывает лучших мастеров игры го благодаря нейросетям, которые оценивают расстановку фишек на доске и выбирают оптимальный ход.

Почему бы не доверить нейросетям вообще все? Потому что крупным нужны слишком большие вычислительные мощности: «многоэтажные» алгоритмы требуют более громоздких расчетов, чем «одноэтажные». В ноябре 2016 года Google переключил на нейросети свою систему машинного перевода (и то – сначала для небольшого набора языков), но пользователи нуждаются в переводе текстов все-таки реже, чем обновляют ленту Facebook. А в мае 2017 года в блоге компании Twitter появилась новость, что теперь нейросети участвуют и в ранжировании твитов (то есть решают, какие показывать выше, а какие ниже). Ключевое слово здесь «участвуют»: они по-прежнему берут на себя только часть работы. Поэтому судьбу нашей френд-ленты по-прежнему решает более простая математика.

Стоит ли верить роботам: «исследование» и «эксплуатация»

Если нейросети такие умные, а линейные модели чуть-чуть им уступают в качестве, то почему бы не доверять им больше, чем собственному мозгу, от рождения склонному к ошибкам? Отвечает служба знакомств OkCupid.

Этот сервис, куда ежедневно заходит больше 1 млн человек, запустили еще в 2004 году. «Вы – больше, чем ваше селфи», – сообщает главная страница сайта. Его цель – помочь не тратить время на свидания с людьми, с которыми вам будет не о чем поговорить. Алгоритмы оценивают сходство, сравнивая ответы на вопросы длинной анкеты и, разумеется, историю поведения онлайн: как часто вы отвечаете и кому. Про каждого, с кем вы подумываете сходить на свидание, сообщается, на сколько процентов он вам подходит: на 94 % – идеально, на 30 % – подумайте дважды.

Представьте, что однажды вы видите рядом с чьей-то фотографией «90 %» – и удивляетесь, заглянув к нему в профиль. Допустим, этот кто-то слушает прогрессивного рэпера Икс и все свободное время уделяет занятиям кроссфитом, а сами вы любите романы Джейн Остин, кошек и теплый клетчатый плед. Но роботы со своей математикой решили, что вам непременно надо выпить вместе кофе – так почему бы и нет? И действительно, в кафе вы обнаруживаете, что искусственный интеллект и в самом деле знает про вас что-то такое, и вам стоит присмотреться друг к другу получше. Нейросети – тонкая вещь, за искусственным интеллектом – будущее.

На самом деле вы просто попали в выборку, на которой OkCupid проводил эксперимент. Вскоре после скандала с экспериментом Facebook в блоге OkCupid появилась запись «Да, мы ставим опыты на людях»{98}. Некоторым своим пользователям сервис месяцами подсовывал «плохие пары» (с уровнем совпадения 30 %) под видом «хороших» (90 %). Что удивительно, пользователи довольно охотно поддавались на манипуляцию: чаще вступали в переписку и чаще обменивались телефонами – что, как правило, означало свидание в близком будущем.

Зачем обманывать людей? В машинном обучении есть известная дилемма «исследование – эксплуатация» (exploration/exploitation). «Эксплуатация» – это использовать лучшую информацию из имеющейся. Например, чтобы порекомендовать пользователю партнера, кино или музыку. Но тогда мы не будем знать, например, как пользователи реагируют на совершенно новые фильмы или альбомы, по которым статистика еще не собрана. В каком-то смысле все новое будет худшей рекомендацией, чем проверенное старое, – но если его никому не рекомендовать, мы так и не узнаем, кому оно подходит, а кому нет. Поэтому вторая стратегия, «исследование» – это раздавать некоторые рекомендации наобум и смотреть, кто на что среагирует.

Вторая причина рекомендовать наобум – смотреть, сильно ли отличаются в лучшую сторону умные алгоритмы от попугая, который вынимает клювом из шляпы фокусника бумажку со случайным предсказанием будущего. В таких сравнениях нужна контрольная группа – как при испытаниях лекарств, где половина подопытных обязательно получает таблетку-пустышку. И в качестве рекомендации от сервиса, который разрекламирован как территория сплошного искусственного интеллекта, кто-то неизбежно будет получать советы, вытянутые из шляпы вслепую.

Допустим, «пустышка» – одна рекомендация искусственного интеллекта из ста. Тогда, может быть, все не так и страшно? Логика обычно другая: если не повезет, то конкретно вы будете получать 100 % вредных советов. Или читать у себя в ленте 100 % записей друзей, отобранных экспериментаторами с умыслом. В том же блоге OkCupid можно найти статью с малопонятным техническим названием «Недостатки A/B-тестирования в соцсетях»{99}, где объясняют: если пользователь оказался внутри эксперимента, проще всего его оттуда не выпускать, по крайней мере временно. И вот почему. Предположим, что сервис интересует реакция на два разных дизайна страницы – один, например, в красных тонах, другой – в синих. Если человек будет по очереди видеть у себя на экране то одно, то другое, то необъяснимая смена синего на красный введет его в ступор. Поэтому лучше сделать так, чтобы одни видели только синий сайт, а другие только красный. Ясно, что такой подход годится не только для экспериментов с дизайном.

В отличие от эксперимента Facebook, в случае OkCupid речь идет уже не об испорченном настроении на ближайшие пару дней. Свидание может иметь последствия длиной в десять, двадцать и даже тридцать лет – и на совести авторов эксперимента наверняка какое-то количество несостоявшихся свадеб людей, которые друг другу подходят, и несчастливых отношений среди тех, кого искусственный интеллект убедил, что они идеальная пара друг другу.

Плохо, если вас подводят алгоритмы сайта знакомств, но гораздо хуже, когда такой алгоритм определяет все ваши жизненные перспективы. Правительство Китая несколько лет назад запланировало запустить к 2020-му «систему социального кредита» на основе машинного обучения, которая вычисляет для каждого гражданина страны специальный рейтинг{100}. Если он низкий, человеку запросто могут не продать билет на самолет и не выдать велосипед без залога. Совершенно неясно, какие конкретно алгоритмы будут за это отвечать – нейросети, линейные модели или решающие деревья, – но все их недостатки до 2020 года совершенно точно никуда не денутся. Пилотный проект уже работает в нескольких десятках городов.

С точки зрения разработчиков, было бы неразумно обойтись в такой сложной системе без контрольной группы хотя бы в 1 %. При населении страны в 1,4 млрд это будет примерно 14 млн человек, пораженных в правах по неизвестной для них причине.

Что с алгоритмами не так в целом

Кэти О’Нил защитила диссертацию по математике в Гарварде и много лет преподавала аспирантам алгебраическую теорию чисел (область математики, выросшую когда-то из попыток доказать Великую теорему Ферма). Но в нулевые лучших математиков стали переманивать из университетов финансисты – им нужны были математические модели, предсказывающие поведение рынка. Представители новой профессии стали называть себя «кванты» (квантовая механика здесь ни при чем: слово quant – сокращение от термина quantitative analyst, «количественный аналитик»). И университетская преподавательница ушла работать в хедж-фонд на Уолл-стрит.

А потом случился финансовый кризис 2008 года, одной из причин которого называли как раз работу «квантов» – прежде всего, модели, которые слишком оптимистично оценивали риск, что кто-нибудь не расплатится с долгами. В следующем году жюри конкурса World Press Photo объявило «фотографией года» черно-белый снимок фотожурналиста Энтони Сво: полицейский с пистолетом осматривает дом, откуда только что выставили семью, не справившуюся со своими ипотечными платежами.

Обнаружив, что ее работа с числами привела к появлению новых бездомных, О’Нил уволилась из хедж-фонда и села писать книгу «Оружие математического поражения» – про то, как алгоритмы из лучших соображений портят людям жизнь. Книга вышла в 2016-м и сразу попала в длинный список Национальной книжной премии США{101}.

Кто будет сомневаться в пользе алгоритма, который помогает предотвращать преступления? У полиции есть многолетняя статистика убийств, грабежей и наркоторговли – а нейросеть на основе этой статистики решает, когда и в какие районы города стоит перебросить больше полицейских патрулей. Анализ данных доказывает, что прогнозы программы сбываются: в проблемных районах, на которые указал искусственный интеллект, в итоге действительно ловят больше нарушителей.

Что здесь не так? К примеру, часто такие алгоритмы ведут себя как расисты. Ясно, что расу потенциальных преступников в США никто не станет использовать как явный фактор математической модели, но алгоритмы настойчиво ведут полицейских в «черные» кварталы. Кэти О’Нил предлагает представить себе патруль, который выехал на дежурство и третий час кружит по району. Если ему попадется подросток с пивом, спрятанным в бумажном пакете, – его, скорее всего, задержат (хотя никакая патрульная машина не выехала бы специально по вызову «мы подозреваем, что тут подросток на улице пьет пиво»). В сводке о правонарушениях появится новая запись, и алгоритм будет иметь больше оснований считать район криминогенным. В таких районах будет больше арестов за преступления без жертв (такие как распитие пива на улице или марихуана в кармане). Для самих же правонарушителей, у которых в личном деле появляются записи об аресте, перспективы найти работу и зажить спокойной благополучной жизнью падают, а шансы стать преступниками в условиях сузившегося выбора, наоборот, возрастают. Потому что для окружающих они теперь подростки, у которых проблемы с полицией. У их белых сверстников, которые точно так же пьют пиво, спрятанное в бумажные пакеты, или курят марихуану в благополучном, по мнению алгоритма, районе, риск быть задержанными намного ниже. Физики называют такой эффект «петлей положительной обратной связи», а социологии – «самосбывающимися прогнозами».

Математическим моделям доверяют оценивать людей, не только когда речь идет о преступлениях. Их используют банки для оценки вашей платежеспособности, университеты при отборе абитуриентов и американское министерство образования при анализе работы учителей.

И если алгоритмы приемной комиссии Гарварда отбракуют 5 % соискателей, которые на самом деле заслуживают там учиться, нет простого механизма обратной связи, который мгновенно продемонстрирует этому университету, каких гениев он упустил.

Во всех этих случаях способов понять, что модель систематически промахивается, рассуждает О’Нил, нет – и пока система, работающая на основе машинных прогнозов, в целом справляется, нет поводов менять алгоритмы. Особенно пока (и если) компания, которая использует алгоритмы, воспринимает термин «искусственный интеллект» всерьез. Это тот случай, когда выбор слов определяет отношение к технологии. «Алгоритмы» и «машинное обучение» – просто способы превращать одни цифры в другие, таких способов может быть много, и алгоритмы естественно улучшать. А вот «искусственный интеллект» обозначает какую-то загадочную разумную силу, про которую естественно думать, что она заведомо разбирается в предмете лучше нас. Чем дальше заказчики математических моделей от математики – тем естественней ждать, что они будут относиться к каким-нибудь решающим деревьям именно так, с благоговением, а ставить под сомнение их рекомендации не будут.

Без алгоритмов машинного обучения все эти проблемы исчезнут. Но только потому, что не станет ни сайтов знакомств, ни соцсетей, ни рекомендательных сервисов, которые, не исключено, показали вам эту книгу.

Краткое содержание главы 10

1. По анкетным данным пассажира «Титаника» – пол, возраст, класс каюты, сколько стоил билет, сколько членов семьи было с ним на борту – можно с 80 %-ной точностью предсказать, выжил он или погиб при кораблекрушении.

2. Машинное обучение – это способ свести задачу про «Титаник» или вопрос, показывать ли вам запись друга в ленте Facebook, к универсальной математической процедуре. На входе – характеристики пассажира или записи в цифрах, на выходе – односложный ответ: «выживет – не выживет», «показывать – не показывать».

3. Нейросети – самый модный, но не единственный и даже не самый популярный на практике пример таких алгоритмов. У каждого семейства таких алгоритмов свои недостатки, которые мешают им правильно реагировать, например, на иронию или скрытые цитаты – и Facebook без повода блокирует вас на неделю.

4. Чтобы алгоритмы хорошо обучались, им необходим «режим исследования», когда искусственный интеллект дает пользователю случайные или даже вредные советы. Сайт знакомств OkCupid признался, что в этом режиме намеренно предлагал людям неподходящих партнеров.

5. Есть риск, что соцсеть определит вас в небольшую «контрольную группу» пользователей, которая получает неудачные рекомендации (или видит френдленту без самых важных записей друзей) из раза в раз.

6. Эффект под названием «петля положительной обратной связи» ухудшает реальную жизнь, когда машинное обучение берут на вооружение чиновники. Например, у американских подростков, которых алгоритм маркирует как неблагополучных, вырастает шанс стать преступниками.

7. И именно такие, несовершенные, алгоритмы – то, без чего все привычные нам способы отличить правду от неправды, найти единомышленников и поделиться этим знанием с ними перестанут работать.

Сноски

1

9 марта 2018 года. – Прим. ред.

2

Еще в 1996 году сетевое издание «Вечерний интернет» Антона Носика раз в день обозревало «все самое интересное в Сети»; к началу нулевых это занятие потеряло смысл – русский сегмент интернета стал жить слишком бурной жизнью для того, чтобы все события умещались в ежедневный обзор. – Прим. авт.

3

Уникальных пользователей. – Прим. авт.

4

Этот термин уже устарел, и сейчас чаще используют более широкое понятие – мотивированные рассуждения (motivated reasoning). – Прим. авт.

5

«Средство коммуникации является сообщением». – Прим. ред.

6

Данбар имеет в виду сеть из 150 знакомств вокруг одного человека. – Прим. авт.

7

wildviewing@Instagram: Wildlife. Nature. Animals (https://www.instagram.com/p/BglaOdigunq/)

8

Did This Camel Lose Half Its Body? // Snopes.com, March 22, 2018 (https://www.snopes.com/fact-check/half-body-camel/

9

Бигфут (от англ. Bigfoot), также известный как Сасквоч (Sasquatch) – так называют крупного волосатого гоминида, передвигающегося на двух ногах, которое якобы обитает в лесах Северной Америки. – Прим. ред.

10

Рейс авиакомпании Malaysia Airlines (Куала-Лумпур – Пекин) пропал через сорок минут после взлета в 2014 году. Его поиски считаются самыми масштабными в истории авиации, но результатов они не дали. – Прим. ред.

Комментарии

1

Бернейс Э. Пропаганда. – М.: Карьера Пресс, 2015.

2

Паккард В. Тайные манипуляторы. – М.: Смысл, 2004.

3

Докинз Р. Эгоистичный ген. – М.: Corpus, ACT, 2017.

4

Бт. 19:4–7.

5

Nielsen, Rasmus Kleis, and Graves, Lucas. “News you don’t believe”: Audience perspectives on fake news // Digital News Publications (http://www.digitalnewsreport.org/publications/2017/news-dont-believe-audience-perspectives-fake-news).

6

Wardle. Claire, and Derakhshan, Hossein. How did the news go ‘fake’? When the media went social // The Guardian, 10 Nov 2017 (https://www.theguardian.com/commentisfree/2017/nov/10/fake-news-social-media-current-affairs-approval); Information disorder: Toward an interdisciplinary framework for research and policy making. A publication of the Council of Europe which provides a comprehensive conceptual framework and possible solutions to dis-information and misinformation/ Resource Centre on Media Freedom in Europe, September 2017 (https://www.rcmediafreedom.eu/Publications/Reports/Information-disorder-Toward-an-interdisciplinary-framework-for-research-and-policy-making).

7

Dewey, Caitlin. What was fake on the Internet this week: Why this is the final column/ The Washington Post, December 18, 2015 (https://www.washingtonpost.com/news/the-intersect/wp/2015/12/18/what-was-fake-on-the-internet-this-week-why-this-is-the-final-column/).

8

Silverman, Craig. This Analysis Shows How Viral Fake Election News Stories Outperformed Real News On Facebook/ BuzzFeed News, November 17, 2016 (https://www.buzzfeed.com/craigsilverman/viral-fake-election-news-outperformed-real-news-on-facebook?utm_term=.ijLM636OV#.mwkyJdJGm).

9

Vosoughi, Soroush, Deb Roy, and Sinan Aral. “The Spread of True and False News Online.” Science 359, no. 6380 (2018): 1146–151. doi:10.1126/science.aap9559.

10

www.ted.com/talks/deb_roy_the_birth_of_a_word.html.

11

Wardle. Claire, and Derakhshan, Hossein. How did the news go ‘fake’? When the media went social/ The Guardian, 10 Nov 2017 (https://www.theguardian.com/commentisfree/2017/nov/10/fake-news-social-media-current-affairs-approval).

12

Imhoff, Roland, and Pia Karoline Lamberty. “Too Special to Be Duped: Need for Uniqueness Motivates Conspiracy Beliefs.” European Journal of Social Psychology 47, no. 6 (2017): 724–34. doi:10.1002/ejsp.2265.

13

Там же.

14

Levin, Sam. Facebook promised to tackle fake news. But the evidence shows it’s not working/ The Guardian, 16 May 2017 (https://www.theguardian.com/technology/2017/may/16/facebook-fake-news-tools-not-working).

15

Dewey, Caitlin. Did Facebook just kill the Web’s burgeoning fake-news industry?/ The Washington Post, January 21, 2015 (https://www.washingtonpost.com/news/the-intersect/wp/2015/01/21/did-facebook-just-kill-the-webs-burgeoning-fake-news-industry).

16

Ковалев А. Еще немного про западных «экспертов» и «аналитиков» с российских телеканалов/ Лапше-снималочная, 18 мая 2016 (https://noodleremover.news/rutv-crooks-53d90c88411a).

17

На Западе обсуждают гениальный ход Путина, грозящий обрушить экономику ЕС и США. Бельгийский ресурс AgoraVox восхищается инициативой российского лидера/ Рен ТВ, 17 января 2016 (http://ren.tv/novosti/2016-01-17/na-zapade-obsuzhdayut-genialnyy-hod-putina-grozyashchiy-obrushit-ekonomiku-es-i).

18

Ковалев А. Западные СМИ обсуждают гениальный ход Путина – очередной адский бред от Раши Тудей/ Лапшеснималочная, 17 января 2016 (https://noodleremover.news/zarubezhnie-smi-crazy-shit-84d038109425).

19

Цой И. «Испанский диспетчер, видевший, как украинцы сбили MH17», рассказал, что получил за эту роль $48 000 от России/ The Insider, 14.03.2018 (https://theins.ru/news/94973).

20

Ковалев А. «96 % читателей американской газеты за Путина», или Как за год угробить крупнейшее новостное агентство страны / Лапшеснималочная, 3 октября 2015 (https://goo.gl/6jS4mw).

21

Goodfellow, Jessica. Only 4 % of people can distinguish fake news from truth, Channel 4 study finds / The Drum, 06 February 2017 (http://www.thedrum.com/news/2017/02/06/only-4-people-can-distinguish-fake-news-truth-channel-4-study-finds).

22

Fellows, Erwin W. “’Propaganda:’ History of a Word.” American Speech 34, no. 3 (1959): 182–89. doi:10.2307/454039.

23

Yanagizawa-Drott, David. “Propaganda and Conflict: Evidence from the Rwandan Genocide.” The Quarterly Journal of Economics 129, no. 4 (2014): 1947–994. doi:10.1093/qje/qju020.

24

Cambridge Analytica Congratulates President-elect Donald Trump and Vice President-elect Mike Pence/Cision, Nov 09, 2016 (https://www.prnewswire.com/news-releases/cambridge-analytica-congratulates-president-elect-donald-trump-and-vice-president-elect-mike-pence-300359987.html).

25

Grassegger, Von Hannes, und Krogerus, Mikael. Ich habe nur gezeigt, dass es die Bombe gibt/Das Magazin (https://www.dasmagazin.ch/2016/12/03/ich-habe-nur-gezeigt-dass-es-die-bombe-gibt/?reduced=true); русский перевод: Расследование Das Magazin: как Big Data и пара ученых обеспечили победу Трампу и Brexit/The Insider, 06.12.2016 (http://theins.ru/politika/38490).

26

Kosinski, Michal, David Stillwell, and Thore Graepel. “Private Traits and Attributes Are Predictable from Digital Records of Human Behavior.” PNAS. April 09, 2013. Accessed May 10, 2018. doi:10.1073/pnas.1218772110.

27

Там же.

28

Неяскин Г. Чем на самом деле владеют Ротшильды. Семье банкиров приписывается невероятная экономическая мощь и политическое влияние. Так ли это на самом деле? / Slon, 9 декабря 2015 (https://republic.ru/posts/60908).

29

Benkler, Yochai, Faris, Robert, Roberts, Hal, and Zuckerman, Ethan. Study: Breitbart-led right-wing media ecosystem altered broader media agenda/ Columbia Journalism Review, March 3, 2017 (https://www.cjr.org/analysis/breitbart-media-trump-harvard-study.php).

30

Kay: No evidence Iraq stockpiled WMDs/CNN.com, January 26, 2004 (http://edition.cnn.com/2004/WORLD/meast/01/25/sprj.nirq.kay); Pincus, Walter, and Milbank, Dana. Al Qaeda-Hussein Link Is Dismissed/Washington Post, June 17, 2004 (http://www.washingtonpost.com/wp-dyn/articles/A47812-2004Jun16.html).

31

Nyhan, Brendan, and Jason Reifler. “When Corrections Fail: The Persistence of Political Misperceptions.” SpringerLink. March 30, 2010. Accessed May 10, 2018. https://link.springer.com/article/10.1007/s11109-010-9112-2.

32

Kaplan, Jonas T., Sarah I. Gimbel, and Sam Harris. “Neural Correlates of Maintaining One’s Political Beliefs in the Face of Counterevidence.” Scientific Reports 6 (December 23, 2016). doi:10.1038/srep39589.

33

Festinger, L., Riecken, H. W., & Schachter, S. (1956). When Prophecy Fails. Minneapolis, MN: University of Minnesota Press.

34

Kolbert, Elizabeth. Why Facts Don’t Change Our Minds. New discoveries about the human mind show the limitations of reason/The New Yorker, February 27, 2017 (https://www.newyorker.com/magazine/2017/02/27/why-facts-dont-change-our-minds).

35

Making Memories, One Lie at a Time/Slate (http://www.slate.com/articles/news_and_politics/uc/2013/10/_.html).

36

Loftus, Elizabeth F., and Jacqueline E. Pickrell. “The Formation of False Memories.” Psychiatric Annals 25, no. 12 (1995): 720–25. doi:10.3928/0048-5713-199512-01-07.

37

Paul, Marla. How Your Memory Rewrites the Past. Your memory is no video camera; it edits the past with present experiences/Northwestern, February 04, 2014 (https://news.northwestern.edu/stories/2014/02/how-your-memory-rewrites-the-past).

38

Из речи А. А. Зализняка на церемонии вручения ему литературной премии Александра Солженицына (2007).

39

Kahan, Dan M., Hank Jenkins-Smith, and Donald Braman. “Cultural Cognition of Scientific Consensus.” SSRN Electronic Journal, 2010. doi:10.2139/ssrn.1549444.

40

Quealy, Kevin. The More Education Republicans Have, the Less They Tend to Believe in Climate Change/The New York Times, Nov. 14, 2017 (https://www.nytimes.com/interactive/2017/11/14/upshot/climate-change-by-education.html).

41

Sharot, Tali, Christoph W. Korn, and Raymond J. Dolan. “How Unrealistic Optimism Is Maintained in the Face of Reality.” Nature Neuroscience 14, no. 11 (2011): 1475–479. doi:10.1038/nn.2949.

42

Из стихотворения «Назидание» (1987).

43

Dodd, M. D., A. Balzer, C. M. Jacobs, M. W. Gruszczynski, K. B. Smith, and J. R. Hibbing. “The Political Left Rolls with the Good and the Political Right Confronts the Bad: Connecting Physiology and Cognition to Preferences.” Philosophical Transactions of the Royal Society B: Biological Sciences 367, no. 1589 (2012): 640–49. doi:10.1098/rstb.2011.0268.

44

Graham, Jesse, Jonathan Haidt, and Brian A. Nosek. “Liberals and Conservatives Rely on Different Sets of Moral Foundations.” Journal of Personality and Social Psychology 96, no. 5 (2009): 1029–046. doi:10.1037/a0015141.

45

Alford, John R., Carolyn L. Funk, and John R. Hibbing. “Are Political Orientations Genetically Transmitted?” American Political Science Review 99, no. 02 (2005): 153–67. doi:10.1017/s0003055405051579.

46

Bargh, John. At Yale, we conducted an experiment to turn conservatives into liberals. The results say a lot about our political divisions/The Washington Post, November 22, 2017 (https://www.washingtonpost.com/news/inspired-life/wp/2017/11/22/at-yale-we-conducted-an-experiment-to-turn-conservatives-into-liberals-the-results-say-a-lot-about-our-political-divisions).

47

Кристакис Н. А., Фаулер Дж. Связанные одной сетью. Как на нас влияют люди, которых мы никогда не видели. – М.: Юнайтед Пресс, 2014.

48

Singal, Jesse. Fake News Spreads Because People Trust Their Friends Too Much/New York Magazine, March 21, 2017 (http://nymag.com/selectall/2017/03/fake-news-spreads-because-people-trust-their-friends-too-much.html).

49

Канеман Д. Думай медленно… решай быстро. – М.: АСТ, 2017.

50

TJ McCue. Social Media Maximum: 150 Friends // Forbes, January 15, 2013 (https://www.forbes.com/sites/tjmccue/2013/01/15/social-media-maximum-150-friends).

51

Bennett D. The Dunbar Number, From the Guru of Social Networks. How a technophobic Oxford primatologist became Silicon Valley’s social networking guru // Bloomberg Businessweek, 12 января 2013 (https://www.bloomberg.com/news/articles/2013-01-10/the-dunbar-number-from-the-guru-of-social-networks).

52

Данбар Р. Лабиринт случайных связей. – М.: Ломоносов; 2012; Данбар Р. Наука любви и измены. – М.: Синдбад, 2016.

53

Коко, говорящая горилла (Koko, le gorille qui parle), Франция, 1978. https://www.kinopoisk.ru/film/kokogovoryashhaya-gorilla-1978-23883/

54

Интервью с Данбаром было взято автором специально для этой книги.

55

Geggel L. Chimps Are Naturally Violent, Study Suggests // Live Science, September 17, 2014 (https://www.livescience.com/47885-chimpanzee-aggression-evolution.html).

56

Dunbar, R. I. M. “Do Online Social Media Cut through the Constraints That Limit the Size of Offline Social Networks?” Royal Society Open Science 3, no. 1 (2016): 150292. doi:10.1098/rsos.150292.

57

Carron, Mac, Kaski K., and Dunbar R. “Calling Dunbar’s Numbers.” PSY. October 01, 2016. Accessed May 10, 2018. doi:10.1016/j.socnet.2016.06.003.

58

Marjoribanks D., Bradley A. D. The Way We Are Now. You’re not alone // Relate, March 2017 (https://www.relate.org.uk/sites/default/files/the_way_we_are_now_-_youre_not_alone.pdf).

59

Holt-Lunstad, J., T. B. Smith, and J. B. Layton. “Social Relationships and Mortality Risk: A Meta-analytic Review.” PLoS Medicine. July 27, 2010. Accessed May 10, 2018. doi:10.1371/journal.pmed.1000316.

60

Dunbar, R. I. M., Jacques Launay, Rafael Wlodarski, Cole Robertson, Eiluned Pearce, James Carney, and Padraig Maccarron. “Functional Benefits of (Modest) Alcohol Consumption.” Adaptive Human Behavior and Physiology 3, no. 2 (2016): 118–33. doi:10.1007/s40750-016-0058-4.

61

Friggeri, A. & Adamic, L. A. & Eckles, D & Cheng, J. (2014). Rumor cascades. Proceedings of the 8th International Conference on Weblogs and Social Media, ICWSM 2014. 101–110.

62

Там же.

63

Там же.

64

Там же.

65

Сонтаг С. О фотографии. – М.: Ад Маргинем, 2016.

66

Friggeri, A & Adamic, L. A. & Eckles, D & Cheng, J. (2014). Rumor cascades. Proceedings of the 8th International Conference on Weblogs and Social Media, ICWSM 2014. 101–110.

67

Интервью с Дарьей Радченко было взято специально для этой книги.

68

Rahimi, Ali, Recht, Ben, Taylor, Jason, and Vawter, Noah. On the Effectiveness of Aluminium Foil Helmets: An Empirical Study. 17 Feb 2005 (http://web.archive.org/web/20100708230258/http://people.csail.mit.edu/rahimi/helmet).

69

Ripple, W. J., J. A. Estes, R. L. Beschta, C. C. Wilmers, E. G. Ritchie, M. Hebblewhite, J. Berger, B. Elmhagen, M. Letnic, M. P. Nelson, O. J. Schmitz, D. W. Smith, A. D. Wallach, and A. J. Wirsing. “Status and Ecological Effects of the World’s Largest Carnivores.” Science 343, no. 6167 (2014): 1241484. doi:10.1126/science.1241484.

70

Бразертон Р. Недоверчивые умы. Чем нас привлекают теории заговоров. – М.: Альпина нон-фикшн, 2017.

71

Wood, Michael J., Karen M. Douglas, and Robbie M. Sutton. “Dead and Alive.” Social Psychological and Personality Science 3, no. 6 (2012): 767–73. doi:10.1177/1948550611434786.

72

Chris Fleming, Emma A. Jane. Modern Conspiracy: The Importance of Being Paranoid. Bloomsbury Academic, 2014.

73

Конникова М. Супермозг. Думай как Шерлок Холмс. – М.: Азбука Бизнес, 2016.

74

Lawson, Rebecca. “The Science of Cycology: Failures to Understand How Everyday Objects Work.” Memory & Cognition 34, no. 8 (2006): 1667–675. doi:10.3758/bf03195929.

75

Zetter, Kim. April 13, 1953: CIA OKs MK-ULTRA Mind-control Tests/Wired, 04.13.10 (https://www.wired.com/2010/04/0413mk-ultra-authorized).

76

Shah, Saeed. CIA organised fake vaccination drive to get Osama bin Laden’s family DNA. Senior Pakistani doctor who organised vaccine programme in Abbottabad arrested by ISI for working with US agents/The Guardian, 11 Jul 2011 (https://www.theguardian.com/world/2011/jul/11/cia-fake-vaccinations-osama-bin-ladens-dna).

77

https://www.washingtonpost.com/business/technology/2013/12/06/352ba174-5397-11e3-9e2c-e1d01116fd98_story.html.

78

Stonehenge Repair/National Geographic (https://www.nationalgeographic.com/history/ancient/enlarge/stonehenge-repair.html).

79

Regelson, William. “The ‘Grand Conspiracy’ Against the Cancer Cure.” JAMA: The Journal of the American Medical Association 243, no. 4 (1980): 337. doi:10.1001/jama.1980.03300300015016.

80

Grimes, David Robert. “On the Viability of Conspiratorial Beliefs.” PLOS Medicine. March 1, 2016. Accessed May 10, 2018. doi:10.1371/journal.pone.0151003.

81

Vsevo10d. «Аполлон» против лунного заговора: что реальнее осуществить? // Geektimes, 7 июля 2015 (https://geektimes.ru/post/253106).

82

Deaths and Mortality/Centers for Disease Control and Preventions (https://www.cdc.gov/nchs/fastats/deaths.htm).

83

Buckley, Thea. Why Do Some People Believe in Conspiracy Theories?/Scientific American (https://www.scientificamerican.com/article/why-do-some-people-believe-in-conspiracy-theories).

84

Bockstaele, B. Van, B. Verschuere, T. Moens, Kristina Suchotzki, Evelyne Debey, and Adriaan Spruyt. “Learning to Lie: Effects of Practice on the Cognitive Cost of Lying.” Frontiers in Psychology 3 (2012). doi:10.3389/fpsyg.2012.00526.

85

Hollingshead, Todd. Digital deception: People who lie while texting take longer to respond/BYU News, September 03, 2013 (https://news.byu.edu/news/digital-deception-people-who-lie-while-texting-take-longer-respond).

86

Critcher, C. R., & Ferguson, M. J. (2014). “The cost of keeping it hidden: Decomposing concealment reveals what makes it depleting.” Journal of Experimental Psychology: General, 143 (2), 721–735. doi:10.1037/a0033468.

87

Slepian, Michael L., Jinseok S. Chun, and Malia F. Mason. “The Experience of Secrecy.” Journal of Personality and Social Psychology 113, no. 1 (2017): 1–33. doi:10.1037/pspa0000085.

88

https://www.facebook.com/notes/facebook-data-science/meet-a-facebook-data-scientist-qa-with-adam-kramer/10150660264128859.

89

Kramer, A. D. I., J. E. Guillory, and J. T. Hancock. “Experimental Evidence of Massive-scale Emotional Contagion through Social Networks.” Proceedings of the National Academy of Sciences 111, no. 24 (2014): 8788–790. doi:10.1073/pnas.1320040111.

90

Кристакис Н. А., Фаулер Дж. Связанные одной сетью. Как на нас влияют люди, которых мы никогда не видели. – М.: Юнайтед Пресс, 2014.

91

Bond, Robert M., Christopher J. Fariss, Jason J. Jones, Adam D. I. Kramer, Cameron Marlow, Jaime E. Settle, and James H. Fowler. “A 61-million-person Experiment in Social Influence and Political Mobilization.” Nature 489, no. 7415 (2012): 295–98. doi:10.1038/nature11421.

92

Feld, Scott L. “Why Your Friends Have More Friends Than You Do.” American Journal of Sociology 96, no. 6 (1991): 1464–477. doi:10.1086/229693.

93

Ugander, Johan, Karrer Brian, Backstrom Lars, and Marlow Cameron. “The Anatomy of the Facebook Social Graph.” eprint arXiv:1111.4503. November 18, 2011. https://arxiv.org/abs/1111.4503.

94

Больше половины россиян поддержали бы отключение правительством интернета/РБК, 03.08.2015 (https://www.rbc.ru/politics/03/08/2015/55be1e2b9a794766b9f9cef3).

95

На русский язык название книги перевели как «За стеной фильтров. Что интернет скрывает от вас» (М.: Альпина Бизнес Букс, 2012), что не вполне точно отражает смысл: понятие «информационные пузыри» уже прижилось в Рунете.

96

Bakshy, E., S. Messing, and L. A. Adamic. “Exposure to Ideologically Diverse News and Opinion on Facebook.” Science 348, no. 6239 (2015): 1130–132. doi:10.1126/science.aaa1160.

97

http://www.electome.org.

98

http://web.archive.org/web/20170216190818/https://theblog.okcupid.com/we-experiment-on-human-beings-5dd9fe280cd5 (сохраненная копия, запись удалена).

99

McMenamin B. The pitfalls of A/B testing in social networks. Apr 2017 (https://tech.okcupid.com/the-pitfalls-of-a-b-testing-in-social-networks).

100

Fullerton, Jamie. China’s ‘social credit’ system bans millions from travelling/The Telegraph, 24 March 2018 (https://www.telegraph.co.uk/news/2018/03/24/chinas-social-credit-system-bans-millions-travelling).

101

O’Neil, C. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Broadway, 2016.

Content

Борислав Козловский
Максимальный репост. Как соцсети заставляют нас верить фейковым новостям

Предисловие Где здесь место пробиркам?

Часть I Среда обитания неправды

Глава 1 Фейковые новости

Глава 2 Старая и новая пропаганда Как работала пропаганда в Руанде в 1994 году и как она работает в Facebook сейчас

Часть II Гены, мозг и кожа: что делает нас внушаемыми

Глава 3 Цензура мозга Когда новости настоящие, но нам очень не нравятся

Глава 4 Политика в крови у новорожденного Почему мы предвзяты от рождения

Глава 5 Из первых рук Что не так с друзьями и их историями

Часть III Слухи, заговоры и письма счастья

Глава 6 Велосипед, сквозь который проросла секвойя Слухи в Сети: что делает их вирусными, откуда они берутся и как работают

Глава 7 Почему в Лох-Нессе пусто – и в мировом правительстве тоже Что такое конспирология

Глава 8 Теория разоблачения: свисток в кармане Как быстро вскрылся бы лунный заговор, и чем грозят мозгу заговорщиков ложь и секреты

Часть IV Соцсети: как заблуждения распространяются

Глава 9 689 003 рассерженных пользователя Как Facebook ставит над нами эксперименты

Глава 10 Выжить на «Титанике» Как работают алгоритмы соцсетей, и почему они вводят нас в заблуждение

Сноски