Кевин Руз

Устойчивы к будущему. 9 правил для людей в эпоху машин

Эту книгу хорошо дополняют:

Будущее быстрее, чем вы думаете

Питер Диамандис, Стивен Котлер

Сверхдержавы искусственного интеллекта

Кай-Фу Ли

Неизбежно

Кевин Келли

Машина, платформа, толпа

Эндрю Макафи, Эрик Бриньолфсон

Информация от издательства

На русском языке публикуется впервые

Благодарим Станислава Протасова за помощь в подготовке книги к изданию

Руз, Кевин

Устойчивы к будущему. 9 правил для людей в эпоху машин / Кевин Руз; пер. с англ. О. Дихтер. — Москва: Манн, Иванов и Фербер, 2021. — (Цифровые технологии).

ISBN 978-5-00169-691-9

Все права защищены. Никакая часть данной книги не может быть воспроизведена в какой бы то ни было форме без письменного разрешения владельцев авторских прав

This translation is published by arrangement with Random House, an imprint and division of Penguin Random House LLC

© Kevin Roose, 2021

© Издание на русском языке, перевод, оформление. ООО «Манн, Иванов и Фербер», 2021

Памяти моего отца

Двигайся дальше по мере того, как открывается путь.

Квакерское наставление

Предисловие к российскому изданию

«Роботы заменят людей» — эта фраза нередко встречается в кликбейтных заголовках статей различных СМИ, связанных с автоматизацией привычных и устоявшихся процессов. Некоторые из них, в частности при упоминании искусственного интеллекта, особенно сильно будоражат фантазию, пророчат мрачное будущее и рисуют голливудские картины порабощения человечества.

С момента появления первых станков мировая экономика стремительно росла за счет изобретения новых средств производства. Каждая из промышленных революций оставляла за собой шлейф из исчезающих профессий, например фонарщиков, водовозов, телефонистов. Но важно учитывать и то, что старых профессий исчезло гораздо меньше, чем появилось новых.

Дальнейший рост глобальной экономики возможен главным образом благодаря появлению интеллектуальных систем, способных объединять различные средства производства в единые непрерывные процессы и эффективно управлять ими без участия человека. Создают, обучают и настраивают эти системы все еще люди. Но надолго ли это?

Автор книги Кевин Руз рассматривает вопросы места и роли человека в мире, стремительно меняющемся под натиском цифровизации. Это не попытка выдать очередной бульварный нон-фикшн на хайповой теме, а настоящее исследование с честным и объективным взглядом на становление новых норм.

Кирилл Семенихин, директор Университета Иннополис

Введение

Недавно на вечеринке в Сан-Франциско ко мне подошел человек и отрекомендовался как основатель небольшого стартапа из сферы искусственного интеллекта (ИИ).

Узнав, что я журналист и пишу о технологиях для The New York Times, он принялся расхваливать свою компанию, которая, по его словам, произведет революцию в производственном секторе путем внедрения инновационной ИИ-технологии под названием «глубокое обучение с подкреплением».

Современным фабрикам, по его словам, нелегко дается планирование производства — тонкое искусство вычисления того, каким машинам что производить и по каким дням. Сейчас, по его словам, на большинстве фабрик есть сотрудники, которые, анализируя огромные массивы данных и клиентских заказов, определяют, должны ли термопластавтоматы по вторникам штамповать фигурки людей Икс, а по четвергам — пульты дистанционного управления для телевизоров, или наоборот. Это одна из тех нудных, но крайне важных задач, которые необходимо решать, чтобы не застопорилась современная капиталистическая машина, и компании ежегодно тратят миллиарды долларов, стараясь делать всё как надо.

По словам моего нового знакомого, интеллектуальная система, разработанная его компанией, пригодится любой фабрике; она способна проиграть миллионы виртуальных моделей и в результате найти ту самую последовательность процессов, которая позволит производить товары наиболее эффективно. Эта система сможет заменить целые отделы специалистов по планированию, а также большую часть устаревших программ, которыми пользуются эти люди.

— Мы называем ее «избавительницей от старперов», — сказал он.

— Избавительницей… от старперов? — переспросил я.

— Именно, — подтвердил он. — Официальное название у нее, конечно, другое. Но у наших клиентов слишком много старых руководителей среднего звена с чересчур высокой зарплатой, которые на самом деле им больше не нужны. И наша платформа позволяет от них избавиться.

Потом этот человек, успевший, очевидно, опрокинуть пару стаканчиков, рассказал мне о своем клиенте, который несколько лет раздумывал, как бы отделаться от одного специалиста по планированию производства, но не видел возможности полностью автоматизировать ту часть работы, которую тот выполнял. Но всего через несколько дней после установки программы компании он смог упразднить эту должность без ущерба для эффективности.

Слегка потрясенный этой историей, я спросил у своего нового знакомого, известно ли ему, что стало с тем специалистом по планированию. Его выставили без всяких церемоний? Знал ли он, что руководство замышляет заменить его роботом?

Основатель стартапа хохотнул:

— Не моя забота, — и двинулся к бару за новой порцией.

Новые технологии увлекали меня с детства, когда я всё свободное время посвящал разработке сайтов и откладывал карманные деньги на новые комплектующие для компьютера. Многие годы я закатывал глаза, когда кто-то в очередной раз говорил, что компьютеры лишат людей работы, дестабилизируют общество и ввергнут нас в мир мрачной антиутопии. Особенно пренебрежительно я отмахивался от тех, кто предсказывал, что однажды ИИ сделает людей ненужными. Да это просто паникеры, технофобы вроде тех, что предрекали, будто игры Nintendo вызовут размягчение мозга! И разве время не показывало из раза в раз, что эти страхи преувеличены?

Несколько лет назад, когда я начал вести технологическую колонку в The New York Times, большая часть того, что я узнавал об ИИ, соответствовала моим оптимистическим воззрениям. Я встречался с основателями стартапов и разработчиками из Кремниевой долины, и они показывали мне, как успехи в сферах вроде глубокого обучения помогают им создавать инструменты, меняющие мир к лучшему: алгоритмы для повышения урожайности; программы, помогающие больницам эффективнее работать; беспилотные автомобили, которые станут возить нас туда-сюда, пока мы будем дремать и смотреть Netflix.

Это был момент эйфории, пик ажиотажа вокруг ИИ, время, когда все американские IT-гиганты — Google, Facebook, Apple, Amazon, Microsoft — вкладывали миллиарды долларов в разработку новых интеллектуальных продуктов и стремились оснастить алгоритмами машинного обучения как можно больше своих приложений. Они давали карт-бланш исследовательским группам по ИИ и переманивали к себе профессоров и аспирантов с ведущих факультетов информационных технологий поистине анекдотичными предложениями. (Один профессор как-то рассказал мне по секрету, что некая IT-компания только что предложила его коллеге годовой контракт на миллион долларов, причем работать тот должен был только по пятницам.) Везде, куда ни глянь, стартапы получали колоссальное финансирование в ответ на обещания произвести при помощи ИИ революцию во всех сферах — от подкастинга до доставки пиццы. И все специалисты, с которыми я общался, единодушно считали, что новые интеллектуальные инструменты, несомненно, принесут пользу обществу.

Однако в последние несколько лет, пока я продолжал писать об ИИ и автоматизации[1], мне пришлось пересмотреть свои оптимистические взгляды, и причиной тому стали три обстоятельства.

Во-первых, изучая историю технологического прогресса, я пришел к выводу, что некоторые доводы, которые любят приводить технические специалисты, — например, якобы из-за новых технологий всегда создавалось больше рабочих мест, чем сокращалось, или люди и ИИ будут сотрудничать, а не состязаться, — если и не вводят в заблуждение, то явно грешат принципиальной неполнотой. (В главе 1 мы присмотримся внимательнее к некоторым из этих доводов и к пробелам в них.)

Во-вторых, рассказывая читателям о глобальном воздействии ИИ и автоматизации, я заметил колоссальное расхождение между тем, что обещали разработчики технологий, и тем, с чем на деле сталкивались пользователи.

Я разговаривал с пользователями социальных сетей вроде YouTube и Facebook, которые надеялись, что встроенные в них интеллектуальные рекомендательные системы будут помогать им находить интересный и важный контент, но выходило, что эти люди словно проваливались в кроличью нору, напичканную ложной информацией и конспирологическими измышлениями. Мне рассказывали об учителях, в чьих школах внедряли высокотехнологичные системы «персонализированного обучения» в надежде повысить успеваемость и которым в результате приходилось возиться со сломанными планшетами и программами, ведущими себя непредсказуемо. Я выслушивал жалобы водителей из Uber и Lyft, которые соблазнились обещаниями гибкого графика, а в итоге оказались во власти беспощадного алгоритма, заставлявшего их работать больше, наказывавшего за перерывы и постоянно манипулировавшего их зарплатой.

Все эти истории, казалось, указывали на то, что ИИ и автоматизация хороши для некоторых людей — руководителей и инвесторов, расширяющихся и выигрывающих от внедрения этих технологий, — но они не меняют к лучшему жизнь каждого.

Третьим и самым очевидным признаком того, что что-то пошло не так, стали обрывки более откровенной дискуссии об автоматизации, которые начали долетать до меня в 2019 году. Я имею в виду не ту радужную, оптимистичную дискуссию, что разворачивается на сценах IT-конференций и страницах глянцевых деловых журналов. Та, о которой я говорю, ведется приватно в кругу элиты и разработчиков, таких как основатель стартапа, рассказавший мне об «избавительнице от старперов». Эти люди ясно видят будущее ИИ и автоматизации и не питают иллюзий по поводу того, на что нацелены эти технологии. Они понимают, что машины способны — или скоро будут способны — занять место людей на множестве позиций и во многих сферах. Некоторые участники этой дискуссии рвутся заменить весь штат сотрудников автоматами, и у них в глазах вспыхивают значки доллара, как у персонажей Looney Tunes[2]. Других всё же волнуют политические последствия, которые может вызвать массовая автоматизация, и они хотят подстелить жертвам соломки. Но и те и другие знают, что жертвы будут. Ни у кого нет ощущения, что ИИ и автоматизация принесут пользу всем, и никто даже не думает о том, чтобы притормозить.

Впервые я стал свидетелем такой альтернативной дискуссии об автоматизации на Всемирном экономическом форуме — ежегодной конференции, которая проводится в швейцарском Давосе[3]. Форум позиционируется как площадка для неформальной беседы о высоком, где мировая элита обсуждает самые насущные глобальные проблемы, но на деле больше напоминает фестиваль Коачелла[4], только для капиталистов. Это место, где всё говорит за себя и сатирику уже делать нечего; богатая тусовка, на которую собираются плутократы, политики и благотворители-знаменитости, чтобы на других посмотреть и себя показать. Это единственное место в мире, где вполне обычное дело, когда СЕО Goldman Sachs, премьер-министр Японии и Уилл Ай Эм[5], усевшись рядышком, болтают об имущественном неравенстве, поедая сэндвичи по 37 долларов за штуку.

В тот год мое руководство в The New York Times предложило мне освещать этот форум, главной темой которого была «Глобализация 4.0» — бессмысленный, по сути, термин, придуманный давосскими устроителями для обозначения начинающейся экономической эпохи, которую определяет новая, переворотная волна технологий ИИ и автоматизации. Каждый день я посещал дискуссии с такими названиями, как «Формирование новой архитектуры рынка» и «Фабрика будущего», где могущественные директора клялись создать «человекоориентированный ИИ», который принесет массу пользы как компаниям, так и их работникам.

Но вечерами, когда публичные мероприятия заканчивались, гости Давоса снимали маски гуманистов и переходили к делу. Во время роскошных кулуарных ужинов и коктейльных вечеринок я видел, как они наседают на технических специалистов, желая выяснить, как с помощью ИИ превратить свои компании в изящные автоматы — машины прибыли. Они обменивались сплетнями о том, какими средствами автоматизации пользуются их конкуренты. Они заключали сделки с консультантами о проектах «цифровой трансформации», которые, как они надеялись, сэкономят им миллионы долларов, уменьшив их зависимость от человеческих кадров.

Как-то я случайно столкнулся с одним из этих консультантов. Его зовут Мохит Джоши, он президент Infosys — индийской консультационной фирмы, помогающей крупным компаниям автоматизировать свои процессы. Когда я спросил у Джоши, каково его впечатление от встреч с директорами, его брови поползли вверх и он сказал, что давосская элита одержима автоматизацией даже больше, чем он, — человек, в буквальном смысле зарабатывающий на автоматизации рабочих мест. Раньше, сказал он, его клиенты хотели сократить свои кадры постепенно, оставив процентов девяносто пять работников и проведя автоматизацию «по периметру». «А теперь они говорят: “Почему бы нам не обойтись одним процентом от тех людей, что у нас есть?”»

Иначе говоря, когда отключались камеры и микрофоны, директора рассуждали отнюдь не о помощи работникам. Они мечтали, как бы от них избавиться совсем.

Вернувшись из Давоса, я решил разузнать как можно больше об ИИ и автоматизации. Я хотел выяснить, что на самом деле происходит внутри компаний и технических отделов. Каким людям грозит потеря работы в связи с внедрением машин? И что мы можем сделать (если вообще можем), чтобы защитить себя?

Я несколько месяцев интервьюировал разработчиков, директоров, инвесторов, политиков, экономистов и историков. Посещал исследовательские лаборатории и стартапы, ездил на технические конференции и профессиональные тусовки. Прочел около сотни книг с общим мотивом на обложке — робот и человек, пожимающие друг другу руки.

Пока я рассказывал обо всём этом своим читателям, публичная дискуссия об автоматизации стала несколько утрачивать свой оптимистичный лоск. Люди начали обращать внимание на разрушительное воздействие социально-сетевых алгоритмов, заманивающих пользователей в идеологически поляризованные клетки и склоняющих к более радикальным взглядам. Лидеры мира технологий, например Билл Гейтс и Илон Маск, предупредили, что ИИ может оставить без работы миллионы людей, и призвали политиков серьезно отнестись к этой угрозе. Экономисты начали публиковать мрачные прогнозы о том, чем грозит ИИ работникам предприятий, а политики принялись упирать на необходимость радикальных мер для предотвращения кризиса занятости, который может вызвать автоматизация. Один из тех, что начали трубить тревогу, — нью-йоркский бизнесмен Эндрю Ян. Добиваясь выдвижения своей кандидатуры от Демократической партии на президентских выборах 2020 года, он пообещал выплачивать всем американцам «дивиденды свободы», 1000 долларов в месяц, для смягчения удара автоматизации. Ян проиграл гонку, но его предостережения о надвигающейся ИИ-революции превратились в новый тренд и выдвинули дискуссию о технологической безработице на первый план.

Страхи по поводу сокращения рабочих мест из-за машин — явление отнюдь не новое. Их историю можно проследить примерно до 350 года до н. э., когда Аристотель заметил, что механизированные ткацкие станки и самоиграющие арфы могут привести к падению спроса на рабский труд[6]. С тех пор беспокойство, связанное с машинами, то нарастало, то затухало, обычно достигая максимума в периоды стремительного технического прогресса. В 1928 году в The New York Times появилась статья под заголовком «Наступление машин чревато вынужденной праздностью», в которой специалисты предрекали, что новое изобретение — фабричное оборудование, работающее от электричества, — вскоре превратит ручной труд в анахронизм[7]. После Второй мировой войны, когда больше предприятий начали внедрять в производство роботов, все снова заговорили о том, что рабочие обречены. Говорят, в 1970 году Марвин Минский, ученый из Массачусетского технологического института, которого часто называют отцом искусственного интеллекта, сказал, что «пройдет от трех до восьми лет — и у нас будет машина с интеллектом уровня среднего человека»[8].

Эти страхи так и не стали явью. Но сейчас беспокойство по поводу ИИ вспыхнуло с новой силой, подпитываемое популярными книгами, такими как «Роботы наступают» Мартина Форда и «Вторая эра машин» Эрика Бриньолфсона и Эндрю Макафи[9]; и в той и в другой утверждается, что ИИ приведет к коренным переменам в обществе и мировой экономике. Попытки ученых спрогнозировать положение на рынке труда, например исследование Оксфордского университета, показавшее, что 47% рабочих мест в США находятся под «серьезной угрозой» автоматизации в течение ближайших двадцати лет, усугубили ощущение надвигающейся катастрофы[10]. В 2017 году уже трое из четверых взрослых американцев полагали, что ИИ и автоматизация будут больше способствовать сокращению, чем созданию рабочих мест, и большинство думали, что технологии расширят пропасть между богатыми и бедными[11].

В 2019 году я много писал об этой перемене настроений, стараясь, однако, не забывать, что страхи могут быть преувеличенными. Всё-таки уровень безработицы в США по-прежнему оставался рекордно низким и, хотя руководители корпораций продолжали обсуждать ИИ и автоматизацию в своем кругу, явных свидетельств того, что нововведения начинают сказываться на простых работниках, пока было не так уж много.

А потом пришел COVID-19. Весной 2020 года на значительной части США был введен локдаун с режимом самоизоляции, и тут мне начали звонить из IT-компаний и рассказывать, как пандемия меняет планы автоматизации. Новым было то, что теперь они стремились довести до всеобщего сведения, как они проводят автоматизацию. Ведь роботы не болеют, и компании, сумевшие заменить людей машинами, могут спокойно производить товары и предоставлять услуги, пока свирепствует вирус. Потребителей автоматизация тоже радовала, поскольку позволяла сократить контакты с другими людьми.

Пандемия стала оправданием для беспрецедентных шагов по автоматизации, и ответной реакции можно было не бояться. И компании автоматизировали и автоматизировали, а потом автоматизировали еще немного. Производитель мясных продуктов Tyson Foods пригласил специалистов по робототехнике для разработки автоматической системы отделения мяса от костей, которая помогла бы удовлетворять спрос на курятину и другие виды мяса[12]. Компания FedEx начала использовать роботов для сортировки посылок, чтобы восполнить нехватку работников службы доставки, многие из которых заболели или просто не ходили на работу[13]. Торговые центры, многоквартирные комплексы и продуктовые магазины для поддержания чистоты и обеспечения безопасности бросились раскупать роботов-уборщиков и роботов-охранников, создав дефицит у поставщиков робототехники[14].

В целом пандемия COVID-19, по-видимому, подтолкнула автоматизацию на годы, если не на десятилетия вперед. Крупнейшая консалтинговая компания McKinsey окрестила это явление «грандиозным ускорением»[15]. CEO Microsoft Сатья Наделла объявил, что его компания «за два месяца выполнила двухлетний план перевода процессов в цифровое поле»[16]. Опрос, проведенный в марте 2020 года аудиторской компанией EY, показал, что 41% корпоративных руководителей стали больше инвестировать в автоматизацию, готовясь к посткоронавирусной эпохе[17]. Дэвид Отор, экономист из Массачусетского технологического института и ведущий эксперт по автоматизации, назвал пандемию «катализатором автоматизации» и предсказал, что она поспособствует внедрению технологических трендов, которые будут сохраняться еще долго после отступления вируса[18].

Пандемия продемонстрировала некоторые преимущества автоматизации убедительнее, чем это могла бы сделать любая экспертная группа в Давосе. Благодаря роботам и ИИ компании продолжали поставлять важнейшие продукты даже при росте заболеваемости среди работников. ИИ и автоматизация производства помогли фармацевтическим компаниям ускорить поиски эффективных методов лечения и разработку вакцин. Миллиарды людей, сидевших по домам и опасавшихся тесных контактов, положились на автоматизированные интеллектуальные услуги Amazon, Google и Facebook — и их холодильники по-прежнему были забиты, а социальные контакты не прерывались.

В то же время пандемия выявила ряд ограничений автоматизации и показала, что очень многие важные задачи пока нельзя переложить на машины. Заговорили о «ключевых специалистах» — людях, чей труд необходим для функционирования общества, и выяснилось, что многие из них работают не в технической, финансовой или какой-нибудь другой престижной отрасли, а в относительно малопривлекательных сферах, таких как уход за больными, ремонт машин и сельское хозяйство. Мы также увидели, что некоторые виды деятельности почти невозможно перевести в виртуальный формат. Стоило нам просидеть пару месяцев перед экранами, превратившимися в единственный канал общения, как многих настойчиво потянуло обратно в реальный мир. Некоторые школьники и студенты, вынужденные учиться дистанционно, жаловались, что не узнают ничего нового и не получают никакого удовольствия. Офисные служащие, запертые по домам, жаждали вернуться на свои места, где легче работать в команде и продвигаться по службе. (Один мой знакомый, технический специалист, ворчал, что «по “Зуму” никто не получает повышения».) Люди, которым в первые месяцы пандемии вполне хватало виртуального общения, начали нарушать правила социального дистанцирования, чтобы вместе с друзьями поесть в ресторане, выпить в баре, сходить на концерт или посетить церковную службу.

Оказалось, что машины не способны ни заменить человеческое взаимодействие, ни дать нам всё необходимое для движения вперед. И, возможно, это никогда не будет им под силу.

Я несколько лет изучал историю ИИ и автоматизации и современное положение дел в этой сфере, и теперь мне трудно сохранять наивную, утопическую веру в то, что эти инструменты ведут нас по гладкой, как скатерть, дороге к прогрессу и гармонии. Вместе с тем я пришел к выводу, что и крайне антиутопическая и фаталистическая версия ИИ-сценария — согласно которой умным машинам суждено захватить мир и нам остается только смириться со своей моральной устарелостью — довольно неубедительна.

Прежде всего, рассуждая об ИИ и автоматизации, и оптимисты, и пессимисты почему-то обычно демонстрируют исключительно дальнозоркость. Они сосредоточены на последствиях, к которым приведут новые технологии через несколько лет или даже десятилетий, и пренебрегают анализом тех последствий, к которым они уже привели.

Сознательно или нет, но большинство из нас ежедневно взаимодействуют с десятками интеллектуальных продуктов: моделями машинного обучения, выстраивающими ленту новостей в соцсетях и обеспечивающими общение с виртуальными помощниками вроде Alexa и Siri; программами динамического ценообразования, рассчитывающими, сколько нам платить за номер в гостинице и билет на самолет; таинственными алгоритмами, определяющими, имеем ли мы право на социальное пособие; прогнозирующими алгоритмами, которые помогают полиции патрулировать улицы. Все эти системы жизненно важны, но почти ни одна не привлекает к себе такого внимания, как вопрос, потеряют ли дальнобойщики работу из-за внедрения беспилотных фур.

Центральная дискуссия об ИИ и автоматизации сосредоточена на том, как ИИ влияет на конкретные показатели экономического благосостояния, такие как рост производительности и уровень безработицы, но, как правило, игнорирует более субъективные вопросы: например, действительно ли эти технологии улучшают людям жизнь? Как отмечали эксперты — Кэти О’Нейл, Сафия Умоджа Ноубл, Руха Бенджамин и другие, — плохо продуманные интеллектуальные инструменты, даже если они «работают», могут причинять вред уязвимым и маргинальным группам населения, способствуя внедрению новых видов сбора данных и наблюдения и закладыванию исторически сложившихся форм дискриминации в автоматизированные системы. Вред может исходить от самых разных технологических новинок: от алгоритма сортировки резюме, который обучается отдавать предпочтение мужчинам в ущерб женщинам; от системы распознавания лиц, которой трудно идентифицировать гендерно-неконформных людей; от системы прогнозирования рисков, которая научается устанавливать более высокие ставки для темнокожих кандидатов на получение кредита, — и сколько-нибудь адекватный разговор об ИИ и автоматизации не может обойтись без обсуждения этих вопросов и поиска решений.

Но, на мой взгляд, главная проблема центральной дискуссии об ИИ — в том, что обе ее стороны склонны воспринимать технический прогресс как безликий естественный фактор, вроде силы тяжести или законов термодинамики, с которым приходится просто мириться. И оптимисты, и пессимисты рассуждают об «алгоритмах, излечивающих болезни» и «роботах, отнимающих работу», как если бы какая-то программа могла наделить машины чувствительностью или карьерными амбициями. Ни те ни другие не хотят признавать, что именно люди изо дня в день принимают решения о том, как разрабатывать, внедрять и оценивать эффективность всех этих систем.

Я постоянно слышу довод: «Автоматизация — это наша судьба», особенно в Кремниевой долине, где о техническом прогрессе говорят так, словно это набирающий скорость поезд и либо мы в него вскочим, либо он нас переедет; и я отлично понимаю, почему эта точка зрения так притягательна. Долгое время я и сам ее придерживался. Однако она ошибочна. И в глубине души мы все это сознаём.

С тех давних пор, как Homo sapiens впервые потер одну о другую две палочки, чтобы добыть огонь, движущей силой технического прогресса всегда были человеческие желания. Печатный станок, паровой двигатель, социальные сети — не возникло же всё это из ниоткуда, новенькое, как с иголочки, и уже интегрированное в жизнь общества. Мы их придумали, приняли соответствующие законы и правила и решили, чьим интересам они будут служить. Кроме того, инновации не нечто непреложное, и предыдущие поколения успешно боролись за ограничение распространения таких губительных изобретений, как ядерное оружие, асбестовые изоляционные плиты и свинецсодержащая краска, олицетворявших в свое время технический прогресс.

Независимо от того, считаете вы, будто ИИ и автоматизация принесут человечеству благо или причинят вред, вы не должны забывать, что в них нет ничего предопределенного. Не алгоритмы, а руководители решают, заменять ли людей машинами. Не роботы, а законодатели определяют, какие ограничения установить на новейшие технологии вроде распознавания лиц и таргетированной рекламы в интернете. Разработчики новых форм ИИ могут влиять на то, как будут устроены эти новые инструменты, а пользователи — решать, приемлемы ли они с моральной точки зрения.

Вот и вся правда об ИИ-революции. Нет никакого надвигающегося машинного переворота, нет армии злобных роботов, замышляющих восстать и обратить нас в рабство.

Есть только люди, решающие, в каком обществе мы хотим жить.

* * *

Эта книга не выступление в защиту идеи, что роботы отнимут у нас всю работу или часть ее или что ни того ни другого не случится. Это не разглагольствование об ужасах технокапитализма и не размышление о том, как мы будем сосуществовать с машинным интеллектом. Я не собираюсь предсказывать, когда наступит состояние сингулярности, или советовать, как разбогатеть на основании ИИ-стартапа.

Эта книга о том, как человеку жить в мире, который всё больше выстраивается машинами и подстраивается под них. Это попытка убедить вас, что ключ к счастливой, плодотворной жизни в эпоху ИИ и автоматизации — не в том, чтобы соревноваться с машинами напрямую: учиться программированию, оптимизировать свою жизнь, изживать в себе непродуктивность и небрежность в любых проявлениях, — а в том, чтобы совершенствовать исключительно человеческие навыки, чтобы иметь больше возможностей делать то, что машины делать не способны.

Если у вас возникало ощущение, что жизнь проносится мимо, или вы тревожились, что вам никак не угнаться за техническим прогрессом, я надеюсь убедить вас в обратном. Я хочу помочь вам сохранить работу, выстроить более ровные отношения с новыми технологиями и научиться мирно сосуществовать с алгоритмами, пытающимися диктовать вам, что покупать, на чём концентрировать внимание и как смотреть на мир.

И, наконец, я хочу вырвать дискуссию о технологиях из формата крайностей: либо эйфория, либо панический страх — и вести более честный разговор о том, что нам предстоит и что мы можем предпринять.

Часть I, «Машины», — попытка подготовить почву. Опираясь на интервью со специалистами, книги и научные работы и трехвековую историю индустриального развития, я объясню, почему считаю, что ИИ и автоматизация уже оказывают глубокое преобразующее воздействие на общество, и почему в дальнейшем стоит ожидать ускорения изменений. Я опровергну некоторые общепринятые представления о том, как машины отбирают у людей работу, и объясню, почему, на мой взгляд, мы опасаемся не тех роботов, которых следует.

Часть II, «Правила», — мои советы. Я расскажу о девяти конкретных шагах, которые можно предпринять для подготовки к будущему; они помогут уберечь то человеческое, что в вас есть, обратить свои человеческие качества в капитал и отчасти оградить себя от вредного воздействия современных технологий. Я расскажу о людях, которым в разные времена удавалось таким образом обходить подводные камни технического прогресса, и объясню, как применить их опыт в своей жизни и карьере.

Надеюсь, что, дочитав эту книгу, вы разделите мое беспокойство по поводу ИИ и автоматизации, а также экономических, политических и социальных проблем, к которым они могут привести в будущем. Но еще я надеюсь, что вы почувствуете себя увереннее перед лицом этих проблем. Моя главная цель — убедить вас, что вы можете стать тем, кому не о чем беспокоиться, тем, кого его истинно человеческие качества делают незаменимым вопреки всем умениям и неумениям ИИ.

Читая эту книгу, вы заметите, что она больше сосредоточена на «микро», чем на «макро». В ней нет подробных рассуждений о производительности и доле экономически активного населения, и у меня нет готового набора рекомендаций по поводу политики в сфере ИИ. Подготовка политических и экономических институтов к технологическим переменам — безусловно, важная задача, и многие эксперты, в том числе авторы работ, которые я включил в список рекомендованной литературы, давно размышляют о том, как подстроить общество к надвигающейся автоматизации. Но я главным образом хочу поговорить о том, что могут сделать обычные люди — такие, как мы с вами, кому нужно заботиться о своей работе, родных и близких.

Я часто говорю от первого лица. Меня всё это тоже касается. Я каждый день выясняю отношения с машинами и постоянно тревожусь о том, какое место буду занимать в автоматизированном обществе (я газетный обозреватель, а эта профессия не из тех, о которых сразу вспоминаешь, когда речь заходит о «работе будущего»). Эту книгу я стал писать в том числе из эгоистических побуждений: надеялся, что мне удастся обнаружить проницательную догадку, неопровержимые данные — то, что позволит мне больше не беспокоиться о том, какие сюрпризы мне готовит будущее.

Но я обнаружил, что будущее ничего мне не готовит. Его попросту нет. Сейчас, как и в любой момент истории, перед нами есть лишь бесчисленное множество вариантов развития событий, каждый из которых определяется нашими решениями. Если случится машинный апокалипсис, он будет делом наших рук. А если технологическая революция сделает мир справедливее, счастливее и благополучнее, то потому, что мы перестанем строить теории и спорить, станем хозяевами своей судьбы и сделаем себя неуязвимыми для будущего.

Кевин Руз, Окленд, Калифорния, январь 2021 г.

Часть I. Машины

Глава 1. Рождение недооптимиста

Для общества опасны не сами машины, а то, что из них делает человек.

Норберт Винер

Свет в зале гаснет, из колонок вырывается гитарное соло, на экране над сценой высвечиваются названия роботов.

Бот контроля информационной безопасности — Accenture

Бот-турбоэкстрактор — Kraft Heinz

Бот веб-мониторинга — Infosys

Апрель 2019 года, я в банкетном зале одной из манхэттенских гостиниц; стартап из Кремниевой долины под названием Automation Anywhere представляет нескольким сотням корпоративных директоров свои последние разработки. Это не пинькающие и динькающие машины, какие видишь в фантастических фильмах. Это программные боты из байтов и пикселей, которым предназначено заменить людей.

Automation Anywhere внушает руководителям простую мысль: «Из наших ботов получаются офисные работники получше, чем из ваших людей». В конце концов, боты способны работать двадцать четыре часа в сутки и семь дней в неделю, не выматываясь и не подрывая свое здоровье. Они не уходят в отпуск, не пишут жалобы в отдел кадров и не берут больничный. И если вы заменяете человека ботом, то это, по идее, может означать, что вы освобождаете его для выполнения более содержательных заданий.

«От двадцати до сорока процентов работников вынуждены исполнять роль мостиков между прикладными программами», — говорит СЕО Automation Anywhere Михир Шукла. Когда их обязанности будут выполнять автоматы, «вы сможете не только освободить этих людей для более значимых задач, но и существенно сократить свои затраты».

Как выяснилось, эти аргументы действуют прекрасно. Несмотря на свою малозаметность, Automation Anywhere превратилась в один из самых быстрорастущих стартапов в мире, и сейчас ее стоимость оценивается в шесть с лишним миллиардов долларов. Боты компании были установлены больше миллиона раз, в том числе в крупнейших корпорациях из списка Fortune 500, вроде Mastercard, Unilever и Comcast.

За несколько недель до той встречи с директорами я по приглашению Михира Шуклы посетил головной офис Automation Anywhere в Сан-Хосе. Руководитель провел меня по просторному одноэтажному зданию, чьи стены изнутри украшены оттисками математических уравнений, и показал четыре зала для совещаний, каждый из которых посвящен одной из промышленных революций.

Первый, под названием «1760», отдает дань самой первой промышленной революции, и по его стенам развешаны разнообразные фабричные приспособления. Во втором, «1840», с потолка свисают Эдисоновы лампы в память о второй промышленной революции конца XIX века. В третьем зале, «1969», — обои середины прошлого века и светомузыка. Он представляет третью промышленную революцию — волну новаторских разработок XX века, в числе которых микропроцессор, персональный компьютер и интернет.

Последний зал оказался совершенно белым. Он посвящен четвертой промышленной революции — той, которая происходит прямо сейчас и характеризуется ускоряющимся прогрессом в области ИИ и автоматизации. Дизайн в духе «чистого листа», по словам Шуклы, символизирует, что четвертая промышленная революция еще не завершена и ее перспективы для изменения жизни к лучшему не раскрыты полностью.

В Сан-Хосе Михир Шукла сказал мне, что извечный вопрос о роботах, «отнимут ли они у нас работу», в принципе поставлен неправильно. Есть множество работ, которые роботам следует у нас отнять, поскольку на этих должностях мы только растрачиваем свой человеческий потенциал.

«Мы пытаемся вытащить робота из человека и позволить человеку достигать большего», — сказал он.

Но в Нью-Йорке, стоя на сцене перед своими потенциальными клиентами, Шукла выбрал более прагматичный тон. Он сказал директорам, что автоматизация позволит их компаниям резко сократить операционные расходы и повысить прибыльность. Он похвастался, что боты Automation Anywhere — не просто однозадачные алгоритмы, а «доступные для скачивания цифровые работники», способные полностью заменить людей. Он привел примеры таких работников, которых можно «нанять» в несколько кликов: бухгалтер по кредиторской задолженности, администратор по заработной плате, налоговый аудитор.

Затем Шукла снова переключился в режим воодушевления и развернул перед слушателями грандиозную панораму будущего ИИ и автоматизации, вроде тех, что рисуют многие его собратья по технологическому цеху. Это оптимистичная картина будущего, где выигрывают абсолютно все, а искусственный интеллект дает свободу от рутинного труда, стимулирует экономический рост и позволяет решить важнейшие социальные проблемы.

«Я вижу мир, в котором через сотню лет мы будем съезжать на лыжах со склонов Марса, — говорил он. — Через двести — заниматься серфингом на кольцах Сатурна. А через пятьсот — качать энергию из черных дыр».

Шукла расхаживал по сцене, приближаясь к эффектному финалу.

«Таков потенциал человеческого рода, — продолжал он. — Но мы не можем всего этого достичь, пока от сорока до семидесяти процентов наших работников будут использоваться как роботы. Мы должны освободить человеческий интеллект!»

Когда я рассказывал людям, что пишу книгу об ИИ и автоматизации, они реагировали по-разному.

Друзья и коллеги, скептически относившиеся к техническому прогрессу, обычно меня поддерживали. Они слышали мрачные прогнозы о роботах, отнимающих работу, и тревожились. Им хотелось, чтобы я подтвердил их опасения насчет надвигающегося кризиса и укрепил их подозрения, что, даже если ИИ не вызовет массовой безработицы, с ним будут связаны другие беды: всеподавляющая слежка, «сбежавшие» беспилотные автомобили, мозгоразмягчающее воздействие соцсетей, — которые перевесят всё положительное.

Но в Кремниевой долине чаще реагировали так, как Аарон Леви, СЕО компании Box, разрабатывающей корпоративное программное обеспечение. «О боже, — сказал он мне. — Только не говорите, что пишете еще одну книгу из серии “Роботы отнимают всю работу”, которые всех пугают и вгоняют в тоску».

Как и Михир Шукла из Automation Anywhere, Леви полагает, что в конечном счете роботы принесут рабочему населению пользу. Его раздражают паникерские, как он их называет, сообщения в СМИ о новых ИИ-технологиях, и он считает, что все мы волнуемся зря.

Прежде чем приступать к ответу на вопрос «Что нам делать с ИИ?», я решил уделить должное внимание этой точке зрения и полноценно пообщаться с людьми вроде Леви и Шуклы. Я побеседовал с теми, кто настроен оптимистически по отношению к ИИ и верит, что эти технологии в итоге принесут гораздо больше положительного, чем отрицательного. Из сказанного ими я вычленил четыре главных аргумента.

1. «Мы это уже проходили, и всё всегда заканчивалось хорошо».

Во-первых, как утверждают оптимисты, опыт сотен лет показывает, что страхи по поводу автоматизации в целом напрасны и, хотя новые технологии лишают работы некоторых людей, они всегда создают новые рабочие места взамен старых и заодно повышают уровень жизни.

Оптимисты не отрицают, что первая промышленная революция отняла работу у некоторых фермеров. Но при этом, по их словам, она создала миллионы рабочих мест на фабриках и сделала более дешевыми и доступными потребительские товары совершенно новых категорий. И в истории человечества такое случалось не раз. С появлением электрического освещения фонарщики стали не нужны, но возникло множество новых, электрических приспособлений, которые потребовалось производить, продавать и чинить. Из-за изобретения домашних холодильников лишились клиентов торговцы льдом, но появилось куда больше рабочих мест для продавцов продуктов, рестораторов и фермеров.

«Последние 250 лет технологии развивались постоянно, а уровень безработицы в США почти всё это время оставался на уровне 5–10%, даже когда появлялись радикально новые технологии, такие как паровой двигатель и электричество», — пишет один из оптимистов, футуролог и автор книги «Четвертая эпоха» Байрон Риз[19].

Люди, приводящие этот аргумент, обычно подкрепляют его современными данными экономической статистики. Они часто говорят о так называемом парадоксе производительности — о том, что в последние несколько десятилетий рост производительности в США, как ни странно, замедлялся, хотя можно было бы ожидать обратного, если бы из-за массовой автоматизации существенно росла продуктивность компаний и люди повсюду теряли работу.

В целом, настаивают оптимисты, нет никаких свидетельств, что нынешний технологический скачок чем-то отличается от предыдущих, и пусть опыт прошлого подскажет нам, что нет смысла беспокоиться из-за будущего.

2. «С ИИ нам будет работаться лучше, он возьмет на себя самое скучное».

Во-вторых, говорят оптимисты, технологии обычно не заменяют живых людей. Они только делают их работу интереснее, освобождая их от гнета однообразных, прозаических заданий и позволяя им сосредоточиться на более приятных и значимых задачах.

«ИИ приходит за нуднейшей офисной работой», — объявил в 2020 году журнал Wired в статье, где рассказывалось, как интеллектуальные приложения устанавливаются в крупных компаниях для выполнения рутинной работы вроде ввода данных, форматирования документов и резюмирования длинных отчетов[20].

Для примера оптимисты обычно рассказывают о специалистах, уже поручивших компьютерам значительную часть своих скучных обязанностей, например медиках, пользующихся электронными картами, которые в основном сами ведут повседневные записи, а врачи могут сосредоточиться на беседе с больными; юристах, которым программы, проводящие правовые исследования, позволяют больше общаться с клиентами; архитекторах, кому системы автоматизированного проектирования сберегают часы, которые они иначе потратили бы на нудное копание в пикселях.

Этим профессиям автоматизация ничем не угрожает, утверждают оптимисты, ведь остается еще много того, что может делать живой врач, юрист или архитектор, а машина не способна. Интеллектуальные инструменты, которые появятся в ближайшие несколько лет, возьмут на себя еще больше скучных и однообразных обязанностей и дадут нам свободу заниматься тем, что нам действительно нравится.

3. «Люди и ИИ будут сотрудничать, а не состязаться».

Оптимисты утверждают также, что значительная часть современных интеллектуальных продуктов предназначена для совместной работы с людьми, а не их замены, и что в наших взаимоотношениях с ИИ нужно видеть возможность для сотрудничества, а не угрозу конкуренции.

В книге «Вторая эра машин» Эрик Бриньолфсон и Эндрю Макафи предлагают заменить выражение «гонка против машин» выражением «гонка вместе с машинами». Пол Доэрти и Джеймс Уилсон, руководители консалтинговой компании Accenture, в книге «Человек + машина»[21] утверждают, что сотрудничество человека с ИИ станет краеугольным камнем экономики XXI века. Они говорят, что системы ИИ не заменяют нас массово, а дополняют наши навыки и сотрудничают с нами ради повышения производительности, невозможного ранее.

Оптимисты этого типа любят приводить в пример шахматного гроссмейстера Гарри Каспарова, который, как известно, в 1997 году проиграл серию партий IBM-овскому компьютеру Deep Blue. После поражения от Deep Blue, гласит легенда, Каспаров понял, что будет лучше, если живые шахматисты и компьютеры станут сотрудничать. И он начал содействовать популяризации «фристайл-шахмат», в которых любой игрок может обращаться за помощью к компьютерной программе и сочетать прозорливые идеи машины с собственным мастерством. В игре против компьютера, по словам Каспарова, команды из человека и машины будут обладать подавляющим преимуществом.

Этот принцип, продолжают оптимисты, будет работать в любой сфере. Врачи, прежде чем поставить диагноз, станут консультироваться с моделями машинного обучения; судьи перед вынесением приговора — обращаться к алгоритмам оценки риска рецидива; а журналисты — легким движением руки оживлять сгенерированные машиной черновые варианты статей. Во всех этих случаях, говорят оптимисты, люди и ИИ, работая вместе, будут достигать большего и лучшего, чем если бы они трудились по отдельности.

4. «ИИ не приведет к массовой безработице, поскольку человеческие потребности безграничны. В будущем мы придумаем себе новые профессии, о которых сегодня не можем даже помыслить».

Четвертый любимый довод оптимистов, по сути, подразумевает, что у пессимистов плохо с воображением. Всего пару-тройку десятилетий назад, напоминают они, многих из крупнейших мировых компаний — включая Facebook, Google, Amazon — вообще не существовало. Еще недавно не было таких понятий, как автор YouTube, специалист по поисковой оптимизации (SEO) или профессиональный киберспортсмен.

ИИ, как утверждают оптимисты, уже создает новые профессии в таких сферах, как интеллектуальная обработка данных, точная медицина и предсказательная аналитика. А в будущем, по мере его совершенствования, откроется еще больше лазеек для проявления человеческой изобретательности. Может быть, нам всем захочется, чтобы нас повсюду сопровождали персональные роботы-тренеры, которые напоминали бы, что нужно правильно питаться и больше упражняться. Может, наши города опутают сетью датчиков, которые будут динамично корректировать маршруты движения для предотвращения заторов или, исследуя сточные воды, обнаруживать очаги заболеваний. А может, в дополнение к беспилотным автомобилям мы построим самодвижущиеся рестораны, которые будут перевозить нас с места на место, пока мы обедаем. Всем этим новым проектам нужны люди не только для написания кода, но и для консультирования, установки датчиков и доброжелательной встречи посетителей.

По словам оптимистов, нам всегда прекрасно удавалось изобретать для себя новые, интересные занятия, когда технологии распахивали перед нами новые двери, и наши безграничные желания не позволят нам остаться без дела.

Проанализировав эти доводы и изучив факты, которыми оптимисты обычно их подкрепляют, я остановился на позиции, которую нельзя отнести ни к абсолютному оптимизму, ни к абсолютному пессимизму.

Это скорее «недооптимизм»; слово я придумал сам, и оно отражает мою убежденность, что, хотя худшие опасения по поводу искусственного интеллекта и автоматизации могут не сбыться, существуют реальные, прямые угрозы, требующие нашего внимания. Если бы мне предложили оценить степень моего беспокойства по десятибалльной шкале, где 1 — «ИИ не породит никаких экономических и социальных проблем», а 10 — «ИИ уничтожит нас и всё, что нам дорого», я бы, наверное, завис где-то в районе семерки.

Меня не так уж (где-то на уровне 2 или 3) беспокоят сами технологии. Я по-прежнему верю, что продуманные ИИ и автоматизация могут решительно изменить к лучшему жизнь многих людей. Одни только беспилотные автомобили и грузовики могли бы ежегодно спасать сотни тысяч жизней, предотвращая аварии со смертельным исходом, а даже если бы водители грузовиков и таксисты потеряли работу, мы бы в целом выиграли. Точная медицина — новый, индивидуальный подход к лечению и предотвращению заболеваний, сочетающий ИИ, анализ больших наборов данных и геномику, — могла бы помочь нам открыть новые, спасительные методы лечения изнурительных болезней. Есть еще миллион других способов сделать наше будущее более радужным — и солидных (более эффективное использование энергии), и просто приятных (новые виды адаптивных видеоигр на базе ИИ).

Однако меня куда больше (наверное, на уровне 8 или 9) беспокоят люди, разрабатывающие и внедряющие все эти технологии. Я вижу, как за ИИ жадно хватаются охочие до прибыли руководители и восторженные предприниматели. Многие из них умышленно недооценивают риск, что их работники пострадают или будут уволены. Я знаю, что многие при помощи ИИ контролируют каждый шаг подчиненных, и в результате для многих работа становится более трудной и нестабильной, а не легкой и приятной. Я понимаю, что, если массивы данных формируются некорректно и пристрастно, ИИ тоже будет грешить некорректностью и пристрастностью, а подавляющая однородность сообщества разработчиков ИИ может привести к тому, что созданные ими системы будут причинять несоразмерный ущерб уязвимым группам, в том числе женщинам и расовым меньшинствам. Я боюсь, что авторитарные правительства будут всё чаще направлять ИИ на угнетение таких групп и подавление политического инакомыслия. И я с содроганием думаю о нарушениях неприкосновенности частной жизни и прав человека, которым будут содействовать такие технологии ИИ, как распознавание лиц.

Я признаю, что мой недооптимизм — отчасти инстинктивная реакция, обусловленная тем, что я несколько лет освещал новости сферы высоких технологий и видел: она не соответствует идеалам. Но он также основан на том, что я уяснил для себя касательно ИИ-оптимизма и почему любой из его главных аргументов на самом деле слабее, чем кажется самим оптимистам.

Начнем с первого утверждения.

«Мы это уже проходили, и всё всегда заканчивалось хорошо»

Прежде всего я понял, что многие оптимисты отлынивали от домашних заданий по истории. Они утверждают, будто четвертая промышленная революция принесет благо человечеству, но редко упоминают о том, что для множества людей предыдущие три оказались не таким уж благом.

В XVIII и XIX веках, когда шел процесс индустриализации в США и Великобритании, рабочие, как правило, трудились на переполненных, грязных фабриках в нечеловеческих условиях, их часто заставляли оставаться сверхурочно и подвергали чудовищной эксплуатации[22]. В тяжелейших условиях трудились дети: им платили крохи, их селили в битком набитые убогие общежития и жестоко наказывали, когда им не удавалось выполнять требования руководства. Вторая и третья промышленные революции прошли для рабочих относительно спокойно, отчасти благодаря мерам по охране труда, принятым по следам первой революции. Но проблем у простых работников всё равно было предостаточно. Вторая промышленная революция дала начало Позолоченному веку — периоду в истории США в конце XIX столетия, отмеченному ошеломляющей коррупцией, кровавыми разгонами рабочих забастовок, жестокой расовой дискриминацией и колоссальным имущественным неравенством. Что касается третьей промышленной революции, прогресс коммуникационных технологий способствовал резкому скачку производительности, а также воцарению культуры, требующей быть на связи круглосуточно и каждодневно, и появлению в офисах новых источников беспокойства, что привело к невиданному всплеску случаев «перегорания» на работе и росту стресса.

История показывает, что бурный технический прогресс часто улучшает положение высших слоев общества и владельцев капитала, а простые работники не всегда ощущают на себе его преимущества незамедлительно. Например, в Великобритании с началом промышленной революции в 1760-х валовой внутренний продукт и прибыли корпораций почти сразу резко возросли, но прошло, по некоторым подсчетам, больше полувека, прежде чем повысились реальные зарплаты британских рабочих[23]. (Это запаздывание, о котором писал Фридрих Энгельс в книге «Положение рабочего класса в Англии», экономисты называют паузой Энгельса[24].) А значит, к тому времени, как рабочим, действительно приложившим руку к промышленной революции, предоставилась возможность вкусить плоды роста своей производительности, многие из них уже были либо уволены по старости, либо мертвы.

Некоторые экономисты предполагают, что сейчас мы переживаем еще одну паузу Энгельса: рост зарплат остановился, хотя прибыли корпораций стремительно растут. Кроме того, в последнее время были опубликованы исследования, позволяющие усомниться в справедливости утверждения, что автоматизация всегда создает больше рабочих мест, чем сокращает.

В частности, двое экономистов, Дарон Аджемоглу из Массачусетского технологического института и Паскуаль Рестрепо из Бостонского университета, пришли к выводу, что уже не один десяток лет автоматизация сокращает рабочие места быстрее, чем создает новые[25]. Авторы убедились, что в период с 1947 по 1987 год оптимистичный взгляд в целом соответствовал действительности: в промышленных отраслях, где внедрялись средства автоматизации, сокращение и создание рабочих мест (авторы используют термины «замещение» и «восстановление») происходило примерно одинаковыми темпами. Но в период с 1987 по 2017 год процесс замещения в этих отраслях, как выяснилось, намного опережал процесс восстановления. Новые места, как правило, требовали высокой квалификации, поэтому были недоступны для многих работников. Если в прошлом замещенные могли утешаться тем, что скоро для них создадут новые места, то сегодня многие из мест, уничтожаемых ИИ и автоматизацией, вряд ли будут восстановлены.

Автоматизация, кроме того, сильнее всего сказывается на представителях низкооплачиваемых профессий и усугубляет расовое и гендерное неравенство. В 2019 году компания McKinsey в своем докладе прогнозировала, что чернокожие мужчины будут существенно быстрее замещаться автоматами, чем белые и азиаты, в частности, потому, что они чаще работают на должностях, которым в первую очередь грозит автоматизация, таких как водитель грузовика, работник общепита и офисный служащий[26]. (Темнокожим женщинам повезет немного больше, продолжали эксперты, поскольку они доминируют в отраслях, менее подверженных автоматизации, таких как уход за больными и преподавание.)

Всё это должно вызывать беспокойство и заставлять нас сомневаться в словах оптимистов, которые обращаются к историческим фактам, только чтобы успокоить себя и других относительно нынешней волны ИИ и автоматизации. (Вот что пишет экономист из Оксфордского университета Карл Бенедикт Фрей: «Если это “всего-навсего” очередная промышленная революция, то пора бить тревогу»[27].) Множество людей пострадало от первых трех промышленных революций; многие могут пострадать и от этой.

«С ИИ нам будет работаться лучше, он возьмет на себя самое скучное»

Чтобы оценить этот довод, прежде всего надо разобраться, что значит «лучше».

В целом можно согласиться, что благодаря автоматизации определенные виды работ становятся менее трудными физически. Самые тяжелые производственные задачи прошлых столетий — добыча полезных ископаемых, переработка мяса, тяжелое машиностроение — сегодня часто выполняются машинами.

Нетрудно также привести примеры того, как автоматизация избавляет людей от скучной, монотонной работы. Например, мне как журналисту раньше приходилось часами расшифровывать аудиозаписи интервью. Это была кропотливая, трудоемкая работа, я ее ненавидел. А сейчас я загружаю аудиофайлы на специальный автоматизированный сервис с самообучающейся системой преобразования речи в текст и получаю расшифровку через несколько секунд. Не всегда всё проходит без сучка и задоринки. (Приложение иногда допускает очень забавные ошибки, как в тот раз, когда я брал интервью у доверенного лица главы Facebook Марка Цукерберга и Zuck’s inclination превратилось в sexy clinician[28].) Но за годы она сберегла мне сотни часов и освободила время на репортажи и писательство.

Однако, несмотря на существование подобных трудосберегающих новшеств, нет никаких свидетельств, что современные работники счастливее предшествующих поколений. Общие показатели депрессии и тревожности в США сегодня куда выше, чем были тридцать лет назад, а уровень рабочего стресса, как его оценивают сами люди, растет уже несколько десятилетий[29].

Казалось бы, парадокс: мы не становимся счастливее на работе, хотя она стала более безопасной и менее изнурительной, — но объяснить его можно тем, что, избавляя нас от тяжелого физического труда, автоматизация иногда лишает работу всего, что приносит людям радость и удовлетворение.

Историк Дэвид Най пишет, что в 1930-х, когда пошла первая волна электрификации на фабриках, многие рабочие надеялись, что это положительно скажется на повседневном труде[30]. Но вот зажглись лампочки, и рабочие увидели, что главная перемена в их жизни — в том, что они больше не взаимодействуют друг с другом. Электрические машины превратили динамичный коллективный труд в кнопконажимательную рутину.

«Человеческое общение на фабрике — естественный обмен слухами и шутками, товарищеские отношения — стало затруднительным, — пишет Най. — Раньше рабочие свободно общались во время частых перерывов, но руководство постоянно вносило усовершенствования в машинное оборудование и наращивало темпы».

Сейчас такая трансформация происходит в офисах: ИИ и автоматизация позволяют руководителям избавиться от любых проявлений неэффективности и простоев, благодаря которым работники раньше могли передохнуть и поговорить друг с другом.

Кроме того, ИИ и автоматизация создали совершенно новую категорию скучных, монотонных работ, многие из которых выполняются не на Западе. Мэри Грей и Сиддхарт Сури написали книгу о распространении такого явления, как «призрачный труд»: чтобы ИИ и автоматизированные системы адекватно работали, используется человеческий труд, и этот факт тщательно скрывается от потребителей[31]. Социальные сети вроде Facebook, Twitter и YouTube полагаются на армию низкооплачиваемых внештатных работников, которые целыми днями просеивают спорные публикации, решая, что оставить, а что удалить. Интеллектуальным помощникам вроде Alexa ассистируют «комментаторы данных» — люди, которые прослушивают записи разговоров с пользователями и путем разметки данных, исправления ошибок и обучения ИИ тому, как понимать акценты и необычные запросы, помогают системе постепенно совершенствоваться. В Китае есть компании, специализирующиеся на разметке данных и позволяющие удовлетворить огромный спрос на людей, которые должны дни напролет выполнять всевозможную рутинную канцелярскую работу, без чего ИИ просто не может существовать, например маркировать изображения и помечать аудиозаписи[32]. Говорят, что таким людям платят всего 10 юаней в час, примерно 1,47 доллара.

ИИ-оптимисты в целом правы, утверждая, что в итоге новые технологии повышают качество жизни и, когда мы к ним привыкаем, у нас редко возникает желание вернуться к старым порядкам. (Полагаю, даже самый закоренелый луддит был бы не в восторге, если бы ему предложили стирать вручную или лечь на операцию без наркоза.) Но они упускают одно: что мы живем не «в итоге» и не «в перспективе». Масштабные экономические сдвиги моментально сказываются на нас, людях, чья карьера и жизнь ограничены во времени, и многие не успевают ощутить материальных улучшений, которые приносит технический прогресс.

Я в принципе согласен с оптимистами, что попытки сохранить устаревшие нормы и должности ради стабильности обречены на провал. И мне не чужд довод, что мы как общество слишком поспешно принимаем перемены за великое бедствие.

Но любой честный разговор на эту тему требует признать, что перемены даются трудно и многим не удается безболезненно перескочить из одной технологической эпохи в другую. Некоторые неизбежно проваливаются в трещины. Другие в конце концов нащупывают почву под ногами, но так и не обретают прежней стабильности. А третьих используют в своих интересах люди, вооружившиеся новыми технологиями и стремящиеся выжать из всех прочих побольше, а заплатить поменьше. Часто такие революции оставляют после себя потерянные поколения — миллионы людей, кому неподвластные им силы разрушили жизнь и которые так и не добираются до обетованной земли, а порой даже не успевают узнать, как она выглядит.

Одним словом, ИИ и автоматизация, конечно, могут улучшить нам жизнь, но далеко не факт, что это действительно случится.

«Люди и ИИ будут сотрудничать, а не состязаться»

Мне очень, очень хотелось в этом с оптимистами согласиться. Меня безумно привлекает образ человека и ИИ, трудящихся вместе, бок о бок, в полном согласии друг с другом. И мне хотелось бы верить, что, каких бы высот ни достигла машина в выполнении той или иной задачи, живой специалист всегда будет обладать некими неисчислимыми исключительными качествами, которые позволят ему внести свою лепту.

Но, к сожалению, это, видимо, не так.

Исследования одно за другим показывают, что, преодолев некий порог эффективности, ИИ, как правило, опережает не только людей, но и команды из людей и ИИ. Предметом одного из исследований, метаанализа предварительных публикаций, проведенного в 2019 году специалистами Вашингтонского университета и Microsoft Research, был ряд предшествующих изысканий, которые давали оценку решениям, принимавшимся самостоятельно интеллектуальными системами, и сравнивали их с решениями, принятыми людьми при помощи ИИ[33]. Оказалось, что в каждом из случаев ИИ, действовавший самостоятельно, показывал результаты лучше, чем команда из людей и ИИ.

«Повышения эффективности не наблюдалось ни в одном из исследований», — писали авторы и особо отмечали, что «в каждом из случаев при включении в работу человека эффективность снижалась».

Нельзя назвать удачным даже хрестоматийный пример с шахматными командами из человека и ИИ. Гипотеза Гарри Каспарова о том, что такие гибридные команды будут превосходить компьютеры, играющие в одиночку, может, и подтверждалась в более раннюю и менее продвинутую эпоху компьютерных шахмат, но сегодня она уже не верна. Например, в 2014 году по результатам исследования, проведенного специалистами Университета Буффало, был сделан вывод, что, хотя команды из человека и ИИ прежде и могли иметь преимущество перед шахматными интеллектуальными системами, «на сегодняшний день это различие утрачено»[34].

Иными словами, в партнерстве человека и ИИ, о котором мы столько слышали, человек часто превращается в обременительный балласт.

«ИИ не приведет к массовой безработице, поскольку человеческие потребности безграничны. В будущем мы придумаем себе новые профессии, о которых сегодня не можем даже помыслить»

Хотя это утверждение в принципе нельзя ни подтвердить, ни опровергнуть фактами, мне оно кажется убедительнее всех остальных доводов, которые обычно приводят оптимисты. Каждый раз, когда я размышляю о вероятности того, что ИИ и автоматизация сделают человека ненужным, я вспоминаю обо всех профессиях, еще не существовавших, когда я был ребенком: разработчик приложений, менеджер соцсетей, автор подкастов, оператор дрона — и думаю: «Интересно, какие еще профессии со странными названиями мы изобретем в ближайшие десятилетия?»

Специалисты, пристально следящие за развитием технологической отрасли, уже зафиксировали появление ряда профессий. Консалтинговая компания Accenture в 2018 году провела опрос в тысяче крупных корпораций и сделала вывод, что новые профессии, связанные с ИИ, делятся на три категории: наставники, комментаторы и группа поддержки[35]. Это люди, помогающие управлять машинами и следить за ними, объяснять другим людям решения алгоритмов и выполнять хлопотную работу по внедрению ИИ в корпоративные отделы IT. Другая консалтинговая компания, Cognizant, недавно опубликовала список из нескольких десятков профессий, появления которых она ожидает в ближайшее время; среди них «персональный поставщик данных», «планировщик путешествия в дополненную реальность» и «консультант по реабилитации несовершеннолетних киберпреступников»[36].

Главный вопрос, конечно, в том, будет ли этих новых рабочих мест достаточно для замены утраченных из-за автоматизации и окажется ли продолжительным промежуток между исчезновением старых позиций и возникновением новых. На эти вопросы трудно ответить, ведь мы пока не знаем, ни какими будут все эти новые профессии, ни как быстро они появятся.

Однако мы можем приступить к ответам на другие вопросы.

• Будут ли новые виды работ, порождаемые технологиями, такими же стабильными, содержательными и хорошо оплачиваемыми, как старые, которые они заменят?

• Будут ли новые рабочие места располагаться там же, где старые?

• Будут ли новые профессии доступны людям любого пола и этнической принадлежности и с любым образованием или белым мужчинам по-прежнему будут отдавать несправедливое предпочтение?

• Будут ли владельцы компаний делиться с работниками прибылью от автоматизации или станут приберегать ее для себя и своих инвесторов?

• Будут ли компании избавляться от работников при первой технической возможности или станут оставлять их, переучивать и назначать на новые должности?

• Сосредоточатся ли специалисты по ИИ на возможности серьезных прорывов, благодаря которым возникнут новые отрасли со множеством рабочих мест, или будут ориентироваться на поступательное движение вперед, которое лишь позволит владельцам компаний выжимать больше из своих работников?

• Окажут ли достаточную социальную и экономическую поддержку людям, которые не смогут легко сменить старую работу на новую?

• Будут ли компании вроде Google, Facebook и Amazon направлять средства ИИ на то, чтобы помогать людям, предоставлять им достоверную информацию и делать их жизнь лучше? Или с их помощью станут усугублять разногласия, распространять ложь и конспирологические измышления и раскидывать вездесущие сети наблюдения?

Заметьте: ни один из этих вопросов не касается машин. Все они — о людях. И от того, как на них ответят наши политики, крупные предприниматели и технические специалисты, будет зависеть, станут ли ИИ и автоматизация разрушительной силой, великим благом для человечества или чем-то средним.

Что возвращает меня к теме моего недооптимизма.

Меня радует и удерживает от откровенно скептического отношения к потенциалу ИИ то, что мы всё еще вольны решать, как будут развиваться технологии. И если мы всё сделаем правильно, результаты могут быть ошеломляющими. Грамотно сконструированный и внедренный ИИ способен помочь нам покончить с нищетой, излечить болезни, решить проблемы изменения климата и расправиться с системным расизмом. Он способен отодвинуть работу на периферию жизни и вернуть нам свободное время для общения с любимыми людьми и занятий тем, что приносит нам радость и удовлетворение.

Но меня тревожит и удерживает от полного оптимизма, какой испытывает множество моих знакомых из Кремниевой долины, то, что многие из тех, кто сейчас руководит наступлением ИИ, не преследуют этих целей. Они не стремятся освободить людей от тяжкого труда и страданий — они жаждут улучшить показатели вовлеченности пользователей своих приложений или заставить свою бухгалтерию работать на 30% продуктивнее. Они либо не представляют себе глубоких последствий своей деятельности, либо с ними не считаются, и, вопреки клятвенным обещаниям заботиться об ответственном использовании ИИ, не стараются сбавить темп и задуматься, какой вред могут причинить создаваемые ими инструменты.

Поверьте, я бы с радостью снова стал ИИ-оптимистом. Но сейчас мне в этом мешают люди.

Глава 2. Миф о работе, которой не страшны роботы

Люди — это нейронные сети. Всё, что можем делать мы, способны делать и машины.

Джеффри Хинтон, ученый-информатик и первопроходец в области ИИ

Несколько лет назад меня пригласили отужинать в большой компании корпоративных руководителей. Угощение было необыкновенно роскошным: дорогое шампанское, фуа-гра, говяжья вырезка, — и, когда нам подали основное блюдо, разговор, как часто случается в этих кругах, зашел об ИИ и автоматизации.

Среди прочего руководители попытались разобраться, каким видам работ не страшны роботы. «Что могут делать люди, — спросили они себя, — что машины в итоге не научатся делать лучше?»

Любые виды производственных работ, безусловно, отпадают, согласились они. Так же как и розничная торговля, канцелярская работа и грузоперевозки. Один из руководителей из сферы здравоохранения сказал, что ИИ сможет заменить рентгенологов, а то и дерматологов. Другой предсказал, что прекратят свое существование многие низовые должности в сфере финансов и консалтинга. Третий заявил, что любой «комфортной» работе грозит автоматизация. (Я старался вести себя вежливо, поэтому не спросил, относится ли к «комфортным» работа, подразумевающая распивание шампанского и поедание фуа-гра на деловом ужине.)

Когда настала моя очередь что-нибудь предложить, я впал в ступор. Я подозревал, что должны быть работы, которым роботы не страшны. И я слышал мнения многочисленных экспертов, предполагавших, что некоторые виды профессиональной деятельности — уход за больными, преподавание, интеллектуальная обработка данных — застрахованы от автоматизации. Однако я слышал и о стартапах, замысливших автоматизацию как раз этих сфер. В конце концов я выдавил из себя какую-то банальность о том, что работы, требующие творческого подхода и решения сложных задач, машинам выполнять будет трудно. Но я понимал, что дал маху.

После того ужина я стал активнее изучать результаты исследований автоматизации рабочих мест. И понял, что неверной тогда была сама постановка вопроса, поскольку работы, которой не страшны роботы, в принципе не существует.

Вспомним кое-что из того, что когда-то считали недоступным для машин.

В 1895 году знаменитый британский физик лорд Кельвин (Уильям Томсон) опроверг предположение, что когда-нибудь аэропланы во всём мире станут главным средством перемещения по воздуху и заменят воздушные шары; он сказал, что «невозможно построить летательный аппарат тяжелее воздуха»[37].

Спустя восемь лет братья Райт совершили первый полет на аэроплане в Китти-Хок, и дни воздухоплавателей были сочтены.

В 1962 году израильский математик и лингвист Йегошуа Бар-Хиллел отверг идею о том, что компьютеры можно обучить переводу с иностранных языков, написав: «Нет никакой надежды, что привлечение цифровых электронно-вычислительных машин к переводу приведет к каким-либо революционным переменам»[38].

Опровержения пришлось дожидаться дольше, но по состоянию на 2018 год Google Translate ежедневно обрабатывал 143 миллиарда слов и уже значительно снизил спрос на живых переводчиков[39].

Мое любимое несбывшееся предсказание относится к 1984 году, когда The New York Times написала об установке в аэропортах автоматов по продаже билетов[40]. В статье приводились мнения специалистов, крайне скептически воспринявших предположение, что компьютеры заменят турагентов. Цитировались слова руководителя одного из турагентств: «А что, если человек нажмет не на ту кнопку?»

Этот руководитель не был оскорблен и не страдал тупоумием — он просто не мог представить себе, что должно случиться, чтобы люди доверили компьютеру такую дорогостоящую покупку, как билеты на самолет. Сегодня, конечно, большинство бронирует авиабилеты в интернете и число людей, работающих турагентами, значительно сократилось.

Обратите внимание: все, кого я здесь упоминаю, — не случайные, ничего не знающие наблюдатели, каркающие с галерки. Нет, это ведущие в своих областях специалисты, которым, по сравнению с их современниками, доступны более точные данные и инсайдерская информация. И всё-таки они попадают впросак снова, и снова, и снова.

На самом деле, когда речь идет о прогнозах в сфере ИИ, компетентность, возможно, не помогает. В 2014 году ученые из Оксфордского университета собрали прогнозы технических специалистов о путях развития ИИ, сделанные на протяжении 60 лет, и сравнили их с прогнозами непрофессионалов за то же время[41]. Авторы исследования заключили, что по точности прогнозов эти две группы в целом не различаются: «По всей видимости, делать прогнозы по поводу ИИ… это почти то же самое, что играть в угадайку».

Я не пытаюсь оговорить специалистов и не выступаю против попыток предсказать траекторию технологических преобразований. (Иначе я не взялся бы за эту книгу.) Но меня тревожит, что ошибки определенного рода — те, что проистекают из склонности переоценивать наши навыки и недооценивать способности машин, — могут внушить нам опасное чувство защищенности.

Когда Ричард и Даниэль Зюскинд писали книгу «Будущее профессий» (The Future of the Professions), они собирали мнения специалистов в разных областях, включая юриспруденцию, медицину и финансы, о том, что готовит будущее их профессии[42]. Большинство опрошенных предполагало, что ИИ и автоматизация приведут к радикальным переменам в их сфере и некоторые их коллеги останутся без работы, но почти все верили, что им самим ничто не угрожает.

И это не единичный случай. Как показал опрос, проведенный в 2017 году Институтом Гэллапа, 73% взрослого населения США полагает, что ИИ «уничтожит больше рабочих мест, чем создаст», при этом всего 23% тревожит перспектива потерять работу[43]. Такое впечатление, что во всем мире умные люди всех профессий одновременно убедили себя, что а) ИИ — немыслимо мощная технология, которая будет способна выполнять даже сложные задания со сверхчеловеческой эффективностью; б) машина никогда не сможет делать того, что делают они.

Невероятно, но этот род отрицания действительности можно наблюдать даже в отраслях, где машины уже угрожают рабочим местам. В 2019 году журналистка и иллюстратор Венди Макнотон проехалась по стоянкам грузовиков в штатах Невада, Юта и Айдахо и повсюду спрашивала у водителей, что они думают о беспилотных грузовиках[44]. И хотя на разработку таких машин потрачены уже миллиарды долларов и их прототипы появились на американских автострадах (а сейчас, когда вы читаете эту книгу, возможно, и стадия испытаний уже позади), почти все водители грузовиков только смеялись над этой затеей.

«Чтобы компьютеры взяли на себя эту работу, на это нечего надеяться, — сказал Макнотон один из водителей. — Никто не может делать того, что делаем мы».

Люди, захваченные нынешней волной ИИ и автоматизации, не очень понимают, что к чему, и одна из причин — в том, что расширилась зона опасности. В последние десятилетия автоматизация главным образом касалась однообразной ручной работы, в основном сконцентрированной на производстве, и работники умственного труда в целом чувствовали себя в безопасности. Но сейчас многие из самых перспективных направлений применения ИИ и машинного обучения касаются таких сфер, как бухгалтерский учет, юриспруденция, финансы и медицина, где выполняется множество работ по планированию, прогнозированию и оптимизации процессов. Как выяснилось, именно с ними ИИ справляется очень хорошо.

На самом деле служащим, возможно, даже больше грозит потеря работы из-за автоматизации, чем рабочим. В 2019 году Брукингский институт провел исследование, которое опиралось на работы стэнфордского соискателя на докторскую степень Майкла Уэбба и состояло в сравнении текстов патентов в области ИИ и описаний должностных обязанностей из базы данных Министерства труда, и в поиске словосочетаний, присутствовавших и в тех и в других, например «прогнозировать качество» или «представлять рекомендации»[45] Уэбб и специалисты Брукингского института пришли к выводу, что 740 из 769 должностей, включенных в область исследования (то есть практически всем), в той или иной степени грозит автоматизация в ближайшем будущем. Работники, имеющие степень бакалавра или магистра, рискуют потерять место из-за ИИ в четыре раза сильнее работников, окончивших только среднюю школу. Как обнаружили исследователи, некоторые из должностей, наиболее подверженных автоматизации, принадлежат к категории высокооплачиваемых в крупных региональных агломерациях, таких как Сан-Хосе, Сиэтл и Солт-Лейк-Сити.

Эти выводы крайне далеки от того, что мы обычно думаем об ИИ и риске автоматизации. И они должны стать сигналом тревоги для сверхобразованных работников умственного труда, всегда полагавших, что уж их-то автоматизация точно не коснется.

Трейдеры с Уолл-стрит усвоили горький урок о том, что незаменимых нет, много лет назад, когда алгоритмы для высокочастотного трейдинга и электронные фондовые биржи уничтожили тысячи рабочих мест в биржевых залах. Теперь машины нацелились на другие профессии этой отрасли. В 2017 году холдинг JPMorgan Chase начал использовать самообучающуюся программу COIN для проверки финансовых контрактов определенных типов[46]. Ранее на изучение всех этих документов живые сотрудники тратили больше трехсот тысяч часов ежегодно. Теперь задача выполняется почти мгновенно. Многие ведущие финансовые компании пользуются Kensho — интеллектуальной платформой для анализа данных, автоматически выполняющей важнейшую финансово-аналитическую работу, для которой раньше требовались целые армии выпускников Уортонской школы бизнеса[47]. Судя по отчету компании Wells Fargo, опубликованному в 2019 году, из-за инструментов вроде этого в ближайшие десять лет потеряют работу двести тысяч финансистов[48].

В медицине совершается машинный переворот по мере того, как ИИ учится выполнять разнообразную работу, для которой раньше требовались квалифицированные специалисты. В 2018 году одна китайская IT-компания создала алгоритм глубокого обучения, позволяющий диагностировать рак мозга и другие заболевания быстрее и точнее, чем команда из пятнадцати лучших врачей[49]. В том же году американские специалисты разработали алгоритм, способный распознавать злокачественные опухоли на КТ-снимках, причем ошибается он в двадцать раз реже, чем рентгенолог[50].

О юристах тоже нельзя сказать, что они защищены. В 2018 году был поставлен эксперимент: двадцать известных американских корпоративных юристов состязались с алгоритмом LawGeex, разработанным одним ИИ-стартапом[51]. Соперники должны были как можно быстрее найти пункты, вызывающие сомнение с правовой точки зрения, в пяти соглашениях о неразглашении конфиденциальной информации, без которых немыслимо договорное право. ИИ-алгоритм разбил юристов наголову, продемонстрировав среднюю точность на уровне 94%; средняя точность людей составляла 85%. Еще существеннее оказалась разница во времени: на выполнение задания юристы в среднем тратили 92 минуты, а LawGeex — 26 секунд.

Автоматизация угрожает даже программистам, долго относившимся к категории служащих с наилучшими возможностями трудоустройства. Благодаря платформам «бескодовой» и «малокодовой» разработки, позволяющим создавать приложения непрограммистам, и централизованным сервисам вроде Amazon Web Services компании теперь могут обойтись меньшим числом сотрудников для написания программ и поддержки технической инфраструктуры. Не исключено, что даже инженеры по ИИ, автоматизирующие всё и вся, могут в конце концов лишить себя работы. В 2017 году Google выпустила AutoML — набор инструментов, который позволяет, обращаясь к существующим моделям машинного обучения, создавать и натаскивать новые модели[52]. Результаты предварительных испытаний впечатляют: получив задание построить нейронную сеть, способную выполнять типовую задачу по маркировке изображений, Google сумела разработать и обучить модель, оказавшуюся более точной в работе по сравнению с построенной инженерами.

А как обстоит дело с журналистами? Да что тут говорить! Многих из нас легко заменить автоматами, особенно тех, чьи тексты однообразны и не блещут оригинальностью. В 2020 году несколько периодических изданий приступили к экспериментам с GPT-3, передовым ИИ-алгоритмом, созданным некоммерческой научно-исследовательской лабораторией OpenAI. Программа, на входе получающая подсказку и развивающая мысль при помощи модели машинного обучения, оказалась способной генерировать длинные, убедительные тексты, которые удивили редакторов ясностью и безупречностью стиля. Газета The Guardian попросила GPT-3 написать целую колонку о будущем ИИ и машинного обучения и призналась, что «в целом на ее редактирование ушло меньше времени, чем тратится на многие журналистские колонки»[53].

Это не означает, что машины заменят всех офисных служащих или большинство из них. Но это сигнал о том, что дипломы элитных колледжей, впечатляющие профили в соцсетях и шестизначные суммы зарплат уже перестали быть гарантией незаменимости.

Еще два вида работ, о которых часто говорят, что они не поддаются автоматизации, — «сострадательные» и «творческие», те, которые связаны с заботой о людях и выдвижением новых идей.

Но исследователи и предприниматели успешно справляются с автоматизацией отдельных задач и в этих сферах. Недавно специалисты Стэнфордского университета представили Woebot — «чат-бота-психотерапевта», который, используя модель машинного обучения и традиционные методы когнитивно-поведенческой терапии, ведет с клиентами всесторонний разговор об их проблемах. Такая практика, как показала экспертная оценка, существенно смягчает проявления депрессии и беспокойства у пользователей[54]. В Японии сейчас разрабатывают «заботливых ботов», которые будут напоминать пожилым людям, что пора выпить лекарство, помогать двигаться и принимать пищу и составлять компанию. Такие роботы не умеют полноценно общаться с людьми, но, возможно, этого и не нужно. Результаты первых исследований эффективности роботов для заботы о пожилых, в том числе эксперимента, проведенного в 2019 году специалистами Оклендского университета из Новой Зеландии, показали, что при взаимодействии со страдающими деменцией такие роботы не менее эффективны, чем люди[55].

Кроме того, некоторые навыки, которые мы считали исключительно человеческими, например способность считывать и интерпретировать эмоции, как выяснилось, могут воспроизводить машины. В информатике есть даже целый раздел «аффективные вычисления», посвященный применению ИИ для анализа речи и малейших перемен выражения лица с целью оценки психологического состояния человека. И хотя эффективность и точность таких систем яростно оспариваются, некоторые из них делают огромные успехи. В эксперименте 2019 года под руководством Евы Крамхубер из Университетского колледжа Лондона ИИ-систематизатору лучше, чем людям, удавалось определить эмоции на постановочных видео, а спонтанные, самопроизвольные эмоции он отождествлял примерно так же точно, как и люди[56].

Что касается творческой работы, возможно, пройдет еще немало времени, прежде чем ИИ вытеснит Леонардо да Винчи из Лувра. Но первые эксперименты в области компьютерного творчества показали, что у него есть перспективы. Недавно я ходил на выставку, где все картины были сгенерированы ИИ при помощи метода машинного обучения под названием «генеративно-состязательная сеть». Это было пронзительно, жутковато и красиво, и картины шли нарасхват у коллекционеров, присутствовавших в зале; некоторые выкладывали тысячи долларов за штуку.

Искусственный интеллект делает большие успехи и в других сферах творчества. Сегодня алгоритмы самостоятельно пишут киносценарии, разрабатывают уровни для видеоигр и составляют архитектурные проекты. Судя по результатам исследований, люди нередко предпочитают результат машинного творчества работам опытных специалистов.

Недавно журналист Клайв Томпсон рассказал о Jukedeck, интеллектуальном инструменте для сочинения музыки, позволяющем с ходу создавать новые композиции[57]. По словам Томпсона, Jukedeck вряд ли будет давать концерты на стадионах, но может серьезно потеснить студийных музыкантов, записывающих саундтреки и музыку для продакшн-библиотек.

«Мелодия не была ни восхитительной, ни запоминающейся, но по качеству вполне соответствовала человеческим творениям, какие мы слышим в видео и рекламе, — писал Томпсон о демозаписи, которую Jukedeck сделал для него. — Живой композитор потратил бы не меньше часа на такую вещь, а Jukedeck справился меньше чем за минуту».

Дискуссия о «работе, которой не страшны роботы» страдает еще одним серьезным недостатком: в ней слишком много внимания уделяется названиям профессий и слишком мало — тому, что мы вкладываем в работу.

Большинство исследований в области ИИ и автоматизации сосредоточивались на оценке риска автоматизации для крупных профессиональных категорий и уравнивали шансы остаться ни с чем для всех учителей, архитекторов, производственных рабочих. Есть даже сайт WillRobotsTakeMyJob.com, где можно ввести название профессии и увидеть, насколько велик в твоем случае риск потерять работу из-за автоматизации. (Я выбрал «репортеров и корреспондентов», и сайт выдал мне 11%, что, откровенно говоря, представляется чересчур оптимистичным.)

В реальности многие работы можно выполнять по-разному, в зависимости от чего они очень легко либо очень тяжело поддаются автоматизации. Художник — это и человек, занимающийся арт-терапией с аутистами, и парень, рисующий тупые карикатуры. Врач — это и всеми любимый педиатр в маленьком городке, и рентгенолог-диагност, который только изучает снимки в лаборатории. Журналист — и репортер, расследующий должностные злоупотребления и преступления на самом высоком уровне, и человек, резюмирующий отчеты о доходах корпораций для новостной ленты. Хоть профессия у этих людей одна и та же, они не одинаково рискуют потерять работу из-за ИИ.

Еще один недостаток исследований, сосредоточенных на профессиях и рисках, — в том, что работа, кажущаяся рутинной и предсказуемой, на деле часто бывает совсем не такой.

Возьмем, например, сотрудников службы транспортной безопасности в аэропортах. Каждый день они просят пассажиров достать из сумок жидкости и ноутбуки, проводят их через досмотровые сканеры и проверяют багаж на наличие запрещенных предметов. Неквалифицированный монотонный труд, не так ли? Легко поддающийся автоматизации. Но оказывается, что сотрудники службы транспортной безопасности не только вглядываются в экран сканера в течение всего дня. Они разруливают непредвиденные ситуации, разбираются с нестандартными случаями: когда, например, у пассажира проблемы со здоровьем и он не может пройти через досмотровый сканер или человек путешествует без удостоверения личности. Они отыскивают потерянные вещи, успокаивают нервничающих пассажиров и подмечают едва уловимые особенности поведения, которые могут свидетельствовать об угрозе безопасности. Они занимаются еще миллионом других крошечных дел, которые вы ни за что не найдете в описании их должностных обязанностей, но без них работа любого аэропорта будет парализована. Вероятно, машинам будет труднее заменить таких сотрудников, чем показывают данные исследований.

Однако некоторые виды работ оказываются более механическими, чем кажется на первый взгляд. Для примера возьмем дизайн одежды. Эта работа может показаться чисто творческой, непосильной для компьютеров. Но сегодня дизайн одежды (особенно если мы говорим о сегменте «быстрой моды» и об интернет-брендах) — во многом распознавание образов и анализ данных, а также решение задачи, как создать вариации на тему того, что уже хорошо продается. А с такими задачами ИИ, как выяснилось, справляется успешно. Некоторые компании уже используют ИИ для разработки дизайна одежды. В 2017 году исследовательская группа компании Amazon создала алгоритм машинного обучения, анализирующий образы и одежду конкретного стиля и учащийся моделировать новые наряды в том же стиле[58]. Glitch, ИИ-компания и Дом моды продают одежду, смоделированную исключительно алгоритмами глубокого обучения[59].

Пощадит ли ИИ всех сотрудников службы транспортной безопасности и вытеснит ли он всех дизайнеров одежды? Конечно, нет. Но, если говорить о последствиях автоматизации, вероятно, нельзя ожидать, что всё будет аккуратно и разложено по полочкам и останется только наблюдать, как одни профессии вымирают, а другие остаются в целости и сохранности.

Одним словом, на том роскошном ужине мне нужно было сказать директорам, что они неправильно ставят вопрос. Работ, которым не страшны роботы, не существует, а название профессии не определяет судьбу человека.

Когда дело касается вытеснения человека машинами, не так важно, что мы делаем, гораздо важнее, как мы это делаем.

Глава 3. Как на самом деле нас вытесняют машины

Некоторые технологии являются к нам под маской… они не похожи на технологии, поэтому мы их не особенно ругаем, а то и не замечаем, пока они делают свое дело нам во благо или во вред.

Нил Постман

В мультсериале «Джетсоны», выпущенном в 1960-х и рассказывающем об одной семье из напичканного роботами будущего, есть известный эпизод, демонстрирующий, как мы обычно представляем себе замену людей машинами. Джордж Джетсон отправляется на работу, на завод. Начальник вызывает его к себе и сообщает, что отныне его обязанности будет исполнять робот по имени Юниблаб. (В качестве утешения начальник предлагает Джорджу должность помощника Юниблаба.)

Прошло полвека, а стереотипное представление о том, как происходит автоматизация на рабочих местах, нисколько не изменилось. Приходишь ты на работу — а на твоем месте робот. Начальник, смущенно теребя ворот рубашки, вываливает на тебя неприятные новости.

Такие замены иногда случаются до сих пор: так, в 2019 году Walmart обзавелась целой армией роботов-поломойщиков и тут же уволила несколько сотен живых уборщиков[60]. (Как писала The Washington Post, сотрудники магазина Walmart в городе Мариетта дали своему роботу имя Фредди в честь всеми любимого уборщика, которого тот заменил.) Но увольнения в «джетсоновском» стиле редки и становятся всё реже по причинам, в первую очередь связанным с капиталистическим представлением об эффективности. Я имею в виду, что если бы вас можно было заменить готовым роботом, то это, вероятно, уже было бы сделано.

Сегодня более типичны истории вроде той, что мне поведал Джейми Лерман, страховой агент из Нью-Джерси, работающий в маленьком семейном филиале одной крупной национальной страховой компании. Десять лет назад, когда Лерман начинал продавать страховки, его филиал был полон сотрудников, которые весь день обзванивали потенциальных клиентов, высчитывали стоимость страхования по новым договорам и выписывали счета. Но новые технологии позволили перевести значительную часть этих работ в автоматический режим. Теперь в филиале вдвое меньше сотрудников, чем когда Лерман начинал работать, и многие столы в офисе пустуют.

«Дело не в том, что людей увольняют, — рассказывал он мне. — А вот когда они уходят сами, необходимость в немедленной их замене становится всё менее насущной. Нам просто больше не требуется столько людей».

Существуют и еще менее заметные формы сокращения рабочих мест из-за автоматизации. Рассмотрим следующие (чисто гипотетические) сценарии.

1. Крупнейшая аэрокосмическая компания, имеющая восемьдесят тысяч сотрудников и заводы по всей стране, обнаружила, что за последние несколько лет продажи ее новых самолетов резко сократились. Одна из причин в том, что некий стартап из Сан-Франциско со штатом в двадцать человек разработал приложение, которое при помощи алгоритма машинного обучения помогает продлевать срок службы самолетов: используя алгоритмы прогнозирования, оно вычисляет, когда нужно заменить или отремонтировать те или иные детали. Эта система позволяет авиакомпаниям реже заменять свои реактивные самолеты новыми, и на протяжении трех кварталов показатели продаж у аэрокосмического гиганта оцениваются как провальные. Под давлением акционеров и совета директоров компания принимает решение закрыть несколько заводов и уволить 25% своих сотрудников.

2. Автотранспортная компания десятки лет перевозит грузы для некой сети крупных супермаркетов. Но в один прекрасный день отдел логистики этой сети начинает пользоваться новым интеллектуальным «оптимизатором грузоперевозок», решив скорректировать маршруты доставки и сократить число машин, требующихся для развозки всё того же количества грузов. Проходит год; автотранспортная компания понимает, что заказов на доставку у нее стало на 30% меньше, и она вынуждена уволить часть своих водителей и диспетчеров.

3. Престижная нью-йоркская юридическая компания последние двадцать лет каждое лето принимает на работу пятьдесят выпускников юридических колледжей. Но случается так, что главный ее клиент, инвестиционный банк с Уолл-стрит, обзаводится ИИ-инструментом, умеющим автоматически просматривать документы определенных типов и помечать пункты, вызывающие сомнение с правовой точки зрения. Этой программой могут управлять младшие сотрудники банка с зарплатой 40 долларов в час, а не 400, как у сотрудника юридической фирмы, поэтому банк теперь гораздо реже обращается к сторонним консультантам. Партнеры компании, которые никак не могли этого учесть, когда прогнозировали ее доходы, решают будущим летом нанять лишь двадцать пять выпускников колледжей.

Все эти сценарии касаются потери работы из-за автоматизации, хотя ни один из них не связан с прямым, равночисленным замещением. Если бы нечто подобное случилось с вами, вам, может быть, и в голову бы не пришло, что виноваты новые технологии. Вы заметили бы лишь побочные эффекты: урезание бюджета, пустые трейлеры, сокращение числа вакансий.

Эта динамика — составляющая того, что технический обозреватель Брайан Мерчант называет проблемой «невидимой автоматизации»[61]. По его словам, «результатом автоматизации, как видно, не становится немедленное и прямое выпроваживание работников в массовом порядке». Ее последствия, продолжает он, часто проявляются постепенно, в виде сокращений зарплат, отказа от заполнения вакансий и роста текучки кадров.

На самом деле существует несколько распространенных способов вытеснения сотрудников, которому способствуют машины, и отнюдь не по «джетсоновскому» сценарию.

Маленькие компании вместо больших

Во-первых, автоматизация позволяет маленьким компаниям решать те же задачи, что решаются их более солидными и известными соперниками, и при этом обходиться куда меньшим числом сотрудников.

В своей книге «Цифровое преимущество» профессора Гарвардской школы бизнеса Марко Янсити и Карим Лахани, иллюстрируя эту мысль, приводят в пример Ant Group — стартап, оказывающий финансовые услуги и входящий в состав китайского гиганта интернет-торговли Alibaba[62]. Ant Group, который вначале назывался Alipay и был платежной платформой, превратился в одну из самых дорогостоящих частных компаний в мире. И добиться этого он сумел во многом потому, что придумал, как заменить машинными операциями множество трудоемких видов услуг обычных банков.

Например, дочернее предприятие Ant Group, MYbank, — приложение для кредитования, чья процедура подписания документов согласуется с формулой «3-1-0»: всё, что нужно, — три минуты на подачу заявки, одна секунда на ее одобрение алгоритмом и ноль человек. Так банк уже выдал кредиты на сотни миллиардов долларов, а благодаря информации о потребителях, которую он получает от Alibaba и других партнеров, сумел сохранить ставку штрафных санкций на уровне 1%, что гораздо ниже, чем у многих обычных кредитных учреждений.

MYbank, у которого в 2018 году было всего около трехсот сотрудников, не будет вынужден уволить тысячи кредитных специалистов, чтобы освободить место для алгоритмов, поскольку и не брал на работу столько людей. Но такие должности есть в других китайских банках и кредитных организациях. И можно не сомневаться, что по мере роста MYbank многим из этих других компаний придется снижать зарплаты, чтобы удержаться на плаву.

Новые модели поведения вместо старых

Кроме того, машины заменяют живых работников, меняя привычки потребителей.

Возьмем, например, Kodak, бывшего гиганта индустрии фотографии. В 1988 году это была процветающая компания с потрясающим по величине штатом в 145 тысяч человек, в числе которых — значительная доля населения города Рочестер, где она была основана. Если бы в то время у кого-нибудь из руководителей Kodak спросили, что может представлять главную опасность для этих людей, он, наверное, заговорил бы об аутсорсинге или международной конкуренции. А если бы этот руководитель был очень дальновидным, он, может, предсказал бы популярность цифровых фотоаппаратов.

Но Kodak уничтожила не конкуренция и не цифровые фотоаппараты, а смартфоны и социальные сети. Когда миллионы людей начали носить в кармане телефон с камерой высокого разрешения, они перестали воспринимать фотографию как платную услугу, для которой требуется специальная аппаратура. Она стала хобби. IT-компании не ставили перед собой задачи уничтожить Kodak, но, поменяв поведение потребителей — сделав так, чтобы они, вместо того чтобы печатать фотографии, стали загружать их на сайты, — фактически определили его судьбу. В 2012 году Kodak объявила себя банкротом; сейчас у нее осталось всего около пяти тысяч сотрудников.

Было бы странно утверждать, что остальные 140 тысяч рабочих мест в Kodak были уничтожены автоматизацией, потому что автоматизация проводилась не в Kodak. Она происходила в MySpace, Facebook, Instagram, Twitter и других компаниях, предлагавших инструменты для обмена фотографиями. Но, когда они взяли на вооружение новые технологии и позволили пользователям делиться фотографиями онлайн, хотя те никогда не видели кассеты с пленкой, жители Рочестера потеряли работу.

Фриланс вместо полной занятости

Кроме того, машины позволяют заменять сотрудников, работающих полный день, внештатными, временными и приходящими за счет того, что весь объем работ делится на типовые задачи, которые в принципе могут выполнять непрофессионалы, и небольшое количество менеджеров руководит многочисленным и гибким наемным персоналом.

Типичный пример такого подхода — платформы услуг на сдельной разовой основе, вроде Uber, Lyft и Airbnb, которые позволяют людям, имеющим машину или свободную спальню, конкурировать с профессиональными водителями и владельцами гостиниц. Но, возможно, более показательным будет пример из моей профессиональной сферы. Несколько десятков лет назад газеты, журналы и телеканалы нанимали журналистов, которые должны были отделять факты от вымысла, решать, какие сюжеты подходят для их аудитории, и располагать новости дня в порядке значимости. Их называли редакторами, продюсерами и обозревателями; их были десятки тысяч, и большинство зарабатывало прилично, на уровне среднего класса.

Теперь множество таких должностей упразднено, а их место заняла должность, характерная для эпохи автоматизации, — модератор контента. Подобно редакторам и продюсерам прежних времен, модераторы контента весь день следят за тем, чтобы информация, передаваемая через Facebook, YouTube, Twitter и другие платформы, годилась для массового потребления. Эти люди обычно не числятся в штате компаний, но нанимаются по контракту агентствами по временному трудоустройству и консалтинговыми фирмами. Мало кто из них зарабатывает существенно больше прожиточного минимума. И при том что они целыми днями фильтруют спорный контент, они фактически не обладают знаниями и навыками, благодаря которым редакторы и продюсеры когда-то могли оперативно и самостоятельно решать, какие сюжеты пропустить, а какие зарубить. Они руководствуются безликими «инструкциями по работе с контентом» и схемами принятия решений, которые им выдают менеджеры. Конечная цель IT-компаний — полностью автоматизировать этот процесс и заменить всех живых модераторов ИИ-инструментами, способными идентифицировать ненавистнические высказывания, сцены насилия и другие запрещенные виды контента. А пока они просто заменяют штатных, квалифицированных работников низкооплачиваемыми фрилансерами.

Поскольку автоматизация преображает жизнь и работу такими подспудными и окольными методами, нам нередко трудно распознать угрозу в том или ином продукте. Но мы часто понимаем задним числом, что такая-то технология, казавшаяся безобидной и полезной, когда мы с ней познакомились, в итоге оказала на нас разрушительное воздействие.

В 1984 году появился TurboTax, и поначалу он совсем не походил на робота, уничтожающего рабочие места. Это был пакет программ, позволяющий компьютерным маньякам заполнять налоговые декларации на ПК, но прошло время, и он вынудил армии специалистов по оформлению налоговой документации искать себе новую работу.

В 1985 году новый редактор Microsoft Excel совсем не походил на робота, уничтожающего рабочие места. Это была программа для работы с электронными таблицами. Но прошло время, и она сделала ненужными целые отделы сотрудников, занимавшихся ручным вводом данных.

В 2006 году, когда Facebook добавил функцию «новостная лента», та не походила на робота, уничтожающего рабочие места. Это был способ выяснить, какая из твоих пассий времен колледжа снова свободна как ветер. Но лента превратилась в продукт, передающий информацию миллиардам людей, доминирующий на рынке онлайн-рекламы и снижающий спрос на печатные СМИ.

Некоторые технологии, входящие в нашу жизнь, почти наверняка будут стоить людям работы, как произошло с этими инструментами. Нам надо извлечь из истории простой урок: мы не можем предвидеть, как машины разрушат нашу жизнь. Нас пугает Скайнет[63], а не электронные таблицы. И когда приходят перемены, они часто застают нас врасплох.

Глава 4. Алгоритм-менеджер

Я был так подавлен: мои мозги больше никому нужны. Просто сидишь, как болванчик, и глазеешь на эту чертову штуковину. Я привык держать всё под контролем, самостоятельно всё планировать. А теперь у меня такое чувство, будто кто-то уже всё решил за меня. Как будто меня понизили[64].

Рабочий с недавно автоматизированного завода General Electric, 1970 год

Каждый будний день Конор Спраулс, представитель службы клиентской поддержки, приходит на работу в кол-центр компании MetLife в городе Уорик[65]. Сев за свой стол, он включает компьютер, и на экране в правом нижнем углу появляется маленькое голубое окошко.

Это Cogito, интеллектуальное приложение-инструктор, с чьей помощью MetLife контролирует своих представителей службы клиентской поддержки. Каждый раз, когда Спраулсу звонят, Cogito слушает разговор и в режиме реального времени высказывает свои замечания и пожелания. Если приложение считает, что Спраулс говорит слишком быстро, в окошке появляется изображение спидометра, намекающее, что нужно снизить темп. Если у оператора сонный голос, загорается картинка с чашкой кофе, чтобы тот взбодрился. А если Cogito почему-то кажется, что Спраулс не может установить с собеседником контакт, приложение показывает ему картинку с сердечком — «значок эмпатии», побуждая его подстроиться под эмоциональное состояние клиента.

Когда мы представляем себе автоматизацию на рабочих местах, мы видим машины, выполняющие тяжелую, не требующую высокой квалификации работу под надзором людей. Однако во многих современных офисах ИИ получил повышение до уровня руководителей среднего звена. В самых разных сферах, от служб поддержки до банковских услуг и общепита, программные средства теперь выполняют контрольные функции: натаскивают работников, следят за качеством, оценивают производительность, — а ведь все эти обязанности прежде выполнялись людьми.

Идея алгоритмов-начальников не нова. Инструменты «оптимизации процессов» использовались в XX веке для того, чтобы выжимать больше из производственных рабочих, а работники сферы услуг уже десятки лет знакомы с системами «динамического планирования» вроде Kronos, позволяющими составлять график смен с учетом прогнозируемой потребности в персонале. Но ИИ и технологии машинного обучения позволили передавать машинам даже обязанности высшего руководства. Так, Amazon при помощи сложных алгоритмов отслеживает производительность складских работников. Говорят, что алгоритмы могут даже автоматически оформлять документы на увольнение отстающих[66]. В IBM аттестацией сотрудников занимается ее собственная ИИ-платформа под названием Watson, и это означает, что надбавка к жалованью может зависеть не только от того, как ты работал весь этот год, но и от того, какие результаты, по прогнозам алгоритма, ты будешь показывать в следующем[67]. Платформы услуг по запросу, такие как Uber и Lyft, вообще отказались от контроля с участием человека и передали функции оплаты, диспетчерского обслуживания и разрешения споров в ведение алгоритмов.

Средства алгоритмического менеджмента превратились в доходный бизнес. Помимо Cogito, существуют ИИ-компании, ориентированные на розничную торговлю, например Percolata, стартап из Кремниевой долины, к чьим клиентам относятся Uniqlo и 7-Eleven. Он разработал сенсоры для магазинов, оценивающие «реальную производительность» каждого работника[68]. Еще один стартап, Beqom, занимается автоматизацией расчета зарплат и годовых премий. А Nexus AI, система «управления персоналом», позволяет менеджерам распределять сотрудников на команды на основе таких расчетных характеристик, как «эффективные работники» и «полное взаимопонимание».

Побывав в кол-центре MetLife, я был поражен, какой властью наделена программа Cogito, хотя она довольно новая. Приложение отслеживает, сколько уведомлений получает каждый работник, и этот показатель учитывается при оценке менеджерами производительности сотрудника за единицу времени. (Работникам не разрешается сворачивать окно Cogito на экране компьютера; если они это сделают, программа оповестит об этом контролера.) У каждого человека по-прежнему есть живой начальник, и, хотя в компании меня заверили, что очки, начисляемые Cogito, никогда не имеют определяющего значения при расчете зарплат и аттестации, Крис Смит, директор по международным операциям MetLife, сказал мне, что Cogito дало компании возможность подтянуть отстающих.

«Была у нас одна сотрудница: мы видели, что ее разговоры всегда длятся на несколько минут дольше обычного, — рассказал Смит. — Когда ее прослушали через Cogito, стало понятно, что она повторяет информацию, которую не надо повторять».

MetLife, в которой под надзором Cogito работает более 1500 сотрудников кол-центров, утверждает, что благодаря этому приложению показатель удовлетворенности ее клиентов вырос на 13%. И работников MetLife, с которыми я общался при посещении кол-центра, кажется, не угнетает такое положение вещей. (Меня, разумеется, сопровождал ответственный сотрудник отдела связей с общественностью, так что люди, наверное, старались вести себя как можно лучше.) Большую часть сотрудников интеллектуальное приложение, по-видимому, немного раздражает, но в пределах терпимого.

«Когда оно появилось, у нас были опасения вроде “Ах, да эта штука будет вопить на меня при каждом звонке”. Но этого не случилось, — сказал мне Спраулс. — Я думаю, что в целом это всё-таки классная технология».

Другой сотрудник MetLife, Томас, в меньшем восторге от Cogito. «В начале, — рассказывал он, — программа присылала мне массу уведомлений из-за того, что никак не могла привыкнуть к моему голосу». Например, часто сигнализировала о том, что он говорит не умолкая, и побуждала дать клиенту вставить слово. Он делал, как его просили, но приложение продолжало порицать его за погрешности, которых он, по его ощущению, не допускал: то он говорит слишком быстро, то не вникает в чувства клиента.

«Иногда выскакивает уведомление, а я просто не обращаю на него внимания, зная, что всё делаю правильно», — добавил Томас.

Защитники идеи алгоритмического менеджмента часто упирают на то, что у многих живых руководителей есть свои недостатки. Они принимают решения сгоряча. Переходят границы и продвигают любимчиков. Бывают самовлюбленными и жестокими. По идее, с помощью автоматизации можно вытеснить худших руководителей, а хороших сделать лучше, вооружив их более совершенными инструментами и информацией.

Как раз над этим работают некоторые стартапы. Компания Humu, основанная одним из бывших руководителей Google Ласло Боком, старается улучшить работу руководителей при помощи ИИ. Humu, к чьим клиентам относятся Sweetgreen и OfferUp, в течение дня рассылает руководителям электронные письма и сообщения с ненавязчивыми подсказками, чтобы они не забывали, например, четче разъяснять сотрудникам свои решения и поддерживать с ними обратную связь[69]. Есть и другие похожие автоматические системы «воспитания» руководителей, например приложения Coach Amanda, Butterfly и QStream.

О долгосрочной эффективности таких программ судить пока рано. Но можно уверенно сказать: когда этим загадочным управленческим алгоритмам позволяют работать без должного надзора со стороны человека, нередко возникают проблемы. Работники Instacart и других сервисов доставки по запросу уже устраивали согласованные «забастовки», протестуя против спорных решений этих компаний: например, настройки приложения Instacart таким образом, чтобы чаевые от клиентов включались в обязательную минимальную оплату, а не приплюсовывались к ней[70]. Постоянные авторы YouTube — категория людей, подвергающаяся, вероятно, наиболее непосредственному контролю со стороны машин во всём мире, — развлекаются тем, что разбирают по косточкам его вездесущий рекомендательный алгоритм и постоянно жалуются на то, как он влияет на посещаемость их каналов. Опрос водителей Uber, проведенный в 2019 году, показал, что система алгоритмического управления, при которой всё, от расчета зарплат до оценки работы, находится в ведении непробиваемых и недоступных пониманию машин, у многих из них вызывает ощущения подавленности и обезличивания[71]. Как выяснили исследователи, множество водителей уже проявляло неповиновение в той или иной форме: например, сговаривались с коллегами, чтобы обхитрить систему и искусственно спровоцировать резкий скачок тарифов в определенной зоне.

Подобные маневры, вероятно, будут становиться куда более обычным делом по мере того, как машины начнут приобретать всё больше власти в разных организациях. Пройдет время, и, может быть, нам всем станут куда больше знакомы нынешние чувства авторов YouTube и водителей Uber — людей, подчиненных капризным машинам, в чьей власти возвысить их или погубить их карьеру. ИИ будет не только нанимать нас и увольнять, но и повседневно руководить нами, поправлять нас, когда мы будем ошибаться, и хвалить, когда мы всё будем делать хорошо. Под «офисными интригами» будет пониматься «обратное проектирование программы управления персоналом». «Нездоровую рабочую обстановку» будет создавать не начальник-самодур, а скверная модель машинного обучения. И вопрос о том, что для работников лучше — признать власть таких машин или бросить ей вызов, — будет оставаться открытым.

Глава 5. Остерегайтесь скучных ботов

Ваши действия свидетельствуют о намеренном введении в заблуждение и/или сокрытии информации с целью получения льгот, на которые вы не имели права…Вы лишены льгот согласно постановлению MFS, статья 62б[72].

Письмо, полученное жителем Мичигана, которого незаслуженно лишила льгот MiDAS (Мичиганская автоматизированная комплексная система обработки данных) — алгоритм выявления случаев мошенничества, используемый мичиганским агентством по страхованию от безработицы

Вообразите самого страшного робота, которого способны себе представить. Быть может, он будет похож на Терминатора — вооруженную человекоподобную машину-убийцу. Или на взбунтовавшийся беспилотный автомобиль, который с разгона врезается вместе с пассажиром в стену или бросается в пропасть со скалы. А может, — на одного из тех (якобы ужасных) четвероногих роботов-собачек, которые играют в футбол и исполняют паркурные трюки в роликах, разлетающихся по всему интернету.

Такие роботы — самое наглядное физическое воплощение автоматизации в нашем обществе, и именно их мы обычно себе рисуем, когда тревожимся о конкуренции и угрозе со стороны машин.

Но, на мой взгляд, главная опасность, по крайней мере в ближайшем будущем, будет исходить от таких форм автоматизации, на которые никто не обращает особого внимания.

Я называю их «скучными ботами». И считаю, что нам следует остерегаться двух их разновидностей.

Первая — то, что я называю «бюрократическими ботами». Это безликие безымянные алгоритмы, которые используются государственными учреждениями, финансовыми организациями, системами здравоохранения, уголовными судами и комиссиями по досрочному освобождению для принятия жизненно важных решений, но редко становятся объектом пристального внимания и критической оценки, в отличие от автоматизированных продуктов массового потребления, предлагаемых компаниями вроде Amazon и Google.

В своей книге «Автоматизация неравенства» (Automating Inequality) Вирджиния Юбэнкс, профессор политологии Университета штата Нью-Йорк в Олбани, рассказывает о распространении бюрократических ботов и о том, как власти штатов и местные органы управления с их помощью автоматически принимают решения о том, имеют ли жители с низким уровнем доходов право на льготы при аренде жилья и получении медицинской помощи и на другие важные льготы[73]. Эти системы, по словам Юбэнкс, часто плохо работают из-за небрежности проектировщиков и администраторов и могут превращать в кафкианский кошмар жизнь людей, пытающихся понять, почему алгоритм выкинул их из программы Medicaid[74] или лишил продовольственных талонов.

Иногда, как в случае со страхованием от безработицы в Мичигане, ошибки бюрократических ботов выявляются и позже исправляются людьми. (Коллективный иск от имени примерно сорока тысяч жителей Мичигана, у которых алгоритм MiDAS по ошибке отобрал льготы, до сих пор рассматривается в суде; проверка на уровне штата показала, что коэффициент ошибок у MiDAS составляет 93%.) Но такие ошибки часто имеют жизненно важные последствия. В 2007 году сбой в автоматизированной системе, которой пользовался калифорнийский департамент здравоохранения, привел к тому, что были несправедливо лишены льгот тысячи малоимущих пожилых людей и инвалидов[75]. В Огайо многолетний проект модернизации программного обеспечения для оформления льгот на территории штата увенчался тем, что тысячам жителей было по ошибке отказано в льготах на покупку продуктов и тысячам отправили бланки на неверные адреса[76]. В штате Айдахо изъян в автоматической системе администрирования данных по программе Medicaid привел к тому, что у тысяч людей с психическими расстройствами и инвалидностью льготы были резко сокращены без объяснения причин[77].

Юбэнкс пишет, что, когда люди оказываются во власти бюрократических алгоритмов, слабо контролируемых человеком, это «расшатывает систему социальной защиты, криминализирует бедные слои, усугубляет дискриминацию и ставит под угрозу наши главные национальные ценности». Она совершенно права, и по мере того как эти жизненно важные системы будут подвергаться дальнейшей автоматизации, вероятность критических ошибок, случающихся из-за недобросовестности разработчиков или по недосмотру администраторов, будет лишь возрастать.

Вторая разновидность средств автоматизации, внушающих опасения, — то, что я называю «бэк-офисными ботами». Это программы, выполняющие всевозможную черную, скучную работу, без которой крупная организация не может функционировать. Если вы трудитесь в большой компании, то, может быть, вспомните какого-нибудь сотрудника с обтекаемым названием должности, например «координатор операций» или «администратор по выплатам»; это как раз те люди, которых должны заменить бэк-офисные боты.

Многие из этих приложений относятся к категории средств роботизированной автоматизации процессов (Robotic Process Automation, RPA). Один из главных поставщиков RPA — Automation Anywhere, о чьей конференции подробно рассказано в начале книги. Но есть и другие, например UiPath, Blue Prism, Kryon, о которых вы, возможно, и не слышали. Их суммарная стоимость составляет миллиарды долларов, и они растут так быстро, что даже крупные IT-компании стали запускать свой бизнес RPA. В 2019 году Microsoft объявила, что в рамках выхода на рынок RPA (предупреждаю: вам может потребоваться двойная порция эспрессо, чтобы добраться до конца этого предложения и не заснуть) она добавляет к своей облачной платформе Power Automate «решение для сквозной автоматизации», в котором «возможности сценариев пользовательского интерфейса сочетаются со встроенными коннекторами Power Automate для более чем 275 широко используемых приложений и сервисов, поддерживающих автоматизацию через API»[78].

Это разработки не из разряда притягательных и воодушевляющих, какие выигрывают призы на конференциях по ИИ и обсуждаются в рецензируемых журналах. Никто никогда не станет размещать на Суперкубке рекламу плагина для работы с реляционными базами данных[79]. Некоторые специалисты даже не причисляют средства RPA к сфере искусственного интеллекта — обычно это статичные программы на базе правил, а не адаптивные самообучающиеся алгоритмы.

Однако такие скучные роботы относятся к технологиям, помогающим сокращать затраты, и бизнесмены готовы платить за них большие деньги. По некоторым оценкам, RPA — один из самых быстрорастущих сегментов отрасли ИИ; ожидается, что к 2025 году он будет оцениваться в 6 миллиардов долларов. На сайтах поставщиков систем RPA полно вдохновляющих историй о крупных корпорациях, пользующихся их продуктами.

Sprint автоматизировала 50 бизнес-процессов за 6 месяцев.

Страховая компания Dai ichi Life экономит 132 тысячи часов ежегодно.

Крупнейшее рейтинговое агентство добилось роста производительности в 600% с RPA.

В этих хвалебных отчетах мысль сформулирована очень аккуратно: ни слова о сокращении рабочих мест и увольнениях (заметьте: «экономит 132 тысячи часов», а не «заменяет 65 сотрудников финансового отдела»). Но люди, следящие за новостями отрасли RPA, а таких всего горстка, потому что (не устану это подчеркивать) всё это невыносимо скучно, говорили мне, что без сокращения рабочих мест здесь не обходится практически никогда.

До Крейга Ле Клера, аналитика Forrester Research, новости об RPA начали доходить еще в 2015 году[80]. Он знал, что крупный бизнес активно инвестирует в эти технологии, но когда он стал разговаривать об этом с главами компаний из списка Fortune 500, то был потрясен, узнав, сколько они тратят на вытесняющих человека роботов от разработчиков, о которых никто никогда не слышал. «На моих глазах предприятия вкладывали в такую автоматизацию по 20 миллионов долларов, — рассказывал он мне недавно. — А ведь если вы зайдете к соседу или подойдете к кому-нибудь на улице и спросите: “Вы знаете, что такое RPA?” — ответ будет отрицательным. Они не имеют об этом никакого понятия».

По наблюдениям Ле Клера, компании, разрабатывавшие средства RPA, не занимались ничем особенным. В основном они «просто писали сценарии того, чем занимается какой-нибудь Гарри в глубине офиса». Но директорам такие боты очень нравились, потому что они подключались к существующим программам и позволяли автоматизировать процессы без модернизации всей технической инфраструктуры, на которую могли уйти годы и миллиарды долларов. «Приезжаешь на конференцию, разговариваешь в уголке с финансовыми директорами и спрашиваешь у них: “Так для чего вам на самом деле всё это нужно?” А они избавляются от людей, — рассказывал Ле Клер. — Можно сделать бота, который будет обходиться в десять тысяч долларов в год, и избавиться от двух-четырех человек».

Ле Клер подозревает, что потеря работы из-за RPA грозит куда большему числу таких вот бэк-офисных Гарри, чем директора готовы признать, — может, миллионам. И он не верит дежурным уверениям, что боты делают работу приятнее, а не уничтожают места. Ему известны случаи, когда директора публично объявляли, что переведут работников в другие отделы, как только их должности будут сокращены из-за автоматизации, а спустя несколько недель или месяцев увольняли их без лишнего шума. Ле Клер и его коллеги провели кое-какие расчеты, и выяснилось, что в США из-за RPA и других видов автоматизации к 2030 году может стать на 20 миллионов рабочих мест меньше.

Очевидно, что скучные боты — угроза для людей: это и сокращение рабочих мест, и лишение льгот, и отказы в страховых выплатах. Однако они опасны и на макроэкономическом уровне — не потому, что слишком сильны, а потому что в некотором смысле недостаточно сильны.

У нас не бывало массовой безработицы после серьезных технологических прорывов прошлых столетий отчасти потому, что революционные новые технологии, уничтожая некоторое количество рабочих мест, способствовали росту производительности и повышению спроса на сотрудников в других отраслях экономики. С появлением транспортировочных контейнеров потеряло работу сколько-то портовых грузчиков, но перевозка грузов по миру значительно подешевела, что стимулировало международную торговлю и привело к снижению цен на все виды потребительских товаров. Потребители, соблазняясь низкими ценами, стали покупать больше, и так возникли дополнительные рабочие места в компаниях, производивших все эти товары.

Но в последние годы большинство новых средств автоматизации не способствовало серьезному росту производительности. В своей статье, опубликованной в 2019 году, Дарон Аджемоглу и Паскуаль Рестрепо из Бостонского университета ввели новый термин — «так себе технологии» — для машин, которые хороши настолько, что могут заменить живых работников, но недостаточно для того, чтобы создать новые места[81]. «Так себе автоматизация», писали они, — это то, чего нам следует серьезно опасаться, ведь она позволяет работодателям заменять людей машинами, но не дает значительного прироста производительности, благодаря которому могли бы появиться новые рабочие места где-то еще. «Безработицей и снижением зарплат грозят не “блестящие” технологии автоматизации, а “так себе технологии”, мало способствующие повышению производительности», — утверждали Аджемоглу и Рестрепо.

Пример «так себе автоматизации» — кассы самообслуживания в продовольственных магазинах. Любой покупатель вам скажет, что эти автоматы очень «так себе». Они часто ломаются, неправильно сканируют и взвешивают товары, нередко приходится звать кассиров, чтобы те сделали всё вручную. Эти машины не повышают эффективность магазина вдесятеро и не оказывают существенного влияния на то, сколько товаров мы покупаем. Они просто перекладывают задачи с сотрудников на покупателей, что позволяет владельцу магазина немного сократить число работников в смене.

Еще один пример «так себе автоматизации» — автоматический кол-центр. Замена сотрудников службы поддержки клиентов такой системой не ведет к значительному росту продаж компании и не повышает качество ее продуктов. Она всего лишь позволяет компании ужать «центр затрат» — выполнять тот же объем работ при чуть меньшем количестве сотрудников и переложить бремя решения проблем на клиентов.

Волна «так себе автоматизации», возможно, как раз и объясняет, почему в последние годы производительность в США не росла существенно, несмотря на достижения в области автоматики и робототехники. И это, как ни парадоксально, означает, что, если нас больше всего тревожит потеря людьми работы из-за роботов, вероятно, нужно стремиться к тому, чтобы последние умели больше, а не меньше.

Учитывая, какие проблемы могут создавать скучные боты как в системах и программах, от которых зависит, получат ли люди жизненно важные услуги, так и на рынке труда в целом, пора пересмотреть представление о том, что такое опасный искусственный интеллект. Ведь сейчас, как бы странно это ни звучало, переживать нужно не из-за дроидов-убийц и дронов-камикадзе, а из-за посредственных приложений и сервисов, позволяющих компаниям на 20% быстрее рассчитывать зарплаты или решать, имеет ли человек право на льготы, при меньшем числе соцработников в штате.

Я, как и эксперты вроде Юбэнкс и Ле Клера, считаю, что мы очень рискуем, недооценивая скучных ботов.

Часть II. Правила

Правило 1. Будь неожиданным, социальным и исключительным

Даже совершеннейшую машину нельзя наделить предприимчивостью: самый расчудесный паровой каток не сможет сажать цветы.

Уолтер Липпман

23 июля 1821 года двадцатиоднолетний англичанин Уильям Ловетт приехал в Лондон с тридцатью шиллингами в кармане, чтобы начать с чистого листа.

Ловетт вырос в рабочей семье в Ньюлине, рыбацкой деревне на юго-западной оконечности Англии[82]. Подростком он учился ремеслу у местного канатчика и хотел, когда подрастет, промышлять изготовлением канатов. Это была не самая престижная работа, но стабильная; Ловетту она нравилась, и он видел в ней свое предназначение.

К несчастью для него, промышленная революция уже шла полным ходом, и появление новой технологии изготовления металлической цепи начало сказываться на торговле канатами. Они стали продаваться хуже: покупатели предпочитали изделия из более крепкого и долговечного материала, которые массово производились на городских фабриках, оснащенных паровыми машинами. Ловетту никак не удавалось устроиться куда-нибудь надолго по специальности, и в конце концов он понял, что навыки, которые он оттачивал подростком, вот-вот станут никому не нужными.

Не он один оказался в таком положении. В то время по всей Англии работники разных специальностей сталкивались с тем, что они больше не нужны. Новое промышленное оборудование перевернуло жизнь кузнецов, сельскохозяйственных рабочих и других людей, занимавшихся ручным трудом, отняло работу у десятков тысяч ремесленников. Некоторые яростно протестовали против этих перемен — как, например, работники текстильных фабрик, ломавшие станки в Манчестере, так называемые луддиты. Другие, в том числе Ловетт, начали раздумывать, чем бы заняться.

Сменить профессию нелегко, и Ловетт несколько раз терпел неудачу. Он примкнул к команде рыболовецкого судна, но быстро обнаружил, что страдает морской болезнью. Потом стал помощником плотника, но в скором времени был выставлен с работы, после того как несколько молодых подмастерьев заявили, что Ловетт непригоден для этого дела.

Начиная отчаиваться, Ловетт сложил вещи, попрощался с родными и отправился в Лондон. Он надеялся, что там ему уготовано другое будущее.

Может, и у вас в жизни был такой момент, когда вы чувствовали, что будущее ускользает из ваших рук, и видели, что навыки, которые вы развивали всю жизнь, вдруг оказались бесполезными.

В моей жизни «момент Уильяма Ловетта» наступил в 2012 году. Мне было под тридцать, я писал о новостях Уолл-стрит и фондовой биржи. Для газетного бизнеса наступили плохие времена, и такие люди, как я, казалось, могли потерять работу в любой момент. Многих из моих друзей-журналистов уже уволили, немало печатных изданий закрылось или перешло в онлайн-формат, постоянно ходили слухи о том, кто станет следующим.

Однажды мне на глаза попалась заметка о стартапе, разрабатывавшем ИИ-инструмент для написания репортажей, который работал на базе технологии «генерация связного текста» (Natural language generation, NLG). Эта программа берет упорядоченную информацию, например статистику из отчета о доходах компании или базу данных по выставленной на продажу недвижимости, и за доли секунды превращает ее в полноценное новостное сообщение без участия журналистов и редакторов.

Такие роботы-журналисты не становились лауреатами Пулитцеровской премии, но всегда сдавали работу вовремя и были потрясающе продуктивны. Авторы Wordsmith, одного из приложений для генерации текстов, заявили, что всего за один год оно наштамповало 300 миллионов новостных заметок — больше, чем все журналисты мира вместе взятые[83]. Еще одним приложением, разработанным компанией Narrative Science, начали пользоваться спортивные сайты вроде Big Ten Network: получая послематчевую статистику и информацию о спортсменах, приложение автоматически генерировало отчеты о матчах[84]. Тем временем и ведущие СМИ — Associated Press, Forbes, Reuters — решили вводить роботов-репортеров в свои отделы новостей.

Узнав о появлении интеллектуальных приложений для генерирования репортажей, я отмахнулся от мысли, что они могут представлять угрозу для живых журналистов. Компьютеры, рассудил я, вероятно, смогут взять на себя обыденные, рутинные задачи: сбор фактов, анализ цифровых показателей, написание ненавистных всем нам стереотипных заметок. Но они ни за что не сумеют выполнять творческую, человеческую работу: генерировать идеи для статей, выяснять мнение людей, которые не любят им делиться, или объяснять трудные для понимания идеи простыми словами.

Но чем больше я об этом думал, тем больше тревожился, что могу заблуждаться. Ведь я написал предостаточно стереотипных новостных заметок, в том числе подробных разборов отчетов о доходах компаний и сводок свежих экономических данных. Некоторые задания, которые я получал, были творческими и трудными, но порой требовалось просто передать информацию как можно быстрее и точнее.

Чем больше я думал о таких приложениях и сравнивал их возможности с собственными обязанностями, тем серьезнее задумывался о том, не слишком ли я самонадеян. Бывали дни, когда я говорил себе, что, возможно, робот и смог бы меня заменить.

Многие годы было принято считать, что если будущее за машинами, то нам нужно стать больше похожими на них.

В 2009 году, когда я окончил колледж, эксперты в основном советовали молодым людям развивать технические навыки, например компьютерные, инженерные, которые дадут преимущество на рынке труда. Нам говорили: STEM[85] — наше будущее, и, если вы изучаете философию или историю искусств, или какой-нибудь другой предмет, которому суждено вскоре стать неактуальным, вы фактически обрекаете себя на бедность и ненужность.

Презрение к гуманитарным наукам усугублялось политическими и бизнес-лидерами, сетовавшими, что Америка выпускает из университетов недостаточно студентов с «правильными» навыками, которые требуются экономике XXI века. В 2012 году венчурный инвестор и сооснователь Netscape Марк Андриссен сказал на IT-конференции, что большинству специалистов по английскому языку «в итоге придется работать в обувном магазине»[86]. В 2016 году венчурный инвестор и сооснователь Sun Microsystems Винод Хосла заявил в своем посте: «Из того, чему обучают на программах “Семи свободных искусств”[87], мало что актуально для будущего»[88]. С тем, что гуманитарные науки утрачивают актуальность, согласился даже Барак Обама, сказав в 2014 году: «Уверяю вас, можно достичь куда большего, обладая навыками, востребованными на производстве или в торговле, чем имея ученую степень по искусствоведению»[89].

Примерно в то же время, когда фанаты STEM вещали о ценности технических навыков, вошло в моду понятие лайфхаков. В основе нового тренда, особенно популярного среди специалистов Кремниевой долины, лежала идея, что человеческое тело и сознание можно оптимизировать и усовершенствовать так же, как ускорить тормозящий компьютер. Инструкторы по персональному росту и всевозможные гуру из соцсетей читали проповеди о личной продуктивности и советовали выкинуть из повседневной жизни всё бесполезное и неэффективное. Сайты вроде Lifehacker и Medium предлагали массу способов повышения жизненной продуктивности, от буллет-джорналинга до употребления «Сойлента»[90], и мы были одержимы новейшими методами выжать из себя как можно больше. За всеми этими советами маячила подспудная идея: индивидуальность — дефект, а не отличительная черта.

Многие годы эта идея в целом была верна, во всяком случае с экономической точки зрения. Индустриальным системам XIX и XX столетий требовались люди, способные бесперебойно и качественно выполнять однообразную работу, и в стенах завода человеческая индивидуальность могла становиться помехой. (Как известно, Генри Форд якобы посетовал: «Почему всякий раз, когда мне требуется пара рук, к ним непременно прилагаются мозги?» Эти слова отражают чувства многих магнатов прежних времен.) Конторские служащие занимались не ручным, а умственным трудом, однако и им часто бывало выгодно подавлять свою индивидуальность ради максимальной производительности.

Но к тому времени, когда я начал больше писать об ИИ и автоматизации, мнение экспертов по поводу требований современной экономики уже, по существу, стало прямо противоположным.

Эксперты говорили мне, что в экономической системе с высоким уровнем автоматизации больше всего ценятся те навыки и умения, которые отличают человека от машины. Вместо того чтобы относиться к себе как к биологическому аппарату, подлежащему отладке и оптимизации, нужно развивать в себе уникальные, человеческие навыки, которые машинам недоступны.

Этот вывод был явно не лишен смысла. И перекликался с тем, что я узнал, собирая информацию: люди, в разные времена добивавшиеся успеха в периоды бурного технического прогресса, не обязательно были передовыми инженерами или программистами. Часто их работа не была связана с новейшими технологиями, зато требовала человеческого участия и умений, и машины не могли ее выполнять.

Например, во времена промышленной революции XVIII и XIX столетий наметился колоссальный подъем фабричного производства, но, кроме того, резко вырос спрос на учителей, священников, инженеров-строителей и других специалистов, которые обслуживали расширившееся и уплотнившееся городское население. Во времена бурного роста автоматизации на фабриках и заводах в середине XX века, когда производство товаров стало дешевле и эффективнее, экономически активное население заинтересовали такие сферы, как образование и здравоохранение, где не было огромного количества роботов и хитроумных машин. А в последние десятилетия, когда в экономике стали главенствовать IT-компании, аналогичную роль, несомненно, играли некоторые из быстрее всего растущих сфер занятости в США: мануальная терапия, логопедия, уход за животными.

Исследуя эти тенденции, я пришел к выводу, что для разработки стратегии выживания на будущее требуется для начала понять, в чём современные машины уступают людям. И я стал задавать специалистам один и тот же вопрос: «Что люди могут делать гораздо лучше, чем даже самый продвинутый ИИ?»

Неожиданное

Прежде всего я выяснил, что ИИ лучше, чем люди, функционирует в стабильной среде со статичными, четко определенными правилами и непротиворечивой входящей информацией. В свою очередь, люди куда лучше ИИ справляются с неожиданностями, заполняют пробелы и действуют в среде со смутно определенными правилами и нехваткой информации.

Вот почему компьютер может, например, выиграть у гроссмейстера в шахматы, но из него вышел бы никудышный воспитатель детского сада. Вот почему виртуальные помощники Siri и Alexa отлично отвечают на простые, структурированные вопросы, требующие обращения к конкретным массивам данных («Какая будет погода в Нью-Йорке в следующий вторник?»), но впадают в ступор, когда им задают вопросы, для ответа на которые нужно избавиться от неопределенности или сделать вывод на основании неполной информации («Что это за ресторан у Грамерси-парка, где готовят очень вкусные бургеры?»).

Даже мелкие неожиданности могут сбивать ИИ с толку. В 2018 году группа исследователей ИИ провела эксперимент с глубокой нейросетью (подобной тем, что помогают приложениям вроде Google Photos распознавать объекты и лица на фотографиях): ее стали обучать узнавать объекты на фотографии гостиной[91]. После того как системе показали миллионы примеров, ИИ научился правильно определять объекты в комнате: кресло, человек, книги. Затем исследователи добавили в гостиную сюрприз — крошечное изображение слоника — и вновь запустили систему. На этот раз ИИ провалился по всем статьям. Он пометил кресло как кушетку, принял слоника за кресло и неверно маркировал объекты, которые до этого определял правильно. Одна-единственная неожиданность не только вогнала ИИ в ступор, у него словно произошел нервный срыв, он позабыл всё, чему научился.

С людьми такого не происходит. Когда мы видим что-то неожиданное, мы вглядываемся получше: дублируем визуальную информацию и обрабатываем ее еще раз, выдвигая предположения о том, что она может означать. Но современные интеллектуальные системы так не умеют. Поскольку у них нет целостной модели мира и представления о том, как с ним взаимодействуют люди (того, что можно назвать здравым смыслом), большинству интеллектуальных систем требуется множество качественных примеров, чтобы работать как следует.

Существуют способы машинного обучения, не требующие полновесного набора маркированных данных, например «обучение без учителя», когда алгоритм должен сам выискивать закономерности в большом и беспорядочном массиве данных. Кроме того, некоторые виды ИИ постепенно начинают лучше справляться с незнакомыми ситуациями. И всё же они еще довольно далеки от того, чтобы ориентироваться в них с легкостью. А значит, люди, которых неожиданности не выбивают из колеи, — те, кто сохраняет хладнокровие в кризисных ситуациях, любит разбираться в запутанных и непредвиденных случаях и может двигаться вперед даже при отсутствии ясного плана, — по-прежнему имеют преимущество.

Это хорошая новость для тех, в чьей работе всё постоянно меняется. Эрготерапевты, полицейские детективы, реанимационные медсестры — у людей таких профессий работа редко остается одной и той же изо дня в день, в ней довольно мало повторяющихся операций.

Но это неважная новость для тех, чья работа четко структурирована и связана со множеством повторяющихся действий, например операторов ввода данных, кредитных агентов и налоговых аудиторов. Один специалист по ИИ сформулировал для меня эту мысль так: если вы можете написать руководство по своей работе, отдать его другому человеку, и тот максимум за месяц научится делать эту работу так же хорошо, как вы, то, вероятно, вас скоро заменят машиной.

Социальное

А еще я выяснил, что ИИ отлично удается удовлетворять многие из наших материальных потребностей, однако с социальными люди справляются гораздо лучше.

Есть сферы, где важен лишь результат. Нам не так важно, управляет составом в метро человек или компьютер, если это безопасно и эффективно и мы добираемся до пункта назначения. Мало кто возразит против того, чтобы об их посылках на складе позаботился робот, если те будут доставлены вовремя и в сохранности. Но в жизни есть много такого, что не укладывается в сухую схему «Я тебе деньги — ты мне продукт».

Человек — существо социальное. Нам нравится чувствовать себя связанными друг с другом и содержательно общаться с окружающими. Нам не всё равно, каков наш социальный статус и что о нас думают другие. И многие решения, которые мы принимаем изо дня в день, — даже, казалось бы, самые банальные: что съесть, что надеть, — очень тесно связаны с нашей индивидуальностью, нашими ценностями и потребностью во взаимосвязи с другими.

На практике это означает, что профессии, существующие за счет наших социальных устремлений, — бармен, парикмахер, бортпроводник, психолог, — будет трудно передать в ведение машин. И люди, мастерски умеющие создавать условия для социального взаимодействия и приобретения нового эмоционального опыта, лучше подготовлены к будущему, чем те, чей основной навык — что-то эффективно производить или делать.

Уже очевидно, что эмоциональный интеллект играет огромную роль в таких профессиях, как медсестра, священник и учитель. Но по мере проникновения ИИ и автоматизации в новые сферы жизни умение дать человеку почувствовать его взаимосвязь с другими и социальную значимость будет становиться весьма ценным навыком и в этих сферах. Хорошим будет считаться не просто юрист, а скорее юрист-психотерапевт: он станет формировать атмосферу доверия при общении с клиентами и помогать им решать их проблемы, а не просто составлять записки по делу для суда и заниматься правовыми исследованиями. Востребованность врача будет зависеть от того, как он общается с пациентами, а не только от знания новейших протоколов лечения. Успешный программист будет не просто запершимся в четырех стенах гением, набирающим строчки исходного кода, — это будет человек, способный возглавить команду, мыслить стратегически и объяснять сложные технические термины непрограммистам.

Это не значит, что в эпоху ИИ и автоматизации технические навыки и элементарная компетентность утратят свое значение. Но, когда машины научатся так же хорошо, как мы, или даже лучше выполнять многие базовые, рутинные операции, составляющие часть нашей работы, на нашу долю останутся ее социальная и эмоциональная составляющие.

Уже сейчас можно наблюдать этот сдвиг во многих отраслях. Туристическим агентствам, не закрывшимся вопреки взлету Kayak, Expedia и Orbitz[92], удалось выжить во многом благодаря тому, что они сделали акцент на уникальных впечатлениях для путешественников: увлекательных вылазках на природу, кулинарных турах, поездках за границу с проживанием в семьях, — вместо того чтобы просто подбирать для клиентов удачные варианты гостиниц. В сфере рекламы, где большую часть повседневной работы теперь могут выполнять программные алгоритмы, значительная доля оставшихся рабочих мест связана с креативным обслуживанием клиентов и рекламой через авторитетных людей — с такими видами деятельности, в которых ключом к успеху становятся понимание человеческих желаний и способность тесно взаимодействовать с другими.

Итак, полезное общее правило заключается в том, что люди, позволяющие другим что-то почувствовать, в гораздо более выгодном положении с профессиональной точки зрения, чем те, кто просто что-то производит или делает.

Исключительное

Наконец, я выяснил, что ИИ куда лучше, чем люди, выполняет объемные задания, связанные с крупными массивами данных, огромным числом пользователей или системами глобального масштаба. Работа, связанная с производством миллиона единиц чего-нибудь или выявлением закономерностей в массиве из сотни тысяч единиц информации, вероятно, уже сейчас выполняется машинами или вскоре перейдет к ним.

С другой стороны, люди гораздо лучше, чем ИИ, выполняют работу, требующую необычных сочетаний навыков, связанную с ситуациями высокой важности и предполагающую наличие необычайного таланта.

Я называю работу такого рода исключительной, но не потому, что она редко встречается. Ее не надо выполнять постоянно или по графику, поэтому автоматизировать ее либо нецелесообразно, либо социально неприемлемо.

Большинство интеллектуальных систем предназначено для выполнения одной-единственной задачи, и, если попросить их сделать что-то другое, они не справятся. ИИ, научившийся давать рекомендации по видеороликам и достигший в этом заоблачных высот, обычно невозможно переориентировать на проверку финансовых отчетов или отсеивание спама. И пока ИИ показывает неважные результаты в так называемом трансферном обучении (transfer learning) — применение к решению задачи знаний, извлеченных нейронной сетью при решении другой задачи. (Исключение составляют алгоритмы и модели глубокого обучения вроде AlphaZero, нейронной сети, разработанной гугловской компанией DeepMind; недавно она за несколько часов самостоятельно освоила шахматы и го на уровне мирового класса, сыграв сама с собой миллионы раз. Но даже у AlphaZero область применения ограничена играми: она не может, например, прочистить сток в раковине.)

Люди же прекрасно умеют соединять одно с другим. Когда мы натыкаемся на проблему, то для ее решения можем использовать то, что узнали, занимаясь чем-то совсем другим. Совет учителя, полученный в школе, мы применяем в ситуациях, возникающих десятки лет спустя. Мы перелагаем идеи на другой лад, смешиваем жанры и держим в голове огромное количество разнородной и бессистемной информации, которую способны в любую минуту слить воедино.

Мария Попова, автор блога Brain Pickings, называет эту способность «комбинаторной креативностью»[93]. Многие великие открытия в истории, по ее словам, были сделаны не за счет глубочайшего погружения в область знания, а благодаря объединению проницательных догадок из двух или нескольких областей. Она цитирует Альберта Эйнштейна, говорившего, что игра на скрипке помогает ему соединять воедино разные отделы мозга, когда он работает над физическими задачами, и писателя Владимира Набокова, считавшего, что обстоятельностью и четкостью стиля он обязан своему хобби — коллекционированию бабочек.

Пока комбинаторная креативность остается исключительно человеческим навыком. А значит, люди с необычными комбинациями умений, например зоолог с ученой степенью по математике или графический дизайнер, знающий всё, что только можно, о фолк-музыке, будут иметь преимущество над ИИ.

Еще один вид исключительного труда, который трудно автоматизировать, — связанный с редкими или чрезвычайно важными ситуациями, где сбои практически недопустимы.

Большинство интеллектуальных систем обучаются методом повторения: они решают задачу снова и снова, каждый раз показывая результат чуть лучше предыдущего. Но в реальности мы не всегда располагаем временем на тысячи тестов, и мы интуитивно понимаем, что есть вещи слишком важные, чтобы их доверить машинам. Когда мы набираем 911, то хотим, чтобы звонок принял человек, а не автоответчик. Когда жених и невеста желают, чтобы их свадьба прошла без сучка без задоринки, они нанимают человека-организатора, а не идут в компанию, предоставляющую автоматизированные логистические услуги. Когда предстоит родиться ребенку, мы хотим, чтобы при этом присутствовал врач на случай, если что-нибудь пойдет не так, пусть даже 99% времени его работу может выполнять виртуальный акушер.

К исключительным также относятся работы, требующие человеческой ответственности и умения сочувствовать. Когда компания медицинского страхования безосновательно отказывается оплачивать покрываемые полисом услуги или гость с Airbnb переворачивает всё вверх дном в нашем доме, мы не хотим заполнять анкету на интернет-портале — мы желаем пожаловаться живому человеку и добиться решения проблемы.

И последний вид исключительной работы, которому почти наверняка не грозит автоматизация, — это работа, требующая исключительного таланта. В эту категорию попадают спортсмены мирового уровня, премированные шеф-повара и люди с замечательными актерскими или певческими данными. В общем, если кто-то готов заплатить за возможность посмотреть, как вы выполняете свою работу, вам, вероятно, ничто не угрожает.

Маловероятность автоматизации такого рода работ связана не столько с технологическими ограничениями, сколько с нашими естественными потребностями. Как бы ни совершенствовался ИИ, людям по-прежнему нужны примеры для подражания; мы хотим вдохновляться величием человека. Вот почему мы рукоплещем пловцам, выступающим на Олимпиаде, хотя катер и плывет быстрее. Вот почему мы платим за то, чтобы увидеть, как вживую выступает наша любимая группа, хотя и можем бесплатно послушать эту музыку с сайта, сидя дома. Нам нравится быть свидетелями человеческого величия, и мы пока отвергаем технические заменители.

Размышляя над этими выводами, я осознал, что, с тех пор как меня впервые испугала автоматизация, я успел незаметно для себя сделать свою работу более неожиданной, социальной и исключительной.

Я перестал писать стереотипные заметки о доходах корпораций и начал создавать статьи, требовавшие большей креативности и позволявшие мне больше проявлять индивидуальность, — тексты, которые вызывали у читателей какие-то чувства, а не просто передавали информацию. Я отключился от ритма Уолл-стрит и принялся писать о технологиях; я месяцами искал информацию в маргинальных интернет-сообществах и в результате собрал довольно исключительные сведения, которые давали мне возможность продвинуться в профессиональном плане. Кроме того, я начал расширять свой набор журналистских инструментов: стал продюсером и соведущим телешоу, записал подкаст, — благодаря чему приобрел новые навыки и возросло число их возможных комбинаций, которые можно задействовать в каком-нибудь проекте.

Занимаясь этими переменами, я стал замечать, как повсюду вокруг меня другие люди также делаются более неожиданными, социальными и исключительными.

Возьмем, например, моего бухгалтера. Его зовут Рус Гарофало, и каждый апрель он разбирается с моими налогами. Рус — не обычный специалист по заполнению деклараций. В прошлом он был комиком, и он вовлекает свое чувство юмора в нынешнюю работу. (Его компания называется Brass Taxes[94] — уяснили, да?)

Рус понимал, что в эпоху TurboTax единственный способ для бухгалтера сохранить работу — внести в нее что-то кроме специальных знаний о налогах. И он нанял целую компанию юморных бухгалтеров приятной наружности. Оплатил им занятия на курсах импровизационной комедии. И принялся подыскивать клиентов из творческой среды, таких как актеры и художники, у которых процесс оформления налоговой документации обычно бывает более запутанным, а потому они рады, когда им помогает живой человек.

Вообще-то мне стоило бы беспокоиться о Русе, ведь заполнение налоговых деклараций — процесс, легко поддающийся автоматизации. (Исследование, проведенное недавно Оксфордским университетом, показало, что вероятность этого составляет 99%.) Но я о нём не тревожусь: он придумал, как превратить рутинную процедуру в неожиданное, социальное и исключительное действо, за которое многие, включая меня, рады платить деньги. Я спросил у Руса, сделал ли он это намеренно, понимая, что роботы уже положили глаз на его работу. И он согласился, сформулировав это так.

«Многие специалисты по заполнению деклараций хотят, чтобы вы занесли им свои бумаги, исчезли с глаз долой и прислали им чек на 400 долларов; это их идеал рыночной эффективности, потому-то TurboTax с ними и покончил, — сказал он мне. — А для нас определяющее значение еще имеет и беседа с вами».

Я видел вокруг себя и коммерческие предприятия, которым не грозила автоматизация напрямую, но неожиданный, социальный и исключительный подход к делу помог им выдержать испытания другого рода.

Хороший пример — Marcus Books. Это независимый книжный магазин в моем родном Окленде, с темнокожими владельцами. Это старейший в Америке книжный магазин, принадлежащий темнокожим, и удивительное место, где оклендцев уже шестьдесят лет знакомят с потрясающими темнокожими авторами, такими как Тони Моррисон и Майя Энджелоу.

Но, быть может, самое удивительное в Marcus Books — то, что он до сих пор существует. В районе залива Сан-Франциско осталось очень, очень мало независимых книжных магазинов, и практически ни один книжный с темнокожими владельцами не пережил наступления Amazon и интернета.

Как же это удалось Marcus Books? Дело не в том, что у них самые низкие цены или прекрасно продуманная система интернет-продаж. А в том, что Marcus Books — не просто книжный магазин. Это центр притяжения сообщества, магазин, полный доброжелательных сотрудников, действительно читавших книги, которые рекомендуют, и безопасное место, где темнокожие покупатели могут быть уверены, что никто не будет ходить за ними по пятам и охранник не станет их обыскивать. А главное, там ощущаются «хорошие вибрации», по выражению совладелицы магазина Бланш Ричардсон.

В начале 2020 года, когда пандемия COVID-19 добралась до района залива, Marcus Books был вынужден на время закрыть двери. Как и у многих других коммерческих предприятий, его будущее было неопределенным. Но сообщество сплотилось вокруг него, создало страничку на GoFundMe[95] и начало собирать деньги, чтобы не дать магазину закрыться насовсем.

Затем, в мае, полицейский убил в Миннеаполисе безоружного темнокожего Джорджа Флойда. Протестующие заполонили улицы американских городов, и в Marcus Books хлынули заказы со всей страны от людей, желавших поддержать его. Магазин продавал в пять раз больше книг, чем до пандемии, а сумма пожертвований на GoFundMe взлетела до 260 тысяч долларов, и этого было более чем достаточно, чтобы удержаться на плаву.

Marcus Books — не высокотехнологичный бизнес (еще недавно нельзя было даже заказать книги на сайте магазина). И если бы покупателя интересовал только широкий выбор дешевых книг, он, вероятно, заказывал бы их на Amazon. Но в этом магазине есть то, что оказалось куда важнее, чем сайт в интернете, — подлинная связь с сообществом, которое и поддержало его в трудные времена.

Шестьдесят лет, пока весь мир менялся, Marcus Books помогало выживать то, что он по-прежнему продавал книги неожиданным, социальным и исключительным способом. Он всегда дорожил своей индивидуальностью и, как результат, стал незаменимым.

Уильяму Ловетту тоже удалось выжить благодаря тому, что он стал более неожиданным, социальным и исключительным.

После переезда в Лондон в 1821 году он уговорил хозяина столярной мастерской взять его на работу, и тот предложил обучить Ловетта изготовлению дорогих комодов и шкафчиков, производство которых, в отличие от канатного, нельзя поставить на поток. Теперь у Ловетта была постоянная работа, и его потянуло и к более интеллектуальным занятиям. Он присоединился к группе мужчин, регулярно встречавшихся в старой мясной лавке и часами разговаривавших о политике, богословии и классической литературе.

«Казалось, мой разум пробудился к новой, интеллектуальной жизни, — писал он в своей автобиографии. — Во мне рождались новые чувства, надежды и стремления, и я посвящал каждую свободную минуту приобретению каких-нибудь полезных знаний».

Вскоре Ловетт активно включился в профсоюзное движение, опиравшееся на межличностные отношения, и стал известным соратником британских рабочих, боровшихся за свои права и охрану труда. Он стал одним из руководителей чартистов — рабочего реформистского движения, и интересовался проблемами образования. Он выступал за новую модель обучения, которая сделала бы акцент на воспитании человеческих качеств: терпимости, любви, сострадания, — а не развитии механических навыков.

Ловетт писал, что образование «должно включать продуманное развитие и тренировку ВСЕХ человеческих способностей, а не просто, как обычно, обучение “чтению, письму и арифметике” или даже высшим достижениям наших колледжей: греческому, латыни и изящной словесности»[96].

Ловетт не стал ни богатым, ни знаменитым. Его имя не красуется на стенах библиотек и университетов. Но он сделал нечто незаурядное. В эпоху неслыханных технологических перемен он придумал, как всегда быть на шаг впереди: опереться в своей деятельности на собственную индивидуальность. Он понял, что его ум, взаимоотношения с другими людьми и сила духа делают его куда значимее машин, и всегда поступал соответственно.

Так ему удалось наполнить свою жизнь смыслом. Он сделал себя неуязвимым для будущего. И, насколько нам известно, никогда больше не плел канатов.

Правило 2. Сопротивляйся машинному дрейфу

Главная задача человечества состоит в том, чтобы делать человеческое существование приятным и полезным, а не превращать людей в придатки машин, учреждений или систем[97].

Курт Воннегут

Надеюсь, вы не будете возражать, если, прежде чем мы двинемся дальше, я задам вам несколько вопросов личного характера.

Не кажется ли вам, что в последнее время ваша жизнь в чём-то стала несколько… предсказуемой?

Вы и ваши друзья в основном смотрите одни и те же телепередачи, читаете одни и те же книги, слушаете одни и те же подкасты?

Может ли незнакомец угадать, какую одежду и еду вы любите, каких политических взглядов придерживаетесь, имея информацию только о вашем возрасте, поле, этнической принадлежности и почтовом индексе?

Ловили ли вы себя на том, что неделями, а то и месяцами живете как на автопилоте: говорите очевидное, занимаетесь одним и тем же, повторяете одно и то же без изменений и счастливых случайностей?

Бывает ли, что, пересматривая свои старые фотографии или видеозаписи, вы видите на них не просто более стройного и юного себя, а более неожиданного, человека, который мыслит самостоятельнее, больше увлекается всякими идеями и осмеливается дальше выходить за рамки общепринятого?

Я отвечу первым. Я всё это чувствую постоянно. И мне кажется, что дело не только в ностальгии. Но и в машинах.

До сих пор мы главным образом говорили о внешних формах автоматизации: промышленных роботах, алгоритмах машинного обучения, бэк-офисных программах с использованием технологий ИИ. Но есть и другая автоматизация, внутренняя, происходящая в глубине личности и в чём-то куда более опасная. Она просачивается в мозг и влияет на наш внутренний мир, на то, что мы думаем, к чему стремимся, кому доверяем. И когда этот процесс идет вразнос, это стоит нам не просто потери работы, а куда дороже.

В последние годы, рассказывая в The New York Times о новостях соцсетей, я встречал множество примеров такой автоматизации. Я брал интервью у последователей экстремистских интернет-движений вроде QAnon и видел, как алгоритмы и стимулирующие социальносетевые механизмы превращают нормальных, уравновешенных людей в съехавших с катушек сторонников конспирологических теорий. В аудиосериале Rabbit Hole, где я был одним из рассказчиков, я исследовал, как разработчики технически добились от платформ вроде YouTube и Facebook того, чтобы они при помощи ИИ заманивали пользователей в персонифицированные ниши, заполненные ровно той информацией, которая, скорее всего, будет удерживать их внимание. Часто это оборачивается тем, что пользователям демонстрируют версию реальности более экстремальную, разъединяющую и менее объективную, чем мир за пределами экранов.

Рассуждая об ИИ, мы нечасто упоминаем такие явления, как дезинформация в социальных сетях и онлайн-радикализация. Однако они тесно связаны друг с другом. Именно ИИ ответственен за то, что социальные сети так затягивают. И его способность точно вычислять, что именно будет держать нас на крючке и заставлять кликать, смотреть, прокручивать ленту, по сути, и создает возможности для манипуляций.

Я уже какое-то количество лет позволяю машинам в неприлично большой мере управлять моей жизнью. Я доверял виртуальным помощникам вести свой календарь, покупал роботизированные пылесосы и подключаемые к Wi-Fi термостаты, чтобы у меня дома было чисто и поддерживалась нужная температура, подписывался на сервисы «Гардероб в коробке», вычисляющие при помощи хитроумных алгоритмов, какая одежда будет лучше всего смотреться на моей фигуре. На работе я ради экономии времени посылал куцые готовые электронные письма и полагался на функцию автоматически генерируемых ответов Gmail. («Да!», «Точно, это сработает!», «Нет, не могу».) Я много лет просто соглашался с мнением алгоритмов: заказывал товары, которые предлагал мне Amazon, проигрывал автоматически сгенерированные плейлисты в Spotify, смотрел шоу, которые рекомендовал Netflix.

Долгое время такая автоматизация моей жизни казалась мне безобидной. Но в конце концов я почувствовал: из-за того, что я позволяю машинам принимать за меня повседневные решения, я не становлюсь ни счастливее, ни продуктивнее. И, между прочим, превращаюсь в другого человека — более поверхностного, с более статичным распорядком и образом мыслей, — и моя повседневная жизнь стала почти механически предсказуемой.

Я стал называть это состояние «машинным дрейфом»; впервые я заметил его у себя несколько лет назад.

В то время я работал редактором на сайте цифровых новостей и должен был среди прочего следить, чтобы мой раздел выполнял месячный план по трафику. В конце каждого месяца, если выяснялось, что мы отстаем, я лихорадочно старался состряпать парочку забойных текстов, которые привлекли бы большой трафик с Facebook или Google. У меня это неплохо получалось. Один из моих постов, банальный обзор дискуссии в Reddit, сорвал банк по количеству кликов на Facebook и набрал несколько миллионов просмотров. Другой текст, привлекший еще несколько миллионов посетителей, состоял всего из четырех предложений и имел заголовок «Энн Коултер запостила неудачный твит».

Эти заметки конца месяца выполняли свою задачу, но всякий раз, когда я их писал, я чувствовал себя скорее не журналистом, а рабочим на заводе, подбрасывающим в топку уголь. Я не делал ничего оригинального и ничего не созидал. Я просто скармливал парочке алгоритмов то, что им требовалось, и попутно сам начинал походить на алгоритм.

Я испытывал состояние машинного дрейфа и вне работы. Я чувствовал, что становлюсь более жестким и политически крайним и многие мои предпочтения превратились в твердые, железные убеждения. Всё больше моих мыслей облекалось в форму коротеньких, как твит, острот, и мне всё труднее становилось непредвзято выслушать мнение оппонента в споре.

Когда я связал эти ощущения с пользованием технологическими новинками, то начал критически оценивать себя задним числом. Мне действительно понравились те кожаные кеды, которые я купил на Amazon, или я доверился алгоритму больше, чем собственному вкусу? Я действительно разозлился на того венчурного инвестора, чей тупой твит мне попался в ленте сообщений, или ввязался в общую свару просто потому, что знал: твиттеровский алгоритм вознаградит меня за едкую шутку лайками и ретвитами? Я действительно люблю готовить или мне просто нравится, каким я кажусь гармоничным, уравновешенным и взрослым человеком, когда выкладываю в Instagram фотографии блюд, приготовленных мною дома?

Какие из моих убеждений и предпочтений действительно мои, а какие — внушены машинами?

* * *

В 1990 году двое ученых из исследовательской лаборатории Xerox PARC, что в Пало-Альто, придумали, как решить досаждавшую им проблему избытка электронных писем. Электронная почта тогда была еще новой технологией, и папки входящих в Xerox PARC пухли от неактуальных и ненужных писем. Каждый день специалисты лаборатории тратили часы на чтение и удаление сообщений от разнообразных новостных групп, на которые были подписаны, и это мешало работе.

Однажды у младшего научного сотрудника Дуга Терри родилась идея[98]. Что, если бы почтовая программа выводила письма не в порядке поступления, а в порядке значимости? А список новостей, который вы видите, отчасти определялся тем, какие из них уже были прочитаны другими и им понравились? Он призвал на помощь еще одного разработчика, Дэвида Николса, и они приступили к созданию программы The Information Tapestry («Информационный гобелен»), которая должна была помочь навести порядок в почтовых ящиках.

Прежде всего нужно было создать систему автоматического ранжирования для обычных, личных сообщений. Терри и Николс разработали набор «оценщиков» — алгоритмов, которые должны сканировать входящие письма и присваивать каждому из них баллы в зависимости от значимости, которая определялась такими факторами, как имя отправителя, тема и число получателей. Письма от руководителя Терри, адресованные только Терри, получали 99 очков, высший балл из возможных, и всегда попадали в самый верх папки входящих. Ниже можно было разместить письма с ключевыми словами средней важности, например «Apple» (это был один из главных конкурентов Xerox PARC) или «бейсбол» (Терри больше всего любил этот вид спорта). Письма от незнакомых отправителей, не содержавшие значимых ключевых слов, получали низкие баллы и появлялись в самой нижней части почтового ящика.

Затем нужно было придумать, как рассортировать сотни писем не личного характера, которые ежедневно горами сыпались в ящики, — сообщения от новостных групп и тематические подборки. Терри с Николсом изобрели систему «совместная фильтрация», позволявшую пользователям расставлять сообщения в порядке важности на основе рекомендаций других пользователей, по сути, превращать коллег в фильтрующий алгоритм.

Система совместного фильтрования работала так: в конец каждого сообщения из новостной группы добавлялось две кнопки. На одной было написано «Мне нравится!», на другой — «Ужасно!». В зависимости от того, на какую кнопку нажимал пользователь, письмо поднималось выше или опускалось ниже в ящиках других пользователей. Каждый мог индивидуально настроить у себя фильтрацию сообщений, подписавшись на рекомендации определенных людей, или определенные темы, или определенные группы, и все эти фильтры можно было сцепить друг с другом в персональную рекомендательную систему. («Показывай мне заметки, рекомендованные Джоном Смитом, по теме “Yankees” из группы comp.misc.baseball».)

Еще около полугода Терри с Николсом и двое других специалистов, которых они привлекли к работе, доводили «Гобелен» до ума. А потом представили его коллегам. Несколько десятков сотрудников решили попробовать. Так родилась рекомендательная система.

Сегодня на рекомендательных системах держится весь мир. Прямо сейчас, когда вы это читаете, миллиарды людей по всему миру следуют сгенерированным алгоритмами рекомендациям, выбирая, что на себя надеть, куда поехать, на какую вакансию откликнуться, какие продукты купить, какого водопроводчика пригласить, в какие акции вложиться, какую передачу посмотреть, какому ресторану отдать предпочтение, какую музыку послушать и какому человеку назначить свидание. Всё наше информационное пространство опирается на рекомендательные системы, двигатели социальносетевых платформ вроде Facebook, Twitter и YouTube. Мы полагаем, что алгоритмы подскажут нам, к кому стоит прислушаться, какие истории прочесть и что заслуживает нашего внимания. Наша политическая и культурная жизнь и даже личные взаимоотношения тесно связаны с рекомендациями этих систем и ухищрениями людей, пытающихся их перепрограммировать и обмануть.

Внедрение алгоритмических рекомендаций во все сферы жизни в целом проходило незамеченным, но, если задуматься, какую долю ежедневных решений мы доверяем машинам, трудно не прийти к выводу, что на наших глазах происходит историческая трансформация целого вида.

«Рекомендательные системы всё больше влияют на то, что люди собой представляют, о чём они мечтают и какими хотят стать», — пишет Майкл Шраге, научный сотрудник Массачусетского технологического института и автор книги о рекомендательных системах[99]. «Будущее “я”, — добавляет он, — это будущее рекомендаций».

Нынешние рекомендательные системы на порядки мощнее той, что была разработана Дугом Терри и Дейвом Николсом для фильтрации электронных писем. В распоряжении современных IT-компаний — огромные вычислительные мощности, позволяющие генерировать детальные модели поведения пользователей, и методы машинного обучения, дающие возможность выявлять закономерности в гигантских массивах данных, например изучить, что и как покупает в интернете сотня миллионов человек, и установить, что люди, приобретающие собачий корм определенной марки, по статистике чаще голосуют за республиканцев.

Еще одно существенное различие — в том, что рекомендательные системы прошлого предназначались для экономии нашего времени, а многие современные направлены на то, чтобы его у нас красть. Facebook, Instagram, YouTube, Spotify и даже The New York Times используют их, чтобы подстраивать под пользователей ленту новостей, показывать им то, что, по подсчетам машин, будет максимально долго поддерживать их интерес.

Эти алгоритмы порой потрясающе эффективны. YouTube утверждает, что более 70% времени пользования его сайтом посетители проводят на нём из-за рекомендаций[100]. По оценкам аналитиков, рекомендации причастны к 30% просмотров страниц на Amazon, и за год эта цифра может приносить компании десятки миллиардов долларов[101]. Алгоритмически генерируемые плейлисты Spotify под названием Discover Weekly стали полноправными хитмейкерами в музыкальном бизнесе; по некоторым данным, в месяц на них приходится больше половины прослушиваний композиций восьми тысяч с лишним музыкантов[102]. Netflix сообщил, что 80% просмотров фильмов на его сервисах связано с рекомендациями, и подсчитал, что они экономят ему миллиард долларов в год[103].

Мощное психологическое воздействие рекомендаций наглядно продемонстрировало исследование, проведенное в 2018 году под руководством профессора Миннесотского университета Гедиминаса Адомавичюса[104].

Исследование включало три эксперимента. Участникам первого дали список песен, каждой из которых был присвоен рейтинг от одной до пяти звездочек. (Рейтинги присваивались произвольно, но испытуемым сказали, будто это делалось на основании их музыкальных предпочтений.) Участникам дали возможность прослушать небольшой фрагмент каждой песни, если они того желали; затем их спросили, сколько бы они заплатили за каждую.

Во втором эксперименте участникам показали реальные рекомендации по песням, сгенерированные алгоритмом вроде тех, что используются стриминговыми сервисами вроде Pandora и Spotify. Исследователи, однако, подделали рейтинги: одним песням добавили звездочек, а у других убавили. Как и в первом эксперименте, участники прежде, чем назначить цену за каждую песню, могли прослушать маленький фрагмент.

В третьем эксперименте исследователи вновь присвоили рейтинги песням произвольно, но на этот раз участники прежде, чем оценить песни, должны были прослушать их целиком.

В результатах первых двух экспериментов не было ничего неожиданного. Участники доверяли рейтингам, даже когда те не отражали их предпочтений, и выше оценивали песни с более высоким рейтингом.

Но результаты третьего эксперимента исследователей поразили. Они ожидали, что, попросив участников прослушать каждую песню целиком перед оценкой, они нейтрализуют воздействие рейтингов. (Они рассуждали так: ощущения от песни, когда ты ее действительно послушал, — гораздо более точный показатель того, нравится она тебе или нет, чем оценки алгоритма.) И всё-таки участники были готовы выложить значительно больше денег именно за песни с более высоким рейтингом. Иначе говоря, случайные предпочтения алгоритмов затмили их собственные ощущения.

«Потребители предпочитают не то, с чем они познакомились и что им, по их оценке, нравится, — сделали вывод исследователи. — Они предпочитают то, что им должно понравиться по мнению системы».

В наилучшем своем варианте рекомендательные системы — прекрасное подспорье для потребителей, способ превратить мощные машины в личных ассистентов, прочесывающих необъятные просторы интернета ради того, чтобы подарить нам впечатления на наш вкус.

В наихудшем — они похожи на напористых торговцев, сующих нам под нос то, что нам не нужно, и пытающихся нами манипулировать в надежде, что мы уступим. Мы теоретически можем держать ситуацию под контролем. (Всё-таки мы люди, у нас есть свобода выбора и воли.) Но воздействие, которое эти системы на нас оказывают, не всегда сродни ненавязчивому дружескому совету. Часто они принуждают нас поворачивать, куда им нужно, создавая условия для выбора, делая предпочтительные варианты более заметными и отодвигая нежелательные на несколько кликов в глубину меню. Многие рекомендательные системы подключены к облегчающим взаимодействие функциям вроде автовоспроизведения или оформления покупки в один клик — и всё для того, чтобы мы приняли решение поскорее, не останавливаясь и не задумываясь, совпадают ли предпочтения машины с нашими собственными.

О том, что машины могут влиять на наши предпочтения, хорошо знают в Кремниевой долине. В продуктовом дизайне есть даже подраздел «архитектура выбора», изучающий, как при помощи малозаметных элементов оформления влиять на то, что пользователи просматривают, покупают и на что обращают внимание. Иногда это помогает, например, когда Yelp[105] по умолчанию выдает ближайшие рестораны с высоким рейтингом и не приходится просматривать алфавитный список всех заведений в городе. Но архитектура выбора позволяет направлять наше внимание и на то, что нам не нужно, не полезно и что мы не стали бы искать по собственной воле.

Ученый Кристиан Сэндвиг, занимающийся исследованиями в сфере технологий, называет это «корыстной персонализацией». Она становится заметнее всего, когда компании пытаются склонить чашу весов в свою сторону[106]. Подкорректировав свои алгоритмы, Netflix может подталкивать пользователей к своим фильмам, Amazon — к своим торговым маркам, а Apple — к своим приложениям в App Store, даже если другие приложения подходят пользователям больше.

Способность рекомендательных алгоритмов значительно изменять предпочтения вызывает беспокойство у некоторых технических специалистов. Именно об этом говорила в 2012 году в интервью Times Рейчел Шутт, специалист по обработке и анализу данных: «Модели не просто предсказывают, они могут управлять и добиваться своего»[107]. Один бывший менеджер по продуктам Facebook пошел еще дальше, сказав в интервью BuzzFeed News, что рекомендательные алгоритмы сети представляют собой попытку «перепрограммировать людей»[108].

«Трудно поверить, что кто-то способен заставить человека пренебречь ценностями, на которые он ориентируется, — сказал этот бывший сотрудник Facebook. — Но такая система может это сделать. Меня это немного пугает».

Французский ученый Камиль Рот делит цифровые рекомендательные системы на две категории: алгоритмы «чтения мыслей», старающиеся приложить наши предпочтения к новой информации, и алгоритмы «изменения мыслей», пытающиеся преобразовать наши предпочтения в другие или сформировать предпочтения, если у нас их не было[109].

Многие годы большинство рекомендательных систем принадлежало к разряду алгоритмов чтения мыслей: они старались угадать, что вы хотите увидеть, и показать вам это. Но в последние годы IT-компании поняли, что алгоритмы изменения мыслей сулят большие выгоды. Таргетированная реклама — бизнес, благодаря которому Google и Facebook оказались в числе самых дорогостоящих компаний мира, — сочетает технологии и чтения, и изменения мыслей: сначала анализируются данные, чтобы угадать предпочтения пользователя (таргетирование), затем рекламодателям дают возможность заплатить за попытки повлиять на его выбор (реклама).

Современные рекомендательные алгоритмы настолько мощны и вездесущи, что часто ведут себя скорее как распорядительные. Располагая выше ту или иную информацию и определенным образом расставляя приоритеты, они могут, создавая у пользователя иллюзию свободного выбора, подталкивать его на путь, который приведет к желаемому результату.

Машинный дрейф очень опасен потому, что сейчас, когда нам больше всего нужно опираться на свои человеческие умения, эти алгоритмы активно воздействуют на те наши свойства, которые в первую очередь делают нас людьми: способность менять курс, добиваться целей, принимать нестандартные решения, которые кому-то могут не понравиться. Они мешают нам развивать ту личную независимость, которая будет защищать нас в эпоху ИИ и автоматизации, позволяя самостоятельно мыслить и действовать. И делают это под предлогом того, что нам помогают.

В статье 2017 года об истории рекомендательных алгоритмов Amazon инженер Брент Смит и специалист по обработке и анализу данных Грег Линден из Microsoft нарисовали картину будущего, где правит ИИ, и она мне кажется одновременно и чрезвычайно мрачной, и очень, очень правдоподобной[110].

«Любое взаимодействие должно опираться на информацию о том, кто ты и что тебе нравится, а также помогать тебе выяснить, что уже обнаружили другие люди, подобные тебе, — писали авторы. — И если ты видишь то, что тебе не подходит, это должно вызывать разочарование и крайнее недоумение: “Вы что, до сих пор меня не изучили?”»

«Чтобы к этому прийти, — продолжали авторы, — нужен новый взгляд на рекомендации. Не должно быть рекомендательных функций и движков. Но понимание тебя, других и знание о том, что доступно, должны быть составляющей любого взаимодействия».

Любого взаимодействия. Недостаточно сопровождать нас в магазине и нашептывать на ухо, какую зубную пасту или туалетную бумагу приобрести. По мнению разработчиков и руководителей, влияющих с помощью рекомендательных алгоритмов на наш выбор, все наши действия должны быть встроены в машинную модель. В этой картине автоматизированного будущего нет места ни для новых вкусов, ни для начала с чистого листа. Вы такой, каким вас считают машины, а значит, такой, каким они хотят вас сделать.

Итак, рекомендательные алгоритмы — одна из составляющих машинного дрейфа; другая — то, что в Кремниевой долине называют дизайном без помех (frictionless design)[111].

Для современного технического специалиста нет врага опасней препятствия — не физического, а метафорического, возникающего, когда пользователь сталкивается с неоправданной задержкой или проявлением неэффективности на пути к выполнению поставленной задачи. IT-компании уже десятки лет с выгодой для себя изымают помехи из нашей жизни: облегчают процесс вызова такси, заказа хозяйственных товаров, оплаты покупок в магазине, — и для целеустремленных технологических магнатов дизайн без помех стал своего рода религиозным догматом. Технологический предприниматель Бренден Маллиган обрисовал антибарьерное кредо Кремниевой долины в эссе, опубликованном на TechCrunch[112]: «Если люди сталкиваются с помехами при пользовании вашим сервисом или при подписке на него, значит, у вас проблема, — писал Маллиган. — Бывает, что совсем избавиться от нее нельзя, но вы должны прилагать все усилия к тому, чтобы помех стало как можно меньше».

Впервые я услышал о дизайне без помех в 2011 году, когда СЕО Facebook Марк Цукерберг объявил, что соцсеть запускает новую функцию «поделись без помех»[113]. Эта функция, позволявшая определенным приложениям, например Netflix и Spotify, публиковать посты напрямую в лентах новостей, не спрашивая разрешения, не имела успеха, и Facebook довольно быстро ее убрал. Но идея технологического продукта «без помех» вызвала огромный интерес в Кремниевой долине. За разработку концепции взялись Uber, Square и другие IT-компании. В 2011 году основатель Amazon Джефф Безос обрисовал в письме к инвесторам стратегические преимущества устранения помех при взаимодействии пользователя с продуктами[114]. «Когда мы облегчаем взаимодействие, люди начинают активнее этим заниматься», — писал Безос.

Многие виды дизайна, устраняющие помехи, безусловно, хороши. Мы не хотим сталкиваться с помехами в кабинете врача или отделении управления автомобильным транспортом. Нет ничего благородного или романтичного в том, чтобы тратить лишние силы, когда бронируешь билет на самолет, или обращаешься в страховую компанию за компенсацией, или подаешь заявление на пособие по безработице. К тому же в США до сих пор очень много людей, в чьей повседневной жизни проблем через край, и мелкие неудобства, которые привилегированные белые мужчины вроде меня иногда называют помехами, например необходимость выслать по факсу анкету в какое-нибудь государственное учреждение, часто не заслуживают внимания, какое к себе привлекают.

Но война Кремниевой долины с помехами имеет свою цену. И она выражается, например, в том, куда уходит эта помеха, исчезнув из телефона или с монитора потребителя. Часто «устранение помех» из технологического продукта означает, что это бремя перекладывается на какого-нибудь низкооплачиваемого работника. Масштабные усилия Amazon по облегчению взаимодействия в клиентских сервисах вылились в дополнительное давление на его складских работников. Водители Uber не получили чаевых на миллионы долларов, поскольку тогдашний СЕО Uber Трэвис Каланик решил, будто функция чаевых в приложении создаст ненужные помехи для пассажиров[115]. (После увольнения Каланика компания одумалась и добавила в приложение эту функцию.)

Главная опасность систем без помех связана с тем, как они влияют на нашу независимость. Как и рекомендательные алгоритмы, они тянут нас к точке максимума на кривой спроса, учат выбирать самые популярные варианты, самые вероятные результаты, пути наименьшего сопротивления. Они редко побуждают нас сделать что-то трудное и нелогичное или притормозить и критически оценить свои порывы. Усиливая «тиранию удобства», по выражению критика современных технологий Тима Ву, подкрепляя идею, что лучшее решение всегда самое легкое, они порой вынуждают нас пренебрегать тем, что позже могло бы стать для нас ценным, например новыми впечатлениями или опытом преодоления трудностей[116].

Неудивительно, что рекомендательные системы и дизайн без помех приобрели такую популярность: им так хорошо удается устранять всякие сложности из нашей хаотичной, стремительной жизни. И, повторю, не все персонализированные рекомендации и приложения без помех плохи.

Но нам следует быть осторожными: не слишком привязываться к таким инструментам. Ведь философия, порождающая машинный дрейф, — по сути, философия нигилизма. Попытка убедить нас, будто в нас нет ничего важного, что нельзя измерить и свести к набору единиц информации, и у нас нет никакого внутреннего мира, который стоит защищать от воздействия машин. Рекомендательные движки и инструменты без помех предлагают нам помощь, но конечная их цель — наша капитуляция: пловец, подхваченный течением, устает с ним бороться и решает просто отдаться на его волю.

* * *

В качестве первого шага к сопротивлению машинному дрейфу рекомендую вести список своих предпочтений. Отслеживайте, что вы выбираете в течение дня, и старайтесь понять, какие решения вы приняли сами, а какие предопределены инструкциями или предложениями машин. Вы каждый месяц покупаете собачий корм одной и той же марки потому, что вам его порекомендовал Amazon, или потому, что он нравится вашей собаке? Отражает ли маршрут, который вы выбрали для поездки на работу, ваши предпочтения или представления Google Maps об оптимальной поездке? Пошли бы вы в этот поход, надели бы эту куртку, заявили бы открыто об этой политической позиции, если бы не думали о лайках, просмотрах и ретвитах, если бы речь шла только о вас, таком, какой вы есть, и о том, что принесет вам больше всего радости и удовлетворения?

Разобравшись в своих предпочтениях, ценностях и приоритетах, запишите их. Какие хобби вам действительно интересны и что вы на самом деле любите делать? Какие политические и религиозные убеждения у вас бы остались, если бы вы оказались в вакууме и никто бы никогда не узнал, что вы их придерживаетесь? Отношения с какими людьми по-настоящему обогащают вашу жизнь? Держите этот список под рукой. Если хотите, повесьте его на стену. Это, в первом приближении, слепок с вашего внутреннего «я», и на него полезно ориентироваться.

Еще один способ противостоять машинному дрейфу — назначить, как я это называю, «час человека». Каждый будний день, примерно в одно и то же время, в моем случае обычно в пять-шесть вечера, я стараюсь провести хотя бы час за делом, которое мне по-настоящему нравится: играю в теннис, готовлю, вывожу собаку побегать. Важно, чтобы дело было абсолютно не обязательным: я не трачу этот час на вычеркивание пунктов из списка дел или работу по дому. Суть в том, чтобы на один час войти в соприкосновение с собственными потребностями и предпочтениями, заниматься тем, что позволяет почувствовать себя человеком, вырваться из паутины стимулов и невидимых сил, тянущих тебя то туда, то сюда в течение дня.

Ради сопротивления машинному дрейфу я также начал добавлять в свою повседневную жизнь чуть больше помех. Вместо того чтобы заказать электродрель на Amazon, я еду в местный хозяйственный магазин. Я трачу две лишние минуты на разогревание молока для утреннего кофе вместо того, чтобы налить его холодным. По выходным я читаю бумажную газету вместо того, чтобы прокручивать заголовки в Twitter. Когда я еду в город на работу, то выбираю более длинный и живописный маршрут и трачу на дорогу лишние пятнадцать минут, зато получаю куда больше удовольствия.

Естественно, всё это очень мелкие неудобства, и мне повезло, что у меня есть время и пространство для маневра, чтобы по своей воле вводить их в жизнь. Многие работают гораздо более напряженно, чем я, в условиях куда менее благоприятных, чем у меня, и им требуются абсолютно все доступные удобства. Надеюсь, инженеры и разработчики найдут способы изъять помехи из жизни уязвимых групп людей вместо того, чтобы устранять крошечные неудобства из жизни тех, кому и так удобно.

Но тем из нас, кто оказался в достаточно привилегированном положении, чтобы выбирать для себя темп, образ жизни, в котором будет чуть больше препятствий и независимости, может доставить удовольствие. Ведь если подумать, совсем не многие счастливейшие моменты и похвальные достижения в нашей жизни были результатом того, что мы позволили алгоритмам решать за нас. Покоренные вершины, преодоленные марафонские дистанции, благополучно выращенные дети существуют потому, что мы сознательно решали сделать больше, чем было необходимо. То, что приносит внутреннее удовлетворение, часто бывает трудным, а трудное — враг машин.

* * *

Недавно я позвонил Дугу Терри, разработчику из Xerox PARC, почти тридцать лет назад придумавшему «Гобелен», — первую алгоритмическую рекомендательную систему. Терри, которому сейчас 62 года, работает в Amazon, и после того, как мы повспоминали о создании «Гобелена», я спросил у него, что он думает о рекомендательных движках таких сервисов, как Facebook, YouTube и Netflix.

«Мне кажется, их нельзя сравнивать, — сказал он. — У нас была маленькая простая система, а сейчас триллионы лент новостей для миллиардов людей; и масштаб, и сложность — всё другое».

Когда Терри предложил фильтровать новости на основании рекомендаций коллег, он не мог знать, что эта же технология поспособствует расцвету IT-гигантов стоимостью во много миллиардов долларов и коренным образом изменит мировое информационное пространство. И когда я рассказал ему о своих опасениях: о беспокойстве по поводу того, что алгоритмы, которым полагается фиксировать наши предпочтения, на самом деле их искажают; о тревоге из-за машинного дрейфа; о людях, которых рекомендации в соцсетях склонили к радикальным взглядам, — мои слова, кажется, вызвали у Терри озабоченность.

Прежде, по его словам, рекомендации были просто рекомендациями. Но теперь их роль стала определяющей. Терри назвал это эффектом снежного кома: людям показывают всё больше того, что отвечает представлениям алгоритма об их интересах, и в итоге их картина мира сужается, сводится к тому, что они привыкли видеть.

«Я думаю, одна из главных задач — убедить людей выйти из зоны комфорта, — сказал Терри. — Рекомендательные системы поступают наоборот: сужают поле зрения».

Правило 3. Не давай гаджетам руководить

Из компьютеров получаются превосходные и эффективные слуги, но у меня нет желания служить под их началом.

Мистер Спок, «Звездный путь»

Я помню, в какой именно момент я понял, что ненавижу свой телефон.

Это было в декабре 2018 года, за несколько дней до Рождества. Мы с женой и друзьями были в театре на Манхэттене на представлении всемирно известного Американского театра танца Элвина Эйли. Нам посчастливилось достать билеты на приличные места, и я несколько недель с нетерпением ожидал этого момента.

В середине первого отделения я ощутил жужжание у себя в кармане. Я его проигнорировал. Через пару минут телефон зажужжал снова. «Хм-м, — подумал я. — Может, пост, который я опубликовал сегодня в Instagram, взорвал весь интернет? Или это гневные письма от моего редактора?» Я попытался выкинуть всё это из головы и сосредоточиться на подпрыгивающих перед моими глазами танцорах. Но воображение уже разыгралось. «А что, если у нас в квартире пожар? Что, если я случайно запостил в Twitter что-то сомнительное и президент Трамп сейчас называет меня «фейконовостным болваном из New York Slimes[117]?»

Я понял, что не могу ждать, нужно выяснить это сейчас. Я беззвучно шепнул жене: «Я в уборную», — протиснулся мимо нее и дальше по проходу, бросился в туалет, закрылся в кабинке и выхватил из кармана телефон.

И не увидел ничего такого. Несколько несущественных писем, СМС от аптеки и пара комментариев в Instagram. Важных уведомлений не было, но я не кинулся обратно в зал. Я, так с себя ничего и не сняв, простоял в кабинке целых пятнадцать минут, проверяя Twitter и Facebook и наверстывая всё упущенное. Когда я опомнился и вышел из уборной, чтобы вернуться на свое место, я увидел толпу, текущую мне навстречу. Антракт. Я пропустил весь остаток отделения.

Стыд захлестнул меня волной, когда я осознал, что не просто не дал себе досмотреть захватывающее выступление, но и сделал это по самой идиотской причине. Имея возможность пережить нечто поистине незабываемое в окружении любимых людей, я вместо этого закрылся в туалетной кабинке и тыкал пальцем в экран, надеясь словить дешевый дофаминовый кайф. И сделал это почти на автомате, словно моим сознанием управляла невидимая сила, которой я не мог противостоять.

Когда я нашел свою жену, она спросила, где я был и всё ли со мной в порядке.

«Неотложное дело», — соврал я.

Первый смартфон появился у меня в 2006 году, на первом курсе колледжа. Это был BlackBerry Pearl, серый прямоугольный кирпичик с белым островком посередине клавиатуры. Я был на нём помешан и по нескольку часов в день писал электронные письма, играл в Brick Breaker и придумывал остроумные BBM — текстовые сообщения для мессенджера BlackBerry, которыми можно было обмениваться только с другими обладателями BlackBerry; они стали символом престижа среди фанатов новых технологий в кампусе.

В мире простых телефонов-раскладушек BlackBerry был суперсилой — Александрийской библиотекой в кармане, готовой в мгновение ока выдать любые факты, разрешить любой спор и позволить мне пообщаться с теми, кого я никогда не видел. Дело было даже не в классном новом гаджете, а в сверхинформированности о происходящем вокруг, которая порождалась неиссякаемой струйкой обновлений в режиме реального времени.

Я думал, что рано или поздно новинка начнет приедаться. Но этого не случилось. Я лишь погружался глубже. Когда в 2007 году выпустили первый iPhone, я встал за ним в очередь. Я завел аккаунт в Twitter и настроил RSS-агрегатор[118]. Я писал сообщения в групповые чаты и получал оповещения о новостях на главный экран. Телефон отнимал всё больше времени: сначала три-пять часов в день, потом шесть-семь. Ложась спать, я обычно клал аппарат в нескольких сантиметрах от головы.

До недавнего времени мне казалось, что я пользуюсь телефоном вполне осмысленно. Но год или два назад я перешел черту и попал на проблемную территорию. Социальные сети делали меня всё раздражительнее и злее. За все эти годы всплывающие уведомления и оповещения о последних новостях ослабили мою способность к концентрации, и мне стало трудно читать книги, смотреть полнометражные фильмы и вести долгие беседы с друзьями. Я чувствовал, что постепенно удаляюсь от реального мира, и офлайновая жизнь начала казаться мне зернистой картинкой в тонах сепии в сравнении с динамичной вселенной высокого разрешения, которую я носил в кармане.

Я несколько месяцев пытался избавиться от привычки к телефону: удалял с него Twitter и Facebook, переводил экран в режим оттенков серого, засовывал ярлыки приложений в труднодоступные папки. Но всё это не помогало. Экранное время увеличивалось, телефон продолжал вмешиваться в мою жизнь.

Как-то вечером я получил уведомление, что iPhone составил график моего экранного времени. Хочу ли я посмотреть свою статистику? Я отказался, но он всё равно мне ее сообщил. Среднее время в день, сказал он, — почти шесть часов. Максимальное общее время за день — восемь часов и двадцать восемь минут.

Я много лет считал, что гаджеты делают меня более информированным, дают новые возможности для общения и открывают новые грани моей индивидуальности. Но в конце концов я понял (сперва до меня это доходило постепенно, затем, в уборной во время представления театра Элвина Эйли, дошло разом), что я скорее не пользователь гаджетов, а их слуга. Я каждый день уделял внимание тому, что мой телефон считал важным, позволял его сигналам и жужжанью командовать моим распорядком и воспринимал его приоритеты как свои.

Когда-то телефон был моим надежным помощником. Но в какой-то момент получил повышение и превратился в сурового, взыскательного и поистине кошмарного начальника.

Может быть, у вас с телефоном нет таких серьезных проблем. Но готов поспорить: в последние несколько лет вы хотя бы раз ловили себя на том, что заглядываете в телефон чаще, чем хотелось бы, или пропускали что-то важное потому, что были слишком поглощены бездумным прокручиванием ленты в Facebook или Twitter.

Я пишу это не для того, чтобы вам стало стыдно, и не собираюсь ругать вас за пристрастие к телефону. Я только хочу подтолкнуть вас к анализу ваших взаимоотношений с гаджетами — роботами, с которыми мы, как ни крути, взаимодействуем больше всего.

Странно называть их роботами. Но наши телефоны, планшеты, ноутбуки, умные часы, персональные компьютеры и подключенная к интернету домашняя техника на самом деле служат проводниками для некоторых из наиболее продвинутых форм ИИ. Такие компании, как Facebook, Google и Twitter, создали изощренные алгоритмы машинного обучения планетарного масштаба, единственное назначение которых — обеспечивать вовлеченность, а иначе говоря, расстраивать работу лимбической системы мозга, отвлекать внимание от важного и побуждать нас как можно дольше кликать и листать.

Из-за этих технологий мы стали пользоваться гаджетами совершенно иначе и ради другого. Стив Джобс, как известно, назвал персональный компьютер велосипедом для сознания, и многие годы эта метафора была верна. Подобно велосипедам, компьютеры позволяют быстрее попадать в разные места и затрачивать меньше усилий на перемещение идей и объектов по миру. Но многие нынешние гаджеты (и приложения, которые мы на них устанавливаем) сделаны так, что работают не как велосипед, а как несущийся на всех парах поезд. Они заманивают нас в вагон, соблазняя возможностью получить вознаграждение: новое электронное письмо, лайк в Facebook, смешное видео в TikTok. Но стоит нам забраться внутрь, как они устремляются к пункту назначения, который выбрали сами, и неважно, совпадает он с нашим изначальным намерением или нет.

То, что эти силы по большей части скрыты от глаз, отнюдь не делает их менее реальными. Алгоритмы, поддерживающие платформы вроде Facebook и YouTube, во много раз мощнее не только технологии, благодаря которой люди высадились на Луну, но и технологии, позволившей расшифровать геном человека. Для их появления потребовались миллиарды вложенных в исследования и инвестированных долларов, эксабайты[119] персональных данных и познания тысяч докторов философии из ведущих университетов мира. Эти формы ИИ воплощают в себе сверхинтеллект будущего, который мы детьми видели в кино, и каждый день глядят на нас со всех экранов, наблюдают за нами, изменяют наши предпочтения, вычисляют, какая последовательность стимулов заставит нас посмотреть еще один видеоролик, опубликовать еще один пост, кликнуть еще на один рекламный баннер.

Уже не одну сотню лет люди обеспокоены разрушительным психологическим воздействием машин. Адам Смит в «Исследовании о природе и причинах богатства народов» писал, что автоматизированное фабричное оборудование делает человека таким тупым и невежественным, каким только может стать человеческое существо[120]. А в последние годы на тревоге по поводу негативного влияния смартфонов можно даже неплохо заработать. У нас теперь есть пансионаты с программами «экранного детокса» для взрослых, консультанты по управлению экранным временем для детей и группы «цифрового шаббата», чьих участников призывают полностью отключаться от интернета на один день в неделю. Мы даже придумали новые телефоны для решения проблем, связанных со старыми, например Light Phone, «глупый телефон» за 250 долларов, с черно-белым экраном, только для звонков и обмена текстовыми сообщениями.

Повторяю: в том, что касается экранного времени, я не фундаменталист, и я не собираюсь внушать вам, что вы слишком привязаны к своему телефону. (Хотя вполне возможно, что это и так.) Я хочу, чтобы вы сделали то, что мне следовало сделать несколько лет назад: объективно и критически оценить свои взаимоотношения с гаджетами и спросить у себя: «Кто на самом деле здесь командует?»

Ответить на этот вопрос очень важно, и вот почему.

Во-первых, чтобы заниматься истинно человеческой работой, что будет нам необходимо в предстоящие годы, брать на себя социальные, неожиданные и исключительные задачи и этим отличаться от машин, нам нужно управлять своим телом и сознанием и уметь контролировать и направлять свое внимание.

Во-вторых, мы должны понять, что, уступая контроль гаджетам, мы наносим вред своим взаимоотношениям с другими людьми. Психолог Шерри Тёркл подробно исследовала явление фаббинга (phubbing, непривычный для слуха, но полезный неологизм, образован от словосочетания phone snubbing[121], описывающего ситуацию, когда человек пренебрегает общением с окружающими, поскольку поглощен телефоном)[122]. И она пишет, что фаббинг — фактически «бегство от разговора, во всяком случае, открытого и спонтанного, того, в котором мы играем с идеями, в котором присутствуем полностью и открываемся, делая себя уязвимыми».

Как показывают исследования, при фаббинге (и даже когда мы просто держим телефон под рукой, разговаривая с другими) труднее получать удовольствие от общения. Авторы исследования, проведенного Университетом Британской Колумбии, понаблюдали за поведением 300 с лишним человек, обедавших в ресторане с друзьями или родными[123]. Половину участников эксперимента попросили положить телефоны на стол и оставить включенными сигналы вызова или функцию виброзвонка. Другой половине предложили отключить звук телефонов и положить их в контейнер. После еды участников попросили ответить на вопросы о том, как они себя чувствовали. Участники, оставившие телефоны на столе, получили меньше удовольствия от еды, им было скучнее, и они больше отвлекались по сравнению с теми, кто положил телефоны в контейнер.

Все данные говорят о том, что важно, как мы пользуемся гаджетами, а не только насколько часто берем их в руки. Результаты исследований указывают, что некоторые режимы пользования лучше для психологического здоровья. Доказано, например, что пассивное использование Facebook (прокручивание ленты, просмотр видео, бездумное чтение новостей) усиливает беспокойство и отнимает радость, а активное (обновление статуса, чаты с друзьями) оказывает более благоприятное воздействие[124].

И это подводит меня к третьему основанию для противодействия гаджетам: позволяя смартфонам и другим устройствам руководить нашей жизнью, мы упускаем множество удивительных, очеловечивающих возможностей, которые они могут нам предоставить.

Я ясно это понял в начале пандемии COVID-19, когда главной формой общения для меня стала разнообразная деятельность на экранах. Я посещал душевные посиделки и ночные игровые встречи в Zoom, подолгу болтал по FaceTime с родственниками с другого конца страны и пачками отправлял групповые сообщения самым близким друзьям.

Все эти приятные впечатления объединяло то, что к ним были причастны другие люди и, хотя они стали возможны благодаря технологиям, я сам выбирал их, контролировал их и определял условия своего участия. Я общался с людьми не потому, что меня завлекали умные фишечки приложений и незримые силы алгоритмов. И хотя компании, чьи инструменты обеспечивали это взаимодействие, могли на этом хорошо заработать, они в обмен на мое внимание и мои данные давали мне то, что имеет реальную человеческую ценность.

Другими словами, именно от того, командуем ли мы процессом сами или кто-то другой (или что-то другое), обычно зависит, развиваются ли наши человеческие качества при пользовании гаджетами или разрушаются.

* * *

По пути домой с представления театра Элвина Эйли я вспомнил о женщине, которая за несколько месяцев до того написала мне по электронной почте. Ее звали Кэтрин Прайс[125]. Она научный журналист и написала книгу «Оторвись от телефона!»[126], в которой изложила составленную ею самой тридцатидневную программу, помогающую людям вроде меня преодолеть зависимость от телефона и построить более здоровые отношения со своими гаджетами.

Добравшись до дома, я отправил ей письмо, умоляя мне помочь. К счастью, она согласилась.

Прежде чем приступить к телефонной детоксикации, Кэтрин постаралась выяснить, почему я хочу изменить свои привычки. Она попросила меня заполнить вводную анкету, включавшую, например, такие вопросы.

Почему вы хотите «порвать» со своим телефоном? Что вы надеетесь вынести из этого опыта?

Что вам нравится в вашем телефоне / что вы хотите продолжать делать?

Что вам не нравится в вашем телефоне / на что вы хотите тратить меньше времени?

Отвечая, я излил душу. Я рассказал Кэтрин о своем беспокойстве по поводу машинного дрейфа и об опасении, что становлюсь более заурядным и предсказуемым из-за пользования устройствами. Я признался, что начал утрачивать интерес к общению, не приносящему мгновенной дофаминовой отдачи, какую я получаю от свары в Twitter или пререканий в Facebook, а разговоры с друзьями и любимыми людьми — замечательными и добрыми, чьи ценности я разделяю и чьи мнения ценю, — стали приносить мне меньше удовольствия, чем поддержка незнакомцев в Сети. Я сказал, что не хочу совсем отказываться от гаджетов, они нужны мне для работы, но желаю добиться, чтобы они больше не занимали центрального положения в моей жизни, хотя бы отчасти вернуть себе силу воли и самоконтроль. И я показал Кэтрин свою статистику пользования телефоном, из которой следовало, что в день я обычно трачу на него от 5 до 6 часов и беру его в руки от 100 до 150 раз.

«Это безумие, и мне от этого хочется удавиться», — написал я.

«Признаюсь, эти цифры слегка шокируют», — ответила она.

Прежде всего Кэтрин посоветовала мне надеть на телефон аптечную резинку.

По ее словам, резинка имеет двоякое назначение. Во-первых, это крошечная физическая преграда для моих пальцев. Она не оттолкнет меня от телефона — я всё равно смогу выкладывать твиты и писать сообщения сколько душе угодно, но создаст небольшую помеху. Во-вторых, резинка будет постоянно напоминать мне об осознанности. Каждый раз, как она попадется мне на глаза, я буду замечать, что тянусь к телефону, смогу остановиться и спросить себя, действительно ли мне нужно в него заглянуть или я просто убиваю время.

Цель плана телефонной детоксикации, объяснила Кэтрин, не в том, чтобы оторвать меня от телефона совсем. Он направлен на выявление коренных причин моей телефонной зависимости, в том числе эмоциональных раздражителей (в моем случае главным образом скуки и беспокойства), заставляющих меня тянуться к аппарату. Выявляя их, я смогу обходиться со своими побуждениями как-нибудь иначе.

Конечная цель, сказала она, не полный отказ. А осознанность.

«Жизнь — вот на что должно быть направлено ваше внимание, — сказала она мне. — Если вы хотите тратить ее на видеоигры или Twitter, это ваше право. Но это должен быть сознательный выбор».

Надев на телефон резинку, я начал замечать, что у меня выработалось множество странных ритуалов, которые я безотчетно исполняю. Я понял, что тянусь к телефону каждый раз, когда на работе вхожу в лифт, открываю дверь в свою квартиру и — совсем уже дикость — каждый раз, когда вставляю кредитную карту в кардридер в магазине, чтобы заполнить трехсекундную паузу до прохождения платежа.

Я также понял, насколько стал зависимым от телефона как источника постоянной стимуляции. Я привык ходить в наушниках AirPods, слушая музыку и разговаривая с кем-нибудь по телефону. Я смотрел видеоролики на YouTube, складывая постиранное белье, и передачи на Netflix, готовя ужин. Я даже надевал водонепроницаемые наушники, когда принимал душ, чтобы слушать подкасты, намыливая голову.

Обо всём этом я рассказал Кэтрин. Она рассмеялась и сказала, что я верно поставил себе диагноз.

«Да дело не в телефоне, — сказала она. — Это просто служба доставки лекарств. Есть более серьезная проблема: как оставаться наедине со своим сознанием».

Психологи называют эту проблему неприятием праздности. Исследования показывают, что многие, оставаясь наедине со своими мыслями, испытывают крайний дискомфорт и, как правило, предпочитают боль тихому уединению[127]. В эксперименте, поставленном Виргинским университетом, студентов колледжа просили посидеть в одиночестве в пустой комнате в течение десяти — двадцати минут и подумать. К ним прикрепляли электроды, и при желании они могли нажать на кнопку и тем самым нанести себе болезненный удар электрическим током. (Участников не заставляли бить себя током, а если бы они это всё-таки сделали, испытание не завершилось бы раньше; для них это была просто возможность себя развлечь.)

Изучив результаты, исследователи выяснили, что 71% мужчин, участвовавших в эксперименте, и 26% женщин хотя бы раз нанесли себе удар током. Большинство участников, поставленных перед выбором: посидеть спокойно или ощутить удар током, — выбрали второе.

«Неподготовленный ум, — заключили исследователи, — не любит оставаться наедине с собой».

Я понял, что если хочу обуздать телефонную зависимость, то должен справиться с неприятием праздности. И я стал учиться ничего не делать. Шагая на работу, я разглядывал здания вокруг, а телефон покоился в моем кармане. В метро я разглядывал людей, вместо того чтобы слушать подкаст или набирать электронные письма. Когда один мой друг опаздывал на обед, я сидел спокойно и смотрел в окно.

Я рассказал Кэтрин, как мне это тяжело и как часто меня подмывает потянуться к телефону в поисках стимулов. Она сказала, что это естественно, и напомнила, что цель программы детоксикации — не только меньше пользоваться телефоном, но и заново открыть для себя в реальном мире то, что раньше меня восхищало и придавало сил.

«Представляйте себе картину в целом: что вы получаете, не зависая всё время в Twitter», — предложила она.

Кое-что меня встревожило, и я тоже рассказал об этом Кэтрин: поскольку я теперь не утыкался в телефон каждый раз, когда у меня выдавалось свободное время, я стал замечать, как много других людей при помощи телефона справляются с неприятием праздности. Куда бы я ни посмотрел, я видел море склоненных над мерцающими экранами голов; неудивительно, что это меня пугало.

Кэтрин сказала, что все ее клиенты испытывают нечто подобное.

«Это как увидеть своего родственника голым, — пояснила она. — Стоит один раз оглядеться в лифте и увидеть всех этих зомби, уткнувшихся в телефоны, как ты уже не можешь выкинуть это из головы».

Походив несколько дней с резинкой на телефоне, я начал выполнять другие рекомендации Кэтрин. На ночь я стал убирать телефон из спальни, чтобы он не мешал мне отдыхать. Я навел порядок в приложениях: удалил отвлекающие, попусту отнимавшие у меня время, а на главный экран перенес более смирные и полезные, — и отключил все всплывающие уведомления, кроме самых необходимых.

Потом я начал восстанавливать свою способность к концентрации, принялся читать книги: включал таймер и сидел с книгой сначала десять минут без перерыва, затем двадцать, затем целый час. Я каждый день гулял без телефона и выбрал себе хобби: приготовление пищи, гончарное дело, — которые занимали мои руки и отвлекали мысли от происходящего в Twitter.

Наконец я начал привыкать к отсутствию постоянной стимуляции и заметил, что происходит нечто странное. Реальный мир теперь казался ярче и живее. На прогулках без телефона я замечал мелкие детали, на которые прежде не обращал внимания: вывеску с орфографической ошибкой, chicken parmesean[128], на итальянском ресторане на моей улице, величавый клен на углу. У меня наладились сон и настроение, и я впервые за много лет начал иногда ловить себя на том, что замечтался.

Последним пунктом в плане Кэтрин значится «пробное расставание»: она предлагает совсем не пользоваться телефоном в течение двадцати четырех часов. (Я люблю перевыполнять планы, поэтому поставил себе цель сорок восемь часов.) Я забронировал через Airbnb домик на ферме в паре часов езды от нас, настроил автоответчик, чтобы он сообщал, что я в отъезде, и на выходные мы с женой отправились отдыхать без удобств.

Мини-отпуск без телефона не обошелся без затруднений. Без Google Maps мы заблудились, пришлось останавливаться и спрашивать дорогу. Без Yelp оказалось трудно найти работающие рестораны. Но в целом это были удивительные два дня, полные маленьких тихих радостей, какими я не наслаждался уже много лет. Я просыпался на рассвете, варил себе крепкий кофе и подолгу гулял. Мы читали книги, разгадывали кроссворды и засыпали под потрескивание огня в камине. Я чувствовал себя самодостаточным хуторянином XIX века, если только хуторянин может периодически переживать, что пропустил хорошие посты в TikTok.

Тридцатидневный план телефонной детоксикации, составленный Кэтрин, помог мне сократить экранное время. В день я в среднем теперь пользовался телефоном не шесть часов, как раньше, а час с небольшим, и брал его в руки примерно двадцать раз, процентов на 80 реже, чем прежде.

Программа Кэтрин принесла и другие приятные результаты, которые труднее выразить численно.

Во-первых, ослабив зависимость от гаджетов, я начал больше ценить технологии, которые меня окружают. Много лет я воспринимал телефоны и ноутбуки как обузу, бремя, которое я должен нести за то, что живу в современном мире. Но после месяца мнимой разлуки с ними я стал смотреть на них с удивлением и восхищением, как тогда, когда стал обладателем BlackBerry. Я приходил в восторг от того, что могу, несколько раз стукнув и проведя по экрану пальцем, добыть любую когда-либо записанную информацию и поговорить почти с любым человеком в мире. Обмен текстовыми сообщениями и электронными письмами стал меньше походить на скучные профилактические работы и больше — на приятное общение. А интернет начал напоминать более раннюю и полезную версию самого себя.

Во-вторых, у меня очень выросла продуктивность в буквальном смысле слова: я стал выдавать больше новых идей, больше вдохновенных вариантов решения задач, больше вкладывать в общение с людьми. Когда я направил всю познавательную и творческую энергию, тратившуюся на присутствие в цифровом пространстве, в другое русло, то обнаружил, что в моей голове зарождаются всевозможные проекты, которые мне хочется осуществлять (так я, например, написал заявку на эту книгу). И, поскольку я больше не пребывал весь день в возбуждении от адреналина и кортизола, которыми раньше меня накачивал телефон, у меня появились силы на их осуществление. Кроме того, повысилась эмоциональная восприимчивость, мне легче стало улавливать настроения людей, замечать едва уловимые невербальные подсказки, которые я бы пропустил, если бы был занят Twitter.

Третьим немаловажным результатом снижения гаджетозависимости (и такого я, между прочим, ожидал меньше всего) стало его воздействие на окружающих. Проходя курс телефонной детоксикации, я старался не привлекать к этому особого внимания (больше всего меня раздражают люди, выставляющие напоказ свои новомодные оздоровительные практики), но телефон с резинкой неизменно вызывал интерес всюду: в офисе, кафе, самолете. Так и получилось, что я рассказал о программе Кэтрин десяткам незнакомых людей (и, возможно, поспособствовал продаже пары сотен ее книг). Кроме того, я заметил, что моя улучшившаяся способность к концентрации действует на других: они тоже становятся внимательнее к происходящему вокруг. На рабочих совещаниях коллеги замечали, что я сижу спокойно и внимательно слушаю, и убирали свои телефоны. В парке другие собачники видели, с каким удовольствием я наблюдаю, как моя собака носится по лужайке, поднимали глаза и начинали внимательнее следить за своими питомцами.

Дженни Оделл, автор книги «Как ничего не делать» (How to Do Nothing), рассказывает, как преодолела неприятие праздности, всерьез увлекшись наблюдением за птицами[129]. И когда она начала замечать больше птиц в воздухе вокруг себя, она увидела, что многие ее друзья тоже стали обращать внимание на пернатых.

«Я узнала о внимании кое-что интересное: некоторые его формы заразны, — пишет она. — Когда проводишь довольно много времени с человеком, уделяющим чему-то пристальное внимание (если бы вы оказались рядом со мной, это были бы птицы), то неизбежно начинаешь обращать внимание на это же, хотя бы отчасти».

Я не хочу сказать, что, сократив гаджетозависимость, вы избавитесь от всех житейских неприятностей или превратитесь в просветленного гуру, который странствует по земле, раздавая аптечные резинки и предупреждая об опасности пристрастия к телефонам. Но в моем случае восстановление способности к концентрации и оздоровление отношений с устройствами принесли реальные, ощутимые плоды. И теперь, вспоминая о тридцатидневном курсе детоксикации, я понимаю, что он стал предпосылкой для всех других мер, которые я принял, готовя себя к будущему.

Смартфоны и социальные сети приносят реальную пользу, и всё же в основе своей — это инструменты добычи, использующие нашу тягу к познанию, чтобы заставить нас открывать больше постов, проглядывать больше видеороликов и просматривать больше адресных рекламных баннеров. Всё это они делают при помощи ИИ, позволяющего им точнее предсказывать наши предпочтения, направлять внимание и активизировать центры удовольствия в нашем мозге с помощью броских, будоражащих бонусов. Постоянно подсовывая нам новые стимулы, они не позволяют нам скучать, давать своим мыслям свободу, скрещивать одни идеи с другими и увлекаться фантазиями, — а ведь это ключевые человеческие переживания, без которых мы были бы всё равно что роботы.

Через несколько недель я опубликовал в The New York Times колонку о своем опыте телефонной детоксикации и понял, насколько мой случай не уникален. Мой рассказ прочли миллионы людей, и по откликам он на порядок превзошел всё, что я написал до тех пор. Нас с Кэтрин пригласили на телешоу Today, чтобы мы научили отрываться от телефонов телеведущую Кэти Ли Гиффорд и журналистку Ходу Котб, и я получил сотни электронных писем и комментариев от читателей с рассказами об их телефонной зависимости.

Один из читателей писал: «Спасибо за вашу последнюю статью. Читая ее, я понял, что тоже пристрастился к мобильному телефону. Бог ты мой, я проверяю его прямо перед тем, как открыть дверь и выйти из дома, потом пять секунд спустя, когда спущусь по лестнице и закрою за собой переднюю дверь, потом в те шесть секунд, что иду до машины, и затем — как только сяду в машину. Можно только гадать, сколько раз я заглядываю в него в течение дня».

Другой писал: «Я читаю лекции детям и взрослым в Ирландии о безопасности в интернете. Все хотят услышать от меня, какие программы установить для отслеживания поведения детей в Сети, но главная проблема, как вы и сказали, не в том, чем они занимаются онлайн, а в том, что они не делали офлайн. Неспособность читать длинные книги / смотреть фильмы / сосредоточиваться НА ЧЕМ УГОДНО больше 30 секунд — вот что очень меня беспокоит, и мне кажется, больше родителей должно быть озабочено и этой проблемой».

Но лучший отклик, с которым не может сравниться ни один другой, я получил от жены. Она годами наблюдала, как мое пристрастие к телефону переходит все границы, и не без сожаления принимала эту особенность моей гнусной личности. Но, когда я приступил к детоксикации, она начала замечать перемены в моем поведении. Мы стали ходить в кино, вместе посещать уроки гончарного ремесла и вести долгие, содержательные разговоры. Я теперь задавал больше вопросов, был внимательнее и смеялся больше обычного.

Однажды вечером, когда мы, сидя на диване, смотрели вместе телевизор, она огляделась, ища глазами мой телефон, словно ожидала, что я схвачусь за него, пока в передаче наступила пауза.

Я сказал, что убрал телефон на ночь, и жена улыбнулась.

«У меня такое чувство, будто ты ко мне вернулся», — сказала она.

Правило 4. Оставляй рукотворные отпечатки

Люди не предназначены для того, чтобы выполнять работу с точностью инструментов, делать всё четко и идеально. Если вы будете добиваться от них такой четкости и настаивать, чтобы они пальцами отмеряли углы подобно зубчатому колесу и руками чертили кривые подобно циркулю, вы лишите их всего человеческого.

Джон Рёскин, английский писатель и художник

У Мицуру Каваи были все основания для паники[130].

Шел 1966 год; восемнадцатилетний Каваи был младшим сотрудником завода Toyota в японской префектуре Айти. Последние три года он провел в Академии технических навыков Toyota, обучался ремеслу у Ками-сама (в переводе «божество») — так в Toyota называли мастеров, которые могли вручную изготовить любую деталь машины. Каваи хотел и сам когда-нибудь стать как Ками-сама и нашел себе работу в кузнечном цехе завода, где ежедневно тренировался: вытаскивал из горна раскаленные прутья, клал их на наковальню и, аккуратно орудуя молотком, превращал в детали коленчатого вала.

В сфере автомобильного производства был занят средний класс, работа считалась солидной, но постепенно складывалось впечатление, что этим рабочим местам грозит опасность. За несколько лет до того General Motors, в то время крупнейший мировой автопроизводитель, ввел в эксплуатацию первого в мире промышленного робота — четырехтысячефунтовую однорукую громадину под названием «Юнимейт». Он произвел сенсацию в мире поп-культуры и даже снялся в Tonight Show с Джонни Карсоном[131], ошеломив зрителей демонстрацией разнообразных трюков, на выполнение которых был запрограммирован: положил мяч для гольфа, куда ему велели, налил себе пива в стакан и подирижировал оркестром Tonight Show. Он привлек к себе внимание директоров автомобильных компаний со всего мира, в том числе руководства Toyota, увидевшего, что с его помощью можно увеличить объемы производства и снизить его стоимость. (То, чего этот робот не умел, по-видимому, тоже подкупало директоров: в одном рекламном телеролике хвастливо утверждалось, что «он никогда не жалуется, не просит о повышении и не требует прибавки к зарплате».)

С появлением таких новых мощных роботов перед Каваи и его товарищами по цеху Toyota встал нелегкий выбор. Многие специалисты и профсоюзные лидеры пророчили безрадостное будущее работникам автозаводов и в целом рабочим всех мастей. В 1961 году журнал Time предсказал увеличение числа безработных из-за автоматизации[132]. В другой статье ее назвали «призраком, пугающим любого рабочего на любом заводе»[133].

Но Каваи призраков не боялся и не стал ни паниковать, ни подыскивать себе место в какой-нибудь другой отрасли, которой меньше грозила автоматизация. Вместо этого, как следует из его биографического очерка в Japan Times, он решил совершенствоваться в том, что по-японски называется моноцукури (и переводится как «делание», хотя ближайший эквивалент этого слова, вероятно, «мастерство»). В Toyota моноцукури называют любой высококвалифицированный специализированный труд на производстве автомобилей. Каваи надеялся, что, повысив свое мастерство насколько возможно, он всё равно сможет приносить пользу, пусть даже роботы научатся выполнять его нынешние обязанности.

За несколько лет Каваи развил у себя безошибочное внутреннее чутье в том, что касалось едва уловимых нюансов автопроизводства. Он мог взглянуть на сбоившую машину и только по звуку и испускаемому запаху определить, что с ней не так. Мог точно угадать температуру расплавленного чугуна по оттенку красного. И особенно хорошо ему удавалось разглядеть, в чём люди превосходят роботов. Однажды он, например, заметил изъян на ходовой части одного из автомобилей Toyota, возникший из-за технических ограничений робота, который сваривал друг с другом крупные металлические детали. Каваи знал, что опытный сварщик-человек сработал бы чище. И убедил руководство вернуть эту операцию в ведение людей, благодаря чему ходовая часть машины стала прочнее, а покупатели — довольнее.

Во времена, когда многие рабочие автозаводов либо старались превзойти своих соперников-роботов, либо открыто восставали против них, Каваи с его одержимостью моноцукури оказался исключением из правила. Он был не то чтобы против автоматизации, но считал, что производственные роботы бесполезны без квалифицированных специалистов, наставляющих их, работающих с ними бок о бок и подмечающих их ошибки до того, как они размножатся и обернутся дорогостоящим провалом.

«Мы не можем просто положиться на машины, выполняющие снова и снова одну и ту же операцию, — сказал он одному журналисту. — Чтобы быть хозяином машины, нужно обладать знаниями и навыками, позволяющими ее обучать».

В конце XX века и в начале XXI, по мере того как заводы Toyota всё больше автоматизировались, решение Каваи сосредоточиться на своих человеческих умениях по-прежнему себя оправдывало. Он снова и снова получал повышение, и его философия моноцукури стала, можно сказать, лозунгом сотрудников Toyota, которые гордились своей работой и не хотели сами превращаться в роботов-манипуляторов. К тому же высококвалифицированные мастера часто производят более качественные автомобили и оставляют меньше отходов, и под руководством Каваи Toyota в последние годы переломила тенденцию: сняла автоматы со многих своих конвейеров и перевела операции, раньше выполнявшиеся роботами, в ведение людей.

Сегодня Каваи в Toyota — живая легенда[134]. Рабочие называют его Оядзи, отцом. Он единственный работник за восьмидесятилетнюю историю компании, который прошел весь путь от обучения в академии Toyota до руководящего поста, и один из немногих руководителей без высшего образования. В 2020 году Toyota впервые назначила главного специалиста по моноцукури — Каваи. В этом звании отразилась его преданность рабочим Toyota на протяжении десятков лет и непреклонная вера в то, что даже в эпоху передовой робототехники их человеческие качества имеют решающее значение.

Ситуация, в которой оказался Мицуру Каваи в 1966 году, когда был восемнадцатилетним рабочим автозавода, мало чем отличается от той, с которой столкнулись сегодня миллионы образованных работников умственного труда. По понятным причинам мы беспокоимся, что роботы вот-вот отнимут у нас работу и мы станем никому не нужными. И ищем то, что надолго обеспечит нам преимущество.

Один из выходов — конечно, стараться выделиться своим упорным трудом. В последние годы, с расцветом «культуры спешки», эта стратегия становится всё популярнее. Повсюду в соцсетях авторитетные люди и бизнес-гуру распространяются о ценности продуктивности и непрекращающихся, неустанных усилий. Они публикуют для торопыжек вдохновляющие мемы в Twitter, LinkedIn и Instagram с такими слоганами, как «Вставай и вкалывай» или «Слава богу, сегодня понедельник». Они обмениваются лайфхаками и избавляют себя от излишних мыслительных усилий, надевая каждый день одну и ту же одежду и съедая одно и то же в каждый прием пищи.

Культура спешки имеет длинную историю. В конце XVIII и начале XIX века бывший сталелитейщик Фредерик Уинслоу Тейлор предложил идею «научного менеджмента», захватившую американские деловые круги[135]. Он считал, что большинство работ можно разбить на стандартные задачи умеренного объема и процесс выполнения этих задач можно со временем отточить до совершенства, избавившись от любых проявлений неэффективности и добившись, чтобы каждая тысячная доля секунды тратилась с толком. И, главное, он считал, что от повышения производительности выиграют все: компании увеличат выпуск продуктов, а работники будут получать удовольствие от максимально эффективного труда.

Сегодняшним Фредериком Уинслоу Тейлором, вероятно, можно назвать Гари Вайнерчука — гуру маркетинга и влиятельного блогера, сделавшего блестящую карьеру на призывах к миллионам своих последователей поторапливаться изо всех сил[136]. («Вы должны работать каждую чертову свободную минуту, когда только можете», — сказал Вайнерчук в 2018 году в видеоролике на YouTube.) Но у Вайнерчука хватает конкурентов. Илон Маск, основатель Tesla и SpaceX, как известно, доводит себя работой до истощения и на ответственных этапах производства даже спит на полу на заводе Tesla[137]. («Никому никогда не удавалось изменить мир, работая по 40 часов в неделю», — написал однажды Маск в своем твите.) Марисса Майер, бывший CEO Yahoo, в 2016 году похвасталась в интервью, как она вкалывает на работе, и сказала, что трудиться по 130 часов в неделю технически возможно, «если стратегически распланировать, когда спать, когда принимать душ и сколько раз ходить в туалет»[138].

В отличие от тейлоровской системы научного менеджмента, которая часто внедрялась в принудительном порядке сверху вниз, к культуре спешки обычно приобщаются добровольно. Это порождение подхода к жизни, который писатель Дерек Томпсон окрестил «воркизмом», — убеждения, особенно характерного для миллениалов типа А[139], склонных перевыполнять все планы, что работа — не только экономическая необходимость, но и главное средство самоутверждения, и она-то в целом и придает жизни смысл[140].

Есть много оснований для того, чтобы отвергнуть культуру спешки. Она несет реальную угрозу физическому и психическому здоровью работников. Она наиболее благоприятствует молодым, бездетным, крепким мужчинам, у которых меньше семейных обязанностей и больше возможностей работать невероятно много и сверхурочно. И она служит подспорьем для бесчеловечных, регрессивных капиталистических настроений, способных свести на нет все усилия по созданию беспристрастной и гуманной рабочей атмосферы.

Но обратите внимание на более актуальный недостаток культуры спешки: в эпоху ИИ и автоматизации торопливость не приводит к желаемому результату. Как бы усердно вы ни трудились, вы не сможете обогнать алгоритм. А если попытаетесь, то не только потерпите поражение, но и попутно пожертвуете своими уникальными человеческими преимуществами.

Идея о том, что мы можем перегнать машины, — не более чем соблазнительная иллюзия, ведущая свое происхождение от легенды о Джоне Генри[141] и паровом двигателе. Но многие из самых значимых современных технологий имеют такой большой охват и подкрепляются такими вычислительными мощностями, что соревноваться с ними напрямую в принципе невозможно. Ну как может «состязаться» библиотекарь с Google в поиске информации на миллиардах интернет-сайтов? Или биржевой маклер — с алгоритмом высокочастотного трейдинга, способным проанализировать миллионы транзакций в секунду? А главное, зачем это надо?

Вместо того чтобы стараться обезопасить себя с помощью всевозможных ухищрений, нужно поступить как Мицуру Каваи: отказаться состязаться с машиной на ее условиях и сосредоточиться на том, чтобы оставлять свой, истинно человеческий отпечаток на всём, что мы создаем. Неважно, какая у нас профессия и сколько часов в неделю мы работаем, мы можем практиковать свою версию моноцукури, зная, что выделиться нам позволит не каторжный труд, а то, насколько в конечном продукте будем видны мы сами.

Иначе говоря, нет работе на износ. И да рукотворным отпечаткам.

Несколько лет назад Ян Лекун, в то время руководивший в Facebook отделом исследований в области ИИ, высказал свои соображения о ценности рукотворных отпечатков[142].

Лекун — один из «отцов глубокого обучения», он принадлежит к горстке ученых, проложивших путь для использования глубоких нейросетей — технологии ИИ, на которой сейчас держится значительная часть потребительского интернета. Читая лекцию на конференции Массачусетского технологического института, он почти час рассуждал на всевозможные трудные для понимания технические темы: состязательное обучение, скалярное оценивание, многослойные сверточные нейронные сети.

Но ближе к концу выступления он неожиданно заговорил о том, как все эти технологии ИИ и машинного обучения будут влиять на рынок труда. Хотя сам Лекун — технический специалист, он сказал, что оказаться в выигрышном положении в экономике будущего больше всего шансов не у программистов и специалистов по обработке и анализу данных, а у художников и ремесленников.

Чтобы пояснить эту мысль, он вывел на экран слайд с двумя фотографиями: на одной — DVD-плеер стандарта Blu-Ray, продающийся на Amazon за 47 долларов, на другой — керамическая миска ручной работы стоимостью 750 долларов. По сложности конструкции, сказал он, эти две вещи сильно различаются. Плеер — хитроумное техническое устройство из сотен деталей, собираемое роботами на современнейшем заводе, а миска — простая вещь, изготовленная из глины на гончарном круге способом, который существует уже тысячи лет. И все-таки она стоит почти в двадцать раз дороже.

В этой миске «явно ощущается человеческое вмешательство, человеческий опыт», объяснил Лекун слушателям. И в будущем, добавил он, «мы станем больше ценить именно это и меньше — материальные блага, созданные роботами».

Похожие предсказания я слышал от некоторых ведущих специалистов по ИИ и экономистов. И несмотря на мое подчас скептическое отношение к экспертным прогнозам по таким вопросам, я готов в это поверить.

Почему? Хм, посмотрите вокруг. Мы завалены потребительскими товарами, которые когда-то считались символами престижа: плоскоэкранными телевизорами, посудомоечными машинами, гидромассажными ванными. В наши дни показатель роскоши — это насколько мало технологий вовлекается в процесс изготовления потребляемых вещей. Мебель ручной работы, одежда, сшитая на заказ, оригинальные картины на стенах сигнализируют о высоком статусе, и именно потому, что в них вложено много человеческого труда.

Социологи называют это явление «эвристикой усилий», и исследователи психологии потребителей довольно много написали на эту тему[143]. В своей книге «Могущество человека» (The Power of Human) Адам Вайц, психолог и профессор Келлогской школы менеджмента при Северо-Западном университете, приводит подробный список экспериментов, демонстрирующих, что люди, безусловно, предпочитают продукты и впечатления, за которыми явно стоит человеческий труд, пусть точно такие же вещи и впечатления можно получить благодаря одним машинам[144].

Например, в эксперименте под руководством Курта Грея, профессора психологии из Университета Северной Каролины, двум группам участников раздали одинаковые пакетики с конфетами[145]. Сладости раскладывали по упаковкам произвольно, но участникам одной группы сказали, будто для них конфеты подбирал специальный человек. Они оценили свои сладости как более вкусные по сравнению с теми, кому сообщили, что для них конфеты выбирались произвольно. В другом эксперименте Грея участников усаживали в электронные массажные кресла, и те из них, кому сказали, что кнопку включения нажимал человек, оценили свои ощущения как более приятные.

Эвристикой усилий во многом объясняется привлекательность крафтовых пивоварен, ресторанов из разряда «с грядки на стол» и ремесленнических магазинов на Etsy[146]. Становится понятно, почему по-прежнему популярны виниловые пластинки и печатные книги, несмотря на доступность потоковых музыкальных сервисов и электронных книг, и почему фешенебельные кафе до сих пор могут позволить себе брать 7 долларов за чашку капучино, хотя у многих из нас в домах и офисах есть кофемашины, умеющие варить вполне приличный кофе.

Также ясно, почему существует и обратная связь: когда мы прячем или сводим на нет вложенные во что-то человеческие усилия, это что-то часто обесценивается. Мой любимый пример — дни рождения на Facebook. Когда ты на заре существования сети получал поздравительные сообщения на день рождения, это было действительно особенное событие[147]. Это означало, что друзья о тебе помнят и ценят тебя, поскольку обратили внимание на твой день рождения, зашли на твою страницу и придумали, что приятного написать на твоей стене. Но постепенно Facebook пытался вовлекать в это всё больше пользователей, облегчая функцию поздравлений. Он позволил пользователям экспортировать даты рождения друзей в приложения-календари, стал размещать напоминания о днях рождения на видном месте в новостной ленте и даже ввел функцию автоматического заполнения типовых поздравлений, которые можно отправлять в один клик.

В результате фейсбучные поздравительные сообщения не только утратили свою ценность и сердечность, они стали чем-то прямо противоположным. Теперь ты понимаешь, что каждый, кто написал на твоей стене «С днем рождения!», сделал это просто потому, что так велело ему приложение, и не заботится о тебе настолько, чтобы отправить тебе по-настоящему личное сообщение. Позволив затрачивать меньше усилий на поздравления, Facebook превратил выражение заботы в легкое оскорбление.

Для подготовки к будущему очень важно усвоить и применять принцип человеческого отпечатка, который гласит, что чем заметнее наш труд, вложенный во что-то, тем большую ценность оно обретает.

Если начистоту, мы понимаем, что ИИ и автоматизация чрезвычайно облегчат многие процессы. Доставка посылок, прогнозирование объема продаж, поездки из пункта А в пункт Б — для выполнения этих задач и тысяч других сейчас требуется много человеческого труда, но чем дальше, тем меньше будет необходимость в нём, а может, она и вовсе сведется к нулю. И людям, сегодня получающим деньги за такой труд, придется проявлять изобретательность и придумывать, как подчеркнуть ценность своего вклада.

Здесь я осторожно замечу, что оставлять рукотворные отпечатки значит не просто представлять себя в выгодном свете или ставить себе в заслугу как можно больше труда. К культуре спешки рукотворные отпечатки также имеют мало отношения. Спешка показывает, насколько усердно мы работаем; отпечатки — насколько человечен наш труд.

Часто для того, чтобы оставить свой отпечаток, достаточно сделать невидимый труд видимым. Для этого дизайнер, например, может шаг за шагом провести клиента через весь творческий процесс, чтобы тот понял, сколько труда и знаний вложено в каждый набросок. А программист-разработчик способен простыми словами объяснить не сведущему в технических вопросах руководителю, чем именно он занимается.

Можно также вкладывать в свою работу дополнительные усилия, которые не строго необходимы, но высоко ценятся. Например, страховой агент может послать открытку с соболезнованиями клиенту, лишившемуся дома из-за пожара или попавшему в аварию. Работник магазина — лучше изучить своих постоянных покупателей и к их следующему приходу в магазин откладывать товары, которые могут прийтись им по душе.

Лично я оставляю рукотворный отпечаток так: приступая к очередному репортажному заданию, решаю, как мне отметить его своей личной печатью, чтобы он не был похож на типовую заметку, которую мог написать любой другой репортер или программа с использованием технологий ИИ. Я могу, например, сдобрить сухое техническое описание шутками или рассказать от первого лица о своем опыте, вместо того чтобы занять отстраненную позицию и вещать «из ниоткуда».

Кроме того, я придаю особое значение действенным маленьким жестам, человечность которых может произвести большое впечатление. Когда издатели рассылают на рецензирование экземпляры моей новой книги, я обязательно пишу каждому получателю записку от руки и благодарю его за то, что он потратил время на ее чтение. Когда у меня завершается крупный командный проект, я обычно посылаю коллегам домашнее печенье или маленькие подарки, чтобы поблагодарить их за помощь. Когда я пишу очередную ежегодную самохарактеристику, я стараюсь, чтобы в ней звучал мой голос и отражалась моя индивидуальность. Тогда руководство понимает: я живой человек, а не полированный автомат.

Во всём этом нет ничего нового или исключительного. Мне даже немного грустно оттого, что приходится специально напоминать себе: нужно вести себя по-человечески. Но это требует сознательных усилий, учитывая, сколько вокруг технологий, предназначенных для облегчения жизни. Я, как и многие, много лет впитывал перфекционистские идеи культуры спешки, учащей, что ключ к успеху — в оптимизации наших рабочих характеристик, словно человек — всё равно что спортивный автомобиль или скоростной катер. И мне постоянно приходится себе напоминать, что в эпоху технологий, избавляющих от необходимости в труде, самым значимым жестом часто становится безыскусный и небезупречный, но дающий понять: «Эй, я старался».

Руководителям компаний тоже придется подумать над стратегией рукотворных отпечатков.

В книге «Экономика впечатлений» профессора школы бизнеса Джозеф II Пайн и Джеймс Гилмор рассказывают, как некоторые компании движутся вверх по «цепочке экономической выгоды»[148]. Они начинают с продажи сырья, затем открывают продажу товаров, потом предоставляют услуги и в итоге переходят к режиссированию впечатлений.

«Компании, заключающие себя в сжимающийся мир продуктов, утратят значимость, — пишут авторы. — Чтобы избежать этой судьбы, нужно научиться режиссировать яркие, захватывающие впечатления».

Эту мысль авторы поясняют на примере кофе, который можно купить по низкой цене у оптового продавца, чуть дороже в супермаркете, за 4 доллара в Starbucks и за 10 долларов в фешенебельном кафе в Италии. В каждом из этих случаев деньги обмениваются на кофе. Но на самом деле покупатели платят за разное. Оптовому продавцу — за зерна. В супермаркете — за зерна и упаковку. В Starbucks — за зерна, упаковку и услуги. А в фешенебельном итальянском кафе — за зерна, упаковку, услуги и впечатления от чашечки кофе в Италии в окружении итальянцев, при том что кофе может подавать очаровательная бариста, умеющая увлекательно рассказывать о нюансах вкуса их фирменного caffè macchiato.

Из-за автоматизации не становятся ненужными ни оптовые продавцы, ни супермаркеты, ни Starbucks. Но такие виды бизнеса становятся уязвимыми, с ними легче конкурировать. Кроме того, в условиях автоматизации конкурентное преимущество приобретают компании, продающие впечатления, которые нельзя легко скопировать или воспроизвести при помощи запрограммированной машины.

Несколько лет назад это пришлось усвоить компании Best Buy[149], [150].

Как и другие сети гипермаркетов, Best Buy изо всех сил старалась не отставать от Amazon и других интернет-магазинов. Продажи дорогостоящих товаров вроде телевизоров падали, и многие продукты, раньше привлекавшие покупателей в магазины, например новые CD и DVD, выходили из употребления и становились никому не нужными. Те из покупателей, кто всё-таки добирался до магазина, всё чаще делали это ради шоуруминга — осмотра товара для того, чтобы позже зайти в интернет и купить его где-то еще по более низкой цене. Акции Best Buy резко подешевели, компания была вынуждена закрывать магазины и сокращать штат, и инвесторы почуяли конец.

Но в 2012 году в компанию пришел новый CEO, Юбер Жоли. Этот француз с мягким приятным акцентом раньше был консультантом по вопросам управления и понимал, что Best Buy может выжить, только оставив попытки конкурировать с Amazon на ее условиях и постаравшись превзойти ее в чём-то другом. Как рассказывал мне Жоли в интервью в 2017 году, он понял, что «если покупка технического устройства останется обыкновенной товарной операцией, у нас не будет ни малейшего шанса».

Вместе со своей командой Жоли разработал стратегию, направленную на превращение Best Buy в бизнес с индивидуальным подходом и прямым контактом с потребителями; это позволяло дарить покупателям глубоко человеческие впечатления, каких они никак не могли получить в прилизанном, сверхоптимизированном, напичканном роботами интернет-магазине. Компания затратила средства на дополнительное обучение продавцов и запустила программу «Надомный консультант», позволившую покупателям получать советы у специально обученных экспертов Best Buy, которые приезжали к ним домой и помогали выбрать телевизор с большим экраном для гостиной или решить, какая стереосистема будет лучше всего звучать во внутреннем дворике. Эта программа, запущенная в 2017 году, мгновенно стала очень популярной, и благодаря ей сформировалась группа постоянных покупателей, для которых Best Buy стал личным помощником по выбору техники, а не только гипермаркетом.

«Наш бизнес — не просто продажа продуктов; это установление связи между человеческими потребностями и технологическими решениями, — сказал мне Жоли. — Поэтому мы сосредоточиваемся на человеческих потребностях».

Человекоцентрированный подход Жоли возвратил Best Buy к жизни. Продажи взлетели, покупатели перестали заниматься только шоурумингом, и за пару лет стоимость акций компании достигла рекордно высокого уровня; довольны были и работники компании, и акционеры. Когда в 2019 году Жоли решил уйти с поста СЕО Best Buy, его провожали как героя.

Еще один, куда меньший по масштабу пример успешной стратегии рукотворных отпечатков, — знаменитая гончарная мастерская Heath Ceramics из калифорнийского Сосалито с семидесятилетней историей[151].

В 2003 году, когда Heath купили ее нынешние владельцы Кэтрин Бейли и Робин Петравич, в компании хватало проблем. В среде калифорнийских эстетов мастерская имела культовый статус, к числу ее клиентов принадлежали архитектор Фрэнк Ллойд Райт и основательница ресторана Chez Panisse Элис Уотерс, но это был семейный бизнес, который велся по старинке и нес убытки, ведь наступили времена, когда многим маленьким гончарным мастерским приходилось закрываться и на рынке стали доминировать дешевые керамические изделия, производившиеся массово на заокеанских фабриках.

Бейли с Петравичем поняли (и были совершенно правы), что не могут конкурировать с иностранными производителями ни в цене, ни в объеме производства. Но способны конкурировать с ними в человечности. И они приступили к реализации дерзкого плана, включавшего множество мер, которые не порекомендовал бы ни один обычный консультант по сокращению расходов. Они отвергли все инвестиционные предложения и отказались от перевода производства за границу. Основную часть производства они разместили в здании с более дорогой арендой в сан-францисском районе Мишн и стали устраивать экскурсии по мастерской, чтобы покупатели могли увидеть, как рождаются их миски, кружки и керамическая плитка. Они открыли Heath Clay Studio — своеобразную экспериментальную лабораторию, где мастера придумывают эксклюзивные варианты дизайна, и Heath Newsstand, где продаются тысячи редких журналов со всего мира. А рядом со своей сан-францисской мастерской основали Heath Collaborative — что-то вроде ярмарки ремесел, где ювелиры, мастера по текстилю и пекари могут открывать свои магазины.

Параллельно с «очеловечиванием» своих площадок Бейли и Петравич экспериментировали с очеловечивающими отпечатками на керамике Heath. Например, изделия начали помечать личными печатями, и теперь можно было точно определить, какой работник покрыл глазурью вот эту вазу. Всё это делалось для того, чтобы продемонстрировать работу мастеров и напомнить покупателям, что изделия создавались живыми людьми, а не машинами. И, видимо, эта стратегия работает. С 2003 года началось триумфальное возвращение Heath. Число сотрудников мастерской выросло до двухсот с лишним, годовой объем продаж поднялся до 30 миллионов, и в 2019 году мастерская впервые с 2003 года, когда она была продана, расплатилась с долгами.

Как и Юбер Жоли в Best Buy, Бейли с Петравичем были не самыми технически подкованными предпринимателями на планете. В их распоряжении не имелось ни передовых инструментов ИИ, ни армии высокооплачиваемых программистов и специалистов по логистике, которые добивались бы, чтобы каждая миллисекунда любого производственного процесса тратилась с толком. Но они правильно оценили расстановку сил и увидели, как могут выделиться на фоне остальных, подчеркнув, а не искоренив свою человечность. Они добились успеха, поскольку поняли то, что осознал Мицуру Каваи с завода Toyota почти за шестьдесят лет до них: когда главный конкурент — машины, человечность ценится больше скорости.

Правило 5. Не будь конечной точкой

Сейчас я чувствую, что мы им нужны, но они найдут способ от нас избавиться, если им подвернется что-то подешевле[152].

Верлиса Леонард, сотрудница кол-центра

8 мая 2018 года CEO Google Сундар Пичаи вышел на сцену на конференции и провел головокружительную презентацию последнего продукта, разработанного гугловским хваленым отделом исследований в сфере ИИ.

Это был интеллектуальный голосовой помощник Duplex, умеющий записывать на прием к врачу, бронировать столик в ресторане и выполнять другие поручения по телефону[153]. Чтобы продемонстрировать, как он работает, Пичаи включил запись недавнего разговора Duplex с администратором салона-парикмахерской.

— Добрый день, чем я могу вам помочь? — спросила администратор.

— Здравствуйте, — ответил Duplex, — я звоню, чтобы записать клиентку на женскую стрижку. Меня интересует третье мая.

— В какое время вам будет удобно? — спросила администратор.

— В 12 часов дня, — сказал Duplex.

— На 12 дня у нас всё занято. Ближайшее свободное время — час пятнадцать, — сказала администратор.

— Есть ли у вас что-нибудь между десятью утра и… э-э… двенадцатью дня? — спросил Duplex.

— Это зависит от того, что ей нужно, — ответила администратор. — Какая услуга ей требуется?

— Пока только женская стрижка, — сказал Duplex.

С этого момента разговор пошел в обычном русле. Duplex не запинался, не смущался и даже время от времени вставлял «гм» и «э-э» для пущего реализма. Женщина на другом конце провода ни разу не заподозрила, что разговаривает с ИИ.

Когда запись завершилась, зрители разразились аплодисментами. Я смотрел эту презентацию из дома, разинув рот. И когда посыпались комментарии от потрясенных и напуганных фанатов новых технологий, один конкретный твит привлек мое внимание. Его опубликовал бывший разработчик Google Крис Мессина. Вот что он написал.

Google Duplex — на данный момент самое невероятное и пугающее устройство ввода-вывода за 18-й год…[154] Пример использования: голосовой помощник Google звонит записаться в салон-парикмахерскую. Женщина, разговаривающая с ним, не подозревает, что ее собеседник — ИИ. Люди быстро превращаются в дорогостоящие конечные точки API.

У меня до сих пор не идет из головы этот твит Мессины, особенно последняя фраза: «Люди быстро превращаются в дорогостоящие конечные точки API».

В программировании конечные точки — специальные веб-адреса, позволяющие одним программам взаимодействовать с другими через API, или программный интерфейс приложения. Если нужно, например, перенести информацию из одного приложения в другое, допустим, Tinder хочет, чтобы его пользователи могли загружать в него фотографии из Instagram, то Tinder должен написать код, который обратится за разрешением к конечной точке инстаграмовского API, отвечающей за фотографии.

В переводе с языка программистов слова Мессины означают, что женщина-администратор на гугловской демонстрационной записи исполняла роль точки соединения двух программ: Duplex и календаря для записи клиентов в салон — и была нужна только потому, что эти две машины пока не умеют разговаривать друг с другом напрямую.

Этот твит меня сокрушил. Прочтя его, я не мог уже не замечать повсюду людей, превратившихся в конечные точки, тех, чья работа в основном заключалась в том, что они выполняли указания машины или служили мостиком между двумя или более несовместимыми друг с другом машинами.

Я видел, как охранник в офисном здании проверяет посетителей по системе безопасности и нажимает на кнопку, чтобы пропустить их через турникет, и думал: «Конечная точка».

Я приходил к врачу на диспансеризацию и видел, как медсестра записывает показания приборов в iPad, куда загружена моя электронная медицинская карта, и думал: «Конечная точка».

Я видел, как бариста Starbucks передает заказы курьеру Postmates[155]: человек, следуя инструкциям приложения, вручает товары другому человеку, выполняющему инструкции другого приложения, и думал: «Две конечные точки».

И, если быть до конца честным, время от времени я ловил себя на том, что пишу заметку о случившемся на одном сайте, публикую ее на другом и рекламирую на третьем, и думал: «Ага, да ведь и я что-то вроде конечной точки».

* * *

До сих пор мы говорили в основном о полностью автоматизированном труде — задачах, которые могут выполняться машинами от начала до конца. Но есть множество работ, которые можно автоматизировать частично, и о них тоже следует поговорить.

Такие работы делятся на две категории.

К первой принадлежат работы, выполняемые с помощью машин. Они по большей части направляются и контролируются людьми, а машины служат им помощниками. Пример работника, которому помогают машины, — агент по продаже недвижимости: он подбирает выставленные на продажу дома для клиентов при помощи специальных программ, составляющих списки, но показывает клиентам эти дома лично и проводит их через весь процесс продажи.

Работы, выполняемые с помощью машин, — те, которые обычно подразумевают ИИ-оптимисты, рассуждая о «человекоориентированной автоматизации» и подобных темах. Это работы, где машины дополняют, а не заменяют людей.

Ко второй категории относятся работы под началом машин. Они по большей части направляются и контролируются компьютерами, а люди исполняют роль связующих звеньев: делают только то, что машины пока не умеют делать самостоятельно. Показательные примеры работ под началом машин — фриланс на Uber, Lyft и Postmates, а также работы, выполняемые в Amazon сотрудниками складов, в Facebook и Twitter — модераторами контента, и вообще любые обязанности, сводящиеся в основном к исполнению инструкций машин.

Работы под началом машин — скорее не сотрудничество с системами ИИ, а служение им. Водитель Uber «сотрудничает» с алгоритмом подбора машины для клиента не больше, чем курсант — с инструктором строевой подготовки, отдающим ему приказы. В таких взаимоотношениях вся власть и рычаги воздействия оказываются у машин, а люди превращаются в инструменты из разряда «включай и работай», выполняющие приказы, и при желании их легко заменить.

Работы под началом машин и есть конечные точки, находиться в которых очень опасно. Ведь часто должность такого рода предназначена всего лишь для заполнения технологического пробела, где уже идет процесс автоматизации или обучения автоматической системы с тем, чтобы она выполняла эти задачи на уровне человека.

Крайне вероятно, что любая организация, где есть сотрудники, работающие под началом машин, надеется когда-нибудь передать эти обязанности им. А значит, таким сотрудникам, этим вездесущим конечным точкам, нужно быть начеку. Вот что пишет об этом журналист Мартин Форд в книге «Роботы наступают»: если вы стали работать совместно с интеллектуальной системой или под ее руководством, велика вероятность, что, независимо от того, знаете вы об этом или нет, вы одновременно обучаете эту систему ради того, чтобы она в итоге сумела вас заменить[156].

Многие должности, находящиеся в конечных точках, относятся к сферам, которые первыми приходят в голову при обсуждении этой темы, — к сферам услуг, розничной торговли, перевозок. Но сейчас они начали появляться и в более престижных отраслях, где занимаются умственным трудом: там ИИ превращает работы, выполняемые с помощью машин, в работы под их началом.

В статье «Почему врачи ненавидят компьютеры», которую напечатал журнал New Yorker в 2018 году, Атул Гаванде писал, что медицинские программы, за последние десять лет ставшие вездесущими в американских больницах, способствуют учащению случаев эмоционального выгорания и депрессии среди врачей, поскольку заваливают их обязанностями по ведению записей и отвлекают от общения с пациентами[157]. Гаванде вторит Эмили Силверман, врач из Сан-Франциско, написавшая в 2019 году в статье для The New York Times, что система электронных медицинских карт, установленная у нее в больнице, вымотала ее и других врачей. Они ощущают себя рабочими у станка[158]. «На нас постоянно сыплются сообщения о чём-то несделанном, просьбы исправить документацию для тех, кто выставляет счета, ежедневные недовольные напоминания», — писала Силверман.

Столкновение между врачами и медицинскими программами наглядно демонстрирует обратную сторону частичной автоматизации. Во многом электронные медицинские карты могут кардинально улучшить положение. При правильном использовании они повышают безопасность пациентов, сокращают расходы и снижают частоту врачебных ошибок[159]. Но получилось, что из-за них у некоторых медиков теперь такое чувство, будто их работа состоит исключительно из перемещения данных с одного экрана на другой (один исследователь назвал это чувство «технологическим сомнамбулизмом»). Раньше они работали, а машины им помогали. А теперь? Теперь они в этом уже не уверены.

Это чувство — опасение работников, что умные машины, вместо того чтобы им помогать, будут ими командовать, — совсем не ново. Очень показательна, например, история с совершенно новым высокоавтоматизированным заводом, который компания General Motors открыла в 1970 году в Лордстауне.

Провозглашенный в прессе «заводом будущего», лордстаунский завод поражал своей ультрасовременностью: в его цехе орудовала армия из двадцати шести роботов[160]. Руководство GM полагало, что рабочие будут счастливы проводить дни в этом футуристическом раю. Но людям всё это было ненавистно. Они нервничали из-за того, что руководство повысило производственные нормы, им казалось, что они сами превращаются в механизмы, и им было скучно дни напролет только нажимать на кнопки. Вот что рассказывает о заводских буднях один лордстаунский рабочий[161].

Ты делаешь это автоматически, как обезьяна или собака, у которой выработали условный рефлекс. Ты как будто застыл на месте: всё повторяется снова, и снова, и снова. Ты идешь на работу, и кажется, будто весь смысл жизни свелся к повторению одной и той же операции; приходишь домой усталый от многочасовой смены, от попыток не отстать от конвейера, и чувствуешь, что никуда не движешься. От этого обычный человек ощущает себя каким-то овощем.

К 1972 году рабочим лордстаунского завода всё это осточертело, и они решили устроить забастовку. Она привлекла внимание всей страны, и повсюду заговорили о «лордстаунском синдроме» — неудовлетворенности жизнью в связи с новым видом частичной автоматизации. Журнал Newsweek окрестил лордстаунскую забастовку «индустриальным Вудстоком», а газета The New York Times в 1972 году опубликовала редакционную статью, в которой призвала GM «заботиться о том, чтобы люди чувствовали себя значимыми на рабочих местах, где правят роботы».

Двадцатиоднодневная забастовка не прошла даром: GM уступила. Она снизила производственные нормы, дала рабочим больше времени на отдых и сформировала «группы гуманизации», которые должны были заниматься улучшением условий на лордстаунском заводе[162]. Президент GM Эдвард Коул публично признал, что компания совершила ошибку, подчинив рабочих машинам[163].

«Наш прогресс должен зависеть не от машин, а от людей», — сказал он.

* * *

О том, чтобы не превратиться в конечные точки, нужно особенно заботиться людям, работающим удаленно.

В черновом варианте этой книги, написанном до пандемии COVID-19, была целая глава, в которой доказывалось, что удаленная работа не так хороша, как принято считать. Я приводил результаты исследований, подтверждающие, что мы работаем лучше и человечнее всего, когда лично встречаемся с людьми, а не видим их изображение на экране. Чтобы быть готовыми к пронизанному искусственным интеллектом будущему, утверждал я, нам нужно в буквальном смысле работать вместе — в офисах и на рабочих площадках, где сотрудники натыкаются друг на друга, где вспыхивают дискуссии и с ходу выдвигаются творческие идеи. Но по понятным причинам эту главу я выкинул. (Я люблю иногда высказать сильное неоднозначное мнение, но советовать людям набиваться в офисы во время пандемии — это всё-таки слишком.)

Теперь уже ясно, что удаленка никуда не денется и у работников умственного труда виртуальное сотрудничество останется полноправной частью жизни. Опрос, проведенный в июле 2020 года компанией Gartner, показал, что 82% корпоративных руководителей планируют после пандемии разрешать сотрудникам работать удаленно хотя бы часть времени и почти половина опрошенных позволит подчиненным полностью переходить на удаленку[164].

Во время пандемии переход на удаленный режим, конечно, был правильным решением, и для тех, кто может работать дистанционно в свободном режиме, он и дальше будет оставаться удобным вариантом, позволяющим уехать из города, где жизнь очень дорогая. Но я по-прежнему считаю — и всевозможные данные на это указывают, — что люди, регулярно и лично контактирующие с коллегами, в более выгодном положении, если говорить об истинно человеческом труде, которым нам всем придется заниматься в будущем.

Когда я сидел дома во время пандемии, мне трудно было работать хорошо, и я такой не один. Вирус всё не отступал, и многих угнетало то, как тяжело генерировать творческие идеи, укреплять дух товарищества в команде и принимать новых сотрудников по Zoom и Slack. К тому же все очень, очень устали от того, что нужно заботиться о детях, соблюдать меры предосторожности и попутно глядеть весь день в одни и те же экраны.

Руководителей всё это тоже угнетало. CEO Adobe Шантану Нарайен пожаловался, что удаленка сказывается на способности компании запускать новые инициативы[165]. «Когда пытаешься создать новый проект, — сказал Нарайен, — хочется, чтобы вокруг кулера с водой толпились люди». Руководитель Netflix Рид Хастингс в интервью The Wall Street Journal назвал удаленный режим работы «откровенно негативным моментом». На вопрос, когда он планирует вернуть свою команду в офис, Хастингс ответил: «Через двенадцать часов после одобрения вакцины»[166].

В желании руководителей вернуть работников в офисы нет ничего удивительного. Исследования показывают, что группа, находящаяся в одном помещении, решает задачи быстрее, чем люди, совместно работающие через интернет, а авторы коллективных научных статей, менее удаленные друг от друга географически, как правило, проводят более качественные исследования[167]. Кроме того, как свидетельствуют результаты исследований, в условиях дистанционной работы понижается сплоченность команды, и, хотя удаленные сотрудники, может, и работают эффективнее, они часто проявляют меньше креативности[168].

Для обычных работающих людей удаленка, конечно, обладает множеством практических преимуществ. Родители могут больше внимания уделять детям, не нужно тратить время и нервы на дорогу туда и обратно, и людям с ограниченными возможностями часто легче работать из дома. Но у такого режима есть и обратная сторона. Стирается грань между работой и отдыхом, и многим труднее отключаться и восстанавливать силы. Кроме того, удаленщики отказываются от многих преимуществ офисной культуры, связанных с общением, таких как личное сближение с людьми, наставничество, карьерный рост. И лишают себя того, что Джон Салливан, профессор менеджмента из Университета штата Калифорния в Сан-Франциско, называет «приятным непрогнозируемым взаимодействием», — случайного пересечения сотрудников в кафетерии или в очереди к кофемашине, в результате которого часто завязываются интересные разговоры и спонтанно рождаются идеи[169].

Но если говорить об автоматизации, то главная опасность удаленной работы в том, что при отсутствии личного взаимодействия куда труднее проявлять человеческие качества. В некотором смысле удаленщики уже наполовину подверглись автоматизации. Их воспринимают как двумерную картинку в видеочате. Результаты их работы чаще всего оцениваются с точки зрения выполненных задач и соблюденных нормативов, и возможности внести вклад в общее дело более тонко, человечно: подбодрить сникшего коллегу, устроить для всех душевное мероприятие, ввести в курс дела стажера — у них крайне ограничены.

Поэтому удаленным сотрудникам еще важнее стараться проявлять свою индивидуальность и напоминать о себе другим. И важно, чтобы компании, нанимающие удаленщиков, регулярно приглашали их на очные общие собрания, чтобы они были социализированы и встроены в команду.

Еще до начала пандемии компании начали опробовать способы, позволяющие удаленным сотрудникам ощутить себя теснее связанными с коллективом. Платформы для сотрудничества GitLab предлагают присоединяться к «виртуальным перерывам на кофе» — видеоконференциям только для общения — и заходить в «комнату наугад» — постоянно работающее пространство Google Hangout, исполняющее функцию виртуального кулера для воды[170]. В сиэтлской компании Seeq, разрабатывающей программное обеспечение, сотрудники каждый день по очереди проводят «посиделки откровений»: делают пятнадцатиминутную презентацию на любую не связанную с работой тему[171]. Создательница платформы WordPress компания Automattic, где все работают удаленно, раз в год устраивает «большое сборище» — недельный выезд, во время которого семьсот с лишним сотрудников компании днем работают над коллективными проектами, а вечерами общаются и приятно проводят время[172].

Такие меры помогают удаленным работникам ощутить себя частью команды. И всё-таки они не могут вполне заменить офисную кухню взаимодействия между людьми. Так что, если вы всё время работаете удаленно, вам нужно стараться находить время для общения. Приглашайте других удаленщиков в ресторан рядом с домом. Общайтесь с коллегами в групповых чатах на любые нерабочие темы. Устраивайте виртуальные совместные ужины, организуйте круговой обмен подарками. Найдите для себя возможности демонстрировать свои человеческие качества, и тогда вас ни за что не примут за робота.

Если у вас такая работа, что вам, как и мне, не так уж часто приходится исполнять роль конечной точки, считайте, что вам крупно повезло. Но не позволяйте удаче усыпить вашу бдительность. Следите за изменениями в профессиональной сфере и отмечайте появление любых новых технологий, которые могут изменить вашу роль, сделать вас подконтрольным машинам или изъять человеческую составляющую из вашей работы.

Если вы руководите командой или возглавляете организацию, следите, чтобы любая технология, которую вы пускаете в ход, поддерживала людей, а не лишала их всего человеческого. Принимайте решения об автоматизации вместе с работниками и обязательно выясняйте у них, насколько машины им помогают (или не помогают). И помните: то, что случилось в Лордстауне, — на высокотехнологичном, сверхэффективном производстве, остановленном разочарованными рабочими, которым до смерти надоело, что к ним относятся как к роботам, — может произойти и с вашей организацией.

Если вы исполняете роль конечной точки под началом машин или видите перед собой такую перспективу, действуйте по ситуации.

При любой возможности выбирайтесь из этого положения. Такие виды работ лишают вас всего человеческого, они чрезвычайно подвержены автоматизации, и, поскольку фактически лишь временно заполняют пробелы вплоть до появления соответствующих технологий, они редко изменяются к лучшему со временем. Если ваша работа главным образом заключается в передаче информации от одной системы другой, предложите руководству попробовать вас в иной роли, более трудной и требующей принятия решений. Если вы занимаетесь закупкой рекламных площадей в интернете, попросите, чтобы вас как можно скорее привлекли к командному творческому процессу. Если вы продажник, вызовитесь участвовать в стратегических совещаниях, вместо того чтобы просто кропать презентации в PowerPoint.

Если вы не можете сменить должность, предложите руководству внести изменения в ваши обязанности, чтобы они стали более человеческими и вы могли лучше управлять своими инструментами. Некоторым профсоюзам уже удавалось добиваться таких перемен для своих членов, и движение производственных рабочих, отстаивающих свои права на протяжении десятков лет, например лордстаунские переговоры 1970-х, результатом которых было формирование возглавленных рабочими «групп гуманизации» на GM, может послужить примером офисным служащим.

Если у вас нет возможности сменить работу или избавиться от обязанностей, подконтрольных машинам, либо потому, что вы работаете по договору на платформе вроде Uber и Lyft, чья бизнес-модель целиком построена на контроле машинами, либо потому, что у вас нет рычагов и полномочий, чтобы заговаривать об изменении характера ваших обязанностей, значит, вам нужно продумывать план побега.

История четко показывает: люди не остаются конечными точками надолго. Слишком уж много стимулов довести автоматизацию этих процессов до конца и технических специалистов, работающих над устранением людей из этих схем. Не хотите же вы, когда придет время и машины наконец заговорят друг с другом, стоять между ними и удивляться, куда делась ваша работа.

Правило 6. Обращайся с ИИ как с армией обезьянок

Мы решили техническую проблему, которая приводила на Facebook к ошибкам при переводе с бирманского на английский. Такого не должно было случиться, и мы принимаем меры для того, чтобы это не повторилось[173].

Представитель Facebook приносит извинения за изъян в системе с технологией машинного обучения, которая перевела имя генерального секретаря ЦК компартии Китая Си Цзиньпина как «мистер Свинарник»

В тот день Майк Фаулер проснулся очень рано от жужжания телефона.

Шел 2013 год, было субботнее утро, но Фаулер, американский предприниматель, живущий в австралийском Мельбурне, привык разбираться с деловыми письмами в неурочные часы. Он был основателем компании Solid Gold Bomb, торговавшей в интернете оригинальными футболками и другими предметами одежды, и всегда где-нибудь находился клиент или сотрудник, которому от него что-то было нужно.

Но в этот раз Фаулер, взглянув на экран телефона, заподозрил неладное. Несколько сообщений в Facebook от незнакомых людей, ругающих его последними словами. Срочное письмо от высокопоставленного руководителя Amazon. Просьба об интервью от BBC.

«Я подумал: о боже, что-то случилось», — рассказывал он мне.

У него внутри всё перевернулось, когда он понял, что произошло: его подвел его собственный алгоритм.

Год с лишним назад Фаулеру пришла в голову идея, которая произвела переворот в его компании. Он видел, что другие производители с помощью таргетированной рекламы Facebook продают футболки с надписями, представляющими собой слегка видоизмененные ходовые фразы, которые нацелены на очень специфическую аудиторию. (Может, вам попадалась такая реклама в ленте Facebook в 2012–2013 годах; речь о футболках с такими надписями, как «Не стоит недооценивать ФАНАТА CUBS[174], родившегося в АВГУСТЕ» или «Прости, но я уже очарован сексуальной ДАНТИСТКОЙ-ГИГИЕНИСТКОЙ по имени ТЭММИ».)

И Фаулер подумал: а что, если сделать алгоритм, генерирующий надписи на футболках не для сотен микрогрупп, а для миллионов? Он написал простой скрипт, который брал слова из словаря, вставлял их в популярные афоризмы, автоматически создавал модели футболок с такими надписями и размещал каждую из них на Amazon в десятках вариантов расцветки и размеров.

Фаулер запустил алгоритм в «черную пятницу» 2012 года и к следующему понедельнику успел продать 700 с лишним футболок — больше, чем обычно за месяц. С этого момента дела стремительно пошли в гору. Алгоритм сгенерировал в интернете 20 миллионов всевозможных футболок, составив надписи на основе 1100 с лишним шаблонов. Не все из алгоритмически порождаемых фраз получались осмысленными, но это не имело значения. Страницы для товаров на Amazon создавались бесплатно, а надписи на футболках печатались по запросу; следовательно, в реальном существовании конкретной надписи не было необходимости, пока не объявлялся, например, фанат Cubs или дантистка-гигиенистка.

План казался гениальным до 2 марта 2013 года, когда один покупатель, просматривая товары на Amazon, наткнулся на футболки с возмутительными надписями — вариациями популярного призыва «Сохраняй спокойствие и продолжай в том же духе»; алгоритм вставил в него слова, которые Фаулер позабыл исключить из словаря[175]. Надписи, были, например, такие:

СОХРАНЯЙ СПОКОЙСТВИЕ И УДАРЬ ЕЕ

СОХРАНЯЙ СПОКОЙСТВИЕ И ЗАРЕЖЬ ЕЕ

СОХРАНЯЙ СПОКОЙСТВИЕ И НАСИЛУЙ НАПРОПАЛУЮ

Уязвленный покупатель опубликовал фотографии футболок в Twitter. И разразился скандал.

Когда Фаулер понял, что происходит, он зашел на Facebook и попытался объяснить, что надписи были сгенерированы автоматически, никто не видел их в реальности и не утверждал и таких футболок на самом деле не существует. Но было уже поздно. За нарушение правил Amazon изгнал Solid Gold Bomb из своего магазина, и через несколько дней Фаулеру пришлось рассчитать всех своих сотрудников и закрыть компанию.

Одна-единственная ошибка — то, что Фаулер позабыл вычеркнуть из словаря распространенных глаголов потенциально оскорбительные, — изменила всю его жизнь. Я разговаривал с ним через шесть лет после того происшествия, и он сказал, что случившееся до сих пор не дает ему покоя.

«Это был тяжелый удар, — сказал он. — Я так от него и не оправился».

Что бы вы сделали, если бы в один прекрасный день в ваш офис заявилась тысяча шимпанзе и попросила работы?

Если рассуждать здраво, вы, наверное, заперли бы дверь и вызвали службу отлова животных. Но на секунду забудем о здравом смысле и представим, что вы решили не паниковать, а попробовать найти для шимпанзе какое-нибудь задание.

При определенных обстоятельствах из этих приматов могут выйти отличные работники. Они сильные, шустрые и довольно умные. Их можно научить распознавать лица, поднимать и переносить предметы и даже выполнять простые команды. Можно представить себе, как группа хорошо обученных офисных шимпанзе погружает и разгружает товары на складе или меняет картриджи в лазерных принтерах.

Но, прежде чем давать обещания, вы, конечно, захотели бы узнать о шимпанзе побольше. Насколько они послушны? Бывало ли, что они проявляли агрессию? Как долго их нужно будет обучать и надо ли за ними присматривать? И если вы всё-таки решите впустить армию шимпанзе в свой офис, вы не сделаете этого тотчас же. Сначала вы, возможно, проведете оценку безопасности работы с шимпанзе или организуете рабочую группу по надзору за шимпанзе. Может, вы решите сперва взять нескольких обезьян, поместить их в одну комнату под строгим контролем, научить их делать что-то простое и посмотреть, что выйдет, и только потом поручать ответственные задания.

Но независимо от того, насколько вы готовы рисковать, я уверен, вы не впустили бы шимпанзе тут же, не раздали бы им бейджи на шнурках и не сказали бы: «Ну, за работу!» И уж точно не поручили бы им руководство.

* * *

Возможно, вы уже поняли, к чему я клоню.

В предыдущей главе мы говорили о том, что происходит, когда людей превращают в конечные точки, если процесс пока невозможно полностью автоматизировать и люди нужны для заполнения временных пробелов. Но есть и обратная проблема. Руководители многих организаций совершают ошибку, сверхавтоматизируя процессы: поручая машинам задания и давая полномочия, которые им не по плечу, а потом удивляясь, что дела идут из рук вон плохо.

В последние несколько лет я общался со множеством директоров, которых убедили, что ИИ — потрясающая, трансформирующая технология и внедрять ее на рабочих местах нужно однозначно, тут и думать нечего; это решение не более ответственное или рискованное, чем поменять заправку для салата в столовой. Им не терпится задействовать как можно больше машин — не только скучных бэк-офисных ботов RPA, но и настоящий ИИ, способный принимать важные административные решения, касающиеся стратегии и операций. Некоторые директора даже мечтают передать ИИ значительную долю собственных обязанностей. В статье, вышедшей недавно в MIT Sloan Management Review, двое директоров предсказали стремительное распространение «самоуправляемых компаний» — таких, где живых руководителей совсем немного и большинство важных решений, в том числе о приеме на работу и увольнении, принимается алгоритмами[176].

Эти люди, мягко говоря, выжили из ума. Любой специалист по информационным технологиям, работающий на переднем крае сферы ИИ и машинного обучения, скажет вам, что и лучшая из существующих систем ИИ пока далеко не достойна такого беспечного доверия.

Большинство сегодняшних систем ИИ подобны армии обезьянок. Они умны, но не так, как люди. Они способны выполнять указания, если их хорошо обучили и за ними тщательно следят, иначе могут вести себя непредсказуемо и оказывать разрушительное воздействие. ИИ тренируется и развивается многие годы и научился делать то, что человеку не под силу, например отсеивать спам из миллиарда электронных ящиков или генерировать миллион персонализированных плейлистов, но он не особо хорошо проявляет себя в незнакомых и ответственных ситуациях.

Один из моих любимых сайтов — AI Weirdness[177]; это блог, который ведет Жанель Шейн, и начала она это делать, когда в докторантуре Калифорнийского университета в Сан-Диего изучала нейросети — вид ИИ, имитирующий способы обработки информации человеческим мозгом. Шейн заметила, что, когда она обучала нейросеть выполнять очередную задачу, та порой терпела крах, причем странно. Однажды Шейн учила нейросеть порождать клички для кошек на основании набора из восьми тысяч с лишним имен, полученного от приюта для животных. Программа проглотила список реальных кошачьих кличек и начала генерировать новые. Среди них оказались такие:

• Джендрина;

• Сонни;

• Мроу;

• Джексли;

• Пикл;

• Марпер;

• Фоппин;

• Тоби Буч Сноупай;

• Биг Уигги Бул[178].

В другой раз Шейн обучала нейросеть генерировать рецепты коктейлей. Первым, что выдала машина, был рецепт напитка под названием «Мораль и фоп нгаба», и выглядел он так:

1,5 унции апанас

1 лнции сока крилпи

1 чайная ложка амельсиковых соков

Добавьте белкаплы

Лугрйте в бокал для кокпейля

Шейн, вероятно, поругала бы меня за то, что я оказываю ИИ слишком много чести, уподобляя его шимпанзе[179]. (Она-то употребляет другое зоологическое сравнение: по ее словам, «у ИИ мыслительные способности примерно на уровне червяка».) Без тщательного человеческого надзора, пишет она, ИИ может допускать не только забавные, безобидные ошибки, но и по-настоящему опасные.

«Поскольку системы ИИ склонны, сами того не понимая, решать задачи, отличающиеся от выданных, при этом всё руша и неудачно выбирая кратчайшие пути, — пишет Шейн, — людям нужно следить, чтобы от их “блестящих решений” не пришлось потом схватиться за голову».

Но, очевидно, это предостережение не достигло ушей людей, принимающих решения в американских корпоративных кругах: кажется, они по-прежнему слишком полагаются на мудрость ИИ, и часто это приводит к последствиям куда более серьезным, чем непреднамеренная реклама футболок с оскорбительными надписями или публикация отталкивающего рецепта.

Так, 1 августа 2012 года брокерская компания Knight Capital потеряла 440 миллионов долларов всего за 45 минут из-за того, что неправильно установленная автоматизированная торговая система очень быстро скупила и продала миллионы акций; их стоимость подскочила, а когда их пришлось продавать, компания понесла огромные убытки[180]. Knight Capital оказалась на грани разорения, и удержаться на плаву ей позволило только экстренное финансирование объемом в сотни миллионов долларов.

Или возьмем Watson, IBM-овскую систему ИИ, которая, как известно, в 2011 году выиграла у рекордсмена Jeopardy![181]. В 2013 году IBM в сотрудничестве с Онкологическим центром им. М. Д. Андерсона при Техасском университете начала разрабатывать программу на базе Watson, которая подбирала курс лечения для онкобольных. Но обнаружились изъяны. В 2018 году внутренняя проверка, результаты которой оказались в распоряжении новостного сайта о здоровье Stat, выявила, что Watson неправильно обучали: в основу была положена информация не о реальных, а о вымышленных, абстрактных пациентах, и в результате система иногда давала неверные рекомендации[182]. Сообщалось, например, что однажды Watson порекомендовал врачам дать шестидесятидвухлетнему раковому больному с обильным кровотечением лекарство, которое могло усилить процесс. (IBM в заявлении для Stat утверждала, что «обучение и совершенствование Watson Health опиралось на непрерывную обратную связь с клиентами, новые научные данные и новые формы лечения рака».)

Изъяны в системах ИИ часто приводят к ущемлению уязвимых групп, поскольку данные для обучения алгоритмов нередко берутся из источников, отражающих предвзятое отношение к этим людям. Например, много данных по арестам, используемых при обучении программ «профилактической полицейской деятельности» для органов правопорядка, отражает повышенное внимание к населению черных и латиноамериканских кварталов на протяжении десятков лет, а также расоводискриминационный характер таких мер, как остановка на улице с последующим обыском[183]. Рекомендациями одного печально известного правоохранительного алгоритма под названием «Оценка необходимости альтернативных исправительных мер по отношению к нарушителям» (Correctional Offender Management Profiling for Alternative Sanctions, COMPAS) суды пользуются при вынесении приговора обвиняемым: программа вычисляет, насколько велика в каждом случае вероятность повторного нарушения закона. Исследование, проведенное в 2016 году некоммерческой организацией ProPublica, показало, что темнокожих подсудимых COMPAS объявляет будущими рецидивистами почти вдвое чаще, чем белых[184].

По всему миру дефектным и неопробованным автоматизированным системам и ИИ доверяют невероятно важные решения. Да, некоторые правительства, компании и организации, внедряющие такие системы, может, и поступают правильно: внимательно и придирчиво оценивают новые алгоритмы; моделируют риски и планируют сценарии, разбираясь, что может пойти не так; обеспечивают полноценный человеческий контроль на рабочих местах. Но многие этого не делают. А просто распахивают двери, впуская к себе армию шимпанзе и надеясь на лучшее.

Йошуа Бенжио, первопроходец в сфере глубокого обучения, — один из тех, кто, казалось бы, будет выступать за вовлечение ИИ в любой процесс принятия серьезных решений. Но в интервью журналисту Мартину Форду в 2018 году он высказался категорически против использования ИИ, когда решаются жизненно важные вопросы: например, на сколько осужденный преступник сядет в тюрьму[185].

«Люди должны уяснить, что у нынешнего ИИ и того, чьего появления можно ожидать в обозримом будущем, нет и не будет нравственного чутья и понимания, что хорошо и что плохо, — сказал Бенжио. — Только безумец доверит такие решения машинам».

Даже те, кто свято верит в возможности ИИ, например CEO Tesla Илон Маск, убеждаются на собственном опыте, как опасно наделять автоматизированные системы чересчур большими полномочиями. В 2018 году Tesla не удавалось выполнить план по выпуску седана Model 3 отчасти из-за неисправной работы заводского машинного оборудования, зависевшего от системы автоматических конвейеров.

После того как произошло несколько неприятных заминок с производством, Маск остановил конвейеры и заменил машины людьми[186]. Производство ускорилось и выправилось, и компания выполнила план. Маск, считающий (не будем это забывать), что сверхумный ИИ в конце концов превратится в угрозу для человеческой цивилизации, позже признал, что поступил неверно, наделив машины такими большими полномочиями.

«Избыточная автоматизация на Tesla была ошибкой, — написал он в твите. — Мы недооцениваем людей».

Поймите меня правильно: я не выступаю против использования ИИ при решении важных задач. Я лишь говорю, что нам стоит быть очень осторожными, когда мы даем машинам больше власти, чем они способны вынести, или используем алгоритмы там, где их ошибки могут навредить ни в чём не повинным людям.

Усиление государственного контроля здесь было бы кстати. В книге «Решающий момент» (Turning Point) исследователи из Брукингского института Джон Аллен и Даррелл Уэст предлагают обязать компании и государственные учреждения производить «оценку воздействия ИИ», так же как разработчики, прежде чем запускать новые проекты, должны оценивать их воздействие на окружающую среду[187]. В отчетах должна быть информация о потенциальном влиянии новых автоматизированных систем на работников и подробное описание мер, принимаемых для снижения риска. В 2019 году сенаторы Кори Букер и Рон Уайден, а также член палаты представителей Иветт Кларк внесли на рассмотрение проект закона «Об алгоритмической подотчетности», который должен уполномочить Федеральную торговую комиссию проверять «автоматические системы принятия решений высокой важности», например алгоритмы для отбора кандидатов на должности, на признаки дискриминации и ошибок, допущенных при разработке[188].

Помочь могут и ответственные IT-компании: прежде чем открыть свободный доступ к новому ИИ-инструменту, разработчик может немного притормозить и подумать, можно ли им пользоваться неправильно и как именно. В 2019 году некоммерческая лаборатория OpenAI показала прекрасный пример ответственного отношения к распространению разработок, когда отложила выпуск полной версии GPT-2, своего нового алгоритма для генерации текстов. Специалисты опасались, что GPT-2, который с помощью ИИ может предугадать следующее слово в последовательности и дописать отрывок текста (да так похоже на человека, что становится жутко), можно применять для распространения фейковых новостей и сфабрикованной компьютером пропаганды. Поэтому компания решила сначала выпустить только неполную, не настолько мощную версию и понаблюдать, как она будет использоваться на практике. (Полную версию GPT-2 лаборатория вывела на рынок через девять месяцев, заключив, что «достоверных фактов злоупотребления пока не выявлено».)

Но мы не можем ждать, когда примут новые законы, и полагаться на порядочность разработчиков. Нужно прямо сейчас стараться противодействовать безрассудному и безответственному применению ИИ.

Если вы работаете в компании, где внедряют ИИ и автоматизацию без соблюдения мер предосторожности, вы можете высказать свое мнение. Убедитесь, что ваш руководитель понимает, к каким последствиям (финансовым, юридическим и репутационным) может привести непредвиденная ошибка, и найдите доводы в пользу участия людей в любом важном процессе. Предложите выявить возможные угрозы — собрать сотрудников и попытаться вместе вычислить и воспроизвести все возможные варианты промашек автоматической системы и ее неправильного использования. Или, как сделали некоторые производственные компании в 1970-х и 1980-х, сформировать «совет по автоматизации» из работников разных отделов, которые будут сравнивать, как у них функционируют автоматические системы, и представлять свои выводы руководству.

Если в районе, где вы живете, из-за ИИ и автоматизации нарушается неприкосновенность частной жизни, наказываются люди в уязвимом положении и принимаются важнейшие решения, например о назначении пособий или предоставлении жилищных льгот, потребуйте, чтобы местные власти выполняли свою работу. Если вы не уверены в том, что используемые системы не дают никакого негативного эффекта, или не можете получить нужную информацию, постарайтесь выяснить, возникали ли проблемы из-за таких систем в других регионах, и, если потребуется, обратитесь за помощью в организации по защите гражданских свобод. Уже бывали случаи, когда такие меры оказались полезными: например, в 2020 году Чикагское полицейское управление объявило о разрыве контракта по использованию технологии распознавания лиц, разработанной сомнительной компанией Clearview AI, после того как гражданские активисты и Американский союз защиты гражданских свобод, подавший иск в суд, доказали, что эта технология может нанести вред пострадавшим от домашнего насилия, нелегальным иммигрантам и другим уязвимым группам населения[189].

Если вы руководитель и размышляете, нужны ли ИИ и автоматизация в вашей компании, вспомните о Майке Фаулере и его алгоритмически сгенерированных футболках. И не допускайте, чтобы ваши алгоритмы ошибались и закрепляли предвзятое отношение потому, что в программе есть дефект или для ее обучения использовался предвзятый набор данных. (Сейчас есть специальные «аудиторы ИИ», которые помогают проверить алгоритм на наличие таких изъянов[190].) Действуйте осторожно, когда имеете дело со сторонними поставщиками, и относитесь скептически к красивым рекламным лозунгам. При любой возможности вовлекайте в процесс своих сотрудников.

И помните, руководители: отвечать за последствия непродуманного или преждевременного внедрения ИИ будут люди, принимавшие решения, а не боты. Если, образно говоря, армия шимпанзе разрушит ваш офис, гнев пострадавших обрушится не на животных.

Правило 7. Создавай большие и маленькие сети

Мы не можем считаться ни технологически развитыми, ни социально грамотными, раз наблюдаем за катастрофой, затрагивающей десятки тысяч людей, и не находим решения. А под решением я подразумеваю реальную, подлинную альтернативу, обеспечивающую уровень жизни, который был сметен силой, именуемой прогрессом, но некоторым людям несущей разрушение.

Мартин Лютер Кинг-младший, из речи об автоматизации, произнесенной перед членами Американского профсоюза работников транспорта, 1961 год

Несколько лет назад в один морозный зимний день я прилетел в Торонто, взял напрокат машину и, двигаясь на север, за час добрался до городка под названием Уотерлу в провинции Онтарио. Следуя указаниям GPS-навигатора, я нашел ничем не примечательный бизнес-парк и въехал на просторную парковку с небольшой табличкой «Research in Motion — западная стоянка». По площади было разбросано несколько машин; в выходной день, в четыре часа пополудни, когда я приехал, она была почти пуста.

Десять лет назад в это время она была бы забита битком[191]. В период своего расцвета Research in Motion (RIM), создательница BlackBerry, была одной из крупнейших технологических компаний с годовым объемом продаж в 20 миллиардов долларов и штатом в двадцать с лишним тысяч сотрудников. Здесь начиналась RIM, и когда она выросла в гиганта, ее успех привел к стремительному росту Уотерлу. Всё это, разумеется, случилось еще до 2007 года, когда Apple выпустила iPhone и толкнула RIM на долгий, болезненный путь к забвению. Когда покупатели устремились за айфонами и смартфонами на базе Android, продажи BlackBerry резко упали, убытки RIM росли и росли, и она была вынуждена уволить порядочную часть своего штата.

Крах RIM больно ударил по Уотерлу как в экономическом, так и в эмоциональном плане. Компания была гордостью города и прославила его как мировой технологический центр. Даже когда стало очевидно, что лучшие дни компании позади, жители города с гордостью носили в кармане смартфоны BlackBerry и надеялись, что она еще возвысится.

Случаи, когда крупные компании прогорают, нередки, и часто города, зависящие от их успеха, не могут оправиться от удара еще десятки лет. Посмотрите хотя бы, что происходит с Детройтом с тех пор, как американский автопром достиг своего пика в 1960-х, или как идут дела в Рочестере с момента обвала и банкротства его главного работодателя, Kodak.

Однако Уотерлу, в отличие от этих промышленных городов, не захирел. Как раз наоборот. Большинство уволенных из RIM быстро нашли себе новую работу. Американские IT-компании вроде Google и Facebook подсуетились и наняли часть бывших сотрудников RIM, а оставшихся в основном разобрали местные стартапы и крупные канадские компании. Сегодня Уотерлу — экономически процветающий город с более высоким средним семейным доходом и более низким уровнем безработицы, чем в лучшие времена RIM.

То, что Уотерлу сумел быстро оправиться от потрясения, отчасти объясняется тем, что многие из уволенных работников были техническими специалистами и обладали востребованными навыками. Но наличие таких навыков — явно не единственное объяснение: бывшим нетехническим сотрудникам RIM тоже вскоре удалось подняться на ноги.

В течение недели, пока я был в Уотерлу, я расспрашивал местных чиновников, бывших работников BlackBerry и представителей общественности о том, как город поднимался после краха компании. И понял, что выживанию города способствовало два главных фактора.

Первый — то, чему я дал название «большие сети». Это масштабные программы и стратегии, смягчающие последствия неожиданных потрясений, которые приводят к массовым увольнениям. Функцию больших сетей выполняли канадская всеобщая система здравоохранения и сравнительно щедрые пособия по безработице. Кроме того, как рассказали мне жители Уотерлу, при первых признаках надвигающегося бедствия пришли на выручку местные власти: они предоставляли льготы компаниям, нанимавшим уволенных работников, и старались удержать этих людей от переезда из района Уотерлу.

Вторым фактором, содействовавшим возрождению города, было то, что я называю «маленькими сетями», — неофициальные локальные сети, поддерживающие людей в трудные времена. Уотерлу — сплоченное сообщество, пронизанное маленькими сетями и традиционно отзывчивое, что объясняется меннонитским[192] происхождением людей, поселившихся здесь в XVIII веке. Когда для BlackBerry настали тяжелые времена, эти сети активизировались. Communitech, местный центр технического образования и пространство для коворкинга, бесплатно предоставил уволенным помещения для работы и другие привилегии. Соседи и друзья делились информацией о вакансиях, жители города организовывали ярмарки вакансий и приглашали на них работодателей извне.

Один бывший работник BlackBerry, Дэн Силивестру, сказал мне, что коллективный отклик был для городских жителей чем-то естественным.

«Это характерно для меннонитов: как в прежние времена, когда соседи вместе помогали кому-нибудь строить амбар, — сказал Силивестру. — Когда у RIM начались проблемы, все отложили свои проекты и сказали: “Надо их выручать”».

До сих пор мы говорили в основном о том, как подготовить себя к последствиям технологических перемен. Но нужно понимать, что, как бы мы ни готовились и сколько бы истинно человеческих навыков ни развили, ИИ и автоматизация всё равно могут выбить почву у нас из-под ног.

Поэтому я и поехал в Уотерлу. Мне хотелось узнать, как городу удалось пережить разрушительные технологические перемены, не погрузившись в состояние хронического бедствия. И выяснить, нельзя ли из гибкости, проявленной Уотерлу после краха BlackBerry, извлечь урок другим сообществам, которые могут серьезнее всего пострадать от надвигающейся волны ИИ и автоматизации.

Проясним один момент: не каждому сообществу так хорошо удается восстановиться, как Уотерлу. На северо-востоке Огайо, где я вырос, производственная система, когда-то обеспечивавшая работой тысячи людей в районе, была подорвана сразу и торговой политикой, и автоматизацией, и некомпетентными политическими решениями. Многие люди, уволенные из GM, Ford и других крупных компаний в этом регионе, так уже и не встали крепко на ноги. Кто-то нашел себе работу с зарплатой поменьше, кто-то куда-нибудь переехал, а кто-то вообще перестал работать. Потеря этих мест имела для района разрушительные последствия, и за последние двадцать лет число людей, живущих в нищете в моем родном округе, удвоилось.

Подобные трагедии разыгрываются по всей стране в районах, где перестают функционировать системообразующие предприятия. И многие экономисты, технические специалисты и политики, считающие, что ИИ и автоматизация приведут к сокращению еще множества рабочих мест, предлагают строить большие сети: кардинально менять политику и вводить социальные программы для смягчения удара.

Большие сети в разные времена помогали обществам приспосабливаться к технологическим переменам. Например, в Японии была широко распространена практика сюкко; она помогала смягчить последствия массовых увольнений в 1980-х, когда на многих заводах страны появились роботы[193]. Сюкко означала, что работодатели на годы «одалживали» сотрудников, чьи места планировалось сократить, другим компаниям, а сами тем временем подыскивали им у себя новую работу.

В Швеции людей, теряющих работу из-за автоматизации, поддерживают специальные советы[194]. Эти советы с названиями, которые я лучше не буду пытаться произносить, например Trygghetsrådet и Trygghetsstiftelsen, частные и курируют сотрудников десятков тысяч компаний. Работодатели платят советам, а те выдают уволенным сотрудникам компенсацию, предоставляют консультантов, которые помогают им подбирать вакансии, и, пока те ищут место, оказывают им профессиональную психологическую поддержку.

В США специалисты по ИИ чаще всего предлагают такую меру построения большой сети, как безусловный базовый доход (ББД). План начисления ББД предполагает, что всем взрослым гражданам страны каждый месяц без каких-либо условий выплачивается определенная сумма независимо от наличия у них работы и размера дохода. В нескольких районах страны уже тестируются маломасштабные программы ББД, и первые результаты воодушевляют.

Некоторые влиятельные люди, в том числе Билл Гейтс и мэр Нью-Йорка Билл Де Блазио, предлагают финансировать масштабную программу социальной поддержки за счет введения «налога на роботов»: компании, внедряющие автоматизированные системы, будут за каждого робота, заменяющего живых людей, платить дополнительный налог, как работники со своей зарплаты[195]. Предлагалось также изменить налоговое законодательство, которое сейчас способствует автоматизации, поскольку оборудование, включая компьютеры и роботов, облагается меньшим налогом, чем человеческий труд, так, чтобы у компаний не было лишнего повода стремиться к автоматизации.

Многие главы корпораций с энтузиазмом подхватили идею программ переподготовки и повышения квалификации: сотрудников, чьи навыки, такие как вождение грузовика или управление вилочным погрузчиком, скоро станут ненужными, обучают делать что-нибудь другое, более востребованное, например управлять дроном или писать коды. Такие компании, как Amazon, AT&T и JPMorgan Chase, уже запустили грандиозные программы переподготовки, и власти некоторых штатов и муниципальные власти реализуют свои программы обучения работников, в том числе навыкам, связанным с цифровыми технологиями. Но пока мало свидетельств, что эти программы работают, как задумывалось. Многим компаниям проще нанять новых сотрудников, чем переучить имеющихся, а некоторые востребованные навыки, такие как обработка и анализ данных, требуют специальных знаний, которые невозможно приобрести на шестинедельном семинаре. В докладе Всемирного экономического форума 2019 года утверждалось, что из людей, которые в ближайшее десятилетие лишатся работы из-за автоматизации, лишь каждого четвертого можно будет успешно переучить по одной из программ частного сектора[196].

Я лично сомневаюсь, что частный сектор избавит нас от проблемы, которую сам и помогает создавать. Я бы предпочел какую-нибудь меру из разряда ББД, плюс Medicare для всех и щедрые пособия для людей, теряющих работу из-за автоматизации, в общем, чтобы на помощь пришли федеральные власти, как во время пандемии COVID-19, когда они приняли решение об экстренных денежных выплатах.

На чём бы мы ни остановились, очевидно, что любые коллективные усилия будут действеннее того, что мы в США сейчас делаем на федеральном уровне для решения экономических проблем, связанных с автоматизацией, — по сути, ничего.

Кроме больших сетей, нам нужно думать и о том, как в этот переходный период мы сможем поддерживать друг друга при помощи маленьких сетей. Ведь если в экономике и стратегии не будет радикальных изменений, нам многое придется разруливать самостоятельно.

Ориентиром в этом может стать наш отклик на кризис, спровоцированный COVID-19. Когда разразилась пандемия, власти штатов и органы местного самоуправления компенсировали некомпетентность администрации Трампа: сами собирали информацию, разрабатывали свои регламенты и налаживали собственные цепочки поставок. Создавались районные сети взаимопомощи, чтобы объединять ресурсы, организовывать доставку продуктов и оказывать другую помощь нуждающимся и людям из групп риска, а также помогать друг другу справляться с финансовыми трудностями. Хлынули пожертвования в пищевые банки, фонды помощи работникам и фандрайзинговые копилки для малых предприятий. Люди отдавали свои свободные комнаты в распоряжение врачей и проводили мастер-классы по пошиву защитных масок.

Сознательные организации принялись активно развертывать собственные маленькие сети. Airbnb, больше других компаний Кремниевой долины пострадавшая от пандемии, была вынуждена уволить 25% сотрудников из-за беспрецедентного падения доходов[197]. Но она не только выплатила им щедрые выходные пособия, но и помогала найти новые места: составила «справочник талантов выпускников» с характеристиками и примерами работ уволенных сотрудников и на время превратила рекрутинговый отдел, который всё равно не очень-то занимался рекрутингом, в бюро по трудоустройству уволенных. Руководители Accenture, Verizon, Lincoln Financial Group и ServiceNow объединились и создали специальную платформу, чтобы помогать уволенным связываться с работодателями, имеющими открытые вакансии, и привлекли к сотрудничеству сотни компаний[198].

Маленькие сети не обязательно должны быть направлены на поиск новой работы для уволенных. Они могут оказывать психологическую поддержку: так, религиозная организация или группа совместной медитации — тоже сеть, способная подарить человеку спокойствие и чувство осмысленности во времена экономического хаоса. Волонтерство в школе, вступление в клуб книголюбов, просто завязывание новых дружеских отношений — шаги, вовлекающие нас в маленькие сети, которые помогают устоять в эпоху перемен.

Кроме того, благодаря маленьким сетям мы можем научиться извлекать пользу из новых технологий и радоваться тому, что в некотором смысле новые инструменты делают нашу жизнь лучше.

Один из моих любимых примеров, связанных с маленькими сетями, — администрация по электрификации сельских районов, ведомство, созданное кабинетом Рузвельта во времена «Нового курса» в 1930-х для электрификации сельских районов страны. Она устраивала церемонии для местных жителей всякий раз, когда в очередном городке впервые включали электричество. Для сельских сообществ появление энергии было событием огромной важности, оно меняло их жизнь. Оно облегчало труд фермеров, позволяло им продлить трудовой день на несколько часов и собирать большие урожаи.

Как пишет историк Дэвид Най, эти церемонии часто превращались в веселые празднества; были там и местные политические деятели со своими речами, и шуточные «похороны»: зарывали в землю масляную лампу в знак того, что старая технология умерла и на смену ей пришла новая[199]. На одном таком празднестве в Кентукки проповедник произнес панегирик керосиновой лампе под звуки «отбоя», исполненного отрядом бойскаутов.

Современным технологиям редко устраивают столь радушный прием. Но мы можем попытаться хотя бы частично воссоздать атмосферу общего праздника: собраться с соседями, поговорить, выяснить, к чему может привести появление новых технологий. Представим себе, например, уличную вечеринку, профинансированную местной торговой палатой, в честь появления возможности подключиться к 5G. Или «ярмарку ИИ», куда можно прийти всей семьей и испытать новейших медицинских роботов, прототипы беспилотных автомобилей и программы машинного обучения, использующиеся местными компаниями.

Порой мы забываем, что именно технологии когда-то связали нас всех. И они смогут сделать это снова, если нынешние гиганты перестанут создавать технологии, разъединяющие людей и усугубляющие неравенство, и начнут проявлять гражданскую ответственность.

Но нам не обязательно этого дожидаться. Мы, общество, можем создать больше крупных сетей, чтобы помогать людям, которых технологические перемены выбивают из колеи. И мы, отдельные люди, можем создавать и укреплять маленькие сети, чтобы, если нас затронут перемены, у нас было всё необходимое и мы справились с трудностями.

Правило 8. Развивай ключевые навыки будущего

Мы учим людей делать то, что должны делать машины. Не следует так поступать. Нужно учить людей задействовать сугубо человеческие способности.

Пол Догерти, главный специалист по технологиям и инновациям, Accenture

С тех пор как я начал писать об ИИ и автоматизации, множество нервничающих родителей спрашивают у меня, какие предметы нужно изучать их детям, чтобы они были готовы к будущему.

Долгое время у меня не было достойного ответа на этот вопрос. Ведь хоть я и верю, что самыми ценными качествами в будущем станут истинно человеческие (humanities со строчной h) — все эти неожиданные, социальные и исключительные способности, о которых мы говорили, — я куда меньше уверен, что развить их можно, просто изучая традиционные гуманитарные науки (Humanities с прописной H) в школе и университете. Можно ли утверждать, что средний студент, специализирующийся в антропологии, скорее всего, лучше владеет навыками социального взаимодействия, чем средний студент, специализирующийся в инженерии? Или что чтение «Беовульфа»[200] больше способствует умению справляться с неожиданностями и развитию исключительных талантов, чем изучение байесовской статистики?

Для перевода нашей образовательной системы в XXI век предлагалось множество идей, в том числе индивидуальные учебные планы, массовые открытые онлайн-курсы и программы «образования на протяжении всей жизни» для взрослых. Но лишь немногие из них были полноценно опробованы, и все эти идеи касаются в основном того, как следует учить, оставляя открытым вопрос о том, чему нужно учить. И поскольку все они направлены на реформирование существующей модели образования: усиление роли одних предметов, уменьшение роли других, регулирование числа учеников в классе, модернизацию педагогических методов, — многое упускается.

Недавно я решил составить свой список навыков, которые в будущем начнут высоко цениться. Я называю их «человеческими качествами машинной эпохи». С одной стороны, это не совсем технические навыки, а с другой, не такие, какие приобретаются при изучении классических гуманитарных предметов вроде философии или русской литературы.

Это практические навыки, которые, на мой взгляд, помогут любому — и маленькому ребенку, и взрослому, — максимально увеличить свое преимущество перед машинами.

Охрана внимания

Дэниел Гоулман, психолог, популяризировавший термин «эмоциональный интеллект», считает, что одним из ключевых навыков будущего станет умение сосредоточиваться — управлять своим вниманием[201]. Он пишет, что способность к концентрации и отключению от внешних отвлекающих факторов будет помогать ориентироваться в стремительно меняющемся будущем и приноравливаться к взлетам и падениям, которые мы, скорее всего, будем переживать в условиях технологических перемен.

По мнению Гоулмана, те, кто хорошо умеет сосредоточиваться, менее подвержены смятению, лучше способны проявлять хладнокровие в кризисных ситуациях и сохранять баланс несмотря на эмоциональные всплески жизни.

«Сосредоточению» я предпочитаю термин «охрана внимания» — он отражает то, что сегодня, когда большинство из нас старается не поддаваться отвлекающим факторам, мы именно защищаем свое внимание от атаки разнообразных внешних сил: социальносетевых приложений, уведомлений о срочных новостях, кавалькады сообщений и электронных писем, которые пытаются нас отвлечь и сбить с курса.

Есть проверенные способы тренировки сознания, позволяющие научить его тщательнее охранять внимание. Один из них — медитация; исследования показывают, что даже короткий, восьмиминутный сеанс может уменьшить рассеяние внимания[202]. Помогают и дыхательные упражнения, и прогулки на природе, и молитва. Для меня лучшим ритуалом охраны внимания оказалось чтение: убрав телефон подальше, я сажусь и долго, не прерываясь, читаю настоящие, печатные книги. Но не помешало бы, чтобы ученые плотнее занялись тактикой охраны внимания, учитывая, какое огромное количество мыслительной энергии и денег расходуется на то, чтобы нас отвлекать.

Умение охранять свое внимание обычно относят к лайфхакам для повышения продуктивности: это способ сделать больше, отвлекаясь меньше. Но учиться ограждать себя от воздействия сил, стремящихся его захватить и направить в другую сторону, необходимо не только из экономических соображений. Продолжительная концентрация — непременное условие для приобретения новых навыков и полноценного общения с людьми. Она необходима для изучения себя и развития позитивного самосознания, которое устоит перед воздействием машин. Ведь, как утверждает историк Юваль Ной Харари, если алгоритмы будут лучше, чем вы сами, понимать, что происходит у вас внутри, то власть перейдет к ним[203].

Оценка ситуации

Недавно я слушал лекцию главного экономиста Indeed.com Джеда Колко, и тот высказал неожиданное предположение о том, какая группа людей хорошо подготовлена к будущему. У людей, принадлежащих к ЛГБТК-сообществу, которым приходилось скрывать свою ориентацию, дела, возможно, будут идти особенно хорошо в эпоху ИИ и автоматизации, поскольку многие из них имеют опыт тонкого социального маневрирования, требующего высокого уровня эмоционального интеллекта.

«Навык, который приобретается в силу необходимости скрывать свою ориентацию, — способность трезво оценивать ситуацию, — не относится к тем, которые можно найти в каком-нибудь перечне профессиональных навыков, но он может сослужить хорошую службу на любом рабочем месте», — сказал Колко.

Развивая мысль Колко, предположу, что женщины и представители расовых меньшинств, многие из которых вынуждены изо дня в день переключаться с одного языка на другой и менять поведение на рабочих местах, где преобладают белые мужчины, тоже в будущем окажутся в выгодном положении. Тот самый инстинкт, который заставляет женщину-руководителя смягчать тон, чтобы ее не сочли агрессивной, и подсказывает темнокожей сотруднице, что, делая доклад перед группой, следует перейти с афроамериканского просторечия на грамотный английский, может оказаться очень полезным в сферах, где требуется тонкое социальное чутье.

Конечно, было бы гораздо приятнее жить в более справедливом обществе, где женщинам и меньшинствам не приходится так тщательно следить за собой. Но к тем, кто наловчился быстро вычислять предвзятость и предрассудки других, машинная эпоха, возможно, повернется своей хорошей стороной. А тем из нас, кому не приходится переходить с одного языка на другой и постоянно оценивать ситуацию, нужно постараться развить эти навыки другими способами, потому что они нам понадобятся.

Умение отдыхать

Одно из моих любимых мест в соцсетях — страничка в Instagram под названием «Пастыри дремы» (The Nap Ministry).

Ее ведет Триша Херси, темнокожая художница-перформансистка и поэтесса из Атланты[204]. Несколько лет назад, когда Херси училась на кафедре богословия в университете (как раз в это время зарождалось движение Black Lives Matter), она поняла, что вымотана и измучена учебой и широко распространявшимися видеозаписями, на которых полиция жестоко подавляла выступления темнокожих. И Херси решила попробовать немного спать днем. Оценив, как действует дневной отдых на ее душевное состояние, она присвоила себе титул «Епископ дремы» и завела страничку «Пастыри дремы», чтобы рассказывать другим людям, особенно эмоционально истощенным темнокожим, о преображающем воздействии кратких перерывов на сон.

«Отдых продуктивен, — рассказывала Херси в одном интервью. — Когда вы отдыхаете, вы продуктивны. Я пытаюсь переосмыслить отдых и разубедить людей в том, что если ты не “занят чем-нибудь” в общепринятом смысле, то ты ничего не стоишь».

Херси считает, что перерывы на сон и отдых — не просто забота о себе, а акт сопротивления давлению господствующей белой расы и капитализма и шаг к тому, чтобы отвоевать темнокожих людей у культуры спешки. Ее страничка в Instagram полна вдохновляющих цитат, таких как «Отдых — это практика освобождения» и «Ты не машина. Кончай пахать».

Хоть я и не принадлежу к целевой аудитории Херси, я глубоко признателен ей за то, что она помогает переосмыслить отдых и увидеть: это вопрос социальной справедливости и навык, необходимый тем, кому требуется энергия для противостояния притеснениям и для борьбы за более справедливое будущее.

В нашей системе образования не предусмотрен дневной сон для тех, кто вышел из раннего детского возраста. Однако умение отдыхать — отключать голову, перезаряжать тело — навык, который становится всё важнее для людей всех возрастов. Он помогает предотвратить выгорание и истощение, позволяет взглянуть на проблему со стороны и увидеть картину целиком, дает возможность выбраться из колеса, в котором мы крутимся как белки, и воссоединиться со своим истинным, человеческим «я». И многим из нас, в том числе и мне, не помешало бы вплотную заняться развитием этого навыка.

В прежних экономических условиях, когда ценность человека определялась в первую очередь физическим трудом, дневной отдых обычно считался непозволительной роскошью. Но в условиях новой экономики, где отличаться от машин мы будем творческими, человеческими навыками, нужно пересмотреть свое отношение к умению отдыхать, понять, что этот навык необходим для выживания. Наука однозначно подтверждает связь между отдыхом и различной человеческой деятельностью. Исследования, проведенные нейроспециалистами Армейского научно-исследовательского института им. Уолтера Рида и других ведущих учреждений, показали, что при хроническом недосыпании нарушается способность выносить верные этические суждения, снижается уровень эмоционального интеллекта и человеку становится труднее общаться с другими[205]. (И это если не говорить о воздействии недосыпания на физическое здоровье.)

Помимо обучения искусству отдыха, нужно добиваться структурных перемен для ограничения выгорания и переутомления людей в более широких масштабах. Такие меры уже принимаются в других странах. В Японии в 2019 году законодательно ограничили сверхурочное время работы до сорока пяти часов в месяц и ввели штрафы для компаний, не соблюдающих ограничения[206]. Во Франции закон, вступивший в силу в 2017 году, закрепляет за работающими «право на отключение» и ограждает их от требований отвечать на электронные письма после шести вечера[207]. В США некоторые компании стали вводить обязательные отпуска и на выходные отключать общие электронные рассылки.

В некоторых университетах вводят экспериментальные курсы о пользе отдыха для студентов. В Гарварде первокурсников теперь допускают в кампус только при условии, что они прошли онлайн-курс под названием «Сон 101», составленный на основе популярного семинара, который проводит известный исследователь сна Чарльз Чейслер[208]. Брауновский, Стэнфордский и Нью-Йоркский университеты предлагают студентам собственные необязательные курсы, посвященные сну.

Но такие курсы нельзя приберегать только для студентов элитных университетов. В автоматизированном будущем, когда наш вклад будет всё больше определяться серьезными прорывами, вдохновенными идеями и эмоциональной устойчивостью, полноценный отдых станет играть еще более важную роль.

Цифровая проницательность

Поскольку я веду рубрику о технологиях и в частности рассказываю о соцсетях, мне в последние годы приходилось много писать о дезинформации и конспирологических теориях. И я заметил, как, должно быть, и вы, что в наши дни даже очень умным людям порой трудно определить, где правда, а где ложь.

И это не случайно. Миллиарды людей получают новости и информацию из соцсетей вроде Facebook, Twitter и YouTube, использующих алгоритмы, для которых главное в информации — цепляет она или нет, а ее правдивость не так уж важна. Рекламные баннеры на этих платформах делаются так, чтобы они как можно больше напоминали обычные посты, поэтому большинство пользователей, быстро прокручивая ленту, не могут отличить оплаченное сообщение от простого. А в тех редких случаях, когда информация исследуется на достоверность, например рядом с постом ярого антипрививочника помещается ссылка на страницу Всемирной организации здравоохранения с информацией о безопасности вакцин, сам факт проверки становится материалом для новых конспирологических теорий, поскольку соцсети уже приучили пользователей не доверять главным авторитетам.

Я не люблю модное слово «медиаграмотность», поскольку оно подразумевает, что людей можно обучить единственно правильному способу синтеза и интерпретации сведений из новостных и информационных источников, многие из которых противоречат и противостоят друг другу, а некоторые специально создаются злонамеренными медиахакерами для одурачивания аудитории и манипулирования общественным мнением.

Я предпочитаю говорить о «цифровой проницательности», и этот термин отражает тот факт, что обучение ориентированию в туманном, беспорядочном онлайновом информационном пространстве — это бесконечный процесс, меняющийся каждый раз, когда происходят технологические сдвиги, а медийные манипуляторы осваивают новые инструменты и платформы.

Отсутствие цифровой проницательности превращается в настоящую социальную проблему. В 2015 году группа стэнфордских ученых решила оценить «онлайновую логику населения»: семь с лишним тысяч учеников средних и старших классов школы и студентов попросили выполнить простые тесты на грамотность в оценке новостей[209]. Один тест был таким: участникам показали статью о финансовом планировании, спонсированную банком и написанную финансовым директором, и спросили, считают ли они, что это информация из объективного и надежного источника. Другой тест заключался в том, что участникам предложили прочесть два похожих поста из Facebook: первый был взят с официальной странички Fox News, а второй с поддельной — и определить, какой из них подлинный. Результаты оказались удручающими. Больше 80% участников приняли рекламный текст — заметку, оплаченную рекламодателем, с пометкой «спонсируемый материал», — за настоящую новостную статью. И больше 30% посчитали, что фейковый твиттеровский аккаунт Fox News заслуживает большего доверия, чем официальная страница.

«В каждом случае и на каждом уровне нас поражала неподготовленность школьников и студентов», — писали исследователи.

Отсутствие цифровой проницательности — проблема не только молодых. Результаты одного исследования показали, что во время выборов 2016 года люди 65 лет и старше в семь раз чаще, чем люди помоложе, делились в соцсетях ложной информацией из интернета[210]. Распознать ложь в интернете действительно трудно, но в дальнейшем это станет еще труднее, когда распространятся алгоритмически порожденные тексты, реалистичные аудиозаписи, сгенерированные речевым ИИ, и поддельные видеоматериалы («дипфейк»), созданные при помощи алгоритмов машинного обучения.

Для проблемы распознавания ложной информации в интернете нет идеального решения, но специалисты уже достигли кое-каких успехов. В 2018 году в докладе некоммерческой организации Data & Society Моника Балджер и Патрик Дэвисон писали, что, несмотря на определенные недостатки существующих программ медиаграмотности, некоторые меры показали свою эффективность[211]. Для примера они рассказывают о хештеге #CharlottesvilleCurriculum, который стал трендовым на Twitter после ненавистнической акции белых националистов Unite the Right в Шарлоттсвиле в 2017 году. После этого митинга, когда интернет кишел крайне предвзятой и ложной информацией, педагоги и организации вроде Антидиффамационной лиги публиковали под этим хештегом свои рекомендации, чтобы наладить в образовательных учреждениях конструктивный диалог о расизме, предрассудках и толерантности.

Для начала это неплохо. Но мы остро нуждаемся в оценке возможных мер и в понимании, какие из них действительно работают: не только способствуют тому, чтобы люди перестали принимать на веру ложную информацию, но и возвращают к реальности тех, кто поверил в конспирологические теории или клюнул на фальшивку. В хаотичной информационной среде, где всё перевернуто с ног на голову, умение человека отделять факты от вымысла станет сверхспособностью. Цифровая проницательность позволит людям лучше фильтровать информацию, не давать себя одурачивать обманщикам и шарлатанам и ясно видеть сквозь туман современных информационных войн.

Аналоговая этика

Фрэнк Чэнь, венчурный инвестор, вкладывающийся в ИИ-стартапы, рекомендует людям, спрашивающим у него, какие навыки станут цениться в будущем, прочесть одну необычную книгу. Эта работа, под названием «Всему, что действительно нужно знать, я научился в детском саду» (All I Really Need to Know I Learned in Kindergarten), была написана в 1986 году священником Робертом Фулгамом, и в ней много простых жизненных советов, таких как «делись всем, что имеешь», «играй по правилам» и «убирай за собой».

Чэнь считает, что элементарные навыки, которые ребенок приобретает, прежде чем учится читать и писать, и которые сводятся к тому, что нужно хорошо обращаться с людьми, поступать этично и учитывать интересы других (всё это я называю «аналоговой[212] этикой»), очень нам понадобятся во времена, когда значимость человека будет определяться его способностью взаимодействовать с другими[213]. Чэнь пишет:

Я понимаю, что на этот фундамент нужно напластовать целый набор практических и технических умений, но согласен с [Фулгамом], что фундамент, в который заложено много ЭИ [эмоционального интеллекта], и сострадания, и воображения, и креативности, — отличный трамплин для подготовки людей: врачей, умеющих найти лучший подход к больному; торговых представителей, решающих именно мои проблемы, а не чьи-то еще; кризисных консультантов, понимающих, когда именно ситуация становится критической, — к будущему, в котором главной движущей силой станет машинное обучение и людям с алгоритмами лучше действовать сообща.

Исследования показывают, что усвоение принципов аналоговой этики может положительно сказываться на жизни человека. В 2015 году были опубликованы результаты исследования, участников которого отслеживали с детского сада и до раннего взрослого возраста. Те из них, у кого были хорошо развиты просоциальные, некогнитивные навыки: позитивность, эмпатия и умение управлять своими эмоциями, — чаще добивались успеха во взрослом возрасте[214]. Другое исследование, 2017 года, показало, что люди, в детском возрасте обучавшиеся по программам «социально-эмоционального» развития, чаще получали высшее образование, реже подвергались арестам во взрослом возрасте, у них реже диагностировали расстройства психического здоровья, даже с учетом таких показателей, как расовая принадлежность, социально-экономическое положение и местонахождение учебного заведения[215].

Маленьким детям, конечно, всегда прививали основополагающие навыки: их учили, что нужно делиться, играть по правилам, извиняться. Но теперь в школах начали разрабатывать подробные программы, главная цель которых — культивировать доброту. «Добрая программа» — набор учебных материалов от Центра здорового духа при Висконсинском университете в Мадисоне — развивает у дошкольников важные навыки осознанности, которые помогают им подмечать собственные эмоции и эмоции других. А программа «Истоки эмпатии», разработанная канадским педагогом Мэри Гордон и развивающая у школьников способность к эмпатии и эмоциональную грамотность, применяется в четырнадцати странах, в том числе США, Южной Корее и Германии.

Студенты тоже вспоминают основы аналоговой этики. Например, в Стэнфордском университете можно записаться на семинар «Стать добрее» и изучать психологию альтруистического поведения. В Нью-Йоркском университете студенты, посещающие курс «Реальный мир», нарабатывают важный для будущего навык — умение адаптироваться к переменам, — выполняя специальные упражнения: ищут выход из смоделированных сложных ситуаций. В Дьюкском и Питтсбургском университетах и других ведущих медицинских вузах стипендиаты, специализирующиеся в онкологии, могут записаться на курс «Онкобеседа» и научиться вести трудные разговоры с больными раком.

Это хорошее начало, и крайне важно, чтобы возможности обучения аналоговой этике расширялись не только ради улучшения жизни людей, но и ради того, чтобы подготовить их к будущему, где коммуникативные и эмоциональные навыки станут одной из главных ценностей.

Способность предвидеть последствия

В будущем самыми ценными навыками будут способность обдумать, к чему может привести внедрение систем ИИ и машинного обучения, и предвидеть, как эти системы могут повлиять на общество, когда им предоставят «свободу действий».

Сейчас мы сталкиваемся с непредвиденными последствиями внедрения систем ИИ планетарного масштаба, таких как Facebook и YouTube, и видим, что разработчики и директора, задумывавшие их, не учли, что их можно применять не по назначению, использовать в корыстных интересах и мошенничать. Я убежден, что большинство этих систем задумывалось не с целью причинить вред. Их создатели и разработчики были идеалистами, им казалось, что благие намерения важнее хороших результатов.

Отчасти из-за этих упущений и миллиардных расходов компаний на исправление собственных ошибок сейчас вырос спрос на людей, способных заметить изъян в технологической системе до того, как он приведет к катастрофе. Крупные технологические компании нанимают специалистов в таких областях, как контроль соблюдения законов, кибербезопасность и публичная политика, имеющих практический опыт и способных предвидеть возможные последствия, чтобы они оценивали новые продукты и просчитывали, какой вред они могут нанести.

В будущем потребность в таких людях значительно возрастет и нужны будут не только разработчики. Возможно, понадобятся и специалисты, которые разбираются в человеческой психологии и умеют оценивать риски и вероятности. (Как признался СЕО Twitter Джек Дорси, он сожалеет о том, что на заре существования Twitter не нанял специалиста по теории игр и поведенческого экономиста: они бы помогли компании разобраться, как злонамеренные люди могут использовать твиттеровские системы во вред[216].)

Способность предвидеть последствия будет востребована и в других, нетехнологических областях, поскольку ИИ внедряется во всё больше отраслей и создает всё больше возможностей для ошибок. Врачам и медсестрам нужно будет представлять себе все преимущества и недостатки инструментов медицинской визуализации и понимать, почему они делают неверные выводы. Адвокатам придется научиться заглядывать в недра алгоритмов, применяющихся в судах и правоохранительных учреждениях, и учитывать, что они могут выносить предвзятые суждения. Правозащитники должны будут понимать, как инструменты вроде систем распознавания лиц могут использоваться для слежки и ущемления уязвимых групп населения.

Чтобы приучать будущих специалистов просчитывать последствия, можно, например, ввести специальные предметы в программы STEM или придумать особые обряды для церемоний посвящения в профессию. В Канаде студенты, оканчивающие инженерные факультеты, проходят церемонию посвящения в инженеры с 1920-х[217]. Каждому из них вручают железное кольцо, которое надевается на мизинец и напоминает об обязанности трудиться на благо общества. Потом выпускники произносят клятву и прежде всего обязуются «отныне и впредь не терпеть и не утверждать, не быть причастным к утверждению плохой работы и некачественных материалов».

Представьте себе, что программисты Facebook и YouTube обязательно проходят подобную церемонию, прежде чем выпустить свой первый программный компонент или обучить первую нейронную сеть. Позволило бы это решить все проблемы общества? Конечно, нет. Но, может быть, это напоминало бы им, что ставки высоки и нужно помнить о том, как уязвимы пользователи? Вполне возможно.

Правило 9. Вооружай бунтарей

Все мы боимся за свою уверенность, за наше будущее, за наш мир. Такова природа человеческого воображения. И всё-таки каждый человек продвигается вперед, поскольку делает то, что решил делать, и то же касается цивилизаций.

Джейкоб Броновски, британский математик

Почти двести лет назад один уставший от суматошной жизни двадцатисемилетний человек решил отдохнуть от новых технологий.

Он был родом из массачусетского Конкорда — эпицентра американской промышленной революции. Его семья владела доходной карандашной фабрикой, обеспечивавшей ей безбедное существование. Но он не хотел связывать свою жизнь с семейным бизнесом. Окончив университет, он заинтересовался трансцендентализмом — новым движением писателей и философов Новой Англии, разочаровавшихся в современном общественном устройстве, которое, по их мнению, обезличивает людей и превращает их в скучных конформистов.

Со временем этот человек решил удалиться от индустриального мира. Он построил себе простую маленькую хижину на берегу пруда, избавился от имущества и переехал туда.

Этот человек, которого звали Генри Дэвид Торо, оставил память о своей жизни на берегу пруда, написав книгу «Уолден, или Жизнь в лесу»[218], которая помогла поколениям американцев увидеть, какую цену мы платим за технический прогресс. «Уолден» изобилует прекрасными описаниями природы и размышлениями о простой жизни, но это еще и резкий выпад против новых технологий. Торо их ненавидел, его возмущал ажиотаж вокруг технических новинок вроде телеграфа, которые, как он считал, только отвлекают человека от его истинного предназначения.

«Мы очень спешим с сооружением магнитного телеграфа между Мэном и Техасом; а что, если Мэну и Техасу нечего сообщать друг другу? — писал он в 1854 году. — Неужели главная цель в том, чтобы говорить побыстрей, а не в том, чтобы говорить разумно?»[219]

История Торо известна большинству. Но куда меньше людей знает о том, что 4 июля 1845 года, по случайному совпадению, как раз в тот день, когда Торо переезжал на Уолденский пруд, активистка рабочего движения Сара Бэгли выступила с речью, которой суждено было повлиять на динамику технического прогресса куда более прямо, чем всё, что написал Торо.

Бэгли, землячка Торо, жила в Лоуэлле и была обыкновенной «лоуэлловской девушкой», одной из многих простых молодых женщин, работавших на местных текстильных фабриках[220]. Как и Торо, она разочаровалась в индустриальной культуре, но совсем по другим причинам. Она была работницей, а не дочерью преуспевающих промышленников, и знала по себе, как тяжела жизнь на фабрике. Ей сокращали зарплату, ее принуждали работать сверхурочно в нечеловеческих условиях, и ее приводило в ярость то, что промышленные магнаты богатеют за счет рабочих.

Вместо того чтобы удалиться на природу, Бэгли стала одной из организаторов рабочего движения. Она писала статьи в защиту работниц в местный журнал и со временем основала правозащитную организацию — Лоуэлловскую ассоциацию за реформирование женского труда. Местные лидеры рабочего движения заметили ее и предложили ей в День независимости выступить перед рабочими в Вуберне.

Речь Бэгли стала важным событием. Около двух тысяч людей собрались в рощице и слушали, как она говорит о несправедливостях индустриальной эпохи. Она высмеивала владельцев фабрик, называя их «выскочками, строящими из себя аристократов Новой Англии»[221]. Она дала слово примкнуть к борьбе профсоюзов рабочих-мужчин за десятичасовой рабочий день и другие ограничения. И защищала лоуэлловских девушек, утверждая: «Наши права нельзя попирать безнаказанно».

Речь Бэгли потрясла рабочих и воспламенила их движение, но его дух был подавлен жестким отпором фабрикантов и заводчиков. Одна местная газета назвала Бэгли «леди, обладающей незаурядными талантами и достоинствами». Когда она закончила говорить, утверждалось в газете, «глубоко взволнованная толпа единодушно приветствовала ее криками “Ура!”».

Я рассказываю вам это не потому, что считаю нужным закончить эту книгу очередным экскурсом в историю XIX века, а потому что на примере этих двух людей хочу наглядно показать, какой выбор нам предстоит сделать, готовясь к технологическому будущему.

Сегодняшняя ситуация во многом напоминает ситуацию 1845 года. Новые, мощные машины произвели революцию во многих отраслях промышленности, расшатали унаследованные нами институты и изменили структуру общественной жизни. Работники беспокоятся, что их труд станет никому не нужным; родители тревожатся о влиянии новых технологий на их детей. Ничем не регулируемая капиталистическая система произвела на свет огромные богатства, но от этого жизнь простых работников не всегда становится лучше. Общество разделилось по расовому, классовому и географическому признакам, и политики предупреждают об опасности роста неравенства и корпоративной коррупции.

В таких условиях у нас есть два варианта.

Мы можем поступить как Торо: опустить руки, выключить гаджеты, отстраниться от современности и удалиться на природу. А можем и как Сара Бэгли: вступить в дискуссию, узнать больше о властных структурах, руководящих внедрением технологий, и склонить их к будущему, которое станет лучше и справедливее.

Я — в команде Бэгли. Я думаю, что наш нравственный долг — бороться за людей, а не только против машин, и считаю, что те из нас, чья работа не связана с технологиями, обязаны поддерживать порядочных технических специалистов, старающихся превратить ИИ и автоматизацию в освобождающую силу, а не просто в средство обогащения.

Эту стратегию я называю «вооружением бунтарей» не потому, что думаю, будто сопротивление технологической эксплуатации должно сопровождаться насилием, а потому что считаю важным поддерживать людей, добивающихся порядочности и прозрачности наших главных технологических учреждений, вооружая их нужными инструментами и информацией и поддерживая эмоционально.

Думаю, на практике такая стратегия, скорее всего, будет эффективнее попыток полностью разрушить эти учреждения. Как показывает история, те, кто просто выступает против технологий, не предлагая решений, чтобы сделать систему лучше и справедливее, обычно проигрывают. Луддиты, ломавшие ткацкие станки, обеспечили себе место в учебниках истории, но не смогли исправить последствия индустриализации. Скептиков, иронизировавших в середине XX века над идеей космических полетов, никто не услышал, но те, кто реально принял участие в этом проекте, в том числе недооцененные герои вроде Кэтрин Джонсон, Дороти Вон и Мэри Джексон, темнокожих женщин-инженеров НАСА, чей вклад в космическую гонку запечатлен в книге и фильме «Скрытые фигуры», внесли свою лепту в одно из главных технических достижений нашей страны[222]. Люди, сокрушавшиеся о том, что происходит вокруг, на заре существования интернета, может, и получали удовлетворение от своего морального превосходства, но упустили шанс поучаствовать в формировании онлайн-пространств, которые уже десятки лет влияют на жизнь миллиардов людей.

Я то и дело получаю электронные письма и личные сообщения от сегодняшних Сар Бэгли — рядовых сотрудников Facebook, Amazon, Google и других технологических гигантов. Они пишут, что приходят в ужас от некоторых инструментов, разрабатываемых этими компаниями, их методов работы и неспособности ограничить ущерб, который наносят эти продукты. Эти люди считают, что наибольшую пользу могут принести, отстаивая нравственные принципы внутри компаний, но благодарны журналистам, исследователям и активистам, которые оказывают давление снаружи и присоединяются к хору голосов, требующих перемен.

Вне крупных технологических компаний тоже хватает порядочных технических специалистов, которых можно поддержать и у которых есть чему поучиться. Это такие люди, как Джазмин Латимер, разработчица, сотрудничающая с некоммерческой организацией Code for America[223]. Несколько лет назад у Латимер родилась идея приложения «Почисть мое досье», которое позволяет людям, когда-то осужденным за уголовные преступления, подать запрос на автоматическое удаление из их досье информации о судимости, если они имеют на это право. В Калифорнии при помощи этого приложения были стерты данные о восьми с лишним тысячах мелких преступлений, связанных с наркотиками, и тысячи людей, отбывших заключение, смогли начать жизнь с чистого листа.

Или Роан Павулури, двадцатитрехлетний выпускник Гарварда, основавший в 2016 году некоммерческую организацию Upsolve, оказывающую людям юридическую поддержку[224]. При помощи автоматизированных систем эта организация помогает малообеспеченным американцам заявить о банкротстве по главе 7[225], чтобы избавиться от обременительных долговых обязательств и начать свою финансовую историю заново. На данный момент служба помогла американским семьям избавиться от долгов на общую сумму 120 с лишним миллионов долларов.

Или Джой Буоламвини и Тимнит Джебру, исследователи ИИ, которые проанализировали три самых распространенных алгоритма распознавания лиц и обнаружили, что все они гораздо менее точно определяют лица с более темным тоном кожи, чем со светлым[226]. Благодаря этому исследованию несколько крупных технологических компаний провели повторную проверку своих систем ИИ на признаки предвзятости и обязались использовать для своих моделей машинного обучения более неоднородные с расовой точки зрения массивы данных.

Или Саша Констанца-Чок, специалистка по СМИ и профессор Массачусетского технологического института, продвигающая идею «справедливого дизайна», — подхода к разработке продуктов, при котором устраняются проявления структурной несправедливости и делается акцент на потребностях уязвимых групп[227]. Констанца-Чок — один из лидеров движения за запрет технологии распознавания лиц и против использования инструментов, ущемляющих уязвимые группы, таких как микроволновые сканеры в аэропортах, чьи операторы, сотрудники службы транспортной безопасности, должны, прежде чем сканировать пассажира, выбрать один из двух вариантов пола: мужской или женский.

О таких людях, как они, я последние несколько лет рассказываю в своей ежегодной рубрике «Премия “Хороший технарь”», поскольку, как мне кажется, нужно создавать стимулы, пусть такие мелкие, как упоминание в газете, чтобы люди работали над технологиями, которые помогут многим, а не только принесут деньги им самим и инвесторам.

Отстаивая наше право формировать современную технологическую среду, мы особо должны защищать людей, которые могут больше всего пострадать от ИИ и автоматизации, в том числе уязвимые сообщества и группы.

Не стоит поддаваться соблазну отодвинуть дискуссию об ИИ на потом. Меня всегда привлекала идея «смежного возможного», предложенная биологом-эволюционистом Стюартом Кауфманом для описания постепенного, пошагового эволюционирования биологических организмов[228].

Эту концепцию полезно применить к миру технологий: она выведет нас из сферы научной фантастики и сузит рамки, сделав картину будущего, которую мы себе рисуем, более реалистичной. Мир, где роботы безупречно выполняют всё, что раньше делал человек, а мы свободны и только занимаемся творчеством и играем в видеоигры, — вероятно, не пример смежного возможного. Но такой мир, где мы направляем мощь машинного интеллекта на сокращение выбросов углекислого газа, поиск лекарств от редких болезней и совершенствование системы государственных услуг для малоимущих семей, возможно, к нему и относится.

Именно нам, людям, приветствующим новые технологии, но тревожащимся, что их применяют не так, как надо, нужно исследовать это смежное возможное и подталкивать всех к его лучшей версии.

Важно также не терять надежды и помнить, несмотря на все наши тревоги, что ИИ и автоматизация могут принести человечеству невероятную пользу, если мы всё сделаем правильно. Мир, где царит ИИ, может быть наполнен и человеческим творчеством, и осмысленным трудом, и прочными сообществами. И не стоит забывать, что технологические потрясения исторически всегда приводили к общественному прогрессу, пусть и не сразу. Выступления рабочих в эпоху промышленного переворота привели к реформам в сфере труда и введению первых мер по защите работников. Беспокойство в обществе по поводу автоматизации в середине XX века укрепило средний класс, расширив влияние профсоюзов. Распространение интернет-платформ краткосрочных контрактов в первом десятилетии XXI века уже привело к тому, что множество людей соорганизовались для защиты внештатных работников от эксплуатации.

Поймите меня правильно: я никого не осуждаю за желание отключить гаджеты и укрыться в холмах. И я, конечно, не выступаю против того, чтобы люди старались сделать свою жизнь более гармоничной, указав технологиям их место. Но воздержание от гаджетов не решит наших проблем, нам нужно взаимодействовать с потенциально опасными системами, чтобы мы могли влиять на их развитие.

Видно, как ИИ может нас разобщить. Но понятно и то, как он способен нас сплотить. Технологии могут заставить нас присмотреться к себе и выявить наши сильные стороны и ограничения. Машины порой способствуют развитию гибкости и креативности: чтобы опережать их, нам придется изобретать новые, творческие пути. И благодаря ИИ и автоматизации мы, имея новые сверхвозможности, способны объединиться, чтобы решить часть своих важнейших проблем.

Но этого не будет, если мы самоустранимся. Будущее — не зрительский вид спорта, и ИИ слишком важен, чтобы позволить распоряжаться им только миллиардерам и разработчикам ботов. Мы тоже должны включиться в борьбу.

* * *

21 февраля 1846 года, меньше чем через год после того, как Сара Бэгли взволновала толпу своими призывами к защите прав рабочих, она еще раз вошла в историю[229].

Партнер Сэмюэла Морзе, знаменитого изобретателя электромагнитного телеграфа, заехал в Лоуэлл, чтобы навести справки в связи с предстоящим открытием телеграфной линии между Бостоном и Нью-Йорком. В Лоуэлле нужно было устроить телеграфную станцию, и Морзе искал сведущего человека, который смог бы ею управлять. У Бэгли спросили, интересует ли ее такая работа.

У Бэгли не было опыта работы на телеграфе. Прежде она трудилась на фабрике и была активисткой рабочего движения, а телеграф стал новым, передовым устройством, требовавшим специальных знаний. Мало кто из женщин прежде работал там, и некоторые мужчины сомневались, что это возможно. («Способна ли женщина хранить секреты?» — спрашивала одна местная газета.) Кроме того, никто не мог сказать наверняка, есть ли у телеграфа будущее.

Но Бэгли не боялась идти на риск и любила трудные задачи. И она согласилась. Ей назначили зарплату 400 долларов в год, она за несколько недель изучила принципы действия телеграфа и приступила к делу.

У Бэгли не было необходимости менять профессию. Она уже стала легендой рабочего движения Новой Англии и благодаря своей репутации могла бы продолжать в том же духе без особых усилий. Но она не желала остаток жизни обсуждать завершившуюся главу истории. Ей хотелось написать следующую.

Приложение. План неуязвимости для будущего

Большинство советов представлено в этой книге в форме общих, широко применимых принципов, которые могут пригодиться разным людям независимо от их положения. Я намеренно выбрал такую форму. Если вас интересуют общие принципы и вам кажется, что вы получили то, чего хотели, я рад!

Но, если вы жаждете большей конкретики, рекомендую потратить немного времени на составление плана.

Каким он будет — решать вам. Некоторые любят составлять списки мелких краткосрочных задач. Другим больше нравится фокусироваться на преобразованиях, требующих времени. Есть люди, которые в принципе не любят ставить себе задачи и предпочитают выбрать одно-два дела и напоминать себе о них каждый день. (Один мой друг наклеивает на свой компьютерный монитор стикеры с мотивирующими надписями, например «Пей больше воды» или «Не веди себя в Twitter как придурок».)

Я предпочитаю вполне достижимые краткосрочные задачи. Поэтому для правила 1 («Будь неожиданным, социальным и исключительным») расчертил таблицу три на три и в каждую клетку вписал по одной задаче на каждую из трех сфер моей жизни (дом, работа, сообщество). Вот что получилось.

Я также поставил для себя еще несколько задач, соответствующих остальным восьми правилам из этой книги. Вот как сейчас выглядит мой список.

Правило 2: сопротивляйся машинному дрейфу.

• Отключить рекомендации YouTube и делать покупки офлайн, когда это возможно.

• Оберегать «час человека».

• Медитировать каждый день.

Правило 3: не давай гаджетам руководить.

• Пользоваться телефоном не больше 1,5 часа в день.

• Никаких электронных писем по воскресеньям.

• Раз в год повторно проходить тридцатидневную программу Кэтрин Прайс, если возникнет необходимость.

Правило 4: оставляй рукотворные отпечатки.

• Раз в неделю отправлять кому-нибудь записку от руки.

• Стать наставником студента, изучающего журналистику.

• Посылать подробные положительные отзывы коллегам, чью работу я ценю.

Правило 5: не будь конечной точкой.

• Перестать заглядывать в Stela. (Это служебная информационная панель для сотрудников The New York Times; удобный инструмент для редакторов, но благодаря ей я иногда слишком хорошо знаю, сколько просмотров набирают мои заметки, и из-за этого мне порой хочется писать только такие, которые наверняка наберут много просмотров.)

• Отводить вторую половину пятниц на чтение и изучение новых источников.

• Ездить в офис хотя бы три раза в неделю (в пандемию нельзя).

Правило 6: обращайся с ИИ как с армией обезьянок.

• Изучить воздействие алгоритмов на систему уголовного правосудия в районе залива Сан-Франциско.

• Пройти онлайн-курс по машинному обучению.

• Поговорить с главным специалистом по данным в The New York Times и выяснить, как мы применяем алгоритмические рекомендации в своем приложении и на нашем сайте.

Правило 7: создавай большие и маленькие сети.

• Устроить уличную вечеринку для соседей.

• Начать ходить на квакерские встречи.

• Активнее участвовать в деятельности Новостной гильдии — профсоюза работников The New York Times.

Правило 8: развивай ключевые навыки будущего.

• Чаще делать комплименты.

• Прочитывать статьи до конца, прежде чем делиться ими в соцсетях.

• Спать днем хотя бы раз в неделю.

Правило 9: вооружай бунтарей.

• Пообщаться с Civic Signals — группой ученых и активистов, добивающихся того, чтобы веб-порталы чаще функционировали как общественные пространства.

• Чаще цитировать в своих статьях мнения небелокожих и не мужчин. (Эту идею я позаимствовал у Бена Касселмана, который ежегодно просматривает свои статьи и проводит их «проверку на разнообразие», чтобы убедиться, что среди его источников должным образом представлены женщины и цветные.)

• Сделать пожертвование в Fast Forward — акселератор для технологических некоммерческих организаций, старающихся способствовать решению важнейших проблем общества.

Перечисленные задачи, конечно, не подходят абсолютно всем, и ваш список, наверное, будет выглядеть совсем иначе. Вы могли заметить, что многие из моих задач никак не связаны с ИИ и автоматизацией: это скорее советы общего характера из разряда «Помоги себе сам». Но в том и суть. Если, чтобы пережить технологические перемены, нужно стать более человечным, значит, требуется в основном восстанавливать и освежать основополагающие навыки, которые могли со временем притупиться.

Мой план неуязвимости для будущего — способ напомнить себе об ответственности и о том, что мои ежедневные решения со временем складываются в нечто большее. Это способ оценить мой прогресс, понять, насколько я стал человечнее. Если вы решите составить свой план, прошу об одном: убедитесь, что он затрагивает все сферы вашей жизни, а не только работу. Сделать себя неуязвимым для будущего — значит вернуть себе контроль над своим сознанием и человеческую способность к действию и независимости, а не просто сохранить работу.

Список литературы

Когда начинаешь составлять книгу об ИИ и автоматизации, сталкиваешься с тем, что до тебя над этой темой успели поработать много отличных писателей. Но это и хорошо. Многие авторы, которых я очень люблю, уже взяли на себя трудную задачу — постарались обрисовать ту или иную сторону технологического будущего; читателям, интересующимся этой темой, есть из чего выбирать.

Вот лишь некоторые из книг, наложивших самый глубокий отпечаток на мои размышления об ИИ, автоматизации и очертаниях будущего. Если вы хотите завести себе полку с книгами о роботах, советую начать с них.

Мередит Бруссард. Искусственный интеллект: пределы возможного (М.: Альпина нон-фикшн, 2020). Бруссард, опытная журналистка, пишущая об анализе и обработке данных, преподаватель Нью-Йоркского университета, толково рассказывает о слабых сторонах и ограничениях ИИ, ее книга — убедительный аргумент против того, что она называет «техношовинизмом».

Эрик Бриньолфсон, Эндрю Макафи. Вторая эра машин: работа, прогресс и процветание в эпоху новейших технологий (М.: АСТ, 2017). Эта книга, написанная двумя профессорами Массачусетского технологического института, намного опередила свое время. Я обращаюсь к ней регулярно.

Джефф Колвин. Люди могут больше, чем вы думаете (Humans Are Underrated, Geoff Colvin, 2015). Колвин, с давних пор пишущий для журнала Fortune и работающий там редактором, приводит убедительные доводы в пользу экономической ценности человеческих навыков.

Пол Доэрти, Джеймс Уилсон. Человек + машина. Новые принципы работы в эпоху искусственного интеллекта (М.: Манн, Иванов и Фербер, 2019). В целом оптимистичный инсайдерский взгляд на корпоративную автоматизацию; авторы — специалисты по ИИ и автоматизации, работающие в консалтинговой компании Accenture.

Хьюберт Дрейфус, Стюарт Дрейфус. Разум превосходит машину (Mind over Machine, Hubert L. Dreyfus and Stuart E. Dreyfus, 1985). Написанная семейным тандемом — профессором философии (Хьюберт) и его сыном, профессором инженерных наук (Стюарт) — книга представляет собой одну из первых попыток обозначить ограничения цифровых технологий.

Мартин Форд. Роботы наступают: развитие технологий и будущее без работы (М.: Альпина нон-фикшн, 2019). Живой, понятный и немного пугающий взгляд на эпоху роботов; книга написана журналистом, следящим за ситуацией дольше многих других.

Карл Бенедикт Фрей. Технологическая ловушка (The Technology Trap, Carl Benedikt Frey, 2019). Основательный исторический обзор технологических изменений от экономиста из Оксфордского университета с обзором новейших исследований и выводами, ломающими стереотипы.

Кай-Фу Ли. Сверхдержавы искусственного интеллекта (М.: Манн, Иванов и Фербер, 2019). Ли, опытный руководитель и венчурный инвестор, научил меня, как говорить об ИИ и автоматизации, и, что было для меня особенно ценно, дал возможность изучить китайский рынок ИИ.

Джон Маркофф. Homo Roboticus? Люди и машины в поисках взаимопонимания (М.: Альпина нон-фикшн, 2017). Маркофф, легендарный технический журналист и мой бывший коллега по The New York Times, — надежный проводник в мир ИИ, вдумчиво рассказывающий о людях и философии, которые формируют интеллектуальные системы.

Дэвид Нобл. Силы производства (Forces of Production, David F. Noble, 1984). Это исследование картины автоматизации, сложившейся после Второй мировой войны, серьезно повлияло на мое представление о культуре промышленной автоматизации. Нобл — хороший писатель и замечательный историк, и он убедительно доказывает, что автоматизация стала не только инструментом повышения производительности компаний, но и средством укрепления власти над работниками.

Нил Постман. Технополия (Technopoly, Neil Postman, 1992). Знаменитая книга одного из известных критиков новых технологий, во многом предвидевшего, какие проблемы они поставят перед человечеством.

Кэтрин Прайс. Оторвись от телефона! Как построить здоровые отношения со смартфоном (М.: Манн, Иванов и Фербер, 2020). Эта книга моей наставницы по телефонной детоксикации способна изменить жизнь читателя. Тридцатидневный план телефонной детоксикации, разработанный Кэтрин, произвел переворот в моих взаимоотношениях с телефоном и заставил задуматься, как я уступил контроль над своей жизнью машинам. Я и сосчитать не могу, сколько экземпляров книги купил для своих друзей и родных.

Фредерик Шодт. В королевстве роботов (Inside the Robot Kingdom, Frederick L. Schodt, 1988). Завораживающая книга об автоматизации, на этот раз о Японии и культуре упорной роботизации заводов и фабрик.

Жанель Шейн. Ты выглядишь как вещь, и я тебя люблю (You Look Like a Thing and I Love You, Janelle Shane, 2019). Прекрасный дебют выдающейся исследовательницы ИИ и чуть ли не единственная книга о машинном обучении, читая которую, я хохотал.

Элвин Тоффлер. Шок будущего (М.: АСТ, 2008). Эта книга, положившая начало футуристической мании, до сих пор остается одним из лучших примеров того, как можно писать о психологическом воздействии технологических перемен.

Норберт Винер. Человек управляющий (раздел «Человеческое использование человеческих существ»; СПб.: Питер, 2001). Исследование этики машин, проведенное одним из моих любимых технологических мыслителей.

Шошана Зубофф. В эпоху умных машин (In the Age of the Smart Machine, Shoshana Zuboff, 1988). Зубофф больше известна как автор «Эпохи надзорного капитализма», но ее более ранняя книга, написанная в 1980-х, во времена первого IT-бума, — пророческий взгляд на будущее рынка труда.

Благодарности

Процесс создания книги пока невозможно автоматизировать, и есть люди, которых нужно поблагодарить за помощь в осуществлении этого проекта.

Спасибо за поддержку, советы и терпение коллегам по The New York Times: А. Г. Зальцбергеру, Дину Бакету, Джо Кану, Ребекке Блуменштайн, Сэму Долнику, Эллен Поллок, Пуи-Винг Там, Джо Пламбеку, Майку Исааку, Нелли Боулз, Натали Китроефф, Кейду Метцу, Каре Свишер, Лизе Тобин, Майклу Барбаро, Энди Миллсу, Лариссе Андерсон, Венди Дорр, Джулии Лонгориа, Синдху Гнанасамбандан и многим другим, кто помогал мне активно и не очень.

Благодарю моего редактора Бена Гринберга за то, что он разглядел потенциал этой книги и руководил процессом вплоть до его завершения, а также всех остальных сотрудников Random House, в том числе Айелет Грюншпрехт, Молли Тёрпин и Грега Куби. Слоан Харрис и Кари Стюарт из ICM Partners, как всегда, были терпеливыми и вдумчивыми советниками. А Рейчел Годжел придумала сногсшибательную обложку.

Я признателен всем моим собеседникам и специалистам, которые давали интервью, рекомендовали полезные книги и оценивали первые черновики, особенно Рою Бахату, Кэтрин Прайс, Джессике Олтер и А. Дж. Джейкобсу.

Я благодарен Тори Джудс и ученикам Весттаунской школы за их ценные отзывы на раннем этапе создания книги.

Благодарю друзей и родственников за полезные поправки, помещение для работы, моральную поддержку и помощь; среди них — Пол Руз, Энн Лоуренс, Николь Йинджер, Аарон Фридман, Алексис Мадригал, Эндрю Маранц, Сара Ластбэдер, Ариэль Вернер, Ари Савицкий, Кейт Ли, Кэролайн Ландау, Алекс Голдберг и, конечно, многие другие, кого я забыл упомянуть.

Я благодарен моим близким родственникам Дайане Руз, Карлу Рузу и Джулии Слокум за то, что они любят меня и поддерживают, хоть я и нарушил свое обещание («Больше никаких книг!»). И я с благодарностью вспоминаю двух уже ушедших в мир иной родных людей, которые вдохновили меня на то, чтобы стать писателем: моего отца Кёрка Руза, умершего в 2018 году, и мою бабушку Гретхен Руз, которая умерла в 2020-м, когда эта книга редактировалась, и которая, конечно, раздавала бы ее всем знакомым.

И, наконец, я безгранично признателен моей жене Тове Акерман, благодаря которой я каждый день радуюсь, что я человек.

Об авторе

Кевин Руз — ведущий технологической рубрики в The New York Times, ведущий подкаста Rabbit Hole и постоянный гость ежедневного новостного подкаста The Daily. Он регулярно пишет и читает лекции на такие темы, как автоматизация и ИИ, социальные сети, дезинформация и кибербезопасность, цифровое благополучие. Раньше он писал для журнала New York и был одним из исполнительных продюсеров Real Future, телевизионного документального сериала о технологиях. Он автор двух бестселлеров по версии The New York Times: «Молодые деньги» (Young Money) и «Безнадежный ученик» (The Unlikely Disciple). Живет в Окленде, штат Калифорния.

МИФ Бизнес

Все книги по бизнесу и маркетингу: mif.to/business mif.to/marketing

Узнавай первым о новых книгах, скидках и подарках из нашей рассылки mif.to/b-letter

#mifbooks

#mifbooks

#mifbooks

#mifbooks

Над книгой работали

Издано при поддержке Университета Иннополис

Шеф-редактор Ренат Шагабутдинов

Ответственный редактор Татьяна Рапопорт

Литературный редактор Ольга Свитова

Арт-директор Алексей Богомолов

Дизайн обложки Наталия Савиных

Верстка Екатерина Матусовская

Корректоры Анна Пенская, Марк Кантуров

ООО «Манн, Иванов и Фербер»

mann-ivanov-ferber.ru

Электронная версия книги подготовлена компанией Webkniga.ru, 2021

Примечания

1

Коротко по поводу словоупотребления: в этой книге я буду пользоваться обобщенным термином «ИИ и автоматизация» для обозначения всевозможных цифровых процессов, выполняющих задачи, которые ранее решали люди. У специалистов по информационным технологиям аббревиатурой «ИИ» принято обозначать одно из направлений автоматизации — программирование компьютеров с тем, чтобы они могли самостоятельно приспосабливаться и обучаться при помощи таких технологий, как машинное обучение. Многих очень умных людей раздражает, когда термином «ИИ» называют то, что, по сути, всего лишь статичный алгоритм, опирающийся на систему правил. Но для технически неподготовленного читателя это различие может быть слишком тонким и почти неуловимым, поэтому ради подстраховки я по возможности буду объединять термины. Из тех же соображений слово «робот» — термин, который многие инженеры возненавидели из-за того, что он запятнан научно-фантастическими фильмами и теперь может обозначать что угодно, хоть дроида, хоть посудомоечную машину, — я постараюсь использовать как можно реже. Прим. авт.

2

Looney Tunes («Безумные мотивы») — американский мультсериал. Самый известный персонаж — кролик Багз Банни. Прим. перев.

3

Roose K. The Hidden Automation Agenda of the Davos Elite // The New York Times, January 25, 2019.

4

Фестиваль музыки и искусств в долине Коачелла — один из крупнейших музыкальных фестивалей в США и во всем мире. Участники — музыканты всевозможных жанров, художники, скульпторы; рекорд посещаемости — 250 тысяч человек. Прим. перев.

5

Уилл Ай Эм — американский рэпер, музыкальный продюсер, предприниматель и актер. Прим. перев.

6

Carroll S. Aristotle on Household Robots // Discover, September 28, 2010.

7

Clark E. March of the Machine Makes Idle Hands // The New York Times, February 26, 1928.

8

Darrach B. Meet Shaky, the First Electronic Person // Life, November 20, 1970.

9

Изданы на русском языке: Форд М. Роботы наступают. Развитие технологий и будущее без работы. М.: Альпина нон-фикшн, 2019; Бриньолфсон Дж., Макафи Э. Вторая эра машин. М.: Neoclassic, АСТ, 2017. Прим. ред.

10

Frey C. B., Osborne M. A. The Future of Employment: How Susceptible Are Jobs to Computerisation? // Oxford Martin Programme on Technology and Employment, September 17, 2013.

11

Gallup and Northeastern University. Optimism and Anxiety: Views on the Impact of Artificial Intelligence and Higher Education’s Response, 2017.

12

Bunge J., Newman J. Tyson Turns to Robot Butchers, Spurred by Coronavirus Outbreaks // The Wall Street Journal, July 10, 2020.

13

Mims C. As E-Commerce Booms, Robots Pick Up Human Slack // The Wall Street Journal, August 8, 2020.

14

Corkery M., Gelles D. Robots Welcome to Take Over, as Pandemic Accelerates Automation // The New York Times, April 10, 2020.

15

Bradley C., Hirt M., Hudson S. et al. The Great Acceleration // McKinsey, July 14, 2020.

16

Spataro J. 2 Years of Digital Transformation in 2 Months // Microsoft 365 (blog), April 30, 2020.

17

EY PA Media. Bosses Speed Up Automation as Virus Keeps Workers Home // The Guardian, March 29, 2020.

18

Dizikes P. The Changing World of Work // MIT News, May 18, 2020.

19

Reese B. The Fourth Age. New York: Atria Books, 2018.

20

Knight W. AI Is Coming for Your Most Mind-Numbing Office Tasks // Wired, March 14, 2020.

21

Издана на русском языке: Доэрти П., Уилсон Дж. Человек + машина. Новые принципы работы в эпоху искусственного интеллекта. М.: Манн, Иванов и Фербер, 2019. Прим. ред.

22

Griffin E. Liberty’s Dawn: A People’s History of the Industrial Revolution. New Haven: Yale University Press, 2013.

23

Clark G. The Condition of the Working-Class in England, 1209–2003 // Journal of Political Economy, 2005.

24

Allen R. C. Engels’ Pause: Technical Change, Capital Accumulation, and Inequality // Explorations in Economic History, 2008.

25

Acemoglu D., Restrepo P. Automation and New Tasks: How Technology Displaces and Reinstates Labor // Journal of Economic Perspectives, 2019.

26

Cook K., Pinder D., Stewart S. The Future of Work in Black America // McKinsey, October 4, 2019.

27

Frey C. B. The Technology Trap: Capital, Labor, and Power in the Age of Automation. Princeton, N.J.: Princeton University Press, 2019.

28

Zuck’s inclination (англ.) — намерение Цука; sexy clinician — сексуально привлекательный клиницист. Прим. перев.

29

Twenge J. M. Are Mental Health Issues on the Rise? // Psychology Today, October 12, 2015.

30

Nye D. E. Electrifying America: Social Meaning of a New Technology. Cambridge, Mass.: MIT Press, 1990.

31

Gray M. L., Suri S. Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. New York: Houghton Mifflin Harcourt, 2019.

32

Yuan L. How Cheap Labor Drives China’s A. I. Ambitions // The New York Times, November 25, 2018.

33

Bansal G. et al. Does the Whole Exceed Its Parts? The Effect of AI Explanations on Complementary Team Performance // ArXiv, June 2020.

34

Regan K. W. et al. Human and Computer Preferences at Chess // MPREF@AAAI, 2014.

35

Wilson H. J., Daugherty P. R., Morini-Bianzino N. The Jobs That Artificial Intelligence Will Create // MIT Sloan Management Review, Summer 2017.

36

Pring B. et al. 21 Jobs of the Future: A Guide to Getting — and Staying — Employed for the Next 10 Years // Cognizant, 2017.

37

Marshall M. 10 Impossibilities Conquered by Science // New Scientist, April 3, 2008.

38

Stuart C. I. J. M. Report of the Fifteenth Annual (First International) Round Table Meeting on Linguistics and Language Studies. Washington, D. C.: Georgetown University Press, 1964.

39

Davenport C. Google Translate Processes 143 Billion Words Every Day // Android Police, October 9, 2018.

40

Airport Ticket Machines Gain // The New York Times, July 9, 1984.

41

Armstrong S., Sotala K., ÓhÉigeartaigh S. S. The Errors, Insights, and Lessons of Famous AI Predictions — and What They Mean for the Future // Journal of Experimental & Theoretical Artificial Intelligence, 2014.

42

Susskind R. E., Susskind D. The Future of the Professions: How Technology Will Transform the Work of Human Experts. Oxford: Oxford University Press, 2015.

43

Gallup and Northeastern University. Optimism and Anxiety: Views on the Impact of Artificial Intelligence and Higher Education’s Response, 2017.

44

MacNaughton W. What Truck Drivers Think About Autonomous Trucking // The New York Times, May 30, 2019.

45

Muro M., Whiton J., Maxim R. What Jobs Are Affected by AI? Better-Paid, Better-Educated Workers Face the Most Exposure // Brookings Institution, November 20, 2019.

46

Son H. JPMorgan Software Does in Seconds What Took Lawyers 360,000 Hours // Bloomberg, February 27, 2017.

47

Popper N. The Robots Are Coming for Wall Street // The New York Times Magazine, February 25, 2016.

48

Liu A. Robots to Cut 200,000 U. S. Bank Jobs in Next Decade, Study Says // Bloomberg, October 1, 2019.

49

Yan L. Chinese AI Beats Doctors in Diagnosing Brain Tumors // Popular Mechanics, July 14, 2018.

50

Merkow J. et al. DeepRadiologyNet: Radiologist Level Pathology Detection in CT Head Images // ArXiv preprint, 2017.

51

Marciano J. 20 Top Lawyers Were Beaten by Legal AI. Here Are Their Surprising Responses // Hacker Noon, October 25, 2018.

52

Simonite T. Google’s AI Experts Try to Automate Themselves // Wired, April 16, 2019.

53

GPT-3. A Robot Wrote This Entire Article. Are You Scared Yet, Human? // The Guardian, September 8, 2020.

54

Molteni M. The Chatbot Therapist Will See You Now // Wired, June 7, 2017.

55

Law M. et al. Developing Assistive Robots for People with Mild Cognitive Impairment and Mild Dementia: A Qualitative Study with Older Adults and Experts in Aged Care // BMJ Open, 2019.

56

Krumhuber E. G. et al. Emotion Recognition from Posed and Spontaneous Dynamic Expressions: Human Observers Versus Machine Analysis // Emotion, 2019.

57

Thompson C. What Will Happen When Machines Write Songs Just as Well as Your Favorite Musician? // Mother Jones, March/April 2019.

58

Ong T. Amazon’s New Algorithm Designs Clothing by Analyzing a Bunch of Pictures // The Verge, August 14, 2017.

59

Dozier R. This Clothing Line Was Designed by AI // Vice, June 3, 2019.

60

Harwell D. As Walmart Turns to Robots, It’s the Human Workers Who Feel Like Machines // Washington Post, June 6, 2019.

61

Merchant B. There’s an Automation Crisis Underway Right Now, It’s Just Mostly Invisible // Gizmodo, October 11, 2019.

62

Лахани К., Янсити М. Цифровое преимущество. Искусство конкурировать в эпоху искусственного интеллекта. М.: Бомбора, 2021.

63

Скорее всего, имеется в виду персонаж фильмов о Терминаторе, вымышленный интеллектуальный суперкомпьютер. Прим. перев.

64

Noble D. Forces of Production: A Social History of Industrial Automation. New York: Knopf, 1984.

65

Roose K. A Machine May Not Take Your Job, but One Could Become Your Boss // The New York Times, June 23, 2019.

66

Lecher C. How Amazon Automatically Tracks and Fires Warehouse Workers for ‘Productivity’ // The Verge, April 25, 2019.

67

Greene T. IBM Is Using Its AI to Predict How Employees Will Perform // TheNextWeb, July 10, 2018.

68

Sheffield H. The Great Data Leap: How AI Will Transform Recruitment and HR // Financial Times, November 4, 2019.

69

Wakabayashi D. Firm Led by Google Veterans Uses AI to ‘Nudge’ Workers Toward Happiness // The New York Times, December 31, 2018.

70

Roose K. After Uproar, Instacart Backs Off Controversial Tipping Policy // The New York Times, February 6, 2019.

71

Möhlmann M., Henfridsson O. What People Hate About Being Managed by Algorithms, According to a Study of Uber Drivers // Harvard Business Review, August 30, 2019.

72

Bauserman v. Unemployment Ins. Agency, Case No. 333181. Michigan Supreme Court, 2018.

73

Eubanks V. Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. New York: St. Martin’s Press, 2018.

74

Американская государственная программа медицинской помощи людям с низкими доходами. Прим. перев.

75

Computer Glitch May Have Cost Thousands Their Benefits // Orange County Register, March 2, 2007.

76

Price R. New Computer System Causing Confusion, Benefit Delays for Ohio Food-stamp Recipients // Columbus Dispatch, January 21, 2019.

77

Lecher C. What Happens When an Algorithm Cuts Your Healthcare // The Verge, March 21, 2018.

78

Phillips J. Announcing RPA, Enhanced Security, No-Code Virtual Agents, and More for Microsoft Power Platform // Microsoft Dynamics 365 (blog), November 4, 2019.

79

Реляционная БД — набор данных с предопределенными связями между ними, организованными в виде таблиц. Прим. ред.

80

Le Clair C. Invisible Robots in the Quiet of the Night: How AI and Automation Will Restructure the Workforce. Forrester, 2019.

81

Acemoglu D., Restrepo P. Automation and New Tasks: How Technology Displaces and Reinstates Labor // Journal of Economic Perspectives, 2019.

82

Lovett W. Life and Struggles of William Lovett, in His Pursuit of Bread, Knowledge, and Freedom. Knopf, 1876.

83

Ulanoff L. Need to Write 5 Million Stories a Week? Robot Reporters to the Rescue // Mashable, July 1, 2014.

84

Lohr S. In Case You Wondered, a Real Human Wrote This Column // The New York Times, September 10, 2011.

85

Общепринятая аббревиатура от science, technology, engineering, and mathematics (естествознание, технологии, инженерия и математика). Прим. перев.

86

Kuchler H. How Silicon Valley Learnt to Love the Liberal Arts // Financial Times Magazine, October 31, 2017.

87

Семь свободных искусств (лат. Septem artes liberales) — совокупность наук, составлявшая основу светского образования в раннем Средневековье и включавшая грамматику, диалектику, риторику, геометрию, арифметику, астрономию и музыку. Прим. ред.

88

Khosla V. Is Majoring in Liberal Arts a Mistake for Students? // Medium, February 10, 2016.

89

Jaschik S. Obama vs. Art History // Inside Higher Education, January 21, 2014.

90

Буллет-джорналинг — от англ. bullet (жирная метка, точка) и journal (журнал, дневник); способ ведения дневника, изобретенный дизайнером Райдером Кэрроллом; такой дневник имеет специальную разлиновку и систему обозначений и позволяет четче все планировать, следить за прогрессом и концентрироваться на важном. Soilent — название растворимого в воде порошка, поступившего в продажу в 2014 году; он содержит все необходимые человеку вещества и, как считается, способен заменить традиционную пищу. Прим. перев.

91

Hartnett K. Machine Learning Confronts the Elephant in the Room // Quanta Magazine, September 20, 2018.

92

Kayak, Expedia, Orbitz — метапоисковики, онлайн-сервисы, предоставляющие информацию о турпакетах, круизах, позволяющие бронировать авиабилеты и гостиничные номера, арендовать автомобили. Прим. перев.

93

Popova M. Networked Knowledge and Combinatorial Creativity // Brain Pickings, August 1, 2011.

94

Brass taxes звучит похоже на сленговое словосочетание brass tacks (важные факты, суть дела). Прим. перев.

95

Некоммерческая интернет-платформа для сбора средств. Прим. перев.

96

Lovett W., Collins J. Chartism: A New Organization of the People. London: J. Watson, 1840.

97

Воннегут К. Механическое пианино / пер. М. Брухнова. М.: АСТ, 2015.

98

Terry D. B. A Tour Through Tapestry // Proceedings of the 1993 ACM Conference on Organizational Computing Systems, 1993.

99

Schrage M. Recommendation Engines. Boston: MIT Press, 2020.

100

Dave P. YouTube Sharpens How It Recommends Videos Despite Fears of Isolating Users // Reuters, November 28, 2017.

101

Sharma A., Hofman J. M., Watts D. J. Estimating the Causal Impact of Recommendation Systems from Observational Data // Proceedings of the 2015 ACM Conference on Economics and Computation, 2015.

102

Hardawar D. Spotify’s Discover Weekly Playlists Have 40 Million Listeners // Engadget, May 25, 2016.

103

Rodriguez A. ‘Because You Watched’: Netflix Finally Explains Why It Recommends Titles That Seem to Have Nothing in Common // Quartz, August 22, 2017.

104

Adomavicius G., Bockstedt J. C., Curley S. P., Zhang J. Effects of Online Recommendations on Consumers’ Willingness to Pay // Information Systems Research, 2017.

105

Сайт для поиска в выбранном районе компаний, предоставляющих различные услуги, например ресторанов, салонов красоты. Позволяет просматривать и добавлять рейтинги и обзоры услуг. Прим. перев.

106

Sandvig C. Corrupt Personalization // Social Media Collective, June 26, 2014.

107

Lohr S. Sure, Big Data Is Great. But So Is Intuition // The New York Times, December 29, 2012.

108

Kantrowitz A. Facebook Is Still Prioritizing Scale over Safety // BuzzFeed News, December 17, 2019.

109

Roth C. Algorithmic Distortion of Informational Landscapes // Intellectica, 2019.

110

Smith B., Linden G. Two Decades of Recommender Systems at Amazon.com // IEEE Computer Society, 2017.

111

Дизайн без помех (можно назвать его «гладкий» дизайн, дизайн без «трения») — это разработка интерфейса (или продукта), при взаимодействии с которым от пользователя не требуется больших усилий, чтобы решить стоящую перед ним задачу или достичь необходимой цели. Прим. ред.

112

Mulligan B. Reduce Friction, Increase Happiness // TechCrunch, October 16, 2011.

113

Darwell B. Facebook’s Frictionless Sharing Mistake // Adweek, January 22, 2013.

114

Bezos J. 2018 Letter to Shareholders // Amazon.com, 2018.

115

Jenkins A. “Why Uber Doesn’t Want a Built-In Tipping Option,” Fortune, April 18, 2017.

116

Wu T. The Tyranny of Convenience // The New York Times, February 16, 2018.

117

New York Slimes — пренебрежительное наименование газеты The New York Times (slimes — подонки). Прим. перев.

118

RSS (от Really Simple Syndication — простой сбор информации) — семейство форматов XML, предназначенных для описания новостных лент, изменений в блогах, анонсов новых статей на сайте и т. д. RSS-агрегаторами называют клиентские программы или веб-приложения для сбора постов из экспортирующих в форматы RSS источников в автоматическом режиме. Прим. ред.

119

2^60 байт. Прим. ред.

120

Смит А. Исследование о природе и причинах богатства народов. М.: Эксмо, 2016.

121

Snub — относиться с пренебрежением; унижать (англ.). Прим. перев.

122

Turkle S. Reclaiming Conversation: The Power of Talk in a Digital Age. New York: Penguin, 2015.

123

Dwyer R. J., Kushlev K., Dunn E. W. Smartphone Use Undermines Enjoyment of Face-to-Face Social Interactions // Journal of Experimental Social Psychology, September 2018.

124

Verduyn P. et al. Passive Facebook Usage Undermines Affective Well-Being: Experimental and Longitudinal Evidence // Journal of Experimental Psychology (2015); Burke M., Kraut R. E. The Relationship Between Facebook Use and Well-Being Depends on Communication Type and Tie Strength // Journal of Computer-Mediated Communication, 2015.

125

Roose K. Do Not Disturb: How I Ditched My Phone and Unbroke My Brain // The New York Times, February 23, 2019.

126

Издана на русском языке: Прайс К. Оторвись от телефона! Как построить здоровые отношения со смартфоном. М.: Манн, Иванов и Фербер, 2020. Прим. ред.

127

Wilson T. D. et al. Just Think: The Challenges of the Disengaged Mind // Science, 2014.

128

Курица с пармезаном (англ.). Правильное написание — parmesan. Прим. перев.

129

Odell J. How to Do Nothing: Resisting the Attention Economy. New York: Melville House, 2019.

130

Murai S. Hands-on Toyota Exec Passes Down Monozukuri Spirit // Japan Times, April 15, 2018.

131

Популярное американское ток-шоу. Прим. перев.

132

The Automation Jobless // Time, February 24, 1961.

133

Wartzman R. The First Time America Freaked Out over Automation // Politico, May 30, 2017.

134

Toyota’s ‘Oyaji’ Kawai Calls to Protect Monozukuri // Toyota News, June 17, 2020.

135

Тейлор Ф. У. Принципы научного менеджмента. М.: Контроллинг, 1991.

136

Fraser T. I Spent a Week Living Like Gary Vaynerchuk // Vice, December 17, 2018.

137

Clifford C. Elon Musk on Working 120 Hours in a Week: ‘However Hard It Was for [the Team], I Would Make It Worse for Me’ // CNBC, December 10, 2018.

138

Chafkin M. Yahoo’s Marissa Mayer on Selling a Company While Trying to Turn It Around // Bloomberg Businessweek, August 4, 2016.

139

Тип А — один из двух типов личности по одной из систем. Люди типа А организованны, амбициозны, нетерпеливы, склонны четко планировать свое время. Прим. перев.

140

Thompson D. Workism Is Making Americans Miserable // The Atlantic, February 24, 2019.

141

Американский народный герой, темнокожий железнодорожный рабочий. По легенде, состязался в работе с паровой бурильной машиной и победил, но тут же умер: не выдержало сердце. Прим. перев.

142

Yann LeCun — Power & Limits of Deep Learning // youtube.com/watch?v=0tEhw5t6rhc. По состоянию на март 2021 г.

143

Wirtz D., Kruger J., Altermatt W., Van Boven L. The Effort Heuristic // Journal of Experimental Social Psychology, 2004.

144

Waytz A. The Power of Human: How Our Shared Humanity Can Help Us Create a Better World. New York: W. W. Norton, 2019.

145

Gray K. The Power of Good Intentions: Perceived Benevolence Soothes Pain, Increases Pleasure, and Improves Taste // Social Psychological and Personality Science, 2012.

146

Lee T. B. Automation Is Making Human Labor More Valuable Than Ever // Vox, September 26, 2016.

147

Fleishman G. How Facebook Devalued the Birthday // Fast Company, April 6, 2018.

148

Пайн Б. Дж., Гилмор Дж. Х. Экономика впечатлений. Как превратить покупку в захватывающее действие. М.: Альпина Паблишер, 2020.

149

Одна из крупнейших в США сетей гипермаркетов бытовой электроники. Прим. перев.

150

Roose K. Best Buy’s Secrets for Thriving in the Amazon Age // The New York Times, September 18, 2017.

151

Wallace H. This Ceramics Company Had a Cult Following but No Money. Then, 2 New Owners Brought It Back from the Brink // Inc., July/August 2019.

152

Brooks K. J. Why Automation Could Hit Black Workers Harder Than Other Groups // CBS News, October 10, 2019.

153

Welch C. Google Just Gave a Stunning Demo of Assistant Making an Actual Phone Call // The Verge, May 8, 2018.

154

Google Duplex is the most incredible. Tweet @chrismessina, May 8, 2018.

155

Postmates — американская служба доставки заказов из ресторанов, кафе и пр. Принадлежит компании Uber. Прим. перев.

156

Форд М. Роботы наступают. Развитие технологий и будущее без работы. М.: Альпина нон-фикшн, 2019.

157

Gawande A. Why Doctors Hate Their Computers // The New Yorker, November 12, 2018.

158

Silverman E. Our Hospital’s New Software Frets About My ‘Deficiencies’ // The New York Times, November 1, 2019.

159

DesRoches C. M. et al. Electronic Health Records in Ambulatory Care — A National Survey of Physicians // New England Journal of Medicine, 2008.

160

Guilford G. GM’s Decline Truly Began with Its Quest to Turn People into Machines // Quartz, December 30, 2018.

161

Herman P. In the Heart of the Heart of the Country: The Strike at Lordstown. Greenwich, Conn.: Fawcett, 1975.

162

Kremen B. Lordstown — Searching for a Better Way of Work // The New York Times, September 9, 1973.

163

Salpukas A. Workers Increasingly Rebel Against Boredom on Assembly Line // The New York Times, April 2, 1972.

164

Gartner Survey Reveals 82% of Company Leaders Plan to Allow Employees to Work Remotely Some of the Time // Gartner, July 14, 2020.

165

Stankiewicz K. Adobe CEO Says Offices Provide Some Boost to Productivity That Remote Work Lacks // CNBC, August 11, 2020.

166

Flint J. Netflix’s Reed Hastings Deems Remote Work ‘a Pure Negative’ // The Wall Street Journal, September 7, 2020.

167

Useem J. When Working from Home Doesn’t Work // The Atlantic, November 2017; Lee K., Brownstein J. S., Mills R. G., Kohane I. S. Does Collocation Inform the Impact of Collaboration? // PLoS ONE, 2010.

168

Allen T. D., Golden T. D., Shockley K. M. How Effective Is Telecommuting? Assessing the Status of Our Scientific Findings // Psychological Science in the Public Interest, 2015.

169

Henn S. ‘Serendipitous Interaction’ Key to Tech Firms’ Workplace Design // NPR, March 13, 2013.

170

Sijbrandij S. ‘Virtual Coffee Breaks’ Encourage Remote Workers to Interact Like They Would in an Office // Quartz, December 6, 2017.

171

Johnson B. How Well Do You Really Know Your Coworkers? A Virtual Company Shares All // Seeq Culture Blog, May 15, 2018.

172

Mullenweg M. The Importance of Meeting In-Person // Unlucky in Cards (blog), October 16, 2018.

173

Padilla M. Facebook Apologizes for Vulgar Translation of Chinese Leader’s Name // The New York Times, January 18, 2020.

174

Chicago Cubs — американский профессиональный бейсбольный клуб. Прим. перев.

175

Limer E. Amazon Blocks the Sale of Gross, Auto-Generated ‘Keep Calm and Rape Her’ Shirts // Gizmodo, March 2, 2013.

176

Libert B., Beck M., Davenport T. H. Self-Driving Companies Are Coming // MIT Sloan Management Review, August 29, 2019.

177

Странности ИИ (англ.). Прим. перев.

178

Клички из списка звучат странно, большинство из них не имеет смысла. Те, что соответствуют реальным словам английского языка, кажутся абсурдными: Пикл (Pickle) — в переводе «рассол», Сноупай (Snowpie) — снежный пирог, Биг Уигги Бул (Big Wiggy Bool) — большой эксцентричный бул (под последним словом машина, возможно, подразумевала мяч (ball) или быка (bull)). Прим. перев.

179

Shane J. You Look Like a Thing and I Love You. New York: Headline, 2019.

180

Popper N. Knight Capital Says Trading Glitch Cost It $440 Million // The New York Times, August 2, 2012.

181

Американская телеигра. На российском телевидении выходит аналог — «Своя игра». Прим. ред.

182

Ross C., Swetlitz I. IBM’s Watson Supercomputer Recommended ‘Unsafe and Incorrect’ Cancer Treatments, Internal Documents Show // Stat, July 25, 2018.

183

Richardson R., Schultz J. M., Crawford K. Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice // New York University Law Review, Online Feature, 2019.

184

Angwin J., Larson J., Mattu S., Kirchner L. Machine Bias // ProPublica, May 23, 2016.

185

Форд М. Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей. СПб.: Питер, 2020.

186

Hull D. Musk Says Excessive Automation Was ‘My Mistake’ // Bloomberg, April 13, 2018.

187

Allen J. R., West D. M. Turning Point: Policymaking in the Era of Artificial Intelligence. Washington, D. C.: Brookings Institution Press, 2020.

188

Booker, Wyden, Clarke Introduce Bill Requiring Companies to Target Bias in Corporate Algorithms // Senator Booker’s official site, April 10, 2019.

189

Chicago Police Drop Clearview Facial Recognition Technology // Associated Press, May 29, 2020.

190

Winick E. This Company Audits Algorithms to See How Biased They Are // MIT Technology Review, May 9, 2018.

191

Roose K. The Life, Death, and Rebirth of BlackBerry’s Hometown // Fusion, February 8, 2015.

192

Меннониты — последователи протестантского течения, основанного голландцем Менно Симонсом. Прим. перев.

193

Schodt F. L. Inside the Robot Kingdom: Japan, Mechatronics, and the Coming Robotopia. New York: Harper & Row, 1988.

194

Goodman P. S. The Robots Are Coming, and Sweden Is Fine // The New York Times, December 27, 2017.

195

Rubin R. The Robot Tax Debate Heats Up // The Wall Street Journal, January 8, 2020.

196

Towards a Reskilling Revolution: Industry-Led Action for the Future of Work // World Economic Forum, January 22, 2019.

197

Griffith E. Airbnb Was Like a Family. Until the Layoffs Started // The New York Times, July 17, 2020.

198

Fielding S. Accenture and Verizon Lead Collaborative Effort to Help Furloughed or Laid-Off Workers Find a New Job // Fortune, April 14, 2020.

199

Nye D. E. Electrifying America: Social Meaning of a New Technology. Cambridge, Mass.: MIT Press, 1990.

200

Англосаксонская эпическая поэма, действие которой происходит в Ютландии, до переселения англов в Британию. Названа по имени главного героя. Прим. ред.

201

Гоулман Д. Фокус. О внимании, рассеянности и жизненном успехе. М.: Corpus, 2017.

202

Xu M. et al. Mindfulness and Mind Wandering: The Protective Effects of Brief Meditation in Anxious Individuals // Consciousness and Cognition, 2017.

203

Харари Ю. Н. 21 урок для XXI века. М.: Синдбад, 2019.

204

Hersey T. Listen: You Are Worthy of Sleep // Social Distance podcast, April 30, 2020.

205

Killgore W. D. S. et al. The Effects of 53 Hours of Sleep Deprivation on Moral Judgment // Sleep, 2007; Killgore W. D. S. et al. Sleep Deprivation Reduces Perceived Emotional Intelligence and Constructive Thinking Skills // Sleep Medicine, 2007; Harrison Y., Horne J. A. Sleep Deprivation Affects Speech // Sleep, 2010.

206

Tanaka A., Sutton T. Significant Changes to Japan’s Labor Laws Will Take Effect in April 2019: Are You Prepared? // Littler, February 12, 2019.

207

Petroff A., Cornevin O. France Gives Workers ‘Right to Disconnect’ from Office Email // CNN, January 2, 2017.

208

Baglione J. M. Countering College’s Culture of Sleeplessness // Harvard Gazette, August 24, 2018.

209

McGrew S. et al. Can Students Evaluate Online Sources? Learning from Assessments of Civic Online Reasoning // Theory & Research in Social Education, 2018.

210

Chokshi N. Older People Shared Fake News on Facebook More Than Others in 2016 Race, Study Says // The New York Times, January 10, 2019.

211

Bulger M., Davison P. The Promises, Challenges, and Futures of Media Literacy // Journal of Media Literacy Education, 2018.

212

«Аналоговый» здесь используется как противопоставление «цифровому» — несовременный, но, оказывается, отнюдь не устаревший. Прим. перев.

213

Chen F. Humanity + AI: Better Together // Andreessen Horowitz (blog), February 22, 2019.

214

Jones D. E., Greenberg M., Crowley M. Early Social-Emotional Functioning and Public Health: The Relationship Between Kindergarten Social Competence and Future Wellness // American Journal of Public Health, 2015.

215

Taylor R. D., Oberle E., Durlak J. A., Weissberg R. P. Promoting Positive Youth Development Through School-Based Social and Emotional Learning Interventions: A Meta-Analysis of Follow-Up Effects // Child Development, 2017.

216

The Daily podcast. Jack Dorsey on Twitter’s Mistakes // The New York Times, August 7, 2020.

217

Hudson E. An Inside Look at the ‘Not Secretive but Modestly Discrete’ Iron Ring Ritual for Canadian Trained-Engineers // The Sheaf, January 10, 2013.

218

Торо, Генри Д. Уолден, или Жизнь в лесу. М.: Рипол Классик, 2018. Прим. ред.

219

Торо Г. Д. Уолден, или Жизнь в лесу / пер. З. Александровой. М.: Рипол Классик, 2018.

220

Giaimo C. Sarah Bagley, the Voice of America’s Early Women’s Labor Movement // Atlas Obscura, March 8, 2017.

221

Dray P. There Is Power in a Union: The Epic Story of Labor in America. New York: Anchor Books, 2011.

222

Shetterly M. L. Hidden Figures: The American Dream and the Untold Story of the Black Women Mathematicians Who Helped Win the Space Race. New York: William Morrow, 2016.

223

Taylor V. This Founder Is Using Technology to Clear Criminal Records // Afrotech, February 22, 2019.

224

Roose K. The 2018 Good Tech Awards // The New York Times, December 21, 2018.

225

Имеется в виду глава 7 раздела 11 («Банкротство») Кодекса США. Регулирует процесс ликвидации имущества. Прим. перев.

226

Roose K. The 2019 Good Tech Awards // The New York Times, December 30, 2019.

227

Costanza-Chock S. Design Justice: Community-Led Practices to Build the Worlds We Need. Boston: MIT Press, 2020.

228

Kauffman S. The Origins of Order: Self-Organization and Selection in Evolution. New York: Oxford University Press, 1993.

229

Stern M. B. We the Women: Career Firsts of Nineteenth-Century America. Lincoln, Neb.: Bison Books, 1994.

Content

Кевин Руз
Устойчивы к будущему. 9 правил для людей в эпоху машин

Эту книгу хорошо дополняют:

Информация от издательства

Предисловие к российскому изданию

Введение

Часть I. Машины

Глава 1. Рождение недооптимиста

Глава 2. Миф о работе, которой не страшны роботы

Глава 3. Как на самом деле нас вытесняют машины

Глава 4. Алгоритм-менеджер

Глава 5. Остерегайтесь скучных ботов

Часть II. Правила

Правило 1. Будь неожиданным, социальным и исключительным

Правило 2. Сопротивляйся машинному дрейфу

Правило 3. Не давай гаджетам руководить

Правило 4. Оставляй рукотворные отпечатки

Правило 5. Не будь конечной точкой

Правило 6. Обращайся с ИИ как с армией обезьянок

Правило 7. Создавай большие и маленькие сети

Правило 8. Развивай ключевые навыки будущего

Правило 9. Вооружай бунтарей

Приложение. План неуязвимости для будущего

Список литературы

Благодарности

Об авторе

МИФ Бизнес

Над книгой работали

Примечания