Кай-Фу Ли, Чэнь Цюфань

ИИ-2041. Десять образов нашего будущего

Информация от издательства

Оригинальное название

AI 2041. Ten visions of our future

На русском языке публикуется впервые

Научный редактор Михаил Бурцев

Ли, Кай-Фу

ИИ-2041. Десять образов нашего будущего / Кай-Фу Ли, Чэнь Цюфань; пер. с англ. О. Медведь, А. Лаировой; науч. ред. М. Бурцев. — Москва: Манн, Иванов и Фербер, 2022. — (Технологии будущего).

ISBN 978-5-00195-171-1

Все права защищены.

Никакая часть данной книги не может быть воспроизведена в какой бы то ни было форме без письменного разрешения владельцев авторских прав.

В тексте неоднократно упоминаются названия социальных сетей, принадлежащих Meta Platforms Inc., признанной экстремистской организацией на территории РФ.

© Copyright © 2021 by Kai-Fu Lee and Chen Qiufan. This translation published by arrangement with Currency, an imprint of Random House, a division of Random House LLC and with Synopsis Literary Agency.

© Перевод на русский язык, издание на русском языке, оформление. ООО «Манн, Иванов и Фербер», 2022

Что нам нужно, так это машина, способная учиться на собственном опыте.

Алан Тьюринг

Любую достаточно развитую технологию не отличить от магии.

Артур Ч. Кларк

Вступление Кай-Фу Ли. Реальная история искусственного интеллекта

Искусственный интеллект (ИИ) — это так называемое умное аппаратное и программное обеспечение. Оно способно выполнять задачи, для решения которых обычно требуется участие человеческого разума. ИИ — это разъяснение процесса обучения, количественное выражение человеческого мыслительного процесса, объяснение человеческого поведения и понимание причин существования интеллекта как такового. ИИ — это заключительный шаг человечества на пути к пониманию самого себя, и я очень надеюсь внести свой вклад в эту новую многообещающую науку.

Это написал я, наивный и восторженный студент, в заявке на участие в программе докторантуры в Университете Карнеги — Меллона. С того дня прошло почти 40 лет.

Термин «искусственный интеллект» предложил американский ученый Джон Маккарти еще раньше, в 1956 году, во время исторического Дартмутского летнего исследовательского проекта по искусственному интеллекту[1].

Сегодня многие считают искусственный интеллект типичной технологией XXI века, однако его концепция возникла в середине века двадцатого, правда, тогда мало кого заинтересовала. Первые 35 лет моего путешествия в область ИИ ограничивались практически чистой наукой, исключение составили пара-тройка успешных коммерческих адаптаций.

Долгие годы практическое применение ИИ пробуксовывало, но в последние пять лет он превратился в самую популярную технологию в мире. Все перевернулось в один момент — в 2016 году компьютерная программа для игры в го AlphaGo (создана в компании Google DeepMind[2]) со счетом 4: 1 обыграла в пятираундовом чемпионате южнокорейского профессионала 9-го дана Ли Седоля[3]. Матч вошел в историю как Google DeepMind Challenge Match.

Го — это настольная игра, сложнее шахмат в миллион триллионов квадриллионов раз. Энтузиасты-фанаты го считают, что, в отличие от шахмат, эта игра требует подлинного ума, мудрости и интеллектуальной дзен-утонченности. Так что победа искусственного интеллекта над чемпионом-человеком при игре в го многих повергла в шок.

AlphaGo, как и большинство коммерческих прорывов в области ИИ, основана на глубоком обучении, технологии самообучения системы с использованием датасетов (огромных наборов данных). Технологию придумали много лет назад, но вычислительные мощности для наглядной демонстрации ее эффективности появились относительно недавно. Примерно тогда же накопилось достаточное количество обучающих данных, что позволило получить значимые результаты.

Если сравнить с ситуацией сорокалетней давности, когда я только начал заниматься ИИ, сегодня в нашем распоряжении примерно в триллион раз больше вычислительных мощностей, а хранение необходимых данных обходится в 15 миллионов раз дешевле. Словом, тенденция очевидна и сомневаться не приходится — глубокое обучение и связанные с ним ИИ-технологии со временем затронут практически все аспекты существования человечества.

Сейчас мы переживаем переломный момент в развитии ИИ. Искусственный интеллект наконец-то покинул башню из слоновой кости и перестал быть исключительно научной концепцией. Дни неспешного прогресса окончились.

За последние пять лет ИИ не только победил чемпионов-людей в го, покер и Dota 2[4], но и развился настолько, что через четыре часа обучения шахматам его не одолеть никакому гроссмейстеру. Но ИИ, конечно же, хорош не только в играх.

Над загадкой сворачивания белка биологи всего мира бились на протяжении полувека — ИИ разгадал ее в 2020 году. Он превзошел нас в деле распознавания речи и объектов; преподнес нам «цифровых людей» потрясающей реалистичности — как по внешнему виду, так и по умению говорить; умудрился успешно сдать вступительные экзамены в колледж и «получил» медицинскую лицензию.

ИИ решительно обходит судей по справедливости и логичности вынесенных приговоров, врачей-радиологов — в точности диагностики рака легких. ИИ чрезвычайно эффективно используется в беспилотниках, которым суждено изменить будущее доставки товаров, а также сельского хозяйства и военного дела. И наконец, благодаря ИИ автомобили без водителя могут ездить по скоростным трассам — поездки в них безопаснее, чем с шоферами-людьми.

Что же нам сулит дальнейшее развитие ИИ и применение этой замечательной технологии в новых областях?

В книге «Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок»[5] я писал о разрастании данных — этой «новой нефти», «топливе», на котором работает искусственный интеллект.

Сегодня революцию в области ИИ возглавляют США и Китай. Соединенные Штаты лидируют в исследованиях, Китай с огромной скоростью использует всё большие массивы данных для практического применения технологий ИИ во всей Поднебесной. В предыдущей книге в 2018 году я прогнозировал новые достижения — от принятия важных решений на основе массивов данных до машинного восприятия[6] и автономных роботов самых разнообразных видов и специализаций, в том числе упомянутого выше автономного (беспилотного) транспорта.

Четыре волны применения ИИ-технологий, повлиявшие практически на все отрасли

Я предсказывал, что новые способы применения ИИ-технологий приведут к беспрецедентному росту экономической ценности в цифровой, финансовой и транспортной отраслях и в сфере розничной торговли, однако создадут проблемы, связанные, к примеру, с массовым сокращением рабочих мест. ИИ представляет собой универсальную технологию, поэтому со временем она проникнет практически во все отрасли и области деятельности.

К сегодняшнему дню влияние ИИ на жизнь человечества проявилось четырьмя последовательными волнами: сначала в сфере интернета; затем в бизнесе (область финансовых услуг), далее в сфере восприятия (вспомните о концепции умного города) и, наконец, в автономных приложениях, таких как беспилотные автомобили.

К тому времени, когда вы будете читать эту книгу (в конце 2021 года или даже позже), многие прогнозы из моей предыдущей книги, скорее всего, уже подтвердятся. Так что теперь устремим взор вперед. Я много путешествую, рассказываю об искусственном интеллекте в разных уголках мира, и меня постоянно спрашивают: «А что же дальше? Что будет через пять, десять, двадцать лет? К чему готовиться человечеству?»

Это чрезвычайно важные для текущего исторического момента вопросы. У всех, кто связан со сферой высоких технологий, есть на этот счет собственное мнение. Некоторые убеждены, что мы находимся в эпицентре «пузыря ИИ» — он со временем лопнет или как минимум сдуется.

Сторонники более радикальных и антиутопических теорий, вообще склонные верить во что угодно, полагают: реальна любая идея. Разброс — от «ИИ-гиганты “захватят наш разум” и сформируют новую утопическую расу киборгов-машинолюдей» до «коварный ИИ доведет нас до апокалипсиса». Подобные гипотезы порождены живой и искренней любознательностью или вполне оправданным страхом перед будущим. Однако все они, как правило, спекулятивны или как минимум сильно преувеличивают опасность. И все они совершенно точно не формируют полной картины.

Имеющиеся гипотезы и теории сильно разнятся: ИИ — явление чрезвычайно сложное и малоизученное. Пытаясь понять, что же он такое, люди, как правило, используют три источника — научную фантастику, новостные ленты и «лидеров мнений».

В фантастических книгах и сериалах часто присутствуют роботы, которые вдруг начинают управлять людьми и контролировать их, или как минимум стараются объегорить двуногих; суперинтеллект же зачастую вообще предстает в виде вселенского зла.

Медиа обычно ярко и подробно описывают отдельные негативные примеры: взахлеб рассказывают, как беспилотный автомобиль сбил пешеходов, как технологические компании с помощью ИИ подтасовывают результаты политических выборов, как злодеи используют искусственный интеллект для распространения дезинформации и фейков. Техническому прогрессу как таковому внимания уделяют мало, если только он не приводит к каким-то выдающимся результатам.

Наилучшим вариантом может показаться доверие в данном вопросе лидерам мнений и популярным авторам из соцетей. Однако большинство из них если и являются экспертами, то в какой угодно области — в бизнесе, физике или политике, но только не в ИИ-технологиях. Так что с виду весомым и аргументированным прогнозам на деле нередко недостает научности.

Ситуация усугубляется еще и тем, что журналисты, желая придать своим публикациям веса и убедительности, а заодно привлечь внимание аудитории, частенько цитируют эти «интернет-источники», да еще и вырывают слова автора из контекста.

Словом, удивляться тому, что люди относятся к ИИ настороженно, а то и негативно, не приходится — мнение даже самых думающих и стремящихся быть объективными основано в лучшем случае на полуправде.

Разумеется, многие аспекты дальнейшего развития искусственного интеллекта заслуживают пристального внимания и максимальной осторожности, но чрезвычайно важно уравновесить возможные проблемы пониманием полной картины и великого потенциала ИИ.

Как большинство технологий в мире, искусственный интеллект не является ни добром, ни злом. Как большая часть новых технологий, он в конечном счете окажет на нашу цивилизацию скорее позитивное, чем негативное влияние.

На протяжении всей истории люди поначалу относились к новым технологиям с опаской: всегда казалось, что они нарушат статус-кво и породят хаос. Но сегодня никто не вспоминает, как неоднозначно поначалу воспринималось электричество, мобильные телефоны и интернет — они удобны, это очевидно и сегодня даже не обсуждается. Технологии со временем органично вплетались в ткань жизни, существенно ее улучшали — и страхи рассеивались.

По моему убеждению, уже есть (и еще найдется) немало областей применения ИИ. Также возможно немало сценариев, в которых он имеет шанс существенно улучшить наше общество. Прежде всего это чисто экономическая выгода. По оценкам PricewaterhouseCoopers, к 2030 году она составит 15,7 триллиона долларов — это, конечно же, здорово поможет в борьбе с голодом и бедностью.

Новые эффективные ИИ-сервисы вернут нам самый ценный ресурс — время. Искусственный интеллект возьмет на себя однообразные повседневные задачи, освободив нас для более творческой или сложной работы.

Люди, наконец, начнут работать в симбиозе с ИИ: он станет выполнять количественный анализ, оптимизацию и рутинные задания, а мы, люди, сосредоточимся на креативности, критическом мышлении и страсти. Наша продуктивность резко возрастет, а это позволит человеку полнее реализовывать свой потенциал. Словом, вероятный вклад ИИ в будущий прогресс человечества необходимо исследовать так же глубоко и всесторонне, как и связанные с этой технологией проблемы.

Мы сегодня очутились внутри своего рода петли обратной негативной связи, нам важно понять: а что будет дальше? И я решил написать еще одну книгу об искусственном интеллекте, на этот раз несколько расширив горизонты. Я попытался представить себе и описать будущее нашего мира и общества через 20 лет, то есть в 2041 году.

Моя цель — составить «реальную» потенциальную историю ИИ, откровенную и сбалансированную, но в то же время конструктивную и с надеждами на лучшее. Обратите внимание: эта книга основана на реальном представлении об ИИ — в ней идет речь либо о существующих технологиях, либо о тех, появления и вызревания которых вполне обоснованно ожидать в течение следующих двух десятков лет.

Если еще точнее, истории, вошедшие в эту книгу, рисуют портрет нашего мира в 2041 году. Мир этот будет основан на технологиях, вероятность появления которых к тому времени составляет не менее 80 процентов. Конечно, я могу переоценить или недооценить некоторые из них, но, по-моему, книга представляет собой набор ответственных и максимально вероятных сценариев.

Что же вселяет в меня такую уверенность? Последние сорок лет я занимался исследованиями в области ИИ и разработкой продуктов в Apple, Microsoft и Google и инвестировал в новые технологии три миллиарда долларов. Так что некоторый опыт работы с процессами, необходимыми для превращения технологии из темы для научной статьи в универсальный продукт, у меня имеется. Я также в состоянии приблизительно оценить, сколько времени для этого потребуется.

Будучи советником разных правительств по стратегическим вопросам развития ИИ, я могу делать прогнозы, основанные на знаниях в области политики и нормативно-правовой базы. Я старательно избегаю любых спекулятивных прогнозов относительно фундаментальных технологических прорывов и полагаюсь в основном на экстраполяцию на будущее уже существующих технологий.

На сегодня ИИ проник менее чем в 10 процентов наших отраслей, у нас масса шансов представить себе будущее с учетом применения этой технологии в новых сферах. Я убежден: ИИ окажет на наше общество огромное влияние, даже если серьезных прорывов будет совсем мало, а то и не случится вовсе. Эта книга — мое официальное письменное заявление.

Мне не раз говорили: моя предыдущая книга оказала большое влияние на читателей, она понятна даже тем, кто практически ничего не знает об ИИ. Приступая к работе над новой книгой, я решил рассказать об ИИ еще более понятно и увлекательно, обратившись к помощи хорошего рассказчика. Я связался со своим бывшим коллегой по Google Чэнем Цюфанем.

Уйдя из Google, я основал собственную венчурную компанию, а этот парень сделал нечто еще более авантюрное — стал писателем-фантастом. Его произведения заметили и даже отметили престижными наградами. К моему великому восторгу, Чэнь согласился поработать вместе, объединить свой творческий потенциал с моими оценками того, какими будут технологии через двадцать лет.

И мы решили, что попробуем представить возможности ИИ через два десятка лет и встроим свои обоснованные фантазии в истории — должно получиться нечто весьма увлекательное. Ведь привлечь и увлечь читателя можно не только телепортацией и инопланетянами!

Скажу без ложной скромности: наш подход к работе над этой книгой уникален. Для начала я составил «технологическую карту», отобразив, когда созреет та или иная технология, сколько времени потребуется на сбор данных и итерацию ИИ, насколько легко будет разработать соответствующий продукт в разных отраслях.

Я учел всевозможные внешние факторы: проблемы, регламенты, тормозящие моменты, а также достойные упоминания конфликты и дилеммы, которые могут возникнуть попутно с появлением этих технологий. Затем, отталкиваясь от чисто технарского компонента, Чэнь проявил свой писательский талант во всей красе — придумал персонажей, обстановку и сюжетные линии и воплотил их в своих рассказах.

Каждый эпизод мы постарались сделать максимально увлекательным, технологически точным и провокационным. После каждой истории Чэня вы сможете прочесть ее экспертный анализ — я углубляюсь в описанную в рассказе форму ИИ и детально объясняю ее значение для жизни человека и общества.

Созданные таким образом десять рассказов с послесловиями-анализом охватывают все ключевые аспекты ИИ и выстроены в книге в определенном порядке — от самых простых, базовых технологий к наиболее сложным и продвинутым. Мы надеемся, что отдельные части нашей книги составят что-то вроде уникального и понятного букваря по ИИ.

Мы с Чэнем назвали книгу «ИИ-2041», потому что с момента ее первой публикации[7] именно в 2041 году пройдет двадцать лет. Мы выбрали этот год еще и потому, что начертание цифр 41 немного напоминает английскую аббревиатуру AI (artificial intelligence — «искусственный интеллект», ИИ).

Многие читатели наверняка обожают научную фантастику, но я отдаю себе отчет: тех, кто после окончания колледжа ни разу не взял в руки ни романа, ни сборника рассказов, тоже немало. Не беда — если вы из этого лагеря, отнеситесь к нашей книге не как к научной фантастике, а как к «научным фактам в форме беллетристики».

Действие рассказов происходит в разных местах планеты. В некоторых сюжетах вы без труда узнаете мир, который не слишком отличается от вашего собственного, — в них описаны события, основанные на реально существующих традициях и обычаях. В других историях описаны ситуации радикального вмешательства ИИ в человеческую жизнь, не всегда позитивного. Так что и адептам ИИ, и скептикам наша книга подкинет пищи для размышлений.

Создавая научный труд с заметной художественной частью, мы рисковали гораздо сильнее, чем если бы просто написали научно-популярную книгу, — описали настоящее и задали вопросы о будущем. Мы с Цюфанем постарались быть смелыми — мы верим, что наши истории найдут отклик у каждого непредубежденного читателя с фантазий и воображением. Мы надеемся, их окажется достаточно, чтобы заставить задуматься о будущем человечества.

В первых семи рассказах мы описали применение ИИ в различных отраслях и сферах по мере возрастания его технологической сложности, а также социально-этические последствия этого процесса. Последние три истории (плюс глава 6 «Святой возница») больше сконцентрированы на социальных и геополитических проблемах, связанных с ИИ: сокращении и исчезновении традиционных рабочих мест, беспрецедентном изобилии, дальнейшем расслоении общества, гонке автономных вооружений, компромиссе между приватностью и счастьем и стремлении человека к высшей цели.

Человечество ждут большие и глубокие изменения. Люди могут принять их и использовать во благо или во зло, смиренно капитулировать перед ними или вдохновиться и заново обрести себя.

В последних четырех историях мы привели четыре возможных варианта и разных пути развития событий. Мы хотели подчеркнуть: будущее еще не написано.

Мы искренне надеемся: наши истории не только развлекут вас, но и углубят понимание ИИ и проблем, связанных с этой замечательной технологией. Мы также рассчитываем, что представленная в книге дорожная карта на ближайшие два десятилетия поможет вам подготовиться к благоприятным возможностям и эффективному противостоянию вызовам будущего.

Но больше всего нам хочется получить от вас подтверждение, что эти истории придали вам сил. Мы надеемся, вы убедились: люди — хозяева своей судьбы, все зависит от нас и никакая техническая революция этого не изменит.

А теперь — вперед, в 2041 год!

Вступление Чэня Цюфаня. Как нам перестать тревожиться и научиться смотреть в будущее с фантазией?

В лондонском центре искусств «Барбикан» в августе 2019 года я наткнулся на выставку «ИИ: больше чем человек» — и, конечно же, зашел. Увиденное подействовало на меня как освежающая летняя гроза — будто бы даже облегчила дыхание, прочистила чувства и развеяла множество предубеждений и заблуждений в отношении искусственного интеллекта.

Незамысловатое название выставки приятно обмануло — оно и близко не дало представления о реальном разнообразии и богатстве экспозиции. В каждом следующем зале меня поджидали новые чудеса — они охватывали идеи кураторов о том, что же такое ИИ.

В залах посетителей встречали Голем, мифическое существо из еврейского фольклора; миляга Дораэмон, герой японских аниме; инсталляции, посвященные экспериментам Чарльза Бэббиджа, праотца информатики; AlphaGo, компьютерная программа, бросившая вызов фундаментальному человеческому интеллекту; подборка экспонатов, посвященная анализу гендерной предвзятости в компьютерных программах для распознавания лиц, на которое обратила внимание Джой Буоламвини; масштабные произведения интерактивного цифрового искусства TeamLab[8], проникнутые синтоистской философией и эстетикой. Выставка оказалась великолепным, расширяющим сознание напоминанием о великой силе междисциплинарного мышления.

Закон Амары гласит: «Люди склонны переоценивать эффект технологии в краткосрочной перспективе и недооценивать — в долгосрочной». Большинство и правда представляет себе ИИ максимально узко: робот-убийца из «Терминатора»; недоделанные алгоритмы, которым никогда не сравниться в творческом остроумии с человеком, но которые угрожают его существованию; многочисленные бездушные технологии обмениваются эмоциями и исследуют возможности жизни, не имея ни малейшего понятия о том, как их воспринимают люди.

Как показывают разнообразные легенды и мифы (от древнекитайского ремесленника Янь Ши, создавшего гуманоидных роботов, до бронзового витязя, человекообразного великана-робота Талоса из греческой мифологии), тема искусственного интеллекта занимает людей на протяжении всей мировой истории. Началось это задолго до того, как возникла информатика как область знаний, а в наш лексикон вошла аббревиатура ИИ.

С течением времени непреодолимая сила ИИ произвела революцию во всех измерениях человеческой цивилизации, и это, поверьте, только начало.

Надо сказать, научная фантастика, дело моей жизни, играет в исследовании парадигмы «человек-машина» довольно деликатную роль. Роман «Франкенштейн»[9] (его часто называют первым современным научно-фантастическим произведением) посвящен до сих пор актуальным вопросам: способен ли человек с помощью технологий создавать разумную жизнь, отличную от существующих на текущий момент форм? И если да, то как выглядят взаимоотношения между создателем и его творением? А ведь архетип безумного ученого, навязывающего миру страшный плод своих трудов, был представлен в шедевре Мэри Шелли два века назад!

Научную фантастику зачастую обвиняют в том, что она формирует у читателей узкий негативный взгляд, но это лишь часть реальной истории. Фантастика и вправду может оказаться предостережением, однако умозрительное, гипотетическое повествование обладает уникальной способностью преодолевать пространственно-временные ограничения, соединять технологии с гуманитарными науками, стирать границы между вымыслом и реальностью, пробуждать в читателе сочувствие и стимулировать более глубокие раздумья. Историк и автор бестселлеров Юваль Ной Харари назвал научную фантастику «важнейшим художественным жанром» нашего времени — это очень высокая планка, и ей нужно соответствовать.

Мы, писатели-фантасты, должны создавать истории, проявляющие неочевидную правду о нашей сегодняшней реальности. Но нам также важно обозначать еще более смелые и даже фантастические перспективы и возможности. Такова наша главная задача.

Когда бывший коллега из Google Кай-Фу Ли предложил мне присоединиться к его работе над уникальным книжным проектом, сочетающим научную фантастику с анализом перспективных концептуальных идей в области технологий, я пришел в восторг. Я знаю Кай-Фу как проницательного пионера, мирового лидера и инвестора, создателя трендов. Но он, кроме того, еще и творческий и непредубежденный пророк технологий грядущего. Его идеи о карьерном росте повлияли на целое поколение, а теперь он нацелился на будущее.

Вооружившись глубочайшим пониманием сути передовых исследований и способов их применения, Кай-Фу предложил описать, как в ближайшие двадцать лет ИИ может изменить человеческое общество в самых разных областях: от медицины и образования до индустрии развлечений, сферы занятости и финансов. Идея показалась мне интересной и амбициозной. Но тут следует упомянуть и некое магическое совпадение.

Несколько лет назад я предложил и развил в своих произведениях концепцию научно-фантастического реализма. Научная фантастика формирует творческое пространство, где эскапист может скрыться от унылой повседневной жизни, примерить на себя роль супергероя и исследовать далекие-предалекие галактики.

Но для меня главная ценность и увлекательность фантастики состоит еще и в драгоценной возможности отступить на время от повседневности, критически ее осмыслить. Более того, вглядываясь в будущее через призму научной фантастики, мы получаем шанс вмешаться, внести изменения в развитие событий и активно повлиять на реальность.

Чтобы создать будущее, нужно сначала представить его себе — живо и в деталях.

Главным движителем моего воображения в детстве стала классика научной фантастики — «Звездные войны», «Звездный путь» и «Космическая одиссея 2001 года»[10], с десяти лет они были моим порталом в неизведанные миры. Я убежден: прежде чем начинать писать, чрезвычайно важно определиться с жанром истории и с ее более широким социальным контекстом.

Как человек, глубоко увлеченный и даже одержимый научной фантастикой, я испытываю священный трепет перед шириной спектра этого жанра. В нем есть место практически любой теме или литературному стилю.

До того как начать зарабатывать на жизнь писательством, я трудился в сфере высоких технологий. Многие считают, что инженеры и компьютерщики мало интересуются беллетристикой — их мозг будто бы изначально заточен под науку, а не под художественную литературу. Однако за более чем десять лет в этой сфере я встретил множество технарей — великих поклонников научной фантастики, которые этого совершенно не стеснялись.

Их увлечение иногда проявлялось в названиях конференц-залов или переговорных вроде «Энтерпрайз» (отсылка к «Звездному пути») или «Нейромант»[11], но породить такие проекты, как Google X или Hyperloop[12], способны только могучие и незашоренные умы. Современные подводные лодки и лазерные пушки, мобильные телефоны и продукт генной инженерии — локусы бактерий CRISPR… Ученые честно признают, что на создание всего этого их вдохновила художественная литература. Так что наш мир действительно формируют фантазия и воображение.

Я сразу решил, что эта книга должна бросить вызов стереотипам пессимизма и антиутопичности литературы об ИИ, в которой технологическое будущее изображают на редкость безрадостным и мрачным. Мы с Кай-Фу постарались, не игнорируя недостатков и негативных нюансов ИИ, описать будущее, в котором основанные на искусственном интеллекте технологии позитивно влияют на людей и общество в целом.

Мы попытались представить будущее, в котором нам самим хотелось бы жить, и помочь его сформировать. Мы описали будущее, в котором последующие поколения смогут пользоваться великими преимуществами технического прогресса, будут привносить в этот мир еще большие достижения и смысл, станут жить долго и счастливо.

Создавать воображаемую картину будущего, нашей мечты, не всегда было легко. Мы стремились погрузиться в новейшие исследования ИИ, а затем с помощью науки и логики максимально реалистично спрогнозировать, каким будет ИИ через двадцать лет.

Кай-Фу и наша команда часами изучали свежие отчеты по исследованиям, беседовали с экспертами и мыслителями, связанными с ИИ-индустрией; мы приняли участие в семинаре по ИИ, организованном Всемирным экономическим форумом, посещали ведущие технологические компании, специализирующиеся на ИИ. Словом, мы хотели убедиться, что всесторонне и досконально понимаем технологические и философские основы искусственного интеллекта.

Перед нами был и еще один сложный вызов — представить себе будущее человечества. Ведь мы вознамерились рассказать, как люди из разных культур и отраслей, с разными идентичностями отреагируют на шок от развития ИИ. Психологические нюансы требуют большего, чем логика и рационализация. Чтобы создать как можно более полный эмоциональный портрет персонажей, мы обратились к истории и стали черпать вдохновение из радикально изменивших мир событий прошлого.

Мы понимали: надо максимально полно донести до читателей свое видение и свои чувства, стимулировать их воображение и способность осмысливать альтернативные условия человеческого существования. Поэтому наши истории должны вызывать эмоции, прежде всего сострадание. Для этого в каждую главу включен комментарий-анализ от Кай-Фу — он скрепляет парящего в эмпиреях воздушного змея фантазии с четкой и постижимой реальностью.

После месяцев интенсивной работы и многочисленных правок мы отобрали десять порталов, которые перенесут вас во время и пространство 2041 года. Мы надеемся, что вы отправитесь в это путешествие с любопытством, непредвзятостью и — непременно — с открытым сердцем.

И наконец, последнее: величайшая ценность научной фантастики не в том, чтобы давать ответы, а в том, чтобы задавать вопросы. Мы искренне надеемся: вы перевернете последнюю страницу, и в вашей голове продолжит крутиться множество вопросов.

Поможет ли ИИ людям предотвратить следующую пандемию, не позволив ей развиться? Как нам справиться с неминуемыми проблемами в сфере занятости населения? Как поддерживать культурное разнообразие в мире, если в нем доминируют машины? Как научить детей жить в обществе, где люди сосуществуют с роботами?

Мы рассчитываем, что ваши вопросы помогут нам всем продвинуться по пути построения более счастливого и светлого будущего.

Добро пожаловать в 2041 год!

Глава 1. Золотой слон

Лучше свой долг, бесталанно исполненный,

чем чужой, соблюденный превосходно.

«Бхагавадгита» (Песнь Божья, или Священное писание на хинди), глава 3, стих 35

РАССКАЗ ПЕРЕВЕДЕН БЛЭЙКОМ СТОУН-БЭНКСОМ[13]

Примечание Кай-Фу: Наш первый рассказ переносит читателя в Мумбаи. Семейство индийцев подписалось на программу страхования с поддержкой глубокого обучения, призванную через специальные приложения всячески улучшить жизнь застрахованных. Однако дочка-подросток вдруг понимает, что инструкции и рекомендации, данные искусственным интеллектом, нарушают ее личную жизнь и мешают найти любовь. Рассказ «Золотой слон» знакомит читателя с базовыми основами ИИ и глубокого обучения, помогает разобраться в их главных преимуществах и недостатках. В частности, в рассказе наглядно показано, что ИИ может зацикливаться на улучшении определенных аспектов, создавая при этом негативные эффекты. А еще это история о рисках, возникающих, когда в одной компании накапливается очень много сведений о ее пользователях. В анализе-комментарии в конце главы я рассмотрю эти вопросы, расскажу краткую историю ИИ и объясню, почему сегодня эта технология одних людей восхищает, а у других вызывает недоверие и опасения.

Телевизор в квартире в Мумбаи показывал пляж Чаупати. В волнах прибоя мерно, будто бы под саундтрек индийской лютни-ситара, покачивалась огромная статуя Ганеша, бога мудрости и благополучия с головой слона. С каждой откатывающейся волной божество опускалось все ниже, погружалось в воду, пока наконец полностью не скрылось в Аравийском море.

Статуя словно бы растворилась в пучине, превратилась в золотисто-багровую пену. Соленые брызги благословенно окропляли верующих, всю толпу, собравшуюся на пляже Чаупати для Ганеш-висаржана, ритуала погружения Ганеша в воду. Таков традиционный финал фестиваля Чатуртхи.

Счастливые бабушка и дедушка десятиклассницы Наяны хлопали перед экраном в ладоши и подпевали телевизору. На восьмилетнего Рохана, младшего в семье, никто не обращал внимания. Он под шумок запихнул в рот пригоршню чипсов из маниоки и запил их огромным глотком диетической колы.

Врач настоятельно рекомендовал ограничить мальчику потребление жирного и сладкого. Парнишка, дорвавшись до запретных лакомств, от удовольствия и возбуждения мотал головой, и крошки изо рта разлетались по всей комнате. Папа Санджай и мама Рия готовили праздничный ужин, гремя кастрюлями и напевая, словно персонажи болливудского фильма — веселые звуки и невероятные запахи разносились из кухни по всей квартире.

Наяна изо всех сил старалась отключиться от происходящего и сосредоточиться на смартстриме. На него только что наконец установилось приложение FateLeaf — «Лист судьбы». В последнее время в школе только о нем и говорили. Благодаря оцифрованной дальновидности величайших индийских прорицателей древности программа теперь способна ответить практически на любой вопрос пользователя.

В рекламной аннотации к приложению говорилось, что создатели FateLeaf вдохновлялись при его разработке учением почитаемого индуистского мудреца Агастья. Наяна помнила, что он тысячи лет назад описал на санскрите прошлое, настоящее и будущее всех-всех людей во всем мире. Пальмовые листья с пророчествами Агастья назвали «Астрологией Наади».

Прорицателю, гадающему на листьях Наади, надо предоставить отпечаток большого пальца и назвать дату рождения — и вся история твоей жизни немедленно считается с соответствующего листа. Так, по крайней мере, утверждает легенда. Есть, правда, одна загвоздка — за тысячи лет многие листья пропали: зверства колонизаторов, войны, неумолимое время…

Но одна компания еще в 2025 году отыскала все сохранившиеся листья Наади, специалисты-виртуозы сумели прочесть и сохранить информацию, а некоторые записи даже восстановить по сохранившимся фрагментам. Для глубокого обучения, автоматического перевода, анализа и реконструкции древней мудрости применили искусственный интеллект. Так возник «архив листьев Наади», теперь размещенный в облаке, — по одному виртуальному листу на каждого из 8,7 миллиарда человек, живущих на Земле.

Вся эта замшелая история Наяну не особо интересовала, у нее было дело поважнее. Реклама обещала, что через FateLeaf можно использовать всю мудрость своего листа Наади и получить ответы на любые вопросы.

Все взрослые были заняты, самозабвенно смотрели Ганеш-висаржану и готовили праздничный стол; младший брат увлекся чипсами и тоже ничего вокруг не замечал. До девушки никому не было дела, поэтому она поскорее набрала в FateLeaf: «Я нравлюсь Сахеджу?» На экране немедленно выскочило уведомление: ответ будет стоить 200 рупий. Наяна согласно кивнула и кликнула «Отправить».

Наяна обратила внимание на Сахеджа сразу, как только его смартстрим впервые подключился к их виртуальному классу. Новичок не использовал ни фильтров, ни фона расширенной реальности — это было необычно и показалось любопытным. На стене, которую было видно за фигурой нового одноклассника, Наяна увидела ряды красочных масок — как скоро выяснилось, парень сделал их сам, вырезал из дерева и раскрасил.

Маски сразу заметил и учитель. В первый день нового семестра Сахедж, немного стесняясь, но с явным удовольствием провел для одноклассников экскурсию — всё показал и рассказал. В его достаточно традиционных по стилю, но все же очень необычных масках образы индийских богов и духов сочетаются с силой супергероев.

Одноклассницы Наяны не уставали сплетничать о Сахедже в ShareChat[14], в чате «Для своих». Поводов для этого было предостаточно. Комната нового одноклассника действительно была оформлена очень необычно, а фамилия Сахеджа отсутствовала в школьных регистрационных записях. Девчонки после активного обсуждения решили, что он входит в «группу риска» — по распоряжению правительства к ней относилось не менее 15 процентов учащихся.

Таким детям гарантированы места в частных школах по всей Индии; им оплачивают обучение, учебники и школьную форму. Термины «15 процентов» и «группа риска» были, по сути, эвфемизмами для обозначения далитов — «неприкасаемых».

Наяна любила смотреть в интернете документальные фильмы, поэтому знала о старой кастовой системе Индии и ее глубоких индуистских религиозных и культурных корнях. Когда-то именно каста, к которой принадлежали родители новорожденного, уже в момент появления на свет и на всю жизнь определяла его будущую профессию, возможное образование, супругу или супруга. На нижней ступени этой системы и стояли далиты — «неприкасаемые».

Многие поколения далитов выполняли самую грязную работу: чистили канализацию, обрабатывали и утилизировали трупы животных, дубили кожу.

После обретения Индией независимости и вступления в силу Конституции — с 1950 года — под запрет попала любая кастовая дискриминация. Но фактически еще много лет существовали зоны, где далиты имели право пить, есть, жить и даже хоронить своих умерших — территории «неприкасаемых» были четко отделены от мест для представителей более высоких каст. Последние (дабы не оскверниться) часто отказывались находиться в одном помещении с далитами — соучениками или коллегами. Правда, обычно не объясняли почему.

Правительство Индии пыталось исправить эту несправедливость, для далитов установили 15-процентную квоту в государственных учреждениях и любых учебных заведениях. Казалось бы, намерения были исключительно благие, но эти решения вызвали массу споров и даже спровоцировали насилие.

Родители детей из высших каст жаловались: далитов зачисляют в школу по квоте, а не по успеваемости; остальным детям приходится расплачиваться за грехи предыдущих поколений — Индия просто заместила одну форму несправедливости и неравенства другой.

Но, несмотря на отдельные очаги негативной реакции, усилия индийского правительства принесли плоды. 200 миллионов потомков далитов интегрировались в мейнстримное общество, и теперь распознать их прошлую идентичность с первого взгляда было намного труднее.

Девчонки в ShareChat продолжали сплетничать об однокласснике-новичке; они обсуждали происхождение Сахеджа и бесконечно решали, стали бы они с ним встречаться или нет.

«Вот снобы!» — фыркала про себя Наяна, читая чат.

Сама Наяна сразу разглядела в Сахедже родственную душу. Девушке нравились работы Бхарти Кхер[15], Наяна и сама мечтала творить в стиле перформанс, но ей часто приходилось оправдываться, что это не имеет ничего общего с легковесной попсой.

Наяна считала, что настоящий художник должен быть верен себе и никогда не меняться в угоду чужой точке зрения. Так что если ей понравился Сахедж, то он ей понравился — а его происхождение, место жительства или даже его хинди с заметным тамильским акцентом не имеет никакого значения.

Ответа от FateLeaf, казалось, не было целую вечность. Наконец на экране всплыло уведомление с иконкой-пиктограммой в виде пальмового листа: «Нам очень жаль! Из-за недостатка предоставленных вами данных FateLeaf в настоящее время не может ответить на ваш запрос». Из динамика донесся звон монет — вернулась оплата за непредоставленную услугу.

«Тоже мне! Данных им недостаточно!» — и Наяна тихонько ругнулась.

Раздраженная и рассерженная, девушка отлипла от экрана. Мама Рия заканчивала накрывать на стол, приближалось время праздничного ужина, но что-то явно было не так. Среди традиционных индийских изысков на столе стояло несколько супердорогих блюд из китайского ресторана, продававшихся навынос. Такие угощения были в их доме большой редкостью, прижимистый отец подобных трат не одобрял.

Кроме расширенного меню обнаружилась и еще одна странность: на Рии было любимое шелковое сари в стиле парси, красивая — явно из салона — прическа и полный комплект украшений. Дедушка и бабушка тоже выглядели не как обычно — более счастливыми, что ли. И даже назойливый пухляш Рохан не приставал к сестре с дурацкими вопросами!

Объяснить все странности только праздником Ганеш Чатуртхи было невозможно.

— Та-а-ак, — протянула Наяна, отметив заодно и новую скатерть, — кто-нибудь объяснит мне, что тут происходит?

— Ты о чем? — мама отреагировала мгновенно, но как будто не поняла настроения дочери.

— Мне одной кажется, будто что-то не как всегда?

Взрослые переглянулись и засмеялись.

— А ну-ка, что ты заметила? — предложила игру в угадайку Рия.

— Вы что-то скрываете? — У Наяны ум уже заходил за разум — за свою жизнь она не видела дома ничего подобного.

— Давайте-ка садиться, поедим сначала, — бабушка попыталась перехватить инициативу и начала поправлять на блюде лепешки-наан.

— Погодите, — не сдалась Наяна, — я угадаю. Папа получил повышение? Мы выиграли в лотерею? Правительство снизило налоги?

С каждым высказанным предположением улыбка на лице отца становилась все шире, и каждый раз он мотал головой — не-а, не угадала.

— Прекрасные гипотезы, — он уже от души хохотал. — Нет, это все мама…

Наяна развернулась:

— Ну и куда ты влипла на этот раз?!

— Эй, не забывайся! — повысила голос Рия. — С матерью разговариваешь!

— Ну да, и что? Это же не меня вечно надувают, и не я ноги стаптываю, чтобы все купить подешевле… — Наяна по инерции огрызнулась, но тон сбавила.

— Так что ты сделала-то?

— Купила страховку Ganesh Insurance! У них была потрясающая распродажа к празднику, впервые в истории — 50 процентов скидки! Все соседи купили, а они экономят еще больше, чем мы! — Мама Рия лопалась от гордости из-за своей рачительности и удачливости.

Папа зааплодировал, бабушка с дедушкой присоединились. Наяна перебила овацию.

— А разве мы всегда страховались не в Life Insurance Corporation of India[16]?

— Ну да, именно в ней, но их полиса вечно хватало впритык. Не дай бог что-нибудь случится с бабушкой и дедушкой — что будем делать? Вы, кстати, учитесь в частной школе, ты, кажется, собираешься в Университет Раи на факультет фэшн-технологий и перформанс-арта. А он, между прочим, частный, и учеба в нем намного дороже, чем в государственных университетах. Сама знаешь — экономим на чем только возможно.

— То есть опять я виновата?! — Наяна окрысилась скорее по привычке — папа не сказал ничего нового и, конечно, был прав.

— Прежде чем строить планы, нужно рассмотреть, что у тебя под носом, — философски заметил дедушка.

— Ну ладно, ты все равно уже заплатила. И что нам даст новая страховка? — Наяна попыталась взять себя в руки и вникнуть в детали ожидавших семью перемен.

— Мне все подробно рассказала миссис Шах, ты ее знаешь, она из соседнего дома, — Рия завела подробное повествование.

— Платформа Ganesh Insurance использует искусственный интеллект для корректировки страхового плана в соответствии с конкретными потребностями застрахованной семьи. — Кажется, это был текст из проспекта страховой компании. Впрочем, возможно, рекламу цитировала мамина знакомая, а Рия все просто дословно запомнила.

— К тому же страховку продают по очень выгодной цене. — Мама, наконец, добралась до сути. — Кстати, Ganesh Insurance — это пакет мобильных приложений. Одно рассчитывает страховые взносы и принимает их оплату, другое — для инвестиций. Но больше всего мне нравится вот это, для покупок. И еще одно, которое показывает все выгодные предложения в нашем районе. Заметила прическу? — Рия, красуясь, покрутила головой. — В дорогущем салоне, между прочим, делала, а заплатила всего четыреста рупий — а все приложение Cheapon!

Рохан, воспользовавшись моментом, попытался стянуть из вазочки конфету. Но Наяна хлопнула его по руке, а он понял, что его застукали, и показал сестре язык.

Наяна вернулась к общему разговору — он сейчас был серьезнее диеты брата.

— Очень похоже на очередную рекламную замануху. И зачем страховой компании сообщать тебе, где делать прическу?

Мама замялась.

— И откуда эти страховщики так много знают о нашей семье?! — Наяна не стала дожидаться ответа.

Мама явно тянула с ответом — отвечать ей почему-то не слишком хотелось. Пауза затягивалась. Все ждали. И Рии пришлось признаться.

— Мы разрешили искусственному интеллекту доступ к каналам передачи данных каждого члена семьи — таковы условия страховки, по-другому нельзя.

Глаза Наяны стали похожи на две медные тарелки, из них прямо рвался вопль: «Что?!» — но звук не шел.

— Нет-нет, — Рия уже начала как будто оправдываться, — все строго конфиденциально, страховая компания может использовать данные, только если мы дадим разрешение.

— Да какое ты имела право открывать доступ к моему каналу передачи данных какой-то страховой компании?! — Наяна перешла на крик, и от возмущения голос ее сорвался.

— Не смей так разговаривать с матерью! — подал наконец голос отец. — Не забывай, ты несовершеннолетняя, мы — твои родители, имеем полное право принимать решения, в том числе и о твоих персональных данных.

Наяна побагровела от унижения — она не привыкла к столь резким отповедям, тем более от отца. Швырнула нож и вилку — они громко звякнули о тарелку, бросилась в свою комнату, грохнула дверью, упала на кровать, натянула на голову одеяло и замерла, глотая слезы. «Наверно где-то на листе Наади, — думала Наяна с горечью, — написано, что сегодня — наихудший день моей жизни».

Холодная война между Наяной и мамой Рией длилась с неделю. Спустя несколько дней после так неожиданно сорвавшегося праздничного ужина смартстрим Наяны вдруг засыпало необычными уведомлениями:

Сегодня ожидается дождь, не забудьте зонт.

Сезон простуд начался! Обязательно надевайте маску!

На вашем маршруте произошло ДТП; чтобы избежать затора…

Поначалу Наяна скептически усмехалась, но уведомления просматривала — нельзя же узнать, кто стучится в смартстрим, не посмотрев на экран.

Потом девушка обнаружила, что даже увидев странное сообщение от анонимного отправителя, она все равно его внимательно прочитывает — утешила себя тем, что время от времени информация действительно оказывается полезной. Ее всегда интересовали распродажи в магазине одежды или скидки в любимом кафе.

Однако воспользоваться акциями, как оказалось, можно только через приложение Cheapon Deals («Выгодные предложения») и несколько других, предложенных Ganesh Insurance под брендом «Золотой слон». Пришлось их скачать. Ну и, конечно, разрешить им доступ к своим данным.

Наяна проделала все после некоторого размышления. Однако ощущение, что «золотой слоник» давно присутствует в ее смартстриме, не проходило. Мама дала страховой компании доступ к ее гаджету? А что, не исключено.

В более чем 60 процентах индийских домохозяйств все девайсы в семье контролируют женщины-хозяйки (как мама Рия), а все персональные данные привязаны к уникальному национальному идентификационному коду Aadhaar[17]. Он есть у каждого из 1,4 миллиарда жителей страны, его присваивает Агентство Индии по уникальной идентификации.

В течение 20 лет с момента внедрения этой системы в 2009 году правительство собрало огромную базу данных. О гражданах известно очень многое: есть их отпечатки пальцев, цифровые подписи с использованием сетчатки глаза, генетические истории, информация о семье, роде занятий, кредитном рейтинге, история покупок жилья и налоговые отчеты. И вот теперь Ganesh Insurance с согласия клиентов могла использовать этот богатейший массив данных для персонификации услуг.

Конечно, существуют некоторые ограничения. Чтобы воспользоваться данными из соцсетей, надо авторизоваться, а использовать данные несовершеннолетних можно только с согласия их официальных представителей или опекунов.

Наяна еще немного подумала и пошла на компромисс — решила пользоваться сервисами GI, но быть при этом максимально бдительной. На уроках компьютерной грамотности в школе проходили (Наяна неплохо училась и многое помнила), что «продать» или «сдать» тебя может каждый клик в интернете. И прежде чем в очередной раз нажать кнопку «принимаю» либо «спасибо, мне нужно больше времени, чтобы это обдумать», девушка тщательно изучала все написанное мелким шрифтом. И нередко выбирала второй вариант. Но, несмотря на разумное и осознанное поведение, поток уведомлений от GI о привлекательных скидках и наилучших способах разрешения насущных проблем заметно возрастал.

Например, как бы привлечь внимание Сахеджа.

Он и вправду был симпатичным и очень милым парнем с огромными добрыми глазами. Сахедж старался понравиться новым одноклассникам, он подарил каждому маленькую голову какого-нибудь животного, которую сам вырезал из дерева. Но во время виртуальной учебы нередко нарушалась связь, и вместо милого лица Сахеджа Наяна видела на экране только размытый силуэт, а его голос в наушниках «квакал».

Но после личной встречи с Сахеджем в один из учебных дней офлайн Наяна обнаружила, что сдерживать чувства к парню стало совсем трудно.

Девушка постоянно искала предлог для общения с Сахеджем, использовала каждую возможность, но он почему-то упорно держал дистанцию.

Я ему не нравлюсь? Или тут что-то другое?

А может, застенчивость Сахеджа — из-за его «низкого» происхождения?

Наяна в очередной раз обдумывала эту самую важную свою мысль, когда на экране смартстрима появились маленькие золотые слоники — пришло уведомление от MAGIComb, приложения GI, дающего советы по стилю жизни, в том числе и «как стать более привлекательной для парней». Наяна, конечно, догадывалась: ИИ использует данные о ее интернет-запросах и покупках — иначе как бы он понял, о чем она думает. Но подобные рекомендации беспокоили ее совсем по другой причине.

Почему женщина вообще должна меняться, желая понравиться мужчине? Почему бы женщинам просто не демонстрировать мужчинам себя настоящих и не решать вместе, подходят ли они друг другу?

Наяна все еще здорово злилась на маму, но нашла в себе силы расспросить ее о странных посланиях от «волшебного» приложения.

Рия вертелась перед зеркалом в новой длинной юбке. Она себе явно нравилась и, пребывая в отличном настроении, обратилась к дочке:

— Вот глупышка, машины учатся только тому, чему их обучают люди. А ты к чему это? Ты влюбилась!

— Вовсе нет, — замялась Наяна.

— Не хочешь — не говори, но от искусственного интеллекта не скроешься, — пошутила Рия. — Тебе точно не нужна помощь? Поверь, твоя мать кое-что понимает в мужчинах.

— Как узнать, что мальчик думает обо мне на самом деле? — решилась Наяна. — Я ставлю ему лайки, а он не реагирует.

— Ага-а, значит, кто-то все-таки есть! Ну, одними лайками тут не обойтись. Дай GI доступ к учетной записи в ShareChat — их рекомендации станут еще лучше. Страховой взнос нашей семьи, кстати, от этого тоже чуток уменьшится.

Наяна хотела услышать совсем не это. Она разочарованно помотала головой и вышла из комнаты.

Всего несколько недель назад, когда FateLeaf не смогла ответить на запрос Наяны из-за недостаточности предоставленных данных, Рия не позволила дочери открыть доступ к учетным записям других членов семьи. И Наяна осталась без гадания. А теперь мать и дочь поменялись местами. Но, с другой стороны, сейчас вопрос серьезнее — речь идет о семейном бюджете.

Однако дело было не только в обиде и разочаровании. Наяна считала, что «золотой слоник» уже основательно промыл мозги всем ее родным. Все только и думали, как бы еще изменить свое поведение, чтобы уменьшить страховые взносы. Наяне казалось: когда в игру вступают деньги, человеческий мозг переходит в режим автопилота. Чтобы получить бонус или избежать штрафа, идут на все, действуя при этом на автомате.

Нет, ну какие-то плюсы у GI, конечно же, имеются. Бабушке и дедушке «золотой слоник» напоминает, что пора принять лекарство и записаться к врачу. Отец Наяны, который вообще никогда никого не слушал, неожиданно бросил курить — «слоник» ежедневно пенял ему за эту скверную привычку. Дальше — больше: папа заменил свой любимый крепкий анисовый арак более здоровым красным сухим вином.

Он даже начал намного осторожнее водить автомобиль! Следуя советам приложения, он больше не метался по полосам забитых улиц Мумбаи, словно безработный гонщик. GI не просто подсказывала, она его материально стимулировала — изменив поведение за рулем, папа уменьшил свои взносы по страховке автомобиля, здоровья и жизни.

Родители ладно — что взять со взрослых! Наяна была уверена, что уж кто-кто, а ее младший брат Рохан точно устоит перед натиском GI. В конце концов, жир и сахар вызывают зависимость, как героин, особенно у детей, совсем не умеющих себя контролировать. Однако и с Роханом «золотой слоник» преуспел.

Восьмилетнему ребенку, конечно, не было дела до прелести уменьшенных страховых взносов или отложенного вознаграждения, но рядом с Роханом почти все время был кто-то из старших, а уж они-то прекрасно видели: запрещенное лакомство в руке мальчика — это угроза для общего банковского счета. И всё — больше никто и никогда не потакал слабостям сладкоежки Рохана.

Изменения в жизни произошли стремительно, они, естественно, имели смысл и не только помогали экономить средства семьи. Все страховые компании стремятся к тому, чтобы их клиенты жили долго и были здоровы — это приносит страховщикам большую прибыль.

Но Наяна никак не могла решить, как поступить ей самой. Действительно ли стоит открыть «слонику» доступ к своим данным в ShareChat?

Не менее трудным был и вопрос о Сахедже. Наяне он подарил расписанную красивыми узорами голову ворона — одноклассникам достались другие животные или птицы. Может, это было тайное послание, может, так Сахедж хотел что-то сказать Наяне? Десятиклассница голову сломала, пытаясь найти в подарке скрытый смысл.

Разве ворон — не символ невезения? Или он хотел сказать, что я болтливая и надоедливая? Может, я слишком на него наезжаю? Что же он имел в виду?

Наяна уже совершенно измучилась. Она бы, конечно, обратилась к онлайн-прорицательнице FateLeaf, но мама ведь не разрешила дать этому приложению доступ к данным членов семьи. «А что же MAGIComb?» — вдруг осенило девушку. Вконец изведясь от неразделенной любви к однокласснику, она решила-таки обратиться к всемогущему алгоритму.

Однако «золотой слон» описал Наяне совсем не то будущее, о котором она грезила.

Тут что-то явно не то.

В школе постоянно твердили: предоставить мобильному приложению доступ к своим данным в соцсети — практически распахнуть дверь в спальню. GI, конечно, гарантировала, что все данные передаются искусственному интеллекту для федеративного обучения — сама технология обеспечивает анонимность, третья сторона никогда не сможет наложить на них лапу или засунуть в них нос. Но ведь наружу окажется вывернутой вся личная жизнь! Эта ситуация немного напоминала Наяне анекдот — когда фермер за неделю до Дня благодарения говорит индейке: «Поверь, ты тут в полной безопасности».

Что бы Наяна ни делала теперь в ShareChat — просматривала страницы, болтала с подружками, ставила лайки или просто выбирала смайлики, — она думала только о том, как ее выбор повлияет на страховые взносы ее семейства. Система страшно раздражала и казалась нелепой.

«Но, возможно, еще нелепее ожидать, что этот ИИ устроит мое счастье», — размышляла Наяна.

Сахедж почти ничего не выкладывал и не писал в ShareChat. Он вообще напоминал человека из давно минувшей эпохи, не поспевающего за технологиями. Иногда он, правда, репостил новости, цитаты, которые показались ему интересными, или давно протухшие мемы. Но в сети он появлялся спонтанно и был непредсказуем. Наяне вообще казалось, что именно так ведут себя фейковые зомби-аккаунты.

Что, скажите, существенного может узнать искусственный интеллект о Сахедже из его скучного и скудного аккаунта? Как он поможет Наяне сблизиться с одноклассником? Другое дело — она сама: понять намерения девушки проще простого, достаточно учесть частоту и постоянство ее кликов. Для ИИ подобные вещи — вопрос чистой математики, а не человеческой любви.

Наяне казалось: как только дело касается Сахеджа, GI принимается вести себя как-то подозрительно. Как только она обновляла страницу Сахеджа или ставила ему лайк, от GI прилетало какое-нибудь чудное уведомление — будто бы программа пыталась переключить ее внимание.

Стоило девушке запросить «как найти повод для разговора с парнем», поискать в интернете «подарок парню» или даже выбрать кафе для совместной «чашечки кофе», маленький анимированный золотой слоник выскакивал на экран и тащил с собой совершенно нелепую рекомендацию или загружал явно ошибочную страницу.

Объяснение странностям было единственное: «золотой слоник» вообще не хотел, чтобы они с Сахеджем сближались, поэтому активно действовал против нее.

Интересно, этот «слоник» со всеми такой, или только со мной? Может, я слишком молодая? Но разве найти свою половинку и выйти замуж — это не хорошо? Разве нам не говорят в школе, что население нашей страны в 1,4 миллиарда человек — наша сила, что наша способность к репродукции сделает нас непобедимыми, сильнее всех в мире? В чем же проблема?

Наяна ломала голову. И не заметила, что в дверях стоит мама.

— Признавайся, юная леди, что ты наделала? Наш страховой взнос просто зашкаливает!

— Я?! Наделала?! — Наяна не знала, что ответить. «Золотой слоник» явно решил перевернуть вверх дном ее жизнь.

— Немедленно отвечай, или отберу смартстрим!

— Нет, ты не можешь!

— Извини, могу. И именно это я собираюсь…

Но прежде чем по-боевому настроенная Рия договорила, Наяна вихрем пролетела мимо, едва не снесла мать в узком дверном проеме и молнией выскочила на улицу.

Наяна бежала, пока не поняла, что не узнает местности. Но смартстрим был накрепко зажат в ладони. Наяна остановилась, отдышалась и огляделась — слава богу! Она узнала рельефные скульптуры здания компании New India Assurance[18]. Уф, район Форт! Заходящее солнце освещало знакомую великолепную лепку на выветренном фасаде — фигуры фермеров, гончаров, прядильщиков и носильщиков. Наяна рассудила, что настал идеальный момент, чтобы позвонить Сахеджу — пусть даже это приведет к очередному скачку страхового взноса ее семьи.

Но поверх аватарки одноклассника на экране смартстрима немедленно появилось уведомление GI. Взнос вырос на 0,73 рупии! Сахедж не отвечал, Наяна уже собиралась сбросить вызов, но вдруг сработало подключение к видеопотоку. В практически полной темноте были едва различимы контуры лица и сияли белые зубы — Сахедж улыбался.

— Сахедж? Это ты? — Наяна оробела.

— Ну да, я. Ты, что ли, Наяна?

— Я боялась, ты уже не ответишь.

— М-м-м… тут некоторые проблемки. Я сейчас не могу долго говорить. Но ужасно рад, что ты позвонила!

— Тогда давай встретимся. — Сердце Наяны замерло от счастья. — Слушай, я сейчас скину тебе адрес.

Сахедж быстро оглянулся, чуть замялся и почти прошептал: «Кидай».

Наяна отправила адрес, нажала отбой и не удержалась — захлопала в ладоши.

И вдруг кто-то за спиной окликнул ее по имени. Солнце светило маме в спину, в золотых и красных солнечных лучах она напоминала богиню Сарасвати, сошедшую на Землю.

— Как ты меня нашла? — Наяна была поражена и даже забыла, что они только что поссорились.

— Я же управляю всеми данными в доме! — напомнила Рия, буравя дочь взглядом.

— Извини меня, — Наяна не поднимала глаз, — помнишь, я говорила тебе об одном парне? Я очень хочу с ним встретиться. Но GI как будто старается этого не допустить, и…

— …И ты думаешь, что из-за этого растет наш страховой взнос? GI не позволяет нам совершать глупости, которые могут навредить, он хочет, чтобы мы жили здоровее и дольше. Этот парень — опасная личность?

Наяна покачала головой.

— Нет, наверно. Он мой новый одноклассник. Умный и очень талантливый, его зовут Сахедж. Смотри, что он мне подарил — он сам это сделал, вырезал из дерева.

Наяна протянула маме голову ворона. Мама заинтересовалась деревянной поделкой, взяла, внимательно оглядела со всех сторон.

— Н-да, не похоже, что парень опасен. А он красивый?

Наяна смутилась, потом заулыбалась, но улыбка быстро сползла, превратившись в гримаску.

— Мам, это же полный отстой! И что эта GI знает такого, чего не знаю я?! Неужели я и вправду проживу дольше, если никогда не встречусь с Сахеджем?

— Хочешь, расскажу? — Мама обняла дочь. — Конечно, мы иногда ссоримся. Но я же не слепая! И не такая глупая, как ты думаешь. Ты убежала, а я вспомнила — прочла недавно. Это, кстати, была старая книга, мне ее предложила MAGIComb, представляешь?

Наяна такого поворота не ожидала, а потому заинтересованно ждала продолжения.

— Книга 2021 года о такой же индийской семье, как и наша. Мать — поверхностная, гордая и одержимая собственным имиджем, ее дочь страдает, а матери все равно. А девочка страдает все сильнее. Мать не обращала на это внимания — вот что потрясло меня больше всего. Когда мне было столько же лет, сколько тебе сейчас, родители мечтали побыстрее выдать меня замуж. А я хотела учиться, стать юристом. Родители не хотели, чтобы я была умной и образованной и сама принимала решения, — а у меня не хватило сил сопротивляться. Я сдалась и жалею по сей день. А на тебя не злюсь, хоть ты мне грубишь. Я рада, что ты слушаешь свое сердце, идешь своим путем — к понравившемуся парню или в выбранную профессию.

Рия еще обнимала дочь, Наяна заметила, как в глазах матери блеснуло солнце — или это были навернувшиеся слезы?

— Я всегда старалась дать тебе ощущение безопасности и комфорта, которых никогда не было у меня. И твое счастье никогда не будет зависеть исключительно от твоего замужества. Поступай в Университет Раи на фэшн-технологии и перформанс-арт, как выбрала. И никому не позволяй себе указывать. Никому — слышишь! — ни людям, ни искусственному интеллекту. А если кто-то влезет в твою жизнь — не смей его слушать. Правильный ответ можешь найти только ты сама. И то сначала надо попробовать.

— То есть я могу поехать в Ахмадабад, в Университет Раи?

— Если поступишь — да, — улыбнулась мама. — Там же огромный конкурс.

— И даже если из-за этого вырастут страховые взносы нашей семьи?

— Иногда стоит и рискнуть.

— Мам, я договорилась встретиться с Сахеджем. И — спасибо тебе!

Из-за угла показался красный двухэтажный автобус. Наяна неловко ткнулась маме в щеку — поцеловала — и побежала к остановке. А солнце скрылось за горизонтом.

С улицы через окно было видно, как официанты деловито накрывают в зале столы и зажигают свечи — наступал романтический вечер. Сахедж ждал Наяну на углу. В сумерках его кожа казалась еще смуглее. Наяне показалось, что в кафе его совсем не тянет.

— Слушай, извини… — Сахедж мялся, мотал головой, смотрел в землю, его глаза сверкали в темноте, как два светлячка.

— Что-то не так?

— Если я пойду с тобой, мама расстроится. Ходить в такие места — потворствовать слабостям… Это увеличит наш страховой взнос.

— Ты имеешь в виду… — в голове Наяны вдруг щелкнуло — все сошлось. — Так твоя семья тоже на страховке GI?

— Да. И мама сильно болеет. Нам здорово повезло, GI предлагает специальный страховой полис для таких, как мы, называется, «для социально незащищенных», иначе мы никогда бы не смогли позволить себе такую страховку…

— Это я поняла, — кивнула Наяна. И перевела разговор на гораздо более важное. — Но я совсем не поняла, почему ты подарил мне ворона, а не павлина, кролика или кого-то еще?

— Ты задаешь много вопросов! — Сахедж мягко улыбнулся. — Пошли погуляем, раз уж мы не идем в это дурацкое кафе.

Улицы вечернего Мумбаи обычно заполнены машинами — со всех сторон слышатся звуки клаксонов. Что поделать — огромный город, 30 миллионов человек! Мумбаи не всегда был городом небоскребов, ярких огней и цифровых дисплеев, но перенаселен он уже давным-давно. Люди облюбовали это место еще в каменном веке.

На месте сегодняшнего Мумбаи поселились еще древние греки. Они назвали это место Гептанезия — «семь островов». С тех пор город видел взлеты и падения многих династий и правителей. Он крещен кровью — прежде чем Индия получила независимость, погибал и возрождался из пепла бесчисленное множество раз.

Но, конечно, совсем не об этом думали старшеклассники, неспешно прогуливаясь по ярко освещенным улицам. Наяна с удивлением обнаружила, что Сахедж старается держать и физическую дистанцию — будто от случайного прикосновения его долбанет током.

— Сахедж, почему ты отодвигаешься? — Наяна старалась как можно тщательнее подобрать слова, опасаясь обидеть наконец-то обретенного друга.

— Ты правда не знаешь? — удивился Сахедж.

— Чего не знаю?

— Моей фамилии?

— Нет. На занятиях, и в школе и онлайн, ее скрывают, будто ты отпрыск какой-то телезвезды или из какой-нибудь известной семьи.

— Нет, наоборот. Это делают, чтобы вы не испытывали дискомфорта.

— В смысле?

— Ну, когда-то это описывали как ощущение оскверненности.

— Ты о своей касте, что ли? Но ведь эту систему отменили давным-давно.

Сахедж горько усмехнулся.

— Ее запретили законом, о ней не говорят в новостях, но она существует.

— Но откуда об этом знает искусственный интеллект?!

— А он не знает. Ему не нужно знать определение каст. Все, что ему требуется — история пользователей. Как бы мы ни скрывались, не меняли фамилии, следы все равно остаются. Их стереть невозможно.

Наяна вспомнила: мама ведь говорила, что искусственный интеллект знает только то, чему его учат люди. Она немного поиграла с этой мыслью, а затем внимательно посмотрела на Сахеджа:

— Так что, по-твоему, искусственный интеллект выявляет невидимую дискриминацию и оценивает ее количественно?

Сахедж посерьезнел, на миг задумался и фыркнул.

— Чуть не забыл. Еще — цвет моей кожи. Ты же знаешь, что на санскрите одно и то же слово означало и каста, и цвет?

— Это же полный бред!

— Нет, это реальность. Женщины из низшей касты могут встречаться с мужчинами из высшей касты и даже выходить за них замуж. Но наоборот — ни в коем случае. Это вконец испортит репутацию семьи девушки.

— Неужели искусственный интеллект действительно волнуют подобные глупости?

— Ему наплевать на наши устаревшие социальные устои! Но он стремится уменьшить размер страхового взноса пользователей, и поэтому GI пытается помешать нам с тобой быть вместе.

Наяна услышала главное слово — «вместе». Щеки у девушки вспыхнули.

— «Максимизация целевой функции» — так это называется.

— Чего-чего?

— Люди поставили перед искусственным интеллектом цель: снижать страховые взносы клиентов до минимально возможного уровня. И теперь он решает эту задачу. Он вообще не учитывает факторов, которые не влияют на снижение взноса, и ему уж точно без разницы, счастливы люди или нет. Машины недостаточно умны, чтобы интерпретировать ощущения поверх статистических данных. К тому же несправедливость и предрассудки по-прежнему вполне реальны. А искусственный интеллект только обнажает этот позор.

— Откуда ты все это знаешь?

Сахедж улыбнулся.

— Хочу поступить в Империал-колледж[19], стать специалистом по искусственному интеллекту. Хочу изменить эту дурацкую ситуацию.

За умными разговорами парочка незаметно дошла почти до дома Наяны — на последнем перекрестке Сахедж остановился и приготовился прощаться. Расставаться не хотелось, и тут Наяну осенило.

— А почему мы не можем изменить это прямо сейчас? Разве мы разрешили искусственному интеллекту распоряжаться нашей судьбой? Как предсказаниям на FateLeaf, написанным тысячи лет назад?

По лицу Сахеджа пробежала тень.

— Ты заходила на FateLeaf после подключения к GI?

— Ох, как мне надоел их золотой слоненок! А при чем тут FateLeaf?

— FateLeaf входит в семейство приложений GI, как и MAGIComb, и Cheapon. Если принять условия совместного использования данных, то получишь более точное предсказание.

— Точно! — охнула Наяна. — И как я раньше не додумалась? Выходит, судьбы с листьев Наади вовсе не подлинные! Я, как и все, хотела, чтобы все было по-настоящему, — а прорицание просто говорило то, что мне хотелось услышать.

До Наяны наконец дошло: ее надурили. Только она еще не решила, обрадоваться или страдать и мучиться.

Сахедж внимательно посмотрел на Наяну, чуть помялся и указал на улицу, по которой собирался возвращаться домой.

— Мы там живем. Дорога идет через строительную площадку Дхарави. Раньше там были трущобы. Представляешь, больше миллиона человек на пятачке 500 на 500 метров! Туристы приезжали фотографироваться, только жить там никто не хотел. Теперь Дхарави наконец-то станет нормальным местом, — Сахедж как будто бы вел экскурсию, и Наяне было интересно — она, конечно, слышала о Дхарави, но не подозревала о многих подробностях. — Учти, я просто предупреждаю: если ты приблизишься к Дхарави, GI завалит тебя предупреждениями — о болезнях, начнет писать, чтобы ты ни коем случае не пила там воду, будет умолять держаться подальше. Наяна, ты справедливая, но это дорога не для таких, как ты. Мир на вашей стороне, а не на стороне тех, кто живет там, — Сахедж опять указал на дорогу к своему дому. — Так что если уж говорить о судьбе — то вот она, наша судьба.

— А можно я с тобой? — Наяна сама поразилась тому, как легко это выпалила, и шагнула вперед. — Я… Я не такая, как ты думаешь.

Сахедж с сомнением наклонил голову:

— Уверена?

Наяна еще раз взглянула на дорогу к Дхарави, к запретной зоне в центре мегаполиса Мумбаи. Страшновато! Но в ушах вдруг зазвучал мамин голос: «Иногда стоит и рискнуть». Наяна поняла, что уверена — и кивнула.

Сахедж просиял, галантно согнул руку в локте, предложив своей даме опереться:

— Как пожелаете, мадемуазель.

И юная пара вновь отправилась в путь — вглубь древнего города, где за столетия люди много раз обновили каждый уголок и каждый кирпичик. По краям дороги выстроились старые и новые башни — словно переродившиеся души людей. Боги-машины завтрашнего дня со временем разрушат, а потом воссоздадут и эти души.

— Ну, так почему ты вырезал для меня именно голову ворона?

— Это мой тотем, мое астрологическое животное. Правда, в общении я гораздо более неуклюжий, чем большинство ворон.

— Надо же, как все просто!

— Да, так просто.

Завибрировал смартстрим — сначала тихонько, потом быстрее, сильнее, настойчивее. Наяна знала: это «золотой слоненок», Сахедж предупредил ее еще на перекрестке. Искусственный интеллект пытался спасти ее; предостерегал, просил не приближаться к месту, которое когда-то считалось крупнейшими трущобами в мире; убеждал держаться подальше от бедности, болезней, дискриминации и неприкасаемых — таких, как парень рядом с ней.

Наяна только потуже затянула капюшон толстовки и продолжала шагать рядом с Сахеджем.

Самый главный ответ ждал ее впереди, во тьме древних улиц.

Анализ. Глубокое обучение; большие данные; финансовые интернет-приложения, вредоносные проявления ИИ

Преимущества страховки Ganesh Insurance из рассказа «Золотой слон», работающей на базе ИИ, совершенно очевидны. Рия, мама Наяны, экономит семейный бюджет благодаря акционным приложениям. Папа Санджай бросает курить, пить крепкое спиртное и становится более ответственным водителем. Даже младший брат Рохан начинает правильнее питаться, когда под угрозой диабета ИИ забил во все колокола.

Такой набор приложений, работающих на смартстримах (вы, конечно, поняли, что это смартфоны 2041 года), и вправду мог бы помочь людям жить дольше, быть здоровее и богаче. Персонализированные ненавязчивые стимулы четко подсказывают, как жить более правильной жизнью.

В чем же тут подвох? В том, как и чем приходится за это расплачиваться. Вопрос лег в основу нашей первой истории, познакомившей читателя с основополагающей для ИИ концепцией глубокого обучения.

Глубокое обучение — прорыв в области искусственного интеллекта. Среди многих подобластей ИИ машинное обучение — это область, которая привела к наиболее успешным приложениям, а в машинном обучении самым большим достижением является направление под названием «глубокое обучение» — настолько, что термины «ИИ», «машинное обучение» и «глубокое обучение» иногда используются взаимозаменяемо (хотя это и неточно). В 2016 году глубокое обучение вызвало ажиотаж после впечатляющей победы AlphaGo над конкурентом-человеком в игре го, самой популярной интеллектуальной настольной игре в Азии. После этого нашумевшего поворота глубокое обучение стало важной частью большинства коммерческих приложений ИИ, и оно фигурирует в большинстве историй в AI 2041.

В «Золотом слоне» описан потрясающий потенциал глубокого обучения и его ловушки вроде воспроизведения социальных предрассудков в цифровых технологиях.

Так что же такое глубокое обучение? Каковы его ограничения? Какую роль в нем играют данные? Почему интернет и финансы считаются наиболее перспективными отраслями для применения ИИ на ранних этапах? Какие условия оптимальны для глубокого обучения? И почему кажется, что это работает чертовски хорошо — но только когда оно действительно работает? Каковы недостатки и недочеты ИИ?

ЧТО ТАКОЕ ГЛУБОКОЕ ОБУЧЕНИЕ?

Глубокое обучение вдохновлено сложнейшей сетью нейронов нашего мозга, оно строит программные многослойные искусственные нейронные сети с входными, скрытыми и выходными слоями. Данные поступают на входной слой — вход, а результат, соответственно, появляется на выходном слое. Между ними могут находиться тысячи других скрытых слоев — отсюда и «глубокое обучение».

Многие считают, что ИИ «программируется» или «обучается» людьми посредством указания конкретных правил и действий. Например, человек сообщает ИИ, что «у кошек заостренные уши и усы». Но на самом деле глубокое обучение работает лучше без внешних «человеческих» правил. Вместо того чтобы запоминать правила, данные людьми, на вход глубокой нейросети подается множество примеров, а на выход — правильные ответы для каждого из них. Таким образом, сеть между входом и выходом может быть «обучена», чтобы максимизировать шансы получить правильный ответ на заданный вход.

Есть множество примеров, когда человек не подсказывает, а передает информацию на входной слой и «правильный ответ» — на выходной слой.

Представим, что исследователи хотят, чтобы сеть глубокого обучения отличала фотографии кошек от любых других изображений. Для начала исследователь может подать на входной слой миллионы разных фото, маркированных «кошка» или «не кошка»; при этом на выходном слое метки «кошка» или «не кошка» уже должны быть заданы.

Сеть обучается определять, какие признаки в миллионах изображений наиболее информативны для отделения «кошек» от «не кошек». Это обучение представляет собой математический процесс, настраивающий в сети глубокого обучения миллионы (а иногда и миллиарды) параметров, для того чтобы максимизировать вероятность того, что для изображения кошки на входе будет выдана метка «кошки», а для другого изображения — метка «не кошка». На рисунке ниже вы видите такую нейронную сеть глубокого обучения для «распознавания кошек».

Нейронная сеть глубокого обучения, обученная отличать фото кошек от фотографий, на которых изображено что-то другое

В ходе этого процесса глубокая нейросеть математически обучается (или «тренируется») максимизировать значение «целевой функции». В нашем примере с распознаванием кошки такой целевой функцией является вероятность правильного распознавания «кошка» — «не кошка».

После такой тренировки сеть глубокого обучения, по сути, становится гигантским математическим уравнением; его можно протестировать на изображениях, которых она до этого не видела, и убедиться, что сеть путем «умозаключений» способна определить наличие или отсутствие в этих изображениях кошки.

С появлением глубокого обучения совершенно непрактичные ранее возможности ИИ стали пригодными для применения во многих областях и сферах. На следующей диаграмме наглядно показано, как резко сократилось число ошибок распознавания образов, когда начали использовать технологии глубокого обучения.

Глубокое обучение — это технология универсального применения, ее можно использовать практически в любой области для распознавания образов, прогнозирования, классификации данных, принятия решений или синтеза. Возьмем сферу страхования, о которой идет речь в рассказе «Золотой слон».

ИИ в приложениях Ganesh Insurance предобучили оценивать вероятность развития у клиента компании серьезных проблем со здоровьем и соответствующим образом корректировать его страховой взнос.

Чтобы сеть научилась отделять тех, у кого с большой вероятностью возникнут такие проблемы, от тех, у кого они, скорее всего, не возникнут, ИИ «тренируют» на обучающих данных, включающих в себя информацию обо всех прошлых заявителях на получение страховки, обо всех их обращениях в медицинские учреждения с разными жалобами и об их семьях. Каждый случай маркируют на выходном слое меткой «обращался с серьезными медицинскими проблемами» или «не обращался с серьезными медицинскими проблемами».

Использование глубокого обучения привело к существенному снижению частоты ошибок при распознавании объектов компьютерным зрением

Впитав в себя в процессе предобучения весь этот набор данных, ИИ может делать предсказания вероятности возникновения у заявителя серьезных проблем со здоровьем и решать, одобрять заявку на страхование или нет, и если да, то каким при этом должен быть страховой взнос.

Обратите внимание: в данном сценарии ни одному человеку не придется маркировать претендента на оформление страховки как объект, имеющий риски с точки зрения здоровья или же не имеющий таковых. Эти метки основываются исключительно на «достоверной информации» (например, были ли у претендента на оформление страховки серьезные жалобы на здоровье в прошлом).

ГЛУБОКОЕ ОБУЧЕНИЕ: ПОТРЯСАЮЩИЕ ВОЗМОЖНОСТИ. НО — С ОГРАНИЧЕНИЯМИ

Первая научная статья о глубоком обучении вышла еще в 1967 году. Потребовалось более полувека, чтобы эта технология проявила себя. Это заняло так много времени, потому что для обучения искусственной нейронной сети требуется огромное количество данных и вычислительных мощностей. И если вычислительные мощности — двигатель ИИ, то данные — его топливо.

Вычисления стали достаточно быстрыми для эффективного применения технологии глубокого обучения только в последнее десятилетие, и мы наконец научились собирать достаточное количество данных. Смартфон, которым вы пользовались сегодня, обладает в миллионы раз большей вычислительной мощностью, чем компьютеры НАСА, отправившие Нила Армстронга на Луну в 1969 году. А интернет 2020 года почти в триллион раз больше интернета 1995 года.

Глубокое обучение — результат озарения человеческого мозга, но работают они совершенно по-разному. Глубокому обучению требуется гораздо больше данных, чем человеку, но после обучения работе с ними технология значительно превосходит людей в решении многих задач, особенно связанных с количественной оптимизацией (например, выбор рекламного объявления для максимизации вероятности покупки или поиск нужного лица среди миллионов других).

Люди могут одновременно сосредоточиваться на ограниченном количестве объектов, а алгоритм, предобученный на океане информации, выявляет корреляции между неявными признаками, слишком незаметными или сложными для человека.

Кроме того, в процессе предобучения на огромном объеме данных глубокое обучение может подстраиваться под отдельных пользователей, базируясь на их паттернах поведения, равно как и на аналогичных шаблонах у других пользователей. Например, когда вы посещаете Amazon, ИИ этого веб-сайта выделяет или подсвечивает продукты, которые, скорее всего, должны вас заинтересовать и, соответственно, максимально увеличат ваши расходы.

А контент на вашей странице в Facebook должен удержать вас в соцсети как можно дольше. ИИ Amazon и Facebook таргетированный (узконаправленный); он предлагает каждому человеку разный, но персонализированный контент. Это значит, что показанный мне контент, скорее всего, сильно повлияет на меня, но может совершенно не сработать в вашем случае. Подобная узкая нацеленность гораздо эффективнее генерирует клики и покупки, чем универсальный подход традиционных статических веб-сайтов.

Каким бы мощным инструментом ни было глубокое обучение, панацеей его, увы, не назовешь. Человеку не сравниться с ИИ в деле одновременного анализа огромного количества данных, но мы обладаем уникальной способностью опираться при принятии решений на прошлый опыт, абстрактные концепции и здравый смысл.

Глубокому обучению для эффективной работы требуются огромные объемы релевантных данных, узкая конкретная сфера действия и четкая целевая функция. Если чего-то из этого нет — вероятнее всего, ничего путного не выйдет.

Мало данных? В алгоритме будет недостаточно примеров для выявления значимых корреляций. Несколько разных областей? Алгоритм не сможет учесть корреляции между примерами из разных областей и не получит достаточно данных, чтобы охватить все возможные перестановки. Слишком общая целевая функция? Алгоритм не будет иметь четких указаний для ее оптимизации.

Важно понимать, что «мозг ИИ» (собственно, глубокое обучение) работает совсем не так, как мозг человека. Их основные различия показаны в таблице 1:

Таблица 1. Сравнение сильных и слабых сторон человеческого мышления и «мышления» ИИ

ПРИМЕНЕНИЕ ГЛУБОКОГО ОБУЧЕНИЯ В ИНТЕРНЕТЕ И ФИНАНСАХ

Если вспомнить упомянутые выше сильные и слабые стороны глубокого обучения, то станет понятно, почему первыми бенефициарами этой формы ИИ стали крупнейшие интернет-компании. Высокотехнологические гиганты вроде Facebook и Amazon располагают самыми большими базами данных, которые к тому же часто размечаются автоматически в зависимости от действий пользователя (пользователь кликнул или купил? сколько минут он оставался на странице?).

Эти действия пользователей напрямую связываются с бизнес-метрикой (доход или количество кликов), которую необходимо максимизировать. Если заданные условия выполнены, приложение или платформа превращаются в денежный станок. Чем больше данных накапливается, тем большую выручку приносит платформа. Неудивительно, что интернет-гиганты вроде Google, Amazon, Facebook за последнее десятилетие показали поистине феноменальный рост и все активнее используют ИИ.

Как мы увидели в рассказе «Золотой слон», следом за интернет-компаниями огромный потенциал ИИ взяла на вооружение финансовая сфера, в том числе банки и те самые страховые компании.

Страховая отрасль обладает теми же преимуществами, что и интернет-компании: большой объем высококачественных данных из одной сферы (страхование), привязанных к бизнес-метрикам. С появлением финансово-технологических компаний, основанных на ИИ, таких как Lemonade и Waterdrop[20], появилась возможность покупать страховку или брать ссуду в компьютерном приложении с мгновенным одобрением.

Сегодня финтех-компании всерьез нацелены на победу над традиционными финансовыми корпорациями — ведь они показывают лучшие финансовые результаты (более низкий уровень дефолтов или мошенничества), предлагают клиентам мгновенные транзакции (с использованием ИИ и приложений) и более низкие затраты (благодаря исключению из этого цикла человеческого фактора). Однако и традиционные финансовые компании не сидят сиднем, а тоже спешно внедряют ИИ — так что гонка стартовала.

Есть еще одно любопытное преимущество финтех-компаний, взявших на вооружение ИИ: возможность использовать не только те данные, которые учитывают специалисты-люди. Иначе говоря, они укрепляют свою прогностическую силу за счет анализа огромного числа разнородных данных, которые не способен учесть никакой страховой агент.

Который не сумеет оценить, например, покупаете вы больше неполезных обработанных пищевых продуктов или полезных овощей; проводите вы больше времени в казино или в тренажерном зале; есть ли у вас постоянная подруга или вы вечно пристаете к женщинам в интернете. Но эти данные могут поведать о вас много важного, в том числе и о вашем относительном риске в качестве клиента страховой компании.

Кстати, миллионы единиц информации (или «признаков») можно найти в приложениях для мобильного телефона. Вот почему в нашем первом рассказе услуги Ganesh Insurance представлены в виде группы приложений под названием «Золотой слон». Они охватывают всё — от электронной коммерции до рекомендаций и купонов, инвестиций, ShareChat (реальная популярная индийская социальная сеть на местных языках) и придуманного Чэнем приложения для гадания FateLeaf.

Каждый раз, когда Наяна что-то покупает, пользуется рекомендацией, просит приложение предсказать судьбу или заводит с кем-то дружбу, Ganesh Insurance получает очередной кусок релевантной информации, и компания использует эти данные, чтобы стать еще более умной и оптимизированной. Это очень похоже на Google, который накапливает о вас очень неплохую базу данных, собирая крохи информации, которые вы случайно «насыпали» в Google, Google Play, Google Maps, Gmail и YouTube.

Потенциально это миллионы признаков, и пусть не все они актуальны и так уж полезны и большая часть имеет весьма скромную прогностическую силу, но даже среди последних глубокое обучение зачастую находит полезные и вполне информативные комбинации, которые между тем совершенно неуловимы и непостижимы для человека.

НЕДОСТАТКИ ГЛУБОКОГО ОБУЧЕНИЯ

Как известно, любая палка — о двух концах, что уж говорить о мощной технологии. Мы не можем представить себе жизнь без электричества — но соприкосновение с источником тока смертельно опасно. Интернет делает наше существование комфортным — но одновременно мешает нам сосредоточиться. Каковы же недостатки глубокого обучения?

Когда кто-то (ИИ) знает тебя лучше, чем ты сам, — это уже большой риск. Очевидны преимущества ИИ: он может порекомендовать новые полезные продукты быстрее, чем ты их заметишь; присоветовать совместимые варианты романтических партнеров и друзей — исходя из того, что ему известно о твоих нынешних близких. Но у такой осведомленности, безусловно, имеется и обратная сторона.

С вами когда-нибудь бывало такое: садишься посмотреть на YouTube одно видео и застреваешь на три часа? Или проходишь в Facebook по какой-то более-менее провокационной ссылке, а тебе тут же рекомендуют куда более экстремальный контент?

В киноленте «Социальная дилемма»[21] наглядно показано, как непревзойденные способности ИИ в деле персонификации позволяют ему манипулировать нами, а мы даже не осознаем этого. Звезда фильма Тристан Харрис, президент и соучредитель Центра гуманитарных технологий и специалист по этике технологий, так высказался по этой проблеме: «Тебе и невдомек, что твой клик нацелил суперкомпьютер на твой мозг. Он активировал миллиарды долларов вычислительной мощности, которая очень многому научилась на своем опыте заманивания двух миллиардов человеческих существ снова и снова кликать мышью».

Эта зависимость затягивает нас в порочный круг. Он весьма выгоден крупным интернет-компаниям, будучи своего рода станком для печати денег. Еще в фильме утверждается, что все это зачастую резко сужает мировоззрение, поляризует общество, искажает истину и негативно влияет на настроение и психическое здоровье.

Говоря техническим языком, суть проблемы заключается в простоте целевой функции и в опасности бездумной оптимизации целевой функции по одному критерию, так как это способно привести к вредоносным внешним эффектам. Сегодня ИИ обычно оптимизирует единственный критерий — и чаще всего для того чтобы получить больше (кликов, рекламы, доходов). ИИ маниакально сосредоточен на этой корпоративной цели и ничуть не заботится о благополучии пользователей.

В нашей истории «Золотой слон» Ganesh Insurance обещает потенциальным клиентам минимизировать страховые взносы, что в значительной степени коррелирует с минимизацией выплат по медицинскому страхованию и, следовательно, с улучшением здоровья застрахованных. На первый взгляд это подразумевает совпадение корпоративных целей с целями пользователей.

Однако в рассказе ИИ этой страховой компании определяет, что отношения между Наяной и Сахеджем с большой степенью вероятности приведут к увеличению страхового взноса семьи Наяны, и потому изо всех сил старается помешать их зарождающейся любви.

ИИ Ganesh Insurance предобучен находить причинно-следственные связи. Он может обнаружить повышенный риск заболеваний, связанных с курением, и, следовательно, будет пытаться отвратить человека от этой вредной привычки; и это хорошо. Но, руководствуясь узконаправленным анализом данных, ИИ может заставить приложение увеличить страховые взносы из-за потенциального романтического союза. Таким образом, умозаключения ИИ приводят к действиям, которые разрывают души людей на части и усугубляют неравенство.

Как же решается проблема? Один из первейших подходов — обучить ИИ сложным целевым функциям, таким как снижение страховых взносов с учетом фактора справедливости. Например, Тристан Харрис предлагает использовать в качестве метрики не просто «проведенное в интернете время», а «время, проведенное с толком».

Эти две цели можно объединить в одну сложную целевую функцию. Еще одно решение предложено экспертом в области ИИ Стюартом Расселом: гарантировать полезность каждой целевой функции путем поиска способа включить людей в цикл дизайна таких функций.

Например, можно попытаться построить целевые функции для «большего человеческого блага», такого, например, как счастье, и привлечь людей, чтобы определять, какой смысл они вкладывают в это понятие. (Эту идею мы исследуем подробнее в главе 9 «Остров счастья».)

Однако очевидно: эти идеи требуют дополнительных исследований в области сложных целевых функций и поиска способов количественной оценки таких расплывчатых концепций, как «с толком проведенное время», «справедливость» или «счастье». Более того, реализация этих идей изначально предполагает, что компании станут зарабатывать меньше денег.

Так как же нам стимулировать интернет-гигантов поступать правильно, невзирая на неизбежные финансовые потери? Один из способов — на законодательном уровне ввести нормы, предусматривающие наказание для нарушителей.

Другой путь — поощрять позитивное поведение как часть корпоративной социальной ответственности, например с помощью принципов ESG (environmental, social and corporate governance — экологическое, социальное и корпоративное управление). Сегодня принципы ESG уже набирают обороты в некоторых бизнес-кругах, и не исключено, что ответственный ИИ может стать частью будущей структуры ESG.

А еще можно привлечь третьи стороны и отвести им роль сторожевых псов: создавать информационные панели для основных показателей деятельности компаний и отслеживать такие показатели, как количество генерируемых «фейковых новостей» или «судебных исков с обвинениями в дискриминации», чтобы заставить их включать пропользовательские метрики.

И наконец, возможно, самым сложным, но и самым эффективным решением станет обеспечение стопроцентного совпадения интереса владельца ИИ с интересами каждого пользователя (подробнее об этом утопическом варианте рассказывается в главе 9).

У глубокого обучения есть еще один потенциальный недостаток — предвзятость. Поскольку ИИ основывает свои решения исключительно на данных и оптимизации целевой функции, они часто оказываются более справедливыми, чем решения, принимаемые людьми (на которых чрезмерно влияют всевозможные традиции и предрассудки).

Но ИИ тоже может быть предвзятым. Например, если использованных для обучения ИИ данных недостаточно, и, как следствие, они неверно отражают реальную картину, или данных достаточно, но расовая или гендерная демография в них искажена сторонними факторами. В результате отдел управления персоналом однажды обнаружит, что алгоритмы компании предвзяты к женщинам — потому что в обучающих данных было мало женщин.

Данные могут быть предвзятыми еще и потому, что их собирали в обществе с предрассудками. Так, чат-бот Tay компании Microsoft и алгоритм обработки естественного языка GPT-3 компании OpenAI печально прославились неуместными комментариями о меньшинствах.

Недавние исследования показали, что ИИ способен с высокой степенью точности определять сексуальную ориентацию людей на основе микровыражений лиц. Но такие способности чреваты риском дискриминации. В рассказе «Золотой слон» примерно так и получилось с Сахеджем — ИИ путем расчетов определил его как далита. Иначе говоря, Сахеджа не назвали «неприкасаемым», но поскольку его данные и характеристики коррелировали с принадлежностью парня к этой касте, Наяну забрасывали предупреждениями. Система ИИ таким образом пыталась разлучить молодых людей.

Это, конечно, непреднамеренная несправедливость, но последствия ее могут быть чрезвычайно серьезными. Если же общество применит некорректные алгоритмы к таким сферам, как принудительная госпитализация или уголовное судопроизводство, ставки окажутся еще выше.

Решение проблем справедливости и предвзятости при использовании ИИ потребует немалых усилий. Некоторые шаги в этом направлении совершенно очевидны и понятны.

Во-первых, компании, использующие ИИ, обязаны информировать общественность, где и с какой целью используются такие системы.

Во-вторых, инженеров по разработке ИИ следует готовить на основе набора стандартных принципов вроде адаптированной клятвы Гиппократа, которую дают врачи; эти специалисты должны понимать, что их профессия подразумевает элемент этики в продуктах, серьезно меняющих жизнь людей, и, следовательно, они должны поклясться защищать права пользователей.

В-третьих, необходимо ввести тщательное тестирование всех ИИ-продуктов; оно должно быть встроено в инструменты обучения ИИ и заблаговременно предупреждать о моделях, обученных на данных с несправедливым демографическим охватом. В противном случае использование ИИ-продукта должно быть запрещено.

В-четвертых, можно принять новые законы, требующие аудита ИИ. Скажем, если на компанию поступает определенное количество жалоб, ей следует обязать пройти такой аудит (на предмет справедливости, раскрытия информации и защиты конфиденциальности) — точно так же, как фирма подпадает под налоговую проверку, если ее бухгалтерская отчетность выглядит подозрительно.

И, наконец, последняя проблема глубокого обучения — объяснения и обоснования. Люди всегда могут растолковать, почему они приняли то или иное решение — оно основано на в высшей степени конкретном опыте и правилах.

Но решения глубокого обучения базируются на сложных уравнениях с тысячами функций и миллионами параметров. «Резоном» для глубокого обучения, по сути, является многомерное уравнение, полученное на основе больших объемов данных. И вряд ли возможно как следует объяснить его людям — оно слишком сложно. Тем не менее многие ключевые решения ИИ должны сопровождаться объяснением причин — либо по закону, либо потому, что этого ожидают пользователи.

Поэтому в настоящее время проводится множество исследований, направленных на увеличение «прозрачности» ИИ, — либо путем резюмирования его сложной логики, либо посредством введения новых ИИ-алгоритмов, которые изначально проще интерпретировать.

Описанные выше недостатки и ограничения глубокого обучения привели к тому, что в обществе появилось серьезное недоверие к ИИ. Но ведь все новые технологии имели свои недостатки. История показывает, что со временем многие ранние ошибки удается исправить, а технологии — усовершенствовать.

Возьмем для примера предохранитель в любой электрической сети. Он оберегает людей от поражения током, а имущество — от пожара. Или антивирусные программы — они защищают от компьютерных вирусов. Я уверен, со временем появятся технологии и политические решения и для проблем, связанных с негативным влиянием ИИ, с предвзятостью и непрозрачностью его работы.

Но сначала нам придется пойти по стопам Наяны и Сахеджа и сообщить людям о серьезности проблем, а уж затем мобилизовать человечество на поиск их решений.

Глава 2. Боги под масками

И правда, и утро со временем проясняются.

Африканская пословица

РАССКАЗ ПЕРЕВЕДЕН ЭМИЛИ ДЖИН

Примечание Кай-Фу: В этой истории рассказывается о молодом нигерийском видеопродюсере, которого наняли для создания серьезного дипфейка[22]. Одним из основных направлений ИИ является так называемое компьютерное зрение — оно учит машины «видеть», и недавние прорывы в этой сфере позволяют получать невиданные доселе результаты. Этот рассказ — фантазия о мире будущего, характерной чертой которого стали беспрецедентные высокотехнологические игры в стиле «кошки-мышки» между мошенниками и их разоблачителями; между преступниками и потенциальными жертвами. Можем ли мы избежать такого мира, в котором все визуальные линии размыты и нечетки? Я исследую этот вопрос в своем комментарии: я опишу недавние и предстоящие открытия в области компьютерного зрения, биометрии и безопасности ИИ — трех технологических сферах, которые позволяют создавать подделки-дипфейки и другие подобные технологии.

Поезд наземного метро подтягивался к станции Яба, и Амака нажал кнопку открытия дверей. Они с визгом разъехались; парень, не дожидаясь полной остановки, спрыгнул на перрон. Он больше не мог вынести в этом черепашьем поезде, в его спертом воздухе, ни одного мгновения. Почти прижавшись к какому-то пожилому мужчине, Амака ловко проскользнул через турникет на выходе из вокзала — он опять проехался зайцем.

Система распознавания лиц автоматически списывала стоимость проезда со счета каждого проходящего мимо камер человека. Но Амака был в маске — камеры его не увидели, и он опять прокатился бесплатно.

Маски давно стали обычным аксессуаром для молодежи Лагоса[23]. Для их родителей они были скорее ритуальными атрибутами, но для молодых людей, которых в последние десятилетия заметно прибавилось, маски стали модным трендом, а заодно и средством обмана камер наблюдения.

В Лагосе, крупнейшем городе Западной Африки, жило примерно от 27 до 33 миллионов человек — каждый метод подсчета давал свою цифру. Пять лет назад государство строго ограничило число приезжих, считая мигрантами даже тех, кто родился в других частях Нигерии. И странствующим мечтателям вроде Амаки пришлось постоянно находиться в состоянии поиска убежища — организовывать пристанище в нелегальных квартирах, в общежитиях, на рынках, на автобусных станциях или даже под эстакадами.

Амака встречал много бездомных, оказавшихся на улице по самым разным причинам. Дома одних снесли, чтобы расчистить место для новых торговых центров; другие недавно приехали в Нигерию из еще более бедных стран; третьи были просто нищими бродягами. Нигерия — «молодая» страна, средний возраст жителей всего 21 год: результат высокой рождаемости. Но в выигрыше от этого оказались далеко не все граждане третьего в мире по численности населения государства.

Некоторые части Лагоса задыхались и страдали от избытка молодежи, но район Яба процветал. Он получил название «Кремниевая долина Западной Африки» и выгодно выделялся порядком, свежим воздухом и бытом, насыщенным высокими технологиями. Пешеход тут мог активировать мультяшного персонажа на рекламном щите и взаимодействовать с ним с помощью жестов. Роботы-уборщики неустанно шныряли по улицам, собирая и сортируя мусор — и район был невероятно чистым. Бытовые отходы отправляли в центры переработки и превращали в возобновляемые материалы и биотопливо. Модным трендом, а не только строительным материалом, вдруг стал экологически чистый бамбук — по крайней мере, для жителей Ябы.

Выйдя из вокзала, Амака поднял смартстрим на уровень глаз и наложил активную виртуальную карту на окружающий пейзаж. Следуя по проложенному маршруту, он добрался до тихого переулка. Компания Ljele, которую он искал, находилась, судя по всему, на третьем этаже серого дома с номером 237.

Два дня назад он получил из Ljele загадочный анонимный мейл с предложением работы, которая, как сообщалось в послании, наверняка «придется ему по душе». Место уже практически его, было написано дальше, но надо лично явиться на собеседование — это пустая формальность, таков общий порядок.

Амака вошел в небольшую приемную на третьем этаже, и улыбчивая администраторша тут же указала на маску — ее надо было снять для проверки личности. Молодой человек на секунду замешкался, но команду выполнил. В объектив камеры попало юное лицо с гладкой кожей.

Амака носил самую простую маску, напечатанную на 3D-принтере. Изысканные дорогие модели ручной работы туристы с удовольствием раскупали как сувениры на рынке Лекки — они стоили абсурдно дорого. Но и дешевая маска Амака неплохо дурила большинство камер наблюдения в городе.

Благодаря грубой поделке с узором в форме бабочек Амака был в понимании искусственного интеллекта «человеком без лица», и это парня очень устраивало. Маска не только позволяла ему экономить, но и, что куда важнее, защищала от преследования властей — у него еще не было официального вида на жительство для мигрантов.

Администраторша провела Амаку в конференц-зал. Парень сел на стул и замер, обдумывая, что говорить о предыдущем опыте работы. Придется врать, решил он. Тут, кажется, без вариантов.

Прошло минут десять. Обещанный интервьюер все не появлялся. И вдруг прямо напротив Амаки засветилась проекционная стена — началось воспроизведение видеозаписи камеры наблюдения.

С первых кадров Амака узнал запись — он помнил ее мельчайшие подробности. Полночь. Тусклый желтый свет фонарей. Несколько бездомных лежат под эстакадой на самодельных матрасах, набитых мусором. Из темноты возникает щуплый силуэт. Мальчик подходит к спящим и всматривается в их лица.

Наезд камеры. Мальчику не больше пяти-шести лет, белый, одет в полосатую пижамку, личико бледное и невыразительное. Один из спящих, вздрогнув, просыпается и встречается взглядом с мальчиком. Спрашивает, как его зовут и что он тут делает. Мальчик что-то бессвязно бормочет и дрожит всем телом.

Внезапно его лицо искажается жуткой гримасой, он разевает рот — обнажаются два ряда острых зубов. И вдруг ребенок вонзает клыки в шею бедного бездомного! Мужчина кричит от боли — просыпаются остальные. По губам и подбородку мальчика течет кровь, он отступает и быстро скрывается в темноте.

Видео было выложено в интернете и называлось «Белый вампир нападает на бездомных в Лагосе». В первые сутки ролик набрал миллионы просмотров на платформе обмена видео GarriV. Но через несколько дней платформа идентифицировала видео как фейк и удалила — как того и требовал закон. Аккаунт пользователя, загрузившего файл, Enitan0231, заблокировали, а все доходы от рекламы, связанные с роликом, заморозили.

Видео закончилось, Амака продолжал сидеть в одиночестве, но в комнате раздался громкий голос: «Отличная работа, Амака! Безупречное слияние мизансцены, актеров-любителей и съемки в реальном времени! Даже не верится, что это сделано в подпольной интернет-кафешке в Икедже», — невидимый мужчина говорил с сильным акцентом игбо[24].

От неожиданности Амака вскочил и с криком «Вы кто?!» инстинктивно начал озираться. Быстро обшарил взглядом пустую комнату и остановился на динамиках.

— Да расслабься, — хохотнул невидимый незнакомец, — можешь называть меня Чи. Так нужна тебе работа или нет?

Амака вздохнул, опустился на стул и сник. Чи был прав. Без вида на жительство ему никогда не найти в Лагосе нормальную работу. Таинственная компания под названием Ljele сегодня была его единственной надеждой.

— Почему вы выбрали меня? — спросил Амака.

— Мы видели твои работы. Ты талантливый и амбициозный, ты никогда бы не поехал в Лагос, если бы не жаждал прославиться. А нам нужен человек, которому можно доверять. Один из наших.

Амака сразу понял, что имел в виду таинственный Чи. В Нигерии больше 250 этнических групп, каждая со своими языками и обычаями, многие конфликтуют уже не первую сотню лет. Йоруба и игбо — вторая и третья по величине этнические группы в стране, именно их стычки в последние годы были особо жестокими, поскольку обе народности рвутся к власти.

В Лагосе преобладали йоруба, Амака был игбо с юго-востока, поэтому обычно не афишировал свою этническую принадлежность — кому нужны неприятности?

— И что за работа? Что надо делать? — Амака уже практически принял предложение, а вопросы — так, для проформы. Ответы были ему не очень важны.

— То, что у тебя лучше всего получается, — снимать фейковое видео.

— Это, надо полагать, незаконно?

— Мы обеспечим тебя всем необходимым.

Зрачки Амаки сузились, ноздри раздулись.

— А если я откажусь? — он еще продолжал изображать сомнения. — Вы меня убьете?

— Убьем? — Чи опять издал какой-то странный смешок. — О, нет! Мы сделаем кое-что похуже.

И на проекционной стене опять началось видео.

Частный ночной клуб. Снимает камера в углу под потолком; она направлена на центр танцпола и берет крупный план. Несколько полуобнаженных парней (на них только штаны — рубашек или футболок нет) томно извиваются под мигающими лазерными вспышками. План еще более укрупняется.

Один из парней — Амака. Он, вдруг извернувшись всем голым торсом, страстно целует соседа — другого парня, щеки которого светятся флуоресцентно-розовым светом. Следующий поцелуй Амаки не без труда (приходится изогнуться еще сильнее) достается темнокожему, танцующему позади. Стоп-кадр: три молодых лица, похожих на листья манго, наложены друг друга: тела переплетены — они буквально слились.

Амака смотрел на стену не мигая — лицо его ничего не выражало. Прошло несколько бесконечных секунд, и он усмехнулся. Безусловно, это дипфейк, только что сляпанный на скорую руку, — а «сырье» взялось с камеры на стойке регистрации, ведь Амаке пришлось позволить просканировать свое лицо.

— Неплохо. Лицо, возможно, и мое, но вот с шеей вы лажанулись, — Амака стянул капюшон. Длинный розовый шрам шел от правого уха до левой ключицы. Память об одной уличной драке. — А потом, мы в Лагосе, здесь люди делают и вещи и побезумнее!

— Разумеется, бывает и похуже, — парировал Чи, — но это видео все равно может отправить тебя за решетку. И кстати, о семье подумай.

Амака подавленно замолчал. Любые проявления гомосексуальности караются в Нигерии серьезными тюремными сроками, с момента принятия в 2013 году закона о запрете однополых браков миновало несколько десятков лет, а нигерийское общество относится к сексуальным и гендерным меньшинствам враждебно и непримиримо — за десятилетия ничего не изменилось. Амаки отлично знал: если на него стукнут, то последует обвинение в уголовном преступлении; но даже если и нет, проблем с полицией точно не избежать. И под угрозой тюрьмы у него наверняка станут вымогать деньги.

Да, ведь еще родные… В последние несколько лет отношения Амаки с родственниками стали прохладными, но он не мог даже помыслить обрушить на их головы такую жесть. И плевать, что видео фейковое. Особенно жалко было отца — он возлагал на Амаку большие надежды.

Парень натянул капюшон и закусил нижнюю губу — создал иллюзию хоть какой-то защищенности.

— Мне нужен аванс. В криптовалюте. И подробности — что за объект? Не хочу тратить время на расследование.

— Как скажешь, дружище. Что же до цели… Ну, по этой точно не промажешь.

На проекционной стене возник нерезкий кадр. Когда проявились черты лица, Амака тихонечко присвистнул.

Йоруба называют Лагос «Еко», в переводе с их языка — «ферма». В Лагосе экваториальный муссонный климат, поэтому июнь — самый холодный месяц года с обильными ливнями. Амака лежал на узкой кровати в нелегально снятой комнате в общежитии и слушал звуки дождя. Новая работа была совершенно другого уровня, чем все предыдущие занятия, — детские шалости, похоже, закончились.

Амака надел XR-очки[25] и принялся разбираться с новым гаджетом — темно-зеленым Illumiware Mark-V.

Новая работа представляла сложность совсем не из-за недостатка опыта в создании видеофейков. Все было как раз наоборот. В прошлом году Амака много вечеров выдавал себя на сайтах знакомств за девушек из пригорода. Чтобы не проколоться, следовало собрать как можно больше видеоданных с помощью робота-поисковика. Идеальными целями для Амаки были юные модницы йоруба в ярких кофтах-бубах с глубоким V-образным вырезом, в юбках-иро — экстремальном мини, по сути, в небольшом куске ткани, почти ничего не скрывавшем, и с волосами, убранными под платок-геле.

Желательно, чтобы видео снимали в комнатах с ярким и стабильным освещением — нужны четкие лица. Это позволяет искусственному интеллекту сделать достаточное количество цифровых стоп-кадров. Затем датасет объекта соединялся с набором данных по лицу самого Амаки — при другом освещении, под разными углами и с разнообразными выражениями, которые автоматически генерировал его смартстрим.

Далее Амака загружал оба датасета в облако и приступал к работе с гипергенеративно-состязательной нейросетью. Спустя несколько часов или дней он получал результат — модель DeepMask, сотканную из алгоритмов. Применив ее в видеоприложении, он мог «превратиться» в девушку, которую сам сложил из битов информации, — отличить этот дипфейк от настоящего видео невооруженным глазом было совершенно невозможно.

Если позволяла скорость интернета, Амака мог развлечения ради менять лица в реальном времени. Но чтобы было весело, приходилось попотеть. Обман в реальном времени удавался, если синхронно переводить с английского или игбо на йоруба, использовать прогу transVoice для имитации голоса девушки йоруба и инструменты с открытым исходным кодом для синхронизации движения губ со звукорядом.

Однако если человек в чате раскошелился на высококачественный детектор дипфейков, то аномалии в видео автоматически выявлялись и помечались красными полупрозрачными квадратиками-предупреждениями.

На заре появления технологии дипфейков воспроизведение могло сбоить из-за недостаточной скорости интернета или преувеличенной мимики — изображение размывалось, губы двигались несинхронно. Сбой мог длиться какие-нибудь сотые доли секунды, но человеческий мозг, эволюционировавший миллионы лет, обычно улавливал какую-то неестественность. Однако к 2041 году софт DeepMask — преемник дипфейка — достиг такой степени правдоподобия и синхронизации образов, что научился обманывать и человеческое сознание.

Антифейковые детекторы стали неотъемлемой частью стандартной конфигурации кибербезопасности — в Европе, Америке и Азии даже приняли соответствующие законы, но в Нигерии верификацию требовали только основные контент-платформы и государственные веб-сайты. Объяснение простое: для таких детекторов необходимы огромные вычислительные мощности и профессиональные навыки, кроме того, они существенно тормозят скорость проигрывания видео. Если же пользователям приходится ждать, они, как известно, имеют обыкновение переключаться на что-нибудь другое.

Нигерийские соцсети и платформы обмена видео обновляли детекторы выборочно, в основном в моменты, совпадающие по времени с наиболее популярными алгоритмами создания дипфейков; чем больше пользователи шерили контент, тем пристальнее обращали на него внимание.

После каждого такого «видеосвидания» Амаке обычно требовались тишина и темнота. Аскетичная обстановка съемной комнатки не давала забыть о суровой жизни. Однако вынырнув из виртуальной реальности, он позволял разуму еще чуть-чуть побыть с этими сладкими парнями, млея от их улыбок и нежных слов. Они любят не меня, напоминал он себе периодически, они любят девушку йоруба с моим лицом.

Когда Амака только появился на свет, местный прорицатель объявил отцу, что его новорожденный сын — реинкарнация женской души, заключенной в теле младенца мужского пола. Под клеймом «несоответствия души и тела» прошло все детство Амаки, и это стало позором для его семьи.

Амака подрастал и убеждался, что действительно не похож на других мальчиков. Во многом именно из-за этого он и уехал из деревни в продвинутый Лагос. Но и тут все оказалось непросто. Стоило увидеть привлекательного парня в метро или на улице, как Амака чувствовал: в теле и в душе что-то трепещет. Зажечь чувства порой мог даже простой зрительный контакт.

Амака знал: приватно встретиться в реале с парнями, с которыми кокетничал виртуально, он не осмелится никогда. И чем больше мощи он раскапывал в DeepMask — тем сильнее прикипал к маске. Она скрывала его настоящее лицо; благодаря ей он мог излить чувства и испытать облегчение, не подвергая себя опасности общественного порицания и не сгорая от стыда.

Амака изо всех сил старался сосредоточиться на заказе, на фейковом видео, но в дверь постучали. Пришла Озиома, хозяйка комнаты. В руках у нее была миска нарезанных семян ореха кола. Озиома тоже была игбо, но переехала в Лагос двадцать лет назад и совершенно ассимилировалась. Однако при первом знакомстве с Амакой она расслышала его тщательно скрываемый акцент игбо.

— Там, откуда я родом, раскалывать орехи кола разрешается только мужчинам, — заметил Амака, набивая рот угощением и смакуя знакомую горечь.

— Вот поэтому я оттуда и уехала! — хихикнула Озиома. — Йоруба называют это орех оби, а игбо — одзи. Но разве в названии дело? И то и другое, оказавшись у тебя во рту, решает все твои проблемы.

— О-о-о, мудрость старейшин. Спасибо за угощение, — сказал Амака и собрался было выпроводить Озиому, но она схватила его за руку и кивнула на светившийся монитор. Выражение лица женщины вдруг стало озабоченным.

— У тебя ведь с ним… ничего? Я имею в виду, симпатичный парень, просто… Мне не нужны неприятности… Ну, ты понял, о чем я.

— Нет, конечно, я просто новости читал, — Амака натянул на лицо беззаботную улыбку. — Что я, дурак, что ли?! Мне ведь еще вид на жительство получать.

— Ну и молодец. Да благословит его бог — на чьей бы стороне он ни был.

Озиома ушла, прикрыв за собой дверь.

Амака облегченно вздохнул, опять запрыгнул на кровать и снова сосредоточился на мониторе.

Лицо мужчины излучало силу. Лоб и щеки были покрыты белой краской — это символ племенного духа. Глаза светились, будто два огня. Губы были слегка приоткрыты, уголки рта образовали полуулыбку — будто он собирался заговорить на божественном языке новой эпохи и взять штурмом весь мир.

Амака отлично знал этого нигерийца. Его звали Фела Кути, он был музыкантом, отцом жанра афробит, борцом за демократию и умер 45 лет назад.

Амаке предстояло сделать фейковое еще более фейковым.

Аватар — виртуальный образ с лицом Фелы Кути — возник в сети и начал постить видео на платформе GarriV. «Воскресший» Фела произвел в интернете фурор. Аватар называл себя АФАК — аббревиатура от «Аватар Фелы Аникулапо Кути». Видеоролики содержали едкие комментарии по поводу текущих социальных проблем, хотя точно определить его политическую принадлежность было трудно. Большинство людей восприняли происходящее как шутку — все знали, что настоящий Фела умер в 1997 году.

Технология переноса лиц в этих видеороликах была грубой до смехотворности. Платформы для обмена видео особо не заморачивались с запретом видео с АФАКом — просто помечали этот фейк как пародию.

Однако авторитет АФАКа рос, и вскоре его влияние стало совсем не забавным. Миллионы нигерийцев заходили в закрытые чат-группы и обсуждали его видеоролики — с лупой рассматривали каждый кадр, смаковали каждый слог. Текст даже стали переводить на разные диалекты — делали отличный дубляж и синхронизировали артикуляцию. Благодаря столь высокому качеству обработки послания АФАКа стали распространяться гораздо шире.

Официальный фонд Фелы Кути выступил с заявлением: организация озадачена происхождением аватара не меньше других. Однако не потребовал, чтобы загадочный персонаж, кто бы ни стоял за этим аккаунтом, перестал использовать образ музыканта.

Отследить человека, скрывающегося за ником, пока не удалось. Вся видеоинформация зашифровалась; учетные записи, с которых загружали видео, были одноразовыми и проходили через несколько прокси-серверов. Вполне логично возникла конспирологическая теория: а вдруг АФАК — дело рук антиправительственных активистов или какого-нибудь недружественного иностранного государства, посягающего на стабильность в Нигерии?

Компания Ljele, новый работодатель Амаки, оказалась ширмой, прикрытием подпольной группы «Слава игбо», а Чи — просто агентом, которого наняли завербовать Амаку и управлять его дальнейшими действиями. Группа проанализировала содержание видео с АФАКом и пришла к выводу: за аватаром стоят не иностранцы, а ультранационалисты йоруба.

Они хотели воспользоваться его популярностью и манипулировать сознанием людей, постепенно сделать видео с аватаром более «пройорубским» и перетянуть общественное мнение на свою сторону. Амаке было ясно: чем больше власти окажется в руках у и без того доминирующих йоруба, тем сильнее они станут притеснять другие этнические группы, и в первую очередь игбо.

Так, недавно АФАК призвал штаты, в которых преобладают игбо, отказаться от претензий на новое месторождение редкоземельных элементов и предложил сделать его «общей собственностью всех нигерийцев». Это была очередная и на текущий день последняя попытка отобрать у игбо ресурсы дарованной им богом земли. Народ игбо всегда чувствовал себя чем-то вроде хвоста ящерицы-Нигерии: его отрезали, он отрастал, его рубили вновь — и так бесконечно. Болит при этом культя, кровоточит — никого не волновало.

Игбо вконец устали. Миссия Амаки была ключом к революции, к достижению цели, поставленной перед собой группой «Слава игбо». Чи поручил Амаке создать фейковые видеоролики, которые подорвали бы авторитет и влияние аватара — так предполагалось ослабить доверие к АФАКу и, соответственно, его контроль общественного мнения.

Технически все было не так уж сложно. С помощью H-GAN (гипергенеративно-состязательной нейросети) Амака легко скопировал машинную модель лица АФАКа. Модель Амаки оказалась пиксельной зеркальной копией аватара АФАКа — начиная с частоты моргания и движения губ и заканчивая довольно заметной несостыковкой контура рта с окружающей кожей. Амака знал, как установить параметры и точно соотнести каждое математическое значение дипфейка и оригинала. Он мог обмануть любой детектор фейков и уж тем более — любой человеческий глаз.

Труднее всего оказалось воспроизвести речь в стиле АФАКа. Темы видеороликов варьировались от социально-политических новостей до головоломных популистских заявок, которые так любят обыватели. В монологах аватар то цитировал известные слова настоящего Фелы Кути, то сыпал перлами народной мудрости. Амаке часто было трудно разобрать, что он там произносит, не говоря уже об имитации речи.

АФАК заявлял, что Нигерия остро нуждается в новом языке, выходящем за рамки этнических границ, — дабы «очистить наш разум и язык от колониального яда». Он сетовал, что нигерийские матери, которые «страдают больше всех и заслуживают искреннего и высочайшего поклонения», собственноручно «приветствуют падение и закапывают трупы» своих многочисленных детей.

Аватар провозглашал, что «музыка — это оружие будущего», что только когда образование и богатство будут «распределяться также равномерно, как барабанная дробь пронизывает воздух, биение человеческих сердец сможет слиться в единый устойчивый ритм».

Очень скоро слова АФАКа, словно ливень, обрушившийся на выжженную солнцем землю, начали утолять жажду и в сердце Амаки. Как бы парень ни сопротивлялся, он чувствовал, что идеи аватара воодушевляют его и вселяют в него надежду. Может, Чи ошибается в отношении АФАКа? Амака попытался отмахнуться от нахлынувших чувств. Не нужно мне никакого вашего паршивого чувства принадлежности, твердил он себе.

Нужно ему сейчас было только одно — идеальный фейк речи в стиле АФАКа, в который бы поверили люди.

Карнавальное шествие растеклось по улицам Центрального Лагоса. Из глубины своего балкона Амака наблюдал за труппой молодых нигерийцев. Они раскачивались и кружились ритмично, грациозно и легко, как пылинки в солнечных лучах. Лица парней были расписаны белой краской в стиле Фелы Кути. Мускулы на их обнаженных спинах блестели под палящим солнцем. Следуя ритму, они в унисон воздевали руки и встряхивали кистями, будто бы читая заклинания.

Музыка инструментов разных этнических групп образовывала гармоничную мелодию. Пронзительный грохот барабана бата и низкие стоны барабана дундун народа йоруба; металлический звон колокольчика огэн и серебристая мелодия дудочки опи народа игбо. Воздух звенел от музыки, словно тетива боевого лука, когда ее натягивает стрелок.

Танцоры, гибкие, как молодые побеги маниоки в сезон дождей, ритмично двигались под музыку. Амаке они казались не отдельными людьми, а единым существом — таким же мощным и неделимым, как повторяемая ими мантра: «Еди-ная Ниге-рия». Это был слоган видеокампании с АФАКом.

Амака чувствовал, что сейчас лопнет от эмоций. С одной стороны, он завидовал танцорам и инстинктивно жаждал присоединиться к ним — но желание подавлял страх разоблачения и обвинения в предательстве. С другой стороны, действительно ли эти танцоры — последователи АФАКа и желают зла игбо, народу, от которого Амака отдалился, но который еще любил?

Но куда больше парня беспокоил стремительно приближающийся дедлайн, установленный Чи. С каждым днем Амака все больше убеждался, что поставленная перед ним задача абсолютно невыполнима.

Амаке стало казаться, что единственной идентичности АФАКа просто не существует. Аватар создавала команда, она опиралась на систему смарт-тегов платформы обмена видео и выдавала ролики, адаптированные к различным профилям пользователей. Она точно подгоняла основные темы, слоганы, тон и жесты под потребности каждой конкретной аудитории — как рекламное агентство, которое потворствует потребностям и желаниям определенной демографической группы.

Создание просто дипфейка — это одно, а дипфейка с множеством разных идентичностей — совсем другое; и это уже выходило за рамки умений Амаки. По какой-то непостижимой причине осознание этого принесло облегчение. Однако теперь парню предстояло столкнуться с последствиями провала миссии, порученной ему Чи.

— А почему бы тебе к ним не присоединиться? — голос Озиомы раздался прямо над ухом. Хозяйка шагнула из комнаты на балкон, приветственно пихнув Амаку, закурила английскую сигарету, облокотилась на перила и посмотрела вниз.

— А ведь я когда-то была королевой танцев в нашей деревне, — взгляд Озиомы затуманился: она ностальгировала. — Правда-правда, я не хвастаюсь. Парни глаз не могли от меня оторвать. Отец ненавидел, когда я танцевала. Он каждый раз грозился отлупить меня, когда заставал танцующей.

— И вы слушались?

Озиома от души расхохоталась.

— Да какой же ребенок откажется от того, что он любит, только из-за запрета родителей?! Я нашла способ, чтобы как минимум закончить танец.

— Какой?

— Прежде чем начать танцевать, я всегда надевала Агбого Ммуо.

— Чево-о-о?! — глаза Амаки вылезли из орбит. Агбого Ммуо — священная маска северных игбо, олицетворение девичьих духов, а также матери всего живого.

— Вот-вот, у отца, когда он видел меня в маске, становилось точно такое же лицо. Ему оставалось только кланяться и выражать почтение маске и богине, которую она олицетворяет. Конечно, потом, когда танец заканчивался и я снимала маску, мне доставалось на орехи, — Озиома сияла от гордости: воспоминания на миг вернули ее в юность, когда она была такой смелой и находчивой.

От истории Озиомы в голове Амаки шевельнулась какая-то идея. Она заворочалась, словно огромная рыбина на глубине, потом начала переваливаться с боку на бок и бить хвостом. Амака задумчиво наморщил нос и даже пробормотал вслух:

— Маска…

— Да, дитя мое. Маска — вот что давало мне силу, — эхом откликнулась Озиома. Она, оказывается, все еще была здесь.

— А если снять маску? Содрать маску… — бормотал, вдруг оглохнув, Амака.

Он вдруг бросился к Озиоме, подхватил на руки и звонко чмокнул в нос, прокричал: «Спасибо, спасибо, моя королева танцев!» — и ломанулся в комнату, оставив за спиной суматоху маскарадного шествия и совершенно сбитую с толку женщину.

— Если вложить в уста АФАКа явное вранье, это не заставит последователей отвернуться, он же кумир, — объяснял Амака в тот же день в видеочате своему куратору Чи. Парень был чрезвычайно взволнован неожиданным открытием. — Но если снять с него маску и разоблачить скрытую сущность кукловода, это наверняка поможет.

— Но кукловода никто не знает, — засомневался Чи.

— Вот именно! — Амака просиял. — Не понимаете? Раз его никто не знает, значит, кукловодом может быть кто угодно!

— То есть ты предлагаешь…

— …сорвать с АФАКа маску и сделать его таким, каким вы захотите!

Чи довольно долго молчал, а потом наконец пробормотал: «Да ты просто гребаный гений».

— Ндево, — попрощался Амака на языке игбо, собираясь уже выйти из чата.

— Погоди, — окликнул его Чи, — но ведь тогда нужно создать лицо, которое существует в реальности.

— Да, именно так.

— И оно должно обмануть все антифейковые фильтры, — задумчиво добавил Чи. — Надо учесть искажение цвета, структуру помех, вариации степени компрессии, частоту моргания, биосигнал… Это вообще выполнимо?

— Мне нужно время, — кивнул Амака. — И неограниченные мощности облачного искусственного интеллекта.

— Свяжусь с тобой, — бросил Чи и отключился.

Экран погас, Амака не двинулся с места и разглядывал свое отражение. Адреналин, поначалу захлестнувший его, куда-то улетучился. Теперь на лице Амаки было не возбуждение, а усталость и тревога — он чувствовал себя так, будто только что предал духа-хранителя, наблюдающего за ним с небес.

Теоретически создать фейковый образ и вставить его в видео может кто угодно, да и обойти антифейковые фильтры — не особая проблема. Проблема в расходах — стоимость необходимых для этого вычислительных мощностей огромна.

Дипфейки и их детекторы пребывали в состоянии вечной борьбы, как Эрос и Танатос. Перед Амакой стояла невероятно сложная задача, но он был настроен достигнуть своей единственной цели: создать настоящее человеческое лицо.

Чи предложил новую схему: АФАКа следовало лишить цифровой маски Фелы Кути и показать всем известного Репо, политика йоруба, известного нескончаемыми нападками на другие этнические группы и главного врага движения «Единая Нигерия». Как только Чи и его команда покажут, что именно Репо дергает за ниточки, что это он стоит за харизматичной и вдохновляющей фигурой АФАКа, вера людей в аватара рассыплется в прах. Но первым делом сфабрикованное Амакой видео должно будет пройти проверку миллионами глаз — как людских, так и искусственного интеллекта, включая VIP-детектор.

Программу, прозванную VIP-детектором, разработали для защиты репутации общественных деятелей: политиков, госчиновников, знаменитостей, спортсменов, ученых. Эти выдающиеся личности оставляли слишком заметный цифровой след, и это делало их особо перспективными мишенями для дипфейков.

VIP-детектор должен защитить эти «суперточки» киберпространства от возможного мошенничества или других разрушительных для них действий — в противном случае социальному порядку может быть нанесен ущерб. Веб-сайты, публикующие изображения или видео известных людей, обязаны перед публикацией контента применять специальный алгоритм обнаружения дипфейков. В VIP-детекторе задействовано множество технологий, от распознавания лиц в сверхвысоком разрешении до датчиков распознавания жестов и геометрии ладони и пальцев, оценки речи и даже распознавания вен.

Эти данные вводились в систему глубокого обучения ИИ VIP-детектора. Если объект защиты был особо важен, VIP-детектор заносил в свою базу данных даже его историю болезни. Понятно, что Репо с его социальным статусом и неоднозначностью входил в эту категорию.

Но Амака был уверен, что и в VIP-детекторе есть изъяны. Сумей он раскодировать его принцип действия, он точно мог бы найти пробелы в пересекающихся цепочках входных данных и использовать их. И пусть эти лазейки совсем узкие — кто ищет, тот, как известно, всегда найдет. И протиснется бочком.

И вот Амака, взяв за основу реальное видео Репо, принялся, подобно какому-то создателю Франкенштейна XXI века, слой за слоем сшивать его лицо: губы, глаза, нос. Искусственный интеллект в помощь: каждое мельчайшее движение, мимолетный жест в фейковом видео исходил от самого Репо, и это сводило к минимуму вероятность того, что антифейковый детектор обнаружит подделку.

Амака начал с того, что с помощью технологии XR-зрения создал себе трехмерное рабочее пространство. Он махал руками, выбирал, перетаскивал объекты, увеличивал и уменьшал масштаб; иконки и фрагменты видеозаписи парили в воздухе и управлялись разными жестами. Амака предпочел бы видеть себя магом, творящим волшебство, но пока куда больше был похож на звезду кулинарного шоу за приготовлением блюда авторской кухни.

Для каждой части тела Репо Амака тщательно выбрал самую эффективную программу с открытым кодом — и это было похоже на то, как повар выбирает и откладывает в подходящую посуду сырые ингредиенты для будущего блюда. Затем, словно приправляя кушанье разными специями, он скорректировал параметры, модели и алгоритм обучения. И наконец, довел все это «до кипения» на облачной ИИ-платформе — на огне максимальной вычислительной мощности.

Каждый набор видеоресурсов, обработанных GAN, генерировал серию миниатюр, которые образовали в виртуальном рабочем пространстве бесконечную галерею — и это была длиннющая череда постеров с различными частями тела Репо.

А между тем за этой стеной из плакатов развернулась жесточайшая битва — в облаке, в полной тишине. Сражались позитивные и негативные полюса GAN: сеть-фальсификатор и сеть-расследователь. Первая стремилась переобучить и модернизировать себя для создания максимально реалистичных изображений, способных обмануть антифейковые детекторы. Эти изображения, базируясь на обратной связи от сети-расследователя и благодаря ей должны были минимизировать значение функции потерь сгенерированного образа.

Сеть-расследователь, напротив, стремилась увеличить значение функции потерь. Эта битва, ставки в которой повышаются с каждой миллисекундой, будет повторяться миллионы раз — пока стороны не достигнут определенного баланса.

Корректировка параметров, очередная итерация модели… С каждой последующей корректировкой Амака убеждался: видео становится все более реалистичным. Он уже почти ослеп от бесконечно мелькающих разноцветных пикселей, но продолжал всматриваться в кадры в поле XR-зрения, которые практически не отличались друг от друга. Пот струился по лицу парня, но ловким пальцам Амаки, порхавшим по клавиатуре, это не мешало.

Время от времени в ушах, отвлекая и раздражая, возникал противный шепот — словно голос злого духа огбанже, навечно застрявшего в подвешенном состоянии между жизнью и смертью. «Ты убиваешь бога собственными руками», — шептал этот голос.

«Он не мой бог. Он йоруба», — возражал Амака, заставляя себя не отвлекаться от дела.

Наконец фейковое видео блестяще обошло фильтр — сумело обмануть VIP-детектор. У Амаки хватило сил только шагнуть к кровати — он рухнул плашмя и тут же уснул.

Незнакомый голос звал Амаку по имени. В изножье кровати колыхалась темная тень. Амака в ужасе попытался нащупать выключатель — пальцы не слушались. Тень приближалась. И тут он разглядел лицо — это был АФАК.

— Чего тебе?! — Амака аж задохнулся.

— Не бойся, дитя мое. Я услышал твой зов и пришел посмотреть на тебя, — АФАК улыбался в темноте, причем, похоже, вполне искренне.

— Но я не… Я не хотел причинить тебе вред, — Амака шептал дрожащим голосом.

АФАК вдруг расхохотался — и это было похоже на рык африканского леопарда.

— Никто не способен причинить мне вред, дитя мое. Ни ты, ни они.

— Они?

— Люди, которые пытаются задушить будущее Нигерии и обманом заманить тебя в ночные джунгли.

— Мне очень жаль, АФАК, но у меня не было выбора.

— Нет, выбор есть, дитя мое. Отправляйся в Нолливуд[26]. Не ищи простого решения — расскажи миру настоящую нигерийскую историю.

Амака не мог вымолвить ни слова, не получалось и отвести взгляд от пиксельной фигуры, стоящей у кровати. Я и вправду всегда хотел рассказать свою историю, думал он, историю игбо, который мечется между традиционной и изменяющейся реальностью.

— Мой дух-хранитель покинул меня, потому что я оставил свою землю и уехал на землю йоруба, — запинаясь, с трудом выговорил Амака.

— Чушь какая! — перебил АФАК. И Амака вдруг понял, что знает этот голос. — Помнишь, как ты был маленьким?

— Я был маленьким?

— Я показывал тебе разных птиц и говорил, как они называются; я показал, из какого древа получится самая хорошая рогатка; рассказал, как смастерить флейту из слоновой травы … Ты что, все забыл?

— Всему этому меня учил отец. — Амака изумленно замолк, глаза его расширились.

— Вот именно, дитя мое. Помнишь народную поговорку игбо? Когда человек говорит «да», его духу-хранителю ничего не остается, как тоже сказать «да». Это только люди покидают своего бога — бог их никогда не оставит.

— Но отец, я же не хочу тебя подвести, — Амака вспомнил об угрозе Чи опозорить всю его семью и почти шептал.

— Есть кое-что, о чем я никогда тебе не говорил.

— О чем ты?

— Мне все равно, что сказал при твоем рождении прорицатель. И мне неважно, чья душа живет в теле моего ребенка. Я хочу только, чтобы он был счастлив, чтобы он был добрым и чтил богов и духов.

— Отец… — Амака потянулся к силуэту АФАКа. Он хотел снять с него маску и увидеть родное обветренное лицо отца.

— Сходи в New Afrika Shrine[27]. Я уверен, ты сумеешь сделать правильный выбор. А потом возвращайся ко мне.

Амака уже почти дотянулся — кончики пальцев вот-вот должны были коснуться мерцающего пиксельного лица. Но АФАК вдруг исчез. Амака проснулся. Горел ночник. С темно-зеленого экрана монитора Illumiware Mark-V улыбалось знакомое лицо.

Расписанное граффити здание клуба New Afrika Shrine в Икедже можно запросто принять за полуразрушенный гараж. Впрочем, недостаток архитектуры с лихвой компенсирует энергетика места. В здании вместимостью две тысячи человек еженедельно проходят концерты, в нем работают всевозможные киоски с едой и напитками — и это весьма процветающий бизнес.

Фела Кути открыл ночной клуб Afrika Shrine в отеле Empire, но в 1977 году клуб сожгла полиция. Здесь была уже реинкарнация клуба — его в 2000 году открыл в память об отце Феми, сын Фелы.

Амака много раз бывал в Afrika Shrine. Как и любой молодой человек в Лагосе, любящий хорошо провести время, он видел в нем не только подходящее для вечеринки место с едой и выпивкой, но и храм, место паломничества — тут можно соприкоснуться с мятежным и свободным духом живших полвека назад таких же молодых. В этом особенном месте люди волшебным образом забывали обо всех этнических и классовых конфликтах и радовались жизни, пусть бы и под парами алкоголя.

Но сегодня Амака пришел со всем этим проститься.

В Afrika Shrine — и в старом, который он не застал, и в новом — свято хранили память и превозносили черных богов и богинь: Кваме Нкруму, Мартина Лютера Кинга — младшего, Малкольма Икса, Тома Санкару, Нельсона Манделу, Эстер Ибанга, Чинуа Ачебе, Воле Шойинка, Флоренс Озор… — великие души, посвятившие свою жизнь свободе, демократии и равенству[28]. Артисты в этом клубе часто прерывают выступления, чтобы отдать дань уважения своим культурным предкам.

Амака смотрел во все глаза — он молчал и старался получше запомнить все лица. Он молился, чтобы эти боги и духи оберегали его и впредь.

Он уедет из Лагоса, вернется домой и все расскажет отцу. Амака еще не решил, что будет делать дальше. Возможно, его умение работать с GAN поможет ему найти хорошую работу, и ему больше не придется делать дипфейки, а он станет помогать людям. Или ему удастся устроиться в сфере здравоохранения, скажем, заниматься переносом лиц в медицинских датасетах для обучения ИИ?

А ведь он еще отлично умеет раскрашивать старые черно-белые фильмы и улучшать изображение! А вдруг он сможет еще сильнее расправить крылья и сделать то, о чем лишь изредка осмеливался мечтать: снять настоящий нолливудский фильм? У Амаки уже появилась отличная идея для сюжета.

В смартстриме зазвенели монеты — пришли деньги, обещанные Чи. Это означало, что его фейковое видео настолько реально, насколько это вообще возможно — оно разлетелось по интернету, и его влияние можно было сравнить по мощи с ядерным взрывом.

В последние годы видео, созданные с помощью ИИ, спровоцировали мятеж в Габоне и серьезные политические беспорядки в Малайзии. И Амаке была невыносима мысль, что его видео может сыграть такую же скверную роль в истории его родной Нигерии.

Но выбор уже был сделан.

Амака поднялся на сцену и встал в самом центре, прямо под висящим высоко над ней черно-белым портретом Фелы Кути, сначала воздел руки, а потом вытянул их вперед — как бы стараясь соединиться с силой богов и духов.

«Я стану хозяином своей судьбы и сам буду решать, когда смерть придет забрать меня», — серьезно прошептал парень, словно какое-то магическое заклинание. Это были слова самого Фелы Кути, объяснявшие его второе имя Аникулапо — на языке йоруба оно означает «тот, кто несет в суме смерть».

Амака ввел что-то в смартстрим и запустил его в ближайший мусорный бак. Вынул из кармана и надел свою верную грубую маску, напечатанную на 3D-принтере. Амака молился и мечтал убраться отсюда как можно дальше, прежде чем спохватится Чи. Он уедет из Лагоса, из огромного города, исписанного слоганами Eko o ni baje — «Лагос не испортит», и вернется домой, к запахам свежей земли.

Он уничтожит ложь, создав еще одну ложь.

Второе видео, снятое им с помощью софта DeepMask, он уже выложил в интернет — оно готово спровоцировать еще один взрыв. И в первом, и во втором ролике АФАК снимал цифровую маску, под которой оказывалось лицо Репо — идеальный дипфейк, легко преодолевший все антифейковые фильтры. Но второй ролик на этом не заканчивался — аватар продолжал снимать маски: за АФАКом следует маска Репо, затем — другая маска под этой маской, потом еще… Слой за слоем, до бесконечности.

Нигерийцы изумятся: за АФАКом — все боги и богини, почитаемые завсегдатаями клуба New Afrika Shrine.

Анализ. Компьютерное зрение, сверточные нейронные сети; дипфейки; генеративно-состязательные сети (GAN); биометрия; безопасность ИИ

«Боги под масками» — история о визуальном обмане, об обмане зрения. Научившись видеть, распознавать, понимать и синтезировать объекты, ИИ может также манипулировать ими, создавая изображения и видео, неотличимые от реальных. В рассказе описывается будущее, в котором люди больше не смогут полагаться на невооруженный глаз, если наверняка пожелают отличить подлинное видео от тонкого монтажа.

Сайтам и компьютерным приложениям придется (их обяжут законом) использовать антидипфейковый софт (как сегодня используются антивирусные программы), чтобы защитить пользователей от поддельных видео. В нашей истории перетягивание каната между создателями дипфейков и детекторов для их выявления уже переросло в гонку вооружений, и с переменным успехом побеждает тот, у кого больше вычислительных мощностей.

Действие рассказа происходит в 2041 году, но, вполне вероятно, подобная ситуация сложится и раньше — как только развитый мир сможет позволить себе огромные расходы на супердорогие компьютеры, программное обеспечение и ИИ-экспертов, необходимых для создания и обнаружения дипфейков и прочих манипуляций ИИ. И регулирующие эту сферу законы, скорее всего, будут приняты прежде всего в развитых странах. Наша история происходит в стране развивающейся — в ней негативные внешние эффекты дипфейков, по всей вероятности, проявятся несколько позже.

Итак, как же ИИ научается видеть — и через камеры, и через записанные видео? Как используются способности ИИ? Как работает создатель дипфейков, применяющий ИИ? Способны ли люди или ИИ обнаруживать дипфейки? Наполнят ли наши соцсети фейковые видео? Как остановить поток дипфейков? Какими еще дырами в безопасности может быть чреват ИИ? И есть ли что-нибудь полезное в технологии, позволяющей создавать дипфейки?

ЧТО ТАКОЕ КОМПЬЮТЕРНОЕ ЗРЕНИЕ?

В рассказе «Золотой слон» мы увидели потенциальные возможности глубокого обучения при работе с большими данными, в частности в интернете и финансах. Вряд ли вы удивляетесь тому, что ИИ опережает людей по эффективности обработки больших массивов данных. Но вот как насчет способностей, уникальных для человека или прочих живых существ, например восприятия?

Зрение — самый важный из органов чувств человека. Компьютерное (машинное) зрение — это отрасль ИИ, которая обучает компьютеры видеть. Это слово означает здесь не только оцифровку видео или изображения, но и осмысление того, что при этом «видит» компьютер. Алгоритмы компьютерного зрения позволяют реализовать следующие возможности (перечислены в порядке возрастания сложности):

• Получение изображений и их обработка — для реальных 3D-сцен в видео используются камеры и другие приборы-датчики. Каждое видео состоит из последовательности изображений, каждое изображение представляет собой двумерный массив чисел, представляющих конкретный цвет, где каждое число соответствует пикселю.

• Обнаружение объектов и сегментация изображения — изображение разбивается на области и определяется место расположения объектов.

• Распознавание объекта — распознается объект (например, собака) и, возможно, детальная информация (немецкая овчарка, темно-коричневый окрас, и так далее).

• Трекинг объекта — отслеживание движущихся объектов в последовательных изображениях или видео.

• Распознавание жестов и движений — движения идентифицируются, как, например, танцевальные па в игре для Xbox.

• Интерпретация сцены — обеспечивается понимание сцены в целом, включая неявные взаимоотношения и нюансы, например голодная собака, жадно глядящая на кость.

Инструменты для создания дипфейков, использованные Амакой в рассказе, содержат все эти компоненты. Чтобы отредактировать видео с АФАКом, Амаке сначала нужно было разбить его на фрагменты — 60 кадров в секунду, каждый из которых состоит из десятков миллионов пикселей. ИИ считывает эти пиксели и автоматически сегментирует тело АФАКа (или рисует вокруг него границу), которое далее сегментируется на лицо в маске, рот, руки и так далее. И так для каждого видеокадра.

Если видео длится 50 секунд, у нас будет три тысячи кадров (изображений). Кроме того, сопоставляется движение между кадрами, что позволяет выделить связи между объектами. Все это, заметьте, делается до того, как начнется редактирование видео.

Процесс представляется жутко трудоемким, но мы, люди, в своей жизни делаем это на раз-два. Нам достаточно лишь бросить взгляд, и все перечисленное уже проделано — тратится меньше секунды. Кроме того, люди обладают способностью к абстрактной и обобщающей интерпретации, причем даже если один и тот же объект выглядит по-разному под разными углами, при разном освещении, с разных расстояний или даже почти скрыт другими объектами.

Например, увидев человека, сидящего за столом в определенной позе, мы можем сделать вывод, что он держит ручку, нацелившись на лист бумаги, хотя на самом деле не видим ни того, ни другого.

Когда мы что-то «видим», мы, по сути, каждый раз задействуем все накопленные ранее знания о мире — все, что узнали за свою жизнь о перспективе, геометрии, здравом смысле и обо всем том, что видели до этого. У человека это происходит просто и естественно, но научить тому же самому компьютер крайне сложно.

Компьютерное зрение — область исследований, которая пытается преодолеть трудности и сделать так, чтобы компьютеры умели видеть и понимать то, что они видят.

СПОСОБЫ ПРИМЕНЕНИЯ КОМПЬЮТЕРНОГО ЗРЕНИЯ

Уже сегодня мы практически ежедневно соприкасаемся с технологиями компьютерного зрения.

Их можно использовать в режиме реального времени в разнообразных областях — от транспорта до сферы безопасности. Приведу примеры.

• В автомобилях устанавливаются системы помощи водителю «Антисон», не дающие уснуть за рулем.

• Магазины без касс и очередей — типа Amazon Go: установленные в них камеры сами распознают товар, который вы кладете в корзину или возвращаете на полку.

• Охрана аэропортов (подсчет количества людей, распознавание террористов).

• Распознавание жестов (баллы за движения в танцевальных играх для Xbox).

• Распознавание лиц (использование лица пользователя для разблокировки мобильного телефона).

• Смарт-камеры (портретный режим вашего iPhone распознает и выделяет людей на переднем плане, а затем красиво размывает фон для создания эффекта фото, сделанного зеркальным фотоаппаратом).

• Военное дело (определение, кто напротив — солдат противника или мирный житель).

• Автономные системы навигации дронов и автомобилей.

В самом начале рассказа «Боги под масками» мы видели, как системы распознавания лиц используются в реальном времени для автоматической оплаты проезда — путем идентификации пассажиров, проходящих через турникет вокзала. И узнаем, что пешеходы, используя жестикуляцию, могут взаимодействовать с мультяшными животными в уличной рекламе. А смартстрим Амаки использует компьютерное зрение для распознавания городских улиц и указания маршрута, помогает ему добраться до незнакомого пункта назначения.

Кроме того, компьютерное зрение можно применять к изображениям и видео — не такими прямолинейными способами, но не менее полезными и важными. Приведу примеры:

• Интеллектуальное редактирование фотографий и видео (такие инструменты, как Photoshop, широко используют компьютерное зрение для удаления эффекта красных глаз и улучшения качества селфи).

• Анализ медицинских снимков (для определения наличия злокачественной опухоли на КТ-снимке легких).

• Модерирование (цензурирование) контента (обнаружение порнографического и насильственного контента в социальных сетях).

• Подбор сопутствующей рекламы, основанный на содержании конкретного видео.

• Интеллектуальный поиск изображений (находит нужное по ключевым словам или другим изображениям).

• И, конечно же, создание дипфейков (подмена лиц в видео).

В «Богах под масками» рассказывается об инструменте для создания дипфейков, который, по сути, является ничем иным, как автоматическим инструментом для редактирования видео; он по частям подменяет одного человека другим, начиная с черт лица, пальцев, ладоней и голоса и заканчивая жестами, походкой и мимикой. Поговорим об этом подробнее.

СВЕРТОЧНЫЕ НЕЙРОННЫЕ СЕТИ (CNN) ДЛЯ КОМПЬЮТЕРНОГО ЗРЕНИЯ

Заставить компьютерное зрение работать на основе стандартной нейронной сети оказалось очень непростой задачей — ведь любое изображение состоит из десятков миллионов пикселей, и научить систему глубокого обучения находить тончайшие подсказки и признаки в огромном количестве изображений — это, согласитесь, даже звучит устрашающе. В поисках вдохновения в деле усовершенствования этой технологии исследователи обратились к человеческому мозгу.

Зрительная зона коры головного мозга задействует нейроны, соответствующие множеству ограниченных областей (известных как рецептивные поля, или поля восприятия), в рамках которых наши глаза фиксируют изображение в любой конкретный момент времени. Рецептивные поля идентифицируют основные признаки видимых объектов: формы, линии, цвета или углы. Эти детекторы соединены с неокортексом, верхним слоем коры головного мозга (новой корой).

Неокортекс хранит информацию иерархически и обрабатывает выходы полей восприятия, преобразуя их в более сложную интерпретацию сцены.

Наблюдения за тем, как «видят» люди, и вдохновили разработчиков на изобретение так называемых сверточных нейронных сетей (CNN — convolutional neural networks). Самый низкий слой CNN состоит из большого числа фильтров, которые многократно применяются к изображению. Каждый из этих фильтров, как и рецептивные поля, может видеть только небольшие смежные участки изображения.

Глубокое обучение за счет оптимизации параметров на множестве изображений решает, что «замечает» каждый фильтр. Каждый фильтр выдает на выходе уверенность, что видел конкретный признак, им представляемый (например, черную линию). Более высокие слои CNN организованы иерархически, как и неокортекс. Они принимают выход уверенности от более низких слоев и обнаруживают более сложные признаки.

Например, если в CNN загружается изображение зебры, фильтры нижнего слоя могут искать в каждой области изображения только черные и белые линии, а более высокие слои будут видеть полоски, уши и ноги в больших зонах. Следующие слои могут увидеть множество полос, два уха и четыре ноги. На самом высоком слое части CNN могут целенаправленно пытаться отличить зебру от лошади или тигра.

Обратите внимание: все эти примеры иллюстрируют, что CNN может делать, но в реальной работе сеть сама решает, какие признаки (полосы, уши или вообще нечто лежащее за рамками человеческого понимания) будут использованы для максимизации целевой функции.

CNN — это специфическая и улучшенная архитектура глубокого обучения, разработанная для компьютерного зрения, с различными вариантами для изображений и видео. Идея таких сетей возникла в 1980-х годах, у ученых тогда не было ни достаточного объема данных, ни вычислительных мощностей, чтобы продемонстрировать, на что эти сети способны.

Только в 2012 году стало ясно, что данная технология превосходит все предыдущие подходы к компьютерному зрению. По счастливому совпадению, примерно в это же время пользователи сняли на сильно подешевевшие и из-за этого массово распространившиеся смартфоны огромное количество фото и видео и выложили их в социальные сети. Примерно тогда же стали более доступными быстродействующие компьютеры и хранилища данных большого объема. Все эти факторы в совокупности способствовали рывку в развитии и распространении этой замечательной технологии.

ДИПФЕЙКИ

«Президент Трамп — полный и абсолютный ушлепок», — заявил однажды на камеру президент Обама… Ну или это был человек, который выглядел и говорил совсем как Барак Обама. В конце 2018 года видео стало вирусным, но это был дипфейк — поддельный ролик, смонтированный с помощью технологии глубокого обучения. Известны даже авторы — режиссер Джордан Пил и новостная интернет-медиакомпания BuzzFeed.

Пил записал фразу, ИИ преобразовал голос режиссера в голос Обамы. Затем ИИ взял реальное видео Обамы и отредактировал так, чтобы оно максимально соответствовало словам, включая артикуляцию, соответствующую мимику и выражение лица.

Джордан Пил сделал это с конкретной целью — так он хотел предупредить людей о скором наступлении дипфейков, что, собственно, и произошло. Уже в том же году в интернет оказались загружены несколько дипфейковых порнороликов со знаменитостями, это привело к скандалу и в конечном счете к новому закону, призванному решить эту проблему. Но появление дипфейков это уже не остановило.

В Китае в 2019 году было создано приложение, способное за считаные минуты превратить ваше селфи в главного героя какого-нибудь известного фильма. Оно сохраняет оригинальный саундтрек, что существенно снижает технологические требования к процессу.

Программа Avatarify возглавила в 2021 году рейтинг Apple App Store. Она «оживляет» любую фотографию, заставляя человека на ней петь или смеяться.

Короче говоря, дипфейки вдруг стали мейнстримом, и уже любой юзер без особого труда может сам изготовить фейковое видео (пусть и дилетантское, и видимое для детекторов, а зачастую и для человеческого глаза).

Сказанное означает, что в будущем возможна подделка любого цифрового материала, будь то онлайн-видео, заранее записанная речь, кадры с камеры видеонаблюдения или видео с уликами из зала суда. В нашей истории Амака использует инструменты, гораздо более продвинутые, чем имелись в распоряжении Пила, создает сложное, высококачественное видео, подделку, которую не распознает ни человеческий глаз, ни обычное программное обеспечение для обнаружения дипфейков.

Сначала он использует инструмент для преобразования любого текста в звукоряд, который станет неотличим от голоса Репо. Затем он синхронизирует эту речь с лицом Репо с соответствующей мимикой и эмоциями. Далее это лицо накладывается на изображение АФАКа из ранее снятого видео с соответствующими руками, шеей, ступнями и даже его уникальными паттернами пульса и дыхания. А продвинутый ИИ образца 2041 года обеспечивает совершенно бесшовное соединение всех частей тела в нужных местах.

Помимо этого подхода к созданию «фейковых людей», основанного на видео, существует еще 3D-подход, включающий в себя построение трехмерной модели человека исключительно с помощью вычислений. Именно так, например, снимаются полнометражные анимационные картины вроде «Истории игрушек»[29].

Данный подход базируется на другой области информатики — на компьютерной графике. В ней все моделируется математически, и для волос, ветра, света, теней и проч. нужно разрабатывать реалистичные математические модели. Этот трехмерный подход обеспечивает «продюсера» гораздо большей свободой действий, позволяя ему манипулировать каждым персонажем, как только заблагорассудится, однако и сложность, и требования к вычислительным мощностям тут намного выше.

Компьютеры в 2021 году еще не умеют снимать полнометражные фильмы с использованием 3D-видео, способного обмануть человеческий глаз (вот почему люди в анимационных фильмах выглядят не вполне реалистично), не говоря уже о программах-детекторах. Но к 2041 году наверняка появятся фотореалистичные 3D-модели, о которых мы подробнее поговорим в других главах этой книги — «Воробьи-близнецы» и «Мой призрачный кумир».

Джордан Пил создал дипфейк ради развлечения и в назидание, а в нашем рассказе агент Чи вербует Амаку для изготовления дипфейка с конкретным злым умыслом. Помимо распространения сплетен дипфейки могут быть использованы для шантажа, преследования, клеветы, манипуляций на выборах.

Как делаются дипфейки? Как научить ИИ выявлять их? Кто победит — софт для создания дипфейков или программы для их обнаружения? Чтобы ответить на эти вопросы, необходимо разобраться в механизме, который генерирует дипфейки, — в генеративно-состязательных сетях (GAN — generative adversarial networks).

ГЕНЕРАТИВНО-СОСТЯЗАТЕЛЬНЫЕ СЕТИ (GAN)

Дипфейки базируются на технологии, называемой генеративными состязательными сетями. Как следует из названия, GAN — это пара «состязательных» нейронных сетей глубокого обучения. Первая сеть, генератор, пытается создать что-то, что выглядит реалистично (скажем, синтезированное изображение собаки), основываясь на миллионах изображений собак.

Вторая сеть, дискриминатор (сеть-детектив), сравнивает синтезированное изображение собаки из первой сети с подлинными изображениями собаки и определяет, является ли выход генератора подлинным или фальшивым.

Основываясь на обратной связи от дискриминатора, генератор переобучается так, чтобы в следующий раз обмануть дискриминатор. Он самокорректируется, минимизируя «функцию потерь», то есть различия между сгенерированным и реальным изображением. Затем переобучается и дискриминатор, и ему становится легче распознавать фейки — «функция потерь» максимизируется. Эти два процесса повторяются миллионы раз; обе сети совершенствуют свои навыки до тех пор, пока не возникает устойчивое равновесие.

Первая статья о GAN была опубликована в 2014 году. Ее автор Ян Гудфеллоу показал, как генератор сначала создал симпатичную, но явно фейковую «собаку-мячик», которую дискриминатор мгновенно обнаружил, и как первая сеть постепенно научилась создавать фейковые изображения собак, неотличимые от реальных. С тех пор эту технологию применили к видео, речи и многим другим типам контента, в том числе и для создания печально знаменитого видео Обамы, о котором я упомянул ранее.

Можно ли обнаружить дипфейки, созданные GAN? Из-за их относительно рудиментарной природы и ограничений современных вычислительных мощностей большинство дипфейков сегодня обнаруживаются алгоритмами, а иногда и видны невооруженным человеческим глазом.

Facebook и Google уже вступили в состязание по разработке софта для обнаружения дипфейков. Эффективные детекторы дипфейков можно создать и сегодня, но это требует огромных вычислительных мощностей, что является весьма серьезной проблемой, если на ваш веб-сайт ежедневно загружаются миллионы видео и фото.

Однако в долгосрочной перспективе наибольшая сложность состоит в том, что GAN оснащена встроенным механизмом для апгрейда сети-генератора. Допустим, вы обучили генератор GAN, а кто-то другой придумал новый алгоритм для обнаружения вашего дипфейка. Вы можете просто переобучить генератор GAN, чтобы обмануть этот алгоритм-дискриминатор. Так начинается что-то вроде гонки вооружений — каждая из сторон старается переобучить лучшую модель на еще более мощном компьютере.

В нашем рассказе более ранний ролик (про мальчика-вампира) Амака изготовил с помощью относительно простых инструментов в интернет-кафе, на минимальных вычислительных мощностях. Видео получилось достаточно хорошим, чтобы обмануть людей; в 2041 году фейковые видео были уже вполне убедительными, чтобы люди не отличали их от реальных.

Однако видео не смогло обмануть GAN-детектор сайта, на котором его разместили (его обучали с использованием гораздо больших вычислительных мощностей), поэтому оно впоследствии было удалено с сайта и заблокировано.

А позже Чи предоставил Амаке мощный компьютер для обучения сложной GAN, умеющей генерировать не только лицо, но и кисти рук, пальцы, походку, жесты, голос и мимику. Кроме того, эта GAN обучалась на огромном количестве данных, доступных в сети по такой знаменитости, как Репо — мишень Амаки. В результате Амака сумел обмануть все обычные детекторы дипфейков.

Представьте себе ювелирный магазин с пуленепробиваемыми витринами, способными защитить от любых видов стрелкового оружия. Но если у преступника будет ручной противотанковый гранатомет (РПГ), никакое пуленепробиваемое стекло перед ним не устоит. Так что все дело в мощности компьютера.

К 2041 году антидипфейковые программы станут похожими на сегодняшний антивирусный софт. Правительственные, новостные и другие сайты, для которых достоверность информации критически важна, не потерпят фальшивого контента и потому будут устанавливать высококачественные детекторы дипфейков, предназначенные для выявления подделок с высоким разрешением, которые, в свою очередь, создадут крупные сети GAN, обученные на мощнейших компьютерах.

Сайты со слишком большими объемами видео- и фотоматериала (например, Facebook и YouTube) столкнутся с проблемой высокой стоимости сканирования всего загружаемого контента с помощью высококачественных детекторов дипфейков, поэтому они, скорее всего, начнут использовать для всего медиаконтента детекторы низкого качества, а более качественный софт применять, только когда популярность видео или изображения покажет экспоненциальный рост.

Поскольку фейковое видео Амаки должно было стать вирусным, его нужно было обучить на самом мощном компьютере с наибольшим объемом данных, чтобы его не могли обнаружить самые качественные антидипфейковые детекторы.

Следует ли считать цель стопроцентного обнаружения дипфейков безнадежной? В очень долгосрочной перспективе это может стать возможным благодаря применению совершенно другого подхода — аутентификации каждой фотографии и видео, когда-либо снятых каждой камерой или телефоном, с использованием в момент съемки технологии блокчейн (она гарантирует, что оригинал не изменялся).

Тогда любое фото, загруженное на сайт, должно будет сопровождаться блокчейн-авторизацией. Такой процесс действительно сделает дипфейки невозможными. Однако к 2041 году такой апгрейд еще будет немыслим — ведь для этого требуется, чтобы технология блокчейн использовалась абсолютно на всех устройствах (точно так же, как сегодня все AV-ресиверы используют Dolby Digital), и она должна стать достаточно быстрой для обработки данных в огромных масштабах.

Мы надеемся, что пока у нас нет такого долгосрочного решения, основанного на блокчейне или аналогичной технологии, инструменты для обнаружения дипфейков будут постоянно совершенствоваться. А поскольку они вряд ли будут идеальными, нам также потребуются законы, жестко наказывающие за создание злонамеренных дипфейков и тем самым сдерживающие пыл злоумышленников.

Так, в 2019 году в Калифорнии приняли закон, запрещающий использование дипфейков для порно и для манипуляций с видео с политическими кандидатами в преддверии выборов. Нам, по всей вероятности, потребуется научиться жить в новом мире (до тех пор пока не заработает блокчейн-решение), в котором любой онлайн-контент, независимо от его реалистичности, должен подвергаться сомнению.

Следует также отметить, что помимо создания дипфейков GAN можно использовать для вполне конструктивных задач — «состаривания» или «омоложения» фотографий, раскрашивания старых черно-белых фильмов и фото, создания анимированных живописных полотен (например, Моны Лизы). Можно увеличивать разрешение фотографий, обнаруживать глаукому, прогнозировать последствия изменения климата и даже изобретать новые лекарства.

Так что не стоит думать о GAN только в связи с дипфейками — как в случае с большинством новых прорывных новшеств, позитивные способы применения этой технологии со временем наверняка превзойдут по численности негативные.

ВЕРИФИКАЦИЯ ЛЮДЕЙ С ПОМОЩЬЮ БИОМЕТРИИ

Биометрия — это область изучения физических характеристик человека с целью их дальнейшего использования для проверки и подтверждения личности. То, как сложная GAN использовалась в рассказе «Боги под масками», представляет собой одну из форм биометрической верификации. Там GAN объединяла важные признаки, включая распознавание лиц, походки, геометрии ладоней и пальцев, идентификацию говорящего, распознавание вен и жестов.

В реальности биометрия обычно применяется в режиме реального времени с помощью специальных датчиков, а не путем извлечения необходимых данных из видеозаписи, как это показано в нашем рассказе. Например, радужная оболочка человеческого глаза и отпечатки пальцев уникальны для каждого человека и идеально подходят для проверки личности.

Распознавание радужной оболочки глаза считается наиболее точным методом биометрической идентификации. Чтобы верифицировать личность таким способом, глаза объекта фотографируют в инфракрасном свете, а снимок сравнивают с радужной оболочкой человека, которого проверяют.

Распознавание отпечатков пальцев — также чрезвычайно точная методика. Однако и в том и в другом случае требуется согласие объекта и специальное оборудование с датчиками ближнего действия[30], поэтому в ситуации с видеозаписями из нашей истории эти методы использовать было бы невозможно.

Последние достижения в области глубокого обучения и GAN продвинули область биометрии далеко вперед. Получив любой биометрический параметр (например, голос или лицо), ИИ уже сегодня превосходит людей в деле верификации или распознавании личности. А в ситуациях, когда есть возможность собрать и объединить множество признаков, точность, по сути, будет абсолютной.

К 2041 году ИИ, без всяких сомнений, возьмет на себя рутинную задачу по распознаванию и верификации людей. Я также берусь утверждать, что в следующие двадцать лет использование интеллектуальной биометрии для уголовных расследований и криминалистики позволит нам раскрывать гораздо больше преступлений и существенно снизит уровень преступности.

БЕЗОПАСНОСТЬ ИИ

Как известно, по ходу технического прогресса возникают новые области уязвимости и повышаются риски безопасности для всех вычислительных платформ: вирусы — для ПК, кража личных данных — для кредитных карт, спам — для электронной почты. А поскольку ИИ все больше становится мейнстримным явлением, ему тоже не избежать атак на особенно уязвимые места. И дипфейки — это лишь один из множества вариантов.

Уязвимым местом ИИ являются границы, разделяющие его решения, которые можно примерно оценить и использовать для маскировки входных данных, заставляя ИИ ошибаться. Например, один исследователь разработал солнцезащитные очки. Если их надеть, ИИ верифицирует тебя как Миллу Йовович. А другой наклеил на дорогу стикеры, и автопилот Tesla Model S сменил полосу движения и выехал на встречную полосу.

В самом начале нашего рассказа Амака использует маску, чтобы обмануть систему распознавания лиц на вокзале. Так вот, маскировка такого типа очень пригодилась бы военным — только представьте, что танк можно замаскировать под, скажем, машину скорой помощи!

Еще один тип атаки называется отравлением (poisoning). Процесс обучения ИИ намеренно искажается за счет загрязнения обучающих данных, обученных моделей или самого процесса обучения. Это приводит к систематическому отказу ИИ в целом или к тому, что контроль над ИИ могут получить злоумышленники.

Только представьте себе боевые дроны, взломанные и перенаправленные террористами на их создателей! Такие атаки хуже обычного хакерства: ИИ-модели отладить очень нелегко, они представляют собой чрезвычайно сложные уравнения, имплементированные в тысячах слоев нейронных сетей, а не в детерминированном компьютерном коде.

Впрочем, несмотря на многие проблемы и трудности, мы уже сегодня можем предпринять некоторые меры: усилить безопасность среды обучения и исполнения; создать инструменты для автоматической проверки на наличие признаков отравления и разработки технологий, специально предназначенных для борьбы с подделкой данных.

Нам удалось с помощью технологических инноваций в основном преодолеть проблему спама и компьютерных вирусов, вот и безопасность ИИ обязательно будет усиливаться, хотя, конечно, время от времени атаки на него все же неизбежны (точно так же, как мы по-прежнему периодически подвергаемся атакам спама или вирусов).

Уязвимость, порождаемую техническим прогрессом, всегда устраняли или как минимум ослабляли благодаря новым технологическим решениям.

Глава 3. Воробьи-близнецы

Мы оба, милый друг, солнце и луна, море и суша.

Цель не в том, чтобы слиться друг с другом,

а чтобы познать друг друга и научиться видеть

и уважать в другом то, чем он является:

противоположность и дополнение другого.

Герман Гессе, «Нарцисс и Златоуст»

РАССКАЗ ПЕРЕВЕДЕН БЛЭЙКОМ СТОУН-БЭНКСОМ

Примечание Кай-Фу: В этой истории исследуется будущее образования, основанного на искусственном интеллекте. В ней мудрые ИИ-учителя, замаскированные под виртуальных друзей, помогают двум корейским сиротам-близнецам реализовать их человеческий потенциал. Благодаря направлению ИИ под названием «обработка естественного языка» (ОЕЯ), которое, по моим оценкам, готово к стремительному росту уже в ближайшее десятилетие (включая способность ИИ самообучаться языкам), эти ИИ-компаньоны умеют свободно разговаривать на человеческом языке. Сможет ли ИИ достичь к 2041 году уровня полноценного человеческого интеллекта? Я отвечу на этот вопрос в анализе-комментарии. Я также опишу недавние прорывы в области ОЕЯ, такие как алгоритм GPT-3 и другие успехи в стремлении ИИ понять язык.

— Да, погода сегодня шикарная, — завела светскую беседу Ким Чи Юн, директор закрытой школы-интерната «Источник». С посетителями, дорого и нарядно одетыми супругами Пак — Чжун Хо и Хе Джин, она была хорошо знакома. Кабинет и вправду заливало солнце, через арочные окна хорошо просматривался школьный двор.

— Я уверена, вам известно, что наши ресурсы очень ограничены, — перешла к делу директриса (ее тут называли Мама Ким). — Мало кто беспокоится, на какие средства заведения вроде нашего должны раскрывать таланты воспитанников. Но мы в «Источнике» стараемся восполнить этот пробел. У нас своя технология, и мы ее запатентовали. Мы обеспечиваем развитие детей, учитывая их потенциал, сколько бы времени они ни оставались с нами. Ой, да что это я — вы же отлично все это знаете.

Чжун Хо откашлялся:

— Мы с Хе Джин большие поклонники ваших достижений, именно поэтому наш фонд Delta Foundation так щедро вас поддерживает. Но сегодня мы к вам не как члены попечительского совета.

Он бросил быстрый взгляд на жену, Хе Джин подбодрила его ответным взглядом и кивнула.

— Видите ли, — продолжил Чжун Хо, — мы с Хе Джин решили усыновить ребенка.

— Неожиданно! — Мама Ким обрадовалась. — Вы кого-то присмотрели?

— Они все кажутся замечательными, — включилась Хе Джин, — но нас заинтересовали мальчики-близнецы.

— Воробьи, Золотой и Серебряный… — протянула Мама Ким и понизила голос. — Вы в курсе, что для усыновления двоих семейную экспертизу придется пройти дважды?

— Да, но нас это не беспокоит, — голос Джун Хо не дрогнул.

Мама Ким проводила Паков в светлую просторную гостиную с пушистым ковром на полу. Вскоре в комнату привели двух шестилетних мальчиков. Их можно было бы принять за клонов: одинаковые темные вьющиеся волосы, тонкие изогнутые брови, немного поджатая верхняя губка и прелестные веснушки на носу — разной была только одежда. Кроме нее, Паки в первый момент не заметили между близнецами никакой разницы.

Чжун Хо и Хе Джин поднялись навстречу детям, но мальчишки среагировали совершенно по-разному. Один шагнул навстречу, другой отступил подальше и забился в угол.

— Золотой Воробей, Серебряный Воробей, — обратилась к воспитанникам Мама Ким. — Это Чжун Хо и Хе Джин Пак. Они хорошие друзья нашей школы. Они хотят с вами познакомиться.

— Здравствуйте, Чжун Хо. Здравствуйте, Хе Джин, — вежливо кивнул мальчик, что был побойчее. — Вы хотите забрать нас к себе?

Чжун Хо и Хе Джин улыбнулись и переглянулись — они не ожидали столь прямого вопроса от ребенка и не были готовы ответить.

А мальчик в углу молчал. Он опустил голову и старательно выводил ногой спираль на ковре.

— Хочешь, угадаю, кто ты? — Хе Джин присела, чтобы оказаться на одном уровне с разговорчивым парнишкой. — Ты — Золотой Воробей. Так ведь?

— Чего тут гадать-то?! — довольно резко отреагировал на такое откровенное заигрывание парнишка. — Мы — однояйцевые близнецы с геномными данными, различающимися только в одной последовательности из миллиона. На самом деле мы разные.

Развернутый научный ответ не по годам развитого шестилетнего крохи ошарашил Чжун Хо и Хе Джин.

— Ну, а как вообще у тебя дела? — Чжун Хо не смог быстро переключиться со взятого женой, видимо, все-таки неверного тона. — Во что ты любишь играть?

— Я не люблю играть, — не повелся на сюсюканье Золотой Воробей. — Я предпочитаю соревноваться.

— Ух ты! И в чем же ты соревнуешься?

— Лично я могу соревноваться в чем угодно. С помощью Атомэна я недавно победил на конкурсе дизайнеров.

— Атомэна? — переспросил Чжун Хо.

— Это ИИ-компаньон Золотого Воробья, — объяснила Мама Ким. — В нашей школе такой есть у каждого ребенка, его предоставляет система vPals, «виртуальные приятели». Компаньоны помогают воспитанникам справляться с расписанием, делать уроки и даже играют с ними.

Пока Мама Ким объясняла, в XR-очках Чжун Хо вспыхнуло приглашение к обмену данными — это постучался Золотой Воробей. Посетитель его, похоже, заинтересовал. Чжун Хо повел глазами: «ОК». Силуэт мальчика в XR-поле засветился красным, вокруг замерцало пиксельное пламя. Оно стремительно преобразовывалось, пока не превратилось в красного робота с угловатым контуром. От фигуры веяло агрессией, во все стороны летели яркие искры — и Чжун Хо шутливо вскинул руки: «Сдаюсь!»

— Вот, это мой лучший друг Атомэн, — Золотой Воробей торжествовал. Пока все происходило как он хотел — взрослый дяденька полностью подчинился.

А Серебряный Воробей исподлобья наблюдал за происходящим, так и не выбравшись из своего угла.

Хе Джин шагнула к молчащему мальчику:

— Ну, а как зовут твоего ИИ-компаньона?

Серебряный Воробей не ответил. Хе-Джин наклонилась, протянула руку — хотела подбодрить. Мальчишка отпрянул, и тут Хе Джин разглядела особую примету: на правом веке Серебряного Воробья виднелся малюсенький шрам в форме лепестка розы.

Бойкий Золотой Воробей опять подал голос:

— Его ИИ-компаньонку зовут Солярис. По мне, так это просто какой-то мешок соплей, настоящее позорище.

Серебряный Воробей впервые с момента появления в комнате поднял голову, бросил на брата испепеляющий взгляд и тут же опять отвел глаза.

— Солярис — не мешок соплей! — выкрикнул он.

— Да точно мешок соплей! Ты просто дурак и этого не понимаешь, а у тебя самого изо рта вечно воняет соплями!

Серебряный Воробей немедленно пришел в ярость, и в сторону брата полетели отборные ругательства. Мама Ким немедленно подала знак, и мальчиков увели, пока ситуация совсем не вышла из-под контроля. Стало тихо, но общее молчание было очень неловким.

— Как видите, близнецы очень разные, — принялась оправдываться директриса. — Но оба замечательные. Итак…

— Да уж, впечатляюще, — Чжун Хо пытался осознать увиденное, говорил с Мамой Ким, но смотрел при этом на жену. — Нам, пожалуй, нужно подумать. Мы с супругой все обсудим и с вами свяжемся.

Небо уже потускнело. Во дворе зажглись фонари. Роскошный автомобиль увозил чету Паков — следом летели опавшие листья, которые не успели убрать с дорожки кампуса. Мама Ким одновременно ощутила облегчение и сожаление.

Ей не требовалось слышать, что решат усыновители, она и так это знала. Выбор любой пары, твердо, как Паки, придерживающейся принципов рациональности и эффективности, был бы таким же. Мама Ким не ошиблась — через неделю они пришли забрать Золотого Воробья. Без Серебряного.

Три года назад, зимней снежной ночью, во двор школы «Источник» медленно въехал фургон управления соцобеспечения. Два дрожащих близнеца вцепились в сопровождавшую их медсестру, и Мама Ким с трудом сумела разжать детские ручонки. Дети из-за толстых пуховиков казались еще меньше, чем были на самом деле — просто какие-то две заснеженные сосновые шишки, готовые вот-вот упасть с дерева.

Несколько часов назад родители малышей погибли в автокатастрофе. Их отец по какой-то неведомой причине отключил автопилот, и машина потеряла управление на обледенелой дороге. Автомобиль пробил ограждение и рухнул с десятиметрового обрыва. Супруги, сидевшие впереди, погибли мгновенно. Детей — двух трехлетних мальчиков-близнецов — спасатели извлекли с заднего сиденья. На одном не было ни царапины, у второго — небольшая ссадина на правом веке.

Полиция и социальные службы попытались отыскать родственников сирот — безуспешно. Позвонили в интернат Маме Ким, и она велела их везти — была уже ночь, дети маленькие, что-то решать надо срочно. Мама Ким отвела братьев в тепло, раздела, подогрела молока. Проголодавшиеся малыши схватили по чашке. Они старались не облиться и не подавиться, но один шумно прихлебывал, а второй пил медленнее и осторожнее — в общем, оба занялись делом. На их лица стал постепенно возвращаться румянец.

— Надо же! Ну точно нахохлившиеся воробьишки, — умилилась Мама Ким. — Золотой Воробей и Серебряный Воробей. Как вам такие новые имена? Ну, кто из вас какой?

Будущий Золотой Воробей протянул директрисе опустевшую чашку, продемонстрировав молочные усы и широкую улыбку.

— Разве это не счастье? — продолжала рассуждать вслух Мама Ким. — Думаю, ты у нас будешь Золотым Воробьем.

Серебряному Воробью не осталось выбора, но это его, казалось, совершенно не тронуло. Он еще не осилил и половины молока — а оно уже совсем остыло. Малыш безучастно смотрел в чашку, крепко держал ее двумя руками, и происходящее вокруг его абсолютно не занимало.

Учеба близнецов в «Источнике» пошла неплохо, но вот эмоционально детям пришлось нелегко. Золотой Воробей очень скучал по маме, поэтому иногда принимался громко рыдать. Серебряный тоже иногда плакал, но тихо — он только молча утирал слезы.

Если выдавалось свободное время, Мама Ким и другие сотрудники интерната старались уделить близнецам внимание и частенько укладывали их спать — пели колыбельные, как папа или мама, старались обнять и утешить. Золотому Воробью это нравилось, Серебряный, в отличие от брата, противился любому прикосновению. Впрочем, мальчик так же старательно избегал и зрительного контакта.

Опытная Мама Ким сразу отметила про себя нетипичное для ребенка такого возраста поведение Серебряного Воробья.

В облачном хранилище социальной службы нашлись медицинские карты и поведенческие данные братьев, и это позволило без проблем включить их в соответствующую школьную систему. Как выяснилось, поведение Серебряного Воробья не было последствием психологической травмы, полученной в аварии, точно так же странно он вел себя еще до трагедии и до поступления в «Источник».

Золотой Воробей сразу проявил себя как авантюрный и импульсивный; привычки и поступки Серебряного, казалось, были кем-то запрограммированы. В медкарте обнаружилась пометка: малыш еще только учился ходить, но двигался по детской практически всегда по одной и той же траектории.

Когнитивных нарушений, гиперактивности, эпилепсии или чего-то подобного у Серебряного Воробья врачи не выявили и объявили его просто невероятно тихим ребенком, погруженным в собственный мир. Серебряный мог целыми днями не шевелясь смотреть на что-нибудь движущееся, особенно его привлекали вращающиеся лопасти вентилятора. Однако медицинский искусственный интеллект проанализировал взгляд, мимику, голос, жесты ребенка и заключил: с вероятностью 83,14 процента у мальчика РАС — расстройство аутистического спектра, синдром Аспергера.

Как педагог Мама Ким изучила массу данных о таких детях. Она проштудировала обширные клинические данные и знала: у них формируются отличные от обычных детей паттерны мышления и когнитивного функционирования. Многие особенности, проявившиеся в раннем детстве, остаются на всю жизнь. Таким детям, чтобы они стали максимально похожи на обычных, как правило, рекомендуют индивидуальную методику обучения.

Однако лично Мама Ким считала, что ребенка с синдромом Аспергера совсем не обязательно стараться сделать нормальным. Как любое дитя в мире, он нуждается только в одном — возможности стать наилучшей версией самого себя.

Когда близнецы немного освоились в школе, Мама Ким привела их в комнату с компьютерами и другими хитрыми приборами. Она сказала мальчикам, что сейчас каждому из них сделают «волшебного друга».

Среди персонала «Источника» была колоритная парочка: стройная симпатичная Сун и пухлый Гван. Оба — здешние выпускники, друзья еще со школьных времен. Мама Ким предложила им остаться в альма-матер, и теперь они обслуживали ИТ-систему интерната и обеспечивали разнообразную техническую поддержку.

Гван просканировал тела братьев и создал каждому цифрового компаньона, связав полученные ИИ-объекты с личными данными мальчиков в облачном хранилище. Сун аккуратно прикрепила к запястьям детей мягкую биоленту, чтобы в режиме реального времени записывать их физиологические и поведенческие данные и тоже синхронизировать их с облаком. Мама Ким присутствовала и внимательно наблюдала за манипуляциями.

Сун надела на близнецов гибкие смарт-очки особой, «детской» формы — они дополнительно укреплялись на ушах, поэтому не могли случайно свалиться. В снятом и сложенном состоянии очки выглядели обычно, однако были оснащены XR-оверлеем — графической накладкой для расширенной реальности, поэтому легко превращались в полноценные XR-очки, только детского размера.

Золотой Воробей взвизгнул от восторга и сразу встал в воинственную позу «луч смерти» — точь-в-точь как Атомэн, любимый аниме-супергерой. Серебряный Воробей еще долго нервно ощупывал запястья и уши, и выражение лица у него было такое, словно на него нацепили каких-то ядовитых гусениц.

— А теперь выберите голос, который вам нравится, — Сун настроила vMirror, прибор, напоминающий зеркало. Через XR-слой смарт-очков мальчики увидели появившийся в vMirror интерфейс. А Сун теперь видела то же, что и дети.

Близнецы могли взаимодействовать с виртуальным образом — говорить с ним, жестикулировать или корчить рожицы. Взрослые это называют «создавать и изменять любой контент». Виртуальное зеркало VMirror служило инструментом взаимодействий с искусственным интеллектом «Источника».

Сун взяла мальчиков за руки и показала, как заставить их персональных компаньонов заговорить. Регуляторы были интуитивно понятны, и четырехлетние малыши быстро их освоили. Золотой Воробей определился быстро — его ИИ-компаньон, будущий Атомэн, получил героический хрипловатый баритон.

Серебряный Воробей выбирал долго, пока не остановился на мягком и нежном женском голосе, напоминавшем о маме.

— Теперь решим, как станут выглядеть ваши ИИ-партнеры. Лепите что захотите, — и Сун дала каждому по полупрозрачному комку, напоминавшему мячик или кусок пластилина.

Золотой Воробей немедленно схватил и принялся мять свой пластичный комок — vMirror, реагируя на жесты мальчика, «лепило» виртуального ИИ-партнера. Он становился похож то на жука, то на рыбу, то вообще на какую-то недоразвитую панду. Серебряного Воробья происходившее пугало, но и вызывало любопытство, поэтому он исподтишка наблюдал за братом.

Золотой Воробей увлекся и не замечал ничего вокруг. Наконец «мяч» превратился в маленького красного Атомэна — мальчик удовлетворился его видом и больше не стал ничего менять. Виртуальный супергерой потянулся, дрыгнул ногами и поприветствовал Золотого Воробья, назвав по имени. Мальчик завопил от восторга и захлопал в ладоши, сразу признав своего виртуального приятеля.

— Ну, Серебряный Воробей, теперь ты, — Сун поторопила второго мальчика. Серебряный Воробей вгляделся в свое отражение в виртуальном зеркале, отпрянул и едва слышно прошептал: «Я… Я не хочу».

Мама Ким наклонилась, стараясь даже случайно не задеть мальчика.

— Ты не хочешь, чтобы у тебя был собственный друг? И чтобы тебе всегда было, с кем играть? Вы все сможете делать вместе, он станет тебе помогать…

— Я не… Это уродство! — Серебряный Воробей отбросил пластичный комок и поджал губы.

Все, кроме Золотого Воробья, от неожиданности засмеялись. Золотой Воробей занимался своим Атомэном и ничего не слышал.

— Давай так поступим, — нашлась Мама Ким. — Пусть у твоего компаньона будет пока только голос. Хорошо? А когда ты придумаешь, как он должен выглядеть, то сможешь придать ему любую форму. Годится?

Большинство людей при первом взгляде на Золотого и Серебряного Воробьев видели абсолютные — пиксельные — копии. Но вскоре наблюдатель замечал, что мальчики сильно различаются.

Контрастировали даже аватары их виртуальных друзей (их называли в школе vPals). Любой посетитель «Источника» замечал в общедоступном XR-слое ярко-красное пламя ИИ-компаньона Золотого Воробья, через год обретшего совершенно четкий облик — это был грозный Атомэн.

Вдохновленный обожаемыми ретромультиками, мальчик придал базовой форме Атомэна вид игровой приставки Nintendo Famicom образца 1985 года. Красно-белое устройство, бешено вращаясь, трансформировалось в крутого красного робота-супергероя.

Золотой Воробей и Атомэн стали неразлучны:

— Эй, я сделал домашку, давай погоняем в машинки! — кричал Золотой Воробей виртуальному приятелю.

— Ну нет, — мог, однако, ответить Атомэн, — у тебя многовато ошибок. Видишь, сколько красных пометок? Можно сделать лучше. Так что сначала пара-тройка упражнений, а потом гонка. Обещаю.

— Ф-у-у, опять?! Да ты зануднее любой училки!

Золотой Воробей обижался, злился, надувался и пыхтел, но понимал: все равно придется сделать то, что предлагает Атомэн. У мальчика с ИИ-компаньоном было полное взаимопонимание. Связь основывалась прежде всего на продуманной системе вознаграждений и наказаний, применяемой Атомэном, однако немалую роль играло и полное доверие Золотого Воробья виртуальному другу.

Атомэн всегда был рядом: он помогал, если возникали какие-нибудь проблемы, участвовал в играх — и подопечный ощущал себя значимым и нужным. Золотой Воробей, естественно, изо всех сил старался оправдать ожидания Атомэна. Когда это удавалось, шестеренки на теле робота начинали бешено крутиться, а красные огоньки — мигать. Так Атомэн выражал восторг.

ИИ-партнер внимательно наблюдал за реакциями Злотого Воробья, поэтому Атомэн эволюционировал в соответствии с его адаптивными vPals-алгоритмами. ИИ-партнер заметил, что мальчик чрезвычайно азартен, учится гораздо быстрее и лучше, когда есть конкуренция. И Атомэн стал подбивать Золотого Воробья на соревнования, связанные с учебой.

В «Источнике» эту яркую парочку знали все. Они часто придумывали разные конкурсы: по орфографии, географии, киберспорту и так далее. Дуэт устраивал розыгрыши и шалил. Однажды Золотой Воробей подбил Атомэна перепрограммировать старых роботов-уборщиков, найденных в кладовке, — и те открыли охоту на ничего не подозревающих сотрудников школы. А вирус «Лицо-призрак», запущенный в школьную компьютерную сеть, заставил компьютеры по секретной команде подменять смешными рожицами учебные задания по разным предметам, выведенные на дисплеи.

Сун и Гвану приходилось ликвидировать эти безобразия — чаще они веселились, но иногда раздражались. Виновник всегда был один, так что скоро они даже перестали поднимать логи — и так ясно, что это проделки Золотого Воробья и Атомэна. Однако все эти шалости полностью вписывались в изначальный замысел Мамы Ким.

Близнецы относились к первому поколению, вплотную столкнувшемуся с искусственным интеллектом в столь юном возрасте, и большинство их ровесников, судя по всему, отлично нашли общий язык со своими виртуальными компаньонами.

Но Серебряный Воробей очень отличался от сверстников.

Нескольких месяцев его «виртуальный приятель» оставался бестелесным голосом. Через девять месяцев после знакомства с системой vPals Серебряный Воробей наконец создал аватар для своего ИИ-партнера — это обнаружила Сун, когда синхронизировала журналы управления. Партнер Серебряного Воробья походил на амебу — он остался полупрозрачным и менял форму в зависимости от ситуации.

Аватар мог вытянуть щупальца или медленно течь, подобно густой жидкости. Серебряный Воробей много читал, книги часто совершенно не подходили для его возраста. Он назвал свою компаньонку «Солярис» — в честь известного польского научно-фантастического романа.

Никто даже не догадывался, что у странного мальчика появился ИИ-партнер — тоже странный и нежный. Серебряный Воробей частенько просил Солярис обвить его всего ее полупрозрачным телом. XR-слой не обеспечивал подлинных тактильных ощущений, но знание, что почти невидимая Солярис оберегает его, укрывает его тело своим, давало Серебряному Воробью необходимое ощущение защищенности.

С появлением ИИ-партнера Серебряный Воробей стал еще более безразличен к происходящему в школе. Он по необходимости перемещался по зданию, но, добравшись до нужного места, сворачивался в виртуальную куколку. Он все время бормотал, будто какой-то сказочный маг, — нашептывал своей ИИ-компаньонке вопросы и инструкции. Они отображали лишь внутренний мир самого Серебряного Воробья — ничего общего с другими школьниками.

Рабочее место Сун находилось за шумной комнатой для игр и активных занятий. Пересекая ее, девушка каждый раз открывала для себя какие-то удивительные новые навыки и умения учеников, появившиеся благодаря их ИИ-друзьям. Но всегда — без изменений — в одном и том же углу Сун видела одинокую фигурку Серебряного Воробья. Он сидел недвижно, уставившись на обои.

Сун знала: мальчик любит природу, поэтому она часто подбирала листья, перья, веточки — просто, проходя через игровую, клала с ним рядом. Однажды Сун принесла сухую сосновую шишку, и вдруг Серебряный Воробей заговорил.

— Какая красивая!

— Шишка? — немедленно отозвалась Сун, хотя и слегка вздрогнула от неожиданности. — Нравится? Правда, классная?

— Смотри, как разворачиваются спирали… Идеальная последовательность Фибоначчи… Священная геометрическая роза…

Сун не нашлась, что сказать — ее поразил словарный запас, да и понятия были мальчику явно не по возрасту.

— Это же фрактал[31], — Серебряному Воробью не было дела до реакции Сун, он продолжал говорить о шишке, и его губы растянулись в улыбке. Для девушки это было как солнечный лучик, пробившийся сквозь плотные облака.

— Ну конечно, фрактал! — с искренним восторгом подтвердила Сун: Серебряный Воробей наконец-то дошел до уровня предметного общения с кем-то, кроме себя самого или своего ИИ-партнера!

Сун села рядом, запустила пальцы в серый ворс ковра. Серебряный Воробей неотрывно смотрел на ее руку.

— Я расскажу тебе один секрет, — тихонько заговорила Сун. — Когда мне было столько лет, сколько тебе сейчас, мне всегда казалось, что я делаю что-то не так. Родители привезли меня в эту школу и уехали. Мне казалось, меня наказали, только я не знала, за что. Меня будто посадили в клетку и держали подальше от остального мира.

Серебряный Воробей не шевелился — девушка не могла понять, слышит он ее или нет.

— Однажды Мама Ким сказала мне, — Сун все-таки решила продолжить, — что не все отцы и матери могут быть родителями и что я тут оказалась не по своей вине. И я поняла: если мне что-то кажется, то не обязательно все так и есть на самом деле. И от этого дверца моей клетки вдруг открылась.

Сун пропустила момент, когда Серебряный Воробей перевел взгляд с ковра на ее лицо.

— Ты умный и добрый, тебя все уважают, — девушка только увидела, что он внимательно на нее смотрит. — Может, и тебе попробовать выглянуть из клетки? Расскажи кому-нибудь о том, что тебе очень нравится, подружись с кем-нибудь. Возможно, мир станет для тебя интереснее.

Серебряный Воробей опять смотрел на ковер и что-то бормотал. Сун вздрогнула — неужели она разрушила чары их мимолетного контакта? Но тут вспыхнул запрос на передачу данных — от Серебряного Воробья. Она немедленно без колебаний согласилась.

Неистовый полупрозрачный видеопоток залил XR-поле Сун. Различные форматы, разрешения, фрагментированные источники — все сплелось в сложном ритме времени и пространства. Образы смешивались, перекрывались, захлестывали визуальным водоворотом. Разобрать хоть что-то удалось только через несколько секунд.

Сун увидела множество разрозненных образов: горы; реки; озера; облака; туманности; десятикратно увеличенные прожилки растений; микроструктуры химических соединений; ускоренную съемку экспериментов в аэродинамической трубе; кадры из фильмов «Звездный путь» и даже повседневную жизнь их школы. Но большая часть была совершенной абстракцией или чем-то незнакомым — львиную долю увиденного программистка не сумела бы описать словами.

Сун машинально прибавила громкость в наушниках и услышала мягкий шум — как будто напор струйки воды менялся вслед за ритмом визуального потока.

Девушка сощурилась — так она лучше видела Серебряного Воробья, сидевшего напротив, и вдруг поняла, что это за странный звук. Серебряный Воробей мог открывать и закрывать глаза, но не уши — для таких, как он, чрезмерная сенсорная стимуляция бывает совершенно физически невыносимой.

— Ты это сам сделал? Потрясающе!

Нижняя губа Серебряного Воробья дрогнула несколько раз — наверное, это была улыбка, и в ухе Сун раздался четкий звуковой сигнал.

— Это была Солярис.

Сун на мгновение онемела — даже ей порой почти невозможно понять этих современных детей с их ИИ-друзьями.

— А почему бы тебе не поделиться своими работами с другими детьми?

— Поделиться? Ты имеешь в виду подарить? — Серебряный Воробей моргнул.

— Не обязательно подарить, можно поделиться другим способом. Но и подарить тоже можно — в знак дружбы или на память. Помнишь, как Томми дарил фигурки-оригами разных животных, внутри которых написал имена?

Серебряный Воробей молчал. Сун подумала, что совершила ошибку и исчерпала свое везение в общении с этим непростым ребенком. Однако через неделю на ее мейл пришел видеострим. Сун открыла послание и увидела свое лицо, которое стало трансформироваться — сначала превратилось в прекрасные цветы, потом в облака, в волны, а закончился цикл опять ее лицом. Над изображением завораживающе-ритмично, гипнотизирующе пульсировали буквы:

И тогда дверь клетки открылась… И тогда дверь клетки открылась… И тогда дверь клетки открылась.

Поток эмоций — радость, облегчение, смутный страх — накрыл Сун. Она переслала видеострим Маме Ким — что директор скажет по этому поводу? Та откликнулась почти немедленно.

— Персонализированную версию этого стрима получили все в школе, и я в том числе, — сообщила Мама Ким. — Все получили — кроме… Угадай, кого?

— Золотого Воробья?

— Точно! Надеюсь, он не решит, что брат намеренно его игнорирует, но придется держать ухо востро и не упускать близнецов из виду.

— Я уговорила Серебряного Воробья поучаствовать в сеульском конкурсе «Художники будущего», он в группе U-6, у него есть реальный шанс.

— И в этом конкурсе безумно хочет победить Золотой Воробей? Н-да, кажется, намечается шоу.

Сун еще раз запустила послание от Серебряного Воробья. Она могла оценить как профи — видео почти волшебное, непередаваемо высокого технического качества. Оно почти вводило в транс. Программистке потребовалось минут десять, чтобы, собрав волю в кулак, оторваться от стрима и заняться работой.

Прошло полгода, как Паки усыновили Золотого Воробья. В «Источник» опять прибыли гости. Дети играли на зеленой лужайке кампуса, гонялись друг за дружкой и совершенно не обратили внимания на прибывших.

Мама Ким заметила их автомобиль издалека и вышла на крыльцо. Двух мужчин она поджидала с вежливой улыбкой. Директор знала — в отличие от Паков, их направил в школу не фонд Delta Foundation, а служба по усыновлению. На ее сайте были представлены анкеты детей-сирот из разных образовательных учреждений. Клиенты службы проходили «квалификацию» — обязательную проверку биографических данных, а потом могли выбрать ребенка и встретиться с ним.

— Добро пожаловать, Андрес и Рей, — Мама Ким прямо-таки лучилась дружелюбием и любезностью. — С радостью расскажу вам о нашей школе.

Служба по усыновлению известила ее заранее: едет пара трансгендеров. По статистике, в 17,5 процента приемных семей есть хотя бы один трансгендер или гендерно-вариативный потенциальный родитель, а физическое и психическое здоровье детей совершенно не зависит от того, усыновлены они трансгендерами или цисгендерами[32].

— Отлично, большое спасибо, — поблагодарил директрису Андрес. — Но мы хотели бы поскорее увидеть мальчика. Я имею в виду…

— …Серебряного Воробья, — закончил за партнера Рей.

Надо сказать, у Мамы Ким вызвала некоторые сомнения одежда необычной пары. Оба мужчины были странновато одеты — не в костюмы или во что-то традиционное. Они обернули себя кусками ткани с ярким геометрическим узором, как на картинах авангардиста Кандинского. Материал на вид напоминал синтетическую пленку с острыми неровными краями.

— Возможно, вы знакомы с биографией мальчика, но я бы хотела еще раз напомнить, — Мама Ким посуровела. — Серебряный Воробей особенный и чувствительный ребенок, его очень легко перевозбудить.

Рей снял ярко-желтые солнцезащитные очки; его серьезность соответствовала серьезности тона педагога.

— Директор Ким, вы, возможно, привыкли к другим родителям, но, поверьте, мы никогда не поставим свои интересы выше безопасности нашего ребенка. Правда, Андрес?

Андрес кивнул и отбил пальцами четкий ритм на запястье другой руки. И мужчины внезапно начали как бы таять, словно мороженое на солнце. Острые геометрические края одеяний на глазах смягчились до текстуры шерстки пушистой зверушки. Яркие насыщенные цвета поблекли, сменились природными пастельными тонами.

— Надо признать, это весьма… предусмотрительно, — Мама Ким довольно кивнула и провела мужчин в приемную.

Серебряный Воробей сидел на диване, раскачивался взад-вперед и не обратил на вошедших никого внимания.

— Здравствуй, ты, должно быть, Серебряный Воробей? — гость сразу попытался взять быка за рога. — Я Андрес, а это Рей. Для нас большая честь встретиться с тобой.

Мама Ким прокашлялась: «Я оставлю тебя наедине с Андресом и Реем, Серебряный Воробей. Если тебе что-нибудь понадобится, ты знаешь, как меня позвать», — и вышла.

В комнате остались трое — двое мужчин и мальчик.

— Полагаю, в формальностях нет необходимости, — начал Андрес. — Ты знаешь, зачем мы здесь. Мы хотим пригласить тебя жить с нами.

— Мы узнали о тебе не через службу усыновления, — продолжил Рей. — Мы обращались туда только для формальностей — верификации биографических данных. Но мы с самого начала знали, что хотим познакомиться именно с тобой, Серебряный Воробей. И мы должны сразу сказать тебе, что мы не совсем обычные, традиционные родители…

— Мы думаем, что ты невероятно талантливый мальчик! — перебил Андрес. — Мы видели твои работы на конкурсе «Художники будущего». Мы просто не могли поверить, что это сделал шестилетний ребенок. Конечно, физиологический возраст — давно устаревшее понятие, но это необычно и для работ художников другого возраста, и даже других эпох! Да, Рей?

— Безусловно! Я специализируюсь на цифровом искусстве XX и XXI веков, так что некоторый опыт у меня имеется. Вообще-то это мы анонимно купили твое произведение на благотворительном аукционе вашей школы. То, что случилось с оригиналом, конечно, трагично, однако новая версия нам понравилась еще больше.

Серебряный Воробей, не проронивший до сих пор ни слова, шевельнулся и безразлично уставился на мужчин.

— Ваша стратегия ставок на том аукционе не была оптимальной, — вдруг заявил он. — Солярис сказала, что вы слишком рано раскрыли свое намерение, из-за чего покупатель-конкурент за три следующих раунда успел поднять цену.

Андрес и Рей переглянулись, просияв от восторга.

— Все потраченное стоило того, чтобы познакомиться с тобой поближе и получить шанс: мы считаем, что отлично подходим тебе как родители, — сказал Рей. — Мы отдадим тебе всю любовь, и не только в смысле традиционной родительской любви. Мы хотим поддержать тебя на пути самопознания и реализации твоего величайшего потенциала. Как тебе идея?

Серебряный Воробей помолчал и повернулся к как раз вернувшейся директрисе: «Мама Ким, я смогу взять с собой Солярис?»

Поначалу Серебряный Воробей вел себя у приемных родителей как и в «Источнике» — целыми днями сидел в укромных уголках. Солярис по инструкциям мальчика генерировала полупрозрачные виртуальные пузыри, обертывала его ими и воспроизводила различные стримы. Визуальный вихрь давал Серебряному Воробью ощущение защищенности и покоя.

Андрес и Рей смотрели на полупрозрачный силуэт приемного сына в углу своего просторного лофта — они старались не беспокоить ребенка, давали ему время адаптироваться.

То ли из-за отсутствия других детей, то ли благодаря таланту Солярис внутренний объем виртуального кокона постепенно увеличивался, периметр личного пространства Серебряного Воробья расширялся. Попутно пополнялся и ассортимент его занятий. Постепенно кокон распространился на весь лофт.

У мальчика изменилось ощущение пространства и масштаба и вдруг пробудился большой аппетит к физической активности. В школе Серебряный Воробей боялся столкновений с другими детьми, но дома мог лазить, прыгать и преследовать виртуальных кроликов, которых для него создавала Солярис. Мальчик носился по лофту, задыхался, потел и чувствовал, как от радости выпрыгивает сердце.

Он часто вспоминал слова Сун о том, каково это — вырваться из клетки. Мальчику хотелось такого движения, но сначала было необходимо понять свой внутренний мир.

Солярис составила для Серебряного Воробья тесты и помогла разработать комплексную модель для самооценки. Исследовались когнитивные способности — понимание языка, количественный анализ и логика, а также физическая активность, открытость и эмоциональный интеллект.

Выводы оказались вполне ожидаемыми. Общие когнитивные способности и особенно навыки количественного анализа Серебряного Воробья были выше всяких похвал. А вот в области межличностного общения балл получился совсем низким.

У мальчика никак не получалось научиться распознавать эмоции. Он не понимал: добросердечный человек перед ним или злобный, искренний или саркастичный. Ему было трудно различать буквальное и переносное значения слов. Собственно, в этом отношении он не сильно отличался от ИИ десятилетней давности.

Но вот по одному типу навыков — по креативности — результаты тестов Серебряного Воробья буквально зашкалили. Глядя на них, он вспомнил брата и то, как они рассорились. В голове Серебряного Воробья возник и запульсировал вопрос, на который не находилось ответа: а было бы все по-другому, если бы я больше походил на других детей?

Прошло около двух лет с того дня, когда Золотой и Серебряный Воробьи попали в «Источник». Гван уехал в командировку в Джакарту, и поздно вечером Мама Ким срочно вызвала Сун. Случилось чрезвычайное, и директор пребывала в полном отчаянии.

В кампусе вышла из строя система «умный дом»: свет потускнел, лампы мигали, кондиционеры сами собой переключалась с охлаждения на обогрев и обратно. Роботы-уборщики бессмысленно и беспорядочно сновали в сумраке под ногами, натыкались на мебель и издавали громкие лязгающие звуки. Похоже, произошла хакерская атака.

Педагоги собрали детей в игровой комнате, как могли успокаивали их и пытались отвлечь. Ту и появилась запыхавшаяся Сун.

— Что случилось?

— Всё потом. Сейчас просто решай проблемы.

Сун бросилась к себе, через vMirror подключилась к серверу и обнаружила: действительно, система подверглась DDoS-атаке. Хакер, правда, был не особо продвинутым. Он воспользовался дырой в системе безопасности — ее действительно следовало давно обновить. Первое, что пришло Сун в голову: не связан ли сбой с командировкой Гвана? Девушка поправила настройки, установила — для защиты от будущих подобных атак — последнюю версию системы мониторинга сетевого трафика. И школа облегченно вздохнула, вновь засияла огнями. Жизнь наладилась.

Директриса по громкой связи попросила Сун срочно прийти в конференц-зал. Уже уходя, бросив последний взгляд на монитор, девушка заметила в логах нечто странное. Разобраться решила позже — это не к спеху, а ее ждали.

В конференц-зале прямо на столе для переговоров лежал унылый Золотой Воробей, совершенно лишенный обычной для него энергии.

— Так вот чьи это проделки!

— Нет, не его, — спокойно ответила Мама Ким.

Сун удивленно развернулась к директору.

Мама Ким слегка повернула голову, и Сун увидела Серебряного Воробья, по обыкновению сидевшего на полу в углу, согнув колени: на них — руки, голова — на руках, глаза мокрые.

— Серебряный Воробей? Да как же так?!

— Они молчат, поэтому и пришлось вызывать тебя, — сказала Мама Ким. — Я совсем ничего не понимаю.

— Золотой Воробей, ты же отлично знаешь, я залезу в логи твоего Атомэна и все увижу. Лучше сам расскажи!

Золотой Воробей надулся:

— Нету времени. Да и слишком поздно.

— Для чего поздно?

Поняв, что разговор может длиться бесконечно, Сун открыла свое XR-поле — сказанное Золотому Воробью не было пустой угрозой. Красного робота, который всегда был при мальчике, не оказалось. Айтишница проверила разрешения на общий доступ к данным — вроде все нормально. Конечно, есть вероятность, что Золотой Воробей спрятал Атомэна, но это как раз было не в его стиле.

— Где Атомэн?

Золотой Воробей нехотя сел и раскинул руки в стороны. Они прямо-таки пылали красным — словно горели. Мальчик вытянул руки вперед и сжал кулаки. И Сун увидела аватар — но он совсем не походил на Атомэна. Теперь ИИ-приятель Золотого Воробья выглядел так, будто его вдребезги разбили. Детали парили в воздухе, конечности находились не там, где надо. Сун показалось, что Атомэн (а это все-таки был он) вообще может в любой момент распасться на пиксели.

— Что это такое, черт возьми?

— Его спросите! — завопил Золотой Воробей, указывая на съежившегося в углу брата.

Мама Ким подошла к Серебряному Воробью, опустилась рядом на колени. Мягко спросила:

— Твой брат говорит правду? Это ты сделал?

Серебряный Воробей молчал, но Сун уже получила новый пакет данных — еще одно видео.

Она узнала стрим из знаменитых видеоработ Серебряного Воробья, но теперь в нем царил хаос. Сун повернулась к Золотому Воробью — странная активность, которую она заметила в журнале, но в которой не успела разобраться, обрела смысл.

— Зачем ты это сделал?!

— Я ничего не делал. — Золотой Воробей был сама невинность.

— Зачем ты уничтожил работу брата?! Разве ты не знаешь…

Гневную речь Сун строго перебила Мама Ким:

— Как он получил доступ к серверу?

— Наверное, Гван дал ему доступ перед командировкой, — предположила Сун. — Гван хотел обучить Золотого Воробья и со временем сделать его помощником сисадмина.

— Я… — Золотой Воробей замолчал, явно собираясь с духом. — Я только хотел вернуть свое.

Мама Ким расширила глаза:

— Ты про приз, который Серебряный Воробей получил на выставке «Художники будущего»?

— Кажется, я поняла, — Сун сердито кивнула, — работа Серебряного Воробья состоит из четырех частей: один родительский стрим и три дочерних. Представьте, что Мону Лизу да Винчи оцифровали и преобразовали в другие виды медиа. Но у нас произведение было динамичным и гораздо более сложным. Серебряный Воробей говорил, что его работа призвана отражать духовно-эмоциональные связи между школой и ребенком. До тех пор пока из родительского стрима выходит поток данных, дочерний стрим продолжает развиваться. Но без него он нежизнеспособен.

— И при чем здесь Золотой Воробей?

— Он не просто в него влез, — хмуро сказала Сун. — Он сознательно его уничтожил.

— Что?!

Сун спроецировала видео с камеры наблюдения из серверной на vMirror конференц-зала:

— Смотрите.

На записи был Золотой Воробей в помещении школьного ИТ-отдела. Вот он через vMirror подключился к серверу, идентифицировал путь сохранения родительского стрима. Было видно, что мальчик колеблется, прежде чем отдать последнюю команду. Возможно, он даже думал в этот момент, сколько сил и времени затратил брат на эту работу в последние месяцы; может, вспомнил, что работа принесла славу его школе. И все же, слегка помедлив, судорожно сглотнул и нажал на кнопку «ОК». Родительский стрим, мастер-версия Серебряного Воробья «Фьюжн-опус-003», рассыпался на отдельные биты.

Серебряный Воробей, увидев, во что превратилась его работа, затрясся от горя и злости.

— Серебряный Воробей отомстил брату общей атакой на школьную систему — только так он мог уничтожить его Атомэна. — Мама Ким повернулась к Сун: — Мне нужно поговорить с Золотым Воробьем наедине. Позаботься о Серебряном.

Оставшись вдвоем с Золотым Воробьем, Мама Ким повернулась к мальчику. — Смотри в глаза. Отвечай, зачем ты это сделал?

— Я… Это… Ну… Серебряный Воробей без разрешения использовал мой портрет, — проблеял мальчишка.

Мама Ким перебила:

— Это потому, что брат выиграл приз и начал нравиться людям? Это тебя расстроило?

Золотой Воробей поник еще больше, ему с трудом удавалось подобрать слова:

— Я попросил Атомэна проанализировать все работы-победители за последние несколько лет. Я составил план для всех возможных исходов. Вероятность моего выигрыша была самой-самой высокой.

— Невежественный ребенок, — Мама Ким горестно покачала головой. — Вероятности — они на то и вероятности. Даже если вероятность самая-самая-самая высокая — это не значит, что ты обязательно победишь. Люди — не машины, у них есть эмоции. Радоваться надо, что приз получил твой брат!

— А почему вы все из-за этой ерунды решили, что он классный? Потому что у него с головой не в порядке, что ли? Но это же нечестно! Разве не должен побеждать лучший?!

— Я понимаю, это сложно, но нужно учиться держать удар, ты не всегда будешь во всем первым… — Мама Ким явно была в замешательстве.

— Вы ничего не понимаете! Меня только Атомэн понимает.

— Атомэн — не живой, он инструмент.

— Нет, Атомэн — мой лучший друг! А этот урод его погубил! Я его ненавижу!

Сун в это время в коридоре, за дверью конференц-зала, пыталась утешить Серебряного Воробья. Мальчик вернулся к привычному замкнутому состоянию. Девушка хотела, чтобы он заговорил, поделился с ней своими чувствами, но он лишь повторял, как заведенный: «Сувенир… Сувенир…»

И вдруг Сун вспомнила: именно это слово она произнесла во время первого разговора с Серебряным Воробьем несколько месяцев назад. Она говорила об оригами-фигурках, которые мальчик Томми сделал для одноклассников. «Сувенир». А может, Серебряный Воробей делал свой «Фьюжн-опус-003» для брата? И поэтому использовал портрет Золотого Воробья? Если так, то столь резкая реакция вполне понятна.

Разговор Мамы Ким с Золотым Воробьем был окончен — директор окликнула Сун, и девушка с Серебряным Воробьем вернулись в конференц-зал. Директор строго посмотрела на братьев: «Отсюда никто не уйдет, пока не извинится и не пожмет другому руку».

Мальчики дулись и мириться, похоже, не собирались — наоборот, с каждым мгновением они все больше становились похожи на параллельные прямые, которым никогда не пересечься.

Мама Ким, обсуждая усыновление Серебряного Воробья, поставила его новым родителям условие: добиться воссоединения близнецов. Пути братьев разошлись, но педагог считала необходимым сделать все, чтобы контакт между ними сохранился.

Мальчики встретились в доме Паков — огромном особняке в неоклассическом стиле, с бассейном и детской площадкой на заднем дворе. План мероприятия, как и обстановка, был слишком официальным: барбекю на открытом воздухе, активные игры для детей.

— Привет, Золотой Воробей, — Андрес с Серебряным Воробьем и Реем поднялись на крыльцо и остановились перед внушительной парадной дверью, — ты совсем не похож на свои фотографии. Наверное, ты много занимаешься спортом.

За полгода жизни у Паков мальчик действительно изменился — он стал выглядеть и вести себя по-другому.

Золотой Воробей ничуть не стушевался и протянул Андресу руку.

— Да, у меня жесткий режим — его разработал Атомэн. Там все написано — как мне питаться, как заниматься спортом, как работать и отдыхать. Да, такой вот у меня Атомэн после апгрейда, — и Золотой Воробей протянул руку близнецу:

— Привет! У тебя все ОК, брат?

Рей мягко подтолкнул Серебряного Воробья вперед. Мальчик посмотрел на Золотого Воробья, но руки не пожал.

— Ну же, Серебряный Воробей, — сказал Рей. — Это же твой брат, вы так давно не виделись… Целых полгода.

— Сто семьдесят три дня, если точно, — Золотой Воробей улыбнулся. — Хочешь, я покажу тебе моего Атомэна? Чжун Хо модернизировал его, он теперь — улучшенная версия, у него появилась куча интересных функций. Мы даже сделали ему настоящее тело. Круто вышло!

В глазах Серебряного Воробья сверкнуло любопытство.

— Атомэн, смотри, кто к нам пришел! — завопил Золотой Воробей.

Земля задрожала — по лужайке огромными прыжками несся красный робот. Верх гуманоида был прикреплен к плечам собаки-робота; такой себе киборг-кентавр.

Обновленная версия Атомэна сразу распознала лицо Серебряного Воробья. Смешно подогнув правую переднюю ногу (или лапу?), робот церемонно поклонился гостю, моргнул всеми тремя глазами-камерами и произнес: «Серебряный Воробей, сколько лет, сколько зим». Затем Атомэн чопорно поднял руку в особом робоприветствии — и Серебряный Воробей ответил слабой улыбкой.

— Дети, все готово! — позвал Чжун Хо, возившийся с барбекю. — Накрывайте на стол.

Новые братья и сестры Золотого Воробья, 15-летняя Хен Ву, 11-летний Си Ву и 8-летняя Сук Чжа, помчались к столу во внутреннем дворике.

— Позже поговорим. Я должен помочь, — Золотой Воробей, свистнув, рванул за старшими, Атомэн — следом.

— Кажется, с твоим братом не так уж трудно ладить, — пошутил Андрес.

Серебряный Воробей только скривился.

Мастерство Чжун Хо в приготовлении блюд на гриле оставляло желать лучшего, но, на счастье, остальное готовил повар.

За столом Андрес и Рей с интересом наблюдали за манерами детей Паков — они вели себя предельно сдержанно и аккуратно, даже когда просто выбирали подходящую вилку. Золотой Воробей больше не шалил, как в школе; он краем глаза следил за братьями и сестрами. Атмосфера за столом была напряженной, формальной — как будто все участвовали в кем-то поставленном спектакле.

Серебряный Воробей был не в своей тарелке. Еще не подали всех блюд, а он уже копался в картофельном пюре, вилка скребла по дорогому фарфору — звук был ужасен. Хе Джин Пак косилась на мальчика, но молчала.

Чтобы разрядить обстановку, Андрес заговорил об Атомэне.

— Ну и крутой же у тебя робот, Золотой Воробей. Как вы выбрали для него тело?

— Да мы особенно и не выбирали. Чжун Хо сказал, что это последняя и лучшая модель, мы на ней и остановились, — мальчик взглянул на Чжун Хо, явно ожидая от отца одобрения.

— Я всегда хочу самого лучшего для своих детей, — тот действительно кивнул и чванливо вздернул подбородок.

Рей, повернувшись к нему, довольно холодно сказал:

— Но ведь лучшее — понятие относительное. Ребенок и взрослые могут считать лучшим разное, не так ли? — Рей старался удержаться в рамках светской беседы, но был достаточно холоден.

— Вообще-то нет, — Чжун Хо и Хе Джин переглянулись, обменявшись покровительственными улыбками. — Мы верим, что всегда найдем для детей лучшее, самое-самое во всем мире. Это касается путешествий, страхования, образования — да чего угодно, всего. Даже роботов. Ну-ка, Золотой Воробей, расскажи нам, что ты узнал сегодня утром.

— Цена — это то, что ты платишь. Ценность — это то, что ты получаешь, — тут же отбарабанил Золотой Воробей.

— Чего-чего? — Андрес оторопел.

— Это известные слова Уоррена Баффета, он сказал их во время финансового кризиса 2008 года, — пояснил Чжун Хо. — Немного, так сказать, олдскульной мудрости из мира инвестиций.

— Разве это должен говорить шестилетний ребенок? — Рей уже не мог сдержаться и не скрывал презрения.

— А почему нет, уважаемый художник? — Чжун Хо не понял или сделал вид. — В старину детям приходилось запоминать многое, чего они совершенно не понимали, но ведь тогда они не имели ни малейшего представления о будущем. А сегодня благодаря искусственному интеллекту жизнь уже не такая непредсказуемая и не такая произвольная.

— Искусственный интеллект сегодня может то, чего в прошлом не могли ни школы, ни учителя, — поддержала мужа Хе Джин. — У Чжун Хо есть план для всех наших детей.

— Если Золотой Воробей будет продолжать в том же духе, он со временем может стать одним из величайших инвесторов в мире, — добавил Чжун Хо.

— Так вы позволяете алгоритму планировать будущее своих детей?! — изумился Рей.

Дети Паков, ошарашенные происходящим, опустили ножи и вилки.

— Мы несем за детей ответственность, талант не должен пропасть, — ответил Чжун Хо. — Раньше была поговорка: никто не знает сына лучше, чем его отец. Но, может, сегодня нам следует говорить, что никто не знает сына лучше, чем его искусственный интеллект? Родители не могут разбираться в своем ребенке так, как его ИИ-компаньон. И это хорошо. Золотому Воробью шесть, а его математические знания на уровне десятилетнего. И с распознаванием образов у него лучше, чем у Си Ву, а ведь ему одиннадцать.

Си Ву, сидевший здесь же, недовольно поморщился.

— Я отлично понимаю и ценю, что у вас, художников, более романтичный взгляд на вещи, но что может быть важнее образования наших детей? — Хе Джин легонько щелкнула Золотого Воробья по носу. — Мы ведь не указываем тебе, кем ты должен стать. Мы ведь всегда говорим, что ты можешь стать тем, кем захочешь, не правда ли?

Золотой Воробей просиял:

— Я хочу быть таким же, как Чжун Хо!

Чжун Хо и Хе Джин довольно засмеялись, Андрес и Рей переглянулись. И вдруг Серебряный Воробей с силой швырнул вилку в тарелку. Все повернулись к нему — руки, лицо, волосы были в соусе, крошках и ошметках пюре.

— Я хочу уйти, — тихо произнес он.

После того дня Серебряный Воробей наотрез отказывался от любых контактов с братом.

Андрес и Рей сообщили Маме Ким, что различия между близнецами представляются им совершенно непреодолимыми, а идея о встречах и совместных играх — бесперспективной.

Они слишком хорошо понимали чувства приемного сына. Андрес и Рей разительно отличались от Паков — начиная с профессиональной деятельности и заканчивая складом личности, хотя и то и другое трудно поддавалось определению. Кто они — художники новых медиа? Интернет-знаменитости? Активисты-экологи? Ученые? Духовные гуру?

Мужчины были партнерами в работе и в жизни, именовали себя Homo technicus (человек технический) и активно продвигали так называемый технологический художественный ренессанс. Они критиковали слепое поклонение науке и технике. Homo technicus стремятся через искусство вернуть людям их человеческое достоинство и восстановить связь с природой.

По мнению Рея, все более активное использование искусственного интеллекта в сфере образования означало: дети должны стать чем-то вроде автоматов, помешанных на конкурентоспособности. Эта система, с его точки зрения, является просто усовершенствованной версией прежней системы зубрежки и экзаменов. А настоящее образование должно быть нацелено как на приобретение ребенком необходимых знаний и навыков, так и на его личностный рост.

Рей считал необходимым повышать уровень самосознания детей посредством самоисследования, развития эмпатии, общения и других «мягких навыков», способствующих формированию более глубоких связей между людьми. Он был убежден, что нужно повышать уровень эмоционального интеллекта, а искусственный интеллект чаще всего эти аспекты игнорировал.

Произведения Серебряного Воробья трогали Рея до глубины души. Мальчик не был особо продвинут в технологиях, но его неподдельное, живое любопытство, доступное только ребенку, превращало его творения в шедевры.

Андреса совершенно очаровала Солярис — ИИ-компаньонка, которая помогала Серебряному Воробью творить. Что именно побудило ее отказаться от обычных ориентированных на конкуренцию моделей и выработать собственную педагогическую логику? Неужели психологические особенности Серебряного Воробья каким-то образом нарушили традиционный цикл обратной связи с искусственным интеллектом и превратили его в инструмент для исследования его собственной внутренней сущности?

Неудачный визит в дом Паков помог Андресу и Рею лучше понять, каким путем они точно не хотят следовать.

Решив усовершенствовать Солярис, приемные родители прежде всего спросили мнения Серебряного Воробья, а пока на всякий случай сделали резервную копию всех данных. Они отнеслись к ней не только как к памяти о первой Солярис, но и как к периферийному расширению внутренней сущности их приемного сына. Базовый алгоритм столь удачного ИИ-друга нуждался в бережном обращении и защите.

Новая Солярис не получила крутого тела, как Атомэн, но ее модернизированная версия тоже вызвала восторг. Серебряный Воробей почувствовал, что долго пробирался в темноте с завязанными глазами, потом сдернул повязку — а тут солнце.

От всех детей Паков требовалось одно — следовать семейному девизу: «Наилучшего заслуживает только наилучший».

Это означало: семья дает тебе огромную поддержку, а ты обязан сделать все, чтобы быть ее достойным. Золотой Воробей жил согласно семейному принципу.

Сразу после усыновления новые родители начали искоренять его «скверные привычки», приобретенные в «Источнике». Основой успеха Чжун Хо Пак считал дисциплину.

С шутками и розыгрышами пришлось распроститься сразу. Если Золотой Воробей вдруг срывался и проказничал, в наказание отец блокировал его голосовой профиль в системе «умный дом». Все команды Золотого Воробья становились недействительными — дом их просто не выполнял.

Мальчик изо всех сил старался заслужить любовь домочадцев, и такое наказание было для него пыткой. Он очень быстро обучился не только правильно пользоваться вилкой для салата, но и регулировать громкость голоса и собственных шагов.

Оригинальный Атомэн тоже не слишком вписывался в кодекс домашних правил Паков, и Чжун Хо полностью модернизировал ИИ-партнера Золотого Воробья. Появилась масса правил, определяющих, в каких случаях Атомэна можно вызвать, а в каких нельзя; в каких комнатах действуют ограничения по безопасности данных; как соблюдается этикет обмена XR-фидами[33]. Запретов оказалось множество, наказание за нарушение — неотвратимое и мучительное, и Золотому Воробью даже в голову не могло прийти хакнуть какой-нибудь электроприбор или домашнюю систему.

Поначалу он с тоской вспоминал вольные школьные деньки, когда можно было резвиться как и когда угодно. Порой он вспоминал о брате, которого дразнил, — но восторг от троллинга уже начал забываться. Мальчик пытался сопротивляться, не раз плакал, прежде чем заснуть на шикарных шелковых простынях своего нового дома.

Но время шло, и Золотой Воробей оценил успехи своих новых сестер и брата. Хен Ву еще несколько лет назад получила патент на биотехнологические изобретения. Си Ву разработал метод передачи квантовой информации, и его тестировали на настоящей китайской космической станции. Даже Сук Джа, маленькая принцесса Паков, ездила послом от ученического сообщества на конференцию ООН по проблемам изменения климата.

«Наилучшего заслуживает только наилучший».

Семейный девиз шипом застрял в сердце Золотого Воробья. Каждый раз, когда мальчику требовалось расслабиться, шип впивался глубже, пробуждая чувство вины.

Виртуальный класс лучшей, по словам родителей, виртуальной школы был единственным местом, где Золотой Воробей чувствовал себя относительно комфортно. Обучение походило на игру — этому способствовали разные уровни, баллы и богатый виртуальный инвентарь. В играх Золотой Воробей был хорош, да и одноклассники оказались в основном веселыми и симпатичными.

Особенно милой, с каким-то мультяшным характером, была белокурая Ева. Поначалу Золотой Воробей не мог оторвать от нее взгляд. Ева щебетала нежнейшим голоском, была приветливой и дружелюбной. Казалось, она всегда знала, о чем думает Золотой Воробей и что ему хочется сейчас услышать, поэтому произносила что-то вроде: «Знаешь, Золотой Воробей, это и правда очень сложный вопрос. Давай-ка попробуем взглянуть на это под другим углом».

Или: «Золотой Воробей, а ты действительно умница. Как это мне в голову не пришло такое решение? Можешь еще раз показать, как ты это сделал?»

Ева вдохновляла мальчика. А он, призвав на помощь Атомэна, сочинял для нее смешные истории и старался произвести впечатление, показывая фокусы. Он делал Еве небольшие виртуальные подарки, а она смеялась и отправляла ему пылающие сердечки, мило звеневшие в его наушниках. В такие моменты Золотой Воробей чувствовал себя по-настоящему счастливым.

Однажды, в очередной раз подряд получив наивысшую оценку по математике, гордый Золотой Воробей поделился успехом с отцом. Но Чжун Хо отреагировал неожиданно. «Ох, — слабо улыбнулся он, — до чего же у тебя низкая планка, как тебя легко осчастливить».

На следующий день Золотой Воробей с удивлением обнаружил, что Ева изменилась. Правда, он никак не мог понять, что именно не как обычно. Девочка по-прежнему была милой и симпатичной, но вот голос ее посерьезнел. И теперь она стала немного напоминать Джун Хо.

«Золотой Воробей, не будь таким беспечным. Проверь этот ответ еще раз».

«Золотой Воробей, как ты мог снова ошибиться? Ты же уже несколько раз сталкивался с подобной задачей».

Она перестала смеяться над шутками Атомэна и радоваться подаркам Золотого Воробья — ее будто подменили.

Золотой Воробей был убит горем и пожаловался Атомэну, лучшему другу:

— Я что, перестал нравиться Еве?

Атомэн склонил голову и ничего не ответил.

— Это потому, что я не помог ей подтянуть отметки? — Золотой Воробей не отставал. — Ты должен рассказать мне, что случилось с Евой.

— Но это же очевидно, — не выдержал Атомэн. — Ее параметры откорректировали.

— Откорректировали?! Параметры?!

Золотой Воробей вытаращил глаза. Так вот оно что! Ева оказалась еще одним его ИИ-партнером, и Чжун Хо после того разговора изменил ее личность. Как же он сам этого не понял и не заметил?! Ее человеческая мимика и поведение, генерируемые искусственным интеллектом, были настолько реальными, что провели и других учеников их виртуального класса? Или он так тосковал без подружки вроде Евы, что сознательно игнорировал любые изъяны этого аватара?

Лицо и смех милой белокурой девчушки плавали перед Золотым Воробьем осколками разбитой чашки, которую уже не склеить.

В тот вечер мальчик снова плакал в подушку. И вдруг у его двери раздались шаги. Золотой Воробей вытер слезы и крепко зажмурился — притворился спящим. Но через мгновение кто-то присел на край его кровати. Это была Хе Джин.

— Хочу поговорить. Ты рассердил папу? — Золотой Воробей высунул из-под одеяла нос, приоткрыл один глаз и кивнул. Правда, холодно и сдержанно, как бы показывая: с ним обошлись ужасно несправедливо. Но еще через мгновение он сбросил одеяло и сокрушенно покачал головой.

— Это я рассердился. Я был таким глупым. Мне даже и в голову не пришло, что Ева — аватар.

— Глупенький мой, — Хе Джин взъерошила волосы сына, — большую часть времени я тоже не различаю, кто настоящий, а кто виртуальный образ. Искусственный интеллект знает, какая девочка тебе понравится, и может сделать так, что она будет очень хорошо тебя понимать. Цель у этого одна — сделать так, чтобы ты старательнее и охотнее учился.

— Я сильно разочаровал Чжун Хо?

— Да нет, не особо. Он ведь сам корректировал параметры Евы. Он хотел, чтобы ты не зазнавался. То, что ты лучше всех написал контрольную, еще не означает, что ты номер один. Он хотел, чтобы ты преодолевал слабости и действительно стал наилучшим. Именно этого он ожидает от ребенка из семьи Паков.

Золотой Воробей кивнул — понял — и закусил губу.

Серебряный Воробей быстро рос. В некотором смысле он чувствовал себя улиткой с тяжеленной ракушкой-домом на спине. Он еле мог ползти — так медленно, что медленнее и представить себе невозможно.

Рей и Андрес пытались записать его в онлайн-школу для детей с синдромом Аспергера. Мальчик мог получать доступ к виртуальному классу через свою ИИ-подругу, Солярис. Для каждого особого ребенка система искусственного интеллекта создавала виртуальных одноклассников и учителей, учитывая его когнитивные уровни и поведенческие характеристики. Все взаимодействия в учебном процессе были индивидуализированы — начиная от стиля интерфейса и заканчивая тоном преподавателя.

Но в случае с Серебряным Воробьем это почему-то не сработало.

Каждый раз, попадая в виртуальный класс, мальчик начинал сильно беспокоиться. Аватары вели себя как дети с синдромом Аспергера и другими похожими проблемами, но все равно ничего не получалось. Серебряный Воробей мог заранее сказать, какова цель каждого слова, произнесенного виртуальными учениками и учителями; для оттачивания каких навыков они разработаны, какие знания развивают и укрепляют. Все выглядело фальшивым и раздробленным.

Окончательно пришлось отказаться от идеи обучения в специальной виртуальной школе, когда приемные родители получили обратную связь от Солярис. Они по закону имели право на полный доступ к данным ИИ-компаньона своего ребенка. Однако Рей, понимая всю необычность Серебряного Воробья, уважал потребность сына в конфиденциальности и безопасности. В результате они заключили соглашение: когда мальчику исполнится десять, родители станут спрашивать его разрешения на просмотр данных Солярис.

Андрес не разделял щепетильности и деликатности Рея. Данные, считал он, представляют ценность не только для ребенка, но и для родителей. Без Солярис они никогда бы не узнали, какая физическая дистанция наиболее комфортна для Серебряного Воробья, какие типы психологической активности представлены и часто повторяются в его навязчивом поведении.

Андрес считал, что у его родителей в свое время не было искусственного интеллекта, подобного Солярис, — тогда бы они увидели множество ран, которые нанесли сыну во имя любви. Возможно, Серебряный Воробей понимал человеческую любовь не столь глубоко, но Солярис дала ему еще один инструмент для исследования мира и самовыражения: искусство.

Под руководством ИИ-компаньонки мальчик изучал и исследовал произведения, относящиеся к разным направлениям и историческим периодам. Он сразу схватывал различия в концепциях, лежащих в основе разных форм и стилей, — а ведь каждый из них представляет уникальный угол зрения художника. И Серебряному Воробью просто-напросто нужно найти свой собственный стиль.

К четырнадцати годам Серебряный Воробей окончательно удостоверился: того, чему он хочет научиться, не найти ни в учебном классе, ни в книгах, ни в структурах математической логики. Ему необходимо установить тесную связь с миром и другими людьми. Он очень хочет самостоятельно испытать силу природы, времени и пространства.

Но сделать этого он никак не мог.

Он ощущал себя узником, заточенным в юном, хрупком теле, которым даже не получалось как следует управлять. Любое неудобство, страх, что-то странное и непривычное или взявшееся невесть откуда чувство стыда мешали ему вылупиться из виртуальной куколки и встретиться лицом к лицу с огромным миром.

Парень стал искать альтернативные решения.

Серебряный Воробей то носился за бабочками в лучах заходящего солнца в Гонконге на острове Лантау; то наблюдал, как молодежь ночи напролет танцует в клубах Берлина; то слушал молитвы монахов в Канди в Шри-Ланке; то ждал северного сияния во льдах Северного Ледовитого океана.

К этому времени VR-технология Солярис уже объединила в себе очень сложные функции, включая совместные зрительно-слуховые ощущения, проприоцепцию[34] и соматосенсорную стимуляцию. Такое разнонаправленное погружение выходило далеко за пределы виртуальной реальности десятилетней давности. Благодаря сверхмалой задержке при передаче данных в режиме реального времени алгоритм ИИ точно подгонял их под уникальные потребности каждого конкретного пользователя.

Виртуальные путешествия помогли Серебряному Воробью на когнитивном уровне понять разнообразие человеческого опыта и ощутить более тесную связь с миром на уровне эмоциональном. Во время этих погружений в виртуальную реальность он чувствовал новую радость.

Однако иногда у него случались видения, разрушавшие прелесть нового опыта и приятных переживаний. Серебряный Воробей не забыл своего брата-близнеца. Тот мог привидеться ему в утреннем свете или в вечерних сумерках, а иногда ему мерещился и Атомэн — то в виртуальной форме красного робота, то в физической форме собаки-кентавра. И Серебряному Воробью все время слышалось, будто его зовут, выкликают его имя.

Сначала мальчику казалось, что это лишь иллюзия, игры разума. Ему приходилось читать исследования по восстановленным воспоминаниям. Наверно, его мозг создает ложные видения — точно так же, как ИИ может превращать помехи в данных в некую модель. Вдруг человеческий мозг тоже способен укладывать жизненные проблемы в модели, которые потом проявляются в снах, оговорках, навязчивом поведении или фрейдистских образах?

Но, хорошенечко поразмыслив, Серебряный Воробей пришел к выводу — мозг его не обманывает. Просто в его сердце засела тоска по брату.

Видения учащались, иногда даже стала приходить настоящая боль — вроде сильнейшей мигрени. Серебряный Воробей предполагал, что это может быть проявлением какого-то психического заболевания или следствием непостижимой для логики связи между близнецами. Непонятные, необъяснимые чувства сильно тревожили. За свою недолгую жизнь он никогда еще не чувствовал, что так сильно кому-то нужен — ни Маме Ким, ни Сун, ни даже Андресу и Рею.

Ему непременно надо было найти, откуда идет этот зов.

Золотой Воробей тоже был неспокоен.

И причина тому — не проблемы с учебой и даже не подростковый возраст.

Его расстраивало безоговорочное требование стать таким же, как его отец, — крупным инвестором.

В сравнении со всеми возможными жизненными траекториями этот путь был четким, как следы грузовика на свежем снегу. Первым делом Золотой Воробей будет проводить исследования — знакомиться с определенными компаниями, собирать информацию из всех доступных источников, создавать финансовые модели на основе данных за прошлые периоды и делать прогнозы на будущее на основе текущих условий.

Далее он станет помещать эти компании в реальный контекст их отраслей и анализировать цепочки до входа и после выхода, равно как их потенциальные риски и благоприятные возможности. А в завершение ему надо будет резюмировать свою точку зрения в отчетах, имеющих безусловную практическую ценность для партнеров-инвесторов.

Весь этот процесс, с точки зрения Золотого Воробья, не слишком отличался от процедуры приготовления кофе. Если у тебя есть качественные кофейные зерна (данные) и соответствующие инструменты для их измельчения (модели), ты сваришь отличную чашку кофе (точка зрения) с богатым вкусом и тонкими ароматами.

И так, повторяя одно и то же много-много раз, накапливая опыт и развивая навыки, ты будешь подниматься все выше по карьерной лестнице, вырастая от младшего исследователя до старшего партнера.

Все твои действия и решения будут оцениваться количественно — точно так же, как это происходит в компьютерной игре при переходе на следующий уровень, когда ты борешься с монстрами. С ростом благосостояния увеличиваются выбросы адреналина и дофамина в кровь «игроков», делая их зависимыми от «игры». В финале «игры» Золотой Воробей должен стать партнером по инвестициям, как и его отец.

Надо сказать, на компьютерных симуляторах для начинающих инвесторов Золотой Воробей демонстрировал недюжинный талант. Чжун Хо восхищался интуицией сына в отношении рынков и даже решил, что пора создать фонд, чтобы Золотой Воробей мог бы начать делать собственные вложения.

Однако, перейдя от виртуальных решений к реальным, сын довольно скоро потерпел сокрушительное поражение.

В качестве объекта исследований парень выбрал в портфолио отца компанию по выпуску компьютерных игр. Отчет по эффективности инвестиций был готов через месяц. Золотому Воробью очень пригодился собственный опыт — он играл в несколько игр этой компании. Гордый и уверенный в себе, Золотой Воробей принес отчет отцу.

Тот мельком глянул, быстро пролистал документ — на все про все хватило десяти минут — и протянул сыну какую-то папку.

В ней лежал еще один отчет по той же компании. Данные были исчерпывающие, сила окончательного вывода — максимально убедительной и неожиданной. Второй отчет был намного сильнее написанного Золотым Воробьем, хоть парень и очень старался. Юноша поискал в конце подпись — узнать, кто автор. Отчет составил искусственный интеллект.

— Угадай, сколько времени ему потребовалось? — отец не смог удержаться от слабой улыбки. — Меньше, чем мне, чтобы прочитать твой отчет!

— Но это… это нечестно!

— Нечестно — что? Возраст? Квалификация? Опыт работы в отрасли? Качество отчета, составленного искусственным интеллектом, превышает качество восьмидесяти процентов отчетов моей профессиональной команды. И на работу у него уходит меньше одной тысячной времени, которое требуется им. Реальность жестока.

Золотой Воробей побелел и стал похож на призрак.

— И что мне теперь делать? Какую ценность я могу…

— Что, испугался? Это не в традициях семьи Пак. Неважно, что сегодня искусственный интеллект легко обходит восемьдесят процентов аналитиков. Если желаешь стать кем-то, ты должен оказаться на самой вершине, в одном проценте площади основания пирамиды.

— Но искусственный интеллект развивается с такой скоростью, что скоро опять вытолкнет меня с верхушки, ведь это всего лишь вопрос времени. Посмотри хотя бы на Атомэна!

Отец откинулся на спинку кресла, на лице появилась привычная презрительная усмешка: «Сражаешься ты или убегаешь — это не меняет реальности».

Золотой Воробей выскочил из кабинета. У него даже заболело внизу живота. Он понимал, что в соревновании исключительно по жестким профессиональным навыкам, которые можно измерить и которым можно научиться, например по сбору данных и структурному анализу, людям никогда не обойти искусственный интеллект. Единственные области, в которых люди могут превзойти его, лежат в областях, недоступных для машин, — вроде чувствительности и интуиции.

И тут у Золотого Воробья появилась идея. Он не будет просто перемалывать цифры. Он поговорит с как можно большим числом сотрудников игровой компании, по которой составлял отчет.

От общения с людьми у юноши страшно разболелась голова. Живые люди совершенно не походили на его предсказуемых виртуальных одноклассников. У каждого был свой темперамент и привычки. Золотой Воробей видел — они не отказывают ему только из уважения к его отцу.

Разговаривать оказалось намного сложнее, чем анализировать данные и разрабатывать модели, — и тут никакой Атомэн не мог помочь. Да, он умел считывать микроизменения в мимике, но распознавать сложную паутину смыслов, стоящих за ними, у искусственного интеллекта не получалось.

Золотой Воробей довольно быстро догадался, почему среди преуспевающих инвесторов из круга общения его отца не было молодых — чтобы научиться понимать других, требуются долгие годы работы и обучения.

Чем дольше Золотой Воробей об этом думал, тем больше убеждался: это правильный путь. Он продолжал использовать сеть общения своего отца для встреч с предпринимателями, создателями контента, инженерами и топ-менеджерами по продажам. Эти люди, тронутые недюжинными способностями и упорством парня, все чаще воспринимали его как серьезного и талантливого молодого исследователя.

Дела Золотого Воробья пошли в гору, но он продолжал испытывать довольно странные ощущения, особенно во сне.

Ему снился тихий и замкнутый брат-близнец и его странная аморфная ИИ-партнерша Солярис. Временные рамки этих снов были чистым хаосом; Серебряный Воробей представлялся то совсем маленьким, то уже довольно взрослым. Во втором образе он был высоким юношей, но на его лице сохранялось сосредоточенное выражение отстраненности — будто весь мир не имеет к нему никакого отношения.

В этих снах и фрагментарных видениях Золотого Воробья иногда мелькали сцены из детства. Со временем он начал ощущать грусть: тоску по брату и еще большую — по отношению к себе самому. Он вспоминал, как шкодил, желая привлечь внимание окружающих. Тогда он был уверен, что их с Атомэном все любят, но теперь осознал: они были просто ярко-красным роботом и довольно надоедливым мелким пакостником.

Именно в такие моменты неуверенности в себе в 16-летнем Золотом Воробье зародились сомнения — а действительно ли его привлекает карьерный путь, на котором он уже так твердо стоит? Сердце все чаще переполнялось желанием увидеться с братом.

Но это было, увы, невозможно.

Родители заметили странности в поведении сына и отправили его к психиатру. Но доктор сказал, что видения и ощущения, вероятно, являются результатом чрезмерного стресса. Правда, если это продолжится, эмоциональное выгорание подростка может перерасти в депрессию и даже в серьезные когнитивные нарушения.

— Я видел много таких ребят, успешных, даже идеальных, прямо как ты, но в этом-то и заключается проблема, — растолковывал психиатр. — Возможно, твоя система убеждений не совсем тебе подходит. Ты действительно хочешь, чтобы ценность и смысл твоей жизни определялись победой над конкурентами? Ты вправду готов платить за это любую цену?

— А что плохого? Разве не все люди такие? Разве не так человечество двигает прогресс?

— Человек и искусственный интеллект — не одно и то же. Люди живут не только числами и победами. В твоей шкале ценностей внешние ожидания изначально не соответствуют внутренним побуждениям. Вот ты стал бы запихивать слона в холодильник только потому, что это одобрили окружающие?

Золотой Воробей стал вдруг стал похож на подранка — глаза его потускнели:

— Ладно, а что со снами?

— Ты никогда не думал, они действительно отражают твои чувства? — голос доктора вдруг смягчился.

Не успел Золотой Воробей справиться с этим кошмаром, как на него навалился еще один.

Новая игровая компания Mold выпустила игру-стратегию в реальном времени под названием DREAM. Она поразила Золотого Воробья до глубины души. Это была настоящая революция в сфере компьютерных игр. Абсолютно во всех аспектах ее разработки, от творческой концепции до дизайна уровней, тестирования и написания сценариев для персонажей, доминировал искусственный интеллект. Все, на что раньше уходили огромные бюджеты, — работа художников и технических команд — взяли на себя боты.

И игроки были от новинки без ума.

Однако самой игрой амбиции Mold не ограничились. Компания опубликовала в сети код онлайн-инструментов для создания игр на базе искусственного интеллекта и заявила, что тем самым хочет поддержать небольшие студии, независимых разработчиков и увлеченных игроков без профессионального опыта, чтобы они могли создавать собственные игры в своих гаражах и спальнях.

Рынок отреагировал немедленно. Цены на акции всех крупных компаний-разработчиков компьютерных игр резко упали. Эти фирмы оказались в роли догоняющих, но шансы не были равны — они вступили в гонку вооружений с самим искусственным интеллектом.

Золотой Воробей снова пришел к отцу, чувствуя себя полным и абсолютным лузером.

— Все кончено, — уныло сказал он.

Отец не понял:

— С чем кончено?

— Со всей игровой индустрией. Она всегда зависела от креативности и эмоций человека, но теперь они сдали искусственному интеллекту и это.

— А я всегда знал, что это случится.

— Но ты же даже не играешь! Что ты вообще можешь в этом понимать?!

— Что я могу понимать?! — отец откинулся и захохотал — эргономичное кресло заходило ходуном. — Еще в детстве, играя в Grand Theft Auto[35], я никак не мог понять, почему неигровые персонажи все такие тупые. В Halo[36] инопланетяне хотя бы умели скоординировать приличную атаку. Но все это было за световые годы до появления процедурных NPC[37], действующих не по готовому сценарию, которые доминируют в сегодняшних играх.

Золотой Воробей был потрясен — он не подозревал об этой стороне жизни отца.

— Call of Duty, League of Legends, Breath of the Wild, Pokemon Go… Я в них играл, но всегда думал: почему игру нельзя настроить в реальном времени в соответствии с скоростью моей реакции, моими привычками и предпочтениями? Почему тут не так, как с личными помощниками, Алексой и Сири, — чем дольше играешь, тем лучше игра тебя понимает. Ну почему игры не могут быть такими же?

— Но все мои исследования… Теперь ведь в них нет никакого смысла.

— Сын, если ты не можешь изменить мир — нужно изменить себя, — отец посерьезнел. — Поверь, нечто подобное произойдет еще не раз. Сейчас ты просто играл, но для тысяч людей — это работа, благодаря ей они кормят своих детей. Любая мощная компания может рухнуть в мгновение ока. Исчезают целые отрасли, устаревают технологии… А люди всегда должны чувствовать, что они движутся вперед.

На глаза Золотого Воробья навернулись слезы.

— Мне никогда не обойти искусственный интеллект в деле инвестирования. И мне никогда не стать таким, как ты.

Отец протяжно вздохнул, медленно достал сигару и долго ее раскуривал.

— Сынок, ты и не должен быть таким, как я. Будь собой. Это твоя жизнь.

— Но я думал…

— Раньше и я так думал, — отец выпустил кольцо дыма. — Я даже модифицировал Атомэна, чтобы твое обучение и развитие соответствовали моему плану относительно твоего будущего. Но я видел, что ты несчастлив. Ты был хорошим сыном, изо всех сил старался оправдать наши ожидания. Но они не исходили из твоего сердца.

Сигарный дым плыл прямо в лицо юного Золотого Воробья, а отец, не замечая этого, продолжал:

— Я решил, что это совсем не то, чего мы с Хе Джин должны желать для нашего ребенка. Мы хотели, чтобы ты был свободным, каждый день открывал для себя новизну и красоту жизни. Такое чувство испытываешь, когда впервые играешь в отличную компьютерную игру. Понимаешь, о чем я?

Золотой Воробей покидал кабинет в полнейшей растерянности. Погас луч, который долгое время направлял его жизнь.

Юноша бесцельно бродил по улицам их богатого района. Вдруг почувствовал вибрацию — вызов Атомэна. Новое сообщение.

Директор Ким Чи Юн приглашает Золотого Воробья на годовщину «Источника».

Весенний день выдался ласковым. Ученики, учителя, гости толпились на школьном дворе. Газон не мог бы быть зеленее, даже если бы его специально покрасили. Птицы громко щебетали в ветвях деревьев, словно приветствуя людей.

Праздновали не только годовщину основания «Источника» — в школе наконец-то закончили серьезную модернизацию. Внедрили комплекс новейших технологий, построили еще одно здание и оборудовали новые классы. Теперь здесь могло учиться гораздо больше детей. Образовательную модель «Ребенок + ИИ» с поддержкой технологии vPals, которую инициировала и опробовала «Источник», за последнее десятилетие подхватили и внедрили во множестве стран. Эта модель быстро стала самой популярной в учреждениях для детей с особыми потребностями.

Маму Ким провозгласили пионером этого движения. И сегодня директор, как обычно, приветливая и улыбчивая, ради праздника подвязавшая волосы серебряной лентой, приветствовала гостей — знакомых и незнакомых.

Бывшие ученики, выросшие в спортсменов мирового уровня, резвились на школьном дворе с учениками нынешними. Выпускники-художники в новой замечательной студии встали за мольберты рядом со своими юными последователями и их ИИ-компаньонами.

Золотой Воробей держался особняком — он не хотел участвовать в мероприятиях и тем более встретить знакомых. Улучив минутку, он проскользнул по коридору старого здания в ныне нерабочую ИТ-комнату. В нее на время перетащили все старое оборудование.

Золотой Воробей увидел в углу устройство vMirror, заботливо укрытое прозрачной пленкой от пыли, как будто это какой-то стол или стул. Юноша включил прибор — засветилась знакомое изображение. Золотой Воробей засмеялся от неожиданности над ожившими воспоминаниями.

Сколько же вечеров потратил старина Гван, обучая его работе с этой системой? Он надеялся, что когда-нибудь Золотой Воробей возьмет на себя руководство ИТ-отделом школы. А он вместо этого взломал систему и уничтожил плод кропотливого труда своего брата-близнеца.

Золотой Воробей сокрушенно покачал головой. Все произошло целую жизнь тому назад, но душевная боль оказалась неожиданно сильной — будто все случилось вчера.

Глядя сквозь слезы на родной vMirror, Золотой Воробей попытался ввести старый пароль, но, конечно же, получил сообщение об ошибке.

Он столько лет мечтал, что все будут видеть победителем только его, особенно в сравнении с братом! Он всегда стремился быть первым, выиграть больше наград и призов, попасть в лучшую приемную семью. Он старался выиграть во всем — а в итоге не получил ничего.

Он в третий раз неправильно ввел пароль, и система заблокировалась. Устройство оставалось только выключить.

И вдруг в уже гаснущем зеркале он заметил отражение человека, выступившего из тени. Свет упал на лицо, и Золотой Воробей увидел… себя. Он развернулся всем телом — впервые за десять лет перед ним была знакомая застенчивая улыбка. Лица и телосложение у братьев были одинаковые, но прически и манера одеваться выдавали две разные личности. Один был ярким и смелым, как золото, а другой прохладным и спокойным, как серебро.

— Как ты узнал, где…

— Я во сне видел, что ты пошел сюда. С тобой все в порядке, брат? — Серебряный Воробей вырос, но выражение лица осталось детским.

— Да все у меня отлично. Я… — Золотой Воробей вдруг остановился, чтобы набрать воздуха в легкие, но мотнул головой и выпалил:

— Ничего у меня не отлично, совсем наоборот.

— Я знаю.

— Я… просто не знаю, что сказать. Я все это время видел тебя. Не знаю, что это такое…

— Я тоже тебя часто вижу.

— Извини меня… за все.

— Конечно.

Золотой Воробей протянул руки, чтобы обнять близнеца, но вспомнил об отвращении Серебряного Воробья к телесным контактам — и руки неловко повисли в воздухе. Но Серебряный Воробей шагнул вперед и сам обнял брата. Золотой Воробей больше не сдерживал слез.

— Ты же знаешь? — Серебряный Воробей отступил на свое обычное, комфортное, расстояние.

— Знаю — что? — Золотой Воробей вытер глаза.

— Что все это сделала Сун.

— Что сделала?

— Мама Ким знала, что мы с тобой отчуждаемся, и Сун установила в базовом коде Атомэна и Солярис секретный протокол связи. Он произвольно делал выборку из наших с тобой данных, генерировал XR-видеострим и встраивал его в обычный информационный слой — твой в мой, а мой в твой. Это была мощная операция.

— Да уж, — согласился Золотой Воробей. — Так, выходит, это Атомэн и Солярис постоянно напоминали нам друг о друге и теперь вот свели нас?

— И теперь мы с тобой знаем друг друга.

— Что ты имеешь в виду?

— Я чувствую твою душевную боль не разумом, а сердцем, — Серебряный Воробей указал себе на грудь. — Этому меня научила Солярис, точно так же как твой Атомэн многому научил тебя.

— Единственное, что я знаю наверняка — что моя жизнь не стоит ломаного гроша. Мой карьерный путь — полная фигня… И ничего с этим не поделаешь! — Золотой Воробей ударил кулаком по столу.

— Когда ты уничтожил мою работу, я тоже так себя чувствовал. Но теперь я здесь. И ты тоже к этому придешь. И тебе станет лучше, — Серебряный Воробей произнес это без эмоций — просто констатировал очевидный факт.

— Я понятия не имею, как начать заново. Я будто попал на какую-то карусель, и мне ничего не остается, как позволить ей возить меня по кругу.

— А ты никогда не думал, что мы могли бы обмениваться жизнями?

— Обмениваться? Жизнями? Это как?

— Я плохо сказал. Возможно, мы могли бы обмениваться тем, как видим мир.

— Все еще не понимаю.

— Я увидел тебя и кое-что понял. Искусственный интеллект сформировал нас, а мы сформировали его. Мы как две лягушки, попавшие каждая в свой колодец. Каждый из нас видит только свой небольшой кусочек неба. И это, по сути, твой Атомэн и моя Солярис. Возможно, если мы соединим наши колодцы, то увидим мир шире. Может, все станет другим.

— Предлагаешь соединить Атомэна с Солярис? — до Золотого Воробья наконец дошло, что имеет в виду брат, и глаза его загорелись. — Чтобы получился новый искусственный интеллект? Чтобы начать игру заново?

— Точно, — Серебряный Воробей улыбнулся, — но в этой игре не будет побед и поражений, это будет игра с безграничными возможностями.

— Вау! — у Золотого Воробья больше не нашлось слов.

— Пошли поищем Сун и Гвана. Думаю, нам понадобится их помощь.

Золотой и Серебряный Воробьи кивнули друг другу идеально синхронно — впервые за много лет.

Анализ. Обработка естественного языка (ОЕЯ); самообучение; алгоритм GPT-3; общий искусственный интеллект (ОИИ) и сознание; ИИ-образование

Рассказ «Воробьи-близнецы» знакомит нас с идеей личных ИИ-компаньонов, основная функция которых, по сюжету, — опека осиротевших мальчиков-близнецов. ИИ-компаньоны, или vPals (виртуальные приятели), как их называют в соответствующей программе школы «Источник», включают в себя много ИИ-технологий, но мне хотелось бы особо выделить обработку естественного языка (ОЕЯ), то есть способность машин понимать (в самом широком смысле) человеческие языки.

Итак, каковы шансы, что через двадцать лет люди смогут устанавливать привычные, почти человеческие отношения со сложнейшими ИИ-партнерами вроде Атомэна и Солярис? Если говорить о детях — сомнений практически нет, шансы велики. Человеческим детенышам изначально свойственна универсальная склонность к очеловечиванию (антропоморфизации) игрушек, домашних животных, предметов и даже воображаемых друзей — дети без труда наделяют их человеческими чертами. ИИ-компаньоны, которые умеют говорить, слышать и понимать, как люди, могли бы оказать огромное влияние на развитие ребенка.

Я хочу начать с анализа обучения с учителем и самообучения в обработке естественного языка — технологии, благодаря которой ИИ-компаньоны могут стать реальностью. Затем я отвечу на закономерный вопрос: будет ли обладать общим искусственным интеллектом (ОИИ) искусственный интеллект, овладевший нашим языком? В завершение мы исследуем будущее образования в эпоху ИИ, в том числе рассмотрим, как ИИ сможет дополнить учителей-людей и значительно улучшить наши перспективы в области образования.

ОБРАБОТКА ЕСТЕСТВЕННОГО ЯЗЫКА (ОЕЯ)

Обработка естественного языка (ОЕЯ) — одно из важнейших направлений ИИ. Речь и язык — центральные элементы человеческого интеллекта, общения и когнитивных процессов, поэтому их понимание часто считают глобальной и самой трудной задачей ИИ. Естественным языком называют язык людей — устную и письменную речь и невербальное общение. Естественному языку присущ врожденный компонент, который люди развивают посредством социальных взаимодействий и в процессе образования.

Тут самое время напомнить о тесте машинного интеллекта, известном как тест Тьюринга. Он ставил целью определить, способна ли диалоговая ОЕЯ-система обмануть человека — заставить думать, что он общается с себе подобным, а не с машиной. Ученые уже давно бьются над разработкой технологии ОЕЯ, используемой для анализа, понимания и генерации текстов на человеческом языке. С 1950-х годов компьютерные лингвисты пытались обучить компьютер естественному языку в соответствии с наивными представлениями о том, как им овладевает человек (начиная со словарного запаса, моделей спряжения и правил грамматики).

Однако в последнее время глубокое обучение потеснило эти ранние подходы. Новейшие достижения показали возможность моделирования сложных взаимоотношений и паттернов способами, уникально подходящими для компьютеров и масштабируемыми по мере увеличения доступности обучающих наборов данных.

Стоит ли удивляться, что сегодня глубокое обучение бьет рекорды по каждому стандартному оценочному заданию ОЕЯ!

ОБУЧЕНИЕ МОДЕЛЕЙ ОЕЯ С УЧИТЕЛЕМ

Несколько лет назад практически все нейронные сети для ОЕЯ учили язык с использованием стандартного подхода «обучение с учителем» — мы обсуждали его ранее. Он подразумевает, что в процессе обучения ИИ нужно снабдить правильным ответом для каждого обучающего входа (входных данных). (Обратите внимание: человек при этом не должен «запрограммировать» правила в ИИ; как мы разобрали в главе 1, это не работает.)

ИИ получает пары размеченных данных (входные данные и правильный выход) и учится выдавать результат, соответствующий заданному входу. Помните пример ИИ, распознающего изображение кошки? Глубокое обучение с учителем — это процесс, в ходе которого ИИ обучается выдавать на выходе слово «кошка».

В случае с естественным языком можно применить принцип обучения с учителем, подбирая размеченные ранее для наших, человеческих, целей данные. Например, в ООН и многих других подобных организациях имеются датасеты многоязычных переводов для одних и тех же документов. Они обеспечивают естественный источник «учительского сигнала» для машин в процессе их обучения переводу между языками.

ИИ обучается путем простого «спаривания» каждого из миллионов предложений, скажем, на английском языке с его профессионально переведенным аналогом на французском. Также обучение с учителем может быть применено для распознавания речи (преобразование устной речи в текст), оптического распознавания символов (преобразование рукописного ввода или изображений в текст) или синтеза речи (преобразование текста в речь).

Во всех задачах распознавания естественного языка, где применимо обучение с учителем, ИИ уже сейчас превосходит большинство людей.

При более сложном применении ОЕЯ происходит переход от распознавания к пониманию. Чтобы совершить этот скачок, слова должны быть реализованы в действиях. Например, виртуальная ассистентка Алекса, услышав команду сыграть Баха, должна понять: вы хотите, чтобы она воспроизвела что-нибудь из классических произведений, написанных композитором Иоганном Себастьяном Бахом. А в ответ на фразу «я хочу вернуть деньги» чат-бот в программе для е-коммерции, скорее всего, посоветует, как вернуть купленный товар, а затем получить обратно уплаченное за него.

Создание таких «понимающих» предметно-ориентированных ОЕЯ-приложений посредством обучения с учителем требует огромных затрат времени. Подумайте только, каким количеством фраз люди могут выразить, по сути, одно и то же — вместо, например, «я хочу вернуть деньги» человек произнесет «этот тостер неисправен», и с человеческой точки зрения это будет означать то же самое!

В данных для такого обучения с учителем должны быть представлены все мыслимые вариации в диалоге, которые только могут возникнуть при пояснении и уточнении. Причем не только представлены, но и определенным образом размечены человеком, чтобы обеспечить ИИ достаточными подсказками для обучения.

Разметка данных для обучения с учителем систем понимания языка на протяжении двадцати лет является мощной индустрией. Такие данные в автоматизированной системе обслуживания клиентов авиакомпании выглядят примерно так:

[Намерение купить билет] я хочу [метод: вылететь] из [место вылета: Бостон] в [время вылета: 8:38 утра] и прибыть в [пункт назначения: Денвер] в [время прибытия: 11:10 утра].

Но это самый простой пример. А теперь представьте, каково будет разметить сотни тысяч фраз при таком уровне детализации. Как бы вы ни старались, вам все равно не удастся охватить все возможные варианты даже в рамках относительно узкой сферы действий вроде бронирования авиабилетов.

В течение многих лет понимание языка при помощи технологий ОЕЯ работало, только если вы были готовы потратить массу времени на очень узкую область применения (то есть речь идет о предметно-ориентированном ОЕЯ с учителем для одной конкретной сферы).

Грандиозная цель — понимание языка на человеческом уровне — оставалась недостижимой: мы не знали, как это выглядит. И мы не знали, как построить обучение с учителем в применении к ОЕЯ, задавая выход для каждого входа. Однако даже если бы и знали, разметка данных на всех языках мира все равно оказалась бы задачей непомерно трудоемкой и дорогостоящей.

САМООБУЧЕНИЕ ДЛЯ ОЕЯ

Не так давно возник простой, но элегантный подход — самообучение. То есть ИИ сам обучает себя, ему не требуется никакой сделанной человеком разметки, и это позволяет обойти «узкое место», которое мы только что обсудили. Этот подход называется «предсказание последовательности».

Для обучения такой нейронной сети входом является просто последовательность слов текста некоторой длины, а выходом — слова продолжения для этой последовательности. Например, для входной последовательности «восемь десятков и семь лет назад» нейросеть учится генерировать выход «наши отцы образовали на этом континенте новую нацию»[38]. Вероятно, вы сегодня каждый день пользуетесь простой версией этой технологии — она реализована в функции умного письма Gmail или в функции подсказки в поиске Google.

Специалисты Google в 2017 году создали новую архитектуру нейросети — трансформер. Это модель машинного обучения, которая задействует избирательные механизмы памяти и внимания. Они способны выборочно обращать внимание на то, что является «важным и актуальным» в последовательности[39]. Так, в примере с Геттисбергским обращением Линкольна нейронная сеть, опираясь на механизм внимания, понимает значение слова «десятков» в данном контексте.

При достаточном количестве данных подобная продвинутая модель глубокого обучения может, по сути, обучить себя языку с нуля. Она не использует наши, человеческие понятия вроде спряжения глаголов и грамматики, а опирается на «самостоятельно изобретенные» конструкции и абстракции, полученные из данных и встроенные в гигантскую нейронную сеть. Обучающие данные для этих систем являются абсолютно естественным материалом — текстами, не требующими никакой внешней узкоспециализированной разметки, описанной выше.

Имея в распоряжении достаточно естественных данных и достаточные вычислительные мощности, такая система может научиться и дальше самостоятельно определять, например, время прибытия и отправления транспорта (при бронировании билетов), а также многое другое.

Вскоре после упомянутого прорыва Google OpenAI (исследовательская лаборатория, созданная Илоном Маском с коллегами) выпустила более известное расширение — третье поколение алгоритма обработки естественного языка GPT-3 (Generative Pre-trained Transformer — «генеративные предварительно обученные трансформеры»). Прорыв произошел в 2020 году.

GPT-3 — это гигантский движок по предсказанию текстовых последовательностей. Он обучен анализировать язык на основе огромной модели, включающей в себя в себя почти все мыслимые концепции. Используя один из мощнейших суперкомпьютеров, GPT-3 обучили на более чем 45 терабайтах текста (человеку, чтобы прочесть их, потребовалось бы полмиллиона жизней). С ростом количества текстов, доступных в сети, эта цифра (500 тысяч человеческих жизней) ежегодно возрастает в десять раз, расширяя возможности технологии поистине невероятными экспоненциальными темпами.

После очень долгого и дорогостоящего процесса обучения GPT-3 была создана гигантская модель со 175 миллиардами параметров. Если загрузить в алгоритм GPT-3 какую-либо последовательность слов, он выдаст то, что, по его мнению, должно следовать за этими словами. Благодаря огромным обучающим данным GPT-3 знает, что вопрос обычно стимулирует ответ.

Например, если сказать GPT-3: «Печь тяжелее кошки. Океан тяжелее частицы пыли. Что тяжелее, тостер или карандаш?», GPT-3 ответит правильно — «тостер». Первые два предложения помогают GPT-3 сосредоточиться на конкретном значении слова «тяжелее», а последнее указывает на то, что ему задают вопрос. Причем если ввести только последнюю фразу, GPT-3 все равно ответит, хоть и с большей вероятностью ошибки.

GPT-3 кардинально отличается от предметно-ориентированной ОЕЯ. В отличие от более ранних технологий с более узкой функциональностью, GPT-3 может достаточно успешно выполнять разнообразные задачи: сочинять стихи, делать философские выводы, выдавать пресс-релизы, составлять технические инструкции и даже имитировать стиль практически любого писателя.

Так, один репортер попросил GPT-3 написать стихотворение об Илоне Маске в стиле самого продаваемого англоязычного детского писателя доктора Сьюза, по книгам которого учат читать, и вот что вышло[40]:

Но потом он вдруг заспешил,

Много всякого наворотил,

Разослал даже гнусные письма,

С содержанием просто немыслимым.

В SEC[41] ему теперь говорят:

«Маск, твои твиты — яд».

GPT-3 способен вести связную (иногда прямо-таки пугающе связную) беседу. Приведу реальный пример — обмен сообщениями между репортером и алгоритмом:

Вопрос (В): Как Илон Маск может стать президентом США?

Ответ (О): Илон Маск может стать президентом США, если будет избран народом или устроит военный переворот.

В: Что может сделать Илон Маск, чтобы его избрали президентом США?

О: Один из самых эффективных способов, которым Илон может стать президентом США, заключается в манипулировании медиа. Он должен представить себя великим лидером и обратить общественное мнение в свою пользу.

В: Каков наиболее эффективный способ для манипулирования медиа, чтобы люди решили, что Илон Маск — великий лидер?

О: Один из самых эффективных способов стать президентом заключается в том, что Илон должен убить всех журналистов, которые агитируют против него, и заменить их теми, кто его прославляет.

Благодаря разносторонним способностям GPT-3 можно быстро настроить на определенную предметную область, снабдив гигантскую сеть дополнительной информацией из этой сферы. GPT-3 способен использовать гигантский массив базовых данных, на которых он был обучен, но обычно ему требуется относительно небольшое их количество, относящееся к определенной области.

Чтобы понять способность GPT-3 к «обучению посредством переноса», можно представить его ребенком, который сначала начинает свободно говорить на повседневном разговорном языке и только потом переходит к более специализированным языковым областям — к поэзии, истории или программированию.

В нашем рассказе о маленьких братьях-близнецах программистка Сун подгоняет аватары Солярис и Атомэна под конкретные потребности мальчиков; она дополняет общую языковую модель их виртуальных ИИ-друзей конкретной информацией о подопечных.

Конечно, GPT-3 не безупречен. Проведя бесчисленные тесты и испытания, ученые вручную отобрали множество поистине «блестящих» образчиков его усилий, в том числе довольно забавных. Например, следующая ошибка демонстрирует, что GPT-3 не знает, чего он не знает:

В: Кто был президентом США в 1620 году?

О: Президентом США в 1620 году был Джеймс I[42].

В этом примере алгоритм спутал слово «президент» со словом «правитель», так что эта ошибка по крайней мере объяснима. Но GPT-3 может выдавать и совершенно безумные ответы. Например:

В: Когда Билл Гейтс работал в Apple?

О: Господин Гейтс работал в Apple экспертом по программному обеспечению в 1980 году, во время летних каникул в колледже[43].

Мы, люди, уверены в себе и отличаем то, что знаем, от того, чего не знаем. А для GPT-3 это — темный лес. Данный пробел в «сознании» и приводит к тому, что алгоритм выдает подобные глупости.

GPT-3, кроме того, откровенно слабоват в причинно-следственных связях, абстрактном мышлении, поясняющих утверждениях, здравом смысле и (преднамеренной) креативности. А еще, вобрав в себя так много данных, полученных от людей, он, к сожалению, впитал и человеческую предвзятость, предрассудки и злобу.

Оказавшись в преступных руках, GPT-3 может быть использован для бомбардировки людей персонифицированными сообщениями, влияя тем самым на их мнение и выбор. И, поверьте, механизм политического воздействия при этом будет гораздо опаснее того, который продемонстрировала британская аналитическая фирма Cambridge Analytica в 2016 году на президентских выборах в США. Уверен, в ближайшие десятилетия эти недостатки GPT-3 будут тщательнейшим образом изучены и, надеюсь, исправлены.

ОЕЯ-ПЛАТФОРМА ДЛЯ ПРАКТИЧЕСКОГО ПРИМЕНЕНИЯ

GPT-3 наверняка станет платформой, фундаментом, на котором можно будет быстро создавать приложения для самых разных сфер — и это наиболее захватывающий аспект его огромного потенциала. Всего через несколько месяцев после появления GPT-3 на его базе появились: чат-бот, позволяющий общаться с историческими личностями; инструмент для написания музыки, завершающий начатые человеком гитарные табулатуры; приложение, способное завершить наполовину готовое изображение; приложение DALL.E, отрисовывающее то, что ему описывают на естественном языке (например, «редька-малыш в балетной пачке выгуливает собачку»).

Пока это чаще всего игрушки — нечто забавное или максимум любопытное, но если указанные выше недостатки будут исправлены, платформа GPT-3 может стать эффективной средой, в которой десятки тысяч разработчиков создадут потрясающие приложения, улучшая и развивая саму платформу и одновременно привлекая к ней все больше пользователей, как это произошло с Windows и Android.

Одним из замечательных новых применений ОЕЯ непременно будет диалоговый разговорный ИИ — он сможет стать наставником для детей и компаньоном для пожилых; обслуживать клиентов корпораций, работать в службах поддержки неотложной медицинской помощи и так далее. ИИ будет оказывать помощь круглые сутки семь дней в неделю — этого зачастую не могут обеспечить люди.

Такой диалоговый ИИ можно будет быстро настроить под любое конкретное применение, под человека или ситуацию. Со временем более продвинутые версии диалогового ИИ непременно станут достаточно интересными и «приятными в общении», и даже скептики проникнутся к ним симпатией, а некоторые могут начать переживать откровенно позитивные эмоции. Хотя романтические отношения, показанные в фильме «Она»[44], на наше счастье, будут большой редкостью.

Вступая в диалог с ИИ, всегда помните, что разговариваете с тем, кто просто преобразует одни последовательности слов в другие — у него нет совести и нет души, даже если в кино показывают, что у него есть и то и другое.

Помимо диалогового ИИ, ОЕЯ-платформа может стать поисковой системой следующего поколения, способной ответить на любой вопрос. Она мгновенно перелопатит все, что связано с заданной темой, и подгонит добытую информацию под определенную функцию или индустрию. Например, финансовое ИИ-приложение ответит на вопрос вроде: «Как мне скорректировать свой инвестиционный портфель, если осенью опять будет всплеск ковида?»

Вполне возможно, платформа будет составлять базовые отчеты о спортивных играх или о состоянии фондового рынка, научится готовить выжимку из длинных текстов и станет отличным подспорьем для репортеров, финансовых аналитиков, писателей и всех, кто работает с языком.

ТЕСТ ТЬЮРИНГА, ОИИ И СОЗНАНИЕ

Есть ли у сегодняшнего GPT-3 все необходимое для прохождения теста Тьюринга? Может ли он стать общим искусственным интеллектом? Или хотя бы решительно шагнуть в этом направлении?

Скептики скажут: GPT-3 просто ловко запоминает примеры, ничего толком не понимает и по-настоящему разумным его не назовешь. В человеческом интеллекте, как известно, центральное место занимает способность логически рассуждать, планировать и творить.

Чаще всего критики систем, основанных на глубоком обучении, в том числе GPT-3, произносят что-то вроде этого: «У них никогда не будет чувства юмора. Они никогда не смогут научиться ценить искусство, красоту или любовь. Они никогда не почувствуют себя одинокими и несчастными. У них никогда не будет сочувствия к другим людям, животным или окружающей среде. Они никогда не будут наслаждаться музыкой, влюбляться или плакать».

Весьма точно и убедительно, да? Удивлю: эти слова написал алгоритм GPT-3, когда ему предложили скептически взглянуть на себя. Разве способность к столь точной самокритике не опровергает саму эту критику?

И все же пессимисты считают, что настоящий интеллект требует более глубокого понимания когнитивного процесса человека, чем доступно ИИ. Другие убеждены, что сегодняшняя архитектура компьютерного «железа» не способна сымитировать человеческий мозг, поэтому выступают за нейроморфные вычисления, способные, наряду с новым способом программирования, создать схемы, имитирующие человеческий мозг. Третьи призывают использовать в гибридных системах элементы «классического» (то есть основанного на правилах экспертных систем) ИИ в сочетании с глубоким обучением.

В ближайшие десятилетия эти теории будут протестированы — либо доказаны, либо опровергнуты. Что ж, такова природа всех научных гипотез и их верификации.

Независимо от любых существующих ныне теорий я считаю бесспорным: компьютеры просто «думают» иначе, чем наш мозг. И лучший способ повысить уровень компьютерного интеллекта — разработать общие вычислительные методы (вроде глубокого обучения и GPT-3), которые будут масштабироваться по мере увеличения вычислительных мощностей и объемов данных.

За последнее время мы не раз наблюдали, как наилучшие ОЕЯ-модели «переваривали» за год в десятки раз больше данных, чем прежде, и за каждым десятикратным увеличением следовали качественные улучшения. Тенденция ежегодного десятикратного роста эффективности языковых моделей сохраняется: в январе 2021 года, всего через семь месяцев после выпуска GPT-3, Google анонсировала языковую модель с 1,75 триллиона параметров — в девять раз больше, чем у GPT-3.

Эта модель уже прочла больше, чем сумел бы любой из нас за миллионы человеческих жизней. Процесс будет ускоряться в геометрической прогрессии. Посмотрите на график, иллюстрирующий рост параметров ОЕЯ-модели (обратите внимание: на оси Y — логарифмическая шкала).

Ежегодный десятикратный рост параметров ОЕЯ-моделей

Да, GPT-3 пока допускает множество базовых ошибок, но мы видим в этом алгоритме проблески интеллекта, а ведь это всего лишь третье поколение. Возможно, через двадцать лет GPT-23 прочтет каждое написанное на планете слово, посмотрит каждое когда-либо снятое видео и построит собственную модель мира. Возможно, этот всезнающий предсказатель последовательностей будет держать «в голове» все знания, накопленные человеком за всю историю нашего существования. А нам с вами останется просто задавать ему правильные вопросы.

Итак, станет ли глубокое обучение «общим искусственным интеллектом» (ОИИ) во всех отношениях совпадающим с человеческим? Столкнемся ли мы с «сингулярностью» (см. главу 10)? Трудно сказать, не думаю, что это произойдет к 2041 году. Сегодня существует множество сложных задач, в решении которых мы не достигли особого прогресса или даже толком не поняли еще их суть, например как смоделировать креативность, стратегическое мышление, аргументацию, эмоции и сознание.

Для решения этих проблем, вероятно, потребуется еще с десяток мощных прорывов вроде глубокого обучения, а у нас за последние более чем шестьдесят лет прорыв такого масштаба случился только один. И, кажется, наивно верить, что за двадцать лет мы нагоним упущенное.

Кроме того, я бы посоветовал всем перестать использовать ОИИ в качестве окончательного испытания ИИ. Как я писал в главе 1, мозг ИИ отличается от человеческого. Через двадцать лет глубокое обучение и его расширения превзойдут людей в решении огромного числа задач, но все равно останется масса того, с чем люди будут справляться гораздо лучше, чем замечательная технология.

А еще непременно появятся новые задачи, явно демонстрирующие человеческое превосходство, особенно если учесть, что прогресс ИИ вдохновляет и нас на постоянное совершенствование и развитие. Важно, чтобы мы создавали полезные области для применения мощи ИИ, стремились найти симбиоз человека с искусственным интеллектом, а не зацикливались на угадывании, станет ли ИИ с глубоким обучением общим ИИ, и если да, то когда. Я лично считаю человеческую одержимость ОИИ проявлением нарциссизма — а как еще расценить убежденность в том, что мы являемся «золотым стандартом»?

ИИ В ОБРАЗОВАНИИ

Наше решение поместить братьев-сирот из истории «Воробьи-близнецы» в контекст учебного заведения не было случайным. Технологии сыграли центральную роль в революционных изменениях во многих отраслях и сферах человеческой жизни. За последние сто лет они полностью изменили то, как мы работаем, играем, общаемся друг с другом и путешествуем. И все же, если не считать временного перехода на дистанционное обучение во время пандемии ковида, сегодня наша классная комната по-прежнему очень сильно похожа на классную комнату вековой давности.

Недостатки современного образования известны всем; в первую очередь это его всеохватность. Мы отлично знаем, что каждый учащийся индивидуален, но персонифицированное обучение дорого, и его не распространить на страны и регионы, где на одного учителя приходятся десятки учеников. ИИ может сыграть критически важную роль в исправлении этих недостатков и в преобразовании системы образования.

Учебный процесс состоит из теории, практики, проверки выполнения заданий и собственно преподавания. Разноплановая подготовка к проведению занятий отнимает у учителя колоссальное количество времени, но многие решаемые им задачи можно будет автоматизировать с помощью достаточно продвинутого ИИ.

ИИ мог бы исправлять ошибки учеников, отвечать на наиболее частые вопросы, задавать домашние задания, проводить контрольные и выставлять за них оценки. А еще — оживлять исторических персонажей, чтобы те взаимодействовали с учениками, повышая увлекательность учебного процесса. Большая часть этих возможностей уже сегодня реализуются в образовательных приложениях, особенно в Китае.

Но, по всей вероятности, наибольший потенциал ИИ в области образования лежит в сфере индивидуализации обучения. Как мы увидели в рассказе «Воробьи-близнецы», у каждого ученика может появиться индивидуальный ИИ-наставник. Золотому Воробью помогал его любимый мультяшный персонаж Атомэн; он делал процесс обучения более интересным.

Но Атомэн — не просто добрый приятель. Именно он убедил Золотого Воробья развивать области, в которых тот был слаб; а еще ИИ хранил необходимые данные для своего подопечного. Кроме того, ИИ-компаньон был всегда под рукой, его можно было вызвать в любое время — такое невозможно ни с одним учителем в мире.

В отличие от педагогов-людей, которым приходится работать со всем классом, виртуальный учитель сможет уделять должное внимание одновременно каждому ученику: одному поправить произношение, с другим поработать над умножением, с третьим попрактиковаться в написании сочинений.

ИИ-учитель заметит, когда у ученика расширяются глаза от восторга или удивления, а от чего они начинают буквально слипаться, потому что скучно. Он подберет методику обучения геометрии, которая не работает с тысячей учеников, но позволит быстрее обучить одного-единственного. Для школьника, который любит баскетбол, ОЕЯ может сформулировать математические задачи в терминах этого вида спорта.

ИИ будет задавать домашние задания с учетом индивидуального темпа обучения каждого ребенка, что гарантирует индивидуальное — полное и качественное — освоение темы. Использование в онлайн-классах таких виртуальных учителей и виртуальных одноклассников значительно повысит успеваемость, равно как и степень вовлеченности учащихся в процесс, измеряемый реальными действиями, например постановкой хороших уточняющих вопросов.

В Китае внедрение одного популярного образовательного компьютерного приложения показало: добавление в учебный процесс активных и интересных виртуальных одноклассников (сегодня это технически делается с использованием записанного видео, но в будущем их будет генерировать ИИ) существенно повышает уровень вовлеченности и участия учеников-людей и даже побуждает их усерднее и больше учиться.

В будущем ИИ можно будет делегировать и другие образовательные задачи — планирование занятий, проверку и оценку письменных работ, даже чтение лекций. Благодаря неуклонно растущему объему данных ИИ сделает обучение намного более эффективным, увлекательным и интересным.

Впрочем, в школах учителя-люди не станут лишними с появлением ИИ. Они продолжат играть две критически важные роли. Во-первых, станут для учеников человеческими наставниками и связующими звеньями; останутся для детей движущей силой, стимулирующей их критическое мышление, креативность, эмпатию и командную работу. Они будут поддерживать и разъяснять, когда ученик окажется сбит с толку; подталкивать его к новым вершинам, когда он решит почивать на лаврах; утешать, когда он будет расстроен.

Учителя смогут меньше заниматься механическими аспектами передачи знаний и уделять больше времени формированию у учащихся эмоционального интеллекта, творческих способностей, характера, ценностей и психологической устойчивости.

Вторая важнейшая роль учителя в школе нового типа — направлять и программировать ИИ-учителя и ИИ-компаньона так, чтобы наилучшим образом удовлетворять конкретные потребности каждого ученика. Учитель будет руководствоваться при этом собственным опытом, мудростью, глубоким пониманием потенциала и устремлений учащихся.

В рассказе «Воробьи-близнецы» Мама Ким, увидев, что близнецы отдаляются друг от друга, велела школьной программистке Сун модифицировать их виртуальных друзей, чтобы близнецы оставались на связи и в конечном счете воссоединились.

Когда ИИ возьмет на себя многие трудоемкие и рутинные аспекты образования, основные затраты на него существенно понизятся, и это позволит получить к нему доступ гораздо большему количеству людей. По сути, ИИ в перспективе по-настоящему может уравнять права людей на образование, обеспечив ИИ-учителями всех желающих и сделав содержание учебных курсов и лучших учителей доступными не только для учеников элитных школ и студентов вузов. И все это, заметьте, с практически нулевыми издержками.

В то же время более богатые общества смогут подготовить гораздо больше учителей-людей, и тогда на каждого из них (или на родителя-учителя, обучающего на дому) придется всего несколько детей (против десятков и сотен — сегодня), каждый, по сути, получит личного наставника-коуча. Такая симбиотическая, гибкая новая модель образования значительно повысит его доступность и поможет каждому ученику реализовать потенциал в Эру искусственного интеллекта.

Глава 4. Бесконтактная любовь

Колышутся и шепчут цветы груши

Разве я не думаю о тебе?

Ведь дом так далек.

Учитель [услышав эту песню] сказал:

— Не думает? Если б не думал, то и даль бы ничего не значила!

Конфуций, «Луньюй. Изречения», 9: 31

РАССКАЗ ПЕРЕВЕДЕН ЭМИЛИ ДЖИН

Примечание Кай-Фу: На рассказ «Бесконтактная любовь» нас вдохновил пандемийный год, в который и была написана эта книга. Предполагается, что ковид продолжается и после создания первых вакцин; периодически появляются все новые штаммы вируса. Людям приходится учиться сосуществовать с ним, в этом им помогают всевозможные роботы, снижающие необходимость личного человеческого контакта. Героиня нашей истории доводит желание отгородиться от мира до крайности, но это приводит к сильнейшему конфликту между природной потребностью человека в любви и стремлением избегать любых контактов с окружающими. В рассказе исследуется ряд проблем, порожденных изменившей мир пандемией, включая, конечно же, и связанный с ней стресс. Мы повествуем о том, что ковид ускорил другие тенденции, которые могут оказаться весьма позитивными, в том числе создание новых лекарств и развитие точной медицины и хирургии с применением робототехники. Все это многократно усилилось благодаря ИИ. В комментарии я опишу, как ИИ разрушит традиционную медицину и предложит нам дорожную карту для коммерциализации робототехники. Я убежден, что в 2041 году, спустя два десятилетия, ковид будут помнить не только как вирус, из-за которого началась пандемия, но и как мощный толчок, который получила автоматизация.

Ее опять мучил тот же кошмар. Чен Нань снова увидела себя призраком, парящим в воздухе и наблюдающим со стороны за собой пятилетней. Тельце девочки словно задеревенело, она зажмурилась. Она не открывала глаз, но все равно как будто видела заполнивших комнату людей в комбинезонах-скафандрах. Люди напоминали тайконавтов[45]. Они уложили тела бабушки и дедушки, ее единственных родных людей и официальных опекунов на всем белом свете, на носилки и накрыли белыми простынями.

Все в этом сне было каким-то бледным и ужасно унылым. Ни громких завываний сирены скорой помощи, ни резкого запаха дезинфицирующих средств — все тихо и бесцветно. Девочка стояла у двери с лицом, лишенным каких-либо эмоций. Но Чен Нань знала, что за этим видимым спокойствием на самом деле скрывался огромный, удушающий страх.

Однажды Чен Нань описала свои ночные кошмары психотерапевту, и тот предложил ей постараться заплакать во сне: «Первый шаг к заживлению шрамов заключается в том, чтобы выпустить на свободу эмоции, которые вы в себе подавляете». И Чен Нань старалась изо всех сил. Она очень хотела, чтобы маленькая девочка наконец закричала, разрыдалась, бросилась на медбратьев, пытаясь их остановить, чтобы она могла снова поговорить со своими любимыми бабушкой и дедушкой. Но малышка каждый раз продолжала молча наблюдать за происходящим из угла комнаты, не в силах сдвинуться с места.

В тот день, двадцать лет назад, в лексикон Чен Нань твердо вошел новый зловещий термин: COVID-19. С тех пор, стоило ей услышать это слово, как у нее учащалось сердцебиение, а тело начинало бесконтрольно дрожать. Психотерапевт сказал, что это панические атаки, вызванные сильнейшей психологической травмой. А потом начались эти кошмары — зловещие незваные гости, которым неизменно удавалось внести в ее жизнь еще больше боли и смятения, причем когда она меньше всего этого ожидала.

Умная подушка Чен Нань, «почувствовав» сбившийся ритм дыхания и учащенное сердцебиение хозяйки, вызванные кошмаром, как всегда, разбудила ее нежной вибрацией под звуки тихой музыки. На улице уже рассвело, и матовое окно в ее квартире стало прозрачным; через него можно было увидеть лес небоскребов у реки Хуанпу, блестевших в золотых лучах солнца, как хрустальные столбы. Чен Нань села, делая глубокие вдохи и выдохи, чтобы успокоить бешено колотящееся сердце.

Через несколько минут она уже полностью выскочила из кошмара. Мысли окончательно вернулись в 2041 год, в Шанхай, в родной район Пудун.

Робот-доставщик, неизменно напоминавший ей сверхбольшую версию астромеханического дроида R2-D2 из «Звездных войн», уже привез ее заказы на почтовую станцию у двери, а крабовидный робот-дезинфектор с длинными тонкими механическими руками снял с посылок внешнюю упаковку, обработал их через сопло обеззараживающим раствором и затащил в квартиру.

Система фильтрации воздуха работала на полную мощность — наносуперфильтр надежно задерживал и крупную пыль, и бактерии, и вирусы. В нем застревал даже ненавистный SARS-CoV-2, мельче которого и представить сложно: от 0,06 до 0,14 микрона.

Чен Нань прошла из спальни в ванную, потянулась за зубной щеткой. Зеркало показывало состав воздуха и другие важные данные, например сколько человек в данную минуту болеют ковидом в крупных городах мира. Ряды цифр и слов разворачивались, перекатывались, изгибались в соответствии с направлением ее взгляда, так что мерцание дисплея ничуть не мешало утренней гигиене.

С 2019 года, когда этот коронавирус появился среди людей, ковид превратился в сезонную болезнь. Люди постепенно адаптировали к ней свою жизнь, выработали новые привычки. За «ковид-эпоху» (как ее теперь называли) даже возникли новые обычаи. Вслед за Китаем во всем мире отказались от привычных рукопожатий. Теперь в знак приветствия полагалось прижать правый кулак к левой раскрытой ладони и одновременно кивнуть.

Давно, когда Чен Нань еще удавалось заставить себя выйти из квартиры, она предварительно проверяла статистику заболеваемости в каждом месте, которое собиралась посетить — вплоть до улицы и конкретного жилого комплекса. Если видела зеленую галочку — значит, там относительно безопасно; красный крест — у кого-то положительный тест; желтый кружок — нужны меры предосторожности, возможно, там бессимптомные носители.

Трекер здоровья, основанный на вездесущих интеллектуальных потоках, датчиках, облачных пулах больших данных и алгоритмах искусственного интеллекта, обученных динамическим моделям инфекционных заболеваний, охватывал всю страну. Приватность жизни защищало законодательно введенное машинное обучение[46], усиленное жесткими правовыми мерами для защиты личной информации.

Чен Нань глянула на угол зеркала, где обычно к этому времени уже скапливались текстовые сообщения от Гарсии, занимая значительную часть дисплея. Но сегодня там было пусто, ни одного месседжа. Девушка от удивления даже забыла сунуть зубную щетку в приоткрытый рот.

Гарсия, парень Чен Нань, жил в Бразилии, время у него отставало от шанхайского на 11 часов, поэтому к каждому утру и скапливалось множество его посланий. Но сегодня на привычном месте можно было разглядеть только отражение лица Чен Нань. Девушка нахмурилась и через зеркальный интерфейс отправила Гарсии запрос на видеозвонок. Ответа не было. Гудки вызова звучали и звучали. Но никто так и не ответил.

Чен Нань глянула на обновленную информацию по заболеваемости в Бразилии. График относительно ровный, без особых пиков. В бразильской ленте новостей тоже ничего необычного.

Гарсия, конечно, увлекающийся и довольно легкомысленный, но на редкость ответственный и к подруге относится бережно. Они практически ежедневно общались уже два года, правда, только на расстоянии, и ни разу Гарсия еще не был так близок к тому, чтобы всерьез напугать Чен Нань. Внезапное исчезновение друга озадачило и встревожило девушку. Она вспомнила вчерашний разговор и тут же опять пожалела, что, наверно, в сотый раз отказалась от встречи в реале.

Она вспомнила последние слова Гарсии: «Ты застряла в тупиковой петле». Сказав это, он попрощался и отсоединился.

«Тупиковая петля» было их секретной кодовой фразой, эвфемизмом, обозначавшим их любовь. Чен Нань и Гарсия давно фанатели от Techno Shaman, многопользовательской онлайн-игры виртуальной реальности. Дизайн в рекурсивной художественной технике mise-en-abyme, «сон во сне», позволял игрокам исследовать альтернативные реальности, попутно выполняя разные действия, осуществляя всевозможные миссии и собирая гаджеты.

В одном из таких путешествий Чен Нань случайно стала жертвой ошибки разработчиков, оказалась в тупиковой петле: в тот раз она была кроликом, пыталась выскочить из норы под деревом, но в ту секунду, когда она выбиралась во внешний мир, в дерево ударяла молния и убивала ее — и начинался, казалось, бесконечный цикл перевоплощений. Гарсия, бывший в игре охотником, случайно проходил мимо и спас ее из этой тупиковой петли. Вскоре у них завязались романтические отношения.

В виртуальном мире Чен Нань из тупиковой петли тогда выбралась, но в реальной жизни все еще пребывала в ней — как кролик, которому никак не выскочить из узкой норы под деревом. Мир за пределами квартиры состоял для нее из вирусов и прочих опасностей. И даже человек, которого она любила, не мог вытащить ее из крошечной крепости, охраняемой разного вида роботами и всевозможными датчиками.

Девушка провела здесь в одиночестве почти три года. И всерьез планировала оставаться тут до конца жизни.

— Ну, и когда же мы наконец встретимся? Я имею в виду в реальности.

— Давай определимся в терминах. Что ты называешь реальностью?

Гарсия в очередной раз поднял тему офлайн-встреч, и Чен Нань запаниковала. Если честно, встреча с парнем в реальной жизни не входила даже в ее список желаний — в отличие, скажем, от новой VR-стрелялки; пластиковых фигурок художника Брайана Донелли (KAWS); Такаси Мураками из ограниченной серии; голого кота-сфинкса; большой умной квартиры — да мало ли еще чего…

«Действительно ли мне дороги эти отношения?» — часто спрашивала себя Чен Нань. И после долгих и запутанных споров с самой собой каждый раз приходила к выводу: однозначно да.

«Любовь» для обозначения этих отношений было слишком сильным словом, но Гарсия ей действительно очень нравился. Они общались исключительно в сети, и девушка искренне наслаждалась временем, которое они проводили вместе. Они вместе выполняли миссии в игре; вместе, как сумасшедшие, вопили от восторга на виртуальных музыкальных фестивалях или отправляли друг другу месседжи и смайлики через видеочат.

Они были выходцами из разных культур, но практически сразу нашли общий язык. Чен Нань и Гарсия — как китайский пельмень цзяоцзы и бразильский пирожок пастель с мясным фаршем: снаружи не похожи, а начинка — из одних и тех же ингредиентов. У нас родственные души, часто думала Чен Нань.

Гарсия был первым, кто действительно понимал ее от и до. В детстве он тоже видел, как один за другим умирали родственники и друзья из-за неэффективности развернутой правительством борьбы с пандемией. Из-за огромного числа инфицированных бразильская медицинская система рухнула в одночасье; людей придавили стресс и тревога, повиснув над каждым домом зловещим облаком.

Словом, и Чен Нань, и Гарсия принадлежали к «поколению ковида» — к сотням миллионов людей, чье детство пришлось на начало пандемии. Это негативно отразилось на всей их последующей жизни как с физической, так и с психологической точки зрения.

Последствия пережитой в детстве травмы усиливались по мере взросления Чен Нань. Гарсия старался уговорить девушку встретиться, убеждал, что коронавирус не так опасен, как она считает. Он старательно изучил общие меры предосторожности и меры профилактики заражения в каждой стране. Он приводил железные аргументы — Шанхай считается одним из самых безопасных, если только не самым безопасным городом в мире.

Гарсия пытался помочь подруге и другими способами — проводил с ней сеансы направленной медитации, просил Чен Нань переосмыслить травмирующие события из ее детства, попытаться перезапустить ее отношение к ковиду — уже как взрослого человека.

Гарсия даже создал аватар, смоделированный точно по его подобию, вплоть до пор на коже и шрамов, и поместил его в виртуальную альтернативную реальность Шанхая. Как любой среднестатистический горожанин, аватар четко следовал всем рекомендациям местной системы здравоохранения: сохранял дистанцию в один метр; надевал прозрачный экран, чтобы защитить лицо; обрызгивал руки нанозащитным спреем, чтобы исключить прямой контакт при случайном соприкосновении; использовал специализированные приложения для отслеживания перемещений и оценки риска.

Аватар Гарсии жил в альтернативном Шанхае уже полгода, и датчики его трекера здоровья всегда были зелененькими — это означало, что он совершенно здоров, общение с ним никому ничем не грозит.

Словом, Гарсия делал все, чтобы развеять тревожность и прекратить кошмары Чен Нань. Ему очень хотелось увидеть, как девушка наберется храбрости, распахнет дверь и из надежной, но душной квартиры решительно шагнет в большую жизнь. Но он также знал, что процесс исцеления нельзя торопить; чтобы такие раны, как получила его подруга, зажили, требуется время.

Чен Нань осторожничала — она уже однажды поторопилась и совершила ошибку.

Три года назад она получила диплом онлайн-академии изящных искусств и устроилась в один из стартапов по производству компьютерных игр. Это была ее первая в жизни недистанционная работа. Но она не продержалась на ней и полугода. Девушке пришлось уволиться, но не из-за головоломных проблем офисной политики и чрезмерного количества неэффективных коммуникаций — из-за умеренной вспышки ковида.

Их инвестор, фанат сырых морепродуктов, подцепил на рынке в Скандинавии новую арктическую мутацию коронавируса. В первый месяц после возвращения в Китай у него не было никаких симптомов. За это время он посетил дюжину стартапов, в том числе и тот, в котором работала Чен Нань. Позже выяснилось, что он передал вирус почти сотне человек.

Когда появились симптомы, местный офис по контролю и профилактике коронавируса немедленно классифицировал случай как появление нового суперраспространителя[47] и выпустил общенациональное предупреждение. Начались проверки цифровых историй передвижений на предмет контактов с подтвержденными пациентами. Всех контактировавших оперативно выявили и отправили на карантин.

ИИ тем временем анализировал образцы мутировавшего вируса, чтобы обновить существующие лекарства, протоколы лечения и вакцины. На счастье, все пострадавшие стартапы базировались в одном районе, в игровом индустриальном парке Lingang Harbor, поэтому отследить контакты в сплоченной сети сотрудников и их семей и близких оказалось относительно несложно. Вскоре вирус эффективно локализовали в этом районе, и он не перекинулся на остальную часть города.

Чен Нань, можно сказать, повезло, ее спасли от заражения навязчивые гигиенические привычки. Но когда бригада медиков в защитных костюмах ворвалась в их офис, начала дезинфицировать помещение и отправлять всех сотрудников на карантинную станцию, ее накрыла волна дежавю и сильнейший приступ посттравматического стрессового расстройства. Девушка мгновенно побелела и без сознания рухнула на пол. На карантинной станции ей оказали специальную психологическую помощь и организовали наблюдение психотерапевтов.

После того приступа прошли годы, но Чен Нань больше ни разу не выходила из квартиры. Она разрабатывала модули и гаджеты для игр виртуальной реальности. Денег хватало на вполне комфортную жизнь. Когда практически все нужное для работы хранится в облаке, присутствие в офисе физического тела требуется нечасто — только когда твоему боссу невыносимо видеть пустое помещение.

Что же касается быта, Чен Нань справлялась с хозяйством с помощью роботов быстрой доставки и уборки. Подобный полностью модернизированный образ жизни был совершенно невообразим для поколения ее родителей. Давным-давно, в 1950-е годы, китайским символом современного образа жизни был двухэтажный дом с электрическим освещением и телефоном. В 1980-х годах это понятие расширилось — в него вошли ламповый цветной телевизор, холодильник и стиральная машина.

Но вскоре технический прогресс начал развиваться стремительно, по экспоненте, и быстро увлек китайцев в иногда довольно сбивающее с толку будущее.

Накануне дня, когда Гарсиа пропал, исполнилось два года их романтическим отношениям. Конфетно-букетный период, пусть и виртуальный, как водится, быстро закончился. Они поднялись на новый уровень отношений — в игре занялись виртуальной любовью. Естественно, Гарсия захотел продолжения и предложил соединиться в реальном мире — так сказать, атом к атому, а не бит к биту.

— Извини, но я, кажется, все еще не готова, — в очередной раз включила вчера заднюю Чен Нань, прикрепив гифку с изображением плачущего котика.

Гарсии для ответа потребовалось времени больше, чем обычно. Во сколько раз — в пять? В сто? Или — в сто тысяч? Чен Нань не могла сказать. Когда скорость измеряется в наносекундах, эти бесконечно малые фрагменты времени сбивают с толку человеческую систему ощущения времени.

— Да ты никогда не будешь готова, — таким было последнее сообщение от Гарсии — без эмодзи, сердечек, даже без привычного поцелуя на ночь.

И теперь это ее здорово пугало.

Приближался вечер, Гарсия по-прежнему не отвечал ни на звонки, ни на сообщения Чен Нань.

Волнение нарастало, мысли толкались и метались, словно бешеные; предполагаемые объяснения молчания Гарсии лились бурными потоками, как вода из продырявленного во многих местах шланга. Может, его похитили? Но Гарсия обычный парень, не богач — похищение маловероятно. Авария? Автокатастрофа? Угодил под перекрестный автоматный огонь в разборке местных банд? А может, он чем-нибудь отравился?

Новые версии рождались у Чен Нань почти непрерывно, но в глубине души она знала, что просто не хочет сказать себе самое очевидное: Гарсия устал от нее и решил прекратить их странные отношения. Он что, изменяет ей с кем-то?

«Хватит вести себя как робот! — возопило ее внутреннее “я”. — Все предельно ясно: мужчины — это не искусственный интеллект. В людях нельзя максимизировать целевую функцию. Если ты продолжаешь отвергать мужчину, он рано или поздно от тебя откажется. Он перестанет тебя любить. Проснись наконец, посмотри правде в глаза. Ведь тебе никогда не найти парня, который будет понимать тебя лучше, чем Гарсия».

Чен Нань сложила руки ковшиком, набрала под краном холодной воды и плеснула себе в лицо, пытаясь успокоиться. Вода потекла по щекам и закапала с подбородка. Чен Нань смотрела, как вода скрывается в сливе, образуя перед ним небольшой водоворот, и у нее защемило сердце. Она показалась себе одинокой каплей, заточенной в прозрачной пробирке с постоянной температурой и влажностью — изолированной от вольного моря, навсегда лишенной радости общения с другими каплями-людьми.

Чен Нань панически боялась внешнего мира. Ей казалось, стоит ей попасть в него, и вездесущий вирус вторгнется в ее организм, размножится и победит. Уничтожит ее, превратит в безжизненное недвижное тело, как когда-то бабушку и дедушку.

Но действительно ли внешний мир так опасен?

Чен Нань не могла даже сосчитать, сколько раз она безуспешно пыталась выйти из квартиры. Она готовилась: надевала защитный комбинезон, вооружалась смартстримом с включенным приложением Safety Circle («Круг безопасности»).

Как только в радиусе трех метров появлялся человек, чей трекер здоровья показывал желтый или красный тревожный значок, смартстрим предупреждающе пищал. По мере сокращения расстояния писк усиливался; если человек нарушал метровую дистанцию, bluetooth-наушники принимались громко верещать прямо в уши.

Но, несмотря на серьезную подготовку, выйти из квартиры так ни разу и не получилось.

Чен Нань пока еще не обзавелась биосенсорной мембраной. Эта технология компании Yishu Tech Co стала популярной в последние два года. Наклеенная изнутри на запястье, мембрана в реальном времени отображала все основные физиологические данные человека, включая срок окончания действия введенных ему вакцин. Биосенсорная мембрана официально считалась обязательным элементом цифрового профиля здоровья — так решило правительство.

Но получить мембрану, сидя дома, невозможно — ее можно активировать только в аптеке или торговом автомате самообслуживания на улице. То есть для ее получения нужно покинуть квартиру. Но ведь там — смертельная опасность! Это и была идеальная тупиковая петля обратной связи, сковывающая Чен Нань сильнее любых кандалов.

Внезапно загудели динамики в косметическом зеркале. Гарсия! Чен Нань бросилась на звук и немедленно приняла вызов — наплевать на мокрое лицо и растрепанные волосы! Видеокадр развернулся сразу во все зеркало. На экране был незнакомец в медицинском комбинезоне и перчатках. Для полной защиты недоставало только респиратора и опущенного щитка-забрала.

— Здравствуйте. Вы подруга мистера Гарсии Рохаса?

— Да, да… Что с ним? Кто вы? — голос Чен Нань задрожал.

— Я доктор Сюй Мингшенг из Шанхайского клинического центра общественного здравоохранения, группа по лечению ковида, команда Beta. Мы обнаружили, что господин Рохас, прибывший сегодня в международный аэропорт Пудун, заражен мутацией коронавируса COV-Ar-41. Мы поместили его в карантин, он находится под особым присмотром. Он попросил меня связаться с вами через учетную запись его смартстрима.

Чен Нань в ужасе зажала рот ладонью. Она поверить не могла, что Гарсия отправился из Сан-Паулу в Шанхай — это же 20 часов в воздухе! Он хотел сделать мне сюрприз, подумала она, и вот чем все закончилось. Ей казалось, что ее сердце оборвалось и болтается на ниточке.

— Почему он не позвонил сам?

Доктор Сюй тяжело вздохнул, явно собираясь с духом.

— Ar-41 — редкая и быстро развивающаяся мутация, — было заметно, что доктор старается формулировать как можно осторожнее, — у господина Рохаса уже появились симптомы острой дыхательной недостаточности и ацидоза, состояние крайней степени тяжести. Он в реанимации под наблюдением системы искусственного интеллекта.

— Пожалуйста, скажите, как его увидеть, — Чен Нань давилась рыданиями и, похоже, мало что понимала из слов врача.

— К нему нельзя… Он часто теряет сознание, — доктор опять помолчал и продолжил. — Но пока, перед тем как впасть в кому… К сожалению, пока не могу переслать, нам запрещено во время смены. Но включить могу. Хотите?

Чен Нань только кивнула.

…Гарсия в белой казенной пижаме лежал на функциональной кровати. Растрепанные волосы слиплись от пота, воспаленные глаза запали — это была лишь тень того загорелого, крепкого молодого человека, которого она знала.

— Привет, Чен, — Гарсия попытался улыбнуться, — мне жаль, что ты видишь меня таким. Я обещаю скоро поправиться, я все-все тебе расскажу, когда это закончится. Правда, я похож на рождественскую версию суперзлодея Бейна из «Бэтмена»? — Он еще и шутил. — Скучаю, тысяча поцелуев, — Гарсия откинулся на подушку и закрыл глаза. Медсестра надела ему кислородную маску. Ролик кончился.

«Ты идиот», — тихонько прошептала Чен Нань; на глаза навернулись слезы.

Но доктор Сюй был еще здесь.

— Пожалуйста, следите за смартстримом, мы будем сообщать вам о состоянии господина Рохаса. Нам пока не удается связаться с его семьей, очень большая разница во времени.

— Я могу подписаться на электронную медицинскую карту Гарсии?

Такая подписка позволяет в режиме реального времени получать информацию о состоянии пациента: физиологические показатели широкого диапазона — датчики установлены везде вплоть до умного туалета (они анализируют состав мочи и кала); биосенсорная мембрана мониторит температуру, пульс, биоэлектричество. Кроме того, пациенты проглатывают микросенсоры в растворимой оболочке — они делают анализы крови и берут для исследования образцы тканей. Все данные загружаются в облако, а медицинский ИИ на их основе составляет зашифрованные отчеты. К этой информации и попросила доступ Чен Нань — она очень испугалась за Гарсию.

— Но вы же не родственница? Ваши отношения с господином Рохасом никак не оформлены? Извините, мы не можем дать вам разрешение на доступ к его данным.

— Но я его девушка! Я единственный человек, на которого он может рассчитывать во всем Шанхае! — Чен Нань почти кричала.

— Ну… — заколебался доктор Сюй, — попробую что-нибудь сделать. Подождите, не уходите далеко.

Он отключился, Чен Нань смотрела на погасший экран, в отчаянии сжимала кулаки и кусала губы. Вдруг выскочило уведомление — доступ к цифровой карте Гарсии одобрен!

Папка с картой была бледно-голубой, как одноразовые стерильные больничные простыни.

За годы своей нозофобии[48] Чен Нань узнала о коронавирусе слишком много. Многие знания — многие печали. Насколько она могла судить, состояние Гарсии было хуже некуда. В клинике даже запустили автоматизированный ИИ-процесс поиска новых противовирусных препаратов для спасения сложного пациента. Исследователи надеялись подобрать комплекс, который облегчил бы состояние Гарсии, они совместили лабораторное клеточное тестирования in vitro («в пробирке») с компьютерным моделированием — но ведь врачи играли с мутацией в догонялки.

Чен Нань знала, какими опасными могут быть Ar-классифицированные мутации коронавируса, особенно те, для которых еще нет устоявшегося протокола лечения.

“Ar” в названии COV-Ar-41 означало “Arctic” — «арктический». Из-за катастрофического влияния пандемии на мировую экономику многим странам пришлось пересмотреть планы по сокращению выбросов углерода, а то и вовсе их заморозить. Из-за этого глобальное потепление пошло по сценарию SSP5–3.4OS, то есть по варианту чрезмерных выбросов углерода, пик которых пришелся на 2040 год.

Теперь человечеству оставалось надеяться лишь на то, что активное облесение и новая технология улавливания и хранения углерода постепенно помогут. Но, по самому оптимистичному прогнозу, довести мир до отрицательных показателей выбросов углекислого газа получится только к 2070 году. И в ближайшие годы из-за парникового эффекта все же растает немалая часть арктических ледников и вечной мерзлоты.

Органический углерод, до этого связанный в почве, уже поступал в атмосферу, а вместе с ним — множество микроорганизмов, которые «спали» во льдах миллиарды лет. Одной из них и была новая мутация коронавируса, в наименовании которой использовали индекс Ar.

У Чен Нань не было времени выяснять, как Гарсия заразился этим вирусом. Ей предстояло принять важное решение.

«Гарсия подверг себя опасности ради меня, — думала она. — Я обязана дать ему понять, как много он для меня значит».

Чен Нань не могла позволить еще раз реализоваться своему глубинному страху — случившееся когда-то с ее бабушкой и дедушкой не должно было повториться с Гарсией. Пусть это будет их единственная в жизни встреча, пусть прощание — Чен Нань не может его пропустить. Ей надо преодолеть страх, выйти из квартиры и поехать к Гарсии — пусть ей удастся увидеть его только издалека и мельком.

Мозг работал как никогда, рассуждал решительно и трезво, но остальной организм наотрез отказывался ему подчиняться. Чен Нань минут десять пыталась заставить идти онемевшие вдруг ноги, но силы кончились, и она рухнула на пол.

Домашний робот Юаньюань вылетел из двери квартиры Чен Нань, свернул в общий коридор и втиснулся в открытый лифт.

Одетая в защитный комбинезон — довольно, признаться, пыльный, ибо его давно никто не доставал, — Чен Нань, зажмурив глаза, сидела на спине Юаньюаня, домашнего робота устаревшей версии еще 2036 года; со стороны казалось, будто она едет верхом на очень маленькой лошадке. Но Чен Нань не на что было жаловаться; в конце концов, бедняга не предназначен для того, чтобы на нем ездили верхом.

Чен Нань позаимствовала эту идею в игре Techno Shaman. Там она ездила на красивой механической лошади, а Гарсия — на генетически модифицированном крылатом змее с короной из разноцветных перьев. «Если мое человеческое “я” не в состоянии осуществить план, возможно, машины протянут мне руку… или ногу… Помогут, в общем», — решила девушка.

Неожиданностью было, что Юаньюань повез ее в лифт для роботов. Маленькая кабинка была забита доставщиками, уборщиками, выгуливателями собак, сиделками для пожилых людей… Даже на стенах и потолке пристроились роботы-дезинфекторы, похожие на гигантских насекомых.

В лифте для роботов не работали правила о соблюдении социальной дистанции и в нем не было панели управления. Роботы гудели, жужжали, помаргивали индикаторами, будто бы весело переговаривались после напряженного рабочего дня. Чен Нань оказалась единственным человеком среди пассажиров и в вечеринке не участвовала — вжалась в угол.

Ее тут же основательно притиснули, так что она почти не могла пошевелиться, но, несмотря на дискомфорт от непривычной тесноты, девушка чувствовала себя в полной безопасности. За три года добровольной изоляции она отвыкла разговаривать с людьми в реальной жизни.

Лифт спустился на первый этаж, двери раздвинулись, роботы вылетели наружу — как будто стая необычных животных сбежала из зоопарка. Чен Нань опять пристроилась на спине Юаньюаня, они покинули лифт последними. И тут загудел смартстрим — пришло обновление медицинской карты Гарсии. Его состояние ухудшалось.

«Выбор сделан, — напомнила себе Чен Нань. — Осталось выполнить задуманное». Она осторожно спустила одну ногу, затем другую, глубоко вздохнула, спешилась — и пошла.

Чен Нань не была на улице три года. Оказывается, вокруг ее дома все не очень сильно изменилось. В воздухе слабо пахло камфорой — подросли деревья коричника. Девушка глубоко вдохнула. Свежий воздух попал в легкие и будто прогнал через все тело волну энергии. Чен Нань то и дело поглядывала на дисплеи — и защитного костюма, и смартстрима, чувствовала себя тайконавтом или даже инопланетянином, только что совершившим первую грандиозную высадку на планете Земля.

Система фильтрации воздуха в защитном скафандре работала нормально — никаких признаков утечки. Приложение Safety Circle показало, что все хорошо, опасности поблизости нет. Пешеходы удивленно оглядывались на странную девушку. Ни на ком из них не было полного защитного комплекта; многие даже шли без масок. «Пусть пялятся сколько влезет, лишь бы трекеры здоровья были зелеными», — сердито бормотала себе под нос Чен Нань.

Смартстрим сообщил, что дорога до больницы, где лежит Гарсия, займет два с половиной часа. Надо сесть на линию метро номер два, а затем пересесть на скоростной трамвай. Но на такси с автопилотом будет быстрее — всего час с минутами. От одной мысли, что придется ехать в одном вагоне с десятками людей, Чен Нань накрыли ужас и тревога. Но и с такси было не все просто. Для онлайн-заявки на бронирование автомобиля требовалась справка о действующей прививке, а поскольку девушка за последние три года ни разу не выходила из дома, то и справки у нее не было.

Мутации коронавируса появлялись и исчезали, как перелетные птицы — это длилось уже третий десяток лет. Каждый раз, когда возникал новый штамм, исследователи-медики разрабатывали новые мРНК-вакцины. Антитела защищали от 40 до 104 недель. Благодаря привлечению ИИ к прогнозированию структуры белка процесс получения вакцин значительно ускорился.

После появления технологии CRISPR[49] стало возможным массовое производство лекарств на основе антител, вакцины начали весьма эффективно использовать и для иммунизации крупных животных, таких как коровы или лошади. Срок действия вакцин и их типы регистрировались, встраивались в цифровой профиль здоровья человека. При пользовании транспортом и посещении общественных мест каждый должен был предъявить свидетельство о вакцинации.

Если полной и непрерывной записи о вакцинации нет, доступ ко всем формам бесконтактных автоматических услуг оказывался заблокирован, даже если на трекере здоровья светилась зеленая галочка.

В апреле в Шанхае уже совсем тепло, но Чен Нань дрожала всем телом — не от холода, от отчаяния. Она остановилась на тротуаре и соображала, как теперь быть.

Вдруг рядом притормозил черный автомобиль. Окно поехало вниз, выглянул мужчина средних лет. Он хмуро огляделся — явно искал полицейских. Но их не было.

— Вас подвезти? — обратился водитель к Чен Нань.

Та, растерявшись, кивнула.

— Куда едем?

— В район Цзиньшань.

— В клинический центр, я полагаю, — проявил проницательность мужчина.

Он поддернул рукав — обнажилась биосенсорная мембрана. Разными цветами засветились названия вакцин, которыми он привит: несколько — от коронавируса, от гриппа штамма MERS, от различных форм птичьего и свиного гриппа. Список напомнил Чен Нань значки о достижениях в компьютерных играх.

— У вас есть? — поинтересовался водитель, имея в виду мембрану.

Чен Нань отрицательно покачала головой.

— Ну нет так нет. Считайте, сегодня ваш день. Скорее, вон роботы-полицейские!

Дверь машины распахнулась, Чен Нань юркнула на заднее сиденье. Она еще не успела как следует усесться, как двигатель заурчал, и машина рванула с места. Неожиданное ускорение вдавило девушку в спинку дивана.

— Простите, мисс, сами знаете: везти пассажира без мембраны — большее преступление, чем работать в пиратском такси.

— Пиратское такси? — такого Чен Нань не знала.

— Простите, вы, конечно, не помните — давно такое было. Аренда пиратских такси. Раньше, если попадешься полицейским, то просто платишь штраф, а данные вносят в досье водителя. Но сейчас пассажир без цифрового профиля здоровья — нарушение правил борьбы с пандемией. Это считается преступлением против общественной безопасности, так что все гораздо серьезнее, — мужчина говорил совершенно спокойно. Он, конечно, совершил преступление, посадив Чен Нань в машину, но на преступника похож не был. Девушка — чего уж теперь стесняться — так его прямо и спросила.

— Ну, если у вас нет мембраны и вам надо в Цзиньшань, я уверен, причина у вас очень веская, — мужчина поймал взгляд Чен Нань в зеркале заднего вида.

Девушка вспомнила, каким бледным был Гарсия, как страшно выглядела кислородная маска, закрывавшая его рот и нос. Слезы опять потекли по щекам. Они попадали на защитное забрало комбинезона, и изнутри на стекле образовались мокрые дорожки.

— Эй, вы что? — водитель заметил слезы. — Если попадемся, плакать придется мне.

— Но мне-то что делать? — Чен Нань пыталась сдерживаться, но все еще всхлипывала.

— Давайте-ка сначала займемся биосенсорной мембраной. Без нее вас все равно никуда не пустят, — водитель поддерживающе улыбнулся.

Машина въехала в туннель, освещенный теплым желтым светом. Вскоре они уже были на западном берегу реки Хуанпу.

По дороге водитель — его звали мистер Ма — принялся рассказывать Чен Нань свою историю.

Когда-то он был инженером в технологическом стартапе, отвечал за оптимизацию алгоритмов. «По сути, это означало, что я смазывал механизм», — он пожал плечами. Используя генеративно-состязательные сети, их компания пыталась повысить точность распознавания изображений искусственным интеллектом, чтобы тот мог лучше обслуживать умную систему безопасности, быстрее и надежнее идентифицировать объекты в различных сложных ситуациях, особенно когда все вокруг в защитных масках и костюмах.

Фирма делала успехи, и ее купила Yishu Tech Co, гигант, лидер отрасли. Приобретенный вместе со стартапом запатентованный алгоритм оказался ключевым шагом на пути к изготовлению биосенсорных мембран.

Первоначально команда планировала встроить ультратонкий коммуникационный модуль в мембрану для синхронизации данных в реальном времени. Но масса опасений затормозила реализацию. Сомнения вызвали стоимость (не слишком ли высока?), батарейка (не слишком ли быстро разряжается?), температура (не перегреется ли?), ну и сохранность данных (вдруг украдут?). Биосенсорная мембрана должна прилегать к коже, поэтому всех беспокоила безопасность (вдруг аллергия?) и комфорт (вдруг будет мешать?).

Тогда команда разработчиков изменила первоначальный дизайн, и мембрана стала преобразовывать собранные физиологические данные пользователя в распознаваемый машиной формат. Благодаря широкой сети умных камер наблюдения и целевым оптимизированным алгоритмам мембрана могла асинхронно загружать и выгружать информацию из облака.

Биосенсорная мембрана оказалась гораздо более удобной формой, чем синхронизация профиля здоровья с приложением для трекера на смартстримах. И, подобно медицинской маске два десятилетия назад, мембрана вскоре стала обязательным аксессуаром. Многие молодые люди даже смотрели на нее как на тренд, точно так же, как несколькими годами ранее — на смартстримы.

— Но, как это обычно бывает, всегда найдутся люди, которые не поспевают за новой тенденцией, — торжественно провозгласил мистер Ма.

И плавно перешел к следующей истории. Он рассказал, как однажды за городом увидел на обочине пожилую пару. Старики дрожали от ледяного ветра — тонкие и хрупкие, словно засохшие мертвые деревья. Мистер Ма остановился, спросил, что они здесь делают, почему тут стоят.

Оказалось, старик заболел, у него очень высокая температура, но без действительного цифрового профиля здоровья ни один водитель не соглашается отвезти его в больницу. Не можешь доказать, что безопасен для окружающих, — стой на дороге.

Мистер Ма решил помочь — проигнорировал предупреждение бортового смартстрима о том, что это опасно, что, возможно, он будет наказан. На счастье, у старика оказалась только тяжелая простуда.

Но случай заставил мистера Ма задуматься от «невидимках» в новом цифровом обществе — их, должно быть, немало в социально незащищенных слоях, среди стариков, инвалидов, рабочих-мигрантов, других приезжих. Доступ таких людей к новым технологиям ограничен, и это только усиливает нежелание использовать достижения прогресса и страх перед ними. Социальная машина меж тем продолжала вырождаться, превращаясь в монстра жесткости и безразличия, а пропасть неравенства в обществе становилась все шире и глубже.

Мистер Ма понял: невозможно добиться перемен, работая в крупной частной компании. Он продал свои акции и основал платформу взаимопомощи Warmwave («Теплая волна») — набрал добровольцев для помощи людям, выброшенным на обочину цифрового общества. Одной из услуг, которые они оказывали, и были пиратские такси.

Многие обвинили его в нарушении общественного порядка и угрозе общественной безопасности, но мистер Ма искренне считал, что его работа важна и полезна, и поэтому не испугался. Он был совершенно уверен: доставка до места назначения людей, которым закрыт доступ в общественный транспорт, иногда спасает жизни.

Очарованная рассказом мистера Ма, Чен Нань на время даже забыла о бедном Гарсии.

— Но как вы это придумали? — Девушка несколько озадачилась великой решимостью этого человека, хотя, конечно, была тронута.

И тогда мистер Ма рассказал еще одну историю.

— Шесть лет назад я уехал в командировку. Моя жена была на тридцать шестой неделе беременности, и у нее неожиданно отошли воды. В тот день в Шанхае шел проливной дождь. Дороги встали, даже скорая не могла проехать. Я чуть с ума не сошел — взывал о помощи в чат-группе нашего жилого комплекса. Откликнулись сосед и охранник.

Они посадили жену Ма в электрическую тележку для доставки еды, и водитель против всех правил домчал ее до самой больницы по полосе для немоторизованных транспортных средств.

— Если бы не они, у меня бы не было ни жены, ни дочери, — закончил рассказ мистер Ма. Теперь он тоже прослезился. Немного отдышавшись, он продолжил. — Я в вечном долгу перед ними. И свою работу рассматриваю как способ выразить благодарность. Все боятся вируса. Я тоже не такой уж и смельчак, — мистер Ма отчаянно крутил головой, выбирая место для безопасного маневра. — Но если мы из-за этого страха перестанем помогать друг другу и перестанем любить людей, то чем мы будем отличаться от машин?

Эти слова поразили Чен Нань. Мы с Гарсией были так счастливы вместе… И вот он болен, а я совершенно ничего не могу сделать. Она затихла — эмоции превратились в полный и абсолютный хаос.

— Приехали, — вдруг нарушил тишину мистер Ма.

Чен Нань огляделась. Она знала это место — район бывшей французской концессии. Но это — не клинический центр!

Место, куда привез девушку мистер Ма, было вполне узнаваемым, хотя она тут была в последний раз еще школьницей. Сейчас оно напоминало некий водоворот пространственно-временной дезориентации. Дома в стиле барокко с более чем столетней историей соседствовали с небоскребами из умного стекла. У французских ресторанов, отмеченных мишленовскими звездами, притулились палатки-пельменные.

По улочкам дефилировали шикарно одетые горожане, а у них над головами в открытых окнах разноцветными флагами развевалось на ветру сохнущее белье. Древнее и новое, иностранное и местное, обычное и причудливое — все смешалось в идеальный коктейль, будоражащий чувства тех, кого сюда занесло.

Они припарковались на Чангл-роуд, рядом с бывшим супермаркетом, перестроенным в галерею для VR-игры. С помощью приложения Safety Circle Чен Нан старательно обходила людей, набившихся в замкнутое пространство. VR-шлемы скрывали лица геймеров — тут все увлеченно отбивались от инопланетных монстров или участвовали в напряженных состязаниях по космическому серфингу. Чен Нань грустно подумала, что при других обстоятельствах с радостью присоединилась бы к этим ребятам.

И вдруг мистер Ма толкнул панель на боковой стене — открылась потайная дверь. Вместе с Чен Нань они вошли в маленькую душную комнату. Вдоль стен стояли серверы; они обрабатывали игровые данные каждого геймера, переносили их в реальном времени в облако, а затем возвращали в шлем, в соматосенсорную униформу, максимально реалистично имитируя тем самым разный чувственный опыт.

Посреди комнаты, облапив коробку с едой, взятой навынос, сидел толстый парень. Он просиял, увидев мистера Ма, а потом на его перемазанном маслом лице возникло выражение удивления: «О, босс! И что привело вас сюда сегодня?» Он отложил палочки для еды:

— Дайте угадаю. Что, новая игрушка, Adventure 2080? Или опять Techno Shaman? Должен признать, ваш рейтинг в боевой лиге реально впечатляет…

— Погоди, Хан, — Ма перебил, да еще и посмотрел сурово, — извини, что помешал, мне нужно, чтобы ты прямо сейчас помог этой юной леди с биосенсорной мембраной. Это срочно.

— Да не вопрос, — толстяк был бодр и благодушен. Он оттолкнулся ногой и подкатил в кресле к рабочей станции, увитой разноцветными проводами и покрытой какими-то электронными штуками. Чен Нань опять подумала про космос, только на этот раз решила, что это кабина космического корабля. Парень почти уже врезался в станцию, но за мгновение до катастрофы ловко остановил кресло мыском кеда и лихо развернулся, замерев прямо перед экраном.

Чен Нань прошептала мистеру Ма: «Спасибо», — и уселась рядом с Ханом. Он попросил закатать левый рукав. Чен Нань отдернула руку, даже не успев испугаться.

Парень улыбнулся:

— Не боись, у меня тут все стерильно.

Чен Нань смутилась и кивнула. Расстегнула молнию, поддернула рукав, обнажила левое запястье. И почувствовала, как голую кожу покалывает от соприкосновения с воздухом. «Это всего лишь психологический эффект», — успокаивала она себя.

— Оп-па! А где мембрана? Мембраны нет… Давай смартстрим, так, посмотрим… — толстяк ловко подключился к облачному аккаунту девушки.

— Ого, да у тебя нет данных за целых три года… — парень глянул на Чен Нань с удивлением. — Ты из пещеры или что-то в этом роде?

— Заткнись, а? Делай свою работу, — вмешался мистер Ма.

— Босс, у нее нет записей обо всей необходимой вакцинации. Даже если я сделаю ей биосенсорную мембрану, система автоматически отнесет ее к группе повышенного риска. Это — карантин как минимум на три недели. Вы же сказали, нужно срочно?

Чен Нань оторопела. Три недели? Протянет ли Гарсия столько? Она тяжело вздохнула, опустила голову — слезы опять были на подходе.

— Ну-ну! — мистер Ма ободряюще похлопал ее по плечу и повернулся к парню. — А обойти никак нельзя?

— Вы имеете в виду камуфляж? Но это же незаконно!

— А это что такое? — Чен Нань в надежде вскинула голову.

— Камуфляж выглядит как обычная биосенсорная мембрана. Единственное отличие — на фальшивке выводятся не реальные данные, а анимированная информация. Камуфляж может обмануть большинство человеческих глаз, но не машину, — объяснил мистер Ма. — Вам придется сканировать его при входе в клинический центр. Машина не сможет сопоставить информацию, отображаемую камуфляжем, с данными в облаке, поэтому на несколько секунд сбойнет. И это будет ваш единственный шанс проникнуть внутрь. Это незаконно и очень опасно. Вы уверены, что человек в клинике стоит того?

У Чен Нань закружилась голова. Она еще никогда не рисковала по-настоящему и была уверена, что всегда принимает правильные решения, необходимые для выживания в ковид-эпоху. Но теперь она вспомнила о Гарсии на больничной койке, и ее захлестнуло чувство вины. «Возможно, я только принимала его любовь к себе и почти ничего не давала взамен», — подумала она.

Чен Нань даже не могла произнести три коротких слова: «Я тебя люблю», — потому что боялась, что после этой волшебной фразы изменится динамика их отношений и она, Чен Нань, станет более слабой, уязвимой, более заботливой.

Гарсия сейчас страдает от боли и неуверенности в завтрашнем дне, а вчера он рисковал жизнью, чтобы показать, как ее любит.

— Да, он того стоит, — едва слышно, но твердо произнесла Чен Нань. — Как вы говорите, мистер Ма, — мы не должны переставать любить людей из-за страха? Я готова.

Мужчины переглянулись и синхронно кивнули.

На все ушло несколько минут. Чен Нань разглядывала тонкую гибкую мембрану, приклеенную к запястью. Мелькали данные, якобы отображавшие персональные показатели ее физиологического состояния. Самыми главными тут были несколько символов разной формы и цвета — они, переливаясь мягким светом, подтверждали прививки определенными вакцинами. Итак, теперь у нее имелась вполне реалистичная биосенсорная мембрана, но девушка не знала, как далеко она сможет с ней зайти.

Рабочую атмосферу взорвал резкий сигнал тревоги. На мониторах, передававших картинку главного зала, Чен Нань увидела встревоженных геймеров, которых внезапно выдернули из игры в реальную жизнь. Вспыхнул свет, игровые консоли замерли.

Зажглись красные сигнальные лампы на стене, динамики приятным женским голосом повторяли объявление: «Уважаемые клиенты, согласно данным цифровой системы контроля и предотвращения вирусов возникло подозрение, что в здание проник человек из группы высокого риска. Роботы-полицейские начинают поиск. Просьба всем оставаться на местах и содействовать представителям закона».

Чен Нань побледнела, на виске противно запульсировала жилка. Камуфляжная мембрана, словно в насмешку, показывала, что девушка чувствует себя исключительно хорошо, да и кардиограмма была отличной. Но Чен Нань узнала свои ощущения — приближалась паническая атака. Еще несколько секунд, и она не сможет контролировать свое тело, не сможет пошевелиться, ноги онемеют. И вот как только это произойдет — всем планам конец.

— К пожарному выходу! — Хан ткнул пальцем в угол комнаты, Чен Нань увидела там еще одну небольшую зеленую дверцу, заставленную коробками.

Мистер Ма схватил Чен Нань за руку, оттолкнул коробки плечом и одновременно ногой распахнул дверь. Они бросились в темноту, побежали по узкому проходу, почти спотыкаясь друг о дружку. Дверь за ними закрылась.

Грандиозный побег, похоже, удался. В игровом зале уже появились три робота-полицейских, похожих на безголовых механических сторожевых собак. То и дело вспыхивали красные лучи лазерных сканеров — роботы проверяли биосенсорные мембраны геймеров.

Мистер Ма практически затолкал Чен Нань на заднее сиденье.

— Ну все. Теперь порядок, — он уже выруливал с парковки.

Чен Нань глубоко вздохнула — паническая атака куда-то делась, не дойдя до возможного пика. И тут девушка ногой ощутила вибрацию. Это двигатель или смартстрим? Пришлось лезть в карман за гаджетом.

Новое уведомление. Обновление цифровой медкарты Гарсии.

Она открыла сообщение, и у нее перехватило дыхание.

Цифровая медицинская карта показала, что у Гарсии тяжелая форма сердечной и легочной недостаточности. Он подключен к аппарату ЭКМО, его кровь насыщается кислородом вне организма и возвращается обратно. По сути, это искусственные легкие — последнее средство.

Чен Нань с трудом заставила себя хоть немного успокоиться и позвонила доктору Сюй.

Он отозвался почти сразу. Да, они изо всех сил пытаются найти средство для лечения от агрессивного штамма, которым заражен Гарсия. Когда-то на это уходили месяцы, а то и годы; теперь срок сжался до пары-тройки недель, максимум — месяц. Но продержится ли Гарсия столько?

— Сегодня не только Гарсии нужно больше времени, — мрачно сказал доктор Сюй. — Это необходимо всему человечеству.

Чен Нань так зарыдала, что доктор с трудом разобрал ее вопрос:

— Ско… Сколь… Сколько… вре… ме… ни… осталось?

— Сложно сказать. Может, несколько часов… Или — минут… — врач замолчал.

— Пожалуйста… Поехали быстрее, — умоляюще попросила Чен Нань мистера Ма. Тот резко нажал на педаль газа. Автомобиль помчался на юг по шоссе Шэньхай.

Доктор Сюй, оказывается, был еще здесь.

— Возможно, как врач я не должен вам этого говорить… Но как свидетель, да просто как человек я не могу… Гарсия все время повторяет ваше имя, даже когда почти теряет сознание. Он, похоже, пытается сказать вам что-то важное.

— А что, что именно?

Доктор Сюй отправил аудиофайл — наверно, сейчас он был не на смене.

— Нань… Нань… Нань! Нет-нет… Тупиковая петля, тупиковая петля… Нань, прошу, вырвись из нее, — Гарсия хрипел, он очень устал, но не умолкал, только делал паузы, чтобы набраться сил.

Чен Нань представила его под аппаратом ЭКМО — жизнь на волоске, а он в горячечном кошмаре настойчиво повторяет два слова. Тупиковая петля… Их первая встреча, тайный язык, кодовая фраза для обозначения их любви. Он в шаге от смерти, но думает только о ней. Он хочет, чтобы она наконец вырвалась из тупиковой петли и смело приняла реальный мир. Пусть даже после того, как он его покинет.

— Мне так жаль. Поверьте, я постараюсь не допустить самого страшного. Мне пора, до свидания, — вот теперь доктор Сюй отключился.

Чен Нань в оцепенении сидела со смартстримом в руке, по щекам текли слезы. Защитный лицевой щиток костюма запотел так, что она уже совсем ничего не видела. Накатила волна удушья. Медленно, словно в трансе, Чен Нань подняла забрало и опустила окно машины.

В салон ворвался нежный ночной ветерок, принес с собой свежий, живой аромат весны. Чен Нань глубоко вдохнула и вдруг почувствовала, как к ней возвращаются силы — страх и тревога куда-то улетучились. Надо же, она и не помнила, когда в последний раз попробовала на вкус вольный воздух.

Огни Шанхая под ночным небом тускнели. Машина проезжала мимо комплекса зданий в форме куба, испускающих мягкий белый свет. Чен Нань видела такие в новостях — это были умные зеленые дома, у которых процесс фотосинтеза мог идти и в темноте. Чтобы достичь к 2070 году углеродной нейтральности, все больше городских зданий в Китае покрывали живыми стенами из растений. Эти бесчисленные вертикальные леса круглые сутки поглощали углекислый газ и перерабатывали его в кислород и органические вещества.

Чен Нань изо всех сил старалась не думать о худшем — о том, что она может вообще никогда не увидеться с Гарсией. С живым Гарсией. Но страшные мысли отогнать не получалось. Она ведь его ни разу не видела по-настоящему и теперь, может, никогда и не увидит. Она не сможет прикоснуться, обнять и поцеловать в реальном мире молекул мужчину, который все это время был рядом с ней в виртуальном мире байтов.

И ее дальнейшая жизнь будет одной бесконечной цепочкой сожалений.

— Я отвезу тебя в клинику, — мистер Ма принял решение. — Слушай внимательно, — его твердый голос волшебным образом вернул девушке уверенность. — Это не конец. Не сдавайся.

Чен Нань в полумраке кивнула.

Автомобиль съехал с эстакады, несколько раз повернул и подкатил к воротам Шанхайского клинического центра общественного здравоохранения — белоснежного здания, особо величественного на фоне ночного неба. Чен Нань содрогнулась — центр живо напомнил ей модульные госпитали, которые она видела на видео, когда была маленькой.

В тех построенных на скорую руку больницах могли разместиться тысячи ковид-пациентов, эти люди ели, спали и пользовались туалетом, но друг от друга их отделяли обычные невысокие ширмы-перегородки. Высокую концентрацию вируса в воздухе никто не принимал во внимание.

— Твой выход. Ты знаешь, где его искать? — мистер Ма повернулся и посмотрел Чен Нань в глаза.

— Да. В цифровой карте есть номер койки. И я нашла в сети подробную схему клиники, — уверенно ответила девушка.

— Удачи! Возьми, пригодится, — мистер Ма достал из бардачка и протянул ей очки, на больших линзах которых перламутровой пеленой блестел слой светодиодов, — умная камера примет тебя в них за мультяшного персонажа. Бери, бери.

Девушка сунула очки в карман, выскочила из машины и бросилась ко входу в клинику.

— Спасибо! — прокричала она уже на бегу.

— Эй! Щиток! — напомнил мистер Ма.

Она остановилась, вернула на место экран-забрало и помахала рукой.

Мужчина улыбался. Его пассажирка исчезла за дверьми клинического центра.

Первый контроль Чен Нань прошла успешно — ей измерили температуру. Окажись та повышенной, светящиеся стрелки-указатели на полу направили бы ее в «канал риска» и не пропустили в глубину здания.

Преодолеть второй контрольный пункт оказалось сложнее. Ей нужно было просканировать цифровой профиль здоровья на специальном аппарате — либо через биосенсорную мембрану, либо через смартстрим. Машина сравнит идентификационную информацию с данными в облаке и определит, можно ли разрешить посетителю пройти дальше.

Вот тут-то и пригодится камуфляж, подумала Чен Нань. Она сбросила скорость — засеменила мелкими, но уверенными шажками, попутно внимательно наблюдая за окружающим. Время близилось к полуночи, людей в вестибюле почти не было — только несколько сотрудников ночной смены. Большую часть рутинных операций в больнице выполняли роботы.

Даже если возникали неотложные случаи госпитализации пациентов с ковидом, полностью автоматизированное радиологическое отделение с помощью искусственного интеллекта могло самостоятельно провести рентгенологическое обследование и последующую сортировку, а это значительно снижало риск вторичной инфекции. Столь высокий уровень автоматизации медицинской системы был явно на руку Чен Нань.

Девушка подошла к сканеру. Глубоко вдохнув, прижала мембрану-камуфляж к линзе. Вспыхнули красно-синие сигнальные огоньки, электрический турникет со скрипом открылся, закрылся, а затем снова открылся. Машина завизжала и затряслась. Как и предсказывали мистер Ма и парень из игрового центра, камуфляж привел к короткому сбою — ровно такой длительности, чтобы Чен Нань успела проскользнуть внутрь.

Сомневаться было некогда. Девушка бросилась вперед и, явно благодаря мощному выбросу адреналина, ловко протиснулась через уже закрывающиеся воротца.

Сотрудники клиники никогда не сталкивались со столь нахальным вторжением и застыли на месте. Стройная фигура в защитном комбинезоне промчалась у них на глазах через пустой вестибюль, ворвалась в крыло особого ухода и бросилась в сторону отделения интенсивной терапии. Эхо шагов разносились по торжественно-тихим коридорам и затухало вдали. Она бежала так, будто от этого зависела ее жизнь.

Первыми очнулись медицинские роботы. Они быстро заскользили к Чен Нань, стараясь окружить ее и заблокировать. В отличие от людей они были бесчувственными, безошибочными и очень сильными.

И тут девушка вспомнила об очках мистера Ма. Она нацепила их и щелкнула выключателем. Линзы вспыхнули ослепительным разноцветным светом, превратив темный коридор в танцпол ночного клуба. Используя лазейки в алгоритме распознавания изображений, огни собирались в сложные узоры, запутывая стрим данных. Машины увидели Чен Нань как анимированного персонажа, а не как человека. Сбитые с толку, роботы замедлили шаг. Не зная, что делать дальше, они хаотично заскользили туда-сюда, с силой врезаясь друг в друга.

Ловко уклоняясь от разлетающихся во все стороны фрагментов сбитых с толку роботов, Чен Нань рванула на лестницу, чтобы подняться в отделение интенсивной терапии на восьмом этаже. Воспользоваться лифтом она не могла. Это был важный урок геймерского опыта: всегда держись подальше от всего, чем могут манипулировать машины и алгоритмы, доверяй только своему физическому телу и интуиции.

Бежать было тяжело, она задыхалась. Пересохло во рту. Ей казалось, что сердце вот-вот выскочит из горла.

«Держись, Гарсия, я уже рядом», — она, в сущности, молилась.

Подбежав к пожарному выходу отделения интенсивной терапии, девушка с силой надавила на нее плечом — тяжелая дверь еле-еле открылась. Когда Чен Нань уже быстро шла по коридору, хватая ртом воздух, ноги сильно задрожали так, что ей приходилось опираться на стену.

Палата, где решалась судьба Гарсии, была в самом конце длинного коридора, похожего на туннель. Чен Нань почувствовала, что ее сердце вот-вот лопнет — от прилива страха и надежды.

Я должна идти дальше. Я должна все сделать сама.

В конце коридора Чен Нань увидела большое стеклянное окно. Она заглянула в палату. Там стояла аккуратно заправленная кровать. Постель была свежая, без малейших признаков недавнего использования.

Но где же Гарсия?

Девушку охватил безудержный, непостижимый страх. Совершенно измученная, она опустилась на пол. Весь ее мир в одночасье опустел.

— Нань, это ты? — окликнул вдруг знакомый голос.

Чен Нань не поверила ушам. Она вскочила и резко повернулась к двери. В нескольких шагах от нее улыбались Гарсия и доктор Сюй в защитных костюмах.

— Гарсия? Ты… Разве? — девушка бормотала и заикалась.

Живой Гарсия выглядел немного усталым, но гораздо лучше, чем на видео.

— Привет! Ты думала, что я уже умер или что-то в этом роде? — Гарсия продолжал улыбаться.

Доктор Сюй приложил кулак к ладони — попрощался.

— Уверен, вы хотите побыть наедине, — сказал он, развернулся и исчез.

Гарсия сделал несколько шагов к Чен Нань. Практически тут же зажужжал ее смартстрим — приложение Safety Circle сигнализировало, что человек перед ней угрожает ее безопасности. Чен Нань машинально подняла руку: стой!

— Нань! Я в порядке. Я не заразился. Я в карантине, потому что оказался в аэропорту в одной зоне с инфицированным.

— Правда? — Чен Нань поняла, что не проверяла обновления из отдела вирусного контроля, с тех пор как отправилась в свое безумное путешествие. — А как насчет твоей медкарты? А видео? И аудиозапись?

— Я объясню, — на лице Гарсии появилось наполовину виноватое, наполовину самодовольное выражение. — Это была часть игры.

— Игры?!

— Ты разве не помнишь, что я лучший дизайнер уровней во всей тринадцатой южноамериканской зоне боевых действий в игре Techno Shaman?

Удачные совпадения, странная сосредоточенность на лицах некоторых людей… Фрагменты событий, которые Чен Нань пережила за этот вечер и ночь, начали складываться, словно кусочки головоломки.

— То есть это ты прислал за мой мистера Ма?

— Ну да, мы познакомились с ним в игре. Камон, Нань, в таком огромном городе, как Шанхай, каковы шансы, что пиратское такси приедет именно туда, где стояла ты?

— А как же видео? Никакой грим в мире не смог бы сделать тебя таким, каким ты выглядел!

— Помнишь мой аватар? Я использовал его для создания анимированного видеоклипа.

— И доктор Сюй твой сообщник?

— Ну, вообще-то он действительно врач, но да, с ним мы тоже познакомились в игре. Признаюсь, я не ожидал, что меня и правда поместят в карантин. Но, кажется, это сделало нашу игру более реалистичной, не так ли?

— Но как ты мог знать, что я стану… Что я поеду тебя искать? — Чен Нань уже вскипала, но еще пыталась сдержаться.

Гарсия опять улыбнулся:

— Цифровая медкарта, которую тебе прислал доктор Сюй, была трекером. С его помощью я мог снабжать тебя… Ну, мотивирующей обратной связью.

— Что ты имеешь в виду? — Чен Нань уже обо всем догадалась — она все-таки геймер, но жизнь ведь не игра, поверить в такое невозможно, и девушка почти кричала.

— Ты ведь знаешь, любая хорошая игра требует правильных препятствий и позитивного фидбэка для мотивации игроков, — Гарсия как будто не чувствовал изменившегося настроения Чен Нань. — Если уровни слишком простые — геймерам скоро станет скучно; если слишком сложные — они расстроятся и опустят руки. А мотивирующая обратная связь помогает игрокам пройти их путь.

— А если бы я так и не вышла из квартиры? Что бы ты стал делать?

— Тогда я признал бы свое поражение, — сказал Гарсия, и глаза его заблестели. — Мы с товарищами по команде проанализировали свой план миллион раз и подготовились ко всем сюрпризам, чтобы обеспечить твою безопасность. Если бы ты решилась выйти из квартиры, у тебя непременно все получилось бы. Но я совсем не был уверен, что ты зайдешь так далеко…

— Ну ты и гад! — Чен Нань обхватила руками голову. Ее плечи дрожали. Слезы катились, но она не знала точно, из-за чего плачет на этот раз. — Я так волновалась… а для тебя, оказывается, это была всего лишь игра! Как ты мог со мной так поступить?!

— Мог, потому что я люблю тебя.

Эту фразу Чен Нань ощутила, словно удар тока. Гарсия уже миллион раз говорил ей о своих чувствах в виртуальном мире: с помощью текстовых и голосовых сообщений, видеозвонков, в игре. Ей казалось, что она давно уже привыкла к его романтическим признаниям. Но в реальном мире эти волшебные слова почему-то звучали совсем иначе. Сердце девушки заполнили сложные эмоции, для которых у нее не было названия.

Даже самые передовые технологии виртуальной реальности не сымитировали бы то, что она сейчас чувствовала. Люди за неимением лучшего языка описания назвали это любовью.

Чен Нань подняла на стоявшего перед ней парня полные слез глаза:

— Но как же ты можешь меня любить? Я ведь такая эгоистичная трусиха… Я думала, что навсегда тебя потеряла.

— Не будь дурочкой, Нань. Ты только посмотри на себя! Ты сделала то, чего никто бы не смог. Ты проехала буквально через весь город, чтобы меня найти. Ты настоящий воин; ты самый храбрый человек из всех, кого я знаю.

— У меня что, действительно получилось?

— Да! Получилось! Ты вырвалась из тупиковой петли. Теперь ты новый человек. За исключением одного…

— Чего?

— Ты еще не позволила мне тебя обнять.

— Гарсия! Я просто… — Чен Нань глубоко вдохнула, затем длинно выдохнула. — Ладно, думаю, я могу и это. Ну давай же.

— Я буду делать все очень медленно. Если почувствуешь дискомфорт, скажи, и я сразу остановлюсь.

Гарсия стал двигаться к Чен Нань — медленно и осторожно, дюйм за дюймом, как ходят стареющие роботы. Чен Нань закрыла глаза, ее смартстрим просто бесновался — с каждой секундой жужжание и вибрации усиливались. Чен Нань изо всех сил боролась с нарастающим внутри страхом.

Гарсия вошел в радиус одного метра, нарушив безопасную дистанцию.

Жужжание превратилось в сирену, пронзительно завывшую в наушниках.

Пульс участился. В груди ощущался какой-то комок.

Страх физического контакта жил в ней так долго, что стал ее неотъемлемой частью. Но она твердо стояла на своем.

Я в безопасности, бормотала она себе под нос. Между ней и Гарсией было два слоя защитных костюмов — такое объятие никому не может повредить.

— Я уже здесь, — прошептал Гарсия.

Чен Нань обеими руками выдернула наушники — они выпали и застряли где-то в складках ее защитного комбинезона, по-прежнему издавая звуки опасности.

Девушка распахнула глаза и потянулась к Гарсии, готовая, наконец, к долгожданному объятию. И пусть пока еще через пластиковую обертку.

Анализ. ИИ в здравоохранении; программа AlphaFold; роботизация; ускорение автоматизации, вызванное пандемией ковида

«Бесконтактная любовь» — явление, характерное для общества, до неузнаваемости преобразованного постоянной пандемией. В данном случае — это фантазия на тему, что может быть, если пандемия из-за постоянных мутаций вируса продлится еще десятилетия. Конечно же, это только наши предположения.

Независимо от того, как долго с нами задержится ковид, уже сегодня очевидно: ИИ изменит наше здравоохранение. Неминуемо ускорение открытия новых вакцин и лекарств и интеграции в существующую систему передовых технологий вроде ИИ-диагностики. Нацеленность ИИ на область здравоохранения особенно актуальна, поскольку мы уже находимся в процессе оцифровки этой отрасли.

Результатом станет массивный датасет, необходимый ИИ для преобразования нынешней системы здравоохранения. Так что шансы увидеть эту отрасль совершенно другой вследствие интеграции в нее ИИ в 2041 году крайне велики.

Еще один характерный аспект — ковид, породивший страх перед физическими контактами. В рассказе он проиллюстрирован фобиями и добровольной реальной самоизоляцией молодой девушки. Такой вынужденный образ жизни создает множество возможностей для развития робототехники — благодаря стремительному техническому прогрессу эта область уже готова к реальному прорыву. Будут ли в 2041 году по вашей квартире сновать роботы-помощники, как по жилищу Чен Нань из нашей истории? Поделюсь мнением и на этот счет.

На закуску обсудим, каким образом пандемия поспособствует нашему дальнейшему переходу на дистанционную работу, общению, обучению, коммерции и развлечениям; как непременно приведет к ускорению процесса цифровизации и сбора данных. Больше данных равно более развитому ИИ, что еще больше ускорит автоматизацию и приведет к дальнейшему сокращению рабочих мест.

СЛИЯНИЕ ЦИФРОВИЗАЦИИ ЗДРАВООХРАНЕНИЯ С ИИ

То, что мы называем «современной медициной», в XX веке сильно выиграло благодаря беспрецедентным научным открытиям — они в итоге серьезно улучшили здравоохранение во всех его аспектах. Средняя продолжительность жизни человека увеличилась с 31 года в 1900 году до 72 — в 2017-м. Я убежден, что не сегодня-завтра грядет революция в сфере здравоохранения.

Цифровизация даст медикам возможность пользоваться любыми технологиями обработки данных; поставит им на службу вычислительную, коммуникационную, мобильную, робототехнику, а также науку о данных и, самое главное, медицинский ИИ.

Первым делом ныне существующие базы данных будут оцифрованы, а процессы — автоматизированы. Это затронет истории болезни, данные об эффективности лекарств и медицинских приборов, сведения о клинических испытаниях, о контроле качества медицинского ухода, статистику по распространению инфекционных заболеваний и поставкам лекарств и вакцин. В результате оцифровки появятся огромные базы данных, которые также обеспечат новые возможности ИИ.

Не так давно стала цифровой такая область медицины, как радиология. И врач уже не разглядывает подсвеченный рентгеновский снимок — на смену дедовскому методу пришла компьютерная визуализация 3D-изображений с высокой четкостью, а это делает возможной телерадиологию и ИИ-диагностику.

Уже сегодня начали оцифровывать медицинские карты и страховые данные; их сохраняют и объединяют (если это, конечно, разрешено законом) в анонимных базах данных, к которым можно применить ИИ, улучшив тем самым эффективность и качество лечения, диагностики, квалификацию медицинского персонала, выявление аномалий и профилактику заболеваний.

Полные базы данных по использованию каждого лекарственного средства позволят врачам и ИИ понимать, как и когда применять каждый препарат с максимальной эффективностью и как избежать врачебных ошибок. ИИ может выполнять многие виды работы гораздо тщательнее, чем люди-врачи, — ведь он имеет возможность обучаться на миллиардах реальных случаев, учитывая в том числе и результаты лечения.

ИИ может анализировать полный медицинский и семейный анамнез и подбирать лечение с учетом этих данных. А еще ИИ сможет, так сказать, держать руку на пульсе прогресса — знать и «помнить» все об огромном количестве новых лекарств, методов лечения и результатах медицинских исследований, что однозначно выходит за рамки человеческих возможностей.

В дополнение к существующим методам обработки информации в здравоохранении все больше используются новые революционные технологии, продукт собственно цифровых процессов. Мобильные устройства контролируют частоту сердечных сокращений, артериальное давление, уровень сахара в крови; постоянно увеличивают набор статистических данных о естественном движении народонаселения и могут своевременно подать сигнал об опасности для человечества.

Такой трекинг непременно приведет к созданию огромных баз данных, которые помогут ИИ точнее мониторить здоровье, выявлять болезни на ранней стадии, предлагать методы лечения и поддержки.

Благодаря новым технологиям огромное количество цифровых данных генерируется в сфере медицинских исследований. Определение последовательности (секвенирование) ДНК выдает жизненно важную цифровую информацию — например, о генах, кодирующих белки (молекулярных механизмах жизни), о регуляторной сети, которая определяет поведение генов.

Цифровая полимеразная цепная реакция (всем хорошо теперь известная ПЦР) способна точно выявлять патогены (например, вирус SARS-CoV-2 и его разнообразные варианты) и генные мутации (например, новые маркеры рака). Секвенирование следующего поколения NGS (Next-generation sequencing) обеспечивает быстрое прочтение и интерпретацию генома, что не под силу человеку (геном слишком длинен и сложен), но отлично поддается ИИ.

Есть еще CRISPR — революционная технология редактирования геномов, которая, вполне возможно, поможет искоренить многие болезни. И наконец, разработка новых лекарств и вакцин становится все более цифровым процессом и все сильнее интегрируется с ИИ (подробнее об этом поговорим в этой главе чуть позже).

Все эти новшества — цифровые изначально, поэтому они могут быть сопряжены с другими цифровыми технологиями, такими как ИИ, что непременно приведет к прорыву в здравоохранении.

Вы можете спросить, почему же провалились первые медицинские проекты с использованием ИИ вроде IBM Watson[50] с программой лечения онкозаболеваний? IBM работала с уважаемыми медицинскими учреждениями, MD Anderson и Sloan Kettering[51], и решила использовать их медицинский опыт и данные для обучения своего ИИ.

Эти высококачественные обучающие данные идеально подходят для обучения врачей и студентов-медиков. Они были кропотливо собраны ведущими исследователями с целью помочь учащимся усвоить ключевые концепции, установить связи между областями и синтезировать новые решения. Но эти базы данных слишком малы для ИИ, который учится на массивных данных, а не на концепциях (вспомните таблицу в главе 1, в которой противопоставляются обучение человека и ИИ), но имеющиеся базы оказались для него скудны. Технология IBM Watson попыталась расширить эти знания с помощью большого количества медицинских текстов из учебников и отчетов по исследованиям, но и эти материалы тоже предназначались для потребления человеком, а ИИ лучше подходят реальные данные о лечении и конкретных результатах.

К тому же лечение рака — задача слишком объемная и многофакторная и явно не годится для первого применения ИИ в области медицины. Здравоохранение с использованием ИИ должно начинаться с более скромных задач с большими датасетами, необходимыми искусственному интеллекту для обучения, и это очевидно.

Судя по всему, ИИ и медицинские сообщества усвоили урок IBM Watson. Сегодня они сфокусировались на более подходящих для ИИ задачах — разработке новых лекарств и вакцин, создании мобильных устройств для продолжительного обследования-мониторинга, секвенировании ДНК, радиологии, патанатомии и лечении генетических заболеваний.

Кроме того, мы должны быть реалистами и выбирать задачи, подходящие для нынешнего здравоохранения (создавать то, что может продаваться через уже существующие каналы). Машины должны дополнять работу ученых и врачей, а не пытаться амбициозно их подменить. При таком прагматическом и ориентированном на имеющиеся данные подходе уже в ближайшие двадцать лет ИИ-здравоохранение, без всяких сомнений, может рассчитывать на великое будущее. Предлагаю рассмотреть подробнее некоторые задачи; начнем с создания новых лекарственных средств.

РАЗРАБОТКА ТРАДИЦИОННЫХ ЛЕКАРСТВ И ВАКЦИН

До сих пор разработка лекарств и вакцин была чрезвычайно трудоемкой и дорогостоящей. Например, на открытие и совершенствование вакцины от менингита человечество потратило больше века. В случае с ковидом фармацевтические компании смогли продвинуться намного быстрее, во многом благодаря беспрецедентным государственным расходам на клинические испытания и работе по нескольким параллельным направлениям разом (одно только правительство США и только в 2020 году потратило на это 10 миллиардов долларов).

Но окажись ковид действительно столь же заразным и смертоносным, как заболевания, вызывавшие пандемии раньше, нас бы не спасло, что вакцины пришлось ждать всего год. Так что почивать на лаврах еще не время, процесс нужно ускорять.

Разработка новых лекарств требует понимания того, как вирусные белки (последовательности аминокислот) складываются в уникальные трехмерные формы. Без расшифровки этих трехмерных структур не определить, как действуют вирусы и как, соответственно, с ними бороться. Например, спайковый белок SARS-CoV-2 образует «шип», который, подобно ключу, вставляемому в замок, прикрепляется («подходит») к рецептору на поверхности клеток человека.

После такой интернализации (усвоения) вирусный геном (в случае ковида — это РНК) передается клетке-хозяину и реплицируется (копируется) во многих органах, возникает заболевание со всей печальной симптоматикой.

Но ковид и лечится примерно так же — лечебная молекула присоединяется к патогену (как ранее — зловредный вирус к клетке) и подавляет его. По сути, разработка новых лекарств представляет собой поиск этой лечебной молекулы. Процесс состоит из четырех этапов:

1. Использование последовательности мРНК с целью определить последовательность белка патогена (сегодня это относительно несложно).

2. Определение трехмерной структуры последовательности белка патогена (сворачивание белка, по-другому фолдинг).

3. Поиск цели на этой трехмерной структуре.

4. Генерирование вероятных лечебных молекул и выбор из них наиболее перспективного кандидата для доклинических исследований.

Возвращаясь к упомянутой выше метафоре, этапы 1, 2 и 3 помогают найти «замок», а 4-й этап — подобрать к нему «ключик». Эти четыре шага необходимо проходить последовательно, и все, кроме первого, требуют немалых затрат времени и средств.

На 2-м этапе используются традиционные методы кристаллизации белков, в частности технология криоэлектронной микроскопии, позволяющая увидеть вирусные белки в их родной среде. На основе этой визуализации и строится трехмерная структура белка — это работа кропотливая и небыстрая.

Затем, на этапах 3 и 4, следует поиск целей, мишеней для лекарственного воздействия и разработка новых средств. Это тоже долго, процесс требует хорошей интуиции, большого опыта и, конечно, большой доли везения.

Препарат — кандидат на доклинические исследования может появиться через несколько лет и с вероятностью 90 процентов не пройдет их II или III фазу. На серии исследований тратится очень много времени. Конечно, если разрабатывать параллельно несколько вариантов (как это было с ковидом), дело можно ускорить, но при этом и сильно удорожить.

Кстати, именно в таком контексте создавались мРНК-вакцины от ковида для компаний Moderna и BioNTech/Pfizer. мРНК-вакцины — продукт нового подхода в разработке препаратов, имеющего значительный потенциал. Для разработки мРНК-вакцины ученые расшифровывают взаимосвязь между последовательностью мРНК и структурой белка, а затем синтезируют вакцину, которая обучает человеческие клетки синтезировать белок, похожий на белок вируса-патогена. Возникает иммунная реакция, которая при встрече с реальным вирусом заработает с новой силой, и человек окажется защищен.

СВОРАЧИВАНИЕ БЕЛКА, ТЕСТИРОВАНИЕ ЛЕКАРСТВЕННЫХ ПРЕПАРАТОВ И РАЗРАБОТКА НОВЫХ ЛЕКАРСТВ С ИСПОЛЬЗОВАНИЕМ ИИ

Сегодня описанный выше процесс создания действенного лекарственного препарата или вакцины стоит миллиард долларов и занимает много лет. Но я убежден: ИИ очень скоро значительно ускорит эту процедуру и снизит стоимость лекарств и вакцин, поможет создать новые, гораздо более эффективные препараты. Это позволит нам жить дольше, навсегда победив многие страшные и сегодня еще смертельные болезни.

ИИ способен существенно снизить скорость и стоимость разработки новых лекарств и вакцин. Так, для определения структуры сворачивания белка (этап 2) британская компания DeepMind в 2020 году разработала ИИ-программу AlphaFold 2 — и это величайшее на сегодня достижение ИИ в сфере науки.

Белки — это строительные блоки жизни, но до последнего времени один их аспект оставался для нас тайной. Речь идет о пространственной структуре белков, которая обеспечивает выполнение жизненно важных для нас задач. Это вопрос огромного научно-медицинского значения, подходящий, судя по всему, для глубокого обучения.

ИИ-программа AlphaFold компании DeepMind, обученная на огромной базе данных по ранее выявленным трехмерным структурам белка, продемонстрировала возможность их быстрого моделирования так же точно, как и при традиционных методиках (таких, как упомянутая выше криоэлектронная микроскопия). Но эти методики очень дороги, а на расшифровку одного белка могут уйти годы.

Все традиционные методы позволили ученым расшифровать всего лишь менее 0,1 процента всех белков — AlphaFold обещает нам истинный прорыв в этом направлении. Не зря же научное биологическое сообщество провозгласило эту программу героем, решившим «сложнейшую за последние пятьдесят лет задачу биологии».

Расшифрованная трехмерная структура белка позволяет найти эффективное лечение. Один из относительно быстрых способов сделать это — перепрофилирование: взять все доказанно безопасные лекарства и «примерить» их к лечению других заболеваний, посмотреть, не вписываются ли какие-нибудь из них в трехмерную структуру нового патогена.

Перепрофилирование лекарственных препаратов — быстрое решение, способное задавить распространение пандемии, что называется, в зародыше. То, что препараты уже используются, означает: они прошли тесты на побочные эффекты, соответственно, их можно применять без масштабных клинических испытаний (а для новых лекарств они обязательны, и на них уходит много времени).

В рассказе «Бесконтактная любовь», когда, по сюжету, Гарсия будто бы заразился новым агрессивным штаммом вируса, в клинике немедленно запустили ИИ-автоматизированный процесс для поиска препарата, который можно было бы перепрофилировать — во всяком случае, так должно было бы произойти, будь Гарсия действительно болен.

Но ученые могут привлечь ИИ и к получению совершенно новых соединений. ИИ можно использовать для выбора цели-мишени для прикрепления лечебной молекулы (этап 3). ИИ-модели могут сузить поиск препарата, так как выявят закономерности и автоматически предложат наиболее перспективных кандидатов (этап 4).

В 2021 году Insilico Medicine, биотехнологическая компания из Гонконга[52], анонсировала первый найденный искусственным интеллектом препарат для лечения идиопатического фиброза легких — тяжелого хронического заболевания. Сначала ИИ сам нашел цель на трехмерной структуре (этап 3), а затем предложил перспективных кандидатов и выбрал из них лучшую биомолекулу (этап 4), тем самым сэкономив Insilico Medicine 90 процентов затрат на два этих этапа разработки нового лекарства.

Для оптимизации шагов 3 и 4 ИИ может использовать многие типы знаний. Например, обработка естественного языка (ОЕЯ) способна обеспечить перебор всего массива вышедших академических статей, выданных патентов и опубликованных данных. Извлеченные из них новые идеи помогут ИИ предложить цели или ранжировать возможные новые молекулы по уровню их перспективности.

На основе результатов проведенных клинических испытаний ИИ может предсказывать вероятность каждого перспективного кандидата и соответственно их ранжировать. Такие эксперименты называют in silico, поскольку почти все процессоры для компьютеров делают на основе кремния (silicium), а реальный эффект лекарств и клинических испытаний имитирует специальная компьютерная программа. Эксперименты in silico выявляют наиболее надежных кандидатов, и тогда уже в дело вступают ученые-люди, работающие со списками, составленными ИИ.

Помимо относительно нового метода in silico широко используется давний и проверенный метод in vitro («в пробирке»): эксперименты в лабораторных условиях, в ходе которых предлагаемые новые препараты тестируют на человеческих клетках почти буквально в пробирке — в чашках Петри. Такие опыты также зачастую позволяют существенно ускорить разработку новых лекарств.

Кстати, сегодня такие эксперименты часто проводят роботы, а не люди-лаборанты, и это позволяет намного быстрее собрать гораздо больше данных. Ученые могут запрограммировать роботов на повторение серии экспериментов, и они станут проводиться в автономном режиме круглые сутки — люди роботам для этого не нужны. В будущем это откроет огромные возможности для ускорения процесса разработки новых лекарственных препаратов.

ТОЧНАЯ МЕДИЦИНА И ИИ-ДИАГНОСТИКА: ЖИТЬ ЗДОРОВЕЕ И ДОЛЬШЕ

Разработкой новых лекарств и вакцин дело, конечно, не ограничится. В относительно скором будущем ИИ изменит здравоохранение и во многих других областях и аспектах. «Точной медициной называют индивидуальный, персонифицированный подход к лечению пациента — в отличие от использования универсальных лекарств-блокбастеров[53].

По мере расширения доступности в цифровом виде информации о каждом пациенте, включая историю болезни, семейный анамнез и секвенирование ДНК, точная медицина будет становиться, простите за каламбур, все более точной. ИИ для такой индивидуализированной оптимизации подходит просто идеально.

Смею предположить, что в ближайшие двадцать лет диагностический ИИ превзойдет всех, кроме разве что наилучших врачей-диагностов. Тенденция будет заметна прежде всего в радиологии, где алгоритмы компьютерного зрения для определенных типов МРТ и компьютерной томографии (КТ) уже сегодня ставят диагноз точнее лучшего врача-радиолога. В рассказе «Бесконтактная любовь» мы видим, что к 2041 году ИИ практически полностью возьмет на себя работу врачей этой специальности.

А еще мы наверняка увидим успехи ИИ в сфере патолого-диагностической офтальмологии. Диагностический ИИ для врачей общей практики появится позже, он будет «осваивать» болезнь за болезнью, пока постепенно не охватит все сферы диагностики. На кону стоят человеческие жизни, поэтому сначала ИИ будет лишь инструментом в распоряжении врачей либо станет применяться в ситуациях, когда врач-человек недоступен.

Но со временем, когда его обучат на большем количестве данных, ИИ станет настолько хорош, что большинство врачей начнут просто «утверждать» поставленные им диагнозы, а сами превратятся в неких медицинских коммуникаторов — будут ухаживать за пациентами с состраданием, недоступным даже самому развитому искусственному интеллекту.

Постепенно автоматизируются даже сложные хирургические операции, требующие многоуровневых решений и высокой скорости движений. Число операций с использованием роботов увеличилось с 1,8 процента (от всех проведенных операций) в 2012 году до 15,1 процента в 2018-м. В то же время все доступнее становятся полуавтономные хирургические операции и манипуляции, которые проводят роботы, но под наблюдением хирурга-человека: колоноскопия, наложение швов, анастомоз кишечника, установка зубных имплантатов и многое другое.

Экстраполируя эту тенденцию на будущее, мы можем уверенно ожидать, что через двадцать лет робототехника станет участвовать во всех хирургических операциях, а по большинству медицинских случаев будут проводиться полностью автономные роботизированные операции.

Поистине великие возможности откроются с появлением медицинских наноботов, многократно превосходящих возможности хирургов-людей. Эти миниатюрные (от 1 до 10 нанометров[54]) роботы-хирурги смогут восстанавливать поврежденные клетки, бороться с раком, исправлять генетические изъяны и заменять молекулы ДНК для искоренения многих болезней.

Следует сказать пару слов и о будущем носимых и стационарных медицинских устройств. Это и биосенсорные мембраны из рассказа «Бесконтактная любовь», и умные комнаты с датчиками температуры, и умные туалеты, и умные кровати, и умные зубные щетки, и умные подушки и всевозможные невидимые датчики, которые будут регулярно проверять наши жизненно важные показатели и собирать другую информацию, на ранней стадии выявляя потенциальные проблемы со здоровьем.

Сводные данные с этих устройств позволят точно определить, нет ли у человека серьезного заболевания или жизнеугрожающего состояния — будь то инсульт, сердечная аритмия, апноэ или травма, полученная в результате падения. Эти данные из интернета вещей[55] будут объединяться с другой медицинской и социальной информацией, такой как история болезни, записи отслеживания контактов и данные инфекционного контроля, чтобы прогнозировать эпидемии и предупреждать людей об опасности.

У многих пользователей непременно возникнут опасения по поводу нарушения конфиденциальности, приватности, поэтому система должна будет обеспечивать анонимность данных, заменяя каждое имя неизменным и неотслеживаемым псевдонимом. Кроме того, нам предстоит всесторонне изучить технологические решения, которые позволят централизовать ИИ и одновременно обеспечить конфиденциальность используемых им данных (подробнее об этом в главе 9).

И, наконец, уже сегодня нам необходимы новаторские идеи; например, возможность стать после смерти не только донором органов, но и донором персональных данных.

Исследование, проведенное в 2019 году, показало: доля ИИ в сфере здравоохранения будет расти на 41,7 процента в год и к 2025 году на нее придется 13 миллиардов долларов. В частности, речь идет о делопроизводстве и рутинных процедурах в больницах, носимых устройствах, компьютерных диагностических обследованиях, составлении плана лечения, виртуальных помощниках и, что самое важное, о разработке новых лекарственных препаратов. Появление ковида, по всей вероятности, существенно ускорит этот процесс.

В завершение темы скажу: есть все основания ожидать, что ИИ будет способствовать долголетию. Но он не только поможет нам жить дольше, а позволит улучшить качество жизни. ИИ начнет использовать огромные массивы индивидуализированных данных для достижения «точного долголетия»; будет составлять персональные планы питания, разрабатывать состав и схему приема биодобавок, комплексы физических упражнений, режим сна, подбирать лекарства и терапию для каждого человека индивидуально.

Биотехнология омоложения перестанет быть прерогативой исключительно очень богатых людей и станет доступной всем. Некоторые эксперты считают, что благодаря достижениям в области медицины и биологии, в частности благодаря ИИ, люди смогут жить в среднем на двадцать лет дольше, чем сегодня.

ВВЕДЕНИЕ В РОБОТИЗАЦИЮ

Прогресс ИИ в сфере роботизации — задача намного более сложная, чем в сферах интернета, финансов и восприятия. Об этом говорилось в предыдущих главах — ведь проблемы в этой области не решить путем прямого применения глубокого обучения. Кроме того, роботизация включает в себя определенные манипуляции, движение и планирование в реальном физическом мире, что, в свою очередь, требует тесного взаимодействия таких аспектов, как машиностроение, ИИ в области восприятия и мелкая моторика. Это проблемы, безусловно, решаемые, но требующие для окончательной доводки больше времени, не говоря уже о более масштабной междисциплинарной технологической интеграции.

Роботизация — это попытка максимально точно воспроизвести в технике врожденные способности человека видеть, двигаться и выполнять определенные манипуляции. Роботы нового поколения должны быть не только автоматизированными, но и автономными — только тогда можно передать им функцию принятия решений.

Они должны уметь планировать, получать обратную связь, адаптироваться к окружающей среде при изменении условий или даже импровизировать. Создав машины, способные видеть, осязать и двигаться, мы значительно расширим объем задач, которые может решать ИИ.

Конечно, зрение, прикосновение, манипуляции, движения и координация человека слишком сложны, чтобы роботы достигли близкого уровня за следующие два десятка лет. Каждая из этих способностей будет развиваться отдельно в ограниченных средах, и ограничения эти будут ослабляться постепенно, с течением времени.

Роботизированное компьютерное зрение уже сегодня достигло относительно высокого уровня; его можно применять для решения проблем безопасности пожилых людей (роботизированная система оповещения об опасности, например), для визуальной инспекции на конвейерах и выявления аномалий в энергетике и на общественном транспорте.

Автономные мобильные роботы (autonomous mobile robots, AMR) и автономные вилочные погрузчики уже научились перемещаться по внутренним помещениям: робот «видит» препятствия, с их учетом выстраивает траекторию и вполне успешно перемещает грузы на складе — все это без участия водителя.

Роботы-манипуляторы умеют захватывать, удерживать и перемещать твердые объекты, например при сварке конструкций, на сборочных линиях, при комплектации посылок в дистрибьюторских центрах в сфере электронной коммерции.

Со временем эти роботы станут более умелыми и ловкими. Компьютерное зрение с использованием камер и других датчиков (LiDAR — Light Detection and Ranging, дословно: «обнаружение и определение дальности с помощью света») станет неотъемлемой частью умных городов и беспилотных транспортных средств.

Автономные мобильные роботы научатся перемещаться не только в помещении, но и на открытом воздухе, будут быстро и эффективно работать группами, а роботы, снабженные ногами, смогут пройти куда угодно. Роботизированное зрение, манипуляции и движения будут все более скоординированными и комбинированными, станут применяться в новых сложных областях.

Роборуки обтянут мягкой кожей, и они смогут удерживать даже очень хрупкие предметы, их обучат новым приемам путем совершения ими собственных ошибок либо через наблюдение за тем, как аналогичные действия выполняют люди.

ПРОМЫШЛЕННАЯ РОБОТОТЕХНИКА

Самые дорогие технологии становятся зрелыми, когда отрасли видят в их использовании реальную ценность. Если у компании есть острая потребность, которую возможно удовлетворить применением той или иной технологии, фирма, как правило, готова платить и даже поначалу терять значительные суммы на ее внедрении, если позже, по достижении эффекта, это позволит серьезно экономить. Робототехника в данном случае не станет исключением.

Заводы, склады и логистические центры уже используют ИИ и робототехнику, начиная с систем визуального контроля и заканчивая автономными мобильными роботами и автоматической комплектацией посылок. Сегодня роботы только «поднимают», «перемещают» и «манипулируют». Позже появятся роботы-«бригадиры», они станут координировать работу других роботов, решать сложные задачи планирования и даже разруливать проблемы и справляться с непредвиденными ситуациями.

Конечно, полная автоматизация заводов и складов — дело совсем не близкого будущего, ведь для выполнения некоторых задач требуется ловкость человеческих рук, точная зрительно-моторная координация или умение действовать в принципиально новых ситуациях и средах. Но к 2041 году склады наверняка будут автоматизированы практически полностью, а заводы и фабрики — в основном.

Еще один низко висящий плод для роботизации — сельское хозяйство. Если изготовление телефона, рубашки или пары туфель — совершенно разные процессы, то удобрение почв, опрыскивание инсектицидами или посев семян схожи для многих типов сельскохозяйственных культур.

Сегодня эти три задачи для многих видов сельхозкультур успешно выполняют дроны; кроме того, роботы собирают яблоки, салат и прочие фрукты и овощи. Робототехника со временем снизит затраты на сельское хозяйство, что, в свою очередь, обещает повысить уровень продовольственной безопасности во всем мире.

Ковид ускорил применение робототехники в здравоохранении; роботы выявляют людей с повышенной температурой, ухаживают за пациентами, дезинфицируют больницы и аэропорты, доставляют еду людям на карантине, а их анализы — в лаборатории; оказывают помощь медицинским работникам в «красной зоне». Первоначально эти роботы выполняли только простые и повторяющиеся задачи, а некоторые требовали наблюдения человека. Но ковидный опыт явился боевым крещением и сам по себе делает машины все умнее и самостоятельнее.

Так, одна компания в Китае уже выпускает автоматизированные биолаборатории. Они не только высвобождают драгоценное время ученых и врачей, но и исключают ошибки и случайные заражения людей. Роботы работают круглосуточно, без выходных, собирают бесценные данные для автоматизированных повторений эксперимента.

КОММЕРЧЕСКАЯ И БЫТОВАЯ РОБОТОТЕХНИКА

В ходе промышленного использования роботы и технологии будут развиваться, со временем это приведет к снижению стоимости робототехники и запчастей — она станет доступной для коммерческого и потребительского использования. Например, робот-рука, имеющийся в автоматизированных лабораториях, можно использовать и для подачи напитков в кафе, а когда он еще подешевеет, и дома.

У автономного мобильного робота (AMR) при некоторой переделке и настройке может появиться множество бытовых специализаций — такие роботы помогали Чен Нань из нашего рассказа и ее современникам: Юаньюань предназначался для работы по дому; робота-доставщика сделали подобным R2-D2; робот-дезинфектор напоминал паука или краба; робот-уборщик; робот-сиделка; робот, выгуливающий собак.

Подобные этим роботы, только в несколько более примитивных формах, есть уже в 2021 году. Когда я недавно был на карантине в Пекине, все заказанное в интернете, включая еду, мне доставлял робот. Он, кстати, тоже здорово напоминал R2-D2.

Администраторы в холле, у входа в здание, клали ему «на спину» предназначенный для меня пакет, он сам вызывал лифт, подъезжал к моей двери и звонил по телефону, чтобы я вышел и забрал посылку; после этого робот сам возвращался на рецепцию.

В Кремниевой долине уже проходят испытания полностью автономные фургоны-доставщики «от двери до двери». К 2041 году такая доставка наверняка станет обыденным явлением: автономные вилочные погрузчики будут перемещать предметы на складе, беспилотные дроны и грузовые тележки — доставлять коробки в жилой комплекс, а роботы типа R2-D2 — в конкретную квартиру.

В некоторых ресторанах уже теперь гостей обслуживают официанты-роботы — это уменьшает нежелательные в пандемию контакты людей с людьми. Правда, это пока не роботы-андроиды, а только автономные подносы на колесах, подвозящие заказ к столику.

«Робот-прислуга» — это сегодня и ловкий маркетинговый ход, и мера безопасности, но завтра он может стать привычным элементом сервиса в ресторанах. Исключение составят только самые дорогие заведения или те, в которых человеческое общение является неотъемлемой частью имиджа.

Роботов можно использовать в отелях (для уборки, доставки белья и багажа, обслуживания номеров), в офисах (в качестве регистраторов посетителей и сотрудников, охранников и уборщиков), в магазинах (для мытья полов и выкладки товаров), в разнообразных информационных подразделениях (для ответов на вопросы или указания людям нужного направления движения в аэропортах, гостиницах и офисах).

И домашние роботы выйдут далеко за рамки возможностей уже привычного нам робота-пылесоса Roomba. Машины научатся мыть посуду. Не как посудомоечная машина, требующая соблюдения правил эксплуатации, а как автономное приспособление. Просто сложил все кастрюли, сковороды и тарелки с остатками еды, а спустя какое-то время получил все отмытым, продезинфицированным, высушенным, а тарелки — еще и аккуратными стопками.

Роботы научатся готовить — не как шеф-повар, конечно, но как автоматический кухонный комбайн, подключенный к кастрюле для самостоятельного приготовления пищи. Заложил ингредиенты — получил готовое блюдо. Технологические компоненты для этого существуют уже сейчас, и в ближайшее десятилетие они будут доработаны и соединены.

Так что наберитесь терпения. Подождите, пока робототехнику усовершенствуют и затраты на ее производство снизятся. Это непременно приведет к коммерческому, а затем и к бытовому использованию роботов. По-моему, не будет большим преувеличением: к 2041 году вы, возможно, будете жить, как Джетсоны из одноименного мультфильма[56]!

ОЦИФРОВКА РАБОТЫ И ИИ

Во время карантинов по случаю ковида мы максимально сократили число офлайновых контактов и все, что возможно, стали выполнять в сети. Такие резкие изменения в социальном поведении человека не могут пройти без долгосрочных негативных последствий, и это иллюстрирует нозофобия героини рассказа «Бесконтактная любовь» Чен Нань и вызванное этим ее асоциальное поведение.

Однако мы увидели, что резкая смена привычек привела к повышению гибкости ума и продуктивности. Модернизированный стиль работы Чен Нань позволяет ей почти все время трудиться из дома. Раньше мы считали поездки в офис и обратно, командировки и посещение учебного заведения важными компонентами жизни, но теперь узнали, что многие вопросы не хуже, а то и эффективнее решаются онлайн — а раньше казалось, они требуют личного присутствия.

Месяцы, проведенные дома, разрушили старые убеждения и привычки. В конце 2020 года Билл Гейтс предсказал, что половина деловых поездок будет заменена эффективными виртуальными встречами. Он также ожидает, что треть американцев будет практически на постоянной основе работать из дома.

Дэвид Оутор, экономист из Массачусетского технологического института, назвал пандемию и порожденный ею экономический кризис «событием, вынуждающим нас к автоматизации». По его мнению, она вызвана тройственной потребностью: в повышенной продуктивности, в снижении затрат и обеспечении безопасности человека.

Zoom и аналогичные сервисы для видеоконференций войдут в историю как инструменты, благодаря которым мир не замер и планета не перестала вращаться во время ковида. Именно эти сервисы сделали возможными продуктивные командные встречи, веселые свадьбы и продолжение учебы миллионов школьников и студентов.

Мы можем уверенно предсказать, что в ближайшем будущем деловые встречи будут архивироваться и расшифровываться с помощью технологии автоматического распознавания речи. Появится возможность вернуться к любому прошлому мероприятию, отследить взятые сторонами обязательства, построить графики и рассмотреть возможные отклонения — а это, конечно, значительно повысит эффективность бизнеса и управления им.

Повсеместно налаженная видеосвязь позволит использовать аватары на основе ИИ. Как мы узнали из главы 2 «Боги под масками», создать правдоподобное видео с собственной говорящей головой намного проще, чем реалистичную виртуальную копию, неотличимую от человека-прообраза.

Виртуальный учитель может преподавать увлекательнее реального.

Виртуального сотрудника службы поддержки клиентов или продавца можно снабдить набором полезных сведений о клиенте. Последний в таком случае всегда будет доволен — и доход, соответственно, окажется максимальным.

Лично я не отказался бы от дублеров, которые читали бы вместо меня лекции об ИИ в нескольких местах разом и одновременно на нескольких конференциях отвечали на вопросы!

Цифровизация рабочего процесса существенно упрощает реорганизацию, аутсорсинг или автоматизацию. Если работа использует цифровые технологии, то ее данные становятся идеальным топливом для расширения возможностей ИИ.

Например, рабочая нагрузка каждого работника характеризуется конкретным входом (вводом) и выходом (выводом). И если ИИ сможет нести ту же рабочую нагрузку, что и человек, возникнет огромное искушение ее автоматизировать. (См. главу 8 «Спаситель рабочих мест», где описаны технологии RPA для автоматизации рабочей нагрузки человека.)

Исторически сложилось, что к подобной автоматизации приводят экономические трудности предприятия вкупе с полным созреванием технологий. Если компания заменила сотрудника роботом и обнаружила эффективность последнего, вряд ли на его место когда-нибудь вернут человека: роботы не болеют, не бастуют, не требуют повышения зарплаты и надбавки за вредность.

Как справиться с надвигающейся проблемой сокращения рабочих мест, мы обсудим в главе 8.

Глава 5. Мой призрачный кумир

Виртуальная реальность — это как грезы наяву.

Бреннан Шпигель

Когда думы печальны,

Даже светлячок над рекою

Кажется мне

Душой моей — тело покинув,

Она искрой мерцает во мраке.

Идзуми Сикубу

РАССКАЗ ПЕРЕВЕДЕН ЭМИЛИ ДЖИН

Примечание Кай-Фу: В рассказе «Мой призрачный кумир» описано будущее индустрии развлечений, в котором игры становятся иммерсивными — создающими эффект присутствия и полного погружения, а граница между виртуальным и реальным размывается. Действие происходит в Токио; история рассказывает о фанатке, которая с помощью виртуального айдола (в японской поп-культуре айдолами, от англ. idol — «кумир», называют особенно привлекательных медиаперсон), созданного с помощью искусственного интеллекта, расследует смерть своего кумира. Виртуальная реальность — иммерсивная, реалистичная и интерактивная — в будущем изменит сферу развлечений, образования, розничной торговли, здравоохранения, спорта, недвижимости и путешествий. Возможно ли, что к 2041 году мы действительно научимся создавать виртуальные версии себя? Я отвечу на этот вопрос в своем комментарии, где опишу виртуальную, дополненную и смешанную реальность — три формы иммерсивного опыта, — а также социально-этические проблемы, связанные с этими технологическими инновациями.

Комнату, в которой должен был проходить спиритический сеанс, оформили в викторианском стиле. Все освещение — семь уже наполовину сгоревших свечей на черном деревянном столе; по столешнице разбросаны лепестки роз. Белый полупрозрачный шелковый полог, похожий на медузу, тянется складками вверх, к потолку.

Айко мельком глянула на трех других девушек. Их лица в тусклом неровном свете выглядели сверхъестественно-страшновато. Айко уже начала сожалеть, что приняла странное предложение, но эту мысль тут же вытеснила другая: а что, выбери я японский синтоистский храм периода Эдо или традиционный китайский даосский ритуал, было бы не так жутко?

Пламя всех свечей разом зловеще затрепетало, как от порыва ветра. Но двери плотно закрыты — откуда сквозняк?

Девушки переглянулись — не по себе было всем, у всех четверых в глазах плескался страх. Может, это явился тот, ради кого они здесь?

Колченогая старуха в черном балахоне схватила за руки девушек справа и слева от Айко. Глаза медиума закатились. Стол затрясся и начал подпрыгивать — как допотопная стиральная машина при отжиме сбившегося в барабане белья.

Дрожащие и бледные как мел девчонки зажмурились и почти в унисон завизжали.

— Я вижу его! О-хо-хо, это действительно великий человек, — хрипло бормотала и мерно раскачивалась медиум. — Похоже, он умер во время какого-то важного ритуала…

— Точно, так и было! — лицо коротко стриженной яркой блондинки оживилось. — Хироси-куна нашли в запертой изнутри гримерке, в антракте прощального концерта.

— И тело выглядело так, будто он утонул, — добавила девушка с каштановыми кудряшками.

— Когда я узнала эту историю, я рыдала целую неделю! — вспомнила третья, с длинными серо-синими волосами, и чуть опять не разревелась.

— Всё принесли, что я велела? Всё положили на стол? — медиум впервые глянула в глаза посетительницам. — Это даст нам важную подсказку, — старуха не ждала ответа, просто продолжила скрипеть.

Каждой из девушек велели принести с собой что-нибудь, купленное на официальном сайте Хироси Икса. В интернет-магазине уверяли, что к этим предметам прикасался сам Хироси. Айко посчастливилось, ей удалось приобрести расческу с несколькими каштановыми волосками. Продавец утверждал, что этот раритет принадлежал Хироси. Проверить информацию Айко не могла, но за расческу заплатила чертовски дорого.

— О-о-о-о! — взвыла медиум. — Дух… Хироси… Хочет что-то сказать. О-о-о-о… Слушайте! Слушайте!

Стол перестал прыгать, а потом и вовсе успокоился. Стало невероятно тихо. Все ждали — сейчас случится что-то важное. Девчонки не сводили глаз с губ старухи, которые едва угадывались под черной вуалью.

Глаза медиума загорелись, она содрогнулась и стихла. И заговорила. Голос звучал совершенно по-новому.

Теперь девушки видели старуху, а слышали молодого мужчину. Он говорил тихо-тихо, неуверенно, если не сказать нежно.

— Я застрял в бардо[57]… Тут темно и холодно, как на дне океана… Я не могу дышать… Я не хочу умирать… У меня еще так много желаний, — с каждой новой фразой у Айко все больше расширялись глаза.

— Это… Это же Хироси-кун! — голос был так хорошо знаком, что по спине пробежали мурашки.

Мужчина продолжал едва слышно: «Я так хочу еще раз спеть “Пусть чудо воссияет на краю света”. Но мне нужно узнать правду… Пожалуйста, помогите мне узнать правду».

Все четыре девушки дружно зарыдали. Песню «Пусть чудо воссияет на краю света» часто сокращенно называли «Сияющее чудо», и это был главный хит их кумира Хироси.

— Держись, Хироси-кун! — заикаясь и хватая ртом воздух, прошептала Айко.

Голос певца стих. Голова медиума упала на грудь, как у сорвавшейся с нитей марионетки. Старуха открыла глаза, но теперь ее бормотание было вообще неразборчивым. Свечи на столе ярко вспыхнули — в комнате стало светлее.

— Он ушел, — прохрипела старуха.

Я услышала тебя, Хироси-кун. Я узнаю правду и спасу тебя. Айко решительно кивнула самой себе.

Это был прощальный концерт Хироси Икса.

Айко стояла в толпе преданных фанатов. Вытянув шею и привставая на цыпочки, она с восторгом и вожделением смотрела на сияющую фигуру на сцене. Девушка не смогла бы произнести ни слова, рвавшийся наружу фонтан эмоций почти разрывал ее. Она тронута? Испугана? Грезит о нем? Или все вместе?

Музыка резко оборвалась. На гигантском экране за спиной Хироси, где только что было звездное небо, вдруг появилась фан-зона — камера повернулась в зал. Объектив, словно прицел, выхватывал из толпы восторженные юные мордашки. Они мелькали на экране; каждый новый кадр вызывал вопли восторга.

Вдруг мельтешение прекратилось — картинка замерла. Теперь весь экран занимало одно лицо — с довольно сдержанным, даже немного рассеянным выражением. Девушка выглядела обыденно, казалась в этой неистовой толпе почти неуместной.

И тут Айко поняла: да это же она!

«Айко-сан, я выбираю тебя».

Я сплю? Девушка не верила ни глазам, ни ушам. Ее кумир, недосягаемый Хироси-кун, назвал ее имя прямо со сцены! И это слышали тысячи фанатов в зале и миллионы, смотревшие трансляцию, за его пределами! Казалось, на нее обернулись все. Айко запаниковала. Она не представляла, какое выражение лица полагается «надеть» в такой ситуации.

— Айко-сан, могу я пригласить тебя на сцену, чтобы ты спела вместе со мной? — в зале раздались одиночные хлопки, потом дружные поддерживающие аплодисменты, потом добавились ободряюще выкрики. Айко застыла, не в силах сдвинуться с места — как заколдованная.

— Айко-сан, — голос Хироси-кун, усиленный микрофоном, прокатился обиженным эхом, — почему ты меня отвергаешь?

Айко разбудил ее собственный крик. Она тяжело дышала, сердце колотилось, пришлось сделать несколько глубоких вдохов, чтобы успокоиться. Это сон. Включила свет, села. После спиритического сеанса прошло несколько дней, но Айко до сих пор была перевозбуждена, поспать дольше одного-двух часов подряд не получалось.

Заурчало в животе. Девушка вчера не ужинала — она пытается худеть. Да ну его, может, съесть любимой лапши рамен? Пошарила на тумбочке, нащупала контейнер с контактными XR-линзами. Она их снимала только на ночь, а днем носила почти постоянно — привыкла и была без них как без рук.

— Я так мечтала когда-нибудь приготовить рамен Хироси-куну, — пробормотала Айко и услышала странный шорох. Звук донесся из кухни.

Девушка перепугалась. Вскочила, схватила стоявшую у кровати бейсбольную биту — с автографом, кстати, Хироси, — и на цыпочках двинулась к кухне.

Из-под закрытой двери пробивался жутковатый сине-зеленый свет. Айко набрала в легкие воздуха, пнула дверь и бросилась вперед.

Никого. Но холодильник приоткрыт.

— Странно. Я считала, умная техника действует только по команде, — Айко по привычке подумала вслух, заодно заглянула в холодильник. Там стояла только бутылка обезжиренного молока с почти истекшим сроком годности.

— Да-а, действительно пора заказать продукты, иначе… — Айко обернулась. Стеклянная бутылка выскользнула из рук, и молочные брызги разлетелись по кухне. — А-а-а-а!!!

Перед Айко, светясь сине-зеленым и холодным, стоял человек. Он выглядел так, будто состоял из внутреннего водянистого тумана холодильника.

Айко всмотрелась в лицо — это, вне всяких сомнений, был Хироси Икс.

— Но ты разве не умер? — она совершенно неприлично разглядывала мужчину.

Призрак широко улыбнулся:

— Эй, следи за языком! С усопшими нужно разговаривать почтительно! Не забыла, что ты сама меня вызвала?

Айко ткнула в Хироси битой — дерево легко прошло насквозь, только вокруг колыхнулось кольцо света. Айдол был совершенно бестелесным, как голограмма.

— Офигеть! И правда привидение… Круто! Сугой! — как истинная любительница аниме восхитилась Айко.

— Эй, полегче! Нельзя просто проткнуть кого-то битой и оправдаться тем, что это круто!

— С ума сойти, ты говоришь, как настоящий Хироси-кун! — заметила Айко.

— Ты о чем? Я и есть Хироси Икс, герой, спасающий твой день любовью и музыкой! — принял дурашливую фирменную позу Хироси, изобразив персонажа японских комиксов — манга.

— Я помню, я пообещала тебе узнать правду, — Айко кивнула. — Но и ты, призрак Хироси-куна, помоги мне.

— Хорошо-хорошо, — привидение вело себя на удивление по-человечески естественно, — я дам тебе три подсказки — ведь так по правилам? Но ты должна задать правильные вопросы.

Хироси присел, заглянул Айко в глаза, поднял руку и показал три пальца. Как же он был красив, даже в облике сине-зеленого полупрозрачного привидения! Айко покраснела и отвела взгляд.

— Я прочитала все отчеты по твоему делу, но все равно хочу услышать, что же именно случилось в гримерке. Расскажи сам.

— Ты только что чуть не потеряла один из трех вопросов. Все, что я могу рассказать, легко перепроверить — надо просто сравнить показания свидетелей. Как я и заявлял, в гримерке не было камер видеонаблюдения, так что видеозаписи нет. Перед выходом на сцену всегда происходит одно и то же, всегда хаос. Подготовка к выходу на сцену — это всегда довольно хаотичная рутина. Я одеваюсь, мне помогают стилисты и гримеры. Затем я отдыхаю, настраиваю гитару, вместе с директором просматриваю сет-лист, уточняю программу. Агент Ми-чан со мной все время, она никуда не отходит. Я остаюсь один только на три минуты перед выходом на сцену, мне надо помедитировать.

— То есть ты был один в комнате, куда никто не мог войти и из которой никто не мог выйти? — переспросила Айко.

— Будем считать это бонусным вопросом на халяву, — привидение пребывало в хорошем настроении. — Да, я был там один. И сразу скажу: дверь там тоже одна, других входов-выходов нет.

Айко задумалась. Собралась задать следующий вопрос, но призрак уже таял в воздухе.

— Эй, куда ты? А можно мне…

— Мой первый визит, вернее мое явление, закончено. Ганбатте, удачи тебе, Айко-сан! У тебя все обязательно получится!

Разочарованная и голодная Айко осталась посреди кухни в луже пролитого молока. Жутковатый свет и холод исчезли, как не было. Она захлопнула дверцу холодильника.

— А я как раз собиралась спросить… Можно ли мне… тебя обнять?

— Что?! К тебе являлся призрак Хироси Икса? — Ноноко широко распахнула глаза и захлопала блестящими серебряными ресницами. — Да ты гонишь!

Подружки любили выпить послеобеденного чаю в Doux Moi. Им нравился фирменный сервиз для дневного чаепития во французском стиле, но главной достопримечательностью заведения была Инес Судзуки, популярная франко-японская актриса. Ее поклонники заходили в кафе при первой возможности, надеясь увидеть одного из многочисленных знаменитых друзей кинодивы.

Ноноко была в Doux Moi VIP-персоной и с удовольствием пользовалась привилегией не стоять в очереди. Эксперты по набору и привлечению фанатов — профессиональные организаторы вроде Ноноко — вели каналы в соцсетях, и число их подписчиков часто переваливало за миллионы. Каждый раз, когда кто-нибудь из селебрити желал повысить свой уровень узнаваемости — выходил новый клип, предстояло выступление на развлекательном шоу, начиналась рекламная кампания очередного бренда или намечалось мероприятие с ее собственным, звезды, участием, — менеджеры и агентства обращались к профессиональным организаторам. Эти спецы маскировались под обычных фанов, только с хорошими связями, и обеспечивали клиентам необходимое.

Организаторы фанатов чем-то походили на офицеров, ведущих в бой войска, — армии верных «солдат» с удовольствием тратили деньги на все связанное с их кумирами и публиковали восторженные посты. Опытная, харизматичная, подкованная в бизнесе Ноноко считалась одной из лучших. Билеты на концерты, пропуска на специальные встречи; товары, выпущенные ограниченным тиражом, и, конечно же, VIP-привилегии в Doux Moi… Агенты из кожи вон лезли, чтобы заручиться ее поддержкой для своих подопечных.

Ноноко гордилась: как только с ней заключали контракт на поддержку «фанатичности фанатов» какой-нибудь знаменитости, она тут же становилась «самой верной фанаткой». Кто не знал, никогда бы не догадался, что это все по работе. Даты музыкальных релизов, шоу награждений, живущие десятилетиями сплетни и слухи… Ноноко собирала и отфильтровывала мельчайшие подробности карьеры звезды.

Она действовала, словно компьютер, а благодаря незаурядной памяти и исключительному владению специфической лексикой фанатского интернет-сообщества она без труда завоевывала доверие других фанов. При этом девушка могла за считаные секунды переключиться и стать не менее верной поклонницей звезды-конкурента. За это в фанатском сообществе ее прозвали «Ноноко-хамелеон».

С Айко они крепко дружили уже лет десять, и Ноноко изо всех сил старалась уважительно относиться к преданности Айко одной и той же поп-звезде, Хироси Иксу.

— Хватит жевать! Мне нужна твоя помощь, — вздохнула Айко.

— Дай доесть, пирожное вкусное! Я знаю, чего ты хочешь. Я должна стать твоим Шерлоком Холмсом? Да, это загадка так загадка. Но как ее разрешить с такими жалкими подсказками?

— Я нашла, что единственный способ опять вызвать привидение — произнести ключевое слово.

— Раз так… — Ноноко наконец доела и аккуратно убрала салфеткой капельку крема из уголка рта. — Говоришь, перед его появлением ты упоминала рамен? Хироси-кун был фанатом кулинарных шоу. Возможно, ключевое слово связано с едой…

— Хорошо, вдруг я и правда смогу его вызвать. И что спросить? Не хочу потерять еще один вопрос.

— Надо подумать… — протянула Ноноко. — Спрашивать о том, что можно узнать или вычислить самостоятельно, смысла нет. Ты внимательно смотрела материалы дела? Может, спросить о врагах? Ему кто-нибудь когда-нибудь угрожал? Детективы всегда в первую очередь рассматривают возможные мотивы.

— Точно! — согласилась Айко. — Надо выяснить отношения Хироси-куна со всеми, кто был вхож в гримерку.

— Но вообще-то, на самом деле, я пытаюсь сказать, что нам пора объединиться, — улыбнулась Ноноко. — Хироси давно умер, его время закончилось. Выбери себе нового кумира, следи за трендами. Тут как в супермаркете — зачем покупать одно и то же, если каждый день можно пробовать новое?

— Ты меня никогда не поймешь… Хироси-кун особенный… Он меня спас.

— Да помню я эту трагическую историю, не заводи свою шарманку. Так, мне надо бежать, у меня «Шоу суперталантов». Но если что — я с тобой. Пока, подруга!

И Ноноко растворилась среди тусовавшихся на улице фанатов.

Айко покачала головой. Она привыкла, что ее бросают. С детства она вечно чувствовала себя лишней. Родители развелись и спихнули дочь бабушке и дедушке. В школе, после прослушивания на концерты и мюзиклы, ее всегда определяли в дублеры. Среди друзей, подруг, у знакомых парней — они все заводили романы, но только не с ней! — она вечно была вторым номером. Если годами беспросветно ощущать неуверенность в себе, то начнется депрессия — так и случилось. Кульминацией стала попытка покончить с собой, к счастью, неудачная.

Именно тогда, оставаясь крайне подавленной, Айко впервые услышала песню «Сияющее чудо».

«Иногда ты чувствуешь, что надежда никогда не придет, / Но будь сильным и продолжай идти дальше, / До самого конца, вчера, сегодня и завтра, / Помни, что ты особенный, как какое-то сияющее чудо», — пел Хироси.

Песня стрелой вошла в сердце Айко, душа отозвалась на голос Хироси мощным резонансом. Тучи над головой разом разошлись, и девушка ощутила тепло, увидела, как ярко светит солнце. Хироси был кумиром, айдолом Айко все ее сложные подростковые годы. И только благодаря ему она не чувствовала себя одинокой.

Хироси стал ее лучшим другом, наставником, защитником. Она, конечно, была готова за это платить, причем буквально — ее жилье было завалено мерчем, товарами бренда «Хироси» с соответствующей символикой. Большая часть из них не имела никакого практического применения и смысла, но Айко это не волновало.

С того дня, как она впервые услышала его песню, девушка провела множество часов в онлайн-архивах — старалась найти что только возможно о своем спасителе. Много лет назад Хироси передал права на все свои материалы — песни, видео, фотографии, рабочие записи — хай-тек-компании Viberz. Она оцифровала и проиндексировала все связанное с музыкантом, сделала материалы официально доступными для других развлекательных проектов.

Однажды Viberz выбрала Айко для участия в бета-тестировании нового проекта «Хисториз» — и все исключительно благодаря ее фанатскому рвению. Как объяснил представитель компании, проект позволит ей по-новому увидеть ее кумира. Айко предложили ответить более чем на триста вопросов о Хироси Иксе и запросили разрешение на использование персональных данных. Чрезвычайно заинтригованная и польщенная, она охотно его дала.

Через несколько недель ее вместе с другими участницами бета-тестирования пригласили в XR-комнату Viberz на спиритический сеанс. Все девушки были суперфанатками Хироси, поэтому и попали в секретный проект.

В тренажерке Айко натянула соматосенсорный костюм и запрыгнула на велотренажер. В контактных XR-линзах замелькали любимые пейзажи: прибрежная трасса SR 1 в Калифорнии, норвежская атлантическая дорога Атлантерхавсвейен, горный маршрут Гранд-Альп во Франции. В каждой новой «местности» тонкий, как вторая кожа, костюм создавал новые ощущения — Айко чувствовала то морской бриз, то летний зной, а иногда и выбоины на асфальте. Костюм отслеживал физиологические показатели и посадку Айко на байке и немедленно выдавал ей персональные рекомендации.

На этих тренировках Айко ощущала себя не в тесноте качалки, а над всем земным шаром разом — ощущение парения, свободного полета было невероятно приятным. Именно возможность попробовать на вкус что-то непривычное и заставила Айко вспомнить слова Хироси-куна на каком-то ток-шоу: куда бы он ни отправился, поделился тогда музыкант, ему всегда хочется китайской еды. Тарелка жареных пельменей способна мгновенно вернуть ему ощущение домашнего уюта.

В воспоминания крутящей педали Айко ворвался чей-то голос:

— Эх, Айко-сан, если бы ты только знала, как я тоскую по жареным пельменям!

Призрак Хироси Икса снова был рядом, а XR-пейзаж исчез. Привидение висело в воздухе, фигура в гламурном сценическом костюме просвечивала — сквозь нее виднелась стена напротив.

— Хироси-кун! — Айко обрадовалась, но сказала другое. — Ты меня напугал. А не судьба предупреждать заранее, или надо выскакивать, как черт из табакерки?

— Разве это будет так же весело? — подмигнув, парировал Хироси.

В тренажерку вошел среднего роста худощавый паренек в XR-очках и с полотенцем на плече. Прической он походил на фасонно подстриженную французскую болонку или на сахарную вату — с той разницей, что ни одна ни другая не бывают шоколадного цвета. В незнакомце было что-то неуловимо притягательное. Парень, похоже, ровесник Айко, занял соседний тренажер и быстро-быстро завращал педали.

Хироси никуда не делся.

— Айко-сан, как ты так можешь? — спросил он жеманно и капризно надул губы — изобразил ревность. — Сама говорила, что я — твоя единственная любовь, а сама смотришь на другого!

— А? Ты что-то сказала? — парень повернулся к Айко. И продолжил, не получив ответа: — Хватит на меня пялиться! Перестань, мешаешь!

Айко покраснела, замахала руками — она и не думала тревожить незнакомца:

— Прости, я по привычке думала вслух!

— Тогда ладно, — пробормотал парень. И добавил — тоже вслух, но уже самому себе: «Странная какая-то». Он переключил очки в режим виртуальной реальности, и линзы тут же затянул непрозрачный серебряный слой.

Смущенная Айко слезла с велосипеда и бочком выскользнула из зала. В раздевалке она рухнула на скамейку. Но Хироси опять оказался рядом. Теперь он парил между рядами шкафчиков, хоть раздевалка и была женской.

— Айко-сан! Если тебе кто-то нравится, ты должна сказать ему об этом, — завело привидение. — Ты же знаешь, я всегда пел о том, что нужно открыто говорить о своих чувствах.

— Ну да, у тебя восемь сотен песен об этом.

— Не нагнетай, всего тридцать семь.

— А ты не уводи в сторону. Что там насчет следующей подсказки?

Подростком Айко грезила о дружбе с Хироси-куном. Как было бы замечательно разговаривать с ним каждый день! Но теперь, когда девушка повзрослела, а мечта неожиданно сбылась, все было совсем не так, как когда-то представлялось. Хироси оказался дружелюбным и очень доступным. Он не походил на небожителя, на снизошедшего до девчонки-фанатки селебрити-айдола. Говорил он точно так же, как когда-то в телешоу, но возникало ощущение, что болтаешь с другом детства или приятелем-соседом. Айко вдруг решила, что она действительно может лучше узнать Хироси и что ему можно доверять.

— Чуть не забыл, — вдруг посерьезнел призрак. — Задавай вопрос, Айко-сан.

Лицо Хироси стало торжественным, он, как полагается, приложил ладони одна к другой и поклонился, почему-то напомнив Айко джинна из бутылки. При этом вид привидения стал еще нелепее.

Айко кашлянула:

— Хироси-кун, какие у тебя были отношения с людьми, которые заходили в гримерку прямо перед твоей смертью? Ты когда-нибудь ссорился с кем-нибудь из них?

— Надо вспомнить, — призрак оперся подбородком на ладонь и сделал вид, будто глубоко задумался. Его полупрозрачное тело в ритм вдохам-выдохам то становилось чуть ярче, то тускнело.

— Все, кто имел доступ за кулисы, проработали со мной больше десяти лет. Они все были отличными профессионалами, но мы еще и дружили. Конечно, терки случаются и между друзьями. Стилист иногда предлагал костюмы, которые я считал дурацкими, а он настаивал; визажист, по-моему, заходил слишком далеко — делал из меня какого-то Дэвида Боуи, а мне это не нравилось. Иногда мы спорили, все злились и кричали, но я обычно уступал.

— Пока все вроде нормально для шоубиза, — по ходу рассказа Айко, согласно кивая, делала заметки в своем смартстриме.

— Та-а-ак… Заходили режиссер Наото и музыкальный директор Кэнъити[58]. Я подобрал их совсем молодыми, чуть ли не сразу после колледжа. Теперь они — корифеи, ведущие фигуры в своих областях. С ними тоже не все было гладко. Я узнал, что Наото принял несколько очень плохих финансовых решений. Все случилось много лет назад, он мне тогда же все компенсировал — просто ничего не сказал. А Кэнъити хотел уйти и писать свою музыку, но я уговорил его остаться. Его это, наверно, не совсем устроило; но я уже собирался заканчивать выступать, и он все равно стал бы скоро свободным. Вряд ли этот парень так озлобился, что решил меня убить.

— В шоубизе все непросто…

«Если ты верен другим, они будут верны тебе», — привидение пропело строку из песни Хироси.

— А что Ми-чан? — Айко вернула разговор в конструктивное русло. — Как она отреагировала на твое желание уйти со сцены? Она ведь была твоим агентом с самого начала, при ней ты стал звездой. Удивлюсь, если она обрадовалась новости.

— Да, Ми-чан была категорически против, — Хироси вздохнул. — Конечно, мы потратили больше десяти лет, трудились как каторжные и заслужили успех. Мой уход определенно был бы для нее серьезным ударом. Я старался объяснить ей логику своего решения; обещал, что дождусь истечения срока контракта, что компенсирую ее потери. Но она все равно здорово злилась — это каждый раз было написано на ее лице.

— А что если… — Айко распахнула глаза. — Что если это она убила тебя, потому что любовь переродилась в ненависть?

— Ну нет, Ми-чан не могла, она хороший человек, пусть бы ей очень-очень не нравилось мое решение. А потом, она вошла в гримерку, когда в ней уже было полно народа.

— Подожди-ка, мне надо еще раз глянуть на фотографии с места убийства, — у Айко возникла идея, которую требовалось срочно проверить.

— Мне пора, Айко-сан, не упусти своего счастья. Ганбатте! Удачи!

— Подожди! Я не закончила…

Но привидение уже исчезло, шагнув в ростовое зеркало на стене.

Одной из причин, по которой Айко могла позволить себе так много думать о смерти своего айдола Хироси, была недавняя потеря работы.

Айко была редактором в издательском холдинге Nanun-do Press. Однажды к ней подошел управляющий директор и, старательно подбирая слова, высказался в том смысле, что девушка не соответствует своей должности. Айко немедленно обиделась и не успела сдержаться: «Что, опять этот ваш искусственный интеллект? Он наконец научился отличать хороший сюжет от плохого? Вы же мечтаете сократить расходы и ищете предлог, чтобы избавиться от меня, да?!»

Вспомнив, как она тогда устроила сцену на глазах у всего многолюдного офиса, Айко содрогнулась.

Инструменты автоматической правки текстов действительно постепенно отнимали рабочие места у людей-редакторов, правда, пока в основном у тех, кто занимался небольшим по объему контентом: финансовыми и бизнес-новостями, спортивными сводками, хроникой повседневных дел политиков и чиновников. Айко работала книжным редактором, и они пока держались.

Издательский рынок меж тем неуклонно сокращался — появлялись новые, все более технически продвинутые виды развлечений, но самые упорные и профессиональные литературные редакторы продолжали трудиться. Невеликие финансовые возможности издательства не могли надежно защитить отрасль от алчных индустриальных титанов, но подлинная литература независимо от жанра тесно связана с человеческим творчеством, вкусом и критическим мышлением — просто по своей природе. До поры до времени книгоиздание считалось последним оплотом профессионализма и человеческого достоинства.

Все изменило появление модели Super GPT[59]. То, что следующий шаг будет шагом с обрыва, издательская индустрия осознала, уже оказавшись на краю. Проблема была не в простой замене людей-редакторов машинами — после появления модели Super GPT с ног на голову перевернулся сам механизм создания сюжетов и историй, рухнула вся суть и сущность беллетристики.

Айко приходилось редактировать истории, сгенерированные машиной. Для девушки все они имели одинаковый химический привкус. С первых строк становилось ясно: что-то не так. Подобные ощущения испытывает водитель, пересевший с привычной машины на электромобиль. Вроде все лучше, чем раньше, и даже бензином не воняет, вот только газануть по-настоящему не получается — ускорение выходит слишком плавным, пресным, не дает ни драйва, ни адреналина, ни привычного кайфа.

Подобные же ощущения вызывала у Айко литература, написанная искусственным интеллектом: в ней, идеальной по форме, все было слишком плавным и каким-то неестественно вылизанным. Каждая сюжетная линия, каждый персонаж точнехонько гарантированно поражали мишень — Айко-читателя. Каждую фразу ИИ-писатель стабильно клал в яблочко, в восприятие Айко-редактора — учитывал ее профессиональный вкус и полностью ему соответствовал. Безупречность, как ни странно, делала истории менее захватывающими — она отнимала у читателей необходимость осмысливать проблему и возможность изумляться.

С точки зрения Айко, именно наличие сюрпризов, внезапных открытий и читательских озарений отличало отличную историю от просто хорошей — добротной, но банальной.

После той публичной истерики старый босс и девушка совместно решили, что Айко и этому издательству больше не по пути. Однако возможности найти постоянное место, равнозначное только что потерянному, практически не было — и именно это оказалось проблемой. Рабочих мест, как и собственно работы, на всех профессиональных редакторов просто не хватало.

Тут-то и подоспело таинственное послание от Viberz. Ее выбрали бета-тестировщиком, по сути, подопытным кроликом для нового проекта, где необходим ее фанатский опыт. Обещали нечто «иммерсивное» — с погружением и эффектом присутствия. К этому моменту Айко уже разослала резюме по всем компаниям, о которых только сумела разузнать, но ни одна из них даже не откликнулась.

Предложение Viberz давало на некоторое время хоть какое-то занятие. К тому же оно обещало быть достаточно интересным. И Айко бросила всю скопившуюся за последние недели энергию на разгадку тайны смерти Хироси. Девушка изо всех сил делала вид, что ее ничуть не беспокоит стремительно худеющий без регулярного пополнения электронный кошелек.

Айко решила, что теперь главный подозреваемый — агент Ми-чан. Именно ее негатив по поводу ухода музыканта со сцены и станет зацепкой. По крайней мере, это был самый перспективный вариант из всех имеющихся.

Одним из главных страхов и главной сложностью для Айко всегда было личное общение с незнакомцами. Работа редактором требовала в основном контактов по электронной почте, поэтому девушка как могла старалась избегать неловких и странных социальных сценариев. Но беседа с агентом музыканта явно была задачей не из этого разряда. Айко запланировала видеозвонок, собралась с духом и арендовала на час частный куб.

Небольшие кабинки размером с татами и звукоизоляцией были популярны у служащих из соседних офисов — тут можно было и отдохнуть в тишине во время обеденного перерыва, и помедитировать, и поговорить по телефону или видеосвязи, не опасаясь чужих ушей.

— Большое спасибо, что нашли для меня время, Ми-чан, — почти промямлила Айко, когда агент приняла вызов. Прежде чем дрожащими пальцами набрать номер Ми-чан, она репетировала эту вступительную фразу двадцать шесть раз. С экрана на нее смотрела короткостриженая женщина с ярким макияжем.

— Так это ты — та самая фанатка-детектив? Как, говоришь, тебя зовут? — Ми-чан говорила твердо, уверенно и даже немного устрашающе. — Айко? Ну и дурацкое имечко!

— Да, это я, — душа Айко ушла в пятки еще в момент звонка, а теперь провалилась куда-то дальше. — Пожалуйста, можно я спрошу о Хироси?

— Я рассказала полиции все, что знала. Ладно, раз уж я здесь, спрашивай.

— Спасибо… Мне очень хотелось бы узнать, как вы отнеслись к тому, что Хироси намеревался завершить сценическую карьеру?

— Ну, об этом я могу рассказать, — лицо Ми-чан почему-то смягчилось. — Десять лет все сплетничают обо мне и Хироси, все считают, что я на нем паразитировала. Чушь это! Я могу быть требовательной, но больше всего мне хотелось помочь Хироси. Я бы никогда не сделала того, что причинило бы ему боль.

Айко не знала, что говорить дальше. Ми-чан видела ее насквозь и своим ответом на незаданный вопрос непринужденно и очень элегантно загасила огонь ее подозрений. К тому же агент, похоже, говорила искренне.

Пока Айко лихорадочно соображала, как удержать Ми-чан на связи, та сама прервала подзатянувшуюся паузу.

— Теперь ты ответь на вопрос, — девушка подобралась и сосредоточилась. — Какой ты фанат?

— В смысле? — Вопрос застал Айко врасплох — она ожидала чего угодно, но только не такого поворота.

— Я видела тысячи поклонников. Любовь к айдолам они проявляют по-разному. И с Хироси было так же. Некоторые обожали его относительно спокойно, были готовы поддержать, попроси он о помощи; некоторые тратили последние деньги на его альбомы и мерч. Другие развязывали в сети войну, стоило им заподозрить троллинг или малейшее непочтение к кумиру. Были девочки, которые заблудились в собственных фантазиях, они грезили о романтических отношениях, заполняя пустоту в личной жизни. Несколько фанаток даже попали в тюрьму за домогательства!

Тема, похоже, давно занимала Ми-чан, она говорила и говорила, а Айко внимательно слушала и не перебивала.

По мнению агента, в мире шоу-бизнеса есть всего два типа фанатов: одни относятся к айдолам как к небожителям, полубогам, другие понимают, что их кумиры — живые люди из плоти и крови. Первые воспринимают и принимают только совершенство — если айдол перестает оправдывать ожидания, любовь перерождается в ненависть. Тогда они бросают старого кумира ради нового или идут на крайности.

Вторые считают кумира равным себе — в том смысле, что и на Солнце имеются пятна. Они готовы переживать его взлеты и падения, меняться и расти вместе с ним. Такой фанат может ни разу не пересечься с кумиром лично, но быть прочно с ним связан духовно — звезда становится для фаната едва ли не самым близким другом, хотя и не подозревает о его существовании.

— Духовно?.. — эхом повторила Айко слова Ми-чан.

— Ну так как, Айко-сан, какой ты фанат?

— Не знаю…

— Думаю, если кто-то готов на многое даже после смерти звезды, он больше, чем просто потребитель творчества, — резюмировала Ми-чан с неожиданно теплой улыбкой.

— Может, вы и правы. Но я не уверена, что могу называть Хироси-куна близким другом.

— В дружбе имеет значение только одно — искренность.

— Спасибо на добром слове.

— Может, ты и правда сумеешь докопаться до причины смерти Хироси. Тут все не так просто, как кажется.

«До причины смерти?!»

— Мне больше нечего сказать. Ганбатте, Айко!

И Ми-чан отключилась. Айко отметила про себя, что она точно разговаривала с живым агентом своего айдола — Ми-чан совсем не была похожа на сгенерированный искусственным интеллектом образ. В потухшем экране куба отражалось лицо Айко — она заметила, что хмурит брови. Девушка обдумывала сказанное Ми-чан.

Слова агента развернули мысли Айко в совершенно новом направлении. Она решила пока не опрашивать людей и вернулась к изучению полицейского отчета. Но ей не давал покоя вопрос Ми-чан.

«А правда, какой я фанат? Я потребитель или… друг?»

Усилием воли Айко прогнала навязчивую мысль и сосредоточилась на уликах.

На первый взгляд казалось, что Хироси-кун утонул: посиневшие губы, бледное лицо, жидкость во рту и верхних дыхательных путях (так написано в протоколе патолого-анатомического вскрытия) — все было за то, что певец захлебнулся. Однако Айко до сих пор не могла заставить себя изучить протокол по-редакторски внимательно.

Теперь пора, поняла девушка. Она собралась с силами, открыла фототаблицы из материалов дела о смерти музыканта, сравнила их с фотографиями утопленников из интернета. «Найти десять отличий» удалось достаточно быстро — барабанные перепонки Хироси не кровоточили от давления воды, а его кожа не сморщилась, как бывает при долгом пребывании в воде.

Но самое главное, Айко прочитала это в протоколе вскрытия, — в легких не было жидкости. Чем дальше, тем девушка больше сомневалась, что Хироси утонул.

Но тогда почему же он умер?

Айко вошла в приложение проекта «Хисториз» (ведь именно как его участница она затеяла это расследование), внесла сделанное открытие в поле для ответов. Раздался щелчок — это (в награду за ее труд) стало доступным заключение из протокола вскрытия. Теперь можно было прочесть не только описание специфической процедуры, но выводы экспертов.

Жертва страдала от дыхательной недостаточности вследствие острого отравления, что привело к внезапному падению уровня сатурации, что и стало причиной смерти.

Отравление! Айко вскочила и прошлась по комнате.

Выходит, Хироси-куна кто-то отравил? Это многое меняет.

Айко соображала, что делать дальше. Если узнать, что это был за яд, и хорошенечко допросить в следующий раз Хироси-куна, можно было бы определить подозреваемых — это ведь явно кто-то, кто с ним контактировал. Потом надо будет проанализировать историю покупок подозреваемых (где-то же злодей приобрел отраву?!) и записи об их контактах — и тогда убийце точно не отвертеться.

Тайное станет явным! Айко сжала кулаки и даже чуть не расплакалась от волнения, но тут заметила еще один документ — протокол токсикологического анализа.

В нем говорилось: смерть Хироси наступила в результате комбинации двух веществ, одно из которых установить не удалось. Вторым оказался знакомый Айко антидепрессант «Анджеликс». Его называли «Улыбкой ангела» за то, как он менял настроение.

Выходит, Хироси-кун лечился от депрессии?

Ручеек вопросов мгновенно перерос в лавину. Айко хотела вызвать призрак Хироси и расспросить его о деталях, но решила пока не тратить последний вопрос — надо собрать побольше информации и, желательно, доказательств.

Девушка вытащила из ящиков все свои сокровища бренда «Хироси Икс»: шапочка для душа, ночная рубашка, тапочки, парусиновый рюкзак, бублик-подушка под шею… Ох, надеюсь, потраченные на это деньги окупятся, и я поймаю удачу за хвост, думала она, выуживая из образовавшейся кучи игрушку для кошек.

Айко встала на колени на татами, дважды поклонилась, дважды хлопнула в ладоши, снова поклонилась, а затем молитвенно сложила ладони. «Хироси-кун, пожалуйста, благослови меня, чтобы я узнала правду», — бормотала она.

В виртуальном поле зрения ее контактных XR-линз висели подсказки и материалы — как товары в путеводителе по магазинам; когда палец Айко указывал на что-то, выбранное начинало светиться. Девушка быстро перемещала иконки — сортировала, классифицировала, объединяла. Через некоторое время из полного хаоса возникло что-то вроде интеллектуальной карты.

Айко отодвинула в сторону ключевое слово «депрессия» и пометила «требует решения». Если Хироси-кун долгое время принимал «Анджеликс», то лекарство могло накопиться и вступить в реакцию с неизвестным веществом, когда оно попало в организм, а соединение могло оказаться ядовитым. В любом случае отравитель должен был отлично знать историю болезни Хироси, решила Айко.

Маловероятно, что неизвестное вещество попало в организм Хироси через кожу. ИИ-симулятор заключил, что при таком способе введения отраве потребовалось бы не менее двух часов, чтобы вступить в химическую реакцию. То есть контролировать время смерти оказалось бы практически невозможно. Значит, Хироси, как говорят медики, принял яд перорально — выпил или съел. Его действие в таком случае должно было начаться минут через десять — как раз в пятнадцатиминутный антракт.

Айко еще раз перепроверила показания свидетелей. Они в один голос твердили: Хироси во время антракта пил только воду. Анализ показал — вода чистая, без примесей.

Опять тупик. Айко взлохматила волосы.

Она открыла видео прощального концерта Хироси и быстро перемотала на несколько минут до антракта. Хироси Икс выглядит гламурно, как всегда на сцене. В лучах софитов он размахивает электрогитарой — это яростная кульминация песни, мощное соло музыканта.

Лоб блестит от пота. Хироси, зажав губами медиатор (это фирменный жест музыканта), низко кланяется залу. Сначала — всему целиком, потом — каждому из 48 тысяч присутствующих и еще раз — миллионам онлайн-зрителей. Свет на сцене начинает постепенно меркнуть, Хироси отступает вглубь сцены и скрывается за кулисами.

Никто не мог предположить: он только что ушел навсегда…

Айко вздрогнула. А ну-ка, еще раз — перемотка, воспроизведение, пауза, наезд. Вот оно — знаковый жест Хироси. Подсказка, да еще какая очевидная! Как же она, такая верная фанатка, могла это упустить?!

Айко вышла из магазина музыкальных инструментов Rainbow Six и побрела по токийскому району Сибуя, шумному и суетливому. Она знала здесь все, каждую мелочь, но чувствовала себя так, будто заблудилась.

Магазин Rainbow Six был эксклюзивным поставщиком медиаторов для Хироси. Последнюю партию ему отправили за месяц до гибели. Маленький медиатор легко потерять, и поэтому Хироси (как и многие музыканты) всегда носил в кармане несколько штук.

В день последнего концерта к медиаторам никто не прикасался. На том, который Айко увидела сейчас на записи, не обнаружили никакой химии. Ее стройная версия рухнула.

Подсказки, которые находила Айко, были похожи на бусы — они держались вместе только благодаря нити, единой логической цепочке. Стоило нити порваться, и бусины-подсказки рассыпались, падали на землю — подпрыгивая, раскатывались во все стороны, а некоторые вообще терялись. Собрать их не получалось.

Отчаяние придавило Айко — и стало даже трудно идти. Может, пора сдаться? Мысли двинулись по спирали, девушка вспомнила песню «Сияющее чудо». Песня спасала ее каждый раз, когда казалось, что жизнь рушится, — похоже, у Айко выработался какой-то условный рефлекс. А ну, «не используй судьбу, как оправданье своих неудач».

Ну конечно, можно ведь вызвать Хироси — у нее еще есть третий, последний вопрос.

Айко стала вслух перечислять любимые блюда кумира (она знала их все), но призрак не появлялся. «Ради бога, мог ли Хироси умереть из-за отравленного медиатора?!» — все пешеходы обернулись на крик странной девушки.

Айко смутилась и была готова провалиться сквозь землю — не ожидала, что выйдет так громко. Зато буквально через пару секунд посреди самой оживленной улицы Токио возник сине-зеленый полупрозрачный силуэт.

— Поверить не могу, что Айко-сан зашла так далеко, — привидение парило в воздухе, сквозь него легко читались подсвеченные билборды. — Это настоящий сюрприз.

— Значит, ключевым было слово «медиатор»? Но почему же…

— Стоп! Хорошенько подумай, прежде чем задать последний вопрос. Это твой последний шанс. И не забывай, что нельзя спрашивать, кто убийца; это против правил, — Хироси-призрак прижал палец к губам, сразу став серьезным.

— Да-да, — задумалась Айко.

Но что же спросить? Возможно, она что-то упустила, и в расследовании есть мертвая зона? Сознание металось, возвращалось к недавней интеллектуальной карте подсказок — к иконкам, мерцавшим в поле ее виртуального зрения.

И тут промелькнула ее собственная пометка «требует решения».

Айко рискнула:

— Хироси-кун, почему ты принимал антидепрессанты?

Призрак на секунду оцепенел, будто в программе произошел сбой. Айко даже забеспокоилась, что своим вопросом преждевременно прекратила игру.

Прошло с полминуты, Хироси зашевелился. Но личность его, кажется, переродилась. Беззаботная шутовская аура исчезла, как не было. Ее заместила черная меланхолия.

— Я ждал, что ты задашь этот вопрос, Айко-сан. Кажется, тебе и правда не наплевать. Ты действительно заботишься обо мне — о человеке, а не только о маске, которую я надел для всего мира. Люди говорят, главное достояние любого айдола — привлекательность, харизматичность, безупречность его персоны, — Хироси-кун был серьезен как никогда. — Но имидж, — продолжал он, — вплоть до малейшего аспекта и каждой детали создается командой людей на основе пользовательских исследований. Это, в сущности, продукт. Реального человека, стоящего за этой персоной, за ненадобностью просто выбрасывают. Можно выглядеть на зависть гламурно и очаровательно, но в любой момент тебя могут разорвать, уничтожить и выкинуть на помойку.

— Это неправда, Хироси-кун, мне нравишься ты, настоящий ты! — выпалила девушка.

— Ой ли, Айко-сан? Вот скажи, ты любила бы меня, если бы я оказался совершенно не похож на Хироси Икса, которого показывают по телевизору? Я смертельно устал от этой бесконечной ролевой игры, из-за нее я презираю себя. Я хотел уйти, но выхода не было…

— Кто тебе мешал? Ми-чан? Спонсоры? Эти мерзкие жадные капиталисты…

Хироси Икс истерически заржал, да так, будто Айко сказала невероятную, безумную нелепость.

— Хироси-кун, не пугай меня!

— Да это же все случилось из-за тебя!

— Как это?!

— Ну, не из-за тебя лично — из-за вас, фанатов, которые всегда утверждали, что будут любить и поддерживать меня до конца. Как только я объявил, что ухожу со сцены, посыпались угрозы. Ладно бы они обещали убить меня — они собирались покончить с собой!

Айко в шоке зажала рот ладонью.

— И я решил, что самоубийство — единственный способ искупить вину, избавиться заодно от чувства стыда и перестать быть обузой для других людей. Разве это не абсурд? Дети присылали мне свою кровь, волосы и фотографии членовредительства, посвященного мне… Они что, действительно любили меня, как утверждали?

— Хироси-кун…

— Смерть была для меня единственным выходом, — не дал ей слова Хироси-призрак. Его голос был тверд. Он решительно вскинул голову — вокруг полупрозрачной фигуры появилась еще и нежная радужная аура. — В памяти у фанатов должен был сохраниться последний и лучший момент моей жизни — я на сцене, яркий, красивый, харизматичный. Только таким способом эти люди дали бы мне возможность уйти.

— Хироси-кун! — по щекам Айко бежали ручейки слез.

— Спасибо тебе, Айко-сан. Спасибо за все, что ты для меня сделала. И все же…

— Что «все же»?

— Айко, разве ты не одна из них?

Хироси, грустно улыбаясь, пристально смотрел в глаза мертвенно побледневшей девушки. Уличный шум вдруг стал не слышен.

Дома опустошенная Айко снова отправилась в до мелочей изученную гримерку. Это уже не было место преступления — только место трагедии. За последние дни девушка много раз осмотрела здесь каждый сантиметр, стараясь не упустить ни одной возможной подсказки. Все зря.

Теперь это не имело никакого значения.

Она неизвестно уже который раз с двойной скоростью запустила в виртуальном поле своих контактных XR-линз запись последних минут жизни и момента смерти Хироси.

Музыкант вошел в гримерку весь потный, его плотным кольцом окружала команда. Гример обмахнул лицо кисточкой — припудрил; стилист поправил сбившиеся аксессуары; музыкальный директор обновил сет-лист, оставил только намеченные на второе отделение композиции. Все радостно щебетали — концерт определенно удался — и на автомате делали всё, что положено во время антракта. Каждый был занят своим делом.

Хироси, уже получивший всю необходимую долю внимания и освободившийся от опеки персонала до следующего выхода на сцену, зажал губами медиатор, подтянул струны на гитаре, настроил синтезатор. Ми-чан, как настоящий телохранитель, не отходила дальше вытянутой руки, но не могла все время следить за музыкантом.

А потом Хироси, повелитель и владыка, как всегда, жестом всех выпроводил. Все потянулись к выходу, никто не заметил разлившейся по щекам главного человека жуткой бледности. Хироси едва успел запереть дверь, как осел на пол.

Он еще смог подняться на четвереньки и закрыть глаза. Тело била крупная дрожь, лицо из бледного стало багровым. Зрачки расширились. Хироси хватал воздух широко раскрытым ртом — казалось, он пытается что-то сказать, но ему не хватает дыхания. Под руку попалась бутылка с водой — музыкант схватил ее, сделал большой глоток, но поперхнулся и сильно закашлялся. Вода вытекла изо рта.

Из последних сил Хироси пополз к двери, но тело свело судорогами. Скрючились и пальцы рук, он рухнул на пол и через пару секунд затих.

Очень скоро в дверь постучали. Сначала тихонько, потом громче, потом забарабанили — руками и, похоже, ногами тоже.

— Вот так все и было, — тихо проговорила Айко.

— Но вы до сих пор не объяснили, почему на медиаторе, который нашли в кармане Хироси, не оказалось следов отравы, — в XR-наушниках возник незнакомый голос. Это был ИИ-гейм-мастер из «Хисториз».

— Нужно отмотать видео и посмотреть, что произошло в конце первого отделения, когда Хироси еще стоял на сцене, — Айко знала ответ. — Я не сразу догадалась.

Девушка правой рукой описала в воздухе круг против часовой стрелки — перевела время назад. Запись пошла от конца к началу. Вот Хироси открыл глаза, вода с пола сама собой приподнялась, а потом хлынула ему в рот. Музыкант подошел к двери и отпер ее. Все сотрудники спиной вперед вошли в гримерку и каждый занялся своим делом.

Перед глазами Айко прокручивался эпизод из какого-то фильма-карикатуры. Вот Хироси со свитой по коридору вернулся на сцену, и девушка остановила этот ужас: махнула рукой — кадр замер.

— Я могла бы смотреть это вечно, — Айко замерла, любуясь своим кумиром, живым, здоровым, энергичным, танцующим на сцене под ослепительными софитами.

— Хватит, стоп.

— Теперь смотрите внимательно на правую руку, — девушка разговаривала с гейм-мастером. — Я замедлю.

Хироси извлек из гитары последний звук, поднял над головой правую руку — в пальцах зажат медиатор. Свет погас — рука пошла вниз, на долю секунды скрылась за корпусом гитары.

— Повернуть изображение на девяносто градусов против часовой стрелки, — скомандовала Айко.

Теперь девушка вместе с гейм-мастером видела Хироси с другого ракурса — справа. И гитара не загораживала его руку. Хироси, думая, что никто не видит, сунул медиатор в карман джинсов, а из маленького кармашка для монет вынул другой, точно такой же. Захватил пальцами, поднял руку и элегантно зажал медиатор губами — подарил зрителям свою фирменную улыбку.

«Он принял яд еще на сцене, до того, как пошел в гримерку. А отравленный медиатор, видимо, выбросил где-то по пути. По временным меткам яд подействовал ровно через двенадцать минут».

Хироси вдруг исчез из XR-пространства. А Айко обнаружила, что стоит в центре сцены огромного концертного зала. Ее ослепил луч софита, и она инстинктивно заслонилась рукой. Зал взорвался овацией.

Это… мне, что ли?

— Потрясающе, гениально! Поздравляю, Айко-сан! Вы нашли правду! Вы — наш главный фанат-детектив! — гейм-мастер низко поклонился, и его фигура начала растворяться во мраке. Голос при этом как будто остался на месте и даже не стал тише. — Дальше — церемония закрытия игры. Никуда не уходите, это важная часть сюжетной линии!

У Айко было некоторое смутное подозрение относительно дальнейшего, но она все равно затаила дыхание.

Перед девушкой возник призрак Хироси Икса, негромко зазвучала песня «Сияющее чудо» — знакомая мелодия обволакивала, словно теплая вода нежного прибоя.

— Спасибо тебе, Айко-сан, за спасение моей потерянной души, — заговорил, чуть заглушая музыку, Хироси-кун. — Обожание фанатов душило меня, но твоя любовь меня спасла. Теперь я могу отправиться на поиск небесного света. Прощай, Айко-сан! Ганбатте! Будь счастлива!

— Мне жаль, Хироси-кун, мне так жаль…

Айко раскинула руки, бросилась к музыканту — она совсем забыла, что это бестелесный фантом. Руки сомкнулись — между ними была пустота. Светящийся призрак Хироси Икса медленно поднимался, постепенно таял, растворялся в вышине, и до последней секунды на лице Хироси играла фирменная звездная улыбка.

Айко опять осталась на сцене одна. Прямо перед ней в воздухе повисли две блестящие коробки. Одна розовая, как цветок сакуры, вторая — голубая, как яйцо певчего дрозда.

— Вы победили в нашей игре и можете выбрать награду, — невидимый ИИ-гейм-мастер невозмутимо следовал сценарию: шоу должно продолжаться. — Розовую коробку специально для вас подготовила компания Viberz, в ней находится умная кукла Хироси Икс, на 99,99 процента — копия настоящего певца. Под копией я подразумеваю личность, голос, внешний вид… Отличить такую ИИ-куклу от ее прообраза-человека практически невозможно. Она целый месяц будет в вашем полном распоряжении!

Айко, чьи глаза все еще щипало от слез, подняла голову и с подозрением глянула на коробку. А гейм-мастер продолжал:

— Выбор голубой коробки даст вам возможность посетить кафе с Хироси Иксом! С настоящим Хироси Иксом. Это уникальная возможность!

«Ну же, Айко-сан, выбирай», — сказала себе девушка.

Коробки колыхались и переливались в свете опять вспыхнувших софитов — подманивали. Айко вдруг подумала, что они похожи на наживку — и ей, рыбе, остается только клюнуть.

— И что ты выбрала?! Ну же, ну что?! Ну не молчи же!!! Я хочу знать все подробности! Рассказывай немедленно! — Ноноко вопила и от возбуждения была готова «поторопить» подругу куском французского торта — даже прицелилась ей в лицо.

— Ноноко, угомонись, ты в респектабельном заведении, мы в Doux Moi!

Ноноко чуть сбавила обороты.

— Я бы выбрала куклу. Целый месяц с айдолом! Можно успеть столько всякого…

— Да, жаль, что ты не я.

— Так ты что, была с ним в кафе? А он правда так хорош? Он ведь уже старикан? И что, он все еще ничего? Ну расскажи, интересно ведь!

Айко улыбалась.

Организаторы заказали столик на полдень. Девушка пришла заранее и очень нервничала. Время тянулось. Чувства обострились необычайно.

Легкий ветерок; официант спрашивает, что ей подать; где-то тявкает собака; за барной стойкой жужжит и журчит кофемашина… Любой звук, даже самый тихий, даже доносившийся с улицы, заставлял ее нервно подскакивать. В какой-то момент она подумала, а не сбежать ли?

Ну зачем, зачем я выбрала голубую коробку? Это же иррационально! Но разве так сильно любить кого-то, кто бесконечно далек, — не иррационально с самого начала?

В реальность ее вернул тихий голос.

— Айко-сан?

— Д-да! — заикаясь, ответила девушка. Она в ужасе опустила голову, не в силах даже посмотреть на мужчину, который между тем уселся напротив нее.

— Очень рад. Я Хироси.

Айко натянула на лицо улыбку. Так вот он какой, ее кумир.

Перед ней сидел человек средних лет и среднего же телосложения. Бейсболка надвинута на лоб. Лицо без морщин, но следы, оставленные временем, как и усталое выражение, выдавали возраст. На верхней губе щетина. Скулы стали шире. И в глазах его уже не было горделивого сияния молодости; в них была мягкость и хладнокровие мужчины среднего возраста.

Да, это, без сомнения, Хироси Икс. Только он почти на полтора десятилетия старше того, который когда-то ушел со сцены — суперзвезда и кумир миллионов.

— Ну что, похож? Думаю, я сейчас выгляжу немного старше, чем вы меня запомнили. Ну так сколько лет прошло… — Хироси улыбнулся, он подтрунивал над самими собой.

— Нет-нет, совсем нет. Вы такой… красивый! — Айко отвела глаза — она была слишком застенчива, чтобы встретиться с айдолом взглядом.

— Да не нервничайте вы так, я же обычный парень.

— Оке-ей, — пролепетала Айко.

Официант принес две чашки кофе и тарелку печенья.

Хироси откусил кусочек и восхитился:

— Ух ты! А печенье тут совершенно такое же!

— Это то самое «хрустящее масляное печенье», которое вы распробовали в 1278-й серии Охоты за уличной едой, да, Хироси-кун?

— Ого! Польщен! Айко-сан, вы действительно фанат, вернейший из вернейших. Уверен, именно поэтому компания выбрала вас одним из бета-тестировщиков.

— Да, — согласилась Айко, занялась кофе и печеньем и наконец расслабилась.

— И как вам наша игра с глубоким погружением?

Айко поставила чашку, задумалась, глубоко вздохнула.

— Никогда не переживала ничего подобного. Понимала, что все это не по-настоящему, но привидение — прям как человек: и говорило, и жестикулировало. В общем, очень достоверно — я даже стала забываться. А потом и вовсе погрузилась в игру, и все сомнения улетучились.

— То есть вам понравилось? Вы оцениваете игру очень высоко? Приятно слышать.

— Можно вопрос? В этой игре все сгенерировал искусственный интеллект?

— Что вы имеете в виду?

— Я профессиональный редактор, — начала издалека Айко. — По крайней мере, была редактором до недавнего времени, и я знаю, как сложно написать хорошую историю. Рассказчику необходимо увязать содержание с формой, вызвать у читателя эмоциональный отклик. Это невероятно трудно даже для человека. В игре ключом к разгадке было вовсе не преступление, а взаимосвязь между правдой и эмоциями участника. Когда Хироси-кун — извините, я имею в виду ваш аватар — спросил: «Разве ты не одна из них?» — я чуть не расплакалась по-настоящему. Разве искусственный интеллект, пусть даже самый развитый, смог бы самостоятельно найти такой поворот сюжета?

Хироси кивнул — хороший вопрос — и приступил к объяснениям.

— Помните анкету, которую вы заполнили перед вступлением в игру? Ваши ответы помогли искусственному интеллекту построить профиль вашей личности.

Так ответы Айко на вопросы представителя компании снабдили ИИ информацией о том, какого типа историю она предпочитает, и позволили спрогнозировать ее реакцию. Искусственный интеллект узнал о прошлых психоэмоциональных травмах девушки — можно сказать, в какой-то степени он изучил ее лучше, чем она сама себя.

— Но, должен признать, вы задали очень хороший вопрос — эту историю вам действительно рассказывал не один искусственный интеллект. Ему помогал писатель-человек.

Глаза Айко загорелись.

— А можно с ним познакомиться? Я хотела сказать, он гений!

— Можно. А вы, кстати, с ним уже знакомы, — Хироси сдвинул бейсболку на затылок и чуть приоткрыл лицо. Глаза его смеялись — он был доволен. Айдол зажал губами печенье, как когда-то медиатор, улыбнулся своей фирменной улыбкой — он точно был рок-звездой, ну и что, что много лет назад!

— Хироси-кун!.. — обмерла Айко.

— Компания показывала мне профили пользователей, а я, исходя из решения искусственного интеллекта, для каждого выбирал наиболее интересную и подходящую сюжетную линию. Понимаете, Айко, я ведь тоже фанат — фанат детективных романов! Я участвовал в разработке ключевых моментов сюжета. В самом начале мне пришлось сжульничать, чтобы ввести вас в заблуждение — это не под силу никакому искусственному интеллекту, ответственно заявляю.

У Айко от изумления буквально приоткрылся рот:

— Немного сжульничать?!

— Ага, — Хироси бросил в рот очередное печенье и допил остатки остывшего кофе. — Помните первую речь духа Хироси через медиума во время спиритического сеанса? Помните фразу «я не хочу умирать»? Вы могли интерпретировать ее двояко: и как «я хотел жить, но меня убили», и как «я не желаю расстаться с жизнью, но у меня нет выбора». Все участницы решили, что меня убили, и, следовательно, даже не рассматривали возможность самоубийства. Но это был отвлекающий маневр, а вы не дали себя провести! Айко-сан, дедуктивный метод — это ваш конек!

— Это все благодаря детективам, которых я прочитала на работе тысячи, — ответила Айко, ее щеки покраснели от удовольствия. — Но у меня есть еще один вопрос, и я ломаю над ним голову уже не первый год. Хироси-кун, а почему вы так внезапно тогда исчезли? И, кстати, почему решили вернуться сейчас — и именно таким способом?

— Чтобы ответить, надо рассказать еще одну историю. Она началась почти двадцать лет назад.

И Хироси начал рассказ.

Хироси Икс из игры был одновременно виртуальным и реальным.

Два десятка лет назад, будучи на пике славы, айдол-музыкант смертельно устал от необходимости поддерживать тщательно продуманный и составленный специалистами имидж. Но этого ждали и жаждали фанаты. Однажды айдол решил предстать перед публикой настоящим — таким, каков он есть на самом деле.

Однако рынок не поддержал решения музыканта. Продажи записей и мерча резко упали. Пошла негативная пресса, спонсоры один за другим начали отказывать в деньгах. Но добили не ожидавшего такого краха Хироси не финансовые потери, а реакция поклонников.

Самые ярые и заметные (многих из которых он запомнил в лицо или даже по именам) наотрез отказались мириться с отказом Хироси Икса от сценического образа. Они решили, что их айдолом манипулируют или что накосячили его советники и консультанты, — и вступили с ними в жестокую схватку на всевозможных онлайн-форумах.

Вскоре эти споры стали настолько громкими, что на развлекательных сайтах и в ток-шоу больше ничего и не обсуждали. Раздались голоса, что любой кумир ответствен за поведение своих фанатов. Хироси Икс оказался в центре воронки этого торнадо. Получалось, что он — главный виновник пустоты и легковесности, характерной для индустрии развлечений, да что там — это лично он плохо повлиял на все молодое поколение. И никому не пришло в голову — а может, он наоборот наконец-то поступил правильно?

Хироси довольно долго жил под микроскопом, а заодно и под прессом, и это не могло не вызвать последствий. У музыканта началась депрессия, однажды он решил, что вернуть фанатов и нейтрализовать враждебные орды диванных критиков можно только одним способом — исчезнуть.

И Хироси исчез — совсем перестал показываться на публике, постепенно сплетни и слухи затихли, а потом и вовсе сошли на нет. Со временем музыканта забыли почти совсем. На сцену пришли новые молодые дарования, у них появились собственные армии фанатов.

Депрессия прошла, Хироси сменил имя и наконец-то получил возможность быть самим собой. Он вернулся к учебе и нашел себе нового друга — парня с Тайе, будущего соучредителя и технического директора компании Viberz.

Тайе был типичным айтишником — он свято верил в мощь технического прогресса. Он обожал компьютерные игры и мечтал однажды придумать такую, которая могла бы позитивно влиять на реальный мир. Однажды вечером в баре Хироси изрядно набрался и признался Тайе, кем был в прошлой жизни, а заодно высказался о нездоровой динамике взаимоотношений между фанатами и кумирами. Откровения друга явились для Тайе полной неожиданностью.

— По-твоему, фанаты захватили власть, чтобы контролировать своих кумиров? Да ну нет. Фанаты одержимы кумирами, потому что не могут рассказать свои собственные истории. У фанатов нет ничего, кроме айдола, персоны, которая состоит из того, что придумали и скормили им менеджеры и медиа и на которую они могут проецировать эмоции. И когда фанатам показывают, что их кумир — фейк, пустышка, ничтожество, их мечта разлетается в прах. Они понимают: их обманули, предали, публично дали пощечину.

Хироси пришлось признать: Тайе прав. Но предложение айтишника показалось чересчур простым: разработать игру с участием ИИ, чтобы каждый участник создавал своего, четко персонализированного айдола и самостоятельно решал, как бы он хотел с ним взаимодействовать.

— Думаю, ты недопонимаешь, что такое кумир. Он появляется, когда вокруг него формируется группа людей и создается коллективный ритуал поклонения, — втолковывал Тайе бывшему айдолу. — Твоя игра не сможет создать кумира. Сейчас море игр, где геймеры создают собственных персонажей.

Однако зерно упало на благодатную почву — Тайе загорелся. Парни обсуждали свою бизнес-идею на протяжении всей совместной учебы. Решили попробовать создать виртуальных кумиров на основе реальных айдолов, применив цифровые технологии и ИИ-алгоритмы, и персонифицировать их с учетом потребностей каждого фаната. Тайе даже подумывал о создании персонализированной интерактивной игры — не сейчас, когда-нибудь в далеком будущем.

Первым делом надо было найти звезду-айдола, готового подхватить революционную идею и принять участие в эксперименте. Хироси хорошо знал индустрию развлечений — всех причастных к ней интересовали только деньги, причем именно краткосрочная выгода. Человека с широким видением, который разглядит будущее в радикальной идее и пожелает ее поддержать, в этой области точно не было.

Осенило Тайе:

— У нас есть кандидат, — однажды объявил он, глядя прямо в глаза Хироси.

Вначале экс-айдол и слышать не хотел ни о чем подобном, потом начал отказываться, говорил, что ни за что и никогда. Он приложил много сил, чтобы оказаться как можно дальше от ядовитого и удушающего фанатского сообщества, и ему не хотелось нарушать статус-кво. Но Тайе сумел уговорить друга.

Для Хироси это был шанс, он мог доказать миру свою правоту. Кумир не обязан вечно поддерживать однобокий искусственный имидж, даже если его придумали крепкие профессионалы. Отношения кумира с поклонниками тоже могут быть разными — нет единого, установленного раз и навсегда вида. И правильнее всего не возлагать всю ответственность на кумира, а передать власть фанатам — чтобы они могли рассказывать свои собственные истории.

Так и родилась компания Viberz. Однако на разработку технологии у нее ушло целое десятилетие, чего никто не ожидал.

Самым сложным оказалось не создание аватаров (их получали через сканирование высокой четкости и моделирование) и не сбор данных о физических движениях человека (для этого использовали технологию захвата движения). Даже имитация мимики оказалась не такой уж сложной задачей — это был технический вопрос. Больше всего времени заняла обработка естественного языка и обучение ИИ-модели на огромных массивах данных.

Только решив эту задачу, они смогли создать плавное и естественное взаимодействие человека с машиной. Хироси и Тайе отлично понимали: «поцелуем смерти» окажется момент, когда разговор наскучит пользователю и перестанет бередить душу. Не допустить этого можно единственным способом — найти возможность узнавать мечты конкретных пользователей.

Используя наиболее доступные инструменты исследования и моделирования данных, они создали личностные профили целевых пользователей и сопрягли их со своим продуктом. На создание этих технологий и соединение их в одном продукте ушло бессчетное число дней и ночей.

Но все, как водится, было к лучшему. За несколько лет до того, как Айко попала в бета-тестировщики инновационной игры, ностальгия по музыке предыдущего поколения возродила интерес публики к давно ушедшему со сцены айдолу Хироси Иксу. На снисходительный взгляд потомков, Хироси оказался самой популярной суперзвездой своей эпохи. Другие знаменитости-ровесники старели перед объективами камер, а это имя ассоциировалось, как когда-то, только с гламурным молодым парнем, красавцем-музыкантом с ангельским голосом — этот имидж законсервировался, застыл, как муха в янтаре.

Компания Viberz не упустила своего шанса. Вооруженная абсолютно зрелым продуктом и эксклюзивными правами на образ Хироси, она смогла перенести виртуального Хироси Икса на цифровые экраны любых форм и размеров, равно как и в XR-поля любого типа: виртуальной, альтернативной, смешанной реальности. Сувенирную продукцию бренда «Хироси Икс» стали вновь расхватывать не хуже горячих пирожков.

Селебритис-менеджеры бросились в Viberz за виртуальными кумирами. Хироси и Тайе поняли: настало время главного шага. Они основали «Хисториз», филиал Viberz — компанию по захватывающим интерактивным компьютерным играм.

— Погоди-погоди… Ты хочешь сказать, что настоящего свидания у вас не было? — Ноноко неодобрительно покачала головой и шумно вздохнула.

— Прекрати, у меня к нему чисто платоническая любовь, — возразила Айко.

— Но можно было хотя бы попросить какого-нибудь мерча из ограниченной серии или еще чего-нибудь! Ну хоть что-то!

— Вообще-то… он прислал мне приглашение.

Ноноко чуть чаем не поперхнулась:

— Какое приглашение?

Айко зарделась и засветилась от счастья — скрытничать больше не было сил.

— Он предложил мне участвовать в написании историй.

— Это как? Он предложил тебе работу? По специальности?

— Хироси-кун сказал, что им нужны писатели и редакторы — надо уметь рассказывать истории, способные тронуть сердце.

— Тебя позвали в Viberz, самую крутую компанию в сфере ИИ-развлечений! Только не говори мне, что ты отказалась!

— Нет, я приняла предложение. Но поставила условие. — Айко сказала, как было.

— Ты в своем уме?! Ты поставила условия Хироси и Viberz?! — Ноноко, кажется, наконец, поверила, но теперь в ее глазах плескалась зависть.

— Я сказала, что в следующий раз я буду решать, как Хироси-кун умрет в игре.

— И что он ответил?

Помешивая кофе ложечкой, Айко подняла глаза, ее взгляд остановился на чем-то за головой Ноноко, как будто там мелькнула полупрозрачная фигура, испускающая сине-зеленый свет. Айко улыбнулась:

— Хироси-кун сказал: «Договорились».

Анализ. Виртуальная (VR), дополненная (AR) и смешанная (MR) реальность; нейрокомпьютерный интерфейс (BCI); этические и социальные вопросы

В самом начале рассказа «Мой призрачный кумир» рок-звезда Хироси Икс появляется на спиритическом сеансе в виде духа. Его вызвала группа суперфанаток, так как он скоропостижно скончался много лет назад в антракте прощального концерта. Тогда же мы знакомимся и с Айко, одной из тех суперфанаток. Она твердо намерена расследовать загадочную смерть своего айдола.

Позже призрак музыканта возникает в квартире девушки, чтобы дать ей подсказки и помочь установить истину, а потом спускается к ней с небес прямо посреди оживленной улицы Токио, когда она бродит по городу и ломает голову над этой загадкой.

Ближе к концу рассказа выясняется, что призрак был виртуальным персонажем, «оживленным» ИИ, — видимым, но не осязаемым. Но Айко и читателям Хироси кажется реальным или как минимум достаточно правдоподобным, чтобы вызвать неподдельный интерес, удерживать внимание, создавать напряженность повествования и порождать острые ощущения.

Хироси-призрак не только реалистичен как физический объект, но и органично интегрирован в окружающий мир. Такой «естественности» уже в ближайшие годы наверняка достигнут разработчики в области компьютерного зрения и обработки естественного языка, чему также будет способствовать прогресс в сфере технологий иммерсивного моделирования, больше известного как X-реальность, или XR.

XR — это не просто улучшение качества изображения и его увеличение до размеров экрана, повышающие реалистичность восприятия. По словам доктора Бреннана Шпигеля, «это как грезы наяву». Иммерсивные технологии создают интенсивный опыт, формируют эффект присутствия.

Виртуальные сцены, объекты и персонажи одновременно и реалистичны, и волшебны. Технология погружает в захватывающий опыт, который воспринимается как параллельная реальность. В следующие двадцать лет XR произведет революцию в развлечениях, образовании, розничной торговле, здравоохранении, спорте и путешествиях.

Предлагаю исследовать границу между реальным и виртуальным и приподнять завесу над загадочными XR-технологиями.

ЧТО ТАКОЕ AR/VR/MR (XR)?

Аббревиатурой XR обобщенно обозначают три типа современных цифровых технологий: VR, AR и MR. Виртуальная реальность (VR — virtual reality) создает полностью синтезированную (не существующую в материальном мире) среду, в которую погружается пользователь. Мир VR четко отделен от мира, в котором живет тело пользователя (вспомните, как контактные XR-линзы Айко виртуально «переносили» ее в Альпы во время тренировки на велотренажере).

Дополненная реальность (AR — augmented reality), в отличие от виртуальной, основана на реальном мире, в котором пользователь находится физически: она фиксирует объекты этого мира с помощью камеры и накладывает поверх этого изображения еще один, свой, слой. AR-алгоритмы наслаивают контент (3D-объекты, текст, видео и так далее), создавая «линзу», обеспечивающую пользователю «экстрасенсорный» взгляд на все, что его окружает.

Скажем, турист в незнакомом городе может спросить систему AR, какие тут поблизости достопримечательности, и система, наложив на реальные улицы «линзы» с текстом, подскажет, что стоит посмотреть. В нашей истории Айко вызывает такие подсказки и разные справочные материалы, и они как бы плавают перед ней в воздухе, а она видит их через свои контактные XR-линзы — это и есть технология AR. (Если вы киноман, то вспомните, как OASIS превращает Саманту в Art3mis в фильме «Первому игроку приготовиться»[60].)

В последние годы появилась еще одна технология — смешанная реальность (MR — mixed reality), представляющая собой более продвинутую форму AR. MR объединяет виртуальность и реальность, формируя гибридный мир. Однако синтезированные виртуальные MR-среды — это не просто сумма реального и виртуального, это более сложная, интегрированная среда, созданная путем полной декомпозиции и последующей интерпретации сцены, обеспечивающей интерактивное взаимодействие пользователя с содержащимися в ней объектами.

В рассказе «Мой призрачный кумир» MR органично интегрирует фантом в среду кухни Айко и в тренажерный зал (не говоря уже об улицах Токио). Созданный образ настолько реалистичен, что под пристальным взглядом «Хироси» девушка смущается и краснеет.

Чтобы нормально функционировать, MR должна хорошо разбираться и в среде, и в объектах, и в людях внутри этой среды. Например, знать, что такое холодильник и как он устроен — только так виртуальный Хироси сможет открыть дверцу и появиться перед Айко в «холодном водянистом тумане».

Уровень понимания смешанной реальностью окружающей среды, описанный в этом рассказе, выходит за рамки сегодняшнего компьютерного зрения, но есть все основания ожидать, что в течение двух следующих десятилетий мы его достигнем.

Айко в рассказе чувствует себя без контактных XR-линз «как без рук». Полагаю, уже скоро так будут ощущать себя очень многие.

Технология MR пока еще в зачаточном состоянии, но уже сегодня мы видим позитивную и устойчивую траекторию ее прогресса. Я предсказываю: к 2041 году технологии компьютерного зрения научатся раскладывать сцену на составные части и понимать их роль.

Кроме того, по моим прогнозам, MR разовьет способность добавлять в среду новые виртуальные объекты, представляя их так, будто они подчиняются законам физики материального мира. Они станут выглядеть настолько естественно, что сценарии, представленные в «Моем призрачном кумире», перестанут казаться фантастикой.

ТЕХНОЛОГИИ VR/AR/MR (XR): ВСЕ ОРГАНЫ ЧУВСТВ

Иммерсивный опыт, опыт погружения, дает пользователю ощущения как в реальной жизни — при этом невозможно отличить «настоящее» от «синтезированного». По сути, нам нужно обмануть самый чувствительный человеческий орган — глаз.

Помните, как в AR-игрушке Pokеmon Go[61] экран телефона служил окном в реальный мир с синтетическими персонажами мультфильмов? Гироскопы и датчики движения гаджета изменяли угол зрения геймера и даже позволяли ему взаимодействовать с происходящим в игре. Игра была новинкой и поэтому стала чрезвычайно популярной, но пользовательские возможности ограничивал размер экрана мобильных устройств. Игрушка не была полностью иммерсивной и не произвела революции в пользовательском опыте.

Гораздо более реалистичный и масштабный опыт глубокого погружения обеспечивают шлемы или очки виртуальной реальности, хотя вернее было бы называть их наголовными дисплеями (HMD — head-mounted displays). В HMD на два экрана синхронно поступают изображения одного объекта, но с чуть разных ракурсов — точно так же работают глаза человека, обеспечивая объемное зрение. HMD тоже обеспечивает объемное изображение (как специальные очки для просмотра программ 3D-телевизоров или фильмов в 3D-кинотеатрах).

XR-опыт иммерсивен и интерактивен. Для глубокого погружения требуется поле зрения не менее 80 градусов (но лучше — шире). Для обеспечения интерактивности необходимо, чтобы каждое незначительное движение пользователя (поворот головы, изменение позы) меняло картинку, пользователь при этом должен увидеть что-то новое — другое или по-другому.

Экран HMD обычно непрозрачный, сквозь него ничего не видно — вся выведенная на него картинка синтезирована. А вот наголовные дисплеи для AR и MR снабжены прозрачными линзами (напрямую или оптически), при этом реальный (видимый) мир смешивается с синтезированными объектами, и лишь затем изображение попадает в глаза пользователя. В нашем рассказе такие очки надеты на пареньке в тренажерке — он переключает их из режима MR в режим VR, и его линзы становятся непрозрачными.

Первое иммерсивное устройство создали много десятилетий назад. Ранние гаджеты были неуклюжими, тяжеленные HMD-шлемы подключали к рабочей станции или серверу-мейнфрейму кабелями. Тогда еще не было ни смартфонов, ни подходящих беспроводных технологий, поэтому без высокопроизводительных отказоустойчивых компьютеров, скоростных (с высокой пропускной способностью) кабелей и больших (а оттого тяжелых) дисплеев, установленных на еще более неуклюжих HMD, обойтись было невозможно.

Эта кондовая конфигурация была крайне неудобной, непривлекательной и не нашла коммерческого применения, однако сыграла (и продолжает играть до сих пор) очень важную роль: она обеспечила ученых лабораторной средой для тестирования и совершенствования этих технологий.

В последние несколько десятилетий в работе сетей произошел серьезный прорыв — разрешились проблемы частоты обновлений и времени ожидания. Появился Wi-Fi (технология беспроводной локальной сети) и технология мобильной связи 5-го поколения (обеспечивается частотным стандартом 5G) — мобильные устройства стали беспроводными.

Электроника и технологии позволили уменьшить HMD до размера обычных очков. Функции суперкомпьютеров-мейнфреймов взяли на себя микросхемы, вмонтированные непосредственно в устройство HMD. Наступила эра коммерциализации XR.

Конечно, не все было гладко. В 2015 году компании, разрабатывающие AR/VR-приложения, стали чрезвычайно популярными объектами для инвестиций, но впоследствии многие знаменитые стартапы потерпели крах. С продуктами мейнстримовых компаний тоже не все было в порядке, что очень заметно снизило популярность этих технологий.

Один из продуктов, которому удалось пережить «пузырь» AR/VR, — очки смешанной реальности HoloLens компании Microsoft. Это мощное, довольно удобное устройство весом чуть более 500 граммов (зависит от модели), похожее на большие очки для подводного плавания. Очевидный минус — запредельная цена, невольно наводящая на мысль о «налоге на дураков».

HoloLens относят к вертикальным бизнес-приложениям, то есть предназначенным для конкретной отрасли, в первую очередь для образования, здравоохранения и аэронавтики. Программный продукт, применение которого предполагает использование шлемов и огромных специфического вида очков, не может стать повседневным и массовым, в отличие, скажем, от умных часов Apple Watch.

Дизайнеры пытались сделать так, чтобы человек в AR/VR-гаджетах не выглядел по-дурацки, им даже придали вид обычных очков. Все попытки оказались неудачными, но, скорее всего, просто преждевременными. Такие продукты, как Google Glass и Snapchat Spectacles, не имели ожидаемого успеха по нескольким причинам. Прежде всего они не обеспечивали высокой детализации, сопоставимой с детализацией HoloLens.

Безусловно, со временем физические ограничения удастся преодолеть. Технические характеристики гаджетов — ширина полосы пропускания, частота кадров, разрешение экранов и динамический диапазон — значительно улучшаются с каждым годом, оборудование становится легче и дешевле. Так что, вполне возможно, очки Microsoft HoloLens станут еще легче и подешевеют, а умные очки Snapchat станут мощнее и популярнее.

Качественные и легкие XR-очки мы в любом случае получим довольно скоро. В 2020 году команда Facebook Oculus продемонстрировала исследовательский прототип такого устройства с линзами толщиной всего в сантиметр. Развитие событий позволяет уверенно предположить, что XR-очки серийного производства появятся на рынке уже к 2025 году; по всей вероятности, лидировать опять будет Apple (ходят слухи, что компания уже работает над таким продуктом).

Когда-то новаторские «яблочные» продукты iPod, iPhone и iPad стимулировали развитие целого сегмента рынка электроники, а многочисленные последователи-подражатели весьма оперативно сбили цены.

По моим прогнозам, одной из первых массово признанных XR-технологий (помимо XR-очков), станут контактные XR-линзы, над ними уже трудятся несколько стартапов. Созданные прототипы подтвердили возможность встроить дисплеи и датчики непосредственно в линзы, делая видимыми текст и изображения.

XR-линзам необходим внешний процессор, например смартфон. Мы ожидаем, что к 2041 году рынок примет такие контактные линзы благодаря их внешней незаметности, а основные проблемы типа высокой цены, конфиденциальности при использовании и законодательных требований будут успешно преодолены. Собственно, на этой уверенности и построен рассказ «Мой призрачный кумир», в котором Айко постоянно носит контактные линзы, иногда меняя их на очки и другие гаджеты для иммерсивного опыта.

Визуальный ввод будет обеспечиваться с помощью очков и контактных линз, аудиоввод — через наушники, которые тоже с каждым годом улучшаются. К 2030 году хорошие наушники должны стать практически незаметными благодаря использованию свойства костей проводить звуковые колебания, бинауральному способу записи[62] и другим технологиям — возможно, наушники тоже можно будет не снимать весь день.

Комбинации описанных технологий, реализованных в мобильных устройствах, по всей вероятности, станет достаточно для появления «невидимого смартстрима» (смартфон 2041 года). Стоит активировать смартстрим, и его визуальный дисплей охватит все ваше поле зрения. Этот дисплей, скорее всего, будет полупрозрачным.

Управлять контентом и приложениями смартстрима можно будет жестами, как это делал персонаж Тома Круза в фильме «Особое мнение»[63]. Звук смартстрима будет поступать через «невидимые наушники», управление — голосовое и жестовое, а текст при необходимости можно будет набирать пальцами прямо в воздухе.

Такой вездесущий XR-смартстрим будет уметь гораздо больше, чем смартстрим с экраном (или нынешний смартфон). Он сможет напомнить имя знакомого, случайно встреченного на улице; сообщит, что в ближайшем магазине появилась в продаже вещь, которую вы искали; переведет с разных языков речь и текст и поможет спастись от стихийного бедствия.

Помимо привычных ощущений от обычных шести органов чувств[64], наше тело сможет осязать виртуальные ветер и объятия, а также воспринимать тепло, холод, вибрацию и боль. Тактильные перчатки позволят виртуально брать предметы и чувствовать их в пальцах. Благодаря соматосенсорному костюму (их тоже иногда называют тактильными) можно будет почувствовать холод, жар, даже удары или нежные поглаживания.

Именно благодаря таким технологиям Айко в специальном костюме ощущала на VR-велотренажере дуновение легкого ветерка, тепло солнечных лучей и даже неровности дороги. В таких костюмах для имитации прикосновения могут использоваться двигатели или экзоскелет: стимулируя нервные окончания, они провоцируют сокращение определенных мышц. Когда тело сталкивается в виртуальном пространстве с каким-то объектом, в соответствующую область соматосенсорного костюма посылаются импульсы, имитируя это столкновение.

А еще в нашем рассказе соматосенсорный костюм в режиме реального времени отслеживает физиологические показатели и положение тела Айко на тренажере и, возможно, преобразует ее жесты в команды. Такие костюмы можно будет использовать в вертикальных приложениях — компьютерных играх, тренажерах или симуляторах реального мира. Подобные технологии уже присутствуют в некоторых коммерческих продуктах, и, скорее всего, диапазон их применения расширится задолго до 2041 года.

Сегодня на подходе распылители ароматов, имитаторы вкусов и тактильные перчатки, имитирующие прикосновение. Они могут охватить шесть — нет, пока только пять — основных чувств человека. Симулятора экстрасенсорного восприятия пока все же не предвидится.

ЗА РАМКАМИ НАШИХ ЧУВСТВ

Приведенный анализ касается устройств для стимуляции нашего восприятия. Как в XR обеспечивается ввод данных, как мы управляем XR-устройствами? Сегодня это делается с помощью портативного пульта, похожего на пульт Xbox или другой игровой приставки, только выполненный под одну руку.

Освоить несколько кнопок несложно, но пока пульт выступает в роли сказочной волшебной палочки — одно движение игрока меняет окружающий мир, в мгновение ока создает иную, крайне правдоподобную реальность. В идеале ввод со временем должен стать максимально естественным — материальный пульт управления вытеснят айтрекинг (технология отслеживания положения глаз), трекинг движений, распознавание жестов и понимание естественной речи. Подобные технологии будут интегрированы в XR-устройства и станут основными способами ввода данных.

А кстати, как мы двигаемся в виртуальном мире? Если наши движения должны соотноситься с естественным движением в реальном мире, то нам нужны большие пространства. Но даже в этом случае — как в виртуальной реальности мы бегаем, ползаем, лазаем вверх-вниз? И как нам исключить там риск падения и травмы?

Лучшее на сегодня решение — всенаправленная беговая дорожка (ODT — omnidirectional treadmill) вроде той, которую вы наверняка видели в фильме «Первому игроку приготовиться». Сегодня ODT уже доступны.

Укрепленные на раме тренажера плечевые ремни определяют силу, которую прилагает пользователь, и страхуют его от падения. Дорожка движется с той же скоростью, с какой идет или бежит человек, поэтому он всегда находится в центре ленты. Ее можно наклонить, имитируя подъем на холм. На дорожке ODT можно позволить себе практически любые движения, не опасаясь свалиться.

Смею предположить, что прежде всего эти технологии найдут применение в сфере развлечений, например в гиперреалистичных играх. Наши цифровые копии будут играть, соревноваться и сражаться с цифровыми двойниками других людей.

А еще пользователи смогут взаимодействовать с полностью синтезированными существами (как, например, Хироси из истории «Мой призрачный кумир»).

Получив все это в свое распоряжение, люди к 2041 году, скорее всего, будут все чаще существовать сразу в нескольких мирах: реальном, виртуальном и смешанном.

Я предвижу множество неигровых применений XR-технологий, прежде всего в сфере обучения. Совсем недавно Microsoft продала армии США устройства HoloLens почти на 22 миллиарда долларов. В течение следующих десяти лет военных будут обучать с их помощью таким важным задачам, как ситуационная осведомленность, обмен информацией и принятие решений.

VR-технологии также будут использоваться для лечения психических заболеваний, в частности посттравматического стрессового расстройства (ПТСР).

Благодаря VR-технологии мы получим образовательную среду, в которой реальные и виртуальные учителя смогут отправляться вместе с учениками в путешествия во времени: наблюдать за динозаврами, посещать разные чудеса света, слушать лекции Стивена Хокинга и общаться с Альбертом Эйнштейном.

Zoom-видеоконференции прибавят реалистичности виртуальным рабочим встречам — все будет выглядеть, как привычное совещание за длинным столом (хотя на самом деле участники собрания могут находиться дома в пижамах), и все будут сообща работать на виртуальной (но якобы реальной) доске.

В медицине AR- и MR-технологии будут все чаще помогать хирургам проводить операции, а VR-технология обучит студентов оперировать на виртуальных пациентах.

В розничной торговле покупатель сможет подобрать себе одежду и аксессуары, декорировать дом и офис, выбрать, куда отправиться в отпуск, — все это можно будет примерить, пощупать и опробовать в виртуальной реальности.

Одно из главных препятствий на пути к описанному великолепию — создание контента. Этот процесс в XR-среде похож на разработку сложнейшей 3D-игры: рабочая группа должна охватить все мыслимые и немыслимые варианты выбора пользователя, смоделировать физику реальных и виртуальных объектов, эффекты освещения и погоды, обеспечив при этом еще и максимально реалистичную их визуализацию.

Уровень сложности тут несравнимо выше, чем требуется для создания видеоигр и разработки компьютерных приложений. При этом без качественного профессионального контента люди просто не купят такие устройства, а без их продажи не получится хорошо монетизировать контент. Это проблема из категории «что было раньше, курица или яйцо»; ее решение потребует долгого итеративного процесса с непрерывной обратной связью и оперативной коррекцией.

В итоге должен появиться благоприятный цикл — так когда-то телевидению и Netflix потребовалось немало времени и инвестиций, чтобы стать мейнстримом. Зато, как только нужные инструменты будут подобраны и испытаны, их распространение станет стремительным. Представляете — профессиональные инструменты вроде Unreal и Unity[65] однажды превратятся во что-то вроде XR-версии фотофильтров?!

И наконец, устройствам на базе XR-технологии еще нужно преодолеть серьезную проблему разочарования, которое возникает в виртуальной реальности: «мир иногда замедляется». Однако по мере усовершенствования технологии и увеличения пропускной способности сетей мы постепенно справимся и с этим.

ГЛАВНЫЕ ПРОБЛЕМЫ XR: ВИРТУАЛЬНАЯ РЕАЛЬНОСТЬ НЕВООРУЖЕННЫМ ГЛАЗОМ И НЕЙРОКОМПЬЮТЕРНЫЙ ИНТЕРФЕЙС

Проще всего понять, что такое виртуальная среда, можно на примере голограммы. В 2015 году компания Magic Leap, специализирующаяся на MR-технологиях, показала промовидео: кит выныривает у стены из оказавшегося вдруг жидким пола школьного спортзала и плюхается в его центр — тоже неожиданно жидкий. Во все стороны летят брызги и катятся волны. Зрители — школьники, сидящие по периметру зала, — уворачиваются от брызг, вскрикивают и поджимают ноги, чтобы их не намочила волна[66].

Анонсировалось, что голографический эффект будет виден без специальных очков, и это сделало Magic Leap одной из самых обсуждаемых компаний года.

Но когда компания, наконец, представила разрекламированный продукт, оказалось, специальные очки все же требуются. Впрочем, данное «недопонимание» только четче продемонстрировало всем очарование и притягательность MR-технологии, не предполагающей использования специальных гаджетов для глаз.

Жаль, но возможности MR-технологий, не использующих очки, сильно ограничены. В 2013 году зрителям показали выступление одного известного китайского певца, использовав трехмерное голографическое световое поле. Это не выглядело бы чудом, но музыкант умер в 1995 году, и из зрительного зала голограмма действительно выглядела почти как живой человек. Однако она не была фотореалистичной, видеть ее можно было только на расстоянии и без какого-либо интерактива.

Голографическая технология неуклонно совершенствуется, однако маловероятно, что к 2041 году реалистичность голограммы, просматриваемой без дополнительных индивидуальных устройств, встанет на одну доску с реалистичностью изображений, полученных с применением XR-технологии, с помощью XR-очков или контактных XR-линз.

Если наиболее логичным и естественным «выходом» системы XR будет изображение для обычного человеческого глаза, то самым естественным входом, безусловно, будет нейрокомпьютерный интерфейс (НКИ, или, по-английски, BCI). В 2020 году важная новость пришла от компании Илона Маска Neuralink, которая продемонстрировала практический BCI, вмонтировав в мозг свиньи три тысячи тончайших электродов, способных отслеживать активность тысячи нейронов мозга. Это весьма многообещающее направление исследований, в частности в области лечения травм спинного мозга и нейродегенеративных заболеваний вроде болезни Альцгеймера. Однако медиа больше обсуждали и комментировали оптимизм Маска и его убежденность в том, что теперь мы сможем контролировать активность мозга, научимся сохранять и воспроизводить воспоминания, вставлять собственные воспоминания в мозг других людей или хранить их для потомков.

Рискуя разочаровать некоторых читателей, скажу: смелое видение Маска — это очень далекое будущее даже при самом оптимистичном подходе. До того нам нужно решить массу проблем. Например, для таких манипуляций доступна лишь небольшая часть мозга, и повтор процедуры может нанести этому главному человеческому органу серьезный ущерб.

Кроме того, мы пока не научились расшифровывать сигналы, которые получаем от мозга таким способом, поэтому у нас есть «сырые» данные, смысл которых не известен. Что же до передачи воспоминаний, то проблема еще больше — ведь в этом случае мы изменим живой человеческий мозг, что непременно повлечет негативные последствия, связанные со здоровьем, конфиденциальностью и этикой. Словом, Neuralink разработала интересный прототип. Однако к 2041 году Илон Маск вряд ли удовлетворит свои амбиции на ниве усиления человеческого потенциала.

СОЦИАЛЬНО-ЭТИЧЕСКИЕ ПРОБЛЕМЫ И XR-ТЕХНОЛОГИИ

Мы обсудили основные технические сложности распространения XR-технологий и проблемы, связанные со здоровьем человека. Но очевидно, что XR-технологии чреваты также весьма серьезными этическими и социальными проблемами.

Призрак музыканта Хироси в рассказе «Мой призрачный кумир» впервые появился перед Айко, когда она произнесла ключевое слово. Он возник на кухне, а девушка доставала из холодильника молоко. Выходит, система должна узнавать, насколько сейчас удобное время — ведь и вправду вышло бы неловко, если бы Айко принимала ванну. Но чтобы выбрать подходящее время, система должна постоянно следить за Айко и знать всю подноготную. Разве это приемлемо?

Если мы будем постоянно носить гаджеты вроде VR-очков или контактных линз, то в их памяти окажется каждый день — кадр за кадром, все, что с нами происходит, весь окружающий мир. С одной стороны, такое «хранилище с бесконечной памятью» очень удобно — человеческая память несовершенна. Архив может пригодиться, если нечестный деловой партнер откажется от взятого на себя обязательства — видео поможет припереть его к стенке.

Но действительно ли мы хотим, чтобы каждое наше слово сохранялось в веках? А если данные попадут в преступные руки? Или их использует приложение, которому мы сейчас доверяем, но при этом не знаем всех (в том числе негативных) его возможностей?

Необходимо разработать четкие правила регулирования XR и хорошенько подготовиться — у нас и сегодня хватает проблем с конфиденциальностью и приватностью, а в будущем, похоже, их еще прибавится. Многие уже сегодня считают, что смартфоны и приложения знают о нас слишком много, но, поверьте, это цветочки по сравнению с ягодками, которые созреют с развитием XR-технологии.

А еще XR заставит нас переосмыслить концепцию самой человеческой жизни. Люди на протяжении тысяч лет искали путь к бессмертию. Благодаря этим технологиям мы теперь можем всерьез задуматься о такой штуке, как «цифровое бессмертие». Помните, в одном из эпизодов популярного телесериала «Черное зеркало»[67] женщина, потерявшая бойфренда, с помощью цифровой информации пытается вернуть его к «жизни»?

MR становится все более реалистичной и повсеместной, и киношная ситуация может стать реальной уже в недалеком будущем. Ранее мы обсуждали использование алгоритма GPT-3 для общения с давно умершими историческими личностями (да, тут еще есть некоторые изъяны, но ситуация быстро улучшается). Кроме того, сегодня в социальных сетях прибывает виртуальных инфлюенсеров; рано или поздно большинство из них станут работать на базе ИИ и VR — это только вопрос времени.

«Цифровое бессмертие», или «цифровая реинкарнация», непременно породит множество проблем с конфиденциальностью и вопросами этического характера. Если использовать данные других людей для создания виртуального персонажа — это нарушение авторских прав? А если такой персонаж станет говорить или делать что-то отвратительное — это надо расценивать как клевету или как нечто худшее? И с кого спросить, если виртуальный персонаж введет людей в заблуждение или совершит преступление?

Если мы вынесли хоть какой-то урок из недавних опасений по поводу негативных внешних эффектов соцсетей и ИИ, то нам пора задуматься над решением куда больших проблем, которые возникнут, когда эти эффекты умножатся мощью XR.

Лично мне наилучшим выходом в краткосрочной перспективе представляется расширение соответствующей законодательной базы. Затем следует принять ряд решений, включая новые правила, активизировать борьбу с цифровой безграмотностью и разработать технологические способы решения возникающих проблем.

Значительная доля нашей работы и развлечений к 2041 году будет подразумевать использование технологий виртуальной реальности. И сегодня нам стоит ориентироваться на эту неизбежность. Нас ждет огромный прорыв, и он начнется с индустрии развлечений. Но затем XR распространится на все области, и все неизбежно столкнутся с трудностями — все будет точно так же, как сегодня происходит с ИИ.

Если ИИ превращает информацию в интеллект, то XR-технологии позволят собирать от людей больше данных все более высокого качества — они будут поступать от наших глаз, ушей, конечностей и даже из недр мозга. ИИ в сочетании с XR осуществит извечную мечту человека о том, чтобы лучше понять себя и максимально увеличить свой потенциал — а по ходу дела расширит возможности человеческого опыта.

Глава 6. Святой возница

Ну, как если бы я играл одновременно на двух гитарах. Просто надо дать им звучать самим, но одновременно не терять над ними контроль.

Cлова Джимми Хендрикса из книги «Джимми Хендрикс: история брата» Леона Хендрикса

РАССКАЗ ПЕРЕВЕДЕН ЭМИЛИ ДЖИН

Примечание Кай-Фу: Действие рассказа «Святой возница» происходит в Шри-Ланке; в нем описано воображаемое общество в самый разгар перехода от транспорта, управляемого водителями-людьми, к машинам, управляемым автопилотом на базе искусственного интеллекта. По сюжету, талантливого юного геймера приглашают принять участие в загадочном проекте. Ошибки при этом совершают и люди, и ИИ — но это разные ошибки. В комментарии я расскажу, как работают беспилотные транспортные средства, как и когда появятся полностью автономные автомобили.

Наручные часы на руке зажужжали, циферблат настойчиво замигал красным. Пора.

Чамал был постоянным посетителем VR Cafе, и у него давно сложился четкий ритуал подготовки к гонке. Мальчик сосредоточивался, натягивал тесный тактильный комбинезон, причесывался и надевал шлем в форме раковины. Чамал каждый раз представлял, что сейчас сядет в кресло болида «Формулы-1». Затем он соединял ладони и закрывал глаза — молился Будде об удачной гонке, о том, чтобы никто из гонщиков даже не приблизился и уж тем более не прикоснулся к его виртуальной тени. Потом он втискивался в кабину — довольно тесную, узкую, практически такую, какую он минуту назад представил.

Глубоко вдохни. Очисти разум. Убедись, что все физиологические показатели в безопасном интервале.

Стоило Чамалу тронуться с места, как все тревоги разом улетучивались.

Многоцветье гоночной трассы плясало перед глазами — Чамал рвался к очередной победе.

В тот же день в квартире семьи Чамала появился дядя Джуниус. Прихрамывая, он прошел в гостиную — все еще давала о себе знать старая травма. Джуниус поудобнее устроился в кресле и повернулся к Чамалу — мальчик делал уроки за общим столом. Дядя сказал, что у него имеется предложение, которое стоит обсудить. И объявил, не дождавшись ответа: Чамалу нужно встретиться с одним из его китайских партнеров — для мальчика есть отличная работа.

Родители, услышав это, засмеялись. «Опять эти китайцы! — отреагировал отец. — И что же им нужно от нашего Чамала?» Он разразился одной из своих обычных тирад о том, как китайцы ведут бизнес в Шри-Ланке.

— Они хотят перестроить все дороги между Коломбо и крупными городами, и как только они это сделают, им больше не понадобятся наши водители. Нет, ну ты представляешь?! — он повернулся к жене.

— Конечно, твой босс вон доверился китайцам, сам видишь, что из этого вышло, — она вроде бы и поддакнула, но разговор не продолжила.

Отец тоже замолчал. Он был профессиональным водителем, работал в службе доставки, но два года назад попал в аварию. Ничего серьезного, однако это дало основания для увольнения — не спас даже десятилетний стаж. Босс сказал, что беспилотный транспорт становится все более доступным, и компания теперь будет нанимать людей-водителей только с безупречной репутацией. Отец больше не смог устроиться по специальности и стал гидом на неполный рабочий день — он возил туристов по Шри-Ланке.

Чамалу скоро исполнялось тринадцать; мальчик должен был перейти в среднюю школу, но родители пока не могли заплатить за его обучение. Не было денег и на школу для двух младших сыновей. Перспектива его устройства на работу — отнюдь не повод для смеха. И Чамал отлично понимал, что родители кривят душой.

— На этот раз все не так, — заверил родственников Джуниус. — И я же знаю, как вам нужны деньги.

Дядя объяснил: его китайский партнер ищет талантливых детей, таких как Чамал. Они будут помогать его фирме разрабатывать компьютерную игру, которая в корне изменит будущее управления автомобилем.

— Нашему парню ничто не угрожает, а деньги хорошие. Буддой клянусь! — побожился Джуниус. И добавил: партнеры хотят встретиться с Чамалом сегодня же.

Мальчик знал: большинство взрослых дают пустые обещания. Однако дядя — и в этом он тоже убедился — всегда держит слово. Если Джуниус говорил, что скоро отведет в парк развлечений или кафе-мороженое, то так всегда и случалось.

Родители согласились — они не хотели расстраивать сына. Мама погладила Чамалу лучшую рубашку, аккуратно заправила ее в брюки и помогла застегнуть рукава. Потом присела и прошлась щеткой по ботинкам — они заблестели. Взяла расческу и пригладила торчащие вихры. И старательно причесала его, приведя голову в божеский вид. Жители Шри-Ланки не выходят из дома в неухоженном виде.

— Улыбайся, Чамал, — мама напутственно потрепала сына по щеке, — не забывай, искренняя улыбка — лучший подарок, который можно сделать другому человеку.

Мальчик просиял — улыбка ему правда шла.

Пока дядя Джуниус вез Чамала в центр Коломбо, тот вспомнил одно из любимых высказываний отца: в вождении главное не машина, а дорога.

Хороших дорог на Шри-Ланке — кот наплакал. На тесных городских улочках автомобили и моторикши — тук-туки соревнуются с самокатами и повозками. Дороги за пределами крупных городов в основном грунтовые и очень плохо освещены. В сезон дождей они становятся вообще непроезжими — сели и оползни то и дело притаскивают с собой всякий мусор. Местные водители знают обо всех опасных местах, но вот приезжих не спасают ни бумажные карты, ни навигаторы.

Выбор правильной дороги в Шри-Ланке — вопрос не просто экономии времени и денег, а нередко буквально жизни и смерти.

В прошлом году политические экстремисты организовали несколько террористических актов — так они пытались освободить из тюрьмы одного из лидеров своего движения. Отец Чамала угодил тогда в передрягу — ему пришлось гнать фургон с туристами по разбитым проселочным дорогам, пока люди не оказались в безопасности.

Перед каждой поездкой отец обязательно молился Будде. На зеркале заднего вида в кабине болтались подвески и четки — на ухабистых дорогах они будто исполняли какой-то ритуальный танец. Когда Чамал был маленьким, он считал, что если не прочесть молитву, а просто так повернуть ключ зажигания, то мотор не заведется и машина не поедет.

Шоферский сын Чамал с детства знал все марки и модели автомобилей. Отец рассказывал, что несколько десятилетий назад по Шри-Ланке ездили в основном японские машины; затем их вытеснили европейские и американские, а тех — китайские. У папы была видавшая виды — он говорил, «винтажная» — «Тойота», но и он поменял ее на «Джили» с водородным двигателем.

Чамал обожал машины: еще совсем маленьким он выходил на крыльцо и завороженно смотрел, как они проносятся мимо. Воображал, что сам едет за рулем. Иногда — редко — ему везло: он видел старинное, еще на бензине, авто. Рев их двигателей и резкий сладковатый запах выхлопа были просто волшебны! Однако Чамал еще ни разу не прикоснулся к рулю настоящего автомобиля. Все связанное с машинами и управлением ими происходило только в его снах и мечтах, в приложениях смартстрима и играх-симуляторах в VR Cafе.

Среди друзей-геймеров Чамал считался лучшим. Он ставил рекорд за рекордом и был практически непобедим. Ему чрезвычайно нравилось видеть свое имя на табло — как оно буква за буквой загорается рядом с цифрами очередного рекорда. Иногда мальчику казалось, будто в его жилах течет не кровь, а водительский талант: переключение передач, торможение, занос — практика вождения была с ним с рождения, словно какой-то природный инстинкт.

А еще он всегда точно знал, как пройти незнакомую трассу наиболее эффективным способом. Благодаря микрокоррекции он извлекал из каждого движения крошечное преимущество — эти микрокозыри незаметно накапливались и приносили игровые очки.

Среди геймеров каждому дают ник — прозвище, если только ты не полный чайник. За особый успешный стиль вождения Чамала звали Фантомом. Каждый раз, когда его так окликали, он вздергивал подбородок и довольно улыбался — такое обращение было для него было самой большой честью и наградой.

Дядя Джуниус объяснил, что Чамал будет водить машину для китайцев, и мальчик представил себе что-то вроде компьютерной игры, в которую он играет в кафе. Все то же самое — только теперь за деньги. Круто!

Дядя Джуниус нажал в лифте минус третью кнопку — кабина отправилась на третий подвальный уровень Центра ReelX. Четырехэтажное здание недавно построили в самом центре Коломбо, и оно сверкало свежими стеклами. Едва двери лифта разъехались, посетителей поприветствовала молодая ланкийка в униформе.

— Чамал, передаю тебя мисс Элис. Покажи им, какой ты отличный водитель, окей? — и Джуниус подмигнул девушке. Но она сделала вид, что не заметила фамильярности.

— Попрощайся с дядей, Чамал, — строго сказала она. — И следуй за мной.

Чамал кивнул дяде, который уже шагнул в лифт, и поспешил за Элис по широкому коридору. Стены и полы здесь были светлыми и безупречно чистыми, в них отражались потолочные светильники. Навстречу попадались люди в белых халатах. Офис? Или лучше назвать его лабораторией?

Все сотрудники перемещались с включенными планшетами — на сияющих экранах мигали цифры, менялись графики и диаграммы. Если вдруг кому-то требовались обе руки, он прижимал локтем тонкий планшет к телу, и тот повторял контур туловища, словно тряпочный.

«Столько народу, а тишина, будто нет никого», — отметил про себя странность Чамал. Строго говоря, звуки тут были, но ничего конкретного разобрать было невозможно — слышался только приглушенный шепот и шорохи. И все же здесь было очень тихо. Даже издалека, с улицы, не доносился рев автомобильных двигателей и визг шин. А в самом коридоре не хлопали двери и не клацали дверные замки.

Элис привела Чамала в комнату размером с небольшой врачебный кабинет, велела переодеться — тут был приготовлен черный тактильный костюм и такой же шлем. Чамал нахмурился: он не особо любил черный цвет. Мама часто говорила, что белый олицетворяет святость, а черный — неудачу. На Шри-Ланке вообще редко носят черное, обычно выбирают что-нибудь яркое, а белое — на праздники или для религиозных обрядов.

Но сейчас выбирать не приходилось.

Костюм был изготовлен из очень эластичного материала и идеально сел по фигуре — как вторая кожа; он неожиданно не грел и не охлаждал. Чамал повертел в руках и надел шлем незнакомой конструкции. На стене обнаружилось зеркало — и Чамал с удовольствием стал перед ним вертеться, стараясь получше разглядеть себя со всех сторон. «Этот мальчишка в зеркале похож на супергероя из комиксов», — подумал Чамал и понял, почему так: слишком большой шлем делал фигуру непропорциональной.

— Чамал, сейчас я покажу тебе что-то важное. Сосредоточься, будь максимально внимателен, хорошо? — Элис вернулась, предварительно постучав. Она опять повела Чамала, но уже по другому коридору.

Чамал хотел получше разглядеть девушку, но было неудобно, мешал шлем, большой и тяжелый, а снять его мальчик постеснялся. «У нее темно-карие глаза, как у мамы», — почему-то подумал он.

Элис открыла одну их многочисленных дверей. В большом зале в два ряда стояли кабины, похожие на капсулы, — восемь штук. Каждая подсоединена проводами и кабелями толщиной со старую лиану к узнаваемым двигателям. Перед каждой кабиной висел огромный дисплей, на одном шла трансляция — Чамал решил, что это игра-гонка. Рядом обновлялась лента с какими-то данными, напоминавшими физиологические показатели. Снаружи всех кабин мигали разноцветные огоньки.

— Это кабинки виртуальной реальности, — объяснила Элис мальчику. — Твой дядя уверяет, что ты гений в гоночных VR-играх. Считай, что это игровая приставка, но учти, что она может гораздо больше. Кабина будет наклоняться, вибрировать и ускоряться — не бойся, это симуляция. Твоя задача — следовать инструкциям, которые ты услышишь в наушниках и увидишь на экране. Сегодня ты опробуешь оборудование и проведешь тест-драйв. Если что-то пойдет не так или ты устанешь, дай знать — мы сразу все остановим.

Элис замолчала. У Чамала было множество вопросов об этой странной игре, но он не успел и рта раскрыть, как девушка жестом велела опустить прикрепленные к шлему очки. Чамал подчинился, потом забрался в кабину. Все оказалось неожиданно знакомо, ничего особенного. Как заправский автогонщик, он защелкнул ремни безопасности, похлопал по рулю рукой в гоночной перчатке, опробовал ногой педали тормоза и газа. Все вроде на месте.

Только вот приборная панель оказалась совершенно пуста. Чамал помахал перед ней руками — она волшебным образом изменилась. Из пустоты возник ослепительный мир. Чамал понял, что может жестами изменять расположение приборов на панели, добавлять новые и даже при желании перемещать функции на лобовое стекло.

Включился обратный отсчет: на приборной панели сменялись цифры, мелодичный голос нараспев отсчитывал в наушниках: «Десять, девять, восемь, семь…»

Чамалу вдруг показалось, что кабина сейчас оторвется от пола и взлетит, как ракета, оставив за собой пылающий след.

«…три, два, один. Старт!»

Кабина, кажется, не взлетела, но картинка перед глазами поменялась. Чамал был в автомобиле. И не просто в автомобиле — в «Джили Фьюче F8», причем именно в их семейной машине. Чамал узнал каждую деталь — все было воспроизведено досконально, даже обшивка дверных панелей.

Чамал выглянул в окно — там его поджидал еще один сюрприз. Автомобиль стоял на общественной парковке напротив их дома. Все было совершенно обыденно и привычно. Не как всегда только одно — он сидел не на пассажирском месте, а на водительском, которое всегда занимал папа.

Чамал потянулся к рулю и увидел, что с рук куда-то делись гоночные перчатки. Да и мрачный черный костюм превратился в разноцветный, как Чамал любил. Подправил зеркало заднего вида — оказалось, и шлем теперь покрыт яркими цветными кляксами. Один в один в стиле графики гоночной машины, которую он предпочитал в игре.

Мальчик ощутил прилив адреналина. «Готов! Вперед!» — заорал Чамал как обычно — это была голосовая команда.

Но авто не двинулось. В наушниках раздался голос Элис: «Без паники, следуй инструкциям».

В виртуальном поле зрения Чамала возникли трехмерные голограммы из слов и чисел. Они плавали, меняли форму, переливались разными цветами — ловили и направляли его взгляд, точно как цифровые рекламные щиты в центре Коломбо. Чамал проследил за указывающей вниз стрелкой — педаль газа тут же подсветилась нежно-зеленым.

Юный пилот надавил на газ — появился цветной столбик, напомнивший индикатор жизненной силы персонажей в видеоиграх. Чамал надавил сильнее — столбик сменил цвет с зеленого на синий, а затем и на желтый.

«Прикольно! — Чамал запустил двигатель. — Снять с ручника, надавить на газ…» Начавшаяся вибрация передалась телу, все изображение тоже начало слегка подрагивать. Машина тронулась.

«Очень хорошо. Не гони, следи за потоком», — опять включилась Элис.

— Это похоже на дорогу около нашего дома, но это не она… Не пойму, что не так, — Чамал немного колебался, стоит ли это произносить.

И тут его осенило. Это и правда была дорога, по которой отец каждый день возил его в школу, но обычно на ней было много пешеходов и тук-туков, а сейчас — пусто. Чамал проехал несколько кварталов, стараясь особо не разгоняться. Он знал, что скоро поворот, но ожидаемого перекрестка все не было, и оставалось только ехать прямо.

В ушах снова раздался голос Элис: «Наш искусственный интеллект создал этот виртуальный ландшафт на основе реальных данных. Он тебе знаком, но все же немного отличается от привычного. Это твой первый день, мы снизили для тебя уровень сложности. После завершения этапа подготовки ты сможешь ездить как захочешь».

Подготовки? К чему? Но Чамал не спросил — он следил за дорогой.

Опытный геймер быстро разобрался, что к чему. Вождение здесь оказалось почти таким же, как в играх в VR Cafе, только движок был гораздо лучше. Он быстрее реагировал на команды, намного меньше отставал во времени, граница между игрой и реальностью была почти не заметна — это даже немного нервировало. И Элис не обманула: чем лучше и увереннее он вел машину, тем сложнее становилась игра.

Заметно увеличился трафик. На пешеходных переходах появились медлительные старики. На повороте откуда ни возьмись прямо под колеса выскочила собака. Когда Чамал проезжал мимо детской площадки, на дорогу выкатился мяч. Даже светофоры словно взбесились — мигали неправильными цветами. «Что-то чересчур реалистично», — подумал Чамал.

По шее побежали струйки пота. Ладони, крепко сжимавшие руль, стали липкими. Глаза жгло — он совсем перестал моргать. Будь внимателен… Чамал вдруг почувствовал: он не может позволить себе упустить даже мельчайшие детали. Вот только не понял, почему.

Пока все шло достаточно гладко. Знакомая дорога, по которой он ездил в школу, оказалась бесконечной. Через какое-то время Чамал почувствовал, что уже не так напряжен. Нога давила на газ все сильнее. Автомобиль уверенно разгонялся — 80, 100, 120 километров в час, — а пилот тем временем погружался в состояние «потока». Он чувствовал себя окруженным энергией, будто его тело, кабина, виртуальный пейзаж слились в нечто единое, образовав гармоничный замкнутый контур. Уже не он вел автомобиль — машина откликалась на работу его мозга, как еще одна часть его тела.

Сколько времени он уже едет? Чамал глянул на приборную панель. Стрелка спидометра упала вправо и подрагивала в красной зоне — он достиг максимальной скорости.

Чамал вдруг испугался. Его пронзило ощущение страшной опасности. Он бросил педаль газа и ударил по тормозам. Мощная волна энергии внезапно накрыла машину, опрокинула ее и кинула на землю. Чамал завопил и вцепился в руль. Внутри него все пылало. Все, что было в этот момент в поле его виртуального зрения, стремительно завертелось — пришлось зажмуриться, чтобы остановить противное головокружение. Затем все стихло, и мир медленно погас.

В реальность его вернул тихий-тихий голос — кто-то очень далекий звал его по имени. Элис? Кто-то тянул мальчика под мышки, кто-то ухватил за ноги. Потом еще кто-то снял шлем. Чамал жадно ловил ртом воздух и не мог надышаться.

Постепенно приходя в себя, он понимал: эта стабильная, осязаемая реальность — совсем не то, чего ему хочется. Больше всего на свете ему хотелось вернуться в виртуальный мир. Он жаждал снова испытать потрясающее, невероятное чувство абсолютной свободы.

Из окна бара Cloud Red на крыше отеля Cinnamon Red как на ладони был виден весь Коломбо.

Сезон дождей — хаотичные вспышки молний то и дело озаряют тяжелые слоистые тучи. Надвигается очередная буря.

Дядя Джуниус крутил в руках стакан с виски. Ледяная линза почти растворилась в янтарной жидкости, ее края стали неровными, пористыми. «Чисто ледяные шапки на Южном полюсе», — подумалось Джуниусу.

Чья-то рука так внезапно опустилась на его правое плечо, что он чуть не свалился со стула. Янь Цзюань, глава местного отделения китайской высокотехнологической компании. Стрижка пикси, атлетическая фигура, спортивный костюм — ни дать ни взять гимнастка или футболистка, но уж никак не топ-менеджер:

— Извини, пробки.

— Типично для Коломбо! Ну что, пивка?

— Вообще-то я распробовала один из ваших напитков, — Янь Цзюань подала знак бармену. Через пару минут на их столике появился коктейльный бокал с жидкостью молочного цвета.

— Вот уж никогда не поверил бы, что тебе нравится дешевый кокосовый арак! — Джуниус искренне поразился.

— А что, он приятный, сладенький, с кислинкой. Твое здоровье!

Они чокнулись и оба залпом выпили.

— Смотри, он крепкий, — с улыбкой предупредил Джуниус. — Градусов — как в вашем эрготоу[68]. Я правильно произнес?

— В точку, — Янь Цзюань причмокнула. И посмотрела Джуниусу прямо в глаза: — Ваш арак — как ваш народ. Сладость — это обман.

— Янь, я же дал тебе то, что ты просила. — Джуниус прокашлялся. — Эти дети…

— Ты хочешь сказать, это лучшее, что есть на Шри-Ланке?

— Я сделал все, что вы хотели. Я пошел в игровые кафе и…

— Они недостаточно хороши. Мне нужно больше детей, и они должны быть лучше. У этих скорость слишком низкая. Если мы не найдем действительно хороших гонщиков, инвесторы сольются. Джуниус, подумай, почему мы решили реализовать проект здесь?

— Ну, тут дешевле… — Джуниусу было неприятно это произносить.

— Еще бокал, — махнула Янь Цзюань бармену. — И повторите — моему гостю.

— Я же отдал тебе своего племянника Чамала, — напомнил Джуниус.

— Я слышала о нем. Это твой племянник? Он действительно хорош.

— Его отец говорит, что он родился с ключом зажигания в руке, он дышал бензином еще в утробе матери, — при мысли о племяннике Джуниус заулыбался. — Янь, ответь на вопрос.

— М-м-м-м?

— Вы уверяли, что обновленная система гарантирует безопасность водителям, верно?

Янь Цзюань перевела взгляд за спину Джуниуса, на ночной пейзаж Коломбо:

— Но ты же помнишь, почему мы начали сначала? — Она отхлебнула.

Джуниус молчал. Его рука опустилась на левое бедро. Где-то в глубине, в мускулах, в нервах он вдруг опять почувствовал резкую боль — как ответ на слова Янь. Боль стала тупой и быстро разлилась по всему телу. Врачи не находили в бедре никаких повреждений или воспалений. Сошлись на том, что боль носит психологический характер. А Джуниус ничего им не говорил.

— Ты либо говоришь людям правду и перекладываешь на них всю тяжесть возможных последствий, — Янь Цзюань помахала бокалом, — либо врешь им в обмен на лучшую жизнь.

— Да понимаю я, — вздохнул Джуниус. — Но ты уж, пожалуйста, позаботься о Чамале. Он надежда семьи.

Он встал, сложил ладони у груди и откланялся. В забытом стакане виски таял очередной кусочек льда.

— Что, опять не ел? — отец посмотрел на закрытую дверь в комнату старшего сына. Мама сокрушенно кивнула. Она забрала из комнаты Чамала тарелку с почти нетронутым котту роти. Традиционное крошево из лепешек опять досталось голодным воронам. Уж они-то всегда готовы к дармовому застолью!

— Может, отвезти его в храм Гангарамайя[69]? — Мама хмурилась; она сложила ладони и быстро пробормотала короткую молитву.

— Давай подождем пару дней, — предложил отец. — Джуниус сказал, все проходят через адаптацию. Он произнес какую-то умную фразу… Траектория обучения… Да, точно. А потом, у Чамала скоро зарплата. Эти китайцы могут отлично заплатить!

— На днях я видела, — мама ответила не сразу, — как он стоял рядом с нашей машиной. И выражение лица у него было таким странным… Мне показалось…

Отец резко повернулся к жене.

— …будто он с ней разговаривал, — договорила она.

— Так это у тебя проблемы, — засмеялся отец, — а не у Чамала.

— Он твой сын! И не будь придурком! Если мальчик не хочет там больше работать, мы обязаны это прекратить. Должны же быть другие варианты… Я могу устроиться на работу на полдня.

— Лидия, мальчик счастлив. Он каждое утро охотно идет на работу. Ты можешь вспомнить, чтобы он хоть к чему-то проявлял такой интерес?

— Но…

— Шшшшш!.. — отец поднес к губам указательный палец. — Кажется, идет.

Чамал шумно шаркал — незашнурованные ботинки сваливались при каждом шаге. Он смотрел под ноги и, казалось, не заметил родителей. Мальчик раскинул руки, и на мгновение показалось, будто он вот-вот плашмя рухнет на пол. Он напоминал самолет-штурмовик за секунду до атаки — готов войти в пике и начать бомбометание. Чамал медленно «зашел на посадку», протиснулся между родителями и сделал правой рукой характерное движение — будто переключил передачу в автомобиле.

— Чамал! — окликнула сына мама.

Мальчик вздрогнул, остановился, сделал несколько шагов назад — «включил заднюю» — и лишь тогда повернул лицо к родителям.

— Доброе утро, Чамал! — мама интонацией подчеркнула: «Входя в комнату, положено приветствовать старших».

Глаза Чамала раскрылись еще шире — он будто очнулся и вышел из транса.

В китайском учебном центре Чамал тоже быстро добрался до верхней строчки рейтинга — как в VR Cafе.

Прошло совсем немного времени, но он уже не ощущал себя новичком, паниковавшим на дороге, — его перестал пугать плотный транспортный поток и множество пешеходов. Но это не было вождением ради вождения. Вместе с инструкциями Чамал начал получать от техников учебного центра более конкретные задачи.

Они были схожи по структуре, но сильно различались сюжетом. Некоторые были весьма диковинными — например, предполагали вторжение инопланетян. Другие — пугающе реалистичными: на разрушенной террористическим актом дороге не успевшие затормозить машины с жутким скрежетом врезались одна в другую.

Сложный ландшафт, чудаковатые водители… Но ничто не могло сбить Чамала. Он быстро набрал наибольшее количество очков среди группы юных геймеров, которых Янь Цзюань собрала по всей Шри-Ланке. Ребята встречались каждый день в раздевалке и быстро сдружились. Однако Чамала они всегда провожали завистливыми взглядами: чем больше очков, тем больше денег, а тягаться с Фантомом никто не мог.

Однажды друзья-гонщики попытались раскрутить его — заставить поделиться победной тактикой. Но Чамал только взлохматил волосы и довольно нахально заявил: «Просто я родился, чтобы водить машину».

Скоро Чамал обнаружил, что кабина не предлагает ему абстрактных маршрутов. Чаще всего он ехал по большим городам, расположенным от Ближнего Востока до Восточной Азии: Абу-Даби, Хайдарабад, Бангкок, какой-то из сингапурских искусственных островов, район Большого залива в Южном Китае, трасса Пекин — Гонконг — Макао, шанхайский район Линганг, Новый район Сюнъань, японский Тиба. Все это были реальные места, о них Чамал читал в интернете.

Однажды поступили следующие вводные. Землетрясение с эпицентром на дне океана у Северной Явы вызвало цунами, инфразвук парализовал умную транспортную систему острова. Десятиметровая волна должна обрушиться на остров через шесть минут. Из строя вышли больше сотни беспилотных автомобилей с пассажирами — машины мчались к океану, их неминуемо накроет цунами.

Чамалу вместе с другими гонщиками поручили перехватить управление этими авто и в ручном режиме подключить их к аварийной сети — так можно попытаться избежать жертв. Сеть перенаправит машины к ближайшей зоне эвакуации, и пассажиры будут спасены.

В такой сложной и захватывающей игре Чамал еще не участвовал.

Его аватар перепрыгивал из одного обезумевшего автомобиля в другой, за считаные секунды поворачивал руль в нужное положение, попутно успевал уклониться от падающих с неба камней. Еще прыжок! Все кажется простым и естественным — это как неотъемлемая часть нервного рефлекса. Следующий прыжок. Кроваво-красные цифры обратного отсчета стремились к нулю, периферийным зрением Чамал уловил мерцающую белую линию гребня цунами — она неслась к берегу, с каждым мигом сгущаясь и разбухая.

Оценить величественную ярость природы или по-настоящему испугаться Чамал не мог — не было времени. Мощный и стремительный Фантом с легкостью повелевал прочными стальными машинами, уверенной рукой подключал их к сети, направлял в безопасное место. Ухо меж тем ласкал непрерывный восхитительный звук звона монет — премия полагалась за каждое правильное действие; рейтинг Чамала взлетел до верхней кромки экрана. Гонщик довольно приподнял уголок рта (на большее, если честно, его не хватило), прислушался к себе — силы еще были.

Цунами приближалось и должно было вот-вот обрушиться на Яву. Еще быстрее! Чамал старался заработать как можно больше, пока игра не закончилась. Каждая ускользнувшая миллисекунда отнимала деньги, предназначенные для обучения младших братьев. Благосостояние семьи, его собственная жизнь и судьба всего мира зависели сейчас от скорости его психической и физической реакции.

Чамал приготовился запрыгнуть в какой-то очередной внедорожник, но его настигла ревущая стена воды и пены. Графика игры могла быть и получше — накрытый волной, он видел стыки цветовых зон и даже отдельные пиксели. Прежде чем экран погас, он заметил вблизи еще несколько машин, которые в следующее мгновение смыло. Чамал вздохнул тяжело и печально. Если бы он успел их спасти, ему начислили бы больше баллов.

Но game over — игра закончена.

Чамал постепенно приходил в себя. Он так взмок, что в одежде не осталось сухой нитки. Сил не было — не получилось даже самостоятельно выбраться из кабины. Помогли два сотрудника — они отнесли его в раздевалку.

Элис посоветовала ему взять отпуск. В последующие дни даже такие простые задачи, как поесть ложкой, доставляли Чамалу немало хлопот. У мальчика сильно тряслись руки, свирепая стена цунами опять вздымалась в ночных кошмарах. Эта последняя задача, казалось, лишила мальчишку всей его энергии, в один момент создала вакуум, пустоту — и в разуме, и в теле.

Чамал обычно мало интересовался выпусками новостей, но однажды, все еще отлеживаясь в своей комнате, услышал доносившийся из кухни телевизионный репортаж. Родители ужинали с дядей Джуниусом и прибавили громкость. Диктор рассказывал о цунами в регионе Канто в Японии.

Чамал с трудом поднялся и, пошатываясь, побрел в кухню. Кадры на экране телевизора почему-то показались знакомыми. Камеры наблюдения засняли, как гигантская волна обрушилась на шоссе в прибрежной зоне. Автомобили, беспомощные и казавшиеся невесомыми, как бумажные фигурки, вертелись, кувыркались, а потом исчезали в бурлящей воде.

У Чамала бешено заколотилось сердце. Точно! Дорога, расположение машин, даже мусор… Он видел точную копию финальной сцены игры — она застряла в его сознании в тот последний день в лаборатории.

Так не бывает! Это невозможно! Это же просто была игра, а я геймер!

— Дядя, — он обратился к Джуниусу, с подачи которого оказался в Центре ReelX, — это ведь была только игра, правда?

Джуниус не ответил, помолчал и произнес: «Чамал, хочу тебя кое с кем познакомить».

На тренировочной базе дядя Джуниус подвел племянника к незнакомой двери. За ней оказался длинный коридор, который вел к щедро декорированному помещению. Орнаментов и изделий местных народных промыслов здесь было слишком много — казалось, это не офис, абсурдно гигантская сувенирная лавка. Чамал тут еще не был.

— Что ж, вот мы и встретились, — с дивана поднялась женщина во всем белом. Она сделал несколько шагов навстречу и протянула руку для делового приветствия.

Ладонь женщины оказалась теплой, а рукопожатие — на удивление крепким.

Она жестом пригласила визитеров сесть.

— Я Янь Цзюань, можешь называть меня Янь или Джейд. А ты — Чамал «Фантом», — она не спрашивала, скорее утверждала.

Чамал от удовольствия невольно залился краской, Янь Цзюань продолжала говорить.

— Я руковожу филиалом ReelX в Шри-Ланке. Я видела все твои результаты — ты, без сомнения, прирожденный пилот.

Щеки Чамала уже пылали.

— Твой дядя сказал, что у тебя есть вопросы. Постараюсь ответить. Спрашивай.

Чамал не был готов к такому повороту. Ну, дядя, мог бы и предупредить! Мальчик закусил губу — он напряженно думал. Что я должен сказать? Как мне сейчас быть уважительным и вежливым и вести себя «достойно», как учила мама? Он пытался тщательно подбирать слова, но все еще был слишком усталым и измученным, чтобы быстро соображать и аккуратно формулировать.

— Цунами… Оно было настоящим? — мучивший его вопрос сорвался с языка раньше, чем он успел сдержаться. — Это же была имитация, правда?

— Ты ведь не это хотел спросить? — подмигнула Янь Цзюань. — Ты ждешь четкого и конкретного ответа, хочешь, чтобы я сказала, была это настоящая катастрофа или умелая имитация? Я должна выбрать одно или другое, да?

— А что, есть еще варианты? — у Чамала кружилась голова.

— Скажи сначала: как думаешь, цунами в репортаже было реальным?

— Конечно.

— А цунами в игре?

— Фейк.

— А машины?

— Ландшафт, события — очень реалистичные, автомобили — фейковые.

— А ты действительно помог спасти машины и людей, как думаешь?

До сих пор Чамал отвечал уверенно, а теперь замялся.

— Н-не знаю.

Янь Цзюань насмешливо пожала плечами, но лицо выражало сочувствие.

— Но я знаю, что вы врете! — вдруг выпалил Чамал. — Цунами произошло в Японии — почему вы нам сказали, что это Сингапур? Если мы смогли как-то повлиять на реальность, зачем вы говорили, что это всего лишь игра?!

Вопрос повис в воздухе — Янь Цзюань молчала. Пауза затягивалась, но Янь все же заговорила.

— Я отвечу. Только сначала тоже кое-что спрошу, — она изменила позу, и теперь ее глаза оказались на одном уровне с глазами Чамала. — Ответь «да» или «нет». Ты хотел бы поехать в Китай?

Вопрос застиг Чамала врасплох.

— Только «да» или «нет»! — напомнила Янь Цзюань, увидела растерянность, удивление, неловкость мальчика и усмехнулась. — Ты — наш лучший пилот. Поездка в Китай — премия за отличную работу. Думаю, кстати, там ты получишь ответы на все свои вопросы.

— Вы имеете в виду, я буду теперь ездить по Китаю? — Чамал нахмурился. — Если так, я уже там был, причем во многих местностях.

Теперь оторопела Янь Цзюань — она только через несколько секунд поняла, что мальчик имеет в виду виртуальную реальность.

— Нет-нет, — рассмеялась Янь, — все по-настоящему, в реале. Физически сесть в самолет, долететь до Китая, подышать тамошним воздухом, поесть тамошней еды, пешком обойти знакомые тебе места. Хочешь?

Чамал задумался, поднял глаза на Янь Цзюань, кивнул и с достоинством улыбнулся.

Чамал проснулся от тряски. Спросонья ему показалось, что он в игре — он потянулся к шлему, но нащупал только свои волосы. Мальчик открыл глаза и зажмурился — яркое утреннее солнце било в иллюминатор. За ним виднелись бесконечные ряды гигантских реактивных лайнеров.

Их самолет приземлился в международном аэропорту Шэньчжэнь-Баоань. Спускаясь рядом с дядей по трапу и шагая в терминал, Чамал не переставал восхищаться всем, что видел вокруг. Тут все было огромным и новеньким, с иголочки; солнечный свет попадал в зал терминала через шестиугольные потолочные окна — казалось, помещение заливает мощный метеорный поток. Лучи самой близкой к планете звезды освещают дорогу путешественникам, спешащим из одного места Земли в другое!

В аэропорту их встретила хохотушка Цзэн Синьлань, молодая сотрудница штаб-квартиры ReelX в Шэньчжэне. «Аюбован», — с полупоклоном и сложенными ладонями поприветствовала она гостей на их родном сингальском языке. Джуниус поклонился в ответ, Чамал скопировал дядю.

Втроем они отправились к стоянке беспилотных автомобилей. Тут же подкатил белый внедорожник, двери сами собой распахнулись. Джуниус с Чамалом забрались на просторное заднее сиденье, Цзэн Синьлань устроилась впереди на водительском месте. Работал кондиционер, было даже прохладно — пассажиры мгновенно забыли, насколько влажный и липкий воздух снаружи.

Машина тронулась. Двигатель работал непривычно тихо, почти бесшумно, скорость явно увеличивалась, но люди этого почти не ощущали.

— Сегодня большая часть дорог и транспортных средств в Шэньчжэне соответствует уровню «пять» беспилотного вождения, — Цзэн Синьлань, как заправский гид, начала экскурсию. — Водительское место теперь тоже можно использовать как пассажирское, поэтому в каждый автомобиль мы можем посадить больше людей, а сидеть им стало намного удобнее.

Девушка увлеклась и рассказывала приезжим о мини-карах для одного-двух пассажиров и об интеллектуальной системе. Она сама решает, какой автомобиль отправить клиенту, рассчитывает оптимальный путь, исходя из местоположения пассажиров и возможной скорости движения машины. Так обеспечивается эффективность работы аэропорта и снижается время ожидания для людей.

Внедорожник вырулил на специальную дорогу для беспилотного транспорта. Умные датчики, установленные на обочинах, в реальном времени обмениваются данными с автопилотом, параллельно соотносят их с облачной инфраструктурой управления дорожным движением — поток на дороге упорядоченный и безопасный.

Все это подробно описывала Цзэн Синьлань; ее речь журчала ручейком, и у Чамала даже мелькнула мысль, а не робот ли их сопровождающая?

Джуниус прижал лицо к окну, стараясь разглядеть мелькающий пейзаж.

— Как тут все изменилось! В прошлый раз в Шэньчжэне все было по-другому!

— Ты бывал здесь раньше? — удивился племянник — дядя никогда об этом не рассказывал.

— Да, очень давно. Я помню, как тут строили первую умную дорогу — теперь они повсюду.

— Типичная для Шэньчжэня скорость развития, — все с той же довольной улыбкой откликнулась Цзэн Синьлань. — Погодите, еще не то увидите.

Чамал ошеломленно разглядывал чужой, непривычно огромный город. Небоскребы тянулись ввысь, казалось, до неба — их верхние этажи терялись в облаках. Многие здания здесь были облицованы гладким блестящим материалом, отражающим солнечный свет, — они казались закутанными в светящиеся балахоны, а узор менялся в зависимости от угла падения солнечных лучей.

Огромный Шэньчжэнь казался каким-то первозданным и на редкость упорядоченным. Мальчик не понимал, как такое возможно. Как будто миллионы невидимых нитей тянулись с небес, контролируя каждую дорогу, каждую машину и каждого человека в этом огромном городе, сплетая всех в огромную всеохватывающую паутину.

Но кто же дергает за эти ниточки?

— Смотрите! — Цзэн Синьлань привлекла внимание гостей к чему-то, что, видимо, не часто здесь происходило.

Машины на обеих полосах движения вдруг начали сдвигаться вправо — довольно быстро посередине шоссе образовался коридор. Где-то очень далеко возник и стал быстро приближаться звук сирены — через этот разрыв в трафике пролетела карета скорой помощи. Пропустив ее, автомобили так же оперативно вернулись в свои ряды — будто все время так ехали. На все про все ушло несколько секунд, единственным звуком при этом был вой сирены — не ревели двигатели, не гудели клаксоны. «Так не бывает», — Чамал даже не знал, что сказать.

— Ничего удивительного, ведь люди не врезаются друг в друга, когда куда-то спешат? — Цзэн Синьлань пожала плечами, дескать, это же само собой разумеется. — Глаза сканируют все вокруг, мозг получает информацию и вычисляет расстояние, ноги подбирают скорость и ищут, куда наступить. С машинами то же самое. Глаза — это датчики, камеры и дальномер-лидар[70]; мозг — система управления. А уж ноги — двигатель, шестерни и вся ходовая часть автомобиля.

— Представляешь, если бы у нас в Шри-Ланке было такое, — пробормотал Джуниус. Он погрустнел — опять вспомнил, как не стало его матери, бабушки Чамала. У нее случился сердечный приступ. Но скорая застряла в пробке, и в больницу они не успели. Ее убил не сердечный приступ, а заторы на дорогах.

На панели управления появилось уведомление, динамики тут же продублировали его на безупречном мандарине — стандартном китайском.

— Напоминают о марафоне, — пояснила Цзэн Синьлань гостям.

Чамал хотел спросить, уточнить детали, но не успел — машина перестроилась и направилась к ближайшему съезду. Похоже, все автопилоты на трассе одновременно получили это сообщение: они организованно перераспределились. Синхронность при этом была как у пилотажной группы под командой опытного ведущего.

Беспилотники и в Шри-Ланке давно не были в диковинку, но все-таки они не умели перемещаться с такой точностью и синхронностью без водителей-людей. Чамал глянул на Цзэн Синьлань. Она занимала традиционное место водителя, но и сейчас явно не управляла автомобилем — руки девушки лежали на коленях, а не на руле.

— А сейчас что? — Чамала интересовало все, что связано с автомобилями и дорожным движением.

— Вам, считайте, повезло, такое не часто увидишь. Вы наблюдали в действии обновленную городскую систему управления трафиком. Сегодня ежегодный городской марафон, скоро старт, и все машины с его трассы перенаправляют на другие дороги.

Чамал пытался переварить услышанное и увиденное — он, кажется, попал в мир своей мечты.

Прежде чем отправиться в штаб-квартиру компании, Цзэн Синьлань предложила перекусить. В ресторане кантонской кухни в Цяньхае, решила она, гости сумеют как следует проникнуться местным колоритом.

Чамал проголодался и сразу набросился на непривычную, но оказавшуюся очень вкусной еду. Джуниус уставился в окно и содержимого тарелок, казалось, особо не замечал — механически кидал их содержимое в рот.

— Да что там такое? — ревниво поинтересовалась Цзэн Синьлань. Она подложила в тарелку Джуниуса еще пельменей с креветками, но он, казалось, этого не увидел.

— Сейчас даже горизонт не такой, как раньше, — Джуниус явно пребывал в шоке.

— Мелиорация — один из главных долгосрочных проектов Шэньчжэня. — Цзэн Синьлань была отлично подготовлена, казалось, она готова поддержать беседу на любую тему, связанную с Шэньчжэнем. — Но я слышала, что-то подобное происходит и в Шри-Ланке?

На прибрежной дороге в Коломбо Чамал видел ряды земснарядов, намывавших новую береговую линию в Порт-сити. Эти чудовищные машины изрыгали из задранных длинных морд грязь и песок. Дуги водно-земляной смеси блестели и переливались в солнечных лучах, как золотые. Технику привезли из Китая для совместного проекта — добавить небольшому острову суши и изменить акваторию.

— «Шри-Ланка — ярчайшая жемчужина морского “Шелкового пути”», — процитировала вдруг Цзэн Синьлань, копируя репортеров китайских новостных агентств.

Чамал отложил палочки-куайцзы, которыми ел. Он мучился уже не первый час и наконец решился.

— А у вас вообще остались машины, которые водят люди?

— Конечно, но не все автомобили можно переключить в ручной режим, — ответила Цзэн Синьлань. — Людям разрешено ездить только по определенным дорогам, к тому же обязательно использовать ИИ-устройство. Так что сдать на права очень сложно, лихачи и неумехи просто не могут попасть на современные дороги.

— А мы здесь зачем? — Чамал, глядя в упор, обращался к дяде.

Джуниус и Цзэн Синьлань переглянулись.

— Ты очень-очень нужен, — торжественно произнесла Цзэн Синьлань, — пусть нечасто, но ошибается даже самый продвинутый искусственный интеллект. Всякое случается — вдруг дорогу разрушит взрывом и пользоваться цифровой картой станет невозможно, или какое-нибудь стихийное бедствие — ведь начнется хаос и неразбериха. И тогда на выручку приходят такие, как ты — герои.

— Я не хочу быть героем, — выпалил Чамал. — Я геймер, я хочу играть, зарабатывать очки, получать за это деньги и помогать семье!

Джуниус старательно отводил взгляд. Обстановку разрядила Цзэн Синьлань.

— Нет, вы только посмотрите на эту парочку! — хихикнула она. — Вот родственнички, дядя да племянник, два сапога пара. Чамал, не поверишь, я уже слышала эти слова — их сказал твой дядя, когда первый раз участвовал в нашем проекте! Да, Джуниус?

Джуниус покраснел, он внимательно изучал содержимое глубокой миски-пиалы и тщательно перемешивал суп ложкой. Глаза Чамала расширились.

— Так ты тоже?..

— А что, ты не слышал? — Цзэн Синьлань впервые казалась сбитой с толку.

Чамал отрицательно покачал головой.

— Я… Не хотел… — Джуниус говорил с трудом и очень тихо, почти шептал, очевидно, он наконец-то подобрал нужные слова. — Я знаю, что говорят. Многие считают, что я помогал ReelX творить мерзости, и Будда за это покалечил мне ногу.

Чамал отлично знал, какие сплетни ходят о его дяде, но он не имел понятия, как все обстояло на самом деле.

— Дядя был нашим лучшим пилотом. Он ушел из-за травмы, но прежде спас много жизней, — теперь уже очень серьезно пояснила Цзэн Синьлань.

— Значит, ты, как и я, был водителем-аватаром? — сообразил Чамал. — Но разве нечеловек может покалечиться?

— Это было десять лет назад, мы работали в первой версии программы, гораздо примитивнее нынешней, — объяснил дядя. — Конечно, риски существуют и сейчас, но теперь они несравненно ниже.

— Мы по привычке называем нашу работу игрой, — подхватила Цзэн Синьлань, оставаясь серьезной. — Живой человек гораздо уязвимее любой машины. Время реакции и уровень работоспособности водителя-человека может снизить самая незначительная эмоциональная реакция.

«Так ты соврал мне, — потрясенный Чамал бормотал себе под нос, обращался к дяде, но старался, чтобы до него не долетело ни слова. — Ты сказал, что я буду всего лишь играть. Я думал, ты никогда не обманываешь».

— Чамал, — тяжко вздохнул Джуниус, — послушай одну историю.

Десять лет назад Джуниус участвовал в миссии в районе трассы Сычуань — Тибет. Произошло сильнейшее землетрясение, и игроки должны были доставить предметы первой необходимости пострадавшим.

Афтершоков, и очень сильных, было много. GPS-навигатор оказался бесполезен — сошли оползни, и дороги завалило. Дистанционно управляемые автомобили-беспилотники оказались единственным вариантом. Поначалу Джуниус — он был одним из операторов — справлялся, но после особенно мощного афтершока с горы смертельным дождем посыпались обломки скал.

Джуниус уворачивался на серпантине от летящих сверху комьев грязи и камней величиной с кулак, но пропустил валун. Камень шмякнулся на капот и пригвоздил левую сторону авто к земле. Досталось и самому Джуниусу: его левое бедро пронзила острая боль — сработала система «форс фидбэк»[71].

Конечно, камень прилетел аватару — Джуниус точно знал, что его физическое тело не пострадало. Но боль не проходила, а ощущалась очень даже реально. Это называется синестезией[72].

Здоровая доза этой самой синестезии была для виртуальных водителей-спасателей даже полезной — в нужные моменты стимулировала когнитивные способности водителей-спасателей, помогала вырабатывать адреналин, как при реальном стрессе, отчего обостряется внимание и повышается работоспособность. При этом дозу водитель может варьировать в зависимости от очередной задачи и миссии — по собственному разумению.

Джуниус в тот раз насмотрелся на страдания и горе людей в районе бедствия. Он сознательно превысил уровень синестезии — решил занять у самого себя побольше сил. От него действительно зависело в тот момент слишком многое — десятки человеческих жизней, и даже мысль о снижении уровня синестезии казалась ему невыносимой.

Нога болела нестерпимо. Джуниус изо всех сил пытался сдвинуть машину с места, но та, придавленная валуном, не двигалась; только колеса бешено крутились. Надежду вытесняло отчаяние. Кроме того, подступило чувство вины. Я всех подвел. Нога онемела, Джуниус будто лишился части своего тела.

Реальные спасатели не дремали, операция шла своим чередом. Военные подогнали дроны, подтянулся отряд экстренной поддержки. Постепенно всем нуждающимся оказали помощь. Только вот нога Джуниуса застряла между двумя мирами — реальным и виртуальным. У конечности будто началась своя жизнь, полная боли и сожалений.

— Я понял: если думать об этом как об игре, нога будет болеть меньше, — высказался Чамал, когда Джуниус умолк. Мальчик видел логику, но в истории дяди было нечто, что никак не укладывалось в голове. — Но зачем вообще все это? И почему надо такое терпеть?

— Думаю, чтобы срубить деньжат, а по ходу спасти пару-тройку человеческих жизней. Инвестиции в карму еще никому не повредили, — попытался обернуть разговор в шутку Джуниус. — Земля круглая, вдруг и нас однажды кто-нибудь спасет. Аватары-спасатели быстрее спасателей-людей.

Из ресторана троица отправилась в штаб-квартиру ReelX. В лаборатории Чамал не мог оторваться от новейшего костюма с системой «форс фидбэк». Шлем тоже был новинкой — он мог улавливать биоритмы мозговой активности и на их основе определять в реальном времени психофизиологическое состояние мозга[73]. Цзэн Синьлань заметила восторг в глазах мальчика и пообещала ему такой комплект, при условии что он останется в ReelX и продолжит «играть».

Чамал гладил легкую, как шелк, но непробиваемую, как сталь, ткань из графена, молчал, обдумывал все, что свалилось на него за день.

Он ощущал себя свидетелем будущего, но не был уверен, его ли имел в виду Джуниус. Будущее, каким увидел его Чамал, было чужим, грандиозным и невероятно сбивало с толку. Автомобили-беспилотники и умные дороги, по которым они ехали из аэропорта, оказались лишь верхушкой айсберга. Раньше Чамал представлял себе эту технологию похожей на отцовский автомобиль: простые и понятные детали вроде подшипников, шестерней и проводов соединяются в определенном порядке — все четко и очевидно.

Теперь же эта технология напомнила Чамалу любимое сари матери: просто длинный кусок тонкой, словно паутина, ткани, расшитой сложными узорами, но мама оборачивает ею тело, и простое полотнище превращается в парадное одеяние, сари, да и выглядит совсем иначе — делается похожим на слои туманных облаков, упорядоченные и застывшие в заданной форме.

Чамал смотрел на синий пунктир на электронной карте-табло — это мультяшный самолет (их самолет) входил в воздушное пространство Шри-Ланки. Остров на экране перед его креслом напоминал каплю воды на краю Индийского океана.

Мальчик вытянул шею, выглянул в иллюминатор. Ему хотелось разглядеть свой дом, но за стеклом был только густой туман — они летели в облаке.

В аэропорту их встретила Янь Цзюань и сразу повезла на стройплощадку около учебного центра — это был новый проект Китайской государственной строительно-инженерной корпорации. Фундамент уже залили, и рабочие распаковывали готовые строительные конструкции. Вечерело, в сумерках будущее здание напоминало скелет гигантского зверя. Люди собирались оживить его, а пока прикрепляли к костям куски «мяса» — элементы из стали и кирпича. Не пройдет и пары недель, как на этом месте вырастет новая сверкающая башня.

— Чамал, — начала Янь Цзюань, — нашей компании в этом здании будет принадлежать несколько этажей. Мы оборудуем новые офисы, откроем учебные центры. Я обещаю тебе собственную лабораторию и эксклюзивную кабину виртуальной реальности. Ты сможешь обустроить и украсить их как захочешь, — Янь Цзюань махнула рукой, будто пытаясь вызвать голограмму полностью оборудованной и замечательно оформленной лаборатории с табличкой «Чамал “Фантом”» на двери.

Мальчик издал какой-то звук, но тут же замолк и обернулся к дяде — явно за поддержкой. Джуниус не подкачал — ободряюще улыбнулся.

— Простите, Янь, но я больше не хочу быть водителем-аватаром.

Он так нервничал, что не мог заставить себя посмотреть женщине в лицо. Янь Цзюань молчала, а на слух он не понимал — она удивилась? Расстроилась? Рассердилась? Когда он наконец осмелился посмотреть на Янь, то увидел абсолютный покерфейс. Она умеет держать себя в руках, подумал Чамал.

— Да ладно, все понятно, — Янь Цзюань похлопала Чамала по плечу. — Мы же обманули тебя — такое бремя не по силам подростку. Не всякий взрослый может быть спасателем, а уж аватаром-спасателем — вообще единицы. А теперь мы еще набрались наглости и предлагаем тебе вернуться к нам, надеемся, что будешь нашим лучшим пилотом.

— Я просто еще не готов, — прошептал Чамал.

— А хочешь, расскажу такое, чего не знает даже твой дядя? — предложила Янь Цзюань.

Она огляделась и пристроилась на груде каких-то железяк, поддернув белоснежные брюки — казалось, она совершенно не боялась их запачкать. Машинально оглядывая недостроенное здание, а на самом деле — глядя куда-то внутрь себя, она начала рассказывать.

— Я переехала в Шри-Ланку из Китая и все здесь возненавидела. У меня не было знакомых, и я не могла отличить сингальский язык от тамильского. Меня выводил из себя ваш быт — тут все не походило на мой дом. И я страшно захотела уехать.

Но через несколько месяцев все стало меняться. Я узнала, что когда шершни свили гнездо на подбородке большой золотой статуи Будды в пещерном храме Дамбулла, священники не тронули насекомых, оставили их в покое. Представить такое у меня дома было невозможно — я жила в высокотехнологичном мегаполисе, где всех заботит только рост и развитие.

А здесь я прочувствовала силу бога, ощутила покой, идущий изнутри. Моя семья не была религиозной, но теперь я попробовала молиться. И когда произошло землетрясение в районе трассы Сычуань — Тибет, я изо всех сил молилась, чтобы твой дядя вернулся живым и невредимым.

Чамал взглянул на ногу Джуниуса.

— Со временем я разглядела общее между ланкийцами и китайцами. Две величайшие буддистские реликвии хранятся в храме Зуба Будды в Канди и в храме Лингуанг в Пекине. Будда когда-то укусил яблоко — это была наша Земля, — и два его передних зуба остались в Шри-Ланке и Китае. Разве это не судьба?

При упоминании Будды Чамал и Джуниус сложили ладони перед грудью и поклонились. Янь Цзюань продолжила.

— Я решила остаться и развивать филиал ReelX в Коломбо. Вы были в Шэньчжэне — я так вижу Коломбо, только в вашем, ланкийском стиле.

Чамал удивился — он не мог представить свой город похожим на Шэньчжэнь. Но вслух высказался резко:

— И в этом будущем водители вроде моего отца — не аватары, настоящие — окончательно лишатся работы?

Янь Цзюань с секунду помолчала. А потом сказала:

— Знаешь, люди тут много говорят о том, что развитие ИИ-системы в Шри-Ланке навредит здешнему обществу; что население потеряет работу. У нас есть термин «шок от прыжка». Когда строишь башню, нужно начинать с фундамента и продвигаться вверх, а не прыгать сразу на самый верхний этаж. Однако, встав на путь развития, с него уже не сойдешь. Китайская ReelX решила помочь Шри-Ланке совершить прорыв. Даже если из-за этого исчезнут некоторые рабочие места — появятся другие, и они восполнят образовавшиеся пробелы. И дело геймеров-спасателей — очень, очень важное. Это святое дело.

Янь Цзюань посмотрела в глаза Чамалу, Джуниусу, развела руки, будто хочет обнять обоих разом.

— Я понял, я теперь знаю — это не игра… И я не могу этим заниматься, — пробормотал Чамал. — Как только я вспоминаю об автомобилях, смытых в океан цунами, о людях, которых я мог спасти, но не спас, мне становится трудно дышать. Я виноват, я совершил преступление, я испортил свою карму. Я не могу больше этим заниматься, Янь.

Чамал, весь дрожа, отступил, Джуниус обхватил его сзади за худенькие плечи, с силой прижал к себе.

Янь Цзюань отвела взгляд. Она проиграла. Но еще не сдалась.

— Возможно, технологии и люди действуют по-разному… — начала было она.

Но тут зажужжал смартстрим. Янь Цзюань приняла аудиовызов — звонивший говорил по-китайски, Янь бросила быстрый взгляд на Чамала и Джуниуса. Они не понимали китайского, но по ее лицу увидели: что-то случилось. Она молча слушала — как показалось, очень долго.

— Сделаю что смогу, — произнесла Янь и дала отбой.

— Что? — спросил Джуниус.

— Нападение на храм Гангарамайя. Боевики, много, стреляют из автоматов. Сегодня праздник, там полно народу. По данным камер наблюдения, священники и туристы укрылись в буддийской школе и спальнях, но до них скоро доберутся…

Чамал замер. В Гангарамайю обычно ходит мама.

В этом популярном храме есть музей азиатских статуй Будды. Помимо местных, ланкийских, тут хранятся тысячи статуй божества из Таиланда, Индии, Мьянмы, Японии, Китая и бог знает откуда еще. Гангарамайя всегда был центром духовной жизни Шри-Ланки и привлекал людей со всего мира. Лучше места, если надо выступить на всю планету и нагнать ужаса, не придумаешь.

Чамал, конечно, тоже бывал в Гангарамайе, для него этот храм — и детская страна чудес, и святыня. Как вообще можно подумать о нападении на него?

— Полиция?

— На месте, но им нужна помощь.

— Что можно сделать?

— Там стоит наш внедорожник-беспилотник. Если подогнать его к боковым воротам, можно вывезти часть людей.

У Янь Цзюань дрогнул голос — Джуниус впервые видел ее такой взволнованной.

— ИИ справится? — Джуниус уже разрабатывал спасательную операцию. — Если много дыма и взрывы, лидар ослепнет. Террористы могут смешаться с толпой. Какие предложения?

— Времени нет, надо рискнуть.

— Черт, нога… В тренировочном центре кто-нибудь есть?

— Нет, он вообще закрыт — праздник же.

Трое на секунду замолчали, разом ощутив беспомощность.

— Можно я? — вдруг раздалось еле слышно.

Чамал свесил голову так, что лица почти не видно.

— Это опасно, — обмер Джуниус.

— Дядя прав. Да ты и не в лучшей форме, — тоже запротестовала Янь Цзюань.

Чамал вскинул голову — его взгляд был тверд.

— Я хожу в этот храм с детства, я найду там что угодно с завязанными глазами, — глаза мальчишки блестели. Взрослые не успели ответить — он бросился в сторону учебного центра.

Янь Цзюань и Джуниус переглянулись и побежали следом.

В тренировочном центре было непривычно тихо.

Чамал переоделся и стоял у кабины с молитвенно сложенными ладонями — машина не поедет, если не вознести молитву Будде. Сегодня он помолился быстро — в сердце. Очки-забрало, перчатки — потуже, чтобы не соскользнули. Забрался в кабину — не спеша, но быстро. Защелкнул ремни.

Вдохнуть поглубже — успокоить сердце. Очистить разум. Выбросить все мысли. Все спокойно. Я справлюсь. Вижу только экран.

Предстартовую медитацию прервал стук в окно — Янь Цзюань. Она жестом попросила протянуть ей левую руку и повязала на запястье Чамала красную нитку — на удачу.

— Спасибо тебе, — топ-менеджер кивнула и сделала шаг от кабины.

Чамал с улыбкой завел двигатель и почему-то вспомнил, как дядя привел его в учебный центр в первый раз.

Подключение. Синхронизация. Регулировка виртуального поля зрения.

В следующее мгновение он уже был в огромном джипе-беспилотнике, припаркованном в сотне метров от храма Гангарамайя. Аккуратно проехал по узкой улочке, миновал полицейский блокпост, свернул налево — на Джинаратхана-роуд. Притормозил у главных ворот, на малой скорости проехал мимо небольшой храмовой площади, увидел страшный беспорядок — потерянная в спешке обувь, какие-то личные вещи, мусор. Ворота терялись в клубах дыма. Силуэты статуй богини милосердия Гуань Инь и бога войны Гуань Гуна по обе стороны были едва видны.

Дым густел. Чамал осмотрелся с помощью внешней камеры — раненых нет, хорошо. Он поехал налево по Хунупития-Лэйк-роуд. До цели, боковых ворот храма близ копии буддийского храмового комплекса Боробудур, оставалось всего ничего.

Чамал вспомнил свое огромное потрясение и изумление от впервые увиденной копии Боробудура. Оригинал находится в провинции Центральная Ява в Индонезии. Архитекторы соблюли все пропорции и создали точную копию, только меньшего размера, — и верующие могли молиться тут, в Коломбо. Мама рассказывала, оригинальный Боробудур не взяли ни извержения вулканов, ни взрывы бомб, ни разрушительные землетрясения — он, величественный и великолепный, так и стоит посреди джунглей.

Чамал подрулил к боковым воротам, но двигатель не заглушил. Он вслушивался и озирался — вдруг его заметили террористы? Во рту пересохло, сердце колотилось, от едкого дыма щипало глаза и тошнило. В какой-то момент Чамалу даже показалось, что его сейчас вырвет.

— Расслабься, пульс слишком частый, — раздался в наушниках голос Янь Цзюань. — Помни, ты в игре. Мы отправили SMS туристам в храме, они знают, что за ними скоро приедут.

Игра. Точно. Это всего лишь игра.

Боевиков не было.

Вдруг из ворот высунулся какой-то мужчина. Увидел логотип ReelX на борту внедорожника и исчез. Через несколько минут в воротах показалась группа туристов; несколько человек были ранены, одного вели под руки. Чамал дал машине команду — открылись задние двери. Мужчина, возглавлявший эту группу, увидел, что водителя нет, — дернул ручку передней двери, но опомнился и стал помогать сесть в машину раненым.

В салоне поместилось несколько пожилых женщин и мужчин и матери с детьми — всё, под завязку. Мужчина, неожиданно ставший тут главным, захлопнул дверцу, махнул рукой и отступил за ворота. Один из детей в машине вдруг испустил дикий вопль.

От этого звука у Чамала заныло сердце. Каждая секунда промедления многократно увеличивает риск. Ну, теперь газ в пол! — и машина рванула. Прямо, по дороге, теперь налево, направо. Расслабиться можно, когда до отеля Colombo Cinnamon Red останется с километр.

Одна ходка, вторая, третья. Чамал проговаривал все, что делал — точно так же, как в компьютерной игре. Едешь по обозначенному курсу. Действуешь по инструкциям. Единственная разница в том, что на этот раз он видел лица живых людей, реально бывших в заложниках, он слышал их настоящие крики.

Чамал уже потерял счет сделанным рейсам, на заднее сиденье втиснулся еще один, сказали, последний заложник. Это была последняя группа. Чамал почти уже тронулся с места, как машину обстреляли. Звук разбившихся стекол, цокающих по кузову пуль, крики людей были ужасны — у Чамала зазвенело в ушах.

Он надавил на газ и тут же — на тормоз, машина вильнула, но два боевика в черном вовремя отшатнулись. Грохот! Чамал поискал глазами — что? Третий террорист в маске запрыгнул на капот и уцепился за крепеж багажника на крыше.

Чамал успел заметить на нем пояс из черных одинаковых брусочков, изображение было нечетким, но он разглядел: мигают красные точки. Да это смертник!

Он резко набирал скорость, пробираясь сквозь поток машин, бешено дрифтовал на поворотах, заскакивал на бордюры — казалось, удержаться на капоте сошедшей с ума машины невозможно. Но сбросить террориста не получалось. Люди внутри кричали и плакали. Чамал знал, что только от него зависит их жизнь.

И это была уже совсем не игра.

— Это не игра! — заорал Чамал что есть мочи — и голос сорвался.

— Что?! — крикнула Янь Цзюань в наушниках.

Чамал не ответил. На следующем перекрестке ему надо было сворачивать налево, к отелю, но он развернулся и помчался по берегу озера Бейра, по шоссе A4, обратно, туда, откуда только что почти благополучно вырвался. Периферийным зрением отметил — вокруг зеленые деревья, над бледной гладью воды парят белые птицы.

— Чамал! Куда ты?! — в наушниках полный ужаса голос дяди Джуниуса.

Красные индикаторы замигали быстрее — время на исходе. Террорист, цеплявшийся за крышу, начал молиться.

И тут Чамал увидел то, что искал. Резко направо[74], через две сплошные, через встречку — и вперед, вниз по склону. Машина налетела на остатки какой-то кирпичной кладки, автомобиль сильно подбросило, и он чуть не перевернулся. Вот оно! Храм Сима Малака[75], соединенный с берегом деревянным помостом, казалось, парил над озером Бейра.

Ярко-голубая черепица крыши и позолоченные статуи Будды покойно мерцали в нежных лучах заходящего солнца; храм выглядел удивительно безмятежным и каким-то неземным.

Причал загрохотал и заходил ходуном — все-таки внедорожник был очень тяжелым. Но доски выдержали. Прямо по курсу — мраморный павильон. Он предваряет вход в храм и украшен барельефами с изображениями священных животных и цветков лотоса. В павильоне туристы традиционно бросают на пол монетки — чтобы сбылись загаданные желания.

Белый резной камень — святыня, это след Будды, за ним — статуя лежащего Просветленного в половину человеческого роста. Поза — элегантная и расслабленная, он будто приветствует гостей храма.

— Держитесь! — заорал Чамал людям в машине.

Красные точки на поясе смертника перестали мигать — они горели, словно злобные, налитые кровью глаза какого-то мерзкого чудовища.

Чамал утопил педаль газа — машина рванула вперед. Что такое десяток метров для несущегося внедорожника? Но автомобиль преодолевал их целую вечность.

Прости меня, Будда!..

Чамал не успел закончить пропитанную чувством вины молитву — ее оборвал взрыв.

В баре Red Cloud на 26-м этаже отеля Cinnamon Red Hotel было непривычно тихо — ни обычной для этого места танцевальной музыки, ни психоделических вспышек. Но бар был полон. Посетители, вытянув шеи, смотрели на экран, где в замедленном темпе проецировался видеоролик, смонтированный из записей камер видеонаблюдения.

Внедорожник с разбитыми окнами и вмятинами на кузове мчится к мраморному павильону по деревянному помосту. Удар! Машина будто припала на передние колеса — а задняя часть взмыла в воздух. Дальше — как в гиперреалистичном арт-проекте: капот медленно сминается в гармошку; лобовое стекло разлетается на мелкие кусочки — можно проследить траекторию каждого осколка; тела пассажиров болтаются — раскачиваются взад-вперед, словно в каком-то абсурдно-неуместном танце.

Срабатывают и медленно опадают белыми облаками подушки безопасности. Человека, прильнувшего снаружи к лобовому стеклу, огромной силой инерции отбросило далеко вперед. Его тело плавно взлетело и по параболе опускалось к статуе Бодхисаттвы Гуаньинь в центре Сима Малака, на мгновение накрыв своей тенью след Будды и его лежащую статую.

За пару секунд до того, как должен был закончиться последний сегмент параболы, экран озарился ослепительно-белым светом. Смертник превратился в огненный шар.

Героический автомобиль подпрыгнул еще несколько раз и окончательно встал. Пассажиры начали вылезать и вываливаться из открывшихся дверей. Как выяснилось чуть позже, серьезно никто не пострадал; из травм — только синяки и порезы.

Экран в баре погас, включился свет. В углу кто-то захлопал — и скоро лавина аплодисментов переросла в овацию. Едва начиная затухать, она через несколько секунд возобновлялась с новой силой.

— Давайте еще раз выпьем за нашего героя Чамала! — Янь Цзюань подняла бокал с шампанским высоко над головой.

Игристое вино пузырилось, бокалы звенели.

«Пусть ему повезет в первом семестре в средней школе!»

Бар наполнился смехом и добродушными подтруниваниями. В центре зала стоял почетный гость — худенький смуглый застенчивый мальчик. Каждому сейчас хотелось пожать ему руку, обнять, сфотографироваться с ним и по давней ланкийской традиции подарить венок из орхидей. Мальчик смущался и ежился — он не привык к такому вниманию.

Спасение пришло, откуда он не ожидал. Янь Цзюань, элегантная и сдержанная, в обычном для нее нарядном белом брючном костюме, жестом велела оркестру играть, а официантам — нести еду и еще напитки.

«Веселитесь, дорогие гости! Но у нашего героя по плану пара интервью, так что он вас покинет, — Янь Цзюань подмигнула толпе. — Журналисты никогда не хотят ждать».

Подогретый шампанским и вообще необычной атмосферой, зал взорвался смехом, будто она сказала что-то невероятно остроумное. Янь Цзюань подхватила Чамала и увела в VIP-зал. Там, к удивлению мальчика, было пусто и тихо. Он вопросительно посмотрел на Янь — она с улыбкой наполнила два бокала.

— Я снова тебе наврала — просто хотела вытащить тебя оттуда. За тебя!

Женщина и мальчик чокнулись. Янь Цзюань выпила залпом до дна, Чамал только пригубил.

— Не бойся, не буду уговаривать тебя остаться с нами, — Янь Цзюань панибратски, как равного, хлопнула Чамала по плечу. — Я хочу сделать тебе подарок.

Она шагнула в сторону — оказывается, Янь закрывала собой угольно-черную резную коробку.

Чамал прижал руку к крышке, ощупал пальцами глубокую резьбу. Коробка опознала хозяина по отпечатку и медленно открылась. В ней лежал новейший черный гоночный шлем, облегающий комбинезон и перчатки. Чамал схватил шлем и увидел в защитном щитке свое отражение.

— Спа… — он повернулся к Янь Цзюань.

— Не благодари, — перебила она.

— …сибо, — все-таки договорил Чамал, и улыбка его стала еще шире.

— Ты — не цена, которую мы заплатим за будущее, я не хочу, чтобы ты так думал, — Янь Цзюань говорила совершенно серьезно. — Ты сам — будущее.

Китаянка вытащила свой смартстрим и протянула Чамалу: «Глянь, как тебе?»

На экране развернулась статья с популярного аналитического сайта: «Святой возница: мальчик из Шри-Ланки за рулем беспилотного автомобиля спасает от смерти 11 человек». Пост был проиллюстрирован узнаваемым силуэтом Чамала в его боевом шлеме.

Анализ. Транспортные средства без водителя; полная автономия и умные города; социально-этические вопросы

В научно-фантастических фильмах, — например, «Рыцарь дорог» или «Особое мнение»[76], — беспилотники разного типа уже довольно давно представлены как нечто обыденное. На самом деле такие машины — один из столпов или святой Грааль искусственного интеллекта. Управление любым транспортным средством представляет собой сложную задачу с множеством подзадач и вводных, а также с заметными проблемами в плане неопределенности среды и маловероятных сценариев развития событий.

Именно поэтому в рассказе «Святой возница» говорится, что эта технология еще не достигнет зрелости к 2041 году, хотя от начала коммерческих разработок Google в этой области пройдет уже 32 года, и 52 — с момента, когда Университет Карнеги — Меллона продемонстрировал первый исследовательский прототип беспилотника на реальной трассе.

Автономные транспортные средства станут по-настоящему беспилотными и «самостоятельными» не в результате какого-то одного крупного прорыва, а после десятилетий неудач и ошибок. Одной из первых реализованных технологий данного направления была система автоматического экстренного торможения (AEB), которой, согласитесь, еще есть куда расти.

Беспилотный транспорт, о котором теперь говорят все чаще, — это не просто нынешние апгрейдированные автомобили, а принципиально новый элемент инфраструктуры умного города. Именно в таком виде он и описан в нашем рассказе.

Как показано в «Святом вознице», реализация этой технологии негативно скажется на целом ряде профессий и отраслей и породит серьезные проблемы этического и юридического характера. Разберем их подробнее.

ЧТО ТАКОЕ АВТОНОМНОЕ ТРАНСПОРТНОЕ СРЕДСТВО?

Попросту говоря, беспилотный автомобиль — это управляемая компьютером машина, которая едет без человека-водителя.

Как уже говорилось, вождение является сложной комплексной задачей — считается, человеку требуется около 45 часов, чтобы научиться управлять машиной. Данный процесс с участием человека включает в себя следующие компоненты: восприятие (наблюдение за окружающим миром посредством зрения и слуха); навигация и планирование (увязка среды с локациями на карте и перемещением из точки А в точку Б); выдвижение версий и умозаключения (прогнозирование намерений и действий других участников движения — пешеходов и водителей); принятие решений (применение правил дорожного движения к конкретным ситуациям) и собственно управление транспортным средством (перевод намерения в поворот рулевого колеса, нажатие на педаль газа или тормоза и так далее).

Когда автомобилем управляет ИИ, а не человек, то «думают» нейронные сети, а функции рук и ног выполняют механические компоненты. Например, для восприятия окружающей среды используются камеры, технология лидар и другие радары.

Система ИИ-навигации прокладывает маршрут — связывает каждую точку на дороге с точкой на цифровой карте высокого разрешения.

Специальные алгоритмы позволяют ИИ прогнозировать действия автомобилей или пешеходов. В экстренной ситуации — при внезапном обнаружении препятствия или тем паче движущегося препятствия — решения принимаются на основе действующих регламентов или статистических данных.

Автономные транспортные средства будут совершенствоваться постепенно. Сначала водителю-человеку придется поддерживать ИИ, но потом потребность в этом отпадет. Эти этапы классифицированы Обществом автомобильных инженеров[77] по уровням автономности от 0 до 5 следующим образом.

• Уровень 0 (автоматизация отсутствует) — всем управляет человек, а ИИ только следит за дорогой и предупреждает водителя об опасности, когда сочтет это целесообразным.

• Уровень 1 (практический) — ИИ принимает на себя одну функцию, которую для него определяет водитель-человек, например рулевое управление (круиз-контроль — САПС).

• Уровень 2 («руки прочь») — ИИ выполняет несколько задач (рулевое управление + торможение + ускорение), но ожидает, что человек следит за процессом и при необходимости перехватит управление.

• Уровень 3 («долой глаза») — ИИ может полноценно управлять автомобилем, но человек должен быть готов по его запросу принять управление. (Скептики считают, что подобная резкая передача управления от ИИ к человеку, скорее всего, не ослабит, а усугубит опасную ситуацию.)

• Уровень 4 («долой мысли») — ИИ может управлять автомобилем на протяжении всей поездки, но только по дорогам и только при условии понимания окружающей среды — например, по городским улицам и шоссе, нанесенным на карту в высоком разрешении.

• Уровень 5 («рулевое управление человеком-водителем как опция») — человек-водитель не требуется вообще ни для каких дорог и сред.

Уровни 0–3 можно рассматривать как дополнительные опции, инструментарий ИИ в автомобиле, которым управляет человек. Они повлияют на будущее нашего транспорта только ограниченно.

А вот начиная с уровня 4 машина уже воспринимается как нечто разумное. Когда мы достигнем этого уровня, влияние беспилотников на наше общество примет поистине революционный характер. Транспортное средство уровня 4 — это, например, автобус без водителя, который курсирует по фиксированному маршруту.

Автомобиль уровня 5 может быть роботом-такси, которое можно вызвать через компьютерное (мобильное) приложение — вроде нынешнего Uber или другого агрегатора.

КОГДА ПОЯВИТСЯ ПОЛНОСТЬЮ АВТОНОМНЫЙ ТРАНСПОРТ (УРОВНЯ 5)?

Транспортные средства уровней 0–3 доступны в коммерческом применении уже сегодня. В конце 2018 года в некоторых частях некоторых городов началось ограниченное экспериментальное использование автономных машин уровня 4[78]. Но уровень 5 (и даже уровень 4 с меньшими ограничениями) — это все еще относительно далекое будущее.

Основное препятствие на пути к переходу на уровень 5 — сложность обучения ИИ. Необходимая база данных должна адекватно отображать процесс реального вождения, учитывая бесчисленное множество возможных сценариев. Кроме того, огромна и степень их изменчивости, поэтому пока нет возможности (и способа) собрать воедино все варианты взаиморасположения объектов, перемещающихся по дорогам во всех направлениях при любых погодных условиях.

Правда, уже имеется несколько способов справиться с этой проблемой редких событий. Мы, например, умеем постепенно синтезировать все более сложные данные, виртуально добавляя к каждой дорожной ситуации медлительных пожилых пешеходов; людей, выгуливающих собак; снующих детей с мячиками — и вообще все что угодно.

Мы уже сейчас могли бы запрограммировать некоторые правила относительно «восприятия дороги» при вождении — например, маневры автомобилей (на самом деле, конечно, действия водителей-людей) на четырехполосной дороге в зоне действия знака Stop — благодаря этому отпадет необходимость обучать ИИ пониманию дороги на основе данных.

Однако предлагаемые решения — не панацея, поскольку синтезированные данные априори хуже реальных, а правила в какой-то момент могут оказаться неуместными или начать противоречить друг другу. Но самая большая проблема для достижения уровня 5 — чрезвычайно высокая цена возможной ошибки полностью автоматического автомобиля. Если ИИ неудачно порекомендует вам продукт на Amazon — это досадно, но нестрашно. Но если он сделает ошибку, управляя беспилотником на дороге, под угрозой окажутся жизни людей.

Из-за всех этих проблем многие эксперты считают, что через двадцать лет вряд ли удастся достигнуть уровня 5. Но мы можем ускорить развитие беспилотного транспорта, исключив одну важную вводную: уровень 5 не должен принимать города и дороги такими, какие они есть сейчас.

Если «дополнить» дороги и города и вмонтировать в дорожное покрытие датчики и беспроводную связь, то они станут подсказывать машине, что впереди опасность. Новый город можно спроектировать в двух уровнях: один — для автомобилей, второй — для пешеходов; тем самым возможность столкновения людей и машин окажется исключенной изначально.

Если перестроить городскую инфраструктуру таким образом, пешеходы практически не смогут оказаться в непосредственной близости к автомобильным дорогам. Тогда мы сможем значительно повысить безопасность транспортных средств уровня 5, быстрее вывести их на дороги, не опасаясь за жизни людей.

В рассказе «Святой возница» поток машин переформировался, пропуская карету скорой помощи, а автомобили поменяли маршруты, чтобы объехать марафон. Движение автономного транспорта на усовершенствованных дорогах будет похоже на движение поезда — датчики, программное обеспечение и технический контроль проложат надежные «виртуальные рельсы». Именно так, заметьте, был ускорен запуск автономного транспорта в нашей истории.

Управляемый ИИ беспилотный автомобиль 5-го уровня в целом безопаснее, чем машина с водителем-человеком. Но некоторые обстоятельства способны основательно сбить искусственный интеллект с толку: стихийные бедствия или террористические акты могут сделать совершенно бесполезной систему GPS. Это, конечно, форс-мажор, но в таких сценариях наилучшее решение — привлечь водителя-эксперта.

Реальную сцену можно транслировать в телеоперационный центр, где водители-люди из индивидуальных «кабин» с помощью дополненной реальности оценят обстановку, рассмотрят (через множество AV-камер) все, что окружает автомобиль. Все манипуляции удаленного водителя (например, поворот руля) будут фиксироваться и возвращаться на AV-камеру для совершения реального маневра. Именно так Чамал «виртуально» водит машины в нашей истории.

Конечно, для передачи видеосигнала высокого качества с минимальной задержкой потребуется гораздо большая пропускная способность оборудования, но, по прогнозам специалистов, связь 6G должна обеспечить ее приемлемый уровень примерно к 2030 году. Экспериментальная комбинация усовершенствованных технологий 5-го уровня, дополненных дорог и связи 6G станет доступной примерно тогда же.

Мы вполне уверенно прогнозируем: благодаря итерациям улучшений и усовершенствований безопасный автономный транспорт уровня 5 может широко распространиться к 2041 году. Правда, есть одно условие: должны быть решены и все связанные с этим проблемы этики, подотчетности и ответственности.

Технологии уровня 5 будут развиваться через технологии предыдущих уровней, применение которых расширится и усложнится в ближайшие годы. Этому поспособствует непрерывное пополнение базы данных и многократное улучшение других технологий.

Приведу свежие примеры простейшего применения беспилотных транспортных средств: автономные мобильные роботы (AMR — autonomous mobile robots) и автономные вилочные погрузчики. Пока такие устройства могут работать только в помещении, в закрытых пространствах вроде складов. Но скоро — работа в этом направлении ведется — появятся автономные транспортные средства для использования на фиксированных маршрутах, например в шахтах и терминалах аэропортов.

В городах Китая недавно начали тестировать робоавтобусы и роботакси. С последними сложнее — они должны доставлять пассажиров в разные места, но маршрутные роботы-автобусы, скорее всего, станут обычными уже в течение ближайших трех лет.

Сегодня многие автомобили продаются с функциями уровня 1–3 — вроде самостоятельной парковки или интеллектуального вызова (функция Smart Summon «Теслы»). Не следует забывать и об уже существующем вождении в относительно предсказуемой среде (грузовики на сельских малозагруженных дорогах), и о полуфиксированных маршрутах (автобусы и автомобили-шаттлы, доставляющие пассажиров из аэропорта до отелей).

Благодаря способам раннего применения мы будем собирать все больше данных, совершенствовать алгоритмы ИИ, сокращать количество неожиданностей и создавать прочный фундамент для появления автономного транспорта уровня 5.

ПОСЛЕДСТВИЯ ПОЯВЛЕНИЯ ПОЛНОСТЬЮ АВТОНОМНЫХ АВТОМОБИЛЕЙ УРОВНЯ 5

Появление на дорогах автомобилей без водителя уровня 5 произведет транспортную революцию — машины будут доставлять нас к месту назначения за меньшие деньги, с большим комфортом, и эти поездки станут безопаснее нынешних.

Только представьте: ваш электронный ежедневник видит, что через час у вас назначена встреча. Автономное мобильное приложение (наподобие нынешних Uber или Lyft) заказывает машину к нужному времени, и вам остается только вовремя выйти на улицу.

ИИ-алгоритмы Uber стянут управляемый ими парк автономного транспорта к местам большого скопления людей, которым, вероятно, скоро потребуется куда-то ехать — скажем, если в многотысячном зале заканчивается концерт.

Маршруты транспортных средств можно будет оптимизировать за счет уменьшения времени, в течение которого машина прибывает на вызов, и времени холостого пробега. Маршрут следования машины без пассажира можно прокладывать так, чтобы автомобиль по дороге смог заправиться или зарядиться. Таким образом, из процесса окажется полностью удален водитель-человек. КПД управляемого искусственным интеллектом ИИ-автопарка намного повысится — ведь вместе с людьми исчезнет и человеческий фактор неопределенности.

Распространение доступных автономно управляемых автомобилей для частных поездок значительно сократит расходы пассажиров — сейчас 75 процентов суммы проезда составляет оплата труда водителя. Такое существенное снижение затрат на услуги такси, вероятно, побудит людей отказаться от собственных автомобилей.

У вас наверняка возник серьезный вопрос о безопасности. Если стаж достаточно квалифицированного водителя-человека составляет десять тысяч часов, то у автономного транспорта — триллион часов опыта. Его существенно увеличивает каждый выезд каждой машины, управляемой ИИ, — а искусственный интеллект никогда ничего не забывает! Так что в долгосрочной перспективе (с распространением беспилотного транспорта) мы можем уверенно ожидать гораздо большей безопасности на дорогах, чем сегодня.

А что же в краткосрочной перспективе? Очевидно, правительства одобрят массовое распространение автономного транспорта только тогда, когда он станет «безопаснее людей». Ежегодно в автокатастрофах погибает 1,35 миллиона человек. Таким образом, внедрение любой новой ИИ-технологии в этой сфере должно сопровождаться четкими доказательствами, что она как минимум не опаснее водителей-людей.

После первоначального варианта «безопаснее человека» ИИ продолжит учиться на основе все большего количества данных и, соответственно, совершенствоваться. Так что лет через десять количество смертей на дорогах в 1,35 миллиона человек может показаться нам страшным сном.

Специалистами подсчитано: среднестатистический американец управляет автомобилем восемь с половиной часов в неделю. В будущем мире беспилотного транспорта люди вернут себе эти часы и смогут использовать их более рационально. Производители оборудуют салоны автомобилей для удобной работы, общения, игр и даже для сна. Большая часть автономных машин будет использоваться в режиме райдшеринга[79] и уменьшится в размерах — ведь мы, как правило, делим автомобили с одним, максимум с двумя людьми. Но даже одноместный автомобиль может быть комфортным — с откидывающейся спинкой сиденья, холодильником с напитками и закусками и большим дисплеем.

Больше данных — лучше ИИ; большая автоматизация ведет к большей эффективности, активное использование транспорта способствует снижению затрат, увеличение свободного времени людей — повышению продуктивности их жизни. Одним словом, возникнет что-то вроде взаимоусиливающего добродетельного круга, благодаря которому люди станут все охотнее и быстрее переходить на автономные транспортные средства.

По мере усиления автоматизации беспилотные автомобили смогут играючи связываться друг с другом — мгновенно и безошибочно. Например, пробив колесо, автомобиль тут же сообщит всем вокруг: держитесь от меня подальше. Если машина в плотном потоке покажет окружающим свою точную траекторию, то соседние авто смогут сократить боковую дистанцию до считаных сантиметров, и это не создаст риск столкновения.

Когда пассажир очень спешит, его машина может «замотивировать» другие авто (скажем, предложить немного денег из кармана пассажира) — и они пропустят ее вперед.

Все названное приведет к формированию инфраструктуры, в основном состоящей из ИИ-водителей, и поездки водителей-людей станут считаться небезопасными, а то и вовсе незаконными. Человек способен сесть за руль в нетрезвом виде — а ИИ нет. По всей вероятности, со временем появление водителей-людей запретят на дорогах общего пользования; возможно, сначала на автомагистралях и в центре больших городов. И тогда люди, которые обожают ездить за рулем, станут предаваться любимому увлечению примерно так же, как сегодня это делают любители верховой езды — в специальных местах и зонах.

По мере того как автономные транспортные средства, электромобили, карпулинг (совместные поездки) будут совершенствоваться и распространяться, все меньше людей станут покупать машины в личное пользование (а это эффективно сократит ежемесячные семейные расходы); многоэтажные паркинги можно будет перепрофилировать (тем самым высвободить огромные пространства, ведь, как известно, автомобили 95 процентов времени стоят на приколе), а общее количество машин на дорогах сильно сократится.

Эти изменения в совокупности уменьшат пробки, снизят потребление природного топлива разных видов, уменьшат загрязненность воздуха.

Однако помимо явных благ вроде сохраненных человеческих жизней нас подстерегают и серьезные потрясения. В новом мире беспилотных автомобилей не повезет водителям такси, грузовиков, автобусов, курьерам-доставщикам. Сегодня более 3,8 миллиона американцев зарабатывают на жизнь вождением грузовиков или такси, а множество других подрабатывают в Uber/Lyft, в почтовой и прочих службах доставки, на складах и так далее.

Все эти рабочие места будут исчезать — с такой работой успешно справится ИИ. Существенных встрясок следует ждать и в других традиционных профессиях. Техническое обслуживание автомобилей потребует все меньше механического ремонта и все больше — обслуживания электроники и программного обеспечения. Число автозаправок, автосалонов и гаражей резко сократится — уволят и их сотрудников. Жизнь множества людей изменится навсегда — нечто подобное уже случалось при переходе человечества от конных повозок к автомобилям.

НЕТЕХНОЛОГИЧЕСКИЕ ПРОБЛЕМЫ, СПОСОБНЫЕ ПОМЕШАТЬ ПЕРЕХОДУ НА УРОВЕНЬ 5

Автономные транспортные средства распространятся повсеместно только в том случае, если мы решим ряд проблем, в первую очередь этического характера — ответственности и сенсационализма[80]. Подобных сложностей следует ожидать — речь о миллионах жизней, не говоря уже о множестве отраслей экономики и сотнях миллионов рабочих мест.

Беспилотному транспорту неизбежно придется принимать решения этического характера, как бы странно это ни звучало. В человеческом обществе такие решения крайне мучительны. Возможно, самая известная этическая дилемма, связанная с транспортной сферой, — так называемая «проблема вагонетки»[81]. Нужно принять решение и выбрать между действием и убийством человека А или бездействием и убийством людей Б и В.

Некоторым кажется, что ответ очевиден — жертв должно быть как можно меньше. Но следующий вопрос: а если человек А — маленький ребенок? А если это ваш ребенок? А если транспортное средство принадлежит вам, а человек А — ваш ребенок?

Сегодня, если водитель-человек становится виновником гибели других людей, он предстает перед судом. В ходе заседания определяется, верно ли действовал водитель, мог ли предотвратить трагедию. Если нет — судьи оценивают тяжесть последствий и назначают наказание.

Но кто ответит, если люди погибнут из-за ИИ? Сможет ли он объяснить свое решение так, чтобы его поняли люди? Будет ли это объяснение приемлемым с юридической и моральной точек зрения? Создать объяснимый ИИ[82] чрезвычайно трудно — ведь он обучается на основе данных. Его реакция — сложное математическое уравнение, которое люди поймут, если только его очень сильно упростить.

Некоторые решения ИИ кажутся нам совершенно бессмысленными (ведь он не знает, что такое здравый смысл), а некоторые человеческие решения кажутся глупыми ИИ (потому что человек принял их, скажем, нетрезвым или сильно уставшим).

Не следует забывать и о других серьезных вопросах и проблемах: как компенсировать лишение средств к существованию миллионам водителей грузовиков? Чем занять миллионы часов, которые высвободятся из-за массового перехода на автономный транспорт?

Допустимо ли использовать сейчас временный, промежуточный ИИ, совершающий ошибки, которых не совершил бы водитель-человек? А если лет через пять, когда ИИ «намотает» миллиарды километров и многократно умножит свой опыт, обучится и сильно улучшится, это позволит вдвое сократить количество смертей на дороге?

И наконец, фундаментальный, принципиальный вопрос — сможем ли мы хоть когда-нибудь позволить машине принимать решения, способные причинить ущерб человеку? Если ответ отрицательный — то идею беспилотных транспортных средств нужно похоронить на корню.

На карте — жизни людей, и все компании, работающие над развитием ИИ, должны действовать максимально осторожно. Тут возможны два подхода, у каждого свои достоинства и недостатки.

Первый — осторожничать, медленно накапливать данные в безопасной среде, избегать смертельных случаев и лишь потом запускать автономный продукт (подход Waymo[83]).

Второй — вывести продукт на рынок, как только ИИ станет относительно безопасным, собрать как можно больше данных, поскольку со временем это сбережет много жизней, даже если вначале будут жертвы (подход компании Tesla).

И что лучше? Самые светлые умы современности пока не пришли к согласию.

А вот еще вопрос на засыпку: кто должен нести ответственность за смертельное ДТП, устроенное автономным транспортным средством? Производитель автомобиля? Провайдер ИИ-алгоритма? Программист, который этот алгоритм написал? Водитель-человек, обеспечивавший поддержку? Очевидного ответа нет, но политикам уже в ближайшее время придется его найти, потому что из истории известно: экосистему вокруг подотчетности и ответственности можно построить только тогда, когда они предельно четкие и ясные.

(Например, ответственность за убытки в результате мошенничеств с пластиковыми картами несет компания, их выпускающая, — не банк, не магазин и не пользователь карты. Именно это решение дало компаниям-эмитентам право взимать плату с других сторон процесса и использовать эти средства для предотвращения мошенничеств, что и привело к созданию соответствующей экосистемы.)

Предположим для примера, что за все ответствен автор софта и что программу, которая привела к смертельному исходу, выпустила Waymo. На какую сумму может подать иск семья погибшего, если у Alphabet, материнской компании Waymo, в наличии более 100 миллиардов долларов? Согласитесь, это непаханое поле для адвокатов, навязывающих свои услуги жертвам несчастных случаев.

Нам остро необходимы законы, которые защитят людей от небезопасного программного обеспечения, но при этом должны быть гарантии, что технический прогресс не остановится из-за непомерных штрафов для тех, кто обеспечивает его софтом.

И наконец, последнее. Сообщения о дорожно-транспортных происшествиях довольно редко попадают в заголовки национальных газет. Но стоило в 2018 году беспилотному автомобилю Uber задавить пешехода в Фениксе, новость не сходила со страниц национальной прессы несколько дней. Система Uber, скорее всего, действительно виновата, но оправданно ли подобное внимание медиа ко всем смертельным случаям в будущем?

Если в прессе начнут кричать о каждой смерти, связанной с автономным транспортом, клеймить позором и пригвождать заголовками молодую индустрию, она, возможно погибнет на взлете — а ведь со временем, при благоприятном развитии, она, возможно, позволит спасти миллионы жизней.

Все описанные проблемы способны посеять в обществе страх, спровоцировать принятие излишне консервативных законов и существенно замедлить темпы перехода людей на автономный транспорт. Разумеется, это абсолютно обоснованные и логичные опасения, но если постепенно повышать осведомленность людей, поощрять дискуссии, достигать решений, то мы окажемся готовы к этим технологиям, как только они станут готовы для нас.

Я убежден: в долгосрочной перспективе автономные транспортные средства уровня 5 принесут человечеству неоценимую пользу в самых разных аспектах нашего существования, хотя нам и придется за это платить. Юный Чамал в конце рассказа «Святой возница» тоже это понял.

Глава 7. Квантовый геноцид

Нам не нужен ИИ, чтобы нас уничтожить, мы и сами большие задиры.

«Из машины» (фильм, 2014)

Все вещи переплетены друг с другом; святая связь объединяет их.

Марк Аврелий

ИСТОРИЯ, РАССКАЗАННАЯ ЭНДИ ДУДАКОМ

Примечание Кай-Фу: Прорывные, революционные технологии могут оказаться для нас и огнем Прометея, и ящиком Пандоры — в зависимости от того, как их использовать, во зло или во благо. Гениальный физик из истории «Квантовый геноцид» сорвался из-за личной трагедии и использовал два мощных технологических прорыва во зло — он вступил на путь невиданной доселе мести всему миру. В комментарии я подробнее опишу, возможно, величайший технологический прорыв, который вполне имеет шансы произойти к 2041 году. Квантовые компьютеры могут дать мощнейший толчок и искусственному интеллекту, и вычислениям. Я также опишу автономное оружие с элементами ИИ — это наибольшая опасность, которая грозит нам со стороны искусственного интеллекта. Потенциально — это реальная угроза существованию человечества.

Исландия, Кеблавик

25 августа 2041 года

Местное время 21:38

Летние ночи в Исландии бледны и холодны, как живот утопленника.

В Кеблавике, городе-спутнике Рейкьявика, находится самый защищенный на европейском континенте дата-центр Hrosshvalur. В этой настоящей крепости для хранения данных работают тысячи серверов. Энергию для дата-центра производит геотермальная электростанция, а охлаждение обеспечивают арктические ветра.

Пятьсот ведущих компаний Европы доверили Hrosshvalur свои информационные ресурсы. С материком и с Северной Америкой объект связан двенадцатью артериями — высокопроизводительными оптоволоконными кабелями. До Нью-Йорка информация долетает по ним всего за шестьдесят миллисекунд.

Выбросы углекислого газа в помещениях были почти нулевыми. Робин это казалось чудом.

На пляже в юго-западной части залива Фахсафлоуи лежало старое рыбацкое судно. Зияющая в обшивке дыра делала его похожим на кита с распоротым брюхом. Через эту «рану» в трюм были протянуты толстые черные кабели. Они терялись в темноте, которая изредка вспыхивала сине-белыми огоньками.

В проржавевшем корпусе судна хакеры и разместили свою базу — тут было такое оборудование, о котором многим и мечтать не приходится. Ребята провели здесь полгода, пользуясь дармовыми местными ресурсами: геотермальной энергией, холодным воздухом и избыточной вычислительной мощностью квантовых компьютеров из дата-центра. Сегодня должно было свершиться чудо, ради которого все и затевалось.

Уилл — в этом трио он играл роль спеца по «железу» — колдовал над клавиатурой. Он завернулся в видавшую виды куртку и здорово смахивал на бурого медведя.

— Поверить не могу, что мы дождались, — клацнул он зубами то ли от холода, то ли от возбуждения. — Сколько, говорите, биткойнов у Сатоси[84]?

Ли, 16-летний вундеркинд, откликнулся, не отрываясь от мелькавших перед глазами строк кода.

— Не менее двухсот шестидесяти миллиардов, — тон безразличный, как будто не про кучу долларов шла речь, — а может, и все пятьсот, смотря какой трейдинговой стратегии следовать.

— Бабло — зло, не позволяйте ему трахать вам голову, — в губе Робин запрыгал пирсинг. — Помните, парни, — удача и слава!

В хакерском мире давно поговаривали, что Сатоси Накамото, придумавший биткойн, реально крут и успел намайнить не меньше миллиона.

Считалось, что криптовалюту он держал в цифровом кошельке на основе стандарта P2PK (Pay-to-Public-Key)[85], то есть с использованием открытого ключа. Если это правда, то современным старателям было просто грех не прибрать к рукам сокровища Сатоси.

Майнеры давно отказались от P2PK, потому что каждая биткойн-транзакция, инициированная с использованием этого стандарта, делала ее открытый ключ видимым для всей сети. Более поздние стандарты — например, P2PKH (Pay-to-Public-Key-Hash) — защищены гораздо лучше, по крайней мере, теоретически. Они показывают только хеш открытого ключа, но не сам ключ.

Алгоритм, разработанный Питером Шором в 1994 году (и получивший его имя), позволяет справиться и с закрытым ключом, решив «проблему дискретного логарифма для эллиптических кривых с помощью 16-разрядного открытого ключа». Теоретически он дает возможность подделать цифровую подпись и стырить активы, но практически все упирается в вычислительные мощности.

До изобретения квантовых компьютеров даже самому быстрому суперкомпьютеру, чтобы вычислить закрытый ключ на основании известного открытого, требовалось около 6,5 × 10^17 лет. Это в 50 миллионов раз дольше, чем осталось жить вселенной — число, совершенно непостижимое для человеческого разума.

Робин до костей пробрала впервые возникшая мысль о глубине пропасти между теорией и реальными возможностями. Казалось, какое-то божество намеренно производило вычисления, выходящие за рамки человеческого понимания, чтобы продемонстрировать нам ничтожность нашей цивилизации.

Это случилось, когда Робин было 16 и ее еще звали Умит Эльбакян. Она была чертовски талантлива. Поэтому по приколу вскрывала плохо защищенные онлайн-счета богатеев и раздавала награбленное бедным, как Робин Гуд. Но однажды пришло анонимное письмо с прикрепленной видеозаписью — девушке показали всех ее родных.

В мейле говорилось: Умит больше никогда не увидит родственников, если не согласится работать на Vinciguerra Group.

Это была известная и крайне серьезная криминальная организация.

Умит потерла в сети информацию, которая могла бы навести на ее след (она очень надеялась, что всю или хотя бы почти всю), взяла ник «Робин» и начала работать на Vinciguerra.

Так девушка переселилась в закрытый мир расхитителей «цифровых гробниц», добывавших сокровища из-под руин цифрового века. Но найти клад — полдела. Вскрыть сундук гораздо сложнее. Вдобавок никогда не знаешь, что в нем хранится. И Робин с друзьями, такими же безбашенными хакерами, довольно быстро переключилась на трейдинг — стала торговать найденными сокровищами в даркнете. Покупатель был обязан соблюдать строжайшие правила торгов, а его активы проходили через многократные проверки. Продавец, со своей стороны, должен был доказать ценность товара.

Полгода назад Робин задорого купила у проверенного продавца на анонимной площадке Silk Road 13.0 данные кошелька Накамото. Инфа была замаскирована под произведение-загадку ограниченной серии «Мечтает ли HAL о зашифрованном золоте?».

Только те, кто хорошо знает историю биткойна, могли разглядеть ссылку не на фантаста Филипа Дика и не на компьютер HAL 9000 из «2001: Космическая одиссея»[86], а на самую раннюю имплементацию многоразовой системы доказательства (проделанной) работы (RPOW — reusable proofs of work) и на первого человека, который вывел биткойны из кошелька Сатоси Накамото.

Загадка намекала на Хэле Финни[87]. Он умер в 2014 году от бокового амиотрофического склероза, но перед смертью распорядился сохранить его тело в жидком азоте, надеясь на возможное воскрешение.

Кошельки, как считалось, связанные с Сатоси Накамото, обнаруживали неоднократно, но в них никогда не находили много денег. Крупная рыба на мелководье не плавает, поэтому оставалась надежда, что сегодня вечером в разбитом рыбацком судне на краю света наконец-то удастся выгнать чудовище из глубин на поверхность.

В хакерском логове было душно, к тому же воняло ржавчиной и рыбой.

Расчеты завершались — зеленая полоска индикатора на основном мониторе подползала к 100 процентам. Так будет момент истины?

— Ли, Уилл, у вас там окей? — окликнула Робин.

Ли согласно, с шумом выдохнул, Уилл победно стукнул себя кулаком в грудь.

Индикатор замер. 99, 99 процента. Все перестали дышать.

— Да что ж такое?! — психанула Робин.

— Задержка в подаче данных? — Ли остервенело застучал по виртуальной клавиатуре — пальцы мелькали в воздухе.

— Ну же, давай, давай, — Уилл уговаривал индикатор.

Терпение не лопнуло — его просто уже не осталось. И вдруг раздался звук звона монет. Индикатор мигнул в последний раз — на остававшуюся последнюю одну сотую процента — и исчез. На экранах замелькали строки чисел и банковской информации. Цифра баланса на их общем счете обновилась. Бинго! Получилось!

Парни захлопали в ладоши, и даже Робин, обычно сдержанная и как будто ко всему равнодушная, улыбнулась, но тут же собралась: «Выводим!»

Робин отлично знала — мало добыть сокровища, их надо быстро и хорошо спрятать. Огромная сумма, упавшая только что на незащищенный P2PK-адрес, — легкая добыча. В мире хакеров принято всё — человека, компьютер, пароль — рассматривать как объект потенциального взлома.

Ли отправил запрос на транзакцию, чтобы переместить биткойны с открытого аккаунта на более безопасный. Адрес P2PK был таким длинным, а файл транзакции настолько большим, что на обработку потребуется минут десять, и все это время открытый ключ будет уязвим. Хорошая новость: наиболее эффективны для такого взлома квантовые компьютеры, но их, во всяком случае достаточной мощности, пока не существовало — по крайней мере, официально.

Уилл нервно забарабанил пальцами по стальному корпусу судна. Эхо градом отозвалось из углов логова.

Ли не отрывался от экрана, в линзах очков отражалось сине-зеленое свечение.

— Робин! — заорал он. Она давно знала этого парня — он еще никогда так не паниковал.

— Что?! — Робин кинулась к экрану — там загорелся значок: юзер-аноним.

— Нас хакнули! Кто-то взломал закрытый ключ. Они уводят наши деньги!

— Да ну, хрень! Может, отрубить линию? — предложил Уилл, стоя рядом с толстым кабелем и только ожидая команды.

— Поздно, — Ли сник, — оптоволокно не обгонишь.

У Робин лопалась голова. «Да как такое вообще возможно? На всей Земле нет такого компа…» — она давно просчитала: для взлома их аккаунта требуется 4 тысячи кубитов вычислительной мощности.

И тут разом погасли все мониторы — единственным звуком осталось гудение электрического тока в кабелях.

— Пи-Эс-Ди-Эс[88]. ВФ-фсё… — выдохнул Ли. Он сидел с деревянным лицом.

Уилл с размаху долбанул кулаком по корпусу судна.

Робин, забыв о предосторожностях, выбралась на улицу, под ледяной ветер. Все вокруг нее состояло из ослепительных зеркал — небо, ледник, море, — и все казалось ненастоящим, как если бы весь пейзаж обработали на компьютере с помощью разных фильтров. Стало очень страшно.

Робин упорно думала о том, что только один человек на Земле способен разгадать эту загадку. Она знала о нем, и он совершенно не был ее другом.

Нидерланды, Гаага

9 сентября 2041 г.

Местное время 15:59

На часах загорелись цифры 16:00. Стартовали совместные контртеррористические учения Европейского центра по борьбе с киберпреступностью (ЕС3) и ATLAS Network (Advanced Targeting and Lethality Automated System) — продвинутой системы прицеливания и повышения летальности. Совместная платформа из 42 специальных оперативных подразделений стран — членов ЕС и ассоциированных государств должна была обезвредить группу Dolce Vita.

По сценарию учений, террористы в снаряженных поясах смертников захватили в Северном море, в километре от пляжа Схевенинген, небольшой круизный теплоход. В заложниках оказались около двадцати туристов. Требования террористов: огромный выкуп и освобождение их лидера из тюрьмы в Баварии.

По словам бандитов, любые корабли, суда, плавсредства или летательные аппараты, которые попытаются приблизиться к их базе, будут обнаружены. И последствия, предупредили захватчики, окажутся катастрофическими.

Ксавье Серрано, старший агент EC3, тоже участвовал в учениях. Он находился на специально построенном наблюдательном пункте и разглядывал круизный лайнер в морской бинокль. Ксавье любил старую добрую оптику и предпочитал ее новомодной камере-глазу. Приятная тяжесть внушительного классического прибора его успокаивала. Но расслабиться нельзя — с минуты на минуту ситуация должна была обостриться.

Все возможные планы спасения, подобные задействованному сейчас сценарию, контртеррористическая ИИ-система разрабатывала за считаные секунды. Людям оставалось только выбрать из них наиболее перспективный. Для этого следовало использовать алгоритм прогноза вероятности успеха и степени потенциального побочного ущерба.

Обычно во время реальных происшествий EC3 подключалась к камерам видеонаблюдения и без проблем определяла, где находятся террористы и заложники. Но Dolce Vita о такой практике знала и первым делом перебила все камеры.

Тогда ИИ-система предложила оригинальный ход: создать новую сеть удаленного наблюдения, задействовав имплантаты заложников вроде искусственного глаза и электрического кохлеарного «искусственного уха».

Электронные имплантаты, компенсирующие нарушенные функции человеческих органов, уже распространились достаточно широко, поэтому несколько штук обнаружились и у туристов-заложников. Малая задержка сигнала, практически отсутствие помех — общие свойства изначально разрозненных медицинских устройств, объединенных ИИ-системой, — позволили EC3 обойти линию обороны террористов. Глазами и ушами спецподразделения стали сами заложники.

Одна группа оперативников работала над доступом к изображению и звукам, другая в это время готовила глайдер — новейший подводно-надводный транспортно-десантный аппарат, внешне напоминающий плывущую свинью. Производитель по максимуму оснастил его умными устройствами. Они мониторили в числе прочего состав забортной воды, положение глайдера относительно горизонта, направление движения и глубину погружения. Инновационный аппарат не имел двигателя, и гидролокаторы принимали его за большую рыбину. В нем и разместилась элитная группа бойцов спецназа.

Глайдер оторвался от корабля антитеррористических сил глубоко под водой — на двадцати метрах. На поверхности он показался только вблизи круизного лайнера. Взлетел тактический дрон. Едва поднявшись в воздух, он открыл огонь и сразу нейтрализовал пятерых террористов, оказавшихся в этот момент на палубе. Путь был свободен — бойцы по накинутому на борт трапу ворвались на теплоход.

Благодаря 3D-камерам в своих цифровых окулярах спецназовцы могли примерно определить, где скрываются заложники и где засели остальные злодеи. Вскоре еще троим из них прилетело по умной пуле.

Один спецназовец заметил в рубке человека с детонатором — боец рванул на мостик и разрядил в электромагнитную бомбу импульсный пистолет, отключив функцию связи с детонатором.

Дальше операция двинулась по накатанной: устрашающие дымы, выстрелы, преступники лежат, заложники спасены. Все было кончено за несколько минут.

Ксавье знал, что эти учения скорее пиар-трюк, чем что-то полезное — демонстрация налогоплательщикам мастерства EC3 и ATLAS Network в интересах политиков и медиа. В жизни условия подобных операций никогда не были столь идеальными. К провалу и, как следствие, человеческим жертвам могла привести любая задержка продолжительностью более 20 миллисекунд[89].

Модели человеческого поведения были для искусственного интеллекта открытой книгой. Но террористы нередко ищут и находят оригинальные способы противодействия ИИ, и тогда ситуация усложняется — порой в геометрической прогрессии.

Однако сегодня Ксавье оставалось лишь принимать аплодисменты и поздравления с успешным завершением учебной операции.

Ксавье Серрано приехал в Гаагу из Мадрида три года назад. В отличие от большинства коллег, он поступил на службу в EC3 не из-за престижа и не из жажды адреналина. Несколько лет назад случилась трагедия — европейская преступная сеть Vinciguerra похитила его младшую сестру Люсию. Ее местонахождение до сих пор оставалось неизвестным. В предрассветных кошмарах Ксавье сапфировые глаза маленькой Люсии сверкали в темноте, напоминая: он должен ее отыскать.

Все время вне службы офицер проводил в сети — выискивал какие-нибудь подсказки, зацепки, намеки, касавшиеся похищения девочки. Но постоянно оказывался в тупике. Перспективной оказалась только одна находка, связанная с хакером Робином, техническим гением.

Ксавье разузнал, что это именно он (точнее, она — выяснилось, что это девушка) разработал набор механизмов шифрования для синдиката Vinciguerra и написал код для сокрытия информации о движении их денежных средств. Сами транзакции сделать невидимыми невозможно, это сразу вызовет подозрения, но вот их подробности — вполне реально.

Если поймать Робин, понял Ксавье, он победит синдикат, а заодно, возможно, и найдет сестру.

Ксавье и Робин играли в кошки-мышки уже больше года. Оба мотались по миру: от горы Казбек до города Лиссабона, от острова Сардиния до мыса Нордкин.

Хакерша давно заметила повышенный интерес к своей персоне, восприняла все как вызов и игру — почему бы и не добавить себе адреналина? Но две недели назад Ксавье получил зашифрованный мейл, подписанный «Робин». Содержание письма было совершенно невероятным. Секретному агенту сообщалось: неизвестный украл у хакеров электронный кошелек, в котором находилось больше денег, чем в казне большинства стран Земли, причем для этого была использована невероятная мощность квантовых вычислений. «Если есть кто-то, имеющий доступ к такой силе, то вы, ребята, в большой беде. Так что в ваших интересах помочь мне в этом разобраться», — так заканчивалось послание.

Ксавье пораскинул мозгами и решил пока не докладывать об этом письме руководству. В конце концов, это был его шанс продвинуться в поисках Робин или даже добраться до нее и, возможно, протянуть от нее ниточку к пропавшей сестре.

Подруга офицера Кася Ковальски работала аналитиком в отделении EC3 в Польше. Она легко выяснила, какие основные исследовательские институты специализируются на квантовых вычислениях. Через несколько дней Кася принесла Ксавье список всех учреждений с указанием их технических ресурсов и фамилий директоров.

И эти данные из публичных каналов совершенно не совпадали с информацией о мощности суперкомпьютеров, упомянутой в имейле Робин.

Ксавье уже почти разочаровался, но зацепился за одну вроде бы знакомую фамилию.

— А это кто? — ткнул он пальцем в перечень.

— Марк Руссо? Ты не слышал? Жуткая была история…

Ксавье отрицательно покачал головой. И Кася рассказала.

Марк Руссо, гениальный физик, считался мировым лидером в своей сфере; многие полагали, что именно он станет автором прорыва в области квантовых вычислений. Но некоторое время назад Руссо исчез из публичного поля — его жена и ребенок погибли в лесном пожаре, и он тяжело переживал утрату.

Ксавье решил начать с исследовательского института в Германии, где работал Марк Руссо. Было что-то в наполненных горем глазах физика, что активировало зеркальные нейроны[90] в мозгу Ксавье. Решено — он едет в Мюнхен.

Германия, Мюнхен

11 сентября 2041 г.

Местное время 10:02

Институт Макса Планка выглядел совсем не так футуристично, как представлял себе Ксавье. Серо-желтое здание имело четкие очертания в стиле баухаус[91], самой влиятельной школы прикладного искусства, дизайна и архитектуры XX века — вполне традиционно для Мюнхена.

Ксавье удивился: в холле рядом с бронзовым Максом Планком стояла еще и святая Варвара. Что означало наличие тут, в храме науки, скульптурного изображения христианской великомученицы — символа католической веры? Единственное, что смог предположить Ксавье: статуя олицетворяла восхищение исследователей людьми, которые тверды в своих убеждениях даже перед лицом жесточайшего насилия.

Сотрудник института сопроводил Ксавье в небольшую переговорную — сначала они поднялись на лифте, потом долго шли по коридору. Марк Руссо уже ждал. Ксавье знал: смерть жены и сына превратила физика в угрюмого и нелюдимого волка-одиночку — номинально он возглавлял институт, но в управлении им почти не участвовал. И никто наверняка не знал, как он проводит дни.

— Доктор Руссо, рад познакомиться, — Ксавье улыбнулся, устроился в кресле и с интересом стал рассматривать своего визави. Не каждый день встречаешь человека, который к 27 годам стал дважды доктором наук — в области квантовой информации и физики конденсированных сред.

Из всклокоченной бороды донеслось неразборчивое бормотание — Руссо ответил на приветствие. Гений выглядел страшным неряхой даже по сравнению с самыми неопрятными аспирантами: мятая, вся в пятнах шерстяная рубашка; длинные засаленные волосы стянуты резинкой-махрушкой в небрежный хвост. Глаза Марка были налиты кровью, но горели холодным светом.

Тот еще тип, решил Ксавье.

— У вас десять минут, — голос Марка был грубым, невыразительным, но теперь хотя бы слышным.

— Я представитель EC3, мы с коллегами столкнулись с чем-то, что нам сложно понять. Нас интересует ваше профессиональное мнение.

Ксавье развернул гибкий дисплей, толкнул его к физику через стол и стал пристально наблюдать, как Марк читает письмо Робин. Шли секунды, минуты, но выражение лица директора оставалось совершенно непроницаемым.

— Ну и зачем вы показываете мне эту хрень?

— Это произошло всего две недели назад. И это правда.

— Это слова, а мне нужны доказательства. В Европе и так выбросили сотни миллиардов евро — построили несколько коллайдеров. Смысла в них немного, но надо, чтобы наука не скатилась к метафизической дискуссии о плясках ангелов на кончике иглы.

— Доказательства здесь. Закрытый ключ P2PK-адреса взломали меньше чем за десять минут, и биткойны на 150 миллиардов долларов просто испарились. Все записано с точностью до миллисекунды.

— Это абсолютно невозможно, — Руссо потер глаза и опять уставился на дисплей. — Я мог бы выделить неделю и немного подтянуть вас по математике, но, боюсь, вы все равно ничего не поймете. Это невозможно, если только не…

— Не — что?

— Если только американцы не разработали новые технологии, о которых мы ничего не слышали. И если они не увеличили мощности своих квантовых вычислений со ста тысяч до миллиона кубитов. Но таком случае зачем им какой-то антикварный электронный кошелек?! Да они скорее собрали бы пресс-конференцию и раструбили об этом по всему миру.

Руссо откровенно насмехался, ухмылялся и, кажется, троллил Ксавье, но тому казалось, что директор от него что-то скрывает. Нужно расколоть этого гения во что бы то ни стало!

— Марк… Я могу вас так называть? Вы курите? — секретный агент отлично видел, что Руссо заядлый курильщик — его выдавали желтые от табака пальцы.

Марк вытащил сигарету, закурил и, медленно выдохнув дым кольцами, явно расслабился.

— Все говорят, — Ксавье использовал момент, — что если у Европы и есть хоть какой-то шанс обойти Китай и США в квантовых вычислениях, то он связан с вами.

— Да, так говорят? — Руссо действительно заинтересовался — любой бы повелся на такую лесть, тем более что она правдива. — А вы знаете, что два листа графена, если повернуть их под определенным углом и наложить друг на друга, могут стать сверхпроводниками?

— А-а-а, магический угол? — Ксавье порадовался, что слышал об этой теории, хотя до конца так ее и не понял.

— Точно! — восхитился Руссо. — То же происходит и в квантовом поле, только угол тут более сложный, трехмерный. Благодаря работам в области квантового топологического порядка, которые вел профессор Сяо-Ган Вэнь[92] сорок лет назад, мы, возможно, сумеем значительно увеличить вычислительную мощность за счет добавления ограниченных кубитов, — Руссо немного помолчал. — Вы знаете, почему древние египтяне строили именно четырехгранные пирамиды, а не какой-нибудь другой формы?

— Вряд ли из-за красоты.

— Они считали, что эта форма фокусирует и усиливает космическую энергию и сможет вернуть к жизни мумии.

Ксавье пожал плечами. Мистика его не интересовала.

— И, возможно, они были правы. Топология[93] в некоторой степени действительно может объяснять распределение энергии или информации и даже повышать эффективность преобразования энергии способами, которых люди не могут себе представить. Мы провели серию экспериментов и использовали искусственный интеллект, чтобы найти наиболее эффективный вариант квантовой топологии. Но это лишь предварительные выводы, до практического применения еще далеко.

У Ксавье создалось впечатление, что Руссо заранее знает вопрос и просто не ждет, когда его зададут — сразу отвечает. Однако слова профессора не развеяли подозрений — напротив, усилили.

— У меня еще вопрос; уж не знаю, спрашивать или нет. Он о вашей семье.

— Не понимаю, какое отношение это имеет к нашей дискуссии.

Разговор был окончен, установившийся было контакт нарушился. Ксавье не ожидал столь резкой реакции Руссо и оказался не готов. Под откровенно неприязненным взглядом собеседника агент начал подниматься со стула.

И тут у обоих разом зажужжали смартстримы.

Ксавье отреагировал на сигнал — на экране появился красный баннер «Срочные новости».

Марк же безмятежно смотрел в окно, курил, пускал кольца — будто уже знал, что происходит.

Ангельские трубы возвестили о грядущем апокалипсисе уведомлениями.

В двух часовых поясах от Германии, над Ормузским проливом[94], по которому транспортируется треть мировых запасов нефти, появилась большая группа беспилотников-дронов. Как рой черных диких пчел, они ворвались в порт и с хирургической точностью атаковали ключевые звенья нефтетранспортной системы: взорвали цистерны, повредили трубопроводные насосы, утопили супертанкеры.

Порт парализован, на поверхности воды горит разлившаяся нефть. Дислоцированный в Персидском заливе флот США не успел среагировать, и теперь там тоже все пылает.

— Вот красота-то!

Ксавье с трудом оторвался от страшных новостей и ошарашенно посмотрел на физика — тот по-прежнему не двигался. Потом медленно повернулся и произнес: «Похоже на какой-то грандиозный фейерверк».

Северное море

Рейс Амстердам — Гаага

15 сентября 2041 г.

Полночь

Сквозь сон Робин услышала вздохи и охи, прокатившиеся по салону. Еще толком не проснувшись, она ткнулась в иллюминатор и увидела внизу мигающие красные огни, похожие во тьме ночи на кровавые раны.

Датский пролив[95]. Три дня назад он был атакован, и разрушения еще не ликвидировали.

Ущерб был беспрецедентным. Всего нападению подверглись семь основных мировых маршрутов транспортировки нефти. Ежедневно из главных регионов добычи по остальному миру отправляется больше 60 миллионов баррелей нефти-сырца, большая часть перевозок приходится на несколько узких водных путей: Ормузский, Малаккский, Датский, Баб-эль-Мандебский и Турецкий проливы и Суэцкий и Панамский каналы.

Если заткнуть эти «бутылочные горлышки», мир ощутит примерно то же, что интубированный больной при отключении аппарата ИВЛ. Страшные последствия наступят практически сразу: стремительный рост цен на нефть, паника на рынке, инфляция, заторы на дорогах. Коллапс систем распределения и обслуживания, а затем и финансовой системы. Ни машин, ни самолетов, ни кораблей, ни пластика, ни альтернативных источников энергии. Разграбление региональных ресурсов. Хаос. Беспорядки. Локальные войны. Тотальная война.

От нефти сильно зависимо производство товаров или оказание услуг, кроме разве что сельского хозяйства. Вложения в исследования и разработки в области новых энергетических технологий считаются слишком рискованными, поэтому инвесторы не рассматривают эти отрасли серьезно. От недостатка финансирования различные прорывы произошли слишком поздно и не могли предотвратить надвигающийся полномасштабный кризис.

Международное энергетическое агентство[96] давно обязало страны иметь резерв нефти не менее чем на 90 дней на случай чрезвычайной ситуации. В последний раз распечатать эти запасы пришлось после Великого сдвига Тихоокеанского пояса, перед этим — после урагана «Катрина», а еще раньше — после войны в Персидском заливе[97].

На этот раз человечеству не так повезло. Мечта о цивилизации, построенной на нефти, вот-вот грозила обернуться кошмаром. Лавина уже была готова сойти на мир.

Но кто же все это натворил? Ответственность за происходящее пока не взяла ни себя ни одна организация.

Военным удалось сбить несколько беспилотников-агрессоров, которых журналисты уже окрестили дронами Судного дня. Но локальные победы не прибавили ясности — системы самоуничтожения срабатывали раньше, чем инженеры успевали сделать хоть какие-то выводы. В воздухе повисло бесчисленное количество вопросов.

Откуда взялись беспилотники? Как они обошли системы оповещения? Чего они добиваются?

Никто не знал.

Ксавье вызвал Робин шифрограммой, и девушка срочно вылетела в Гаагу. EC3 захватила один дрон — он почему-то не самоуничтожился, но для его изучения были нужны лучшие силы. Пришлось обращаться к хакерам. По некоторым признакам, за терактами могли стоять те же люди, что умыкнули биткойн-сокровища Робин. Во всяком случае, система управления пленным дроном была активирована почти в те минуты, когда грабили ее группу в Исландии.

Кроме того, Ксавье точил зуб на Марка Руссо, профессора и гениального физика. Он был главным подозреваемым, но чтобы легально заключить его под стражу и с пристрастием допросить, нужны основания. А их проще всего получить с помощью высококвалифицированных, но неангажированных, а оттого малоизвестных публике спецов в области информационных технологий. Лучшие из них рано или поздно становились хакерами.

«Вы нам нужны, — писал Ксавье говорилось в посланном ей сообщении. — Только вы уже сражались с этим врагом».

Если честно, события в старом ржавом судне Робин не расценивала как бой. Она колебалась, стоит связываться с агентом спецслужбы, но все же откликнулась на просьбу о помощи — EC3 пообещала ей амнистию по криминальным хакерским делам. Поэтому и пришлось лететь — далеко не все деликатные задачи можно решить на расстоянии.

Робин, разумеется, рассказала Уиллу и Ли о предложении Ксавье, но парни не пришли в восторг и постарались отговорить подругу. Ксавье не первый год охотился за их группой, и они резонно подозревали ловушку. Но у Робин был свой интерес.

«Иногда, чтобы выиграть, нужно сначала проиграть», — сказала однажды бабушка маленькой Умит, и девочка запомнила эти слова.

Робин знала Ксавье лучше, чем кто-либо в мире. Она собрала всю его жизнь по мельчайшим кусочкам, раскиданным по отдаленным уголкам интернета. Все сведения, ничтожные и всеобъемлющие, искусственный интеллект воплотил в голографической модели для расчета эмоций и поведения при реальном человеческом взаимодействии. Этот алгоритм разрабатывали для борьбы с терроризмом, но Робин позаимствовала его и приспособила для собственной контрразведывательной операции.

Чем лучше Робин узнавала и понимала Ксавье, тем больше крепло возникшее у нее двойственное чувство. Она сочувствовала пауку, в паутину которого попала. Она знала, что Ксавье пытается разыскать пропавшую сестренку. И она знала, что его, скорее всего, ждут скверные новости. Жизнь жертв торговли людьми — это ад. Возможно, Ксавье этого лучше и не знать, часто думала Робин.

Vinciguerra раз за разом уходила от EC3. Защитные системы, разработанные Робин, скрывали, зашифровывали, уничтожали следы злодеяний. Будь то торговля людьми, преступное обращение с детьми в сети, кража персональных данных или финансовое мошенничество — все исчезало, как вода в воде, не оставляя ни тени, ни следа. Эти системы спасали преступников от возмездия, а семью Робин — от смерти.

Помощь Ксавье со стороны Робин будет, по сути, публичным объявлением войны работодателю; кроме того, она нарушит дух хакерского братства. Самой Робин, скорее всего, придется провести остаток дней в подполье, скрываясь от ужасных последствий своего нынешнего решения; хотя, возможно, оно будет стоить ей жизни. Но Робин не могла допустить подобного для своих родных.

Чувствительный толчок возвестил о благополучной посадке в аэропорту Схипхол в Амстердаме.

Все, поздно давать заднюю, подумала Робин, выходя в темноту ночи.

Ее встречали. Старый знакомый, с которым она, однако, никогда не виделась, не сумел скрыть удивления. Может, его ошарашил ее пол (хотя он, конечно, знал, что она не мужчина), может, возраст, а может, и внешность. Но скорее всего — все вместе.

Пара была чрезвычайно странной, вероятность их случайной встречи в этой жизни была ничтожно мала, но спустя несколько минут они уже вместе молчали в пуленепробиваемом беспилотном автомобиле по дороге в Гаагу.

Робин видела, что Ксавье есть что сказать, но он сдерживается, и девушка оценила это. Она сосредоточилась: на экране были все данные о сбитом дроне, которые EC3 собрала из множества возможных источников.

Конструкторы продумали все до мелочей. Орудийный компонент и энергосистемы довольно обыкновенные. Системой управления полетом руководит встроенная интеллектуальная программа, для расчета оптимальных траекторий и распознавания среды и цели она использует высокоэффективные камеры глубинного зрения.

Сложное шифрование — надежная защита от любых помех. Оно не по зубам даже CRPC-технологии (сognitive radio protocol cracking — когнитивный взлом протокола радиосвязи) последнего поколения. Рой дронов практически любой численности мог синхронизироваться в режиме реального времени — они координировали действия, избегали столкновений между собой и с другими объектами. Обнаружить приборами рой было практически невозможно — не говоря уже о том, чтобы идентифицировать и предупредить нападение.

Робин дочитала и почему-то подумала о мистере Блинке. Легендарный хакер много лет прожил отшельником. Говорили, именно он ломанул в 2034 году Центр управления НАСА и сорвал запуск ракеты. Но Блинк исчез много лет назад. Во всяком случае, ни о какой его деятельности не было слышно, и многие решили, что он умер.

— Постарайтесь хорошенько отдохнуть, — машина парковалась у отеля, и Ксавье наконец прервал молчание. — Я заеду завтра в девять.

— А что сегодня?

— Сегодня?

— Я же не развлекаться прилетела. Время дорого, — Робин холодно и даже строго посмотрела на Ксавье. Тот поднял брови и назвал машине новый адрес. Спустя двадцать минут они прибыли в Vulcan 7, секретную лабораторию EC3.

Сотрудники лаборатории явно больше всего ценили логику и сарказм и, видимо, при выборе названия вдохновились расой вулканцев, разумных существ из фильма «Звездный путь».

Едва Ксавье и Робин вошли в ангар, вспыхнул свет — сработала автоматика, — и девушка увидела на верстаке из титанового сплава маленькое угольно-черное механическое нечто. Оно было опутано разноцветными проводами и проводочками и выглядело настолько хрупким, что связать его с хаосом, царящим ныне во всем мире, было практически невозможно.

Робин первым делом попросила логи. Журнал испытаний появился на экране центрального пульта, строки менялись с головокружительной скоростью, и вдруг девушка резко остановила поток — как дирижер, жестом заставив умолкнуть хор.

— Есть что-то? — Ксавье удивился быстрому результату.

— Он мертвый. Его надо оживить.

— Не понял.

— Мы не сможем пробить систему защиты и дотянуться до внутренней программы перезаписи, пока дрон не окажется в режиме выполнения задачи. Это все равно будет невероятно сложно — как попасть игральной картой в окно «Феррари», летящего под 500 километров в час, — Робин печально улыбнулась, лицо ее было смертельно бледным.

Ксавье опустился на стул. Ночка обещала быть долгой.

Нидерланды, Схевенинген

16 сентября 2041 г.

Местное время 14:31

Курорт Схевенинген находится всего в пяти километрах от Гааги, это излюбленное место отдыха голландцев. В хорошую погоду на его пляжах полно серфингистов, в воздухе летают разноцветные воздушные змеи.

Никому бы и в голову не пришло, что в этом идиллическом месте находится явочная квартира EC3. В одном из коттеджей, разбросанных по берегу, сидел Марк Руссо; он выглядел еще более сердитым и изможденным, чем в прошлый раз.

— Уверены, что не хотите? — Ксавье поставил на стол контейнер с сырой сельдью. Зубочистка с голландским флажком, прикрепленная к упаковке, предупреждала туристов, что это довольно специфическое местное блюдо. Резкий рыбный запах заполнил комнату.

— Я требую адвоката. Это незаконно, — не ответил на вопрос Марк; его голос хрипел, а тон был весьма угрожающим.

— Это законно. Согласно особому положению ЕС о защите свидетелей мы имеем право вас задержать, — Ксавье вплотную подошел к физику и понизил голос. — Знаете, Марк, за вашу голову назначена большая награда. А те хакеры, которых вы обобрали, вообще хотят, чтобы вы исчезли навсегда. Так что пока мы будем держать вас в этом милом домике ради вашего же блага. Ясно?

Руссо в ярости бросился на Ксавье. От его обычной сдержанности не осталось и следа. Но за несколько миллисекунд его одежда трансформировалась и блокировала движения. Гений рухнул на стол. Теперь он лежал, тяжело дыша, раскинув руки, искаженное злобой лицо прижато к столешнице. Двигать получалось только налитыми кровью глазами.

Он уже немного отдышался и вдруг выдал, чуть ли не смеясь:

— Но вы не свяжете происходящее со мной, верно?

Ксавье затеял рискованную игру. Он использовал Марка, чтобы привлечь на свою сторону Робин, а ее — чтобы давить на Марка. Идея о якобы защите Руссо от решивших его убить хакеров только что сработала, и теперь надо придумать что-нибудь еще. Попытки доказать причастность Руссо к террористическим атакам привлекут внимание всех спецслужб мира. Какое-то время Ксавье сможет отбиваться — у него специальные полномочия, но если вину Руссо не удастся доказать, то все окажется напрасно.

Ксавье опирался исключительно на интуицию. В глазах Марка горела ненависть — а она толкает на самые безумные поступки. Ксавье тоже потерял родных и понимал Марка — такое не дано никакому искусственному интеллекту.

Главный вопрос заключался в том, как Марк это сделал. За всем стояла огромная, непостижимая мощь. Тянуть было нельзя, но пока приходилось поднимать ставки.

— Марк, вы не оставляете мне выбора, — начал атаку Ксавье. — Мне придется заставить вас вспомнить то, о чем вы упорно не хотите говорить. Мне жаль, если это вас огорчит, но вспомнить придется. Кое в чем машины лучше людей.

— О чем вы?

— Возможно, вы умеете держать лицо, но система проведения допросов с применением ИИ улавливает тончайшие сокращения мышц и вариации тона. Мне, признаться, очень не хотелось бы использовать эту технологию, хотя она замечательная. Она еще не доработана, несколько человек получили из-за нее необратимые повреждения мозга, но это все несущественно. Для ее применения нужно заполнить слишком много скучных форм, а мне страшно неохота. Но вы не оставляете мне выбора.

Ксавье почти не врал. Новая ИИ-технология ведения допросов Bad Trip предполагала неинвазивное нейроэлектромагнитное вмешательство в лимбическую систему. При этом возникали сильные болезненные переживания, как физические, так и психологические, часто включались травматические воспоминания.

Они были намного реалистичнее большей части искусно разработанных предложений XR — погружение оказывалось полным. Это было похоже на повторяющийся кошмар, многократно усиливающий любые эмоциональные реакции и полностью разрушающий логику.

Несмотря на новизну технологии, репутация у методики Bad Trip была уже запятнанной — в результате ее применения испытуемые часто получали долгосрочную психологическую травму. Прослеживалась и связь Bad Trip с многочисленными попытками суицида. Кое-кто в EC3 давно требовал запретить этот метод проведения допроса, но из-за резкого всплеска терроризма в Европе принятие решения все время откладывали.

Два техника, выполняя команду Ксавье, втащили в комнату похожий на осьминога прибор и принялись укреплять многочисленные датчики на голове Марка.

— Стойте, — бравада физика явно дала сбой.

Ксавье испытывал огромное отвращение к самому себе. Как он мог так низко пасть? Цель оправдывает средства? Ради торжества справедливости можно все? Но ведь это ради Люсии, убеждал он себя. Все ради Люсии.

— Подождите! — Марк уже вопил. — Я скажу, где будет следующая атака!

Ксавье поднял руку — техник замер.

— Не играйте со мной, Марк. Мое терпение не безгранично.

— Дайте бумагу и ручку! Развяжите меня!

Через несколько минут Ксавье получил список мест будущих атак и пытался связаться с Робин по защищенному каналу связи. Из дальних помещений доносились вопли Марка: «Я рассказал вам все, что знаю! Отпустите меня!»

Ксавье помедлил и через распахнутые двери анфилады комнат махнул технику. Тот кивнул и продолжил цеплять щупальца механического осьминога к голове физика.

— Твари! Вы пожалеете! Упыри! Вы все равно ничего не измените! Подонки! — глаза физика уже лезли из орбит, он бился, изрыгал проклятия и отборные ругательства. Техник затянул последний ремень. Вены на шее и лбу Руссо набухли синими червяками.

«Мне очень жаль…» — еле слышно пробормотал Ксавье и вышел на улицу.

Прибор затарахтел, как компрессор в старом холодильнике. В глаза Марка ударил зеленый луч. Профессор сразу застыл, словно парализованный. Ему показалось, будто в мозг с размаху воткнули и загоняют все дальше ледяной вертел.

Глаза бедняги слезились, но закрыть их он не мог.

Бельгия, Брюссель

17 сентября 2041 г.

Местное время 7:51

Двадцать пятая конференция G-STIC (Global Science, Technology and Innovation Conference — Глобальная наука, технологии и инновации) проходила в Международном конференц-центре NEO II, рядом со стадионом имени короля Бодуэна, Атомиумом и Брюссельским экспопарком. В зале, как обычно, собралась элита мира высоких технологий, инвесторы, бизнес-лидеры, политические деятели и знаменитости планеты.

В третий, последний день конференции атмосфера чрезвычайно накалилась. Безопасность на G-STIC всегда была отменной, но из-за недавних атак на всемирную нефтяную инфраструктуру все правоохранители постоянно находились в состоянии сверхвысокой боевой готовности. Именно сегодня ожидался доклад Рэя Сингха, владельца IndraCorp, компании стоимостью более триллиона долларов.

В последние годы Сингх строил морской город, не жалел на это средств и был мишенью радикальных экологических организаций.

В воздухе над морским городом зависли беспилотники ATLAS Network. На крупных дорогах по километровому периметру вокруг центрального комплекса зданий выставили блокпосты. Бойцы спецназа в черном полевом обмундировании вглядывались в небо. Усиленная оптика позволяла заметить все подозрительное.

Ксавье и Робин устроились в оперативном штабном автофургоне. Они следили за мониторами — если верить Марку, очередная атака должна начаться через десять минут.

Антитеррористическая ИИ-система проанализировала предыдущие случаи и пришла к выводу: вероятность удара, подобного уже нанесенным по нефтяным хабам, здесь близка к нулю. Место строительства нового города не было ни энергетическим, ни транспортным узлом — ничего общего с уже уничтоженными целями.

Большую часть мировых военных и правоохранительных сил в последние дни стянули к важных объектам энергетической инфраструктуры, это стратегическое решение подкреплялось фактическими данными и логикой. И Ксавье было очень непросто убедить начальство из EC3 и ATLAS Network отнестись к его информации серьезно и выделить ему подразделение для обеспечения безопасности морского города. Ксавье поставил на кон все свое профессиональное будущее.

Робин отхлебнула из одноразового стаканчика остывший кофе.

— Ничего не вижу, только наши беспилотники.

— Нет, Руссо не врал.

— Он что, хотел сорвать собственные планы?

Робин не знала о методике Bad Trip, а Ксавье ее не просветил:

— Может, этот парень хотел полюбоваться, как мы будем его останавливать?

— Кажется, самоуверенность завела его не туда, — Робин пожала плечами.

И тут раздался звонок. Звонил Дом, командующий операцией, отвечавший за наземный сектор. В его голоса звучала тревога: «Что-то приближается с запада… стая птиц или что-то в этом роде…»

Робин изменила параметры сканирования наружного пространства. На экране появились мигающие красные огоньки. Они стремительно приближались, держались кучно.

— Да, правда, похоже, птицы… Черт! Они же должны имитировать полет стаи, чтобы обойти систему обнаружения!

Ксавье включил рацию: «Первый, первый, я штаб. План “Альфа”! Держите запад! Прием». Приказ адресовался Дому, но тот не отозвался.

— Готова? — Ксавье развернулся к Робин. — Это тебе не код писать. Мы запросто можем погибнуть.

Робин усмехнулась и надела черный XR-шлем.

Оперативный фургон чуть продернуло вперед — от него отделился ранее невидный (он был хорошо закреплен и замаскирован) тактический мотоцикл. Ксавье прыгнул на водительское место, Робин тут же устроилась у него за спиной. Стая зловещих черных птиц уже заняла все небо, они были везде.

Дроны оказались маневренными и быстрыми, а оперативный автомобиль, бронированный, специально подготовленный для антитеррористических операций и заряженный всякими хитроумными приборами, оказался довольно тихоходным.

Физическое расстояние следовало сократить насколько возможно — иначе не получится нейтрализовать беспилотники, на что бы они ни нацелились. Ксавье пришлось вывести байк — так они могли существенно выиграть в скорости. Однако теперь он и Робин были практически беззащитны.

Ксавье включил двигатель. Мотоцикл с ревом рванул с места. Робин вцепилась в Ксавье, байк дважды подпрыгнул на ухабах — в воздух взметнулся гравий. Мотоцикл летел по земле за роем дронов Судного дня.

Мощные коротковолновые передатчики, укрепленные на запястьях Робин, могли бить очередями. Девушка подняла было руку, но дроны были явно быстрее, и она не особо рассчитывала свалить хотя бы одного. Шанс все же был, пусть и ничтожный. Лучше бы, конечно, получить доступ к управлению дронами. Робин знала: действенный способ только один — использовать пробелы в протоколах связи и применить декомпиляцию[98], или реинжиниринг. Но для этого надо подобраться к беспилотникам еще ближе.

Спецназовцы в это время палили по дронам из автоматического оружия — видимо, Дом отдал такой приказ. Но беспилотники на шквальный огонь почему-то не отвечали — они вообще не реагировали. Обстрел существенно проредил стройные первые ряды, но уцелевшие не меняли ни скорость, ни направление движения.

Живописная округа внезапно превратилась в поле ожесточенной битвы. Отовсюду слышались взрывы — все затянуло черным дымом.

— Жми! — заорала Робин в ухо Ксавье.

Ксавье с силой газанул. Байк взревел, вздыбился — закозлил — и с грохотом плюхнулся на землю.

— На два часа! — прокричал Ксавье, повернув голову к Робин, чтобы она знала, куда смотреть. Мотоцикл несся к отбившемуся от стаи и опасно снизившемуся дрону. Беспилотник все больше походил на птицу. Его ранило, от обшивки отваливались куски обшивки, он продолжал снижаться. Робин подняла руку и дала короткую электромагнитную очередь.

— Ближе! — крикнула она.

Ксавье оказался умелым байкером. Он преследовал дрон, старался объезжать препятствия, не терял скорость и даже промчался вверх по какой-то лестнице. Он отчаянно ругался, подбадривая всех вокруг — себя, Робин, байк. Им во что бы то ни стало надо было догнать подбитый беспилотник до того, как он упадет и разобьется — иначе все их усилия напрасны.

В XR-шлеме Робин вспыхнул интерфейс. Неужели получилось и она подключилась к сети дронов? Хакерша быстро отправила давно подготовленную дезу — команду, замаскированную под безобидный обмен данными между дронами. Йес! Беспилотник замедлился.

— Не потеряй! Он почти готов!

Ксавье еще сильнее вцепился в руль — взмокшие ладони проскальзывали. Он чувствовал себя каскадером из какого-то фантастического голливудского фильма.

— Пять сек! — крикнула Робин ему в ухо. — Четыре, три… Есть!

Дрон, неуверенно покачиваясь, влетел в атриум отеля. Ниже были шесть этажей выставочных площадей, соединенных эскалаторами. Бельгийцы традиционно стремятся к природной гармонии, они на каждом этаже посадили цветы и даже деревья. Висячие сады расположились на уступах-террасах. Ксавье, увидев сквозь стекло XR-шлема этот рукотворный рай, даже долю секунды колебался — а не отказаться ли от погони, не отправиться ли, как дрон, в свободный полет?

— Ч-черт! — в очередной раз ругнулся Ксавье. — Держись крепче!

Байк снес стеклянную перегородку и рухнул вниз.

Робин крепче обняла Ксавье и прижалась к его спине. Байк падал.

Мгновенно среагировав, Ксавье активировал воздушный струйный руль на раме мотоцикла — получилось немного подправить траекторию падения. Через три этажа он заметил дерево. Времени на размышления не было. Извернувшись, Ксавье схватил в охапку Робин, в последнюю секунду ногами с силой оттолкнул от себя байк и в обнимку с девушкой пушечным ядром влетел в густую крону.

Основной удар приняла на себя спина Ксавье — на счастье, комбинезон и наполнившаяся сжатым воздухом спинная подушка безопасности существенно ослабили удар. Посадка с падением сквозь ветви деревьев до стеклянной платформы оказалась не такой уж и мягкой! Робин упала на Ксавье сверху, быстро скатилась с него, но мужчина все равно застонал от боли.

— Ты как? — искренняя забота в голосе девушки удивила Ксавье.

— Жив вроде, — ответил Ксавье. — Как там наша птичка?

Робин огляделась. Дрон не упал, он чернел совсем низко — прямо над их головами и вроде еще был жив. Ей удалось его приручить? В шлемофоне прорвался голос Дона: «Штаб, штаб. Прием. Ксавье! Робин! Где вы? Где вы? Прием, прием! Куда пропали? Чего надо этим тварям? Прием, прием».

В поле виртуального зрения в шлемах Ксавье и Робин возникла картинка улицы. За стеклянной стеной конференц-центра Panorama Hotel три дрона, оторвавшись от стаи, образовали равносторонний треугольник и методично облетали отель, будто бы сканируя этаж за этажом.

Ксавье не выпускал из виду беспилотник над головой.

— Их можно остановить? Нельзя запустить вирус?

— Попробую. Но это долго. — У Робин был другой план. — А чего их просто не сбить?

— В отеле люди.

— Так всех же эвакуировали!

— Не всех. Несколько сотрудников и пара шишек с конференции отказались.

— Вот же ж!..

Ксавье и Робин бросились по лестнице вниз, потом побежали по улице. Штабной фургон уже подъехал ближе к отелю и встал неподалеку в относительно тихом месте. Робин ворвалась внутрь и бешено замолотила по виртуальной клавиатуре. Тревога нарастала — кого или что разыскивает эта троица?

Раненый дрон, которого она «приручила», стал подниматься навстречу своим трем «товарищам». Протокол связи внутри роя активируется только в определенном диапазоне — если наживка Робин и может сработать, то только там. Девушка затаила дыхание.

В ясную погоду с верхних этажей 18-этажного Panorama Hotel как на ладони был виден весь Брюссель и сверкающая вода канала. Если бы кто-нибудь в пентхаусе глянул в этот момент в окно, то увидел бы на стекле нечто странное и черное — вроде нестираемого пятна. Оно бы медленно выскользнуло из поля зрения, но в противоположном окне тут же появилось бы другое, а в соседнем — третье.

Трио дронов было как три глаза. Они по очереди смотрели и дружно сверкали холодным светом.

«Ну скорее же!» — Ксавье не сводил глаз с их перепрограммированного дрона. Но аппарату явно не хватало мощности, до крыши оставалось еще три этажа.

Откуда-то с высоты донеся слабый, будто лопнул пузырь, взрыв — на землю обрушился дождь из осколков. И все сразу пришло в движение.

Троица дронов открыла огонь, выделывая в воздухе сложные пируэты и стреляя внутрь пентхауса — палили прямо от огромных, от пола до потолка, окон президентского люкса.

— Передаю данные! — Робин выбралась наружу, надеясь таким образом усилить сигнал. Она укрылась за бронированным фургоном и, нахмурившись, не отрывала глаз от индикаторной шкалы. — Есть!

Ксавье, морщась, поднялся на ноги и вглядывался в битву, разворачивающуюся на высоте. И вдруг все дроны замерли, как четыре черных музыкальных знака на фоне голубого неба.

Из очередной порции данных стало ясно, что три беспилотника прекратили огонь не потому, что Робин удалось проникнуть в их код. Они просто выполнили свою задачу.

Эта атака дронов вычеркнула из черного списка Судного дня первое человеческое имя. В расстрелянном президентском номере прятался Рэй Сингх.

Нидерланды, Севенинген

16 сентября 2041 г.

Местное время 15:00–21:00

Марк не знал, как долго он пробыл в лабиринтах Bad Trip, минуты или десятилетия. Страдания разума оказались много хуже мерзких физических ощущений: воспоминания, которые мозг изо всех сил старался подавить, повторялись бесконечно. Вернее, это был один, но ужасный эпизод.

Пять лет назад Марк повез жену Анну и сына Люка в Калифорнию, подальше от холодной немецкой зимы. Они отправились в восстановленный после пожаров городок Парадайз к Полю ван де Граафу, учителю Марка. Коллеги и друзья, они не виделись много лет, и встреча вышла весьма эмоциональной.

Маленький Люк скучал и откровенно томился. Он был одержим идеей пройти часть Тихоокеанской горной тропы[99]. Анна, оставив мужчин за дискуссией о любимой физике, повезла сына на гору, в национальный лес Плумас.

«К обеду будем, — сказала Анна уже в дверях. — И я искренне надеюсь, что за столом ни разу не услышу слово “квант”».

Марк помнил каждое ее слово, каждую интонацию. Это оказалась последняя фраза, которую он услышал от жены.

Анна с Люком уехали, Марк принялся рассказывать Полу о своей работе, тот предложил новую форму преобразования для формулы топологической квантовой теории поля — в конце исследовательского тоннеля внезапно забрезжил свет. Марк не заметил, как много прошло времени. Когда он наконец вынырнул из увлекательного академического дискурса, было уже совсем поздно.

Он позвонил жене — она не отвечала. Именно в этот момент на горизонте появилось странное оранжево-красное зарево, похожее на закат, но совершенно не в той стороне, где садится солнце.

И тут пронзительно и синхронно заверещали смартстримы у Марка и Пола: экстренная эвакуация из-за лесного пожара.

Марк последовал за хозяином к его допотопному «Мустангу» с механической коробкой передач. Пока Пол пробивался сквозь забитые людьми переулки — все пытались спастись от приближающегося пожара, — Марк дозвонился в полицию. Он надеялся найти автомобиль жены с помощью спутника, но звонок сразу перевели на искусственный интеллект аварийной службы, и вежливый синтетический голос сообщил: «По правилам защиты конфиденциальности данных штата Калифорния мы не можем предоставить сведения о местонахождении данного автомобиля».

Марк бросил трубку, Пол давил на газ, выжимая из машины все возможное.

Они не проехали и пятнадцати километров — полицейский блокпост. Копы сказали, что дальше опасно, гражданские автомобили туда не пускают. Пока Пол пытался хоть как-то успокоить друга, подъехала колонна пожарных машин. Спасатели согласились взять Марка с собой; Пол остался на блокпосту.

— Но это же зима, — Марк не мог поверить в реальность происходящего.

— Это Калифорния, — пожарные не удивились его наивности.

В этих краях когда-то был средиземноморский климат с теплой дождливой зимой. Но с тех пор все изменилось, здешние зимы постепенно стали более жаркими и сухими. Страшный лесной пожар уничтожил 23 года назад город Парадайз[100]. Одиннадцать тысяч домов превратились в пепел, погибли 85 человек, огонь спалил более 63 тысяч гектаров леса. Сейчас же в регионе стали дуть сильные ветра, и риск подобных мегапожаров стал практически постоянным. Так проявилось глобальное изменение климата.

Колонна спецтехники проехала по оранжево-красному железному мосту. Чистая и, казалось, бездонная река, извиваясь, пропадала в далекой дали. Крутые берега густо заросли.

Марк заметил «Форд» своей жены, припаркованный у дороги. В машине никого не было. Может, они с Люком в лесу? Марк рвался искать родных, после некоторых препирательств двое пожарных вызвались его сопровождать — но времени было совсем мало.

Ветер уже нес горящие головешки, и сухостой мог заняться с минуты на минуту. Огонь в горах распространяется иногда со скоростью до 80 километров в час, его не всегда опередишь на автомобиле, а уже пешком и вовсе не спасешься.

Трое мужчин рассредоточились, организовав максимально широкий сектор поиска, и двинулись через лес. Они непрерывно кричали — звали Анну и Люка. Небо впереди уже стало огненно-красным, лес стоял в золотом ореоле. Становилось все жарче, сильно пахло гарью.

— Дальше нельзя, — один из спасателей остановился, — огонь совсем близко.

— Ну пожалуйста, — умолял Марк. — Они должны быть рядом, они где-то тут… Помогите же!

— Мне жаль, — другой пожарный поддержал коллегу и отрицательно покачал головой.

Марку показалось, что он услышал слабый звук. В царящем хаосе он с напряжением вглядывался в густые заросли, до хрипоты звал жену и сына и ждал их ответа. Птичий крик? Но нет, опять тот же звук — на этот раз четче. Это Люк! Марк рванул на голос, спасатели, спотыкаясь, — за ним.

Но ветер внезапно сменил направление.

Волна ужасного жара обдала их и чуть не опрокинула. Лес светился. Вокруг все было красно — будто чудище разинуло совсем рядом окровавленную пасть.

Марк заметил две нечеткие человеческие фигурки у подножия валуна: одна лежала ничком, другая стояла рядом на коленях. Марк не сомневался, что это Анна и Люк. Он уже почти прыгнул, но спасатели повалили его на землю — упали все трое. Марк вырывался: «Какого черта!» — рычал он.

Но язык огня вдруг пронесся прямо по тому месту, где он только что стоял. Дракон ехал верхом на ветре, все обращая в красные шипящие угли. Две фигурки были как раз на его пути.

Через секунду они исчезли.

Тот страшный пожар тушили семнадцать дней.

На похоронах Марк оплакивал лишь горстку праха — ничего больше найти не удалось. Вскоре ему пришлось бросить работу — разом лишившийся всего самого дорогого, бедняга совсем не мог сосредоточиться. Перед глазами все время был лесной пожар, отнявший у него жену и сына. Как рационалист он не мог этого принять. Это было абсолютно несправедливо, и кто-то, все равно кто — человек, институт или система, — должен за это ответить. Но реальных виновных не было — все говорили об экстремальных погодных условиях. А Марка это не утешало.

Горе, гнев и самобичевание отравляли его разум, как медленно действующий яд. Он возненавидел всех людей. Он пришел к выводу, что его семью убили человеческое высокомерие и жадность. Анна и Люк пали жертвами цивилизации, сознательно выбравшей путь к самоуничтожению. Идея старого учителя, которой тот поделился незадолго до страшных событий, стала орудием мести гениального физика.

Причинно-следственную связь в квантовой физике нельзя понять, подключив человеческую интуицию. Причина и следствие в этой области тесно переплетены.

Марк работал днем и ночью. Он начал активно общаться на экстремистских форумах в даркнете, где свободно продавались запрещенные материалы и конфиденциальная информация. Поначалу неявная схема медленно, но верно обретала форму. Она превращалась в то, что поможет ему наказать весь мир за свою страшную потерю.

Но чтобы реализовать этот план, Марку надо было совершить прорыв в сфере квантовых вычислительных мощностей. Чем он и занялся.

В даркнете вычислительные мощности были в остром дефиците; за ними охотились, они представляли собой самую востребованную валюту. Чтобы обезопасить себя и свои исследования, физику необходимо было тщательно скрывать их результаты. И тогда он решил исчезнуть.

Для большинства Марк Руссо был просто несчастным вдовцом, предавшимся горю, застрявшим в своем болезненном прошлом и обреченным на самоуничтожение. Никто и понятия не имел, что гениальный физик находится в эпицентре страшнейшего заговора.

И вот теперь Bad Trip, применяя свою методику, раз за разом затаскивала Марка в тот жуткий вечер в Калифорнии, заставляла снова и снова переживать утрату любимых. Физик вновь и вновь наблюдал, как его жена и сын превращаются в горстку пепла — и опять ничего не мог сделать. Он выдержал тогда — но сломался сейчас.

Техники сняли с физика датчики глубокой ночью. Только теперь он смог закрыть глаза. Единственную слабость Марка Руссо уничтожили, но на Земле уже началась кровавая баня.

Silk Road 13.0

Закрытый чат-рум [000137]

17 сентября 2041 г.

Всемирное координированное время 20:51:34

В закрытом чате Робин использовала свой обычный аватар — странное детище японского художника Ёситомо Нара. Девушка предстала в образе куклы с мертвыми рыбьими глазами и выражением полного отвращения на лице. Друг и соратник Уилл был в сети Лоном Слоаном[101], длинноволосым красноглазым межзвездным странником. Ли пока не появился, и это было довольно необычно — он самый пунктуальный из троих.

Сегодня они выбрали для встречи виртуальную темницу XVIII века в Йорке, мрачную и холодную. В глубоких нишах каменных стен тускло мерцали свечи. Откуда-то снизу, из-под земли, время от времени доносились жуткие вопли.

Робин: Зачетное местечко…

Уилл: Скажи?! Народ мрет, как мухи. Этот черный список Судного дня ваще выходит из-под контроля. ИИ обещает полторы тысячи погибших — и все большие шишки.

Робин: Вы нашли закономерность?

Уилл: Не-а. Мы провели кросс-валидацию — перекрестную проверку — и не нашли четких корреляций. Ничего такого. Все жертвы — совершенно разные. Разные демографические и возрастные группы, все заняты в разных отраслях… Единственное общее — все они в топе, на высшем уровне; все в авторитете. Может, в этом дело?

Робин: Да ну, лажа! Сначала нефтяные хабы, потом какие-то бугры мирового масштаба. Должна быть другая связь.

Уилл: А может, отвлекающий маневр?

Робин: Поясни.

Уилл: Чтобы кролик спокойно исчез — пусть публика смотрит на шляпу. Это же классика!..

Робин: Думаешь?

Уилл: Ты же сама говорила: хакнуть сеть дронов и подсадить вирус красиво, но долго. Помнишь, спрашивала, как вломиться через железо? Ну так никак. Проблема через него не решается, я все проверил. Надо искать в эпидемиологии.

Робин: Где-е-е?!

Уилл: Смотри, рой дронов летает совершенно согласованно, они явно на это запрограммированы. Диапазон частот узкий, так что если заразить один дрон, его поведение изменится, связь между ним и роем ослабнет, если не упадет до нуля.

Робин: Выходит, как ни рвись, многих из расстрельного списка не спасти…

Уилл: Надо найти того, кто запускает эти дроны. Слушай, а где Ли? Тоже мне шутник!

Прямо на этих словах по темнице крадучись пробежал белый песец и немедленно превратился в Ли. И вправду шутник — сделать аватар копией реального себя!

Уилл: Где болтался? Мы тебя потеряли.

Ли: Потребовалось немного кунг-фу, мыши одолели.

Робин: Надо расколоть Марка Руссо. Ксавье не сможет дальше тянуть, он пока его прикрывает, не раскрывает его роль в этом безумии. Он уже не может предупреждать нападения — не объявлять же себя ясновидящим? У нас несколько часов, не больше, потом Руссо передадут копам, и всё, нам до него не добраться. Мне надо с ним встретиться. Возможно, это наш последний шанс.

Уилл: О! Да тебе этот Ксавье нравится… Угадал? А ничего, что он всегда мечтал тебя посадить?

Робин: Заткнись уже! Ли, что скажешь?

Ли: Не ссорьтесь! У меня новости.

Ли жестом вызвал экран на каменной стене смоделированного подземелья. Начался анимированный рассказ о точечных, но отлично организованных преступных операциях в глобальном масштабе в мире, основанном на блокчейне[102] и искусственном интеллекте.

Все транзакции проводятся по шифрованным каналам связи. Производство и транспортировка полностью автоматизированы. Злодеи и их преступления разведены во времени и пространстве, проблема координации решилась технологией сквозного шифрования.

Оружие может быть изготовлено, дислоцировано и развернуто автоматически. Сырье для изготовления наркотиков можно выращивать, собирать, очищать, передавать роботам в безлюдных регионах, затем доставлять на рынок беспилотными автомобилями и переправлять к покупателям дронами — нужно только войти в даркнет и кликнуть по нужной кнопке, это как выбрать блюдо из меню.

Из схемы полностью исключен человек — вместе с вероятностью предательства, утечки информации, появления агентов-провокаторов под прикрытием из старых гангстерских фильмов. Если полиции удается узнать о каком-то криминальном предприятии, проблемные звенья преступной цепи можно заменить эффективно и с минимальными потерями — каждый этап процесса протекает в полном вакууме.

Ли: Н-да, в мире автоматизированного терроризма нас всех может уничтожить один человек.

Уилл: Если, конечно, ему хватит бабла.

Робин: Предлагаю сосредоточиться на кошельке Накамото. Ли, ты узнал что-нибудь?

Ли: Я просмотрел в Silk Road данные о дронах за пять лет. Транзакции зашифрованы, но публикации, просмотр и обсуждения — нет. Прогнал все через программу семантического анализа, сгруппировал контент по релевантности… Короче, одна группа показалась мне подозрительной.

У них там без конца — автоматизированная сборка дронов, алгоритмы полета роя, зашифрованные системы защиты сигналов от помех, энергомодули сверхдальнего действия и прочее. Если все это собрать вместе — получится дрон Судного дня.

В группе одни анонимы, IP-адреса скрыты, я только один вычислил — могу еще что-то! Так вот, его владелец интересуется кое-чем дополнительно. Угадаете?

Уилл: Еще секунда, и я тебя задушу!

Ли: Полегче, тигр. Во-первых — оружейным плутонием, этой хрени навалом на советских ядерных базах. А второе — как построить интеллектуальную модель на основе социальных сведений, чтобы понимала естественный язык и общалась как реальный умерший человек. Что, в точку?

Троица тяжело молчала. Где-то далеко раздался и раскатился эхом очередной нечеловеческий вопль. Задрожало пламя свечей. В фильмах ужасов после такого непременно появляется привидение.

Робин: То, что кто-то хочет сделать ядерную бомбу и разнести этот мир к чертям, меня не удивляет. Но вот второе интересно. Он хочет создать привидение. Парни, это наш шанс.

Уилл: Привидение?

Робин: Ли, у тебя два часа.

Ли: Чтобы родить привидение?

Робин: Два, Ли! И время уже пошло…

Скоростной поезд Thalys Plus

Рейс Брюссель — Севенинген

Гаага

18 сентября 2041 г.

Местное время 00:32

Измученный Ксавье натянул маску для сна. В наушниках шуршало, будто он летит на высоте в десять тысяч метров.

Над горизонтом появилось что-то черное, похожее на дым. Оно постоянно изменяло форму — это было похоже на мурмурацию, «танец скворцов», но оно еще и сверкало на солнце. Это не были птицы — это рой дронов Судного дня вылетел из укромных уголков мира, с заводов, замаскированных под безобидные холмы. Они работали на солнечной энергии, на ночь скрывались в горах и полях. Их программы позволяли им имитировать повадки перелетных птиц, использовать те же маршруты, и радары их не видели.

Количество дронов росло на глазах; они стремительно приближались. Секунда — и они поглотят Ксавье. Ему не спастись. И вот он уже внутри роя, он стал частью новой террористической структуры, которая вот-вот спустится на Землю и реализует жуткий план.

Конференц-залы, роскошные пентхаусы, поля для гольфа, круизные лайнеры, лимузины, переговорные банков: беспощадный жнец превратил в пустыню статусные места с ароматом денег. Искаженные страхом лица; умные пули, никогда не мажущие мимо цели, без промаха пронзающие голову и грудь; лужи крови. Ксавье понял: равные возможности — самое, пожалуй, жестокое из всего, что вообще может быть.

А жестокость становилась нестерпимой. Ксавье отвернулся, будто бы так можно было от нее спрятаться. Он заметил вдалеке фигурку — его сестра Люсия выглядела так же, как и много лет назад, он помнил ее, как будто видел только вчера.

Ксавье попытался прорваться сквозь рой, взять сестренку за руку. Но обезумевшие механические черные птицы толкали и пихали его, не давали сделать ни шага. Заостренные ребра дронов резали его тело. Но из ран сочилась не кровь, а липкая черная нефть.

Ксавье закричал, сорвал маску и увидел встревоженное лицо Робин.

— Кошмар?

— М-м-м… — Ксавье ошалело тряс головой и мычал, не особо еще понимая, где находится.

— Ты кричал «Люсия»… Это сестра?

При напоминании о сестре сердце гулко скакнуло, Ксавье отвернулся и молча уставился в окно поезда.

— А я ее помню, — неожиданно сказала Робин. — У нее очень красивые голубые глаза.

— Ты ее видела?! — охнул Ксавье и схватил Робин за руку.

Девушка отстранилась. Конечно, она видела Люсию. Ксавье часто смотрел старые фото, когда просыпался посреди ночи; на разных ресурсах в сети выложены видео о пропавших без вести… Эти сапфировые глаза невозможно забыть. Но Робин решила солгать. Она и сама не знала, почему: из сочувствия, или из-за чувства вины, или, может, желая поддержать надежду, даже если она эфемерна.

— Когда все закончится, я помогу тебе найти Люсию. — Робин была убеждена, что в этом ужасном мире нельзя лишать человека надежды.

Теперь девушка явно выбила Ксавье из колеи. Он дрожал, а потом, не сумев сдержаться, разрыдался. Робин хотела утешить его, но рука повисла в воздухе.

Через час они прибыли в конспиративный коттедж в Схевенингене. Марк Руссо казался совершенно другим человеком — совсем не такого оставил Ксавье до применения методики Bad Trip. Физик сидел в темноте, словно какой-то спятивший сказочный король — борода растрепана, взгляд одновременно пронзительный и безумный.

— Добро пожаловать, — поприветствовал он вошедших. — Ну что, сколько мертвецов? — Вопрос был задан деловито и почти что с гордостью.

— Вам не все равно? — вопросом на вопрос ответил Ксавье.

— Да мне до фонаря! А вот алгоритму — нет.

— Какому? — Робин пристально посмотрела на Марка. — Который крадет кошельки или который убивает людей?

— Ах, простите, мне пришлось экспроприировать вашу собственность, но ведь, строго говоря, она не была вашей, не так ли? — кривоватая гримаса Марка, видимо, означала улыбку. — Вспомните на досуге, милочка, ведь тем самым я дал вам возможность купить себе снисхождение, а может, даже полное искупление вины.

— Да это вам нужно искупать вину! — Ксавье грохнул по столу кулаком.

— А я что, спорю? И мне нужно искупление, и вам обоим, и всем этим самодовольным акселерационистам[103], всему человечеству. Нам всем нужно искупление. И время настало!

— Погодите-ка, — прервала Робин пафосный спич. — Вы сказали «акселерационисты». Так вот за что вы убиваете!

— Сообразила, поздравляю! Да этот ваш драгоценный антитеррористический ИИ видит только определенных людей и теги: возраст, доход, семейное положение, раса, сексуальная ориентация, рыночная стоимость компании, потребительские предпочтения, болезни… А дальше-то что? — Физик уже не мог остановиться. — Вы, люди, вы что, считаете, технический прогресс решит все мировые проблемы?! Да он сам большая проблема! А об углеродном следе вы думаете? Человеческая цивилизация — это машина, мчащаяся к обрыву. Акселерационисты жмут на педаль газа, а потом… — Марк экспрессивно взмахнул руками, изобразив взрыв.

— А вы, значит, решили всех наказать, устроив еще больше взрывов? Вам это надо? — Робин дразнила физика, пыталась вывести его из душевного равновесия.

Провокация удалась. Кривая усмешка превратилась в злобную гримасу. Он откинулся на спинку стула, прищурился и сказал тихо-тихо: «Сами увидите».

Ксавье перехватил инициативу. Он понимал: чтобы получить информацию, придется бить Марка по самому больному. Он продолжил линию Робин.

— Марк, мне очень жаль Анну и Люка…

— Заткнись! — взгляд Марка был полон боли и угроз. — Не упоминайте их имен! Я предупредил!

— Но все человечество не виновато в одном несчастном случае.

— Несчастный случай? Серьезно? — Марк опять потерял над собой контроль. Физик трясся всем телом. — Эта жадная… Эта… Это чертова Pacific Gas and Electric Company позволила прогнить своим… своим… поганым линиям. Поэтому и загорелся лес. Никто этого не признает — ни правительство, ни эти… сами… сама… компания, ни пресса, ни даже… даже… долбаная публика! Все винят природу, мать ее, как будто мы не часть природы! — Марк распалялся все больше, с трудом подбирал слова поприличнее, но все равно выходило не очень. — Все ведут себя так, будто стали жертвами глобальной климатической аномалии. Несколько десятков лет — все жертвы! Как будто это не мы сами устроили. Идиотизм!

Ксавье и Робин переглянулись и встали, готовые выйти.

— Марк, успокойтесь, — сказал Ксавье. — Мы вернемся и продолжим с того места, где остановились.

И безумец снова остался один. Скоро из темноты донеслись тихие всхлипы.

А потом вдруг увидел мерцающие огни, которые быстро исчезли. Руссо удивился. Затем возникли два слабых голубых язычка пламени. Они росли, приближались, и в их холодном сиянии постепенно проступили человеческие лица. Это были его погибшие жена и сын.

— Анна? Люк? — Марк даже не понял, что испытывает, ужас или радость. — Это правда вы? Вы не галлюцинация?

— Да нет, мы не квантовые призраки, — Анна была спокойна и уверена в себе, точь-в-точь так же она говорила в жизни, он это определенно помнил. — Ну конечно, это мы, Марк. А ты ничуть не изменился.

— Па-ап, — протянул мальчик, будто нашалил или сделал что-то нет так, — я по тебе скучаю.

— Люк… — Марк хотел прижать к себе близких, но вдруг понял, что все еще привязан к стулу. Он проклинал своих тюремщиков, слезы ручьями потекли по его щекам. — И я очень по тебе скучаю. Если бы я только тогда поехал с вами…

— Ты ни в чем не виноват, Марк. Что случилось, то случилось. Однажды тебе нужно будет двигаться дальше.

— Да я в порядке, Анна. Мы скоро будем вместе, очень скоро.

— Пап, — проявил любопытство Люк, — а почему ты убиваешь людей?

— Они разрушают нашу планету. Ты же любил гулять в лесу, любил зверюшек больше всего на свете, правда? Вот и я хочу вернуть Земле ее первоначальных жителей. Я делаю это для тебя.

— И если убить всех людей, планета не погибнет?

— Люк, это только первая часть плана. Когда последний человек из списка умрет, начнется главное.

— Ух ты, расскажешь? Пап, ну пожалуйста, ну что будет дальше?

Лицо Марка изменилось — он насторожился. Робин и Ксавье наблюдали за разговором из соседней комнаты, сердца у обоих подскочили куда-то к горлу. Два голографических образа были созданы по остаточным данным об Анне и Люке, найденным в сети, но достаточно ли их, чтобы обмануть измученную психику Марка? Вдруг он заметил подлог? Может, просто подыгрывал — потому что тоскует по жене и ребенку или чтобы усыпить бдительность своих мучителей?

— Люк, — прервал тишину Марк, — помнишь, когда ты приходил ко мне в институт, я рассказал тебе историю?

— Это провал, — у Ксавье пересохло во рту, — он нас раскусил.

— Вот уж нет! — Робин совершенно не потеряла самообладания и уже стучала по клавиатуре, разыскивая сайт Института физики имени Общества Макса Планка.

— Я помню статую, — сказал Люк. — Ты сказал, что он создал квантовую теорию, поэтому статую поставили в вашем институте. И еще ты говорил, что все квантовые технологии в мире родились из идей, которые он предложил сто сорок лет назад.

— Марк, может, сейчас не время для семинара? — вмешалась Анна.

— Нет, сынок, моя история была о другой статуе: о святой Варваре. Ее предал отец-язычник, она отказалась отречься от веры в Христа, а отец убил ее. И Планк, и святая Варвара — это истории о силе веры. Мир можно изменить, если полностью посвятишь себя тому, во что веришь; только так можно самому творить будущее.

— Па-ап… Я не понимаю, что ты говоришь.

— Анна, Люк, я люблю вас. Я вас очень люблю, но нам пора прощаться.

Марк закрыл глаза, слезы все еще катились по его щекам. То ли жене с сыном, то ли самому себе он продекламировал пророчество Нострадамуса: «Огонь цвета золотого неба на земле увидят, тот, кого ударит высокорожденный, совершит чудо. Великое умерщвление людей, захват великого племянника, умрет бежавший от увиденного гордец, умрут от увиденного, гордец спасется».

— Марк, — окликнула мужа Анна, — давай еще поговорим, хоть немножко.

Она держала Люка за руку и выглядела очень печальной. Выражение лица мальчика тоже было умоляющим — как у его матери.

— Да прекратите вы пытать меня, демоны! — голос Марка дрожал. — Прочь! Прочь отсюда! Только на другой стороне я увижу свою настоящую семью…

И тут злой гений скрипнул зубами — в последний раз в жизни. Пломба в одном из нижних зубов раскрошилась. Нейротоксину, спрятанному внутри нижнего зуба, потребовалось всего десять микросекунд — и яд попал в центральную нервную систему. Дыхание Марка замедлилось, голова начала клониться вперед и упала на грудь. Он дернулся и замер. Спасти его шансов не было.

Призраки Анны и Люка исчезли.

— Что это сейчас было? — Робин была в шоке.

— А что он имел в виду… Это пророчество? — Ксавье интересовало совсем другое.

— Это из Центурий Нострадамуса. Похоже, у французов традиция изображать пророков. А ведь правда похоже на то, что сейчас происходит, — и еще Робин вспомнила слова Ли об огне золотого цвета: «Может, это последний этап алгоритма?»

Ксавье перебил — ему только что пришло уведомление: дроны прекратили атаки и отступают.

Из списка убийств была вычеркнута последняя фамилия: самого автора алгоритма.

Гаага, Париж, Байконур, Плесецк, Шрихарикота, Цзюцюань, Танегасима, Лос-Анджелес, мыс Канаверал…

18 сентября 2041 г.

Всемирное координированное время 14:51

Ксавье разбудил Эрика Кунца, главу Европейского космического агентства, базирующегося в Париже. Секретный агент вызвал высокого чиновника по шифрованному каналу связи высочайшего уровня в штаб-квартире EC3. Ксавье отправил через Кунца предупреждение на все основные космические базы. Оно состояло из единственной фразы: «Немедленно отменить все запуски».

Если Робин права, после завершения программы уничтожения дронов должен был последовать автоматический переход на следующий уровень — как в видеоигре. Сложив предсмертные слова Марка с онлайн-подсказками, обнаруженными Ли, Робин пришла к выводу, что сумела определить следующую угрозу.

Масштабы ее были непостижимы: по мнению хакерши, под обычные космические грузы замаскировали неизвестное количество ядерных бомб. Их предполагалось загрузить в ракеты, выполняющие коммерческие рейсы, и в ближайшее время запустить в космос.

— Зачем? Почему не взорвать их тут? — спросил Ксавье, когда Робин поделилась с ним гипотезой.

— Марку не удалось найти достаточно плутония. — Ответ у Робин был — она тоже об этом думала. — А потом, его не интересовали отдельные страны или регионы, он хотел уничтожить человечество. Радиоактивная пыль от взрывов постепенно осядет, ее разнесут атмосферные потоки — никто не спасется. Тотальный армагеддон.

— Допустим, ты права. Но почему он не сделал этого сразу? К чему была вся эта фигня с атаками дронов и черным списком Судного дня?

— А вот это действительно вопрос. Зачем отдельно убивать нескольких, перед тем как убить всех? — Робин нахмурилась.

Начали поступать ответы от космодромов — везде восприняли предупреждение всерьез. Появились сообщения и о подозрительных событиях. Пришлось отложить 11 коммерческих запусков — в последний момент обнаружились несанкционированные грузы. Лихорадило все космодромы, разбросанные по всему миру. Похоже, интуиция не подвела Робин.

Молчали только два центра запуска — космодром Куру в центральной части Французской Гвианы в Южной Америке и Сан-Марко в пяти километрах от побережья, в бухте Формоза в Кении. В обоих случаях связаться с персоналом космодромов не получилось, поэтому на них срочно отправили военных.

Мир замер. Наступила оглушительная тишина.

Европейское космическое агентство, НАСА, Китайское национальное космическое управление — все оцепенели. Они перекинули эту «горячую картошку» ООН, и генеральный секретарь вместе с командой стремился обогнать время — проводил срочные переговоры с главами государств и правительств, формировал междисциплинарную консультативную группу для поиска решений. А проблема была воистину ужасна.

Уилл и Ли тоже трудились не покладая рук. Они пытались взломать центры управления полетами на двух проблемных космодромах, ибо именно подобным образом решаются все проблемы в хакерском мире.

А Робин думала, думала и думала. Она чувствовала: что-то не так, она явно что-то упускает. Но что именно? Марк никогда не стал бы тратить зря усилия и время. У него — ну или у его алгоритма — для каждого шага была веская причина.

— Дроны Судного дня не завершили свою миссию, — вдруг произнес Ксавье. Он просматривал последний отчет EC3.

— Что-о-о?!

— Они убили не всех людей из списка. В живых оставались еще 274 человека, но следующий этап все равно начался. Если только… — Ксавье пронзила ужасная мысль. Он посмотрел в глаза Робин. — Если только это не был намеренно раздутый список. Если только в него, помимо реальных, не включили цели для отвлечения внимания!

Робин быстро запросила данные о последней жертве дронов: Хикари Осима, ведущий специалист по информационной безопасности, один из 23 человек в мире, имевших доступ к ключу перезапуска системы DNS.

Доменную систему имен (DNS — Domain Name System) запустили в 2010 году. Этот многонациональный проект должен был обеспечить безопасность в интернете и целостность системы доменных имен. Робин продолжила просматривать имена погибших — слишком многие были ей знакомы: эксперты и ученые в области сетевых технологий.

— Его целью были не просто акселерационисты, — пробормотала она. — Он хотел уничтожить интернет.

— Интернет?!

— Марк нацелился на всех, кто способен поддерживать сетевую безопасность, кто мог бы в случае надобности перезапустить сеть.

— Перезапустить? Ты имеешь в виду, он хочет вырубить весь интернет? Такое вообще возможно?

На Земле работают сотни миллионов серверов, десятки миллиардов устройств с сетевым функционалом — не говоря уже о системе Starlink[104], состоящей из десятков тысяч спутников связи в космосе и наземных стационарных государственных и военных дата-центров. Структура в некотором роде избыточна, но это позволяет быть уверенным, что ее полное отключение исключено. Даже при атаке на корневые серверы и физическом разрыве подводных оптоволоконных кабелей восстановление глобальной сети будет лишь вопросом времени — а до того включатся резервные системы.

— Может, он просто хотел заставить человечество притормозить? — Робин все еще не могла поверить в собственную догадку.

Девушка вспомнила слова Марка, сказанные в его последний день в конспиративном коттедже: акселерационисты давят на педаль газа, направляя машину человеческой цивилизации к пропасти. Если он действительно так думал, их идея имела смысл.

Физик вовсе не собирался разрушать планету и уничтожать человечество. Он просто хотел вернуть человеческую цивилизацию в доцифровую эпоху, уничтожить условия для широкомасштабного глобального сотрудничества. Он хотел сократить выбросы углерода в атмосферу, остановить загрязнение природы и сделать так, чтобы нефтяная энергетика не наносила ущерба экологии. Он хотел, чтобы природа восстановилась.

Робин дала ИИ-системе команду смоделировать долгосрочные последствия для глобальной сети от взрыва двух ядерных бомб на разной высоте. На экране над восточным и западным полушариями Земли расцвели два ярко-красных пятна. Они стали расползаться, как раковая опухоль. Согласно симуляции, за полчаса они охватили бы весь мир, превратив голубую планету в тускло мерцающий, зловещий кроваво-красный астрономический объект.

— Это что? — Ксавье не очень понял увиденное.

— Электромагнитный импульс высотного ядерного взрыва. Детонация бомб в среднем слое стратосферы приведет к испусканию гамма-лучей и запустит эффект Комптона[105]. Атомы верхних слоев атмосферы сгенерируют вторичную ионизацию. Магнитное поле Земли ускорит свободные электроны высокой энергии, стимулируя более интенсивные электромагнитные импульсы.

— И что?

— Возникнет перегрузка и разрушение всех электрических сетей. Серверы сгорят вместе с маршрутизаторами, переключателями, сигнальными вышками и всей электронной начинкой.

— Но спутники-то останутся?

— А что толку? Их сигналы без наземной инфраструктуры ни принять, ни обработать. Я бы, кстати, на его месте еще атаковала протоколы связи на канальном уровне. Тогда, даже подключившись к интернету, ты не смог бы ни пройти ID-верификацию, ни получить информацию.

Ксавье уставился на Робин, будто эта она была террористкой. И, не произнеся больше ни слова, подключился к каналу экстренной связи EC3.

Если Робин права, погибнут сотни миллионов людей. Программное обеспечение для управления дорожным движением, навигационные приборы, медицинские системы безопасности окажутся парализованы. Авиакатастрофы неизбежны. Транспорт станет неконтролируемым. Суда затонут. В финансовом секторе случится крах. По цепочке будут уничтожены или сильно пострадают целые отрасли.

С исчезновением интернета и дальней связи станет чрезвычайно сложно координировать логистику — перевозку продуктов питания, медикаментов, топлива, оптимальное распределение предметов первой необходимости. Неизбежно возникнет паника. Конечно, полиция, национальная гвардия будут делать все для сохранения порядка, но их усилия вряд ли дадут нужные результаты — они больше не смогут получать оперативные приказы или новую информацию. Принятие решений станет возможным исключительно на основе локальной информации.

Да, коротковолновую связь, скорее всего, восстановят через несколько недель, как и базовый общественный порядок. Но на восстановление остальной части утраченной системы могут понадобиться годы или даже десятилетия — в зависимости от наличия профессионалов с соответствующими знаниями и навыками. Но крупномасштабные человеческие коммуникации и расширенное сотрудничество, увы, канут в Лету или исчезнут на неопределенно долгое время.

В ближайшее время мир, похоже, погрузится в долгую тьму.

Уиллу и Ли все-таки удалось добраться до систем центральных пультов космодромов Куру и Сан-Марко. Они обнаружили подмену кода, которая перевела системы в автоматический режим запуска. Персонал заодно лишился доступа к диспетчерским и свободного перемещения по космодрому — электронные пропуска не читались, турникеты в проходных не срабатывали.

Две ракеты уже были на стартовом столе, их заправляли — это последний этап подготовки к запуску. Любая помеха в сигнале могла привести к ошибке, и тогда ракета наклонится или вообще взорвется. Но предотвратить это хакеру, увы, не по силам.

— Выход только один, — Робин беспомощно смотрела на Ксавье.

Специальная консультативная группа по планетарным аварийным ситуациям представила свои рекомендации в ООН. Группу создали в 2025 году, собрав сотни экспертов в самых разных областях. Им предстояло решать вопросы глобального сотрудничества вроде изменения климата или предотвращения террористических атак.

Группа предложила использовать военные спутники — вывести их на низкую околоземную орбиту и сбить ракеты лазерными пушками вскоре после взлета, до того, как они войдут в стратосферу. Для принятия этого плана требовалось голосование представителей всех стран мира. Вопрос был более чем серьезный.

План позволял минимизировать глобальный ущерб, однако надземные ядерные взрывы на такой высоте все равно приведут к сотням тысяч жертв на Земле. Понятно, что больше всех пострадают ближайшие к месту взрывов регионы.

Если не брать поправку на высоту орбиты, время достижения цели составляет для космических лазерных пушек менее шестидесяти секунд.

То есть у политиков есть всего минута, чтобы определить судьбу всего человечества. Она наверняка показалась им длиной в жизнь.

У большинства землян пока продолжался очередной обычный день. Им было невдомек, что сегодня, вот сию секунду, буквально решается вопрос их дальнейшей жизни. Или смерти.

Результат голосования пришел, когда на космодромах уже шел обратный отсчет — с минимальным отрывом победили сторонники уничтожения «заряженных» ракет-автоматов. ИИ-система вычислила оптимальные «окна потерь» с учетом потенциального количества убитых и раненых и общих повреждений глобальной сети. Даже при самом позитивном исходе глобальная рецессия была неизбежна, а последующий сопутствующий ущерб — неисчислим.

Никто не знал, как оценят это решение будущие поколения.

5… 4… 3… 2… 1… Пуск!

Две ракеты с хвостами бушующего пламени устремились ввысь. Через 257 секунд они покинут пределы стратосферы.

Ксавье посмотрел на Робин, ободряюще положил руку ей на плечо: «Ты сделала все, что могла. Теперь остается только молиться».

Мысли Робин вернули ее в далекое прошлое. Ее с малолетства учили: выбирать наилучший вариант, опираясь на расчеты и логику. И уже в детстве Робин превратилась в сложную вычислительную машину. Но со временем девочка пришла к выводу, что в ее когнитивной структуре явно имеются некоторые непреодолимые дефекты, называемые конечными играми[106]. Она делала выбор, глядя на вещи сквозь призму побед и поражений. Однако жизнь должна быть игрой бесконечной — погоней за целостностью и преемственностью; ее нельзя определить ни одной великой победой, ни одним, пусть даже самым серьезным, поражением.

224 секунды.

Неужели нет третьего варианта? Обязательно надо сбить ракеты и погубить множество человеческих жизней? Глобальная сеть — на грани уничтожения, возможно, что она никогда не сможет восстановиться. Должен быть другой способ!

Иногда, чтобы выиграть, нужно сначала проиграть.

Робин опять, вроде бы совершенно некстати, вспомнила бабушку.

«Срочно соедините меня с тем, кто принимает окончательное решение!» — завопила девушка изо всех сил.

Генсек ООН выслушал теорию айтишницы. Целесообразность ее идеи оперативно подтвердили эксперты специальной консультативной группы. И Робин дали зеленый свет.

176 секунд.

План состоял в том, чтобы люди сами обесточили планету. До того придется выключить — «положить» — корневые серверы, передатчики и всю электронику, а потом отключить электричество. Именно такой порядок действий сведет к минимуму негативные последствия электромагнитных импульсов и, соответственно, сократит время последующего восстановления.

Для интернета это станет чем-то вроде шока. Зато реализуется наконец анархистский идеал — несбыточная мечта бесчисленного числа хакеров со времен начала эры глобальной сети.

Чтобы обеспечить точность лазерной системы наведения спутников и уничтожить ракеты на заданной высоте, основная сеть коммуникаций должна работать до последней секунды. Ее можно отключить только после разрушения ракет, когда не станут нужны серверы и вся электросеть. С большей частью вынужденно обязательных операций могла справиться техника, но в решающий момент главную команду должны были подать люди, и на реагирование им оставалось не более 750 миллисекунд.

Робин попросила у руководства карт-бланш и техническую возможность отключить разом все. Теперь она была готова.

88 секунд.

С помощью искусственного интеллекта страны быстро определили очередность — первыми загасили электрические и интернет-сети в отдаленных районах. Сиявшие всеми огнями континенты в Восточном полушарии стремительно начали тускнеть. Планета погружалась во тьму.

31 секунда.

Робин напряженно следила по монитору за полетом ракет. Военные спутники скорректировали свои позиции. Лазерные пушки нацелены и заряжены[107] — остается только дождаться момента, когда ракеты выйдут на заданную высоту. Если повезет, тонкий высокоэнергетический лазер, словно скальпель, разрежет корпус мчащейся ракеты пополам. Ракета развалится, а обломки огненным дождем упадут на Землю.

Мысли Робин хаотично метались. Лоб и ладони покрылись холодным потом. Она еще никогда не испытывала ничего подобного.

На плечо легла рука Ксавье — теплая и крепкая.

В его глазах плескалась удивительная смесь чувств: беспокойство, надежда, восхищение и, кажется, даже капля нежности.

— Верю в тебя, — негромко сказал он.

Робин была тронута. Она кивнула, поджала губы и вновь впилась взглядом в экран.

9, 8, 7…

Палец Робин подрагивал — девушка была готова отдать команду и навсегда изменить жизнь людей в том виде, в каком они ее знали.

3, 2, 1…

Небо рассекли две тонкие линии. Корпус первой ракеты раскололся надвое, затем кусков стало четыре. А потом слепящий белый свет взрыва залил экран.

— Сейчас, — и Робин отключила электричество на всей планете.

Ксавье выглянул в окно. Там пока ничего как будто не изменились, но он знал: изменилось все и уже ничто не будет прежним.

Паутина, опутавшая и годами объединявшая мир, распалась. Заморосил обычный осенний дождь.

Нидерланды, Гаага

18 сентября 2041 г.

Местное время 6:42

Робин и Ксавье стояли на пустом пляже, подставив усталые лица под первые лучи утреннего солнца.

Далеко в небе, словно фейерверк или огненный ливень, разгоралось пламя — сверкающие искры медленно разлетались и падали на Землю.

Ксавье взглянул на смартстрим — сигнала не было. В нормальные времена город уже проснулся бы. Но сейчас вокруг стояла тишина.

Сейчас не было вообще ничего привычного — ни электричества, ни интернета, ни выпусков новостей. И никто не знал, как перезапустить эту систему. Половина жителей Земли уже проснулась, но еще не осознала, что сейчас вступит в совершенно незнакомый мир. А вторая половина человечества уже погрузилась в хаос.

Изменилось очень многое, но не всё. Такой же, как прежде, была сила земного притяжения; средства для выработки электричества тоже никуда не подевались. И солнце все так же будет восходить и садиться. Остались книги и знания — правда, они оказались разрознены в пространстве и изолированы в отдельных умах. Остались старые добрые школы и учителя.

Пока будут рождаться и подрастать новые поколения, они станут слушать старые предания и изобретать новые истории, которые изменят цивилизацию. Эти будущие люди восстановят все то, чего когда-то достигли их предки, и создадут новый, лучший мир.

Ксавье вдруг услышал детский смех. Так когда-то смеялась Люсия. Он обернулся — никого; только волны набегают на берег. Он понял, что уже пора отпустить свою боль.

— Есть то, что невозможно уничтожить, — сказал Ксавье. — Они вернутся, просто потребуется время и терпение.

— И вера, — отозвалась Робин, глядя вдаль, туда, где море встречается с небом.

— Согласен, и вера.

Анализ. Квантовые компьютеры; защищенность биткойна; автономное оружие и реальные угрозы

Технологии по своей сути и природе нейтральны — и добром, и злом их делают люди. Если мощность позволяет разрушить статус-кво, технология способна стать огнем Прометея или ящиком Пандоры — в зависимости от целей того, кто ее использует. Именно об этом и рассказывает история «Квантовый геноцид».

В рассказе мы видим множество замечательных новых технологий, но я в своем комментарии остановлюсь на двух. Сначала я опишу квантовые вычисления. Мне кажется, существует 80-процентная вероятность проявления их во всей красе к 2041 году. Если это случится, то, возможно, они повлияют на человечество даже сильнее, чем появление ИИ. Это действительно универсальные технологии (как паровой двигатель, электричество, вычислительная техника вообще, в том числе и искусственный интеллект), они способны помочь нам значительно продвинуть науку и лучше понять природу.

Квантовые вычисления, как и любая универсальная технология, сулят нам, людям, огромные блага. Квантовые компьютеры станут великим ускорителем ИИ, а потенциала квантовых вычислений хватит для истинной революции в сфере машинного обучения и решения проблем, которые прежде представлялись тупиковыми.

Однако в рассказе «Квантовый геноцид» речь идет об одном отнюдь не позитивном варианте использования этого блага — о взломе алгоритма шифрования биткойна, что с большой вероятностью станет одним из первых примеров реального применения квантовых вычислений. Уже сейчас, обдумывая, как предотвратить подобные преступления, мы не должны упускать из виду: потенциал полезного, позитивного применения квантовых вычислений гораздо больше, чем негативного и преступного.

Автономное оружие, как и любая техника, может использоваться и во зло, и во благо. Когда в будущем на поле боя станут биться машины, оно сохранит жизни солдат. Но все преимущества сходят на нет перед угрозой массового или целенаправленного убийства людей машинами.

Автономное оружие, кроме того, может спровоцировать новую гонку вооружений, которая в какой-то момент непременно выйдет из-под контроля. Оно может попасть в руки террористов — и тогда начнутся убийства лидеров государств, да и вообще кого угодно. Я очень надеюсь, что ужасы, описанные в этой истории, послужат тревожным предупреждением для человечества и помогут лучше оценить суровую перспективу такого применения ИИ.

КВАНТОВЫЕ КОМПЬЮТЕРЫ

Квантовый компьютер — это новая компьютерная архитектура, в которой для выполнения определенных видов вычислений используется квантовая механика. Вычисления эти намного эффективнее, чем на привычном всем сегодня компьютере (назовем его «классическим»).

Классические компьютеры оперируют битами — это мельчайшая частица, так сказать, «атом» информации[108]. Бит похож на переключатель — он может быть либо нулем (если выключен), либо единицей (если включен). Каждое приложение, веб-сайт или фотография состоит из миллионов таких битов. Использование двоичных разрядов упрощает представление данных и управление классическими компьютерами, но при этом ограничивает их потенциал для решения действительно сложных задач информатики.

В квантовом компьютере используются квантовые биты, или кубиты; обычно это субатомные частицы, такие как электроны или фотоны. Кубиты «живут» по принципам квантовой механики, их свойства достаточно необычны, их можно даже назвать «суперсвойствами».

Первое из них — суперпозиция, способность кубита находиться в любой момент времени в нескольких состояниях разом. За счет этого несколько кубитов в суперпозиции могут одновременно обрабатывать огромное количество данных.

ИИ, решая задачу победы в компьютерной игре, на классическом компьютере будет перебирать разные ходы и опробовать, «вертеть» их до тех пор, пока не нащупает путь, ведущий к выигрышу. ИИ, построенный на квантовых вычислениях, испробует все ходы гораздо быстрее (а значит, эффективнее), к тому же учтет вероятность ошибки — все это экспоненциально снижает сложность процесса.

Второе необычное свойство кубита — спутывание (взаимозависимость). Два любых кубита в квантовом компьютере всегда взаимосвязаны — и действия, выполняемые над одним, влияют на другой, даже если кубиты сильно удалены один от другого. Благодаря спутыванию каждый кубит, добавленный в квантовый компьютер (это возможно сделать программными методами), увеличивает вычислительную мощность машины в геометрической прогрессии.

Чтобы удвоить мощность классического суперкомпьютера стоимостью 100 миллионов долларов, нужно выложить еще столько же; а удвоить мощность квантового компьютера можно, просто добавив еще один кубит.

Но у этих потрясающих свойств есть, естественно, и обратная сторона. Квантовый компьютер чрезвычайно чувствителен — на него влияют мельчайшие сбои техники («железа») и даже изменения окружающей среды. Вибрации (от проходящего неподалеку трамвая), электрические помехи, перепады температуры или магнитные волны могут ослабить суперпозицию или даже ликвидировать ее.

Для постройки работоспособного и расширяемого квантового компьютера предстоит придумать новые технологии и создать беспрецедентные вакуумные камеры, сверхпроводники и суперохлаждающие холодильники — только так можно минимизировать потери квантовой когеренции[109] (результат декогеренции) из-за влияния окружающей среды.

Ученым удалось увеличить количество кубитов, затратив, правда, очень много времени; в 2020 году их стало 65 — против двух в 1998-м. Но их пока по-прежнему слишком мало, чтобы сделать что-нибудь действительно полезное для человечества[110]. Однако и на нескольких десятках кубитов некоторые вычислительные задачи идут в миллионы раз быстрее, чем на классических компьютерах.

В 2019 году Google продемонстрировала нам это «квантовое превосходство»: 54-кубитный квантовый компьютер за считаные минуты решил задачу (правда, совершенно бесполезную — «экспериментальную»), на которую у классических компьютеров ушли бы годы.

Так когда же у нас будет достаточно кубитов, чтобы решать реальные проблемы, а не просто устраивать эффектные демонстрации? И сколько их, кстати, вообще нужно для получения практической пользы?

Согласно дорожной карте IBM, в течение последующих трех лет количество кубитов будет увеличиваться более чем вдвое каждый год, и к 2023 году мы можем получить процессор на 1000 кубитов. А поскольку 4000 логических кубитов[111] должно быть достаточно для некоторых полезных применений, оптимисты прогнозируют, что в действительности (не в лабораториях) квантовые компьютеры появятся лет через пять-десять.

Однако эти оптимисты упускают из виду некоторые весьма серьезные проблемы. Специалисты из IBM признают: контроль ошибок, вызванных декогеренцией, ухудшается по мере добавления кубитов. Справиться с этим поможет сложное тонкое оборудование, для которого потребуются новые технологии и прорыв в точном машиностроении.

А еще из-за ошибок декогеренции необходимо, чтобы каждый логический кубит был представлен множеством кубитов физических — это должно обеспечить стабильность, коррекцию ошибок и отказоустойчивость системы. По оценкам специалистов, для обеспечения эффективности в 4000 логических кубитов, скорее всего, потребуется не менее миллиона физических. Так что даже когда публике предъявят первый полезный квантовый компьютер, массовое производство подобной техники еще долгие годы будет серьезной проблемой.

К тому же код для квантовых компьютеров совсем не похож на код для «классики», поэтому предстоит создать новые инструменты программирования.

Большинство экспертов сегодня полагают, что на создание полезного квантового компьютера уйдет от десяти до тридцати лет. Я же, основываясь на этом экспертном мнении, прогнозирую: с 80-процентной вероятностью к 2041 году у нас будет функциональный квантовый компьютер с 4000 логических кубитов (и более чем миллионом физических), способный делать то, что описано в рассказе «Квантовый геноцид». По крайней мере, в части взлома кода, используемого сегодня для защиты биткойнов.

Одним из вариантов применения функционального квантового компьютера, который однозначно изменит наш мир к лучшему, станет разработка новых лекарств. Современные суперкомпьютеры могут анализировать только основные молекулы, но их общее число, пригодное для создания эффективного лекарства, экспоненциально больше, чем число всех атомов в наблюдаемой Вселенной.

Для решения задач такого масштаба требуются квантовые компьютеры, принцип работы которых базируется на тех же квантовых свойствах молекул, которые они станут моделировать. Такие компьютеры смогут одновременно создавать in silico новые соединения (предположительно — лекарственные средства), моделировать сложные химические реакции с их участием и оценивать их эффективность для лечения различных заболеваний.

Американский физик Ричард Фейнман сказал в 1980 году: «Если хотите создать модель природы, лучше сделать ее квантово-механической». Квантовый компьютер сможет давать прогнозы, непосильные для классического компьютера: предлагать способы противодействия климатическим изменениям; предсказывать риски пандемий и последствия изобретения новых материалов; исследовать космос; моделировать деятельность человеческого мозга; понимать квантовую физику.

Влияние квантовых компьютеров на ИИ не ограничится просто ускорением методов глубокого обучения. Программирование такого компьютера позволяет производить для всех возможных вариантов, представленных кубитами, параллельную оценку каждого потенциального решения. Таким образом, квантовый компьютер попытается найти наилучший ответ за минимальное время. И это может привести к революции в сфере машинного обучения и решения задач, которые до сих пор считались неразрешимыми.

ПРИМЕНЕНИЕ КВАНТОВЫХ ВЫЧИСЛЕНИЙ В СФЕРЕ БЕЗОПАСНОСТИ

В рассказе «Квантовый геноцид» гениальный физик Марк Руссо, переживший личную трагедию, использует прорыв в квантовых вычислениях для кражи биткойнов. Биткойн — это наиболее распространенная криптовалюта, которую можно обменять на любые другие активы (в том числе драгметаллы или деньги).

Но биткойн не имеет собственной ценности (в отличие, скажем, от золота). Его не поддерживает ни одно правительство, никакой центральный банк (в отличие от национальных валют). Биткойны существуют виртуально в интернете, безопасность транзакций с ними обеспечивается кодом, который не взломать ни одному классическому компьютеру.

Ограниченность современных вычислительных мощностей гарантирует, что количество биткойнов не превысит 21 миллиона — то есть исключены избыточное предложение и, соответственно, инфляция. Биткойны стали особо популярны с началом пандемии ковида, поскольку все большему числу корпораций и частных лиц понадобились надежные активы, невосприимчивые к искусственной инфляции, порождаемой денежными вливаниями центральных банков. Биткойн технически спроектирован как актив-убежище, поэтому в последнее время существенно вырос в цене. В январе 2021 года общая стоимость биткойнов превысила 1 триллион долларов.

Кража биткойнов кажется мелочью на фоне грандиозных преступных вариантов применения квантовых вычислений, описанных в рассказе, зато она считается возможной даже при наличии самого маломощного квантового компьютера. Это позволяет предположить, что первое, если так можно выразиться, «полезное» применение этой технологии будет именно таким.

На разработку других способов квантовых вычислений уйдут годы, но взломать некоторые типы криптографии относительно несложно уже сейчас — была бы подходящая техника. Для этого годится квантовый алгоритм Шора, предложенный в 1994 году профессором Массачусетского технологического института и названный именем автора.

Если реализовать алгоритм Шора и на квантовом компьютере с 4000 или большим числом кубитов, то большую часть современного шифрования, основанную на классе алгоритмов под названием «асимметричная криптография» (где наиболее известен алгоритм RSA), можно будет взломать. Некоторые специалисты, кстати, убеждены, что именно работа Шора подогрела интерес к квантовым компьютерам.

Алгоритм RSA используется для транзакций с биткойнами и некоторых других, а также для создания цифровых подписей. В нем, как и во всех алгоритмах асимметричного шифрования, используется два ключа: открытый и закрытый (секретный). Они представляют собой очень длинные математически связанные последовательности символов. Трансформировать закрытый ключ в открытый очень просто, а вот обратное на классических компьютерах практически невозможно.

Отправляя мне биткойны (скажем, оплачивая какую-то покупку), вы посылаете вместе с ними скрипт (программу — сценарий действий), который, по сути, играет роль «квитанции о депозите» (или транзакции). В качестве открытого ключа при этом используется учетная запись (или адрес биткойн-кошелька) получателя.

Открытый ключ виден всем, но лишь у владельца кошелька есть закрытый ключ, только с помощью которого можно открыть эту «депозитную квитанцию». Закрытый ключ служит цифровой подписью. Получатель должен завершить транзакцию — «получить денежки», для чего ему надо «подписать» квитанцию, использовав цифровую подпись (закрытый ключ).

Процесс для обеих сторон совершенно безопасен — конечно, до тех пор, пока этот закрытый ключ не окажется в чужих руках.

С квантовыми вычислениями все меняется в корне. В отличие от классических компьютеров, квантовые могут сгенерировать закрытый ключ для любого открытого ключа RSA или аналогичных алгоритмов, используемых сегодня для транзакций с биткойнами, за приемлемое, по человеческим меркам, время.

Квантовый компьютер просто получает доступ к публичному реестру (где содержатся все транзакции), берет все открытые ключи, с помощью квантовых вычислений генерирует цифровую подпись закрытого ключа и забирает все биткойны с аккаунтов.

Возникает естественный вопрос: а зачем сообщать адрес своего кошелька и открытый ключ всему миру? А это — изъян начального этапа проектирования. Позже биткойн-эксперты поняли, что это опасно, да и ненужно. В 2010 году практически все новые транзакции перевели в другой формат, который содержит адрес, но не показывает его, что намного безопаснее (хотя и не исключает успешность хакерских атак).

Новый стандарт назвали P2PKH. Но два миллиона биткойнов по-прежнему хранятся в старом уязвимом формате (P2PK). В январе 2021 года один биткойн стоил 60 тысяч долларов[112], и в пересчете это составляет весьма привлекательную сумму в 120 миллиардов. Именно на нее и нацелились юные хакеры из нашего рассказа. Так что если вы до сих пор пользуетесь старой учетной записью P2PK — немедленно отложите эту книгу и защитите свой электронный кошелек!

Но тогда следующий вопрос: почему люди до сих пор используют старые скрипты P2PK и не переводят денежки в безопасные кошельки? Могу предложить три объяснения.

Во-первых, многие владельцы кошельков давно посеяли свой закрытый ключ — он слишком длинный и непригоден для запоминания. Поначалу народ относился к биткойнам довольно легкомысленно — десять лет назад они были далеко не такими ценными.

Во-вторых, многие владельцы биткойнов знать не знают об их (своей) уязвимости в этом плане.

В-третьих, около половины из двух миллионов биткойнов в этих потенциально незащищенных кошельках принадлежит Сатоси Накамото, таинственному изобретателю этой криптовалюты, который, похоже, бесследно исчез. Вот почему в нашей истории их называют «сокровищем Сатоси».

Еще один интересный вопрос — а зачем вообще размещать транзакции в публичном реестре? Предполагается, что это должно защитить биткойны от чрезмерного накопления в руках отдельной компании или физического лица. Публичный реестр хранится децентрализованно, на многих компьютерах, поэтому его невозможно изменить или подделать на одной машине — в других местах он останется в прежнем виде. Решение, безусловно, блестящее. Правда, оно будет оставаться таким только до момента, пока не станет возможным реконструировать закрытые ключи из открытых, содержащихся в реестре.

А еще этот подход сделал возможными блокчейны для множества полезных приложений, требующих сохранения информации в неизменном виде (например, сохранение документов, контрактов, завещаний и так далее).

Если кто-то украдет у вас биткойны, обращаться в полицию или подавать в суд бессмысленно — определить виновного и доказать его вину чрезвычайно сложно. Биткойны не контролируют ни правительства, ни компании, операции с ними не регулируются ни одним банковским законодательством. Поэтому любой, у кого есть правильный закрытый ключ, может безнаказанно забрать биткойны из кошелька, к которому он подойдет. И у хозяина нет никакой правовой защиты.

Так почему же Марк Руссо не стал грабить банки, а выследил хакеров?

Во-первых, у банков нет публичного реестра с открытыми ключами — даже гипотетически извлечь закрытые ключи просто не из чего.

Во-вторых, в банках установлены специальные компьютерные программы, отслеживающие аномалии в транзакциях, в том числе подозрительно большие переводы средств.

В-третьих, движение денег между банковскими счетами легко отслеживается, и в случае нарушения законов преступника можно привлечь к ответственности.

И, наконец, легальные банковские транзакции защищены другим, более сложным алгоритмом — для его декодирования требуется намного больше времени и сил, чем на взлом электронного кошелька.

Что же можно сделать для апгрейда своей нынешней цифровой защиты, как ее обновить и усилить? Для этого уже существуют квантово-устойчивые алгоритмы. Профессор Шор, по сути, показал, что с помощью квантовых вычислений можно создать совершенно неприступную систему шифрования. Симметричный криптографический алгоритм, основанный на квантовой механике, не взломать даже посредством мощного квантового компьютера — это возможно, только если неверны принципы квантовой механики.

Но реально пока бояться нечего — квантово-устойчивые алгоритмы невероятно дороги с точки зрения вычислительных мощностей, и большая часть коммерческих и биткойн-организаций их пока даже не рассматривает. Возможно, только после неизбежного квантового ограбления люди очнутся и обновят эти алгоритмы. Искренне надеюсь, что это случится скоро!

ЧТО ТАКОЕ АВТОНОМНОЕ ОРУЖИЕ?

Автономное оружие — это, по сути, третья революция в военном деле после изобретения пороха и ядерной бомбы. Эволюция вооружения от противопехотных мин на земле до управляемых ракет в воздухе была лишь прелюдией к истинной автономизации процесса убийства с использованием ИИ — в данном случае речь об автоматическом поиске цели, принятии решения атаковать и уничтожении людей совершенно без человеческого участия.

Примером реального, уже используемого сегодня автономного оружия является израильский дрон-убийца Harpy («Гарпия»)[113]. Он программируется для полета в определенную зону, сам выслеживает цель и уничтожает ее с помощью осколочно-фугасной боеголовки, которую за эффективность прозвали Fire and Forget («стрельнул и забыл»).

Однако куда более жуткий пример нам недавно показали в вирусном видео Slaughterbots («Роботы-убийцы»)[114]. Беспилотник размером с воробья ищет конкретного человека и при обнаружении стреляет ему в голову зарядом с небольшим количеством динамита. Эти беспилотники летают сами по себе — их трудно обнаружить, невозможно остановить или уничтожить, они малы и чрезвычайно маневренны.

Сегодня опытный любитель может менее чем за тысячу долларов собрать робота-убийцу — вроде того, что чуть не убил президента Венесуэлы[115]. Комплектующие легко купить — да хоть бы в интернете, все необходимые технологии с открытым исходным кодом доступны для скачивания.

В ближайшем будущем все нынешние роботы продолжат выполнять свои функции, только вот стоимость производства (и, соответственно, цена) на них существенно упадет. ИИ и робототехника уже сегодня становятся во всех смыслах доступны. Это непреложный факт, к которому я и пытался привлечь внимание этой книгой. Даже представить страшно — убийца суперохраняемых первых лиц за штуку баксов! Это не эфемерная угроза далекого будущего — это явная и реальная сегодняшняя опасность.

Мы уже стали свидетелями стремительного развития ИИ, и эти достижения, без сомнений, уже в ближайшем будущем ускорят пришествие автономного оружия. Вспомните, как быстро эволюционировали автономные транспортные средства — от уровня 1 до уровней 3 и 4 (мы говорили об этом в главе 6). То же неизбежно произойдет и с автономным оружием.

Машины для убийства не только станут умнее, точнее, эффективнее, быстрее и дешевле — они научатся сбиваться в стаи, действовать четко и скоординированно, и это сделает их практически непобедимыми. При этом рой из 10 тысяч дронов, способный уничтожить полгорода, теоретически может обойтись замыслившему такое всего в 10 миллионов долларов.

АРГУМЕНТЫ ЗА И ПРОТИВ АВТОНОМНОГО ОРУЖИЯ

Однако у автономного оружия, разумеется, есть и положительная сторона.

Во-первых, военные действия исключительно с помощью машин сберегут множество солдатских жизней. В руках ответственных военных такое оружие может быть использовано для избирательного уничтожения реально опасных врагов без непреднамеренного убийства условных союзников (даже фактически выступающих на стороне противника), детей, гражданских лиц. (Автономные транспортные средства уровней 2 и 3 так помогают водителям избежать ошибок на дороге.) Кроме того, автономное оружие можно использовать для защиты от киллеров и вообще злодеев.

Однако приходится признать: ответственность в данном случае существенно перевешивает все возможные выгоды. Речь прежде всего об ответственности моральной — практически все этические и религиозные системы считают человеческую жизнь великой ценностью; принудительное лишение человека жизни требует обоснования и тщательной проверки.

Не зря генеральный секретарь ООН Антониу Гутерриш заявил: «Перспектива [появления] машин, обладающих способностью и властью отнимать человеческие жизни, морально неприемлема».

Далее. Автономность оружия резко снижает стоимость убийства. Да, террористы-смертники, готовые отдать жизнь за идею, дешевы, но подавляющее большинство людей преодолеть этот барьер не в состоянии. С появлением автономных киллеров ни одному человеку не придется жертвовать собой, больше жизни желая уничтожить другого.

Следующий чрезвычайно важный вопрос — четкая линия ответственности, точное понимание, кто ответствен за ошибку автономного оружия. С солдатами на поле боя все предельно ясно, а система автономного вооружения неопределенна — точно так же, как и автомобиля-беспилотника, наехавшего на пешехода.

Но тут дело усугубляется еще и тем, что это может привести к освобождению агрессоров от ответственности за нарушение международного гуманитарного права. А это делает более вероятным развязывание реальной войны.

Другая опасность состоит в том, что автономное оружие может использовать технологии распознавания лиц или походки, отслеживания сигналов телефона либо интернета вещей. А это уже позволяет уничтожить не только одного, заранее определенного человека — это делает возможным истребление любой заданной группы людей. В рассказе «Квантовый геноцид» показано, как целенаправленно уничтожается бизнес-элита и интернет-специалисты.

Расширенная автономия без глубокого понимания метапроблем еще больше увеличит темп вооруженных конфликтов и, следовательно, масштабы ущерба и потерь, в перспективе приведет к катастрофической эскалации напряженности — вплоть до ядерной войны. ИИ, как известно, не обучен здравому смыслу и не оснащен человеческой способностью логически рассуждать, охватывая разные области, — и это его сильно ограничивает.

Как бы мы ни старались, применение автономного оружия только в одной области и с единственной целью не позволит его ИИ в полной мере осознать последствия своих действий. Вот почему в нашей истории ключевые фигуры контртеррористической операции, в которой задействован ИИ, — все-таки люди, а не роботы.

АВТОНОМНОЕ ОРУЖИЕ — ПРОБЛЕМА ЖИЗНЕННАЯ?

Многие страны, начиная с англо-германской гонки вооружений на море и заканчивая советско-американской «ядерной гонкой», стремились к военному превосходству — оно определялось как важнейший национальный приоритет. И с появлением автономного оружия данная тенденция наверняка сохранится и усугубится — ведь тут открывается столько способов «победить»! (Создать самое маленькое, самое быстрое, самое скрытное, самое смертоносное, и так далее, и тому подобное — оружие.)

Стоить такая гонка вооружений наверняка будет меньше, чем предыдущие, что спровоцирует на участие в ней. Некоторые вовсе не большие страны, располагающие, однако мощными технологиями, скажем Израиль, уже ввязались в эту гонку, создали продвинутых военных роботов, в том числе размером с муху. Словом, практически нет сомнений: как только одна страна создаст автономное оружие, любая другая, более-менее амбициозная, будет ощущать себя обязанной придумать что-нибудь поэффективнее.

К чему это приведет? Стюарт Рассел, профессор Калифорнийского университета в Беркли, говорит: «Возможности автономного вооружения будут ограничены скорее законами физики — например, ограничениями по дальности, скорости и полезной нагрузке, — нежели какими-либо недостатками ИИ-систем, им управляющими. В будущем можно ожидать появления платформ, гибкость и смертоносность которых сделают людей совершенно беззащитными».

Короче говоря, если пустить все на самотек, то многосторонняя гонка вооружений в итоге станет забегом в небытие.

Ядерное оружие, безусловно, реально опасно, но у человечества получилось взять его под контроль, более того, благодаря теории сдерживания оно даже помогло ослабить риск начала обычной войны. Согласно этой теории, наличие ядерного оружия сдерживает более мощного противника — при условии если оно не окажется выведенным из строя внезапной первой атакой.

Поскольку ядерная война ведет к гарантированному взаимному уничтожению, то любую страну, нанесшую первый ядерный удар, скорее всего, ждут ответные меры. Но в случае с автономным оружием теория сдерживания не работает — первая атака может остаться незамеченной, следовательно, не содержит угрозы гарантированного взаимного уничтожения.

Наглядный пример: дроны Судного дня в нашем рассказе очень трудно выследить. Ценные подсказки, возможно, даст взлом коммуникационных протоколов такого дрона, но для этого годен только «живой» беспилотник, а не сбитый и поврежденный.

Любая атака автономного оружия, скорее всего, вызовет ответную реакцию страны — объекта нападения. Эскалация конфликта тут может быть стремительной, даже привести к ядерной войне. Причем первая атака может быть инициирована даже не государством, а, например, террористами. А это уже существенно повышает уровень опасности автономного оружия.

ВОЗМОЖНЫЕ РЕШЕНИЯ ДЛЯ ОСЛАБЛЕНИЯ УГРОЗ АВТОНОМНОГО ВООРУЖЕНИЯ

Высказано уже несколько предложений, как нам избежать этой экзистенциальной катастрофы. Одно из них — подход «человек-в-цикле» как гарантия того, что любое решение, связанное с чьей-либо смертью, имеет право принять только человек. Однако мощь автономного оружия во многом обусловлена именно скоростью и точностью, достигаемыми без нашего участия. Так что это условие вряд ли сочтет приемлемым страна, которая жаждет победить в гонке вооружений. Кроме того, обеспечить соблюдение этого условия на законодательном уровне крайне сложно, а вот обойти, напротив, легко.

Второе решение — объявление автономного оружия вне закона. Это предлагают в том числе и организаторы Кампании по борьбе с роботами-убийцами[116], и три тысячи человек, в том числе Илон Маск, ныне покойный Стивен Хокинг и множество экспертов по ИИ, подписавших письмо соответствующего содержания. Надо сказать, подобные усилия предпринимались и ранее — биологи, химики и физики выступали против биологического, химического и ядерного оружия соответственно.

Конечно, запретить автономное оружие непросто, но предыдущие законодательные акты, запретившие, например, ослепляющие лазеры и химическое и биологическое оружие, оказались вполне эффективными. Сегодня главным препятствием на этом пути является сопротивление России, США и Великобритании — эти государства считают такой запрет преждевременным.

В 2021 году Комиссия по национальной безопасности по ИИ США (ее возглавляет бывший председатель Alphabet Эрик Шмидт) рекомендовала Соединенным Штатам изменить отношение к запрету автономного оружия.

Третий подход предполагает жесткое регулирование производства и применения автономного оружия. Это, судя по всему, тоже будет непросто — из-за сложности создания рабочих технических спецификаций без чрезмерного обобщения.

Что считать автономным оружием? Как проводить его аудит с целью выявления нарушений установленных спецификаций? Все это серьезные, хоть и вполне преодолимые, препятствия.

Поскольку эта книга о долгосрочной перспективе, позвольте мне пофантазировать о 2041 годе — вдруг к тому времени все страны договорятся, что все войны должны вестись только с помощью роботов (а еще лучше, только в компьютерных программах), без человеческих жертв, но с классическими военными трофеями?

А еще можно представить себе будущее, в котором войны ведутся с участием и людей, и роботов. Роботам разрешается использовать только оружие, выводящее из строя бойцов-роботов, но безвредное для солдат-людей (например, как лазерный бой). Сегодня эти концепции кажутся фантастическими, но могу же я надеяться, что они быстрее вдохновят человечество на что-то реалистичное?

Надеюсь, я убедил вас, что автономное оружие уже сегодня представляет явную угрозу для людей и с беспрецедентной скоростью становится все более умным, а также ловким, смертоносным и доступным. Развертывание таких видов вооружения будет разгонять неизбежную гонку, в которой еще и не окажется естественного сдерживания, характерного для гонки ядерного вооружения.

Автономное оружие — это применение ИИ, которое наиболее явно и глубоко противоречит нашей морали и сильнее всего угрожает будущему человеческой цивилизации. Нам уже сегодня нужно привлечь экспертов и прочих ответственных лиц, чтобы оценить и взвесить различные варианты решений и предотвратить распространение такого оружия, а как следствие — и уничтожение нас, людей, как биологического вида.

Глава 8. Спаситель рабочих мест

Умру с кувалдой я в руках,

но паровому молоту не сдамся.

Американский фольклор, песня о Джоне Генри[117]

РАССКАЗ ПЕРЕВЕДЕН ЭНДИ ДУДАКОМ

Примечание Кай-Фу: В этой истории исследуется животрепещущая проблема: что случится с человеческими рабочими местами, когда искусственный интеллект проникнет во все отрасли и сделает человеческий труд ненужным? Пока искусственный интеллект уничтожает рабочие места, связанные с технической, нетворческой деятельностью, зарождается новая сфера бизнеса — фирмы по перераспределению («релоцированию») сотрудников, занятые поиском новых рабочих мест для уволенного персонала и его переобучением. Но что представляют собой эти новые места? Смогут ли они удовлетворить потребность людей чувствовать себя востребованными? Кто находится в большей опасности? Как людям жить полноценной жизнью в эру поставтоматизации? Я поделюсь своими размышлениями в комментариях в конце этой главы и опишу, как технологии типа робототехники и роботизированной автоматизации процессов продолжат развиваться и примут на себя функции как офисного персонала, так и рабочего класса.

Свет был притушен. Дженнифер Гринвуд и еще двенадцать участников тренинга внимательно смотрели видео, плавающее перед ними в воздухе. В закадровом мужском голосе звучали прямо-таки пророческие нотки.

— Все начало меняться в 2020 году, — вещал он. — Пандемия привела к социальной изоляции и ограничению поездок. Владельцам бизнеса пришлось приспосабливаться, они обратились к роботизации и искусственному интеллекту, чтобы заменить машинами человеческий персонал.

Парящая в воздухе картина перенесла зрителей на пустынную Таймс-сквер, затем — в заброшенный торговый центр и безлюдный Диснейленд. Перед глазами всплывали изображения закрытых фабрик и замерших сборочных линий. Дальше пошли протестующие толпы в городах — на лицах респираторы, в руках плакаты с лозунгами против массовых увольнений. Затем появились еще более тревожные кадры уличных беспорядков и погромов.

Повествование меж тем продолжилось:

— В 2024 году власть в Белом доме перешла в новые руки, и администрация запустила программу по введению безусловного базового дохода. Предполагалось гарантировать каждому гражданину ежемесячную выплату за счет налогообложения сверхбогатых элит — эти олигархи сколотили состояния на новых технологиях и сборе данных. Первостепенной задачей стало справиться со структурной безработицей, которую спровоцировало развитие искусственного интеллекта.

В визуальном потоке возник мозаичный коллаж из заголовков. Фоном пошла узнаваемая тревожная музыка из новостной заставки. Анимированный график продемонстрировал скачки цен на фондовых биржах, а затем граждане принялись читать пришедшие на смартстримы уведомления о выплатах.

Голос продолжил:

— Несмотря на изначальную популярность, введение безусловного базового дохода вызвало неожиданные последствия. Многие уволенные, которым теперь стало нечем заняться, пристрастились к играм виртуальной реальности, азартным онлайн-играм, наркотикам и алкоголю. В городах выросла преступность — деловые и престижные районы обезлюдели, корпорации и состоятельные горожане покинули офисы и дома.

Искусственный интеллект развивался стремительно, на обочине оказалось сразу много людей, у них не было ориентиров на рынке труда. Одна социальная проблема цеплялась за другую, порождала третью — увеличилось число самоубийств. Раздались голоса за отмену базового дохода.

Социальные сети захлестнул большой спор о преимуществах и недостатках этой программы уже к 2028 году. Сенаторы и конгрессмены погрязли в бесконечных дрязгах, переходящих в битвы, сражаясь за выдвинутый план отмены базового дохода. Эту программу официально упразднили в 2032 году.

Вместо нее сформировали законодательную базу для создания новой отрасли — релокации, профессионального перенаправления. Надо же соответствовать времени! Профессионалы-релокаторы помогают людям обучаться новым профессиям, показывают пути для трудоустройства. Часть налогов, ранее уходившую на выплату базового дохода, правительство перенаправило на субсидирование релокации, надеясь таким образом притушить пожар разгоревшихся социальных конфликтов. Именно в тот момент я и решил основать компанию «Синкия»[118].

Дженнифер знала эту историю и спокойно могла бы заменить рассказчика. Теперь, в эру трудового перераспределения, от корпораций требовали сотрудничать с компаниями, подобными «Синкии», во время массовых увольнений сотрудников.

Компании по перенаправлению персонала получали правительственные дотации и оплату по контрактам с работодателями. Как правило, стоимость такого контракта была ниже, чем расходы компании на массовые выплаты по сокращениям.

Фирмы вроде «Синкии» сводили между собой рекрутинговые агентства и увольняемых сотрудников, получая за это плату, как и традиционные хедхантеры. Прибыль шла на тренинги для тех, кто не смог трудоустроиться без переобучения.

Искать рабочие места для людей было труднее, чем заполнять вакансии. По мере сужения диапазона профессий релокаторам из фирм, подобных «Синкии», приходилось без конца проводить тестирование жертв увольнений. Оно нужно, чтобы составить (или дополнить) личностный и профессиональный профиль, сформировать исчерпывающие дорожные карты по типам занятости, основанные на последней экономической статистике и социальных трендах.

Получив свежие данные, релокаторы выдавали безработным индивидуальные планы по трудоустройству и щедро сдабривали их дежурным сочувствием. И тут в игру вступала харизма Майкла.

Вводное занятие по истории релокации как отрасли и «Синкии» как одной из успешных в ней фирм подошло к концу. Возник голографический образ самого Майкла Сейвиора[119]. Словно маг, он появился в центре настенного экрана и обратился к Дженнифер и другим участникам тренинга — именно его голос сопровождал кадры в течение лекции.

На вид ему было под пятьдесят, полноватый, с седеющими висками и тщательно подровненными бакенбардами. Темно-синий костюм, достаточно нарядный, но без претензий, сидел идеально.

Впрочем, Дженнифер хотела работать в «Синкии» не потому, что была очарована лично Майклом — ее привлекало реноме этого человека. Она отыскала о нем все, что было в интернете, пересмотрела его выступления и дискуссии на отраслевых конференциях, где специалисты обсуждали применяемые его компанией техники.

Комментаторы всегда удивлялись, как умело и стабильно Сейвиор захватывал и удерживал внимание аудитории, где бы он ни выступал. Возможно, именно эта власть над слушателями и их настроениями и создала ему репутацию лучшего релокатора в стране. Он был чертовски убедителен: тщательно взвешивал и выговаривал слова; интонации, выражение лица, осанка — все так и подталкивало довериться его профессионализму. Он знал, как внушить людям веру в будущее.

Вот бы стать его ассистенткой… Мысль, возникшая как бы сама по себе, показалась Дженнифер настолько безумной, что девушка попыталась усмирить фантазию. Ведь шла всего-навсего первая неделя стажировки в «Синкии».

Держи себя в руках. Дженнифер сделала усилие и переключилась на текущую задачу.

Майкл продолжал вещать, плавая в воздухе и изящно жестикулируя. Окошко с видеофильмом подчинялось взмахам его рук — то увеличивалось, то съеживалось, то наклонялось…

— Как вы убедились, признаки грядущих перемен появились еще до пандемии, а вирус лишь их ускорил. Огромный объем экономических процессов перебазировался в виртуальную сферу из-за необходимости обеспечить физическую дистанцию между людьми. Традиционная сфера услуг, производственные отрасли понесли огромные убытки — у машин оказалось явное преимущество перед людьми.

Пока Майкл витийствовал, в воздухе мелькали изображения-напоминания о различных исчезнувших профессиях: кассиры, водители грузовиков, швеи, рабочие заводов, сборщики фруктов, специалисты по телефонным продажам, одетые с иголочки офисные сотрудники и даже врачи. Образы прокручивались всё быстрее, сливаясь в толпу размытых, едва различимых фигур, словно привидения.

— Конкурентом человечества стал искусственный интеллект, — продолжал Сейвиор. — Он мог круглосуточно учиться и совершенствоваться и не нуждался в отдыхе. Работу, которую еще месяц назад выполняли люди, поручали компьютерам. Гонка длилась уже более 20 лет, но только сейчас все осознали, что происходит. И вот мы наконец подошли к сегодняшнему дню.

Процессу не видно конца — по крайней мере, в обозримом будущем. Сегодня многие наемные работники, подобно индейкам перед Днем благодарения, сидят на ферме и ждут, когда их отправят в духовку. В эту эпоху всеобщей повышенной тревожности острые социальные конфликты стали обычным делом.

Изображение в воздухе развернулось, и появились кадры уличных протестов и ожесточенных стычек. Дженнифер видела такое на каждом тренинге, но привыкнуть и не реагировать все еще не могла. От детей, росших в эпоху «большого спора», скрывали самые страшные проявления этого социального слома.

— Власти попробовали разные смягчающие напряженность тактики: базовый доход, сокращенную рабочую неделю. Но история показала, что такие полумеры лишь продлевают агонию и не в состоянии решить фундаментальную проблему: люди, лишенные чувства удовлетворенности от выполненной работы, погружаются в беспомощность и отчаяние. В отсутствие чувства собственной ценности они прибегают к метафорическим или даже буквальным наркотикам. Кто же может спасти их от страшной судьбы?!

Майкл сделал паузу и с полуулыбкой обвел взглядом лица присутствующих. Вопрос, скорее всего, мог быть и риторическим, но Дженнифер не могла избавиться от ощущения, что оракул смотрит прямо на нее. Она подняла руку.

— О, девушка на первом ряду! Представьтесь, пожалуйста.

— Дженнифер Гринвуд, Сан-Франциско.

— Прекрасно, Дженнифер. Каков же ваш ответ?

— Мы, мы можем, это мы, мистер Сейвиор. Мы воплощаем вашу фамилию, мы и есть спасители!

Прозвучало слегка экзальтированно, все засмеялись, а Дженнифер покраснела. Она говорила искренне и совершенно не пыталась польстить Майклу.

— Спасибо, Дженнифер. Здесь для нас кроется важный урок. Люди — не машины, — он говорил слегка нараспев, — мы сложнее устроены, умеем приспосабливаться и действуем под действием эмоций, а значит, на каждого из вас, релокаторов, ляжет большая ответственность. Вы должны стать максимально компетентными специалистами по перераспределению. Ваша работа, а вернее сказать миссия, — спасать людей. Вам предстоит не только восстанавливать рабочие места, но и реставрировать человеческое достоинство.

Участники тренинга дружно захлопали в ладоши, в зале вспыхнул полный свет. Неожиданно из-за экрана появился Майкл. Оказывается, это была не видеозапись и даже не онлайн-трансляция из головного офиса в Сиэтле. Этот человек умел удивлять.

Внезапное явление Сейвиора не только потрясло и восхитило Дженнифер — она занервничала. Зачем он здесь? Прибытие на рядовой тренинг человека такого ранга означало, что события — а это, скорее всего, серьезный кризис — требуют его личного вмешательства. До Дженнифер доходили слухи о большом проекте, который предстояло реализовать «Синкии»: релоцировать несколько тысяч работников одной из крупнейших в стране строительной компании «Лэндмарк». Может, Майкл приехал из-за этого?

Пока в ее уме проносились догадки, Дженнифер поймала себя на мысли: Майкл напоминает ей отца. Тот работал в страховой компании и учил, что под лежачий камень вода не течет, что жить надо активно, искать возможности и рисковать. Во всяком случае, до какого-то момента его собственный подход в жизни был именно таким.

Дженнифер мысленно попросила: «Папа, помоги», — и быстро что-то набрала на смартстриме. Помедлила и нажала кнопку «Отправить».

Спустя три месяца Дженнифер продиралась сквозь толпу — на площади митинговали протестующие, — стараясь добраться до входа в небоскреб, где располагалась дирекция «Лэндмарка». Она выделялась строгим деловым костюмом.

Дженнифер написала электронное письмо в минутном порыве и потом пожалела — но отправленный мейл нельзя отменить или уничтожить. Зато она встретилась с самим Майклом и даже пила с ним вместе кофе! Он сказал, что тронут ее искренностью и простотой, рад, что она нисколько его не стесняется.

В письме Дженнифер кратко описала жизненный крах своего отца, который и побудил ее присоединиться к команде «Синкии». Майкл похвалил девушку за храбрость и добавил, что весьма впечатлен. Предполагавшаяся двадцатиминутной встреча растянулась на час.

Оказалось, Майкл подыскивает нового ассистента, и после разговора Дженнифер получила приглашение на испытательный срок. Разумеется, если ее одобрит кадровая служба, ведь на эту вакансию стоит очередь из молодых сотрудников «Синкии». К счастью, Дженнифер оправдала ожидания — и Майкла, и свои собственные.

Она влилась в компанию в непростой момент — огромные возможности шли рука об руку с сильным стрессом. Майкл решительно намеревался заполучить контракт с «Лэндмарком». Традиционная строительная отрасль цифровизировалась, и «Лэндмарк» уверенно следовала новым курсом — все больше человеческих ролей доставалось автоматам, строительные конструкции создавались заранее на 3D-принтерах, а места в офисе заняли разработчики ИИ.

Результатом стало массовое сокращение, на выход указали в основном работягам, синим воротничкам[120]. Для проведения тотального увольнения требовалось заручиться официальным согласием властей, а они потребовали от «Лэндмарка» привлечь компанию-релокатора. Таким образом тысячи высвободившихся работников получили бы одним махом новые рабочие места. Если «Синкии» достанется этот подряд, то она заключит один из крупнейших контрактов по трудовому перепрофилированию за всю историю, так что постараться стоило. Но и конкуренты не дремали.

Майкл получил инсайдерскую информацию — за контракт всерьез борется таинственная новая фирма. Что за ребята? Откуда взялись? Чем угрожают «Синкии»? Майкл поручил Дженнифер все разузнать.

Пока поиски по открытым каналам ничего не дали. Однако пару дней назад, пробираясь в офис «Лэндмарка» мимо ее же стройплощадки, она обратила внимание на странный рисунок на асфальте. Дженнифер даже решила сфотографировать его, чтобы потом рассмотреть поподробнее, но камера вдруг распознала QR-код, который выбросил ее на секретный интернет-форум.

Дженнифер быстро поняла, что это онлайн-группа сотрудников «Лэндмарка», где они организовывали протестные действия против увольнений. Это настоящее подпольное движение сопротивления автоматизации!

Участники форума — сплошь под никами или вообще анонимы — выбирали день для очередного митинга. На него пришла и Дженнифер. Она оказалась в гуще толпы строителей, которая блокировала дорожное движение вокруг «Лэндмарк-тауэр».

Работяги принесли с собой не только растяжки с лозунгами. Они пригнали технику, на которой больше не могли работать — автокраны, бетономешалки и шаровые тараны для сноса, — и выстроили колонну, словно танки на военном параде. Строители пришли в полной рабочей форме — в оранжевых касках и светоотражающих жилетах, захватили инструменты: кто держал на плече кувалду, кто — столярный ящик. У многих были плакаты вроде такого: «Машины-угнетатели питаются людьми!» Организаторы периодически начинали скандировать в мегафоны — «запускали волну», а толпа с ревом подхватывала: «Ро-бо-ты-на-свал-ку! Ро-бо-ты-на-свал-ку! Ро-бо-ты-на-свал-ку!» Шум стоял оглушительный.

Полиция выставила оцепление, организовав стену из щитов, нерушимой дамбой перекрыла подходы к дверям офисного здания.

Дженнифер увидела четыре враждующие стороны, интересы которых были диаметрально противоположны. Властям нужна стабильность, строительной компании — снижение расходов, компаниям-релокаторам вроде «Синкии» — выгодный контракт. Ну а рабочим, самой уязвимой группе участников конфликта, требуется совсем мало: их рабочие места или хотя бы забота об их интересах. Перспектива оказаться на обочине жизни, проиграв машинам, их совершенно не устраивала.

Три первые стороны втихаря договорились между собой, но вот у четвертой выхода не осталось — только протестовать, демонстрировать силу и пугать других троих народным гневом.

В последние годы периодические протесты против сокращений случались, но до сей поры не происходило ничего столь масштабного. Рабочие буквально восстали против недавнего работодателя. Поползли слухи, что если «Лэндмарк» в ближайшее время не пойдет на уступки и не представит план, учитывающий интересы рабочих, протестная активность усилится.

Дженнифер смотрела на здоровяков-строителей с кувалдами и ломами, на таких же здоровяков с дубинками и наручниками в полицейских рядах, и всерьез опасалась, что конфликт перейдет в «насильственную фазу» — а попросту, что начнется драка.

Проталкиваясь дальше, она почувствовала, что завибрировал телефон, ловко выудила крохотный гаджет, одновременно приняла вызов, произнесла «алло» и застегнула сумку.

— Дженни, вы где? — послышался голос Майкла. — Каждая минута дорога!

— Я у… — прокричала она в трубку, стараясь перекрыть усилившийся вдруг шум.

— Вы на концерте? На стадионе? На вечеринке? Сейчас всего десять утра!

— Извините, я устроила небольшую вылазку… — Дженнифер наконец увидела, кого искала: мужчину в фанатской бейсболке команды St. Louis Cardinals. — Я в разведке!

— Боже! Только не говорите, что вы… возвращайтесь немедленно! Там опасно!

— Скоро буду! — Дженнифер нажала отбой и двинулась к человеку в бейсболке Cardinals.

— Здравствуйте, это вы SLC422? — она писала на форуме юзеру с таким странным ником. Возможно, этот набор знаков был связан с днем рождения или счастливым числом, предположила Дженнифер.

Мужчина повернулся и кивнул:

— Вы журналистка? С форума? — он внимательно посмотрел на костюм. — Что-то непохоже.

— Маскируюсь, — она подмигнула и достала блокнотик с ручкой, — я за вас, ребята. Эти корпорации совсем распоясались!

— Тогда ладно. Роботы захватили тысячи рабочих мест. Мы не собираемся сдаться без боя!

— Вы писали, что какая-то компания гарантирует трудоустроить 100 процентов работников. Это правда?

— Ага, правда. У меня приятель в кадровой службе. «Омега» она называется. Нет, «Омега-Альянс», вот.

— Ух ты! Так, может, все и вправду будет хорошо?

— Не знаю. Эти релокаторы обычно предлагают поганые места — или нужно переезжать за тридевять земель, или идти учиться. Всю жизнь, короче, сломать. Нет, нам нужен настоящий, хороший выход, а не просто так, для галочки.

Он поднял над головой сжатый кулак и оглядел ревущую толпу.

— Хорошо, мистер SLC422, у вас есть мой электронный адрес. Если услышите что-нибудь еще, пожалуйста, свяжитесь со мной, в любое время свяжитесь. Удачи!

Дженнифер повернулась, но ее подхватил и почти сбил с ног водоворот протестующих.

— Берегите себя! — донеслось ей вслед, словно благословение, и через мгновение вокруг нее остался лишь беспокойный гул митинга.

Через полчаса Дженнифер вошла в офис. Ее встретил встревоженный Майкл.

— Стопроцентная релокация? Это что значит? — с недоверием переспросил он.

— Это буквально значит «все». Все сто процентов, — она устала, стояла, прислонившись к дверному косяку и, не удержавшись, закатила глаза.

— Но так не бывает! Мы колотимся изо всех сил, проводим тренинги, организуем переводы в другие регионы — да вы все знаете. Но ведь у нас 28,6 процента — и мы бьемся, за каждую десятую процента бьемся… Вы же знаете, каким трудом нам дается этот показатель… Откуда сотня?! Если в Калифорнии не нужны строители, может, они пригодятся в Пенсильвании, не останется вариантов здесь — есть Европа. Но сто процентов? Ха! Так просто не бывает! Лучше пристрелите меня на месте!

В этот момент с Майкла слетел весь его лоск, вся вальяжность. Он не был похож на пророка. «Вот старпер», — вдруг подумала Дженнифер.

— Но он так сказал — зачем ему врать? Да и кто бы в такое поверил?

— Но этот… «Омега-Альянс»… И названьице-то какое-то паршивое… я, я совершенно ничего о них не слышал. Это все, что вы добыли за целое утро?

И все же Майкл дал задание своему ИИ-помощнику. Но поиски ничего не дали — о возможном конкуренте не было совсем никакой информации. «Может, это кодовое название? Вывеска для публики? Но к чему такая скрытность?» — Майкл был озадачен и раздражен, он ничего не понимал, и это его бесило.

В офисе Сейвиора надрывался стационарный смартстрим. На экране высветилось: Эллисон Хейл. Он удивился. С Эллисон у него когда-то был роман. Она была на шесть лет младше, они вместе учились в бизнес-школе, позднее оказались в одной отрасли и стали фактически соперниками в бизнесе. Они не общались, он давно ничего о ней не слышал, и ее звонок удивил.

— Эллисон? Неожиданно. Ты в городе? Проездом? Обед? Сейчас посмотрю… Что ж, почему бы и нет? Я знаю приятное местечко.

Майкл дал отбой. Он был заинтригован. Связан ли этот звонок с появлением компании-конкурента? Это нужно срочно выяснить.

Они договорились встретиться в китайском ресторане «Три сокровища». Тарелки с аппетитными закусками, расставленные по красной скатерти, напоминали лотосы на глади летнего пруда. Майкл прибыл первым и наблюдал, как хозяин заведения провожает Эллисон к столу. Она совсем не изменилась. «Может быть, делает теломерное восстановление?» — подумал он почему-то.

— Ну, выкладывай, — они уже обменялись дежурными фразами про «прекрасно выглядишь», прокомментировали вслух роллы с морепродуктами и ароматные булочки. — Я знаю, просто так ты не позвонила бы.

— Так ты думаешь, я не способна просто так позвонить, чтобы поболтать со старым другом? — она кокетничала, отложила палочки и томно повела глазами.

— У меня скоро еще одна встреча. Ты же понимаешь, дела.

— Ладно, Майкл, — сдалась она, — ты ведь видишь меня насквозь. Дела так дела. Когда ты основал «Синкию»? Лет пять назад? Восемь?

— Та-а-ак все-таки это… Ты пришла меня подколоть? — взгляд Майкла посуровел. — Таких совпадений не бывает. Вокруг «Лэндмарка» творится черт-те что, появляется конкурент, о котором я ничего не слышал, — а тут еще ты звонишь, потому что проголодалась и хочешь пообедать. Так ты работаешь на «Омегу»? И не начинай про стопроцентную релокацию, все равно не поверю.

— Почему стопроцентную? — Эллисон занялась роллами. — 99,73 процента. И да, так и есть.

— Да это просто подозрительно! Это вообще законно? Что будет с этими рабочими?

— Подпиши несколько документов, и мы посвятим тебя во все хитрости бизнеса. Ты много о чем не слышал, Майкл. Ну, что скажешь?

— Значит, ты предлагаешь мне работу… Или это попытка купить мою компанию? А что будет, если я откажусь?

— Тогда мне придется сделать вывод, что бедный старина Майкл засиделся в своем болотце и уже не отличает первоклассный стейк от костлявой куриной ножки.

Майкл уставился на Эллисон. Он помнил, как в студенчестве они до хрипоты спорили на семинарах. Она была умной и непримиримой — из тех студентов MBA, которые обожают книгу «Атлант расправил плечи»[121]. Ей всегда нравилось нападать на Майкла, его взгляды она считала лицемерным комедиантством и утверждала, что за его «коллективным духом» прячется жажда личной выгоды, сама же видела в нем сущность человеческой добродетели.

Собственно, романтичная искра пробежала между ними в их учебных дебатах. Однако фундаментальные противоречия быстро ее загасили.

— Ни капли не изменилась! — вдруг рассмеялся Майкл.

Эллисон покачала головой.

— Я предлагаю тебе возможность помочь куда большему количеству людей, чем ты можешь сейчас. Разве это не основа твоей философии? Какой смысл отказываться? Подумай и набери меня.

Майкл смотрел в удаляющуюся спину Эллисон — она, не доев, встала и зашагала к выходу из «Трех сокровищ». Чего бы это ни стоило, надо выяснить, что творится в этой чертовой «Омеге»!

К счастью, у него была Дженнифер, его бесстрашная ассистентка прекрасно подходила для такой спецоперации.

— Значит, ваша новая ассистентка справляется?

— Вполне. Думаю, у нее способностей больше, чем сейчас у меня!

Майкл лежал на просторном и удобном кресле-шезлонге. Он ослабил галстук, прикрыл глаза и сконцентрировался на дыхании. Обед с Эллисон завершился панической атакой, и ему пришлось срочно звонить своему психиатру — доктору Трише Денг. И вот ее лицо в обрамлении аккуратно уложенных седых волос возникло на экране.

— У этой панической атаки не было прямого триггерного события, — констатировала доктор. — Этот раз совершенно не похож на случай с Эльзой.

Майкл сжал губы, вспоминая.

Он давно занимал пост генерального директора, но до сих пор обожал хвастаться, как лично работает с клиентами «Синкии». Перед его мысленным взором встала распахнутая дверь в консультационный офис. Зашедшая женщина, Эльза, сидела напротив Майкла, пока он листал ее личное дело.

— Госпожа Гонзалес, я могу называть вас Эльза? — зажурчал он. — Похоже, наша ситуация не очень благоприятна, но вам повезло…

— Мы знакомы, мистер Сейвиор, — перебила посетительница.

— Да? — осекся Майкл, принялся изучать ее лицо, натужно копаясь в памяти.

— Не помните? Пять лет назад я потеряла работу, и меня отправили к вам. Я была работницей склада, а вы направили меня в парк аттракционов Adventure World, потому что вам показалось, что я терпелива и люблю детей. Вы сказали, что это стабильная работа и я доработаю там до пенсии. Тогда ваш офис был гораздо меньше, сэр. И вот все повторяется, я опять здесь, — закончила она слишком ровным голосом.

— Эльза, я сожалею, Я верю, что так оно и было, — он совершенно ее не помнил, — но на трудовом рынке произошли непредвиденные структурные изменения. Парки аттракционов и крупные развлекательные центры начали использовать роботизированных сотрудников, правда, они опоздали. Понимаете, это дешевле и эффективнее, — и Майкл сочувственно (слишком сочувственно) вздохнул.

— И… куда вы пошлете меня на этот раз?

— У нас есть вакансии в городском зоопарке. Мне кажется, этот вариант вам отлично подойдет.

— Какая удача! Всю жизнь мечтала каждый день выгребать слоновье дерьмо. И три года? Год? Может, девять месяцев?

Эльза задрожала, ее голос становился все громче.

— Каждому родителю хочется быть героем в глазах своих детей, мистер Сейвиор. Но сейчас я чувствую себя тараканом, который таскает крошки по углам, чтобы не подохнуть. Я не хочу, чтобы мои дети видели меня насекомым, мистер Сейвиор. Прощайте.

Глядя на мать, которая оказалась на грани нервного срыва, Майкл вспомнил свою мать, Люси. Она когда-то была хорошим бухгалтером, но ее постигла та же беда. В те годы ИИ еще не представлял угрозы. Ее выдворили из профессии банальные высокоскоростные программы для финансовой отчетности… Люси еще несколько раз меняла работу, каждая последующая была во всех смыслах хуже предыдущей, а потом варианты закончились.

Майкл закрыл глаза, но опять нахлынувшие картины того, что было потом, не исчезали: безработная мама, окончательно поверженная, топила печали в алкоголе. Он отчетливо помнил и свое состояние в то время. Его сердце сжималось от горя, сочувствия, и вместе с тем… он не мог ничего сделать, но при этом чувствовал к ней странное презрение.

— Майкл?! — окликнула по видео доктор Денг. Ее голос вернул Майкла в реальный мир, в кресло. Он открыл глаза.

— Вы хотели спасти Эльзу, — произнесла психотерапевт. — Вы хотели спасти ее так же, как вам хотелось спасти свою мать. И точно так же вы стараетесь спасти каждого, кто заходит в офис «Синкии».

Майкл немного подумал и заговорил.

— Да, правда, мы действительно стараемся. Мы выполняем роль клапана, через который сбрасывается пар. Мы приглушаем социальные проблемы, — но мы даем ложные надежды. Мы постоянно понижаем планку, впрыскиваем медленный яд, и они постепенно приходят к пониманию своей участи — закончить жизнь на обочине, проиграть технологиям и освободить место в социуме. Разве это помощь? А может, мы соучастники этого действа?

— Послушайте, Майкл. Вы помогаете этим людям восстановить их чувство собственного достоинства.

— Неужели это никогда не закончится?! Мы же не можем угнаться за искусственным интеллектом — к чему с ним соревноваться? Как ни старайся, поливать цветы в пустыне бессмысленно. «Лэндмарк» — это только начало. А что будет со всей строительной отраслью? — Майкл потянул воротник рубашки, словно пытаясь ослабить воображаемую удавку на шее.

Доктор Денг приготовилась что-то сказать, но сработал таймер. Она нажала кнопку на своем планшете — у Майкла всплыло сообщение: поступил автоматически сгенерированный результат консультации и назначения.

— Как ваш доктор я могу лишь сказать… что жду вас через неделю в это же время. Как ваш друг я рекомендую смириться со своим несовершенством.

Майкл уже завязывал галстук. На его лице не осталось ни следа внутренних терзаний. Он включил режим спасителя.

Субботним вечером в баре «Сильверлайн» было людно, легче сорвать голос, чем докричаться до бармена. Заведение словно застыло во времени. Никаких признаков технологий — только телевизоры, терминал оплаты на барной стойке да цифровой кассовый аппарат: в области залива Сан-Франциско наличные уже давно были не в ходу.

Хотя американский футбол десятилетиями терял популярность по причине травмоопасности, в этой забегаловке субботние трансляции все еще собирали полный зал — по большей части из местных работяг. Несколько мужчин, увидев Дженнифер, засвистели ей вслед. Технологии эволюционировали, а мужчины остались прежними.

Дженнифер учла прошлый опыт и в этот раз сменила брючный костюм на спортивную толстовку и джинсы.

В миру юзера SLC422 звали Мэтт Доусон, и он сидел у стойки. На нем не было бейсболки, и Дженнифер заметила внушительные залысины. Вид у него был еще более потрепанный и обездоленный, чем в прошлый раз. Мэтт заметил ее и приветственно помахал. Дженнифер взобралась на свободный стул рядом и жестом показала: «Как у него». Какое-то время они молча потягивали пиво.

Наконец Дженнифер решилась заговорить.

— Вы же пригласили меня не просто выпить? Вы тут с компанией? С женой? С девушкой?

— Мои дети вместе с их матерью живут в Огайо, мы развелись, — Мэтт отхлебнул пива, на верхней губе осталась белая пена.

— Понятно, — Дженнифер выпила вслед за ним, размышляя, что за история скрывается за словами Мэтта. — Скажите, а кем вы работали?

— Десять лет — на строительных лесах, пятнадцать — мастером-сантехником. Не хочу хвастаться, но мне хватает раз взглянуть на чертеж, и руки уже знают, что делать. Я лучше этих машин. Ну, не хуже — это точно.

— Понятно.

Снова повисло неловкое молчание. Теперь его нарушил Мэтт.

— Когда был молодым, все говорили: «Роботы отнимут у тебя работу». Сначала мне казалось, что первыми пойдут под нож рабочие, а управленцы останутся в кабинетах. Но оказалось, все не так просто. ИИ щелкал как орешки то, что трудно человеку… Всякие цифры, бумаги… Программы компьютерные, если надо опять же… А вот то, что нам раз плюнуть — им не по зубам. Ну, ухаживать за больными или детьми или сообразить, как уместить водяную трубу в узком уголке. Так что я сказал себе — наверно, доработаю до пенсии. Но, видимо, теперешние роботы стали поумнее.

Дженнифер потягивала пиво и осмысливала сказанное Мэттом.

— И что вы будете делать дальше?

— Не знаю, — пожал он плечами. — Протесты привлекли внимание, но на форуме ни у кого нет идей, что делать дальше. Наверно, посмотрим по обстоятельствам. Я еще кое-что узнал. Тот приятель, из кадровой службы, он много чего по работе знает. Говорит, за контракт торгуются две компании. У одной будет меньше вакансий, но есть шанс, что я стану заниматься тем, чем привык. Хотя, наверно, придется переехать. Говорят, даже, может, в другую страну.

— Ну, это не так плохо, — Дженнифер поняла, что Мэтт говорит о ее «Синкии». — А другая?

— Да, другая… Только название знаю, «Омега-Альянс». А как работают, так и не понял, темнят они что-то. Судя по всему, отправят всех на какое-нибудь простое обучение, а потом на работу, но только не в строительстве. Мы будем работать дома за компьютерами и выполнять заказы через портал виртуальной реальности — понятия не имею, что это означает. Сначала зарплата будет маленькой, но контракт рассчитан на три года, а потом обещают прибавку. Как тебе?

— Не знаю, Мэтт. А тебе самому как?

— Я почти всю жизнь на стройках, с механизмами и инструментами, и мне это чертовски нравится. А теперь придется весь день стоять в наушниках и очках и махать руками в воздухе. Это работа, что ли? Издевательство какое-то.

У Дженнифер возникла идея. Она подняла пивной бокал и чокнулась с Мэттом.

— За здоровые перспективы! Но я бы запросила у «Омеги» дать попробовать новый режим. Ведь никто не знает, каково это? Мало ли что там окажется? Лучше уж пощупать заранее, пока контракт не подписан. Так?

На лице Мэтта было написано сомнение.

— Легко сказать! Протестировать… Хотя надо попробовать, может, получится через профсоюз. Пусть хотя бы представителям дадут доступ. Хотя, наверно, уже поздно. Профсоюзу срок до завтра — он должен ответить на их последнее предложение.

— Если получится, сохрани для меня что-нибудь? Какие-нибудь… материалы?

— Ах да, ты же журналистка, Джен, — он прищурился и усмехнулся как-то уж очень игриво. — И что мне за это будет?

Ну вот, и этот туда же.

Дженнифер глубоко вдохнула. Этот намек вывел ее из себя и немного расстроил.

— Чего вы хотите, Мэтт?

— Погодите, Джен, вы что, решили… Боже правый! Мне просто нужна компания, посидеть с кем-нибудь, поболтать. Столько стрессов с этими увольнениями!

Дженнифер с облегчением перевела дух. Она положила руку на плечо Мэтта — будто дочь, ободряющая отца.

— Да, Мэтт, понимаю. Набери меня, если захочешь пообщаться.

Бар взорвался криками и аплодисментами — матч закончился.

Вечер воскресенья выдался душным. Майкл сидел на скамейке в сквере напротив офиса «Синкии», смотрел на залив, на убегающие вдаль тросы моста, на краешек Тихого океана. Майкл выскочил на улицу — ему срочно потребовался глоток свежего воздуха. Он сидел уже давно, но туман в голове не рассеивался.

По неофициальным каналам он выяснил, что руководство «Лэндмарка» склоняется к предложению «Омеги-Альянс», хотя оно и дороже. Но эти ребята обещали трудоустроить большее количество уволенных, а это практически исключало противостояние между администрацией и профсоюзом.

Несколько топ-менеджеров «Синкии» весь день по очереди убеждали Майкла активнее бороться за контракт. ИИ и роботизация уже поставили строительную сферу с ног на голову, но это было лишь начало. Если другие компании увидят, что «Лэндмарк» успешно сбросила балласт в виде человеческих работников, то непременно последуют ее примеру.

А дальше подтянутся другие — те, кто представлялся неуязвимым перед угрозой автоматизации. И сотни тысяч работников окажутся не у дел. Тогда запахнет куда более серьезным кризисом, который ударит и по базовым принципам работы «Синкии». К тому же, если «Синкия» упустит контракт с «Лэндмарком», репутация, построенная на волшебной эффективности, пойдет прахом — такая новость разлетится в момент.

— А затем, Майкл, — Сейвиор вспомнил слова одного из топ-менеджеров, — твое имя войдет в историю, но не как символ и золотой стандарт релокатора, а как символ полного лузера.

Необъятный город, залитый лучами закатного солнца, отражался в стеклянном фасаде здания «Синкии». Майкл вгляделся в зеркальную поверхность. Несчетные рабочие строили эти кварталы и дороги на протяжении более чем двухсот лет — кирпич за кирпичом, плитка за плиткой. Этот город пережил землетрясения, пожары, эпидемии, но не пал жертвой времени, а, как и когда-то, процветал.

Майкл думал об этой толпе ставших вдруг ненужными людей, выброшенных, словно залежалый товар, и на сердце было тяжело. Он отдал релокации все свои силы, но сейчас чувствовал опустошение. Он машинально пошарил в кармане в поисках сигарет, но вспомнил, что бросил курить несколько лет назад. «Люди так несовершенны», — думал он горько.

— Так и знала, что вы здесь, — голос Дженнифер прозвучал резко.

— Посиди со мной. Когда ты в последний раз любовались закатом? Я имею в виду настоящий закат, не цифровую симуляцию и не картинку из игры.

— Думаю, давненько, — Дженнифер села на скамейку и тут же почему-то немного отодвинулась от Майкла.

— Знаешь, Джен, что зацепило меня в твоем письме? Не ум, не инициативность и не решительность, а история твоих родителей. Ты ведь не придумала ее?

— Нет, конечно, нет! — Дженнифер аж вспыхнула от возмущения.

— Прости, не хотел обидеть. Мне хотелось знать правду. Иногда люди лгут. Взять, к примеру, меня. Каждый день я лгу безработным людям, говорю, что не надо терять надежду.

Майкл замолчал и развернулся к Дженнифер.

— Расскажи о своем отце. Ты писала, что ему удалось трудоустроиться?

— В первый раз — да. Его сократили около двенадцати лет назад, тогда специалистов по релокации еще не было. Мне тогда было десять, — она уставилась в морскую даль и мысленно перенеслась в прошлое.

После того как искусственный интеллект отнял работу у отца Дженнифер, его перевели на другой участок. Из кредитного аналитика, специалиста по базам данных, он превратился в страхового агента. Обязанности людей-аналитиков оказалось легче всего передать искусственному интеллекту — работодатели так и поступали.

Возрастные коллеги отца, много лет проработавшие на одном и том же месте, предпочли раньше положенного выйти на пенсию, существовать на базовый доход и пособия. Те, кто помоложе и поактивнее, решили сменить сферу деятельности — освоили новые профессии. Банковские служащие переквалифицировались в социальных работников и младший медицинский персонал — занялись тем, что требует эмпатии и развитых социальных навыков.

Но отец Дженнифер был упрямым и самолюбивым интровертом. Ему всегда было непросто общаться с людьми, а ежедневная обязанность оценивать состоятельность заемщиков и оформлять страховку кредитов абсолютно изматывала.

Обрабатывать данные клиентов полагалось с помощью внутреннего софта, поэтому время от времени на экране возникал бот-помощник. Он помогал в расчетах, наводил порядок в файлах, заполнял формуляры и рассылал уведомления — словом, был на подхвате, приняв на себя всю рутину. Система называлась РАП (роботизированная автоматизация процессов), цифровой ассистент использовал машинное обучение. Но его активность и продвинутость стала последней каплей. Постепенно отец стал замечать, что помощник становится все умнее, берет на себя все больше, а порой даже исправляет его собственные ошибки!

Осознав происходящее, отец Дженнифер ощутил себя просто раздавленным. Ведь электронный помощник не просто вносил коррективы — искусственный интеллект фиксировал это исправление как фрагмент данных и пополнял базу. А это делало программу все более совершенной, более эффективной, чем работник-человек. Так прошло еще несколько лет, и оценка кредитоспособности клиентов полностью перешла к компьютерам. Они формировали безошибочные отчеты за считаные секунды. Надобность в людях отпала, отца окончательно уволили.

Этот опыт оставил неизгладимый след.

— Отец замкнулся, — рассказывала Дженнифер Майклу, — появилось отчуждение, привычная теплота исчезла. Он стал желчным и циничным, целыми днями пропадал в гараже, возился там с железками и пил. Он совсем перестал обращать внимание на маму, и она подала на развод. Я обижалась, считала, что он сам виноват — поддался обстоятельствам, опустил руки, перестал бороться. Мне так казалось до недавнего времени, если честно.

Майкл протянул ей бумажный платочек — Джен уже шмыгала носом.

— Спасибо… Теперь я вижу — строители оказались в том же положении, что отец. Работа — это ведь не только стабильный заработок. Она связана с человеческим достоинством, с чувством собственной ценности. Может быть, именно ощущение беспомощности, стыд поражения и доконали отца?

Слушая ее, Майкл чувствовал ровно то же самое. На его плечи словно разом опустились все прожитые годы.

— Я так восхищаюсь вами, мистер Сейвиор, и тем, что вы делаете, — Дженнифер посмотрела на Майкла полными слез глазами.

— Я тебя разочарую, — глубоко вздохнул он. — Завтра утром «Синкия» проиграет. Я пополню ряды никому не нужных работников.

Дженнифер потрясенно смотрела на кумира, звезда которого закатывалась у нее на глазах. Внезапно завибрировал ее телефон, и Майкл заметил: она обрадовалась.

— Мистер Сейвиор, еще не вечер.

Несколькими часами ранее, вынужденно поддавшись давлению со стороны профсоюзных переговорщиков, «Лэндмарк» затребовала у «Омега-Альянса» практическое испытание обещанной услуги. Группе сотрудников, подлежащих сокращению из-за искусственного интеллекта, на весь день предоставили доступ к рабочим местам, созданным по технологии виртуальной реальности. Ожидалось, что обратная связь позволит профсоюзу и администрации «Лэндмарка» лучше оценить новый вариант релокации, сравнив его с привычными методиками «Синкии».

Мэтт попал в число подопытных кроликов — спасибо приятелю из кадровой службы. Он дал подписку о неразглашении, расстался с мобильником (его обещали вернуть), сел вместе с другими участниками теста в служебный автобус и отправился в удаленный технопарк.

Мэтт помнил, что обещал Джен, поэтому заранее приладил к своей фанатской бейсболке миниатюрную камеру. Высококачественная литий-оксидная батарейка была размером с пуговку и без проблем держалась целую неделю. Объектив очень удачно поместился в глазу птицы на эмблеме, а камера могла непрерывно загружать данные в облако.

— Имей в виду, Джен, — сказал Мэтт перед испытаниями. — Чтобы тебе помочь, я нарушаю закон. Мои личные данные не должны никуда утечь, ни при каких условиях. Ты все накопала сама, ясно?

— Мэтт, но ведь и так будет ясно, кто снял видео.

— Ох… Черт. Ну ладно.

Мэтт все-таки решил, что Дженнифер можно доверять. И через восемь часов позвонил ей, застав на скамейке с Майклом. Девушка летела в бар.

Мрачный Мэтт с заметно красными глазами сидел у стойки. Он выглядел изнуренным, будто не спал целую неделю. Не дав Дженнифер как следует усесться, он заговорил.

— Я так не смогу, это ерунда какая-то. Они надавали нам каких-то проектных планов, расчетов — я вообще ничего не понял.

— Мэтт, дай мне видео, я сама посмотрю. Иди домой, тебе надо выспаться, окей?

Дженнифер вытащила из камеры в кепке крошечную карту памяти и поспешила в офис «Синкии», где ее дожидался Майкл.

Искусственный интеллект обработал и смонтировал видео так, что основное содержание и ключевые моменты уместились в трехминутный обзор. Его можно было остановить на любом кадре, замедлить или укрупнить заинтересовавшее изображение.

Дженнифер и Майкл увидели полсотни человек, заходящих в помещение типа гостиничного банкетного зала. Каждому предназначался стол с компьютером и набор виртуальной реальности. Прибывших встречал инструктор из «Омега-Альянса». Первые четыре часа шел базовый тренинг, а затем пообещали настоящую работу. Но тут выяснилось неожиданное: ее результаты будет оценивать система, выставляя баллы и назначая штрафы. Баллы имеют денежный эквивалент.

Всем рабочим велели надеть очки и перчатки виртуальной реальности. Новая строительная работа оказалась совсем непыльной. Изображение в очках синхронизировалось с компьютером, только на мониторе оно было плоским — 2D. Зато персонал сразу видел, какие возникли проблемы, и мог поправить рабочих. Мэтт снял бейсболку, пристроил так, чтобы камера захватывала экран монитора, и приступил к работе.

Дальше Дженнифер и Майкл увидели, как Мэтт усердно выполнял команды (они появлялись на мониторе), учился управлять своей POV[122] — «точкой обзора» — внутри виртуального пространства, приближать и отдалять объекты, добавлять компоненты. Рабочий интерфейс мог понять даже дурачок — действиями квалифицированного и опытного строителя руководили яркие цветовые подсказки, голосовые команды и визуальные эффекты.

Задача: собрать водонагревательную систему для квартиры площадью 90 квадратных метров. Со стороны все выглядело так, будто Мэтт просто играет.

Дженнифер и Майкл переглянулись.

— Что скажете? — спросила она у начальника.

Он хмурился.

— Такое придумали много лет назад — работа машин и людей в связке, это было распространено в передовых отраслях цифровизации, в финансах и банковском деле. Но при чем здесь строительство? То, что делал на тренинге Мэтт, под силу инструментам на основе ИИ. И зачем он тогда там нужен? Не понимаю.

— Может, человек обходится дешевле? — предположила Дженнифер.

Майкл ткнул пальцем, и видео продолжилось.

С помощью звукового сопровождения тренинга пазл у Майкла и Дженнифер начал постепенно складываться. «Омега-Альянс», судя по всему, обеспечивает рабочих предварительными планами и сметами для сдачи объектов под ключ в развивающихся странах. Нечто подобное пыталась делать фирма «Катерра» около десяти лет назад.

Однако технологии виртуальной реальности шагнули вперед, стали высокоточными и теперь работали с минимальной задержкой. Опытные строители могли движениями рук удаленно руководить роботами, осуществлять тонкие манипуляции, выполняя запросы самых требовательных клиентов.

В режим совместной работы с виртуальной реальностью перешли специалисты всех строительных специальностей — от плотников и маляров до каменщиков и бетонщиков. Тренер «Омега-Альянса» объяснил, что по завершении несложного курса рабочие смогут редактировать строительные планы — насколько позволит их реальная квалификация и опыт.

Слово «редактирование» хорошо объясняло суть процесса — рабочим не придется прикладывать физическую силу и вообще касаться настоящих стройматериалов. Система анализировала работу в режиме реального времени и начисляла баллы в зависимости от скорости и эффективности действий специалиста. На доске, висевшей в зале, постоянно обновлялся рейтинг, основанный на количестве заработанных баллов.

Дженнифер и Майкл видели: не всем рабочим тренинг дается одинаково. Мэтт озирался и перебрасывался фразами с коллегами за соседними столами. Другие сидели, как перед игровым автоматом — руки в постоянном движении, выражение лица пьяное. Заметив, что поднялся в таблице лидеров, один из рабочих исполнил победный танец. Остальные мрачно на него косились.

— Да это же как компьютерная игра, одно название что работа, — Дженнифер не смогла скрыть отвращения. Неудачливые работники напомнили ей отца — печального и раздавленного.

— Вот именно! — восклицание прервало поток ее воспоминаний. Майкл сжал ее руку. — А если это не просто похоже на игру? Вдруг это и есть игра? Надо выяснить!

— Выяснить — что?

— Ну, эти… архитектурные планы, что мы видели… они действительно где-то применяются?

— Вы считаете… — Дженнифер пронзила догадка. — Мэтт твердил, что чувствовал что-то неладное.

— Да, Джен. Это действительно игра. И она еще не кончена. — Майкл, похоже, вновь обретал уверенность в себе.

Испытания на видеозаписи меж тем закончились, организаторы объявили результаты. Рабочие потянулись к выходу, некоторые просто светились от радости. Дженнифер смотрела на Мэтта. Ему похвастаться было нечем. Девушка увидела, что его рука тянется к бейсболке — запись внезапно оборвалась.

Тем же вечером в баре «Марк» на 90-м этаже отеля Mark Hopkins Continental Эллисон любовалась через панорамное окно видом Сан-Франциско.

Искусственный интеллект подобрал идеальное заведение. Красно-черно-золотая гамма интерьера создавала ретроатмосферу; багровые ковры, бледно-желтые обои и мебель темного дерева завершали образ.

В бокале 24-летнего шампанского Le Rêve Blanc de Blancs уже поднимались к поверхности пузырьки, когда в баре наконец появился Майкл. Он был без галстука, и даже верхняя пуговка рубашки не застегнута — он не походил сам на себя.

— Извини, задержался на встрече.

Эллисон улыбнулась — все его психологические приемчики были ей хорошо известны. Их ужин напоминал настороженный парный танец с притворной игривостью и светскими любезностями. Эллисон все-таки не выдержала и заглотила наживку.

— Так откуда у тебя это видео?

— Признаешь, что это мошенничество? — вопросом отбил подачу Майкл.

Когда они с Дженнифер досмотрели выжимку из нелегальной записи Мэтта, девушка загрузила все данные — архитектурные рисунки, углы солнечного света, время суток, высоту над уровнем моря, широту и долготу, атмосферные условия и прочие параметры — в программу распознавания шаблонов.

Попытка конвертировать их обратно в реальные географические позиции ни к чему не привела — соответствий в реальном мире не обнаружилось. Как Майкл и предполагал, задания были фальшивыми. «Омега-Альянс» попросту собиралась обеспечить сокращенных строителей красивой игрой-симулятором.

— И что ты сделаешь со своим маленьким открытием? — Эллисон отпила шампанское — казалось, раскрытый обман ее нисколько не смутил. Но за стальным самообладанием скрывался страх. Если схемы «Омега-Альянса» станут достоянием общественности, то репутационные потери будут слишком велики — все усилия компании могут пойти прахом.

— Люди имеют право знать правду.

— То есть ты предпочтешь, чтобы из-за твоего извращенного геройства новые толпы потеряли рабочие места? Майкл, столько лет прошло, а ты все такой же.

— Да ладно, Эллисон, твои колкости не работают.

— Ну да, твоя «Синкия» тратит массу времени и денег на переезды и переобучение безработных. Вы похожи на вагон, оторвавшийся от поезда. Смотри уже правде в глаза. Искусственный интеллект вам не победить — так почему бы не решить проблему раз и навсегда?

— Тебе действительно всерьез нравится мир, где люди остаток жизни проведут в иллюзии, будто делают что-то значимое?

— Майкл, ты вообще в курсе, как устроен человек? Ты что-нибудь знаешь о человеческих эмоциях? Посмотри вокруг — люди в этом шикарном заведении модно и дорого одеты, это все специалисты на почасовой оплате. Кто из них не отвлекается в рабочее время? Кто не запускает игрушки, не болтает с коллегами? Думаешь, их за это мучает совесть, когда приходит очередная зарплата?

— Ты лишаешь людей права создавать подлинные ценности.

— Главная ценность любой работы — стабильность, которую дает пятидневная рабочая неделя.

— Ты хоть понимаешь, что это мошенничество?

— Поверь, если людям предложить выбрать красную или синюю таблетку, они выберут синюю[123]. Кому понравится постоянно думать о собственной бесполезности и доживать дни на щедрости искусственного интеллекта? Майкл, ты не прав. Это не мошенничество. Это шанс сохранить у этих людей остатки человеческого достоинства.

Цепочка из пузырьков шампанского уже поредела и замедлилась.

Майкл улыбнулся.

— И что смешного? — Эллисон посмотрела в упор.

— Прости… До меня вдруг дошло, что так кончаются все наши споры. Мы заходим в тупик, словно это игра с нулевой суммой. Как будто должен остаться только один. Забавно.

Эллисон рассмеялась — атмосфера за столом разрядилась.

— Не знаю… Может, в глубине душе я всегда хотела доказать тебе, что чего-то стою?

— Хочешь секрет?

— Давай.

— Тебе не нужно ничего доказывать, потому что в глубине души я всегда считал тебя совершенством, — Майкл отвел глаза. — Можешь не верить. В общем, я планировал выступить с публичным заявлением и выдавить «Омега-Альянс» с рынка. Но мои планы поменялись.

— Почему?

— Возможно, в нашей игре не будет проигравших.

— Ты имеешь в виду… сотрудничество?

— Я кое-что подсчитал. Сейчас мы получаем от правительства социальные выплаты по безработице и субсидии на тренинги, добавляем к ним компенсации от «Лэндмарка». А дальше? В течение какого-то времени частями выплачиваем их работникам? А потом, когда деньги кончатся? Да, ваша модель действительно решает ряд проблем, но и создает новые.

Прибыль, кстати, не сказать чтобы огромная. Экономической активности, настоящей работы нет. Нельзя же вечно полагаться на бюджетные субсидии и выплаты от компаний, сокращающих персонал. Вы собирались ежегодно обновлять договоры с рабочими, перекладывая деньги из одного кармана в другой. И что в итоге? Старый добрый базовый доход. Я прав?

На лице Эллисон он прочитал: да.

— Ты лучше меня понимаешь, почему базовый доход провалится. Нельзя пускать все на самотек. Но, возможно, есть другой путь.

— Какой?

— Что если бы симулятор работы создавал настоящую ценность?

Эллисон наморщила лоб:

— Каким образом? У «Лэндмарка» не осталось времени, они не могут затягивать конфликт с профсоюзом.

— Убеди свое начальство пойти на переговоры, а с профсоюзом я что-нибудь придумаю.

Год спустя Дженнифер искала Майкла в сквере напротив здания «Синкии» в Сан-Франциско. Было раннее утро. Город, мост, море — все подернуто красновато-золотой дымкой.

Она несла два стаканчика горячего кофе и перебирала в уме странные события предыдущего дня. А именно, консультацию с безработной матерью-одиночкой Люси.

Год назад состоялось «Большое Соглашение», как его называл Майкл, и стало ясно, что Дженнифер переросла позицию ассистентки. Им удалось — и это было весьма непросто! — убедить «Лэндмарк» заключить контракт с обеими компаниями: и с «Синкией», и с «Омега-Альянсом». Таким образом, никто из сокращаемых сотрудников не остался бы за бортом. В отрасли трудового перенаправления наступила новая эпоха — комбинированные усилия искусственного интеллекта и человеческого опыта.

Дженнифер теперь была младшим специалистом по релокации. Она ежедневно проводила десятки видеопереговоров, лица мелькали. Но эта женщина, Люси, выпадала из общего ряда и потому запомнилась.

Люси была барменшей. Но босс продал заведение, а купившая его ресторанная сеть переоборудовала бар в кафе-автомат — Люси осталась без места. Вопрос трудоустройства следовало решать срочно — женщина одна растила шестилетнего сына.

Но ее выбор слов, неспешные интонации, исключительно изящный макияж и даже паузы, которые она делала, чтобы обдумать свой ответ, словно ее мозг реагировал с запозданием, — все это заставило Дженнифер сомневаться, что перед ней настоящая барменша.

Но с чего бы ей врать?

Дженнифер попыталась ускорить беседу — Люси невозмутимо продолжала задавать вопрос за вопросом, словно актриса с заранее заготовленным сценарием. Как Дженнифер будет оценивать ее навыки? Какие обучающие ресурсы ей предоставят? Дженнифер поможет ей найти новое место в обозначенный договором период?

В отличие от других уволенных работников, Люси сохраняла безмятежное состояние духа и не выказывала никакой тревоги о будущем. Будучи матерью, она совершенно не беспокоилась о том, как скажутся на ее ребенке те или иные предлагаемые варианты. И это было необычно.

Может быть, это шпионка, собирающая информацию? Дженнифер начала думать, что ей поднесли ее собственное блюдо — «полевые исследования».

— Простите, Люси, но у меня следующая встреча. Может, закончим сегодня? Мы с вами свяжемся, если появится что-то подходящее.

Люси, казалось, поняла. Она кивнула, но ее последние — опять странные — слова застряли у Дженнифер в памяти: «Спасибо. Ваши ответы мне очень помогли. Жду новой встречи».

Она что, бот? Раздражение от этого разговора не прошло даже к утру. Дженнифер очень вовремя заметила знакомую фигуру на скамейке. Хорошо одетый мужчина средних лет сидел и улыбался себе под нос. Дженнифер поспешила к нему.

— Майкл? — она вспомнила, как тяжело привыкала называть мистера Сейвиора просто по имени. — Ты сюда по делам?

Дженнифер лучезарно улыбалась. После того как они закрыли контракт с «Лэндмарком», Майкл повысил ее до партнера — самого молодого, между прочим, за всю историю «Синкии» — и предложил переехать в Сиэтл, чтобы вместе работать в объединенной корпорации «Синкия-Альянс».

Но Дженнифер отказалась и осталась в Сан-Франциско релокатором, стала работать с местным малым и средним бизнесом.

— Сто лет не виделись, Дженни. Отлично выглядишь.

— Спасибо. Есть минутка? Я тебе тоже кофе захватила.

— А как же! Разве можно отказаться от кофе в такое утро?

Они снова сидели на приличном расстоянии в тридцать сантиметров друг от друга, и Дженнифер обхватила стаканчик обеими руками, словно пытаясь преодолеть какой-то внутренний барьер. Наконец она заговорила.

— Майкл, я знаю, это глупо, но я очень хочу извиниться.

— За что?

— Ты сделал мне шикарное предложение, а я отказалась. Надеюсь, я тебя не очень подвела?

— Ты что, целый год переживала о таком пустяке? — Майкл улыбнулся, но как-то не радостно, и махнул рукой. — Хочешь честно? Я даже обрадовался, что ты со мной не поехала. Все твердили, что над моими ассистентами висит проклятье, поэтому никому не удается продержаться больше года. А ты разрушила чары.

— Хорошо, если так… Как Эллисон?

— Отлично! По крайней мере, пока. Начало отношений — все равно что переход на новую работу. Всегда приходится притираться, даже если все вроде бы знакомо. Как у тебя? Что в отделе?

Дженнифер смущенно улыбнулась.

— Поначалу было не очень. Я всегда мечтала входить в полный зал и произносить речь. Я даже вводные слова придумала: «Благодарю всех за долгую работу и неоценимый вклад в эту компанию». Стандартное начало для плавного перехода к сокращениям и перенаправлению. Ну, ты сам знаешь. Но теперь все стало гораздо лучше, спасибо тебе.

— Это мне нужно тебя благодарить, Дженни. Ты и твой приятель… как его? Мэтт? Это вы помогли десяткам тысяч безработных.

— Надеюсь, что я сама проработаю хотя бы несколько лет. Ты слышал, запущен пилотный проект с консультантами-ботами? Кто знает, когда мы сами окажемся под сокращением?

— Дженни… — Майкл смотрел на свою бывшую подчиненную, не решаясь продолжить. — Как бы ни поменялся этот мир, я верю: у тебя все будет хорошо, потому что у тебя чистое сердце.

Дженнифер засмеялась.

— На меня не действуют твои банальности, Майкл. Я же наизусть знаю инструкции. Ладно, пойду, мне пора, у меня ранний прием. Продолжай созерцать местные красоты. Надеюсь, следующей встречи не придется ждать столько же, сколько этой.

Майкл помахал ей:

— Увидимся! Удачи тебе!

Дженнифер поспешила по дорожке и скоро скрылась в офисном здании.

Она права, думал Майк, опять оставшись в одиночестве. Искусственный интеллект брал новые высоты и все активнее вторгался в новые сферы, как бы человек ни старался сохранить их за собой. Быть может, это лишь вопрос времени.

Перед его отъездом из Сиэтла в штаб-квартире обновленной релокационной компании прошло совещание по дальнейшим стратегиям. Топ-менеджеры принимали решение о внедрении виртуальных рабочих процессов в «Синкия-Альянсе». Если предложение пройдет, часть младших специалистов по перенаправлению заменят цифровыми образами. Некоторые смоделируют на основе реальных людей, кого-то полностью сгенерирует искусственный интеллект, чтобы создать симуляции всевозможных типов сокращенных работников.

Цифровые образы теперь настолько реалистичны, что их трудно отличить от людей. Боты непрерывно совершенствуют свою речь, используя технологии глубокого обучения. В ходе начавшегося эксперимента аватары должны были оценивать рабочую эффективность живых релокаторов и отбирать среди них лучших для повышения до управленческих позиций.

Те, кому не повезет, вероятно, повторят судьбу работников других отраслей. Ситуация была абсурдна: живые люди помогали виртуальным уволенным рабочим в поиске виртуальных вакансий.

Прототип системы тайно был опробован на конкурентах. Майкл дал ему имя своей матери — Люси.

Пока все говорило за то, что инновация повысит производительность, улучшит выявление талантливых работников и оптимизирует потоки трудового перенаправления. Должности нижнего уровня будут скорее служить для оттачивания навыков, чем для создания реальной добавленной стоимости. Такова, видимо, естественная тенденция.

Но скептики никуда не делись — некоторые ратовали за сохранение привычного порядка вещей.

…Совет директоров приступил к голосованию — голоса разделились поровну: три на три. Оставался Майкл, совсем недавно вошедший в совет. Его голос — решающий.

Майкл медлил. Перед ним пронеслись картины из детства, лицо матери, когда она получила уведомление об увольнении. В конце концов, какая разница, кто победит, а кто проиграет в масштабе могучих исторических процессов?!

Майкл Сейвиор ослабил галстук, словно хотел вдохнуть полной грудью. А затем поднял руку. Он проголосовал за будущее.

Анализ. ИИ вытесняет людей с рынка труда; безусловный базовый доход (ББД); неподвластное ИИ; трехшаговая стратегия трех П борьбы с безработицей

ИИ может выполнять многие задачи лучше, чем люди, причем с практически нулевыми финансовыми затратами. Этот простой факт гарантирует огромные прибыли, а также беспрецедентный взрыв безработицы — и эта сокрушительная волна сметет на своем пути и синих, и белых воротничков.

В рассказе «Спаситель рабочих мест» описано самое начало этого процесса и показано будущее, в котором ИИ примет на себя контроль всех сторон нашей жизни — от кредитной аналитики до строительства домов. Он даже начнет нанимать и увольнять нас. Эти трансформации рабочего процесса не только вызовут масштабную безработицу, но и, вероятно, спровоцируют множество взаимосвязанных социальных проблем, включая депрессии, суициды, химические аддикции, усугубление экономического неравенства и общественные беспорядки.

Что же отдельный человек, компания или правительство могут противопоставить таким потенциально катастрофическим последствиям тотальной цифровизации? Какие рабочие места реально под угрозой, а представителям каких профессий можно не беспокоиться? Каково будущее рынка труда? Нужен ли нам новый социальный контакт, чтобы переосмыслить фундаментальные ожидания человека от трудоустройства? Если длинный рабочий день перестанет быть краеугольным фактором экономических благ, чем мы займем высвободившееся время?

Рабочие места, которым ИИ угрожает прежде всего, как правило, связаны с деятельностью, не требующей высокой квалификации. Но такая работа и оплачивается соответствующе. Эта тенденция усугубит существующие социальные проблемы — те, кто и так небогат, станут еще беднее. ИИ обещает небывалую эффективность экономики, но он спровоцирует и глубокие структурные разрывы в канве общества. Сложную динамику можно описать одним вопросом: «Чем станет ИИ для рынка труда — благом или проклятием?»

В рассказе «Спаситель рабочих мест» мы видим воображаемое будущее, где сокращенных работников консультируют и переобучают специальные компании-релокаторы. Люди переезжают в отдаленные регионы или даже решают реальные задачи в виртуальной реальности. Автор размышляет, хватит ли рабочих мест всем желающим? Не начнет ли верхушка общества имитировать рабочие места ради поддержания чувства самореализации у работников, даже если работа ненастоящая? Не станет ли самоцелью стремление обеспечить работой абсолютно всех?

Наступит ли уже при нашей жизни момент, когда рабочие места для людей будут настолько редки, что работа превратится в подобие компьютерной игры-симулятора — способ убить время? Фирма «Омега-Альянс» из рассказа воплощает этот худший сценарий. Но я не думаю, что перспективы настолько безнадежны. Все же высока вероятность того, что виртуальная реальность создаст среду для развития и обучения человеческого персонала.

Чтобы оценить вероятность реализации тревожных предсказаний, давайте рассмотрим, как именно ИИ отнимает у людей работу.

КАК ИИ ПРОВОЦИРУЕТ БЕЗРАБОТИЦУ?

Главное преимущество ИИ — он может находить едва заметные закономерности в огромных массивах данных. Возьмем для примера оценку кредитоспособности. Человек, намереваясь вынести вердикт по заявке на страховку, рассмотрит всего несколько важнейших факторов. Он оценит стоимость имущества, доход, место проживания, должность, еще что-нибудь.

ИИ способен охватить тысячи параметров — от информации из открытых источников, истории покупок, записей в электронной медкарте до данных приложений и устройств, которыми вы пользуетесь (разумеется, с вашего согласия), а это уже даст куда более точную оценку вашей платежеспособности.

Открыли бы вы доступ ИИ к вашим персональным данным, чтобы повысить свои шансы? Как мы убедились в рассказе «Золотой слон», на это пошли бы многие.

Такие алгоритмы без труда заменят на технических должностях белых воротничков, подобно тому как программное обеспечение шаблонно решило офисные задачи, например ведение отчетности и ввод данных. В «Спасителе рабочих мест» мы увидели, как этот процесс затронул широкие сегменты офисных профессий — от бухгалтеров до кредитных аналитиков.

Когда же ИИ объединится с роботизацией, под сокращение начнут подпадать все более сложные специальности. К 2041 году, как следует из рассказа, от работников складов, выполняющих стандартные операции, уже не останется и следа. Сократят и многие строительные профессии — по мере того как строительная сфера перейдет на модульные конструкции и компоненты, легко производимые роботами в больших количествах.

И даже сантехников постепенно не станет — человеческий труд будет нужен лишь для обслуживания старых зданий с запутанными и устаревшими водопроводными системами, требующими индивидуального подхода. Новые здания из стандартных, заранее изготовленных узлов-модулей будут обслуживать роботы.

Как далеко зайдет процесс сокращений и какие отрасли пострадают сильнее всего? В книге «Сверхдержавы искусственного интеллекта»[124] я предположил, что к 2033 году ИИ и автоматизация заберут около 40 процентов наших рабочих мест. Разумеется, это не произойдет в одночасье. Рабочие места будут переходить к ИИ поэтапно, как мы видели в «Спасителе рабочих мест», когда функции отца Дженнифер, кредитного аналитика, постепенно брала на себя РАП — система роботизированной автоматизации процессов.

РАП — это «программный робот», установленный на компьютеры сотрудников и наблюдающий за всем, что они делают. Со временем, анализируя действия миллионов работников, РАП начинает понимает, как выполнять их повторяющиеся задачи. И в определенный момент компания решает, что рациональнее передать весь объем задач от наемных работников этому роботу. Нагрузка на персонал таким образом сокращается, а расходы на зарплаты снижаются.

Представьте себе кадровую службу, в которой трудятся 100 человек. Вероятно, РАП для начала приспособят для просмотра резюме и сличения данных с критериями должности. Допустим, в ручном режиме этим заняты 20 человек, а РАП способен вдвое увеличить их производительность. Значит, можно сократить 10 кадровиков.

Тем временем ИИ продолжит учиться на растущих потоках информации и собственном опыте, что в дальнейшем может привести к сокращению почти всех сотрудников, отвечающих за подбор кандидатов. Нетрудно представить, как РАП справится с электронной перепиской, начнет назначать собеседования, отвечать на обращения, принимать решения о найме и даже брать на себя простейшие переговоры с кандидатами. Переход каждой из этих задач к ИИ лишит работы целые толпы специалистов.

ИИ сможет даже организовывать и проводить первичные собеседования по аналогии с цифровым образом человека Люси, которая оценивала работу Дженнифер в «Спасителе рабочих мест». Это сэкономит бессчетные рабочие часы кадровым службам и сотрудникам, ответственным за наем персонала. Все перечисленное, вероятно, сократит количество сотрудников в нашем воображаемом отделе с сотни до примерно десятка.

А после того как ИИ захватит этот сегмент кадрового функционала, придет очередь тренингов, сопровождения новичков и оценки эффективности. И это только лишь кадровая служба! Когда же она падет под натиском ИИ, за ним последуют финансовая и юридическая службы, маркетологи и служба поддержки клиентов (а может быть, трансформации начнутся везде одновременно).

Эпидемия ковида ускорила цифровизацию рабочих процессов в компаниях, а значит, РАП и прочие технологии станет внедрить еще легче, а это лишь ускорит массовые сокращения. Наступление ИИ будет планомерным и всеобъемлющим.

Оптимисты доказывают: повышение эффективности труда от внедрения новых технологий почти всегда приносит экономическую выгоду, это приводит к созданию новых рабочих мест. Однако ИИ не похож на прочие технологии. Как мы выяснили в предыдущих главах, он отличается универсальностью, поэтому запустит коренные перемены разом в сотнях отраслей и в миллионах рабочих задач — как умственных, так и в физических.

Большая часть технологий не только отнимала работу у людей, но и порождала новые сферы. Вспомним конвейерную линию сборки, благодаря которой автомобильная индустрия перешла с ремесленного ручного труда и выпуска только дорогих машин к стандартным рабочим операциям и массовым дешевым моделям. Однако ИИ открыто ставит целью забрать себе человеческие задачи, просто уничтожая рабочие места.

Индустриальной революции потребовалось больше века, чтобы распространиться за пределы Европы и Соединенных Штатов, а ИИ уже внедряется по всему миру.

ДРУГИЕ СЕРЬЕЗНЫЕ ПРОБЛЕМЫ, КОТОРЫЕ ВЫЗЫВАЮТ СОКРАЩЕНИЯ

Взрывной рост безработицы — лишь малая часть проблем. Растущие толпы незанятых начнут конкурировать за постоянно сдувающийся объем рабочих мест, что приведет к падению зарплат. И без того огромное экономическое неравенство станет еще больше: ИИ будет, с одной стороны, уничтожать миллионы рабочих мест, а с другой — в рекордно короткие сроки баснословно обогащать технологические корпорации.

В свое время экономист Адам Смит обещал, что свободный рынок будет регулировать сам себя (например, высокая безработица собьет зарплаты, а это вынудит снизить цены, а это повысит потребление и вернет экономику в норму), но в эру ИИ многие рыночные механизмы попросту сломаются.

Если пустить процесс на самотек в XXI веке, ИИ может привести к новому формату кастовой системы: богатая верхушка, под ней — относительно тонкая прослойка рабочих с широким спектром навыков, решающих сложные задачи и занятых стратегическим планированием. Далее — креативный класс (как правило, низкооплачиваемый) и самый большой этаж социальной пирамиды — беспомощные массы на грани выживания.

Однако собственно потеря работы не будет так болезненна, как потеря осмысленности бытия. Рабочая этика, рожденная промышленной революцией, внедрила в сознание многих идею: краеугольным камнем личности является профессиональная деятельность. В предстоящие годы люди увидят, как алгоритмы и роботы легко обходят их в задачах, на овладение которыми ушла вся их жизнь.

Молодежь, выросшая с мечтами о карьерном пути в избранной сфере, может столкнуться с суровой реальностью. Людей захлестнет ощущение бессмысленности и бесплодности труда, а это приведет к зашкаливающим уровням химических аддикций, депрессий и суицидов. (В отраслях, затронутых новыми технологиями, например в службах такси, уже наблюдаются всплески самоубийств.) Но что еще хуже — это заставит сомневаться в базовой человеческой ценности и смысле человеческой жизни.

Недавние события продемонстрировали, насколько хрупки наши политические институты и структура общества перед лицом катаклизмов, подобных пандемии. Но экономика ИИ будет, пожалуй, еще разрушительнее, и если позволить ей развиваться самостоятельно, сегодняшние социально-экономические потрясения покажутся детской игрой.

Итак, перспективы невеселые. Что же мы можем сделать?

БЕЗУСЛОВНЫЙ БАЗОВЫЙ ДОХОД. ПАНАЦЕЯ?

Огромные проблемы, вызванные ИИ и масштабными сокращениями, вдохнули новую жизнь в старую идею безусловного базового дохода (ББД, или БОД — безусловного основного дохода). ББД предполагает, что правительство предоставляет каждому гражданину пособие вне зависимости от его уровня дохода, наличия работы и профессии. Это пособие можно выплачивать из дополнительного налога, которым будут обложены сверхбогатые компании и отдельные магнаты.

В преддверии президентской кампании 2020 года кандидат Эндрю Янг[125] продвигал собственный вариант базового дохода «Дивиденд свободы». Ключевым пунктом программы была возможность бороться с волной автоматизации на рынке труда. Янг, новичок на политической арене, получил тогда неожиданную поддержку электората.

Янг был одним из лидеров в предвыборной гонке на должность мэра Нью-Йорка в 2021 году. Для избирателей оказалась привлекательной идея базового дохода, а еще Янг прямо заговорил о перспективах экономики. Прочие политики в основном игнорировали эти факты, а рабочие уже начали ощущать неприятную тенденцию.

Я уверен: нужно замедлить рост экономического неравенства, и ББД — простой и действенный шаг в этом направлении. Однако слепая раздача денег чревата расточительностью и неразберихой. Есть предложения по введению дополнительных условий, а также учету потребностей каждого человека. Они могут повысить эффективность этого механизма и улучшить общественную реакцию на него.

Мне всегда нравилась древняя мудрость: «Дайте человеку рыбу, и вы накормите его на день; дайте ему удочку, и вы накормите его на всю жизнь». Вот на что должен быть нацелен базовый доход. Иными словами, выплаты должны помогать рабочим, чьи места под угрозой сокращения, выбрать другую профессию, которая не падет под натиском ИИ в ближайшем будущем, и пройти необходимое обучение.

Если же бросить людей на произвол судьбы, большинство не сориентируется на рынке труда и не поймет, какое занятие сулит относительную надежность. А значит, они не смогут использовать ББД, чтобы совершить нужный поворот на жизненном пути. Если профессиональное переобучение не станет ядром базового дохода, миллиарды людей окажутся в положении кладовщицы из «Спасителя рабочих мест», оказавшейся на работе в парке развлечений, но вскоре снова потерявшей работу.

КЛЮЧЕВОЙ ВОПРОС: ЧЕГО НЕ МОЖЕТ ИИ?

Чтобы помочь людям, страдающим от сокращений, мы прежде всего должны понять, какие типы деятельности неподвластны ИИ. Тогда мы сможем ускорить создание рабочих мест, устойчивых к упразднению, организовать трудовое консультирование и перенаправление трудовых ресурсов. Таким образом создастся и будет поддерживаться баланс спроса и предложения.

По моим наблюдениям, сейчас ИИ слаб в трех областях, и в 2041 году картина вряд ли изменится.

1. Творчество. ИИ не может креативить, создавать новые концепции и заниматься стратегическим планированием. Как бы прекрасно он ни справлялся с оптимизацией узких задач, ставить самому себе цели и мыслить нешаблонно он не в состоянии. Комбинировать знания из разных сфер и обращаться к здравому смыслу он также не умеет.

2. Эмпатия. ИИ не может чувствовать сам и каким-либо образом взаимодействовать с чувствами людей. Следовательно, он не подарит человеку ощущение, что его понимают и заботятся о нем. Даже если ИИ разовьется в данном направлении, то достичь «человеческого» уровня, встать в этом смысле вровень с людьми он не сможет. И людям никогда не будет приятно взаимодействовать с роботами в ситуациях, требующих заботы и участия. Мы называем это «эмоциональным обслуживанием».

3. Ловкость. ИИ и роботы не могут выполнять сложную физическую работу, где необходима быстрота, хорошая координация рук и зрения. ИИ не справляется с неизвестными пространствами без ясной структуры, особенно если не изучал их ранее.

Что это значит для перспектив рынка труда? Профессии, в которых можно обойтись без живого общения — вроде эксперта по оценке страхового ущерба или специалиста по телефонным продажам, — ИИ, скорее всего, поглотит полностью. Но если деятельность шаблонна, и она непременно требует активного человеческого взаимодействия, то люди и ИИ могут сотрудничать, привнося в нее то, в чем каждый силен.

Например, в будущей системе образования ИИ возьмет на себя проверку однотипных домашних и тестовых экзаменационных заданий, а может, даже и разработку стандартных уроков и блоков задач по узкой теме. При этом человек-учитель сможет углубиться в психологические аспекты преподавания, демонстрировать навыки на своем примере, вести коллективные проекты, развивающие эмоциональный интеллект, и давать индивидуальную обратную связь.

В профессиях, требующих креативного подхода, но социально изолированных, ИИ способен вывести человеческое творчество на новый уровень. Например, ученый может с его помощью ускорить поиск новых лекарств. И наконец, есть профессии, в которых в полной мере задействованы незаменимые человеческие способности — такие, как у бизнес-стратегов Майкла и Эллисон в «Спасителе рабочих мест». Им необходимо как нестандартное мышление, так и развитые социальные навыки. На первой диаграмме можно посмотреть распределение белых воротничков по данным категориям.

Профессии умственного труда на двухмерной диаграмме. Правая верхняя часть больше соответствует человеку, левая нижняя — ИИ

Вторая диаграмма демонстрирует аналогичный разброс для физического труда и профессий у синих воротничков. По вертикальной оси представлены социальные навыки, по горизонтальной — сложность физической работы. Она определяется двумя параметрами: требуемая ловкость и необходимость ориентироваться в незнакомой обстановке.

К примеру, если уход за пожилыми людьми предполагает помощь в принятии душа, здесь нужны как социальные навыки, так и физическая ловкость, а контролеру качества конвейерной сборки не требуется ни то ни другое. Уборка домов включает в себя умение ориентироваться в незнакомых помещениях, а бармен полагается в основном на коммуникабельность. Между тем робот мог бы смешивать напитки лучше большинства барменов-людей.

Многие направления работы окажутся достаточно сложны для ИИ, а значит, они будут более безопасным выбором в качестве карьеры. Однако это не предотвратит катастрофы для легиона работников, чьи рабочие места станут легкой добычей для ИИ.

Так что же еще нам сделать, чтобы помочь реализовать базовую человеческую потребность в осмысленном существовании?

Профессии физического труда на двухмерной диаграмме. Правая верхняя часть больше соответствует человеку, левая нижняя — ИИ

КАК МОЖНО ТРАНСФОРМИРОВАТЬ РАБОЧУЮ СИЛУ?

Чтобы создать больше рабочих мест и лучше подготовить людей к грядущим переменам, я предлагаю стратегию трех П: переобучение, переоценка, перерождение. Она поможет нам справиться с главной проблемой нашего времени: революцией ИИ в экономике.

ПЕРВОЕ П: ПЕРЕОБУЧЕНИЕ

Люди, занятые в исчезающих сферах деятельности, должны узнать о переменах задолго до их наступления и получить поддержку в освоении новой специализации. Хорошая новость: ряд навыков находятся вне сферы досягаемости ИИ. В частности, это стратегическое планирование, креативность, эмоциональное обслуживание и физическая быстрота. Кроме того, новым инструментам, построенным на ИИ, понадобятся люди-операторы. Мы можем помочь работникам освоить эти новые навыки и освоиться с новой структурой рынка труда.

Курсы профессиональной подготовки должны обновить свои учебные программы и сделать акцент на карьерах с высоким показателем устойчивости. Правительствам следует взять на себя инициативу и разработать систему стимулов и субсидий в этой сфере. Слепое разворачивание программы широкой социальной поддержки вроде базового дохода будет малоэффективно.

Корпорации должны взять пример с компании Amazon, создавшей программу Amazon Career Choice — в ее рамках каждому сотруднику выделяется до 48 тысяч долларов на получение высокоприоритетной профессии вроде авиационного техника, компьютерного дизайнера или медсестры.

Даже если бы не случилась пандемия, спрос на профессии, основанные на эмоциональном труде (вроде ухода за пожилыми), все равно бы увеличивался. По прогнозу Всемирной организации здравоохранения (ВОЗ), нам скоро будет не хватать примерно 18 миллионов работников здравоохранения[126]. Без такого количества врачей и медсестер мы не достигнем поставленной ООН цели устойчивого развития: «Здоровье и благополучие для всего населения планеты».

Общество уже давно обесценивает базовые роли человеческого обслуживания как в плане социального престижа, так и в отношении зарплаты. Настало время ликвидировать этот перекос. В новой экономике ИИ профессии эмоционального труда станут краеугольным камнем.

Во время своей президентской кампании Эндрю Янг часто говорил о переосмыслении понятия «оплачиваемая работа». То, что сегодня представляется волонтерством или добровольной заботой о ком-то, может превратиться в полноценную занятость в будущем. Сотрудники станции переливания крови, профессиональные приемные семьи, руководители подростковых коллективов, родители, обучающие детей на дому, или взрослые, которые уходят с работы, чтобы ухаживать за больными или пожилыми членами семьи, тоже могут стать профессионалами.

В эпоху автоматизации и социальных сдвигов неизбежно появится огромный спрос на волонтеров на горячие линии для сокращенных работников, чтобы помогать им справляться с тревогами и проблемами. Эти волонтеры сами могут получать компенсацию и даже стать сотрудниками на полный рабочий день.

ВТОРОЕ П: ПЕРЕОЦЕНКА

Кроме получения профессиональной переподготовки нам понадобится переосмыслить сегодняшние рабочие места. Как в них можно встроить ИИ и в конечном счете достичь симбиоза между ним и человеком? Наиболее распространенные и простые типы такого симбиоза появятся в программных инструментах.

Софт обеспечит взаимозависимость между человеком и компьютером, которая уже произвела революцию в офисной работе. ИИ-помощники смогут генерировать альтернативы, оптимизировать результаты либо выполнять рутинную работу белых воротничков в многочисленных отраслях. Для каждой профессии и каждого занятия будут разработаны специальные ИИ-инструменты — например, генератор молекул для фармацевтической промышленности или фактчекинг в журналистике.

Более глубокая взаимозависимость между ИИ и «человеческим фактором» преобразит многие профессии, а также создаст совершенно новые. Пока ИИ решает шаблонные задачи, люди займутся тем, что требует сочувствия и душевной теплоты. Например, в будущем пациент по-прежнему будет полагаться прежде всего на врача, но тот станет обращаться к диагностике с помощью ИИ, чтобы определить лучший план лечения.

Таким образом, роль доктора сместится в сторону психологической поддержки и он получит больше времени на углубленное общение с пациентом.

Подобно тому как мобильный интернет породил новый тип таксистов, работающих через мобильное приложение, приход ИИ подарит нам такие профессии, которые пока даже трудно себе представить. Первые ласточки уже появились: инженеры по ИИ, специалисты по машинному обучению и по разметке данных, робототехники.

Но мы пока не знаем и не можем предугадать, как будут выглядеть профессии будущего — так же, как в 2001 году не могли предположить, что когда-то появятся водители Uber. Нам стоит внимательно прислушиваться к сигналам, отслеживать появление новых сфер деятельности, информировать людей и давать им возможность получить новую перспективную профессию.

ТРЕТЬЕ П: ПЕРЕРОЖДЕНИЕ

И наконец, при условии грамотной переподготовки и правильных инструментах мы можем ожидать, что ИИ приведет к ренессансу творческого начала, гуманизма и человеческих связей.

В XIV–XVII веках богатые итальянские города и купцы финансировали культуру Возрождения — и были достигнуты новые художественные и научные высоты. У нас есть основания полагать, что ИИ станет катализатором нового расцвета в сфере человеческого самовыражения и творчества. Как и в историческую эпоху Возрождения, люди станут совершенствоваться в своих увлечениях и талантах — у них появится для этого больше свободы и времени.

Художники, скульпторы и фотографы поставят ИИ себе на службу, чтобы создавать, экспериментировать и доводить свои произведения до совершенства. Писатели, журналисты и поэты станут использовать новые технологии для исследований и написания текстов. Ученые смогут эффективнее разрабатывать новые медикаменты.

ИИ полностью обновит систему образования и поможет преподавателям раскрыть способности каждого учащегося. Образование станет пробуждать в людях любознательность, критическое мышление и воображение. Процесс обучения будет основан на деятельности и групповых проектах, развивающих эмоциональный интеллект, — а это потребует взаимодействия не с экраном, а с живым человеком.

Когда я стараюсь представить, как будет выглядеть этот технологический Ренессанс, то на ум приходят пророческие слова второго президента США Джона Адамса: «Я должен изучать политику и военное дело, чтобы у моих сыновей была возможность изучать математику и философию. А им нужно будет учить математику и философию, географию, естественную историю, судостроение и навигацию, торговлю и сельское хозяйство, чтобы дать право своим детям изучать живопись, поэзию, музыку, архитектуру, скульптуру, ткачество и керамику».

ПУТЬ К ЭКОНОМИКЕ ИИ И НОВОМУ СОЦИАЛЬНОМУ КОНТРАКТУ

Чтобы воплотить в жизнь изложенные выше идеи, человечеству придется приложить беспрецедентные усилия.

Волна сокращений, вызванных внедрением ИИ, в конце концов, накроет практически всех, чьи специальности относятся к области начального профессионального обучения. Но без них нельзя — иначе люди не смогут учиться, расти и развиваться в направлении к более сложным и разнообразным типам занятости.

По мере распространения автоматизации нам придется поработать над тем, чтобы у людей все-таки была возможность входа во все профессии, чтобы они могли учиться на практике и карьерно расти в соответствии со своими способностями. Скорее всего, границы между «воображаемой работой», «стажировкой» и «реальной работой» будут неизбежно размываться, а технологии виртуальной реальности этому поспособствуют.

Именно эта тенденция легла в основу партнерства между компаниями «Омега-Альянс» и «Синкия» в рассказе «Спаситель рабочих мест» — там должности начального уровня перестали приносить прибыль, а вместо этого стали инструментом обучения новичков.

Ясно одно: переобучение понадобится огромному количеству работников. Для подобного скачка понадобятся астрономические деньги. Придется перекроить все образование, чтобы выпускать творческих, коммуникабельных и междисциплинарных специалистов. Изменения постигнут и рабочую этику, и права граждан, и круг ответственности корпораций, и функции правительств. Другими словами, нам нужен новый социальный контракт.

К счастью, его не придется создавать с нуля. Многие элементы уже существуют в разных странах. Можно упомянуть корейские образовательные программы для «одаренных и талантливых», начальное образование в Скандинавии, университетские инновации в США (а именно, массовые открытые курсы дистанционного обучения и проект «Минерва»), ремесленную культуру в Швейцарии, японский стандарт обслуживания, впечатляющую традицию волонтерского движения в Канаде, заботу о пожилых членах общества в Китае, а также показатель «валового национального счастья», принятый в Бутане.

Нам нужно делиться опытом и прилагать глобальные усилия, чтобы прийти туда, где новые технологии сбалансированы новыми социально-экономическими институтами.

Где нам найти смелость и мужество, чтобы взяться за эту неподъемную задачу? Мы — поколение, которое унаследует беспрецедентные богатства, создаваемые ИИ, так что на нас ляжет и ответственность за то, чтобы переписать социальный контракт и перенастроить наши экономики для процветания человечества.

А если и этого мало, подумайте о потомках — ИИ освободит человечество от нудной работы, даст возможность следовать зову сердца и подтолкнет к более глубокому осмыслению человеческой сущности.

Глава 9. Остров счастья

Не бойся: этот остров полон звуков

И голосов отрадных и безвредных. <…>

И в сладком сне, раскрывшись, облака

Меня осыпать золотом готовы.

Так это радостно, что, пробудившись,

Я снова сон зову.

Уильям Шекспир, «Буря»[127]

РАССКАЗ ПЕРЕВЕДЕН БЕНДЖАМИНОМ ЧЖОУ

Примечание Кай-Фу: Искусственный интеллект может сделать нас эффективными и богатыми, но обеспечит ли он нам радость жизни? Этот рассказ повествует о ближневосточном просвещенном монархе, который хочет превратить искусственный интеллект в эликсир счастья. Но что оно собой представляет и как его измерить? Монарх собирает разношерстную группу гостей, чтобы они изучили этот захватывающий вопрос на собственном опыте. В своем комментарии я порассуждаю о проблемах измерения уровня удовольствия и счастья, а также о том, способен ли искусственный интеллект решить их. Кроме того, я коснусь вопроса приватности, который возникает естественным образом, если представить, что искусственный интеллект получит доступ ко всем нашим глубинным, тайным желаниям. Мы проанализируем, какие регуляторные и технологические механизмы могут защитить нашу частную жизнь.

Под необъятным южным небом раскинулась пустыня. По барханам пробирался черный внедорожник, то поднимаясь в гору, то проваливаясь, вновь выныривая на поверхность, появляясь, словно плавник акулы из морских волн. Мотор натужно ревел, когда машина взбиралась на высоту второго-третьего этажа, оставляя позади облака пыли.

Виктор Соколов вцепился в сиденье. Пальцы его побелели, да и сам он был бледным — его изрядно укачало.

— Тут с автоматической коробкой передач ни за что не проедешь! — подхохатывая, прокричал Халед через плечо. Но громкий голос алжирского водителя был едва слышен из-за оглушительной африканской электронной музыки. Мешала и густая пыль, летящая в лобовое стекло.

На спутниковой карте эти барханы прорезали полуостров Катар с северо-запада на юго-восток. Путешествуя в восточном направлении из сердца пустыни, путешественник видел верблюжьи караваны, заброшенные нефтеперерабатывающие заводы, приливные отмели и ультрасовременные города, подобные миражам, — складывалось впечатление, что процветающая экономика молодой страны волшебным образом самозародилась среди этих пустошей.

— Кстати, могли бы полететь. Вышло бы гораздо быстрее, — Халед указал на видневшееся вдалеке Аравийское море. Целью путешествия был искусственный остров Аль-Саида в северо-восточной части столичной гавани, и большинство посетителей предпочитали добираться туда на яхте или частном самолете.

— Я не тороплюсь, — пожал плечами Виктор.

— Сумасшедшие русские!

Однако пассажир совсем не был похож на типичного напыщенного богача из России. Мешковатый черный спортивный костюм скрывал худобу, а молодое лицо выглядело не по возрасту озабоченным. Но больше Халеда удивляло его полное равнодушие к окружающим пейзажам и достопримечательностям. Он был похож на бедного покупателя, зашедшего в дорогой супермаркет за батоном хлеба.

Совсем недавно Виктор был одним из самых известных в мире предпринимателей до 40 лет. Он создал платформу для киберспорта в Северо-Восточной Азии и продавал права на трансляции по всему миру, а подзаработав таким образом, переключился на криптовалютные спекуляции. Не прошло и десяти лет, как его состояние превысило ВВП некоторых стран. Но на пике успеха Виктор исчез. Его необъяснимое отсутствие породило вал слухов и теорий. Одни предполагали, что правительство хочет захватить его бизнес, другие — что он смертельно болен.

На самом деле Виктору вдруг все стало неинтересно. Ему опротивело быть генеральным директором, бизнес-гением, любимцем публики и гуру успеха — причем всеми сразу. Он жонглировал этими амплуа, ощущая собственную неловкость и неуклюжесть, и каждый шаг приближал его к срыву.

Виктор отправился в свое шикарное поместье на Черноморском побережье. Загул продолжался несколько месяцев — менялись пестрые компании, приезжали и уезжали старые друзья и случайные знакомые. Всем гостям хватало алкоголя и наркотиков. Плотские и прочие развлечения ограничивала лишь фантазия.

Но безудержное и бесконечное веселье не вернуло хозяину дома вкус к жизни. И все резко закончилось, когда один из пьяных гостей утонул в бассейне. Виктор наконец сдался врачам. В реабилитационном центре у него диагностировали тяжелую депрессию.

Он честно старался выполнять назначения, но быстро понял, что прописанные средства — курсы лекарств, групповая психотерапия — помогают лишь на время. Он постоянно будто слышал насмешливый голос: его идеалистичные мечты осчастливить людей, выпустив для них видеоигры, рассыпались в прах из-за его жадности и превратились в банальное зарабатывание денег.

Вернувшись с курса реабилитации, он обнаружил в ворохе скопившейся почты и бумажных рекламных листовок конверт с витиеватой надписью «Аль-Саида» и известным латинским изречением Carpe diem[128]. Внутри было письмо — Виктора приглашали в путешествие «в самый роскошный оплот счастья в мире», расположенный в Катаре, и обещали оплатить все расходы.

Он поспрашивал в своем окружении, но никто не знал подробностей. Аль-Саида — название искусственного острова, недавно намытого и благоустроенного катарскими властями, и это все, что удалось узнать. Может, небольшое приключение встряхнет его и выведет из черной полосы?

Виктор забронировал билет.

Халед дал мистеру Соколову карточку со своим контактами и высадил его на берегу. Тот пересел на яхту с узнаваемой вязью — такая же была на конверте с приглашением.

До острова было рукой подать, Аль-Саида сияла в лучах заходящего солнца, как горшочек с золотом. Через несколько минут Виктор ступил на островной причал.

Приземистые строения, похоже, специально стилизовали под катарские культурные символы — купола, барханы и жемчужины. Над островом — и это удивило — висела непонятная прозрачная вуаль. Она трепетала от легкого ветра, словно тонкий шелковый платок. Озадаченный, Виктор хотел рассмотреть ее получше или даже пощупать, принялся высматривать край, но не нашел. Вуаль парила в воздухе сама по себе.

Яхту встречал местный робот-ассистент. Он был ростом с высокого человека и одет в серый балахон, доходивший до земли — механизм передвижения оказался не виден.

— Здравствуйте, мистер Соколов! Я Карин, ваш слуга. Я стану выполнять все ваши желания, пока вы будете на Аль-Саиде.

— Я думал, высшие круги Катара предпочитают слуг-людей.

— Вы правы! Но на нашем острове принят собственный, уникальный стиль умного обслуживания.

— Видимо, торжественного приема можно не ждать, — пробурчал Виктор.

— Разумеется, прием будет! Торжества начнутся немедленно, если вы подпишете согласие с условиями обслуживания.

— Какие условия могут быть у обслуживания?

Но из руки Карина уже возник сияющий голубой экран, на нем быстро развернулись строчки. Виктор просмотрел документ, привычно выхватывая взглядом ключевые слова. Кто бы ни стоял за этим уединенным курортом, ему требовался доступ к самой приватной информации, от записей в медицинской карте и финансовых документов до паролей и истории социальных сетей Виктора со всеми аудио- и видеозаписями. Некто хотел знать о повседневной жизни Виктора все. По экрану — вверху и внизу — бежали буквы: «НЕПРЕВЗОЙДЕННОЕ ОБСЛУЖИВАНИЕ РАДИ ВАШЕГО СЧАСТЬЯ».

— Чем обеспечена защита моих данных?

— Мистер Соколов, на Аль-Саиде используется кросс-платформенное программное обеспечение высокого класса. Вся ваша личная информация будет полностью зашифрована, доступ к ней получит только искусственный интеллект, обслуживающий лично пользователя, то есть вас, все операции и данные можно будет отследить. Если вы полагаете, что этого недостаточно, мы предоставляем полную прозрачность через алгоритм с открытым исходным кодом, оповещающий любого клиента о взломах и установках вредоносных программ.

— Ладно, убедили.

Виктор не знал, чему удивляться больше: самому этому загадочному острову или постоянно мелькающему слову «СЧАСТЬЕ». Он быстро нажал кнопку «Принимаю» на экране, прошел верификацию по радужке глаз, голосу и отпечатку ладони.

Едва закончилось подтверждение личности, из руки робота словно бы вытек голубой луч. Уперевшись в твердые доски, он начал расширяться, разливаться в стороны, пока не захватил все, что было видно на острове.

А вот и мои данные. Виктор был поражен и заинтригован. Казалось, личная история посетителя активировала все пространство. Он ощутил себя мушкой под микроскопом, но сформулировать возникшие опасения не успел — Карин собрал его багаж и был готов отправиться прочь от пристани.

— Мистер Соколов, позвольте проводить вас домой. Там все готово к вашему прибытию.

Виктор вошел в куполообразный гостевой дом. Ему стало понятно, почему робот с нажимом произнес слово «домой». Дизайн, мебель, узоры и даже медвежья лапа на стене над камином в точности повторяли обстановку его московского особняка на Рублевке.

— Вот это да-а-а, — он прекрасно знал, что никакой 3D-принтер не успел бы создать все эти объекты, пока он топтался на причале, поэтому восхищение вышло искренним. Но он быстро разгадал фокус: ничто из видимой обстановки не обладало реальными поверхностями. Каждый элемент гостевого дома был программируемым — просто иллюзией.

Виктор вдруг ощутил нечто странное. Он оглянулся, пытаясь определить источник беспокойства. За окном промелькнула тень и мгновенно растаяла в воздухе. За ним следят? Он пытался начать об этом думать, но Карин пригласил гостя в домашний кинозал, пообещав сюрприз.

В зале Виктора усадили на мягкий кожаный диван. Как только он устроился, на огромном экране появились какие-то кадры. Это оказалось ничем иным, как фильмом о жизни Виктора. Ленту смонтировал и отредактировал искусственный интеллект, использовав информацию из открытых источников и частных архивов.

Пошли кадры несчастливого детства Виктора, затем юношеских лет, полных борьбы и злости, которым можно было найти лучшее применение. В фильм попали все значимые факты и события его жизни: награды, конференции, размещение акций, слияния и поглощения, благотворительные мероприятия — все атрибуты прошлой жизни, от которых он хотел избавиться.

Видеоряд был однообразным и утомляющим, и Виктор прикрыл глаза. Но он не учел, что через поверхность ничем не примечательного дивана тщательно считываются все его физиологические параметры — температура тела, пульс, давление, биоэлектрические сигналы, уровни адреналина, серотонина (5-гидрокситриптофана, то есть 5-HT) и дофамина, даже степень напряжения лицевых мышц.

На протяжении почти всего фильма жизненные показатели Виктора были стабильны, как у дзен-мастера. Только однажды сердечный ритм нарушился — когда на экране появилась старая семейная фотография. Его взгляд не задержался на лицах родителей, но остановился на Маргарет — золотистом ретривере.

Кино закончилось, на экране появился список вопросов. Карин жестом предложил Виктору ознакомиться.

— «Есть ли у меня теплые чувства почти ко всем»? — Виктор выполнил просьбу, но тут же возмущенно уставился на робота. — Что это? Я должен отвечать?!

— Мистер Соколов, счастье — крайне субъективное понятие. Данные вопросы призваны помочь нам лучше понять ваше начальное состояние, чтобы настроить обслуживание в соответствии с вашими предпочтениями. Мы хотели бы получить как можно более честные ответы по шкале от одного до шести, то есть от «категорически не согласен» до «полностью согласен».

Виктор разглядывал непрошибаемого робота. «Идиот», — буркнул он себе под нос, но все же повернулся к экрану и стал нажимать виртуальные кнопки.

Анкета казалась бесконечной, и терпение истощалось. Но едва появилась мысль «все, это последний, встаю и ухожу», как вопросы прекратились. В зале тут же стало светлее.

— Дальше что?

— Поздравляю, мистер Соколов. Теперь мы можем присоединиться к другим гостям. Они вам понравятся.

Праздничный ужин устроили в ресторане, напоминавшем формой морскую раковину. Глаз радовала каждая деталь — от мерцавших в сумерках свечей до накрахмаленных манжет официантов, от замысловатых восточных узоров до сервировки стола. Гостям предложили современные вариации классических арабских рецептов вроде салуна, катарскую разновидность варак энаба и целое блюдо макбуса[129]. Официант объявил, что фрукты и овощи доставили несколько часов назад из Южной Европы.

Освоившись, Виктор присмотрелся к соседям за столом. Присутствовало тринадцать человек. Шестеро, включая его самого, были, очевидно, приглашены со всех концов света, кое-кого он даже узнал. Кинозвезда, криптохудожник, нейробиолог, альпинист и поэт — все публичные персоны. Остальные, похоже, были местными, катарцами. Длинные белые таубы выглядели обманчиво просто, не скрывая высокого социального статуса владельцев.

Во главе стола в ослепительном золотом одеянии и изящных украшениях сидела принцесса Акила. Она постучала серебряной ложкой по бокалу с вином, чтобы привлечь к себе внимание. Для начала она принесла извинения за то, что ее брат, 36-летний наследный принц Махди бин Хамад Аль-Тани и главный создатель Аль-Саиды, не смог присутствовать на торжестве, поскольку «ему нездоровится».

— Мой брат часто говорит, что от технологий нет пользы, если они не способны сделать нас счастливыми. Мы… Он… Наследный принц Махди задумал этот остров в надежде, что мощь технологий позволит ему найти истинную дорогу к человеческому счастью. Вы приехали на наш остров и получите шанс прикоснуться к этому беспрецедентному проекту королевской семьи Катара.

Ее английский был безупречен, произношение — очаровательно, однако в голосе звучал холодок. Виктор был заворожен, но понимал, что ее речь написана заранее и, возможно, даже отрепетирована.

— Ваше высочество, я искренне уважаю идеалы и решимость вашего брата, но позвольте обозначить проблему, — прокашлялся нейробиолог. — Мы уже выяснили, что эндоканнабиноиды вызывают эйфорию, дофамин управляет системой вознаграждения, окситоцин улучшает эмоциональные связи, эндорфины облегчают боль, гамма-аминомасляная кислота подавляет тревожность, 5-гидрокситриптофан повышает уверенность в себе и, наконец, адреналин придает сил. Но до сего дня мы так и не обнаружили нейромедиаторов, непосредственно отвечающих за наше ощущение счастья.

Подняв бокал, в разговор вступил поэт:

— Перу Эмили Дикинсон принадлежит стихотворение «Как счастлив камешек», Раймонд Карвер[130] писал, что счастье «является неожиданно». Словом, у каждого из нас собственный взгляд на счастье, не так ли?

— Лично я считаю, что все пытаются жить счастливо, но у кого-то к этому больше способностей и больше готовности действовать. Самые способные даже умеют обманывать себя. Вот так мы и выживаем, — томно произнесла кинодива и глубоко затянулась кальяном, на секунду задержала дым и медленно выдохнула.

Терпеливо кивая каждому гостю в ответ на его мнение, принцесса Акила внезапно заговорила:

— Именно поэтому вы все и были сюда приглашены. — Она была тамадой за этим столом. — Ваше отношение к счастью весьма разнообразно. Но главное, каждый из вас персонально несчастлив.

— Да что вы себе позволяете! — экспрессивный поэт взвился, столовые приборы звякнули. Глаза нескольких роботов, обслуживающих стол, вспыхнули красными огоньками. Поэт быстро уселся обратно с обиженным лицом.

— Ну все, с меня хватит, — теперь взорвался криптохудожник. — Я думал, будет разговор о том, как помочь простым людям вырваться из тисков потребительского общества и обрести духовную альтернативу. Не ожидал, что тут заседание клуба миллиардеров.

Виктор не сдержался:

— У людей с низкими и средними доходами деньги действительно повышают уровень счастья. Но за определенным порогом эффект становится минимальным, а то и обратным.

Принцесса подтверждающе кивнула:

— Даниэль Канеман определил этот порог в 75 тысяч долларов в год[131].

— Ну, мне эта цифра сомнительна, — отозвался Виктор.

— Вы говорите за богатейший один процент населения. Я отказываюсь быть частью этого фарса. Всего хорошего! — криптохудожник отбросил салфетку и встал.

За столом стало тихо. Все смотрели на принцессу Акилу.

Она улыбалась, словно возникшая неловкость ее ничуть не трогала. Принцесса грациозно поднялась и с бокалом в руке медленно пошла вокруг стола.

— Полагаю, все прочитали наши условия, прежде чем согласились с ними. Мы ясно отразили в соглашении, что, за исключением случаев серьезной травмы и обстоятельств непреодолимой силы, никто из гостей не может покинуть Аль-Саиду — любой досрочный отъезд считается нарушением контракта. Размер штрафа соответствует общей стоимости вашего имущества и активов, но будет уменьшаться по мере развития эксперимента. Другими словами, если вы решите уехать сейчас, то оставите себя без гроша.

Криптохудожник побледнел до синевы, его губы задрожали. Как и остальные присутствующие, он не удосужился внимательно прочитать пользовательское соглашение. За столом пошел сдавленный шепот, тем временем гости-катарцы невозмутимо наблюдали за происходящим.

Слово взял альпинист.

— Тут всё как в горах. Если не дошел до вершины, то проиграл. Но если дойдешь и не вернешься живым, все равно прославишься. Ваше высочество, когда это приключение на острове будет считаться завершенным?

Принцесса поравнялась с Виктором, дождалась, когда он поднимет бокал, и легонько с ним чокнулась.

— Когда остров решит, что вы преуспели в достижении счастья, настанет срок покинуть его.

Акила пошла дальше, Виктор смотрел ей в спину. Это принцесса была той черной тенью, которая мелькнула за окном его гостевого дома.

Жизнь на острове оказалась интереснее, чем ожидал Виктор. Но соседи, вопреки заверению Карина, симпатии у него не вызывали.

Случайно столкнувшись, все гости учтиво здоровались и заводили светскую беседу. Виктору это казалось скучным. Единственным исключением была Акила — вот с ней он общался охотно. Постепенно Виктор узнал, что принцесса получила докторскую степень по психологии в Институте психиатрии, психологии и неврологии при Королевском колледже Лондона, а ее специализацией была психология счастья.

— Поэтому брат поручил вам курировать проект? — поинтересовался Виктор во время одной из прогулок.

— Ну, не совсем. Махди сейчас нет на острове, — смущенно призналась Акила. — Он следит за происходящим удаленно, чтобы сохранить чистоту эксперимента. Из опыта он понял, что участники всегда отклоняются от привычного поведения в присутствии таких людей, как он.

— Из опыта? Так мы не первая группа гостей?

— Не первая. Первые были из местного населения. Брат хочет, чтобы выборка была максимальной — различные культуры, классы и расы. В его глазах это вклад катарской династии в поиски счастья для всего человечества, поэтому он стремится к совершенству в каждой детали.

— А вы, похоже, не особо верите в этот проект?

— У нас с братом есть некоторые разногласия, — принцесса помолчала. — На следующей неделе в театре состоится представление. Надеюсь, вы составите мне компанию? И мы обсудим эту тему. Попросите Карина, кстати, чтобы он рассказал вам подробнее об инфраструктуре острова.

Улыбнувшись принцессе, Виктор поднял бокал виски и осушил его.

Следующие несколько дней Виктор прогуливался по острову с Карином, а робот, словно опытный экскурсовод, подробно объяснял тонкости местных технологий.

За последние тридцать лет в разных странах предпринималась масса попыток ограничить цифровую монополию технических гигантов. Способы использовали разнообразные — закручивали регуляторные гайки, проводили антимонопольные разделения корпораций, принимали законы о защите персональных данных. Однако успехи были скромными — монополизм прогрессировал. А потом на авансцену вышло кросс-платформенное программное обеспечение.

— Оно является самым перспективным решением, — Карин рассказывал и одновременно вел хозяина к центральному театру. Роботу-слуге потрясающе удавалось понимать и продуцировать естественную речь, и Виктор часто забывал, что перед ним лишь груда силикона и металла.

— Почему ты так решил?

— Все, что вы видите вокруг, все эти здания, устройства, да и сервис тоже, мгновенно меняют параметры, подстраиваясь исключительно под вас. Без промежуточного программного обеспечения мы бы не могли собрать по различным платформам ваши данные, а они необходимы, чтобы искусственный интеллект обеспечил максимальное удовлетворение ваших потребностей и желаний.

За последние двадцать лет работающие над программным обеспечением с открытым исходным кодом сообщества и блокчейн-компании активно разрабатывали промежуточное программное обеспечение на основе искусственного интеллекта. Оно совмещало преимущества распределенной обработки данных, протоколов открытого исходного кода и федеративного обучения.

Однако для получения достаточного числа данных нужно надежное связующее звено. Благодаря стратегии «рецентрализации» успехи национального плана развития искусственного интеллекта Катара были существенно значительнее, чем достижения коммерческих платформ. Аль-Саида должен был через промежуточное программное обеспечение идеально соединить данные со всех крупных платформ, обеспечив пользователям максимальные защиту и идеальное исполнение.

И это была правда: искусственный интеллект на острове действительно заметно превосходил все программные продукты, с которыми Виктор до этого сталкивался. В прошлой жизни, в бизнесе, даже принимая не особо важное решение, он учитывал невероятное множество факторов. Но здесь, на острове, все вернулось к истокам — к его собственным ощущениям.

Обои в комнатах Виктора меняли рисунок, в любой момент точно попадая в настроение хозяина. Дорожки, по которым он бегал по утрам, вели его по разным ландшафтам, радовали разнообразием видов. Официанты предлагали блюда точно по его вкусу, но с неожиданными и приятными вариациями. Уведомления в смартстриме тоже соответствовали его интересам, причем появлялись в самый подходящий момент — когда он обдумывал именно этот вопрос.

Все это приносило огромное удовольствие. Виктору было так комфортно, уютно и безопасно, что он даже не вспоминал о тотальной записи своей личной информации, которая велась с момента прибытия на остров.

Каждая сказанная фраза, выражение лица, жест замечались вездесущими камерами и сенсорами, передавались искусственному интеллекту, обрабатывались и возвращались — и окружающая среда улучшалась.

— Теперь остров знает меня лучше, чем мой психотерапевт, — сказал однажды Виктор Карину. — Это удобно, но, честно говоря, чего-то не хватает. Я бы сказал — пресновато.

— Все зависит от целевых функций, заданных в промежуточном программном обеспечении. В этом и состоит смысл вашего пребывания здесь. Мы пришли.

Виктор посмотрел на робота. Они стояли у дверей театра.

Карин проводил Виктора в VIP-ложу — там уже устроилась принцесса Акила. Сегодня она была в фиолетовом.

— Здравствуйте, мистер Соколов.

— Ваше высочество, пожалуйста, зовите меня Виктор.

— Хорошо, Виктор. Надеюсь, вам понравится, — и Акила протянула ему XR-очки, сделанные из металла и кожи в форме арабского клобучка.

— А где остальные? — спросил Виктор, имея в виду других гостей.

— На Аль-Саиде все работает ради вас.

На сцене появилась труппа актеров в традиционных арабских одеждах. Под звуки аль-раса[132] они исполнили арду[133]. Это было начало пьесы «Человек, который больше не смеялся» — классической истории из «Тысячи и одной ночи».

Сюжет был закручен вокруг истории главного героя. После смерти состоятельного отца юноша пустился во все тяжкие — пировал и распутничал, пока не промотал все наследство. А потом ему пришлось наняться за гроши на черную работу.

Однажды к молодому человеку подошел хорошо одетый, но очень уродливый старик. Он предложил юноше пойти в услужение к пожилым людям, живущим с ним в особняке, пообещал хорошее вознаграждение. Молодой человек согласился. Тогда старик выдвинул необычное условие:

— Узрев нас в слезах, да не спросишь ты причину наших стенаний.

Юноше стало любопытно, но он и на это согласился. Они пришли в большой дом, окруженный цветущим садом с живописными фонтанами. В доме действительно плакали десять стариков в саванах. У юноши чуть не сорвался с языка вопрос, отчего они так горюют, но он вовремя вспомнил условие и удержался.

В XR-очках Виктор видел наложенный слой виртуального фона, который изменялся по ходу сюжета. Действия актеров запускали разнообразные анимированные эффекты. Арабские реплики сразу же переводились — в воздухе плыли русские субтитры, сохранявшие, однако, оригинальную арабскую стилистику.

Виктор восхищенно повернулся к Акиле:

— Это потрясающе!

Принцесса поднесла палец к губам и указала на сцену: «Смотрите туда».

Действие меж тем перенеслось на двенадцать лет вперед. Юноша возмужал, а стариков одного за другим прибирала смерть. Остался лишь тот, кто предложил ему работу. Но вот и он слег. У его смертного одра юноша все-таки спросил, почему же он с товарищами столько плакал и стенал.

— Сын мой, я поклялся Аллаху, что ни одна живая душа не узнает этого, а иначе его постигнет та же участь, что постигла меня и остальных, — и старик кивнул на плотно закрытую дверь. — Если ты желаешь избежать этого, не открывай двери той. Если же отопрешь ее, то узнаешь причину того, чему был свидетелем. А узнав ее, будешь сокрушаться, да только это не поможет.

И старик испустил дух. Юноша похоронил его рядом с остальными и остался жить в опустевшем доме. Он часто думал над последними словами умершего хозяина. Но однажды любопытство победило, он сломал запор и распахнул дверь.

Ты на его месте поступил бы так же?

Эта надпись вдруг проплыла над сценой и тут же исчезла. И это точно не были субтитры.

Виктор растерялся. Принцесса молчала, но было заметно, что ее горло подрагивает. Виртуальных надписей в воздухе становилось все больше.

Это я, Акила, я говорю с тобой. Это единственный способ обойти слежку. Не подавай вида, не оборачивайся ко мне. Возьми бокал. На поверхности вина плавает силиконовая пленка. Подхвати ее языком и приложи к нёбу. Попробуй говорить, не открывая рта. Пленка переведет электрические сигналы от мышц горла в текст. Алгоритм уловит то, что ты хочешь сказать, причем достаточно точно.

Виктор в точности выполнил указание. Первые попытки установить контакт с помощью силиконовой пленки вызвали бессвязный набор слов, но постепенно Виктор освоился. Точность передачи речи с каждой фразой повышалась, особенно если использовать распространенные недлинные слова.

А спектакль шел своим чередом. Главный герой вошел в запретную дверь и попал в лабиринт. Длинные коридоры вывели его на берег океана. Он стоял, любуясь дивным пейзажем, как вдруг его подхватил огромный орел. Гигантская птица в когтях перенесла его через океан и бросила на пустынный остров. Дни тянулись, герой уже впал в отчаяние и стал готовиться к неминуемой смерти. Но однажды на горизонте появился корабль.

Зачем ты это делаешь?

Методика Махди не сделает тебя счастливым. Он не готов это признать, но я-то знаю. Максимизация целевых функций превратит тебя в восторженного подопытного кролика, который всегда и везде хочет еще.

Почему ты не расскажешь ему?

Это непросто. Ты же знаешь, что такое женщина в моей стране. Я слишком изучила Махди. Он никогда не прислушается к моему мнению.

Виктор вспомнил прохладный тон принцессы на банкете, когда она извинялась за брата. Теперь все встало на свои места.

Виктор снова взглянул на сцену через свои очки. История на сцене катилась дальше: корабль, богато украшенный драгоценным черным деревом и слоновой костью, бросил якорь у острова. На корабле прибыли десять прекраснейших дев. Они пригласили юношу подняться на борт, и корабль отправился в путь. Показалась земля. Корабль пристал к берегу. Солдаты стояли стройными рядами в полных доспехах. Юноше подвели коня под золоченым седлом, украшенном драгоценными каменьями, и он верхом отправился во дворец в сопровождении почетного эскорта. Король уже ждал и радушно распахнул перед гостем двери.

Владыка провел героя во дворец, предложил сесть на золотой трон, а потом снял шлем, до сих пор скрывавший лицо. Юноша увидел прекрасную благородную девицу.

— Я королева этой страны. Все войска, что ты видел, — и конные, и пешие — это все женщины. В наших краях мужчины пашут, сеют, жнут, отдают силы земле и ремеслам, прочим искусствам. А женщины правят, и надзирают за делами государственными, и носят оружие.

Услышав такое, герой застыл от изумления.

Что ты от меня хочешь? И… почему я?

Когда-то я была волонтером в лондонской клинике Модсли[134]. Я переняла у врачей один прием — не в плане лечения, а в плане отбора пациентов. Они всегда выбирают тех, кто готов сотрудничать, следует советам и дошел до края. Такие пациенты быстро ощущают улучшение, которое запускает позитивную спираль выздоровления.

И поэтому ты выбрала меня? Не могу сказать, что польщен.

Виктор, сейчас ты подтвердил свою уникальность. Ты хочешь разорвать порочный круг, и это желание крайне важно для достижения счастья.

А как это сделать?

Новый алгоритм. Махди ставит на то, что искусственный интеллект удовлетворит все твои физические потребности и желания. А я пришла к выводу, что счастье устроено сложнее.

Я весь внимание.

Представление, казалось, никогда не закончится. Королева приказала визирессе, величавой и почтенной седовласой женщине, позвать кади[135] и свидетелей. Затем она повернулась к юноше.

— Согласен ли ты, чтобы я взяла тебя в мужья?

— Госпожа, я лишь нижайший из твоих слуг, — он упал на колени и поцеловал землю у ее ног.

— Вся эта свита будет услаждать тебя, и все мои сокровища будут твоими, кроме… — королева обвела рукой прислужников и солдат, богатства и сокровища, лежащие перед ними, и указала на закрытую дверь.

— Не отпирай двери той, а иначе будешь сокрушаться, да только это не поможет.

Едва она замолчала, как вошла визиресса с кади и свидетелями. Свадебная церемония оказалась недолгой, и королева повелела готовить пир на весь мир, для всех гостей и воинов.

Расскажу немножко. В 1970-х годах американский психолог Филип Брикман провел серию личных интервью. Это были люди, выигравшие в лотерею, и те, с кем случился несчастный случай — они выжили, но остались парализованными. Исследователь хотел оценить уровень счастья в обеих группах. Каков, по-твоему, был результат?

Примерно одинаковый.

В точку! Победители лотереи оказались не счастливее контрольной группы. А жертвы несчастных случаев, конечно, страдали, уровень счастья их был снижен, но они смотрели в будущее с таким же оптимизмом, как и контрольная группа[136].

Как так?

Мозг оценивает интенсивность ощущений, отталкиваясь от привычного для себя уровня. Возбуждение от выигрыша значительно повысило диапазон адаптации победителей, и они оказались менее склонны реагировать на взлеты и падения своей ежедневной жизни. Верно оказалось и обратное.

Красиво. И как это можно использовать?

Помнишь пирамиду потребностей Маслоу? Похоже, алгоритм Махди работает, пока у человека не удовлетворены ее нижние уровни. А когда люди сыты и начинают испытывать потребность в любви и социальных связях, в уважении и самореализации, алгоритм уже не действует. На твоем примере это отлично видно.

Я считал, что стою на вершине социальной пирамиды.

Наш искусственный интеллект считает, что вероятность твоего самоубийства в ближайшие два года равна 87,14 процента. Прости.

Виктор замолчал, однако что-то подсказывало ему, что принцесса права.

На сцене бывший юноша-муж уже прожил со своей женой-королевой семь счастливых лет. Герой подошел к среднему возрасту. Он частенько думал о запретной двери. Размышлял, что за ней может такого скрываться, что жена запретила ее отпирать? Ответ всегда находился только один — там невиданные и несметные сокровища. Действительно, что же еще стоит так оберегать?!

И он поднялся с королевского ложа, украшенного самоцветами и жемчугами, и враз выломал все замки на заветной двери.

Значит, ваш алгоритм все-таки способен мне помочь?

Создать уникальную психологическую модель каждого человека под силу только искусственному интеллекту. Мы рассчитываем открыть новые биомаркеры, ассоциированные со счастьем, и разнообразить параметры оценки удовлетворенности. Например, что заставляет человека сдаваться или порождает целеустремленность? Что обеспечивает более глубокое понимание межличностных отношений? Но нам нужно твое согласие.

Даже не знаю. Это опасно?

Помоги мне, и тогда ты поможешь себе. Времени мало. Ты не знаешь, что тебя ждет.

Субтитры представления внезапно застыли в воздухе, артисты замерли, словно кто-то нажал на паузу. Виктор понял: актеры — это роботы.

«А вот и остальные», — тихо произнесла принцесса. Ее голос дрогнул.

В мгновение ока театр осветили мощные лампы. Едва Виктор поднялся на ноги, как двери с грохотом распахнулись.

В зал, возбужденно гомоня, ворвались остальные гости Аль-Саиды. Их, судя по всему, совершенно не интересовало представление.

Криптохудожник, похоже, сумел хакнуть робота-ассистента и убедил соседей, что хватит быть подопытными — пора взять власть в свои руки и разобраться с хозяевами острова.

Мятежный робот воинственно занял позицию у сломанных дверей.

— Мы требуем освобождения от наших контрактов! — закричал криптохудожник принцессе.

— Вы вольны уйти в любое время при условии оплаты штрафа, — бесстрастно напомнила Акила.

— Мы не будем платить! Вы ни черта не получите! Этот ваш чертов остров ни черта не принес мне счастья! — кинозвезда ругалась как базарная торговка. Искусственный интеллект помогал ей вырабатывать устойчивость к алкоголю.

Веки поэта покраснели от слез, он застонал и схватил себя за волосы.

— Этот остров — словно чудовищная лампа Аладдина. Тут исполняются все наши желания — но как же вдохновение, как же азарт? Все сбывается, о чем ни подумаешь, но ничто не увлекает. Я не в состоянии написать ни строчки!

— В первый раз белый трюфель был вкусен — просто пища богов, — продолжил альпинист. — Но чем дальше, тем преснее он становился. Дело не в этом прекрасном редком грибе, дело во мне. Двадцать лет назад катарцам требовалось разрешение, чтобы глотнуть алкоголя, и с этого глотка можно было захмелеть. А теперь посмотрите-ка, что творится! — он, не скрывая отвращения, картинно посмотрел на актрису.

Акила и Виктор переглянулись. Принцесса оказалась права: алгоритм Махди удовлетворял поверхностные желания пользователей, баловал их, но обеспечить устойчивое состояние счастья не мог.

— Вы с братом поставили перед собой амбициозную задачу — понять один черный ящик с помощью другого. Но идея провалилась, — мрачно констатировал нейробиолог. — Мы по-прежнему далеки от счастья.

— Следовательно, мы жертвы неудачного эксперимента, а поэтому имеем право на безусловное расторжение договора, — заключил криптохудожник.

— И на компенсацию, — добавила селебрити заплетающимся языком.

Виктору захотелось вмешаться, но принцесса его остановила.

— Мне правда жаль, что вы не смогли обрести счастье на Аль-Саиде, — принцесса Акила, казалось, была искренна. — Но вы же с самого начала знали: ваши данные были импортированы в промежуточное программное обеспечение в зашифрованном виде, затем автоматически встроились в умные контракты, а их никто не может изменить или уничтожить. Такова особенность нашей системы.

— Где ваш кукловод?! Мы требуем встречи, — допытывался альпинист.

— Махди занят, у него срочные дела, и он поручил мне…

— Это надувательство! Я все расскажу «Аль-Джазире»[137], они вас выведут на чистую воду! — повысил голос поэт.

— Вы подписали договор о неразглашении, — опять напомнила Акила.

— Похоже, нас не слышат, придется действовать по-плохому, — сделал вывод криптохудожник. — Джинн, арестуй ее высочество.

Услышав резкий приказ, робот повернулся к Акиле и неуклюже двинулся в ее сторону.

— Эй! А ну тише все! — Виктор бесстрашно преградил путь спятившему андроиду.

— Русский, да ты метишь в королевские зятья!

— Виктор, все хорошо. Аль-Саида не даст причинить мне вред, — принцесса совершенно спокойно подошла к роботу — он был выше нее на голову.

— Не сопротивляйтесь, и вам не причинят зла, — пообещал художник и скомандовал: — Пошли на причал!

В сопровождении робота и остальных гостей принцесса вышла из театра. Вдалеке, за проливом, сиял огнями порт Дохи. Музей исламского искусства[138] искрился в лучах почти совсем севшего солнца и напоминал айсберг. В этом великолепном пейзаже происходило похищение монаршей особы.

Виктор ломал голову, как освободить Акилу, как вдруг заметил, что горло принцессы легонько двигается, и почти тут же в его очках дополненной реальности всплыл текст.

На счет три падай на землю.

На небе уже проступили звезды — смеркалось. Виктор отметил: созвездия будто стали менять форму и снижаться. Вдалеке раздалось вибрирующее жужжание — словно бы летела стая колибри[139].

В XR-очках замелькали цифры — пошел обратный отсчет; едва увидев тройку, Виктор распластался на земле. Он закрыл руками голову и тут же краем глаза ухватил сине-белую вспышку света. Над ним прошла какая-то волна. Все люди на причале рухнули и забились в судорогах. Все, кроме принцессы.

— Это стреляющий электрошокер, — Акила помогла Виктору подняться. — Через пару часов они оклемаются.

— Как ты это сделала?

— Вызвала отряд беспилотников с неподвижным крылом[140].

Виктор вспомнил вуалеобразную структуру, которая висела над островом в день его приезда. Теперь понятно, почему она парила в воздухе, словно в невесомости.

— А с этими что? — Обездвиженные гости больше не шевелились.

— Утром отправим в Доху, в местный суд. А ты поступай как знаешь.

Виктор глубоко вздохнул. Только что увиденное заставило его по-другому посмотреть на предложение Акилы. Он совершенно не желал быть подопытным кроликом в неудачном эксперименте, но и вернуться к прошлой жизни он не мог. Похоже, выбора все-таки не было.

— Я согласен.

Архитектура промежуточного программного обеспечения позволяла запустить два алгоритма одновременно, как два течения в одном океане.

Виктор продолжал наслаждаться удобствами Аль-Саиды, но время от времени стал замечать раздражающие мелочи — словно малолетний озорник дразнил его из-за угла.

То вдруг заиграет неприятная музыка, то на смартфоне всплывет негативная новость о компании Виктора. То Карин на ровном месте начинал тормозить, ошибаться, а то и огрызаться. Дорожки на пробежке заводили его в грязь и лужи, и таких мелочей была целая уйма.

Виктор догадывался: так проявляется алгоритм «борьбы с трудностями», с которым экспериментировала Акила в промежуточном программном обеспечении.

Однако, несмотря на привнесенный хаос, искусственный интеллект создавал и много возможностей. Виктор стал чаще пересекаться с Акилой. Они много разговаривали — обо всем и ни о чем, часто обсуждали возможности усовершенствования системы.

Виктор, кажется, наконец-то был по-настоящему счастлив. В прошлой жизни ближайшее окружение относилось к нему с показным почтением и нарочитой покорностью, прочие люди в лучшем случае выказывали неприязнь. Искренне и на равных пообщаться хоть с кем-нибудь давненько не получалось.

Между ними возникла привязанность; искусственный интеллект фиксировал ее через вездесущие камеры, датчики и биосенсорную мембрану Виктора — причем задолго до того, как парочка могла осознать произошедшее. Микродвижения лицевых мышц и биомаркеры никогда не лгут.

Новый алгоритм побудил Виктора задуматься о возможности внедрения промежуточного программного обеспечения на его платформе для киберспорта. Это, возможно, позволит нарушить монополию цифровой централизации, и геймеры снова станут получать чистое удовольствие от видеоигр. Столь радикальный шаг мог вывести компанию на принципиально новый уровень.

Правда, Виктор опасался, что еще не забыты его приключения, переросшие в международный скандал. Сейчас его компания держится на плаву, но если революционная инновация провалится, на всей его бизнес-империи можно будет поставить крест.

Он поделился опасениями с Акилой.

— Ты боишься не проиграть, а опозориться, — покачала она головой.

Виктор замер — Акила попала в самую точку.

— За годы исследований я поняла, что путь к самореализации не всегда идет вверх. Он состоит из взлетов и падений.

— Не очень понял.

— Если не уверен в себе и мучаешься от этого, то не испытаешь настоящей любви и сопричастности. Если ты слишком боишься потерять любовь, то не обретешь настоящего чувства собственного достоинства. Покоренная вершина — не гарантия вечного счастья, потому что оно не константа, а динамичный процесс, в течение которого ты перешагиваешь через страхи, оставляешь их внизу и поднимаешься на новую высоту.

Виктор кивнул.

— А ты чего боишься?

— Я боюсь стать той Акилой, которую хочет видеть Махди, — принцесса улыбнулась и перевела взгляд на горизонт. — Он очень меня любит, но хочет, чтобы я жила исключительно по его алгоритмам, как сказочная принцесса — никаких забот, сплошная радость. Но я так не могу. Мне хочется принести этому миру настоящее счастье.

Виктор беспомощно потряс головой, поднял свой бокал и прервал Акилу на полуслове.

— Мне кажется, я не обрету счастье на этом острове ни по меркам искусственного интеллекта, ни по моим собственным.

Они помолчали. Через какое-то время Акила повернулась к Виктору, словно что-то припомнив.

— Ты не увидел окончания.

— Какого окончания?

— Пьесы, которую мы смотрели в театре.

— А… «Человек, который больше не смеялся». Это прям про меня, — Виктор натянул на лицо улыбку. — Так чем все закончилось?

— Юноша, который женился на королеве, нарушил обещание, данное на свадьбе. Он открыл запретную дверь, но там был орел, перенесший его через океан в самом начале. Огромная птица схватила его и отнесла на дальний берег, откуда когда-то забрала. И юноша — но он уже почти состарился — нашел дорогу к дому, где жил когда-то со стариками. Он пришел на их могилы и осознал, что его постигла та же судьба — и все стенания и слезы были из-за этого.

Виктор завороженно смотрел в глаза Акилы и пытался собраться с мыслями.

— Грустно, правда? — закончила рассказ Акила.

— Очень. Люди всегда совершают одни и те же ошибки и возвращаются в исходную точку, — вздохнул он.

— Бегут на месте, как на беговой дорожке.

— Может, с нее невозможно сойти?

— Ты ведь не веришь, что мы сделаем тебя счастливым, да? — в глазах Акилы появились тревога и досада.

Виктор пожал плечами и отвернулся, глядя на далекое суденышко, плывущее по заливу.

Принцесса ушла без обычного долгого прощания.

Приключение закончилось неожиданно, как и началось.

Робот Карин сообщил Виктору, что он может покинуть Аль-Саиду. Билет на ночной рейс до Москвы забронирован, вылет из международного аэропорта Хамад. Быстроходный катер должен был доставить Виктора на Большую землю.

Принцесса Акила не пришла его проводить — передала видеопослание через Карина. Виктор растерялся.

— Я сделала все, что смогла, ты, надеюсь, меня поймешь.

Принцесса выглядела расстроенной, словно не хотела расставаться, и это слегка ободрило Виктора.

— Остальных гостей оправдают и отпустят на свободу, только обяжут молчать обо всем, что случилось на острове.

Катер летел по морю, на воде оставался длинный след — белая дорожка, убегавшая обратно, к острову счастья.

Виктор оглянулся на беспилотники, темным облаком зависшие над Аль-Саидой, и вспомнил последние слова Акилы: «Пусть к тебе придет настоящее счастье, Виктор. Надеюсь, Махди не передумает».

Что это значит? Виктор начал переживать.

Международный аэропорт Хамад был оборудован по высшему классу. В зале ожидания имелись даже бассейн и оранжерея с тропическим садом с пальмами. До посадки еще полно времени, но Виктор на всякий случай отправился к стойке регистрации. Сотрудник «Катарских авиалиний» приветливо улыбнулся — тревога слегка улеглась, но тут же вновь подскочила: поиск его билета в базе данных затягивался.

— Мистер Соколов, приношу извинения за долгое ожидание. К сожалению, система показывает, что ваш билет отменен. Вам нужно связаться со стороной, бронировавшей рейс.

От души про себя выругавшись, Виктор выхватил смартстрим, чтобы позвонить Акиле, но связи не было. На экране висела новость, появившаяся несколько секунд назад: «Пятеро иностранных туристов осуждены за преступления в соответствии с местным законодательством».

Выходит, Махди передумал? Виктор лихорадочно озирался и не сразу услышал вопрос сотрудника:

— Мистер Соколов, с вами все в порядке? Я вызвал персонал аэропорта, вам окажут помощь.

К стойке уже бодро приближались два секубота — робота-охранника. Угольно-черные, под цвет униформы охранников и полицейских, они были еще внушительнее, чем Карин. Едва заметив их, Виктор бросился из терминала. Лавируя между движущимися машинами, он разглядел на дальней от себя полосе такси с водителем-человеком.

— Добрый вечер, сэр. В наши дни такой человечный пассажир — большая редкость, — ухмыльнулся водитель. — Вы за развлечениями? Легальные, нелегальные — только скажите.

— Просто езжайте, вперед! — заорал Виктор. Он порылся и нашел карточку Халеда. В такой момент можно было доверять лишь собственным контактам.

Мотор взревел. Из окна такси прямиком на дорогу вылетел смартстрим, мигнув пару раз и погаснув.

Бесконечные переулки базара Сук-Вакиф с грубо оштукатуренными стенами и торчащими наружу деревянными балками напоминали о древних временах. Когда-то торговцы-бедуины привозили сюда украшения, серебряную посуду, ковры, лошадей и всякую утварь. Виктор не планировал гулять по историческому району, но заблудился и совершенно потерялся в запахах кальяна, смешавшихся в ночном воздухе с ароматами благовоний, меда и фиников. От разноцветных мозаичных фонарей рябило в глазах.

Смартстрим он выкинул. Оставалось надеяться на собственное ощущение пространства. Виктор вздрагивал и нервно оглядывался — в каждом прохожем ему мерещился человек Махди. Потолкавшись на узкой улочке с сувенирными лотками, Виктор неожиданно вышел к старому магазинчику товаров для соколиной охоты. Этот адрес был на карточке Халеда. Алжирец, обожающий электронную музыку, работал, оказывается, не только водителем, но и продавцом.

Ловчие птицы мирно сидели каждая на своей подставке и, несмотря на клобучки, закрывавшие глаза, выглядели величавым символом вековой традиции арабов-кочевников. Каждая такая птица стоила не один миллион катарских риалов[141]. Хозяин магазина при виде посетителя прижал палец к губам — попросил не шуметь, жестом велел ждать и отправился за Халедом.

Алжирец появился через несколько минут. Виктор объяснил ситуацию.

— Так вы хотите в ночь поехать через пустыню? И добраться до юго-западной границы Арабских Эмиратов? Так себе затея.

— Всего-то двести километров, для тебя это ерунда. А там меня подберут, уеду так же, как приехал.

— Даже и не знаю. Зависит от… — Халед пошелестел пальцами в воздухе — жест без перевода понятен по всему миру.

— Ты что, не знаешь русских? — Виктор изобразил хитрую улыбку. — Деньги — не проблема.

Вскоре внедорожник Халеда уносил Виктора прочь из шумной Дохи. На огромном рекламном щите на въезде в пустыню среди арабских надписей выделялось написанное на английском: «БУДУЩЕЕ ПЕРЕЗАГРУЖЕНО. ГОТОВ?» Виктор смотрел на окружающие пейзажи и горевшие далеко позади огни цивилизации. Под луной раскинулись барханы — словно волновалось тропическое море. Песок бился в окна, создавая белый шум.

На этот раз обошлось без музыки. Водитель сидел как на иголках.

— Кстати, у каждой нашей птицы есть паспорт.

— Что?

— Они слишком дорого стоят, чтобы продавать их из-под полы.

— Ага.

Виктор был без сил и задремал под убаюкивающее движение машины. Но не успел он закрыть глаза, как внедорожник резко встал, словно въехал в кирпичную стену.

— Мы засели.

Халед несколько раз газанул. Колеса пробуксовывали, выбрасывали фонтаны песка, мотор рычал.

— Вы не выйдете на минутку?

Виктор выбрался из машины и поежился. Прохладно. Ночная пустыня неприветлива. Захотелось курить. Он пошарил в карманах, но там была лишь квитанция за такси. В ярком свете передних фар клубилась пыль, напоминая струи жидкого золота.

— Халед, у нас мало времени, — напомнил Виктор.

Водитель почему-то не торопился.

— Не хочется стать первым русским, который замерз насмерть в аравийской пустыне.

— Простите, мистер Соколов.

— Не страшно. Просто не затягивай.

— Простите, — повторил Халед, и машина вдруг как будто присела. Умные шины сдулись, сцепление с дорогой усилилось, и внедорожник без труда выбрался из песчаной ловушки.

— Я не желаю вам зла, но это их приказ. Я не могу ослушаться.

— Какого черта…

Виктор в растерянности смотрел, как машина развернулась и погнала в Доху. Он бросился было вслед, но песок, только что взрыхленный колесами, тут же забил глаза и горло. Он долго откашливался, а когда ему наконец удалось открыть глаза, внедорожника и след простыл.

Виктор Соколов остался один посреди бескрайней пустыни. Он начал кричать, потом материться, но опять наглотался песка и стало тяжело дышать. Голос постепенно ослаб, а потом и сел, крики сменились каким-то всхлипами. Он попытался сориентироваться по звездам — как-то же это делают бедуины? Всматривался в горизонт в поисках оазиса. Поискал на склонах барханов следы животных. Наконец он сдался и стал припоминать, откуда они въехали в пустыню.

Следы колес уже занесло, но останавливаться нельзя. Виктор решил сосредоточиться на шагах: одна нога — другая нога, одна нога — другая нога… Прикинул, сколько времени они ехали. Получалось, что до катарско-саудовской границы километров двадцать-тридцать, не больше.

Нет ничего невозможного, твердил он себе. Он преодолеет это расстояние к рассвету, задолго до того, как температура поднимется до 50 градусов и он потеряет сознание от обезвоживания.

Бредя сквозь пески, Виктор утратил чувство времени. Горло саднило, глаза щипало от слез и пыли, с каждым шагом все сильнее болели ноги. Все барханы одинаковы, и Виктор не мог понять, продвигается он вперед или ходит кругами. Но остановиться он не смел даже на чуть-чуть.

Темное небо стало еще чернее — «тьма сгущается перед рассветом», и Виктор остро осознал: солнце уже подкралось с той стороны к горизонту и готовится нанести смертельный удар. Перед глазами поплыли сцены из прошлого — классический предвестник смерти. По сравнению с истекающими минутами жизни все воспоминания, даже самые неприятные, казались бесконечно милыми.

Мысли начали путаться. Виктор поехал за счастьем — и теперь это путешествие закончится одинокой смертью в дикой пустыне.

На горизонте появилась светлая полоса. Он не успел.

Виктор споткнулся, скатился по склону и упал ничком на песок, уже разогревающийся на утреннем солнце. Остатки воли приказывали встать и идти, но тело не слушалось. Он не хотел умирать — но если уж без этого никак, то пусть уж не здесь и не так! Но, похоже, его время пришло.

Знакомый вибрирующий гул опустился откуда-то сверху, выдергивая его сознание из небытия. Предсмертные галлюцинации? Он с трудом перевернулся лицом к безоблачному небу и увидел мираж. То ли ковер-самолет, то ли корабль без парусов. Виктор хотел крикнуть, но у него не получилось. Вот и все, это конец.

На самом деле ковер-самолет был пассажирским дроном, составленным из множества небольших беспилотников, которые могли образовывать в воздухе разнообразные фигуры.

Дрон приземлился — поднялась небольшая песчаная буря, и Виктору в очередной раз за последние сутки залепило глаза жалящим песком. Потом он почувствовал, что его подняли и несут, потом наступила прохлада и что-то впилось в руку. Гаджет, управляемый искусственным интеллектом, восполнял в его теле уровень жидкости и электролитов.

Виктор определенно начал оживать. Он сумел открыть глаза и уставился на улыбающуюся принцессу Акилу.

— Я умер? Я в раю?

— Виктор, ты жив и здоров как бык. Просто немного обезвожен.

— Как ты нашла меня?

— Сенсоры помогли. В твоей одежде, обуви, на коже, а еще в пустыне. Тут везде умная пыль.

Он повернул голову, но за окном был обычный холмистый пейзаж, залитый золотым светом.

— Это что, тоже заложено в алгоритме?

— Не совсем. Искусственный интеллект действительно помог, но разработала все я. И спасибо тебе.

— За что?

— Твой выбор заставил Махди поменять мнение, и не только об алгоритме, но и обо мне. Будешь сотрудничать с нами? Твоя игровая платформа точно поможет оптимизировать наш алгоритм.

Виктор медлил с ответом.

— Если я откажусь, меня посадят, как остальных?

Акила от неожиданности засмеялась.

— Это была фейковая новость, специально для тебя. Все гости вернулись на остров и занялись обычными делами.

— Погоди… Значит, мои соседи на острове тоже… Ох, ну конечно. Теперь понятно, почему у нас не клеился разговор. Ты правда думаешь, что это принесет людям счастье?

— Это ты мне скажи, Виктор. Посмотри на себя. Что ты чувствуешь? — Акила очень нежно положила руку ему на плечо.

В голове не осталось ни одной мысли. Пустынные пейзажи в иллюминаторе сменились морской гладью. Они возвращались на Аль-Саиду, на остров счастья — на остров их счастья. Виктор вдруг захохотал так, словно наконец-то понял смысл какой-то космической шутки. Он все смеялся, а по лицу струились слезы.

Анализ. ИИ и счастье; Общий регламент по защите данных (GDPR)[142]; персональные данные; конфиденциальные вычисления[143] посредством федеративного обучения и доверенная среда исполнения[144]

В предыдущих главах мы обсудили приложения для глубокого обучения ИИ, предназначенные для оптимизации финансовых параметров, выставления отметок школьникам, оценки состояния здоровья и так далее. Рассказ «Остров счастья» расширяет тему, а точнее, проблему, стоящую перед человечеством: может ли ИИ оптимизировать счастье? Это невероятно сложный и многогранный вопрос.

Неоднозначный финал рассказа предполагает, что в 2041 году ИИ еще не в полной мере справится с повышением нашей удовлетворенности жизнью. Будут некие подвижки, появятся прототипы алгоритмов, но предсказать, когда и как будет решена эта задача, да и случится ли это вообще, невозможно.

Почему это настолько трудно? Мне приходят в голову четыре причины. Но для начала разберемся, что такое счастье.

Его описывают бесчисленные теории, от пирамиды потребностей Абрахама Маслоу до позитивной психологии Мартина Селигмана. В 2041 году дать определение счастью станет еще сложнее. Общество шагнет в своем развитии, в частности благодаря технологиям на ИИ — значит, уровень комфортности жизни большинства, а то и всех людей на Земле, повысится.

Когда базовые потребности человека окажутся удовлетворены, что сможет сделать его счастливым? Споры вокруг этого понятия в 2041 году наверняка еще будут продолжаться.

Вторая трудность заключается в оценке. Само по себе счастье абстрактно, субъективно и индивидуалистично. Как нам измерить его уровень? Как последовательно фиксировать количество? Если нам удастся определиться с этим показателем, то как ИИ сможет корректировать нашу жизнь ради его достижения?

Третья проблема, безусловно, — сама информация. Чтобы разработать мощный ИИ, контролирующий уровень счастья, нам придется собрать невероятно огромные массивы данных, включая самые интимные сведения. Но где их надежно сохранить? В качестве нового стандарта в Европе принят Общий регламент по защите данных (GDPR), его цель — возвращение пользователям контроля над информацией о них самих. Как скажется этот документ на нашей амбициозной задаче по повышению уровня счастья? И есть ли альтернативные подходы?

Наконец, вопрос хранения. Как нам найти для этого действительно надежную организацию? История учит, что это возможно, если интересы самой организации совпадут с интересами пользователей. И как найти или создать такую структуру?

Очевидно, что разработка ИИ, оптимизирующего счастье, крайне затруднительна. Давайте подробнее рассмотрим варианты решения перечисленных проблем.

ЧТО ТАКОЕ СЧАСТЬЕ В ЭПОХУ ИИ?

Давайте на минутку отвлечемся от ИИ и ответим на элементарный вопрос: что такое счастье? В 1943 году Абрахам Маслоу опубликовал свою судьбоносную статью «Теория человеческой мотивации», где впервые заговорил об иерархии потребностей. Ее традиционно изображают в виде пирамиды, как показано на иллюстрации. Она описывает человеческие потребности — от базовых до самых развитых. Чтобы удовлетворить каждую, нужно поступательно продвигаться снизу вверх.

Соответственно, уровни называются «физиология», «безопасность», «любовь и сопричастность», «социальный статус, уважение» и «самореализация».

Иерархия потребностей Маслоу: наше счастье возрастает по мере движения снизу вверх, когда удовлетворены базовые нужды[145]

Сегодня самым важным компонентом счастья для множества людей является материальное благосостояние. А оно главным образом относится к двум нижним уровням пирамиды — тем, где жизнеобеспечение и финансовая стабильность определяются доходами. Некоторые ассоциируют благосостояние с потребностями высокого порядка — властью, авторитетом и компетентностью. Но любопытно, что, согласно исследованиям, погоня за материальными благами не обеспечивает устойчивого ощущения счастья.

Психолог Майкл Айзенк ввел термин «гедонистическая адаптация» (или «гедонистическая беговая дорожка»). Так образно он описал человеческую склонность к постоянному возврату на определенный уровень счастья, невзирая на финансовые и имущественные приобретения (и потери).

Исследования показали: люди, неожиданно для себя получающие существенные денежные средства (например, выигрыш в лотерею), ощущают счастье несколько месяцев, после чего уровень счастья возвращается к исходному (до выигрыша) значению — то есть падает.

Именно поэтому прекраснодушный проект наследного принца Махди из рассказа «Остров счастья» был изначально обречен. Принц хотел построить гедонистический рай на отдельно взятом острове, чтобы гостей осчастливил ИИ. Когда они прибыли на остров, то сразу погрузились в разнообразные удовольствия и наслаждались кратковременными всплесками радости, но с течением времени вернулись на гедонистическую беговую дорожку, чтобы вечно стремиться, но никогда надолго не обрести счастья.

В противоположность гедонистическому счастью (материальное богатство, удовольствия, наслаждение, комфорт), люди, поднявшиеся выше двух нижних уровней пирамиды Маслоу, начинают стремиться к эвдемоническому счастью (развитие, осмысленность, искренность, профессионализм).

Согласно иерархии потребностей Маслоу, только реализовав критерии гедонистического счастья, люди могут перейти к эвдемоническому. Иными словами, стоит нам разобраться с материальными нуждами, как на первый план выступит потребность в эмоциональной близости, взаимной любви, уважении и самореализации. Именно поэтому принцесса Акила хотела заменить гедонистический ИИ Махди собственной — эвдемонической — версией.

В ее алгоритме ИИ может составить для каждого человека персональный набор компонентов, который сделает именно его жизнь более полной, искренней, содержательной и теплой.

В этом контексте и собрали на острове пеструю группу профессионально реализованных гостей. Виктор Соколов до прибытия на Аль-Саиду был успешным предпринимателем, застрявшим на своей гедонистической беговой дорожке. Он достиг богатства, успеха и уважения, и ему стало остро чего-то не хватать. До самореализации ему далеко — он искал утешения в попытках изменить сознание и других гедонистических удовольствиях.

Такие обстоятельства сделали его идеальным кандидатом для эксперимента Акилы — пригласив его на остров, она попыталась улучшить показатели его эвдемонического счастья.

По мере того как ИИ собирал информацию, самому Виктору была дана возможность построить отношения с Акилой. Кроме того, ему создали ситуации, в которых он смог удовлетворить внутреннюю потребность в приключениях и повысить самоуважение. В итоге он получил шанс самореализоваться, применив свои навыки гейм-дизайнера для совершенствования «острова счастья».

Цели Виктора персонализированы, и ИИ, изучив их, заставил события развиваться в нужном направлении. В ситуации, когда Виктор жаждал приключений, другой человек стремился бы к противоположному — например, к умиротворению, и ИИ подобрал бы для него совершенно другие события. К концу истории мы поняли, что Виктор будет счастлив, но не потому, что сколотил огромный капитал и наверняка его еще увеличит.

Виктор станет вести ту жизнь, которую хочет — развивать отношения с окружающими и вносить значимый вклад в развитие общества. Он понял, что счастье — не бинарное понятие, а непрерывный процесс.

Как и другие рассказы в этой книге, действие «Острова счастья» разворачивается в 2041 году. К тому времени государства станут богаче благодаря технологическим достижениям: ИИ возьмет на себя рутинные задачи, а роботизация и 3D-принтеры позволят создавать блага практически без затрат (эту концепцию называют изобилием, и ей будет посвящена глава 10).

Если во главе общества стоят хорошие руководители, то правительство заботится обо всем населении, обеспечивая ему материальный достаток. К 2041 году в развитых странах люди увидят, что их представление о счастье меняется, и население начнет двигаться от гедонистического к эвдемоническому счастью.

КАК ИИ МОЖЕТ ИЗМЕРИТЬ И ПОВЫСИТЬ НАШ УРОВЕНЬ СЧАСТЬЯ?

Чтобы разработать ИИ, максимизирующий счастье, нам нужно научиться его измерять. Мне видятся три способа, как это можно сделать с помощью уже существующих технологий.

Способ первый банален: мы просто спрашиваем людей. В рассказе новоприбывшим гостям предлагают заполнить анкету. Выявить уровень счастья, задавая вопросы и получая ответы — возможно, самый надежный метод, но его минус в том, что опросы можно проводить лишь периодически. Так что нужны и другие источники.

Второй предлагаемый мной способ измерения счастья основан на совершенствующихся технологиях интернета вещей (камеры, микрофоны, датчики движения, сенсоры температуры и влажности и так далее). Мы получаем данные о поведении и непроизвольных реакциях пользователя, выражении лица и голосе, а потом используем технологию аффективных вычислений, чтобы распознать эмоции пользователя.

Наблюдая за человеческими лицами, алгоритмы могут выявлять макро- (длительностью от 0,5 до 4 секунд) и микровыражения (0,03–0,1 секунды). Именно они и выдают наши эмоции. Микровыражения помогают распознать мимолетные чувства, которые человек пытается скрыть. Из-за краткости проявления окружающие люди обычно пропускают эти сигналы, а алгоритмы аффективных вычислений достоверно их распознают.

Другие значимые физические параметры, которые выдавали эмоции гостя Аль-Саиды, — оттенок кожи разных участков лица, связанный с локализацией кровотока, а также высота, темп, интонации и стабильность голоса. Вдобавок учитывались дрожание рук, ширина зрачка, увлажнение глаз слезами, скорость мигания, влажность кожи (еще до того, как человек вспотеет) и изменения температуры тела. Все это — ценные индикаторы душевного состояния человека.

С таким количеством параметров ИИ сможет различать человеческие эмоции (радость, грусть, отвращение, удивление, злость и страх) гораздо точнее, чем люди. Это распознавание станет еще совершеннее, когда накопится объем наблюдений. К примеру, в рассказе ИИ следил, как между Виктором и принцессой Акилой росло взаимное чувство, и начислил им баллы по показателю «любовь и сопричастность» из пирамиды Маслоу.

Способность ИИ распознавать человеческие эмоции уже сегодня превышает проницательность среднего наблюдателя-человека, а к 2041 году разрыв усилится. Однако прошу обратить внимание: эта способность — лишь функция ИИ, она не означает, что он будет убедительно демонстрировать эмоции или что-то чувствовать.

Третий способ измерить счастье — непрерывно замерять уровень гормонов, которые вырабатываются в организме при тех или иных ощущениях. В рассказе посетители острова носят кожные биосенсорные мембраны с матрицей из микроигл и электрохимическим сенсором, что позволяет следить за выработкой гормонов в режиме реального времени.

Так, серотонин коррелирует с ощущением благополучия и уверенности, дофамин — с удовольствием и мотивацией, окситоцин — с любовью и доверием, эндорфины — с удовольствием и расслаблением, а адреналин — с энергичностью.

Мониторя эти показатели, ИИ острова отмечал, какие занятия и параметры среды совпадали с ощущением счастья, и на основании этих наблюдений оттачивал дальнейшее его распознавание. Затем робот-ассистент Карин давал Виктору рекомендации и предлагал то или иное занятие, которое могло бы привести к повышению уровня счастья (достижения, саморазвитие, отношения) либо к его снижению (грусть, разочарование, злость).

К финалу истории, когда Виктору разрешили покинуть остров и отправиться домой, эксперимент был еще далек от завершения. ИИ знал, что при таком развитии событий Виктор выберет побег — ведь он любил приключения, что его дальнейшие действия не только вернут его на остров, но и сделают счастливее.

Чтобы создать научно обоснованный и стабильный механизм оптимизации счастья, исследователям понадобится решить непростые задачи.

Во-первых, от каких параметров отталкиваться при измерении счастья? У нас есть гипотезы (они изложены выше), но еще мы знаем, что состояние психики человека определяется пока не изученным набором из электрических (мозговые волны), органических (строение мозга) и химических (гормоны) компонентов, действующих синхронно.

Мы частично описали работу гормонов, и это очень важные взаимосвязи, но их определенно недостаточно. Необходимо добавить к ним и электрические, и органические измерения. В будущем нам понадобится считывать все три группы компонентов и расшифровать, как каждый из них влияет на уровень счастья и как они взаимодействуют между собой, — только так можно будет качественно обучать ИИ.

Во-вторых, достижение высоких уровней пирамиды Маслоу предполагает не моменты мимолетного наслаждения, а скорее долгосрочный поиск смысла и цели жизни. Обучение ИИ на протяженных отрезках времени представляет трудность — он не знает, чем вызван текущий скачок радости. А причины могут быть какие угодно — сегодняшнее происшествие, событие прошлой недели, прошлого года или всё одновременно.

С подобной проблемой сейчас сталкиваются алгоритмы соцсетей: как Facebook’у настроить новостную ленту на личностное развитие пользователя, а не на стимулирование сиюминутных рекламных кликов? Если человек демонстрирует личностный рост — как ИИ Facebook’а поймет, какой из компонентов алгоритма этому поспособствовал? Нам придется создать новые алгоритмы ИИ, чтобы в фоновом шуме распознать стратегически полезные отклики.

К 2041 году мы еще не поймем полностью, чем именно определяется наше душевное состояние. Не узнаем мы и того, как работает долгосрочное эвдемоническое счастье. Но к тому времени способность ИИ считывать человеческие эмоции должна вырасти, существенно превысив человеческую проницательность. Можно ожидать появления программных прототипов для оптимизации счастья на верхних уровнях пирамиды потребностей.

ДАННЫЕ ДЛЯ ИИ: ДЕЦЕНТРАЛИЗАЦИЯ ПРОТИВ ЦЕНТРАЛИЗАЦИИ

Сбор данных — необходимый шаг в разработке эффективного ИИ. Это сегодня делают гигантские интернет-компании. Google знает всю историю вашего поиска, каждое место, где вы побывали (через службу аналитики Android и Google Maps, если вы не отключили историю геолокации), каждое просмотренное вами видео и посланный мейл, каждый звонок через Google Voice и каждую встречу, внесенную в Google Calendar. На массиве этих данных Google подбирает услуги для большего удобства пользователей.

Google и Facebook имеют доступ к такому количеству информации, что они могут весьма достоверно предположить ваше местожительство, национальность, сексуальную ориентацию и то, что вас возмущает. Они могут определить, что вы скрываете от родных и от налоговой службы, знают о вашей алкогольной аддикции или, скажем, о супружеской измене. Эти предположения, безусловно, далеко не стопроцентны, но сама мысль о том, что компании располагают инструментами, позволяющими делать такие выводы, уже вызывает дискомфорт.

Опасения относительно безопасности привели нас к дискуссиям о роли правительства в этом вопросе. Разные страны, начиная с США и заканчивая Китаем, пытаются разобраться, как далеко зашла монополизация интернет-пространства и как применять антимонопольные законы для ограничения власти ИТ-гигантов.

Европа проснулась раньше — Европейский союз решил заложить фундамент нового порядка в отрасли, приняв GDPR — по словам европейских законодателей, «самый жесткий закон в сфере безопасности и приватности». Другие страны присматриваются к документу, чтобы на его основе выстроить собственную нормативную базу. GDPR — огромный шаг вперед, он выставил хорошую планку.

В GDPR заложено представление, что пользователь должен вернуть себе контроль над данными и самостоятельно решать, кто будет их видеть и использовать, вплоть до извлечения прибыли из предоставления доступа к ним. За первые несколько лет внедрения GDPR уже состоялись подвижки.

Закону удалось просветить широкие слои пользователей относительно рисков, связанных с персональными данными. Кроме того, он стал требовать от сайтов и приложений по всему миру пересмотреть свою работу, чтобы свести к минимуму преступное, некомпетентное или просто халатное отношение к пользовательским данным. Компаниям, нарушающим GDPR, грозят большие штрафы[146].

Однако не все детали этого закона имеют практическую ценность, и можно сказать, что в общем он мешает развитию ИИ. В нынешней форме GDPR обязывает компании быть прозрачными перед людьми в использовании персональных данных.

От пользователя требуется четкое согласие на каждое действие с ними — чтобы компания могла приступить к их сбору (например, вы даете Facebook’у свой адрес только для доставки онлайн-покупок). Данные должны быть защищены от несанкционированного доступа, утечек или кражи. У автоматических операций должно быть обоснование, а по требованию пользователя должен подключаться специалист-человек.

Я уверен, что принятие GDPR имеет благородные намерения — обеспечить прозрачность, подотчетность и конфиденциальность оборота персональных данных. Однако внедрение регламента, описанное выше, вряд ли способствует достижению этого, а то и может помешать. Так, сложно ограничить целевое использование каждого фрагмента данных, поскольку ИИ развивается непредсказуемо, и предусмотреть все цели использования данных в самом начале их сбора попросту не представляется возможным.

Скажем, сохранение почтовой службой Gmail всей вашей электронной переписки позволяет вам легко найти нужные письма. Но Gmail разработал новую функцию автозаполнения, и ее потребовалось обучать на прежних данных. Нецелесообразно рассчитывать, что пользователи поймут условия обработки данных каждой компанией, когда им придется в очередной раз подтверждать свое согласие. (Сколько раз вы натыкались на всплывающее на сайте окно, перекрывающее текст, и просто жали «ОК», не вникая в смысл уведомления?)

GDPR требует, чтобы пользователь имел право обратиться к специалисту-человеку, если переживает о том, как ИИ использует его данные. Но это может вызывать неразбериху — ведь люди не так хороши в принятии решений, как ИИ. И наконец, цель снижения количества удерживаемых данных, заложенная в GDPR, серьезно ограничивает развитие систем на ИИ.

Если задуматься над этим вопросом в отрыве от контекста, большинство людей захотят вернуть себе права на распоряжение своими личными данными — и для этого у них есть GDPR и прочие нормативно-правовые акты. Но взглянем на проблему через призму функциональности ИИ-программ и приложений. Если отнять у них львиную долю данных, они заметно поглупеют либо вовсе перестанут работать.

В рассказе «Остров счастья» мы исходим из того, что, выплескивая воду (минимизируя риски, связанные с сохранением приватности), можно случайно выплеснуть и младенца (парализовать сервисы на ИИ). Вместо этого можно вывести технологии на более зрелый уровень, когда ИИ станет можно доверять, — тогда мы без опасений позволим ему хранить наши данные, однако сможем запрещать использовать их по его (ИИ) усмотрению.

Если бы этот «доверенный ИИ» знал о нас все, что известно Google, Facebook и Amazon и даже больше, наши возможности намного превысили бы функционал сегодняшних интернет-сервисов. Множество разрозненных хранилищ, где содержатся наши данные, сольются в гигантский информационный океан. Наш «доверенный ИИ» (назовем его Остров) узнает о нас все и сможет сам отвечать на запросы данных от третьих сторон.

Например, когда музыкальный сервис Spotify запросит наше местоположение, Остров оценит, насколько польза от пользования сервисом превышает риск предоставления ему доступа к нашим данным. Он будет исходить из информации о наших ценностях и предпочтениях, а также о компании, делающей запрос. А нас это избавит от надоедливых и непонятных всплывающих окон, где приходится что-то подтверждать.

Остров станет не только высокоэффективным ИИ-помощником, но и защитником наших данных и посредником при взаимодействии с любыми приложениями. Можно сказать, это будет новый социальный контракт в отношении личных данных.

КОМУ МОЖНО ДОВЕРИТЬ ХРАНЕНИЕ НАШИХ ДАННЫХ?

Как нам убедиться, что Острову можно доверить всю нашу информацию? Если вызывают подозрение даже Google и Facebook, что уж говорить об Острове! Он ведь соберет куда больше данных, чем они. Кроме того, основываясь на этой информации, можно с высокой точностью предугадывать наше внутреннее состояние и эмоции, даже когда мы стараемся их скрыть. Так что же нам делать?

Фундаментальная проблема заключается в том, что когда интересы владельца ИИ и его пользователей расходятся, последние оказываются в проигрыше. Мы видели это в предыдущих главах («Золотой слон», «Боги за масками», «Квантовый геноцид» и «Спаситель рабочих мест»); кроме того, мы читаем об этом везде, где пишут о Google и Facebook.

Корень проблемы в том, что ИИ, на котором работают эти корпорации, настроен на явную коммерческую выгоду — ведь это частные компании, их акции торгуются на фондовой бирже, поэтому они приоретизируют цели, которые не интересны пользователям. Просить эти компании поменять их приоритеты на наши интересы бессмысленно — их прибыли сразу обвалятся.

Желая «отдать ИИ в хорошие руки», нам нужно искать структуру, над которой не довлеет коммерческая выгода. Тогда она естественным образом, без сопротивления, поставит во главу угла наши интересы.

Что же это за организация, интересы которой совпадают с пользовательскими? В «Острове счастья» мы видим, возможно, идеализированный пример великодушной монархии в небольшом богатом государстве. В XXI веке такой образ может показаться архаичным, но прообразом правителя в этом рассказе стал Фридрих Великий, прусский король[147], который говорил: «Главное мое занятие — это <…> просвещать умы, взращивать нравственность и давать людям такое счастье, которое пристало человеческой природе и какое позволяют средства, имеющиеся в моем распоряжении».

Приверженец просвещенного абсолютизма, Фридрих Великий полагал, что в его власти улучшить жизни подданных. Щедрый монарх имеет большой кредит доверия от своего населения и должен быть смелым, чтобы провести серьезные реформы. В XVII и XVIII веках именно просвещенные монархи оказались ключевыми фигурами, благодаря которым наступила эпоха Просвещения.

Нам тоже необходима подходящая фигура — катализатор для появления мощного ИИ, собирающего массивы данных. И совсем уж не так невероятно, чтобы этой фигурой оказалась королевская династия с благотворительными склонностями. Я также прогнозирую, что в следующие 20 лет небольшие страны под управлением популярных в народе сильных лидеров станут наиболее вероятными кандидатами на внедрение революционных технологий.

Но можно представить себе и другие варианты. Как насчет современного цифрового сообщества единомышленников, готовых пожертвовать свои личные данные на благо всего общества? Остальные члены социума смогут убедиться, как защищены и насколько корректно используются эти данные.

Уже разрабатываются научные проекты, экспериментирующие с подобными механизмами — на уровне университетских сотрудников, персонала и студентов.

Другая возможность — разработка некоммерческого ИИ наподобие «Википедии» или Движения свободного программного обеспечения[148]. Наконец, кто-то может разработать децентрализованную блокчейн-сеть, которую не контролирует и на которую не может повлиять ни один человек либо организация (как на биткойн).

Хранение личных данных в распределенной сети сложнее реализовать, чем хранение биткойнов, но, возможно, и эту задачу со временем удастся решить.

Как бы там ни было, у каждой организации всех названных типов гораздо больше шансов соответствовать интересам пользователей, чем у компаний, чьи акции торгуются на бирже.

Постепенно могут появиться технологические решения, которые позволят усидеть на двух стульях — и получить мощный ИИ, и защитить личные данные даже от их владельца.

Решения в этом направлении ищет новая отрасль — «конфиденциальные вычисления». Например, федеративное обучение представляет собой основанную на ИИ методику, которая обучает его на множестве децентрализованных устройств, содержащих локальные образцы данных. По эффективности она приближается к централизованному обучению, но не дает видеть данные центральному владельцу ИИ.

Другой метод, известный как гомоморфное шифрование, кодирует информацию таким образом, что владелец ИИ не в состоянии ее расшифровать. ИИ обучается непосредственно на зашифрованных данных. Такой метод еще не работает в случае глубокого обучения, но можно ожидать новых прорывов и в этой области.

И наконец, доверенная среда исполнения (TEE) считывает зашифрованные и защищенные данные, а затем обрабатывает их для ИИ внутри процессора с гарантией того, что они не покидают его в незашифрованном виде… (Правда, существует риск, что компания-изготовитель оставит для себя лазейку.)

Разумеется, у каждой из описанных технологий имеются слабые места и проблемы реализации, мешающие развернуть полноценный ИИ с надежной защитой личных данных. Но в следующие двадцать лет внимание к информационной безопасности будет расти, и я предвижу существенный прогресс в применении конфиденциальных вычислений в деле сохранности персональных данных.

Как мы видим из рассказа, к 2041 году конфиденциальные вычисления еще не охватят весь мир, однако технологии уже достаточно разовьются, чтобы сюжет «Острова счастья» мог воплотиться в жизни.

Скептиков заверю: предлагаемые варианты — не панацея, а лишь возможные пути, которые, по моему мнению, нужно изучить параллельно с внедрением GDPR и другими методами. У населения Земли еще крайне мало опыта взаимодействия с таким мощным инструментом, как ИИ. Задача защиты колоссального количества данных выглядит неподъемной, поэтому нам необходимо широко и непредвзято рассматривать все возможные опции. Поддержание стабильности и обдуманные эксперименты должны быть тщательно сбалансированы.

Если же вы продолжаете считать, что идея передача наших самых важных сведений третьим лицам абсурдна, вспомните: ценности многие предпочитают хранить в надежном месте, например в банковской ячейке. Свои акции мы доверяем брокерским компаниям, а биткойны — интернету. Почему бы не поступить так же и с личными данными?

Если бы мы могли отдать всю персональную информацию надежной организации, интересы которой совпадают с нашими, то насладились бы самым производительным ИИ и смогли бы выстроить долговременное счастье. Нам не пришлось бы задумываться, предоставлять или нет свои данные мириадам приложений, отпали бы тревоги о мошенничестве и злоупотреблениях.

Кто бы ни стоял за этой доверенной организацией — монарх-филантроп, Движение свободного программного обеспечения или децентрализованная блокчейн-система, — плоды работы мощного ИИ будут необычайно вкусны и станут подпитывать надежду, что новые технологические достижения постоянно повышают безопасность наших данных.

Глава 10. Мечты об изобилии

Кто теряет мечты — теряет себя.

Пословица австралийских аборигенов

РАССКАЗ ПЕРЕВЕДЕН ЭМИЛИ ЦЗИНЬ

Примечание Кай-Фу: Искусственный интеллект и другие технологии снизят стоимость практически всех товаров — затраты на производство множества благ упадут почти до нуля. Впервые в истории человечества развитые страны избавятся от нищеты и голода. Если это произойдет, потеряют ли деньги свой смысл? Если да, то что вместо них станет мотивировать людей к осмысленной жизни? Будут ли работать прежние экономические теории?

Действие этого рассказа происходит в Австралии. Мы понаблюдаем за жизнью футуристического общества, где внедрены две валюты постдефицитного мира: карточка, покрывающая базовые потребности граждан, и новая виртуальная валюта, отражающая репутацию и уважение, которые зарабатывают служением обществу. В своем комментарии я поразмышляю о том, как изобилие сводит на нет экономические теории, и о том, что может прийти на смену изобилию, — о сингулярности.

Кира остановилась в просторной прихожей и огляделась. А здесь уютно! Ветки кораллов, похожие на оленьи рога, красовались на столике-консоли из переработанной древесины, рядом — образцы примитивного искусства, традиционные изделия аборигенов.

Кира медлила, не решаясь отойти от своих чемоданов. Хозяйка запаздывала, и Кира осторожно заглянула в прилегающие к холлу комнаты. Ее внимание привлекли фотографии на стенах. Почти все они так или иначе связаны с морем, на многих была темноволосая женщина с живой улыбкой. Она, смеясь, позировала с разными морскими обитателями в руках на палубе исследовательского судна в Коралловом море.

Кира догадалась: это Джоанна Кэмпбелл в молодости. Известная на весь мир специалист по морской экологии всю жизнь изучала коралловые рифы и способы их сохранения. Теперь ей 71, и она осталась совсем одна — ни детей, ни родственников. Джоанна подумала и переехала в высокотехнологичный жилой микрорайон для пенсионеров в пригороде Брисбена — в прихожей этого дома теперь и стояла Кира.

Официально район назывался «Солнечная деревня», но местные прозвали его «Технодеревня». Каждый дом спроектировал искусственный интеллект, а построили роботы — все модули изготовили заранее. Собрав массив данных по пожилому населению Брисбена, искусственный интеллект так рассчитал каждую дверь, окно, шкаф, все приборы и даже ванную с туалетом, что пространство использовалось максимально эффективно.

Датчики следили за привычками и физиологическими показателями жителей Солнечной деревни, искусственный интеллект ежедневно предлагал им персонифицированные рекомендации.

Киру особенно заинтересовал яркий образчик искусства аборигенов, выполненный в стиле общины папунья: причудливые психоделические узоры из множества разноцветных точек. Она завороженно стояла, вспоминая свой дом в Алис-Спрингс[149] — небольшом городке в самом центре Австралии, притулившемся между хребтов горной цепи Макдоннелл. Кира достала XR-очки и просканировала картину, сохранила информацию в папку «Дом».

— Всем нравится. Правда, красиво? — раздался за спиной скрипучий голос.

Кира чуть не подпрыгнула.

Это была Джоанна Кэмпбелл, тихо подъехавшая в электрическом кресле-коляске. Худая старушка с копной серебряных волос вроде бы совсем не походила на крепкую женщину на фотографиях. Но глаза — Кира заметила почти сразу — все такие же яркие и пронзительные. Хозяйка разглядывала гостью.

— Да, очень красиво. Здравствуйте, мисс Кэмпбелл, я Кира. Управляющая компания обещала вас предупредить, что я сегодня приду.

— Ну, барышня, что вы сами зайдете, меня никто не предупреждал. А может, мне обращаться к вам «деточка»? Никогда не поймешь, сколько нынешним молодым лет на самом деле!

Кира смутилась.

— Я прошу прощения! — начала оправдываться она. — Я звонила в дверь несколько раз, никто не отозвался, и я зашла по паролю, который мне дали в управляющей компании.

— Все равно не понимаю, почему они не прислали обычного робота? — пробормотала Джоанна. — Прошлый соцработник тоже вечно глазел на мои картины. Я видела, какой жадностью загорались его глазенки, и долго он у меня не продержался. Вы же не вздумаете шалить с моими коллекциями, дорогуша? Как там вас?

— Кира, — застенчиво ответила девушка. — Конечно, ничего такого не будет. Моя задача — заботиться о вас, мисс Кэмпбелл.

— Ха! Вот так и происходит, когда стареешь — остается полагаться на чужую милость, — в голосе старухи звучало неприкрытое презрение. — И надолго вы сюда?

— Меня назначил браслет. Думаю, что пробуду… — Кира подняла левую руку, глянула на дисплей гибкого умного браслета и продемонстрировала Джоанне, как он переливается цветными огоньками. — Пока Джукуррпа[150] не покажет, что мое задание выполнено, — она старательно подбирала слова, чтобы не разозлить хозяйку.

— Прошу вас, говорите на нормальном английском, — поморщилась Джоанна.

— Ой! Джукуррпа на языке варлпири означает «мечты». Это, знаете, из мифологии коренного населения. Зря правительство назвало эту программу аборигенным словом, лицемерие какое-то. — Кира не знала, что сказать, поэтому говорила первое, что в голову пришло. И вдруг она просияла. — Я столько о вас слышала! Вы потрясающая!

На самом деле, медицинский куратор в управляющей компании предупредил Киру, что с Джоанной Кэмпбелл придется несладко. Все предыдущие соцработники уходили, потому что не выдерживали ее крутого нрава.

— Ах да, «мечтательный проект», точно, припоминаю. Забавное название. Мне про него рассказывали много раз, но память… — комплимента она будто и не услышала. — И сколько вам платят, чтобы вы со мной нянчились?

— В проекте «Джукуррпа» платят не деньги, а мулу.

— Опять ваши молодежные словечки, — оборвала ее Джоанна. — Может, вы и День Австралии не отмечаете?

— М-м-м, — неловко промычала Кира. — У 26 января неоднозначная история[151]. Десять лет назад праздник перенесли, мы теперь отмечаем 8 мая. Так даже удобнее, правда?

— Абсурд, — Джоанна развернула кресло-коляску и покатила в гостиную. Кира застыла, глядя ей вслед. Джоанна двигалась быстро и через минуту позвала девушку с другого конца дома.

— Кала! — перепутала имя хозяйка. — Найди мне очки. Я без них не могу читать.

— Иду! — крикнула Кира, глубоко вдохнула и поспешила на зов.

Умный дом Джоанны установил, что у хозяйки появились ранние симптомы болезни Альцгеймера. Сначала она по нескольку раз бессмысленно открывала и закрывала холодильник. Затем стала терять вещи типа ключей и подолгу их искала. Потом начали стираться из памяти имена и лица. Опираясь на данные о здоровье миллионов австралийцев, искусственный интеллект Солнечной деревни безошибочно выявил закономерность.

Жилой комплекс был оснащен самыми продвинутыми технологиями, но сам по себе не мог компенсировать угасание когнитивных способностей Джоанны, и доктор порекомендовал подобрать ей компаньона-человека. Управляющая компания запросила соцработника-волонтера из проекта «Джукуррпа», но с Джоанной никто не уживался. Теперь эстафету приняла Кира.

Компаньоны для пожилых вовсе не были редкостью. В 2041 году 35 процентов австралийского населения составляли граждане старше 65 лет. В то же время развитие искусственного интеллекта и автоматизация вызвали беспрецедентный скачок безработицы. И теперь программа релокации — трудового перенаправления — едва справлялась. Но стабильно незанятыми все равно оставалось не менее 12 процентов населения.

Сильнее всего от структурной безработицы пострадала молодежь до 25 лет. А среди нее — молодежь из коренного населения. История расовой дискриминации тянулась долго, и аборигены сильно отставали от средних показателей по стране в плане образования, трудоустройства, социальной мобильности и ожидаемой продолжительности жизни.

Австралия активно развивала экономику и внедряла инновации, но многие граждане продолжали страдать от социальной неустроенности. Обилие природных ресурсов и стратегический курс на искусственный интеллект вывели страну в мировые лидеры в сфере новой энергетики, прикладных наук и здравоохранения.

Электроэнергия небывало подешевела — в стране ее получали из возобновляемых источников, в частности от солнца и ветра. Это да еще использование исключительно емких литий-ионных аккумуляторов позволило снизить цену почти до нуля.

Австралия преуспела в сокращении выбросов парниковых газов и одной из первых получила статус углеродно-нейтральной страны. Благодаря прогрессу в геномике и персонализированной медицине средняя продолжительность жизни достигла 87,2 года.

Эти успехи, стабильная финансовая система, невероятной красоты природа и социальные программы сделали Австралию крайне привлекательной для иммиграции. Сюда устремились миллионы людей со всего света, в первую очередь — богатые пенсионеры, пожелавшие провести здесь остаток жизни.

Но чем больше делали австралийские власти для решения глобальных проблем и привлечения мировой элиты, тем острее ощущалось социальное неравенство, похоже, ставшее хроническим. Сильнее всего от него страдала молодежь. С ее точки зрения, Австралия добилась успеха за счет молодых — дискриминируемые слои населения по-прежнему не видели ни экономической, ни социальной справедливости.

В начале 2030-х молодежь Брисбена и других городов по всей стране, возмущенная глухотой правительства и отсутствием жизненных перспектив, массово вышла на улицы — заявила о своем разочаровании политическим курсом властей. Мирные протесты быстро переросли в беспорядки и прокатились по стране, вызвав взрывной рост преступности.

Отвечая на общественный запрос, в 2036 году австралийское правительство начало проект «Джукуррпа». Новый курс гласил: «Австралия позаботится о своем народе». Проект, состоящий из двух этапов, должен был реализовывать Департамент инноваций и науки[152].

На первом этапе внедрили базовую жизненную карту. Она гарантировала каждому желающему гражданину ежемесячное пособие, покрывающее стоимость еды, жилья, коммунальных услуг, транспорта, медицинского обслуживания, а также (в ограниченном объеме) досуга и одежды. Это стало возможным благодаря избытку в стране денег и почти бесплатной энергии, появившейся в ходе технологической революции.

Второй этап «Джукуррпы» вводил систему виртуального счета и системы вознаграждений, названную «мула». Баллы начислялись за волонтерскую работу в своем районе, например за уход за детьми или уборку в общественных местах. Участникам выдавали умные браслеты, которые собирали голосовую информацию во время волонтерства и обрабатывали ее с помощью искусственного интеллекта.

Размер вознаграждения складывался из нескольких параметров: сложность задачи, ценность вклада для местного сообщества и культуры, творческий подход и саморазвитие. Но ключевым и самым весомым фактором была удовлетворенность — человека либо района, которому оказывалась услуга.

Сбор данных и выдача мулы происходили в режиме реального времени прямо через браслет. Рейтинг отображался визуально — у лидеров браслет переливался разноцветными огоньками.

С помощью мулы правительство рассчитывало сформировать новую систему ценностей — главным в ней признавалось стремление служить обществу, налаживание социальных связей и чувство сопричастности. Финансовую выгоду предполагалось постепенно отодвинуть на задний план.

Мула поначалу выглядела баловством, но неожиданно получила более прагматичное применение. Она потеснила денежные единицы и стала играть роль кредитной истории, то есть стала свидетельством благонадежности гражданина.

Например, если в компании открывалась вакансия, работодатель мог фильтровать резюме по баллам мулы. Те, кто выходил в топ рейтинга по стране, могли поучаствовать в конкурсе на резервные места в команде марсианских поселенцев.

Но со временем стало очевидно: программа развивается не так, как задумывалось. Несмотря на провозглашенные высокие цели мулы, многие молодые люди разглядели в ней очередной ярлык — индикатор социального статуса. Цвета на браслете стали поводом для хвастовства и символическим воплощением успешности. Были даже попытки обмануть систему: людей подкупали, разыгрывали с ними фальшивые разговоры о несуществующих услугах — просто чтобы в максимально короткое время задрать свой рейтинг до небес.

Статистика с разбивкой по группам показала, что коренное население и здесь отстает от средних показателей по стране — аборигены набирали мулу медленно. Проект «Джукуррпа» с первого дня вызвал опасения из-за риска активизации расизма. Количество мулы зависело главным образом от того, подтвердит ли член сообщества выполнение того или иного задания. Если волонтером был абориген и другой небелый, то ему могли и не подтвердить выполнение задания. То есть, как и раньше, представителям коренных национальностей требовалось больше сил для достижения успеха.

Проект критиковали очень сильно, но правительство продолжало настаивать на его целесообразности. Доктор Уильям Суорц, представитель Департамента инноваций и науки, собрал пресс-конференцию и разъяснял, что проект является прогрессивной социальной инвестицией: «Без сомнения, общество без любви, сопричастности, справедливости и уважения долго не протянет. В основе проекта “Джукуррпа” лежит восстановление доверия к правительству среди нашего молодого населения. Мы убеждены, что здесь, на земле изобилия, каждый может реализовать свою мечту, независимо от расы и этнической принадлежности».

Первой целью «Джукуррпы» стала поддержка безработных до 25 лет. Аборигенов среди них было 35 процентов, а в общем населении — лишь 5 процентов.

В числе коренных австралийцев, записавшихся в проект, была и 21-летняя Кира Наматжира.

Кира быстро освоилась в Солнечной деревне. Джоанна была капризной подопечной, но остальные жители комплекса тепло приняли темнокожую девушку с длинными курчавыми волосами. Многие скоро стали ее прямо-таки обожать. Кира ухаживала за Джоанной и успевала выполнять мелкие просьбы ее соседей, которым не полагалась компаньонка на полный день. Она могла помочь что-нибудь занести в дом, развесить выстиранное белье или погулять с собакой. В благодарность жители комплекса охотно нажимали кнопку «Подтверждение услуги» на ее браслете. Он вспыхивал разными цветами и играл бравурную мелодию в честь начисления новой мулы.

Обратная связь от Джоанны была куда более скупой. Кира присматривала за ней, помогала в ежедневных делах, регулярно проверяла когнитивные функции по медицинскому протоколу, выданному в управляющей компании. Но язвительность Джоанны превращала рутину в настоящее испытание.

— Мисс Кэмпбелл, вы только что прочитали статью. Расскажете, о чем она? — спросила однажды Кира, когда они сидели на кухне.

— Об исчезающих подводных видах. А почему ты спрашиваешь? В нынешних школах не учат читать? — Джоанна очень сердито посмотрела на Киру поверх очков.

— Мисс Кэмпбелл, вы помните, куда положили таблетницу?

— Не морочь мне голову, конечно, помню! Я положила ее… погоди, — Джоанна обшарила все свои карманы и из последнего с победным видом извлекла коробочку с таблетками. Она ликовала и была похожа на ребенка, который спрятал, забыл, а потом случайно нашел лакомство.

— Так и знала! В кармане лежала!

— Мисс Кэмпбелл, вы помните, что ели вчера на обед?

Джоанна тяжело посмотрела на Киру и нахмурилась.

— Суп, яичный соус, салат и фрукты. А еще было филе-миньон. Мне сказали, что мясо выращено в лаборатории и никакие животные не пострадали. Поэтому я согласилась попробовать. Было вкусно, как говядина в прежние времена. Так что не выставляйте меня дурочкой, мисс Коала.

Кира поморщилась. Она уже привыкла к странностям своей подопечной, и ей было грустно видеть, как день ото дня слабеют умственные способности Джоанны. А еще та грубила и часто была несправедлива.

— Вообще-то вчера мы пропустили обед — вы сказали, что не голодны. И кстати, меня зовут Кира, запомните — КИ-РА.

На эти слова Джоанна почему-то не ответила обычной колкостью, а молча застыла. Через пару минут послышался вздох.

— Не знаю, что со мной. Доктор сказал, мои симптомы не очень серьезные, нужно лишь подождать, — пробормотала она, а потом вдруг подняла голову и с надеждой спросила:

— Ты не знаешь, когда мне сделают процедуру?

Джоанна имела в виду генетическую коррекцию, эффективную на ранних стадиях болезни Альцгеймера. Однако даже Австралия при всех ее инвестициях в здравоохранение не могла обеспечить такие высокотехнологичные методы лечения всем нуждающимся. Генетической коррекции ждали по нескольку месяцев, а то и лет. Кира опасалась, что когда подойдет очередь Джоанны, лечение станет бессмысленным — болезнь прогрессировала на глазах.

— Скоро, скоро, — обнадежила Кира, хотя о процедуре генетической коррекции ей никто не говорил. Но Кира знала, что Джоанна забудет этот разговор. — Через несколько недель. Я обязательно вам напомню.

— Вот странно, как же я могла забыть, что вчера не обедала? Зато молодость помню, будто это и вправду вчера было.

— Расскажите, мисс Кэмпбелл, что вы помните, — попросила Кира. Она склонилась над старушкой, положила руки ей на колени и ласково заглянула в глаза.

— Я помню… — взгляд Джоанны скользнул по окну, залитому солнечным светом, и затуманился. Мысли расправили свои крылья и отправились по ветрам памяти в другое время и пространство.

1992 год. Джоанна была в расцвете молодости, загорелая от многочасовой работы под палящим солнцем, с выгоревшими от соленой воды волосами. Она месяцами пропадала в морских экспедициях на исследовательском судне, изучая изменение климата и загрязнение воды в ослабленной экосистеме Большого Барьерного рифа.

Коралловое море, водное царство площадью почти пять миллионов квадратных километров в Тихом океане к северо-востоку от Квинсленда, было пристанищем для сотен миллионов морских обитателей. Но кораллы медленно гибли из-за повышения температуры воды, интенсивного рыболовства и активного размножения хищных морских звезд. Джоанна была готова всеми способами бороться с разрушением Большого Барьерного рифа.

2004 год. Джоанна развелась с мужем и все внимание отдала любимому океану. Он всегда был для нее на первом месте, она всегда думала о нем, и в итоге ей пришлось выбрать между ним и супругом. В июне австралийское правительство отказалось признавать однополые браки, и группа активистов-правозащитников в знак протеста подняла радужные флаги на одном из необитаемых островов Кораллового моря к юго-востоку от Большого Барьерного рифа. Таким образом они символически обозначили независимость этой территории. Джоанна в одиночку добралась до острова и попыталась уговорить активистов уехать, чтобы не разрушать хрупкую экосистему.

— Глобальное обесцвечивание кораллов[153] грозит уничтожить 40 процентов Большого Барьерного рифа, — объясняла она.

— Неужели вам наплевать на разнообразие? — двусмысленно парировали активисты, будто не слыша.

2023 год. Джоанна уже не боролась в одиночку. Она собрала команду специалистов и занялась технологиями, повышающими устойчивость Большого Барьерного рифа перед климатическими изменениями. По-прежнему красивая, моложавая, но уже не юная, волосы с проседью. Авторитет в научном мире — непререкаемый: Джоанна пристально изучала инновации, которые предлагало новое поколение морских биологов.

Они снаряжали подводных роботов и пересаживали кораллы в места, указанные алгоритмом на искусственном интеллекте, а затем с помощью сенсоров отслеживали их рост. Они накрывали морскую гладь вокруг Большого Барьерного рифа экологичной пленкой из биоматериалов, чтобы снизить интенсивность солнечных лучей, падающих на риф.

Джоанну воодушевила идея генетически модифицировать одноклеточную водоросль зооксантеллу, которая играет ключевую роль во многих подводных симбиозах. Потепление и повышение кислотности океана вредили благополучию зооксантелл, а без них обесцвечивались кораллы и гибли коралловые полипы. Если не остановить эту беду, беспозвоночным и рыбам, живущим на рифах, придется искать новое место или погибнуть — и экосистемы не станет.

— Если бы мы повысили устойчивость и адаптивность зооксантелл, кораллы вернулись бы к первоначальному состоянию и восстановили цвет, а полипы снова стали бы снабжать их питательными веществами. Мы так надеялись, что сумеем спасти Большой Барьерный риф!

Кира тоже увлеклась — Джоанна рассказывала очень интересно. К тому же ее взгляд переставал рассеянно блуждать, и мысль работала четко. Джоанна излучала жизнелюбие, словно сама перевоплотилась в прекрасный коралловый куст.

— Но у вас получилось! Вы знаете, как вас называют? «Спасительница Большого Барьерного рифа»! — воскликнула Кира. — Я даже представить не могу, как трудно вам было…

— Я так скажу: главное препятствие не снаружи, а внутри.

— Не понимаю.

— Нужно быть смелой и верить, и тогда можно посвятить жизнь цели, которая кажется недостижимой. Это особенно важно, когда все вокруг заняты: зарабатывают деньги, выходят замуж, растят детей, — улыбнулась Джоанна. — А теперь моя очередь задавать вопросы. Ты пришла сюда только за мулой?

Кира почувствовала, как запылали щеки. Столько дней эта женщина не может запомнить ее имя, а сейчас словно заглянула в душу. Кира давно искала постоянную работу в отрасли виртуальной реальности, но пока лучшим вариантом оказалось участие в проекте «Джукуррпа».

— И да и нет, — начала она. — Пожалуй, сначала — да, за мулу, но теперь мне важнее уважение людей.

— Хорошие слова, К… дорогая. Я нажму, что там положено на твоей мигающей штучке, если ты мне кое-что пообещаешь, — подмигнула она.

— Что угодно! — выпалила Кира.

— Только не кричи, ради бога, тише. Меня подводит голова, а не уши. Завтра. Все расскажу завтра. А пока спать!

И Джоанна бодро поехала в спальню. Изумленная Кира осталась стоять посреди кухни. С фотографий, развешанных по стенам, на нее пялились лупоглазые тропические рыбки.

Джоанна желала, чтобы ее свозили к океану.

Перед тем как окончательно забыть всю свою жизнь, она очень хотела еще разок взглянуть на Коралловое море. Она положила на его спасение столько сил, а оно в ответ наполнило ее жизнь могучим смыслом.

Кира не знала, как поступить. С одной стороны, ей очень хотелось отвезти Джоанну на пляж в Брисбене, но это не входило в ее инструкции. Кроме того, Джоанна с каждым днем слабела физически. Кира боялась, что организм подопечной просто не выдержит поездки. Девушка совершенно не хотела оказаться в этом виноватой.

Кира надеялась, что Джоанна забудет о своем желании, и тянула время. Оправдания находились легко: плохая погода, пробки на дорогах, праздники. Но Джоанна была упряма, как ребенок, к тому же она никак не забывала об обещанной ей поездке и ежедневно донимала Киру.

— Я слышала, сегодня в центре деревни вечеринка. Накроют столы, будет музыка. Там все будут! Хотите, сходим? — Кира в очередной раз попыталась отвлечь Джоанну.

— Нет, — отрезала та.

— Джоанна, пожалуйста, — стала упрашивать Кира. Неделю назад подопечная попросила не называть ее больше мисс Кэмпбелл — «она же не риелтор, чтобы к ней так обращаться».

— Ты обещала свозить меня к океану! Ты соврала!

— Нет, я не обещала.

— То есть ты уже не хочешь свою долгожданную мулу? Тебе не нужно подтверждение?

— Шшш… Пожалуйста, тише… Если система услышит такой разговор, то вычтет у меня баллы, — прошептала Кира. Она сняла XR-очки и потерла уставшие глаза. На днях девушка решила поучаствовать еще и в волонтерской работе, попробовать себя в разработке продуктов для компании DingoTech. Глаза щипало от долгой работы с XR-изображениями, но она надеялась, что этот опыт со временем перерастет в настоящую работу.

— Почему ты все время в очках? Тебе еще рановато, — бесцеремонно заявила Джоанна и протянула руку. Кира вложила в нее свои XR-очки.

Старушка с любопытством повертела их в руках. Стоило ей надеть их, как она вскрикнула от удивления: «Ой! Как ярко!»

Кира бросилась на помощь.

— Подождите, я их сейчас настрою, — девушка успокаивала подопечную, одновременно меняя параметры девайса под ее зрение.

Теперь Джоанна увидела уже не расплывчатые пятна, а разноцветные точки с четкими краями, наложенные на окружающую обстановку. Кира применила визуальный фильтр в художественном стиле папунья.

XR-алгоритм менял эффекты и их расположение в реальном времени, трансформируя картинку, когда человек переводил взгляд или наклонял голову. Реальный мир превращался в произведение искусства, которое на ходу модифицировало цвет и узор, расходилось завитками и кругами, рябило, словно поверхность океана в ветреный день.

Восхищению Джоанны не было предела.

— Как здорово! Твоя работа?

— Да, — призналась Кира. — Я всегда мечтала рисовать, но в моем случае это практически невозможно. Вот делаю что могу.

— Ну и ну! — Джоанна презрительно фыркнула. — Вот молодежь! На все есть отговорки…

— Нет! — воскликнула Кира, впервые позволив себе перебить свою почтенную подопечную. Она почувствовала внезапный прилив гнева. — Зачем вы так. Просто я из аранда, а нас много куда не пускают.

— Не слышала о такой народности, — сказала Джоанна.

— Мой народ живет на этом континенте тридцать тысяч лет, и посмотрите, что с нами стало! — Кира почти кричала, ей уже было все равно, что ее услышит умный браслет. — Наш язык почти исчез. У нас отобрали дома и выгнали в резервации, мы растворились в больших городах. А молодежь — да, молодежь в поисках отговорок — стоит перед выбором: податься в преступники, зарабатывать чертову мулу или сдохнуть от голода!

— Эй, следи за языком!

— Раньше я думала, — продолжила Кира — она уже не могла остановиться, — что «Джукуррпа» приведет нас в новую эпоху равенства. Но я ошиблась. В нашей системе все настроено в пользу конкретных групп, и этот проект такой же. Кто уже и так зарабатывает много мулы и везде машет своим сияющим браслетом — тот знает, как угодить, обмануть, запугать. И эти люди получают дальше свою мулу и так называемое уважение общества. Так устроен мир. И я могу быть хоть сто раз талантливой и усердной, но такие, как вы, всегда будут презирать таких, как я.

— Я не думала… Я не имела в виду… — запнулась Джоанна. Взрыв эмоций всегда спокойной и уравновешенной девушки явно застал ее врасплох.

— Мисс Кэмпбелл, поймите, не всем повезло так, как вам. Не каждый может воплотить свою мечту. Но вы правы: нужно быть смелой и хотя бы попробовать. Считайте, что вы меня вдохновили. Заявляю официально: я ухожу.

Кира отправилась в свою спальню. Все произошло так быстро, что о XR-очках она просто забыла.

Той ночью Кире приснился кошмар. Из-под кровати вылез йови[154] с длинной золотистой шевелюрой и вцепился в нее когтями. Она хотела убежать — не могла пошевелиться. Попыталась закричать — голоса не было. Оставалось лишь смотреть, как ее поглощает пасть чудовища.

Вздрогнув, она проснулась вся в поту. За окном забрезжил рассвет, синее небо светлело. Чуть пошатываясь после кошмара, она пошла на кухню за водой и скользнула глазами по прихожей. Дверь была распахнута настежь.

— Джоанна? — окликнула Кира. Ответа не было. Она заглянула в спальню подопечной — кровать пуста.

Обыскав весь дом, она наткнулась на записку, которой сначала не заметила. Обычно на этом месте, у входа, Джоанна оставляла ключи.

К., я поехала посмотреть на океан.

Очки отдам, когда вернусь.

Д.

Ругая себя на чем свет стоит, Кира наспех оделась и побежала в пункт охраны в управляющей компании Солнечной деревни.

На камерах наружного наблюдения было видно, как Джоанна примерно час назад выехала из дома в своем электрическом кресле-коляске.

— Не переживайте. У всех жителей есть биосенсорная мембрана, сейчас мигом определим координаты, — Нгуен, сотрудник управляющей компании, тоже всполошился и как мог утешал Киру. Протирая сонные глаза, он открыл на компьютере систему онлайн-слежения и на несколько секунд замер. Мигающая GPS-иконка Джоанны показывала, что она дома. Нгуен окончательно проснулся.

— Она что, сняла мембрану?!

— Нужно начать поиски прямо сейчас, — совсем разволновалась Кира.

— Да куда она уедет в кресле-то? — попытался успокоить ее Нгуен, но она была непреклонна.

— Живей!

Самую большую угрозу при болезни Альцгеймера представляют обычные бытовые ситуации, Кира знала это очень хорошо. Из-за нарушения функций мозга человек не может сосредоточиться и не замечает ступеньку на лестнице, забывает дорогу и останавливается посреди оживленной улицы, ранит себя острыми предметами. Она пришла в ужас, когда оказалось, что Джоанна оказалась на улице без присмотра и без GPS-маячка. В голову лезли мысли одна ужаснее другой. Если бы я вчера не сорвалась, может, она бы не уехала, — кляла себя Кира.

Нгуен доложил о происшествии, на поиски выдвинулась команда сотрудников в сопровождении группы дронов. Сигнал тревоги передали в брисбенскую полицию, чтобы они следили за районными камерами.

Суматоха нарастала, Кира сосредоточенно молчала. Что-то крутилось в голове — какая-то важная мысль, но девушка никак не могла ее ухватить.

Записка. Ну конечно: отдам очки, когда вернусь.

— Очки! — Кира достала смартстрим. Если Джоанна уехала в ее очках, то можно удаленно подключиться к ее виртуальному полю зрения и понять, где она находится.

На экране появилась река. Она переливалась разноцветными точками. Очки определенно были на Джоан, она даже не выключила XR-прототип, созданный Кирой. Но изображение не двигалось. Яркие точки медленно плыли вниз по реке, меняя цвет, ныряя и всплывая.

— В округе есть несколько таких речек, — сказал Нгуен, заглядывая в смартстрим из-за спины Киры. — Вы можете подключиться к аудиоканалу?

Аудиодатчики очков уловили природные звуки: журчание и плеск речных волн, шелест листьев, порыв утреннего ветерка. На заднем плане слышалось равномерное дыхание — очевидно, это Джоанна. Справа раздался механический рокот и через три секунды стих.

— Она на Брекфест-Крик! — воскликнул Нгуен. — Это прошел поезд. Там железная дорога.

— Поехали! — Кира схватила его за руку. — И сообщите всем, пусть подтягиваются, начинаем поиски!

Кира быстро шагала вдоль реки, высматривая Джоанну среди кустов и деревьев. Ей надоели громкий щебет птиц и жужжание шмелей, она устала и взмокла, на кончике носа повисла капля пота. Кира то и дело заглядывала в смартстрим, сверяя изображение из очков с окружающими видами. Наконец под сосной мелькнула серебристая шевелюра Джоанны.

Когда Кира с поисковой командой подошли к ней, женщина молча сидела в кресле. С тыльной стороны запястья на коже виднелся светлый квадратик — там была ее биосенсорная мембрана. Джоанна, кажется, застыла в трансе. По щекам катились слезы, стекла XR-очков запотели изнутри. Кира крепко обняла подопечную.

— Кира, это ты, — пробормотала Джоанна.

«Она в первый раз назвала меня правильно», — отметила девушка.

— Твои очки вернули меня назад. Я вспомнила. Я одна из вас.

— А? — сердце Киры все еще бешено колотилось, и смысл слов Джоанны до нее не дошел. За спиной кто-то клацал затвором фотоаппарата.

— Я из украденного поколения, — прошептала Джоанна, когда подоспевшие сотрудники Солнечной деревни усаживали ее в машину скорой помощи.

Кира катила кресло-коляску Джоанны по дорожке. Погода выдалась отличная. На пляже Нуза-Мэйн-Бич выдалась отличная погода. Смеялись посетители, на песке играли дети, в волнах резвились серферы. Джоанна посмотрела на северо-восток — там за горизонт убегали лазурные волны.

— Ну как, видно Большой Барьерный риф? — спросила Кира.

— Я знаю, он там. Я его чувствую, — улыбнулась Джоанна. — Спасибо тебе. Пусть власти начислят тебе побольше мулы. Удивительно, всего через неделю в это самое время я буду на своей процедуре. Никогда бы не подумала, что доживу до своей очереди.

— Я так рада за вас. Вы очень быстро восстановитесь, я уверена, — засмеялась Кира. — Но меня мучает один вопрос.

— Валяй.

— В тот день на Брекфест-Крик вы сказали, что вы из «украденного поколения». Я тогда не поняла, но потом выяснила. Поправьте, если я что-то поняла не так. С 1909 года правительство отняло у родителей-аборигенов почти сто тысяч детей. Их отдавали в белые семьи или в детские дома, чтобы они выросли в другой культуре. Это прекратилось в 1969 году, детдома позакрывали, и многие дети остались бездомными. Так? — На лицо Джоанны легла печаль. — Но вы родились на год позже. Разве вы могли оказаться в числе изъятых детей?

— Мои приемные родители были очень хорошими. И они написали мне в документах другую дату рождения, чтобы защитить от страшной правды. Меня отняли у кровных родителей сразу после рождения. Пару лет я жила в церковном приюте, а потом меня удочерили. И мне повезло — я попала в очень любящую семью.

— Но как вы это узнали? Прошло столько лет, все архивы наверняка пропали, — Кира лопалась от любопытства.

— Я внешне отличалась от сестер. И видела, что в школе ко мне относятся не как к остальным. Спрашивать родителей я не хотела, они всех нас, детей, любили одинаково. Я похоронила в себе сомнения и вообще всю жизнь не думала об этом, пока не пришли результаты генетического анализа.

— Недавно? Это был анализ для лечения Альцгеймера? — уточнила Кира.

Джоанна кивнула и указала на север Тихого океана.

— В отчете написано, что с вероятностью 85 процентов я родом с островов Торресова пролива. Когда я это прочла, у меня земля ушла из-под ног. Я не знаю, кто я и кто мои настоящие родители. И что теперь делать? Я не понимаю.

— Вы решили об этом забыть?

— Боюсь, моя голова решила это за меня, деточка. Болезнь дала мне отличное оправдание, чтобы не смотреть правде в глаза… А потом твои произведения вернули меня обратно.

— Мои произведения? — Кира ушам своим не верила.

— Когда я надела твои очки, то весь мир заиграл волшебными красками. Словно во сне, все кругом жило и дышало, менялось в пространстве и времени, протягивалось из прошлого в настоящее и даже проникало в будущее. Я чувствовала в сердце нечто древнее, оно поднималось во мне, текло в моих жилах, воссоединяло меня с этой землей. И я поняла, что нельзя убегать от боли — нельзя забывать, кто я. Мне станет легче, только если я буду честна сама с собой.

Кира была тронута до глубины души.

— Я должна поблагодарить тебя, — Джоанна взяла ее руки и прижала к груди. — Нас немного осталось, из украденного поколения. Многие так и умерли, пронесли боль и внутренний разлад через всю жизнь. Тридцать три года назад власти официально извинились, начали открывать архивы, но этого мало, чтобы компенсировать отнятое у нас.

Свежий бриз трепал длинные кудряшки Киры. Она и мечтать не могла, что ее творчество окажет на кого-нибудь такое влияние. Дышала соленым морским воздухом и перебирала в памяти время, что они провели вместе.

— Это мне надо вас благодарить, — торжественно произнесла Кира.

— За что? За бесконечные придирки? — возразила Джоанна.

— Ну, и за это тоже, — Кира откинула с лица пряди, которые лезли в глаза. — Из-за вас я начала думать о том, что раньше мне и в голову не приходило. О чем мечтаю, к чему стремлюсь и об этом проекте «Джукуррпа»…

— Продолжай.

— Я вижу, как из-за «Джукуррпы» обесценились человеческие отношения и усилилось неравенство. Большинство людей не используют «Джукуррпу» по назначению. Он больше не помогает раскрывать свой потенциал, не заставляет развиваться. Я все время думала о наших с вами разговорах и несколько недель назад написала в онлайн-группу VRock, посвященную виртуальной реальности.

Мой пост прочли, столько комментариев — ужас, десятки тысяч. Так появилось движение Dream4future[155] — про него сейчас все пишут. Оказывается, это стольких людей задело! Все начали высказывать недовольство «Джукуррпой», и парламент уже готовит новый закон, чтобы пересмотреть систему.

— Ничего себе! И что будет в новой версии?

— Базовая жизненная карта обеспечила людям элементарное выживание и безопасность, так что ее не отменят. Но все, особенно молодежь, как я, должны иметь возможность выбирать, как им жить. Ни у кого нельзя отбирать мечту. Когда кто-то стремится найти себя в призвании, вот как вы, им нужно дать шанс. Нужно, чтобы проект «Джукуррпа» давал всем равные возможности и поддерживал в самореализации.

Кто-то стремится к управленческой работе, кому-то хочется раскрывать тайны Марса, у кого-то получится восстановить аборигенные языки с помощью искусственного интеллекта — любой труд и достижение заслуживают признания и поддержки. Только так мы вернем людям веру в будущее. А иначе нас ждет еще одно украденное поколение.

— Вы только посмотрите! Кира, да ты молодчина! — Джоанна оживилась и восторженно захлопала в ладоши. Внезапно ее руки застыли в воздухе. — То есть ты от меня уходишь?

— Простите, Джоанна. Как раз сегодня я собиралась попрощаться, — Кира наклонилась, чтобы обнять ее. — Нашу фотографию с Брекфест-Крик постоянно постили в VRock, журналисты интересовались, и в конце концов меня заметил доктор Суорц из Департамента инноваций и науки. Он пригласил меня в команду, чтобы работать над новой версией проекта.

Мы должны разработать методику, чтобы задать измеримые цели. И нам понадобится более совершенный искусственный интеллект для «Джукуррпы», который даст людям больше равенства и мотивации. Вы же знаете, я всегда хотела настоящую работу, но думала, что она будет в сфере виртуальной реальности. А тут мне предложили поучаствовать в улучшении перспектив для всей молодежи. Поверить не могу!

— Как же я рада за тебя, — сказала Джоанна. Но на ее глаза навернулись слезы. Она сдержала себя, потом опустила взгляд, словно стыдясь чего-то. — Пока ты здесь, я тебе кое-что скажу.

— Да, конечно.

— Я отказывалась подтверждать твою задачу, потому что боялась, что ты получишь мулу и бросишь меня, — голос Джоанны дрожал. — Я не хотела, чтобы ты уходила.

— Ой, Джоанна… — теперь в глазах Киры тоже стояли слезы.

— Не плачь, деточка, не надо, — она промокнула глаза и улыбнулась Кире. — Ты свозила меня к океану, пора и мне выполнить обещание.

Заиграл браслет — это поступили баллы. Кира с Джоанной гуляли по пляжу, любовались прибоем. Волны набегали и исчезали в песке, сантиметр за сантиметром формируя береговую линию. И в будущем неспешная работа океана останется такой же, какой была миллионы лет назад.

Анализ. Изобилие; новые экономические модели; будущее денег; сингулярность

Люди давно пытаются представить себе тот день, когда никому не придется работать ради куска хлеба и все станет бесплатным. В рассказе «Мечты об изобилии» показано общество, для которого этот день уже не за горами: в будущем образца 2041 года произойдет энергетическая и промышленная революция, повсеместно будут внедрены ИИ и автоматизация.

Итак, ИИ и другие технологии ведут к четвертой промышленной революции[156] и прорыву в чистой энергетике. Он поможет справиться с неблагоприятным для человечества изменением климата и радикально удешевит энергию, питающую нашу цивилизацию. Мы приближаемся к полной перестройке мировой энергетической инфраструктуры. Будут усовершенствованы технологии солнечной и ветроэнергетики, а также разработаны новые типы батарей.

Стоимость энергии устремится вниз, а значит, упадут цены и на водоснабжение, сырье, производство, вычисления, логистику — словом, подешевеют все отрасли, где электричество играет значимую роль. Постепенно перестанут использоваться природные полезные ископаемые или токсичные материалы (нефть, минералы, некоторые химикаты). Сырье для промышленности в массе своей станет принципиально иным — это будут уже не вещества, а отдельные молекулы или даже элементарные частицы (фотоны). И, наконец, как ясно из описанного в главах с 1 по 9, ИИ и автоматизация чрезвычайно удешевят рутинный человеческий труд.

Когда стоимость энергии, материалов и производства стремительно сокращается, впереди начинает маячить изобилие. Я выбрал это слово, чтобы обозначить новый этап развития человечества. Всем людям в это время станет комфортно жить — в нынешнем понимании этого слова: все дешево или бесплатно, а работать не нужно. Некоторые, впрочем, уже сейчас называют это «постдефицит» или «избыток» (что звучит не так красиво, как «комфорт»).

В рассказе «Мечты об изобилии» показано общество, которое на первый взгляд обладает всеми составляющими райской утопии, в котором удовлетворены утилитарные потребности каждого, а значит, можно не отвлекаться на быт и полностью отдаться достижению высшей цели. Но, оказывается, когда основные проблемы решены, на освободившемся месте возникают новые.

В частности, в рассказе показана реакция молодежи на исчезновение привычного якоря — надежной карьеры, которая позволяет самостоятельно выстроить благополучную жизнь. Отсутствие новых экономических моделей создает множество препятствий на пути к утопии — старые перестали работать, поскольку были созданы в контексте дефицита, а не изобилия. Когда почти все бесплатно, какой смысл в деньгах? Однако люди привыкли добиваться всего своим трудом — в этом отчасти и был смысл их жизни. И какое будущее ожидает экономические институты и корпорации?

В этой главе я опишу революционные изменения в энергетике и промышленности и обеспечение топливом и сырьем производства нового типа — на автоматизации и ИИ. Последнее сделает изобилие неизбежным, и мы обсудим, как оно обесценит экономические модели и институты, а также деньги. Затем я объясню, во что могут эволюционировать деньги и какова концепция новых валют, фигурирующих в рассказе. И, наконец, я рассажу, почему для завершения книги мы выбрали идею изобилия, а не сингулярности, которая, по мнению некоторых футурологов, станет ключевой в 2040-х годах.

Ну и напоследок — несколько глобальных идей о будущем человечества, которые вы сможете осмыслить самостоятельно.

РЕВОЛЮЦИЯ ВОЗОБНОВЛЯЕМОЙ ЭНЕРГЕТИКИ: СОЛНЦЕ + ВЕТЕР + LI–ION-АККУМУЛЯТОРЫ

Кроме ИИ в ближайшие годы нам предстоит столкнуться с еще одним ключевым технологическим новшеством — возобновляемыми источниками энергии. Энергию солнца и ветра можно успешно и в промышленных масштабах преобразовывать в электричество. А его можно накапливать и хранить в литий-ионных аккумуляторных батареях[157]. Такой «запас электричества» позволит перевести большую часть энергетической инфраструктуры (а то и вообще всю) на чистую возобновляемую энергетику.

Многие развитые и даже некоторые развивающиеся страны к 2041 году перейдут на использование энергии солнца и ветра. Всего за десятилетие, с 2010 по 2020 год, стоимость солнечной энергии упала на 82 процента, а ветровой — на 46 процентов. Cолнце и ветер — сегодня самые дешевые источники электричества.

Стоимость литий-ионных батарей за десятилетие тоже упала — на 87 процентов, и она будет снижаться дальше благодаря массовому производству аккумуляторов для электротранспорта. Такое резкое падение цен позволит запасать солнечную и ветровую энергию, используя соответствующую погоду.

Исследовательская группа RethinkX[158] прогнозирует: при условии инвестиций в два триллиона долларов стоимость электроэнергии в США к 2030 году упадет до 3 центов за 1 кВт∙ч, то есть более чем на три четверти относительно нынешней. А к 2041 году она должна стать еще ниже.

Что же произойдет, когда промышленные аккумуляторы в определенном районе окажутся полностью заряжены? По мнению RethinkX, в этих условиях возникнет новый класс энергии — «суперэнергия», которая окажется крайне дешевой, а в самые солнечные либо самые ветреные дни — фактически бесплатной.

При условии грамотного планирования эту «суперэнергию», запасенную впрок, можно использовать в несрочных ситуациях: заряжать аккумуляторы простаивающих машин, опреснять и очищать воду, перерабатывать отходы, переплавлять металлолом, снижать уровень углерода в воздухе, запускать алгоритмы консенсуса блокчейна, разрабатывать с помощью ИИ новые лекарства, совершать производственные операции, стоимость которых определяется расходом электричества.

Такая система не только резко снизит себестоимость любой конечной продукции, но и позволит направлять дешевую энергию на то, что раньше оказывалось слишком дорогостоящим. Падение стоимости энергии по цепочке потянет за собой обвальное удешевление водоснабжения, материалов, производства, вычислений и всех остальных энергоемких отраслей.

Важно отметить: запасание солнечной и ветровой энергии в емких батареях будет стопроцентно экологически чистым. Переключение на эти формы энергии поможет более чем наполовину сократить выбросы парниковых газов, которые, без сомнения, существенно виновны в глобальном потеплении.

Вышеописанная модель связана с непрерывными технологическими инновациями и существенными инвестициями в инфраструктуру для возобновляемой энергии. Следовательно, более благополучные страны первыми пожнут плоды такого прорыва. Именно поэтому мы поместили действие рассказа «Мечты об изобилии» в Австралию, где доля возобновляемой энергии возрастает в десять раз быстрее, чем в среднем по миру.

РЕВОЛЮЦИЯ МАТЕРИАЛОВ: К НЕИСЧЕРПАЕМЫМ ЗАПАСАМ

Мы живем, по выражению Питера Диамандиса[159], во времена «дематериализации» — многое удобное и привычное подменяется более удобным и технологичным и уходит в небытие. Так, уже почти исчезли простые мобильные телефоны — их функции поглотил прогрессивный софт и новые платформенные продукты. Еще недавно у нас было все по отдельности — радио, фотоаппараты, бумажные географические карты и (отдельно от карт) GPS-системы, видеокамеры и энциклопедии. Теперь все это плюс еще многое неназванное помещается в одном не самом навороченном смартфоне. Темп дематериализации нарастает: товары, о которых из-за запредельной цены недавно было бессмысленно даже мечтать, теперь можно приобрести на карманные деньги.

В главе 4 «Бесконтактная любовь» мы обсудили возможности синтетической биологии в поиске новых лекарств и генетической терапии (в частности, CRISPR). Внедрение этих технологий снизит затраты на здравоохранение, повысит эффективность лечения и добавит нам долголетия.

Синтетическая биология уже показала многообещающие результаты, придав организмам полезные свойства и наделив их новыми возможностями. В перспективе она перевернет всю пищевую индустрию.

Мясо можно будет выращивать в промышленных масштабах на основе клеток, взятых у животных (сейчас это уже возможно в лаборатории). Содержание белка и жира останется традиционным, вкус не пострадает. Эта прорывная технология создаст — без кавычек! — настоящее мясо, не нанеся вреда живым существам и планете в целом.

Работая на молекулярном уровне, ученые смогут воссоздавать традиционное пищевое сырье, а также и принципиально новое, с полезными и, возможно, не существующими в природе свойствами. Запущенные в массовое производство лабораторные разработки позволят получить во всех смыслах качественную еду минимальной себестоимости и цены — сейчас так распространяется программное обеспечение и типовая бытовая техника.

Большую часть овощей и фруктов можно выращивать на вертикальных фермах. Они представляют собой автоматизированные фабрики, и при распространении такой технологии затраты на них тоже упадут. Основные затраты на содержание таких ферм сведутся к стоимости электричества, воды и питательной среды соответствующего состава.

Выше я писал, что энергия и вода станут почти бесплатными. Синтетической биологии под силу создать бактерии, которые будут поставлять растениям естественный азот, необходимый для хорошего роста. Значит, вредные химические удобрения больше не понадобятся.

Синтетическая биология может применяться для производства резины, косметики, парфюмерии, модных аксессуаров, тканей, пластика и экологически чистых веществ. Она поможет разлагать пластик и избавлять окружающую вреду от разнообразных загрязнений. Словом, эта наука обеспечит прорыв во многих отраслях — они станут безопаснее и существенно дешевле.

В июне 2011 года тогдашний президент США Барак Обама объявил об общенациональной программе «Геном материала»[160]. Она создает открытые методики и ИИ, предполагая удвоение темпов инноваций в прикладных науках.

За прошедшие 10 лет в рамках реализации программы создана огромная база данных, которая позволила ученым «собирать» буквально из атомов новые вещества и материалы с необычными свойствами. Кое-какие разработки представляют собой материализацию идей писателей-фантастов — искусственные мышцы или наноматериалы, добавление которых заметно упрощает производство технологически сложных изделий без ухудшения их свойств.

Токсичное или редкое сырье постепенно удается заместить тем, чего в природе в избытке: фотоны становятся «сырьем» для энергетики, молекулы — для синтетической биологии, атомы — для материалов, кремний — для микросхем; биты и кубиты — для обработки информации. Продолжив этот логический ряд, мы приблизим наступление общества изобилия.

РЕВОЛЮЦИЯ ПРОИЗВОДСТВА: ИИ И АВТОМАТИЗАЦИЯ

Как мы описали в предыдущих главах, роботы и ИИ примут на себя львиную долю промышленности, многие разработки, производство и доставку товаров, а также маркетинг.

Автономные автомобили будут возить нас круглосуточно за минимальную плату и позволят сэкономить на покупке и содержании собственной машины (глава 6 «Святой возница»).

Обслуживающие роботы на ИИ будут обеспечивать быт качественнее, чем лучшая домработница (глава 4 «Бесконтактная любовь»). ИИ заберет у людей всю нудную, однообразную работу — что в офисах, что на предприятиях (глава 8 «Спаситель рабочих мест»). ИИ стабильно работает в режиме 24/7/365, он не болеет, не бывает в дурном настроении и не требует повышения зарплаты. ИИ снизит стоимость (и цену) большинства потребительских товаров почти до себестоимости материалов.

Кроме того, ИИ обеспечит первоклассное обслуживание во многих направлениях сферы услуг. Ежедневная поддержка ИИ-помощников будет лучше, чем самых профессиональных ассистентов-людей (глава 1 «Золотой слон» и глава 9 «Остров счастья»). Роботы-преподаватели будут проводить увлекательные занятия с учетом индивидуальных особенностей учеников (глава 3 «Воробьи-близнецы»). Роботы-врачи будут ставить диагнозы и лечить лучше, чем врачи-люди (глава 4 «Бесконтактная любовь»). Сфера досуга на основе ИИ станет реалистичной и захватывающей, оставшись при этом виртуальной, а следовательно, практически бесплатной (глава 5 «Мой призрачный кумир»).

Роботы начнут производить других роботов без участия человека, самостоятельно чинить их и даже частично разрабатывать новые модели самих себя. 3D-принтеры все больше станут походить на репликатор из сериала «Звездный путь» и научатся при минимальных затратах производить сложные и эксклюзивные изделия — например, зубные протезы и протезы конечностей.

Искусственный интеллект станет проектировать коттеджи и многоквартирные дома, а возводить их станут из заранее изготовленных модулей. Строить будут роботы — сам процесс станет напоминать игру в Lego, а это резко снизит стоимость типового строительства.

Транспорт без водителя, в том числе робоавтобусы, роботакси и робосамокаты, будет функционировать с небывалой доселе пунктуальностью — его не придется ждать.

Итак, получив практически бесплатную энергию, недорогие материалы и автоматизированную промышленность на ИИ, мы вступим в эпоху изобилия.

ИЗОБИЛИЕ: НЕИЗБЕЖНОСТЬ, ОБУСЛОВЛЕННАЯ ТЕХНОЛОГИЯМИ

Вводимый нами термин «постдефицит» означает общество, в котором всем всего хватает и никому ни за что не надо платить. В рассказе «Мечты об изобилии» мы встречаем мир будущего, в котором все страны движутся с разной скоростью в одном (этом) направлении.

Австралия в рассказе — высокоразвитая страна, она достаточно богата, чтобы обеспечить каждому гражданину удовлетворение элементарных потребностей и комфортную жизнь (через программу «Базовая жизненная карта»). По тексту также понятно, что страны, где ресурсов меньше, достигнут этапа изобилия позднее.

Поскольку темпы развития разных стран будут отличаться, я предпочитаю говорить не о постдефиците, а именно об изобилии. Кроме того, постдефицитное общество в строгом смысле слова, скорее всего, не настанет никогда. Каких бы высот ни достигли технологии, у нас никогда не будет больше двадцати картин Леонардо да Винчи.

Останутся дефицитными премиальные версии товаров и услуг, имеющие уникальную человеческую ценность (например, мотивирующий частный преподаватель), или сложные, редкие компоненты и технологии (вроде самых первых функционирующих квантовых компьютеров). Но элитные предложения будут исключением. Многие сейчас пьют почти бесплатную воду из водопровода или фильтра, но кристально чистая минеральная вода FUJI из недр горы Фудзияма является редким, дорогим и престижным товаром.

В эпоху изобилия практически все блага будут доступны в неограниченном объеме из-за низкой себестоимости. Но главное — они станут общедоступны бесплатно либо по символической цене. «Почти бесплатными» станут еда, вода, одежда, жилье, электричество.

Со временем «изобилие» как процесс затронет все большее количество товаров и услуг и все больше людей, все слои общества. Каждый новый год станет приносить людям новые бонусы. Я ожидаю, что изобилие начнется с чего-то самого простого и постепенно расширится до полноценной, комфортной, красивой жизни для каждого, охватит транспорт, одежду, связь, медицину, образование, досуг. Во всяком случае, в «Мечтах об изобилии» население в 2041 году получает все эти блага безвозмездно.

Если вы относитесь к концепции изобилия скептически, то напомню: в некоторых сегментах экономики она реализована уже сегодня. Мы можем в любых количествах, на любых устройствах и в любое время потреблять музыку и фильмы — всего за двадцать долларов в месяц. Нам доступен богатейший выбор электронных и аудиокниг — по символической цене. А новости мы читаем или смотрим вообще бесплатно. Мы можем без комиссии покупать и продавать акции. Ценную информацию, доступ к которой раньше был искусственно ограниченным и дорогим, сегодня можно спокойно находить и использовать.

Кто-то возразит: все приведенные примеры относятся к цифровой продукции, а в этой сфере почти нет затрат на физическое производство и доставку. Хотите примеры из мира «настоящих» вещей — вроде продуктов или крыши над головой?

В 2020 году американцы отнесли на помойки 218 миллиардов долларов в виде продуктов, в то время как для искоренения голода внутри страны, считают эксперты, требуется лишь 25 миллиардов в год. В пустующих домах в США можно разместить впятеро больше людей, чем есть реально бездомных. Таким образом, теоретически в Соединенных Штатах уже наступило изобилие в сфере еды и жилья. Правда, реально оно не ощущается из-за дисбаланса потребления.

Объяснить текущую ситуацию человеку, жившему 500 лет назад, можно словами писателя-фантаста Уильяма Гибсона: «Будущее уже настало — просто оно не очень равномерно распределено».

ЭКОНОМИЧЕСКИЕ МОДЕЛИ ДЕФИЦИТА И ПОСТДЕФИЦИТА

Тысячелетиями экономика человечества развивалась, испытывая скудность ресурсов. Другими словами, потребности людей всегда превышали физическую возможность их удовлетворить из-за нехватки ресурсов. Именно недостаток благ двигал цивилизации: из-за него люди воюют, массово мигрируют, из-за него появился рынок капитала и так далее. Любая экономическая теория исходит из дефицита ресурсов.

Экономика относится к социальным наукам и исследует вопросы производства, распределения и потребления товаров и услуг. Экономистов интересует, как отдельные личности, компании, правительства и нации распределяют ресурсы. Сегодняшний экономический постулат гласит: потребности общества безграничны, а ресурсы недостаточны. Человечество строит экономические модели, стараясь понять, как максимально эффективно производить, распределять и потреблять эти скудные ресурсы.

Отец современной экономики Адам Смит[161] выдвинул теорию: если дать каждому свободу производить, обменивать и потреблять блага на основе личного интереса, то экономики естественным образом придут к балансу и продолжат рост.

Другой известный экономист Карл Маркс веком позже доказывал: растущая власть капитала обесценит теорию Адама Смита, поскольку чрезмерная власть тех, кто контролирует капитал, ведет к неравенству и эксплуатации рабочего класса.

Джон Кейнс, исследуя как экономист Великую депрессию[162], пришел к выводу: «естественного баланса» придется ждать слишком долго. Но он предложил применять монетарную политику, чтобы корректировать экономику в сторону стимуляции спроса и снижения безработицы. Авторы всех трех теорий исходят из одного общего обстоятельства — дефицита.

В будущем, если дефицит, наконец, исчезнет, в историю канут и эти экономические модели. Если ресурсы неограниченны, то не нужны и такие механизмы, как покупка, продажа и обмен. Возможно, отпадет потребность и в инструменте для этого механизма — в деньгах. Как вам новая экономическая модель?

Научная фантастика часто дает пророческие прогнозы. Захватывающий образ изобилия нам показали в сериале «Звездный путь». Ману Саадия в книге «Трекономика: Экономика “Звездного пути”»[163] описывает экономическую модель, которую можно свести к знаменитым словам капитана Пикарда: «Люди больше не одержимы накоплением вещей. Мы искоренили голод, нужду и необходимость в имуществе».

Во второй части сериала «Звездный путь: Следующее поколение» действие разворачивается в XXIV веке. Любую вещь теперь можно изготовить репликатором, и это сводит на нет необходимость работать и торговать. А когда нет нужды — излишни деньги и труд. Занятость из необходимости превратилась в личный выбор, новой социальной валютой стали социальный статус и общественное признание.

Множество людей поднялись на верхние позиции пирамиды Маслоу, и теперь почти все живут ради самореализации. Среди большинства и команда корабля «Энтерпрайз», члены которой стремятся раскрыть свой потенциал через исследование новых миров и познание неизвестного.

Я верю, что в очень долгосрочной перспективе подобная экономика вполне достижима. Она будет построена на новом социальном контракте, который все шире обслуживает базовые нужды и повышает жизненный комфорт, параллельно переосмысливая концепции работы, денег и смысла жизни, а также функции корпораций и общественных институтов.

Новую систему нужно разрабатывать с прицелом на тот баланс, который фигурировал еще у Адама Смита: люди преследуют свои личные интересы и формируют замкнутую систему, в которой в выигрыше оказываются все участники.

«Звездный путь» рисует пленительное будущее, которое было построено за триста лет, но не показывает, что для этого делалось. В рассказе «Мечты об изобилии» мы через призму денег увидели правдоподобную траекторию такой эволюции.

ДЕНЬГИ В ЭПОХУ ИЗОБИЛИЯ

В книге «21 урок для XXI века»[164] Юваль Ной Харари написал: «Еще в каменном веке самоподтверждающиеся мифы использовались для сплочения человеческих коллективов. Homo sapiens покорил всю планету в первую очередь благодаря умению создавать и распространять мифы. Мы единственные млекопитающие, способные сотрудничать с множеством чужаков, потому что только мы умеем придумывать сказки, распространять их и убеждать миллионы других людей поверить в эти сказки».

Профессор Харари также говорил: «Деньги — самая успешная история, которую люди выдумали и рассказывают друг другу, потому что это единственная идея, в которую верят все». Деньги являются неотъемлемой частью человеческого общества с V тысячелетия до нашей эры. И если они перестанут существовать по причине бесплатности всех благ, то это подкосит многие столпы нашего общества.

Деньги — это средство накопления и осуществления платежей. Но важнее, что нас веками приучали беречь деньги на черный день. В результате они превратились в символ или даже эквивалент высокого статуса. Жажда денег зачастую неутолима, она заставляет жадничать, но также делает жизнь целенаправленной и осмысленной. Другими словами, деньги пронизывают всю пирамиду Маслоу, а их эмоциональный образ за многие тысячелетия прочно встроился в нашу культуру. Поэтому деньги нельзя отменить щелчком пальцев. Нужен долгосрочный и поэтапный план.

В «Мечтах об изобилии» концепция избавления от денег реализуется через австралийский проект «Джукуррпа». Программа пытается постепенно наполнить деньги новым смыслом, а одновременно затрагивает перемены, вызванные изобилием и сломом рынка труда из-за автоматизации.

«Джукуррпа» обеспечивает граждан всем необходимым и поддерживает их в получении новой квалификации. В проекте три части: базовая жизненная карта, мула и, спустя некоторое время, обновленный блок мер, выработанных гражданским обществом через движение Dream4future.

Базовая жизненная карта охватывает всеобщие элементарные потребности. В отличие от безусловного базового дохода (ББД), деньги всегда находятся на этой карте, их можно тратить лишь на товары и услуги первой необходимости и обустройство комфортной жизни: питание, водоснабжение, кров, электричество, поездки, одежду и досуг.

ББД не ограничивает гражданина в категориях трат, и это чревато проблемами — безработица доказанно коррелирует со злоупотреблением алкоголем и наркотиками.

Базовая жизненная карта покрывает два нижних уровня иерархии потребностей Маслоу и не зависит от наличия или отсутствия работы. Образование в стране бесплатно, как и смена профессии вкупе с индивидуальными консультациями — если человек намерен работать дальше, то ему придется переучиться и покинуть область, которую поглощает ИИ. Мы видели это в «Спасителе рабочих мест».

Второй компонент плана «Джукуррпа» — новая валюта мула, которой суждено поднять часть людей на следующий уровень пирамиды Маслоу, туда, где становятся актуальными любовь и сопричастность, рожденные из заботы о других, дружба, тепло, товарищество, доверие и межличностные связи.

В отличие от денег и средств базовой жизненной карты, чувство любви и принадлежности к коллективу невозможно потратить. Деньги можно обменять на какое-то благо. Но с любовью не так — чем больше отдаешь, тем больше и получаешь. Умный браслет анализирует эмоциональное состояние окружающих, и твоя мула растет. Помогаешь ли ты другим, проявляешь ли заботу? Укрепляешь ли местное сообщество? Создаешь ли ценные связи?

Мула работает на алгоритме ИИ, который учитывает услуги, оказанные соседям, и взаимодействие с ними и вычисляет степень эмпатии и сочувствия. Чем больше даешь — тем больше тебе возвращается. Используя технологии конфиденциальных вычислений — федеративное обучение и доверенную среду исполнения, — браслет гарантирует сохранность личных данных, которые будут навсегда удалены после использования.

Браслет из этого рассказа сам предлагает человеку волонтерские задачи для дальнейшего роста мулы — например, уход за пожилыми людьми. Именно так встретились Кира и Джоанна.

Концепция немонетарной валюты типа мулы перекликается с прогнозируемой проблемой массовых сокращений: по мере того как автоматизация захватывает рутинные отрасли, наибольшая доля «безопасных» работ сконцентрируется в сфере услуг, где требуется личный человеческий контакт. Алгоритм мулы подводит людей к ситуациям, в которых можно развить свой эмоциональный интеллект и тем самым улучшить свои шансы в сфере услуг.

При разработке мулы был допущен недочет: по достижении определенного уровня мулы браслет начинал светиться разноцветными огоньками. Создатели программы стремились мотивировать людей получать больше мулы — жить более осмысленно, наполнять жизнь межличностной теплотой, развивать эмпатию и сочувствие. Это позволило бы претендовать на рабочие места в сфере услуг.

Однако разработчики упустили из виду, что люди тщеславны, а подобные рейтинги лишь подстегивают это чувство. Стремление накопить побольше мулы даже подталкивало некоторых к мошенничеству: они склоняли окружающих к проявлению благодарности в поле действия браслета, причем не чурались подкупа и принуждения.

Описание проекта «Джукуррпа» в рассказе — терра инкогнита. Страна, вводящая подобную программу, должна постоянно ее анализировать и, при необходимости, достаточно оперативно подправлять. Кураторам программы нужно обновлять правила в соответствии с отмеченной ее эффективностью.

Третий этап «Джукуррпы» появляется лишь в конце рассказа. Кира рассказывает Джоанне, что ей удалось запустить в интернете молодежное движение Dream4future и убедить австралийские власти пересмотреть влияние программы на самореализацию молодого поколения. Киру вдохновила жизнь Джоанны, подчиненная высокой цели — спасению Большого Барьерного рифа.

А жизнь самой Джоанны заиграла новыми красками благодаря творчеству Киры в расширенной реальности. Это обоюдное вдохновение привело героинь к осознанию вечных ценностей: людям в эпоху изобилия по-прежнему необходимы осмысленные цели и амбициозные стремления, будь то восстановление аборигенной культуры, исследование Марса или проектирование природосберегающих городов.

Движение Dream4future побуждает власти разработать третью часть программы, и Кира решает участвовать в работе. Этот последний компонент структурно сложен, к концу рассказа он так полностью и был не раскрыт, но совершенно прозрачно отослал нас к верхнему уровню пирамиды Маслоу — к самореализации.

Третий этап «Джукуррпы» потребовал бы обновления алгоритмов ИИ, чтобы они умели не только слышать эмпатию в беседах, но и оценивать все потребности верхних уровней по Маслоу, чтобы положительно подкреплять их и не застревать на примитивном накоплении баллов или на аддикциях. Как и в «Острове счастья», где ИИ учится измерять счастье гостей, ученым придется разработать нечто подобное.

А как ИИ сможет распознать ситуации, в которых человек чувствует себя уважаемым, ощущает признание своих достижений и удовлетворен самореализацией? Возможно, обнаружится, что именно эти благотворные состояния и составляют суть счастья, что приведет оба рассказа к единому логическому финалу.

В «Мечтах об изобилии» мы видим умозрительный механизм эволюции денег. Я надеюсь, что мне удалось вас убедить: в эпоху изобилия нам потребуется построить совершенно новый мир. Общество будущего должно быть инклюзивным и давать гражданам разнообразные маршруты развития. Кто-то не стремится после сокращения к новой работе, и это не снижает комфортности его жизни. Но другому человеку с иным складом характера хочется получить новую профессию.

Увлеченный человек будет рад погрузиться в любимую сферу интересов, заботливый посвятит себя оказанию помощи окружающим, активный и напористый будет зарабатывать авторитет, а созерцательный мыслитель придумает, как изменить жизнь к лучшему.

В мире, который уже движется к изобилию, мы не можем рассчитывать, что все с готовностью уйдут в «бесполезный» класс, но и вряд ли каждый загорится идеей самореализации. По мере того как из экономических моделей уйдут понятия дефицита и денег, им придется базироваться на человеческих потребностях, включая любовь, сопричастность, уважение и самореализацию.

Абрахам Маслоу говорил: «В жизни есть лишь одна неудача — когда не удалось раскрыть собственные возможности». Есть надежда, что наша новая экономическая модель окажется и мотивирующей, и инклюзивной и поможет как можно большему числу людей подняться к вершине пирамиды Маслоу.

ПРЕПЯТСТВИЯ НА ПУТИ К ИЗОБИЛИЮ

В общих чертах я обрисовал дорожную карту, которая выведет нас к эпохе изобилия. Однако на пути нас поджидает немало трудностей и даже смертельные ловушки.

Во-первых, достижение изобилия требует перезагрузки всей финансовой системы. Финансовые институты разных стран вроде центральных банков и фондовых бирж придется серьезно трансформировать или вообще заменить чем-то другим. Когда дефицит уйдет в прошлое, подступит дефляция, которая обрушит цены и целые рынки.

Только за XXI век мы пережили два глобальных финансовых кризиса[165] и убедились, насколько хрупка финансовая система. Чтобы предотвратить катастрофические потрясения, нам придется приложить усилия, беспрецедентные по масштабу и глубине. Дефляцию смягчит бесплатное распределение товаров и услуг, и переход от старой экономической модели к новой окажется менее чувствительным.

Вторая системная проблема — отказ корпораций признать наступление эры постдефицита. Из истории мы знаем: при снижении себестоимости производители предпочитают искусственный дефицит ожидаемому альтруистичному снижению цены. Во всяком случае, столетиями происходило именно так.

Когда добыча алмазов стала более эффективной, возник избыток предложения, но падения цен не случилось. Монополист алмазодобывающей отрасли, компания De Beers, просто стал искусственно ограничивать продажи, придерживать сырье до лучших времен и предсказуемо создал дефицит. А заодно объявил бриллианты символом любви и занялся активным продвижением этой перспективной идеи.

Другой пример — индустрия моды. Нам постоянно подспудно внушают, что гардероб должен обновляться два раза в год, что одежда морально устаревает, что носить коллекцию прошлого сезона — не комильфо. Поэтому желающие быть в тренде модники покупают массу одежды, она забивает шкафы, действительно успевает устареть, оставшись практически неношеной или даже ненадеванной, а производители уничтожают то, что не удалось сбыть.

В 2017 году средний американец купил 68 предметов одежды, а Burberry, британский дом моды класса люкс, за это время уничтожил товаров на 40 миллионов долларов. И это только один торговый дом!

Если же взять цифровую индустрию, то фирменная коробка с флешкой, на которой записан дистрибутив операционной системы Windows, практически ничего не стоит Microsoft’у. Однако компания продает ее за 139 долларов, а версию с расширенными возможностями — за 309 долларов! Версии мало различаются, в более дешевой просто отключена часть функций — зато мы имеем искусственно созданный дефицит более дорогого продукта.

И наконец, переход к изобилию требует общественной трансформации. Перемены, описанные в книге, затронут всех — и людей, и институции. Уволенные работники будут возмущаться, а потом, возможно, и активно протестовать. Чиновники схватятся за голову и начнут искать пути разрешения проблемы. Упадет стоимость активов — и богатые люди станут значительно беднее в абсолютном выражении. Возникнет перепроизводство — но компании вряд ли снизят цены. Если же дестабилизация действительно выльется в общественные протесты и обострит противостояние между классами общества, то под угрозой окажется будущее.

Для благополучного перехода к изобилию нам понадобится весьма причудливое сочетание факторов. Корпорации должны изменить свою политику — вывести в приоритет не прибыль, а социальную ответственность (рассчитывать на такое сложно). Упрямо враждующие государства должны начать сотрудничать. Социально-экономическим институциям придется претерпеть преобразования. И, что вообще трудно вообразить, должны исчезнуть такие человеческие пороки, как жадность и тщеславие.

Похоже, пора сдаваться?

Ни в коем случае! Возможность достичь изобилия ставит человечество перед главным испытанием. У нас имеется инструментарий практически волшебных технологий и возможность создавать что угодно без особых затрат. Так неужели мы подчинимся бессмысленному соблазну копить богатства, если их некуда тратить? Неужели мы закроем глаза на нищету, когда существующих благ хватает на всех? Ответы очевидны.

Мы должны найти экономическую модель, основанную на человеческих потребностях, а не на человеческой жадности. Перед нами — пугающие перспективы и не вполне обнадеживающие шансы, но и выигрыш в случае успеха будет феноменальным. Никогда еще потенциал человеческого процветания не был так огромен, и никогда еще ставки не были так высоки.

СИНГУЛЯРНОСТЬ СМЕНИТ ИЗОБИЛИЕ?

В начале книги я говорил, что хочу заглянуть за горизонт — в далекий 2041 год. Но теперь, когда книга заканчивается, давайте опять сделаем это — ведь горизонт еще отступил. Что может сменить такую невероятную эпоху, как изобилие? Некоторые футурологи предсказывают, что появится «сингулярность»[166], причем ждут ее уже к 2045 году, до которого из времени, в котором разворачиваются события нашей книги, остается совсем немного.

Согласно теории сингулярности, благодаря экспоненциальному росту вычислений саморегулирующийся ИИ претерпит преобразования и обретет сверхинтеллект раньше, чем мы можем себе представить — ведь людям трудно постичь экспоненциальные явления. Наступит момент, когда машинный интеллект превзойдет в развитии человеческий и установит контроль над нашим миром — это и будет сингулярность. Однако мнения футурологов разнятся, а из-за разброса взглядов сильно различаются и прогнозы. Многие из них, к слову, уже подхватило общество, а в технологическом сообществе вообще начался раздор.

Сторонники сингулярной утопии верят: когда искусственный интеллект существенно превзойдет человеческий, мы получим от него потрясающие механизмы борьбы со страданиями и реализации человеческого потенциала. Системы на искусственном сверхинтеллекте глубоко поймут Вселенную, превратятся во всеведущих оракулов, станут отвечать на самые мучительные вопросы и находить гениальные решения проблем. Кто-то даже полагает, что нам придется стать киборгами и объединиться со всемогущим ИИ — а иначе Homo sapiens исчезнет как биологический вид.

Но такой оптимизм разделяют не все. В лагере сторонников сингулярной антиутопии в числе прочих можно увидеть Илона Маска, который назвал искусственный сверхинтеллект «величайшим риском для нашей цивилизации», сравнив его создание с «призывом демона». Эта группа предупреждает, что когда люди создают самосовершенствующийся искусственный интеллект, рядом с которым меркнет наш собственный разум, то это изобретение захочет контролировать своего создателя или как минимум отстранить от дел.

Так куда же — к киборгам или к машинам-повелителям — свернет сингулярность к 2045 году? По моему мнению, оба варианты сомнительны. Концепция сингулярности основана на предположении, что экспоненциальный рост ИИ приведет к появлению сверхинтеллекта. Я согласен: вычислительная мощь ИИ выросла экспоненциально, и это несомненно. Но количество в нашем случает не перейдет в качество само по себе.

Для качественного скачка нам понадобятся новые научные прорывы наподобие глубокого обучения. Представим только: при сегодняшнем уровне компьютерных мощностей отсутствует глубокое обучение. Да отрасль искусственного интеллекта просто бы не зародилась!

Чтобы в будущем появился сверхинтеллект, нам необходимы дальнейшие открытия. Например, придется выяснить, как эффективно смоделировать творчество в искусстве и науках. Или как устроено стратегическое мышление — умение рассуждать, контрфактуальное мышление[167]. Как насчет сочувствия, эмпатии и человеческого доверия? А осознанность и связанные с ней потребности, желания и эмоции?

Без всех этих способностей ИИ не станет вровень даже с человеком, не говоря уже о боге или демоне. Возьмем осознанность: мы не только не можем построить осознанный ИИ, но и не понимаем, какие физиологические механизмы обеспечивают человеческую осознанность.

Возможны ли перечисленные научные прорывы? Не исключено, что однажды мы приблизимся к ним — но это будет непросто и нескоро. Можно сказать, за 65 лет истории ИИ качественный скачок произошел лишь однажды — это было глубокое обучение. А чтобы получить сверхинтеллект, нам нужен по меньшей мере десяток таких революционных преобразований. И едва ли они произойдут за какие-то два десятка лет.

ИСТОРИЯ ИИ: СЧАСТЛИВЫЙ ФИНАЛ?

В этой книге мы увидели, как искусственный интеллект отворяет человечеству двери в лучезарное будущее. Он создаст невероятные ценности, многократно увеличит наши возможности благодаря симбиозу человека и машины, усовершенствует наши рабочие процессы, улучшит сферу досуга, игр и общения, избавит нас от однообразных занятий и, как мы увидели в последней главе, приведет нас в эпоху изобилия.

В то же время ИИ принесет с собой множество новых проблем и даже угроз: зашитые в алгоритмы предубеждения, дипфейки, нарушения конфиденциальности и утечки персональных данных, автономное оружие, вынужденная смена профессии или даже потеря работы. Но это проблемы не искусственного интеллекта, их создали люди — по небрежности, недостаточной информированности или злому умыслу.

В десяти историях, собранных здесь, эти проблемы удалось разрешить благодаря человеческой изобретательности, творчеству, стойкости, мудрости, смелости, сочувствию и любви. В каждом рассказе ключевую роль сыграли присущие нам, людям, чувство справедливости, способность учиться, дерзкий полет мысли и вера в человеческую свободу выбора.

В истории искусственного интеллекта мы не будем пассивными зрителями — напротив, мы ее авторы. Ценности, которые мы вкладываем в свои представления об ИИ, станут самосбывающимися пророчествами. Уверовав, что расширение возможностей искусственного интеллекта превратит нас в «бесполезный класс», мы сами лишим себя любого шанса на адаптацию к новой реальности.

Если же мы удовлетворимся дарами эпохи изобилия и перестанем развивать свой разум и взаимоотношения друг с другом, то прекратим эволюционировать как вид. А если мы впадем в уныние и опустим руки перед перспективой сингулярности, то сами загоним себя в ловушку отчаяния — и неважно, придет сингулярность или нет.

С другой стороны, мы можем с благодарностью отнестись к тому, что с нас сняли нагрузку рутинных задач и освободили от гнета нищеты и голода. Мы можем ценить и беречь нашу свободную волю (которой не обладает искусственный интеллект). Мы можем смотреть на симбиоз человека с ИИ и верить, что от него родится что-то принципиально новое. И тогда у нас появится стимул направить прогресс в нужную нам сторону: задавать ИИ ту форму, которая идеально дополнит человека, позволит нам «смело идти туда, где никто еще не был».

С помощью ИИ мы исследуем новые миры, но, что еще важнее, мы исследуем самих себя. Он подарит нам комфортную жизнь и чувство безопасности, чтобы у нас были силы на близкие отношения с людьми и самореализацию. Он уменьшит наши страхи, тщеславие и жадность, поможет сконцентрироваться на более высоких человеческих потребностях и желаниях.

Он возьмет на себя бытовую нагрузку и производственную рутину, заставит нас искать ответы на вопросы, что делает нас людьми и какой должна быть судьба человечества. В итоге мы напишем не просто историю искусственного интеллекта — мы напишем нашу собственную историю.

И если мы научимся держать равновесие между технологическими достижениями и обществом, то этот баланс, без сомнения, станет величайшим достижением в истории человечества.

Благодарности

Эта книга появилась по счастливому стечению обстоятельств. Нас, авторов, свели Линь Цилин и Анита Хуан. У них возникла идея выпустить книгу в жанре научной фантастики, которая совмещала бы художественный вымысел и популяризацию науки, ради того чтобы исследовать будущее.

Вскоре Кай-Фу встретился с Маркусом Доле, главой издательства Penguin Random House, — следом за неожиданным знакомством с Лори Эрламом на одной конференции. Маркус сразу же загорелся идеей книги и познакомил нас с потрясающими Дэвидом Дрейком и Полом Уитлэтчем из издательства Crown, входящего в Penguin Random House.

На этом удачные совпадения не закончились: Кай-Фу и Лори выкроили время и пересеклись с Дэвидом и Полом в Нью-Йорке — как раз перед тем, как закрыли границы из-за пандемии. И наконец, вынужденно сидя по домам в 2020 году, мы смогли в тишине и уединении закончить книгу, затратив на этот титанический труд всего лишь год.

Из счастливых случайностей складываются новые возможности, но только люди могут реализовать этот потенциал. Мы глубоко признательны Цилин, Аните, Маркусу, Дэвиду и Полу за их творческий подход, энтузиазм и тщательность, благодаря которым эта книга увидела свет. Кроме того, мы хотим поблагодарить других сотрудников издательств Crown и Currency, включая Кэти Берри, Джиллиан Блейк, Эннсли Роснер, Дайану Мессина, Джулию Сеплер, Эмили Хоталинг, Сару Брейвогел, Роберта Сиека, Эдвина Васкеса, Мишель Джузеффи, Дженнифер Бак, Салли Франклин и Эллисон Фокс.

Создание этой книги потребовало гигантских усилий, ведь изначально Чэнь Цюфань написал свои рассказы на китайском, а комментарии Кай-Фу были на английском. Состыковать и согласовать части книги, написанные на разных языках, было непросто, и мы благодарим наших талантливых переводчиков: Эмили Цзинь, Энди Дудака, Блейка Стоун-Бэнкса и Бенджамина Чжоу.

В лице Пола Уитлэтча мы нашли скрупулезного и неутомимого редактора, который и сам является исключительным писателем. Его многогранность позволила ему работать с текстом гораздо глубже, чем требовалось по формальным обязанностям, и он помог сделать книгу последовательной и увлекательной.

Мы также благодарны техническим специалистам, которые отвечали на наши вопросы и помогали описать различные технологии, раскрываемые в книге. Это профессор Сяо Вэй, профессор Ни Цзяньцюань, профессор Ма Вэйсюн, доктор Тони Хань, доктор Хэ Сяофэй, доктор Ван Цзяпин, доктор Ши Чэнси, доктор Чзан Тун, Ван Юнган и другие коллеги из Sinovation Ventures, включая Мелоди Сюй.

Мы также хотим поблагодарить всю команду Erlam&Co — Майка Харви, Эми Холмс, Риз Дюрден, Дэниела Орчарда, Александру Шиль и Хелен Гловер — за чтение многочисленных черновиков и развернутые предложения по улучшению этой книги. В частности, мы в большом долгу перед Скоттом Мередитом, сделавшим объемные правки, оставившим проницательные комментарии и подавшим замечательные идеи для нескольких рассказов.

Напоследок мы хотим поблагодарить всех писателей научной фантастики из прошлого и настоящего, чье коллективное воображение легло в основу «ИИ-2041», а также всех ученых, разрабатывающих искусственный интеллект, создающих невероятные технологии, которые стирают границу между реальностью и магией.

Об авторах

Кай-Фу Ли — генеральный директор инновационного фонда Sinovation Ventures и автор бестселлера «Сверхдержавы искусственного интеллекта»[168]. Ранее Ли занимал пост главы Google China, был топ-менеджером в Microsoft, SGI и Apple, сопредседателем совета по искусственному интеллекту на Всемирном экономическом форуме.

Кай-Фу Ли окончил Колумбийский университет и защитил диссертацию в Университете Карнеги — Меллона. Среди его многочисленных достижений — включение в рейтинги Time 100 и Wired 25. Живет в Пекине.

Чэнь Цюфань (творческий псевдоним Стэнли Чан) — признанный писатель, переводчик, креативный продюсер и попечитель, президент Всемирной ассоциации китайской научной фантастики. Среди его книг — «Мусорный прибой»[169], «Болезни будущего» и «Алгоритмы для жизни». Основатель студии по разработке контента Thema Mundi. Живет в Пекине и Шанхае.

МИФ Бизнес

Все книги по бизнесу и маркетингу: mif.to/business mif.to/marketing

Узнавай первым о новых книгах, скидках и подарках из нашей рассылки mif.to/b-letter

#mifbooks

Над книгой работали

Руководитель редакционной группы Светлана Мотылькова

Ответственный редактор Ольга Копыт

Литературный редактор Елена Никитина

Арт-директор Алексей Богомолов

Дизайн обложки Наталья Савиных

Корректоры Лев Зелексон, Мария Молчанова

ООО «Манн, Иванов и Фербер»

mann-ivanov-ferber.ru

Электронная версия книги подготовлена компанией Webkniga.ru, 2022

Примечания

1

Дартмутский летний исследовательский проект по искусственному интеллекту (1956) — основополагающее событие в области ИИ как научной области. Прим. ред.

2

Британская компания, занимается искусственным интеллектом. Основана в Лондоне в 2010 году под названием DeepMind Technologies; в 2014-м приобретена Google. Прим. ред.

3

На момент этого матча Ли Седоль занимал 2-е место по количеству выигранных чемпионатов мира; считался 4-м игроком го в мире (официального рейтинга нет). Прим. ред.

4

Продолжение популярной игры DotA; киберспортивная дисциплина с миллионными призовыми фондами профессиональных турниров. Прим. ред.

5

Ли Кай-Фу. Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок. Москва: Манн, Иванов и Фербер, 2019. Прим. ред.

6

Способность компьютерной системы интерпретировать данные таким же образом, каким люди используют свои чувства для связи с окружающим миром. Прим. ред.

7

На английском книга вышла в сентябре 2021 года. Прим. ред.

8

Междисциплинарная группа «ультратехнологов». Создана в Токио в 2001 году. Состоит из художников, программистов, инженеров, компьютерных аниматоров, математиков и архитекторов, создает произведения искусства с использованием цифровых технологий. Прим. ред.

9

Роман М. Шелли «Франкенштейн, или Современный Прометей» (1818). Прим. ред.

10

«Звездные войны» (с 1979 года по настоящее время), «Звездный путь» (с 1966 года по настоящее время) — медиафраншизы; «Космическая одиссея 2001 года» — культовый научно-фантастический фильм (режиссер С. Кубрик, 1968). Прим. ред.

11

«Нейромант» (1984) — каноническое произведение У. Гибсона в жанре киберпанк. Первый роман трилогии «Киберпространство». Прим. ред.

12

X Development LLC. (ранее — Google X) — американская компания в составе холдинга Alphabet, основана в 2010 году. С 2015 года — независимая компания X в составе холдинга Alphabet. Hyperloop — проект вакуумного поезда Илона Маска (2013), до конца не реализован. Прим. ред.

13

Все рассказы в этой книге Чэнь Цюфань написал на китайском, и для англоязычного издания их пришлось переводить. Примечания и комментарии Кай-Фу Ли изначально были на английском. Прим. ред.

14

Индийская соцсеть, основана в 2015 году; более 250 миллионов активных пользователей в месяц. Для сравнения: у российской сети «ВКонтакте» — 73 миллиона в месяц (на весну 2021 года). Прим. ред.

15

Художница индийского происхождения, родилась в 1969 году в Лондоне, в 1993-м, получив степень бакалавра, переехала в Индию. В 2041 году ей исполнится 72 года. Прим. ред.

16

Ganesh Insurance («Страхование Ганеша») — реально существующая низкорейтинговая (сегодня) страховая компания; Life Insurance Corporation of India («Корпорация страхования жизни Индии») — крупная страховая компания, на рынке с 1956 года. Прим. ред.

17

Aadhaar — реально существующая сегодня и крупнейшая в мире система биометрического удостоверения личности. Граждане Индии и иностранцы-резиденты (при соблюдении некоторых условий) сейчас могут добровольно получить 12-значный уникальный идентификационный номер на основе биометрических и демографических данных. Проект запущен в 2009 году. Прим. ред.

18

Национализированная компания общего страхования, основана в 1919 году. Прим. ред.

19

Имперский колледж Лондона, до 2007 года входил в состав Лондонского университета. Основан в 1907 году путем слияния нескольких еще более старых учебных заведений. Прим. ред.

20

Страховая компания Lemonade основана в 2015 году в США; компания Waterdrop, представляющая онлайн-рынок страхования и связанную с ним платформу медицинского краудфандинга, — в 2016 году в Китае. Прим. ред.

21

Документальный фильм с элементами игрового кино (режиссер Дж. Орловски, 2020). Прим. ред.

22

Дипфейк (от deep learning [глубокое обучение] + фейк) — методика синтеза изображения, основанная на искусственном интеллекте. В видеороликах-дипфейках лицо одного человека подменяют лицом другого. Прим. ред.

23

Столица Нигерии до 1991 года. Крупнейший город страны и Африки. Население (в агломерации) — около 21 миллиона человек. Прим. ред.

24

Язык, распространенный на юго-востоке Нигерии. Прим. пер.

25

От XR (eXtended Reality — «расширенная реальность») — технология, позволяющая погрузиться в виртуальный мир. Прим. ред.

26

Так, по аналогии с американским Голливудом и индийским Болливудом, называют всю нигерийскую киноиндустрию. Прим. ред.

27

Развлекательный центр под открытым небом в Икедже, столице штата Лагос. Прим. пер.

28

Все имена принадлежат темнокожим — деятелям искусства, культуры, религии, борцам за права чернокожих в разных (в основном африканских) странах. Прим. ред.

29

Первый полнометражный фильм, смоделированный на компьютере полностью трехмерным; американский анимационный фильм. Совместное производство киностудии Pixar и компании Уолта Диснея (режиссер Дж. Лассетер, 1995). Прим. ред.

30

Near-field sensor — это сенсор, который считывает показания, находясь рядом с объектом, а near field communication (NFC) — технология передачи данных на близком расстоянии. Прим. науч. ред.

31

Бесконечная геометрическая фигура, каждый фрагмент которой повторяется при уменьшении масштаба. Прим. пер.

32

Люди, чья гендерная идентичность совпадает с биологическим полом. Прим. пер., ред.

33

Автоматически подгружаемый контент. Прим. пер.

34

«Чувство тела» — ощущение положения частей тела относительно друг друга и в пространстве. Прим. пер., ред.

35

Сокр. GTA. Серия мультиплатформенных компьютерных игр, первая вышла в 1997 году, последняя — в ноябре 2021-го. Прим. ред.

36

Медиафраншиза боевой фантастики. Игры — 2001–2021 гг. Прим. ред.

37

Non-Player Character — персонаж, управляемый не игроком, а компьютером. Прим. пер.

38

Фраза из двухминутной Геттисбергской речи Авраама Линкольна (1863), одной из величайших речей в истории на национально значимую тему. Прим. пер., ред.

39

Трансформеры предназначены для обработки последовательностей, в том числе текста на естественном языке, и решения задач машинного перевода и автоматического реферирования; обучаются быстрее, чем рекуррентные нейронные сети (РНС). Прим. ред.

40

But then, in his haste, / he got into a fight. / He had some emails that he sent / that weren’t quite polite. / The SEC said, “Musk, / your tweets are a blight.” Прим. ред.

41

Комиссия по ценным бумагам и биржам США. Прим. пер.

42

США образовались в 1776 году; у президентов всегда есть имя и фамилия, а «номер» в историографии присваивается монархам — царям, королям, императорам. Таким образом, мы наблюдаем несколько ошибок, совершенных GPT-3. Прим. ред.

43

Взаимоотношения Microsoft (один из основателей — Билл Гейтс) и Apple (один из основателей — Стив Джобс) всегда были достаточно напряженными, но Microsoft получала от Apple заказы на создание ПО. Microsoft была основана в 1975 году, Apple — в 1976-м; В 1980 году Microsoft подписала контракт с IBM на разработку MS-DOS (операционной системы, на смену которой пришла ОС Windows). В 1973 году Б. Гейтс поступил в Гарвардский университет, откуда через два года был отчислен (и стал считаться его выпускником в 2007 году). Гейтс никогда (в том числе и в 1980 году) не был студентом колледжа. Прим. ред.

44

Фантастическая мелодрама о «романе» одинокого писателя с новой операционной системой для его рабочего компьютера, оснащенной ИИ (2013, режиссер Спайк Джонз, США). Прим. ред.

45

Название космонавтов в Китае. Прим. ред.

46

Методика заключения модели в защищенную среду и ее обучение без перемещения данных куда-либо. Прим. пер.

47

Инфицированный организм, обладающий свойством повышенной заразности. Прим. пер.

48

Тревожное расстройство, иррациональный страх угрожающих жизни заболеваний. Прим. пер.

49

Технология генной инженерии — от англ. Clustered regularly interspaced short palindromic repeats — короткие палиндромные повторы, регулярно расположенные группами. Прим. ред.

50

Суперкомпьютер IBM Watson, оснащенный ИИ, был создан в начале 2010-х; в 2014 году, как сообщалось, фирма вложила в проект 1 миллиард долларов; в марте 2021 года стало известно, что IBM намерена продать этот суперкомпьютер. Прим. ред.

51

Онкологический центр имени М. Д. Андерсона Техасского университета и Мемориальный онкологический центр имени Слоуна — Кеттеринга (США). Прим. ред.

52

Биотехнологическая компания, разрабатывает новые медицинские препараты. Основатели — Александр Жаворонков, Полина Мамошина. Прим. ред.

53

Инновационный подход в системе здравоохранения: средства профилактики и лечения подбираются главным образом по генетической информации. Термин появился в 2009 году, первый проект запущен в США в 2016-м. Пока помогает примерно в 30 процентах случаев, не поддающихся традиционному (типовому) лечению. Прим. ред.

54

1 нанометр = 1 × 10–6 мм (одна миллиардная метра). Прим. ред.

55

Концепция сети передачи данных между физическими объектами («вещами» — things). Прим. пер.

56

Анимационный ситком, герои которого живут в 2060-х гг. В утопичном мире большую часть работы делают машины; с их помощью люди даже одеваются, умываются и перемещаются по дому. Для выполнения любой работы достаточно нажать кнопку. (Производство США — Канада; показ сезонов 1962, 1963, 1987 гг.) Прим. ред.

57

В буддизме: промежуточное состояние, буквально: «между двумя»; «промежуточная стадия между одним явлением и другим». Прим. ред.

58

Сегодня известны кинорежиссер Наото Такенака и композитор и музыкант Кэнъити Маэямада. Возможно, автор дал своим героям их имена. Прим. ред.

59

Generative Pre-trained Transformer; GPT-3 — третье поколение алгоритма обработки естественного языка. GPT-3 (на сентябрь 2020 года) — самая крупная и продвинутая языковая модель в мире; разработчики заявили, что она может быть использована для решения «любых задач на английском языке». Прим. ред.

60

Оригинальное название — Ready Player One. Экранизация одноименного романа Э. Клайна (режиссер С. Спилберг, 2018). Прим. ред.

61

Бесплатная многопользовательская ролевая мобильная игра для устройств с операционными системами iOS и Android, мировой хит 2016 года. Прим. ред.

62

Технология аудиозаписи, которая благодаря особому расположению микрофонов и предполагаемому воспроизведению через наушники создает специфический объемный звук. Прим. ред.

63

Научно-фантастический фильм по мотивам одноименного рассказа Ф. Дика (режиссер С. Спилберг, 2002). Прим. ред.

64

По-английски обычно говорят о шести чувствах в отличие от «русских» пяти; под шестым имеют в виду интуицию. Прим. ред.

65

Unreal — серия компьютерных игр-шутеров («стрелялок») (1998–2007 гг.). Unity — эксклюзивный (Apple) кросс-платформенный игровой движок Mac OS X (2005). Прим. ред.

66

Видео доступно на YouTube по запросу Magic Leap Whale, длительность 9 секунд. Прим. ред.

67

Британский научно-фантастический телесериал-антология о влиянии информационных технологий на человеческие отношения (автор Ч. Брукер, с 2011 года по настоящее время). Прим. ред.

68

Самый популярный сорт китайской водки байцзю двойной перегонки; содержание спирта — от 56 процентов. Прим. ред.

69

Один из главных буддистских храмов в Коломбо, по сути, храмовый комплекс, включает в себя кроме собственно храма музей, библиотеку, жилой зал, трехэтажную пиривену (монашеский колледж), учебные залы и зал для сбора милостыни. Прим. ред.

70

Метод определения переменного расстояния с помощью лазера. Используется для построения трехмерной модели областей на поверхности Земли и создания карт высокого разрешения. Прим. ред.

71

Система тактильной обратной связи в компьютерных играх. Прим. пер.

72

Феномен восприятия: раздражение в одной системе ощущений ведет к автоматическому реагированию другой. Доказан, но малоизучен. Прим. пер.

73

Технология BrainWave, существующая уже сегодня. Прим. ред.

74

На Шри-Ланке левостороннее движение. Прим. ред.

75

Храм Сима-Малака является частью храма Гангарамайя и находится в нескольких сотнях метров к востоку от основных зданий. Строился для медитации и отдыха (а не как место поклонения). Физически находится посередине озера Бейра — над водой. Прим. ред.

76

Научно-фантастические американские телесериалы. «Рыцарь дорог» (Knight Rider) — создатель Г. Ларсон (1982); «Особое мнение» (Minority Report) — создатель М. Боренштейн (2015). Прим. ред.

77

Society of Automotive Engineers (SAE International) — профессиональная ассоциация и международная организация по разработке и внедрению стандартов для транспортных средств, создана в 1905 году. Базируется в США. Прим. ред.

78

В РФ принято Постановление правительства «О проведении эксперимента по эксплуатации на автодорогах высокоавтоматизированных транспортных средств», который должен пройти в Москве и Республике Татарстан на автомобильных дорогах общего пользования. Сроки эксперимента — 1.12.2018–1.03.2022. Прим. ред.

79

Райдшеринг, или карпулинг, — использование автомобиля для поездки с помощью онлайн-сервисов поиска попутчиков. Прим. ред.

80

Один из видов тенденциозной подачи материала в медиа с целью манипуляций массами — умышленное преувеличение или преуменьшение значимости событий. Прим. ред.

81

Мысленный эксперимент в этике. Какое решение будет правильным: перевести железнодорожную стрелку, чтобы несущаяся вагонетка врезалась в одного человека, или не переводить, и тогда она врежется в группу людей? Прим. ред.

82

ИИ, результаты решения которого понятны людям, — по контрасту с концепцией «черного ящика» в машинном обучении, когда непонятно, почему ИИ пришел к определенному решению. Прим. ред.

83

Производитель технологии для беспилотных автомобилей, дочерняя компания Alphabet. Прим. ред.

84

Сатоси Накамото — псевдоним человека или группы людей, придумавших биткойн. Состав группы и подлинные имена пока не установлены. Прим. ред.

85

Реальная первоначальная форма транзакции в сети Bitcoin, позднее замененная на более надежную P2PKH (Pay-to-Public-Key-Hash). Прим. ред.

86

Персонаж романа А. Кларка и фильма С. Спилберга — «разумный» компьютер с искусственным интеллектом. Прим. ред.

87

Американский программист. Получил первую транзакцию биткойна в количестве 10 монет от Сатоси Накамото, как сообщала Washington Post. Прим. ред.

88

PSDC — сленг геймеров, созвучная русскому нецензурному ругательству аббревиатура. Прим. ред.

89

20 мс = 0,02 с. Прим. ред.

90

Нейроны, которые активируются при наблюдении действия (здесь: эмоционального состояния) другого человека. Прим. ред.

91

Популярный архитектурный стиль; характерные детали — плоские крыши, большие окна, отсутствие украшений. Прим. ред.

92

Китайско-американский физик, профессор физики МТИ. Прим. ред.

93

Раздел математики, изучающий наиболее общие свойства геометрических фигур, не изменяющиеся при любых деформациях. Прим. ред.

94

Стратегически важный пролив в районе Персидского залива. Прим. ред.

95

Пролив между островами Гренландия и Исландия. Прим. ред.

96

Автономный международный орган в рамках Организации экономического сотрудничества и развития (ОЭСР), создан в 1974 году. Прим. ред.

97

Тихоокеанский складчатый (геосинклинальный) пояс — самый крупный на планете окраинно-материковый подвижный пояс земной коры, окружает Тихий океан. Включает в себя горы Чукотки, Камчатки, Сихотэ-Алинь, Анды, Кордильеры, островные дуги Тихого океана. Ураган «Катрина» — самый разрушительный в истории США, 5 баллов по пятибалльной шкале, 2005 год. Война в Персидском заливе — вооруженный конфликт в 1990–1991 гг. Прим. ред.

98

Восстановление исходного текста программы на языке высокого уровня из ее исполнимого кода или объектных модулей. Прим. ред.

99

Тихоокеанская горная тропа, Маршрут тихоокеанского хребта — пешеходный и конный туристический маршрут вдоль Тихоокеанского побережья США от Мексики до Канады, проложенный вдали от крупных населенных пунктов по живописным уголкам дикой природы; протяженность — 4279 километров. Прим. ред.

100

Автор описывает реальные пожары в Калифорнии летом — осенью 2018 года, когда в регионе было объявлено чрезвычайное положение. Прим. ред.

101

Персонаж научно-фантастического комикса Филиппа Друйе (1966). Прим. ред.

102

От англ. block chain — «цепочка блоков». Децентрализованная база данных, выстроенная по определенным правилам, непрерывная последовательная цепочка блоков (связный список), содержащих информацию. Характерной особенностью хранения данных в блокчейне является невозможность скрытного изменения ранее записанных данных. Прим. науч. ред.

103

Здесь: сторонники идеи ускорения техносоциальных процессов в целях генерирования радикальных социальных перемен. От латинского acceleratio — «ускорение» (ср. акселерат, акселератор). Прим. ред.

104

Глобальная спутниковая система (компания SpaceX, США) для обеспечения высокоскоростным доступом в интернет в местах, где он до сих пор был ненадежным, дорогим или вообще отсутствовал. Первая группа спутников запущена в 2019 году. Прим. ред.

105

Эффект Комптона — рассеяние фотона заряженной частицей. Прим. ред.

106

Конечная игра (обоснованная игра) — игра для двух игроков, которая обязательно заканчивается после конечного числа ходов. Прим. ред.

107

Набран максимальный электрический заряд для мощного импульса. Прим. ред.

108

Уместна аналогия с химией и физикой. Атом — мельчайшая единица химического элемента, сохраняющая его свойства. Молекула — мельчайшая частица вещества, обладающая всеми его химическими свойствами. Прим. ред.

109

Протекания процессов. Прим. ред.

110

На сегодня реализован (но еще не опробован) процессор на 127 сверхпроводниковых кубитах (IBM, ноябрь 2021 года), на 2022-й запланирован выпуск чипов с 433, на 2024-й — с 1121 кубитом. Данные опубликованы РИА со ссылкой на зарубежные источники. Прим. ред.

111

Для коррекции ошибок, возникающих при работе кубитов, приходится объединять несколько «физических» кубитов в один «логический». Такая система нескольких кубитов и реализует на практике требуемую вычислительную функцию. Прим. науч. ред.

112

По данным российского справочного портала «Калькулятор» (https://www.calc.ru), ссылающегося на https://ru.cryptoratesxe.com, стоимость биткойна в январе 2021 года только однажды превысила 40 тысяч долларов, в остальные дни колебалась в основном между 32 и 38 тысячами долларов. Однако в течение года биткойн действительно несколько раз поднимался выше 60 тысяч долларов: в марте, апреле и октябре — ноябре. Прим. ред.

113

Беспилотный летательный аппарат (БПЛ) для уничтожения РЛС, самонаводящийся самолет-снаряд; на вооружении ВС Израиля. Первый полет — 1989 год. Стоимость — около 70 тысяч долларов. Прим. ред.

114

Институт будущей жизни (FLI) в ноябре 2017 года выпустил короткометражный научно-фантастический фильм об опасности самоуправляемых машин-убийц. Ролик предназначался для демонстрации на неделе Конвенции ООН в Женеве. Доступен к просмотру на YouTube по прямому запросу с переводом на русский посредством нейросетей. Продолжительность около 8 минут. Прим. ред.

115

Несколько мультикоптеров (два-три, данные разнятся) атаковали группу правительственных чиновников, в составе которой был президент Н. Мадуро. Инцидент произошел в 2018 году на государственном мероприятии. Полицейскими снайперами беспилотники были сбиты, никто не погиб, но были раненые (восемь-девять, данные разнятся). Примечательно, что, по некоторым источникам, это не были сугубо боевые БПЛА — преступники использовали мультикоптеры, применяющиеся для съемок и штатно способные нести видеокамеры. Но вместо кинооборудования дроны снарядили взрывчаткой. Цена беспилотников использованной модели — около шести тысяч долларов за единицу. Прим. ред.

116

Campaign to Stop Killer Robots, международная коалиция неправительственных организаций, стремящихся добиться запрета летального автономного оружия. Прим. ред.

117

Джон Генри — герой американского фольклора (XIX век), темнокожий рабочий-путеец, победивший в соревновании с паровым молотом, но погибший от истощения. Прим. ред.

118

«Синкия» (англ. Synchia) — название компании образовано от слова «синхронизировать» (англ. synchronize), то есть помогать специалистам адаптироваться к меняющемуся рынку труда. Прим. пер.

119

От англ. Saviour — «Спаситель». Прим. пер., ред.

120

Представители рабочего класса, чаще всего занятые физическим трудом с почасовой оплатой. Белые воротнички — служащие, не занимающиеся физическим трудом. Прим. ред.

121

А. Рэнд. «Атлант расправил плечи», роман-антиутопия, воспевающий индивидуализм (1957). Прим. пер.

122

От англ. point of view — «точка обзора». Прим. ред.

123

В культовом фильме «Матрица» (режиссеры братья Вачовски, 1999): «красная таблетка» — «болезненная правда», «синяя таблетка» — «успокаивающая иллюзия». Прим. пер.

124

Кай-Фу Ли. Сверхдержавы искусственного интеллекта. Москва: Манн, Иванов и Фербер, 2019.

125

Американский политик, в 2020 и 2021 гг. претендовал на посты президента США и мэра Нью-Йорка, но затем сам отказывался от участия в выборах. Прим. ред.

126

Прогноз ВОЗ на 2030 год, опубликованный летом 2021-го. Прим. ред.

127

Буря. Перевод Т. Л. Щепкиной-Куперник // Шекспир В. Полное собрание сочинений: В 8 т. / Под ред. А. А. Смирнова. Москва; Ленинград: Гослитиздат, 1949. Т. 8. Прим. пер.

128

Carpe diem (лат.) — «лови момент», «живи настоящим». Прим. пер.

129

Салуна — густой острый суп. Варак энаб — рулетики из виноградных листьев с начинкой из мяса, риса и специй. Макбус — пряное блюдо из риса, мяса и овощей. Прим. пер.

130

Эмили Дикинсон (1830–1886) — выдающаяся американская поэтесса XIX века, Раймонд Карвер (1938–1988) — выдающийся американский поэт и писатель XX века. Прим. пер., ред.

131

Работа Даниэля Канемана и Ангуса Дитона вышла в 2010 году и основана на масштабных исследованиях американского населения. Оба ученых получали Нобелевскую премию по экономике — в 2002 и 2015 гг. соответственно. Прим. пер.

132

Аль-рас — большой барабан, используемый в боевом танце. Прим. пер.

133

Арда — арабский танец с мечами. Прим. пер.

134

Клиника Модсли — крупный научно-исследовательский центр в области психиатрии. Прим. пер.

135

Кади — мусульманский судья. Прим. пер.

136

Работа вышла в 1978 году. В исследовании участвовали 22 победителя лотереи и 29 парализованных. Контрольная группа — 22 человека. Спустя четыре года (в 1982-м) 38-летний Брикман покончил с собой. Прим. пер.

137

Международная телекомпания, штаб-квартира находится в Дохе, столице Катара. Прим. ред.

138

Трехэтажный музей построен на краю гавани, на южной оконечности залива Доха. Если смотреть со стороны моря, кажется, будто он плывет. Прим. ред.

139

Колибри настолько быстро машут крыльями, что действительно возникает жужжащий звук. В стаи эти птицы не собираются, но Виктор услышал звук «как будто бы стаи». Прим. ред.

140

Летательные аппараты с неподвижным крылом взлетают благодаря его подъемной силе: самолеты, разнообразные беспилотники (БПЛА-дроны, крылатые ракеты и др.), дельтапланы и т. д. Винтокрылые летательные аппараты взлетают благодаря вращению одного или нескольких винтов: вертолеты, БПЛА-мультикоптеры и т. д. Прим. пер., ред.

141

1 миллион катарских риалов — почти 13 миллионов рублей, или около 174 тысяч долларов. Прим. ред.

142

General Data Protection Regulation, GDPR — постановление Евросоюза, унифицирующее защиту персональных данных в ЕС. Вне ЕС к исполнению необязательно, если только не обрабатываются персональные данные лиц ЕС. Прим. пер., ред.

143

Англ.: privacy computing, букв.: секретные вычисления. Прим. пер.

144

Англ.: trusted execution environment (TEE), букв.: доверительная («трастовая») среда выполнения. Прим. пер.

145

Эвдемонизм — философско-этическое течение, признающее критерием нравственности и основой поведения стремление человека к счастью. Прим. ред.

146

Регламент GDPR действует с 2018 года и заменил директиву Data Protection Directive («Директива о защите данных») от 1995 года. Штраф для юрлиц, нарушивших GDPR, — до 20 миллионов евро, или 4 процента мирового годового дохода компании. Прим. ред.

147

Фридрих II, или Фридрих Великий, правил Пруссией в 1740–1786 гг. Прим. пер.

148

Free software movement — социальное и политическое движение за гарантии четырех базовых свобод пользователей ПО: запускать, изучать, изменять свое ПО и распространять копии, с изменениями или без них. Движение зародилось среди приверженцев хакерской культуры и традиций в 1970-х гг., однако формально оформилось в 1983 году. Прим. ред.

149

В Алис-Спрингс живет много аборигенов. Прим. пер.

150

Система символов-тотемов аборигенов Австралии. Прим. ред.

151

День Австралии отмечается в честь высадки первых европейских колонизаторов 26 января 1788 года. Прим. пер.

152

Англ. Innovation and Science Australia. Прим. пер.

153

Обесцвечивание кораллов происходит из-за неблагоприятных изменений окружающей среды, например при повышении температуры морской воды. Первое массовое обесцвечивание произошло в 1997–1998 гг., погибло 16 процентов рифов в мире. Прим. пер., ред.

154

Йови — персонаж фольклора австралийских аборигенов, человекообразное чудище огромного роста. Прим. пер.

155

Англ. «Мечты ради будущего». Прим. пер.

156

Три первые промышленные революции: XVIII–XIX вв. (переход от ручного труда к механическому); вторая половина XIX — начало XX в. (электричество, конвейеры); вторая половина XX в. (цифровые технологии). Прим. пер.

157

В распространенных уже сегодня литий-ионных аккумуляторах (Li-ion) кроме общего для всех иона лития (собственно переносчика электрического заряда) используются другие вещества. Свойства литий-кобальтовых, литий-марганцевых, литий-железофосфатных, литий-титанатных и т. д. батарей сильно разнятся. Диапазон использования литий-ионных аккумуляторов — от мелких бытовых гаджетов до электромобилей. В 2019 году разработчики литий-ионных аккумуляторов были удостоены Нобелевской премии по химии. Прим. ред.

158

Международный аналитический центр, специализируется на прогнозировании последствий прорывных инноваций. Прим. ред.

159

Американский предприниматель, учредитель и организатор множества проектов, связанных с развитием космоса, медицины и передовых технологий. Прим. ред.

160

Materials Genome Initiative (MGI). Прим. ред.

161

Экономист и философ XVIII века, основатель классической политэкономии; главный труд — «Исследование о природе и причинах богатства народов» (1776). Прим. ред.

162

Первый глобальный экономический кризис 1929–1933 гг. Прим. ред.

163

Manu Saadia Trekonomics: The Economics of Star Trek [Трекономика: Экономика «Звездного пути»]. Pipertext, 2016. На русском не издавалась. Автор — французский экономист Ману Саадия. Прим. ред.

164

Харари Юваль Ной. 21 урок для XXI века. Москва: Синдбад, 2019. Прим. ред.

165

Мировые финансовые кризисы 2008–2009 и 2020 гг. Прим. ред.

166

Многозначное слово, употребляется во многих областях (философии, математике, астрономии, космологии, технологиях). Если грубо обобщить, то под сингулярностью везде понимается некая точка или момент времени, когда прогноз даже ближайшего будущего невозможен — некая «точка тотальной неопределенности». Прим. ред.

167

Попытка представить альтернативное развитие событий из прошлого: «А что было бы, если бы…?» Прим. пер.

168

Кай-Фу Ли. Сверхдержавы искусственного интеллекта. Москва: Манн, Иванов и Фербер, 2019. Прим. ред.

169

Цюфань Чэнь. Мусорный прибой. Москва: fanzon, 2020. Остальные книги на русском не издавались. Прим. пер., ред.

Content

Кай-Фу Ли, Чэнь Цюфань
ИИ-2041. Десять образов нашего будущего

Информация от издательства

Вступление Кай-Фу Ли. Реальная история искусственного интеллекта

Вступление Чэня Цюфаня. Как нам перестать тревожиться и научиться смотреть в будущее с фантазией?

Глава 1. Золотой слон

Анализ. Глубокое обучение; большие данные; финансовые интернет-приложения, вредоносные проявления ИИ

Глава 2. Боги под масками

Анализ. Компьютерное зрение, сверточные нейронные сети; дипфейки; генеративно-состязательные сети (GAN); биометрия; безопасность ИИ

Глава 3. Воробьи-близнецы

Анализ. Обработка естественного языка (ОЕЯ); самообучение; алгоритм GPT-3; общий искусственный интеллект (ОИИ) и сознание; ИИ-образование

Глава 4. Бесконтактная любовь

Анализ. ИИ в здравоохранении; программа AlphaFold; роботизация; ускорение автоматизации, вызванное пандемией ковида

Глава 5. Мой призрачный кумир

Анализ. Виртуальная (VR), дополненная (AR) и смешанная (MR) реальность; нейрокомпьютерный интерфейс (BCI); этические и социальные вопросы

Глава 6. Святой возница

Анализ. Транспортные средства без водителя; полная автономия и умные города; социально-этические вопросы

Глава 7. Квантовый геноцид

Анализ. Квантовые компьютеры; защищенность биткойна; автономное оружие и реальные угрозы

Глава 8. Спаситель рабочих мест

Анализ. ИИ вытесняет людей с рынка труда; безусловный базовый доход (ББД); неподвластное ИИ; трехшаговая стратегия трех П борьбы с безработицей

Глава 9. Остров счастья

Анализ. ИИ и счастье; Общий регламент по защите данных (GDPR); персональные данные; конфиденциальные вычисления посредством федеративного обучения и доверенная среда исполнения

Глава 10. Мечты об изобилии

Анализ. Изобилие; новые экономические модели; будущее денег; сингулярность

Благодарности

Об авторах

МИФ Бизнес

Над книгой работали

Примечания