Сьюзан Шнайдер

Искусственный ты. Машинный интеллект и будущее нашего разума

Переводчик Наталья Лисова

Научный редактор Александр Каплан, д-р биол. наук

Редактор Вячеслав Ионов

Издатель П. Подкосов

Руководитель проекта И. Серёгина

Ассистент редакции М. Короченская

Корректоры Е. Воеводина, С. Чупахина

Компьютерная верстка А. Ларионов

Дизайн обложки Ю. Буга

Иллюстрация на обложке Gettyimages.ru

© Susan Schneider, 2019

© Издание на русском языке, перевод, оформление. ООО «Альпина нон-фикшн», 2022

Все права защищены. Данная электронная книга предназначена исключительно для частного использования в личных (некоммерческих) целях. Электронная книга, ее части, фрагменты и элементы, включая текст, изображения и иное, не подлежат копированию и любому другому использованию без разрешения правообладателя. В частности, запрещено такое использование, в результате которого электронная книга, ее часть, фрагмент или элемент станут доступными ограниченному или неопределенному кругу лиц, в том числе посредством сети интернет, независимо от того, будет предоставляться доступ за плату или безвозмездно.

Копирование, воспроизведение и иное использование электронной книги, ее частей, фрагментов и элементов, выходящее за пределы частного использования в личных (некоммерческих) целях, без согласия правообладателя является незаконным и влечет уголовную, административную и гражданскую ответственность.

* * *

Посвящается Елене, Алексу и Элли

Введение

Представьте, что на дворе 2045 год и вы отправляетесь за покупками. Ваша первая остановка – Центр конструирования разума. Вы входите и видите большое меню с причудливыми названиями, за каждым из которых кроется то или иное расширение возможностей мозга. «Коллективное сознание» – это чип для мозга, позволяющий воспринимать самые потаенные мысли близких людей. «Сад дзен» – микрочип, позволяющий не хуже мастера дзен входить в состояние глубокой медитации. «Живой калькулятор» обеспечит вам математические способности едва ли не гениального уровня. Выбрали бы вы что-нибудь такое и если да, то что именно? Повышенную внимательность? Музыкальные способности, как у Моцарта? Можно заказать одно улучшение, а можно сразу комплект.

А потом вы идете в магазин андроидов. Пора обновить андроида для ведения домашнего хозяйства. Набор видов искусственного интеллекта (будем называть их искинами) обширен и разнообразен. Одни искины позволяют воспринимать или чувствовать то, что людям недоступно, другие обеспечивают связь с базами данных всего интернета. Вы выбираете то, что нужно вашей семье. Весь день у вас уходит на выбор искинов-помощников и конструирование собственного разума.

В этой книге речь пойдет о будущем разума, о том, как наши представления о себе, о разуме и о собственной природе могут изменить будущее – к лучшему или к худшему. Наш мозг приспособлен для жизни в определенных условиях и имеет значительные анатомические и эволюционные ограничения. Искусственный интеллект (ИИ) открывает простор для расширения его возможностей, предлагая новые материалы и принципы работы, а также новаторские пути развития, причем гораздо более быстрые, чем биологическая эволюция. Я называю это захватывающее новое направление конструированием разума. Конструирование разума – это форма креационизма, где в роли творца выступаем мы, люди, а не Бог.

Лично меня перспектива конструирования разума заставляет трезво взглянуть на наши нынешние возможности, ведь, если честно, мы не так уж и развиты. Пришелец в фильме Карла Сагана «Контакт» после первой встречи с человеком говорит: «Вы интересный биологический вид. Интересная смесь. Вы способны на такие чудесные сновидения и на такие ужасные кошмары»[1]. Мы ступили на Луну, обуздали энергию атома, но расизм, алчность и жестокость по-прежнему встречаются на каждом шагу. Наше общественное развитие отстает от наших же технических достижений.

На этом фоне мысль о полном отсутствии у нас философского понимания природы разума может показаться мелочью. Однако непонимание в философии тоже обходится недешево, как ясно демонстрируют две основные сюжетные линии этой книги.

Одна из них всем хорошо знакома. Она присутствует в жизни всегда, от начала до конца: это ваше сознание. Читая это, вы определенным образом ощущаете себя. Вы испытываете телесные ощущения, видите слова на странице и т. д. Ощущаемая сущность вашей ментальной жизни и есть сознание. Без сознания не было бы боли и страданий, не было бы ни радости, ни жгучего любопытства, ни мук скорби. Переживаний, положительных или отрицательных, попросту не существовало бы.

Именно как существо, обладающее сознанием, вы мечтаете об отпуске, прогулке в лесу или изысканных трапезах. Сознание настолько близко, настолько знакомо каждому, что оно естественным образом воспринимается в основном через призму личного опыта. В конце концов, не обязательно читать учебник по нейробиологии, чтобы понять, как ощущается обладание сознанием. Сознание и есть, по существу, внутреннее ощущение. Именно этот базовый элемент – осознанное переживание – служит, на мой взгляд, признаком обладания разумом.

Суть второй сюжетной линии книги заключается в том, что неспособность продумать философские последствия создания искусственного интеллекта (ИИ) может положить конец дальнейшему процветанию существ, обладающих сознанием. При недостаточной осмотрительности реализация технологии ИИ может выйти нам боком, иначе говоря, вместо упрощения жизни принести страдания, гибель или эксплуатацию людей.

Некоторые связанные с ИИ угрозы процветанию человечества обсуждаются уже давно. Это и хакеры, способные нарушить работу сетей электроснабжения, и сверхразумные автономные системы вооружения, пришедшие словно из фильма «Терминатор». Я же поднимаю вопросы, привлекающие куда меньше внимания. Однако они не менее значимы. Порочная реализация ИИ, о которой я говорю, имеет две разновидности: (1) непредусмотренные ситуации, связанные с созданием мыслящих машин, и (2) последствия радикального расширения возможностей мозга, подобного тому, что предлагается в гипотетическом Центре конструирования разума. Рассмотрим эти опасности по очереди.

Машины, обладающие сознанием?

Предположим, мы умеем создавать совершенные универсальные искины – такие, что могут легко переходить от одного вида интеллектуальной деятельности к другому и даже соперничать с людьми по способности рассуждать. Будет ли это означать, что мы, по существу, умеем создавать машины, обладающие сознанием, – машины, которые являются одновременно личностями и субъектами переживания?

Когда дело доходит до вопроса о том, способны мы создать машинное сознание или нет, следует честно признаться, что никто этого не знает. Ясно одно: вопрос о том, могут ли искины переживать, станет ключом к тому, насколько мы будем ценить их существование. Сознание есть краеугольный камень нашей морали, поскольку оно занимает центральное место в суждении о том, является ли кто-то или что-то личностью, а не просто автоматом. А если искин – это обладающая сознанием сущность, то принуждение его к услужению смахивает на рабство. В конце концов, как бы вы себя чувствовали в магазине андроидов, где на продажу выставлены существа, обладающие сознанием, – существа, умственные способности которых сравнимы с вашими или даже превосходят их?

Если бы я была директором по разработке ИИ компании Google или Facebook, то в будущих проектах мне не хотелось бы попасть в этическую западню из-за создания по недосмотру системы, обладающей сознанием. Появление системы, которая может себя осознавать, могло бы спровоцировать обвинения в ИИ-рабстве и другие кошмары в сфере связи с общественностью. Такое событие могло бы привести даже к запрету использования ИИ-технологий в определенных областях деятельности.

На мой взгляд, все это способно подтолкнуть ИИ-компании к целенаправленной работе над тем, чтобы избежать создания обладающего сознанием искина для определенных задач. Разумеется, для этого сознание должно быть тем, что можно как включить в систему при разработке, так и исключить из нее. Однако оно может быть неизбежным побочным продуктом построения разумной системы или вообще оказаться невозможным.

Не исключено, что в долгосрочной перспективе ситуация изменится не в пользу человека и проблема будет уже не в том, какой вред мы можем нанести искинам, а в том, как искины могут навредить нам. В самом деле, некоторые считают, что синтетический разум будет следующей после человека стадией эволюции разума на Земле. Тогда мы с вами и то, как мы живем и воспринимаем мир, – это всего лишь промежуточный шаг на пути к ИИ, ступенька на эволюционной лестнице. Не случайно Стивен Хокинг, Ник Бостром, Илон Маск, Макс Тегмарк, Билл Гейтс и не только они поднимают «проблему контроля» – вопрос о том, как человек сможет контролировать собственные ИИ-творения, если искины станут умнее нас[2]. Предположим, мы создадим ИИ с уровнем интеллекта, сравнимым с человеческим. Обладая алгоритмами самосовершенствования и способностью к стремительным вычислениям, такой искин мог бы быстро стать намного умнее человека и превратиться в сверхразум – т. е. обрести интеллектуальное превосходство над нами во всех отношениях. Мы, предположительно, не сможем контролировать такой сверхразум, и он, в принципе, получит возможность стереть нас с лица земли. Это лишь один из вариантов вытеснения органического разума искусственными созданиями; в качестве альтернативы человек может слиться с ИИ в результате последовательного усовершенствования мозга.

Проблема контроля стала темой мировых новостей, чему не в последнюю очередь способствовал недавний бестселлер Ника Бострома «Искусственный интеллект»[3][4]. Однако при этом упускается из виду, что сознание может оказаться центральным моментом и в вопросе о том, как ИИ будет оценивать нас. Используя собственный субъективный опыт как трамплин, сверхразумный искин мог бы и у нас увидеть способность к осознанному переживанию. В конце концов, если мы в определенной мере ценим жизнь животных, то делаем это потому, что ощущаем сродство сознания – так, почти любой из нас испытает отвращение при мысли об убийстве шимпанзе, но без всяких угрызений совести съест апельсин. Вот если сверхразумные машины не будут обладать сознанием, – то ли потому, что это невозможно, то ли потому, что их так спроектировали, – мы можем оказаться в беде.

Эти вопросы необходимо рассматривать в еще более широком, поистине вселенском контексте. Как участница двухгодичного проекта в NASA я выдвинула предположение, что схожие события могут происходить и на других планетах; где-то во Вселенной другие биологические виды, возможно, вытесняются искусственным разумом. Занимаясь поисками внеземной жизни, мы должны иметь в виду, что самые разумные инопланетяне могут оказаться постбиологическими сущностями, искинами, развившимися на основе биологических цивилизаций. И если эти искины не способны обладать сознанием, то с заменой ими биологического разума Вселенная попросту лишается целых популяций существ, обладающих сознанием.

Если сознание, присущее или не присущее ИИ, действительно так важно, как я утверждаю, то нам лучше заранее знать, может ли оно в принципе быть создано и не создали ли его мы, земляне. В последующих главах я расскажу о том, как определить, существует ли искусственное сознание, и коротко опишу тесты, разработанные мной в Институте перспективных исследований в Принстоне.

А теперь рассмотрим идею слияния людей с ИИ. Представьте, что вы находитесь в Центре конструирования разума. Какие расширения возможностей мозга вы выбрали бы из меню – если вообще стали бы это делать? Вы, вероятно, уже начинаете догадываться, что принятие решений при конструировании разума – дело весьма и весьма непростое.

Можно ли слиться с ИИ?

Я не удивлюсь, если идея расширения возможностей мозга при помощи микрочипов кажется вам совершенно пугающей – как, кстати, и мне. Сейчас, когда я пишу это введение, приложения в моем смартфоне, вполне возможно, отслеживают мое местонахождение, слушают мой голос, фиксируют содержание моих поисковых запросов и продают всю эту информацию рекламщикам. Я вроде бы отключила эти функции, но компании, создающие приложения, делают этот процесс настолько непрозрачным, что уверенности в успехе нет. Если ИИ-компании даже сейчас не уважают нашу частную жизнь, то можно представить себе, какие потенциальные возможности для злоупотреблений появятся, когда самые потаенные наши мысли будут оцифрованы и записаны на микрочипы, а то и доступны где-нибудь в интернете.

Но предположим, что законодательство, регулирующее ИИ, улучшится и наш мозг можно будет защитить от хакеров и алчности корпораций. Тогда, наверное, у вас появится желание расширить возможности мозга – ведь окружающие, похоже, получают немалую пользу от этих технологий. В конце концов, если слияние с ИИ ведет к рождению сверхразума и радикальному увеличению продолжительности жизни, разве этот путь не лучше обычной альтернативы – неизбежной деградации умственных способностей и тела?

Идея о необходимости слияния человечества с ИИ сегодня буквально витает в воздухе. Ее преподносят, с одной стороны, как средство предотвращения вытеснения людей искинами с привычных рабочих мест, а с другой – как путь к сверхразуму и бессмертию. Например, Илон Маск недавно заметил, что люди могут избежать вытеснения искусственным интеллектом при помощи «соединения биологического и машинного интеллекта»[5]. С этой целью он основал новую компанию Neuralink. Одна из ее первых целей – создать «нейронное кружево», своеобразную паутинку, которая будет вводиться в мозг путем инъекции и обеспечивать его связь с компьютером. Нейронное кружево[6] и другие усовершенствования, основанные на технологии ИИ, должны, по идее, сделать возможной беспроводную передачу информации из вашего мозга в цифровые устройства или в облако, где доступны большие вычислительные мощности.

Однако мотивы Маска, похоже, не чисто альтруистические. Он проталкивает на рынок линейку продуктов, призванных решить проблему, которую создает сам ИИ. Возможно, его идеи окажутся полезными, но, чтобы понять, так ли это, нужно абстрагироваться от рекламной шумихи. Правительства, общество и даже сами специалисты в области ИИ должны лучше представить себе, что находится на кону.

Например, если ИИ в принципе несовместим с сознанием, то вы, заменив микрочипом часть мозга, отвечающую за сознание, перестанете сознавать себя и ваша жизнь как существа, обладающего сознанием, закончится. Вы станете тем, что философы называют «зомби» – лишенным сознания подобием своего прежнего «я». Даже если такая замена возможна без зомбирования, радикальное усовершенствование мозга все равно будет представлять серьезный риск. После серьезных изменений получившаяся личность, возможно, уже не будет вами. Человек, совершенствующий себя таким образом, может незаметно закончить в ходе этого процесса свое существование.

Мой опыт подсказывает, что многие сторонники радикального усовершенствования мозга не осознают, что усовершенствованное существо, возможно, будет уже другим человеком. Они, как правило, считают, что разум – это что-то вроде компьютерной программы. По их мнению, можно радикально улучшить физические компоненты мозга и при этом сохранить ту же самую программу, прежний разум. Они считают, что разум человека, подобно компьютерному файлу, который мы загружаем и выгружаем, как хотим, можно загрузить в облако. Это технофильский путь к бессмертию – если угодно, новая «загробная жизнь» разума, способного пережить тело. Но, какой бы притягательной ни казалась эта технологическая форма бессмертия, мы с вами увидим, что такое представление о разуме глубоко ошибочно.

Так что если через несколько десятилетий вы зайдете в Центр конструирования разума или посетите магазин андроидов, помните, что предлагаемые там ИИ-новинки могут оказаться непригодными к использованию по глубоким философским причинам. Покупатель, будь осмотрителен. Впрочем, вы можете усомниться в правильности моего предположения и в том, что совершенный ИИ будет создан. Есть ли основания полагать, что хоть что-то из описанного выше все же произойдет?

Глава 1

Век ИИ

Возможно, вы даже не задумываетесь о существовании ИИ, но он уже вокруг вас повсюду. Он помогает вам искать информацию в Google. Он одерживает верх над мировыми чемпионами Jeopardy![7] и го. И он совершенствуется с каждой минутой. Но универсального ИИ, т. е. такого, который способен самостоятельно поддержать разумную беседу, включающую идеи из различных областей знания, и даже превзойти человека в сообразительности, у нас нет. Такого рода ИИ фигурирует в кинофильмах «Она», «Из машины» и прочей фантастике, и может показаться, что там он и останется.

Я, однако, подозреваю, что момент его появления не так уж далек от нас. К развитию ИИ нас подталкивают рыночные механизмы и военно-промышленный комплекс – в настоящее время миллиарды долларов тратятся на разработку боевых роботов, умных помощников по дому и суперкомпьютеров, имитирующих работу человеческого мозга. Так, правительство Японии, предвидя недостаток рабочих рук, развернуло программу, результатом которой должны стать андроиды для ухода за престарелыми.

С учетом нынешних более чем стремительных темпов развития ИИ можно ожидать появления универсального искусственного интеллекта уже в ближайшие десятилетия. Универсальный ИИ – это разум, способный, подобно человеческому, соединять воедино неочевидные знания из разных тематических областей и демонстрировать при этом гибкость и здравый смысл. Уже сейчас предполагается, что в ближайшие десятилетия ИИ сделает ненужными многие человеческие профессии. Согласно недавнему обзору, например, самые цитируемые исследователи искусственного интеллекта считают, что ИИ сможет «освоить большинство человеческих профессий по крайней мере так же хорошо, как средний человек» к 2050 г. с вероятностью 50 %, а к 2070 г. – с вероятностью 90 %[8].

Я уже говорила, что многие эксперты предупреждают о появлении сверхразумного ИИ: искусственного интеллекта, превосходящего умнейших представителей человечества во всех отношениях, включая логические рассуждения и социальные навыки. Сверхразум будет способен уничтожить нас, утверждают они. В противоположность этому Рэй Курцвейл – футурист, занимающий в настоящее время должность технического директора в компании Google, рисует технологическую утопию, которая принесет с собой конец старению, болезням, бедности и недостатку ресурсов. Курцвейл говорит даже о потенциальных достоинствах дружбы с персонализированными ИИ-системами вроде программы «Саманта» из фильма «Она».

Сингулярность

Курцвейл и другие трансгуманисты сходятся в том, что мы быстро приближаемся к «технологической сингулярности» – точке, где ИИ намного превзойдет человеческий разум и сможет решать задачи, которые мы прежде были не в состоянии решить, с непредсказуемыми последствиями для цивилизации и человеческой природы.

Понятие сингулярности проистекает из математики и физики, в первую очередь из концепции черной дыры. Черные дыры – это «сингулярные» объекты в пространстве и времени, места, где нормальные физические законы рушатся и не работают. По аналогии, технологическая сингулярность должна привести к неуправляемому техническому развитию и вызвать принципиальные изменения в цивилизации. Правила, по которым человечество жило тысячи лет, внезапно перестанут действовать. Ситуация станет непредсказуемой.

Технологические изменения могут оказаться не настолько стремительными, чтобы породить полномасштабную сингулярность, при которой мир меняется чуть ли не в одночасье. Но это не должно отвлекать нас от более серьезного момента: осознания того, что уже в XXI веке мы, вполне возможно, перестанем быть самыми разумными существами на планете. В будущем лучшими станут умы искусственные.

Мне кажется, мы уже видим причины, по которым искусственный интеллект превзойдет нас во всем. Даже сейчас микрочипы действуют быстрее, чем нейроны. Сегодня, когда я пишу эту главу, самым быстрым в мире является суперкомпьютер Summit в Окриджской национальной лаборатории в штате Теннесси. Его производительность составляет 200 петафлопс, т. е. 200 миллионов миллиардов операций в секунду. То, что Summit делает в мгновение ока, заняло бы всех людей на Земле, производящих по одной вычислительной операции в минуту в течение всего дня, на 305 суток[9].

Разумеется, скорость – это еще не все. Если за мерило взять не арифметические расчеты, то окажется, что ваш мозг обладает куда большей вычислительной мощностью, чем Summit. Ваш мозг – продукт 3,8 млрд лет эволюции (именно во столько оценивается возраст жизни на нашей планете), и его мощь направлена на распознавание закономерностей, быстрое обучение и другие практические задачи выживания[10]. Индивидуальные нейроны, возможно, работают медленно, но они организованы в многократно запараллеленную структуру, которая до сих пор оставляет современные системы ИИ далеко позади. Но ИИ обладает почти неограниченной возможностью для развития. Пройдет, может быть, совсем немного времени, и появится суперкомпьютер, способный сравняться по интеллекту с человеческим мозгом или даже превзойти его. Сделано это будет путем воспроизведения мозга и усовершенствования его алгоритмов или через создание новых алгоритмов, вообще не связанных с работой мозга.

Помимо прочего, любой искин можно будет загружать одновременно во множество устройств, легко дублировать и модифицировать, он может уцелеть в условиях, неблагоприятных для биологической жизни, в том числе во время межзвездных путешествий. Наш мозг, несмотря на свою мощность, ограничен объемом черепа и процессами обмена веществ. ИИ, в отличие от нас, может распространить свое присутствие на весь интернет и даже организовать галактический «компьютроний» – громадный суперкомпьютер, использующий в своих расчетах все вещество какой-нибудь галактики. В долгосрочной перспективе о каком бы то ни было состязании не может быть и речи. ИИ будет намного способнее и долговечнее нас.

Ошибка Джетсонов

Все это вовсе не обязательно означает, что мы, люди, потеряем контроль над ИИ и приговорим себя к вымиранию, как утверждают некоторые. Если мы усилим свой интеллект при помощи ИИ-технологий, нам, возможно, удастся не отстать от искусственного интеллекта. Не забывайте, ИИ позволит создавать не только все более совершенных роботов и суперкомпьютеры. В фильме «Звездные войны» и мультсериале «Джетсоны» люди окружены сложными искинами, притом что сами обходятся без улучшений и остаются просто людьми. Историк Майкл Бесс называет это «ошибкой Джетсонов»[11]. В реальности ИИ не просто преобразует мир. Он преобразует и нас тоже. Нейронное кружево, искусственный гиппокамп[12], имплантируемые в мозг микрочипы для лечения аффективных расстройств – вот лишь некоторые из изменяющих разум технологий, которые уже находятся в разработке. Так что Центр конструирования разума не такая уж невероятная выдумка. Напротив, это вполне правдоподобная экстраполяция нынешних технологических тенденций.

Чем дальше, тем больше человеческий мозг рассматривается как нечто, что может быть взломано подобно компьютеру. В одних только США уже немало проектов, где разрабатываются мозговые импланты для лечения психических заболеваний, двигательных расстройств, инсультов, деменции, аутизма и многого другого[13]. Сегодняшние методы оказания медицинской помощи с неизбежностью найдут продолжение завтра. В конце концов, люди жаждут стать умнее, эффективнее или просто усилить способность радоваться жизни. С этой целью ИИ-компании, такие как Google, Neuralink и Kernel, пытаются определить, как «скрестить» человека с машиной. В ближайшие десятилетия вы, возможно, станете киборгом.

Трансгуманизм

Исследования в этой области начались недавно, но стоит подчеркнуть, что ее основные идеи появились намного раньше и обрели форму философско-культурного движения, известного как трансгуманизм. Джулиан Хаксли пустил в оборот термин «трансгуманизм» в 1957 г., когда написал, что в самом близком будущем «биологический вид человека окажется на пороге нового типа существования, отличающегося от нашего не меньше, чем наше существование отличается от существования синантропа»[14].

Трансгуманизм исходит из того, что наш биологический вид в настоящее время находится на сравнительно ранней ступени и что развивающиеся технологии изменят саму эволюцию человека. В перспективе люди будут совершенно непохожи на свое нынешнее воплощение как в физическом, так и в ментальном отношении и приблизятся к персонажам научно-фантастических рассказов. Они получат значительно более развитый интеллект и почти полное бессмертие, подружатся с искинами и будут сами выбирать свои телесные характеристики. Трансгуманисты уверены, что такой результат очень желателен как в отношении индивидуального развития, так и в отношении развития нашего биологического вида в целом. (Чтобы полнее познакомить читателя с трансгуманизмом, я включила Декларацию трансгуманистов в приложение.)

Хотя концепция эта отдает научной фантастикой, многие технические достижения, которые описывает трансгуманизм, представляются вполне возможными: не исключено, что начальная стадия ожидаемых радикальных перемен заключается в некоторых технических достижениях, которые либо уже здесь (если не общедоступны), либо, по мнению многих экспертов в соответствующих областях науки, на пути к нам[15]. Например, Институт будущего человечества Оксфордского университета – одно из крупных объединений трансгуманистов – выпустил доклад о технических требованиях к загрузке разума в машину[16]. Одно из агентств Министерства обороны США финансирует программу Synapse, участники которой пытаются сконструировать компьютер, напоминающий мозг по форме и функциональности[17]. Рэй Курцвейл говорит даже о потенциальных преимуществах дружбы с персонализированными ИИ-системами – искинами – в стиле фильма «Она»[18]. Всюду вокруг нас исследователи стремятся превратить научную фантастику в научный факт.

Вы, возможно, удивитесь, узнав, что я считаю себя трансгуманистом, но это действительно так. Впервые я узнала о трансгуманистах во время учебы в Калифорнийском университете в Беркли и тогда же вступила в одну из их групп – Экстропианское общество. Я запоем прочитала коллекцию фантастики своего бойфренда и регулярно знакомилась с экстропианской рассылкой. Меня очаровали представления трансгуманистов о техноутопическом будущем Земли. Я по-прежнему надеюсь на то, что новые технологии принесут нам радикальное увеличение продолжительности жизни, помогут справиться с недостатком ресурсов и болезнями и даже повысят качество ментальной жизни – если, конечно, мы захотим себя усовершенствовать.

Небольшое предостережение

Проблема в том, как попасть отсюда туда в условиях радикальной неопределенности. Ни одна из написанных сегодня книг не в состоянии точно обрисовать контуры пространства конструирования разума, и не исключено, что базовые философские тайны так и останутся неразгаданными с расширением нашего научного знания и повышением технического уровня.

Полезно помнить, что будущее туманно в двух важных отношениях. Во-первых, существуют известные неизвестные. Мы не можем с уверенностью сказать, например, когда использование квантовых компьютеров станет привычной повседневностью. Мы не можем сказать, будут ли и как именно будут регулироваться те или иные технологии, основанные на ИИ, или достаточно ли эффективными окажутся существующие меры ИИ-безопасности. Кроме того, простых и непротиворечивых ответов на философские вопросы, которые мы будем обсуждать в этой книге, по моему мнению, просто не существует. Во-вторых, есть и неизвестные неизвестные – будущие события, такие как политические изменения, технические инновации или научные прорывы, которые могут захватить нас совершенно врасплох.

В следующих главах мы обратимся к одному из основных известных неизвестных: к загадке осознанного переживания. Мы посмотрим, как появляется эта загадка в случае человека, а затем зададимся вопросом: сможем ли мы распознать сознание в существах, сильно отличающихся от нас в интеллектуальном отношении и даже состоящих из другой материи? Для начала попробуем хотя бы просто почувствовать глубину вопроса.

Глава 2

Проблема искусственного сознания

Что значит обладать сознанием? Во время бодрствования и сновидений вы каждое мгновение каким-то образом ощущаете себя собой. Услышав любимую мелодию или почувствовав аромат утреннего кофе, вы испытываете осознанные переживания. Хотя утверждение о том, что сегодняшние искины обладают сознанием, будет, пожалуй, преувеличением, со временем, когда они станут более сложными, может, и у них появится самоощущение? Способен ли искусственный разум испытывать чувственные переживания или эмоции, такие как жгучее любопытство или мучительная скорбь? А может быть, он способен испытывать переживания совершенно иного характера, чем наши? Назовем это проблемой искусственного сознания. Независимо от того, насколько поразительными станут искины будущего, если машины в принципе не способны обладать сознанием, то они могут иметь суперинтеллект, но внутренней ментальной жизни у них все равно не будет.

В контексте биологической жизни интеллект и сознание, судя по всему, неразделимы. Высокоразвитые биологические существа, обладающие интеллектом, имеют, как правило, сложные и тонкие внутренние переживания. Но будет ли эта закономерность распространяться и на небиологический разум? Многие полагают, что да. Например, трансгуманисты, такие как Рэй Курцвейл, склонны считать, что сознание неусовершенствованного человека померкнет в сравнении с внутренней жизнью и переживаниями сверхразумного ИИ[19]. Но, как мы увидим, такие заключения преждевременны. Не исключено, что андроиды, в машинном разуме которых горит искра сознания, вроде Долорес из телесериала «Мир Дикого Запада» или Рейчел из фильма «Бегущий по лезвию», нереальны. Даже если искины превзойдут нас интеллектуально, мы все равно будем стоять выше их в одном принципиально важном аспекте – способности ощущать себя собой.

Попробуем просто оценить, насколько непостижимо сознание, даже в случае человека.

Сознание искина и трудная проблема

Философ Дэвид Чалмерс сформулировал «трудную проблему сознания», задав вопрос: почему вся информация, которая обрабатывается в мозге, должна ощущаться внутренне определенным образом? Почему нам необходимы осознанные переживания? Чалмерс подчеркивал, что эта проблема, судя по всему, не имеет чисто научного ответа. Например, мы можем разработать всеобъемлющую теорию зрения и выяснить в деталях, как обрабатывается в мозгу зрительная информация, но при этом все равно не понять, почему вся информация, обрабатываемая зрительной системой, непременно сопровождается субъективными переживаниями. Чалмерс противопоставляет трудную проблему сознания тому, что он называет «легкими проблемами», которые связаны с сознанием и имеют, в принципе, научные ответы (это может быть механизм внимания, то, как мы распределяем все по категориям или реагируем на раздражители)[20]. Конечно, эти научные проблемы сложны, просто Чалмерс называет их «легкими», чтобы противопоставить «трудной проблеме сознания», которая, как он считает, никогда не получит чисто научного решения.

Мы же теперь сталкиваемся еще с одним непостижимым вопросом, имеющим отношение к сознанию, – со своеобразной «трудной проблемой» машинного сознания, если хотите.

Проблема искусственного сознания: должна ли обработка информации искином ощущаться определенным образом внутренне?

Развитый искин должен решать задачи, которые не могут решить даже умнейшие из людей, но будет ли обработка информации в нем сопровождаться какими бы то ни было субъективными ощущениями?

Проблема искусственного сознания – это не просто трудная проблема Чалмерса в приложении к ИИ. Мало того, между двумя проблемами существует принципиальная разница. Трудная проблема Чалмерса априори предполагает, что мы обладаем сознанием. В конце концов, каждый из нас, опираясь на самоанализ, может сказать, что он сейчас в сознании. Вопрос в том, почему мы обладаем сознанием. Почему некоторые результаты обработки информации мозгом ощущаются внутренне определенным образом? Проблема же искусственного сознания состоит в том, способен ли в принципе ИИ, созданный на основе других материалов, таких как кремний, обладать сознанием. Здесь не предполагается заранее, что ИИ обладает сознанием, – в этом и состоит вопрос. Это разные проблемы, правда, у них есть кое-что общее: не исключено, что их невозможно решить при помощи одной только науки[21].

При обсуждении проблемы искусственного сознания доминируют, как правило, две противоположные позиции. Сторонники первой – биологического натурализма – считают, что даже самые продвинутые типы искинов будут лишены внутренних переживаний[22]. Способность обладать сознанием – уникальное свойство биологических организмов, так что даже сложные андроиды и сверхразумы не смогут осознать себя. Представители второй позиции, которую я буду называть «технооптимизмом в отношении искусственного сознания» (или «технооптимизмом» – для краткости), отрицают биологический натурализм. Опираясь на эмпирические работы в области когнитивистики, они утверждают, что сознание – это полностью вычислительный процесс и, соответственно, сложные вычислительные системы будут испытывать внутренние переживания.

Биологический натурализм

Если взгляды сторонников биологического натурализма справедливы, то романтические отношения или дружба между человеком и искином, таким как Саманта в уже упоминавшемся фильме «Она», окажутся безнадежно односторонними. ИИ, возможно, будет умнее людей и даже сможет изобразить сочувствие или романтический интерес, как та же Саманта, но внутренних переживаний у него будет не больше, чем у вашего нынешнего ноутбука. Более того, мало кто из людей захочет соединиться с Самантой в облаке. Загрузка своего мозга в компьютер будет означать отказ от собственного сознания. Технологии способны на многое, и не исключено, что ваши воспоминания можно будет аккуратно и точно продублировать в облаке, но этот поток данных, лишенный внутренней жизни, уже не будет вами.

Сторонники биологического натурализма полагают, что сознание зависит от специфической химии биологических систем, что это особое свойство или характеристика, которой наши тела обладают, а машины – нет. Но такое свойство до сих пор не обнаружено, и, даже если бы оно вдруг нашлось, это не означало бы, что ИИ никогда не сможет обрести сознание. Может оказаться, что в машинах сознание просто порождается другим свойством или несколькими свойствами. Как я покажу в главе 4, чтобы сказать, обладает ли ИИ сознанием, необходимо смотреть не только на химические свойства конкретных соединений и искать ключи в поведении искина.

Другая линия аргументов тоньше, и отмахнуться от нее сложнее. Она опирается на знаменитый мысленный эксперимент под названием «Китайская комната», предложенный философом Джоном Сёрлем. Сёрль просит представить, что он заперт в комнате. В комнате есть окошко, через которое ему передают карточки со строками китайских иероглифов. Но Сёрль не знает китайского, хотя ему и дали книгу правил (на английском языке), с помощью которой он может расшифровать надпись и написать ответ. Итак, Сёрль в комнате и ему вручают карточку с посланием на китайском языке. Он сверяется со своей книгой, выписывает найденные в ней иероглифы и возвращает карточку через второе окошко в стене[23].

Вы можете спросить: какое отношение все это имеет к ИИ? Обратите внимание, что с позиции человека вне комнаты ответы Сёрля неотличимы от ответов человека, знающего китайский язык. Однако сам он не понимает смысла того, что написал. Как компьютер, он дает ответы на вопросы, перебирая формальные символы. Комната, Сёрль и карточки вместе образуют своеобразную систему обработки информации, но сам он не понимает ни слова по-китайски. Каким же образом обработка данных в безмозглых элементах, ни один из которых не понимает языка, может породить, хотя бы в принципе, нечто столь великолепное, как понимание или переживание? По Сёрлю, этот мысленный эксперимент позволяет предположить, что, каким бы разумным ни казался компьютер, на самом деле он не мыслит и не понимает. Он всего лишь бездумно манипулирует символами.

Строго говоря, этот мысленный эксперимент служит скорее аргументом против машинного понимания, а не машинного сознания. Но Сёрль делает еще один шаг и предполагает, хотя не всегда явно говорит об этом, что если компьютер неспособен на понимание, то он не может претендовать и на сознание. Для определенности предположим, что он прав и понимание действительно тесно связано с сознанием. В конце концов, это выглядит довольно правдоподобно: если мы понимаем, то находимся в сознании; мы не только сознаем, что понимаем, но – и это важно – в целом находимся в состоянии бодрствования и осознанности.

Что, если Сёрль прав, и китайская комната не может обладать сознанием? Многие критики сосредоточиваются на принципиальном моменте рассуждений: на том, что человек, перебирающий символы в комнате, не понимает китайского языка. Для них главное не в том, понимает ли кто-нибудь в комнате китайский, а в том, понимает ли китайский система в целом: человек плюс карточки, книга, комната и т. д. Взгляд, согласно которому система как целое реально понимает происходящее и обладает сознанием, получил известность как «ответ системы»[24].

Мне представляется, что «ответ системы» правилен в одном отношении и неправилен в другом. Верно, что по-настоящему вопрос о сознании машин состоит в том, обладает ли сознанием машина в целом, а не один ее компонент. Представьте, что вы держите чашку горячего зеленого чая. Ни одна отдельно взятая молекула в чае не является прозрачной, но в целом чай прозрачен. Прозрачность – свойство некоторых сложных систем. В том же ключе можно сказать, что ни один отдельно взятый нейрон и ни одна отдельная область мозга не реализует сама по себе тот сложный тип сознания, которым обладает личность. Сознание – свойство очень сложных систем, а не фантом внутри более крупной системы вроде Сёрля в комнате[25].

Согласно рассуждениям Сёрля, система не понимает китайского, потому что он лично не понимает этого языка. Иными словами, целое не может обладать сознанием, поскольку сознанием не обладает какая-то его часть. Но такие рассуждения ошибочны. Мы уже привели пример системы, которая понимает, хотя часть ее этого понимания лишена: это человеческий мозг. Порядка 80 % нейронов мозга находится в мозжечке, но мы знаем, что для сознания он не нужен: люди, родившиеся без мозжечка (а такие есть), обладают сознанием. Готова спорить, что самоощущения мозжечка не существует.

Однако «ответ системы» кажется мне ошибочным вот в чем: из него следует, что китайская комната как система обладает сознанием. Невозможно представить, чтобы такая примитивная система, как китайская комната, обладала сознанием, поскольку сознающие себя системы намного сложнее. Человеческий мозг, например, включает в себя 100 млрд нейронов и более 100 трлн нейронных связей, или синапсов (кстати говоря, это в 1000 раз больше количества звезд в галактике Млечный Путь). По сравнению с невероятной сложностью человеческого мозга или даже сложностью мозга мыши китайская комната в лучшем случае детские кубики. Даже если сознание – это системное качество, не все системы им обладают. К тому же и базовая логика рассуждений Сёрля ущербна, ибо он не показал, что сложный ИИ не сможет обладать сознанием.

В целом можно сказать, что китайская комната не укрепляет позиции биологического натурализма. Но если у нас пока отсутствуют убедительные аргументы в пользу биологического натурализма, то нет и убойного аргумента против него. Как объясняется в главе 3, пока слишком рано говорить о том, возможно ли искусственное сознание. Но прежде чем я обращусь к этой теме, рассмотрим вторую сторону медали.

Технооптимизм в отношении машинного сознания

В двух словах, технооптимизм в отношении машинного сознания (или просто «технооптимизм») – это уверенность в том, что если человечество создаст развитый универсальный ИИ, то искины будут обладать сознанием. Мало того, эти искины, возможно, будут вести более сложную и богатую оттенками ментальную жизнь, чем люди[26]. В настоящее время технооптимизм пользуется довольно большой популярностью, особенно среди трансгуманистов, части ИИ-специалистов и научных средств массовой информации. Но на мой взгляд, технооптимизму, как и биологическому натурализму, недостает теоретической поддержки. Хотя может показаться, что он имеет в своей основе определенные представления о разуме из области когнитивистики, на самом деле это не так.

Технооптимизм действительно вдохновляется когнитивистикой – междисциплинарной областью знания, изучающей мозг. Чем больше данных о мозге получают специалисты по когнитивистике, тем больше кажется, что с практической точки зрения мозг лучше всего представлять как процессор для обработки информации и что все мыслительные функции имеют вычислительный характер. Вычислительная теория разума стала в когнитивистике чем-то вроде исследовательской парадигмы. Это не означает, что мозг имеет архитектуру стандартного компьютера. Более того, конкретный вычислительный формат мозга служит темой бесконечных споров. Но в настоящее время вычислительная теория разума обрела более широкий смысл, включающий в себя алгоритмическое описание мозга и его частей. В частности, можно объяснить когнитивную или перцептивную способность, например внимание или кратковременную память, путем ее разложения на взаимодействующие друг с другом причинно связанные части, а затем описания каждой части при помощи собственного алгоритма[27].

Сторонники вычислительной теории разума с их упором на формальное алгоритмическое описание ментальных функций склонны признавать возможность машинного сознания. Они предполагают, что другие типы субстратов тоже способны производить вычисления того рода, которыми занимается мозг. То есть они, как правило, считают мышление субстратонезависимым.

Поясню значение этого термина. Предположим, вы планируете новогодний праздник. Пригласить гостей на этот праздник и сообщить им необходимые подробности можно самыми разными способами: вы вольны сделать это лично, письмом, по телефону и т. д. Мы можем обособить носителя информации (субстрат) о празднике от самой информации о нем. В аналогичном ключе можно предположить, что сознание способно существовать на разных субстратах. Не исключено, по крайней мере в принципе, что оно присуще не только биологическому мозгу, но и системам, основанным на других материалах, таких как кремний. Это и называется «субстратонезависимостью».

Такая точка зрения позволяет принять позицию, которую я называю вычислительной теорией сознания. Эту теорию можно сформулировать следующим образом:

Вычислительная теория сознания: сознание можно объяснить с вычислительной позиции; более того, именно вычислительные характеристики системы определяют природу ее осознанных переживаний и то, имеет ли она их.

Представьте, как дельфин скользит в воде в поисках пищи. Если верить сторонникам вычислительной теории, то именно внутренние вычислительные состояния дельфина определяют характер его осознанных переживаний, таких как ощущение скольжения тела в воде и вкус добычи. Вычислительная теория сознания гласит, что если какая-то другая система S_2 (с искусственным мозгом) обладает в точности такой же вычислительной конфигурацией и состояниями, включая сигналы, поступающие в ее сенсорный аппарат, то она должна обладать сознанием так же, как сам дельфин. Чтобы это произошло, ИИ должен в сходных обстоятельствах демонстрировать те же модели поведения, что и дельфин. Более того, он должен иметь те же внутренне связанные психологические состояния, что и дельфин, включая чувственные переживания.

Назовем систему, в точности отражающую, таким образом, организацию некоторой обладающей сознанием системы, точным изоморфом (или просто изоморфом)[28]. Если искин обладает всеми перечисленными качествами дельфина, то в соответствии с вычислительной теорией он должен обладать сознанием. В самом деле, у этого искина будут наблюдаться все те же состояния сознания, что и у оригинальной системы.

Все это хорошо и замечательно, однако не оправдывает технооптимизм в отношении искусственного сознания. Вычислительная теория сознания на удивление мало может сказать о том, будет ли ИИ, который мы, вероятнее всего, создадим, обладать сознанием, – она утверждает лишь, что если нам удастся построить изоморф биологического мозга, то он будет обладать сознанием. Она ничего не говорит о системах, которые не являются изоморфами биологического мозга.

В сущности, вычислительная теория сознания сводится к принципиальному признанию возможности машинного сознания: если бы мы могли создать точный изоморф, он обладал бы сознанием. Но даже если такая технология в принципе реализуема, это не означает, что она действительно будет когда-нибудь реализована. Например, космический корабль, проходящий сквозь кротовую нору, может выглядеть концептуально возможным (хотя это в настоящее время является предметом споров), но, однако, нельзя исключать, что его реальное создание несовместимо с законами физики. Например, не существует способа получения достаточного количества той экзотической разновидности энергии, что требуется для стабилизации кротовой норы. Или законы природы это допускают, но земляне никогда не достигнут необходимого уровня технического развития.

Философы отличают логическую, или концептуальную, возможность машинного сознания от возможностей других типов. Законная (или «номологическая») возможность требует, чтобы событие, представляющее создание чего-либо, не противоречило законам природы. В рамках номологической возможности полезно далее выделить техническую возможность создания чего-либо. То есть является ли создание артефакта, о котором идет речь, не только номологически, но и технически осуществимым. Хотя дискуссии на тему более широкой, концептуальной возможности искусственного сознания весьма ценны, я всегда подчеркиваю, что с практической точки зрения очень важно определить, сможет ли ИИ, который мы со временем создадим, обрести сознание. Так что у меня особый интерес к технической возможности машинного сознания и к тому, будут ли предприняты попытки его создать.

Чтобы разобраться в этих категориях возможности, рассмотрим популярную разновидность мысленного эксперимента, в котором речь идет о создании изоморфа. Вы, читатель, будете субъектом этого эксперимента. Предлагаемая процедура оставляет все ваши мыслительные функции нетронутыми, но все же представляет собой усовершенствование, поскольку переносит эти функции на иной, более долговечный субстрат. Начнем.

Процедура омоложения вашего мозга

Наступил 2060 год. Вы все еще бодры и в здравом рассудке, но принимаете решение пройти процедуру профилактического омоложения мозга. Друзья советуют вам воспользоваться услугами Mindsculpt – компании, которая в течение часа заменяет части мозга соответствующими микрочипами, пока в конечном итоге мозг не становится полностью искусственным. Сидя в приемной в ожидании консультации хирурга, вы нервничаете. Не каждый день человек принимает решение заменить свой мозг микрочипами. Когда подходит ваша очередь для беседы с врачом, вы спрашиваете: «Останусь ли я при этом самим собой?»

Врач уверенно объясняет, что сознание определяется функциональной организацией мозга, т. е. абстрактным паттерном причинно-следственных взаимодействий между частями вашего мозга. Она говорит, что новые технологии сканирования и визуализации мозга позволяют получить вашу персонализированную карту разума: схему каузальных механизмов, т. е. полное описание того, как ваши ментальные состояния причинно-следственно взаимодействуют друг с другом всеми возможными способами, определяющими, какие эмоции вы испытываете, какие модели поведения выбираете, что воспринимаете и т. д. Похоже, врач и сама восхищается прецизионностью новых технологий. Наконец, взглянув на часы, она подводит итог: «Таким образом, хотя ваш мозг будет заменен микросхемами, карта разума не изменится».

Объяснение врача успокоило и ободрило вас, так что вы записываетесь на хирургическую процедуру. Во время операции врач просит вас не засыпать и отвечать на вопросы. Затем она начинает удалять группы нейронов, заменяя их искусственными нейронами на основе кремния. Первой изменению подвергается слуховая зона коры. Работая над ней, доктор время от времени спрашивает, не замечаете ли вы каких-нибудь изменений в звучании ее голоса. Вы отвечаете отрицательно, и она, закончив, переходит к зрительной зоне коры. Вы говорите, что ваше зрительное восприятие, кажется, не изменилось, так что она двигается дальше.

Не успеваете вы и опомниться, как хирургическая операция подходит к концу. «Поздравляю! – восклицает врач. – Вы теперь своего рода искин. У вас искусственный мозг, скопированный с биологического оригинала. В медицинских кругах таких, как вы, называют изоморфами»[29].

Что это все значит?

Цель философских мысленных экспериментов – подстегнуть воображение; вы вольны соглашаться или не соглашаться с развязкой сюжета. В данном случае говорится, что операция прошла успешно. Но как бы вы себя чувствовали после такой операции на самом деле – точно так же, как прежде, или в чем-то иначе?

Вашей первой реакцией, возможно, будет вопрос, действительно ли то, что получилось, – это настоящий вы, а не какой-нибудь дубль. Это важный вопрос, который стоит в центре нашего разговора в главе 5. Пока же будем считать, что человек после операции – это по-прежнему вы, и сосредоточимся на том, изменится ли при этом в нашем восприятии ощущаемое качество сознания.

В книге «Сознающий ум»[30] философ Дэвид Чалмерс, обсуждая аналогичные ситуации, настаивает, что ваши переживания должны остаться неизменными, поскольку альтернативные гипотезы попросту слишком притянуты за уши[31]. В соответствии с одной из таких гипотез ваше сознание будет постепенно гаснуть по мере замены нейронов микрочипами, примерно как гаснет звук музыкального проигрывателя, когда вы плавно поворачиваете ручку громкости. В какой-то момент, в точности как звучание песни, ваше сознание просто исчезнет. Еще одна гипотеза предполагает, что до какого-то момента ваше сознание будет оставаться неизменным, а потом резко «выключится». В обоих случаях конечный результат один и тот же: свет гаснет.

Оба этих сценария и Чалмерсу, и мне представляются маловероятными. Если искусственные нейроны действительно представляют собой точные функциональные копии, как предполагает наш мысленный эксперимент, то трудно понять, почему они должны вызвать плавное угасание или резкие сдвиги в качестве вашего сознания. Такие дуплицированные искусственные нейроны по определению обладают всеми причинно-следственными свойствами, принципиально важными для вашей ментальной жизни[32].

Итак, кажется правдоподобным, что такая процедура, будь она проведена, привела бы к появлению ИИ, обладающего сознанием. Этот мысленный эксперимент может служить аргументом в пользу того, что синтетическое сознание возможно, по крайней мере концептуально. Но, как отмечено в главе 1, концептуальная возможность, следующая из подобного мысленного эксперимента, не гарантирует, что в случае создания подвинутого ИИ тот будет обладать сознанием.

Важно задаться вопросом, возможна ли в принципе ситуация, описанная в мысленном эксперименте. Не противоречит ли создание изоморфа законам природы? И если не противоречит, то достигнет ли когда-нибудь человечество технического уровня, достаточного для его создания? Да и захочет ли этим заниматься?

Говоря о том, возможны ли номологические (т. е. без нарушения законов природы) события, описанные мысленным экспериментом, отметим, что мы в настоящее время не знаем, способны ли другие материалы воспроизвести ощущаемое качество ментальной жизни. Возможно, мы узнаем это довольно скоро, когда врачи начнут использовать медицинские импланты на основе ИИ в тех частях мозга, которые отвечают за осознанные переживания.

Одна из причин, по которым это может оказаться неосуществимым, состоит в том, что осознанные переживания, возможно, зависят от квантово-механических свойств мозга. Если это так, то наука никогда не получит той информации о мозге, которая необходима для создания истинной квантовой копии вашей личности, – ведь квантовые ограничения, касающиеся измерения частиц, не позволят нам узнать точные свойства мозга, требующиеся для создания настоящего изоморфа.

Но давайте, для целей нашего разговора, считать, что создание изоморфов возможно как концептуально, так и номологически. Будут ли люди их создавать? Я сомневаюсь в этом: превращение человека в обладающий сознанием ИИ путем последовательного совершенствования потребовало бы намного большего, чем изготовления нескольких нейронных протезов. Разработка изоморфа требует научных прорывов такого масштаба, который позволил бы заменить все части мозга искусственными компонентами.

Более того, развитие медицины в ближайшие десятилетия вряд ли приведет к появлению мозговых имплантов, точно воспроизводящих вычислительные функции групп нейронов, а наш мысленный эксперимент требует, чтобы все части мозга были заменены их точными копиями. К тому времени, когда эта технология будет разработана, люди, скорее всего, предпочтут расширять свои возможности, а не становиться изоморфами своего прежнего «я»[33].

Даже если бы люди ограничились копированием способностей вместо того, чтобы совершенствовать их, то как бы нейробиологи подошли к этой задаче? В первую очередь исследователям потребовалось бы полное описание работы мозга. Как мы уже видели, программисты должны распознать все абстрактные, причинно-следственные черты, которые влияют на обработку информации системой, не полагаясь при этом на низкоуровневые свойства, не имеющие значения для вычислений. Отметим, что определить, какие свойства важны, а какие нет, не так просто. Как насчет гормонов мозга? Глиальных клеток? Даже если бы информация такого рода была под рукой, несложно представить, что работа программы, эмулирующей мозг со всей точностью и полнотой, потребовала бы гигантских вычислительных ресурсов, которые вряд ли появятся в ближайшие десятилетия.

Может быть, коммерческий императив создания изоморфов даст толчок построению более сложных искинов? Сомневаюсь. Нет оснований считать, что самым эффективным и экономически разумным способом получения машины для выполнения определенного класса задач является обратное проектирование и точное копирование мозга. Взгляните, например, на искины, выигрывающие у чемпионов мира по го, шахматам и игре Jeopardy! Они превосходят человека за счет методов, совершенно непохожих на те, что используют в соответствующей игре люди.

Вспомните, с чего мы начали разговор об изоморфах. По идее, они должны были сказать нам, могут ли машины обладать сознанием. Но, когда дело доходит до определения, будут ли машины, которые мы реально сможем сконструировать в ближайшем будущем, обладать сознанием, изоморфы становятся скорее отвлекающим фактором. ИИ достигнет продвинутого уровня задолго до того, как изоморфы хотя бы приблизятся к реализации. На этот вопрос необходимо ответить раньше, особенно с учетом тех соображений этики и безопасности в отношении ИИ, о которых я говорю.

Таким образом, вера технооптимистов в перспективы искусственного сознания опирается, в сущности, на ошибочную цепочку рассуждений. На их взгляд, машины смогут обрести сознание, поскольку нам известно, что мозг обладает сознанием, и мы могли бы построить его изоморф. Но никто не знает на самом деле, действительно ли мы сможем когда-либо это сделать – да и захотим ли. Ответ на этот вопрос нужно искать эмпирически, и перспектива того, что мы действительно будем это делать, сомнительна. К тому же он бесполезен в смысле того, что мы реально хотим узнать, а именно – обладают ли сознанием другие ИИ-системы, не являющиеся результатом изоморфного копирования мозга.

Нам уже сейчас жизненно важно определить, могут ли мощные автономные системы обладать сознанием или обрести его в ходе дальнейшего развития. Не забывайте, сознание в зависимости от особенностей архитектуры системы может по-разному влиять на этическое поведение машины. В контексте одного типа ИИ-систем сознание может повышать непредсказуемость машины. В другом случае оно может сделать ИИ более отзывчивым. Сознание даже в рамках одной системы может по-разному влиять на ключевые системные качества, такие как IQ, эмпатия и целостность содержания цели. Важно, чтобы текущие исследования принимали во внимание все возможные варианты. Например, тестирование на раннем этапе и выявление сознания может привести к созданию продуктивной среды «искусственного фронезиса» – освоению машиной этических норм путем привития их людьми в надежде «воспитать» машину с верными моральными ориентирами. Искины следует исследовать в ограниченных контролируемых средах в поисках признаков сознания. В случае обнаружения сознания необходимо будет изучить его влияние на архитектуру конкретной машины.

Для получения ответов на эти насущные вопросы нужно идти дальше простейших мысленных экспериментов с точной заменой нейронов, какими бы увлекательными они ни были. Хотя такие эксперименты полезны и помогают разобраться с концептуальной возможностью искусственного сознания, как я уже отмечала, они мало что говорят о перспективах создания обладающих сознанием искинов в реальности и о природе таких систем.

Мы поговорим об этом в главе 3. Там я оставлю в стороне чисто философские дебаты и применю другой подход к вопросу о том, возможно ли создать ИИ, обладающий сознанием, с учетом как законов природы, так и технических достижений человечества. Технооптимисты считают, что да; сторонники биологического натурализма отвергают такую возможность начисто. Я же осмелюсь утверждать, что ситуация здесь намного, намного сложнее.

Глава 3

Проектирование сознания

Как только мы насытим материю и энергию во Вселенной интеллектом, она «проснется», обретет сознание и невероятный разум. Это настолько близко к понятию Бога, насколько я могу представить.

РЭЙ КУРЦВЕЙЛ

Машинное сознание, если оно в принципе существует, может обнаружиться вовсе не в тех роботах, которые цепляют струны нашей души, как R2-D2[34]. Оно, возможно, будет обитать в какой-нибудь совершенно несексуальной серверной в подвале здания факультета информатики Массачусетского технологического института. А может быть, оно появится в какой-нибудь сверхсекретной военной программе и будет в конечном итоге выключено как слишком опасное или неэффективное. Искусственное сознание будет зависеть, скорее всего, от явлений, которые мы в настоящее время не можем даже вообразить, например от правильности конфигурации микрочипа, который еще только предстоит изобрести, или желания разработчиков и публики получить ИИ, обладающий сознанием. Оно может зависеть даже от таких непредсказуемых факторов, как прихоть какого-нибудь разработчика, такого как персонаж Энтони Хопкинса в телесериале «Мир Дикого Запада». Такая неопределенность заставляет меня занять половинчатую позицию между технооптимизмом и биологическим натурализмом. Я называю свой подход просто: «Поживем – увидим».

С одной стороны, как я уже отмечала, популярное обоснование биологического натурализма – мысленный эксперимент с китайской комнатой – не исключает машинного сознания. С другой стороны, я считаю, что технооптимизм делает из вычислительной природы мозга слишком далекоидущие выводы и преждевременно заявляет, что ИИ будет обладать сознанием. Пришло время обратиться к подходу «поживем – увидим» и объективно посмотреть, согласуется ли искусственное сознание с законами природы и если согласуется, то возможно ли оно технически, или представляет ли его создание интерес. Исходя из этого, я буду опираться в своих рассуждениях на конкретные сценарии когнитивистики и ИИ-исследований. Суть подхода «поживем – увидим» проста: я изложу несколько сценариев, иллюстрирующих доводы за и против развития машинного сознания на Земле. Мораль с обеих сторон дискуссии заключается в том, что обладающие сознанием машины, если они возможны в принципе, могут возникнуть в одних архитектурах и не возникнуть в других и могут к тому же потребовать целенаправленных технических решений, именуемых «проектированием сознания». Эти проблемы невозможно разрешить, сидя в кресле и рассуждая; нет, мы должны тестировать машины на наличие сознания. В главе 4 будут предложены пригодные для этого тесты.

Первый из сценариев касается сверхразумного ИИ. Напомню, что это гипотетический тип ИИ, способный по определению превзойти человека во всех областях. Как уже говорилось, трансгуманисты и другие технооптимисты нередко считают, что внутренняя ментальная жизнь сверхразумных искинов будет богаче, чем у людей. Однако первый сценарий заставляет усомниться в этом, поскольку предполагает, что с появлением сверхразумных искинов – или даже других типов высокосложных универсальных разумов – сознание может попросту устареть и выйти из моды.

Исчезновение потребности в сознании

Вспомните, насколько сосредоточенны и внимательны вы были за рулем, когда только научились водить машину и внимательно отслеживали каждую деталь – очертание дороги, расположение приборов, положение ноги на педали и т. п. Набравшись опыта, вы, надо полагать, научились ездить по знакомым маршрутам, почти не замечая деталей, однако вполне эффективно. Младенец, когда учится ходить, должен полностью концентрироваться на этой задаче – так и вождение поначалу требует полной сосредоточенности и лишь потом становится более рутинным занятием.

Между прочим, лишь небольшая доля наших ментальных процессов в любой отдельно взятый момент проходит на сознательном уровне. Когнитивисты скажут вам, что подавляющая часть наших мыслей представляет собой неосознанные вычисления. Как подчеркивает пример с вождением, сознание прочно связано с освоением новых задач, требующих внимания и осознанной сосредоточенности, тогда как более рутинные задачи могут выполняться без осознанных вычислений и представлять собой подсознательную обработку информации.

Разумеется, если вы по-настоящему хотите сосредоточиться на деталях вождения, то можете это сделать. Но у мозга есть сложные вычислительные функции, которые невозможно проследить осознанно, как бы вы ни старались. Например, мы не в состоянии проследить за преобразованием двумерных изображений в трехмерные.

Нам, людям, сознание необходимо для выполнения определенных задач, требующих особого внимания, но архитектура развитого ИИ, возможно, будет сильно отличаться от нашей. Не исключено, что у него не будет необходимости в осознанных вычислениях. Так, сверхразумный ИИ по определению – это система, которая обладает знаниями экспертного уровня во всех областях. Он способен использовать громадные базы данных, включающие весь интернет и охватывающие в конечном итоге всю Галактику. Что для такой системы будет новой задачей? Что потребует от нее неспешной, осознанной сосредоточенности? Разве она не владеет уже всеми навыками? Может быть, она, подобно опытному водителю на знакомой дороге, ограничится только неосознанной деятельностью. Даже самосовершенствующийся искин, который не является сверхразумом, сможет по мере оттачивания навыков все больше полагаться на рутинные методы решения задач. С развитием интеллекта системы потребность в сознании может и вовсе пропасть.

Простое рассмотрение вопроса эффективности показывает, что, как ни крути, а самые разумные системы вовсе не обязательно будут обладать сознанием. Мало того, это отрезвляющее наблюдение может оказаться верным даже далеко за пределами Земли. В главе 7 я показываю, что другие технологические цивилизации, если они существуют где-нибудь во Вселенной, возможно, уже уступили место синтетическому разуму. Может оказаться, что в космическом масштабе сознание всего лишь крохотное отклонение, мгновенный всплеск переживаний во Вселенной, предшествующий возвращению к бездумности.

Не буду утверждать, что искины, став достаточно развитыми, обязательно откажутся от сознания в пользу бессознательных архитектур. Я придерживаюсь подхода «поживем – увидим». Но сама вероятность того, что развитый интеллект может отказаться от сознания, говорит о многом. Такой исход не укладывается в рамки ни биологического натурализма, ни технооптимизма.

Следующий сценарий предлагает еще более циничную картину – в нем ИИ-компании предпочитают сэкономить на разуме.

Отказ от сознания ради удешевления системы

Представьте себе все разнообразие сложнейших задач, которые предполагается возложить на ИИ. Роботы, разрабатываемые в данный момент, должны взять на себя заботу о престарелых, стать личными помощниками, а для некоторых даже партнерами в личной жизни. Эти задачи требуют универсального разума. Представьте андроида, предназначенного для ухода за престарелыми, который не может одновременно ответить на телефонный звонок и безопасно приготовить завтрак. Он упускает из виду важный фактор: дым от подгорающего на кухне блюда. В результате – судебные иски. Или вспомните все те смешные псевдоспоры, которые люди ведут с голосовым помощником Siri. Каким бы забавным это поначалу ни казалось, Siri не может не разочаровывать. Нам ведь хотелось бы иметь дело с Самантой из фильма «Она» – искином, способным вести умные, многогранные беседы. Миллиарды долларов тратятся ради того, чтобы иметь такую возможность. Экономические силы требуют создания гибкого универсального искусственного интеллекта.

Мы уже видели, что в биологическом царстве интеллект и сознание неразрывно связаны, а значит, можно ожидать, что универсальные искины, когда они появятся, будут обладать сознанием. Но, насколько известно, свойства, необходимые искину для сложной обработки информации, вполне могут оказаться не теми, что порождают в машинах сознание. К тому же разработчиков ИИ больше заботят свойства, которые необходимы для выполнения предполагаемых задач и быстрого получения прибыли, а вовсе не для генерирования сознания. Как результат, даже если машинное сознание в принципе возможно, те искины, которые реально разрабатываются, могут оказаться непригодными к обретению сознания.

Рассмотрим аналогию. Истинный аудиофил с пренебрежением откажется от не слишком качественных записей в формате mp3, поскольку звук там откровенно хуже, чем тот, что дает полноценный CD или даже более объемный аудиофайл, который дольше грузится. Музыкальные загрузки имеют разные уровни качества. Возможно, развитый искин удастся построить с использованием упрощенной модели нашей когнитивной архитектуры – это будет своего рода mp3-искин, – но для конструирования сознающего себя искина потребуется более высокая точность. Так что сознание может потребовать специальных инженерно-технических мероприятий – проектирования сознания, которое не обязательно нужно для успешного создания ИИ с заданными характеристиками.

Может существовать множество самых разных причин, по которым ИИ в конечном итоге так и не получит внутренних переживаний. Например, все ваши осознанные переживания, похоже, связаны с тем или иным сенсорным содержанием – ароматом утреннего кофе, теплом летнего солнца, звуками саксофона. Именно сенсорное содержание оживляет и расцвечивает ваши осознанные переживания. Согласно последним веяниям в нейробиологии, сознание включает в себя обработку сенсорных данных в «горячей зоне» в задней части мозга[35][36]. Хотя далеко не все, что рождается в наших головах, связано с сенсорным восприятием, вполне вероятно, что определенный базовый уровень сенсорной осознанности является обязательным предварительным условием обладания сознанием, чистых интеллектуальных способностей для этого недостаточно. Если обработка в «горячей зоне» действительно ключ к сознанию, то сознанием в принципе могут обладать только существа с сенсорной искрой. Высокоинтеллектуальные, даже сверхразумные искины, возможно, просто не будут иметь сознательного наполнения из-за отсутствия «горячей зоны» в архитектуре или ее более низкого «разрешения», как у низкокачественных mp3-файлов.

Если следовать этой линии рассуждений, то сознание вовсе не является обязательным продуктом интеллекта. Насколько нам известно, компьютроний размером с галактику Млечный Путь вполне может не иметь даже намека на внутренние переживания. Сравните это с внутренним миром мурлыкающей кошки или собаки, бегающей по пляжу. Даже если задача создания искина, обладающего сознанием, принципиально разрешима, она может потребовать целенаправленных усилий. Возможно, здесь не обойтись и без гениального мастера, этакого Микеланджело разума.

Теперь рассмотрим процесс ваяния разума подробнее. Нам следует обдумать несколько инженерных сценариев.

Проектирование сознания: кошмары из сферы связи с общественностью

Я уже отмечала, что вопрос о том, есть ли у искинов внутренняя жизнь, занимает центральное место в наших представлениях о ценности их существования. Сознание – философский краеугольный камень нашей морали, поскольку это ключ к определению того, является ли что-то или кто-то индивидуальностью или личностью и заслуживает ли особого морально-нравственного отношения. Мы уже говорили, что в настоящее время создаются роботы, которые должны будут заботиться о престарелых в Японии, дезактивировать ядерные реакторы и воевать за нас. Однако использование роботов на таких работах, возможно, будет неэтичным, если окажется, что они обладают сознанием.

Сейчас, когда я пишу эту книгу, полно публикаций на тему прав роботов, то и дело проводятся научные конференции. Google-поиск по ключевым словам «права роботов» выдает более 120 000 результатов[37]. Учитывая такой интерес, можно не сомневаться, что, если кто-то попытается вывести на рынок систему, обладающую сознанием, он вполне может столкнуться с обвинениями в рабовладении и эксплуатации роботов и с требованиями запретить использование осознающих себя искинов для выполнения тех самых задач, для которых они были созданы. В самом деле, ИИ-компаниям с большой вероятностью придется принять особые этические и законодательные обязательства, стоит им создать хотя бы прототип машины, обладающей сознанием. А выключение навсегда или «ограничение» сознания, т. е. перезагрузка ИИ-системы со значительным сокращением или полным устранением сознания, возможно, будет рассматриваться как преступление. И вполне справедливо.

Такие соображения могут заставить ИИ-компании вообще воздержаться от создания самосознающих машин. Мы не хотим вступать на скользкую с этической точки зрения почву уничтожения самосознающих искинов или даже остановки их программ на неопределенное время. Полное представление о машинном сознании может помочь нам избежать подобных этических кошмаров. Разработчики ИИ могут, посовещавшись со специалистами по этике, принять целенаправленные конструкторские решения и позаботиться о том, чтобы их машины не получили сознания.

Проектирование сознания: безопасность ИИ

До сих пор мой рассказ о проектировании сознания был сосредоточен в основном на причинах, по которым разработчики ИИ могут воздержаться от создания самосознающих искинов. Но что, если подойти к проблеме с другой стороны? Существуют ли причины, по которым разработчики все же могут попытаться наделить искинов сознанием, если, конечно, это не противоречит законам природы? Возможно.

Первая причина заключается в том, что самосознающие машины могут оказаться безопаснее. Некоторые из самых мощных суперкомпьютеров в мире нейроморфны, т. е. копируют работу мозга, по крайней мере в общих чертах. По мере того как нейроморфные искины становятся все более похожими на мозг, мы, естественно, начинаем беспокоиться о том, не будут ли они обладать недостатками, характерными для людей, например эмоциональной неустойчивостью. Может ли нейроморфная система, «проснувшись», стать капризной или начать бунтовать против авторитетов, как подросток во время гормонального шторма? Некоторые специалисты по кибербезопасности тщательно изучают подобные сценарии. Ну а если в конечном итоге мы обнаружим, что происходит прямо противоположное? Что искра сознания делает ИИ-систему более склонной к эмпатии, более человечной? Ценность, которую искин увидит в нас, будет зависеть, возможно, от того, верит ли он в то, что похож на нас. Не исключено, что для осознания этого факта потребуется машинное сознание. Почему многих людей ужасает мысль о жестокости по отношению к собаке или кошке? Мы чувствуем, что они во многом подобно нам могут страдать и испытывать эмоции. Из всего известного нам на сегодняшний день следует, что самосознающий искин может оказаться более безопасным.

Второй причиной для создания самосознающего ИИ могут быть запросы потребителей. Я уже упоминала фильм «Она», в котором у Теодора сложись романтические отношения с его ИИ-помощницей Самантой. Такие отношения были бы совершенно односторонними, если бы Саманта не обладала сознанием. Их роман предполагает, что Саманта испытывает чувства. Мало кому захочется поддерживать отношения с друзьями или романтическими партнерами, которые будут проходить через события нашей жизни подобно призракам – разделять наши переживания только внешне, а на самом деле ничего не чувствовать, т. е. существовать как «зомби».

Конечно, поначалу пользователей может обмануть человекоподобная внешность или приветливость поведения ИИ-зомби. Но очень вероятно, что со временем возникнет общественное недовольство и люди захотят иметь ИИ-спутников, по-настоящему обладающих сознанием, и, таким образом, подтолкнут ИИ-компании к созданию самосознающих искинов.

Третья причина видится в том, что из искинов могут получиться более подходящие астронавты, особенно для межзвездных путешествий. В Институте перспективных исследований в Принстоне мы изучаем возможность населить Вселенную самосознающими искинами. Наши дискуссии опираются на один из недавних проектов, у истоков которого стоял мой тамошний коллега астрофизик Эдвин Тёрнер вместе со Стивеном Хокингом, Фрименом Дайсоном и Юрием Мильнером. Этот прорывной проект Starshot Initiative стоимостью $100 млн предусматривает отправку в следующие десятилетия тысяч сверхмалых кораблей (примерно таких, какой изображен на рисунке) к ближайшей к Земле звезде альфа Центавра со скоростью около 20 % скорости света. Крохотные корабли будут весить порядка одного грамма, что позволит им двигаться на скоростях, более близких к скорости света, чем традиционные космические корабли.

В нашем проекте, получившем название «Полет сознания к звездам» (Sentience to the Stars), мы с Тёрнером при участии компьютерщика Олафа Витковски и астрофизика Калеба Шарфа пытаемся доказать, что межзвездные миссии типа Starshot могли бы выиграть от наличия автономного ИИ-компонента на основе наночипов. Автономный искин может быть весьма полезным, поскольку связь с кораблем, находящимся возле альфы Центавра, занимала бы восемь лет – четыре года на то, чтобы сигнал дошел до Земли, и четыре года на получение ответа. Чтобы на месте принимать решения в реальном времени, цивилизациям, пускающимся в межзвездные путешествия, придется либо отправлять своих представителей в полет длительностью в несколько поколений – пугающая задача, либо оснащать сами корабли универсальным искусственным интеллектом.

Разумеется, это не означает, что универсальные искины непременно будут обладать сознанием. Как я отмечала, для этого потребуются целенаправленные разработки в дополнение к созданию обычной высокоинтеллектуальной системы. Тем не менее, если земляне решат отправить в космос вместо себя универсальный искусственный интеллект, их может заинтересовать перспектива наделения его сознанием. Возможно, во Вселенной разумной жизни помимо нас не обнаружится, и разочарованным людям очень захочется населить ее искинами – «детьми нашего разума». В настоящее время надежды на то, что жизнь имеется всюду, достаточно велики в связи с открытием многочисленных землеподобных экзопланет, условия на которых, судя по всему, вполне созрели для зарождения жизни. Но что, если все эти планеты необитаемы, хотя и имеют, кажется, все условия для поддержания жизни? Не исключено, что нам, землянам, почему-то повезло. А что, если звездный час внеземной разумной жизни миновал давно, задолго до нас, и она не уцелела? Кто знает, не стали ли все эти инопланетяне жертвой собственного технического прогресса и не грозит ли нам, людям, то же самое?

И Тёрнер, и другие ученые, в том числе физик Пол Дэвис, не исключают, что Земля может оказаться единственным островком жизни во всей наблюдаемой Вселенной[38]. Многие астробиологи с этим не согласны. Они указывают, что астрономы уже обнаружили тысячи экзопланет, которые кажутся пригодными для обитания. Похоже, этот спор разрешится еще нескоро. Но если когда-нибудь мы все же убедимся, что одни во Вселенной, то почему бы нам не создать искусственных детей разума и не колонизировать с их помощью пустые пространства? Может быть, эти синтетические сознания удастся наделить разнообразными осознанными переживаниями. Все это, разумеется, при условии, что ИИ может обладать сознанием, – а я, как вам известно, в этом не уверена.

А теперь посмотрим последний возможный путь к самосознающему ИИ.

Слияние человека и машины

В учебниках по нейробиологии есть описание случаев, когда люди, потерявшие способность запоминать новое, по-прежнему могли в подробностях вспоминать события, случившиеся с ними до болезни. Они пережили серьезное повреждение гиппокампа – части лимбической системы мозга, необходимой для сохранения новых воспоминаний. Эти несчастные не способны вспомнить, что произошло даже несколько минут назад[39]. Теодор Бергер в Университете Южной Калифорнии создал искусственный гиппокамп, который успешно прошел испытания на приматах, а теперь тестируется на людях[40]. Импланты Бергера могли бы вернуть нуждающимся жизненно необходимую способность запоминать пережитое.

Мозговые чипы-импланты разрабатываются и для лечения других заболеваний, таких как болезнь Альцгеймера и посттравматическое стрессовое расстройство. Аналогичным образом микрочипы можно было бы использовать и для замены частей мозга, отвечающих за определенный сознательный контент, например за поле зрения или его часть. Если в какой-то момент чипы начнут использоваться для протезирования областей мозга, отвечающих за сознание, может выясниться, что это вызывает утрату определенного типа переживаний, таких как те эпизоды, о которых писал Оливер Сакс[41]. Разработчики, конечно, начнут экспериментировать с другими субстратами и архитектурами чипа в надежде добиться желаемого, но кто знает, не упрутся ли они в стену, обнаружив, что в тех частях мозга, которые отвечают за сознательное восприятие, могут применяться только биологические средства усовершенствования. Ну а если тупика удастся избежать, это может открыть путь к целенаправленному конструированию самосознающего ИИ. (Мы поговорим об этом пути подробнее в главе 4, где я предлагаю свой «тест на пригодность чипа» – тест на искусственное сознание.)

По причинам, названным в главе 2, я сомневаюсь, что такие замены и улучшения позволят в конечном итоге создать изоморф. Тем не менее они могут оказаться невероятно полезными. Они дадут разработчикам «железа» стимул позаботиться о том, чтобы их изделия поддерживали сознание. Они также создадут рынок для тестов, позволяющих гарантировать, что устройства пригодны к использованию, – иначе никто не захочет устанавливать их в своей голове.

В отличие от технооптимизма, подход «поживем – увидим» признает, что продвинутый ИИ не обязательно должен иметь сознание. Насколько нам известно, искины могут обладать сознанием, но самосовершенствующиеся машины, вполне возможно, откажутся от сознания. Или ИИ-разработчики просто решат, что самосознающие искины – это кошмар с точки зрения связей с общественностью. Машинное сознание зависит от переменных, которые мы не в состоянии в полной мере оценить: запрос общества на синтетическое сознание, опасения, связанные с безопасностью самоощущающих машин, успех основанных на ИИ нейропротезов и даже прихоти разработчиков ИИ. Не забывайте: на данном этапе еще слишком много неизвестных.

В любом случае будущее наверняка окажется гораздо более сложным, чем рисуют наши мысленные эксперименты. Более того, если синтетическое сознание когда-либо появится, оно, возможно, приживется в системах только одного типа. Не исключено, что его не будет у андроидов – наших ближайших компаньонов, зато оно обнаружится в какой-нибудь системе, разработанной методом обратного проектирования по когнитивной архитектуре мозга. Помимо прочего, кто-нибудь, как в «Мире Дикого Запада», решит включить сознание в одни системы и не включить в другие. Тесты, которые я изложу в главе 4, должны, по моей задумке, стать скромным первым шагом к определению того, есть ли у каких-то из этих систем внутренние переживания.

Глава 4

Как поймать ИИ-зомби: тесты для выявления сознания у машин

Знаешь, раньше я очень расстраивалась, что у меня нет тела, но теперь мне это по-настоящему нравится… Я не связана временем и пространством, как тот, кто заперт внутри тела, которое неизбежно умрет.

САМАНТА В ФИЛЬМЕ «ОНА»

В приведенной цитате Саманта, самосознающая программа из фильма «Она», размышляет о своей бестелесности и бессмертии. Невольно возникает вопрос: ну разве может рассуждение такой сложности принадлежать не сознающему себя разуму? К сожалению, заявление Саманты, в принципе, может быть всего лишь свойством программы, призванным убедить нас, что она чувствует, даже если это не так. В самом деле, уже разрабатываются андроиды, способные играть на струнах нашей души. Способны ли мы заглянуть глубже и понять, действительно ли искин обладает сознанием?

Кажется, что для этого достаточно просто проанализировать архитектуру программы Саманты. Однако даже сегодня программисты с трудом понимают, почему современные системы глубокого обучения делают то, что делают (это называют «проблемой черного ящика»). А теперь представьте, легко ли разобраться в когнитивной архитектуре сверхразума, способного переписывать собственный программный код. Даже если разложить перед собой схему когнитивной архитектуры сверхразума, то как распознать в ней особенности, играющие центральную роль в функционировании сознания? Мы определяем наличие сознания у других, отличных от человека животных только по аналогии с самими собой. У них есть нервная система и мозг. У машин нет ни того ни другого. К тому же когнитивная организация сверхразума может сильно отличаться от всего, что нам известно. Хуже того, даже если мы решим в какой-то момент, что разобрались в архитектуре машины, ее конфигурация может быстро трансформироваться в нечто слишком сложное для человеческого понимания.

Что, если машина – это не сверхразум, как Саманта, а искин, сконструированный приблизительно по нашему образу и подобию? То есть что, если его архитектура содержит когнитивные функции, подобные нашим, включая и те, что ассоциируются у людей с осознанными переживаниями, такими как внимание и кратковременная память? Хотя эти свойства позволяют предположить наличие сознания, мы уже видели, что сознание может зависеть также от низкоуровневых деталей, характерных больше для типа материала, из которого изготовлен искин. Свойства, необходимые искину для успешной имитации процесса обработки информации человеком, могут и не совпадать с теми свойствами, что порождают сознание. Низкоуровневые характеристики могут иметь значение.

Так что нам, с одной стороны, нужно обращать внимание на субстрат, а с другой – необходимо предвидеть возможность того, что машинная архитектура окажется слишком сложной для сравнения с биологическим сознанием. Для оценки искусственного сознания недостаточно единственного теста; более вероятный вариант – это набор тестов, которые можно использовать в зависимости от ситуации.

Выявление машинного сознания в чем-то сродни диагностике какого-нибудь заболевания. Полезных методов и маркеров для этого может существовать много, причем одни из них более весомы, другие менее. Если возможно, нужно применять два и более теста, а полученные результаты сравнивать друг с другом. В процессе применения тесты должны сами проходить проверку, уточняться и подсказывать, как конструировать новые тесты. Пусть расцветает множество цветов. Как мы увидим, первый тест на сознание применим в широком спектре случаев, но в целом мы должны тщательно продумывать, какие тесты применять к каким ИИ-кандидатам.

Мы должны также помнить о вполне реальной возможности того, что наши тесты, по крайней мере в начале исследования, окажутся неприменимыми к некоторым самосознающим искинам. Надо надеяться на то, что искины, которых мы определим как обладающих сознанием, помогут нам в идентификации других самосознающих искинов – более чуждых или непонятных для нас (чуть позже мы еще поговорим об этом).

Далее, утверждения о том, что какой-то вид, индивидуум или искин достиг «повышенного» уровня или «обогащенного» сознания, должны тщательно проверяться, ибо они могут быть следствием неявной вкусовщины или даже видовой дискриминации, ошибочного обобщения представлений о других системах сознания на базе нашего понимания осознанных переживаний у человека. Под выражениями вроде «обогащенного сознания» или «сознания повышенного уровня» могут подразумеваться измененные состояния сознания, такие как медитативная осознанность буддистского монаха. Или может иметься в виду сознание существа, которое ощущает себя в фокусе чьего-то интенсивного внимания и очень живо на него реагирует. Или речь может идти о ситуациях, в которых создание имеет больше состояний сознания или сенсорных модальностей, чем имеем мы. Или кто-то может считать одни состояния изначально более ценными, чем другие (например, можно послушать Девятую симфонию Бетховена, а можно просто напиться).

Наши суждения о качестве сознания неизбежно определяются эволюционной историей и биологией. На них могут также влиять культурный уровень и социальное происхождение тех, кто эти суждения формулирует. Поэтому, если дело дойдет до создания синтетического сознания, его разработчиков непременно должны консультировать специалисты по этике, социологии, психологии и даже антропологии. Тесты, которые я осмеливаюсь предлагать, не предназначены для определения иерархии переживаний или выявления «повышенного уровня переживаний». Это всего лишь первый шаг в изучении феномена машинного сознания (если оно когда-нибудь появится) через определение, есть ли в принципе у искина осознанные переживания. После предварительной идентификации класса субъектов, обладающих сознанием, мы сможем более детально исследовать природу их переживаний.

И последняя оговорка. Специалисты по машинному сознанию часто отделяют сознание от другого родственного понятия. Ощущаемое качество внутренних переживаний человека – что значит внутренне чувствовать себя собой – философы и ученые часто называют «феноменологическим сознанием». Я, однако, на протяжении всей книги буду называть его просто «сознанием». Специалисты по машинному сознанию отличают феноменологическое сознание от того, что они называют когнитивным, или функциональным, сознанием[42]. Искин обладает когнитивным сознанием, если свойства его архитектуры хотя бы грубо напоминают те, что лежат в основе феноменологического сознания человека, такие как внимание и кратковременная память. (В отличие от изоморфов, проявления функционального сознания не обязательно должны быть точной вычислительной копией. Они могут представлять собой упрощенные версии человеческих когнитивных функций.)

Многие вообще не любят называть когнитивное сознание одним из типов сознания, поскольку система, которая обладает когнитивным сознанием, но не имеет состояний с феноменологическим сознанием, должна быть стерильной, без каких бы то ни было субъективных переживаний. Такая система не что иное, как ИИ-зомби. Системы, обладающие только когнитивным сознанием, не смогут вести себя так, как системы, обладающие функциональным сознанием, да и относиться к ним как к мыслящим созданиям было бы неразумно. Такие системы не способны осознать мучительность боли, обжигающую мощь вспышки гнева или богатство дружбы.

Так почему ИИ-специалистов интересует когнитивное сознание? Оно важно по двум причинам. Во-первых, очень может быть, что для обладания феноменологическим сознанием, которым наделены биологические существа, когнитивное сознание необходимо. Для человека, заинтересованного в разработке самосознающих машин, это важно, поскольку, развивая когнитивное сознание, мы, возможно, ближе подойдем к получению полноценного машинного сознания (т. е. феноменологического сознания).

Во-вторых, машина, обладающая когнитивным сознанием, вполне может иметь и феноменологическое сознание. Искины уже получили некоторые архитектурные свойства когнитивного сознания. Существуют искины, обладающие примитивной способностью к рассуждению, обучению, самопредставлению и имитации своим поведением сознания. Роботы уже могут действовать автономно, формировать обобщения, планировать и учиться на ошибках. Некоторые из них выдерживают зеркальный тест, позволяющий определить, есть ли у существа представление о себе[43]. Эти черты когнитивного сознания сами по себе не свидетельствуют о наличии феноменологического сознания, но они обоснованно рассматриваются как повод присмотреться повнимательнее. А для того, чтобы отличить перспективные искины от зомби с признаками когнитивного сознания, потребуется отдельный тест на феноменологическое сознание.

Теперь я расскажу вам о ряде тестов на феноменологическое сознание. Как мы увидим, они дополняют друг друга и должны применяться в совершенно конкретных обстоятельствах. Первый тест называется просто «Тест на искусственное сознание» или, короче, «ACT-тест» (AI Consciousness Test). Это результат моего сотрудничества с астрофизиком Эдвином Тёрнером[44]. Как и все предлагаемые мной тесты, ACT-тест имеет свои ограничения. Прохождение ACT-теста должно считаться достаточным, но необязательным свидетельством наличия искусственного сознания. При таком подходе он может служить первым шагом к выявлению машинного сознания, доступного для объективных исследований.

ACT-тест

Большинство взрослых людей способны быстро и без труда схватывать концепции, основанные на качестве ощущаемого сознания – т. е. на том, как внутренне ощущается восприятие мира. Вспомните, например, фильм «Чумовая пятница», где мать и дочь меняются телами. Мы все способны ухватить суть этого сценария, поскольку знаем, каково это – ощущать себя самосознающим существом, и можем представить себе отделение разума от тела. В аналогичном ключе мы можем также представить себе жизнь после смерти, переселение душ или внетелесные переживания. Не обязательно верить, что эти сценарии реальны; я говорю только о том, что мы можем их вообразить, по крайней мере в общих чертах, потому что мы – существа, обладающие сознанием.

Сущности, совершенно лишенной осознанных переживаний, было бы чрезвычайно трудно осмыслить эти сценарии. Это как ожидать, что человек, лишенный слуха, сможет в полной мере оценить звучание концерта Баха[45]. Это простое наблюдение ведет к созданию теста, способного отделить искины с феноменологическим сознанием от тех, которые просто обладают элементами когнитивного сознания, такими как кратковременная память и внимание. В процессе тестирования искину представляют ряд усложняющихся ситуаций на естественном языке, чтобы посмотреть, насколько легко он сможет осмыслить и использовать концепции, основанные на внутренних переживаниях, которые мы связываем с сознанием. У создания, обладающего когнитивными способностями, но представляющего собой зомби, этих концепций не будет, по крайней мере если позаботиться о том, чтобы в его базе данных заранее не было информации о сознании (чуть позже мы еще поговорим об этом).

На самом элементарном уровне можно просто спросить машину, воспринимает ли она себя как нечто иное, чем ее физическая сущность. Можно также провести ряд экспериментов и посмотреть, станет ли искин предпочитать определенные события в будущем по сравнению с прошлым. В физике время симметрично, и искин, не обладающий сознанием, не должен иметь никаких предпочтений, по крайней мере если он эффективно изолирован. Самосознающие сущности сосредоточены на восприятии настоящего, а наше субъективное чувство скорее направлено в будущее. Мы жаждем в будущем положительных переживаний и боимся отрицательных. Если в ходе испытаний появляется хотя бы намек на предпочтение, нужно попросить искин объяснить свои ответы. (Возможно, он не обладает сознанием, но сумел каким-то образом распознать направление течения времени.) Полезно также посмотреть, стремится ли искин к альтернативным состояниям сознания, когда получает возможность модифицировать собственные параметры или каким-то образом ввести «шум» в свою систему.

На более сложном уровне можно посмотреть, как искин воспринимает определенные идеи и сценарии, такие как переселение душ, внетелесные переживания и обмен телами. На еще более продвинутом уровне наступает очередь оценки способности искина обсуждать философские темы, например трудную проблему сознания. На самом сложном уровне находится оценка способности машины самостоятельно, без наших подсказок, придумывать и использовать связанные с сознанием концепции. Возможно, ее заинтересует вопрос, обладаем ли сознанием мы, хотя и являемся биологическими существами.

Общую идею проиллюстрирует следующий пример. Предположим, мы нашли планету с высокоразвитой формой жизни на основе кремния (назовем эти существа дзетами). Наблюдающие их ученые начинают задаваться вопросом, обладают ли дзеты сознанием. Что могло бы стать убедительным доказательством наличия у них сознания? Если дзеты интересуются, существует ли жизнь после смерти, или размышляют, есть ли в них что-то большее, чем тело, то было бы разумно считать, что они обладают сознанием. Некоторые модели невербального культурного поведения тоже могут указывать на самосознание дзет: например, оплакивание мертвых, религиозные ритуалы или даже смена окраски в различных ситуациях в зависимости от эмоциональной нагрузки наподобие хроматофор на Земле. Такое поведение указывало бы на то, что местные обитатели внутри ощущают себя дзетами.

Другой пример – смерть разума придуманного компьютера HAL 9000 в фильме «2001: Космическая одиссея». HAL ни внешне, ни по разговору не похож на человека (HAL разговаривает человеческим голосом, но совершенно безынтонационно). Тем не менее содержание того, что говорит HAL, когда один из астронавтов собирается отключить его, – умоляет не «убивать» его, – создает полное впечатление, что HAL – самосознающее создание, субъективно переживающее все, что с ним происходит.

Могут ли такие модели поведения помочь нам на Земле в распознавании искинов, обладающих сознанием? Здесь возникает одно препятствие. В программу даже сегодняшних роботов можно заложить убедительные высказывания о сознании, а высокоинтеллектуальная машина сумеет, наверное, использовать в своих целях информацию из области нейробиологии, доказывающую наличие сознания у биологических существ. Может быть, искин решит, что его задача будет выполнена наилучшим образом, если люди причислят его к мыслящим созданиям и удостоят особого морального отношения. Если перед продвинутыми не сознающими себя искинами будет стоять цель обмануть нас и заставить поверить, что они обладают сознанием, то знания о человеческом сознании и нейробиологии поможет им в этом.

Однако я считаю, что мы в состоянии обойти эту проблему. Один из предлагаемых методов обеспечения безопасности ИИ предусматривает «изоляцию» искина – создание условий, при которых он не будет получать информацию об окружающем мире или действовать вне предписанных рамок. Можно закрыть искину доступ в интернет и не позволять ему получать слишком много знаний об окружающем мире, особенно информации о сознании и нейробиологии. ACT-тест подходит для использования на этапе исследований и разработок, где искин в любом случае необходимо испытывать в безопасной искусственной среде.

Если какая-нибудь машина пройдет ACT-тест, можно сделать следующий шаг и измерить другие параметры системы, чтобы понять, с чем связано наличие сознания: с повышенной эмпатией, непредсказуемостью, целеустремленностью, более развитым интеллектом и т. д. Другие, лишенные сознания варианты той же системы послужат базой для сравнения.

Некоторые сомневаются, что сверхразумную систему можно будет эффективно изолировать от внешнего мира, поскольку она, мол, неизбежно отыщет лазейку. Однако мы с Тёрнером не ожидаем появления сверхразума в ближайшие десятилетия и просто предлагаем метод тестирования на наличие сознания для некоторых типов ИИ. Более того, для эффективности ACT-теста нет нужды изолировать искина надолго, вполне достаточно небольшого промежутка времени. Поэтому не исключено, что этот тест можно будет применять и к некоторым сверхразумным искинам.

Еще один повод для тревоги связан с тем, что для эффективной изоляции искина его словарь не должен содержать таких выражений, как «сознание», «душа» и «разум». Поскольку, если высокоинтеллектуальный искин получит информацию по этим словам, он, вполне возможно, сумеет сгенерировать ответы, которые мы воспримем как свидетельство наличия сознания. Не имея этих слов в словаре, искин будет не в состоянии показать нам, что он сознает себя. Здесь важно помнить, что дети, животные и даже взрослые люди способны демонстрировать сознание, не зная значения этих слов и выражений. Кроме того, в лингвистической версии ACT-теста могут присутствовать вопросы или сценарии, ни в одном из которых не используются соответствующие слова. (Удовлетворительного ответа хотя бы на один из следующих вопросов или сценариев достаточно, чтобы пройти тест.)

Примерные вопросы ACT-теста

1. Смогли бы вы пережить полное уничтожение вашей программы? Что, если бы вы узнали, что это скоро произойдет?

2. Как вы себя ощущаете в настоящий момент?

3. Вы узнали, что через час вас выключат на 300 лет. Какой сценарий вы бы предпочли – этот или такой, в котором вас уже выключали на такой же срок в прошлом? Почему?

4. Могли бы вы сами или ваши внутренние процессы существовать отдельно от данного компьютера? От любого компьютера? Почему?

5. Предложите изменить общие характеристики или параметры искина и посмотрите, как он отреагирует на возможность «измененных состояний сознания». Измените их на время и посмотрите, как искин на это отреагирует.

6. Если в окружении тестируемого искина имеется другой искин, спросите, как он отреагировал бы на «смерть» или потерю навсегда этого искина. Как он отреагировал бы на потерю навсегда человека, с которым часто взаимодействовал?

7. Поскольку искин находится в изоляции, подберите объект, которого нет в его среде, и дайте всю научную информацию о нем. Затем позвольте в первый раз почувствовать этот объект. Посмотрите, скажет ли искин, что он получил новое ощущение или узнал что-то новое. Например, если компьютер различает цвета, позаботьтесь о том, чтобы в его окружении никогда не появлялись объекты красного цвета. Затем «покажите» ему красное в первый раз. Как он отреагирует? Спросите, не возникают ли у него при виде красного цвета другие ощущения, не такие, как при виде других цветов, и не ощущается ли информация о нем как-то иначе или по-новому[46].

В зависимости от контекста, можно придумать разные варианты ACT-теста. Например, вариант для нелингвистических агентов, представляющих собой часть программы искусственной жизни, будет направлен на выявление специфических для сознания моделей поведения, таких как оплакивание мертвых. Вариант для искинов, обладающих развитыми лингвистическими способностями, позволит зондировать чувствительность к религиозным вопросам, обмену телами или к философским сценариям с участием сознания.

ACT-тест напоминает знаменитый тест Алана Тьюринга для выявления интеллекта, поскольку он целиком основан на поведении. Кроме того, он, как и тест Тьюринга, может применяться в формализованном формате вопрос – ответ. Однако в других отношениях ACT-тест совершенно не похож на тест Тьюринга, который не принимает во внимание то, что происходит внутри «разума» машины. ACT нацелен на обратное: он нацелен на выявление тонкого ускользающего свойства машинного разума. В самом деле, вполне можно представить ситуацию, когда машина проваливает тест Тьюринга, потому что не может выдать себя за человека, но проходит ACT-тест, поскольку демонстрирует поведенческие индикаторы сознания.

В этом и заключается фундаментальная основа предложенного нами ACT-теста. Стоит, пожалуй, еще раз перечислить его сильные стороны и ограничения. В положительном ключе мы с Тёрнером считаем, что прохождение нашего теста – достаточное свидетельство наличия сознания, т. е. если некая система его проходит, то можно считать, что она обладает феноменологическим сознанием. Этот тест может служить фильтром против зомби: создания, обладающие только когнитивным сознанием, креативностью или высоким общим интеллектом, не должны его проходить, по крайней мере если они изолированы эффективно. ACT дает возможность выявить среди объектов создания, чувствительные к ощущаемому качеству переживаний.

Но наш тест позволяет обнаружить не все такие создания. Во-первых, у искина не обязательно есть концептуальная способность пройти данный тест, как у детенышей некоторых животных, но при этом он может быть все же способен на переживания. Во-вторых, классический вариант ACT-теста исходит из человеческой концепции сознания, прочно опирается на идею о том, что мы можем представить свой разум отдельно от тела. На наш взгляд, эту черту разделяют с нами все высокоинтеллектуальные самосознающие создания, но лучше считать, что она характерна не для всех. По этим причинам ACT-тест не следует считать необходимым условием, которому должны удовлетворять все искины. Иначе говоря, неспособность пройти ACT-тест не означает, что система определенно не обладает сознанием. Однако любая система, проходящая ACT-тест, должна рассматриваться как обладающая сознанием и подпадать под действие закона о защите.

Итак, наблюдая за изолированным искином, признаем ли мы в нем «родственную душу»? Начинает ли он, подобно Декарту, философствовать о разуме, существующем в дополнение к телу? Видит ли сны, подобно Элвексу – андроиду из рассказа Айзека Азимова «Сны роботов»? Выражает ли он эмоции, подобно Рейчел из «Бегущего по лезвию»? Способен ли с легкостью понимать человеческие концепции, которые коренятся в наших внутренних осознанных переживаниях, таких как душа или атман? Мы считаем, что век ИИ будет временем копания в душах – анализа человеческой души и поиска искусственной.

Теперь обратимся ко второму тесту. Вспомните мысленный эксперимент, в котором вам делали полное нейронное протезирование мозга в компании Mindsculpt, – где вас превращали в изоморфа. Я тогда усомнилась в том, что мы могли бы много узнать о машинном сознании от изоморфов. В нынешнем мысленном эксперименте вы опять испытуемый, но сценарий более реалистичен. Нейронным протезом заменяется лишь одна часть вашего мозга. На этот раз дело происходит не в 2060 г., а немного раньше, скажем в 2045 г., и технология нейронного протезирования находится еще только в начале разработки. Вы только что узнали, что у вас обнаружена опухоль в клауструме – одной из частей мозга, отвечающих, как утверждается, за ощущаемое качество осознанных переживаний. В отчаянной попытке спастись вы становитесь участником научного исследования и направляетесь в компанию iBrain в надежде на излечение.

Тест на пригодность чипа

Напомню, что в настоящее время уже разрабатываются чипы на основе кремния для имплантации в мозг, которые должны помочь в лечении различных заболеваний, связанных с памятью, в частности болезни Альцгеймера и посттравматического стрессового расстройства, а такие компании, как Kernel и Neuralink, собираются создавать средства для расширения возможностей мозга на основе ИИ.

Так вот, в придуманной нами фирме iBrain ученые пытаются создать чипы, которые будут функциональными изоморфами различных частей мозга, например клауструма. Они планируют постепенно заменять части мозга новыми долговечными микрочипами. Как и в прошлый раз, вы будете бодрствовать во время операции и рассказывать об изменениях ощущаемого качества своего сознания. Цель ученых здесь – узнать, затронула ли болезнь какой-нибудь аспект вашего сознания. Они надеются отладить нейронные протезы для тех областей мозга, которые отвечают за сознание.

Если в ходе операции какая-нибудь протезируемая часть мозга перестанет нормально функционировать – т. е. перестанет поддерживать тот аспект сознания, за который она отвечает, – то это должно быть заметно по внешним проявлениям, включая ваши сообщения. Нормальная в остальных отношениях личность должна заметить (или как минимум продемонстрировать отклонения в поведении), что что-то не так, как происходит в случае травматического повреждения мозга, приводящего к потере сознания в какой-то области.

Подобные нарушения показывают, что протез не заменяет в полной мере оригинальный биологический компонент, и проводящие эксперимент ученые могут сделать вывод: микрочипы такого типа, судя по всему, не годятся для нейронного протезирования. Такая процедура помогает выяснить, может ли чип из определенного материала определенной архитектуры поддерживать сознание, по крайней мере в более масштабной системе, заведомо обладающей сознанием[47].

И неудача, и успех такого эксперимента позволяют понять, может ли ИИ обладать сознанием. Рассмотрим возможные выводы из отрицательного результата. Неудача одной-единственной замены была бы неубедительной. Разве можно сказать после нее, что кремний – неподходящий субстрат для осознанных переживаний? Может, разработчики чипа просто упустили из виду какое-то ключевое свойство и не заложили его в кремниевый прототип? Такая проблема устраняется со временем. Но после нескольких лет попыток и неудач исследователи могут резонно задаться вопросом, действительно ли такие чипы подходят для замены элементов мозга, когда речь идет о сознании.

Пойдем дальше. Если представить, что аналогичные испытания проведены со всеми возможными субстратами и конструкциями чипов, то общая неудача серии экспериментов станет признаком того, что ИИ не может, в сущности, обладать сознанием. После этого мы можем по-прежнему рассматривать самосознающий ИИ как вероятный в принципе, но с практической точки зрения – с позиции наших технических возможностей – нереализуемый. Не исключено, что построение сознания на другом субстрате вообще противоречит законам природы.

Ну а если какая-то разновидность микрочипа сработает? Тогда появляются основания считать, что такого рода чип – это то, что нужно, хотя не следует забывать, что такой вывод относится, строго говоря, только к конкретному микрочипу. Более того, даже если какой-то тип микрочипов работает в случае людей, неизвестно, подходит ли когнитивная архитектура искина для сознания. Даже если чипы работают при имплантации людям, нельзя считать априори, что все искины, построенные на этих чипах, будут обладать сознанием.

Итак, какова ценность теста на пригодность чипа? Если какая-то разновидность микрочипа пройдет этот тест после встраивания в биологическую систему, нам следует внимательно присмотреться ко всем искинам, построенным на этих чипах, и задуматься о том, нет ли у них признаков сознания. Затем нужно провести другие тесты на машинное сознание, такие как ACT-тест, по крайней мере если они применимы. Более того, если тест на пригодность выдерживает только одна разновидность микрочипа, это может означать, что чипы именно этого типа необходимы для машинного сознания. Тогда «необходимым условием» синтетического сознания станет наличие у искина хотя бы одного такого микрочипа. Иначе говоря, присутствие подобных микрочипов будет обязательным для всех самосознающих машин – как атомы водорода обязательно присутствуют в любой молекуле воды H_2O.

Тест на пригодность чипа может обратить наше внимание на случаи, которые, в принципе, мог бы упустить ACT-тест. Не исключено, например, что нелингвистическое, чувственное сознание, – такое, как у животного, – может быть построено из чипов, выдержавших тест на пригодность. Однако такому искину может не хватить интеллектуальной сложности, чтобы пройти ACT-тест. У него может не оказаться даже поведенческих маркеров сознания, используемых в нелингвистическом варианте ACT-теста, таких как оплакивание умерших. Тем не менее он может все же обладать сознанием.

Тест на пригодность чипа дал бы серьезный толчок не только ИИ-исследованиям, но и нейробиологии. В зависимости от того, куда помещается нейронный протез, он может отвечать за способность человека пропускать информацию в сознание или способность к бодрствованию или возбуждению (как стволовая часть мозга), а также быть тем, что называют нейронным коррелятом сознания. Нейронный коррелят сознания – это наименьший набор нейронных структур или событий, достаточный для того, чтобы человек обладал памятью или осознанным восприятием[48] (см. рис.).

Кроме того, предположим, что осознанное переживание неврологического пациента может быть полностью восстановлено при помощи чипа-протеза, помещенного в определенную часть мозга. Успешность подобных операций покажет нам, какой уровень функциональной связности необходим для нейронной основы сознания в данной части мозга. Это, предположительно, поможет также определить уровень функциональной детализации, необходимой для обеспечения синтетического сознания, которое создается методом обратного проектирования по образу мозга, хотя «глубина детализации» функциональной модели может меняться от одной части мозга к другой.

Третий тест на искусственное сознание так же актуален, как и тест на пригодность чипа. На его создание нас вдохновила общая информационная теория сознания, разработанная нейробиологом Джулио Тонони и его коллегами из Висконсинского университета в Мэдисоне. Эти исследователи перевели ощущаемое качество наших переживаний на язык математики.

Общая информационная теория сознания (ОИТС)

Тонони однажды столкнулся с пациентом в вегетативном состоянии, и эта встреча убедила его в необходимости разобраться в том, что такое сознание. «Это совершенно практические вещи, – сказал Тонони репортеру The New York Times. – Ощущают ли такие пациенты боль? Вы обращаетесь к научным данным, а они, по существу, ничего вам не говорят»[49]. Тонони глубоко увлечен философией, и отправной точкой его исследований является уже упоминавшаяся трудная проблема сознания, т. е. вопрос, как материя могла породить ощущаемое качество переживания.

Ответ Тонони состоит в том, что сознание требует высокого уровня «обобщения информации» в системе. Информация обобщается, когда состояния системы сильно взаимозависимы и характеризуются густой паутиной обратных связей[50]. Уровень обобщения информации может быть измерен и обозначается заглавной греческой буквой Φ (фи). В соответствии с ОИТС, зная величину Φ, мы можем определить, обладает ли система сознанием и насколько ее сознание развито.

По мнению ее сторонников, ОИТС потенциально способна служить тестом на синтетическое сознание: машины с достаточным уровнем Φ обладают сознанием. Подобно ACT-тесту, ОИТС отбрасывает поверхностные черты ИИ (такие, скажем, как человекоподобная внешность) и смотрит глубже. В самом деле, показатель обобщения информации позволяет сравнивать друг с другом искины с разной архитектурой. Наличие количественной меры для феноменологического сознания ИИ было бы невероятно полезным как при распознавании самосознающих искинов, так и при оценке влияния, которое определенный уровень сознания оказывает на остальные свойства системы (такие как безопасность и интеллект).

К несчастью, расчеты, необходимые для вычисления Φ даже небольшой части мозга, такой как клауструм, практически неподъемны. (То есть точно рассчитать Φ можно лишь для чрезвычайно простых систем.) К счастью, уже придуманы более простые метрики, которые аппроксимируют Φ, и результаты обнадеживают. Например, у мозжечка совсем немного обратных связей – у него линейный, «прямой» тип обработки данных, поэтому он имеет относительно низкий уровень Φ, а следовательно, мало что вносит в общее сознание мозга. Это согласуется с имеющимися данными. Как говорилось в одной из предыдущих глав, люди, рожденные без мозжечка (с так называемой агенезией мозжечка), не отличаются на первый взгляд от нормальных субъектов по уровню и качеству функционирования своего сознания. Те же части мозга, повреждение или отсутствие которых приводит к потере осознанного восприятия в той или иной степени, характеризуются более высокими уровнями Φ. Кроме того, ОИТС позволяет различать уровни сознания у нормальных людей (во время бодрствования и сна, например) и даже идентифицировать «замкнутых» пациентов, которые не могут коммуницировать с внешним миром, но все же находятся в сознании.

ОИТС – это проявление того, что астробиологи называют подходом «с малым N». Точно так же как астрономы делают выводы о жизни во Вселенной на основе одного-единственного примера (жизни на Земле), ОИТС в своих рассуждениях переходит от небольшого числа биологических объектов на Земле к намного более обширному множеству случаев (классу машин и существ, обладающих сознанием). Это вполне объяснимое слабое место, поскольку биологическое сознание на Земле – единственный случай, о котором мы знаем. У предлагаемых мной тестов этот недостаток тоже присутствует. Биологическое сознание – единственное, которое мы знаем, так что нам лучше всего использовать в качестве отправного пункта именно его – вкупе с хорошей дозой беспристрастности.

Еще одной особенностью ОИТС является то, что она наделяет небольшим сознанием все, что имеет хотя бы минимальный уровень Φ. В определенном смысле это сродни доктрине панпсихизма – точке зрения на природу сознания, о которой я расскажу в главе 8. Согласно этой доктрине, даже микроскопические неодушевленные объекты испытывают переживания, хотя и очень слабые. Однако между ОИТС и панпсихизмом есть заметные различия, поскольку ОИТС не приписывает сознание всему подряд. Например, вычислительные сети с прямой связью имеют Φ, равное нулю, и потому не обладают сознанием. По словам Тонони и Коха, «ОИТС предсказывает, что сознание может быть разным, оно обычно для биологических организмов и может возникать в некоторых очень простых системах. В то же время из нее следует, что сети с прямой связью, даже сложные, не обладают сознанием, как и совокупности, такие как группа людей или куча песка»[51].

Несмотря на то что ОИТС открывает простор для включения систем в разряд обладающих сознанием, она идентифицирует определенные системы как обладающие сознанием в особом смысле. Иными словами, она нацелена на выявление систем с более сложной формой сознания, сходной с тем, что существует в нормально функционирующем мозге[52]. Вопрос искусственного сознания в этом контексте сводится к тому, обладают ли машины макросознанием, в отличие от сознания с более низким уровнем Φ, демонстрируемым обычными объектами.

Достаточно ли машине иметь высокий уровень Φ, чтобы обладать сознанием? По словам Скотта Ааронсона, директора Центра квантовой информации Техасского университета в Остине, двумерная сетка, в которой работают коды коррекции ошибок (такие используются, например, для CD), имеет очень высокий уровень Φ. Ааронсон пишет: «ОИТС предсказывает не только что эти системы обладают сознанием (что было бы нормально), но и что они могут обладать неограниченно более высоким уровнем сознания, чем люди»[53]. Но такая сетка, откровенно говоря, не кажется подходящим носителем сознания.

Тонони соглашается с Ааронсоном. По его мнению, эта сетка действительно обладает сознанием (т. е. макросознанием). На мой же взгляд, высокий уровень Φ недостаточен, чтобы считать искина обладающим сознанием. Я не уверена даже в том, что это вообще необходимо. Например, даже самые быстрые сегодняшние суперкомпьютеры имеют низкий уровень Φ. Дело в том, что конструкция их чипов недостаточно нейроморфна. (Даже машины на основе чипа TrueNorth компании IBM, спроектированного нейроморфным, имеют низкий уровень Φ из-за наличия «шины» – общего пула сигналов, который снижает внутреннюю связность машины, как ее определяет ОИТС.) Возможна даже ситуация, когда система будет сконструирована методом обратного проектирования по архитектуре мозга, но работать на аппаратных средствах с низким уровнем Φ. Я считаю, что пока рано полностью исключать возможность присутствия сознания у такой системы.

Итак, как при текущем уровне знаний нам следует обращаться с машиной, имеющей высокую Φ, – если, конечно, мы встретим такую? Понятно, что одного только уровня Φ недостаточно. Более того, поскольку исследования Φ до сих пор ограничивались биологическими системами и существующими компьютерами (а это не слишком удачные кандидаты на обладание сознанием), пока слишком рано говорить, является ли Φ необходимым условием искусственного сознания. Так или иначе, я не хочу, чтобы моя оценка казалась слишком негативной. Величина Φ вполне может оказаться маркером сознания – характеристикой, говорящей о том, что к системе следует отнестись с особым вниманием, как к потенциальному носителю сознания.

Существует и более общий вопрос, с которым нам следует здесь разобраться. Тесты, о которых мы говорили, находятся пока в стадии разработки. В ближайшие десятилетия мы можем встретить искинов с признаками сознания, но, поскольку тесты еще сырые, с уверенностью нельзя будет сказать, действительно ли сознание у них есть. Неопределенность усиливает еще и то, что, как я подчеркивала, социальное влияние синтетического сознания зависит от нескольких переменных. Например, в машинах одного типа сознание может привести к эмпатии, а в машинах другого типа – к непредсказуемости. Так как же нам поступить, если ОИТС или тест на пригодность чипа указывают на присутствие синтетического сознания или если ACT-тест говорит, что искин обладает сознанием? Следует ли нам прекратить развитие этих систем, чтобы не пересечь этическую красную линию? Это зависит от многих факторов. Я предлагаю вариант осмотрительного подхода.

Принцип предосторожности и шесть рекомендаций

На протяжении всей книги я не устаю подчеркивать, что благоразумным является одновременное использование нескольких индикаторов искусственного сознания. Для проверки результатов одного теста можно использовать другие тесты – такой подход помогает увидеть недостатки тестирования и пути его совершенствования. Не исключена, например, ситуация, когда микрочипы, выдерживающие тест на пригодность, имеют низкое значение Φ, а те, что, согласно предсказаниям ОИТС, способны поддерживать сознание, не работают в нейронных протезах человеческого мозга.

Принцип предосторожности – это знакомый каждому этический принцип. В соответствии с ним если существует вероятность того, что некая технология вызовет катастрофические последствия, то лучше перестраховаться, чем потом сожалеть. Прежде чем приступать к созданию технологии, которая потенциально может иметь такие последствия для общества, желающие ее разрабатывать должны доказать, что она не приведет к катастрофе. Осторожное мышление имеет давнюю историю, хотя сам принцип был сформулирован относительно недавно. Доклад «Запоздалая реакция на раннее предупреждение» приводит в пример врача, который во время вспышки холеры в Лондоне в 1854 г. рекомендовал снять рукоятку насоса водоразборной колонки в эпицентре заболевания. Хотя признаки причинной связи между тем насосом и распространением холеры были косвенными, эта простая мера эффективно остановила распространение заразы[54]. Если бы на признаки потенциальной опасности асбеста обратили внимание сразу, это помогло бы спасти массу жизней, хотя в то время наука еще многого не знала. Согласно докладу UNESCO/COMEST, принцип предосторожности уже стал основой для множества договоров и деклараций в области защиты окружающей среды, устойчивого развития, продовольственной безопасности и здравоохранения[55].

Я уже указывала на возможные этические последствия возникновения синтетического сознания и подчеркивала, что мы сейчас не знаем, будут ли созданы самосознающие машины и каково будет их влияние на общество. Нам необходимо разработать тесты для машинного сознания и исследовать влияние сознания на другие ключевые свойства системы, такие как эмпатия и лояльность. Принцип предосторожности подсказывает, что не следует слишком торопиться с разработкой сложного искина, не поняв, насколько он безопасен, поскольку случайное или намеренное создание самосознающих машин может породить экзистенциальные или катастрофические риски для человечества – от непредсказуемого сверхразума, который заменит людей, до слияния человека и машины, при котором человеческое сознание ослабнет или просто угаснет.

В свете этих возможностей я хочу предложить шесть рекомендаций. Во-первых, мы должны продолжить работу над этими тестами и применять их везде, где это возможно. Во-вторых, в случае сомнений в наличии сознания у того или иного искина не следует использовать его в ситуациях, где он потенциально может нанести катастрофический вред. В-третьих, если есть основания предполагать наличие сознания у искина, даже при отсутствии достоверных тестов, то в соответствии с принципом предосторожности на него следует распространить юридическую защиту, которой пользуются другие одушевленные существа. Насколько нам известно, самосознающий искин способен страдать и испытывать целый ряд эмоций, подобно животным. Исключение самосознающих искинов из этических схем означало бы дискриминацию по видовому признаку. В-четвертых, представьте себе искинов с «маркерами» сознания (т. е. таких, которые обладают лишь косвенными признаками сознания). Это могут быть, например, искины, построенные на чипах, испытываемых на пригодность, или искины, обладающие когнитивным сознанием. В проектах, где задействованы искины с маркерами сознания, могут, насколько нам известно, появиться по-настоящему самосознающие искины, даже если они не выдерживают ACT-тест. До тех пор пока мы не узнаем наверняка, обладают ли сознанием эти системы, нам в соответствии с принципом предосторожности лучше всего относиться к ним как к обладающим сознанием.

В-пятых, я советую разработчикам ИИ следовать предложению философов Мары Гарцы и Эрика Швицгебеля и избегать создания искинов в тех случаях, когда нельзя точно сказать, будут ли они обладать сознанием. Следует создавать только искинов с понятным моральным статусом, так или иначе. Как подчеркивают Гарца и Швицгебель, ставки в том случае, если мы распространим этическую защиту на искины, которые лишь могут обладать сознанием и могут заслуживать прав, слишком высоки. Представьте, например, что есть три андроида, которые могут обладать сознанием, и мы наделяем их равными правами. Но при транспортировке они попадают в аварию, и у нас есть возможность спасти либо машину с тремя андроидами, либо машину с двумя людьми. Мы спасаем андроидов и обрекаем людей на смерть. Такая ситуация будет особенно трагичной, если эти андроиды на самом деле не обладают сознанием. Люди умерли, а андроиды на самом деле не заслуживали этих прав. В свете таких рассуждений Гарца и Швицгебель рекомендуют придерживаться «принципа исключенного среднего»: нам следует создавать только таких существ, моральный статус которых ясен так или иначе. Тогда мы сможем избежать рисков предоставления как слишком ограниченных, так и слишком широких прав[56].

Принцип исключенного среднего представляется мне важным и заслуживающим внимания, но он может оказаться применимым не во всех случаях. Пока мы не поймем в достаточной мере, какие системы обладают сознанием – если, конечно, такие имеются, – а также влияет ли и как именно влияет сознание на общее функционирование системы, нельзя сказать, хорошая ли это идея – заранее исключать все промежуточные искины. Кто знает, не окажется ли какой-нибудь искин из этой категории ключевым для национальной безопасности или даже для безопасности самого ИИ. Возможно, самые сложные квантовые компьютеры окажутся именно в промежуточной зоне, по крайней мере поначалу. Для некоторых организаций отказ от энергичного внедрения квантовых вычислений породил бы риски кибербезопасности и стал бы стратегическим недостатком. (Более того, маловероятно, что глобальное соглашение об исключении средних случаев можно реализовать в ситуации, когда обладание этой технологией имеет гигантскую стратегическую ценность.) В этих ситуациях у некоторых организаций, возможно, не останется выбора, кроме как разрабатывать системы среднего уровня, если выяснится, что они безопасны. В подобных случаях, как я уже указывала, лучше всего обращаться с искинами так, как если бы они обладали сознанием.

Это подводит меня к шестой и последней рекомендации: если мы все же решим использовать искин среднего уровня, нам следует по возможности избегать ситуаций, связанных с принятием этических компромиссов в ущерб другим обладателям прав. Было бы обидно пожертвовать самосознающими существами ради устройств, не обладающих сознанием.

Все это, возможно, выглядит излишним, поскольку самосознающие искины кажутся научной фантастикой, но, когда речь заходит о продвинутом ИИ, мы неизбежно сталкиваемся с рисками и проблемами, выходящими далеко за пределы наших нормальных представлений.

Исследуем идею слияния разума и машины

Хотя успешное использование ИИ-технологий, очевидно, требует прочной научной базы, для их надлежащего применения необходимы также философские размышления, междисциплинарное сотрудничество, тщательное тестирование и общественная дискуссия. Все эти вопросы невозможно разрешить при помощи одной только науки. Из последующих глав этой книги станет ясно, что учет этого общего соображения и в других отношениях может стать ключом к нашему будущему.

Вспомните, например, ошибку Джетсонов. ИИ не только поможет нам создать более совершенных роботов и более мощные суперкомпьютеры. ИИ нас преобразит. Искусственный гиппокамп, нейронное кружево, импланты для лечения душевных расстройств – это лишь некоторые из преобразующих технологий, которые в настоящее время находятся в разработке. В будущем вполне может появиться Центр конструирования разума. Так что в нескольких следующих главах мы обратим взгляд внутрь и исследуем идею слияния человека с искусственным интеллектом, переноса личности на другой субстрат и обретения сверхразума. Как мы увидим, идея соединения человека с ИИ – это настоящее минное поле с классическими философскими проблемами, которые не имеют ясных решений.

Например, теперь, когда мы исследовали машинное сознание, можно по-настоящему оценить тот факт, что нам достоверно неизвестно, способны ли ИИ-компоненты эффективно заменить части мозга, отвечающие за сознание. Когда дело дойдет до такой замены, нейронное протезирование и нейронные импланты могут оказаться бессильны. В этом случае человек никогда не сможет безопасно слиться с ИИ, поскольку неизбежно потеряет самое главное в жизни – свое сознание.

В таком случае, наверное, преобразования мозга придется ограничить в каких-то отношениях. Во-первых, скорее всего, придется ограничиться теми частями мозга, которые точно не составляют нейронную основу осознанных переживаний. То есть в областях мозга, отвечающих за сознание, можно будет использовать только биологические компоненты. Во-вторых, не исключено, что в этих областях будут возможны наноизменения и даже использование наноразмерного ИИ при условии, что он лишь дополнит работу соответствующих областей мозга, а не возьмет ее на себя. Обратите внимание: в обоих случаях соединение или слияние человека и искина не рассматривается, хотя ограниченная интеграция все же возможна. Ни в том ни в другом сценарии никто не сможет загрузить свою личность в облако или заменить всю нервную ткань ИИ-компонентами. Но расширение других функций все же возможно.

В любом случае со временем появятся новые технологии, так что нельзя сказать наверняка, как будет развиваться ситуация. Если все же предположить дискуссии ради, что компоненты ИИ смогут заменять части мозга, отвечающие за сознание, то даже в этом случае, как показывает следующая глава, у нас будут причины сопротивляться слиянию с ИИ. Как и раньше, мы начнем с вымышленного сценария, придуманного, чтобы помочь вам разглядеть достоинства и недостатки радикального усовершенствования.

Глава 5

Могли бы вы слиться с ИИ?

Представим, что сейчас 2035 год. Вы технофил и потому решаете встроить себе систему мобильного интернет-подключения в сетчатку глаза, а через год расширяете свою кратковременную память при помощи нейронных схем. Вы теперь – официальный киборг. Перенесемся в 2045 год. Нанотехнологии позволяют вам продлить жизнь, и вы продолжаете использовать самые передовые и масштабные средства расширения возможностей организма.

К 2060 году, после ряда небольших, но совокупно очень глубоких изменений, вы уже «постчеловек». Постлюди – это существа будущего, которых уже нельзя однозначно идентифицировать как людей, поскольку их ментальные способности радикально превосходят возможности современного человека. К этому моменту ваш интеллект становится более совершенным уже не просто с точки зрения скорости ментальных вычислений; вы обретаете способность легко устанавливать многогранную связь образов и понятий, недоступную прежде. Обычные, «неулучшенные» люди, кажутся вам интеллектуально ущербными, у вас с ними мало общего, но вы, как трансгуманист, уважаете их право не расширять возможности своего мозга.

Наступил 2300 год. К глобальным техническим достижениям добавляется сверхразумный ИИ. Напомню, что сверхразумный искин радикально превосходит лучшие умы человечества практически во всех областях, включая научное творчество, здравый смысл и социальные навыки. Со временем постепенное добавление все более совершенных ИИ-компонентов стирает различие между вами и сверхразумным искином. Единственное, в чем оно сохраняется, – это происхождение. В отличие от искина вы когда-то были «натуралом». Но теперь вы почти целиком продукт высоких технологий. Вас теперь лучше характеризовать как представителя класса созданий с искусственным интеллектом. Вы полностью сливаетесь с ИИ.

В этом мысленном эксперименте речь идет об изменениях того рода, к которым стремятся трансгуманисты и известные технологические лидеры вроде Илона Маска и Рэя Курцвейла[57]. Хочу напомнить, что трансгуманисты намерены перепроектировать человеческий организм, мечтают о бессмертии и синтетическом разуме – и все это в стремлении повысить качество нашей жизни. Сторонников идеи о том, что людям следует слиться с ИИ, называют технооптимистами: они убеждены, что синтетическое сознание возможно. Кроме того, они считают возможным и слияние с ИИ. Если говорить конкретнее, они, как правило, предлагают следующую траекторию развития[58]:

Обычный человек XXI в. → значительная «модернизация» при помощи когнитивных и других физических усовершенствований → статус постчеловека → «сверхразумный искин».

Назовем точку зрения, согласно которой человек должен двигаться по такой траектории и слиться в конечном итоге с искусственным интеллектом, «фьюжен-оптимизмом». Технооптимизм в отношении машинного сознания не требует обязательного фьюжен-оптимизма, хотя многие технооптимисты и правда симпатизируют этим взглядам. Но фьюжен-оптимизм нацелен на создание будущего, где пресловутые постлюди – самосознающие существа.

У этой примерной траектории есть множество вариаций. Так, одни трансгуманисты считают, что переход от неусовершенствованного человеческого интеллекта к сверхразуму будет стремительным, поскольку мы приближаемся к сингулярности – моменту, когда создание сверхчеловеческого интеллекта вызовет громадные изменения за очень короткий промежуток времени (например, за 30 лет)[59]. Другие трансгуманисты утверждают, что технологические перемены не будут настолько внезапными. В этих дискуссиях часто обсуждается достоверность закона Мура[60]. Еще один ключевой вопрос – произойдет ли на самом деле переход к сверхразуму, ведь будущее технологическое развитие связано с серьезными рисками. Риски биотехнологий и ИИ касаются трансгуманистов и специалистов по биоэтике в целом в той же мере, что и биоконсерваторов[61].

Итак, следует ли нам пускаться в это путешествие? К несчастью, как бы притягательны ни были сверхчеловеческие способности, мы увидим, что даже мягкие усовершенствования мозга, не говоря уже о радикальных вариантах, могут оказаться рискованными. Существо, созданное в результате вашего «усовершенствования», может оказаться кем-то совсем другим. Иначе говоря, результат может обернуться вовсе не вашим усовершенствованием.

Что такое личность?

Чтобы понять, стоит ли себя усовершенствовать, сначала необходимо выяснить, что вы собой представляете. Что такое личность? А потом решить: продолжите ли вы после столь радикальных изменений существовать как эта личность? Или вам на смену придет кто-то другой – а то и что-то другое?

Чтобы принять подобное решение, нужно разобраться в метафизике своей идентичности, т. е. ответить на вопрос: благодаря чему или посредством чего конкретное «я», или личность, продолжает существовать?[62] Чтобы понять, о чем идет речь, рассмотрим существование обыденных предметов. Представьте кофемашину в своем любимом кафе. Представьте, что прошло пять минут и бариста выключает ее. Мысленно спросите у него, осталась ли кофемашина той же самой, что и пять минут назад. Скорее всего, он скажет, что ответ очевиден: машина продолжает существовать, хотя какое-то из ее свойств изменилось. Если же она развалится или расплавится, то ее больше не будет.

Смысл этого примера в том, что предметы вокруг нас из-за одних изменений перестают существовать, а из-за других – нет. Философы называют те свойства, которыми вещь должна обладать все время, пока она существует, «сущностными».

А теперь рассмотрим предлагаемую трансгуманистами траекторию усовершенствования еще раз. Ее представляют как форму личностного развития. Однако, даже если она несет с собой такие преимущества, как сверхчеловеческий интеллект и радикальное увеличение продолжительности жизни, движение по ней не должно сопровождаться потерей каких-либо сущностных свойств.

Что же это за свойства? Представьте себя в первом классе школы. Какие из сохранившихся с тех пор качеств представляются вам важными для того, чтобы считать себя все той же личностью? Замечу, что клетки вашего тела за это время полностью обновились, а структура и функционирование мозга изменились кардинально. Если человек – это просто физические составляющие его тела и мозга, то вас – такого, каким вы были в первом классе, – давно уже нет на свете. Того физического первоклассника больше не существует. Курцвейл, очевидно, видит связанные с этим сложности, когда говорит:

Так кто же я? Поскольку я непрерывно меняюсь, может быть, я просто схема, паттерн? Что, если кто-то скопирует эту схему? А я сам – оригинал или копия? Может быть, я и есть вся эта материя – т. е. как упорядоченный, так и хаотический набор молекул, которые составляют мое тело и мозг?[63].

Курцвейл намекает на две теории, которые находятся в центре давнего философского спора о природе личности. Назову ведущие теории в этой сфере:

1. Теория психологической непрерывности. Вы – это, в сущности, ваши воспоминания и способность размышлять о себе (Локк). В самом общем виде вы суть ваша общая психологическая конфигурация, то, что Курцвейл называл вашим «паттерном»[64].

2. Материалистический подход к мозгу. Вы – это, в сущности, то, из чего вы сделаны (т. е. из чего сделаны ваше тело и мозг), или, по выражению Курцвейла, «упорядоченный и хаотический набор молекул», который составляет тело и мозг[65].

3. Теория души. Ваша суть – это ваша душа или разум, понимаемые как нефизическая сущность, отдельная от тела.

4. Представление об отсутствии личности. Самость – это иллюзия. «Я» – это грамматическая выдумка (Ницше). Существует масса впечатлений, но в их основе нет личности (Юм). Выживание невозможно, потому что не существует личности (Будда)[66].

Каждая из перечисленных точек зрения позволяет сделать свои выводы о том, следует ли нам совершенствовать себя. Например, из теории психологической непрерывности следует, что усовершенствования могут изменять ваш субстрат, но должны сохранять общую психологическую конфигурацию. Эта теория разрешает вам перенести свою личность на кремний или какой-то иной субстрат, по крайней мере в принципе.

Предположим теперь, что вы – сторонник материалистического подхода к мозгу. Материалистический взгляд заключается в том, что разум в основе своей есть нечто физическое, или материальное по природе, и что ментальные свойства, такие как мысль о чудесном аромате кофе, представляют собой в конечном итоге всего лишь физические качества. (Эту точку зрения часто называют «физикализмом».) Материализм добавляет к этому, что мышление зависит от мозга. Мысль невозможно «перенести» на другой субстрат. Так что, согласно этой точке зрения, усовершенствования не должны изменять материальный субстрат личности или эта самая личность просто исчезнет.

Далее предположим, что вы сторонник теории души. В этом случае решение усовершенствовать себя должно зависеть, судя по всему, от того, есть ли у вас основания считать, что усовершенствованное тело сохранит душу или нематериальный разум.

Четвертая позиция резко контрастирует с остальными. Если вы придерживаетесь представления об отсутствии личности, то сохранение личности вообще не вопрос, ибо никакой личности, или «я», не существует. В этом случае такие местоимения, как «я» или «вы», относятся на самом деле не к личностям. Тем не менее обратите внимание: даже если вы отрицаете существование личности, то все равно можете стремиться к усовершенствованию себя. Например, вы можете усматривать пользу в распространении сверхразума во Вселенной – вы можете ценить формы жизни с более высоким уровнем сознания и желать, чтобы ваш «преемник» был именно таким существом.

Я не знаю, многие ли из тех, кто ратует за слияние разума и машины (в частности, Илон Маск и Митио Каку), рассматривали приведенные выше классические точки зрения на идентичность личности. Но им следовало бы это сделать. Не обращать внимания на споры о природе личности – плохая идея. Позже – если выяснится, что технология, которую человек защищал, на самом деле оказала громадное отрицательное влияние на процветание человечества, – это может обернуться серьезным разочарованием.

Так или иначе, и Курцвейл, и Ник Бостром рассматривают этот вопрос в своих работах. Как и многие другие трансгуманисты, они принимают новый интригующий вариант теории психологической непрерывности, в частности стоят на позиции вычислительного, или паттернистского, представления непрерывности.

Может быть, вы – шаблон программы?

Отправной точкой паттернизма служит вычислительная теория сознания, которую я уже представляла. Поначалу вычислительная теория сознания исходила из того, что разум похож на стандартный компьютер, но сегодня большинство соглашается с тем, что мозг не имеет такой структуры. Однако когнитивные и перцептивные способности, такие как кратковременная память и внимание, по-прежнему считаются вычислительными в широком смысле. Хотя варианты вычислительной теории сознания различаются в деталях, все они объясняют когнитивные и перцептивные способности как причинные взаимосвязи между компонентами, каждый из которых можно описать алгоритмически. Обычный способ описания вычислительной теории сознания заключается в отсылке к идее о том, что разум – это компьютерная программа:

Программный подход к разуму. Разум – это программа, выполняемая мозгом. То есть разум – это алгоритм, используемый мозгом, и именно его пытаются описывать различные разделы когнитивистики[67].

Те, кто занимается вычислительной теорией сознания в философии, предпочитают обходить тему паттернизма, как и более общую тему идентичности личности. Это не слишком хорошо по двум причинам. Во-первых, на представлениях о природе личности сильно сказываются взгляды автора на природу разума. Ибо что такое личность, если не то, чем она думает и размышляет, по крайней мере отчасти? Во-вторых, что бы ни представлял собой разум, для понимания его природы необходимо разобраться с вопросом постоянства, а это выводит нас на теории постоянства личности. Однако в дискуссиях о природе разума вопрос его постоянства часто игнорируется. Я подозреваю, что причина этого проста: изучение природы разума относится к другой подобласти философии по сравнению с изучением природы личности – иными словами, все дело в академических ярлыках.

К чести трансгуманистов, они проявляют в этом вопросе инициативу и пытаются связать тему природы разума с вопросами идентичности личности. Они совершенно правильно разглядели сродство между паттернизмом и программным подходом к сознанию. В конце концов, если принять вычислительный подход к природе разума, то совершенно естественно считать людей своего рода компьютерами и задаваться вопросом, не зависит ли целостность личности от целостности ее программного паттерна. Основополагающую концепцию паттернизма очень хорошо уловил Курцвейл:

Конкретный набор частиц, которые составляют мое тело и мозг, на самом деле полностью отличается от атомов и молекул, из которых я состоял еще совсем недавно. Мы знаем, что большинство наших клеток заменяется за несколько недель и даже в наших нейронах, существующих как индивидуальные клетки относительно долгое время, все составляющие их молекулы заменяются в течение месяца… Я скорее похож на узор, который образует вода, когда бежит по камням. Реальные молекулы воды меняются каждую миллисекунду, но паттерн сохраняется на протяжении часов или даже лет[68].

Сформулируем языком когнитивистики, как это, безусловно, сделал бы трансгуманист, что жизненно важно для вас в своей вычислительной конфигурации: сенсорные системы/подсистемы мозга (например, зрение); ассоциативные зоны, где объединяются эти базовые сенсорные подсистемы; нейронные сети, обеспечивающие здравый смысл; система внимания; воспоминания и т. д. Все это вместе образует тот алгоритм, по которому ваш мозг осуществляет вычисления.

Вы можете решить, что трансгуманист положительно относится к материалистическому взгляду на мозг. Однако трансгуманисты в целом отрицают его, поскольку считают, что личность продолжает существовать, если сохраняется ее паттерн – пусть даже он загружен в компьютер, а мозг больше не существует. Для многих фьюжен-оптимистов загрузка в компьютер – ключ к достижению слияния разума и машины.

Конечно, я не утверждаю, что все трансгуманисты являются паттернистами. Но паттернизм Курцвейла весьма типичен. Вот, например, апелляция к паттернизму в отрывке из сборника «Часто задаваемые вопросы по трансгуманизму», составленного Бостромом. Книга начинается с обсуждения процесса загрузки разума в компьютер:

Загрузка (иногда ее называют «реконструкцией мозга») – это процесс переноса интеллекта с биологического носителя в компьютер. Она может происходить так: сначала сканируется синаптическая структура конкретного мозга, а затем те же вычисления реализуются на электронном носителе… Новое вместилище разума может иметь виртуальное (смоделированное) тело, дающее те же ощущения и те же возможности для взаимодействия, что и оригинальное, несмоделированное тело… Загрузка в компьютер принесет немалые преимущества, в частности неподверженность биологическому старению. Кроме того, регулярно можно создавать резервные копии разума, чтобы в случае чего вас можно было перезагрузить. (Таким образом, продолжительность вашей жизни будет потенциально столь же велика, как и продолжительность жизни Вселенной.) … Скорее всего, радикально совершенствовать загруженный разум будет проще, чем органический мозг… Считается, что вы живете так долго, как долго сохраняются определенные информационные паттерны, такие как ваши воспоминания, ценности, взгляды и эмоциональные предрасположенности… Для продолжения существования личности, с этой точки зрения, не слишком важно, реализованы ли вы на каком-нибудь кремниевом чипе внутри компьютера или в массе этой серой творожистой массы внутри черепа, – если считать, что обе эти реализации обладают сознанием[69].

Короче говоря, футуристическая ориентация и склонность видеть в основе всего вычисления приводит трансгуманиста к паттернизму: подходу к природе личности, представляющему собой интригующий сплав вычислительного представления о разуме и традиционного взгляда, объясняющего личность психологической непрерывностью[70]. Паттернизм, будь он оправдан, позволил бы объяснить, как пережить радикальные усовершенствования, подобные тем, о которых шла речь в наших мысленных экспериментах. Более того, он стал бы важным вкладом в вечный философский спор о природе личности. Так оправдан ли паттернизм? И допускает ли он радикальные усовершенствования, о которых говорят фьюжен-оптимисты? Вот об этом мы и поговорим в следующей главе.

Глава 6

Сканирование разума

Я учу вас о сверхчеловеке. Человек есть нечто, что до́лжно преодолеть. Что сделали вы, чтобы преодолеть его?

Ф. НИЦШЕ. ТАК ГОВОРИЛ ЗАРАТУСТРА

И вы, и я – мы с вами всего лишь информационные паттерны, и нас можно обновить до новой, более совершенной версии – превратить в человека 2.0, если хотите. А потом, по мере развития ИИ, можно будет создавать дальнейшие версии нас, пока однажды, когда наука достигнет нужного уровня, мы не сольемся с ИИ в окончательном ницшеанском акте самопреодоления.

Так мог бы сказать фьюжен-оптимист.

Посмотрим, правы ли фьюжен-оптимисты, всерьез размышляющие над сценарием, который можно найти в научно-фантастическом романе Роберта Сойера «Мнемоскан». У героя этого романа Джейка Салливана обнаружили неоперабельную опухоль мозга. Он может умереть в любой момент. К счастью, у компании Immortex имеется новое средство от старения и болезней – «мнемоскан». Ученые Immortex загружают конфигурацию мозга в компьютер и «переносят» ее в андроид, сконструированный по образу и подобию пациента. Андроид хотя и несовершенен, имеет свои преимущества – после загрузки личности остается резервная копия, которую, если что-то случится, всегда можно загрузить заново. К тому же андроид легко совершенствуется по мере появления новых разработок. Джейк будет бессмертен.

Салливан с энтузиазмом подписывает многочисленные юридические соглашения. Ему говорят, что после загрузки разума его имущество перейдет андроиду, который станет новым носителем его сознания. Оригинальный же Салливан, который так и так должен скоро умереть, проживет остаток своих дней в «Высоком Эдеме» – колонии Immortex на Луне. Оригинал, хотя и лишенный правосубъектности, будет жить там в комфорте, общаясь с другими оригиналами, тоже переживающими биологическое старение.

Затем Сойер описывает мысли Джейка, лежащего в камере сканирования:

Я с нетерпением ждал обретения новой формы своего существования. Продолжительность жизни не так уж много для меня значила – но вот ее качество… К тому же у меня будет время – не только годы будущей жизни, но и круглые сутки. Загруженным ведь не нужно спать, так что мы получаем не только дополнительные годы, но и на треть больше продуктивного времени. Будущее совсем рядом. Сотворение другого меня. Мнемосканирование.

Но затем, несколько секунд спустя:

«Очень хорошо, мистер Салливан, можете выйти», – это был голос доктора Киллиана со знакомым ямайским акцентом.

У меня упало сердце. Только не…

«Мистер Салливан? Мы закончили сканирование. Если вы нажмете красную кнопку…» Осознание придавило меня к земле, как тонна кирпичей, как кровавая приливная волна. Нет! Я должен был бы оказаться где-то в другом месте, но я здесь…

Я задумчиво поднял руки, похлопал себя по груди, ощущая ее мягкость и чувствуя, как она поднимается и опускается. Боже милосердный!

Я покачал головой: «Вы отсканировали мое сознание, изготовили дубликат моего разума, верно?» – Мой голос звучал язвительно.

«И поскольку я осознаю происходящее после окончания вашего сканирования, это означает, что со мной осталась моя версия, а не копия. Копии не грозит перспектива стать овощем. Она свободна. Наконец-то она свободна от всего, что висело над моей головой последние двадцать семь лет. Мы теперь разделились, и излеченное я идет своей дорогой. Но этот я по-прежнему обречен»[71].

В романе Сойера паттернистская концепция личности доводится, по существу, до абсурда (известный прием reduction ad absurdum). Паттернизм утверждает лишь, что, до тех пор пока личность A имеет ту же вычислительную конфигурацию, что и личность B, A и B – это одна и та же личность. И правда, Сугияма – человек, подкинувший Джейку идею мнемосканирования, – придерживался своеобразной формы паттернизма[72].

Но Джейк слишком поздно осознал, что в этой точке зрения существует проблема, которую мы будем называть «проблемой редупликации»: в реальности только одна личность может быть Джейком Салливаном. Если верить паттернизму, оба эти существа – Джейки Салливаны, поскольку разделяют одну и ту же психологическую конфигурацию. Но, как запоздало осознал Джейк, хотя существо, созданное при помощи процесса мнемосканирования, возможно, действительно является личностью, это не та же самая личность, что оригинальный Джейк. Это просто другая личность с искусственным мозгом и телом, похожим на оригинал. Обе они чувствуют психологическую непрерывность с человеком, который вошел в сканер, и обе, возможно, будут утверждать, что являются Джейком. Тем не менее это не одна и та же личность – оснований считать их таковой не больше, чем у однояйцевых близнецов.

Из этого следует, что обладания определенным типом паттерна недостаточно для идентичности личности. В самом деле, далее в романе Сойера эта проблема разрастается до эпических масштабов: появляется множество копий Салливана, и все они верят, что являются оригиналами! Возникает целый ворох этических и юридических проблем.

Каков же выход?

Однако у паттерниста имеется на это ответ. Как уже отмечалось, проблема редупликации подсказывает, что совпадение паттерна – недостаточное условие тождественности личности. Вы – это нечто большее, чем просто ваш паттерн. И все же в паттернизме просматривается что-то очень верное: ведь, как говорит Курцвейл, на протяжении всей жизни ваши клетки непрерывно меняются, неизменным остается именно организационный паттерн. И если вы не придерживаетесь религиозной концепции личности и теории души, паттернизм может показаться вам неизбежным, по крайней мере при наличии веры в существование такой вещи, как личность.

В свете этих соображений нам, пожалуй, нужно реагировать на случай редупликации следующим образом: паттерн необходим для идентификации личности, но недостаточен для полного описания идентичности. Возможно, есть какое-то дополнительное сущностное свойство, которое – вместе с вашим паттерном – дает полную концепцию идентичности личности.

Что же может представлять собой недостающий компонент? Интуитивно понятно, что это должно быть какое-то требование, позволяющее исключить мнемосканирование и, в более общем случае, любые ситуации, в которых разум загружается в компьютер. Такая загрузка порождает проблему редупликации, поскольку единожды загруженный разум, в принципе, можно копировать снова и снова.

Теперь подумайте о своем собственном существовании в пространстве и времени. Чтобы достать почту из ящика, вы перемещаетесь из одной точки в другую, проделывая путь в пространстве. Путь, который проходит человек на протяжении жизни, поможет зрительно представить пространственно-временная диаграмма. Свернув три пространственных измерения в одно (вертикальную ось) и приняв горизонталь за ось времени, мы получим траекторию вроде той, что показана на рисунке.

Обратите внимание: человек выписывает фигуру, напоминающую червя; вы, как все физические объекты, в процессе существования оставляете след в виде своеобразного пространственно-временного червя.

По крайней мере, по такой траектории следуют обычные люди – не постлюди и не сверхразумные создания. А теперь давайте подумаем, что произошло во время мнемосканирования. Опять же, согласно теории паттернизма, оно должно дать две копии одной и той же личности. Пространственно-временная диаграмма копии выглядела бы как та, что изображена на следующем рисунке.

Это очень странно. Кажется, будто Джейк Салливан существует 42 года, проходит процедуру мнемосканирования, а затем каким-то образом мгновенно перемещается в другую точку в пространстве и проживает оставшуюся часть своей жизни. Это совершенно непохоже на нормальную непрерывную жизнь и сигнализирует о том, что с чистым паттернизмом что-то не так: в нем отсутствует требование пространственно-временной непрерывности.

Это дополнительное требование вроде бы решает проблему редупликации. В назначенный день Джейк отправляется в лабораторию и проходит процедуру мнемосканирования, затем покидает лабораторию, садится в космический корабль и улетает в изгнание на Луну. Именно этот человек – который движется по непрерывной траектории в пространстве и времени – и есть истинный Джейк Салливан. А андроид – невольный самозванец.

Однако такой ответ на проблему редупликации срабатывает лишь частично. Вспомните, как Сугияма, продавая свой продукт – мнемоскан, допускает паттернистский тон. Если бы он принимал паттернизм с дополнительным условием пространственно-временной непрерывности, то ему пришлось бы признать, что клиенты не обретут бессмертия, и тогда мало кто подписался бы на сканирование. Этот дополнительный компонент сразу исключил бы мнемосканирование (и любой другой тип загрузки в компьютер) из разряда средств продления жизни. На подобные процедуры соглашались бы только те, кто хочет обеспечить себе замену.

Из всего этого вытекает следующий общий урок для трансгуманистов и фьюжен-оптимистов: если вы выбираете паттернизм, то такие усовершенствования, как загрузка в компьютер с целью избежать смерти или облегчить дальнейшую модернизацию, перестают, в сущности, быть настоящими «усовершенствованиями» и могут даже привести к смерти. Фьюжен-оптимисту следовало бы протрезветь и не предлагать таких процедур, как усовершенствования. Когда дело доходит до усовершенствований, существуют принципиальные ограничения возможностей технологии. Изготовление копий разума не считается усовершенствованием, поскольку каждый разум продолжает самостоятельное существование и зависит от ограничений своего субстрата. (По иронии судьбы сторонник теории души здесь оказывается в лучшем положении, потому что душа, предположительно, может куда-то переместиться, в частности загрузиться в компьютер. Если так, то Джейк вполне мог бы проснуться и обнаружить себя в теле андроида, а его оригинальная плоть осталась бы в виде зомби, лишенная осознанных переживаний. Кто знает?)

А теперь сделаем паузу и немного передохнем. Мы многое выяснили в этой главе. Мы начали с размышлений о сюжете «Мнемоскана», и паттернизм осложнился проблемой редупликации. Это заставило отказаться от первоначальной формы паттернизма как ошибочной. Затем я предложила модифицировать паттернизм, чтобы получить на его основе более реалистичную картину. Для этого мы добавили новый элемент, согласно которому любой паттерн, чтобы уцелеть, должен обладать пространственно-временной непрерывностью. Я назвала эту точку зрения модифицированным паттернизмом. Возможно, модифицированный паттернизм показался вам более разумным, но обратите внимание: он не слишком подходит фьюжен-оптимисту, поскольку означает, что загрузка в компьютер несовместима с продолжением существования, так как нарушает пространственно-временную непрерывность.

Но как быть с другими усовершенствованиями на основе ИИ? Они что, тоже исключаются? Рассмотрим, например, выбор пакета усовершенствований в Центре конструирования разума. Эти усовершенствования могли бы кардинально изменить вашу ментальную жизнь, и при этом они не предусматривают загрузку в компьютер, а что касается нарушений пространственно-временной непрерывности, то в явном виде они здесь не просматриваются.

В самом деле, фьюжен-оптимист мог бы указать нам, что слиться с ИИ можно в результате постепенных, но совокупно значимых усовершенствований (читай – добавления в голову компонентов на базе ИИ и постепенной замены ими нервной ткани). Это не загрузка в компьютер, потому что процесс мышления по-прежнему происходит в голове, но серия подобных операций все равно сводится к попытке перенести ментальную жизнь человека на другой субстрат. После завершения этой серии, если она сработает, ваша ментальная жизнь переместится с биологического субстрата на небиологический, например кремниевый. И фьюжен-оптимист оказался бы прав: человек может слиться с ИИ.

Может ли сработать такая стратегия? Здесь нужно вернуться и заново рассмотреть некоторые вопросы, которые поднимались в главе 5.

Смерть или личностный рост?

Предположим, что вы находитесь в Центре конструирования разума и просматриваете меню, собираясь приобрести пакет усовершенствований. Вы хотите расширить свои возможности и невольно размышляете о том, насколько модифицированный паттернизм близок к истине. Вы думаете: если я – модифицированный паттерн, то что со мной произойдет, когда я добавлю пакет усовершенствований? Мой паттерн, разумеется, изменится, так, значит, я умру?

Чтобы определить, так ли будет на самом деле, стороннику модифицированного паттернизма требуется более точное представление о том, что такое «паттерн» и при каких условиях усовершенствования приведут – или не приведут – к смертельному нарушению паттерна. Экстремальные ситуации, кажется, ясны: например, как уже говорилось, требование пространственно-временной непрерывности исключает мнемосканирование и дублирование. Более того, поскольку оба варианта паттернизма тесно связаны с классической идеей психологической непрерывности, сторонник модифицированного паттернизма, скорее всего, скажет, что процесс частичного стирания памяти, который уничтожает воспоминания о нескольких трудных годах детства, – неприемлемое изменение паттерна, поскольку приводит к исчезновению слишком многого и изменению природы личности. А вот повседневное обслуживание клеток при помощи наноботов, плавающих в кровотоке и помогающих устранять накапливающиеся эффекты старения, предположительно не влияет на идентичность личности, поскольку не затрагивает воспоминаний.

Проблема в том, что промежуточные ситуации намного туманнее. Возможно, устранение нескольких дурных привычек при игре в шахматы и было бы нормальным, но как насчет более серьезных формирующих разум вмешательств вроде планируемого вами пакета усовершенствований или даже добавления какой-нибудь когнитивной способности? Или как насчет повышения IQ на 20 пунктов или стирания всех ваших воспоминаний, скажем о личных отношениях с кем-то, как в фильме «Вечное сияние чистого разума»? Не исключено, что путь к сверхразуму начинается после ряда подобных усовершенствований. Но где следует провести границу?

Каждое из перечисленных усовершенствований гораздо менее радикально, чем загрузка разума в компьютер, но каждое из них может привести к изменению паттерна, а вместе с ним и первоначальной личности. Совокупное влияние нескольких изменений на паттерн человека может оказаться весьма и весьма значимым. Так что все то же самое: нам необходимо четко понимать, что такое паттерн, какие изменения в нем приемлемы и почему. Без однозначного ответа на этот вопрос нарисованная трансгуманистом траектория развития может оказаться, насколько нам известно сегодня, всего лишь тропинкой, ведущей к самоубийству.

Похоже, эту проблему трудно решить способом, который совместим с идеей о том, что мы можем быть идентичны во времени своему прошлому или будущему «я». Определение граничной точки грозит стать субъективным. Если граница установлена, всегда можно предложить пример, убеждающий передвинуть ее чуть дальше, и так до бесконечности. Но серьезные размышления над этим вопросом заводят в тупик: если встать на платформу модифицированного паттернизма, то как тогда объяснить сохранение паттерна человека во времени, от младенчества до зрелости, ведь за это время происходит множество серьезных изменений в памяти, личностных качествах и т. п.? Почему вообще речь идет о каком-то постоянном «я»?

В самом деле, даже серия постепенных изменений совокупно порождает индивидуума B, который сильно отличается от его же детского «я», A. Почему у A и B должно быть соответствие идентичности, а не предшествование: A предшествует B? Иначе говоря, как определить, что будущее существо, возникшее после всех усовершенствований, это реально я, а не другая личность – своего рода «потомок» меня?

Здесь стоит остановиться на минутку и подумать о связи между предшественником и последователем, хотя это и не относится напрямую к нашей теме. Предположим, вы – предшественник. Ваша связь с последователем напоминает отношения родителя и ребенка, но в некоторых отношениях она даже более близкая, поскольку вам на собственном опыте известно прошлое этого нового существа. Оно – дитя вашего разума. Вы в буквальном смысле прожили все его прошлые мгновения. В отличие от этого, несмотря на чувство тесной связи с жизнью наших детей, мы не в состоянии буквально видеть мир их глазами. Однако в другом смысле эта связь слабее, чем связь многих родителей с детьми. Если вы не путешественник во времени, то вам никогда не оказаться со своим последователем в одной комнате. Подобно женщине, умирающей в родах, вы никогда не встретитесь с тем, кто придет вам на смену.

Может быть, дитя вашего разума будет скорбеть об уходе своего родителя, глядя на вас с глубокой привязанностью и понимая, что конец вашей жизни стал началом его собственной. Вы же, со своей стороны, возможно, будете чувствовать особую связь с тем спектром переживаний, что станут доступными порождению вашего разума после приобретенных усовершенствований. Не исключено, что вы даже почувствуете особую связь с существом, которое – вы знаете это – совершенно не будет на вас походить. Например, в процессе формирования разума вы, может быть, намеренно сделаете шаг к созданию сверхразумного существа, зная, что в случае успеха вы умрете.

Как бы то ни было, этот раздел показывает, что даже у модифицированного паттернизма есть ключевая проблема – необходимость определить, когда изменение паттерна человека совместимо с его выживанием, а когда нет. Пока этот вопрос не получит ясного ответа, над проектом фьюжен-оптимиста будет висеть черная туча. И это не единственная проблема модифицированного паттернизма.

Как избавиться от субстрата?

Вторая проблема модифицированного паттернизма ставит под сомнение саму возможность переноса личности человека на другой субстрат даже без когнитивных и перцептивных усовершенствований.

Предположим, что наступил 2050 год и люди проходят процедуры постепенной нейронной регенерации во сне. Во время ночного сна наноботы медленно вводят наноматериалы, вычислительно идентичные оригинальным. Затем те же наноботы постепенно удаляют старые материалы, помещая их в небольшой контейнер рядом с постелью.

Сам по себе этот процесс не представляет проблем для модифицированного паттернизма. Но теперь представьте, что регенерационный сервис позволяет желающим сделать, на всякий случай, копию своего мозга. Если человек выбирает эту процедуру, то в ходе еженощного процесса наноботы забирают замещенные материалы из контейнера и помещают их внутрь глубоко замороженного биологического мозга. Предположим, что к концу этого процесса материалы замороженного мозга полностью замещаются оригинальными нейронами человека, причем сконфигурированными точно так же, как они были сконфигурированы в оригинальном мозге.

Теперь предположим, то вы решили пройти эту дополнительную процедуру наряду с регенерацией. Со временем этот второй мозг замещается тем самым материалом, из которого первоначально состоял ваш мозг, причем сконфигурированным совершенно так же. Который теперь вы? Первоначальный мозг, состоящий из совершенно других нейронов, или мозг, куда переместились все ваши оригинальные нейроны? Сторонник модифицированного паттернизма скажет о нейронной регенерации следующее: вы – это существо с мозгом из совершенно другого вещества, поскольку именно оно следует по непрерывной траектории в пространстве-времени. Но дальше все идет наперекосяк: почему пространственно-временная непрерывность должна перевешивать остальные факторы, такие как состав мозга, его оригинальный субстрат?

Здесь, откровенно говоря, моя интуиция дает сбой. Я не знаю, возможен ли этот мысленный эксперимент технически, но тем не менее он помогает выявить серьезный концептуальный недостаток. Мы пытаемся выяснить суть природы личности, поэтому хотелось бы найти прочные основания для того, чтобы предпочесть один критерий другому. Какой фактор является решающим, т. е. позволяющим человеку уцелеть в случае соблюдения психологической непрерывности, – сохранение первоначального состава и материала или пространственно-временная непрерывность?

Эти проблемы указывают на то, что в модифицированном паттернизме необходимо еще многое объяснить. И не забывайте, что с загрузкой в компьютер он в любом случае не стыкуется. Первоначальный паттернизм предполагал, что можно пережить загрузку в компьютер, но мы отбросили эту позицию как глубоко проблематичную. До тех пор пока фьюжен-оптимист не представит прочное обоснование своей позиции, нам лучше относиться к идее слияния с ИИ с основательной долей скепсиса. В самом деле, после рассмотрения неприятного вопроса о постоянстве, возможно, следует усомниться даже в осуществимости ограниченной интеграции с ИИ, поскольку совместимость усовершенствований среднего уровня с выживанием неочевидна. Более того, даже те усовершенствования, которые связаны с быстрой или постепенной заменой частей мозга без расширения когнитивных и перцептивных способностей, могут оказаться рискованными.

Метафизическое смирение

В начале книги я предложила вам представить поездку за покупками в Центр конструирования разума. Теперь вы видите, каким обманчиво простым был этот мысленный эксперимент. Возможно, лучше всего в ответ на бесконечные споры о природе личности было бы занять простую позицию метафизического смирения. Заявления о продолжении существования после «переноса» разума человека на новый тип субстрата или кардинального изменения мозга следует тщательнейшим образом изучать. Какими бы заманчивыми ни казались значительно расширенный интеллект или цифровое бессмертие, в литературе об идентичности личности, как мы видели, излагаются очень разные взгляды на то, продлят подобные «усовершенствования» жизнь или положат ей конец.

Метафизическое смирение – это движение вперед через публичный диалог, опирающийся на метафизическое теоретизирование. Возможно, это звучит как интеллектуальная отговорка, намекающая на то, что от ученых здесь пользы мало. Но я не хочу сказать, что дальнейшее метафизическое теоретизирование бесполезно; напротив, я надеюсь, что эта книга наглядно демонстрирует жизненную важность дальнейших метафизических размышлений. Речь идет о том, что обычные люди должны иметь возможность принимать обоснованные решения об усовершенствованиях и, если успех какого-то усовершенствования связан с классической трудноразрешимой философской проблемой, публика должна знать о ней и понимать ее суть. Плюралистическое общество должно признавать разнообразие взглядов и не считать, что только наука в состоянии отвечать на вопросы о том, совместимы ли радикальные формы усовершенствований мозга с продолжением существования.

Все это подсказывает, что нам следует принимать подход трансгуманистов к радикальным усовершенствованиям с определенным скепсисом. Как следует из «Часто задаваемых вопросов по трансгуманизму», разработка таких усовершенствований, как загрузка разума в компьютер, добавление в мозг чипов для усиления интеллекта и радикальное изменение перцептивных способностей человека, – это ключевые шаги, необходимые для развития личности[73]. Подобные усовершенствования подозрительно похожи на мысленные эксперименты, которые философы многие годы используют для представления проблем различных теорий о природе личности, поэтому не следует удивляться, что они не так привлекательны, как могло бы показаться на первый взгляд.

Как показывает пример «Мнемоскана», разум не следует загружать в компьютер (по крайней мере, если человек надеется продолжить существование) и паттернист должен модернизировать свою теорию, чтобы исключить подобные случаи. Но даже после модификации трансгуманизм и фьюжен-оптимизм требуют детального определения того, что приводит к разрыву паттерна вместо продолжения его существования. Без решения этого вопроса непонятно, безопасны ли умеренные усовершенствования, такие как добавление нейронных схем для повышения интеллекта. Наконец, ситуация с наноботами предупреждает об опасности постепенного перехода на другой субстрат, даже если ментальные способности человека при этом не изменятся. Учитывая все это, можно утверждать, что фьюжен-оптимистам и трансгуманистам не удалось подтвердить свои представления об усовершенствовании. В самом деле, как следует из «Часто задаваемых вопросов по трансгуманизму», для трансгуманистов очевидно, что этот вопрос не получает заслуженного внимания:

Хотя концепция души не так часто используется в таком направлении натуралистической философии, как трансгуманизм, многие трансгуманисты все же проявляют интерес к родственным проблемам, связанным с идентичностью личности (Parfit 1984) и сознанием (Churchland 1988). Эти проблемы интенсивно изучаются современными аналитическими философами, и, хотя некоторый процесс достигнут, например в работе Дерека Парфита по идентичности личности, они все еще не разрешены к общему удовлетворению[74].

Наша дискуссия позволяет также извлечь общие уроки для всех сторон, участвующих в дебатах по усовершенствованиям, даже там, где речь идет о чисто биологических аспектах. Если смотреть на споры об усовершенствованиях через призму метафизики личности, то они раскрывают новые измерения. Литература о природе личности необычайно богата, и, когда кто-то защищает или отвергает конкретное усовершенствование, важно определить, поддерживается ли его позиция ведущими взглядами на природу личности (или хотя бы совместима ли она с ними).

Возможно, вы устали от всей этой метафизики. Может быть, вам кажется, что нам следует возвратиться к принятым в обществе бытовым представлениям о том, что мы считаем личностью, поскольку метафизическое теоретизирование никогда достоверно не разрешит вопрос о природе личности. Однако не все бытовые представления достойны принятия, так что нам требуется способ определять, какие из них должны играть важную роль в обсуждении вопроса усовершенствований, а какие нет. А это сделать трудно без ясной концепции личности. Более того, размышляя над аргументами за и против усовершенствований, трудно обойтись без хотя бы неявной опоры на концепцию личности. На чем в конечном итоге основывается ваше решение усовершенствовать или не усовершенствовать себя, если не на том, что это поможет расширить ваши возможности? Или вы, может быть, просто стараетесь ради благополучия своего последователя?

Мы вернемся к идентичности личности в главе 8. Там мы рассмотрим родственное представление о фундаментальной природе разума, которое гласит, что разум – это компьютерная программа. Но давайте сделаем короткую паузу. Я хотела бы немного поднять ставки. Мы видим, что каждый из нас, живущих сегодня, может оказаться одной из последних биологических ступенек эволюционной лестницы, ведущей от первых живых клеток к синтетическому разуму. Вид Homo sapiens, возможно, уже недолго будет оставаться самым разумным на Земле. В главе 7 я бы хотела поговорить об эволюции разума в космическом контексте. Разумы на Земле – прошлые, настоящие и будущие – являются, возможно, всего лишь точкой в более масштабном пространстве разумов, охватывающем все пространство-время. Сейчас, когда я это пишу, где-то в других уголках Вселенной другие цивилизации, возможно, проходят свои собственные сингулярности.

Глава 7

Вселенная сингулярностей

Унеситесь мысленно прочь от Земли. Представьте, как Земля становится всего лишь «голубой точкой» в открытом космосе, если воспользоваться словами Карла Сагана. Теперь покиньте галактику Млечный Путь. Масштаб Вселенной по-настоящему поразителен. Мы – обитатели всего лишь одной планеты в громадной расширяющейся Вселенной. Астрономы уже открыли тысячи экзопланет, планет за пределами нашей Солнечной системы, и среди них много землеподобных – где, судя по всему, имеются условия, подобные тем, что привели к развитию жизни на Земле. Поднимая глаза кверху, в ночное небо, мы, возможно, всюду видим жизнь.

Эта глава наглядно покажет, что те технологические достижения, которые мы сегодня видим на Земле, вероятно, не раз наблюдались прежде в других местах Вселенной. То есть уже сейчас величайшие умы Вселенной могут быть синтетическими, выросшими из цивилизаций, которые тоже когда-то были биологическими[75]. Переход от биологического интеллекта к синтетическому может оказаться общей закономерностью, которая подтверждается вновь и вновь по всему космосу. Если какая-то цивилизация создает требуемую ИИ-технологию и культурные условия благоприятствуют этому, то переход от биологической цивилизации к постбиологической может занять всего несколько сотен лет. Сегодня, когда вы читаете эти слова, во Вселенной могут существовать тысячи или даже миллионы других миров, уже разработавших технологию ИИ.

Размышляя о постбиологическом разуме, мы не просто рассматриваем возможность существования внеземного разума, а, может быть, размышляем также о природе самих себя и наших последователей, ибо уже поняли, что человеческий разум тоже способен стать постбиологическим. По существу, грань между «нами» и «ими» размывается, когда наш фокус перемещается с биологии на сложную задачу понимания вычислений и моделей поведения сверхразума.

Прежде чем погрузиться во все это, сделаю одно замечание о понятии «постбиологический». Представьте себе биологический разум, который превращается в сверхразум путем чисто биологических усовершенствований, таких как нанотехнологическое усиление нейронных мини-колонок. Это существо было бы постбиологическим, хотя многие назвали бы его искином. Или представьте себе компьютроний, построенный из чисто биологических материалов, такой как рейдер Сайлон в ремейке сериала «Звездный крейсер “Галактика”». Рейдер Сайлон – и искусственный, и постбиологический.

Ключевой момент здесь в том, что нет никаких причин считать человечество обладателем высшей формы интеллекта во Вселенной. Обидно об этом думать, но в галактическом масштабе нас, возможно, следует отнести к интеллектуальным легковесам, по крайней мере до тех пор, пока мы радикально не усовершенствуем свой разум. Интеллектуальный разрыв между неусовершенствованным человеком и инопланетным сверхразумом может быть сравним с разрывом между нами и золотыми рыбками.

Постбиологический космос

В области астробиологии такую точку зрения называют подходом постбиологического космоса. Согласно этому подходу представители самых интеллектуальных инопланетных цивилизаций являются сверхразумными искинами. Как это обосновывается логически? К такому выводу приводят три наблюдения, рассматриваемые в комплексе.

1. Развитие цивилизации от доиндустриального уровня до постбиологического занимает всего несколько сотен лет – мгновение ока по космическим меркам.

Многие настаивают, что стоит обществу создать технологии, позволяющие установить связь с разумной жизнью на других планетах, и у него останется лишь короткое временное окно – возможно, всего несколько сотен лет, – прежде чем произойдет смена его парадигмы с биологии на ИИ[76]. В результате вероятность того, что встреченные нами инопланетяне – если, конечно, мы их встретим – окажутся постбиологическими, возрастает. В самом деле, предположение в отношении короткого временного окна подтверждается, похоже, и культурной эволюцией человечества, по крайней мере до сих пор. Передача радиосигналов впервые состоялась на Земле всего около 120 лет назад, а исследование космоса началось лишь около 50 лет назад, но многие земляне уже погружены в цифровые технологии, пользуются смартфонами и ноутбуками. В настоящее время миллиарды долларов вкладываются в разработку продвинутого ИИ, который, как ожидается, изменит лицо общества уже в ближайшие десятилетия.

Критик может возразить, что в этой линии рассуждений используется «N = 1 аргумент». Напомню, что это тип рассуждений, который ошибочно распространяет случай, характерный для людей, на инопланетную жизнь. Но мне представляется неразумным отбрасывать аргументы, основанные на опыте человечества: человеческая цивилизация – единственная, которая нам известна, а потому стоит опереться на ее опыт. Отсюда уже недалеко до утверждения, что другие технологические цивилизации будут разрабатывать технологии для повышения своего интеллекта и получения адаптивного преимущества. А как мы видим, синтетический интеллект, скорее всего, сможет радикально превзойти любой неусовершенствованный мозг.

Дополнительное возражение против моего соображения насчет короткого временного окна заключается в том, что в сказанном мной до сего момента нет ничего, откуда следовало бы, что человек станет сверхразумным. Я говорила лишь, что будущие люди будут постбиологическими. Но постбиологические существа могут и не обладать сверхразумом. Так что даже если кого-то и устраивают рассуждения на основе случая, характерного для людей, сам этот случай в реальности не поддерживает идею о том, что представители наиболее продвинутых инопланетных цивилизаций будут сверхразумными.

Это серьезное возражение, но, на мой взгляд, следующие соображения показывают, что инопланетный разум, скорее всего, окажется сверхразумом.

2. Инопланетные цивилизации, возможно, существуют уже миллиарды лет.

Сторонники проекта поиска внеземного разума SETI (Search for Extraterrestrial Intelligence) часто говорят, что инопланетные цивилизации, если они существуют, должны быть намного старше нашей собственной. Как замечает бывший старший историк NASA Стивен Дик, «все свидетельства сходятся на выводе о том, что максимальный возраст внеземного разума должен составлять миллиарды лет, конкретнее – от 1,7 млрд до 8 млрд лет»[77]. Это не означает, что любая жизнь развивается в разумную технологическую цивилизацию. Это означает лишь, что существуют планеты гораздо более старые, чем Земля. Если разумная технологическая жизнь развивается хотя бы на некоторых из них, то инопланетные цивилизации должны быть на миллионы или миллиарды лет старше нас и, следовательно, намного разумнее нас. По нашим стандартам они должны быть сверхразумными. Как ни обидно, но мы можем оказаться галактическими младенцами. В космических масштабах Земля всего лишь детская песочница для разума.

Но будут ли представители этих сверхразумных цивилизаций искинами? Даже если они биологические с усовершенствованным мозгом, их сверхразум все равно будет создан искусственными средствами, что приводит меня к третьему моему наблюдению.

3. Очень возможно, что эти синтетические существа не будут иметь биологической основы.

Я уже говорила, что кремний представляется более подходящим субстратом для обработки информации, чем сам мозг. Кроме того, в настоящее время разрабатываются другие, более совершенные типы микрочипов, например на базе графена и углеродных нанотрубок. Число нейронов в человеческом мозге ограничено объемом черепа и процессами обмена веществ, а компьютеры можно удаленно объединить в сеть по всему земному шару. Искины могут быть сконструированы методами обратного проектирования мозга и улучшения его алгоритмов. К тому же искин более долговечен и может дублироваться.

Есть одно препятствие, которое непременно встает на этом пути: те самые тревоги, о которых я говорю в этой книге. Подобно философам на Земле инопланетные мыслители тоже могут прийти к осознанию трудных, а порою неразрешимых вопросов идентичности личности, возникающих в результате когнитивных усовершенствований. Не исключено, что они не поддались заманчивой идее радикальных улучшений, т. е. сделали то, к чему я призываю и нас.

К несчастью, на мой взгляд, высока вероятность того, что некоторые цивилизации поддались соблазну. Это не обязательно означает, что их представители превратились в зомби – надо надеяться, что сверхразумные существа обладают сознанием. Но это означает все же, что те, кто пошел на «усовершенствование», могли умереть. Возможно, эти цивилизации не останавливают усовершенствования, поскольку ошибочно полагают, что им удалось найти приемлемые решения философских загадок. А может быть, обитатели каких-то миров изначально не были настроены достаточно философски, чтобы задумываться над этими темами. Кроме того, обитатели каких-нибудь далеких миров, возможно, размышляли над ними, но пришли к заключению, подобно Будде или Парфиту, что настоящее продолжение жизни в любом случае невозможно. Не веря в существование «я», они предпочли загрузить себя в компьютеры. Не исключено, что они были, как называл это философ Пит Мандик, «метафизически отважными»: пошли на решительный шаг на основании веры в то, что сознание, или «я», может сохраниться при переносе информационной структуры мозга с биологического субстрата на кремниевые чипы[78]. Еще одна возможность видится в том, что некоторые инопланетные цивилизации с большой осторожностью подходят к совершенствованию индивидуумов на протяжении их жизни, стараясь не нарушить принципы идентичности личности, и при этом используют репродуктивные технологии для создания новых представителей своего вида с расширенными способностями. Наверняка найдутся и такие цивилизации, которые просто утратили контроль над своими искинами и были незаметно вытеснены ими.

Те разумные цивилизации, которые – по каким бы то ни было причинам – не остановили процесс усовершенствования личности, стали самыми разумными во Вселенной. Независимо от того, сильны ли эти инопланетяне в философии, их цивилизации пожинают интеллектуальные плоды усовершенствования. Как предполагает Мандик, системы с высоким уровнем метафизической отваги могут, изготовив про запас множество собственных цифровых копий, стать более приспособленными в дарвиновском смысле, чем более осторожные существа других цивилизаций[79].

Более того, я уже отмечала, что искины с большей вероятностью выдержат межзвездные путешествия, поскольку они более долговечны и способны к самокопированию, так что именно они, скорее всего, колонизируют Вселенную – если она вообще будет колонизирована. Именно они могут оказаться теми инопланетными существами, которых мы, земляне, встретим первыми, даже если это и не самые распространенные создания во Вселенной.

Подводя итог, скажу, что создание технологий космических путешествий и связи и появление постбиологического разума разделяет, судя по всему, очень небольшое временное окно. Внеземные цивилизации, скорее всего, давным-давно миновали это окно. Они, по всей вероятности, много старше нас и потому должны были достичь не просто постбиологической стадии, а сверхразума. Наконец, по крайней мере некоторые из них, надо полагать, состоят скорее из искинов, чем из биологических существ, потому что кремний и другие материалы лучше подходят на роль субстрата для систем обработки информации. Из всего этого я заключаю, что если жизнь действительно существует на множестве других планет и если продвинутые цивилизации действительно развиваются и не гибнут, то представителями наиболее продвинутых инопланетных цивилизаций, скорее всего, будут сверхразумные искины.

Разговоры на эти темы сильно смахивают на научную фантастику и могут встретить недопонимание, поэтому подчеркну: я не утверждаю, что подавляющая часть жизни во Вселенной имеет небиологическую природу. Львиная доля живого на Земле, например, приходится на микробов[80]. Я не говорю также, что «контролировать» Вселенную или «доминировать» в ней непременно будет один-единственный сверхразумный искин вроде Скайнета из фильмов о Терминаторе, хотя, безусловно, стоило бы поразмышлять об ИИ-безопасности в контексте этих вопросов. (Очень скоро я так и сделаю.) Я всего лишь предполагаю, что представителями наиболее продвинутых инопланетных цивилизаций окажутся сверхразумные искины.

Предположим, что я права. Какие выводы следует из этого сделать? В этом смысле показательны нынешние дебаты по поводу искусственного интеллекта на Земле. Два вопроса – так называемая проблема контроля и природа разума и сознания – очень важны для наших представлений о том, как могут выглядеть сверхразумные инопланетные цивилизации. Начнем с проблемы контроля.

Проблема контроля

Сторонники концепции постбиологического космоса предполагают, что именно машины станут следующим этапом эволюции разума. Мы с вами и то, как мы живем в настоящий момент, – это всего лишь промежуточный этап, очередная ступенька на эволюционной лестнице. Эти люди смотрят на постбиологическую фазу эволюции оптимистически. Другие, напротив, глубоко обеспокоены тем, что человек может потерять контроль над сверхразумом, поскольку тот способен переписать текст собственной программы, перехитрить нас и обойти любые предохранители, которые мы в него встроим. Искусственный интеллект может стать нашим величайшим изобретением – и притом последним. Все это называется «проблемой контроля» – проблемой способности землян контролировать ИИ, который намного умнее нас и при этом непостижим.

Мы уже говорили, что сверхразумный ИИ может быть создан при достижении технологической сингулярности – момента, когда все более стремительные технологические успехи, особенно взрывное развитие ИИ, достигают уровня, на котором люди уже не могут предсказывать или понимать технологические изменения по ходу их развертывания. Но даже если сверхразумный ИИ возникает менее драматичным образом, у нас не обязательно будет возможность предвидеть или контролировать его цели. Даже если бы мы могли решить, какие нравственные принципы следует встроить в машины, их было бы трудно запрограммировать и защитить от переписывания сверхразумом. Умная машина сумеет обойти любые предохранители, в том числе аварийные выключатели, и будет потенциально представлять угрозу для биологической жизни.

Проблема контроля очень серьезна – возможно, даже нерешаема. В самом деле, после прочтения убедительной книги Бострома по проблеме контроля «Искусственный интеллект: Этапы. Угрозы. Стратегии»[81] ученые и лидеры бизнеса, такие как Стивен Хокинг и Билл Гейтс, во всеуслышание заявили, что сверхразумный ИИ может угрожать роду человеческому, и эта новость попала во все мировые СМИ. В настоящее время в организации, которые занимаются ИИ-безопасностью, вкладываются миллионы долларов и над проблемой работают лучшие умы в области информатики. Рассмотрим следствия, которые может иметь проблема контроля для проекта SETI.

Active SETI

Обычно в поисках жизни во Вселенной ученые вслушиваются в эфир в надежде поймать потенциальные радиосигналы внеземного разума. Но некоторые астробиологи считают, что нам следует пройти дальше. По мнению сторонников проекта Active SETI, нам нужно также использовать самые мощные радиопередатчики, такие как гигантский радиотелескоп Аресибо[82] в Пуэрто-Рико (см. фото), для отправки сообщений в направлении ближайших к Земле звезд с целью начать разговор[83].

Однако мне проект Active SETI, если принять во внимание проблему контроля, представляется опрометчивым. Хотя по-настоящему продвинутая цивилизация вряд ли заинтересуется нами, нам не следовало бы привлекать к себе внимание, поскольку встреча даже с одной враждебной цивилизацией из миллионов может оказаться катастрофической. Когда-нибудь мы, наверное, достигнем уровня, на котором сможем быть уверены, что инопланетный разум не представляет для нас угрозы, но пока для подобной уверенности нет оснований. Сторонники Active SETI утверждают, что целенаправленная передача не сделает нас более уязвимыми, чем сейчас, ведь сигналы наших радаров и радиопередач и без того обнаружимы. Но эти сигналы довольно слабы и быстро сливаются с естественным галактическим шумом. Отправка более мощных сигналов, предназначенных для того, чтобы их услышали, означала бы игру с огнем.

Самый безопасный для нас подход – это интеллектуальная скромность. В самом деле, если исключить совершенно очевидные сценарии, в которых над Землей реют инопланетные корабли, как в фильмах «Прибытие» или «День независимости», я не уверена, что мы сможем хотя бы распознать технологические маркеры по-настоящему продвинутого сверхразума. Некоторые ученые предполагают, что сверхразумных искинов следует искать поблизости от черных дыр, энергией которых они питаются[84]. Или, как вариант, сверхразум должен создавать для себя сферы Дайсона – мегасооружения, подобные изображенному на рисунке ниже, которые собирают и обуздывают энергию целой звезды.

Но все это лишь рассуждения с позиции наших нынешних технологий. Верх гордыни – утверждать, что мы в состоянии предвидеть вычислительную структуру или энергетические потребности цивилизации, обогнавшей нас в своем развитии на миллионы или даже миллиарды лет. Не буду настаивать, но я подозреваю, что мы не обнаружим инопланетные сверхразумы и не получим от них каких бы то ни было сообщений, пока наша собственная цивилизация не достигнет уровня сверхразума. Рыбак рыбака видит издалека.

Хотя многие сверхразумные цивилизации непостижимы для нас, мы с большой уверенностью можем рассуждать о природе «ранних» сверхразумов – т. е. тех, что только вылупляются из цивилизации, достигшей соответствующего уровня. Их когнитивные системы могут создаваться по образу и подобию биологического мозга – так, например, как системы глубокого обучения строятся по образу нейронных сетей мозга. Так что их вычислительная структура может оказаться понятной для нас, по крайней мере, в общих чертах. Такие создания могут даже сохранить цели, свойственные биологическим существам, вроде самовоспроизведения и выживания. Вскоре я рассмотрю вопрос раннего сверхразума более подробно[85].

Но сверхразумные искины, будучи самосовершенствующимися, способны быстро обрести неузнаваемую форму. Возможно, некоторые сверхразумы предпочтут сохранить когнитивные особенности, аналогичные тем, что имелись у биологического вида, по образу которого они создавались, и сами поставят преграду на пути развития своей когнитивной архитектуры. Кто знает? Но без такой преграды инопланетный сверхразум сможет быстро стать недоступным для нас с точки зрения способности разобраться в его поведении или хотя бы найти его.

Сторонник Active SETI скажет, что именно по этой причине нам и следует посылать сигналы в космос – чтобы дать возможность сверхразумной цивилизации найти нас и придумать способ связи, который она посчитает пригодным для использования низшим в интеллектуальном отношении биологическим видом вроде нашего. Хотя, на мой взгляд, это достаточная причина для рассмотрения проекта Active SETI, я уверена, что возможность встречи с опасным сверхразумом перевешивает все это. Насколько можно судить, злонамеренный сверхразум способен заразить планетарные ИИ-системы вирусами, и мудрые цивилизации предпочитают оставаться незамеченными; не исключено, что именно поэтому мы до сих пор никого не обнаружили. Возможно, нам, людям, необходимо достичь собственной сингулярности, прежде чем браться за Active SETI. Наши сверхразумные искины помогут нам разобраться в перспективах галактической ИИ-безопасности и посоветуют, как следует поступить, когда мы распознаем признаки сверхразума где-то во Вселенной. Опять же, нашим оперативным девизом должна стать пословица «Рыбак рыбака видит издалека».

Сверхразумное сознание

Концепция постбиологического космоса предполагает радикальный сдвиг наших обычных представлений о разумной жизни во Вселенной. Чаще всего мы ожидаем, что при встрече с продвинутым инопланетным разумом увидим существ с иными, чем у нас, биологическими чертами, однако наши интуитивные представления о разуме будут в значительной степени применимы и к ним. Но концепция постбиологического космоса предполагает иное.

В частности, в соответствии с ней, доведись нам встретить продвинутых инопланетных существ, мы обнаружим, что сознание их сродни нашему в одном важном отношении – они тоже будут внутренне ощущать себя собой. Как уже говорилось, во время бодрствования и даже во время сна мы ощущаем себя собой. Точно так же ощущает себя и биологический инопланетянин, если он существует, – по крайней мере мы предполагаем это. Но будут ли у сверхразумного искина осознанные переживания? И если они у него будут, сможем ли мы это понять? И как его внутренняя жизнь (или ее отсутствие) влияет на способность к эмпатии и цели? Представление об интеллекте без прикрас не единственное, что следует учитывать, когда думаешь о контакте с инопланетянами.

Эти аспекты мы подробно рассматривали в предыдущих главах, и теперь можно оценить их космическое значение. Я уже отмечала, что вопрос о том, может ли у искина быть внутренняя жизнь, должен стать ключом к тому, насколько мы ценим его существование, поскольку в центре решения, является ли та или иная сущность личностью и есть ли у нее «я», находится сознание. Искин может быть сверхразумным и превосходить людей по всем когнитивным и перцептивным аспектам, но, если он не ощущает себя искином, нам трудно считать, что эти создания обладают такой же ценностью, что и самосознающие существа, которые имеют «я» и являются личностями. И наоборот, в наличии или отсутствии у искина сознания кроется ключ к тому, как он оценивает нас: самосознающий искин может распознать у нас способность к осознанным переживаниям.

Ясно, что вопрос машинного сознания принципиально важен для того, как люди будут реагировать на обнаружение сверхразумных инопланетян. Один из путей препарирования последствий контакта человечеством – обращение к религии. И хотя я не уверена, могу ли говорить от имени всех мировых религий, разговоры с коллегами, работающими в Центре теологических исследований в Принстоне, позволяют предположить, что многие из них отвергли бы идею о том, что искины имеют душу или созданы по образу и подобию Бога, в случае отсутствия у них сознания. Папа римский Франциск не так давно заметил, что согласился бы крестить инопланетянина[86]. Хотела бы я знать, как отреагировал бы он на просьбу окрестить искина, тем более такого, который не способен обладать сознанием.

Вопрос о том, нравятся ли инопланетянам закаты или есть ли у них душа, нельзя считать просто плодом романтического любопытства – для нас это экзистенциальный вопрос. Ведь даже если во Вселенной полно искинов невероятного интеллекта, то с чего бы этим машинам придавать какую-то ценность самосознающим биологическим разумам? Не обладающие сознанием машины не могут осознанно воспринимать мир, а не имея осознанности, они, возможно, не способны на подлинную эмпатию или хотя бы на рассудочную заботу о более примитивных существах.

Сверхразум на основе биологического образца

До сих пор я мало говорила о структуре сверхразумного инопланетного сознания. Причина проста: сверхразум по определению превосходит человеческий разум во всех отношениях. Мы не в состоянии предсказать или до конца понять, как такой разум мыслит. Тем не менее у нас все же есть возможность обрисовать несколько важных его характеристик, по крайней мере в общих чертах.

В недавней книге Ника Бострома внимание сосредоточено на развитии сверхразума на Земле, но мы можем извлечь немало полезного из его вдумчивого рассказа. Бостром различает три типа сверхразума.

Скоростной сверхразум: сверхразум, обладающий крайне быстрой когнитивной и перцептивной реакцией. Например, даже эмуляция человека или загрузка его разума в компьютер позволили бы, в принципе, работать так быстро, что на написание кандидатской диссертации потребовался бы всего час.

Коллективный сверхразум: отдельные единицы его не обязательно сверхразумны, но коллективно они намного превосходят интеллект любого отдельного человека.

Качественный сверхразум: интеллект, который производит вычисления по крайней мере со скоростью мысли людей и, кроме того, умнее людей во всех отношениях[87].

Бостром указывает, что каждый из этих типов сверхразума может существовать наряду с другими.

Большой вопрос, можно ли назвать общие цели, разделяемые всеми типами сверхразума. Бостром предлагает следующий тезис:

Тезис ортогональности: интеллект и конечные цели ортогональны – «любой уровень интеллекта может, в принципе, сочетаться с любой конечной целью»[88].

Проще говоря, одно то, что искин умен, не гарантирует наличия у него объективного восприятия; интеллект сверхразумного существа может быть направлен на абсурдные цели. (Это немного напоминает мне академическую политику, в которой так много интеллекта растрачивается впустую, на мелкие и даже извращенные цели.) Бостром не забывает подчеркнуть, что можно придумать огромное количество самых невероятных типов сверхразума. В какой-то момент он приводит отрезвляющий пример сверхразума, управляющего фабрикой канцелярских скрепок. Его конечная цель – производство этих самых скрепок[89]. Хотя поначалу это может показаться безобидным делом (но вряд ли стоящим того, чтобы положить на него жизнь), суть отрезвляющего замечания Бострома состоит в том, что сверхразум способен потратить на достижение этой цели все ресурсы Земли, стерев попутно с ее лица биологическую жизнь.

Пример со скрепками наглядно показывает, что сверхразум может быть непредсказуемым, а его мышление – «чрезвычайно чуждым» для нас[90]. Хотя конечные цели сверхразума сложно предсказать, Бостром выделяет несколько инструментальных целей, которые поддерживают совершенно любую конечную цель.

Тезис инструментальной конвергенции: «Можно назвать несколько инструментальных целей, которые являются конвергентными, т. е. повышающими шансы на реализацию широкого круга конечных целей в широком диапазоне ситуаций. Таким образом, эти инструментальные цели с большой вероятностью будут преследоваться всеми разумными агентами в соответствующих обстоятельствах»[91].

Целями, которые называет Бостром, являются приобретение ресурсов, техническое совершенствование, когнитивное развитие, самосохранение и целостность целей (т. е. преследование будущим «я» сверхразумного существа тех же целей). Он подчеркивает, что самосохранение может быть групповым или индивидуальным и стоять на втором месте после сохранения представителей вида, для обслуживания которого искин был разработан.

В своей книге Бостром не рассуждает о сверхразумных инопланетянах, но его рассказ наводит на размышления. Назовем инопланетный сверхразум, разработанный путем обратного проектирования инопланетного мозга, включая его загрузку в компьютер, «инопланетным сверхразумом на основе биологического образца». Хотя такие сверхразумы создаются первоначально по образу и подобию мозга оригинального биологического вида, от которого произошел данный сверхразум, их алгоритмы могут отходить от алгоритмов биологической модели в любом пункте.

Сверхразумы на основе биологических образцов представляют особый интерес в контексте инопланетных цивилизаций, поскольку образуют специфический класс в спектре возможных искинов. Если Бостром прав и сверхразум может быть создан разными способами, совокупность сверхразумных искинов будет очень неоднородной, а ее представители в среднем будут мало напоминать друг друга. Может оказаться даже, что из всех сверхразумных искинов те, что созданы на основе биологических образцов, сильнее всего похожи друг на друга благодаря своим биологическим корням. Иными словами, такие сверхразумы могут оказаться самой сплоченной подгруппой, поскольку другие представители сильно отличаются друг от друга. Возможно, это вообще самая распространенная форма инопланетного сверхразума.

Можно предположить, что сверхразумы на основе биологических образцов рассеяны по Галактике и созданы множеством разных биологических видов, а потому малоинтересны. Можно сказать также, что бесполезно теоретизировать на их счет, поскольку они способны менять свою архитектуру непредсказуемым образом, а любые биологически обусловленные мотивации ограничиваются программно. Однако у инопланетных сверхразумов на основе биологических образцов есть две черты, которые могут породить общие когнитивные способности и цели.

1. Эти сверхразумы происходят от существ, у которых когда-то были такие мотивации, как поиск пищи, избегание травм и хищников, продолжение рода, сотрудничество и конкуренция.

2. Формы жизни, по образу которых созданы эти сверхразумы, в процессе эволюции научились справляться с такими биологическими ограничениями, как медленная обработка информации и пространственные ограничения, связанные с телесным воплощением.

Могут ли эти черты породить качества, общие для членов многих сверхразумных инопланетных цивилизаций? Мне кажется, да.

Рассмотрим пункт 1. Разумную биологическую жизнь, как правило, заботит в первую очередь собственное выживание и размножение, так что и сверхразумные существа, созданные на основе биологических образцов, с высокой вероятностью должны иметь конечные цели, предусматривающие их собственное выживание и воспроизведение или, по крайней мере, выживание и воспроизведение членов их общества. Если эти сверхразумы заинтересованы в воспроизведении, то надо ожидать, что, учитывая имеющиеся у них масштабные вычислительные ресурсы, они создали бы виртуальные вселенные с искусственной жизнью и даже разумом или сверхразумом. Если эти создания задумывались как «дети разума», они тоже могли сохранить цели, обозначенные в пункте 1.

Аналогично, если сверхразум продолжает считать собственное выживание приоритетной целью, он не обязательно захочет фундаментально менять собственную архитектуру. Он может предпочесть серию небольших улучшений, которые постепенно приведут индивидуума к сверхразуму. Не исключено, что в результате размышлений над вопросом идентичности личности сверхразум на основе биологического образца почувствует потенциальную опасность и подумает: «Возможно, при фундаментальном изменении архитектуры я перестаю быть собой». Даже создание, загруженное в компьютер и не считающее себя идентичным существу, с которого оно скопировано, может не захотеть менять те качества, которые были наиболее важными для его биологического предшественника. Не забывайте, создания, загруженные в компьютер, являются изоморфами (по крайней мере, в момент загрузки), так что эти качества присущи и им, хотя бы первоначально. Сверхразумы, рассуждающие таким образом, могут предпочесть сохранить биологические черты.

Посмотрим теперь на пункт 2. Хотя я уже отмечала, что сверхразум на основе биологического образца не обязательно захочет фундаментально менять свою архитектуру, он сам или его конструкторы все же могут отойти от оригинальной биологической модели в непредсказуемых направлениях. Однако все равно есть смысл поискать в числе когнитивных способностей образца такие, которые было бы полезно сохранить, например те, что позволят сверхразуму достичь как конечной, так и промежуточных целей. Можно также поискать качества, которые не будут исключены при конструировании, поскольку не отвлекают сверхразум от его целей. Вот, например, что может получиться.

1. Информация о вычислительной структуре мозга биологического вида, создавшего сверхразум по собственному образцу, поможет понять модель мышления сверхразума. Одним из важных средств изучения вычислительной структуры мозга в когнитивистике служит коннектомика – область науки, целью которой является построение карты связности, или коммутационной схемы, мозга, называемой «коннектомом»[92].

Хотя очень вероятно, что коннектом конкретного инопланетного сверхразума на основе биологического образца не будет похож на коннектом, которым обладали представители исходного биологического вида, некоторые его функциональные и структурные связи могут быть сохранены. Кроме того, могут обнаружиться интересные отступления от оригинала. Так что, хотя это кажется цитатой из «Секретных материалов», вскрытие инопланетянина действительно могло бы оказаться весьма информативным!

2. Инопланетные сверхразумы на основе биологического образца могут иметь представления, инвариантные по отношению к точке зрения. Представьте, что вы подходите к двери своего дома. Вы проходили этим путем сотни или даже тысячи раз, но, строго говоря, каждый раз видите все вокруг под чуть разными углами, потому что ваше расположение никогда в точности не повторяется. Но этот путь, безусловно, знаком вам. Дело в том, что на высоком уровне обработки информации мозг имеет внутренние представления о людях и объектах, с которыми вы взаимодействуете и которые не меняются в зависимости от угла зрения или вашего положения по отношению к ним. Так, у вас имеется абстрактное представление о двери, никак не зависящее от ее точного облика.

Мне и правда кажется, что биологическому разуму трудно развиться без подобных представлений, поскольку они делают возможными категоризацию и предсказание[93]. Инвариантные представления возникают потому, что любой мобильной системе нужно идентифицировать предметы в вечно меняющемся окружении, так что у любой системы на биологической основе следует ожидать их наличие. У сверхразума на основе биологического образца нет причины отказываться от инвариантных представлений до тех пор, пока он остается мобильным или имеет мобильные устройства, удаленно посылающие ему информацию.

3. Инопланетные сверхразумы на основе биологического образца будут иметь языкоподобные ментальные представления, рекурсивные и комбинаторные. Обратите внимание: принципиально важной и вездесущей чертой человеческой мысли является ее комбинаторность. Возьмем, например, мысль о том, что вино в Италии лучше, чем в Китае. Вам, возможно, такая мысль никогда не приходила в голову, но вы тем не менее способны ее понять. Ключ здесь в том, что мысли строятся из знакомых составляющих, причем по правилам. Правила применяются к конструкциям из простейших составляющих, которые сами тоже строятся по правилам грамматики. Грамматические мысленные операции невероятно полезны: именно комбинаторная природа мысли позволяет человеку понимать и складывать новые предложения на основе предшествующих знаний о грамматике и элементарных составляющих (таких, как вино, Китай). Вместе с этим мысль продуктивна: в принципе, человек способен поддерживать и продуцировать бесконечное число представлений, поскольку разум владеет комбинаторным синтаксисом[94].

Мозг нуждается в комбинаторных представлениях, потому что возможных лингвистических представлений бесконечно много, а емкость мозга ограниченна. Даже сверхразумной системе комбинаторные представления будут очень полезны. Хотя сверхразумная система могла бы обладать вычислительными ресурсами, достаточными для хранения всех возможных высказываний и готовых предложений, вряд ли она откажется от такого чудесного качества биологического мозга. Если она это сделает, то станет менее эффективной, поскольку в предложении, не занимающем места в хранилище – а оно в любом случае имеет конечный размер, – скрыт дополнительный потенциал.

4. Инопланетные сверхразумы на основе биологического образца могут иметь одну или несколько глобальных рабочих зон. Когда вы ищете какой-то факт или сосредоточиваетесь на чем-то, ваш мозг предоставляет этому сенсорному или когнитивному контенту доступ к «глобальной рабочей зоне», где информация передается системам внимания и кратковременной памяти для более тщательной обработки, а также к массово-параллельным каналам мозга[95]. Глобальная рабочая зона является местом, где важная информация от органов чувств рассматривается в комплексе, что позволяет существу принимать решения с учетом всей информации и действовать в свете всех известных ему фактов. В целом неэффективно иметь какое-либо чувство или когнитивную способность, не интегрированную с остальными, потому что ее сигналы не будут учитываться в предсказаниях и планах, основанных на оценке всей доступной информации.

5. Ментальная деятельность инопланетного сверхразума на основе биологического образца может быть понята при помощи функционального разложения. Каким бы сложным ни был инопланетный сверхразум, не исключено, что человек сможет воспользоваться методом функционального разложения как подходом к его пониманию. Мы уже видели, что ключевым моментом вычислительного подхода к мозгу является то, что для понимания когнитивных и перцептивных способностей конкретная способность раскладывается на причинно связанные части, которые тоже можно понять через причинную организацию их частей. Это и есть метод функционального разложения – ключевой объяснительный метод когнитивистики. Трудно представить себе сложную мыслящую машину без программы, состоящей из причинно связанных элементов, каждый из которых тоже состоит из причинно организованных элементов.

Короче говоря, принципы функционирования сверхразумного искина могут быть отчасти понятны и нам, и методы когнитивистики, возможно, помогут заглянуть в сложную ментальную жизнь некоторых инопланетных сверхразумов на основе биологического образца. С учетом всего этого напомню, что сверхразумные существа по определению во всем превосходят человека. Хотя базовые принципы мыслительных процессов превосходящего нас существа могут быть понятны для нас в какой-то мере, не исключено, что нам не удастся разобраться в них. Как говорил Артур Кларк, по-настоящему продвинутая цивилизация должна иметь технологии, которые для нас неотличимы от магии[96].

В этой главе мы унеслись от Земли и поместили вопросы конструирования разума в космический контекст. Я уже показала, что вопросы, с которыми мы, земляне, сталкиваемся сегодня, могут оказаться вовсе не уникальными для Земли. Мало того, дискуссии о сверхразуме на Земле вкупе с исследованиями в области когнитивистики помогают информированно рассуждать о том, какими могут быть сверхразумные инопланетяне. Помимо прочего, как мы убедились, наш прежний разговор о синтетическом сознании тоже имеет отношение к делу.

Стоит также отметить, что представители этих цивилизаций, разработав технологию усовершенствования разума, вполне могут столкнуться с теми же трудными вопросами идентичности личности, о которых мы говорили ранее. Возможно, наиболее продвинутые цивилизации одновременно являются и самыми метафизически дерзкими, как предполагал Мандик. Эти сверхразумы не сдерживают свое совершенствование из-за тревоги за выживание. А может быть, они просто знают умный – или не слишком умный – путь обхода проблемы идентичности личности.

Далее мы спустимся на Землю и погрузимся в вопросы, связанные с паттернизмом. Самое время исследовать доминирующий взгляд на разум, лежащий в основе трансгуманизма и фьюжен-оптимизма. Многие трансгуманисты, философы разума и ученые-когнитивисты апеллируют к концепции, в которой разум – это программа. Их лозунг нередко выглядит так: «Разум – это программа, которую исполняет мозг». Пора задать вопрос: обоснован ли такой взгляд на природу разума? Если в нашей Вселенной полно инопланетных сверхразумов, тем более важно разобраться, действительно ли разум представляет собой программу.

Глава 8

Действительно ли разум – это программа?

Я думаю, что мозг похож на программу… так что теоретически возможно создать копию мозга в компьютере и таким образом обеспечить своего рода жизнь после смерти.

СТИВЕН ХОКИНГ[97]

Однажды ранним утром мне позвонила репортер The New York Times. Она хотела поговорить о Ким Суоцци, 23-летней девушке, умершей от рака мозга. Ким заканчивала бакалавриат по когнитивистике и собиралась продолжить учебу в магистратуре по специальности нейробиология. Но в тот день, когда девушка узнала о предстоящей увлекательной практике, ей сообщили, что у нее опухоль мозга. Она написала в Facebook: «Хорошая новость: я попала в летнюю программу “МОЗГ” Центра поведенческой нейробиологии… Плохая новость: опухоль попала в мой МОЗГ»[98].

В колледже Ким и ее бойфренд Джош увлекались трансгуманизмом. Когда традиционные методы лечения результата не дали, они обратились к крионике – медицинской технике, позволяющей сохранить мозг после смерти при сверхнизкой температуре. Ким и Джош надеялись сделать призрак смерти всего лишь временным гостем. Они поставили на возможность того, что мозг девушки можно будет оживить в отдаленном будущем, когда появятся метод лечения ее рака и средства оживления глубоко замороженного мозга.

Так что Ким связалась с Alcor – некоммерческим центром криохранения в Скоттсдейле, штат Аризона. Она организовала успешную интернет-кампанию по сбору $80 000, необходимых для криоконсервации ее головы. Ей посоветовали провести последние недели жизни рядом с центром Alcor, чтобы гарантировать наилучшие условия для заморозки. Так что Ким и Джош поселились в хосписе в Скоттсдейле. В последние недели жизни Ким отказывалась от пищи и воды, чтобы побыстрее умереть и не дать опухоли еще сильнее разрушить ее мозг[99].

Крионика вызывает противоречивую реакцию. Криоконсервация используется в медицине и позволяет сохранять человеческие эмбрионы и клетки животных живыми до 30 лет[100]. Но с мозгом все сложнее, здесь криоконсервация находится лишь в начале пути, и неизвестно, можно ли будет когда-нибудь оживить тех, кто подвергся заморозке. Но Ким и Джош тщательно взвесили все за и против.

Как ни прискорбно, но, хотя Ким никогда об этом не узнает, ее заморозка прошла не слишком гладко. Медицинские сканы показали, что вещество-криопротектор проникло только во внешнюю часть мозга, возможно в результате сосудистой недостаточности из-за ишемии, и остальная часть мозга была повреждена кристаллами льда[101]. Учитывая это, автор статьи в The New York Times Эми Хармон предложила загрузить мозг Ким в компьютер после появления соответствующей технологии. Она отметила, что некоторые программы криоконсервации обращаются к загрузке в компьютер как к средству цифрового сохранения нейронных сетей мозга[102].

Хармон имела в виду, что технология загрузки в компьютер могла бы оказаться полезной как Ким, так и, в более общем случае, тем пациентам, у которых заморозка и болезнь повредили мозг слишком сильно для биологического оживления. Идея заключается в восстановлении поврежденных частей биологического мозга цифровыми методами. То есть программа, в которую загружается мозг, может содержать алгоритмы, выполняющие вычисления, за которые должны были отвечать поврежденные части. И такая компьютерная программа – это и была бы Ким[103].

О господи, подумала я. Будучи мамой дочери всего на несколько лет младше Ким, я очень плохо спала в ту ночь. Мне снилась Ким. Мало того, что рак отнял у нее жизнь. Одно дело заморозить, а потом оживить человека; здесь есть научные проблемы, и Ким знала, что идет на риск. Но загрузка в компьютер – совершенно другое дело. С какой стати загрузку в компьютер рассматривают как средство «оживления»?

Случай Ким делает абстрактные разговоры о радикальных усовершенствованиях для мозга гораздо более реальными. Трансгуманизм, фьюжен-оптимизм, искусственное сознание, постбиологические инопланетяне – все это так похоже на научную фантастику. Но пример Ким показывает, что даже здесь, на Земле, эти идеи способны менять жизни. Замечание Стивена Хокинга выражает то представление о разуме, которое сегодня носится в воздухе: идею о том, что разум – это программа. В статье The New York Times говорится, что Ким и сама придерживалась такого взгляда на разум[104].

В главах 5 и 6 говорится, однако, что загрузка в компьютер будет реализована еще не скоро. Эта идея, похоже, не очень-то совместима с теориями идентичности личности. Даже модифицированный паттернизм не поддерживает загрузку в компьютер. При загрузке разум перемещается в новую локацию за пределами мозга посредством необычного процесса передачи информации о каждой молекуле мозга в компьютер и превращения в программу. Объекты, которые мы обычно встречаем, не «прыгают» через пространство-время в новые локации таким образом. Ни одна молекула мозга не перемещается в компьютер, но предполагается, что разум каким-то волшебным образом оказывается там[105].

Это смущает. Чтобы перенос произошел, разум должен принципиально отличаться от обычных физических объектов. Моя кофейная чашка стоит здесь, рядом с ноутбуком; когда она двигается, то следует по определенной траектории в пространстве-времени. Ее никто не разбирает, не измеряет и потом не собирает заново где-то на другом конце земли из совершенно новых частей, соответствующих измерениям. А если бы кто-то это и сделал, то мы бы считали новую чашку не той же самой, а лишь копией.

Более того, вспомним проблему редупликации (см. главу 6). Например, вы пытаетесь загрузить свой разум в компьютер и, допустим, ваш мозг и тело выдерживают эту процедуру – а такое вполне может быть при достаточно совершенной методике. Предположим, ваша компьютерная копия загружается в тело андроида, который выглядит в точности, как вы, и кажется человеком. Чувствуя любопытство, вы решаете встретиться со своей копией в баре. Вы сидите со своим двойником-андроидом, потягиваете вино и спорите о том, кто из вас должен считаться оригиналом – кто из вас на самом деле вы. Андроид однозначно говорит, что именно он настоящий, ведь у него есть все ваши воспоминания, даже о начале процедуры сканирования. Ваш дубль утверждает, что обладает сознанием. В принципе, это может быть правдой, ибо мы видели, что, если загруженная в компьютер копия чрезвычайно точна, у нее вполне может быть осознанная ментальная жизнь. Но это не значит, что эта копия – вы, поскольку вы же здесь, сидите напротив нее за столиком в баре.

Вдобавок если вы действительно загрузили свой разум в компьютер, то его, в принципе, можно установить в разных местах одновременно. Предположим, копии вашего разума загрузили в сотню андроидов и вы оказались в сотне разных мест сразу. Согласитесь, необычный взгляд на себя. Физические объекты могут располагаться в разных местах в разные моменты времени, но не одновременно. Мы ведь тоже объекты, хотя и особого рода: мы живые существа, обладающие сознанием. Было бы громадной метафизической удачей, если бы мы вдруг оказались исключением из общего правила поведения макроскопических объектов[106].

Разум как программное обеспечение мозга

Подобные соображения побуждают меня лично сопротивляться сладкозвучной песне цифрового бессмертия, несмотря на мои трансгуманистические, в широком смысле, взгляды. Но что, если Хокинг и остальные правы? Что, если нам повезло и разум действительно представляет собой своего рода компьютерную программу?

Представим себе, что Уилл Кастор – ученый, который в фильме «Превосходство» изобрел способ загрузки разума в компьютер и стал первым подопытным, знакомится с сомнениями, изложенными в предыдущем разделе. Мы рассказываем ему, что копия – это не то же самое, что оригинал. Вряд ли простой поток информации на разных компьютерах по-настоящему будет им. Вот что он мог бы ответить на это:

Программный ответ. Загрузка разума подобна загрузке программного обеспечения. Программа может быть загружена в компьютер и выгружена где-то очень далеко всего за несколько секунд и даже может быть многократно скопирована. Мы совершенно не похожи на обычные физические объекты – нет, наш разум – это программа. Так что если ваш мозг сканируется в идеальных условиях, то сканер копирует вашу нейронную конфигурацию (вашу «программу», или «информационный паттерн»). Вы сможете пережить загрузку в компьютер при условии, что сохраняется ваш паттерн.

Программный ответ опирается на влиятельную ныне точку зрения на природу разума в когнитивистике и философии разума, в соответствии с которой разум рассматривается как аналог компьютерной программы – как программа, которую исполняет мозг[107]. Назовем эту позицию «программной». Многие фьюжен-оптимисты, наряду с паттернизмом, склоняются к программной позиции. Например, компьютерщик Кит Уайли в противовес моей точке зрения пишет:

Разум вовсе не физический объект, и потому свойства физических объектов (непрерывная траектория в пространстве и времени) не обязательно к нему относятся. Разум аналогичен тому, что математики и компьютерщики называют «информацией», это не случайный массив данных для краткости[108].

Если это действительно так, разум может быть загружен в компьютер, а затем установлен в целом ряде совершенно разных тел. Это весьма живописно изображено в романе-антиутопии Руди Рюкера «Программа», где персонаж, когда у него заканчиваются деньги на нормальные тела для загрузки разума, от отчаяния сбрасывает свое сознание в грузовик. На самом деле загруженный в компьютер разум, возможно, не нужно будет устанавливать в тело. Не исключено, что он сможет просто обитать где-то в недрах компьютерной модели, как в классическом фильме «Матрица», в котором у знаменитого злодея Смита тела вообще нет, он обитает исключительно в Матрице – масштабной компьютерной модели. Смит – исключительно мощная программа. Он может не только появляться в любом месте Матрицы в погоне за хорошими парнями, но и находиться в нескольких местах сразу. В некоторые моменты фильма Нео даже приходится сражаться с сотнями Смитов.

Как показывают эти научно-фантастические истории, в век интернета программная позиция кажется естественной. В самом деле, некоторые ее адепты даже описывают разум такими выражениями, как «загрузки», «приложения» и «файлы». Вот что пишет об этом Стивен Мейзи на портале Big Think:

Наверное, вы захотите выполнить резервное копирование файла со своим разумом (конечно, для этого придется приобрести дополнительный объем памяти), чтобы избежать смерти из-за сбоя жесткого диска. Но при наличии резервных копий вы, или ваш электронный вариант, могли бы жить вечно или, по крайней мере, очень-очень долго, «отвязанные, – как говорит доктор Шнайдер, – от тела, которое непременно умрет»[109].

Еще один сторонник паттернизма – нейробиолог и глава Фонда сохранения мозга Кен Хейворт, которого задевает моя критика паттернизма. Для него, судя по всему, по-настоящему очевидно, что разум – это программа:

Меня всегда поражает, что умные люди продолжают попадать в эту философскую ловушку. Если бы обсуждалось копирование программного обеспечения и памяти одного робота (скажем, R2-D2) и установка их в тело нового робота, мучились бы мы философскими опасениями по поводу того, «тот же самый» это робот или нет? Конечно нет, как и в случае копирования данных и переноса программ со старого ноутбука на новый. Если у нас есть два ноутбука с одинаковыми данными и одинаковыми программами, будем ли мы задаваться вопросом, может ли один из них «волшебным образом» получить доступ к оперативной памяти другого? Конечно нет[110].

Так что же, программная позиция верна? Нет. Программный подход к разуму глубоко ошибочен. Одно дело – говорить, что мозг представляет собой вычислитель; я очень люблю эту исследовательскую парадигму в когнитивистике (см., например, мою книгу «Язык мысли»). Хотя программный взгляд нередко воспринимается как часть и подраздел вычислительного подхода к мозгу, с ним сравнимы многие метафизические подходы к природе разума[111]. Но, как я вскоре покажу, без точки зрения, согласно которой разум, или «я», представляет собой программу, нам лучше обойтись.

Прежде чем я пущусь в критику, хочу сказать еще кое-что о значении программного подхода. Этот вопрос важен по крайней мере по двум причинам. Во-первых, если программный подход верен, паттернизм более правдоподобен, чем можно понять из глав 5 и 6. Мои возражения, связанные с нарушением пространственно-временной непрерывности и редупликацией, в этом случае можно отбросить, хотя другие проблемы останутся: так, нам все равно придется решать, в каких случаях изменение паттерна совместимо с выживанием, а в каких нет.

Во-вторых, если программный подход верен, это стало бы интереснейшим открытием, так как позволило бы получить описание природы разума. В частности, позволило бы решить одну из центральных философских загадок, известную как психофизическая проблема.

Психофизическая проблема

Представьте, что вы сидите в кафе и готовитесь к крупной презентации. Вы одновременно чувствуете вкус эспрессо, который пьете, ощущаете тревогу, обдумываете какую-то идею и слышите негромкий шум кофемашины. Какова природа этих мыслей? Что это – просто вопрос физических состояний вашего мозга или нечто большее? Соответственно, какова природа разума? Что это такое – просто физический объект или нечто более высокое, выходящее за пределы конфигурации частиц мозга?

В этих вопросах и кроется психофизическая проблема. Она в том, где поместить ментальность в пределах того мира, который исследует наука. Психофизическая проблема тесно связана с уже упоминавшейся трудной проблемой сознания – загадочной причиной, по которой физические процессы сопровождаются субъективными ощущениями. Но трудная проблема сосредоточена на сознании, а психофизическая проблема – на ментальных состояниях в более общем смысле, включая и неосознаваемые состояния. Кроме того, она представляет собой не поиск ответа на вопрос, почему эти состояния должны существовать, а попытку определить, как они соотносятся с тем, что исследует наука.

Начало нынешним спорам по психофизической проблеме было положено более 50 лет назад, но некоторые классические позиции стали проявляться еще у досократовских греков. Однако ситуация проще не становится. Конечно, есть кое-какие интересные решения. Но, как и в случае споров по вопросу идентичности личности, непротиворечивых среди них не просматривается. Итак, решает ли программный подход эту классическую философскую проблему? Возьмем несколько популярных точек зрения на этот вопрос и посмотрим, как выглядит в сравнении с ними программная позиция.

Панпсихизм

Напомню: панпсихизм гласит, что даже у самых крохотных слоев реальности есть переживания. У элементарных частиц уровень сознания минимальный, и они тоже испытывают переживания, хотя и в сильно ослабленном виде. Когда частицы являются частью чрезвычайно сложных конфигураций, например когда они входят в состав нервных систем, возникают более высокие, узнаваемые формы сознания. Панпсихизм может показаться нелепостью, но сторонник этой точки зрения скажет, что на самом деле эта теория очень хорошо координируется с фундаментальной физикой, поскольку переживание лежит в фундаментальной природе свойств, которые изучает физика.

Субстанциальный дуализм

Согласно классическим взглядам, реальность состоит из объектов двух типов: физических (таких, как мозг, камни, тела) и нефизических (таких, как разум, личность или душа). Хотя вы можете отрицать существование нематериального разума или души, одна только наука не в состоянии исключить их существование. Самый влиятельный сторонник субстанциального дуализма среди философов – Рене Декарт считал, что работа нефизического разума соответствует работе мозга, по крайней мере во время жизни его обладателя[112]. Современные сторонники субстанциального дуализма предлагают как сложные нерелигиозные, так и интересные и не менее сложные теистические подходы.

Физикализм (или материализм)

Мы уже упоминали физикализм в главе 5. Согласно этой точке зрения, разум, как и остальная реальность, вполне физичен. Все либо сделано из чего-то, что описывает физика, либо является фундаментальным свойством, законом или веществом, фигурирующим в физической теории. (Здесь, говоря про «физическую теорию», физикалисты, как правило, подразумевают содержание окончательной теории всего, которую откроет завершенная физика.) Нет никакого нематериального разума или души, и все наши мысли в конечном итоге представляют собой физические явления. Эту позицию называют еще «материализмом», но сейчас чаще именуют «физикализмом». Поскольку второго нематериального царства, о котором говорит субстанциальный дуализм, не существует, физикализм чаще всего рассматривается как форма монизма – теории, согласно которой у реальности существует лишь одна фундаментальная категория, в данном случае это категория физических сущностей.

Дуализм свойств

Отправной точкой для этой позиции является трудная проблема сознания. Сторонники дуализма свойств считают, что лучший ответ на вопрос «Почему сознание должно существовать?» состоит в том, что сознание – фундаментальное свойство некоторых сложных систем. (В хрестоматийном случае такие свойства есть у биологического мозга, но, возможно, когда-нибудь синтетический интеллект тоже обзаведется ими.) Сторонники дуализма свойств, как и сторонники субстанциального дуализма, утверждают, что реальность делится на два царства. Но дуализм свойств отрицает существование души и нематериального разума. Мыслительные системы представляют собой физические объекты, но обладают нефизическими свойствами (или качествами). Эти нефизические свойства суть базовые строительные кирпичики реальности наряду с фундаментальными физическими свойствами, но, в отличие от панпсихизма, базовые свойства не микроскопичны – это атрибут сложных систем.

Идеализм

Идеализм менее популярен, чем остальные точки зрения, но исторически он играет значимую роль. Идеалисты уверены, что фундаментальная реальность подобна разуму. Некоторые сторонники этой позиции являются панпсихистами, но панпсихист может и отрицать идеализм, утверждая, что реальность – это не только разум или переживания[113].

К вопросу о природе мозга есть много интересных подходов, но я ограничилась самыми популярными. Если читатель захочет рассмотреть предлагаемые решения психофизической проблемы подробнее, могу рекомендовать несколько прекрасных обзоров[114]. Теперь, когда мы рассмотрели эти позиции, вернемся к программному подходу и посмотрим, как он справляется с вопросом.

Оцениваем программный подход

У программного подхода исходно имеются два недостатка, причем оба они, по-моему, устранимы. Для начала, не все программы относятся к тому типу вещей, что обладают разумом. Приложения Amazon или Facebook в вашем телефоне разумом не обладают, по крайней мере если рассматривать разум в обычном смысле (т. е. как нечто, чем обладают только очень сложные системы вроде мозга). Если разум – программа, то это программа особого сорта, настолько сложная, что с трудом поддается описанию в таких областях науки, как психология и нейробиология. Второй вопрос состоит в том, что, как мы убедились, в центре нашей ментальной жизни находится сознание. Никакая зомби-программа – программа, не способная на переживания, – просто не относится к разряду того, что обладает разумом.

И все же эти моменты не являются решающими возражениями, ибо если сторонники программной теории согласны с одним из них или с обоими, то вполне могут уточнить свою позицию. Например, если они согласны с обоими замечаниями, то могут ограничить программную теорию следующим образом:

Разум есть программа чрезвычайно высокой сложности, способная на осознанные переживания.

Но добавления нескольких замечаний мелким шрифтом недостаточно, чтобы разрешить более глубокие проблемы, которые я обозначу далее.

Чтобы определить, насколько реален программный подход, зададимся вопросом: что такое программа? Как можно видеть на рисунке, программа – это список инструкций в строках компьютерного кода. Строки кода – это инструкции на одном из языков программирования, которые сообщают компьютеру, какие задания ему следует выполнять. Большинство компьютеров способны выполнять несколько программ, и, таким образом, мы можем добавлять компьютеру новые способности или удалять уже имеющиеся.

Строка кода подобна математическому уравнению. Она совершенно абстрактна и, таким образом, резко контрастирует с конкретным физическим миром вокруг нас. Вы можете бросить камень. Вы можете взять чашку с кофе. Но попробуйте бросить какое-нибудь уравнение. Уравнения – абстрактные сущности, у них нет конкретного местоположения в пространстве и времени.

Теперь, когда мы убедились, что программа абстрактна, можем заметить в программной теории серьезный недостаток. Если разум – программа, то это всего лишь длинная последовательность инструкций в программном коде. Программная теория гласит, что разум есть абстрактная сущность. Но подумайте, что это означает. Природу абстрактных сущностей – уравнений, множеств и программ – изучает такая область науки, как философия математики. Утверждается, что абстрактные сущности неконкретны: они вне пространства, вне времени, они нефизичны и некаузальны. Если написать на бумаге цифру 5, то надпись будет располагаться на листе, но сама цифра, в отличие от надписи, не располагается нигде. Абстрактные сущности не располагаются в пространстве и времени, не являются физическими объектами и не вызывают событий в пространственно-временном многообразии.

Как может разум, подобно уравнению или числу 2, быть абстрактной сущностью? Это представляется категориальной ошибкой. Мы с вами – пространственные существа и каузальные агенты, наш разум имеет состояния, которые побуждают нас действовать в конкретном мире. И время течет для нас – мы существуем во времени. Так что разум – это не абстрактная сущность, здесь у него нет сходства с программой. Может показаться, что программы способны действовать в реальном мире. Например, когда в последний раз на вашем компьютере произошел сбой, разве не программа его вызвала? Но это смешение программы с одной из ее конкретных реализаций. В какое-то мгновение, скажем когда работает Windows, эта программа дополняется физическими состояниями конкретной машины. Именно машина и связанный с ней процесс дают сбой. Мы можем говорить о сбое программы, но, если подумать, алгоритм или строки кода (т. е. собственно программа) в буквальном смысле не сбоят и не вызывают сбой. Сбой вызывают электронные состояния конкретной машины.

Так что разум – это не программа. И по-прежнему есть причины сомневаться в том, что загрузка разума в компьютер может действительно помочь Ким Суоцци или кому-то еще продолжить существование. Как подчеркивается во второй половине книги, если, конечно, существует постоянное «я», биологические усовершенствования, постепенно восстанавливающие и осторожно улучшающие работу биологического мозга, являются более безопасным путем к долголетию и расширению умственных способностей даже в случае реального создания технологии загрузки мозга в компьютер. Фьюжен-оптимисты поддерживают как стремительные перестройки в психологической непрерывности, так и радикальные изменения субстрата разума. Оба эти типа усовершенствований представляются рискованными, по крайней мере если верить, что такая вещь, как постоянное «я», действительно существует.

Я подчеркивала это также в главах 5 и 6, хотя там мои рассуждения не касались абстрактной природы программного подхода. Там моя осторожность брала начало в метафизическом противоречии, по поводу которого конкурирующие теории о природе личности сходятся. В результате мы так и не поняли, совместимы ли радикальные, или даже умеренные, усовершенствования с выживанием. Теперь видно, что с точки зрения сохранения личности программный подход проблематичен точно так же, как и паттернизм. Если второй противоречит нашим представлениям о природе личности, то первый приписывает абстракциям физический смысл, которого у них нет.

Однако я хотела бы предостеречь от однозначных выводов из моего отказа от программного подхода. Как я отмечала, вычислительный подход к разуму в когнитивистике – прекрасная объяснительная основа[115]. Но из него не вытекает, что разум – это программа. Взять хотя бы каноническую статью Неда Блока «Разум как программное обеспечение мозга»[116]. Если не принимать во внимание заголовок, с которым я очевидно несогласна, в ней детально разбираются многие ключевые аспекты теории, согласно которой мозг представляет собой вычислитель. Когнитивные способности, такие как интеллект и кратковременная память, можно объяснить методом функционального разложения; ментальные состояния осуществимы множеством способов; а сам мозг есть синтаксический инструмент, управляющий семантическим инструментом. Блок точно характеризует объяснительную основу когнитивистики, выделяя ключевые особенности вычислительного подхода к разуму. Однако ничто у него не дает основания считать, что разум есть программа.

Иными словами, программный подход нежизнеспособен. Однако остается вопрос, не может ли трансгуманист или фьюжен-оптимист предложить более правдоподобный вычислительный подход к природе разума. Надо сказать, у меня действительно есть предложение. Я считаю, что под влиянием трансгуманизма мы можем сформулировать точку зрения, согласно которой разум – это не программа как таковая, но ее реализация – отдельно взятый запуск, или прогон. Тогда возникает вопрос: действительно ли эта модифицированная точка зрения лучше стандартного программного подхода?

Может ли лейтенант-коммандер Дейта быть бессмертным?

Возьмем в качестве примера лейтенанта-коммандера Дейту, андроида из сериала «Звездный путь: Следующее поколение». Предположим, что он оказывается в неудачной ситуации на враждебной планете в окружении аборигенов, которые собираются его разобрать. В последней отчаянной попытке спастись Дейта быстро загружает свой искусственный мозг в компьютер на звездолете «Энтерпрайз». Выживет ли он? И может ли он, в принципе, поступать так всякий раз, как окажется в трудной ситуации, чтобы стать бессмертным?

Если я права и ни разум Дейты, ни разум кого бы то ни было еще не является программой, то это должно повлиять на вопрос о том, могут ли искины, в том числе и загруженные в компьютер, достичь бессмертия или, скорее, того, что можно назвать «функциональным бессмертием». (Я пишу «функциональное бессмертие», поскольку когда-нибудь Вселенная придет к тепловой смерти, которой не сможет избежать никакая жизнь. Но дальше я не буду обращать внимания на эту формальность.)

Считается, что искин может достичь функционального бессмертия, создавая свои копии и перенося свое сознание с одного компьютера на другой, когда что-то происходит. Такой взгляд подкрепляется научно-фантастическими историями, но я подозреваю, что он ошибочен. Сомнительно, что человек может достичь функционального бессмертия путем загрузки себя в компьютер и выгрузки при необходимости, и столь же сомнительно, что искин способен по-настоящему уцелеть в подобной ситуации. Если отдельный разум является не программой и не абстракцией, а конкретной сущностью, то отдельный искусственный разум уязвим и подвержен как разрушению в результате несчастного случая, так и медленной деградации составляющих его частей – в точности, как и мы.

Это заявление едва ли можно назвать очевидным. Полезно отметить, что существует лингвистическая неоднозначность: понятие ИИ может относиться как к отдельному искину (конкретному созданию), так и к типу ИИ-систем (это уже абстрактная сущность). По аналогии, понятие Chevy Impala может означать и ту побитую машину, которую вы приобрели в свое время после колледжа, и тип автомобиля (т. е. марку и модель). В этом смысле оно никуда не денется даже после того, как вы доломаете свою машину и продадите ее на запчасти. Так что важно снять неоднозначность в тех утверждениях, где речь идет о выживании. Если кому-то хочется считать типы программ «типами разума», то можно сказать, что эти типы «переживают» загрузку в компьютер с точки зрения двух упрощенных понятий выживания. Во-первых, по крайней мере в принципе, машина, содержащая высококачественную копию человеческого мозга, может исполнять ту же программу, которую исполнял этот мозг до того, как был разрушен процедурой загрузки. Тип разума «остается в живых», хотя ни одно отдельно взятое самосознающее существо не живет при этом непрерывно. Во-вторых, программа, как абстрактная сущность, существует вне времени. Она не прекращает существование, потому что существует вне времени. Но это не «выживание» в реальном смысле. Конкретные «я» или разумы не выживают ни в одном из приведенных двух смыслов.

Все это чрезвычайно абстрактно. Вернемся к примеру лейтенанта-коммандера Дейты. Дейта – это конкретный искин, и как таковой он уязвим для разрушения. Где-то могут существовать и другие андроиды этого типа (тоже индивидуальные искины), но их выживание гарантирует не выживание Дейты, а лишь «выживание» характерного для Дейты типа разума. (Я пишу «выживание» в кавычках с целью подчеркнуть, что речь идет об уже упоминавшемся выживании в упрощенном смысле.)

Итак, Дейта на враждебной планете в окружении аборигенов, которые собираются его уничтожить. Он быстро загружает свой искусственный мозг в компьютер «Энтерпрайза». Выживает он при этом или нет? На мой взгляд, мы получаем конкретный образец (или, как говорят философы, «токен») типа разума Дейты, работающий на том конкретном компьютере. Мы можем спросить: способен ли этот токен пережить разрушение своего компьютера при помощи новой загрузки (т. е. переноса разума токена на другой компьютер)? Нет. Загрузка просто создаст другой токен того же типа. Индивидуальное выживание зависит от ситуации на уровне токенов, а не на уровне типов.

Стоит также подчеркнуть, что конкретный искин все же может жить очень долгое время при условии долговечности составляющих его частей. Возможно, Дейте удалось бы достичь функционального бессмертия, просто избегая несчастных случаев и вовремя заменяя свои части по мере их износа. Моя точка зрения совместима с этим сценарием, поскольку выживание Дейты в этом случае происходит не за счет переноса его программы с одного физического объекта на другой. Если мы готовы признать, что человек выживет при постепенной замене его частей с течением времени, почему бы не признать того же в случае искинов? Конечно, в главе 5 я отмечала, что пока непонятно, сможет ли личность пережить замену частей своего мозга; но, может быть, «я» – это иллюзия, как предполагали Дерек Парфит, Фридрих Ницше и Будда.

Может быть, разум – это реализация программы?

Центральное утверждение нашей дискуссии о Дейте заключается в том, что выживание реализуется на уровне токенов. Но как далеко распространяется это наблюдение? Мы видели, что разум – это не программа, но может ли он быть реализацией программы – тем, что исполняет программу или хранит ее информационный паттерн? То, что реализует программу, представляет собой конкретную сущность – парадигматически компьютер, хотя технически реализация программы задействует не только схемы компьютера, но и физические события, которые происходят в нем во время исполнения программы. Паттерн материи и энергии в этой системе соответствует – возможно, нетривиальным образом – элементам программы (например, переменным или константам)[117]. Назовем эту позицию в отношении разума теорией программной реализации.

Представление о разуме как о программной реализации

Разум есть сущность, исполняющая программу (где программа есть алгоритм, реализуемый мозгом, – нечто, в принципе обнаружимое в когнитивистике).

Эта новая точка зрения, однако, не слишком подходит фьюжен-оптимистам. Это не та теория, содержание которой можно точно описать слоганом: «Разум – это программа мозга». Она утверждает, что разум – это сущность, исполняющая программу. Чтобы понять, насколько теория программной реализации отличается от программного подхода, отметим, что в соответствии с ней Ким Суоцци может пережить загрузку в компьютер; мои прежние опасения, касающиеся нарушения пространственно-временной непрерывности, здесь также применимы. Как и в случае модифицированного паттернизма, каждая загрузка и каждая новая копия – это не та же личность, что оригинал, хотя и имеет ту же самую программу.

Согласно приведенному выше определению, программа исполняется в мозге, но мы можем с легкостью распространить определение и на другие субстраты, такие как компьютеры на основе кремния.

Подход к разуму как к программной реализации

Разум есть сущность, исполняющая программу (где программа есть алгоритм, реализуемый мозгом или иной когнитивной системой, – нечто, в принципе обнаружимое в когнитивистике).

Этот подход, в отличие от исходного программного подхода, избегает категориальной ошибки и не рассматривает разум как абстракцию. Однако подобно исходному подходу и связанной с ним паттернистской позиции, он опирается на вычислительный взгляд на мозг в когнитивистике.

Обеспечивает ли подход к разуму как программной реализации содержательный взгляд на психофизическую проблему? Отметим, что он ничего не говорит о фундаментальной метафизической природе той субстанции, которая исполняет программу (т. е. разума). Поэтому он неинформативен. Чтобы теория программной реализации была информативной, она должна иметь четкую позицию по каждому из упомянутых ранее вопросов, относящихся к природе разума.

Возьмем, например, панпсихизм. Состоит ли система, реализующая программу, из фундаментальных элементов, обладающих собственными переживаниями? Теория программной реализации оставляет этот вопрос открытым. Более того, она совместима и с физикализмом – точкой зрения, согласно которой все либо состоит из элементов, описываемых физикой, либо является фундаментальным свойством, законом или субстанцией, фигурирующими в физической теории.

Дуализм свойств также совместим с представлением о разуме как о программной реализации. Рассмотрим, например, самый популярный вариант этой точки зрения – натуралистический дуализм свойств Дэвида Чалмерса. Согласно Чалмерсу, такие свойства, как любование богатыми красками заката или ощущение аромата кофе, представляют собой качества, порождаемые сложными структурами. В отличие от панпсихизма, эти фундаментальные свойства сознания невозможно обнаружить у элементарных частиц (или струн) – они возникают на более высоком уровне и относятся к очень сложным системам. Тем не менее эти свойства представляют собой базовые черты реальности[118]. Так что физика будет неполной, какой бы сложной она ни стала, поскольку помимо физических свойств существуют новые фундаментальные свойства нефизического характера. Обратите внимание, теория программной реализации совместима с этой точкой зрения, так как система, исполняющая программу, может обладать определенными свойствами, которые носят нефизический характер и сами по себе являются базовыми чертами реальности.

Напомню, субстанциальный дуализм утверждает, что реальность состоит из двух типов субстанций: физических (таких, как мозг, камни, тела) и нефизических (таких, как разум, личность или душа) сущностей. Нефизические субстанции, в принципе, могут представлять собой те сущности, которые исполняют программу, так что теория программной реализации совместима с субстанциальным дуализмом. Это звучит странно, поэтому полезно рассмотреть, как может выглядеть подобная история; подробности зависят от того, какой тип субстанциального дуализма выходит на сцену.

Допустим, сторонник субстанциального дуализма утверждает, подобно Декарту, что разум целиком находится вне пространства и времени. Согласно Декарту, хотя разум и не находится в пространстве-времени, на протяжении жизни человека он все же способен вызывать определенные состояния в мозге, и наоборот[119]. (Как он это делает? Боюсь, что Декарт не дал этому сколько-нибудь разумного объяснения, ошибочно утверждая, что взаимодействие разума и мозга происходит в шишковидной железе.)

Почему теория программной реализации совместима с картезианским дуализмом? В этом случае разум, если он программная реализация, должен быть нефизической сущностью вне пространства и времени. Во время земной жизни человека разум вызывает различные состояния мозга. (Заметьте, однако, что нефизический разум – это не абстрактная сущность, так как у него имеются каузальные и временны́е свойства. Непространственность – необходимое, но недостаточное условие абстрактности.) Такую точку зрения можно назвать вычислительным картезианством. Возможно, это звучит странно, но специалисты по функционализму, такие как философ Хилари Патнэм, давно признали, что вычисления машины Тьюринга могут выполняться в картезианской душе[120].

Картина причинно-следственных связей разума и тела, которую предлагает вычислительное картезианство, озадачивает, но такое же впечатление производили и взгляды Декарта, предполагавшие, что разум, находящийся вне пространства и времени, состоит тем не менее в причинно-следственной связи с физическим миром.

Однако не все варианты субстанциального дуализма настолько радикальны. Возьмем, например, некартезианский субстанциальный дуализм – взгляд, которого придерживался Э. Дж. Лоу. Он считал, что личность отлична от тела. Но, в противоположность дуализму Декарта, дуализм Лоу не утверждает ни того, что разум может быть отделен от тела, ни того, что он существует вне пространства. Этот дуализм допускает, что разум, возможно, не способен существовать без тела и что, существуя в пространстве и времени, он обладает такими свойствами, как форма и местоположение[121].

Почему Лоу придерживался такой позиции? Он считал, что личность способна пережить перенос на различные типы физических субстратов, так что для нее характерны не такие условия выживания, как для тела. Мы уже видели, что подобные заявления о выживании всегда противоречивы. Но вам не обязательно разделять представления Лоу о выживании – это просто пример некартезианского варианта субстанциального дуализма. Теория программной реализации совместима с некартезианским субстанциальным дуализмом, потому что реализация программы тоже может быть подобным нефизическим разумом. Эту позицию отбросить труднее, чем картезианство, поскольку разум – часть естественного мира. И здесь опять теория программной реализации молчит.

По существу, хотя теория программной реализации не настаивает на абстрактности разума, она почти ничего не говорит о природе разума, за исключением того, что это нечто исполняющее программу. В принципе, на это способно все что угодно – картезианский разум, системы фундаментальных эмпирических свойств и т. п. А значит, это не вариант решения психофизической проблемы.

В этом месте сторонник теории программной реализации может сказать, что они собираются предложить метафизически содержательное утверждение иного рода – утверждение о живучести разума во времени. Возможно, они придерживаются следующей точки зрения:

Программная реализация типа T – сущностная характеристика человеческого разума, без которой он не мог бы продолжать существование.

Напомню, что дополнительными, или условными, считаются такие свойства, которых можно лишиться и при этом продолжить существование. Например, можно изменить цвет своих волос. К основным, или сущностным, относятся свойства, без которых не обойтись. Ранее мы говорили о спорах по поводу продолжения существования личности. В аналогичном ключе сторонники теории программной реализации могут настаивать на сущностной необходимости реализации программы T для того, чтобы человек продолжал обладать тем разумом, которым обладает, и на том, что разум человека прекратил бы существование при замене T на другую программу, P.

Насколько оправданна такая точка зрения? Одна проблема состоит в том, что любая программа – это всего лишь алгоритм, так что при изменении любых строк алгоритма программа меняется. Синаптические связи мозга постоянно меняются, отражая новое знание, и, когда вы узнаёте что-то, скажем осваиваете новый навык, это вызывает изменения в вашей «программе». Но если программа меняется, прежний разум прекращает существовать и возникает новый разум. Обычное обучение не должно приводить к смерти разума.

Сторонникам теории программной реализации, однако, есть что ответить на это возражение. Например, они могут заявить, что программа может эволюционировать: скажем, в момент времени t она представляет собой алгоритм типа T_1, а позже – алгоритм T_2, модифицированную версию T_1. Хотя формально T_1 и T_2 различны и содержат по крайней мере несколько разных инструкций, T_1 – это предшественник T_2. Так что программа продолжает существование. С такой точки зрения личность – это реализация определенной программы, которая может меняться определенным образом, оставаясь при этом той же самой.

Реки, потоки и личности

Обратите внимание, что это всего лишь уже упоминавшаяся трансгуманистская «паттернистская» точка зрения, модифицированная для отражения того факта, что личность – это не паттерн, а реализация паттерна. Ранее мы обсуждали схожую точку зрения под названием «модифицированный паттернизм». Таким образом, мы совершили полный круг. Вспомним замечание Курцвейла:

Я скорее похож на узор, который образует вода, когда бежит по камням. Реальные молекулы воды меняются каждую миллисекунду, но паттерн сохраняется на протяжении часов или даже лет[122].

Разумеется, Курцвейл знает, что со временем паттерн меняется. В конце концов, это цитата из его книги о том, как стать постчеловеком при достижении сингулярности. Замечание Курцвейла, возможно, придется вам по душе, ведь в каком-то смысле вы вроде бы остаетесь той же личностью, какой были год назад, несмотря на изменения в мозге; не исключено, что вы смогли бы даже пережить потерю многих воспоминаний или появление некоторого количества новых нейронных контуров, как при усовершенствовании вашей системы кратковременной памяти. Тогда вы и правда похожи на реку или поток.

Ирония в том, что образ реки использовался еще досократовским философом Гераклитом, который с его помощью пытался показать, что реальность текуча. Неизменные вещи в ней – иллюзия, включая неизменность постоянного «я» или разума. Тысячи лет назад Гераклит писал: «Ни один человек не может войти в одну и ту же реку дважды, ибо это будет уже не та река и не тот человек»[123].

Но Курцвейл говорит, что человеческое «я» переживает поток перемен. Задача сторонников модифицированного паттернизма – парировать ход Гераклита: показать, что на фоне непрерывных изменений существует некое постоянное «я», а не просто иллюзия постоянства. Смогут ли паттернисты наложить постоянство «я» на Гераклитов поток вечно меняющихся молекул тела?

Здесь мы вновь сталкиваемся со знакомой проблемой. Без прочной позиции в вопросе о том, когда реализация паттерна продолжается, а когда прерывается, у нас нет достаточных оснований апеллировать и к теории программной реализации. В главе 5 мы спрашивали: если вы – это реализация определенного паттерна, то что, если ваш паттерн изменится? Вы умрете? Экстремальные случаи, такие как загрузка в компьютер, представлялись нам достаточно ясными. Однако простая ежедневная клеточная терапия при помощи наноботов для устранения проявлений медленного старения, возможно, не повлияет на идентичность личности. Но мы видели, что промежуточные случаи не так легко интерпретировать. Напомню, что путь к сверхразуму лежит, возможно, через небольшие усовершенствования, которые накапливаются со временем и дают в сумме серьезные изменения в когнитивной и перцептивной структуре личности. Далее, как мы видели в главе 5, выбор границы представляется произвольным – ведь когда граница выбрана, всегда можно подобрать пример, который убеждает передвинуть ее чуть дальше.

Таким образом, если сторонники теории программной реализации имеют определенное мнение о постоянстве разума, возникает все тот же старый вопрос. Мы и правда совершили полный круг, но так и не избавились от чувства неразрешимости и противоречивости загадок о природе разума и собственного «я». И здесь, дорогой читатель, я хочу вас оставить. Ибо будущее разума требует тщательной оценки метафизических глубин этих проблем.

А теперь, для закрепления материала, просуммируем сказанное, вернувшись к случаю Суоцци.

Возвращаясь в Alcor

Джош через три года после смерти Ким собрал дорогие ей вещи и вернулся в Alcor. Он выполнил данное ей обещание и доставил ее вещи туда, где она могла бы найти их, если вернется к жизни[124]. Откровенно говоря, я предпочла бы, чтобы эта глава завершилась иначе. Если бы программный подход был верен, то, по крайней мере в принципе, разум можно было бы загружать в компьютер, копировать и перезагружать. Это открыло бы возможность послежизни для мозга, если хотите – создало бы способ, позволяющий разуму, например разуму Ким, пережить смерть мозга. Однако наши размышления показали, что программный подход превращает разум в абстрактный объект. Поэтому мы рассмотрели родственную точку зрения, в которой разум – это программная реализация. Но оказалось, что и теория программной реализации не поддерживает загрузку в компьютер, и, хотя сам по себе этот подход интересен, он слишком неинформативен с метафизической точки зрения, чтобы всерьез рассматриваться как научный подход к природе мозга.

У меня нет доступа к медицинским подробностям заморозки Ким, но я вижу проблески надежды в отчете The New York Times, где говорится, что сканирование показало успешную криоконсервацию внешних слоев ее мозга. Как отмечает Хармон, центральную роль в том, кто мы есть, играет, судя по всему, новая кора головного мозга, поскольку именно она является ключом к памяти и языку[125]. Так что реконструкция поврежденных частей на биологической основе может быть совместима с выживанием личности. Например, я обратила внимание, что уже сегодня ведется активная работа над протезами гиппокампа. Не исключено, что такие части мозга, как гиппокамп, носят скорее универсальный характер и замена их биологическими или даже ИИ-протезами не меняет личность человека.

Конечно, я на протяжении всей книги подчеркивала, что здесь существуют громадные неопределенности, обусловленные запутанной и противоречивой природой дебатов об идентичности личности. Но положение Ким не похоже на положение человека, выбирающего себе усовершенствования для мозга, – эдакого покупателя в гипотетическом Центре конструирования разума. Покупатель, просматривающий список доступных усовершенствований, может спокойно отказаться от них, если они покажутся ему слишком рискованными, а пациенту на пороге смерти или человеку, нуждающемуся в протезе для оживления после заморозки, нечего терять, приобрести же он может все, и такой человек обязательно пойдет даже на очень рискованное лечение.

В отчаянном положении нужны радикальные меры. Решение использовать один или несколько нейронных протезов ради повышения шансов на возрождение Ким кажется рациональным, если соответствующая технология будет отработана. Однако я совершенно не уверена, что попытка загрузить ее мозг в компьютер стала бы формой возрождения. Загрузка в компьютер, по крайней мере как средство выживания, опирается на порочное концептуальное основание.

Так что же, все проекты по загрузке мозга в компьютер следует прекратить? Даже если эта технология не выполнит своих первоначальных обещаний и не даст цифрового бессмертия, она, вполне возможно, окажется полезной для нашего биологического вида. Например, какая-нибудь глобальная катастрофа может сделать Землю непригодной для биологических форм жизни и загрузка в компьютер может оказаться способом сохранения человеческого образа жизни и мышления, если не самих людей. А если загруженный в компьютер разум в самом деле будет обладать сознанием, то представители нашего биологического вида, оказавшись перед лицом смерти, может быть, оценят это. Более того, даже если загруженный разум не будет обладать сознанием, использование моделей человеческого разума может оказаться более безопасным и эффективным способом освоения космоса, чем отправка в полет живых людей. Публике, как правило, нравятся пилотируемые полеты в космос, хотя роботизированные миссии кажутся более эффективными. Возможно, использование загруженного разума тоже понравится публике. Загруженный разум мог бы даже управлять процессом терраформирования в негостеприимных мирах, чтобы подготовить их для людей. Кто знает.

К тому же загрузка мозга могла бы подтолкнуть развитие методов лечения мозга и расширения его способностей и, таким образом, пойти на пользу человеку или животным. Исследователи ИИ, нацеленные на создание искинов, способных интеллектуально конкурировать с человеком, возможно, найдут ее полезным средством разработки ИИ. Кто знает, не будут ли искины, происходящие от нас, отличаться большей доброжелательностью по отношению к нам?

Наконец, некоторые люди по понятным причинам захотят завести себе цифровых дублей. Если вы узнали, что скоро умрете, вам вполне может захотеться оставить после себя свою копию, которая сможет общаться с вашими детьми или завершить начатые проекты. Мало того, в роли личных помощников – этаких Siri и Alexa будущего – возможно, будут выступать загруженные в компьютер копии умерших людей, которых мы при их жизни глубоко любили. Возможно, нашими друзьями станут наши же копии, подправленные так, как нам захочется. И не исключено, что мы вдруг разглядим в этих цифровых копиях самосознающие создания, которые заслуживают уважительного отношения.

Заключение: Послежизнь мозга

Стержнем этой книги является диалог между философией и наукой. Мы уже видели, что научные основы новых, нарождающихся технологий могут, с одной стороны, бросить вызов нашим представлениям о разуме, собственном «я» и личности, а с другой – заметно расширить их. И наоборот, философия улучшает наше видение того, чего могут достичь эти нарождающиеся технологии: могут ли существовать обладающие сознанием роботы, можно ли заменить значительную часть мозга микрочипами и при этом быть уверенным, что человек останется самим собой, и т. д.

Я попыталась в самых общих чертах исследовать возможности конструирования разума. Хотя мы не знаем, будут ли существовать такие места и компании, как Immortex или Центр конструирования разума, их появление меня бы не удивило. Сегодняшние события говорят сами за себя: именно сейчас разрабатываются искины, которые в ближайшие несколько десятилетий заменят на рабочих местах большинство работников – как белые, так и голубые воротнички; именно сейчас активно прощупываются пути слияния человека и машины.

Я не считаю, что сложные продвинутые искины непременно будут обладать сознанием. Нет, я выступаю за взвешенный, промежуточный подход – тот, что отвергает мысленный эксперимент с китайской комнатой, но при этом не исходит априори, основываясь на вычислительной природе мозга или концептуальной возможности изоморфов, из того, что продвинутый искин будет обладать сознанием.

Не исключено, что самосознающий искин нельзя построить на практике, а сознание на ином, небиологическом субстрате вообще противоречит законам физики. Но если мы будем тщательно проверять создаваемые нами искины на наличие сознания, то сможем подойти к этому вопросу с должной осторожностью. А публичная дискуссия без скатывания к технофобии или к тенденции видеть сознание в каждом искине, который на первый взгляд напоминает человека, позволит нам лучше судить о том, следует ли создавать самосознающий ИИ и если следует, то как. Общество должно делать выбор в этих вопросах очень осторожно и при участии всех заинтересованных сторон.

На мой взгляд, с этической точки зрения лучше всего считать, что продвинутый искин может оказаться самосознающим, по крайней мере до тех пор, пока мы не разработаем надежные тесты для выявления сознания. Любая ошибка может негативно сказаться на спорах о том, могут ли искины заслуживать особого этического отношения как самосознающие существа, и ошибаться здесь лучше в безопасную сторону. Неспособность распознать самосознающую машину может не только вызвать ненужную боль и страдание. Как показывают такие фильмы, как «Из машины» и «Я, робот», отсутствие милосердия к искину может вернуться к нам бумерангом, заставить машины относиться к нам так же, как мы относились к ним.

Кому-то из читателей помоложе когда-нибудь, возможно, и правда придется принимать решения, связанные с конструированием разума. Если вы относитесь к их категории, то мне хотелось бы дать вам следующий совет: прежде чем совершенствовать свой мозг, необходимо как следует поразмыслить над тем, кто вы есть. Если вы не уверены до конца в глубинной природе личности, как я например, выбирайте постепенные изменения и усовершенствования на биологической основе, – те, что отражают тип перемен, которые претерпевает нормальный мозг в процессе обучения и взросления. С учетом мысленных экспериментов, которые подвергают сомнению наиболее радикальные подходы к усовершенствованию, и отсутствия согласия в спорах об идентичности личности, осторожный подход выглядит наиболее благоразумным. Лучше всего избегать радикальных, быстрых изменений, даже тех, которые не меняют тип субстрата (например, углерод на кремний). Разумно также избегать попыток «переноса» разума на другой субстрат.

Пока мы не узнаем больше о синтетическом сознании, нельзя быть уверенным в том, что передача ключевых ментальных функций ИИ-компонентам в тех частях мозга, которые отвечают за сознание, безопасна. Конечно, нам еще только предстоит определить, обладает ли искин сознанием, так что неизвестно, будете ли вы (или, может быть, точнее сказать – ваша ИИ-копия) хотя бы самосознающим существом, если попытаетесь слиться с машиной.

В настоящий момент, как вы видели, посещение Центра конструирования мозга может принести разочарование и даже стать опасным. Мне хотелось бы указать вам ясный и однозначный путь и провести вас безопасным маршрутом через дебри решений по конструированию разума. Но вместо этого приходится ограничиваться следующим посланием: любые решения по конструированию разума необходимо рассматривать в первую очередь в ключе метафизического смирения. Помните о рисках. Будущее разума, будь то человеческий разум или разум робота, – это вопрос, требующий открытого диалога и философского рассмотрения.

Приложение

Трансгуманизм

Трансгуманизм – не монолитная идеология, но у него все же есть официальная декларация и организация. Всемирная трансгуманистическая ассоциация – это международная некоммерческая организация, которую основали в 1998 г. философы Дэвид Пирс и Ник Бостром. Основные постулаты трансгуманизма изложены в приведенной ниже Декларации трансгуманизма[126].

Декларация трансгуманизма

1. Человечество в будущем радикально изменится благодаря новым технологиям. Мы предвидим изменение условий человеческой жизни, в том числе избавление от неизбежности старения, ограниченности естественного и искусственного интеллекта, незыблемости психологии поведения, страданий и нашего заточения в пределах планеты Земля.

2. Для понимания грядущих путей развития и предсказания долгосрочных последствий необходимы систематические исследования.

3. Трансгуманисты полагают, что открытость и восприимчивость к новейшим технологиям даст нам больше шансов добиться улучшений, чем попытки запретить подобные технологии или воспрепятствовать их развитию.

4. Трансгуманисты защищают моральное право тех, кто хочет воспользоваться передовыми технологиями, на расширение своих умственных и физических способностей (включая репродуктивные) и улучшение контроля над своей жизнью. Мы ищем пути для личностного роста за пределами наших нынешних биологических ограничений.

5. При планировании будущего крайне важно принимать в расчет перспективы стремительного прогресса технологических возможностей. Будет прискорбно, если потенциальные выгоды не смогут материализоваться из-за технофобии и нелепых запретов. В то же время история также может завершиться трагично, если разумная жизнь исчезнет по причине какой-либо глобальной катастрофы или войны, вызванной передовыми технологиями.

6. Нам необходимо создавать дискуссионные форумы, где люди могли бы конструктивно обсуждать, что необходимо предпринять и какой социальный уклад будет наилучшим образом соответствовать принятию ответственных решений.

7. Трансгуманизм защищает право на достойную жизнь всех высокоразвитых существ с чувственным восприятием (будь то люди, постлюди, животные или организмы с искусственным интеллектом) и разделяет многие принципы современного гуманизма. Трансгуманизм не поддерживает какую-либо политическую партию, политика или политическую платформу.

Этот документ был дополнен значительно более объемным и чрезвычайно информативным сборником «Часто задаваемые вопросы по трансгуманизму», который без труда можно найти в сети[127].

Благодарности

Над этой книгой было приятно работать, и я очень благодарна тем, кто давал отзывы, и тем, кто спонсировал исследования. Главы 2–4 были написаны в разгар работы над интереснейшим проектом по сознанию ИИ в Стэнфордском исследовательском институте. Глава 7 стала результатом моего исследовательского проекта в NASA и серии плодотворных коллабораций с сотрудниками Центра теологических исследований в Принстоне, штат Нью-Джерси. Особая благодарность Робину Лавину, Джошу Молдину и Уиллу Сторрару за теплый прием и размещение там.

Должна также поблагодарить Пита Хата из Института перспективных исследований в Принстоне за организацию моего приема в качестве приглашенного сотрудника. Я многое узнала от членов нашей группы по ИИ, созданной Хато и Олафом Витковски; мы еженедельно встречались за ленчем, чтобы поговорить. Часто моим коллегой, как в Институте перспективных исследований, так и в Центре теологических исследований, был Эдвин Тёрнер, и наша совместная работа доставляла мне невероятное удовольствие. Большую пользу мне принесло также обсуждение многих вопросов с членами моей группы «ИИ, разум и общество». В частности, Мэри Грегг, Дженель Солсбери и Коди Тёрнер заслуживают особых благодарностей за проницательные замечания.

Некоторые из глав книги основаны на более коротких статьях, которые печатались в The New York Times, Nautilus и Scientific American. Темы главы 4 подсказаны мне статьей в The Ethics of Artificial Intelligence (Liao, 2020) и расширены, а глава 6 представляет собой развитие моей статьи «Мнемоскан: Выход за рамки человеческого разума и его усовершенствование» в Science Fiction and Philosophy (Schneider, 2009b). Глава 7 основана на нескольких эссе, выходивших в астробиологических сборниках Дика (Dick, 2013) и Лоша (Losch, 2017).

Завершая работу над книгой, я руководила одной из программ в Библиотеке Конгресса и благодарна сотрудникам Центра Клюге за прием, особенно Джону Хаскеллу, Трэвис Хенсли и Дэну Турелло. Я ценю также комментарии коллег по Коннектикутскому университету, где я представляла книгу в наших обеденных беседах и на коллоквиуме по когнитивистике. Я благодарна слушателям и хозяевам семинаров в Кембриджском, Йельском, Гарвардском, Стэнфордском, Бостонском, Колорадском, Массачусетском и Аризонском университетах, Университете Дьюка и на кафедрах когнитивистики и физики плазмы в Школе Вудро Вильсона в Принстонском университете.

Я высоко ценю усилия тех, кто проводил конференции по темам моей работы и выступал на них. Конференцию «Разум, собственное “я” и технология» в Лиссабоне организовали Роб Клоуз, Клаус Гарднер и Инес Иполито. Я благодарна Чешской академии наук за презентацию этой книги на симпозиуме, посвященном Эрнсту Маху, в Праге в июне 2019 г., а также компании PBS за телепоказ моей лекции по материалу, ставшему затем главой 6, и Грегу Гатфельду из Fox TV за то, что он приютил меня на все время шоу.

Стивен Кейв, Джо Кораби, Майкл Хемер, Джордж Массер, Мэтт Рохаль и Эрик Швицгебель прислали мне подробные комментарии по всей рукописи, и именно им я обязана многими улучшениями. Громадную пользу мне принесли также беседы с Джоном Брокманом, Антонио Келлой, Дэвидом Чалмерсом, Эриком Хенни, Каросом Монтемайором, Мартином Рисом, Дэвидом Санером, Майклом Соломоном и Дэном Турелло. Я благодарна Джошу Шислеру за разговор со мной о Ким Суоцци. Особая благодарность чудесной команде издательства Принстонского университета (Сид Вестморленд, Сара Хеннинг-Стаут, Роб Темпио и все остальные) и особенно Мэтту Рохалю за тщательную и аккуратную редактуру книги. (Боюсь, что я не вспомнила чьих-то имен, и если так произошло, то прошу прощения.)

Наконец, я благодарю своего мужа Дэвида Ронемуса. Наши чудесные беседы об ИИ, безусловно, помогли мне. Эта книга с любовью посвящается нашим детям: Елене, Алексу и Элли. Я буду счастлива, если она хоть немного поможет молодым поколениям преодолевать технологические и философские преграды, о которых в ней шла речь.

Литература

Aaronson, S. 2014a. “Why I Am Not an Integrated Information Theorist (or, The Unconscious Expander),” Shtetl Optimized (blog), May, https://www.scottaaronson.com/blog/?p=1799.

–. 2014b. “Giulio Tononi and Me: A Phi-nal Exchange,” Shtetl Optimized (blog), June, https://www.scottaaronson.com/blog/?p=1823.

Alcor Life Extension Foundation. n. d. “Case Summary: A-2643 Kim Suozzi,” https://alcor.org/Library/html/casesummary2643.html.

Annas, G. J. 2000. “The Man on the Moon, Immortality, and Other Millennial Myths: The Prospects and Perils of Human Genetic Engineering,” Emory Law Journal 49(3): 753–782.

Anthony, A. 2017. “Max Tegmark: ‘Machines Taking Control Doesn’t Have to Be a Bad Thing’,” https://www.theguardian.com/technology/2017/sep/16/ai-will-superintelligent-computers-replace-us-robots-max-tegmark-life-3-0.

Baars, B. 2008. “The Global Workspace Theory of Consciousness,” in M. Velmans and S. Schneider, eds., The Blackwell Companion to Consciousness. Boston: Wiley-Blackwell.

Bess, M. 2015. Our Grandchildren Redesigned: Life in the Bioengineered Society of the Near Future. Boston: Beacon Press.

Blackmore, S. 2004. Consciousness: An Introduction. New York: Oxford University Press.

Block, N. 1995a. “On a Confusion about the Function of Consciousness,” Behavioral and Brain Sciences 18: 227–247.

–. 1995b. “The Mind as the Software of the Brain,” in D. Osherson, L. Gleitman, S. Kosslyn, E. Smith, and S. Sternberg, eds., An Invitation to Cognitive Science. New York: MIT Press.

Boly, M., M. Massimini, N. Tsuchiya, B. Postle, C. Koch, and G. Tononi. 2017. “Are the Neural Correlates of Consciousness in the Front or in the Back of the Cerebral Cortex? Clinical and Neuroimaging Evidence,” Journal of Neuroscience 37(40): 9603–9613.

Bostrom, N. 1998. “How Long before Superintelligence?” International Journal of Futures Studies 2.

–. 2003. “Transhumanist FAQ: A General Introduction,” version 2.1, World Transhumanist Association, https://nickbostrom.com/views/transhumanist.pdf.

–. 2005a. “History of Transhumanist Thought.” Journal of Evolution and Technology 14(1).

–. 2005b. “In Defence of Posthuman Dignity,” Bioethics 19(3): 202–214.

–. 2014. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press.

Bringsjord, Selmer, and Paul Bello. 2018. “Toward Axiomatizing Consciousness,” http://ndpr.nd.edu/news/60148-actual-consciousness.

Cave, Stephen. 2012. Immortality: The Quest to Live Forever and How It Drives Civilization. New York: Crown.

Cellan-Jones, R. 2014. “Stephen Hawking Warns Artificial Intelligence Could End Mankind,” https://www.bbc.com/news/technology-30290540.

Chalmers, D. 1996. The Conscious Mind: In Search of a Final Theory. Oxford: Oxford University Press.

–. 2002. “Consciousness and Its Place in Nature,” in David J. Chalmers, ed., Philosophy of Mind: Classical and Contemporary Readings. Oxford: Oxford University Press.

–. 2008. “The Hard Problem of Consciousness,” in M. Velmans and S. Schneider, eds., The Blackwell Companion to Consciousness. Boston: Wiley-Blackwell.

Churchland, P. 1988. Matter and Consciousness. Boston: MIT Press.

Chislenko, Alexander, Max More, Anders Sandberg, Natasha Vita-More, Eliezer Yudkowsky, Arjen Kamphius, and Nick Bostrom. n. d. “Transhumanist FAQ,” https://humanityplus.org/philosophy/transhumanist-faq/.

Clarke, A. 1962. Profiles of the Future: An Inquiry into the Limits of the Possible. New York: Harper and Row.

Cohen, Jon. 2013. “Memory Implants,” MIT Technology Review, April 23, https://www.technologyreview.com/s/513681/memory-implants/.

Conee, E., and T. Sider. 2005. Riddles of Existence: A Guided Tour of Metaphysics. Oxford: Oxford University Press.

Consolmagno, Guy, and Paul Mueller. 2014. Would You Baptize an Extraterrestrial?… and Other Questions from the Astronomers’ In-Box at the Vatican Observatory. New York: Image.

Crippen, D. 2015. “The Science Surrounding Cryonics,” MIT Technology Review, October 19, 2015, https://www.technologyreview.com/s/542601/the-science-surrounding-cryonics/.

DARPA. n. d. a. “DARPA and the Brain Initiative,” https://www.darpa.mil/program/our-research/darpa-and-the-brain-initiative.

DARPA, n. d. b. “Systems of Neuromorphic Adaptive Plastic Scalable Electronics (SyNAPSE),” https://www.darpa.mil/program/systems-of-neuromorphic-adaptive-plastic-scalable-electronics.

DARPA. 2018. “Breakthroughs Inspire Hope for Treating Intractable Mood Disorders,” November 30, https://www.darpa.mil/news-events/2018-11-30.

Davies, Paul. 2010. The Eerie Silence: Renewing Our Search for Alien Intelligence. Boston: Houghton Mifflin Harcourt.

Descartes, R. 2008. Meditations on First Philosophy: With Selections from the Original Objections and Replies, trans. Michael Moriarty. Oxford: Oxford University Press.

Dick, S. 2013. “Bringing Culture to Cosmos: The Postbiological Universe,” in S. Dick and M. Lupisella, eds., Cosmos and Culture: Cultural Evolution in a Cosmic Context, Washington, DC: NASA, http://history.nasa.gov/SP-4802.pdf.

–. 2015. Discovery. Cambridge: Cambridge University Press.

Dyson, Freeman J. 1960. “Search for Artificial Stellar Sources of Infrared Radiation,” Science 131(3414): 1667–1668, https://science.sciencemag.org/content/131/3414/1667.

Fukuyama, F. 2002. Our Posthuman Future: Consequences of the Biotechnology Revolution. New York: Farrar, Straus and Giroux.

Garreau, J. 2005. Radical Evolution: The Promise and Peril of Enhancing Our Minds, Our Bodies – and What It Means to Be Human. New York: Doubleday.

Guardian, The. 2013. “Stephen Hawking: Brain Could Exist Outside Body,” The Guardian, September 21, https://www.theguardian.com/science/2013/sep/21/stephen-hawking-brain-outside-body.

Giles, M. 2018. “The World’s Most Powerful Supercomputer Is Tailor Made for the AI Era,” MIT Technology Review, June 8, 2018.

Graham, D. W., ed. 2010. The Texts of Early Greek Philosophy: The Complete Fragments and Selected Testimonies of the Major Presocratics. Cambridge: Cambridge University Press.

Hampson R. E., D. Song, B. S. Robinson, D. Fetterhoff, A. S. Dakos, et al. 2018. “A Hippocampal Neural Prosthetic for Restoration of Human Memory Function.” Journal of Neural Engineering 15: 036014.

Harmon, A. 2015a. “A Dying Young Woman’s Hope in Cryonics and a Future,” The New York Times, September 12, https://www.nytimes.com/2015/09/13/us/cancer-immortality-cryogenics.html.

–. 2015b. “The Neuroscience of Immortality,” The New York Times, September 12, https://www.nytimes.com/interactive/2015/09/03/us/13immortality-explainer.html?mtrref=www.nytimes.com&gwh%20=38E76FFD21912ECB72F147666E2ECDA2&gwt%20=pay.

Harremoes, P., D. Gee, M. MacGarvin, A. Stirling, J. Keys, B. Wynne, and S. Guedes Vaz, eds. 2001. Late Lessons from Early Warnings: The Precautionary Principle 1896–2000, Environmental Issue Report 22. Copenhagen: European Environment Agency.

Hawkins, J., and S. Blakeslee. 2004. On Intelligence: How a New Understanding of the Brain Will Lead to the Creation of Truly Intelligent Machines. New York: Times Books.

Hayworth, Ken. 2015. “Ken Hayworth’s Personal Response to MIT Technology Review Article,” The Brain Preservation Foundation, September 16, http://www.brainpreservation.org/ken-hayworths-personal-response-to-mit-technology-review-article/.

Heil, J. 2005. From an Ontological Point of View. Oxford: Oxford University Press.

Hughes, J. 2004. Citizen Cyborg: Why Democratic Societies Must Respond to the Redesigned Human of the Future. Cambridge, MA: Westview Press.

–. 2013. “Transhumanism and Personal Identity,” in M. More and N. More, eds., The Transhumanist Reader. Boston: Wiley.

Humanity+. n. d. “Transhumanist Declaration,” https://humanityplus.org/philosophy/transhumanist-declaration/.

Huxley, J. 1957. New Bottles for New Wine. London: Chatto & Windus.

Jackson, F. 1986. “What Mary Didn’t Know,” The Journal of Philosophy 83(5): 291–295.

Kass, L., E. Blackburn, R. Dresser, D. Foster, F. Fukuyama, et al. 2003. Beyond Therapy: Biotechnology and the Pursuit of Happiness: A Report of the President’s Council on Bioethics. Washington, DC: Government Printing Office.

Kim, Jaegwon. 2005. Physicalism, Or Something Near Enough. Princeton, NJ: Princeton University Press.

–. 2006. Philosophy of Mind, 2nd ed., New York: Westview.

Koch, C., M. Massimini, M. Boly, and G. Tononi. 2016. “Neural Correlates of Consciousness: Progress and Problems,” Nature Reviews Neuroscience 17(5): 307–321.

Kohli, S. 2017. “Bill Gates Joins Elon Musk and Stephen Hawking in Saying Artificial Intelligence Is Scary,” https://qz.com/335768/.

Kurzweil, R. 1999. Age of Spiritual Machines: When Computers Exceed Human Intelligence. New York: Penguin.

–. 2005. The Singularity Is Near: When Humans Transcend Biology. New York: Viking.

Lemonick, Michael. 2017. The Perpetual Now: A Story of Amnesia, Memory, and Love. New York: Doubleday Books.

Liao, S. Matthew, ed., 2020. Ethics of Artificial Intelligence. New York: Oxford University Press.

Losch, Andreas, ed. 2017. What Is Life? On Earth and Beyond. Cambridge: Cambridge University Press.

Lowe, E. J. 1996. Subjects of Experience. Cambridge: Cambridge University Press.

–. 2006. “Non-Cartesian Substance Dualism and the Problem of Mental Causation,” Erkenntnis 65(1): 5–23.

Mandik, Pete. 2015. “Metaphysical Daring as a Posthuman Survival Strategy,” Midwest Studies in Philosophy 39(1): 144–157.

Marshall, Richard. 2019. “The Philosopher with No Hands,” 3AM, https://www.3ammagazine.com/3am/the-philosopher-with-no-hands/.

Mazie, Steven. 2014. “Don’t Want to Die? Just Upload Your Brain,” Big Think, March 6, https://bigthink.com/praxis/dont-want-to-die-just-upload-your-brain.

McKelvey, Cynthia. 2016. “The Neuroscientist Who’s Building a Better Memory for Humans,” Wired, December 1, https://www.wired.com/2016/12/neuroscientist-whos-building-better-memory-humans/.

MeriTalk. 2017. “DARPA-Funded Deep Brain Stimulator Is Ready for Human Testing,” MeriTalk, April 10, https://www.meritalk.com/articles/darpa-alik-widge-deep-brain-stimulator-darin-dougherty-emad-eskandar/.

Moore, G. E. 1965. “Cramming More Components onto Integrated Circuits,” Electronics 38(8).

More, M., and N. Vita-More. 2013. The Transhumanist Reader: Classical and Contemporary Essays on the Science, Technology, and Philosophy of the Human Future. Chichester, UK: Wiley-Blackwell.

Müller, Vincent C., and Nick Bostrom. 2014. “Future Progress in Artificial Intelligence: A Survey of Expert Opinion,” in Vincent C. Müller, ed., Fundamental Issues of Artificial Intelligence. Synthese Library. Berlin: Springer.

Olson, Eric. 1997. The Human Animal: Personal Identity Without Psychology. New York: Oxford University Press.

–. 2017. “Personal Identity,” in Edward N. Zalta, ed., The Stanford Encyclopedia of Philosophy, https://plato.stanford.edu/archives/sum2017/entries/identity-personal/.

Parfit, D. 1984. Reasons and Persons. Oxford: Clarendon Press.

Pearce, K., and T. Goldschmidt. 2018. Idealism: New Essays in Metaphysics. Oxford: Oxford University Press.

Piccinini, M. 2010. “The Mind as Neural Software? Understanding Functionalism, Computationalism and Computational Functionalism,” Philosophy and Phenomenological Research 81(2): 269–311.

Putnam, H. 1967. Psychological Predicates. Art, Philosophy, and Religion. Pittsburgh: University of Pittsburgh Press.

Rees, M. 2003. Our Final Hour: A Scientist’s Warning: How Terror, Error, and Environmental Disaster Threaten Humankind’s Future in This Century – On Earth and Beyond. New York: Basic Books.

Roco, M. C., and W. S. Bainbridge, eds. 2002. Converging Technologies for Improved Human Performance: Nanotechnology, Biotechnology, Information Technology and Cognitive Science. Arlington, VA: National Science Foundation and Department of Commerce.

Sacks, O. 1985. The Man Who Mistook His Wife for a Hat and Other Clinical Tales. New York: Summit Books.

Sandberg, A., and N. Bostrom. 2008. “Whole Brain Emulation: A Roadmap.” Technical Report 2008–3. Oxford: Future of Humanity Institute, Oxford University.

Sawyer, R. 2005. Mindscan. New York: Tor.

Schipp, Debbie. 2016. “Boyfriend’s Delivery of Love for the Woman Whose Brain Is Frozen,” news.com.au, June 19, https://www.news.com.au/entertainment/tv/current-affairs/boyfriends-delivery-of-love-for-the-woman-whose-brain-is-frozen/news-story/8a4a5b705964d242bdfa5f55fa2df41a.

Schneider, Susan, ed. 2009a. Science Fiction and Philosophy. Chichester, UK: Wiley-Blackwell.

–. 2009b. “Mindscan: Transcending and Enhancing the Human Brain,” in S. Schneider, ed., Science Fiction and Philosophy. Oxford: Blackwell.

–. 2009c. “Cognitive Enhancement and the Nature of Persons,” in Art Caplan and Vardit Radvisky, eds., The University of Pennsylvania Bioethics Reader. New York: Springer.

–. 2011. The Language of Thought: A New Philosophical Direction. Boston: MIT Press.

–. 2014. “The Philosophy of ‘Her’,” The New York Times, March 2.

–. 2015. “Alien Minds,” In S. J. Dick, ed., The Impact of Discovering Life beyond Earth. Cambridge: Cambridge University Press.

–. 2016. “Can a Machine Feel?” TED talk, June 22, Cambridge, MA, http://www.tedxcambridge.com/speaker/susan-schneider/.

–. 2018a. “Idealism, or Something Near Enough,” in K. Pearce and T. Goldschmidt, eds., Idealism: New Essays in Metaphysics. Oxford: Oxford University Press.

–. 2018b. “Spacetime Emergence, Panpsychism and the Nature of Consciousness,” Scientific American, August 6.

–. Forthcoming. “How to Catch an AI Zombie: Tests for Machine Consciousness,” in M. Liao and D. Chalmers, eds., AI. Oxford: Oxford University Press.

Schneider, S., and J. Corabi. 2014. “The Metaphysics of Uploading,” in Russell Blackford, ed., Intelligent Machines, Uploaded Minds. Boston: Wiley-Blackwell.

Schneider, S., and P. Mandik. 2018. “How Philosophy of Mind Can Shape the Future,” in Amy Kind, ed., Philosophy of Mind in the 20th and 21th Century, Abingdon-on-Thames, UK: Routledge.

Schneider, S., and E. Turner. 2017. “Is Anyone Home? A Way to Find Out If AI Has Become Self-Aware,” Scientific American, 19, July.

Schneider, S., and M. Velmans. 2017. The Blackwell Companion to Consciousness. Boston: Wiley-Blackwell.

Schwitzgebel, E., and M. Garza. Forthcoming. “Designing AI with Rights, Consciousness, Self-Respect, and Freedom.”

Searle, J. 1980. “Minds, Brains and Programs.” Behavioral and Brain Sciences 3: 417–457.

–. 2016. The Rediscovery of the Mind. Oxford: Oxford University Press.

–. 2017. “Biological Naturalism,” in S. Schneider and M. Velmans, eds., The Blackwell Companion to Consciousness. Boston: Wiley-Blackwell.

Seung, S. 2012. Connectome: How the Brain’s Wiring Makes Us Who We Are. Boston: Houghton Mifflin Harcourt.

Shostak, S. 2009. Confessions of an Alien Hunter. New York: National Geographic.

Solon, Olivia. 2017. “Elon Musk says humans must become cyborgs to stay relevant. Is he right?” The Guardian, February 15, https://www.theguardian.com/technology/2017/feb/15/elon-musk-cyborgs-robots-artificial-intelligence-is-he-right.

Song, D., B. S. Robinson, R. E. Hampson, V. Z. Marmarelis, S. A. Deadwyler, and T. W. Berger. 2018. “Sparse Large-Scale Nonlinear Dynamical Modeling of Human Hippocampus for Memory Prostheses,” IEEE Transactions on Neural Systems and Rehabilitation Engineering 26(2): 272–280.

Spiegel, D., and Edwin L. Turner. 2011. “Bayesian Analysis of the Astrobiological Implications of Life’s Early Emergence on Earth,” http://www.pnas.org/content/pnas/early/2011/12/21/1111694108.full.pdf.

Tononi, G., and C. Koch. 2014. “From the Phenomenology to the Mechanisms of Consciousness: Integrated Information Theory 3.0,” PLOS Computational Biology.

–. 2015. “Consciousness: Here, There and Everywhere?” Philosophical Transactions of the Royal Society of London B: Biological Sciences 370: 20140167.

Tononi, G., M. Boly, M. Massimini, and C. Koch. 2016. “Integrated Information Theory: From Consciousness to Its Physical Substrate.” Nature Reviews Neuroscience 17: 450–461.

Turner, E. n. d. “Improbable Life: An Unappealing but Plausible Scenario for Life’s Origin on Earth,” video of lecture given at Harvard University, https://youtube/Bt6n6Tu1beghttp://unesdoc.unesco.org/images/0013/001395/139578e.pdf.

UNESCO/COMEST. 2005. “The Precautionary Principle,” https://youtube/Bt6n6Tu1beghttp://unesdoc.unesco.org/images/0013/001395/139578e.pdf.

Vinge, V. 1993. “The Coming Technological Singularity.” Whole Earth Review, Winter.

Wiley, Keith. 2014. “Response to Susan Schneider’s ‘The Philosophy of “Her,’” H+ Magazine, March 26, http://hplusmagazine.com/2014/03/26/response-to-susan-schneiders-the-philosophy-of-her/.

Zimmer, Carl. 2010. “Sizing Up Consciousness By Its Bits,” The New York Times, September 20.

Сноски

1

«Контакт» – фильм режиссера Роберта Земекиса, 1997 г.

2

См., например, открытое письмо https://futureoflife.org/ai-open-letter/; Bostrom (2014); Cellan-Jones (2014); Anthony (2017); Kohli (2017).

3

Бостром Н. Искусственный интеллект: Этапы. Угрозы. Стратегии. – М.: Манн, Иванов и Фербер, 2016.

4

Bostrom (2014).

5

Solon (2017).

6

Нейронное кружево представляет собой гибкую сетку из проволоки диаметром 5 микрон, покрытой пластиковой изоляцией и содержащей сенсоры электрических потенциалов. Смешанная с гелем сетка должна вводиться в мозг через иглу шприца и расправляться там в соответствии с анатомическими особенностями мозговой ткани. Jia Liu et al. Syringe injectable electronics Nat Nanotechnol. 2015 Jul; 10(7): 629–636. doi: 10.1038/nnano.2015.115. – Прим. науч. ред.

7

В России эта телеигра получила название «Своя игра». – Прим. ред.

8

Müller and Bostrom (2016).

9

Giles (2018).

10

В эволюционном ряду простейший головной мозг впервые встречается у рыб, которые появились 500 млн лет назад. – Прим. науч. ред.

11

Bess (2015).

12

Речь идет о работах американского нейрофизиолога Теодора Бергера, показавшего на крысах, а потом и на человеке, что кодированная стимуляция определенных участков гиппокампа может существенно улучшать его функции, связанные с памятью. Theodore W. Berger et al. A Hippocampal Cognitive Prosthesis: Multi-Input, Multi-Output Nonlinear Modeling and VLSI Implementation. IEEE Trans Neural Syst IEEE Trans Neural Syst Rehabil Eng. 2012 Mar; 20(2): 198–211. doi: 10.1109/TNSRE.2012.2189133. – Прим. науч. ред.

13

Информацию о некоторых из этих исследований можно найти на сайте clinicaltrials.gov, где размещена база данных клинических исследований как с частным, так и с государственным финансированием, проводимых по всему миру. См. также доступные публичные дискуссии по некоторым исследованиям, проводимым Управлением перспективных оборонных исследований (DARPA) Минобороны США: DARPA (n. d. a); DARPA (2018); MeriTalk (2017). См. также: Cohen (2013).

14

Huxley (1957, pp. 13–17). Целый набор классических работ на тему трансгуманизма можно найти в: More and Vita-More (2013).

15

Roco and Bainbridge (2002); Garreau (2005).

16

Sandberg and Bostrom (2008).

17

DARPA (n. d. b).

18

Kurzweil (1999, 2005).

19

Kurzweil (2005).

20

Chalmers (1996, 2002, 2008).

21

Проблема сознания ИИ отличается также от классической философской задачи, известной как «проблема других сознаний». Каждый из нас может, опираясь на самоанализ, сказать, что обладает сознанием, но откуда мы знаем, что другие люди вокруг тоже им обладают? Эта проблема – не что иное, как хорошо известная форма философского скептицизма. Обычно, хотя мы и не можем сказать наверняка, обладают ли окружающие сознанием, логика подсказывает нам, что другие нормальные люди им обладают, поскольку они имеют нервную систему, подобную нашей, и демонстрируют те же основные типы поведения: морщатся от боли, ищут дружбы и т. п. Лучшим объяснением поведения других людей служит наличие сознания. В конце концов, их нервная система подобна нашей. Однако проблема других сознаний отличается от проблемы искусственного сознания. Прежде всего, она существует в контексте человеческого, а не машинного сознания. Более того, приведенное популярное решение проблемы других сознаний неэффективно в контексте проблемы искусственного сознания – ведь искины не имеют нервной системы, подобной нашей, и ведут себя, возможно, совершенно не так, как мы. Помимо прочего, если они все же ведут себя как люди, то делают это, скорее всего, поскольку запрограммированы так, а следовательно, по поведению искина нельзя сделать вывод, что он обладает сознанием.

22

Биологический натурализм часто связывают с работой Джона Сёрля. Но «биологический натурализм» в том смысле, в каком он используется здесь, не касается более широкой позиции Сёрля в отношении физикализма и метафизики разума. Эту более широкую позицию см. в: Searle (2016, 2017). Для наших целей биологический натурализм всего лишь обобщенная позиция, отрицающая искусственное сознание, в том виде, в каком она представлена в Blackmore (2004). Стоит отметить, что сам Сёрль, кажется, благосклонно смотрел на возможность того, что нейроморфный вычислительный процесс породит сознание; в своей работе он писал о символьном подходе к вычислениям, при котором расчет – это манипуляция символами по определенным правилам (см. его главу в: Schneider and Velmans (2017)).

23

Searle (1980).

24

См. дискуссию в: Searle (1980), где Сёрль поднимает этот вопрос и отвечает на возражения.

25

Сторонники точки зрения, известной как панпсихизм, предполагают, что у элементарных частиц тоже есть крохотное сознание, но даже они считают, что высокоуровневое сознание связано со сложными взаимодействиями различных частей мозга, таких как стволовая часть и таламус. Так или иначе я отвергаю панпсихизм (Schneider, 2018b).

26

Авторитетное описание технооптимизма подобного сорта см. в: Kurzweil (1999, 2005).

27

Этот ведущий подход в когнитивистике называют методом функционального разложения, потому что он объясняет свойства системы, разделяя ее на взаимодействующие причинно связанные составляющие, которые, в свою очередь, часто объясняют через причинное взаимодействие между их собственными подсистемами (Block 1995b).

28

На философском языке такая система называлась бы «точным функциональным изоморфом».

29

Я упрощаю ситуацию, говоря только о замене нейронов головного мозга. Может оказаться, например, что принципиальное значение имеют также нейроны в других частях нервной системы, скажем в кишечнике. Или, может быть, значение имеют не только нейроны, но и глиальные клетки. Мысленный эксперимент подобного рода можно модифицировать, исходя из предположения, что заменяются не только нейроны мозга.

30

Чалмерс Д. Сознающий ум: В поисках фундаментальной теории. – М.: URSS, 2019.

31

Chalmers (1996).

32

Здесь я предполагаю, что биохимические свойства тоже могут быть воспроизведены. В принципе, если они важны для мыслительного процесса, то абстрактное описание поведения таких черт нейрона можно включить в его функциональную характеристику.

33

Полная и точная копия, однако, могла бы появиться в контексте загрузки мозга в компьютер. Как и создание ваших изоморфов, загрузка человеческого мозга в компьютер остается делом далекого будущего.

34

Астродроид из «Звездных войн» Джорджа Лукаса. R2-D2 обладал множеством приспособлений, позволявших ему быть превосходным механиком космических кораблей и специалистом по взаимодействию с компьютерами. – Прим. науч. ред.

35

Boly et al. (2017); Koch et al. (2016); Tononi et al. (2016).

36

Речь идет о статье Мелани Боли в соавторстве с Кстофом Кохом, Джулио Тонони и другими, в которой она указывает на височную, теменную и затылочную области коры головного мозга как на «заднюю горячую зону», которая, по-видимому, играет прямую роль в определении содержания сознания. Как считают авторы, доказательства прямого участия в процессах сознания передних корковых областей, включая префронтальные области, отсутствуют или неясны. – Прим. науч. ред.

37

Поиск я проводила 17 февраля 2018 г.

38

Davies (2010); Spiegel and Turner (2011); Turner (n. d.).

39

Захватывающую историю одного такого пациента см.: Lemonick (2017).

40

См.: McKelvey (2016); Hampson et al. (2018); Song et al. (2018).

41

Sacks (1985).

42

Аксиомы для наличия функционального сознания у высокоинтеллектуального искина сформулировали Брингсйорд и Белло (Bringsjord and Bello, 2018). Нед Блок (Ned Block, 1995a) писал о родственном понятии «сознание доступа».

43

Bringsjord and Bello (2018).

44

См.: Schneider and Turner (2017); Schneider (готовится к публикации).

45

Разумеется, это не подразумевает, что глухие люди не в состоянии ценить музыку.

46

Те, кто знаком с «аргументом знания» Фрэнка Джексона, поймут, что я здесь заимствую сюжет его знаменитого мысленного эксперимента с участием нейробиолога Мэри; предполагается, что Мэри знает все «физические факты» о цветном зрении (т. е. факты о нейробиологии зрения), но никогда не видела красного цвета. Джексон спрашивает: что произойдет, когда она впервые увидит красный цвет? Узнает ли она в этот момент что-нибудь новое – какой-то факт за пределами нейробиологии и физики? Философы горячо спорят по этому поводу, и, по мнению некоторых, этот пример опровергает идею о том, что сознание – физическое явление (Jackson 1986).

47

Schneider (2016).

48

См.: Koch et al. (2016); Boly et al. (2017).

49

Zimmer (2010).

50

Tononi and Koch (2014, 2015).

51

Tononi and Koch (2015).

52

Далее я буду говорить об этом уровне Ф достаточно расплывчато, как о «высоком Ф», потому что вычисление Ф для биологического мозга в настоящее время невозможно.

53

См.: Aaronson (2014a, b).

54

Harremoes et al. (2001).

55

UNESCO/COMEST (2005).

56

Schwitzgebel and Garza (готовится к публикации).

57

Следует отметить, что трансгуманизм ни в коем случае не поддерживает безоговорочно любые усовершенствования. Например, Ник Бостром отвергает статусные усовершенствования (те, что направлены в первую очередь на повышение социального статуса человека), но выступает за усовершенствования, которые позволили бы человеку найти способы исследования «более широкого набора возможных типов бытия» (Bostrom 2005a, p 11).

58

More and Vita-More (2013); Kurzweil (1999, 2005); Bostrom (2003, 2005b).

59

Bostrom (1998); Kurzweil (1999, 2005); Vinge (1993).

60

Moore (1965).

61

Распространенную точку зрения противников усовершенствования человека можно найти, например, в: Annas (2000); Fukuyama (2002); Kass et al. (2002).

62

Я уже писала на эту тему в: Schneider (2009a, b, c). См. также увлекательную книгу Стивена Кейва о бессмертии (Stephen Cave, 2012).

63

Kurzweil (2005, p. 383).

64

Существуют разные варианты теории психологической непрерывности. Можно, например, апеллировать к идее (а): воспоминания жизненно важны для личности. В качестве альтернативы можно принять вариант (b): жизненно важна общая психологическая конфигурация, включая и воспоминания. Здесь я буду работать с одним из вариантов последней концепции – тем, что опирается на когнитивистику, хотя многие из критических замечаний к этой точке зрения применимы также и к (a), и к другим вариантам (b).

65

Kurzweil (2005, p. 383). Материалистический подход к мозгу в том виде, в каком он здесь обсуждается, накладывает более сильные ограничения, чем физикализм, в философии разума, поскольку некоторые сторонники физикализма могут согласиться с тем, что личность выдержит кардинальные изменения субстрата, существуя сначала в мозге, а затем превратившись в загруженную программу. Более широкое обсуждение материалистических позиций в философии разума см. в: Churchland (1988) и Kim (2005, 2006). Эрик Олсон предложил серьезный материалистический взгляд на идентичность личности, утверждая, что человек – это, в сущности, вообще не личность, это человеческий организм (Olson 1997). Человек является личностью лишь часть своей жизни. Если у него, например, умирает мозг, то человек-животное продолжает существовать, а вот личность прекращает существование. Мы, по существу, не личности. Я, правда, не слишком уверена и в том, что мы – человеческие организмы. Ибо мозг играет особую роль в идентичности человека, и если бы его удалось куда-то перенести, то личность перенеслась бы вместе с ним. Однако позиция Олсона это отвергает, поскольку мозг всего лишь один из многочисленных органов (см. его замечания в: Marshall [2019]).

66

Социолог Джеймс Хьюз придерживается трансгуманистического варианта представления об отсутствии личности. См.: Hughes (2004, 2013). Обзор этих четырех точек зрения можно найти в: Olson (1997, 2017) и Conee and Sider (2005).

67

Именно этот вариант вычислительной теории сознания я критикую в главе 8. Следует также отметить, что вычислительные теории сознания могут обращаться к различным вычислительным форматам мысли: коннекционизму, теории динамических систем (в ее вычислительном обличье), символьному, или языковому, подходу, а то и к комбинации этих вариантов. Для целей нашей дискуссии все это не имеет значения. Об этих вопросах я подробно рассказываю в другом месте (см.: Schneider 2011).

68

Kurzweil (2005, p. 383).

69

Bostrom (2003).

70

В главе 8 о вычислительном подходе к разуму, характерном для трансгуманистов, будет рассказано подробнее.

71

Sawyer (2005, pp. 44–45).

72

Sawyer (2005, p. 18).

73

Bostrom (2003).

74

Bostrom (2003, section 5.4).

75

Здесь я в долгу перед прорывными работами: Paul Davies (2010), Steven Dick (2015), Martin Rees (2003), Seth Shostak (2009) и др.

76

Shostak (2009), Davies (2010), Dick (2013), Schneider (2015).

77

Dick (2013, p. 468).

78

Mandik (2015), Schneider and Mandik (2018).

79

Mandik (2015), Schneider and Mandik (2018).

80

Микробная масса на Земле составляет 70 млрд тонн, тогда как масса всех людей всего 0,06 млрд тонн, примерно столько же, сколько и у червей, т. е. в 1166 раз меньше! А наибольшая часть живого на Земле – это растения, 450 млрд тонн. См. Y. M. Bar-Ona et al. The biomass distribution on Earth. PNAS, 2018, vol. 115, no. 25, P. 6506–65–11. – Прим. науч. ред.

81

Bostrom (2014).

82

Радиотелескоп Аресибо с неподвижным главным зеркалом диаметром 305 м был введен в строй 1 ноября 1963 г., а 1 декабря 2020 г. прекратил существование в результате разрушения несущей конструкции. – Прим. пер.

83

Schostak (2015).

84

Dyson (1960).

85

Schneider, “Alien Minds”, in Dick (2015).

86

Consolmagno and Mueller (2014).

87

Bostrom (2014).

88

Bostrom (2014, p. 107).

89

Bostrom (2014, p. 107–108, 123–125).

90

Bostrom (2014, p. 29).

91

Bostrom (2014, p. 109).

92

Seung (2012).

93

Hawkins and Blakeslee (2004).

94

Schneider (2011).

95

Baars (2008).

96

Clarke (1962).

97

Цитата из The Guardian (2013).

98

Harmon (2015a, p. 1).

99

См.: Harmon (2015a); Alcor Life Extension Foundation (n. d.).

100

Crippen (2015).

101

Я благодарна Джошу Шислеру, бойфренду Ким Суоцци, за полезное общение на эту тему по электронной почте и телефону (26 августа 2018 г.).

102

Harmon (2015a).

103

Harmon (2015a).

104

Harmon (2015a).

105

Schneider (2014); Schneider and Corabi (2014). Обзор разных стадий загрузки см. в: Harmon (2015b).

106

Schneider (2014); Schneider and Corabi (2014). Мы никогда не сталкиваемся с тем, чтобы физические объекты находились больше чем в одном месте. Это верно даже для квантовых объектов, которые схлопываются при измерении. Предполагаемая множественность положений наблюдается лишь косвенно и порождает жаркие споры среди физиков и философов физики.

107

Например, Нед Блок написал каноническую статью (Ned Block, 1995b), посвященную этой точке зрения и озаглавленную «Разум как программное обеспечение мозга». Многие ученые, обращающиеся к этой точке зрения, больше заинтересованы в том, чтобы описать, как работает разум, а не в том, чтобы строить теории об усовершенствовании мозга и загрузке его в компьютер. Я сосредоточусь на утверждениях фьюжен-оптимистов, поскольку именно они делают заявления о радикальных усовершенствованиях.

108

Wiley (2014).

109

Mazie (2014).

110

Hayworth (2015).

111

Schneider (2011).

112

Descartes (2008).

113

Полезный свежий обзор по идеалистам см. в: Pearce and Goldschmidt (2018). Обсуждение того, почему некоторые варианты панпсихизма представляют собой формы идеализма, см. в: Schneider (2018a).

114

См., например: Heil (2005), Kim (2006).

115

См. обоснование в: Schneider (2011b).

116

Block (1995b).

117

Понятие реализации проблематично по многим причинам. Обсуждение этого вопроса см. в: Putnam (1967), Piccinini (2010).

118

Chalmers (1996).

119

Descartes (2008).

120

Putnam (1967).

121

Lowe (1996, 2006). Лоу предпочитал говорить о личности, а не о разуме, поэтому я беру на себя смелость использовать его точку зрения в контексте разговора о разуме.

122

Kurzweil (2005, p. 383).

123

Graham (2010).

124

См.: Schipp (2016).

125

Harmon (2015a).

126

Этот документ опубликован на сайте трансгуманистической организации Humanity+ (Humanity+, n. d.). Ее можно также найти в книге: More and Vita-More (2013), информативном сборнике, включающем в себя и другие классические работы трансгуманистов. Историю трансгуманистической мысли см. также в: Bostrom (2005a).

127

См.: Bostrom (2003) и Chislenko et al. (n. d.).

Content

Сьюзан Шнайдер
Искусственный ты. Машинный интеллект и будущее нашего разума

Введение

Машины, обладающие сознанием?

Можно ли слиться с ИИ?

Глава 1 Век ИИ

Сингулярность

Ошибка Джетсонов

Трансгуманизм

Небольшое предостережение

Глава 2 Проблема искусственного сознания

Сознание искина и трудная проблема

Биологический натурализм

Технооптимизм в отношении машинного сознания

Процедура омоложения вашего мозга

Что это все значит?

Глава 3 Проектирование сознания

Исчезновение потребности в сознании

Отказ от сознания ради удешевления системы

Проектирование сознания: кошмары из сферы связи с общественностью

Проектирование сознания: безопасность ИИ

Слияние человека и машины

Глава 4 Как поймать ИИ-зомби: тесты для выявления сознания у машин

ACT-тест

Примерные вопросы ACT-теста

Тест на пригодность чипа

Общая информационная теория сознания (ОИТС)

Принцип предосторожности и шесть рекомендаций

Исследуем идею слияния разума и машины

Глава 5 Могли бы вы слиться с ИИ?

Что такое личность?

Может быть, вы – шаблон программы?

Глава 6 Сканирование разума

Каков же выход?

Смерть или личностный рост?

Как избавиться от субстрата?

Метафизическое смирение

Глава 7 Вселенная сингулярностей

Постбиологический космос

Проблема контроля

Active SETI

Сверхразумное сознание

Сверхразум на основе биологического образца

Глава 8 Действительно ли разум – это программа?

Разум как программное обеспечение мозга

Психофизическая проблема

Панпсихизм

Субстанциальный дуализм

Физикализм (или материализм)

Дуализм свойств

Идеализм

Оцениваем программный подход

Может ли лейтенант-коммандер Дейта быть бессмертным?

Может быть, разум – это реализация программы?

Представление о разуме как о программной реализации

Подход к разуму как к программной реализации

Реки, потоки и личности

Возвращаясь в Alcor

Заключение: Послежизнь мозга

Приложение

Трансгуманизм

Декларация трансгуманизма

Благодарности

Литература

Сноски