Винер Норберт

Корпорация «Бог и голем»

Корпорация «Бог и голем»

Комментарий по поводу ряда проблем, возникающих при столкновении кибернетики с религией

Посвящается Питу Хейну — в благодарность за ободрение и критику

Предисловие

Несколько лет назад в книге «Человеческое использование человеческих существ» я поведал о некоторых этических и социологических последствиях публикации моей предыдущей работы «Кибернетика», где речь шла об управлении и коммуникациях в машинах и живых существах. В тот период кибернетика являлась относительно свежим веянием, а потому ни научные, ни социальные последствия ее развития не казались полностью очевидными. Ныне, приблизительно пятнадцать лет спустя, кибернетика уже оказала определенное воздействие на общество и науку, и, кроме того, произошло достаточно иных событий для того, чтобы оправдать появление новой книги в смежной предметной области.

Проблема безработицы, порождаемой автоматизацией, уже не выглядит гипотетической; она стала важнейшим фактором существования современного общества. Кибернетические идеи, прежде казавшиеся программой на будущее и даже благочестивыми упованиями, ныне сделались основой эффективных практик машиностроения, биологии, медицины и социологии и преодолели значительный путь внутреннего развития.

Я прочитал немало лекций о том, как эти идеи соотносятся с этикой и религией и влияют на современное общество; думаю, настала пора попытаться синтезировать мои мысли относительно этой дисциплины и рассмотреть более подробно социальные последствия развития кибернетики. В этой книге я рассуждаю о тех же проблемах, которые поднимал в работе «Человеческое использование человеческих существ»[1], однако здесь я позволил себе рассматривать интересующие меня вопросы подробнее и полнее.

Чувствую себя обязанным отметить большую помощь, которую оказали мне своей критикой многие друзья по обе стороны Атлантики, в особенности мистер Пит Хейн из Рунгстеда в Дании, доктор Лоуренс Фрэнк из Белмонта, штат Массачусетс, и профессор Карл Дойч из Йельского университета, а также многие другие люди. Кроме того, хочу поблагодарить моего секретаря, миссис Еву-Марию Риттер, за помощь в подготовке этого текста.

Мне представилась возможность развить и оформить свои идеи при чтении лекций в январе 1962 года в Йельском университете, а также на семинаре, который состоялся летом 1962 года в Colloques Philosophiques Intemationaux[2] в Руайомоне под Парижем. Однако материал данной книги, несмотря на то, что она опирается на содержание моих лекций и дискуссий, был полностью пересмотрен и переработан.

С благодарностью всем тем, кто помогал мне в этом начинании.

Норберт Винер

Сэндвич, Нью-Гэмпшир 30 августа 1963 года

1

Здесь я намерен обсуждать не религию и науку как таковые, а определенные вопросы той области знаний, которая меня интересует, то есть изучения коммуникаций и управления; мне представляется, что ответы на них находятся близко от той границы, где наука вторгается в пространство религии. Хотелось бы при этом избежать тех логических парадоксов, которые непременно сопровождают радикальные (и одновременно широко распространенные) притязания религии на познание абсолютного. Если трактовать знание исключительно как Всеведение, власть только как Всемогущество, а культ — лишь как Единобожие, нам грозит утонуть в метафизических тонкостях задолго до того, как мы действительно приступим к изучению взаимоотношений науки и религии.

Тем не менее множество вопросов, имеющих отношение к познанию, власти и культу, непосредственно затрагиваются рядом последних научных достижений, и эти вопросы вполне возможно обсуждать, не прибегая к анализу абсолютов, каковые окружены таким количеством эмоций и таким почтением, что о них попросту не получится говорить беспристрастно и отстраненно. Знание есть факт, сила есть факт, культ есть факт, и эти факты допускают человеческое исследование, не отягощенное богословской традицией. Будучи фактами, эти положения подлежат изучению, и в нашем исследовании мы можем опираться на наблюдения за знаниями, властью и культом в других областях, более доступных для методов естественных наук, без необходимости требовать от исследователя безоговорочного согласия с принципом «credo quia incredible est»[3].

Может показаться, что, начав подобным образом, как бы вне религии, я тем самым заблаговременно увел обсуждение от проблемы взаимоотношений науки и религии, хотя ее изучение как будто бы заявлено в качестве темы данной работы. Посему следует уточнить тему моих рассуждений и обозначить ту точку зрения, которой я далее собираюсь придерживаться, а также отвергнуть те намерения, которые являются чуждыми моей конкретной задаче. Как уже было сказано, на протяжении нескольких лет я работал над проблемами коммуникации и управления, будь то в машинах или в живых организмах; я также изучал новые технические и физиологические методы, относящиеся к разрешению указанных проблем, и исследовал последствия применения этих методов для достижения тех или иных человеческих целей. Знание неразрывно связано с коммуникацией, власть опирается на управление, а оценка человеческих целей плотно увязана с этикой и всей нормативной составляющей религии. Следовательно, для пересмотра взаимоотношений науки и религии требуется заново изучить наши воззрения на эту взаимосвязь с учетом последних достижений в научной теории и практике. Само по себе такое исследование вряд ли можно признать полноценным анализом взаимоотношений науки и религии, однако оно, безусловно, послужит отправной точкой для дальнейшего анализа.

Выполняя подобное исследование, при том условии, что имеется желание достичь хоть какого-то результата, необходимо отринуть то бесчисленное количество предрассудков, которым мы обыкновенно и благоговейно храним верность, оберегая наши великие святыни от покушения (а на деле нередко попросту стараемся избавиться от чувства неполноценности, которое испытываем, сталкиваясь с неприятной действительностью и опасными сравнениями).

Если моя работа хоть на что-то претендует, она должна быть реальным исследованием реальных проблем. Надлежит вести это исследование так, словно мы стоим у стола в операционной, а не так, словно мы участвуем в церемонии оплакивания усопшего. Здесь недопустима и неуместна чрезмерная щепетильность; она будет даже сродни кощунству, как стремление модных врачей прошлого века у постели больного прятать хирургические иглы под шелковым лацканами своих черных сюртуков.

Религия, каково бы ни было ее содержание, часто производит впечатление запертой гостиной фермерского дома в Новой Англии: шторы опущены, над очагом стоят восковые цветы под стеклянным колпаком, позолоченные камыши обрамляют портрет дедушки на мольберте, а в углу фисгармония из черного ореха, на которой играют лишь на свадьбах и похоронах. Или же ее можно охарактеризовать как моральный аналог неаполитанского катафалка, черного королевского экипажа с застекленными окнами, влекомого конями под черными султанами, которые словно даже за гробом утверждают высокое положение покойного в обществе — или хотя бы стремление к такому положению. Религия представляет собой серьезный предмет, рассмотрение которого нужно принципиально отделять от анализа личных духовных ценностей, имеющих меньшее значение, нежели сама религия.

Я уже упоминал о наслоении предрассудков, которое препятствует изучению этих вопросов в той важной общей области, где наука сходится с религией: мол, следует избегать рассуждений, где Бог и человек ставятся вровень — это-де кощунство. Подобно Декарту, мы должны блюсти достоинство человека, изучая последнего так, как мы не должны и не будем изучать низших животных. Теория эволюции и происхождения видов есть осквернение человеческого достоинства; первые дарвинисты на собственной шкуре прочувствовали, как опасно придерживаться подобных взглядов в нашем мире, где люди в массе своей относятся к науке чрезвычайно подозрительно.

Но даже в пространстве научного сообщества выступление против установленной системы приоритетов сопряжено с большим риском. Ни в коем случае нельзя ставить рядом живые существа и машины. Живые существа суть живые существа во всех своих частях, а машины изготавливаются из металлов и прочих неорганических веществ и не обладают тонкой структурой, отражающей их целевые или квазицелевые функции. Физика — или то, что обычно понимается под физикой — не учитывает целеполагания; а возникновение жизни в этом отношении является чем-то совершенно новым.

Если придерживаться всех этих табу, мы, возможно, заслужим широкую репутацию консервативных и здравомыслящих философов, но при этом крайне мало сделаем для дальнейшего развития познания. Ученому, а также умному и честному писателю наряду с умным и честным клириком, присуще стремление экспериментировать с еретическими или запретными взглядами, пускай он даже в конечном счете их отвергнет. Более того, не следует полагать, что подобное неприятие непременно должно быть чем-то само собой разумеющимся; не стоит воспринимать его как бесплодное умственное упражнение, своего рода игру, посредством которой некто демонстрирует свою духовную непредубежденность. Это серьезная задача, и подступаться к ней следует со всей серьезностью. Она приобретает смысл, только когда подразумевает подлинный риск впадения в ересь; а если ересь влечет за собой риск духовного проклятия, то на этот риск нужно идти честно и мужественно! Повторяя слова кальвиниста: «Готов ли ты к тому, что тебя проклянут ради вящей славы Божией?»[4]

Именно с точки зрения честного и пытливого критицизма следует воспринимать отношение, о котором уже говорилось и которого трудно избежать в дискуссиях на религиозные темы, то есть уклонение от истины, продиктованное ложным пониманием превосходных степеней. Выше я упоминал об интеллектуальных затруднениях, возникающих из понятий всемогущества, всеведения и так далее. Эти затруднения в своей наипростейшей форме отражаются, например, в вопросе, который задает какой-нибудь безбожник, явившийся незваным на религиозное собрание: «Может ли Бог сотворить камень, настолько тяжелый, что Ему будет его не поднять?» Если не может, значит, есть предел Его могуществу (во всяком случае, можно допустить, что такой предел существует); если может, это тоже как будто ограничивает Его могущество.

Легко преодолеть это затруднение, объявив его софизмом, однако парадоксальность данного вопроса — один из многих парадоксов, относящихся к понятию бесконечности в разнообразии ее форм. С одной стороны, любая манипуляция с математическим понятием бесконечности подразумевает представление о делении нуля на нуль (или бесконечности на бесконечность) или умножении бесконечности на нуль — или вычитании бесконечности из бесконечности. Подобные выражения называются неопределенностями, и за ними скрывается та принципиальная трудность, что бесконечность не соответствует обычному понятию числа или количества, а потому для математика выражение ∞/∞ означает лишь предел отношения х/у, поскольку х и у оба стремятся к бесконечности. Этот предел может равняться 1, если у = х, а также может равняться 0, если у = х^2, или ∞, если у = 1/х, и так далее.

Имеется и другая разновидность бесконечности, возникающая при счете. Можно показать, что такое представление о бесконечности тоже приводит к парадоксам. Сколько чисел в классе всех чисел? Можно показать, что вопрос не является корректным и что, как бы ни определять число, количество всех чисел будет больше любого числа. Это один из парадоксов Фреге — Рассела, связанный со сложностями теории типов[5].

Все дело в том, что наши превосходные степени (всемогущество и всеведение) в действительности являются не превосходными степенями, а лишь весьма вольными способами рассуждений об очень большой власти и очень глубоких знаниях. Они выражают чувство благоговения, а не утверждение, которое можно было бы защищать с метафизических позиций. Если Бог превосходит человеческий разум и не может быть постигнут рассудком — а это точка зрения, которую, по крайней мере, можно защищать — будет интеллектуально нечестно принижать способности человеческого рассудка, насильно «втискивая» Бога в такие интеллектуальные формы, которые должны по определению обладать чрезвычайно конкретным рациональным содержанием. Поэтому, когда мы попадаем в те или иные ситуации, как будто проливающие свет на некоторые общие положения религиозных сочинений, мне кажется неразумным отвергать их только потому, что они лишены абсолютного, бесконечного и всеобъемлющего характера, обыкновенно приписываемого религиозным постулатам.

Это утверждение дает ключ к пониманию целей настоящей книги. Я хотел бы рассмотреть ряд ситуаций, обсуждаемых в религиозных сочинениях и трактуемых в религиозном же смысле, но эти ситуации во многом подобны другим, которые анализируются наукой, в особенности новой наукой — кибернетикой, изучающей коммуникации и управление в машинах и живых организмах. Я намереваюсь воспользоваться кибернетическими ситуациями как доступными аналогиями, чтобы пролить некоторый свет на религиозные ситуации.

Ради этого мне, безусловно, придется каким-то образом подгонять религиозные ситуации под мои кибернетические рамки. Я целиком отдаю себе отчет в том, к какому насилию буду вынужден прибегнуть. Мое оправдание заключается в том, что лишь благодаря скальпелю анатома стала наукой анатомия, а этот скальпель анатома, кроме того, является инструментом, который исследует только посредством насилия.

2

Отталкиваясь от предварительных замечаний, позвольте обратиться непосредственно к теме этой небольшой книги.

Существуют по меньшей мере три кибернетические проблемы, которые, как мне кажется, имеют непосредственное отношение к сфере религии. Первая проблема касается машин, способных к обучению; вторая — машин, способных к самовоспроизведению; третья же — проблема взаимодействия машины и человека. Могу сказать, что подобные машины существуют в действительности. Доктор А. Л. Сэмюел из компании «Интернешнл бизнес машинз корпорейшн» написал программу, которая позволяет вычислительной машине играть в шашки, и данная машина обучается — или возникает такое впечатление — играть лучше на основе накопленного опыта. В моем описании содержится ряд утверждений, которые требуют доказательства или хотя бы разъяснения; последнему отведен целый раздел моей книги.

Обучение есть свойство, или качество, которое мы часто приписываем исключительно системам, обладающим самосознанием, — и почти всегда живым системам. Это явление в наиболее наглядной форме наблюдается у человека и порождает один из тех атрибутов человечности, которые проще всего увязать с чертами личности, проявляющимися в религиозной жизни. В самом деле, трудно вообразить, каким образом существо, не способное к обучению, могло бы приобщиться к религии.

Имеется, впрочем, и другая сторона жизни, которую принято увязывать с религией. Считается, что Бог сотворил человека по Своему образу и подобию; при этом размножение человеческого рода также можно истолковывать как процесс, которым одно живое существо порождает другое по своему образу и подобию. В нашем стремлении восхвалять Бога, возвышая Его над человеком, и возвышать Человека над материей, мы, вполне естественно, допускаем, что машинам не под силу сотворять другие машины по своему образу и подобию; что налицо принципиальное различие живых и неживых систем; что указанное условие в еще большей степени связано с дихотомией между творцом и творением.

Но так ли это? В одном из разделов моей книги я уделю внимание некоторым соображениям, показывающим, по моему мнению, что машины вполне способны творить другие машины по своему образу и подобию. Предмет моих рассуждений одновременно является сугубо техническим и весьма узким. Не следует воспринимать мои рассуждения слишком серьезно, как описание фактической модели биологического процесса воспроизведения, и уж тем более как полную модель божественного творения; в то же время она полезна в том отношении, что проливает свет на обе эти концепции.

Два упомянутых раздела книги могут рассматриваться как дополняющие друг друга. Обучение индивида представляет собой процесс, который протекает на протяжении жизни человека, в онтогенезе. Биологическое воспроизведение есть явление, протекающее на протяжении жизни человеческого рода, в филогенезе, но обучается не только индивид, но и род в целом. Дарвиновский естественный отбор является разновидностью процесса родового обучения, он происходит в условиях, которые устанавливаются воспроизведением индивидов.

Третья группа тем данной книги также относится к проблемам обучения. Имеются в виду взаимоотношения машины и живого существа, а также систем, объединяющих в себе характеристики машин и живых существ. С учетом сказанного понятно, что рассмотрению подлежат нормативные, точнее, этические принципы. Мы изучим наиболее важные моральные ловушки, в которые, судя по всему, может угодить современное поколение, и затронем обширный комплекс человеческих традиций и легенд, окружающих магию и другие подобные материи.

Начнем с обучающихся машин. Организованной системой можно назвать такую систему, которая преобразует некое входящее сообщение в исходящее в соответствии с каким-то принципом трансформации. Если этот принцип трансформации регулируется некоторым критерием эффективности и если способ преобразования подразумевает повышение эффективности работы системы в соответствии с указанным критерием, значит, такую систему можно назвать обучаемой. Простейшим типом системы с легко интерпретируемым критерием эффективности является игра, которая ведется по определенным правилам, а критерием эффективности в ней выступает выигрыш, которого удалось добиться при соблюдении этих правил.

Есть игры, обладающие совершенной теорией и потому не представляющие для нас интереса. Примерами подобных игр служат «ним» по Бутону[6] и «крестики-нолики». В этих играх мы не просто можем теоретически найти наилучшую стратегию для выигрыша; теория победы заранее известна во всех подробностях. Игроки (тот или другой, не имеет значения) всегда могут выиграть или хотя бы свести поединок к ничьей, придерживаясь вышеназванной тактики. В теории любая игра может быть сведена к подобному состоянию (эта мысль принадлежит покойному Джону фон Нейману), однако, едва игра действительно оказывается в таком состоянии, к ней мгновенно утрачивают интерес и перестают воспринимать даже как развлечение.

Всеведущее существо наподобие Бога сочло бы шахматы и шашки (а также английские draughts и континентальные dames[7]) примерами игр в том смысле, который обозначил фон Нейман, но человек не разработал до сих пор полной их теории, а потому они по-прежнему воспринимаются как вдохновенные состязания в интуиции и силе ума и ведутся совсем не так, как предполагала теория фон Неймана.

В самом деле — ведь обычно игра не идет по принципу: сейчас я сделаю наилучший из возможных ходов, потом мой противник сделает наилучший из возможных ходов, потом я снова отвечу наилучшим из возможных ходов, и так далее, пока кто-то не выиграет или пока игра не обернется повторением ходов. Чтобы вести игру в соответствии с постулатами фон Неймана, следует, по сути, располагать полной теорией игры, то есть свести игру к тривиальному занятию.

Пожалуй, может показаться, что тема обучения, а в особенности тема машин, которые учатся играть в игры, достаточно далека от религии. Тем не менее, существует богословская проблема, для которой эти концепции являются релевантными. Это проблема игры между Творцом и творением — предмет книги Иова и «Потерянного рая» Джона Мильтона.

В обоих этих религиозных сочинениях дьявол показывается как ведущий игру с Богом — за душу Иова или за души всех людей на свете. При этом, согласно ортодоксальным иудейским и христианским воззрениям, дьявол тоже сотворен Богом, как и все живое. Любое иное допущение ведет к моральному дуализму с привкусом зороастризма и к тому «внебрачному» отпрыску зороастризма и христианства, которое принято называть манихейством[8].

Но если дьявол есть одно из творений Бога, то игра, о которой повествуют книга Иова и «Потерянный рай», представляет собой игру между Богом и одним из Его творений. Такая игра изначально выглядит неравноправным соперничеством, в котором один игрок обладает сокрушительным перевесом. Ввязываться в игру со всемогущим и всеведущим Богом попросту глупо, однако нам говорят, что дьявол искушен в кознях. Любое восстание мятежных ангелов обречено на поражение. Не требуется бунта Сатаны, возмутившегося, как Манфред[9], чтобы это доказать. Всемогущество же, которое для самоутверждения мечет с небес молнии, вовсе не всемогущество, а лишь некая могучая сила, следовательно, мятеж ангелов мог бы закончиться восхождением Сатаны на небесный трон и низвержением Бога в тьму вечного проклятия.

Таким образом, если мы не запутаемся в догмах всемогущества и всеведения, конфликт между Богом и дьяволом оказывается реальным конфликтом, в котором Бог выступает как нечто, не обладающее абсолютным всемогуществом. Да, Он действительно вовлекается в конфликт со Своим творением — и вполне может проиграть. Однако это творение создано Им по Его собственной воле, а значит, приобрело, по-видимому, свои способности к действиям от самого Бога. Может ли Бог вести полноценную игру со Своим творением? Способен ли вообще какой угодно творец, даже ограниченный в возможностях, вести полноценную игру с собственным творением?

Конструируя машины, с которыми он играет в игры, изобретатель присваивает себе функции творца, ограниченного в возможностях, какова бы ни была природа создаваемых им игровых устройств. Это в особенности верно применительно к игровым машинам, которые обучаются на своем опыте. Как уже отмечалось, такие машины существуют. Как они функционируют? Какого успеха они достигли?

Вместо того чтобы действовать согласно игровой теории фон Неймана, они ведут себя так, словно стараются подражать действиям обычного игрока-человека. На каждом этапе игры они подчиняются установленным правилам, которые ограничивают выбор следующего хода. Тот или иной ход выбирается согласно некоторому нормативному критерию хорошей игры.

Здесь опыт игры человека предоставляет ряд подсказок для выбора такого критерия. В шахматах или шашках обыкновенно невыгодно терять свои фигуры, зато обычно выгодно забирать фигуры противника. Игрок, сохраняющий подвижность своих фигур и право выбора ходов, как и тот, который контролирует большее число полей на доске, превосходит своего противника, не придающего значения этим факторам игры.

Данные критерии хорошей игры действуют на протяжении всей партии, но имеются и другие критерии, относящиеся к отдельным этапам игры. В финальной стадии, когда фигур на доске мало, намного труднее сблизиться с противником для «съедения» его фигур. В начале же игры — причем это куда важнее в шахматах, нежели в шашках — фигуры расположены в порядке, который лишает их подвижности и силы, а потому требуется некая тактика, позволяющая убрать фигуры с пути друг друга, как для нападения, так и для защиты. Кроме того — ведь в шахматах фигуры намного разнообразнее по сравнению с шашками, — существует множество особых критериев хорошей игры специально для шахмат, и важность их доказывается многовековым опытом.

Подобные критерии можно объединять (дополнять одним другой или комбинировать более сложным способом), чтобы оценивать в числовом выражении эффективность следующего хода, который предстоит сделать машине. Это возможно делать до известной степени произвольно. Тогда машина сравнит между собой числовые показатели эффективности возможных по правилам ходов и выберет ход с наибольшим показателем. Перед нами один из способов автоматизации выбора очередного хода.

Такая автоматизация ходов не обязательно и вообще далеко не всегда является условием оптимального выбора, но все-таки это выбор, и машина может продолжать игру. Чтобы оценить подобный способ механизации игры, следует отринуть все представления о механизации, касающиеся известных людям технических устройств, а также физический образа человека в восприятии обычного игрока. По счастью, это довольно просто; именно так ведутся игры в шахматы по переписке.

В игре по переписке один игрок посылает свой ход другому по почте, и единственной связью между игроками является письменный документ. Даже в такой игре в шахматы опытный игрок быстро составляет представление о личности своего противника — его шахматной личности, разумеется. Он узнает, насколько его противник тороплив или осторожен, легко ли его обмануть или он проницателен, способен ли изучать трюки соперника или склонен снова и снова попадаться в одну и ту же элементарную западню. Все это выясняется, повторяю, без какой-либо дополнительной коммуникации в ходе самой игры.

С этой точки зрения игрок, будь то человек или машина, который опирается в игре только на показатели эффективности, выбранные однажды и не подлежащие изменению, производит впечатление ригидной, «закосневшей» шахматной индивидуальности. Стоит обнаружить его уязвимое место, как становится понятно, что эта уязвимость неискоренима. Если некая тактика сработала против него единожды, она будет срабатывать всегда. Весьма малого количества партий вполне достаточно, чтобы выявить его манеру игры.

Пожалуй, на этом закончим с механическим игроком, который не обучается. Впрочем, ничто не мешает механическому игроку научиться играть более разумно. Для этого ему следует фиксировать в памяти прошлые партии и серии партий. Тогда после каждой игры или после каждой серии игр конкретного типа его механизм будет использоваться далее совершенно иным образом.

При составлении числовых показателей эффективности применяются некоторые константы, которые можно выбирать различными способами. Относительная значимость констант управления, подвижности фигур и их количества может выражаться, например, соотношением 10:3:2 вместо 9:4:4. Новый способ использования регулируемой машины состоит в том, чтобы изучить уже сыгранные партии с учетом их исхода и вывести числовой показатель эффективности — не для уже сыгранных партий, но для оценки критериев, выбранных для этих игр.

Тем самым числовой показатель эффективности подвергается непрерывной переоценке, причем так, что наибольшее значение присваивается показателю для преимущественно выигранных партий, а наименьшее значение — показателю для преимущественно проигранных партий. Игра будет продолжаться с этим новым числовым показателем, который возможно внедрить различными способами, отличающимися лишь в деталях. В результате игровая машина постепенно трансформируется в другую машину в соответствии с фактической историей игры. Здесь играют важную роль опыт и успех как для машины, так и для ее противника-человека.

При игре против такой машины, которая как бы перенимает часть своей игровой индивидуальности от соперника, эта игровая индивидуальность не является абсолютно ригидной. Противник может выяснить, что тактики, приводившие к успеху в прошлом, перестали быть состоятельными. Машина способна демонстрировать, так сказать, поистине сверхъестественную хитрость.

Можно, конечно, заявить, что весь этот неожиданный машинный интеллект был встроен в машину ее конструктором и программистом. В некотором смысле это верно, но не всегда будет верным предположение, будто все новые функции машины были заблаговременно и явно предусмотрены ее конструктором. Будь это так, то ему не составило бы труда одолеть собственное творение. Однако это утверждение опровергается фактической историей машины доктора Сэмюела.

Стоит признать, что в течение довольно значительного срока машина Сэмюела была в состоянии регулярно побеждать своего конструктора — всего после одного или двух дней подготовки. Но тут нужно отметить, что Сэмюел, по его собственным словам, не является опытным шашистом и что, после небольшой практики и толики наставлений, он смог обыграть собственное творение. Впрочем, ни к чему преуменьшать значение того факта, что на протяжении некоторого периода времени машина обыгрывала конструктора едва ли не постоянно. Она побеждала — и училась побеждать, а способы, которыми она обучалась, ничем принципиально не отличались от методов обучения человека, который учится играть в шашки.

Верно, что выбор тактик, доступных «шашечной» машине, почти наверняка более узок, чем выбор, открытый игроку-человеку; но верно и то, что для человека выбор эффективной тактики в игре в шашки тоже не безграничен. От бесконечности выбора человека отделяют лишь границы его интеллекта и воображения; эти границы действительно существуют и, по сути, мало чем отличаются от пределов, в которых функционируют машины.

В итоге получается, что машине, которая уже сейчас достаточно хорошо играет в шашки, нужно лишь подучить тактику действий на финальном этапе и получше освоить умение наносить coup de grâce[10]; тогда она начнет приближаться к уровню мастера. Если бы не тот факт, что интерес публики к шашечным турнирам и без того существенно снизился по причине чрезмерной «предсказуемости» обычной человеческой игры, можно было бы предположить, что шашечная машина в скором времени полностью уничтожила бы интерес к этой игре. Не удивительно поэтому, что люди уже начинают спрашивать, а не постигнет ли та же самая участь и шахматы. И хотят знать, когда следует ожидать этой катастрофы.

Машины, играющие в шахматы (или такие, которые способны хотя бы провести значительную часть шахматной партии), существуют на самом деле, однако пока они играют сравнительно слабо. В лучшем случае они играют на уровне опытного игрока-любителя, не претендующего на профессионализм; вдобавок в действительности большинство из них редко достигает даже этого уровня[11]. Это объясняется прежде всего гораздо большей сложностью шахмат в сравнении с шашками — как в отношении обилия фигур и ходов, так и в отношении разнообразия тактик на разных этапах игры. Относительно небольшое количество правил, необходимых для соблюдения при механизации игры в шашки, и малая степень различия между этапами этой игры совершенно несопоставимы с шахматами.

Тем не менее, по общему мнению тех моих друзей, которые являются довольно опытными шахматистами, дни шахмат как интересного человеческого занятия сочтены. Мои друзья ожидают, что в ближайшие годы (от десяти до двадцати пяти лет) шахматные машины достигнут гроссмейстерского уровня, а затем, если эффективные, но отчасти машиноподобные методы русской школы позволят шахматам просуществовать так долго, шахматы вообще перестанут интересовать игроков-людей.

Как бы то ни было, найдется множество других игр, которые станут бросать вызов конструкторам и программистам игровых машин. В частности, это го, дальневосточная игра, в которой различают минимум семь степеней признанного мастерства. Кроме того, война и бизнес суть конфликты, напоминающие игры, а потому они могут быть формализованы в виде игр с определенными наборами правил. В самом деле, нет ни малейших оснований предполагать, что подобные формализованные варианты до сих пор не созданы в качестве моделей, цель которых заключается в определении стратегий нажатия Большой Кнопки и сжигания планеты дотла во имя строительства нового, куда менее зависимого от человека порядка вещей.

В общем случае игровая машина может применяться для автоматического исполнения любой функции, если исполнение этой функции подчиняется достижению четко сформулированного и объективного критерия эффективности. В шашках и шахматах данный критерий заключается в победе, которая достигается при соблюдении установленных правил возможной игры. Эти правила, в корне отличные от признанных норм хорошей игры, просты и безжалостны. Даже умные дети в состоянии усвоить эти правила за время, которое требуется, чтобы их прочитать перед шахматной доской. Могут возникать сомнения относительно того, как добиться победы, однако никто не будет сомневаться в том, выиграна партия или проиграна.

Главным критерием оценки того, ощущаются ли в игре человеческие усилия, является признание существования некоего объективно выделяемого параметра эффективности этих усилий. Иначе игра превратится в подобие игры в крокет из «Алисы в Стране чудес», где шарами выступали ежи, которые постоянно распрямлялись, молотками служили фламинго, дужками были карточные солдаты, маршировавшие по полю, а судьей являлась Королева Червей, неустанно менявшая правила игры и отсылавшая игроков на обезглавливание к Палачу. В таких обстоятельствах победа не имеет смысла, а успешной тактике нельзя обучиться, поскольку критерий успеха отсутствует.

Зато при наличии объективного критерия успеха вполне возможно играть в обучающие игры, и это будет намного ближе к способу, каким мы учимся играть, чем образ игры, задаваемый теорией фон Неймана. Разумеется, технология обучающих игр подлежит применению во множестве сфер человеческой деятельности, где она пока не используется. Тем не менее, как мы увидим далее, разработка строгого теста на эффективность затрагивает целый ряд проблем, связанных с обучающими играми.

3

Обучение, о котором шла речь выше, есть обучение индивида, осуществляемое на протяжении его индивидуальной личной жизни. Существует другой тип обучения, не уступающий в значимости первому, — это филогенетическое обучение, то есть обучение через историю вида. Это тот самый тип обучения, одним из основополагающих обоснований которого стала теория естественного отбора Дарвина.

В основе естественного отбора лежат три фактора. Первый фактор — наличие такого явления, как наследственность, способность растений и животных производить потомство по образу своему и подобию. Второй фактор состоит в том, что это потомство отнюдь не целиком соответствует образу и подобию родителя, но может отличаться от последнего какими-либо признаками, тоже определяемыми наследственностью. Такова природа изменчивости, причем данное обстоятельство ни в коей мере не предполагает весьма сомнительного наследования приобретенных признаков. Третьим фактором дарвиновской эволюционной теории выступает то условие, что самопроизвольность спонтанной изменчивости ограничивается различием жизнеспособности разных мутаций, для большинства которых характерно уменьшение вероятности продолжения существования вида (впрочем, отдельные, возможно, лишь немногие мутации ведут к повышению этой вероятности).

Основа выживания и изменчивости вида — то есть эволюции — может оказаться значительно сложнее, чем описано выше; думаю, так и есть в действительности. Например, к числу важнейших типов изменчивости относится изменчивость высшего порядка, то есть изменения изменчивости. Здесь работа механизмов наследственности и изменчивости снова в немалой степени опирается на процессы, которые функционально описал еще Мендель, — а структурно они выражаются явлением митоза, то есть процессом удвоения генов и их разделения, накопления генов в хромосомах, их связывания и пр.

Тем не менее, за всем этим фантастически сложным нагромождением процессов скрывается чрезвычайно простой факт: наличие подходящей питательной среды из нуклеиновых кислот и аминокислот позволяет молекуле гена, которая состоит из весьма специфической комбинации аминокислот и нуклеиновых кислот, управлять этой средой, побуждает ту преобразовываться в другие молекулы — либо в молекулы того же гена, либо в молекулы других генов, отличающиеся сравнительно немногочисленными параметрами. Считалось, между прочим, что этот процесс строго аналогичен тому процессу, посредством которого молекула вируса, иначе молекулярного паразита, может формировать из тканей хозяина, играющих роль питательной среды, другие молекулы того же вируса. Именно сам факт молекулярной репликации, не важно, гена или вируса, видится последней стадией анализа обширного и сложного процесса воспроизводства.

Человек создает человека по своему образу и подобию. Тем самым он словно вторит акту творения, каким Бог будто бы сотворил человека по Своему образу и подобию (или использует этот акт в качестве образца). Может ли нечто аналогичное происходить в менее сложном (и, не исключено, более постижимом) случае неживой системы, которую принято называть машиной?

Что такое «образ» машины? Способен ли этот образ, воплощенный в одной машине, позволить любой машине общего назначения, не обладающей какой-либо специфической индивидуальностью, воспроизвести исходную машину либо в полном соответствии с оригиналом, либо с незначительными отличиями, которые можно было бы толковать как проявление изменчивости? Способна ли новая и отчасти измененная машина выступать «архетипом», даже при условии, что она сама отличается от собственного прообраза?

Цель текущего раздела работы заключается в том, чтобы дать ответ на эти вопросы, причем ответ утвердительный. Ценность мыслей, которые я намерен высказать — точнее, того, что уже высказывал в более техническом стиле в книге «Кибернетика» (глава IX), а здесь ограничусь кратким изложением — может быть доказана математическим понятием доказательства существования. Я собираюсь описать единственный способ, посредством которого машины могут воспроизводить себя. Не хочу сказать, что других способов воспроизводства не существует; на самом деле они есть. Кроме того, я не утверждаю, что биологическое воспроизведение осуществляется аналогичным способом — это, безусловно, не так. Но при всем несходстве способов механического и биологического воспроизводства эти процессы можно назвать параллельными, ибо они приводят к одним и тем же результатам; исследование одной категории процессов позволяет сделать выводы, релевантные для исследования другой категории процессов[12].

Чтобы обоснованно анализировать проблему сотворения машиной другой машины по своему образу и подобию, следует более пристально изучить саму концепцию образа и подобия. Нужно помнить, что образы вовсе не представляют собой некую единую категорию. Пигмалион изваял статую Галатеи по образу и подобию своего идеала возлюбленной, но затем, когда боги вдохнули жизнь в эту статую, она сделалась образом возлюбленной Пигмалиона в смысле, куда более приближенном к реальности. Статуя перестала быть сугубо зримым (умозримым) образом и превратилась в образ, так сказать, операциональный.

Копировальный станок способен воспроизвести образец модели ружейного приклада, который может быть использован для изготовления прикладов, но это объясняется просто-напросто тем, что назначение самого приклада совершенно очевидно. С другой стороны, электрическая схема может служить для реализации достаточно сложных функций, а ее образ, воспроизведенный печатной машиной при помощи металлической краски, способен функционировать самостоятельно, в точности как исходная схема. Такие печатные схемы сегодня получили широкое применение в различных областях современного машиностроения.

Если коротко, то помимо зримых образов мы можем располагать операциональными образами. Данные образы, выполняющие функции своих оригинальных образцов, могут иметь зримое сходство с оригиналами (или не иметь этого сходства). В любом случае, они способны «подменять» оригиналы в действии; следовательно, перед нами куда более значимое подобие. Именно с точки зрения операционального, функционального подобия мы будем далее изучать возможность самовоспроизведения машин.

Но что такое машина? Согласно одному определению, машину можно рассматривать как первичный двигатель, как источник энергии. Для данной книги это определение не годится. Для нас машина является устройством, которое преобразует входящие сообщения в исходящие. Сообщение с этой точки зрения есть последовательность величин, выражающих соответствующие сигналы. Такими величинами могут выступать электрический ток и потенциалы, но этими формами их ряд не исчерпывается, и иные формы способны иметь совершенно другую природу. Кроме того, компонентные сигналы могут распространяться непрерывно или дискретно, с промежутками. Машина преобразует некоторое число входящих сообщений в некоторое число исходящих, и каждое исходящее сообщение в любой момент времени зависит от входящих сообщений, полученных до этого момента. Как сказал бы инженер на своем техническом жаргоне, машина представляет собой преобразователь со множеством входов и выходов.

В значительной степени те вопросы, которые мы здесь изучаем, не слишком отличаются (либо, наоборот, резко отличаются) от вопросов, возникающих при изучении преобразователей с единичными входом и выходом. Данное обстоятельство может навести инженера на мысль, что далее речь пойдет о хорошо известной инженерной задаче, а именно о классической задаче электрической цепи и ее импеданса (или полной проводимости, или коэффициента передачи по напряжению).

Однако думать так не совсем правильно. Импеданс, проводимость, коэффициент суть понятия, которые корректно использовать только при работе с линейными цепями, то есть с цепями, для которых сумма последовательности входных сигналов за определенное время соответствует сумме соответствующих выходных сигналов. Это условие выполняется для активных сопротивлений, активных электрических емкостей и активных индуктивностей, а также для цепей, которые составлены исключительно из элементов, соединенных между собой по правилам Кирхгофа[13]. В этих цепях соответствующий входной сигнал, посредством которого испытывается данная схема, является тригонометрически варьируемым входным потенциалом с различной частотой; для последней заданы амплитуда и фаза. Тогда исходящий сигнал тоже будет выражаться серией колебаний аналогичной частоты; сравнивая его амплитуду и фазу с указанными параметрами входного сигнала, возможно получить полную характеристику цепи или преобразователя.

Если цепь нелинейна, если она содержит, например, выпрямители или ограничители напряжения или иные подобные приборы, то тригонометрический входной сигнал уже не может считаться наиболее подходящим тестовым сигналом. В этом случае тригонометрический сигнал на входе, как правило, не приведет к появлению тригонометрического сигнала на выходе. Более того, строго говоря, линейных цепей не существует, имеются лишь цепи с большим или меньшим приближением к линейности.

Тестовый входной сигнал, который выбран для испытания нелинейных цепей — его также можно использовать для проверки линейных цепей, — имеет статистический характер. Теоретически, в отличие от тригонометрического входного сигнала, который должен изменяться во всем диапазоне частот, данный сигнал является единым статистическим ансамблем входных сигналов, доступным для использования в любых преобразователях. Такой сигнал известен как «дробовой шум» (или «дробовой эффект»). Генераторы дробового шума подробно описаны и выпускаются рядом приборостроительных компаний; при желании их можно заказать по каталогу[14].

Исходящий сигнал преобразователя, получаемый при заданном входящем сообщении, представляет собой сообщение, которое зависит одновременно от входящего сообщения и от самого преобразователя. При самых обычных условиях преобразователь выступает как конкретный способ преобразования сообщения, и мы воспринимаем исходящее сообщение как результат преобразования входящего сообщения. Впрочем, бывают обстоятельства — в основном когда входное сообщение несет минимум информации, — когда мы вправе воспринимать содержание исходящего сообщения как полученное преимущественно от самого преобразователя. Невозможно вообразить входящее сообщение, которое содержит меньше информации, чем случайный поток электронов, порождающий дробовой шум. Следовательно, исходящий сигнал преобразователя, вызванный дробовым шумом, можно воспринимать как сообщение, отражающее деятельность самого преобразователя.

Вообще-то оно будет выражать деятельность самого преобразователя при любом возможном входящем сообщении. Это объясняется тем, что для конечного интервала времени имеется конечная (пусть малая) вероятность того, что дробовой шум приведет к появлению любого возможного сообщения с любой заданной конечной степенью точности.

Поэтому статистика сообщения, получаемого на выходе преобразователя при заданном стандартизованном статистическом входном сигнале, формирует операциональный образ преобразователя, и вполне возможно использовать этот образ для создания аналогичного преобразователя в другом физическом воплощении. Иными словами, если нам известно, как преобразователь будет реагировать на дробовой шум на входе, мы уже знаем ipso facto[15], как он отреагирует на любой входной сигнал.

Получается, что преобразователь, то есть машина, которая выступает одновременно как прибор и как сообщение, намекает на дуализм, столь любезный физикам, выражаемый, например, двойственной природой волн и частиц. Также этот дуализм заставляет вспомнить остроту касательно биологической смены поколений (не помню, кому она принадлежит — Бернарду Шоу или Сэмюелу Батлеру); эта известная bon mot гласит, что курица — всего-навсего способ, каким яйцо производит на свет другие яйца[16]. Печеночная двуустка в печени овцы является не более чем иной стадией развития вида паразитов, заражающих конкретную разновидность улиток-прудовиков. Словом, машина способна генерировать сообщения, а сообщение может создавать другую машину.

Я уже пытался ранее донести эту мысль до общества — говорил, что теоретически возможно переслать человеческое существо по телеграфу. Позвольте сразу уточнить, что возникающие при этом трудности намного превосходят мои способности справиться ними, и я не намереваюсь усугублять текущую сумятицу в работе железных дорог, призывая «Эмерикен телеграф энд телефон компани» стать их новым конкурентом. Сегодня — и, пожалуй, на протяжении всего существования человеческого рода — эта идея кажется неосуществимой практически, но отсюда вовсе не следует, что она недоступна пониманию.

Оставляя в стороне трудности практического применения данной идеи к человеческим существам, скажем, что она вполне осуществима применительно к созданным человеком машинам меньшей степени сложности. Именно такие действия я предлагаю как способ, каким могут самовоспроизводиться нелинейные преобразователи. Сообщения, в которых воплощается деятельность конкретного преобразователя, также будут содержать в себе все многочисленные воплощения преобразователя с общим операциональным образом. Среди последних наверняка найдется минимум одно воплощение с особым, специфическим типом физической структуры; данное воплощение я предлагаю воссоздать по сообщению, несущему операциональный образ машины.

При описании конкретного воплощения, выбранного мною для операционального образа машины, которая подлежит воспроизведению, я буду описывать и формальные признаки этого образа. Чтобы мое описание перестало походить на смутную фантазию, его следует излагать математическими терминами, но математика не является тем языком, который внятен среднему читателю (а моя книга предназначена именно для него). Посему нужно внести в мое изложение ряд уточнений. Я уже выражал эти свои соображения на математическом языке в книге «Кибернетика» (глава IX) и тем самым выполнил свой долг перед специалистами. Но, оставив все как есть, я совершенно не выполнил бы своего долга перед читателем, для которого предназначена эта книга. Вследствие этого мои утверждения могут показаться, мягко говоря, малообоснованными. С другой стороны, полное изложение здесь моих мыслей представляется ненужным. Потому далее я ограничусь кратким пересказом — насколько получится — тех своих математических выкладок, которые выражают суть предмета исследования.

Даже с учетом сказанного опасаюсь, что следующие страницы окажутся непростыми для понимания. Тем, кто категорически не желает преодолевать трудности, я советую пропустить данный раздел книги. Я пишу его только для тех, чья любознательность по-настоящему велика и побуждает читать дальше вопреки всем предупреждениям.

4

Читатель, тебя предупредили по всем правилам; далее всякая хула с твоей стороны на нижеследующий текст может быть обращена против тебя!

Возможно умножить исходящий сигнал машины, скажем, линейного преобразователя, на постоянную величину и суммировать результаты двух машин. Напомню, что мы приняли за исходящий сигнал машины электрический потенциал, который допустимо измерить на разомкнутой цепи, если прибегнуть к использованию современных устройств, называемых катодными повторителями. Применяя потенциометры и / или трансформаторы, мы можем умножать величину исходящего сигнала преобразователя на любую константу, положительную или отрицательную. Если у нас два или больше раздельных преобразователей, можно суммировать их выходные потенциалы для одинакового значения на входе посредством последовательного подключения преобразователей; тем самым получится комбинированное устройство с исходящим сигналом, равным сумме исходящих сигналов его составных частей, причем каждый будет умножаться на соответствующий положительный или отрицательный коэффициент.

Благодаря этому появляется возможность дополнить анализ и синтез машин знакомыми представлениями о разложении многочленов и о рядности. Подобные представления выражаются тригонометрическими разложениями и рядами Фурье. Теперь остается подобрать соответствующий перечень эффективных преобразователей для формирования таких последовательностей, и мы получим стандартную форму для создания и дальнейшего дублирования операционального образа.

Стандартный перечень простейших машин для приблизительной репрезентации любых машин с достаточной степенью точности в полном смысле этого слова на самом деле существует. Описать его в математической форме будет сравнительно сложно, но ради математика, которому случайно могут попасться на глаза эти страницы, я сформулирую так: для любого входящего сообщения эти устройства выдают многочлены Эрмита, выраженные через коэффициенты Лагерра применительно к предшествующим входящим сообщениям. Звучит специфично и сложно, как и есть на самом деле.

Где можно приобрести такие устройства? Боюсь, что в настоящее время их не найти в магазинах, торгующих электрооборудованием; впрочем, такие устройства можно собрать по точным спецификациям. Элементами этих устройств выступают привычные активные сопротивления, емкости и индуктивности, знакомые компоненты линейного оборудования. Кроме того, для обеспечения линейности, необходимы умножители, принимающие на входе два потенциала и выдающие сигнал, равный произведению этих входных потенциалов. Подобные аппараты имеются в продаже; если покажется, что они стоят дороже, чем хотелось бы, учитывая их потребное количество, можно утешаться тем, что дальнейшее их усовершенствование приведет к снижению цены; во всяком случае, расходы — фактор иного порядка, чем возможность приобретения. Чрезвычайно любопытным видится устройство на основе пьезоэлектрического эффекта, созданное в лаборатории профессора Денниса Габора в Имперском колледже науки и техники при Лондонском университете. Габор применил это устройство для целей, которые во многом отличаются от описываемых мною, однако оно также используется для анализа и синтеза любых машин.

Возвращаясь к конкретным устройствам, упомянутым выше, отмечу, что они обладают тремя свойствами, благодаря которым возможно их использовать для анализа и синтеза машин общего назначения. Во-первых, эти машины представляют собой замкнутую совокупность. Это значит, что при комбинировании машин с соответствующими коэффициентами мы способны аппроксимировать структуру какой угодно машины. Также эти машины можно нормировать в том отношении, что при случайном единично-статистическом импульсе на входе они выдадут на выходе единично-статистический импульс. Наконец, эти машины ортогональны. Это означает, что если взять любые две из них, подать на их входы один и тот же стандартизованный дробовой шум и перемножить величины исходящих сигналов, то произведение этих величин, усредненное по статистике шума входящих сигналов, будет равно нулю.

При разработке машин подобной формы анализ ничуть не труднее синтеза. Предположим, что у нас есть машина в виде «черного ящика», то есть машина, выполняющая постоянную и конкретную операцию (не подверженную спонтанным колебаниям), и внутренняя структура этой машины нам неизвестна, а установить ее нет возможности. Пусть у нас также имеется «белый ящик» — машина с известной структурой, репрезентирующая один из элементов структуры «черного ящика». Если входные терминалы обеих машин подключить к одному генератору шума, а выходные терминалы подключить к умножителю, который перемножает их исходящие сигналы, то произведение выходных величин, усредненное по всему распределению шума по общему входу, будет выражаться коэффициентом «белого ящика» для применения в составе «черного ящика» как суммы всех выходных величин «белых ящиков» с соответствующими коэффициентами.

Кажется, что добиться этого невозможно, поскольку такая операция требует, по-видимому, изучения системы во всем статистическом диапазоне шума на входе. Впрочем, имеется важное условие, позволяющее обойти указанное затруднение. В математической физике известна теорема, которая позволяет в ряде случаев заменить усреднения по распределению усреднениями по времени — не в каждом отдельно взятом случае, а в совокупности и с общей вероятностью, равной единице. В частном случае дробового эффекта можно строго доказать, что условия корректности теоремы соблюдаются. Следовательно, мы можем заменить усредненное значение всего ансамбля возможных шумовых сигналов, необходимых для получения коэффициента «белого ящика» для применения в составе «черного ящика», величиной, усредненной по времени, и получим правильный коэффициент с вероятностью, равной 1. Теоретически это не гарантирует полной достоверности, но на практике вполне достоверно.

Для этой цели нам понадобится определить средний потенциал по времени. По счастью, устройство для выведения подобных средних величин по времени широко распространено и его легко приобрести. Оно состоит всего-навсего из сопротивлений, емкостей и устройств для измерения напряжений. Тем самым подтверждается, что наш тип систем равно пригоден и для анализа, и для синтеза машин. Если мы используем его для анализа машин, а затем для их синтеза, выполняемого в соответствии с результатами анализа, то, по сути, воспроизводим операциональный образ машины.

Может показаться, что здесь не обойтись без вмешательства человека. Впрочем, достаточно просто — проще, чем провести анализ и синтез — сделать так, чтобы результаты анализа представлялись не в форме измерений по шкалам приборов, а в форме зафиксированных показателей ряда потенциометров. В итоге, насколько позволяют количество доступных элементов и точность инженерного оборудования, мы заставляем «черный ящик» с неизвестной структурой самостоятельно перенести свой образ действий на комплексный «белый ящик», изначально способный принимать любой образ действий. На самом деле это почти аналогично тому, что происходит в основополагающем акте воспроизведения живой материи. Здесь тоже субстрат, способный принимать множество форм, в конкретном случае — молекулярных структур, вынужден принимать конкретную форму благодаря наличию структуры (молекулы), уже обладающей этой формой.

Когда я представил результаты своего анализа саморазмножающихся систем философам и биохимикам, они в ответ на мои утверждения выдвинули следующее заявление: «Но ведь эти два процесса принципиально различны между собой! Всякое сходство живого и неживого является исключительно поверхностным. Нам хорошо известны и понятны подробности процесса биологического размножения, и он не имеет ничего общего с процессом, которому вы приписываете размножение машин».

И далее: «С одной стороны, машины изготавливаются из стали и меди, тончайшая химическая структура которых никак не связана с их функциями элементов машин. А вот живая материя остается живой вплоть до мельчайших частей, которые характеризуют ее как ту же самую материю, то есть до молекул. Вдобавок размножение живой материи происходит хорошо известным, шаблонным путем, когда нуклеиновые кислоты определяют расположение аминокислот, и эта цепочка двойная, состоящая из пары дополняющих друг друга спиралей. Когда они разделяются, каждая вбирает в себя молекулярные остатки, необходимые для восстановления двойной спирали исходной цепочки».

Очевидно, что процесс воспроизведения живой материи отличается деталями от процесса воспроизведения машин, который я обрисовал выше. Как указывает Габор в работе, упомянутой мною ранее, имеются иные способы самовоспроизведения машин; эти способы, менее строгие, нежели обозначенный мною, с большей вероятностью могут быть признаны схожими с явлением размножения живых существ. Живая материя, разумеется, обладает тонкой структурой, более соответствующей ее функциям и процессу размножения, чем части неживой машины, хотя, быть может, это не вполне относится к тем новейшим машинам, которые действуют на основе принципов физики твердого тела.

Впрочем, даже живые системы не являются (по всей вероятности) живыми на уровнях ниже молекулярного. Кроме того, при всех различиях между живыми системами и обычными механическими системами, было бы неосмотрительно утверждать, что системы одного вида не способны пролить некоторый свет на функционирование систем другого вида. Например, стоит принимать во внимание такую возможность, когда наблюдается взаимная трансформация пространственной и функциональной структур, с одной стороны, а также преобразование сообщений во времени — с другой стороны. Привычное описание процесса воспроизводства очевидно не передает всех подробностей. По всей видимости, должна осуществляться некая коммуникация между молекулами генов и молекулярными остатками, обнаруживаемыми в питательной жидкости, причем эта коммуникация должна быть динамической. Логично предположить, в духе современной физики, что некие поля излучения могут выступать посредниками в этой динамической коммуникации. Будет ошибкой категорически утверждать, что процессы воспроизводства у машин и у живых существ не имеют ничего общего.

Заявления такого рода часто кажутся осторожным и консервативным умам менее рискованными, чем опрометчивые рассуждения о возможных аналогиях. Впрочем, если опасно проводить сопоставления без достаточных доказательств, столь же опасно отвергать аналогии, не доказав их несостоятельность. Интеллектуальная честность не равнозначна отказу принять интеллектуальный риск, а отказ даже рассматривать нечто новое, вызывающее эмоциональное возбуждение, не может быть внятно оправдан этически.

Представление о том, что Бог якобы сотворил человека и животных, воспроизводство живых существ по своему образу и подобию и потенциальное воспроизводство машин — все это суждения одного порядка, вызывающие схожее эмоциональное возбуждение, как и дарвиновская теория эволюции и происхождения человека. Если нашу гордость сильно уязвило сравнение человека с обезьяной, то со временем мы сумели свыкнуться с этой мыслью; а еще большим оскорблением видится нам сравнение с машиной. Всякая новая идея в свою эпоху вызывает некоторую толику того осуждения, которое в минувшие века окружала грех колдовства.

Я уже упоминал о наследственности машин и о дарвиновской теории эволюции посредством естественного отбора. Чтобы «генетика», приписываемая нами машинам, тоже стала основой эволюции через естественный отбор, нужно учитывать саму изменчивость и наследование изменчивости. Укажу, что в предлагаемой нами разновидности генетики машин найдется место для обоих факторов. Изменчивость порождается неаккуратностью процесса копирования, который мы обсуждали выше, а скопированная машина, воплощенная в нашем «белом ящике», сама может служить образцом для дальнейшего копирования. В самом деле, если в исходном одноэтапном процессе копирования копия сходна с оригиналом по операциональному образу, но не по облику, на следующей стадии копирования пространственная структура сохраняется и новая копия становится копией уже во всем.

Понятно, что в процессе копирования предыдущая копия может использоваться в качестве нового оригинала. Это значит, что изменения в наследуемых свойствах сохраняются, пускай они подвержены дальнейшим изменениям.

5

Я уже отмечал, что осуждение, которое в прошлые века окружало грех колдовства, ныне выносится множеством умов теориям современной кибернетики. Не ошибусь, если скажу, что всего два столетия назад ученый, посмевший заявить, что он изобрел машину, способную обучаться играм или самовоспроизводиться, был бы вынужден надеть «санбенито», одеяние жертв инквизиции, а потом его передали бы светским властям — с наказом «не проливать кровь», то есть сжечь[17]. Так произошло бы наверняка, разве что он сумел бы убедить какого-нибудь высокого покровителя в своей способности превращать простые металлы в золото, подобно пражскому рабби Леву, утверждавшему, будто своими заклинаниями он вдохнул жизнь в глиняного голема, и убедившему в этом императора Рудольфа[18]. Даже сегодня, случись некоему изобретателю доказать какой-либо компании по производству вычислительных машин, что его магия может им пригодиться, этот человек до Судного дня мог бы заниматься своей черной магией без малейшего риска для себя.

Что такое колдовство и почему оно осуждалось как грех? Почему вызывал такое неодобрение глупый маскарад черной мессы?

Следует оценивать ритуал черной мессы с точки зрения ортодоксального верующего. Для остальных это совершенно бессмысленная и непристойная церемония. Но те, кто в ней участвует, на самом деле куда ближе к ортодоксии, нежели осознает большинство из нас. Главным элементом черной мессы является привычный христианский догмат, согласно которому священник творит истинное чудо, а хлеб и вино причастия становятся плотью и кровью Христовой.

Ортодоксальный христианин и колдун согласны в том, что, едва состоялось чудо пресуществления, осененные Божеством Святые дары способны творить дальнейшие чудеса. Еще они согласны в том, что чудо пресуществления под силу только священнослужителю, должным образом рукоположенному. Вдобавок они согласны в том, что такой священник впредь не лишается своих чудотворных сил (а если его отрешат от сана, он творит чудеса под страхом вечного проклятия).

С учетом изложенных постулатов можно посчитать совершенно естественным то обстоятельство, что некоей живой душе, проклятой, но гениальной, пришла на ум идея завладеть Святыми дарами и употребить их силы к собственной выгоде. Именно тут, а вовсе не в кощунственных оргиях, заключается главный грех черной мессы. Магия Святых даров благотворна по самой своей природе, а стремление извратить ее суть и воспользоваться ею на что-то иное, кроме вящей славы Господней, есть смертный грех.

Этот грех Библия приписывает Симону-волхву, который торговался с апостолами, рассчитывая купить чудотворные способности, и был обличен и осужден святым Петром[19]. Легко вообразить замешательство и огорчение этого бедняги, когда он узнал, что чудотворные способности не продаются, а Петр отказался принять сделку, которую сам Симон считал честной, приемлемой и вполне естественной. С подобным отношением сталкиваются многие из нас, отказываясь торговать своими изобретениями за весьма щедрую цену, которую выставляют капитаны современной индустрии.

Как бы то ни было, христианство всегда признавало грехом симонию, то есть куплю и продажу церковных должностей и чудотворных сил, которые этим должностям приписывались. Данте вообще полагал этот грех одним из тягчайших и обрек на пребывание на дне своего Ада некоторых погрязших в симонии современников[20]. Впрочем, симония была великим соблазном той чрезвычайно «воцерковленной» эпохи, в которую жил Данте, и очевидно искоренена в куда более рационалистическом и рациональном мире наших дней.

Искоренена! Искоренена… Искоренена ли?.. Возможно, силы «машинного века» нельзя считать по-настоящему сверхъестественными, но, как представляется, они воспринимаются как лежащие за пределами постижения простого смертного, как не соответствующие естественному порядку вещей. Быть может, мы больше не чувствуем себя обязанными посвящать эти великие силы вящей славе Божьей, однако нам до сих пор видится неприемлемым обращать их на достижение суетных или корыстных целей. Это грех, суть которого состоит в использовании магических сил современной автоматизации ради собственной выгоды или ради того, чтобы обречь мир на апокалиптические ужасы ядерной войны. Если этому пороку требуется имя, этим именем будет симония — или колдовство.

Не важно, верим мы в Бога и в Его вящую славу — нам попросту не все на этом свете дозволено. Вопреки усилиям покойного мистера Адольфа Гитлера, мы еще не достигли той вершины надменного морального безразличия, с которой способны отрешиться от добра и зла. Пока мы сохраняем хотя бы крупицу умения ощущать моральную дискриминацию, применение великих сил ради простых целей будет морально равнозначным колдовству и симонии.

При наличии возможности конструировать автоматы, будь то в металле или только мысленно, изучение их производства и теории будет естественным проявлением человеческой любознательности, а человеческий разум задыхается, если сам человек ставит жесткие границы своей любознательности. Но все же имеются такие стороны автоматизации, которые выходят за пределы естественной любознательности и греховны по своей сути. Их воплощением можно признать ту особую категорию инженеров и технических руководителей, которых я предлагаю называть машинопоклонниками.

Мне хорошо известны машинопоклонники моего собственного мира с их лозунгами свободного предпринимательства и экономики прибылей. Думаю, такие люди могут существовать и существуют и в зеркальном мире, где лозунгами выступают диктатура пролетариата, марксизм и коммунизм. Власть и жажда власти суть, увы, суровая реальность, способная принимать разнообразные обличия. Среди ревностных жрецов власти немало тех, кто нетерпим к ограниченным возможностям человечества, прежде всего к ограничениям, налагаемым человеческой ненадежностью и непредсказуемостью. Легко опознать такого руководителя по тому, каких подчиненных он себе подбирает. Эти подчиненные робки, смиренны и всецело преданы своему начальнику, а потому обыкновенно оказываются беспомощными, когда вдруг перестают быть придатками его воли. Они способны трудиться усердно и ретиво, но почти лищены собственной инициативы, этакие евнухи в гареме идей, которым повелевает их султан.

Не считая того, что машинопоклонник находит повод для преклонения перед машиной в ее свободе от человеческих ограничений скорости и точности, имеется и другой мотив, который труднее выявить в каждом конкретном случае, но который должен, по-моему, играть весьма важную роль. Это стремление избегать личной ответственности за опасное или гибельное решение и возлагать такую ответственность на кого-то еще — на случай, на начальство и его политику, которую не положено оспаривать, или на механическое устройство, которое якобы невозможно понять до конца, но которое наделено бесспорной объективностью. Подобные мотивы движут потерпевшими кораблекрушение, когда они тянут жребий, решая, кого из них надлежит съесть первым. На тех же доводах умело пытался строить свою защиту покойный мистер Эйхман. Те же мотивы объясняют появление холостых патронов в боеприпасах расстрельных команд. Несомненно, теми же соображениями будет успокаивать свою совесть тот высокопоставленный чиновник, который нажмет кнопку первой (и последней) атомной войны. На самом деле это старый колдовской трюк, чреватый, правда, обильными трагическими последствиями: клятва принести в жертву первое же живое существо, которое увидишь после благополучного возвращения из опасного путешествия.

Едва такой повелитель осознает, что отдельные функции его рабов-людей могут быть препоручены машинам, он приходит в восторг. Наконец-то он нашел себе нового подчиненного — энергичного, услужливого, надежного, никогда не возражающего, действующего быстро и не требующего никакой личной заботы и опеки!

О подобных подчиненных рассказывается в пьесе Чапека «R.U.R.». Раб лампы не выдвигает никаких требований. Он не просит выходной каждую неделю, не хочет поставить телевизор в своем рабском жилище. На самом деле он вовсе не нуждается в жилище, а просто возникает из ниоткуда, стоит потереть лампу. Если достижение ваших целей вынуждает плыть против ветра общепринятой морали, ваш раб никогда вас не осудит, даже не посмеет бросить вопрошающий взгляд. Теперь вы вольны править туда, куда влечет судьба!

Перед нами образ мышления, свойственный колдуну в полном смысле этого слова. Против таких колдунов предостерегают не только церковные доктрины, но и накопленный поколениями здравый смысл, выраженный в легендах, мифах и творениях сознательных мастеров слова. Все они настаивают на том, что колдовство не просто грех, ведущий в преисподнюю; оно подвергает опасности жизнь на этом свете. Оно словно обоюдоострый меч, который рано или поздно нанесет вам глубокую рану.

В сказках «Тысячи и одной ночи» есть история о рыбаке и джинне, которую уместно вспомнить здесь. Рыбак, забросив сеть у побережья Палестины, вытащил из моря глиняный кувшин с печатью царя Соломона на затычке. Он сломал печать, из кувшина повалил дым, а из дыма сформировалась фигура огромного джинна. Это сверхъестественное существо поведало, что принадлежит к числу тех мятежников, которых одолел великий царь Соломон; поначалу оно собиралось вознаградить того, кто его освободит, властью и богатством, но за минувшие столетия озлобилось, решило умертвить первого же смертного, которого встретит, и готово начать со своего освободителя.

К счастью для него, рыбак, судя по всему, не был обделен смекалкой, а также отлично умел льстить. Он сыграл на тщеславии джинна и убедил того показать, как такое огромное существо может поместиться в столь малом сосуде. Джинн забрался обратно в кувшин, а рыбак тут же закупорил сосуд, кинул его в море и поздравил себя со спасением от смерти. С тех пор он жил счастливо.

В других историях встреча главного героя с волшебством происходит уже не по воле случая; в итоге он то оказывается на краю гибели, а то и вовсе терпит полный крах. Юный прислужник из стихотворения Гете «Ученик чародея» чистит волшебную одежду своего хозяина, подметает пол и носит воду; однажды чародей убывает, поручив слуге наполнить бочку водой. В избытке наделенный склонностью к лени, каковая является истинной матерью изобретательности — напомню, что именно лень побудила мальчишку, который присматривал за машиной Ньюкомена[21], привязать веревку от крана к противовесу, и так был изобретен первый автоматический клапан, — паренек припомнил обрывки заклинаний, подслушанные у хозяина, и попытался заставить веник носить воду в бочку. С этим заданием веник справился послушно и эффективно. Но когда вода начала переливаться через край бочки, ученик вдруг сообразил, что не помнит заклинание, которым чародей укрощал веник. Паренек едва не утонул, но тут вернулся «чародей маститый», который изрек нужные слова власти, а затем как следует выбранил ученика[22].

Даже здесь окончательную катастрофу удается предотвратить лишь посредством deus ex machina[23]. Уильям У. Джейкобс, английский писатель начала XX века, довел этот принцип до очевидного и трагичного логического конца в повести «Обезьянья лапка», классическом образце «литературы ужасов».

Английская рабочая семья, о которой идет речь, ужинает на кухне. Потом сын уходит на фабрику, а старики-родители слушают рассказы гостя, старшего сержанта, возвратившегося со службы в Индии. Сержант рассуждает об индийской магии и показывает хозяевам высушенную обезьянью лапку; по его словам, это талисман, зачарованный индийским факиром на исполнение трех желаний каждого из трех последовательных владельцев. Мол, так факир хотел показать, что судьба повелевает человеком.

Сержант добавляет, что не знает первых двух желаний первого владельца талисмана, но знает, что его последним желанием была смерть. Сам он второй владелец зачарованного предмета, но его опыт слишком страшен, чтобы об этом рассказывать. Он бросает лапку в огонь, но хозяин не дает той сгореть и, игнорируя предостережения сержанта, желает получить двести фунтов стерлингов.

Вскоре раздается стук в дверь. Входит очень представительный господин из той компании, в которой работает сын хозяев. Настолько мягко, насколько способен, он сообщает, что их сын погиб в результате несчастного случая на производстве. Компания не признает себя ответственной за случившееся, но выражает свое сочувствие и предлагает пособие в размере двухсот фунтов стерлингов.

Старики вне себя от горя; по предложению матери они просят талисман вернуть им сына. К тому времени снаружи успело стемнеть, пала ночь, ветреная и непроглядная. В дверь снова стучат. Родители каким-то образом понимают, что это их сын, но не во плоти. История заканчивается третьим желанием — чтобы призрак удалился.

Основной темой всех этих историй служит опасность магии. По всей видимости, эта опасность объясняется тем, что магические действия реализуются в высшей степени буквально; если магия вообще способна даровать что-либо, она дарует именно то, что просишь, а не то, что подразумевал или что на самом деле хотел попросить. Если просишь двести фунтов стерлингов и не уточняешь, что деньги ценой жизни твоего сына тебе не нужны, ты получишь свои двести фунтов — а уж выживет твой сын или умрет, остается лишь догадываться.

Магия автоматизации, в особенности такая магия автоматизации, которая опирается на самообучение устройств, выглядит столь же буквальной. Если играешь в игру по определенным правилам и настраиваешь машину играть на победу, результат будет достигнут (если его возможно достичь в принципе), но машина не будет обращать ни малейшего внимания на любые соображения, помимо соблюдения правил, ведущих к победе. В военной игре с некоторым конвенциональным условием победы к этой победе станут стремиться любой ценой, даже за счет истребления собственных сил, если только необходимость выживания не сформулирована недвусмысленно в определении победы, которое задается машине.

Это не просто невинный словесный парадокс. Я совершенно точно не смогу найти доводов, чтобы опровергнуть предположение о том, будто Россия и США, поодиночке или вместе, изучают возможность применения машин, а именно обучающихся машин, для определения момента, когда лучше нажать кнопку запуска атомной бомбы, этого ultima ratio[24] современного мира.

Многие годы все армии на свете играли в военные игры, и все эти игры отставали от своих эпох. Кто-то сказал, что на каждой войне толковый полководец воюет так, как воевали в последней войне, а дурной — как в предпоследней[25]. Это означает, что способы ведения войн неизменно отстают от событий реальной обстановки.

Это было верно всегда, пускай в периоды, которые изобиловали войнами, непременно находилось какое-то число умудренных схватками воинов, которые вели бои в условиях, изменявшихся сравнительно медленно. Такие опытные воины могут считаться единственными военными экспертами в полном смысле этого словосочетания. В настоящее время не существует экспертов по ядерной войне: нет людей, обладающих опытом участия в конфликте, где обе стороны располагают атомным оружием и используют это оружие. Разрушение наших городов в ядерной войне, деморализация населения, голод и болезни, побочные воздействия (число жертв которых с немалой вероятностью будет намного превосходить число жертв от взрывов и последующего заражения) — обо всем этом известно лишь предположительно.

Данное обстоятельство позволяет тем, кто прогнозирует малое число жертв побочных воздействий и рассуждает о больших шансах на выживание народов после катастрофы нового типа, гордо рядиться в патриотические одежды. Но если война ведет к полному истреблению, если обычные военные действия лишены всякого смысла, значит, армия и флот утратили былое назначение, а бедным, преданным службе генералам и адмиралам суждено остаться без работы. У компаний по производству ракет не сохранится прежний идеальный рынок, где все товары предназначены для однократного использования и потому не конкурируют с продукцией, которую только предстоит изготовить. Духовенство лишится того энтузиазма, того восторга, которые всегда сопутствуют крестовым походам. Если коротко, когда имеется военная игра, предусматривающая такое развитие событий, найдется много тех, кто забудет о возможных последствиях, станет требовать свои двести фунтов стерлингов и не спохватится уточнить, что сын должен остаться в живых.

Всегда возможно просить о чем-то, отличном от нашего истинного желания, а потому такая возможность представляется чрезвычайно серьезной в тех случаях, когда процесс, которым мы добиваемся исполнения желаний, является косвенным, а степень, в которой наши желания осуществляются, не ясна до самого конца. Обычно мы осознаем свои желания — в той мере, в какой они вообще осознаются — через процесс обратной связи, посредством которого мы сравниваем степень достижения промежуточных целей с нашими предвкушениями. Здесь обратная связь проходит через нас, и мы способны отступить, пока не стало слишком поздно. Если механизм обратной связи встроить в машину, действия которой не поддаются контролю до получения конечного результата, вероятность катастрофы чрезвычайно возрастает. Мне категорически не хотелось бы участвовать в первом испытании автомобиля, управляемого фотоэлектрическим устройством обратной связи, не будь в нем какой-то рукоятки, при помощи которой я мог бы перехватить управление, если замечу, что автомобиль грозит врезаться в дерево.

Люди с умственным складом машинопоклонников часто питают иллюзию, будто высокоавтоматизированный мир станет предъявлять меньше требований к человеческой изобретательности, нежели мир сегодняшний, и заберет у нас необходимость в решении трудных задач — как тот римский раб, он же греческий философ, который думал за своего господина[26]. Это явное заблуждение. Механизм, ориентированный на достижение цели, совсем не обязательно будет стремиться к реализации наших целей, если только мы не сконструируем его соответственно — а при таком конструировании мы должны предвидеть все стадии процесса, для управления которым создается механизм; не следует уповать на робкие попытки прогнозирования, полезные лишь до определенной точки, за которой понадобятся, при возникновении новых затруднений, новые прогнозы. Расплата за ошибки прогнозирования велика уже сегодня и значительно возрастет, когда автоматизация осуществится в полной мере.

В наше время вошла в моду идея, будто возможно предотвратить некоторые опасности, в особенности те, которыми чревата ядерная война, при помощи так называемых самоотключающихся устройств. За подобными представлениями стоит гипотеза, что даже в случаях, когда какое-либо устройство функционирует некорректно, существует возможность управлять его неполадками в безопасном режиме. Например, если выходит из строя насос, будет гораздо лучше, чтобы авария ознаменовалась выбросом воды, а не взрывом при избыточном давлении. Когда мы сталкиваемся с опасностью, хорошо нам понятной, применение самоотключающихся устройств вполне оправданно и полезно. Впрочем, они вряд ли пригодятся в ситуациях, когда та или иная опасность еще не распознана. Если, к примеру, имеется некая отдаленная, но глобальная угроза человечеству, сулящая уничтожение, то лишь пристальное и тщательное изучение общественных явлений способно выявить эту угрозу своевременно. Ведь потенциальные угрозы такого рода лишены зримых признаков, по которым их можно опознать. Потому режим самоотключения, пускай он может быть необходимым для предотвращения гибели человечества, ни в коем случае нельзя считать достаточной мерой предосторожности.

С развитием инженерной техники, которая все больше старается и стремится достигать поставленных человеком целей, усиливается потребность в постановке задач для нее способами, отражающими именно человеческое целеполагание. В прошлом неполное и неадекватное восприятие человеческих намерений было относительно безвредным — только потому, что такому восприятию сопутствовали технические ограничения, затруднявшие для нас выполнение операций, которые подразумевали тщательную оценку этих намерений. Это лишь один из множества примеров того, как бессилие человека до сих пор ограждало нас от разрушительного натиска человеческих прихотей.

Иными словами, в прошлом человечество сталкивалось со многими опасностями, но справляться с ними было значительно легче, поскольку во многих случаях угроза проявлялась лишь односторонне. В эпоху, когда величайшей угрозой являлся голод, спасение приходило через увеличение производства пищи — и оказывалось в итоге, что угроза голода не столь уж и велика. При высокой смертности (прежде всего среди детей) и при малой эффективности медицины отдельная человеческая жизнь считалась великой ценностью, а потому людям справедливо предписывалось плодиться и размножаться. Угроза голода оказывала давление, подобное давлению силы тяжести, к которой наши мышцы, кости и сухожилия приспособлены от рождения.

Перемены в напряженности современной жизни, вызванные как появлением новых забот, так и исчезновением старых, во многом подобны новым проблемам космических полетов. Невесомость, присутствующая в космическом корабле, избавляет от воздействия однонаправленной и постоянной силы тяжести, привычной нам по повседневной жизни. Путешественнику на борту космического корабля требуются ручки и перекладины, за которые он будет держаться; пищу и питье нужно помещать в специальные тюбики; необходимы различные приспособления, позволяющие определять свое положение в пространстве — и даже при всем этом, хотя, как считается сегодня, его физиология пострадает несильно, такой путешественник вряд ли будет чувствовать себя настолько удобно, как ему бы хотелось. Сила тяжести — наш друг как минимум ровно в той же степени, в какой она является нашим врагом.

Точно так же в отсутствие голода перепроизводство еды, бесцельность существования и безрассудное расточительство становятся серьезными проблемами. Развитие медицины является одним из факторов, ведущих к перенаселению, а последнее в настоящее время видится страшнейшей из угроз, с которыми сталкивалось и сталкивается человечество. Былые принципы, по которым люди жили так долго — например, «пенни не потратил — пенни приобрел», — уже нельзя считать бесспорно верными.

Мне довелось присутствовать на обеде в кругу врачей. Они непринужденно беседовали между собой и выказывали изрядную самоуверенность, не опасаясь разговоров на, скажем так, деликатные темы. Постепенно беседа свернула на обсуждение возможности решительного наступления на ту болезнь увядания организма, которую еще именуют старостью. Врачи вовсе не считали, что победа над старостью невозможна; наоборот, они были склонны полагать, что однажды — быть может, в сравнительно близком будущем — момент неизбежной смерти можно будет отдалить, не, исключено, что на необозримый срок, а сама смерть окажется лишь игрой случая, как это происходит у гигантских секвой и, кажется, у некоторых рыб.

Я не хочу сказать, что эти врачи были совершенно правы в своих предположениях (по-моему, они и сами согласились бы, что это лишь предположения), однако авторитет ученых, которые придерживаются той же точки зрения — среди них, в частности, есть нобелевский лауреат, — настолько велик, что было бы непозволительно отвергнуть эту идею как не заслуживающую внимания. Пускай данная идея на первый взгляд кажется весьма утешительной, на самом деле она поистине катастрофична, в первую очередь для врачей. Ведь сразу становится понятно, что человечество как вид не способно вынести бесконечного продления всех жизней, которые рождаются на планете. Дело не только в том, что та часть населения, которая не в силах поддерживать собственное существование, намного превзойдет в численности другую часть, от которой зависит ее существование; нет, вдобавок мы окажемся в неоплатном долгу перед людьми прошлого и, как следствие, попросту не сумеем подготовиться к решению новых задач будущего.

Невозможно помыслить, чтобы все жизни на свете продолжались сколь угодно, без каких-либо ограничений. Впрочем, если существует шанс бесконечного продления жизни, прерывание чьей-либо жизни (или хотя бы отказ, осознанный или случайный, от ее продления) будет опираться на этику врачей. Какая же участь ожидает тогда традиционный престиж профессии медика — ведь мы привыкли видеть в них этаких жрецов, сражающихся со смертью, и слуг милосердия? Допускаю, что даже сегодня бывают случаи, когда врачи воспринимают подобные решения как свой долг и не желают продлевать чье-либо мучительное и бессмысленное существование. Они нередко отказываются перевязывать пуповину новорожденному уродцу и облегчают уход стариков, страдающих от неоперабельного рака и подхватывающих гипостатическую пневмонию, этого «приятеля старости», вместо того чтобы любыми средствами стараться оставить их на этом свете, обрекая на продолжение страданий. Чаще всего подобное происходит без лишнего шума и с соблюдением положенных приличий; лишь когда какой-нибудь невоздержанный на язык глупец выбалтывает врачебную тайну, суды и газеты принимаются кричать об «эвтаназии».

Но что случится, если такие решения перестанут быть редкими и почти неизвестными публике; что, если они будут приниматься не как исключение, а едва ли не при каждом смертельном исходе? Что, если каждый пациент начнет воспринимать любого врача не только как спасителя, но и как палача, обрывающего жизнь? Справится ли врач с таким бременем добра и зла, что ляжет на его плечи? Выживет ли само человечество при новом порядке вещей?

Достаточно легко защищать добро и сражаться со злом, когда добро и зло четко противопоставлены друг другу разграничительными линиями и когда те, кто находится по другую сторону, являются нашими заклятыми врагами, а те, кто по эту сторону, — наши верные союзники. Но что, если нам в любой ситуации придется спрашивать себя, кто друг, а кто враг? Как быть, если, вдобавок, мы препоручили решение важнейших вопросов неумолимой магии или неумолимой машине, которой следует задавать правильные вопросы заблаговременно, еще не разобравшись полностью в сути процесса, чьим посредством добываются ответы? Можем ли мы быть уверены в решениях той обезьяньей лапки, у которой просим двести фунтов стерлингов?

Нет, будущее сулит мало надежд тем, кто ожидает, что наши новые механические рабы построят для нас мир, где мы будем наконец-то освобождены от необходимости мыслить. Они могут нам помочь, но при этом станут предъявлять строгие требования к нашей честности и разумности. Мир будущего окажется ареной все более решительной борьбы против ограничений нашего разума, а вовсе не, так сказать, удобным гамаком, в котором можно спокойно возлежать, наблюдая за рабочей суетой наших роботов-рабов.

6

Следовательно, одна из важнейших проблем будущего, с которой нам суждено столкнуться, — это проблема взаимодействия человека и машины, проблема правильного распределения функций между двумя данными агентами. Может показаться при беглом взгляде, что машина обладает очевидными преимуществами. Она работает намного быстрее и с большим единообразием — по крайней мере, ее можно сконструировать, изначально задав такие свойства. Цифровая вычислительная машина за сутки может выполнить такой объем работ, который иначе потребует годичных трудов целой группы людей-вычислителей, и работа будет сделана с наименьшим количеством ошибок и неточностей.

С другой стороны, человек тоже обладает несомненными преимуществами. Не учитывая тот факт, что любой разумный человек будет воспринимать как первостепенные именно человеческие цели во взаимоотношениях с машиной, машина значительно уступает человеку в сложности, а масштаб и разнообразие ее действий гораздо меньше. Если принять объем нейрона серого вещества мозга равным 1/1000000 кубического миллиметра, а объем наименьшего из нынешних транзисторов равным одному кубическому миллиметру, такая оценка не окажется несправедливой по отношению к возможностям нейрона. Если белое вещество мозга считать эквивалентным схеме соединений вычислительной машины, а каждый нейрон рассматривать как функциональный аналог транзистора, компьютерный аналог человеческого мозга займет сферу диаметром около тридцати футов. На самом деле фактически невозможно сконструировать вычислительную машину, обладающую подобием относительной плотности мозгового вещества в человеческом мозгу, а любая машина, чьи возможности сравнимы с возможностями мозга, занимала бы крупное офисное здание, если не небоскреб. Трудно поверить в то, что мозг, в сравнении с современными вычислительными машинами, не имеет перед ними ряда преимуществ, соотносящихся с его огромным операциональным диапазоном, который несоизмеримо больше, чем можно ожидать с учетом физических размеров.

Главным среди этих преимуществ выглядит способность мозга оперировать наметками идей, которые еще не получили четкого оформления. В подобных ситуациях механические вычислители (по крайней мере механические вычислители наших дней) почти не в состоянии самопрограммироваться. А между тем в стихах, романах и картинах наш мозг как будто успешно обрабатывает материал, который любая вычислительная машина отвергнет как лишенный формы.

Так отдадим же человеку те дела, которые признаются человеческими, а вычислительной машине предоставим вычислять. Представляется, что это наиболее здравомыслящий подход к совместным действиям людей и машин. Такая политика равно далека от чаяний машинопоклонников и от суждений тех, кто видит лишь кощунство и принижение человека во всяком использовании механических помощников умственной деятельности. Сегодня мы нуждаемся в независимом и объективном изучении систем, объединяющих человеческие и механические элементы. Нельзя исследовать эти системы, опираясь на предрассудки механистического или анти механистического толка. Думаю, что подобные исследования уже ведутся, и они сулят нам более полное понимание сути автоматизации.

Среди прочего мы можем использовать и используем такие комбинированные системы в разработке протезов, то есть устройств, заменяющих конечности или утраченные органы чувств. Деревянная нога есть механическая замена утраченной ноги из плоти и крови, а человек с деревянной ногой репрезентирует систему, состоящую из механических и человеческих элементов.

Быть может, классический деревянный колышек нельзя назвать удачным примером, поскольку он заменяет утраченную конечность самым примитивным способом; лишь чуть больше интереса вызывает деревянный протез в форме ноги. Впрочем, работа по созданию искусственных конечностей ведется в России, США и в других странах группой ученых, к которой принадлежу и я. Эта работа куда более интересна, ибо она основана на применении кибернетических идей.

Допустим, что человек лишился кисти руки. Он утратил несколько мышц, которые служили прежде всего для сжимания и разжимания пальцев, однако большая часть мышц, обыкновенно управляющих движениями руки и пальцев, сохранилась неповрежденной в культе. При сокращении эти мышцы не двигают ни кистью, ни пальцами, зато они порождают определенные электрические эффекты, называемые потенциалами действия. Эти потенциалы могут восприниматься соответствующими электродами, а затем усиливаться и комбинироваться транзисторными схемами. Их можно использовать для управления движениями искусственной руки посредством электромоторов, которые питаются от электрических батарей или аккумуляторов, но управляющие сигналы они получают от транзисторных схем. Центральная часть аппарата управления остается, как правило, неповрежденной и подлежит использованию.

Подобные искусственные руки уже изготавливаются в России и даже позволили некоторым увечным вернуться к производительному труду. Данный результат стал возможным благодаря тому обстоятельству, что тот же самый нервный сигнал, который вызывал сокращение мышц до ампутации, продолжает управлять электромотором, перемещающим искусственную руку. Тем самым изучение возможностей использования таких рук значительно облегчается и выглядит более естественным.

Впрочем, искусственная рука как таковая не способна осязать, а вот естественная рука как таковая выступает одновременно органом осязания и движения. Но постойте — почему же искусственная рука не может осязать? Довольно просто поместить в искусственные пальцы датчики давления, которые станут передавать электрические импульсы в соответствующую цепь. Последняя, в свою очередь, будет включать устройства, расположенные на коже, например на коже культи. Примером подобных устройств могут служить вибраторы[27]. Так мы сможем создавать мнимое осязательное ощущение — и можем научиться применять его в качестве замены естественных тактильных ощущений. Более того, в поврежденных мышцах сохраняются чувствительные кинестетические элементы, которые также могут быть использованы.

В итоге становится возможной новая техника протезирования, которая подразумевает конструирование систем комбинированной природы, состоящих из человеческих и механических элементов. При этом данную новую технику не следует ограничивать только заменой утраченных частей тела. Разрабатываются протезы для таких органов, которых у нас нет и никогда не было. Дельфин движется в воде при помощи хвостовых плавников и избегает столкновений с препятствиями, вслушиваясь в отражения звуков, которые он сам испускает. Что такое винт корабля, как не пара искусственных плавников, а прибор измерения глубины, как не искусственный определитель и излучатель звуков, подобный тому, каким обладает дельфин? Крылья и реактивные двигатели самолета заменяют собой крылья орла, радар служит глазами, а «нервная система», которая их объединяет и управляет ими, подчиняется автопилоту и прочим подобным навигационным приборам.

Получается, что человеко-механические системы имеют широкое практическое применение, они полезны в целом, а в отдельных случаях и вовсе незаменимы. Мы уже видели, что обучаемые машины должны функционировать в соответствии с некоторыми нормами эффективной деятельности. В случае игровых машин, когда допустимые ходы произвольно устанавливаются заранее, а целью игры признается выигрыш по правилам, которые устанавливаются строгими определениями победы и поражения, такие нормы кажутся очевидными. Но существует множество видов деятельности, которые хотелось бы усовершенствовать посредством процесса обучения; здесь оценка успеха определяется по критериям, которые предусматривают участие человека, а потому сведение таких критериев к формальным правилам видится непростой задачей.

Областью, которая остро нуждается в автоматизации и где имеется немалый потенциальный спрос на самообучающиеся машины, является область машинного перевода. В нынешних метастабильных условиях международной напряженности США и Россия испытывают равную и взаимную потребность получать сведения о том, что говорит и думает другая сторона. Поскольку в обеих странах число квалифицированных переводчиков-людей ограниченно, каждая сторона изучает возможности машинного перевода. Такой перевод возможен в принципе, но по своим литературным достоинствам и содержательности переведенные машиной тексты не вызвали восторга и воодушевления ни у одной из сторон. Пока никакое механическое устройство перевода не доказало, что оно заслуживает доверия в тех случаях, когда от точности перевода зависит принятие важных решений.

Возможно, наиболее перспективным способом автоматизации является применение обучаемых машин[28]. Для функционирования такой машины необходим строгий критерий хорошего перевода. Данный критерий может опираться либо на полный набор объективно применяемых правил, определяющих качество перевода, либо на некоего посредника, который способен оценить качество перевода независимо от таких правил.

Обычным критерием хорошего перевода признается понятность. Люди, читающие текст на языке, на который выполнен перевод, должны получить то же впечатление от текста, как и те, кто читает и понимает этот текст в оригинале. Если при использовании данного критерия возникают некоторые затруднения, можно применить другой — необходимый, но недостаточный. Допустим, у нас есть две независимые переводные машины, и одна, например, переводит с английского языка на датский, а другая — с датского на английский. Когда английский текст переведен на датский первой машиной, пусть вторая переведет результат обратно на английский. Итоговый перевод должен быть признан эквивалентным оригиналу кем-то, кто владеет английским языком.

Вполне возможно составить свод формальных правил такого перевода, настолько строгих, что их можно доверить машине, и столь совершенных, что их будет достаточно для выполнения перевода в соответствии с этими правилами, а результат удовлетворит приведенному выше критерию. Не думаю, впрочем, что лингвистика в своем развитии ушла настолько вперед, что от нее стоит ожидать такого набора правил, применимого на практике, и что она вообще способна добиться подобного прогресса в представимом будущем. Отсюда вытекает, что для переводной машины сохраняется вероятность ошибки. Если на основании машинного перевода нужно принять какое-либо ответственное решение, касательно действий или политики, пустяковая ошибка или даже малый шанс ее появления чреваты непропорционально крупными, серьезными последствиям.

Мне представляется, что наилучшие надежды на получение достаточно удовлетворительного машинного перевода заключаются в замене сугубо механического перевода (по крайней мере, на начальном этапе) на человеко-механическую систему, где в роли критика будет выступать эксперт-переводчик, который станет обучать машину посредством упражнений, как школьный учитель наставляет учеников. Быть может, позднее в памяти машины накопится количество указаний от человека, достаточное для того, чтобы впредь отказаться от человеческого участия в процессе, за исключением, возможно, повторения этих инструкций время от времени. Тем самым машина сможет обрести лингвистическую зрелость.

Подобная схема не устраняет потребность в наличии опытного лингвиста-«посредника», чьим способности и авторитетные суждения не подлежат сомнению. Он сможет (не исключено, что не сразу, а в будущем) обрабатывать значительно больший объем переводного текста, нежели при отсутствии машинного помощника. По моему мнению, иных свершений от машинного перевода ждать не приходится.

До сих пор мы обсуждали необходимость присутствия критика, знакомого с человеческими ценностями, скажем, в системах машинного перевода, где механизировано все, кроме самого критика. Впрочем, если человеческий элемент нужно вводить в систему именно в роли критика, то вполне разумно внедрять его также и на других этапах процесса. Для переводной машины нисколько не обязательно условие, чтобы механические элементы системы выдавали единственный и законченный вариант перевода. Машина может выдавать разнообразие вариантов отдельных предложений в рамках принятых грамматических и лексических норм, тогда как за критиком остается чрезвычайно ответственная задача цензуры и отбора из машинного перевода тех фрагментов, которые наиболее точно передают смысл оригинала. При этом нет ни малейшего повода предоставлять переводной машине составление полностью замкнутых (законченных) фрагментов переводного текста, даже с учетом того, что данные фрагменты будут оцениваться и улучшаться критиком. Вообще исправления могут начинаться на гораздо более ранних стадиях перевода.

Сказанное мною о переводных машинах в равной или в еще большей степени относится к машинам, которые ставят медицинские диагнозы. Такие машины ныне очень модно включать во все планы развития медицины будущего. Они могут помочь врачам накапливать данные для диагностирования, но нет никакой насущной потребности в том, чтобы эти машины ставили диагноз самостоятельно, без участия врача. Подобная политика применения медицинских машин, если упорно ее придерживаться, может рано или поздно привести к росту заболеваемости и многочисленным смертям.

На родственную проблему, требующую совместного рассмотрения механических и человеческих элементов в сфере использования изобретений, обратил мое внимание доктор Гордон Рейсбек из компании «А. Д. Литтл, инк.». С точки зрения последующего использования любое изобретение следует оценивать не только по его сути (что именно изобретено), но и по тому, как оно может и будет служить человеку. Вторая часть указанной задачи зачастую куда сложнее первой, а методология ее решения разработана слабо. То есть перед нами проблема усовершенствования, которая, по существу, является задачей обучения, причем обучения не сугубо механической системы, а механической системы, взаимодействующей с обществом. Данный случай совершенно точно требует рассмотрения возможностей наилучшего совместного применения человека и машины.

Ту же насущность настоятельно демонстрирует задача использования и развития систем вооружения, которые соответствовали бы эволюции тактики и стратегии. Здесь тоже проблема использования не может быть отделена от проблемы автоматизации.

Важно понимать, что задача адаптации машины к реальным текущим условиям посредством правильного использования интеллекта переводчика, врача или изобретателя не является сиюминутной; мы будем с нею сталкиваться и должны ее решать снова и снова. Нынешнее состояние искусств и наук означает, что нам нельзя довольствоваться признанием за какой-либо отдельно взятой эпохой права на обладание абсолютной мудростью. Пожалуй, это наиболее очевидно применительно к социальному регулированию и внедрению обучаемых систем в область политики. В периоды относительной стабильности — если не в пространстве философии, то хотя бы в фактических обстоятельствах, создаваемых нами в окружающем нас мире, — мы благополучно можем игнорировать новые опасности наподобие тех, что стоят перед нынешним поколением, будь то проблемы бурного роста населения, создания атомной бомбы, широкого распространения медицины и т. д. Тем не менее, с течением времени нам придется пересматривать свои прежние оптимизации, дабы новая, уточненная оптимизация учитывала все проявившиеся факторы. Гомеостазис, будь то для индивида или для всего человеческого рода, представляет собой явление, самые основы которого рано или поздно подлежат пересмотру. Это означает, например, как я указал в статье для московского журнала «Вопросы философии»[29], что, пускай наука и вносит важный вклад в гомеостазис общества, оценка сути этого вклада должна производиться заново едва ли не каждым новым поколением. Позвольте здесь отметить, что гомеостазис на Западе и на Востоке в настоящее время достигается с намерением зафиксировать навеки концепции давно минувшего периода. Маркс жил в разгар первой промышленной революции, а мы уже давно живем в эпоху второй промышленной революции. Адам Смит принадлежал к еще более ранней и еще более устаревшей фазе первой промышленной революции. Перманентный общественный гомеостазис недостижим на основе жестких предпосылок о полной неизменяемости марксизма; в равной степени он не может быть реализован на основе стандартизованных представлений о свободном предпринимательстве и получении прибыли. Дело не в том, какова форма ригидности; смертоносна сама ригидность, какую бы форму она ни принимала.

В упомянутой статье мне показалось важным отметить гомеостатическую функцию науки и одновременно выступить против ригидности социального применения науки, будь то в России или где-нибудь еще. Посылая эту статью в редакцию «Вопросов философии», я предвидел, что мое отношение к ригидности вызовет острую реакцию; в результате мою статью опубликовали вместе с куда более длинной статьей, где со строго марксистских позиций объяснялись недостатки моего мировоззрения. Не сомневаюсь, что, будь моя статья впервые напечатана на Западе, я столкнулся бы с аналогичной, почти такой же строгой критикой с точки зрения наших собственных предрассудков, которые, пусть они, быть может, выражаются не столь догматично и формально, все равно сильны. Между тем тезис, который я выдвигаю, не является ни про-, ни антикоммунистическим; я выступаю лишь против ригидности, против догматизма. Потому здесь я высказываю свои идеи в той форме, которая не подразумевает конкретную оценку различий в опасностях, свойственных этим двум противоположным формам догматизма. Вывод, который мне хочется подчеркнуть, таков: трудности создания подлинного гомеостатического регулирования общества невозможно преодолеть, поменяв одну установленную схему, которая не подвергается постоянной переоценке, на другую установленную схему, аналогичную по форме и противоположную по содержанию.

Помимо переводных машин и тех, которые играют в шашки, существуют другие обучаемые машины. Некоторые из них могут быть запрограммированы на чисто механическую деятельность, а другие, подобно переводным машинам, нуждаются во вмешательстве человека-эксперта в роли арбитра. Мне кажется, что применение систем последнего типа должно намного превосходить использование систем первого типа. Более того, следует помнить, что в играх ядерных войн экспертов вообще нет и быть не может.

7

Мы выполнили задачу показать множество фактических аналогий между конкретными теологическими положениями и явлениями, которые изучает кибернетика, а также немало преуспели в том, чтобы убедительно продемонстрировать, что кибернетические идеи могут быть релевантными для решения моральных проблем индивида. Остается рассмотреть другую область приложения кибернетических идей к проблемам этического характера: кибернетику общества и рода человеческого.

С самого зарождения моего интереса к кибернетике я отчетливо осознавал, что принципы управления и коммуникации, применимые, с моей точки зрения, в инженерном деле и физиологии, равно применимы в социологии и экономике. Впрочем, я умышленно воздерживался от какого-либо обособления этих областей, как и всех прочих, и вот какими причинами руководствовался. Кибернетика — ничто, если она не опирается на математику, пусть не in esse, то хотя бы in posse[30]. Я установил, что математическая социология и математическая экономика, или эконометрика, страдают от неправильного понимания того, как надлежит использовать математику в пространстве общественных наук и чего можно ожидать от применения математических методов. По этой причине я намеренно избегал давать какие-либо рекомендации, поскольку был убежден, что они вызовут целый поток поверхностных и плохо продуманных работ.

Математическая физика стала, как выяснилось, одним из величайших триумфов нашего времени. Впрочем, лишь в текущем столетии задачи физика-математика были наконец правильно поняты, прежде всего в их взаимосвязи с задачами физика-экспериментатора. До критического периода 1900–1905 годов считалось, что основные понятия математической физики были полностью сформулированы в трудах Ньютона: время и пространство, масса и количество движения, сила и энергия казались понятиями, установленными раз и навсегда; дальнейшая задача физики сводилась к построению на основе этих понятий моделей, способных объяснить явления, еще не «уложенные» в указанные рамки.

Благодаря усилиям Планка и Эйнштейна стало ясно, что задача физики далеко не столь проста. Категории физики перестали восприниматься как абсолютная истина, выявленная в начале восемнадцатого столетия, а задачей физиков нашего времени стало пойти вспять по шагам ньютоновской науки, перенести наши количественные измерения окружающего мира в порядок, который начинается с эксперимента, а завершается новыми прогнозами наблюдений и соответствующими способами применения открытий на практике. Наблюдатель перестал быть сторонним регистратором своих объективных наблюдений, сделался, отчасти помимо своей воли, активным участником экспериментов. Согласно теории относительности и квантовой теории, роль наблюдателя при проведении наблюдений следует рассматривать как весьма существенную. Это открытие привело к рождению современного логического позитивизма[31].

Успехи математической физики заставили исследователей общества преисполниться ревности, пускай они едва ли понимали отчетливо интеллектуальную основу этой силы. Использование математических формул сопровождало развитие естественных наук и сделалось модным в науках общественных. Первобытные племена перенимали у Запада лишенные национальных примет одежды и парламентаризм, пребывая в необоснованной уверенности, будто эти магические облачения и обряды мгновенно позволят им приобщиться к современной культуре и технике, а экономисты завели привычку облекать свои весьма смутные рассуждения в строгий язык исчислений.

Поступая таким образом, они демонстрируют ту же недальновидность, какая свойственна новым африканским государствам, притязающим на равные права с бывшими метрополиями. Математика, которой пользуются социологи, и математическая физика, которую они берут за образец, есть математика и математическая физика 1850-х годов. Специалист по эконометрике может тщательно разработать оригинальную теорию спроса и предложения, управления товарными запасами, причин безработицы и пр., выказав при этом относительное или даже полное безразличие к методам, посредством которых эти изменчивые величины наблюдаются и измеряются. Такие количественные теории сегодня принимаются с тем же безоговорочным доверием, с каким физики менее просвещенного века, чем наш, относились к положениям ньютоновской физики. Лишь немногие экономисты сознают, что, если они действительно намерены подражать процедурам современной физики, а не просто перенимать их внешние черты, математическая экономика должна начинаться с критического пересмотра количественных характеристик и методов их накопления и измерения.

Накапливать надежные данные в физике трудно, однако намного труднее накаливать обширные своды экономических или социологических данных, с тем чтобы получить однородные показатели. Например, данные об объемах производства стали изменяют свое значение не только с каждым новым изобретением, которое изменяет технологию сталеварения, но и при каждой социальной или экономической перемене, оказывающей воздействие на бизнес и промышленность в целом, а в особенности — при каждом появлении технической новинки, изменяющей спрос на сталь или предложение и свойства конкурирующих материалов. К примеру, даже первый небоскреб, построенный из алюминия вместо стали, может определить весь будущий спрос на строительную сталь, как в свое время первое дизельное судно покончило с неоспоримым господством пароходов.

Следовательно, экономическая игра есть такая игра, где правила подлежат существенному пересмотру, скажем, каждые десять лет, и она вдобавок подозрительно напоминает королевский крокет из «Алисы в Стране чудес», о чем я уже писал. С учетом сказанного попросту бесполезно уделять пристальное внимание точности измерения величин, задействованных в такой игре. Приписывать особую точность подобным, расплывчатым по самой своей сути величинам бессмысленно и нечестно; любая попытка использовать строгие формулы для этих вольно определяемых величин представляет собой постыдную трату времени.

Здесь уместно вспомнить о недавней работе Мандельброта[32]. Он показал, что тот способ, каким товарный рынок подвергается, теоретически и на практике, случайным колебаниям, возникающим вследствие присущих ему несоответствий (и восприятия данного факта), есть явление, гораздо более хаотичное и глубокое, чем принято считать, и что обычные приблизительные ряды оценок динамики рынка должны применяться намного осторожнее — или не применяться вовсе.

Словом, общественные науки видятся малопригодной испытательной средой для идей кибернетики, куда более худшей, чем биологические науки, где данные накапливаются при условиях, которые более однородны с учетом свойственной этим наукам временной шкалы. Ведь человек как физиологическая система, в отличие от общества в целом, очень мало изменился со времен каменного века, а жизнь индивида характеризуется множеством лет, на протяжении которых физиологические условия изменяются медленно и предсказуемо. Это отнюдь не означает, впрочем, что идеи кибернетики неприменимы в социологии и экономике. Скорее, это означает, что данные идеи должны быть испытаны в инженерном деле и биологии, а уже потом допустимо переносить их в столь бесформенное пространство.

Памятуя о приведенных оговорках, можно сказать, что широко распространенная аналогия между телом политическим и телом физическим[33] вполне оправданна и полезна. Именно к политическому телу должны применяться многие этические принципы, которые затрагивают ту область религии, каковая, по сути, является парафразом этики.

8

На сем я завершаю серию очерков, объединенных общей темой творческой активности, от Бога до машины, и написанных под одним углом зрения. Машина, как я уже сказал, есть современный аналог голема, творения пражского рабби Лева. Поскольку я настаивал на рассмотрении вопросов творческой активности в единстве, без разделения на очерки, посвященные Богу, человеку и машине, мне не кажется, что я нарушил пределы общепринятой авторской свободы, назвав эту книгу

«Корпорация „Бог и голем“»

Библиография

Gabor, D. Electronic Inventions and Their Impact on Civilization. // Inaugural Lecture, March 3, 1959, Imperial College of Science and Technology, University of London, England.

Jacobs W. W. The Monkey’s Paw // The Lady of the Barge. Dodd, Mead, and Company. London. 1915. / Рус. пер.: Джейкобс У. Обезьянья лапка. // Шедевры английского готического рассказа.

Т. 1. М.: Слово, 1994. С. 425–442.

Samuel A. L. Some Studies in Machine Learning, Using the Game of Checkers. //IBM Journal of Research and Development, vol. 3, 210–229 (July, 1959).

Wiener N. Cybernetics or Control and Communication ii\ the Animal and the Machine. The Technology Press and John Wiley & Sons, Inc., New York, 1948. / Рус. пер.: Винер H. Кибернетика или управление и связь в животном и машине. М.: Советское радио, 1958.

Wiener N. The Human Use of human Beings; Cybernetics and Society. Houghton Mifflin Company, Boston, 1950.

Рассказы

Мозг

Занятный орган — человеческий мозг. Он управляет всеми ощущениями тела, а сам является совершенно нечувствительным, даже если резать его ножом. Можно умереть от легкого сотрясения, а можно пережить пробитый ломом череп без последствий, отделавшись разве что испорченным настроением. Нынче стало модно совать в мозг иголки и электроды в качестве метода врачевания разного рода депрессивных расстройств. Дурное это дело, совсем я его не одобряю. Подобные эксперименты порой заканчиваются сумасшествием пациента и почти всегда имеют непредсказуемое воздействие на его характер и способность принимать взвешенные решения.

К примеру, был в Чикаго один малый, занимался продажами в страховой компании и добился на этом поприще немалых успехов, да вот беда, временами у него бывали такие приступы депрессии, что коллеги всерьез гадали, в дверь он выйдет в конце рабочего дня или в окно. Руководство умоляло его пойти на операцию. И наконец он согласился. После удаления небольшого фрагмента префронтальной коры талантливый продажник стал продажником гениальным. В компании он побил все рекорды за время ее существования, и в знак признательности его сделали вице-президентом. Не учли одного — человек с префронтальной лоботомией в анамнезе, как правило, не силен в игре в наперстки. Едва обсуждаемый субъект перешел со знакомого ему поля продаж в мир крупных финансов, коллапс случился и с ним, и с вверенной ему компанией. Нет уж, лично я никому не позволю ковыряться в тонкой механике моей головы.

И тут мне как раз вспоминается произошедший на днях случай. Я принадлежу к небольшому кружку ученых, который имеет обыкновение раз в месяц собираться в закрытом кабинете маленького ресторанчика. Официальным поводом для встречи всегда является какая-нибудь научная публикация, но истинная причина кроется в том, что мы просто очень любим поболтать о самых разных вещах и предаемся этому занятию со всей разнузданностью. Педантам с тонкой нервной организацией на наших собраниях не место: высмеиваем друг дружку мы подчас беспощадно, а кому не нравится — так мы никого не держим. Сам я представляю собой нечто среднее между инженером и математиком, но большая часть моих товарищей подвизаются в медицине. А уж когда медики собираются кучей и начинают разглагольствовать на профессиональные темы… горе бедным нашим официанткам! Не стану утверждать, что свет электрических ламп становится синим, а в воздухе пахнет серой, но общую идею вы, думаю, уловили.

Доктор Уотерман среди нас пользуется большим уважением. Хотя он возглавляет государственную психиатрическую больницу, с виду его можно принять за процветающего владельца гастрономической лавки. Добродушный, толстый, приземистый, с усами как у моржа и ни намека на тщеславие. Обычно он приводит с собой какое-нибудь недоразумение — в этот раз его сопровождал высокий желтушный тип; имени его я не запомнил. У меня сложилось впечатление, что этот человек тоже из медицинских кругов, однако в его манере держаться чувствовалась некоторая скованность — такую иной раз можно наблюдать у геологов или инженеров, проведших долгое время вдали от цивилизации, где-нибудь в горах Кореи или в джунглях Борнео. В ней смешиваются неловкость от потери привычки находиться в человеческом обществе, излишняя застенчивость и гипертрофированная самокритичность. В самом деле, многим из этих ребят в первозданной глуши приходилось делать такие вещи, которые человеку цивилизованному трудно себе простить.

Уж и не помню, как речь зашла о фронтальной лоботомии — вроде кто-то из инженеров задал вопрос о целесообразности этой процедуры для своего душевнобольного дальнего родственника. У каждого из присутствующих было мнение на этот счет; некоторые высказались за, однако большинство, включая нейрохирургов, были настроены категорически против.

А дальше разговор перешел на автомобильные аварии и черепно-мозговые травмы у детей. Тема не самая аппетитная даже по меркам принятых в медицинской сфере бесед. Дискуссия разгорелась жаркая, мало кто слушал и замечал кого бы то ни было, кроме себя и своего непосредственного оппонента. И вдруг раздался грохот. Мы разом обернулись и увидели, что приятель Уотермана лежит на полу без сознания. На лбу у него выступили бисеринки пота. Уотерман присел рядом с ним и проверил пульс.

— Вряд ли что-то серьезное, — успокоил он нас. — Это пациент из нашей клиники, человек он весьма спокойный и воспитанный, вот я и решил, что ему полезно было бы немного развеяться. Страдает амнезией, мы и имени его не знаем. Наверное, зря я… Ладно, давайте вынесем бедолагу. Прерывать собрание нет необходимости.

Уотерман позвонил в больницу и велел прислать автомобиль, а кто-то из наших медиков поговорил с владельцем ресторана. Тот хоть сперва и растерялся, но потом велел нести пострадавшего в служебное помещение. А пациент наш тем временем стал понемногу приходить в себя. Было очевидно, что он находится в состоянии эмоционального возбуждения. Он бормотал что-то нечленораздельное, разобрать удавалось лишь отдельные слова — «банда», «маленький Пол», «Марта», «авария».

Уотерман принес из гардероба свою сумку и ввел пациенту успокоительное — вероятно, барбитурат. Вроде бы помогло.

Вскоре пациент открыл глаза. Голос его окреп, и речь стала вполне связной.

Уотерман — хороший врач и не мог упустить такой возможности.

— Это мой шанс, — обратился он к нам. — Может, теперь что-то расскажет… Полиция подобрала беднягу на улице полтора месяца назад. Не смогли добиться даже имени и привезли к нам. Пока известно лишь, что он был врачом, ну и нетрудно догадаться, что побывал в каких-то передрягах. Мы не особенно настаивали с расспросами, дали ему время набраться сил, но раз уж теперь у него развязался язык, надо действовать!

Удивительное зрелище — возвращение к человеку утраченной памяти. Уотерман профессионал в своем деле, наблюдать за его работой было удовольствием. Новая личность возникла на наших глазах, как появляется из-под воды подцепленный баграми утопленник. Я просто наблюдал, сам же Уотерман непрерывно фиксировал процесс в маленьком черном блокноте. Далее я привожу диалог по его записям.

Вопрос: Как вас зовут?

Ответ: Артур Коул.

В.: Вы врач?

О.: Да.

В.: Где вы учились?

О.: В чикагском медицинском. Двадцать шестой год выпуска.

В.: Где проходили интернатуру?

О.: В хирургии центрального благотворительного госпиталя в Чикаго. Знаете? В Саут-Энде.

Я смутно помню эту больницу — корявое здание из закопченного кирпича в самой сердцевине жутких мертвых улиц на стыке Саут-Энда и Вест-Энда.

В.: В хирургии? Любопытно… А была ли у вас какая-то специализация?

О.: Ну, конечно, на протяжении двух лет я брался за все, что мне давали, но больше всего меня интересовала хирургия мозга. Все как в тумане… Я совершенно забыл, что я нейрохирург.

В.: О, нейрохирург, значит… А что вы делали после интернатуры?

О.: Помню длинные коридоры, палаты на замках, решетки на окнах… Видимо, я работал в больнице для умалишенных, как же она называлась… Вот, припоминаю, психиатрическая лечебница округа Мередит. Штат Иллинойс, верно?

В.: Да, есть такой в Иллинойсе. А город не помните?

О.: Бакминстер. Нет! Леоминстер.

В.: Слыхал о нем. Сколько вам было лет, когда вы начали там работать?

О.: Около тридцати.

В.: А год вы помните?

О.: Тридцать первый.

В.: С вами была семья?

О.: Жена. Да, я был женат… Господи, где моя жена?! Что с ней?! Она здесь?! Марта! Марта!

Пациент стал кричать и метаться, и Уотерман произнес:

— Боюсь, придется добавить успокоительного. Введу минимальную дозу — не хотелось бы упускать такую возможность побольше о нем выяснить.

Препарат начал оказывать действие, и пациент понемногу затих. Несколько минут он молчал, глядя в одну точку. Затем Уотерман продолжил расспросы.

В.: Если хотите, чтобы мы вам помогли, помогите нам. Соберитесь. Как долго вы были женаты, когда поступили в Леоминстер?

О.: Меньше двух лет. Марта работала медсестрой в чикагском благотворительном госпитале. Ее девичья фамилия Соренсон. Она из Миннесоты, у ее отца пшеничная ферма где-то на границе с Северной Дакотой. Там прошла наша свадьба.

В.: А дети были?

О.: Да, мальчик. Пол. Вот теперь я все вспомнил…

Пациент уронил голову на руки и зарыдал, восклицая: «Где Пол? Где мой сын?»

Мне было неловко от того, что я стал свидетелем такого страдания.

Уотерман стоял у изголовья кушетки. Я привык видеть его в роли души компании — веселым и остроумным малым, ценителем соленых шуток, который никогда не лезет за словом в карман. И вот впервые я узрел перед собой Уотермана-врача — степенного и тактичного, сам голос его унимал боль лучше всякого анальгетика. Он был воплощением Асклепия, бога медицины.

В.: Прошу вас, успокойтесь, доктор Коул. Мы хотим помочь, но как — это способны подсказать лишь вы. Что еще вы помните о той больнице? Жили вы при ней?

О.: Первые несколько месяцев — да. Потом мы купили старый домишко в миле от нее. Марта считала, что его можно подлатать, хотя разгребать столько хлама… Мне это казалось непосильной задачей, но моя Марта сумела бы навести уют даже в свинарнике. Дом выходил на дорогу — на большое федеральное шоссе…

Голова Коула снова упала на руки, и он застонал:

— Тормоза… Визг тормозов, потом удар… Автомобиль перевернулся… И кровь на дороге, кровь! Все прямо на моих глазах, и я ничего не мог сделать!

Уотерман подал знак, чтобы мы молчали. Я остро чувствовал стыд от того, что вот так наблюдаю чужое горе. А Уотерман продолжал:

— Не пытайтесь сейчас сложить в голове цельную картину. Просто отвечайте на мои вопросы. Где находился этот дом? Какой-то городок по соседству?

О.: Да, совсем маленький. Горстка фермерских домов в прерии. Кроме них была разве что фабрика.

В.: Какая фабрика? Что на ней производили?.

О.: Я так и не понял. Местных было спрашивать бесполезно, наврут с три короба. Сами понимаете, в таком захолустье все обрастает сплетнями…

В.: И что были за сплетни?

О.: Одни говорили, что там гонят самогон, другие — что делают наркотики. Нехорошее было место, не нравилось мне оно.

В.: Чем же?

О.: Это было одноэтажное бетонное здание, уже рассыпалось от старости — стояло там, наверное, со времен Первой мировой. Я как-то прогуливался неподалеку, решил полюбопытствовать и не мог отделаться от ощущения, что за мной кто-то наблюдает. Близко подходить не посмел. Вокруг там все заросло лебедой, в канавах стояла грязная зеленая вода. Еще я видел остовы старых автомобилей и всякую ржавую сельскохозяйственную технику. И почти всегда там было совершенно безлюдно, лишь порой приезжала большая машина, всегда в сумерки.

В.: Какого рода машина?

О.: На вид вроде как шикарный лимузин, а едет…

В.: Вы видели человека в машине?

О.: Да, лимузин гнал мимо нашего дома на скорости восемьдесят миль в час… О, господи! Нашу машину разорвало в клочья, как намокший бумажный кораблик! А они были внутри! Маленький Пол… моя Марта… мой бедный сын!

Коул вновь утратил способность к членораздельной речи, от конвульсивных рыданий он весь сотрясался — прежде я видел такое лишь у лабораторных животных, на которых ставили опыты. Уотерман опять ввел ему препарат — не знаю, успокоительное ли или, наоборот, стимулятор. Через некоторое время Коул пришел в чувство.

В.: Что вы можете рассказать о том, кто сидел за рулем?

О.: Высокий, грузный, хорошо одет. Красный шрам через все лицо, от глаза к углу рта.

В.: Имя его вам известно?

О.: Вроде его фамилия была Макалузо, в городке его все знали, но не называли по имени и вообще редко заговаривали о нем. Прозвище у него было — Мозг.

В.: Он заправлял этой фабрикой?

О.: Вероятно. Я слышал от приятеля, что Мозг еще и грабитель банков. Скользкий тип, полиция давно за ним наблюдала, но все не могла поймать за руку.

В.: Что было после аварии?

Коул шевелил губами, будто слова никак не шли. Уотерман терпеливо ждал. Наконец Коул взял себя в руки и сквозь зубы процедил:

— Моей жене перебило позвоночник. Она больше не сделала ни шагу до конца своих дней. Мой мальчик разбил голову о переднее сиденье. Левая сторона черепа превратилась в бесформенную массу. В больнице мой коллега спас ему жизнь. Ну, то есть как… Пол превратился в слепой, глухой, парализованный, а в остальном здоровый овощ. При должном уходе он может пережить большинство нормальных детей. Сами понимаете… Такой уход ему не обеспечат в государственной больнице, так что нужны деньги, деньги, деньги… Или альтернатива — всю оставшуюся жизнь лицезреть перед собой это чудовище. Боже милостивый! Не может быть… Кошмарный сон…

В.: Вам не пытались компенсировать ущерб? То есть, понятное дело, такое ничем не исправишь, но ведь вам были нужны средства, чтобы обеспечить уход жене и ребенку.

О.: Пытались. Через несколько дней после аварии мне позвонил местный адвокат по фамилии Питерсон. В городе он слыл редким пройдохой. Поинтересовался, представляет ли кто-то мои интересы. Я назвал ему фамилию своего друга, Эпштейна, он занимался юридическими делами в нашей больнице. Эпштейн сразу велел мне больше не отвечать на звонки и до его прибытия не идти ни на какие переговоры.

В.: Что было дальше?

О.: Приехал Эпштейн, я спросил его, в чем причина таких предосторожностей, а он объяснил мне, что Питерсон — из шайки Макалузо. Еще рассказал мне о связях Мозга, в том числе и с властями округа. Было очевидно, что нам против него ничего не сделать. Тут как раз явился Питерсон — с напомаженными усиками, в сюртуке и с моноклем на черной ленте. Мне он сразу не понравился; впрочем, вел он себя обходительно.

В.: Так некую сумму он вам все-таки предложил?

О.: Он не уточнил, кого представляет, и подчеркнул, что никакой ответственности за инцидент на себя не берет. Предложил тридцать тысяч, если я не стану подавать в суд. Конечно, не в моем положении было отказываться… Но тут вмешался Эпштейн и заявил, что мы ничего не подпишем меньше, чем за пятьдесят, поскольку расходы на многолетнее лечение будут огромными. Питерсон изобразил возмущение, однако у меня хватило ума выслушать его тираду молча. В итоге он поднял сумму до пятидесяти тысяч долларов, и Эпштейн рекомендовал мне ее принять.

В.: Ну что ж, такая компенсация хотя бы решила финансовую проблему… Что было дальше?

О.: Для Пола сделать уже ничего нельзя. Он способен есть, способен существовать в вегетативном состоянии, но это уже не мой ребенок. Он прикован к постели, слеп, глух, парализован, не проявляет никаких следов интеллекта. Нам удалось устроить его в клинику, которая занимается такими пациентами, но от человека в нем уже ничего не осталось.

В.: А ваша жена?

О.: Ее лечили в государственной больнице в двадцати милях от города. Она поправлялась. Я уже начал прикидывать, как перестроить дом, чтобы она могла передвигаться по нему на коляске, думал переоборудовать кухню… Однако у нее давно были больные почки, а для парализованных это всегда слабое место. Она сгорела очень быстро. Через три месяца погрузилась в уремическую кому и уже не открыла глаза. Умерла поздней осенью. Коллеги были очень добры и позволили нам проводить вместе как можно больше времени. Хоронили ее на родине, в Миннесоте. Отец, угрюмый швед, почти все время молчал, но было видно, что горе его сломало.

В.: Полагаю, в Леоминстере после этого вас уже ничего не держало. Вы туда вернулись?

О.: Да. Ехал с похорон на поезде, прибыл на станцию около десяти вечера. И сразу обратил внимание на двух сомнительных молодцев, которые как будто поджидали меня. Один — здоровенный детина со сломанным носом, другой — тощий и желтолицый, нормального роста. На нем было узкое пальто, шляпа надвинута на самые глаза, руки он держал в карманах. Детина подрулил ко мне бочком и говорит сиплым голосом: «У нас для тебя есть работа. Боссу худо». Я говорю: «Какому боссу? Я его знаю?» А он мне: «Знаешь, знаешь. Его все знают. Мозгом зовут. Он тут ехал по шоссе на нормальной такой скорости, и восьмидесяти миль не было, а тут на дороге корова. В общем, корова в мясо, машина в хлам. Три раза перевернулась, пока летела. Босс весь расшибся о лобовое стекло, и на вид ему совсем худо. А мы люди такие, на глаза лезть не любим, да и ехал Босс по частному вопросу… Короче, нельзя его в больницу. А про тебя говорят, что ты в своем деле собаку съел. Ты нам подходишь. А не подходишь, так другого искать все равно некогда. Поехали, короче».

Я сказал, что мне нужно хотя бы зайти в больницу за инструментами, а тощий и говорит: «Вот что, ты мальчик большой, сам понимаешь, что надо слушаться. Прямо сейчас едем». И напарнику своему: «А ты, Мордатый, поменьше языком мели».

На станции никого, все вокруг закрыто, словом, позвать на помощь я не мог. Ситуация складывалась совсем нехорошая, но я подчинился. А что оставалось?.. Проехали мили полторы к бетонному зданию фабрики, окруженной зарослями лебеды и репейника. Кто-то снаружи крикнул: «Говори пароль!» Мордатый пробурчал что-то в окно, и нас пропустили. Потом меня схватили под руки и потащили в какой-то кабинет — неожиданно уютный и со вкусом обставленный, ничего подобного я увидеть не ожидал, глядя снаружи на эту заколоченную досками старую развалину с разбитыми окнами. Меня втолкнули в дверь, я зацепился за порог и рухнул ничком. А когда поднял голову, увидел, что меня ждут двое. Одного я знал — это был Питерсон, давешний адвокат Макалузо. Он помог мне подняться. Другой, в коричневом твидовом костюме, производил впечатление человека из деловых кругов. По имени к нему никто не обращался. Полагаю, это был представитель Мозга в среде большого бизнеса. Питерсон сказал мне: «Приношу извинения за некоторую бесцеремонность — увы, мы сейчас не в том положении, чтобы думать о манерах. Вы не пострадаете, если будете держать язык за зубами. С мистером Макалузо произошел несчастный случай. Мы не можем обратиться в больницу, это привлечет ненужное внимание. Поэтому нам необходима ваша помощь. Обещаю, вознаграждение будет щедрым». — «А если я откажусь?» — спросил я и похолодел. «В этом случае, доктор Коул, мы будем вынуждены принять меры по своей защите. Вы человек разумный, и сами понимаете, какими они будут». Помедлив, я решился. «Хорошо, я помогу. Где пациент?»

Меня препроводили в другой кабинет, за стеной — этот был обставлен с еще большей роскошью. Мозг восседал в кожаном кресле, запрокинув голову — лицо его побагровело, шрам стал ярче, рот был раскрыт. Дышал он с заметным трудом, от левой ноздри тянулся размазанный след запекшейся крови, струйку явно утерли минуту-другую назад. На лбу у него лежало полотенце. «Мистер Макалузо ехал по крайне деликатному вопросу, — сказал человек в твидовом костюме. — Автомобиль врезался в корову. Мистер Макалузо сильно ударился о лобовое стекло. Если информация о его состоянии куда-то просочится, это будет весьма нежелательно как для нас, так и, смею заметить, для вас».

Я снял полотенце. Макалузо смотрел перед собой пустым взглядом, зрачки его были разного размера. Я осторожно ощупал лоб — бесформенный, как битый арбуз. Питерсон с интересом наблюдал за моими манипуляциями, а человек в твидовом костюме изучал свои ногти и непроизвольно вскочил, когда скрипнули друг о друга раздробленные кости. Я уже понял, с чем имею дело — с вдавленным переломом на левой стороне лба — и объявил, что необходима немедленная операция, и нужно послать за моими инструментами. «Можете не волноваться, мы уже приняли меры на такой случай», — был ответ, и мне вручили медицинский саквояж с монограммой «Дж-М-К». Я не мог не спросить: «Это сумка доктора Макколла?» — «Вполне вероятно. Автомобильные замки в наше время никуда не годятся». Известие меня несколько обнадежило. Методы работы доктора Макколла в чем-то отличались от моих, однако я мог быть уверен, что инструменты у меня в руках хорошие. В моем распоряжении было все — трефин, хирургические подъемники, электрическая пила, амобарбитал, новокаин и спирт.

«Сумеете?» — спросил меня мой новый приятель, и я ответил утвердительно, хотя совсем не был в этом уверен. Я ощущал полное спокойствие и большую силу. Я оглядел кабинет, прикидывая, в чем бы вскипятить воды и где взять чистую ткань. Человек в твидовом костюме поймал мой взгляд. «Оперировать можете на столе. Если и останутся пятна, Мозг не станет держать зла. В уборной уже подготовлена горячая вода, в бельевом шкафу полно чистых полотенец. Вот вам помощник, он прежде работал в местной больнице, пока не угробил пациента. Зовите его Купидон. А ты, Купидон, не волнуйся. С нашим доктором можно говорить свободно».

Кто-то среди них и правда знал, как следует готовиться к операции. За неимением хирургических халатов нам с Купидоном принесли два чистых рабочих комбинезона, в которые мы и облачились. Затем пациента переложили на стол, и я принялся за работу. Первым делом я побрил ему голову и обработал кожу спиртом. Затем ввел новокаин. Дождавшись, когда препарат подействует, ввел местное обезболивающее в более глубокие ткани вокруг раздробленной переносицы. Общую анестезию я применять не хотел — в таких случаях важно наблюдать за тем, как сознание возвращается по мере ослабления давления на мозг. Затем снял фрагмент кожи черепа, и наконец трефин с хрустом вгрызся в кость.

Должен сказать, Купидон был неплохим ассистентом — он знал, когда нужно подать марлевый тампон с кровоостанавливающим зажимом, и, похоже, прекрасно понимал, что я делаю. Пожалуй, со скидкой на обстоятельства, с ним оказалось приятно работать.

Самым неприятным этапом операции была необходимость выпилить круговые отверстия в черепе и остановить кровотечение из твердой оболочки мозга. Я видел, что Макалузо приходит в себя, его дыхание стало тише и ровнее. Он открыл глаза. Зрачки снова приобрели одинаковый размер, взгляд стал осмысленным. «Где я? — спросил он одними губами. — Что случилось?» — «Не волнуйтесь, — ответил ему человек в твидовом костюме. — Произошла авария. Вы в надежных руках. Доктор Коул вас вылечит». — «Коул… — проговорил Макалузо. — Да, я имел с ним дело, он славный малый. Могу я поговорить с ним?» — «Я здесь, — отозвался я как можно спокойней. — Слушаю вас». — «Я сожалею о том неприятном инциденте. Вы настоящий кремень. Оставим это в прошлом. Вы ведь мне поможете?»

Наверное, не подцепи он меня вот так за живое, все закончилось бы иначе. Но тут я решился. Приложил все усилия, чтобы скрыть эмоции, но сам чувствовал, как белеет лицо. И Купидон сразу заподозрил неладное. Он бросил на меня очень нехороший взгляд, хоть я и заверил Мозга в своем намерении отнестись к нему со всей внимательностью. «Операция еще идет, — сказал я. — Попрршу вас лежать смирно и дать нам все закончить». Я уже знал, что собираюсь сделать, и едва ли прежде мне случалось провернуть такой ловкий трюк. Я решил свести счеты с Макалузо раз и навсегда.

«Что это вы делаете, док? — подал голос Купидон. — Как-то нехорошо это выглядит». Я оборвал его спокойным тоном: «Врач здесь я. Операция — моя ответственность, и уж будьте любезны не лезть мне под руку». Тощий тип из той парочки, что схватила меня на станции, повернулся к Макалузо и произнес: «Мозг, Купидон тут опять вякает». Пациент, конечно, по-прежнему находился в сознании — так безопаснее, к тому же поверхность мозговых оболочек нечувствительна. «Все в порядке, — произнес он. — Доктор мой друг. Пусть Купидон не мешает операции. Ишь, распоясался».

Я уже произвел санацию раны, и мне оставалась лишь одна небольшая манипуляция, прежде чем вернуть снятую кость черепа на место. «Эй, док, вы что…» — начал было Купидон, но тощий ударил его рукоятью пистолета по голове и рявкнул: «Закрой пасть!» Купидон рухнул на пол, из его уха побежал ручеек крови. Оказать ему помощь мне не позволили. Полагаю, у него был перелом основания черепа, даже не знаю, выжил ли он. Мне пришлось переступить через него, чтобы пойти в уборную и вымыть руки.

Когда я вернулся, человек в твидовом костюме протянул мне деньги. «Здесь пятьдесят тысяч, — сказал он. — Сами понимаете, в Леоминстер вы уже не вернетесь. Если мы встретим вас в этих краях, вы не жилец. Мы обеспечим вам дорогу до побережья, там сможете начать практику под другим именем. И смотрите, без глупостей». Я ничего не ответил. Деньги не имели для меня значения. Для меня ничего уже не имело значения. А Мозг бормотал из-под бинтов: «Дайте ему сотню, парни. Я прекрасно себя чувствую».

Я объяснил им, какой должен быть послеоперационный уход, и получил деньги — девяносто девять новеньких тысячных купюр и еще тысячу долларов купюрами по сто и пятьдесят. Также мне дали билет до Сан-Франциско. Мордатый тут же, посреди ночи, отвез меня в аэропорт и оставался при мне до самой посадки. В самолете я достал из кармана переднего кресла большой конверт, сложил в него все деньги, оставив себе несколько долларов на мелкие расходы, надписал адрес, окружной больницы и попросил стюардессу отправить почтой. В этом мире у меня больше не было ни долгов, ни денег, ни друзей. Я словно оторвался от реальности. Я мог отправиться куда захочу, но стремиться мне было некуда. Я сидел в холодном поту и чувствовал себя одной ногой в могиле. Вот и все, что я помню. Дальше в голове какая-то мешанина из трущоб, сортировочных станций, товарных вагонов, в которые я запрыгивал втихаря… Даже не знаю, как в итоге попал к мистеру Уотерману… Вроде бы полицейские нашли меня в подворотне и приняли за пьяного…

Речь Коула постепенно замедлялась — введенные ему препараты наконец возымели свой эффект, и несчастный погрузился в сон, в котором так сильно нуждался.

— Вы верите в эту историю? — спросил я Уотермана.

— Увы, — ответил тот. — Наш пациент определенно много пережил, однако все, что мы сейчас услышали, вполне может оказаться плодом воспаленного воображения. Я не совсем понял, что именно он проделал с Макалузо, прежде чем закрыть рану. Что такого особенного в операции на вдавленном переломе черепа? У вас есть соображения?

— Никаких, — сказал я. — Он мог убить Макалузо на месте, но не убил. А что именно он сделал, я не представляю.

Вдалеке послышался нарастающий вой сирены. Подъехала машина из больницы Уотермана. Два ловких медбрата под руководством интерна в белом халате подхватили Коула, переложили на носилки и унесли.

У Уотермана был усталый вид. Некоторое время мы курили в полном молчании. Вдруг Уотерман заметил:

— Он что-то обронил. Глядите-ка, бумажник.

Внутри обнаружилось несколько монет и какие-то мелочи, которые были положены туда уже в больнице, но Уотерман продолжал вертеть находку в руках.

— У таких бумажников часто бывает секретное отделение… Вот, пожалуйста!

Он хитрым образом вывернул бумажник, и изнутри выпала газетная вырезка.

Это была небольшая заметка, вышедшая около двух лет назад. Она гласила:

ШАЙКА «МОЗГА»

УНИЧТОЖЕНА

Пресечена попытка ограбления банка

Злоумышленники не сумели скрыться с сотней тысяч долларов

Далее в статье излагалось, как Макалузо и его пособники ворвались в банк с оружием, однако служащие оказались готовы к такому повороту событий и сами выхватили пистолеты. Те грабители, что уцелели в перестрелке, попытались спастись бегством, но уйти смогли только до железной дороги, где путь к отступлению им отрезал скорый поезд. Выживших не осталось. В заключении автор удивлялся тому, что Мозг, известный своим хитроумием и способностью все предусмотреть, впервые пренебрег простейшей осторожностью и элементарным здравым смыслом.

Уотерман глубокомысленно пыхтел трубкой.

— Ничего не понимаю, — признался я. — Что там все-таки произошло?

— Не могу сказать наверняка, — ответил Уотерман, — но некоторые предположения есть. Во время операции лобная доля мозга Макалузо была перед Коулом как на ладони. Думаю, ему хватило нескольких секунд, чтобы сделать надрез и произвести лоботомию. Это не довело пациента до сумасшествия, тем не менее лишило его способности планировать сколько-нибудь сложные предприятия.

Я выдохнул колечко дыма и произнес:

— Скверная история. Но, как ни крути, блестяще выполненная операция.

Чудеса из чуланчика

У всякого своя Мексика. Для кого-то это рыбная ловля в Акапулько и традиционная фотография с лучшим трофеем. Турист гордится величиной пойманной рыбы, а рыба, вероятно, — ростом и весом поймавшего ее американца. Для кого-то Мексика — это обязательные солнечные ванны на лужайках Куэрнаваки. Полагаю, все эти люди по будним дням становятся преуспевающими фабрикантами из Мехико или знаменитыми врачами, но я видел их только в окружении чад и домочадцев, одетыми в купальные костюмы из набивного ситца. Я слыхал даже, что есть некоторое количество смельчаков, поднимавшихся на вулкан Попокатепетль, и чуть меньшее количество спустившихся с него обратно, однако не стану утверждать наверняка, ибо не видел таковых своими глазами.

Лично у меня Мексика совсем иная. Это очень строгое и серьезное здание, водопроводные трубы в котором размечены тремя разными цветами, а в лабораториях чуешь запах, характерный для научных лабораторий в любой точке земного шара. Моя Мексика — это совместная работа с моим другом-физиологом. Имени его я не называю по ряду причин, которые вскоре станут вам очевидными. Моя Мексика — это группа умных и образованных молодых энтузиастов разных национальностей, которые не прочь иногда пошутить друг над другом, прилежно и упорно двигая химию, физиологию и множество других наук. А еще это Себастьян.

Себастьян служит у нас уборщиком. И боже упаси меня предположить, что он обыкновенный уборщик. О нет, наш Себастьян всем уборщикам уборщик. Когда я впервые его увидел, он располагал весьма пышной манерой изъясняться и такими же пышными усами. Увы, ныне от этих усов остались лишь воспоминания, хотя есть у меня основания заподозрить, что они вовсе не канули в Лету, а были украдены одним из наших юных химиков. Почти уверен, что они мелькали на ком-то в коридоре.

Так вот, когда мы познакомились, Себастьян умел пышно изъясняться лишь на одном языке. Замечу, когда очередная научная статья обсуждалась в лаборатории перед отправкой в печать, первым делом задавался вопрос: «А сказал бы так Себастьян?» С тех пор прошло много времени, и в этих стенах побывало немало иностранных ученых — преимущественно из Северной Америки. Английский сделался в лаборатории вторым языком, и Себастьян уже наловчился строить на нем формулировки не менее рафинированные, чем на испанском. Он крайне высокого мнения о международной науке и говорит о ее представителях с большим пиететом.

То есть взглядов Себастьян придерживается интернациональных, но его никак не назовешь безродным космополитом. Он мексиканец до мозга костей и, как положено мексиканцу, весьма набожен. В маленьком чуланчике, где хранятся метла, у него оборудован алтарь, на манер тех, что мексиканские шоферы устраивают у себя под лобовым стеклом. Стоит ли говорить, что святой, которому он возносит молитвы — это именно святой Себастьян? Конечно, на алтаре у него найдется и изображение Святой Девы Гваделупской напомню, речь все-таки идет об истинном мексиканце, — однако главная фигура, разумеется, это пронзенный стрелами римский легионер со страдальческим лицом, что вполне понятно, учитывая обстоятельства.

Теперь же я перейду к изложению одного печального события, которое имело место несколько лет назад и чуть не погубило наше небольшое, но преуспевающее заведение.

Все началось с того, что шефу пришла в голову фантазия заглянуть не куда-нибудь, а в государственный ломбард. На вопрос «зачем» ответа я дать не могу, это находится за пределами моего понимания. Вероятно, не обошлось без влияния американских подружек его супруги, уверенных, что ломбард — кладезь всякого рода колониальных украшений. В числе выставленных на продажу лотов был набор разномастных скобяных изделий — совершенно никому не нужных и потому отдаваемых за бесценок. А в лаборатории, надо сказать, таким штукам всегда найдется применение — тут прикрутить, там зажать; словом, когда шеф увидел эту кучу металла за полпесо, он счел ее выгодным приобретением.

В куче был преимущественно хлам вроде рамок для фотокарточек, огрызков меди и дешевой бижутерии, но шеф положил глаз на железные пруты. Как раз такие были нужны ему для сборки нового осциллографа. Осциллограф этот расположили ровно напротив двери в чуланчик, который Себастьян использует для хранения своих рабочих принадлежностей и отправления культа.

Атрибутом идеального ученого является совершенная беспристрастность суждений, однако на протяжении всей своей карьеры — а это более сорока лет на трех континентах — я идеального ученого не встречал. Меньшее из желаний, кои движут человеком науки, — получить результат, пригодный для публикации. Но главное из желаний — доказать, что профессор такой-то из Патагонского университета с последним своим заявлением сел в лужу.

Как бы я ни восхищался своим мексиканским коллегой, не могу не признать, что и ему эта человеческая слабость присуща в полной мере. О нет, он любит позлорадствовать не меньше любого другого человека, а за долгую и успешную научную карьеру поводов для злорадства у него было предостаточно.

Незадолго до событий, которые я намереваюсь описать, профессор Хальбвиц — прежде работавший в Шпицбурге, но после вынужденного отъезда с родины принятый в Патагонский университет — опубликовал работу о нервной проводимости. Ряд ее положений вызвал у моего друга резкое несогласие. И оспаривать их он начал с того, что в патагонском эксперименте использовался усилитель немецкого производства, который не выдерживает никакой критики по сравнению с применявшимся у нас американским аппаратом.

Действительно, несовпадение результатов, полученных у них и у нас, было совершенно очевидно. Также он выразил сомнение в качестве применявшихся Хальбвицем электродов. Надо заметить, что «плохие» и «поляризованные» электроды были и остаются излюбленным аргументом в спорах электрофизиологов.

Вскоре уже вся лаборатория знала, что битва между шефом и герром профессором Хальбвицем развернулась не на жизнь, а на смерть. Самые циничные из наших молодых коллег делали ставки на исход, причем ставки немалые — очевидно, потому, что шеф чаще всего выходил в таких случаях победителем. Однако Себастьян наш, как человек степенный и благородный, не мог выражать чувства по поводу происходящего столь примитивным и недостойным путем. Шеф, вверенный попечению Себастьяна, шеф, являвшийся национальным достоянием Мексики, шеф, к которому Себастьян не раз приглашал цирюльника и чистильщика ботинок прямо в кабинет — к немалому его, шефа, смущению, — так вот, этот шеф не мог быть не прав и вместе с тем, вопреки всякой логике, остро нуждался в помощи небес для доказательства своей правоты. Не мне рассуждать о красноречии, с каким Себастьян взывал к своему святому — где уж с моими скромными лингвистическими способностями отдать должное красотам его испанского. Так или иначе, результаты истовых молитв не заставили себя ждать. Мексиканские электроды работали превосходно, американские усилители функционировали так, что целая комиссия Эдисонов не нашла бы, к чему придраться. Работа шла гладко, и герр Хальбвиц, казалось, уже был обречен низвергнуться обратно в надмирную тьму, откуда и явился.

Увы, как бы ни были убедительны получаемые нашей лабораторией результаты, они не имели никакого эффекта на поток публикаций из Патагонии. Герр профессор Хальбвиц штамповал одну статью за другой, упорствуя в своих совершенно бездоказательных утверждениях. Противостояние растянулось на долгие месяцы и наконец привлекло внимание наших коллег из нью-йоркского Института Морганбильта. У шефа там был старый друг, доктор Шлималь, и он вызвался повторить наш эксперимент. Мы пребывали в полной уверенности, что наши результаты полностью подтвердятся, однако вскоре получили из Нью-Йорка весьма неожиданное письмо. Доктор Шлималь, рассыпаясь в извинениях, писал, что не смог воспроизвести наших показателей, вероятно, ошибочно поняв условия нашего эксперимента, и его результаты совпадают с теми, что фигурируют в патагонских публикациях. Подробное письмо с нашей стороны ничуть не улучшило ситуацию — выяснилось, что Шлималь с самого начала все верно понял и действительно повторил наш эксперимент. Положение было чудовищным. К тому моменту противостояние двух ученых уже перешло на личности. В аргентинской газете вышла статья о тлетворном влиянии Северной Америки на мексиканскую науку и о том, что государственной задачей Аргентины должно стать утверждение своего превосходства во всех сферах интеллектуальной деятельности. За ней последовала довольно шовинистическая статья в «Вестнике американской медицинской ассоциации», содержащая пренебрежительную оценку всех успехов латиноамериканских стран на научном поприще.

А мы продолжали получать те же результаты. Нервы у шефа натягивались все сильнее. И не избежать бы взрыва, если бы не удачное стечение обстоятельств: как раз в этот момент другой наш эксперимент в совершенно иной области увенчался успехом, и это спасло репутацию лаборатории. И все же по сей день имя профессора Хальбвица здесь стараются не упоминать, слишком уж это унизительно.

Тогда у нас не было ни намека на понимание, как все это могло произойти. А потом вскрылся любопытный факт. Шеф заглянул в ту самую приобретенную в ломбарде коробку со скобяным ломом, намереваясь перебрать содержимое и выкинуть ее к чертям, и вдруг обнаружил на дне пожелтевший листок, завалившийся меж двух металлических пластин.

Из написанного на листке следовало, что коробка принадлежала мексиканскому священнику и заключает в себе то, что он извлек из развалин одной из ранних церквей. Церковь была посвящена святому Себастьяну, и священник предполагал — без доказательств, но и не совсем без оснований, — что эти предметы являются реликвиями, и среди них могут быть даже фрагменты тех самых стрел, от которых святой принял мученическую смерть.

Не могу знать, как именно орудия казни святого Себастьяна приобрели чудесную силу, но у нас есть Животворящий Крест как прототип, а реликвиями бывают самые разные вещи… Иисус Навин в свое время остановил солнце, и это, конечно, было чудо особо крупного размера, но ведь в рамках науки бывают чудеса и поменьше. Скажем прямо, чтобы нарушить ход научного эксперимента, чудо потребно микроскопическое, а наш-то проводился в непосредственной близости от стрел святого Себастьяна и взывающего к нему набожного мексиканца… В конце концов, едва ли римского легионера взволновали бы нужды современной науки, а вот горячие мольбы простой души могли вызвать у него понимание.

Гипотеза, конечно, неподтвержденная, однако я заметил, что с тех пор шеф явно избегает применения в работе любых материалов из источников, имеющих малейшее отношение к церкви. Не могу сказать, что он стал более религиозен, скорее, он очень раздосадован. А еще в прошлом году к нам в лаборанты хотел поступить юноша по имени Себастьян — и получил от ворот поворот. Подозреваю, что отказ не был связан с его профессиональными навыками.

Так или иначе, мораль сей краткой истории — если в ней вообще есть мораль — будет такова: пусть человек веры и человек науки не вмешиваются в дела друг друга, а лучше остаются при своих. Меж тем, Себастьян-уборщик живет и процветает и, видимо, от довольства собой, снова взялся отращивать роскошные усы.

Примечания

1

«The Human Use of Human Beings».

2

Международный философский коллоквиум (фр.). — Здесь и далее примеч. ред.

3

«Верю, потому что невозможно» (лат.).

4

Цитата из романа американского писателя Сэмюела Г. Адамса «Кэнал-таун» (1944); в романе этот вопрос задает старший проповедник общины пресвитериан. По апокрифическому преданию времен американской революции, этот вопрос задавался духовным наставником всякому, кто желал вступить на путь служения Господу.

5

Чаще «парадокс Рассела» в теории множеств. Имеются в виду попытки вывести логическую основу для арифметики; в наиболее общем виде эти попытки суммировал немецкий логик Г. Фреге в работах «Основания арифметики» и «Основные законы арифметики». Английский логик и философ Б. Рассел чуть позднее обнаружил в логической теории Фреге парадокс, демонстрирующий противоречивость этой системы. Сам Фреге в приложении ко второму тому «Основных законов арифметики» (1903) писал: «Вряд ли с ученым может приключиться нечто худшее, чем если у него из-под ног выбивают почву в тот самый миг, когда он завершает свой труд. Именно в таком положении оказался я, получив письмо от Бертрана Рассела, когда моя работа уже была завершена».

6

Американский математик Чарльз Бутон в 1902 г. опубликовал исследование математической игры, которой он дал название «ним». Суть игры заключается в том, что два игрока поочередно берут по предмету из нескольких кучек; побеждает тот, кто возьмет предпоследний предмет (игра типа «мизер»). Считается, что это древняя восточная игра — возможно, китайского происхождения. В своей работе Ч. Бутон описал тактику выигрыша для «нормального» варианта игры, когда победителем признается тот, кто берет последний предмет.

7

Английские (draughts) и американские (checkers) шашки различаются лишь названием, а в остальном идентичны — по 24 шашки на доске 8x8; под континентальными (dames) шашками, вероятно, имеется в виду международный вариант шашек — 40 фигур на доске 10x10.

8

Синкретическое религиозное учение, суть которого состоит в признание равноправного существования двух начал мироздания, противоположных друг другу — Света и Мрака. Сегодня считается, что манихейство восходит к гностическим учениям на основе раннего христианства, а зороастрийский «след» на самом деле объясняется влиянием иудаизма.

9

Имеется в виду герой одноименной драматической поэмы Д. Г. Байрона, который на смертном одре проклинает религию, якобы сулящую искупление грехов.

10

Букв. «удар милосердия», завершающий удар (фр.).

11

В 1980 г. компьютер Deep Thought впервые победил шахматного гроссмейстера-человека; в 1997 г. компьютер Deep Blue выиграл матч у Г. Каспарова; в 2006 г. чемпион мира В. Крамник проиграл программе Deep Fitz.

12

Схема репликации генов через расщепление двойной спирали ДНК должна по необходимости дополняться полноценным описанием динамики этого процесса, иначе процедура окажется незавершенной. — Примеч. автора.

13

Эти правила (также «законы») позволяют рассчитывать соотношения токов и напряжений в любых электрических цепях; сформулированы немецким физиком Г. Кирхгофом в 1845 г.

14

Позвольте объяснить, что такое «дробовой шум». Электричество не течет непрерывно, оно представляет собой поток заряженных частиц, каждая из которых обладает одноименным зарядом. Обычно эти частицы движутся не фиксированными интервалами, а распределяются случайно и накладываются на постоянные колебания электрического тока, независимые для не перекрывающихся интервалов времени. В результате возникает шум, равномерно распределенный по частоте. Нередко этот шум воспринимается как дефект, ограничивающий пропускную способность линии тока. Однако в ряде случаев (например, в описываемом нами) мы стремимся получить именно такие нерегулярности — и существуют патентованные устройства для их воспроизведения. Они называются генераторами шума. — Примеч. автора.

15

Из самого факта (лат.).

16

Фраза С. Батлера из романа «Жизненный путь» (1877).

17

Испанская инквизиция использовала два типа «покаянных балахонов»: один, с красным Андреевским крестом, предназначался для раскаявшихся еретиков, другой, расшитый изображениями монахов, драконов и бесов, предназначался для упорствующих. Приговор выносился клириками, но исполнять его полагалось светским властям.

18

Согласно народному преданию начала XVII века, голема сотворил знаменитый пражский каббалист и алхимик Лев бен Бецалель (рабби Лев), действительно поддерживавший достаточно близкие отношения с императором Рудольфом.

19

Деян. 8:18–24.

20

Святокупцы находятся в 3-й щели 8-го круга дантовского Ада; ниже еще 8 щелей и 9-й круг. Здесь терзается папа римский Николай III, и сюда же попадут папы Бонифаций VIII и Климент V.

21

Имеется в виду пароатмосферная машина с поршнем, построенная в 1705 г. английским механиком Т. Ньюкоменом. Легенда приписывает честь «привязывания веревки» некоему X. Поттеру, по имени которого впоследствии устройство, управлявшее автоматическим открыванием и закрыванием клапанов, стали называть «поттеровской веревкой».

22

Авторская вольность; стихотворение Гете, где изложение ведется от лица ученика, заканчивается назидательным пассажем — мол, духи подчиняются лишь настоящему чародею, а не недоучке; о наказании ученика речи не идет. Сюжет стихотворения и описания действующих лиц изложены по переводу Б. Пастернака.

23

Бога из машины (лат.), то есть с привлечением дополнительного фактора.

24

Последнего довода (лат.).

25

Это выражение стало употребляться в англоязычной культуре после Первой мировой войны; оно бытует во множестве форм («солдаты» вместо «полководцев» и «генералов», разделение на «хороших» и «дурных генералов» и т. д.). Считается, что первым эту фразу изрек Наполеон — в формулировке: «Генералы всегда готовятся к прошедшей войне»; в англоязычную среду эту формулировку ввел У. Черчилль, а в дальнейшем она распространилась в разнообразных вариантах.

26

Имеется в виду Эпиктет, один из основоположников стоической философии.

27

Имеются в виду технические приборы для получения и распространения колебаний (электрических, звуковых и пр.).

28

Справедливость авторской точки зрения наглядно проявляется в современных системах онлайн-перевода, в работе которых учитываются грамматические структуры, контекст словоупотребления и существующие (заложенные в память системы) образцы правильных переводов того или иного слова или выражения с одного языка на другой.

29

Винер Н. Наука и общество // Вопросы философии, 1961. № 7. С. 117–122. См. также: Послесловие к статье Н. Винера «Наука и общество» // Вопросы философии. 1961. № 7. С. 123–131.

30

Фактически… потенциально (лат).

31

Также неопозитивизм, направление философии, связанное с именами (если перечислять лишь некоторые) Б. Рассела, Л. Витгенштейна, М. Шлика, К. Гемпеля и Р. Карнапа. Основной тезис этого учения можно сформулировать так: лишь высказывания, верифицируемые через эмпирические наблюдения, могут считаться содержательными и осмысленными.

32

Бенуа Мандельброт — франко-американский математик, создатель фрактальной геометрии. Автор ссылается на его статью «Изменение ряда спекулятивных цен» (The Variation of Certain Speculative Prices); cm.: The Journal of Business, Vol. 36, No. 4 (Oct., 1963), pp. 394–419.

33

Восходящая к английской юридической практике XVI столетия концепция двух «тел» монарха, позднее расширенная и получившая философское толкование в «Девиафане» Т. Гоббса, на который, собственно, и ссылается автор: «Политическими (иначе называемыми политическими телами и юридическими лицами) являются те группы людей, которые образованы на основании полномочий, данных им верховной властью государства». См. Гоббс Т. Избранные сочинения. В 2 т. М., 1989–1991. Т. 2. С. 174 и далее.

Content

Винер Норберт Корпорация «Бог и голем»

Корпорация «Бог и голем»

Предисловие

1

2

3

4

5

6

7

8

Библиография

Рассказы

Мозг

Чудеса из чуланчика

Примечания