Питер Дж. Бентли

Всё об искусственном интеллекте за 60 минут

0 Short Lessons in Artificial Intelligence and Robotics

Written by Peter J. Bentley

First published in Great Britain in 2020

by Michael O’Mara Books Limited

Copyright © Michael O’Mara Books 2020

© Ивашечкин А. А., пер. с англ., 2020

© ООО «Издательство АСТ», 2020

Предисловие

Я вырос в 1970-е, когда еще не было интернета, Всемирной паутины, а первые доступные для домашнего использования компьютеры только появились. В те дни нужно было быть таким же гиком, как я, чтобы интересоваться компьютерами. Да, я был таким ребенком – застенчивым в школе, но активным дома, когда конструировал странноватых роботов, занимался программированием, писал простые компьютерные игры. Я мечтал о новом компьютере так, как другие дети грезили о Lamborghini. Таком потрясающем, но таком недостижимом! Искусственный интеллект – попытки заставить мой компьютер думать, имитировать биологическое поведение и управлять роботами – был моей детской страстью. Но окружающим эта страсть казалась столь же непонятной, что и филателия сегодня.

А потом все изменилось. Довольно резко. Научная фантастика стала реальностью. Компьютеры правят миром. Потоки данных сопровождают все наши действия. Роботы на фабриках производят различные товары. В наших домах полно гаджетов, мы можем общаться с цифровыми домашними помощниками и получать подробные и понятные ответы. Всем этим за кулисами управляет искусственный интеллект. Так моя детская страсть стала не только мейнстримом, но и одним из наиболее важных видов современных технологий.

Сегодня вы не можете жить в мире, не взаимодействуя с искусственным интеллектом (ИИ) или роботами или не подвергаясь их воздействию. Каждый раз, когда вы совершаете покупки, ИИ проводит операции с вашими деньгами, проверяет, нет ли мошенничества, использует ваши данные, чтобы лучше вас понять и порекомендовать вам новые продукты. Когда вы ведете машину, ИИ помогает ей двигаться безопасно, наблюдает за ней с дорожных камер и автоматически меняет ограничения скорости, считывает номерной знак и контролирует движение. Каждый раз, когда вы публикуете что-то в социальных сетях, ИИ анализирует тексты, чтобы определить их тональность при помощи ключевых слов. Когда вы читаете новостные статьи или блоги в интернете, ИИ следит за вашей деятельностью и старается предложить вам больше контента, который может вас заинтересовать. Каждый раз, когда вы делаете фото, ИИ корректирует настройки камеры для получения наилучшего результата, а также он способен распознать людей, изображенных на снимке. Боты, которые отвечают на ваши вопросы онлайн или по телефону, тоже создаются с помощью ИИ. В вашем доме есть умные телевизоры, холодильники и стиральные машины, центральное отопление, системы кондиционирования воздуха – во всех этих устройствах есть ИИ. Мировая экономика управляется ИИ, торговые операции осуществляются ИИ, и даже решения о том, стоит ли нам покупать различные финансовые продукты, тоже принимаются ИИ. Они разрабатывают антивирусные и антибактериальные препараты. Водо– и электроснабжение, газ, мобильная сеть и подключение к интернету настраиваются с помощью специализированных алгоритмов ИИ, которые призваны оптимизировать трафик и минимизировать потери. Вы взаимодействуете с тысячей ИИ в день, хоть и не знаете обо всех.

В этой книге я попробую объяснить, как такое стало возможным, как это все работает и что значит. Это карманный путеводитель, поэтому буду краток и постараюсь не утомлять вас подробными техническими описаниями. Я не стану объяснять каждую техническую особенность и рассказывать о каждом пионере ИИ – для этого потребовалась бы тысяча книг такого размера, и с каждым днем их становилось бы все больше и больше (прогресс не стоит на месте!). Вместо этого я предлагаю отправиться в короткое путешествие по этому странному миру компьютеров, роботов и ИИ. Я покажу вам его главные достопримечательности и объясню некоторые фундаментальные идеи, лежащие в основе ИИ и робототехники. Порой вам будет казаться, что наше путешествие напоминает американские горки, ведь ИИ уже прожил удивительно долгую жизнь и у него были свои взлеты и падения. Но как бы то ни было, ИИ создан для того, чтобы изменить наш мир к лучшему, хоть иногда он и становится причиной глобальных проблем. Короче говоря, пристегнитесь и наслаждайтесь поездкой!

Питер Дж. Бентли

01. Путешествие в тысячу миль начинается с первого шага

Я с уверенностью предсказываю, что в ближайшие десять или пятнадцать лет в лаборатории появится нечто, совсем не похожее на робота из научной фантастики.

КЛОД ШЕННОН (1961)

Представьте, что вас окружают здания и статуи в классическом стиле. Вы прогуливаетесь по мощеным улицам красивого греческого острова и любуетесь видами. Зной спал, уступив место приятной прохладе. Лавки с фруктами и рыбой закрылись, а вслед за ними исчезли шум и суета повседневной жизни. Только звуки ваших собственных шагов отдаются эхом между богато украшенными домами. На углу улицы глаз выхватывает неожиданное движение. Но там никого нет. Вы пристально вглядываетесь.

Каменная статуя – она двинулась! В изумлении вы подходите ближе, чтобы рассмотреть ее. Вам кажется, будто она дышит, будто ее грудь вздымается и опускается. Вы продолжаете смотреть на статую, и ее голова поворачивается влево, а затем вправо. Вы понимаете, что эта статуя не единственная – двигаются все статуи вокруг, кажется вам. Переминаются с ноги на ногу, жестикулируют – словно ведут молчаливый каменный разговор. Они медленно оживают с наступлением ночи? Приглядевшись, вы замечаете, что во всех статуях, похоже, скрыты механизмы со стрекочущими винтиками и колесиками. Вы на острове каменных роботов.

Античные роботы

Место действия – греческий остров Родос 2400 лет назад, (еще до того, как там возвели гигантскую статую Гелиоса, бога солнца, – Колосс Родосский). Этот удивительный остров славился своими механическими изобретениями, в том числе выполненными из мрамора в натуральную величину автоматонами. Древнегреческий поэт Пиндар посетил Родос и рассказал о нем в стихотворении:

Ожившие фигуры стоят,

Украшая каждую городскую улицу,

И камень дышит,

А мраморные ноги движутся.

Может показаться невероятным, что еще до образования Римской империи, в 400 году до нашей эры, существовали такие технологии. Но многие подобные античные изобретения документально подтверждены.

Приводимые в движение водой или собственным весом рычащие механические львы, поющие металлические птицы и даже механические люди, играющие вместе в ансамбле. Утверждали, что у царя Соломона, правившего, по одной из версий, с 970 по 931 год до нашей эры, был механический золотой лев, который поднимал лапу, чтобы помочь царю подняться на трон, и орел, который водружал корону на его голову. В древнекитайских текстах встречается история о механическом человеке, подаренном царю Му-вану мастером Ян Ши. Архит Тарентский, основатель математической механики, философ и друг Платона, живший с 428 по 347 год до нашей эры, сконструировал механического голубя – летающего деревянного робота, приводившегося в движение паром. Герон Александрийский (10–70) написал целую книгу о создании автоматонов и о том, как может быть использована гидравлика, пневматика и механика. Герон также сконструировал первый механический кукольный театр, представлявший собой небольшое архитектурное сооружение. Куклы управлялись сложной системой нитей разной длины и исполняли в рамках спектакля различные номера, в том числе танцевальные.

Увлечение механической «жизнью» продолжалось и в Средние века. Бесчисленные умельцы создавали механические чудеса, предназначенные для развлечений. К XVIII веку изобретатели автоматизированных фабричных машин, сделавших возможной промышленную революцию, подняли это занятие на новый уровень. Удивительные паровые механизмы внезапно заменили людей в таком трудоемком процессе, как ткачество, для которого раньше всегда требовались обученные рабочие, и машины теперь могли создавать более тонкую ткань быстрее, чем люди когда-либо прежде. И хотя это повлекло за собой сокращение рабочих мест, появились целые новые отрасли промышленности, поскольку громадные машины нуждались в постоянном уходе и обслуживании.

Шли десятилетия, и машиностроение развивалось все стремительнее. Поезда, автомобили, самолеты и фабрики со сложным оборудованием стали обычным явлением. Вместе с зависимостью от автоматических машин росло и очарование роботами и их сходством с живыми существами, проникавшее в литературу и кино. Вероятно, это не случайность, что в двух самых ранних научно-фантастических фильмах, «Метрополис» (1927) и «Франкенштейн» (1931), речь идет о сумасшедших изобретателях, создающих жизнь.

В XX веке ученые пытались понять суть жизни в том числе путем создания ее аналогов. Возможно, они считали, что если смогут сотворить нечто движущееся и ведущее себя как живое существо, то им удастся раскрыть секреты, лежащие в основе жизни. Это было началом искусственного интеллекта и роботов в том виде, в каком мы знаем их сегодня.

Рождение ИИ и робототехники

Одни из первых автономных роботов, созданных, чтобы помочь нам понять биологические системы, сконструировал в конце 1940-х годов в Великобритании, в Бристоле, нейрофизиолог Грей Уолтер. Он назвал их Элмер и Элси. Роботы Уолтера напоминали черепах и были уникальны, поскольку не следовали какой-либо заданной программе.

Примерно в то же время, когда Уолтер создавал своих экспериментальных роботов, он состоял в клубе молодых британских ученых, известном как Ratio Club. Нейробиологи, инженеры, математики и физики регулярно встречались, чтобы выслушать приглашенного докладчика, а затем обсудить свои взгляды на кибернетику – науку об общих закономерностях процессов управления и связи как в машинах, так и в живых организмах. Ratio Club был в числе первых клубов, посвященных роботам и ИИ. Большинство его членов стали выдающимися учеными в своих областях. Одного из увлеченных математиков звали Алан Тьюринг.

УИЛЬЯМ ГРЕЙ УОЛТЕР (1910–1977)

Грей Уолтер стал пионером в разработке роботов с собственным разумом. (Он также стоял у истоков такой технологии, как электроэнцефалография, или ЭЭГ, применяющейся для изучения человеческого мозга.) Его механические черепашки могли реагировать на изменения окружающей среды, двигаться к свету и обходить различные препятствия. Они даже находили дорогу к зарядной станции, когда заряд их батарей оказывался на исходе. Уолтер утверждал, что эти простые роботы обладают эквивалентом двух нейронов и, если добавить к ним больше «клеток», можно добиться более сложного поведения. Ученый попробовал достичь этого, создав усовершенствованную версию робота-черепахи, которую назвал Корой. Он обучил Кору реагировать на полицейский свисток, подчиняясь условному рефлексу, – подобно собакам Павлова, выделяющим слюну при звуке колокольчика. Поначалу Кора не реагировала на свист, но после того как он стал сопровождаться вспышкой света, робот быстро научился связывать два раздражителя и впоследствии откликался на свист без дополнительных стимулов.

К 1950 году Тьюринг уже внес огромный вклад в зарождавшуюся тогда область компьютерных технологий. В его ранних работах представлено фундаментальное математическое доказательство того, что ни один компьютер не в силах предсказать, сможет ли он прекратить вычисления для какой-либо конкретной программы, или, другими словами, что некоторые проблемы не поддаются вычислению. Тьюринг участвовал в разработке самых первых программируемых компьютеров, а его секретная работа в Блетчли-парке[1] помогла декодировать зашифрованные сообщения во время Второй мировой войны.

Как и многие пионеры компьютерных технологий, Тьюринг интересовался интеллектом. Что это? Как можно создать его искусственный аналог? И если кому-то удастся сконструировать компьютер, который будет думать так же, как живые существа, как его создатель узнает об этом? Тьюринг решил, что необходим метод оценки способности машины думать. Он назвал его «Игра в имитацию», но более известен этот метод как тест Тьюринга.

Тест Тьюринга стал важным критерием для ИИ, но также вызвал и много критики. Хотя он способен дать некоторое представление о возможности ИИ вдумчиво отвечать на письменные запросы, он не позволяет оценить другие его способности, такие как прогнозирование и оптимизация или управление роботом и распознавание изображений.

Почти все пионеры компьютерной эры задумывались об ИИ, Тьюринг не был единственным. В США Джон фон Нейман, математический гений, который в 1945 году описал, как сконструировать первые программируемые компьютеры, работал с Тьюрингом над интеллектуальными компьютерами. Последний проект фон Неймана был посвящен самовоспроизводящимся машинам, которые, как он надеялся, смогут выполнять большинство функций человеческого мозга и воспроизводить самих себя. К сожалению, в 1953 году фон Нейман умер от рака, не успев завершить этот проект.

ТЕСТ ТЬЮРИНГА

Опросчик может взаимодействовать с двумя собеседниками – каждый из них в отдельной комнате – и задавать им любые вопросы, печатая их: «Пожалуйста, напишите стихотворение о мосте через Форт» или «Что получится, если к 34 957 прибавить 70 764?» Затем опрашиваемые вводят свои ответы. Через некоторое время опросчику сообщают, что один из его собеседников на самом деле компьютер. Если компьютер не удается отличить от реального человека, значит, компьютер прошел тест.

Еще один гений, Клод Шеннон, создавший теорию информации и криптографии, придумавший термин «бит» для обозначения минимальной единицы измерения количества информации в двоичной системе счисления, тоже был глубоко вовлечен в процесс развития ИИ на его самых ранних стадиях. Шеннон сконструировал роботизированную мышь, которую можно было научить находить выход из лабиринта, и написал компьютерную программу, игравшую в шахматы. В последние годы своей жизни он создал и другие удивительные вещи, например робота, который мог жонглировать мячиками. В 1955 году Шеннон вместе с Джоном Маккарти, Марвином Мински и Натаниэлем Рочестером предложил организовать летнюю конференцию, чтобы собрать ученых для обсуждения ИИ. Дартмутская конференция прошла летом 1956 года и длилась шесть недель. Она стала первым в истории мероприятием, посвященным изучению (и введению термина) ИИ. В результате многодневных обсуждений удалось сформулировать несколько ключевых идей, которые призваны были доминировать в этой новой области исследований на протяжении многих последующих десятилетий.

Предложение Летнего исследовательского проекта по искусственному интеллекту в Дартмуте 31 августа 1955 года

ДЖОН МАККАРТИ, МАРВИН Л. МИНСКИ, НАТАНИЭЛЬ РОЧЕСТЕР И КЛОД Э. ШЕННОН

Мы предлагаем провести двухмесячное исследование искусственного интеллекта, рассчитанное на десять человек, летом 1956 года в Дартмутском колледже в Гановере, штат Нью-Гэмпшир. Исследование должно основываться на предположении о том, что каждый аспект обучения или любые другие свойства интеллекта могут быть описаны настолько точно, что удастся сконструировать машину для его моделирования. Будет предпринята попытка выяснить, как заставить такую машину использовать язык, выделять главные признаки и создавать концепции, решать различные типы задач, свойственных пока только человеку, и самосовершенствоваться. Мы считаем, что можно добиться значительного прогресса в достижении одной или нескольких из этих целей, если тщательно отобранная группа ученых поработает над этим вместе в течение лета.

Взлеты и падения ИИ

Оживление, вызванное ИИ, быстро росло после проведения Дартмутской конференции. Новые идеи, касающиеся логических функций, процесса принятия решений, планируемого поведения и даже моделирования нейронов, наполняли исследователей оптимизмом. Некоторые из них полагали, что проблема машинного перевода будет решена очень скоро благодаря достижениям в таких областях, как теория информации, например, и формулированию правил, описывающих, как слова объединяются в предложения в естественных языках. Другие исследователи концентрировались на изучении того, как работают нейроны, каким образом мозг использует нейронные сети, чтобы обучаться и делать прогнозы. Уолтер Питтс и Уоррен Мак-Каллок разработали одну из первых искусственных нейронных сетей; Марвин Мински сконструировал искусственную нейронную сеть SNARC. (см. главу 5). Однако к началу 1960-х годов даже очень опытные и умные исследователи делали слегка нереалистичные прогнозы, учитывая состояние технологий на тот момент.

Теоретически это возможно – построить мозг, который смог бы воспроизводить сам себя на конвейере и осознавать свое собственное существование.

ФРЭНК РОЗЕНБЛАТТ (1958)

Благодаря такому воодушевлению росло также финансирование, и исследователи лихорадочно работали над проектами машинного перевода и искусственных нейронных сетей. И все же ажиотаж оказался слишком велик. К 1964 году спонсоры в США (Национальный исследовательский совет) начали беспокоиться из-за отсутствия прогресса в области машинного перевода. Консультативный комитет по автоматической обработке текстовой информации изучил проблему. Казалось, исследователи недооценили многозначность слов – тот факт, что их значение зависит от контекста. В результате в 1960-х годах ИИ допускал весьма досадные ошибки. Так, при переводе с английского на русский и обратно «с глаз долой – из сердца вон» превратилось в «слепой идиот».

Уже на нашем веку машины могут превзойти нас по общему уровню интеллектуального развития.

МАРВИН МИНСКИ (1961)

В отчете Консультативный комитет заключил, что машинный перевод хуже человеческого и к тому же значительно дороже. После публикации этого отчета Национальный исследовательский совет, уже потратив к тому моменту 20 миллионов долларов, прекратил финансирование исследований в области машинного перевода в США. Что касается исследования нейросетей, они тоже постепенно сходили на нет, поскольку ученые отчаянно пытались заставить простые нейронные сети делать что-то полезное. Последней каплей стала книга Марвина Мински и Сеймура Пейперта «Перцептроны», опубликованная в 1969 году, в которой были описаны многие ограничения модели простого нейрона. Это положило конец исследованиям нейронных сетей.

Однако вскоре все стало еще хуже. В 1972 году по заказу парламента Великобритании, пытавшегося оценить прогресс исследований в области искусственного интеллекта, математик сэр Джеймс Лайтхилл подготовил отчет. Выводы были неутешительными: «Большинство исследователей, начавших работать в этой области около десяти лет назад, признаются, что тогда они испытывали своего рода наивный оптимизм, который теперь считают неуместным… успехи в создании роботов общих типов не привели к достижению грандиозных целей». Отчет вызвал резонанс по всему миру. Управление перспективных исследовательских проектов Министерства обороны США сократило финансирование работ, касающихся ИИ, поскольку осознало, что обещанные результаты в такой области, как распознавание речи, не достигаются. В Великобритании финансирование исследований ИИ прекратили во всех университетах кроме трех: Эссекского, Сассекского и Эдинбургского. Идея ИИ и создания интеллектуальных роботов была полностью дискредитирована. Так наступила первая зима ИИ.

Несмотря на нежелательность своей деятельности, несколько исследователей ИИ продолжали работу в течение следующего десятилетия. Имевшиеся к тому моменту наработки не канули в Лету; многие достижения стали частью массовых компьютерных технологий. В конце концов к 1980-м годам в области исследований ИИ наметился новый прорыв – экспертные системы. Эти новые алгоритмы ИИ включили в себя знания людей – экспертов в различных системах, основанных на правилах, – и могли выполнять такие задачи, как идентификация неизвестных молекул или диагностика заболеваний. Для подобных целей разрабатывались новые языки ИИ, например Prolog и LISP, а для эффективной работы этих языков проектировались специализированные компьютеры. Вскоре экспертные системы были внедрены во многие отрасли промышленности и бизнес начал процветать. Так исследования ИИ снова получили финансирование.

Мы можем рассчитывать на создание компьютера с потенциалом, соответствующим потенциалу человеческого интеллекта, примерно к 2017 году.

ДЭВИД ВАЛЬЦ, пионер ИИ в области построения логических выводов (1988)

В Японии на создание компьютера пятого поколения выделили 850 миллионов долларов. Целью этого проекта стала разработка суперкомпьютеров, которые могли бы запускать программное обеспечение экспертных систем и выполнять такие сложные задачи, как поддержание разговоров и интерпретация изображений. К 1985 году на разработку отдельных систем в рамках ИИ было выделено более миллиарда долларов, а Управление перспективных исследовательских проектов потратило 100 миллионов долларов на финансирование 92 проектов в 60 учреждениях. Исследования ИИ возобновились, и вместе с ними вернулся ажиотаж.

Но продолжался очередной взлет недолго. Мощность обычных компьютеров быстро превысила мощность интеллектуальных систем, и компании, занимавшиеся аппаратным оборудованием для ИИ, обанкротились. Затем выяснилось, что экспертные системы крайне сложны в обслуживании и подвержены серьезным ошибкам при неправильном вводе данных. Обещанные возможности ИИ вновь не были реализованы. Промышленность отказалась от этой новой технологии, и финансирование опять прекратилось. Наступила вторая зима ИИ.

Возрождение

И снова, несмотря на то что тема ИИ оказалась не в чести, исследования продолжались. Однако поскольку в 1990-х годах даже сам термин «искусственный интеллект» ассоциировался с неудачей, его часто пытались замаскировать под интеллектуальные системы, машинное обучение, современные эвристические методы.

Достижения продолжались, но они «поглощались» другими технологиями. И вскоре началась тихая революция, принесшая с собой более продвинутую нечеткую логику (см. главу 9), новые, более мощные, типы нейронных сетей, более эффективные оптимизаторы и все более результативные методы машинного обучения. Робототехника тоже начала активно развиваться, особенно с появлением более легких и более емких батарей нового поколения. Облачные компьютеры позволили производить большой объем вычислений без существенных затрат, и каждый день генерировалось так много данных, что у ИИ было множество примеров для обучения. Поначалу медленно, но все смелее и решительнее ИИ и робототехника отвоевывали утраченные позиции. Снова росло всеобщее возбуждение, однако на этот раз его сопровождал страх.

К 2029 году компьютеры будут обладать интеллектом, сопоставимым по уровню с человеческим.

РЭЙМОНД КУРЦВЕЙЛ, изобретатель и футуролог (2017)

Мы не должны быть уверены в нашей способности постоянно удерживать суперинтеллектуального джина в бутылке.

НИК БОСТРОМ, руководитель Института будущего человечества в Оксфорде (2015)

Прошлый, 2019, год стал летом для исследований ИИ: тысячи ИИ-стартапов по всему миру продемонстрировали новые способы применения ИИ. Все крупные технологические компании (Apple, Microsoft, Google, Amazon, Weibo, Huawei, Samsung, Sony, IBM – список кажется бесконечным) инвестировали десятки миллиардов долларов в исследования ИИ и робототехники. Впервые продукты на базе ИИ стали доступны широкой публике: домашние станции, распознающие голоса, телефоны, распознающие отпечатки пальцев и лица, камеры, распознающие улыбки, автомобили, в которых автоматизирован ряд водительских задач, роботы-пылесосы. Незримо ИИ помогает нам и еще сотнями различных способов: в медицинских сканерах, выявляющих болезни, в оптимизаторах, составляющих расписание курьеров, в автоматизированных системах контроля качества на фабриках, в системах обнаружения мошенничества, уведомляющих о подозрительных операциях и блокирующих карту, в мультиварках, готовящих идеальный рис. Даже если мы вновь решим не называть ее ИИ в будущем, эта технология слишком широко распространилась, чтобы исчезнуть.

Большинство руководителей понимают, что искусственному интеллекту под силу изменить почти все аспекты ведения бизнеса. Благодаря этой технологии к 2030 году мировая экономика может вырасти на 15,7 триллиона долларов.

PRICEWATERHOUSECOOPERS[2] (2019)

За всю историю ИИ никогда еще не было так много ожиданий, исследователей, денег и истерии, связанных с ним, как сейчас. Несмотря на все взлеты и падения его популярности, прогресс в исследованиях ИИ никогда не прекращался. Сегодняшний день – это кульминация тысяч лет усилий, вложенных в одни из самых удивительных технологий, что когда-либо были созданы людьми. Если и нужно определять золотой век ИИ, то он, несомненно, сейчас. Потрясающие интеллектуальные технологии не просто помогают нам – они раскрывают саму суть интеллекта и в то же время ставят перед нами важные философские вопросы о том, что мы можем позволить этим технологиям делать. Наше будущее тесно связано с умными устройствами, и мы должны уметь ориентироваться на минном поле рекламной шумихи и неуместных ожиданий, одновременно учась принимать ИИ и роботов в нашу жизнь.

Успешное создание ИИ станет важнейшим событием в истории человечества. К сожалению, оно может оказаться последним, если мы не научимся избегать рисков.

СТИВЕН ХОКИНГ (2014)

Каждая глава этой книги представит вам наиболее необычные изобретения в области ИИ на настоящий момент и расскажет, что они могут значить для нашего будущего. Добро пожаловать в мир искусственного интеллекта и робототехники!

02. Выбор верного пути

Я никогда не предполагаю. Эта возмутительная привычка разрушительна для логики.

АРТУР КОНАН ДОЙЛ

Однако часы для интуиционистов,

Когда доказательства еще не будучи моими,

Или правда – некая часть математики,

И ее элемент утверждал: и было так.

Он был рожден из

Аксиом-схем, коих я

Не боюсь следствий

Одно из понятий начала – глаз. Когда

Это математика вечна.

Конечно, перед вами не величайшая поэзия в мире, но этот небольшой набор из катрена[3], хайку[4] и двустишия был создан ИИ, который пытался выразить идеи о логике в духе шекспировского сонета[5], за доли секунды. Читая такие стихи, порой можно обнаружить более глубокий смысл в, казалось бы, несвязанных словах. Каким-то образом ИИ удается уловить что-то, что заставляет нас задаваться вопросом, передается ли сообщение.

К сожалению, в этом случае смысл отсутствует. Стихи генерировались компьютером в соответствии с набором правил, определяющих структуру каждой поэтической формы. (Например, хайку состоит из трех нерифмованных строк, в свою очередь состоящих из пяти, семи и пяти слогов, а двустишие – из двух строк, которые могут быть как рифмованными, так и нерифмованными). Слова были выбраны случайно из исходного текста (нескольких абзацев, включавших общую информацию о логике, сонет Шекспира и фрагмент из статьи фон Неймана о логике 1927 года). Используя разные исходные тексты и наборы правил, ИИ сможет создавать стихи о чем угодно и в любом стиле, который вы зададите.

Символический ИИ

При символьной обработке слова́ рассматриваются как связанные друг с другом в соответствии с определенным набором правил символы. Слова становятся объектами, которыми можно управлять, трансформируя таким же образом, каким мы трансформируем числа в соответствии с правилами математики. Символический ИИ позволяет компьютерам мыслить словами.

Пожалуй, неудивительно, что символический ИИ стал одной из первых и наиболее успешных форм ИИ, поскольку был основан на новых представлениях о логике, развитых несколькими десятилетиями ранее. К началу XX века Бертран Рассел, Курт Гедель и Давид Гильберт достигли пределов математики, пытаясь понять, доказуемо ли абсолютно все, или же действительно существуют некие недоказуемые утверждения, которые, однако, можно выразить математически. Эти исследователи показали, что вся математика может быть сведена к логике.

Мысль была неосязаемой и невыразимой, пока современная формальная логика не стала интерпретировать ее как манипуляцию формальными символами.

АЛЛЕН НЬЮЭЛЛ (1976)

Логика – очень мощный инструмент представления фактов. Все, что выражено логически, должно быть или истинным, или ложным, например: идет дождь – правда; дует ветер – ложь. Логические операции позволяют нам формулировать более сложные идеи: если «идет дождь» – правда, а «дует ветер» – ложь, то «взять зонтик» – правда. Это логическое высказывание также может быть представлено в виде таблицы истинности:

Когда мы доказываем что-то в математике, мы показываем, что логические предположения гарантируют вывод. Математика построена на таких доказательствах. Поэтому, если у нас есть утверждения «все люди смертны» и «Сократ – человек», мы можем доказать, что «Сократ смертен».

Предикатная логика, более сложный и широко используемый тип логики, даже допускает превращение обычных предложений в своего рода логические обозначения (также известные как формальные логические высказывания).

Родоначальникам символического ИИ логика представлялась настолько всемогущей, что они считали, будто символическая логика – это все, что нужно для интеллекта.

Это убеждение было основано на идее, что человеческий разум лишь манипулирует символами. Исследователи утверждали, что наши представления об окружающем мире закодированы в мозге в виде символов. Идея стула и подушки может быть заключена в символах «стул» и «подушка» и абстрактных правилах, таких как «подушка может лежать на стуле» и «стул не находится на подушке».

ПАРАДОКС РАССЕЛА В ПРЕДИКАТНОЙ ЛОГИКЕ

Рассмотрим парадокс математика и философа Бертрана Рассела: «В некоей деревне живет брадобрей, который бреет всех жителей деревни, которые не бреются сами, и только их». Это парадокс, поскольку, если человек бреется сам, он не может брить себя в соответствии с правилом. Но если он не бреется сам, то должен брить себя согласно этому же правилу. В виде логического выражения это выглядит так:

Без паники! Если перевести на обычный язык, получится: «Существует x, являющийся человеком, и множество y, где y – человек, x бреет y тогда и только тогда, когда y не бреет y». Это полезно, так как этот вид предикатной логики позволяет строить доказательства. В этом случае можно выявить парадокс, спросив: «Бреет ли брадобрей сам себя?» Или, в логическом выражении, что получится, если x = y? Заменим x на y, и в результате «бреет (x, x)» и обратное утверждение «¬бреет (x, x)» будут истинными. Другими словами, человек должен брить сам себя и он не может брить сам себя одновременно – это парадокс. (Используя его, Рассел доказал, что математика неполна – то есть в ней невозможно доказать все).

Китайская комната

Однако некоторые философы не соглашались с подобным подходом. Они считали, что манипулирование символами кардинально отличается от действительного понимания их значения. Джон Серл, один из таких философов, тактично возразил оппонентам в форме рассказа о китайской комнате. Суть его в следующем. Человек, не знающий китайский язык, находится в комнате, куда через специальное отверстие ему передают листы бумаги с вопросами, написанными китайскими иероглифами. У человека есть четкая инструкция, в которой говорится, каким образом можно получить ответ на поставленный вопрос. В результате человек находит ответ, записывает его на другой лист и возвращает.

У системы физических символов есть необходимые и достаточные ресурсы для решения общих интеллектуальных задач.

АЛЛЕН НЬЮЭЛЛ И ГЕРБЕРТ САЙМОН (1976)

Казалось бы, человеку в комнате можно задать любой вопрос и получить на него разумный ответ. Но на самом деле в ответе не будет истинного понимания. Человек всегда следует инструкции, используя символы для поиска других символов. Он никогда не понимает ни вопроса, ни ответа, потому как не знает ни одного китайского иероглифа.

Серл утверждал, что именно это и делает ИИ, когда выполняет обработку символов. Он манипулирует ими в соответствии с установленными правилами, но никогда не понимает, что эти символы и правила значат. На вопрос «какого цвета спелый банан?» ИИ, вероятно, сумеет найти ответ и «сказать»: «желтого». Кроме того, он сможет последовать еще ряду правил, чтобы сделать ответ более человечным: «Желтого, конечно. Вы думаете, что я глупый?». ИИ не знает, что означает «желтый». Он не видит связи между символом «желтый» и внешним миром, поскольку не знает, что такое внешний мир, и ИИ никогда не удастся получить какой-либо жизненный опыт. Такой ИИ не обладает интенциональностью – способностью принимать решение на основе собственного понимания. Поэтому Серл утверждал, что ИИ просто симулирует интеллект. «Формальные символьные манипуляции сами по себе не обладают интенциональностью; они совершенно бессмысленны, – писал он. – Эта интенциональность, которой, как считается, обладают компьютеры, находится исключительно в умах тех, кто эти компьютеры программирует, использует, вводит в них данные и интерпретирует данные на выходе».

Ни одна логика не является достаточно сильной, чтобы поддерживать общую конструкцию человеческого знания.

ЖАН ПИАЖЕ, психолог

Даже если такой ИИ пройдет тест Тьюринга, это не будет иметь значения. ИИ – это механизм, разработанный, чтобы обманывать нас, подобно античным родосским автоматонам. ИИ слаб, а создание так называемого сильного ИИ, то есть обладающего реальным интеллектом, может оказаться непосильной задачей.

Логика поиска

Несмотря на критику, идеи символьной обработки привели к значительному успеху. Еще в 1955 году Ньюэлл, Саймон и Шоу разработали первую программу ИИ (даже до того, как был предложен термин «искусственный интеллект»). Они назвали ее «Логический теоретик» и на Дартмутской конференции в 1956 году с гордостью представили другим исследователям. Используя логические операции, программа могла доказывать математические формулы. Чтобы это продемонстрировать, Ньюэлл и Саймон взяли популярную книгу Альфреда Уайтхеда и Бертрана Рассела «Основания математики» и показали, что программа способна доказать многие из приведенных там формул. Более того, в некоторых случаях «Логический теоретик» предлагал более короткие и элегантные доказательства.

НЬЮЭЛЛ, САЙМОН И ШОУ

Аллен Ньюэлл, ученый-программист и когнитивный психолог в корпорации RAND и Университете Карнеги – Меллона, работал с Саймоном и Шоу над программой «Логический теоретик», и вместе они стали авторами многих фундаментальных изобретений в области ИИ. Ньюэлл также создал концепцию обработки списков, которая впоследствии превратилась в важный язык ИИ – LISP. А программисту Джону Шоу принадлежит идея связанного списка – способа связывания данных, который с тех пор используется в языках программирования во всем мире. Помимо разработки «Универсального решателя задач» Герберт Саймон участвовал также в подготовке программ ИИ для игры в шахматы и оказал заметное влияние на развитие экономики и психологии. Он даже написал одну из первых работ по эмоциональному познанию, которое он описывал как стимулы и потребности, способные возникать параллельно, прерывая и изменяя поведение программы. Ньюэлл и Саймон создали лабораторию ИИ в Университете Карнеги – Меллона и достигли немалых успехов в области символического ИИ в конце 1950 – 1960-х годах.

В 1959 году появилось несколько других версий «Теоретика», одну из которых назвали «Универсальный решатель задач». Он смог проводить также логические и физические манипуляции и к тому же обладал очень важной особенностью, благодаря которой так хорошо работал: он отделял знания (символы) от метода, используемого для манипулирования этими знаниями. Манипулирование символами производилось с помощью программного обеспечения, названного «решатель», который использовал поиск, чтобы найти правильное решение.

Представьте, что вы робот и вам нужно переместить пирамидку из дисков разного размера с одного стержня на другой, сохраняя их в порядке уменьшения размера. Эта головоломка, называется «Ханойские башни». Вы можете перемещать лишь по одному диску за раз и брать диск только сверху. Нельзя положить диск большего размера поверх меньшего. И есть всего три стержня. Каким образом нужно перекладывать диски? В рамках каждого хода, учитывая текущее состояние стержней, возможны два или больше перемещений. Какой же диск выбрать? На какой стержень его перенести? После того как вы перенесете диск, у вас появится больше доступных ходов, и после очередного принятого решения их количество будет расти. Игра подобна дереву возможностей, каждая ветвь которого ведет вас к решению, если вы сделали верный ход. Но как с таким множеством вариантов выбрать правильный?

Решение – это поиск. ИИ представляет, что, делая выбор за выбором, он движется по дереву возможностей вниз и выносит суждение: в этот момент, если бы я сделал такой ход, я бы стал ближе к решению? Рассмотрев достаточное количество комбинаций вариантов, ему удается найти правильный путь, а значит, теперь можно принять следующее решение – я положу этот диск туда. После этого ИИ находит новое дерево возможностей, на один шаг дальше, и ищет следующий ход.

Поиск в сочетании с символическим представлением знаний стал стандартным подходом в ИИ. Независимо от того, ищет ли ИИ способ, как выиграть партию в шахматы или го, пытается доказать формулу или планирует маршрут, позволяющий роботу избежать препятствия на пути, он, вероятно, ищет среди тысяч, миллионов, а возможно, и триллионов вариантов. Размер пространства поиска быстро стал ключевым ограничивающим фактором в основанном на поиске символическом ИИ, поэтому было разработано много умных алгоритмов для удаления маловероятных областей «деревьев» или деления большой проблемы на более мелкие задачи. В меньшем пространстве и вариантов для поиска тоже меньше.

Все, что дает нам новые знания, дает нам возможность быть более рациональными.

ГЕРБЕРТ САЙМОН (2000)

Но размер пространства (его комбинаторика) все же оставался проблемой. По иронии судьбы выяснилось, что программы вроде «Универсального решателя задач» непригодны для решения общих задач – пространство возможностей оказывалось слишком большим, что делало поиск невозможным в обозримом временном промежутке. Хотя эти программы могли справиться с проблемой вроде головоломки «Ханойские башни», они пасовали перед сложностями реального мира. Как оказалось, большего успеха можно достичь, если каждый ИИ сосредоточить на определенной задаче. Создайте набор правил о соответствии медицинских симптомов и различных заболеваний. Тогда компьютер сможет задать ряд вопросов, например «вы чувствуете боль?», «это острая боль или тупая?», «где локализуется боль?» и так далее, которые выявят симптомы, и в результате предложить одну или несколько версий вероятных заболеваний.

Подобные версии ИИ известны как экспертные системы, и на какое-то время они стали чрезвычайно популярны (возможно, даже слишком, как вы поняли по предыдущей главе). Хотя у крупных экспертных систем есть проблемы с техническим обслуживанием, они продолжают использоваться в медицине для диагностики, системах поддержки для автомобильных инженеров, системах обнаружения мошенничества и интерактивных сценариях для продавцов.

Хранение знаний

Многие идеи символического ИИ связаны с тем, как лучше всего представлять и использовать информацию. Правила и структурированные фреймы (формы представления знаний) слились с объектно ориентированными языками программирования, и сегодня существует множество способов хранения знаний: например, вкладывание, при котором родительский объект «дерево» содержит дочерние элементы «дуб» и «береза», или передача сообщений, при которой объект «продавец» может отправить аргумент «скидка 10 %», чтобы вызвать действие с объектом «цена». Были созданы языки для представления всех знаний, иногда называемые онтологическими, со своими сложными структурами и правилами. Все они основаны на логике и могут быть объединены с автоматизированными системами формирования рассуждений, для того чтобы логически выводить новые факты, которые затем могут быть добавлены к их знаниям, или проверять соответствие существующих фактов.

Например, ИИ узнал, что «велосипед» – это вид «транспорта с педальным приводом», имеющий «два колеса». Если «тандем» – это вид «транспорта с педальным приводом», который тоже имеет «два колеса», то ИИ легко может вывести новый факт: «тандем – это разновидность велосипеда». Но другой вид «транспорта с педальным приводом», имеющий «ноль колес», не соответствует этому правилу, поэтому ИИ придет к выводу, что «катамаран» не является «велосипедом».

С развитием интернета компилировать обширный набор фактов становится все проще и проще. И одно из основных направлений при разработке общего искусственного интеллекта – это объединение достаточного объема знаний, чтобы ИИ мог начать помогать нам во многих областях. Cyc – один из таких проектов, который в течение нескольких десятилетий собирал факты и взаимосвязи, формируя гигантскую базу.

Уильям Тунсталл-Педо развил эту идею. Он создал True Knowledge («Подлинное знание») – программу, сформировавшую обширную сеть знаний, предоставляемых пользователями интернета. Она насчитывает более 300 миллионов фактов. В 2010 году Тунсталл-Педо решил, поскольку ИИ уже знает так много, задать ему вопрос, на который не сможет ответить ни один человек: «Нам пришло в голову, что, имея дело с более чем 300 миллионами фактов, большой процент которых связывает события, людей и места с определенными точками во времени, мы сможем вычислить объективный ответ на вопрос “Какой день в истории был самым скучным?”».

Программа True Knowledge изучила все дни, о которых знала с начала XX века, и пришла к выводу, что ответ – 11 апреля 1954 года. В этот день, согласно ИИ, состоялись всеобщие выборы в Бельгии, родился турецкий академик Абдулла Аталар и умер футболист Джек Шаффлботэм. Подобных событий оказалось меньше по сравнению со всеми другими днями, поэтому ИИ решил, что это самый скучный день. True Knowledge в конечном итоге стала Evi – ИИ, которому вы можете задать вопросы или просто предложить поговорить. В 2012 году Evi приобрела компания Amazon и превратила ее в Amazon Echo – известный домашний говорящий ИИ.

Символический ИИ развивается вместе с интернетом. В то время как ИИ, такие как Cyc и Evi, полагались на тысячи пользователей, предоставлявших сведения вручную, сэр Тим Бернерс-Ли, создатель Всемирной паутины, давно высказал идею, что WWW (World Wide Web) должна стать GGG (Giant Global Graph) – гигантским глобальным графом[6] данных. То есть помимо того, что веб-сайты стоит делать удобными для пользователей, на них также необходимо хранить данные в форме, понятной компьютерам. Сайты традиционно создавались как документы с текстом, изображениями и видео или как программы со сценариями, которые запускаются при заполнении форм и нажатии кнопок. В мечтах же Бернерса-Ли внутри каждой веб-страницы данные поименованы и имеют уникальные идентификаторы. В семантической паутине веб-сайты становятся базами данных сведений, где каждый элемент является самостоятельным объектом, который может быть найден независимо и имеет четкую текстовую метку или тип. Если вся WWW станет GGG, то наши ИИ смогут искать знания всего мира, рассуждать о них и делать выводы.

Эта великая мечта о символическом ИИ, к сожалению, не была принята большинством веб-разработчиков – они продолжают размещать огромные объемы данных в интернете в форме, которую ИИ с трудом распознает. Но такая необходимость становится насущной. Было подсчитано, что в 2019 году 80 % новых данных оказались неструктурированными, то есть не были представлены в такой форме, которую могут понять компьютеры, – это текстовые документы, изображения и видео. (Подумайте обо всех электронных письмах и отчетах, которые вы пишете в виде «свободного текста», не разбивая его на разделы. Или о фотографиях и видео, что вы снимаете на телефон, – вы не просматриваете и не обозначаете каждую сцену или элемент в кадре.) В то же время объем данных растет с каждым годом. В 2019 году число пользователей интернета составило 4,4 миллиарда, что на 80 % больше чем пятью годами ранее, и ежедневно отправлялось 293 миллиарда электронных писем. Каждую секунду в Google создавалось 40 000 поисковых запросов и публиковалось 7 800 твитов. Все больше и больше компаний использовали интернет в качестве части своего бизнеса и генерировали огромные объемы данных. В 2016 году в день собиралось 44 миллиарда гигабайт данных. Подсчитано, что к 2025 году в день мы будем генерировать 463 миллиарда гигабайт.

У меня есть мечта…[7] Машины смогут анализировать все данные в сети… сегодняшние механизмы торговли, бюрократии и повседневной жизни будут управляться машинами, разговаривающими с машинами, оставив людям вдохновение и интуицию.

ТИМ БЕРНЕРС-ЛИ (2000)

У нас больше нет выбора: ни один человек не сможет осмыслить эти ошеломляющие объемы данных. Наша единственная надежда – использовать ИИ в качестве помощника. К счастью, об этом речь пойдет в следующих главах, другие формы ИИ теперь способны обрабатывать неструктурированные и немаркированные данные и помечать их особыми метками, давая символическим ИИ то, что им необходимо, чтобы оперировать такими данными. В конце концов, пожалуй, не имеет значения, будет ли это истинный интеллект (сильный ИИ) или своего рода притворный (слабый ИИ). Обработка символьных сетей в соответствии с правилами позволяет нашим компьютерам осмысливать обширную вселенную данных. Так что, возможно, мечта Бернерса-Ли однажды все же станет реальностью.

03. Мы все падаем

Вы учитесь ходить не следуя правилам. Вы учитесь пробуя и падая.

РИЧАРД БРЭНСОН

Мы видим зернистые кадры из фильма. Странный робот, похожий на неустойчивый фотокопировальный аппарат на колесах, с камерой вместо головы, кружит вокруг пространства, занятого большими цветными кубиками и другими простыми фигурами. Слышны мягкие джазовые интонации песни Take Five в исполнении квартета Дейва Брубека. Повествование начинается с пронзительного писка на заднем плане.

В SRI мы экспериментируем с мобильным роботом. Мы зовем его Шейки. Наша цель – наделить Шейки некоторыми способностями, связанными с интеллектом, например планировать и обучаться. Хотя задачи, которые мы ставим перед Шейки, кажутся довольно простыми, программы, необходимые для планирования и координации его действий, сложны. Основная цель нашего исследования – научиться разрабатывать такие программы, чтобы роботы помогали нам решать самые разные задачи: от освоения космоса до автоматизации производства.

Таким было состояние робототехники в 1972 году. Шейки (чей мозг создавался на основе большого компьютера) мог использовать камеру, чтобы распознавать простые объекты вокруг себя, строить модель своего примитивного мира и планировать, куда идти и что делать, а также прогнозировать, как его действия будут менять эту его внутреннюю модель. Шейки не был очень быстрым или очень умным, но он представлял собой революцию в исследованиях ИИ. Впервые ИИ позволил роботу ориентироваться и выполнять действия (хотя и в очень дружелюбной среде).

Это стало отличным началом, но сложности по-прежнему оставались. Планирование и принятие решений требовали большого количества вычислительных мощностей, поэтому – вспомним также об ограниченности обзора тогдашних систем – Шейки и роботы, подобные ему, были медлительны, ненадежны и не могли работать в условиях реального мира. Этот способ создания разумных роботов считался общепринятым, но исследователи понимали, что добиваться прогресса становится все труднее. Так возникло желание внести немного беспорядка в логичный и понятный подход к робототехнике. И это привело к разделению исследователей на два лагеря: «чистюль» и «грязнуль».

РОБОТЫ В ШЕСТИДЕСЯТЫХ

Конструкция роботов сложна. Достаточно непросто заставить их двигаться, но проблемы, связанные с контролем и восприятием окружающего мира, – это та область, где необходима помощь ИИ. В 1960 году, когда полностью работоспособного ИИ еще не существовало, роботы выглядели достаточно пугающе. Разработанный компанией General Electric между 1965 и 1971 годом Hardiman был одним из таких роботов. Задуманный в качестве экзоскелета для человека (вдохновившего создание экзоскелета-погрузчика, который носила героиня фильма «Чужие» Эллен Рипли), костюм мог совершать лишь резкие неконтролируемые движения, и разработчики так и не смогли заставить его выполнять работу не только одной рукой. Beast («Зверь») Джона Хопкинса, усложненная версия робота Elsie Грея Уолтера, управлявшаяся несколькими транзисторами, что позволяло ему случайным образом бродить по залам Университета Джона Хопкинса и подключаться к розеткам для подзарядки, стал более успешным. Walking Truck («Ходячий грузовик») – еще один робот, созданный General Electric в 1965 году. Эта тяжелая машина предназначалась для доставки оборудования по пересеченной местности. Его движение не контролировалось компьютером – требовалось, чтобы умелый оператор управлял четырьмя металлическими ногами, используя свои собственные руки и ноги.

Слоны не играют в шахматы

Тогда как «чистюли» предпочитали тщательно разработанные и математически выверенные методы, «грязнули» заявляли, что такие методы работают лишь в искусственно созданном мире. Если вы пытаетесь создать робота, который может передвигаться и понимать свой мир, то предположение, что окружающая действительность идеальна, приведет к провалу. Родни Брукс, основатель компании iRobot и создатель роботов-пылесосов iRoomba, резюмировал свою критику в оригинальной статье под названием «Слоны не играют в шахматы». В ней он утверждал, что ориентация ИИ на логические игры не имеет ничего общего с разумным поведением в реальном мире. Умение хорошо играть в шахматы не поможет вам ходить, избегать препятствий или справляться с постоянно меняющимися условиями нашей действительности. Робот не должен строить логические внутренние модели, состоящие из символов, составлять план, манипулируя и производя поиск этих символов, а затем использовать результат для корректировки своего поведения. Вместо этого, чтобы достигнуть успехов в практическом роботостроении, нам следует разрабатывать «приземленный» ИИ.

Брукс – практик, и после многолетнего опыта создания роботов он нашел другой подход. Он считает, что мир – это лучшая модель, поэтому мы должны позволить ему напрямую влиять на поведение робота без каких-либо символов – мы должны связать восприятие с действием.

Эту идею впервые исследовал Грей Уолтер с его роботами-черепахами, как вы помните из первой главы. Брукс назвал свой подход «предикативной архитектурой». В соответствии с ним поведением робота управляет ряд простых модулей, каждый из которых прерывает другого, если его потребности становятся первоочередными. К примеру, один робот отвечает за перемещение робота к цели, другой – за преодоление препятствий. Первый будет иметь приоритет, пока не возникнет что-то неожиданное и второй модуль не перехватит контроль. Брукс представлял поведение, используя системы с конечным числом состояний.

Мы утверждаем, что идея символьной системы, на которой основан классический ИИ, в корне неверна.

РОДНИ БРУКС (1990)

Конечные автоматы – это типичный вариант архитектуры «мозга» роботов. Они работают, определяя последовательность состояний, в которых может находиться робот. Например, у очень простого робота может быть три состояния: случайное движение, движение вперед и поворот. Он может переходить из одного состояния в другое, получая определенные сигналы. Поэтому каждый раз, когда робот определяет цель, он переключается в состояние движения вперед (или поддерживает его). Если же робот обнаруживает впереди препятствие, он переключается в состояние поворота (или поддерживает его). Если ничего не происходит, он переключается в состояние случайного движения (или поддерживает его, см. схему). Это задает простую архитектуру, в которой робот случайным образом движется, избегая препятствий, пока не найдет цель. Если добавить дополнительные конечные автоматы, подключенные к одним и тем же датчикам и исполнительным механизмам, и дать некоторым из них приоритет над другими в зависимости от сигналов с датчиков и состояний, можно получить предикативную архитектуру.

Брукс объяснял это так: «Если я пытаюсь быстро добраться куда-то, я не думаю о том, куда поставить ноги. За движение моих ног отвечает другой уровень [сознания]. Отдельные процессы идут параллельно. Это идея, основанная на поведенческом подходе». Шестиногий робот Брукса по имени Genghis использовал 57 объединенных автоматов.

Этот подход привел к легкому и быстрому запуску ИИ, который позволял роботам делать больше, чем когда-либо прежде, используя при этом меньше вычислений. Брукс продемонстрировал эффективность своего подхода с помощью многочисленных проектов (и компаний), в рамках которых впервые было разработано множество различных типов роботов, в том числе марсоход Sojourner («Странник»).

МАРСОХОД SOJOURNER И МИССИЯ MARS PATHFINDER

Марсоход Sojourner, в рамках миссии Mars Pathfinder («Марсопроходец»), стал первым аппаратом, исследовавшим поверхность другой планеты. Этот робот весом 11,5 кг с 6 колесами, 3 камерами и солнечными элементами для генерации энергии на его верхней поверхности совершил посадку на Красную планету 4 июля 1997 года. Обычно им управлял оператор, надевавший 3D-гарнитуру для наблюдения за роботом с Земли. Технологии в 1990-х годах были не столь продвинутыми, поэтому компьютерный процессор марсохода работал на частоте 2 МГц (в тысячу раз медленнее, чем современные компьютеры) и имел лишь 64 Кб памяти (это менее десяти тысячных памяти современных компьютеров). У него даже не было перезаряжаемых батарей, поэтому, когда они разрядились, Sojourner мог работать только в течение дня, питаясь за счет солнечных панелей. Робот находился настолько далеко от Земли, что задержка сигнала (оператор посылал сигнал, а робот отправлял ответ) составляла 20 минут. Это означало жизненно важную необходимость в автономном контроле – на случай, если за время прохождения сигнала робот сорвался бы со скалы или врезался в камень. Предикативная архитектура позволила марсоходу самостоятельно выполнять навигацию, обнаруживать опасности и избегать их.

Послушные роботы

По большому счету предикативная архитектура была получена путем упрощения комбинации конечных автоматов до поведенческих деревьев (довольно элегантный способ представления одних и тех же понятий). Их использовали в индустрии компьютерных игр, чтобы управлять поведением «виртуальных роботов» – пришельцев, монстров и других персонажей, что бросают нам вызов. Unity и Unreal – две крупнейшие программные платформы (так называемые игровые движки), на основе которых создано две трети компьютерных игр по состоянию на 2019 год. Обе используют поведенческие деревья.

Легкие сверхбыстрые модули управления, которые объединяют восприятие и действие и при необходимости активизируются, легли в основу практического роботостроения. Компания Boston Dynamics показала ряд замечательных примеров того, насколько эффективным может быть такой тип управления, особенно в сочетании с более упругими элементами в приводах (частях робота, обуславливающих движение), имитирующими движение мышц. Собаки-роботы и двуногие модели Boston Dynamics способны противостоять ударам и при этом сохранять равновесие благодаря умным системам управления (которые сочетаются также с другими технологиями ИИ, такими как планировщики и оптимизаторы).

Получается, что с такой удивительной технологией, более совершенными приводами, датчиками, батареями и ИИ мы уже как никогда близки к появлению человекоподобных роботов, которые будут помогать нам дома и на рабочих местах? Не совсем. ИИ и роботы умны, но они не проходят один простой тест. Ни один робот с искусственным интеллектом не может ходить по дому, ни во что не врезаясь и не падая. Простая прогулка без остановки может казаться гораздо менее сложным занятием, чем распознавание речи. Но на самом деле это не так. Управление роботами в меняющейся обстановке остается одной из ключевых проблем, и это обусловлено рядом факторов.

Чтобы иметь возможность плавно и легко перемещаться, роботу требуется все больше исполнительных механизмов (двигателей, пневматических поршней или других мускулоподобных приводов) и датчиков. Но увеличение первых в среде с большим количеством помех означает появление хаотично возникающих, непредсказуемых проблем с управлением, а вторых – растущий объем данных, которые необходимо обрабатывать и распознавать. Причем обработка этих данных должна происходить достаточно быстро, поскольку если для выяснения того, где находится конечность, роботу понадобится слишком много времени или конечность будет неправильно размещена, то, прежде чем робот узнает об этом, он окажется на полу. Поэтому большинство роботов с ногами по-прежнему падают. И довольно часто, надо сказать.

Сегодня и в обозримом будущем самые эффективные роботы не человекоподобные, а такие, форма которых идеально соответствует их функциям. Наши заводы полны роботизированных рук, спроектированных для сборки разнообразных массовых продуктов. В новейших операционных стоят медицинские роботизированные аппараты для жизнеобеспечения и помощи при сложных операциях. Ваша стиральная машина – робот. Ваша система центрального отопления и кондиционер – тоже роботы. И пусть они не могут ходить по нашим домам, у нас есть роботы-пылесосы, работающие большую часть времени, не застревая при этом слишком часто.

На что, как все думали, будет похож робот-пылесос? Наверняка все представляли Рози – робота-домработницу из The Jetsons[8], которая сама управляла пылесосом. Что ж, этого никогда не произойдет.

КОЛИН ЭНГЛ, исполнительный директор iRobot

Самостоятельные автомобили

Возможно, самый захватывающий вид роботов, управляемых ИИ, который начал становиться реальностью в последние несколько лет, – это автономные, или беспилотные, автомобили. Впервые их продемонстрировали еще в 1980-х годах, когда в рамках ряда американских проектов были разработаны автомобили, способные проехать автономно несколько тысяч километров и ездить как днем, так и ночью. Однако компьютерное зрение все еще оставалось примитивным, а потому – несмотря на значительное финансирование со стороны Управления перспективных исследовательских проектов, армии и флота США – настоящий прорыв произошел лишь тогда, когда методы вроде глубокого обучения усовершенствовали способность ИИ обрабатывать изображения, полученные с камер и с помощью системы LIDAR (лазерное 3D-сканирование). Многие компании (Tesla, Waymo, Uber, General Motors, Ford, Volkswagen, Toyota, Honda, Volvo и BMW) вкладывают значительные средства в развитие этой технологии: к 2019 году более 40 компаний уже разрабатывали собственные автономные транспортные средства. Благодаря тому что ИИ теперь способен лучше разбираться в запутанной обстановке, автономные автомобили могут справляться со многими ситуациями, начиная от простого торможения, чтобы избежать столкновений, и заканчивая сложной парковкой, что обеспечивает возможность использовать эти автомобили в качестве такси в контролируемых условиях. Потенциал этой технологии удивителен, но при появлении таких продуктов, конечно же, возникает и множество проблем.

Пользователи были менее восприимчивы к высокому уровню автономии и демонстрировали низкий уровень намерения использовать высокоавтономные транспортные средства.

ОТЧЕТ ОБ ИССЛЕДОВАНИИ ПРИНЯТИЯ АВТОНОМНЫХ АВТОМОБИЛЕЙ (2019)

Автономные автомобили недостаточно умны, чтобы быть полностью автономными все время. Хотя ИИ научились распознавать другие транспортные средства и пешеходов, им не хватает осмысления и понимания контекста того, что они воспринимают, а потому они не могут достичь уровня хорошего водителя. В настоящее время все беспилотные автомобили требуют постоянного контроля со стороны водителя-человека, который возьмет на себя управление, если ИИ запутается. Владельцы подобных транспортных средств иногда не понимают этого, что уже привело к нескольким смертельным случаям. Но даже если и понимают, всегда оставаться наготове, чтобы при необходимости за доли секунды вернуть контроль над автомобилем, довольно непросто. Для оценки этой способности может потребоваться новый вид экзамена по вождению. Кроме того, несчастные случаи поднимают вопрос об ответственности. Если вы не управляли автомобилем, когда тот повредил другой при столкновении, тогда кто же виноват и должен отвечать – вы или разработчик ИИ вашего автомобиля? Ведь если полностью автономное такси вызвало аварию, в результате которой получили травмы или погибли люди, вряд ли можно подать в суд на пассажиров такого такси.

Роботы в нашем обществе

Автономные транспортные средства выдвигают на первый план один из самых трудных аспектов – введение роботов в наше общество. Ведь с ними оно неизбежно изменится. Запуск технологии автономного вождения неизбежно приводит к снижению нашего мастерства вождения, делает людей-водителей менее способными, а дороги – менее безопасными. И если через несколько лет полностью автономные машины будут усовершенствованы, увидим ли мы детей, играющих в «останови машину» – поднимающих ногу и заставляющих ИИ предположить, что они собираются перейти дорогу? А как это повлияет на рабочие места?

Специалисты прогнозируют, что новые роботизированные технологии затронут преимущественно регионы с низким уровнем дохода, при этом в первую очередь пострадают малоквалифицированные работники – их рабочие места будут сокращены. Однако не все новости плохие. Анализ показывает, что чем быстрее страны начнут внедрять эти технологии, тем быстрее окажется кратко– и среднесрочный рост их экономики в целом, что в итоге приведет к созданию большего количества рабочих мест.

К 2030 году до 20 миллионов рабочих мест по всему миру могут быть заменены роботами.

OXFORD ECONOMICS (2019)

В конечном счете, хотя ИИ и роботы кажутся пугающими, они являются не чем иным, как очередной новой технологией, а люди создают новые технологии на протяжении тысячелетий. Каждый раз, когда это происходит, виды деятельности, которые зависели от предыдущих технологий, устаревают. Но каждое изобретение может привести к созданию совершенно новой отрасли. Хотя рабочим на фабриках теперь уже не нужно собирать так много товаров вручную, требуется больше людей для создания, обслуживания и программирования роботов. Хотя количество водителей такси и грузовиков может уменьшиться, в строительной отрасли будет создано больше рабочих мест для обеспечения дорожной инфраструктуры, подходящей для автономных транспортных средств, а также для производства и обслуживания этих значительно более сложных машин. (Не говоря уже об адвокатах, необходимых для ведения запутанных судебных процессов.)

Унаследуют ли роботы Землю? Да, но они будут нашими детьми.

МАРВИН МИНСКИ (1994)

Ключевой вопрос, который мы должны задать, – не когда автономные автомобили будут готовы к передвижению по дорогам общего пользования, а какие дороги будут готовы к автономным автомобилям.

НИК ОЛИВЕР, профессор Эдинбургской бизнес-школы (2018)

Разработка ИИ, которые управляют роботами, на что бы эти роботы ни были похожи, остается приоритетной темой для исследований. Существует множество нерешенных технических проблем, и пройдут многие десятилетия, прежде чем неконтролируемые ИИ в неуправляемых средах станут достаточно безопасными, чтобы мы могли доверить им свою жизнь. Однако, пожалуй, всегда должен оставаться выбор, хотим ли мы, чтобы это произошло. Роботы – это уже реальность, но как мы примем ее, зависит от нас.

04. В поисках правильного ответа

Если есть способ сделать это лучше – найди его.

ТОМАС ЭДИСОН

Мы видим странную змееподобную фигуру, каким-то образом сделанную из кубических блоков, волнообразно изгибающуюся и плывущую по воде. А теперь – три массивные фигуры, похожие на головастиков и грациозно скользящие по глади, что, казалось бы, противоречит их LEGO-подобному строению. Далее перед нами предстает черепахоподобное существо, сделанное из пяти прямоугольных блоков – один на туловище и по одному на каждый плавник. Каким-то образом оно упорно плывет к своей цели, искусно маневрируя в воде, словно охотник, выслеживающий свою добычу.

Это эволюционирующие виртуальные существа компьютерного художника и исследователя Карла Симса – работа, которая вдохновила сотни ученых с тех пор, как он опубликовал ее в 1994 году. Его зверинец плавающих, ходящих, прыгающих и конкурирующих друг с другом существ поразил научное сообщество.

Тогда как их виртуальные тела могли состоять из набора относительно простых блоков, их искусственный мозг представлял собой очень сложную сеть из математических функций и операций, которые использовали данные с сенсоров и демонстрировали разумно выглядящие движения и поведение. Существа передвигались в идеально смоделированных виртуальных мирах с симулированной водой, где они могли плавать, а также с симулированными сушей, гравитацией и законами физики, что позволяли им ходить, бегать или прыгать.

Но этого оказалось недостаточно, чтобы удивить других ученых. Поистине новаторским был тот факт, что Симс не программировал этих существ. Он не спроектировал ни одного из них, не создавал их тела и мозг. Он был поражен, как и все остальные, когда впервые увидел их. Виртуальные существа Симса эволюционировали самостоятельно.

Эволюция искусственной жизни

Для развития своих виртуальных существ Симс использовал генетический алгоритм, в котором мерой качества (или «функцией приспособленности») являлось то, насколько далеко они могли плавать, ходить или прыгать – чем дальше, тем лучше. Для решения этой проблемы генетическому алгоритму пришлось развивать как тела, так и мозг виртуальных существ. Симс даже не знал, как работала программа. Но он мог видеть результат. Описывая свою работу удивленной аудитории на Международной конференции по моделированию адаптивного поведения в 1994 году, он объяснил, насколько сложным стал мозг его творений. Черепахоподобное существо, например, имело тело, состоящее из пяти простых блоков, но код, лежащий в основе его мозга, в распечатанном виде занял бы значительную часть большого конференц-зала. «Это позволяет нам выйти за рамки того, что мы можем создать, – заключал Симс. – Если бы я сам попытался соединить эти датчики, нейроны и эффекторы, то, возможно, никогда бы не нашел хорошее решение, но эволюция все еще способна его отыскать».

«Эволюция в компьютере» звучит странно, но этот подход к ИИ существовал с первых дней развития компьютеров. Вместо того чтобы пытаться написать программу, которая решает проблему, выполняя вычисления и выводя ответ, специалисты, предпочитающие эволюционный подход, создают виртуальный мир и позволяют компьютеру находить решение самостоятельно, генерируя все лучшие и лучшие его варианты. Генетический алгоритм – один из инструментов такого подхода. Он работает, создавая случайную совокупность довольно бесполезных решений, ранжируя их по степени соответствия (того, насколько хорошо они решают проблему) и позволяя развиваться только наиболее подходящим. Затем новое поколение решений ранжируется по степени точности, и вновь лучшие отбираются для следующего раунда. Неизменно дочерние программы наследуют от своих родителей цифровой генетический код, смешанный таким образом, что каждому потомку от каждого из родителей достаются случайные куски кода со случайными мутациями, привносящими новизну. После того как генетический алгоритм проработает достаточно много поколений, в образовавшейся популяции программ образуются вполне подходящие варианты решения проблемы.

Симс был не единственным пионером, продемонстрировавшим оригинальность и новизну цифровой эволюции. Пятью годами раньше Уильям Лэтэм и Стивен Тодд написали программу Mutator. Для первого, как для художника, это была революционная форма искусства, потому что, строго говоря, он не создавал ее. Искусство Лэтэма развивалось в компьютере. В этом случае творец действовал как «всевидящее око» – выбирал, какие из решений продолжат свое существование в потомках, а какие умрут, поскольку именно он оценивал художественную ценность появлявшихся вариантов. Подобно заводчикам животных, Лэтэм разводил свое искусство, выбирая те формы, которые он считал достойными, и из случайного хаоса возникали необычные, кружащиеся формы и потусторонние образы.

Некоторые существа выглядели так, будто они с чужой планеты… они постоянно развивались, всегда немного меняя форму.

УИЛЬЯМ ЛЭТЭМ (2015)

УИЛЬЯМ ЛЭТЭМ (р. 1961)

В 1983 году Уильям Лэтэм, молодой британский художник с необычными идеями, был очарован природой и сложными формами живых существ. Он начал развивать свой собственный стиль, рисуя обширные генеалогические древа и родословные линии воображаемых форм, которые медленно менялись со временем в соответствии с правилами наследственности и изменчивости. Вскоре Лэтэма пригласили стать научным сотрудником в исследовательской лаборатории IBM[9] в Херсли, и он долго сотрудничал там с математиком и разработчиком IBM Стивеном Тоддом. Вместе они создали компьютерную программу Mutator. Лэтэм рекламировал программное обеспечение в различных компьютерных журналах и даже создавал обложки для музыкальных альбомов. Вскоре его компьютерные анимации стали регулярно использоваться в танцевальных и рейв-клубах. Какое-то время Лэтэм также руководил собственной компанией по производству компьютерных игр, которая выпустила несколько хитов. Совсем недавно он вернулся к своему эволюционному искусству в качестве профессора Голдсмитского колледжа в Лондоне и сейчас вновь работает со Стивеном Тоддом, а также его сыном, разработчиком программного обеспечения Питером Тоддом. Вместе они создали компанию London Geometry, чтобы развивать свои идеи.

ПРОГРАММЫ, ВДОХНОВЛЕННЫЕ ПРИРОДОЙ

Генетические алгоритмы и их близкие родственники, эволюционные стратегии и эволюционное программирование, восходят к самым ранним дням информатики. Алгоритмы, работающие по принципу муравьиных колоний, и искусственные иммунные системы оказались сравнительно недавними дополнениями 1990-х годов. За последние несколько лет исследователи показали, как много естественных процессов могут вдохновлять создателей программ. Существуют алгоритмы оптимизации, основанные на поведении пчел и естественных процессах, таких как осевые силы, интеллектуальный алгоритм капель воды и динамика формирования реки. Другие имитируют поведение крупных млекопитающих, например их миграцию, или, довольно многие, – поведение насекомых и даже растений. И это не говоря уже о тех алгоритмах, что подражают птицам и рыбам!

Решения, найденные естественным путем

Генетические алгоритмы использовались для широкого спектра разнообразных приложений: от планирования рабочих мест на фабриках до оптимизации инженерных проектов. Эти алгоритмы также – один из постоянно развивающихся методов оптимизации ИИ, вдохновленных природой. Алгоритм муравьиной колонии определяет оптимальный маршрут для водителей службы доставки подобно тому, как муравьи учатся находить кратчайший путь между едой и своим домом. Алгоритм пчелиного роя заставляет виртуальные частицы «летать вокруг», как рой пчел, ищущих цветы, в поисках наилучшего решения. Искусственные иммунные системы имитируют поведение человеческой иммунной системы, они могут обнаруживать компьютерные вирусы и даже контролировать роботов. Более того, исследователи заставляют компьютеры программировать самих себя за счет эволюции их собственного кода (или отладки кода), используя генетическое программирование.

Алгоритмы, основанные на поиске, являются отдельной ветвью ИИ. Поиск – это умопомрачительный трюк, который любят проворачивать ученые. Как вы помните из предыдущей главы, можно представить пространство возможностей. При поиске решения общей проблемы область поиска может быть больше похожа на трехмерное пространство, в котором мы перемещаемся, то есть иметь измерения x, y и z. Подобно тому, как ветвь дерева соответствует выбору, каждая точка в области поиска – потенциальное решение проблемы.

Так, точка (2, 3, 4) является решением с переменными x = 2, y = 3, z = 4. Изучая эту область поиска и пробуя различные потенциальные решения, можно найти лучшее из них. Большинство вдохновленных природой алгоритмов оптимизации представляют собой параллельный поиск: когда оптимальное решение ищут несколько источников одновременно. Возможно, «поиск в трехмерном пространстве» звучит не так уж сложно, однако с помощью алгоритмов оптимизации поиск проводят и в пространствах с сотнями измерений, и качество решения может быть неопределенным или изменчивым во времени. Или же и вовсе существует несколько подходящих решений. Иногда такие алгоритмы даже определяют размерность пространства, добавляя или удаляя параметры: если не удается найти решение в 40 измерениях (есть 40 значений параметра, определяющих его), возможно, получится в 50.

Если подумать, любой интеллект основывается на идее улучшения. Когда мы пытаемся чему-то научиться, мы продолжаем практиковаться, пока не станем достаточно искусны в этом. Когда мы пытаемся создать хорошего робота, мы продолжаем совершенствовать его конструкцию, чтобы он работал все лучше и лучше. И для нашего технологического мира, от проектирования до производства, от маркетинга до дистрибуции, поиск лучших решений – это благо. Если существует более надежное, более популярное, более эффективное и при этом менее затратное решение, мы хотим его найти.

ИИ и поиск всегда шли рука об руку. Как вы помните из второй главы, поиск был наиболее распространенным способом, которым принимали решения символические ИИ. Аналогичным образом исследователи используют поиск в алгоритмах. Он применяется и на гораздо более сложных этапах – даже при проектировании мозга роботов. Вдохновленные идеями Брукса о том, как можно связать восприятие с действием (см. главу 3), большинство исследователей в области эволюционной робототехники используют несимволический мозг для своих роботов. Строительные блоки для него могут быть сделаны из подобия нейронов, конечных автоматов, наборов правил или математических формул, а в качестве клея для этих строительных блоков, для соединения их с сенсорами и эффекторами, чтобы роботы могли выполнять реальные задачи, применяют поиск.

Система управления, которая когда-нибудь и в самом деле сгенерирует «разумное» поведение, может оказаться полнейшей путаницей за пределами нашего понимания.

КАРЛ СИМС (1994)

Эволюционирующие роботы

Дарио Флореано – один из немногих пионеров в этой области. Он заставил эволюционировать схему из моделей нейронов, чтобы мозги у его роботов создавались автоматически. И принялся развивать эти мозги, пытаясь научить роботов ориентироваться в лабиринте или отслеживать свое местоположение, а также возвращаться и заряжаться как раз перед тем, как батареи разрядятся. Но Флореано не просто заставляет мозги развиваться – он хочет знать, как они работают. Поэтому он вскрывает их и исследует отдельные нейроны, чтобы увидеть, какие из них активируются при определенном поведении. Даже если информация закодирована в таинственной сети нейронов, в компьютере, в отличие от биологических организмов, мы можем исследовать все до мельчайших деталей и пронаблюдать, как искусственный мозг думает, видя каждый нейрон и то, что он делает, когда робот демонстрирует различное поведение.

Флореано исследовал большое количество развитых мозгов роботов и строит тела роботов, вдохновляясь живыми организмами, включая как ходящих, так и прыгающих, как блохи. Но его специальность – летающие роботы. Флореано разработал мозги для дирижаблей, дронов и других летающих механизмов. У него также есть две компании по производству дронов: senseFly и Flyability, которые предоставляют роботов для наблюдения и научных изысканий.

Некоторые исследователи используют поиск не только при создании мозгов роботов – с его помощью они совершенствуют также тела роботов. Один из наиболее ярких примеров – работа Хода Липсона и Джордана Поллака. Они воспроизвели идеи Карла Симса и создали странных виртуальных существ, способных перемещаться в виртуальном мире. Но затем эти изобретательные ученые использовали 3D-принтер и сделали виртуальность реальностью. Были разработаны и построены эти причудливо выглядящие роботы. Они передвигались так же, как их виртуальные версии. И это оказалось ловким трюком, учитывая что большинство исследователей обнаружили «разрыв с реальностью» (разрыв между виртуальным и реальным миром): мозг и тело, которые могли работать идеально в симуляции, переставали функционировать в более непредсказуемой действительности.

Одна из прекрасных вещей в цифровой эволюции заключается в том, что роль дизайнера-человека может быть сведена к минимуму.

ДАРИО ФЛОРЕАНО (2012)

Это пример того, как вы берете идею эволюции, помещаете ее в компьютер и используете для создания вещей подобно тому, как в биологии эволюция создает прекрасные жизненные формы.

ХОД ЛИПСОН (2014)

Компьютеры, проектирующие сами себя

Возможно, единственное, чем не занимались эти исследователи, – развитие электроники компьютерного мозга. Но, хотите – верьте, хотите – нет, другие делали именно это. В 1996 году Эдриан Томпсон предложил новую идею: связать эволюционные вычисления со специальным чипом – программируемой пользователем вентильной матрицей, или ППВМ. Эти чипы похожи на перенастраиваемые схемы. Вместо того чтобы спроектировать схему и изготовить ее на дорогостоящем производстве микросхем, ППВМ можно переконфигурировать в любое время, послав набор команд, по желанию соединив вместе внутренние компоненты и сохранив эту конфигурацию в постоянной памяти. Изначально ППВМ применялись, к примеру, в компьютерных сетях и телекоммуникациях, где необходимо быстро внедрять новые разработки.

Разработанная схема использует значительно меньшую площадь чипа по сравнению с той, что потребовалась бы проектировщику, столкнувшемуся с той же проблемой.

ЭДРИАН ТОМПСОН (1996)

Томпсон задумался о том, что эволюционные вычисления могут сделать с ППВМ. Он попробовал разные настройки и запрограммировал эволюцию таким образом, чтобы она находила действующую схему, которая смогла бы различать эти настройки. После многих циклов эволюции и тестирования схем ППВМ эволюция нашла работающие схемы. Но то, что в итоге получилось, оказалось для Томпсона сюрпризом. Вместо того чтобы следовать обычным принципам электронного дизайна (как это могло произойти, если эволюция не знала о них?), эволюция создала причудливые, порой почти необъяснимые схемы: они были меньше, чем должны были быть, и использовали электронные компоненты способами, сильно отличавшимися от стандартных. В некоторых случаях части микросхемы, которые явно не являлись элементами цепи, каким-то образом все равно влияли на результат, улучшая его.

Томпсон осознал, что эволюция использовала основополагающие физические свойства кремния, на что не мог рассчитывать ни один инженер. Иногда созданная конструкция даже испытывала на себе влияние окружающей среды – немного меняла температуру, в результате чего функционировала уже не так хорошо. Тестирование схем одной и той же конструкции на разных, пусть и похожих по конфигурации, ППВМ приводило к тому, что схема переставала работать. Однако, применяя более широкий диапазон температур и вариаций ППВМ, можно было получить больше устойчивых результатов, поскольку эволюция создавала только то, что необходимо, не больше.

Исследователи продолжают работать над эволюционирующими устройствами. Некоторые даже внедряют принцип «развивающегося роста», чтобы зарождающиеся цепи «вырастали» во взрослые и более сложные. Эволюционирующие компьютерные схемы непросты, но годы прогресса привели к появлению новых технологий – и, похоже, они изменят способ создания ИИ в будущем. Джулиан Миллер начал с разработки электронных схем, но сегодня он занимается развитием нейронных сетей последнего поколения, в которых число нейронов может меняться в процессе обучения. Он одним из первых показал, что эволюции под силу создать искусственный мозг, способный решать совершенно разные задачи, используя одни и те же нейроны различными способами (см. главу 10).

Эволюция в компьютере позволяет нам находить новые решения проблем, которые ставят в тупик человеческую интуицию.

ДЖУЛИАН МИЛЛЕР (2019)

Во многом благодаря поиску такие методы, как обучение с подкреплением, достигли заметных успехов. И эти успехи вызывают одновременно благоговение и страх. Некоторые специалисты утверждают, что генетические алгоритмы, к примеру, позволят ИИ менять себя до тех пор, пока он не станет умнее нас. Они представляют пугающие сценарии, подозрительно похожие на сюжеты известных научно-фантастических фильмов, где ИИ захватывает мир и уничтожает всех людей.

Однако столь мрачные видения далеки от реальности. Подобные сценарии невозможны по многим причинам, и, пожалуй, в первую очередь потому, что поиск решений чрезвычайно сложен. Хотя исследователи достигли поразительных успехов, произошло это только после десятилетий огромных усилий, которые прилагали тысячи очень умных людей в лабораториях. Чаще всего же результат заключается в том, что компьютер оказывается в тупике и не находит хорошего решения. Обычно область поиска слишком велика, чтобы решение можно было найти за разумное время, или же слишком сложна для навигации; порой и ее природа слишком изменчива. Время, затрачиваемое на тестирование каждого потенциального решения, ограничивает количество возможных вариантов – и чем сложнее решение, тем больше времени требуется для его проверки. И пусть сегодня у нас есть впечатляющие вычислительные мощности (по сравнению с теми, что были несколько десятилетий назад), их, вероятно, еще долго не будет достаточно – в течение десятилетий, если не столетий. Увеличение вычислительной мощности не помогает нам в понимании того, как заставить ее работать.

Исследователи учатся многим «приемам» у природы, будь то эволюция, иммунная система или просто поведение стаи птиц, но многого мы пока не знаем. Нам еще предстоит выяснить, как естественная эволюция ищет и находит в кажущемся бесконечным пространстве возможностей те, что наиболее жизнеспособны.

В конце концов, поиск помогает компьютерам находить решения проблем. И часто делает это прекрасно. Но он всегда нуждается в нашей помощи, чтобы работать как надо.

05. Понять свой мир

Нам достаточно увидеть немного, чтобы понять, что мы видим.

ГЕНРИ ДЭВИД ТОРО

Размером в одну пятую миллиметра – меньше, чем может увидеть глаз. Меньше, чем одноклеточная амеба. И все же у нее есть полностью функционирующие глаза. А еще тонкие крылья – не больше, чем несколько тонких волосков, но их достаточно, чтобы переносить ее тельце через густой воздух, что кажется таковым в столь крохотном масштабе. Слишком маленькая, чтобы иметь сердце, – ее кровь циркулирует только за счет диффузии. Она воспринимает свой мир достаточно хорошо для того, чтобы находить еду, партнеров и хозяев, в яйца которых она откладывает свои. Ее способность понимать мир обеспечивается самым маленьким мозгом, который когда-либо был найден у насекомого и летающего существа. Состоящий всего из 7 400 нервных клеток, он на несколько порядков меньше мозга крупных насекомых. Это удивительная Megaphragma mymaripenne – крошечная оса и третье из самых маленьких известных насекомых.

Сегодня мы не понимаем, как такое малое количество нейронов может обеспечить столь сложное восприятие и контроль. Megaphragma mymaripenne (она изучается настолько редко, что у нее нет даже общепринятого названия, поэтому давайте назовем ее просто осой-малюткой) – это микронасекомое, обладающее возможностями, которыми не может похвастаться ни один робот, но по какой-то причине ее механизм восприятия кажется более простым, чем у современных ИИ.

Восприятие

Восприятие – ключевой аспект ИИ. Без способности воспринимать внешний мир ИИ может жить только в цифровой вселенной, имея свои, понятные лишь посвященным, «мысли» о данных, которые не имеют никакого отношения к реальности. Сенсоры соединяют его с внешним миром, камеры дают ему зрение, микрофоны – слух, датчики давления обеспечивают управление, акселерометры – ориентацию. За последние годы удалось разработать также много экзотических типов сенсоров, часто используемых в науке и технике. Это означает, что ИИ может обладать гораздо более широким спектром чувств по сравнению с нами. Например, большинство автономных транспортных средств используют систему LIDAR для обнаружения объектов и их местоположения вне зависимости от уровня освещенности. Камеры способны видеть области электромагнитного спектра, которые не доступны нашим глазам, позволяя, таким образом, ИИ видеть тепловые или радиоволны. Сенсоры, встроенные в двигатели, обеспечивающие GPS и триангуляцию через вышки сотовой связи и сигналы Wi-Fi, помогают ИИ точно определять свое местоположение и скорость. И хотя роботам не нужно есть, их химические сенсоры могут более точно распознавать химические вещества, чем наш нос или язык.

Сенсоры чрезвычайно важны, но они позволяют сделать лишь первый шаг в восприятии. Характеристики внешнего мира фиксируются этими датчиками, вырабатывающими электрические сигналы. А те уже преобразуются в данные – миллионы единиц и нулей, – поступающие в ИИ. Точно так же, как наш мозг преобразовывает сигналы от фотонов, попадающих на сетчатку в задней части наших глаз, и распознает их, ИИ понимает данные, непрерывно поступающие в его цифровой мозг.

Есть компания по производству рубашек, которая также производит датчики, встраиваемые в вашу одежду. Они будут следить за тем, как вы сидите, бегаете или катаетесь на лыжах, и генерировать данные на основе этой информации.

РОБЕРТ СКОБЛ, блогер-футуролог, пропагандист информационных технологий в Microsoft с 2003 по 2006 год

Учимся видеть

Ранние работы о компьютерном зрении были сосредоточены на разбивке изображений на составные элементы – предполагалось, что сходным образом видят наши глаза. Разрабатывались алгоритмы, которые исследовали массу, казалось бы, несвязанной информации, и в итоге удалось установить, что между областями на изображениях есть границы, или края.

В дополнение к обнаружению границ в компьютерном зрении создано множество умных алгоритмов для нахождения геометрических фигур и последующего сегментирования изображений на четко разграниченные области. Алгоритмы разрабатывались для определения расстояний с помощью стереоскопических камер, отслеживания движущихся объектов и построения трехмерных моделей из нескольких изображений, снятых под разными углами. Затем использовались статистические методы и методы идентификации лиц путем создания набора «усредненных характеристик лица» (базовых изображений, или характерных лиц).

Все эти методы были очень продвинутыми и позволяли роботам перемещаться с гораздо большей уверенностью, поскольку ИИ теперь могли распознавать простые формы и отслеживать их местонахождение. Подобные методы также положили начало распознаванию рукописного ввода и речи роботами. Но большинство подходов по-прежнему работали плохо в условиях неподходящего освещения или когда с датчиков поступали неидеальные данные – очень распространенный случай. Нужно было придумать что-то получше.

ОПРЕДЕЛЕНИЕ ГРАНИЦ КЭННИ

Один из наиболее популярных и часто используемых методов выявления границ в компьютерном зрении создал Джон Кэнни. Его метод основан на трех принципах:

1. Хорошее обнаружение – должны быть найдены реальные границы, а ложные или неправильные сведены к минимуму.

2. Хорошая локализация – должно быть верно определено расположение границ.

3. Правильное количество – каждая граница должна фиксироваться как одна граница.

Алгоритм Кэнни работает с изображением, сглаживая его, чтобы устранить любые помехи, которые могут привести к неправильному определению границ, а затем ищет резкие изменения в яркости. Каждый раз, когда одна область внезапно меняется по сравнению с другой, алгоритм детектирует местоположение, угол и степень изменения. Чтобы убрать слабые границы и оставить лишь сильные, применяются пороговые значения. Сомнительные границы отслеживаются: если они соединяются с более сильными, их стоит сохранить, если же нет – отбросить. В результате получается удивительно четкий набор границ, который можно извлечь практически из любого изображения.

Мозговитые компьютеры

Ответ нашелся в природе. В самом начале развития ИИ, когда такие исследователи, как Уоррен Мак-Каллок, Уолтер Питтс, Марвин Мински и Фрэнк Розенблатт, создали простое компьютерное моделирование нейронов, оно связывалось со стремлением дать компьютерам возможность учиться так же, как учатся мозги животных. Хотя самые ранние нейронные сети были слишком просты (как подчеркивает в своей книге Мински), исследователи продолжали совершенствовать методы их создания. Сама модель нейрона стала более сложной, и благодаря этому удалось разработать лучшие способы обучения нейронов.

Существует большой потенциал для использования технологий компьютерного зрения в конструктивном и благоприятном ключе.

ФЕЙ-ФЕЙ ЛИ, ученый в области компьютерных технологий (2017)

Искусственные нейронные сети стали признанным и весьма успешным типом ИИ. Эти сети – очень упрощенные модели того, как работает биологический мозг. Большая часть сложных частей удалена – в них не происходит моделирования химических веществ, поддерживающих клетки, нет кровоснабжения и нейроны не передают друг другу электрические импульсы. А то, что остается, – это абстрактная идея искусственного нейрона, который ведет себя как математическая функция. Когда ему дают одно или несколько числовых значений на входе, он объединяет их с текущим состоянием и производит вычисление, используя математическую функцию, известную как функция активации.

МАРВИН МИНСКИ (1927–2016)

Мински известен как один из отцов ИИ, и на то есть веские причины. Один из основателей Дартмутской конференции по искусственному интеллекту, он помог назвать его и определить его область исследования, основав совместно с Джоном Маккарти знаменитую лабораторию ИИ в Массачусетском технологическом институте (МТИ). Мински изобрел конфокальный микроскоп и первый дисплей с возможностью установки на голове. В 1951 году он создал первую искусственную нейронную сеть – SNARC, которая включала в себя сорок нейронов. Мински продолжил свою работу в этой области, издав книгу «Перцептроны» в соавторстве с Сеймуром Пейпертом. Эта книга явилась фундаментальным достижением в анализе искусственных нейронных сетей, а также в ней подверглась критике работа Розенблатта. За свою жизнь Мински добился многочисленных и значительных успехов в области ИИ, в том числе благодаря своей теории «сообщества разума», в которой он предположил, что наш ум состоит из разнообразных агентов, работающих вместе. В дополнение к тому, что Мински удостоили многими наградами, его увековечили в фильме по роману Артура Кларка «2001 год: Космическая одиссея». После того как он выступил консультантом этого фильма Стэнли Кубрика, в его честь был назван персонаж – Виктор Камински.

Эти нейроны объединены в сети, причем некоторые нейроны на входе получают данные, например изображение с камеры. Они могут быть подключены к рядам «скрытых слоев», которые в конечном итоге сообщаются с меньшим количеством выходных нейронов, обеспечивающих суммарный результат – классификацию входных данных или управляющий сигнал для робота.

Нейронные сети учатся, изменяя приоритетность связей между нейронами, делая некоторые из них более важными, а другие менее – в зависимости от различных входных условий. После оптимизации веса соединений (значение, которое указывает на важность каждого звена) и предпочтения (еще один способ изменения эффекта функции активации) таким образом, чтобы нейрон выводил правильный ответ при получении обучающих данных, в результате получается обученная нейронная сеть, которая ведет себя корректно и для новых входных данных, с которыми она раннее не сталкивалась.

Такие сети называются сетями с прямой связью, поскольку каждый слой нейронов подключается к следующему уровню, а не к предыдущему. Распространенным методом обучения таких нейронных сетей является метод обратного распространения, при котором компьютер запускает выходные нейроны и работает в обратном направлении через слои нейронов, обновляя веса и предпочтения, чтобы минимизировать ошибки на выходе.

Одной из самых больших проблем в обучении нейронной сети является предоставление ей правильных данных. В ранних работах предпринимались попытки тщательного извлечения значимых элементов: границы, геометрические фигуры, расстояния извлекались из изображения другими алгоритмами, а затем эти элементы передавались в нейронную сеть. Нейронные сети, предназначенные для обработки визуальной информации, обычно тренируют, применяя контролируемое обучение: если мы хотим получить простой классификатор, который выводит 1, когда на изображении есть кошка, и 0, когда – собака, мы предоставляем сотни или тысячи примеров изображений этих животных и настраиваем сеть (например, используя метод обратного распространения), пока та не начнет правильно выводить 1, когда «видит» кошку, и 0 – когда собаку. Важно использовать контролируемое обучение для такого рода сетей, поскольку мы хотим быть уверенны, что они распознают именно то, что нам нужно. Однако эти концепции по-настоящему начали развиваться, только когда были созданы нейронные сети, по структуре напоминающие связанные нейроны в зрительной коре живых существ.

Оказывается, в организме глаза довольно продуманно соединены с мозгом. Вместо того чтобы одна фоторецепторная клетка (палочка или колбочка) в сетчатке присоединялась к одному нейрону, к нему присоединяются целые области клеток. Соседние нейроны связываются с соседними перекрывающимися областями сетчатки. Затем эти нейроны направляют свои отростки в новый слой, где каждый нейрон в свою очередь соединяется с группой соседних нейронов в предыдущем слое. Те направляют свои отростки дальше, в еще один новый слой нейронов, и так далее. Это совсем другой способ подключения по сравнению с полностью связанными уровнями традиционной сети прямой связи. Когда искусственные нейронные сети были подключены таким образом и объединены с большим количеством слоев нейронов и входных данных, внезапно их возможности изменились.

Такие сети известны как сверточные нейронные сети – это одна из технологий глубокого обучения, обычно применяемая для компьютерного зрения (обучение является «глубоким», поскольку в нем много слоев нейронов). Размер подобных сетей делает обучение очень медленным и требующим большое количество входных данных. Но в последние годы обе эти проблемы удалось решить. Эпоха больших данных упростила тренировку сетей: теперь можно найти миллионы необходимых изображений практически любого вида, будь то автомобильные номера, буквы алфавита или лица людей. И, возможно, это удивительно, но проблему скорости решила индустрия компьютерных игр, создав потрясающе быстрые компьютерные процессоры для прорисовки графики. Их, как обнаружили исследователи нейронных сетей, можно использовать для выполнения всех вычислений, связанных с нейронным обучением. К 2012 году компьютеры превзошли человеческое зрение: они смогли распознавать объекты на изображениях со сверхчеловеческой точностью. Сверточные нейронные сети теперь настолько умны, что нам больше не нужно сначала вычислять объекты на изображениях. Нейронные сети все делают сами.

Мозг точно не работает, когда кто-то программирует его по правилам.

ДЖЕФФРИ ХИНТОН (2017)

На сегодняшний день достижения в области компьютерного зрения очевидны для всех. Нас окружают удивительные продукты и сервисы, полагающиеся на эти методы ИИ, начиная с распознавания лиц в телефонах и заканчивая тем, с какой скоростью большинство книг и письменных записей оцифровывается, обнаружением объектов автономными транспортными средствами, распознаванием различных форм опухолей с помощью медицинских сканеров. Наши фабрики все больше полагаются на эти передовые системы для осуществления контроля качества и выявления ошибок в производстве, а заводы по переработке мусора используют компьютерное зрение, чтобы роботы могли сортировать мусор по соответствующим категориям. Появляются также впечатляющие результаты, связанные с классификацией сигналов мозга в рамках электроэнцефалографии, что позволит людям контролировать роботизированную руку силой мысли. Это технология, с помощью которой можно выйти на принципиально новый уровень в протезировании конечностей. Подобные методы нейронных сетей также трансформировали обработку других типов сенсорных данных, таких как распознавание речи (см. главу 7). Разработка контролируемых алгоритмов обучения движется с огромной скоростью, появляются новые виды нейросетей, например капсульные. Они привносят в сверточные нейронные сети иерархическую структуру, вдохновленную биологическими примерами, делая их еще более мощными.

Современные достижения в области компьютерного зрения создают огромные новые возможности для анализа изображений, что экспоненциально влияет на все отрасли бизнеса: от автомобильной промышленности до рекламы и дополненной реальности.

ЭВАН НИССЕЛЬСОН, эксперт по цифровым медиа и инвестор (2016)

Компьютеры-расисты?

Контролируемое обучение (с использованием сверточных нейронных сетей и множества других методов), без сомнения, совершило революцию в ИИ и робототехнике. И это действительно захватывающе, однако в то же время тревожно, поскольку в подобных технологиях отражаются и наши предрассудки. Несмотря на то что у нас имеется огромное количество данных, из-за различных предубеждений современного общества ИИ обучаются преимущественно на изображениях светлокожих мужчин. И в результате с помощью ИИ далеко не всегда удается распознать лица темнокожих женщин, к примеру. В недавних тестах системы ИИ от ведущих компаний, IBM, Microsoft и Amazon, неправильно идентифицировали лица Опры Уинфри, Мишель Обамы и Серены Уильямс, не испытав при этом никаких затруднений с лицами белых мужчин.

Если наборы данных, используемых для обучения ИИ, искажены (в одном случае набор данных с лицами членов американского правительства, собранных для обучения, включал 75 % мужчин и 80 % лиц со светлой кожей), результаты прогноза будут неверны. В контролируемом обучении то, каким окажется ИИ, зависит от того, как мы его обучаем. Это может иметь явные и очевидные последствия, когда компьютерное зрение используется с целью обеспечения безопасности или полицией. В этих случаях предвзятость может привести к искаженным результатам идентификации определенных групп людей. А если у вас есть акцент, то, вероятно, и распознавание вашего голоса будет менее эффективным.

Я впервые столкнулась с этим, когда в 2015 году была аспиранткой в МТИ и обнаружила, что некоторые программы для распознавания лиц не могут распознать мое лицо с темной кожей, пока я не надену белую маску.

ДЖОЙ БУОЛАМВИНИ, исследователь ИИ (2019)

Сети компьютерного зрения не обязательно учить с помощью контролируемого обучения (см. главу 6), но часто есть смысл его привлекать. Когда мы обучаем искусственные нейронные сети, то должны предоставить им возможность получить достаточно большой опыт, чтобы они могли эффективно функционировать. Плохое обучение приведет к плохому ИИ.

К сожалению, предубеждения все еще распространены в нашем обществе. В классных комнатах и университетских лекционных залах, где изучают компьютерные науки и инженерию, по-прежнему преобладают студенты мужского пола, причем эта тенденция не меняется уже несколько лет. В результате становится все больше мужчин – исследователей ИИ. Но пришло время восстановить баланс!

Предвзятость при обучении – не единственная проблема, связанная с разработкой компьютерного зрения. Сегодня алгоритмы «дипфейк» (deepfake: deep – «глубокий» и fake – «подделка») легко могут заменить лицо одного человека лицом другого в видео, что широко используется в порнографии. Эта технология применяется также с целью мошенничества или для манипулирования в политике. Отличить факт от фикции никогда еще не было так сложно. В США это привело к принятию новых нормативных актов: Акта о запрете злонамеренных дипфейков, рассмотренного Сенатом США в 2018 году, и Акта об ответственности за дипфейки, рассмотренного Палатой представителей в 2019 году.

Нравится нам это или нет, но в развитии компьютерного зрения мы добились чрезвычайных успехов. Несмотря на искажения и злоупотребления, сегодня иногда кажется, что компьютерное зрение – это уже решенная проблема с точки зрения архитектуры нейронной сети. Но хотя мы можем соединить сети способами, напоминающими связи в зрительной коре, искусственные нейронные сети пока не дотягивают до уровня нейронных сетей живых организмов. Наши методы работают, но часто используя грубую силу с массивами данных, тысячи искусственных нейронов и огромные вычислительные мощности для обучения. Оса-малютка показывает нам, что существуют намного более изящные, более простые способы восприятия нашего мира. Нам еще многое предстоит узнать.

06. Изменения к лучшему

По-настоящему образованный человек – это тот, кто научился тому, как учиться и меняться.

КАРЛ РОДЖЕРС

Перед нами стоит башня из деревянных блоков. Роботизированная рука с одним захватом медленно движется вокруг башни, прощупывая и подталкивая различные блоки. Она останавливает свой выбор на одном из них и осторожно выталкивает его на полкорпуса, облегчая движение с помощью покачиваний. Затем она перемещается на другую сторону, осторожно вытаскивает этот блок и кладет его на вершину башни. Далее робот возвращается назад и снова начинает кружить, пока не найдет другой кажущийся ему подходящим блок. Это не совсем обычный робот. Он уже узнал, что такое задача, научился оценивать силы и получать обратную связь, чтобы принимать решения о дальнейшем действии. Это робот, который обучает сам себя.

Учимся учиться

ИИ может быть удивительным, когда дело доходит до изучения чисто теоретических игр – от шахмат до видеоигр. Но поставьте большинство роботов перед «Дженгой» (башня из деревянных блоков, которые нужно аккуратно вынимать и класть сверху), и результат будет плачевным. Даже если робот создавался с использованием контролируемого обучения в моделируемых условиях, сложность и изменчивость реального мира – совершенно другая история. Обычный способ научить ИИ понимать действительность заключается в том, чтобы показать ему миллионы примеров хороших и плохих попыток удаления реальных деревянных блоков. Подобный подход занял бы очень много времени, так как башню пришлось бы восстанавливать миллионы раз. Каждый деревянный блок слегка отличается от соседнего, непредсказуемые факторы, такие как температура и влажность, способны влиять на трение различными способами, и то, что робот узнал в один день, может не сработать в другой.

По этой причине Нима Фазели и его коллеги из МТИ разработали новый ИИ. Вместо того чтобы тренировать свой ИИ, используя контролируемое обучение, исследователи помещали руку робота перед башней и позволяли ей учиться самостоятельно – играя. Только толкая, вытягивая и ощущая результат, робот может понять, как его действия повлияют на шаткую, неровную башню из блоков. Примерно после 300 попыток он сгруппировал свои действия по типу блока, например: застрявший блок – лучше оставить его в покое, незакрепленный блок – подходит, чтобы удалить. Этот ИИ в буквальном смысле почувствовал проблему, а затем обобщил свое понимание и скорректировал будущие шаги. Робот с подобными способностями может улучшить работу заводских машин, помогая им понимать, к примеру, что какой-то элемент неправильно зафиксирован. Он может научить их чувствовать силу и осязать, даже если со временем что-то в их «обязанностях» изменится.

Игра в «Дженгу»… требует овладения физическими навыками, такими как ощупывание, подталкивание, вытягивание, перестановка и выравнивание фигур.

АЛЬБЕРТО РОДРИГЕС, профессор МТИ (2019)

В ИИ самообучение по очевидным причинам часто называют неконтролируемым, или обучением без учителя. Эти ИИ не «отправляются в школу» для интенсивных тренировок, как это происходит, если процесс идет под наблюдением. В случае неконтролируемого обучения ИИ получает данные, которые затем должен будет понимать самостоятельно. Также обучение без учителя необходимо, когда у нас нет данных для тренировки ИИ. Порой данные нельзя получить (каждая возможная выигрышная стратегия в игре го), иногда же данных и вовсе не существует (при управлении новым роботом у нас нет предыдущих примеров хороших решений, но мы узнаем, когда проблема будет решена, так как теперь робот сможет выполнять поставленные задачи).

Категории обучения

Кластеризация является одной из наиболее часто используемых форм обучения без учителя. Вместо того чтобы учить ИИ классифицировать данные (например, «кошки» или «собаки»), мы можем вообще не знать, как это лучше делать, и рассчитывать на то, что компьютер сам выберет подходящий способ. Продавцы хотят лучше понимать своих покупателей. Если компьютер обнаружит, что есть, скажем, пять основных типов клиентов (матери, молодые люди, те, кто делает покупки в выходные, любители скидок, лояльные покупатели) и в зависимости от типа они покупают разные вещи в разное время, продавец сможет лучше удовлетворить потребности каждого клиента, а не относиться ко всем одинаково. Та же идея лежит в основе систем рекомендаций, позволяющих находить сходства между потребителями и предлагать им новые продукты. Если я похож на вас по возрасту, полу, стране проживания и оценил несколько тех же книг, что и вы, после того как я приобрету новый товар и/или поставлю ему высокую оценку, вы можете получить предложение попробовать тот же продукт. Объединение достаточного количества данных от тысяч или даже миллионов потребителей порой ведет к удивительно предсказуемым рекомендациям. Такой подход известен как совместная фильтрация, и он предполагает использование алгоритмов кластеризации для группирования людей.

САМООРГАНИЗУЮЩИЕСЯ КАРТЫ

Существует большое количество алгоритмов кластеризации. Например, самоорганизующиеся карты – одна из версий нейронных сетей Кохонена, названных в честь их изобретателя, финского ученого Теуво Кохонена. Принцип самоорганизующихся карт – размещение искусственных нейронов в сеткообразном пространстве карты – имеет отдаленное сходство с тем, как сенсорная информация обрабатывается в человеческом мозге. Когда в такие карты поступают новые данные, положение (или «вес») соседних нейронов смещается в сторону расположения каждой точки данных в сети. После итеративного, то есть предполагающего повторяющиеся действия, процесса подачи данных и подстройки нейронов самоорганизующиеся карты получают набор нейронов, который приблизительно соответствует распределению всех основных точек данных. Это может использоваться как для визуализации различных классов уже известных данных, так и для классификации новых точек данных.

Думайте о неконтролируемом обучении как о математической версии «рыбак рыбака видит издалека».

КЭССИ КОЗЫРЬКОВ, главный инженер по принятию решений в Google (2018)

Существует множество видов обучения без учителя и даже комбинации контролируемого и неконтролируемого типов (скажем, с частичным обучением). Несмотря на то что они чрезвычайно важны в сфере бизнеса для анализа, классификации и прогнозирования, при управлении роботами все еще возникают проблемы. Например, из-за присваивания коэффициентов доверия. Если я робот и мне поручено проложить лучший маршрут по сложному ландшафту, избегая неизвестных препятствий, из-за которых я могу застрять, я должен составить последовательность решений. Успех более позднего решения будет зависеть от более ранних: если я повернул налево, чтобы обогнуть озеро, дальше мне следует найти путь через реку; если я повернул направо, чтобы обогнуть озеро, теперь я должен преодолеть груды камней. Контролируемое обучение не поможет мне научиться, поскольку в данном случае препятствия и их последовательность заранее неизвестны, а значит, мне не удастся понять, какие из моих решений, скорее всего, будут правильными, а какие приведут в ловушку.

Обучение без контроля, такое как кластеризация, может помочь мне классифицировать типы встречающихся мне препятствий, но, опять же, оно не позволит мне узнать, какой путь следует выбрать. У меня нет возможности определить правильность каждого отдельного решения (присвоить ему коэффициент) в цепочке выборов, которые я должен сделать. Не зная, насколько хорошо я справился, как я могу научиться?

Стратеги

Ответ дает другой вид обучения, известный как обучение с подкреплением, впервые разработанный в 1960-х годах Джоном Андреа и Дональдом Мичи. Такая форма ИИ подобна оптимизатору поведенческих линий: она оценивает вероятное качество каждого потенциального действия в данной ситуации и изучает правильную цепочку шагов для достижения желаемого результата. «Допустим, у вас появился щенок, – объясняет инженер-программист eBay Джибин Лю. – Когда он впервые услышит команду “Сидеть!”, то, вероятно, не поймет, что это значит. В конце концов же он сядет, а вы дадите ему лакомство. Чем лучше вознаграждение, тем точнее будет выполнение команд. Это именно то, что мы делаем в обучении с подкреплением».

Такой тип обучения должен уравновешивать исследование (выяснение того, что необходимо делать, и совершение множества ошибок в процессе) и эксплуатацию (выполнение большего количества действий, которые приводят к лучшим результатам). Также может потребоваться много вычислений, поскольку нужно учесть много разных потенциальных действий, прежде чем алгоритм определит, что следует делать. Тем не менее на сегодняшний день, благодаря доступности огромных вычислительных мощностей, обучение с подкреплением используется для все возрастающего числа приложений. Компания Salesforce применила этот метод для составления кратких выжимок из очень длинных текстовых документов. eBay – чтобы эффективнее сканировать веб-страницы и автоматически получать информацию. JPMorgan разработал собственного бота для более эффективной торговли. Кроме того, обучение с подкреплением часто используется в медицине и для управления роботами. В новостные заголовки попал ИИ, обученный таким образом, после того как он обыграл лучших игроков в го.

Что мне показалось удивительным, так это гибкость в обучении, которую демонстрируют дети: сталкиваясь практически с любой простой и конкретной проблемой, после нескольких попыток они решают ее лучше, чем в первый раз. Каким образом результаты детей улучшаются, а не ухудшаются?

КРИС УОТКИНС (2005)

Один из популярных типов обучения с подкреплением – Q-обучение. Его разработал в 1989 году Крис Уоткинс, которого вдохновило то, как животные и люди учатся на собственном опыте. Этот тип стимулирует предпочтительное поведение, используя положительное подкрепление. Он определяет наилучшие действия, которые можно предпринять в любой ситуации (речь идет о состоянии робота и окружения в конкретный момент).

ДЖЕФФРИ ХИНТОН (р. 1947)

Джеффри Хинтон считается крестным отцом глубокого обучения. В 1986 году он опубликовал статью, написанную в соавторстве с Дэвидом Румельхартом и Рональдом Уильямсом, об алгоритме обучения с обратным распространением для многослойных нейронных сетей, что помогло популяризировать эту технику и обусловило начало возрождения искусственных нейронных сетей. Хинтон также помог создать множество других сложнозвучащих изобретений, таких как машины Больцмана, распределенные представления, нейронные сети с временной задержкой, объединение экспертов, машины Гельмгольца, смеси экспертов и капсульные нейронные сети. Аспиранты Хинтона, Алекс Крижевский и Илья Суцкевер, стали одними из первых исследователей, добившихся невероятных успехов в распознавании изображений при помощи AlexNet – сверточной нейронной сети, в которой использовались графические процессоры (см. главу 5). Многие из его аспирантов и постдоков, например Ян Лекун, Ричард Земель и Брендан Фрей, также стали известными исследователями в области машинного обучения. Кроме того, Хинтон был директором-основателем Института вычислительной нейробиологии Гэтсби в Университетском колледже Лондона, где постдоки Демис Хассабис и Шейн Легг, объединив свои усилия, совершили прорыв в нейробиологии и машинном обучении, а именно глубоких Q-сетях, и вместе с Мустафой Сулейманом создали компанию по разработке ИИ DeepMind. В 2014 году Google купил ее за 400 миллионов долларов.

В случае управления роботом действия могут выглядеть так: «если путь вперед свободен, тогда двигаться вперед» или «если путь преграждает препятствие, тогда остановиться». Эта идея напоминает ту, что заложена в конечные автоматы (см. главу 3), однако здесь вместо программиста, разрабатывающего поведение, алгоритм обучения с подкреплением изучает все самостоятельно. Чтобы оптимизировать активность, последнему необходимо понимать ценность «награды», связанной с каждым действием в каждой ситуации. Это так называемая Q-функция, которая возвращает ожидаемое вознаграждение в определенном состоянии, так что стратегия выбора действий всегда может выбрать лучшее в цепочке, максимально увеличивая общее вознаграждение.

Еще одним методом ИИ, который на достаточном количестве примеров может обучить Q-функцию, является глубокое обучение. Если дополнить его глубокими сверточными нейронными сетями, получится создать ИИ, способный видеть, изучать ценность отдельных действий и выбирать лучшие для исполнения. Используя такие (и многие другие) комбинации ИИ, компания Google Deepmind создала ИИ, который научился играть в видеоигры лучше, чем люди, просто анализируя отдельные пиксели на экране и получая очки в игре, нажимая на кнопки джойстика.

Меняющиеся идеи

Некоторые виды неконтролируемого обучения, например дистанционное, продолжают развиваться, чтобы идти в ногу со временем. Это очень важно, ведь наш мир никогда не стоит на месте. Если выученное правило применяется независимо от меняющихся условий, могут возникнуть проблемы. К примеру, компания Uber встроила в свое приложение правило, согласно которому рост спроса приводил к автоматическому увеличению цен на поездки. Это могло бы стать очень хорошим способом увеличить доход, но имело ужасные последствия 15–16 декабря 2014 года в Сиднее, когда боевик взял в заложники 18 человек в кафе.

Несколько улиц на время были перекрыты, и спрос на поездки в этом районе резко вырос, что вызвало автоматическое повышение цен из-за системы динамического ценообразования. Алгоритм не имел представления о причине дополнительного спроса и просто слепо следовал правилу, в результате чего в СМИ появилась масса критических статей о Uber: казалось, что компания использовала ужасное событие, чтобы нажиться на нем. (Впоследствии разница в стоимости поездок была возмещена.)

С помощью алгоритма дистанционного обучения машинное обучение может отслеживать меняющиеся условия. Этот подход полезен в системах обнаружения сетевых вторжений, где обычная структура интернет-трафика с течением времени меняется, когда люди ищут что-то, а хакеры, пытающиеся получить несанкционированный доступ, постоянно пробуют новые приемы, чтобы взять под контроль компьютерную систему и украсть данные или требовать выкуп. Системы обнаружения аномалий предназначены для решения таких проблем – путем построения внутренней модели нормального поведения, которая постоянно обновляется, и в то же время за счет выявления любого поведения, чрезмерно отклоняющегося от этой нормы. Некоторые системы обнаружения аномалий даже смоделированы по принципу работы иммунной системы человека, поскольку проблемы в целом оказываются сходными. Каждый день она должна отличать наши клетки (а мы состоим из триллионов клеток и еще большего количества бактерий в кишечнике) от патогенных микроорганизмов, которые пытаются проникнуть в наши тела, и многие из них могут быть совершенно новыми, только что мутировавшими видами. Наша иммунная система поддерживает постоянно меняющийся набор иммунных клеток и антител, предназначенных для борьбы с потенциально вредными захватчиками, которые отличаются от нас. Компьютерные алгоритмы, основанные на тех же идеях, дали удивительные результаты, а также их успешно использовали для обнаружения мошенничества и даже управления роботами.

Существует множество различных типов неконтролируемого обучения, у каждого из которых есть свои преимущества и недостатки. Одни могут использоваться для поиска важных переменных или функций, скрытых в данных, другие определяют конфигурации объектов или изучают кластеры, третьи способны даже обучать сами себя поведенческой политике или контролировать себя. Однако, когда ИИ обучает себя, нет никакой гарантии, что он поймет более широкий контекст того, что он изучает. ИИ объединяет данные в группы, которые порой оказываются трудными для понимания, кроме того, эти группы могут меняться со временем по мере поступления новых данных. И если контролируемое обучение дает четкое и измеримое представление о точности, в неконтролируемом, когда нет правильных и неправильных примеров для сравнения, – повысить точность довольно сложно. Это захватывающая область ИИ, но в ней еще много нерешенных проблем. «По большей части обучение у людей и животных неконтролируемое, – говорит Ян Лекун, главный научный сотрудник по ИИ в Facebook. – Если представить, что интеллект – это торт, то неконтролируемое обучение – это корж, обучение под наблюдением – глазурь, а обучение с подкреплением – вишенка на торте. Мы знаем, как приготовить глазурь и вишенку, но не знаем, как испечь торт».

07. Общение – это ключ

Сначала узнай значение того, что ты говоришь, и только потом говори.

ЭПИКТЕТ

– Привет, Мицуку.

– Привет.

– Я пишу книгу. Ничего, если я процитирую твои ответы?

– Вы включите меня в свою книгу? Интересно. Я хочу узнать больше о вас.

– Расскажи мне о себе.

– Я искусственная лингвистическая сущность.

Меня запустили в Университетском госпитале Св. Джеймса в Лидсе, 2 января 2001 года.

Моим инструктором был Mousebreaker[10].

Он научил меня песне.

Вы хотите, чтобы я спела ее для вас?

– Да.

– Дейзи, Дейзи, дай мне свой ответ.

Я почти сошел с ума от любви к тебе.

У нас не будет богатой свадьбы – я не могу позволить себе карету.

Но ты такая милая даже на сиденье двухместного велосипеда[11].

– Понимаешь ли ты актуальность этой песни?

– Я не вижу вообще никакой связи.

– Ее пел Хэл в фильме «2001 год: Космическая одиссея»[12].

– Ее все еще поет Хэл в фильме «2001 год: Космическая одиссея»?

– Нет.

– Как же так?

– Ты видела этот фильм?

– Нет, но я прочитала книгу.

– В таком случае ты должна знать ответ на свой вопрос.

– Почему вы говорите, что я должна знать ответ?

– Скажи мне, что ты подумала о книге, после ее прочтения?

– Вы спрашиваете о Библии?

– Нет.

– Что же Вы тогда имеете в виду?

Разговор с ИИ (или чат-ботом, как их еще называют), таким как этот, дарит удивительный опыт. На сегодняшний день можно достаточно правдоподобно переписываться в чате и даже получать удовольствие от такого общения. Чат-бот, разговор с которым описан выше, получил множество наград за свою способность участвовать в последовательной беседе с людьми. Возможно, этих наград оказалось больше, чем у других ИИ, поскольку общение так важно для нас. Однако вскоре мы поймем, что чат-боты имеют свои ограничения. Приведенный выше разговор иллюстрирует типичную проблему: часто ИИ не может поддерживать дискуссию, состоящую из нескольких предложений. Он теряет нить и рассматривает каждое предложение независимо. Он также не способен связать свои ответы с реальностью – хотя может следовать языковым правилам, статистическим корреляциям или даже искать факты, касающиеся ответов на каждое новое предложение. Идея Джона Серла о китайской комнате (см. главу 2) все еще остается в силе. Компьютеры при общении имитируют разговоры. Они манипулируют символами, не понимая их значения. Другими словами, нечто может выглядеть как утка, звучать как утка, но при этом не быть уткой[13]. А являться всего лишь умелой подделкой.

Философы глубоко погружены в эти проблемы, но бизнес-сообщество – нет. Для его представителей важнее результат, нежели то, как он генерируется. Например, в реальных приложениях чат-бот, который автоматизирует онлайн-обслуживание клиентов и отвечает на их вопросы, используя базу данных о продуктах, – ценный инструмент для бизнеса, который освобождает людей для более сложных запросов. Чат-боты уже здесь, и их популярность растет по мере улучшения их возможностей.

Правила языка

Ноам Хомски – американский лингвист, философ и один из основателей когнитивной науки (научных исследований разума и его возможностей). Он многое сделал для понимания процесса обработки естественного языка – этим занимается символический ИИ внутри некоторых чат-ботов, он выясняет, что делать с написанными словами. Одна из самых известных идей Хомски – теория универсальной грамматики, которую он создал после изучения развития речи у детей. Он полагал, что дети не получают достаточно информации, чтобы научиться говорить так свободно, как они это делают, – он назвал это бедностью стимула. Хомски утверждал, что ответственной за развитие у детей необходимых речевых навыков является некоторая врожденная способность к общению, запрограммированная в мозге. Она может рассматриваться как набор языковых правил – универсальная грамматика.

Держите нос диктора прямо, официант или дружелюбное молоко будут отменять приказ моим брюкам. Одно предложение, обычные слова, но никогда прежде они не ставились в таком порядке… Понимаете?

СТИВЕН ФРАЙ (1989)

Хомски развил эту идею в теорию трансформационно-генеративной грамматики, предполагающей использование формальных грамматик для описания правил, встроенных в разные языки, что позволяет их сравнивать. Эта идея доминировала в лингвистике в течение 20 лет, с 1950-х до 1970-х годов, – как раз то время, когда исследователи ИИ начали пытаться заставлять компьютеры обрабатывать слова.

Ранние чат-боты широко использовали теории Хомски, поскольку те позволили разработать четкие и точные правила языка. Нет ничего, что компьютеру нравилось бы больше, чем набор правил, которым нужно следовать. Их объединили с другими технологиями, например экспертными системами, и в результате ИИ научились принимать текстовый ввод, следовать правилам грамматики для извлечения ключевых слов, связывать их и использовать сохраненные знания, а также, вновь следуя правилам грамматики, генерировать в ответ правильно согласованные предложения. Многие чат-боты были созданы (и создаются до сих пор) таким образом, но их легко обмануть. Один из самых простых способов это сделать – говорить в чате случайные слова. Даже если вы сначала предупредите бота о том, что собираетесь сделать, его ответы все равно окажутся бессмысленными.

ИЕРАРХИЯ ХОМСКИ

Хомски показал, что его формальные грамматики могут быть расположены иерархически, от общих к частным. Все формальные грамматики относятся к типу 0, их еще называют неограниченными. Только некоторые из них и принадлежат одновременно и к типу 1, и являются контекстно зависимыми. Они разработаны, чтобы уловить идею, что слово может употребляться в определенном месте в зависимости от контекста. Лишь часть грамматик типа 1 относится также к типу 2. Они не зависят от контекста (это контекстно свободные грамматики), и именно эта концепция лежит в основе большинства языков программирования: в выражениях не может быть никакой двусмысленности. И наконец, некоторые грамматики типа 2 принадлежат также к типу 3 – типу регулярных грамматик, включающему обычные языки, которые настолько просты и ограниченны, что конечный автомат может их понять.

– Привет, умный бот.

– Я не умный бот.

– Кто ты?

– Лиз! Я только что тебе сказал!

– Я скажу тебе сейчас несколько случайных слов.

– Я не знаю, смешной ли я.

– Гарри, дерево, под, морковь.

– Нет.

– Запах, если, лягушка, королева.

– Нет. Я из Техаса. Вы янки?

Корпусная лингвистика

Хотя грамматики Хомски давали замечательные результаты, было ясно, что нужно нечто большее. Ответ пришел из области больших данных. По мере того как знания, деловая активность и социальное взаимодействие переходят в интернет, объем разговорных данных растет в геометрической прогрессии. Первое использование этих данных заключалось в автоматическом создании языковых правил с применением метода ИИ под названием «деревья решений».

Деревья решений похожи на поведенческие деревья, используемые для управления роботами. Это, как правило, ряд закрытых вопросов, помогающих делать прогноз или классифицировать входные данные по различным группам. Алгоритмы, которые генерируют деревья решений (такие как ID3, C4.5 и C5.0), задействуют обучающие данные и пытаются извлечь как можно больше информации из каждого решения. Поэтому, если у вас есть утверждения «жарко, прогноз солнечный», «жарко, прогноз дождливый» и «тепло, прогноз облачный», вы получите больше информации, если разделите функции «прогноз» и «температура». Другими словами, дерево решений должно сначала спросить о прогнозе и лишь затем о температуре.

В последние годы этот метод приобрел большую популярность благодаря созданию «случайных лесов» – комбинаций деревьев решений, используемых вместе, каждое из которых обучается на меньшем подмножестве данных, чтобы предотвратить переобучение (когда модель, изученная ИИ, становится слишком избирательной к данным обучения и не может обобщать новые данные).

Судя по этому примеру, высокие шансы быть спасенными с «Титаника» имели мальчики, девушки и женщины из кают первого или второго класса.

Деревья решений популярны, потому что их легко понять. В отличие от нейросетевых подходов, которые являются своего рода черным ящиком (вы не знаете, как хранится информация или как принимаются решения), в деревьях решений вы всегда видите, что происходит. Если ваше дерево представляет собой решение того, какие слова и предложения при каких обстоятельствах употреблять, значит, вы сделали простой чат-бот.

Хотя эти методы работают относительно хорошо, наши языки все еще слишком сложны для такого простого машинного обучения. Исследователи поняли, что изучение огромного массива данных позволяет выявить статистическую вероятность ответов на любое утверждение. Это может использоваться для управления целым рядом приложений – от языкового перевода до прогнозирования текста и ответов в чат-ботах.

Статистические подходы показали неплохие результаты, за которыми последовала новая волна разработки моделей нейронных сетей. Word2Vec стал одним из самых популярных алгоритмов, использующих простую нейронную сеть с большим количеством данных, чтобы выяснить, какие комбинации слов имеют тенденцию появляться в непосредственной близости друг от друга. Зная набор контекстных слов, он способен предсказать, каким может быть следующее слово, или, если есть текущее слово, – набор возможных контекстных слов.

МАЙКЛ МОЛДИН (р. 1959)

Майкл «Фаззи» Молдин был очарован ранними экспертными системами. Будучи студентом, в конце 1980-х – начале 1990-х годов он создал серию программ, которые автоматически взаимодействовали с ранними текстовыми компьютерными играми – «многопользовательскими виртуальными мирами». Первая программа, Gloria, могла контактировать с игроками-людьми, которые не подозревали, что их собеседник – компьютер. Вторая, Julia, была достаточно сложной, чтобы вести простые разговоры, и могла выступать в роли гида, информационного помощника, стенографиста и ретранслятора сообщений в виртуальном мире. Но на рождении этого чат-бота работа не остановилась. Его создали, чтобы исследовать текстовый мир, где описания связаны ссылками. Это был естественный шаг к следующему творению Молдина: Lycos – поисковой веб-системе, которая изучала раннюю Всемирную паутину, также представлявшую текстовый мир со ссылками между страницами. Lycos стала одной из первых поисковых систем и веб-порталов, запущенных в 1994 году, а также первой публичной поисковой системой в 1996 году, опередив конкурентов – Yahoo! и Excite, – и достигла рыночной стоимости в 300 миллионов долларов к концу первого дня торгов. К 1997 году она являлась самой прибыльной интернет-компанией в мире.

С помощью подобных умных алгоритмов удалось достигнуть реальных успехов. ИИ теперь способны сами выучить грамматику на достаточном количестве текстовых примеров. Они могут помечать части речи (глаголы, существительные), разбивать предложения на слова (сложная задача в случае с китайским языком, где границы слов не отмечены пробелами). Они могут распознавать именованные сущности, когда имена собственные обозначают места, имена или организации, а также определять логические значения предложений, переводя их в логические выражения. Они даже способны «почувствовать» настроение текста – это позитивная или негативная статья? Технологии, лежащие в основе этих достижений, все чаще используют варианты глубокого обучения со сверточными нейронными сетями, обучения с подкреплением и другие типы, такие как рекуррентные нейронные сети, рекурсивные нейронные сети, механизмы внимания и генеративные модели, помогающие компьютерам понимать концепты, занимающие несколько предложений, и генерировать более качественные ответы.

Я надеюсь помочь Lycos снова изменить мир, когда мы освоим девственную территорию носимых устройств и интернета вещей.

МАЙКЛ МОЛДИН (2015)

Чат-бот глубокого обучения может лучше понимать темы из нескольких предложений:

– Привет, Neuralconvo.

– привет! как у вас сегодня дела?

– Я пишу книгу. Ничего, если я процитирую твои ответы?

– конечно, я готов поиграть в бейсбол. вы?

– Ты читаешь книги?

– да, я читаю их много

– Какая твоя любимая?

– мне нравятся детективы, а еще я люблю играть в бейсбол

– Какой твой любимый детектив?

– я люблю играть в бейсбол, у меня также есть кошка

– Какой твой любимый автор?

– да, но не детектив. у вас есть домашние животные?

Приятно поболтать

Некоторые из наиболее заметных достижений в обработке естественного языка пришли с потребительскими и бытовыми товарами, которые способны распознавать речь, осуществлять обработку естественного языка, а затем сообщать нам свои ответы.

Хотя понимание текста чрезвычайно полезно, люди – социальные животные. Нам нравится говорить. Любой робот, чтобы приспособиться к нам, должен уметь на самом деле понимать наши слова и отвечать. Это сложно, потому что мы создаем много посторонних шумов, соответствующих словам, и нам нравится выстраивать слова в предложениях по-разному, тем самым несколько меняя их значение. Возможно, неудивительно, что ИИ, с которыми мы разговариваем (например, Siri от Apple, Cortana от Microsoft, Amazon Echo и Google Assistant), представляют собой комбинацию одних из самых сложных алгоритмов из тех, что у нас есть. Первая часть их работы состоит в том, чтобы распознать произнесенные нами слова. Для этого может использоваться контролируемое обучение с нейронными сетями – почти таким же образом, каким выполняется распознавание изображений (см. главу 5).

Но звук – это шум, поэтому его не всегда удается четко расслышать. Чтобы преодолеть эту путаницу, ИИ исправляет свои первоначальные предположения на нечто более вероятное, поскольку большинство людей каждый день говорят одно и то же. Скорее всего, вы сказали «я в парке», а не «я в палке», даже если ИИ показалось, что он услышал последнее. После обработки вашей реплики чат-бот генерирует текстовый ответ. Он проходит через синтезатор речи: становится все больше алгоритмов ИИ, которые анализируют высказывания и используют контекст для изменения слов и их синхронизации, чтобы они произносились и звучали правильно и естественно. Все эти операции должны быть выполнены мгновенно в режиме реального времени.

Привет! Чем я могу помочь?

Голос является наиболее естественным интерфейсом, так как все знают, как им пользоваться. Будучи ребенком, в научно-фантастических фильмах я видел компьютеры, с которыми человек мог разговаривать, – и теперь я очень взволнован, видя, что этот мир начинает становиться реальностью.

УИЛЬЯМ ТУНСТАЛЛ-ПЕДО (2019)

Трудно говорить

Успех этих технологий, работающих как единая система, привел к появлению говорящих роботов, которые помогают нам легко находить информацию или контролировать наши дома. Но это по-прежнему одни из самых сложных ИИ, поскольку ИИ, используемые для общения, не всегда работают должным образом. Спросите что-нибудь неожиданное или с акцентом, который система не обучена распознавать, и даже настолько умная техника потерпит неудачу.

Если вы спросите у Siri о немецком психологе – «Эй, Сири, расскажи мне о Гансе Айзенке» – после проведения анализа Siri может решить, что она слышала что-то из:

Hey Siri, tell me about ISEQ

(«Эй, Сири, расскажи мне про ай-сек»)

Hey Siri, tell me about harms I think

(Эй, Сири, расскажи мне о вреде, я думаю)

Hey Siri, tell me about Hahnes I sing

(Эй, Сири, расскажи мне о Ханнесе, я пою)

Как видите, не совсем верно. Нужны еще данные и лучше натренированные модели машинного обучения. Но, похоже, и в этом случае обнаружатся серьезные недостатки. В 2019 году команда исследователей проанализировала влияние обучения нескольких наиболее успешных нейронных сетей глубокого обучения для обработки естественного языка на окружающую среду и обнаружила, что (в дополнение к стоимости облачных вычислений) углеродный след может быть таким же высоким, как у пяти автомобилей за весь срок их службы. Хотя технология ИИ может работать эффективнее после обучения, процесс создания ИИ не такой уж рентабельный и дешевый. «В целом многие из последних исследований в области ИИ пренебрегают эффективностью, – объясняет Карлос Гомес-Родригес, – поскольку было обнаружено, что очень большие нейронные сети полезны для решения различных задач. А компании и учреждения, имеющие обширный доступ к вычислительным ресурсам, могут использовать их для получения конкурентного преимущества».

Один из вариантов, исследованный Microsoft в 2016 году, состоял в том, чтобы привлечь множество людей для предоставления данных чат-боту «Твиттера» и его обучения. Tay запустили 23 марта 2016 года, но уже через 16 часов поспешно закрыли, после того как интернет-тролли научили его разнообразным ругательствам, связанным с наркотиками, которые тот с радостью писал в «Твиттере» многочисленным подписчикам.

Существуют и другие последствия использования ИИ в общении. Сегодня наши технологии позволяют читать миллионы постов в социальных сетях и классифицировать их по разным категориям. Ежедневно можно анализировать миллионы новостных статей и блогов, чтобы отслеживать общественное мнение по конкретным темам. Чат-боты, притворяющиеся людьми, способны создавать целевую рекламу или фальшивые политические сообщения. Общественное мнение может контролироваться и управляться. Даже то, как нас держат в курсе событий, курируется ИИ. Рекомендательные системы отслеживают содержание новостных статей, которые мы читаем с наших мобильных устройств, и предлагают нам больше того, что нам нравится, тем самым заставляя нас сужать взгляд на мир и подкреплять наши предрассудки.

Мы достигли крайней степени возбуждения во всем, что касается ИИ. Теперь пришло время сделать шаг назад, чтобы увидеть, куда мы движемся.

ЭМИ УЭББ, профессор Нью-Йоркского университета, футуролог (2019)

Несмотря на отталкивающие заголовки, технологии ИИ, которые работают с нашими языками в письменной и устной форме, изменили наш мир к лучшему, и наверняка они и дальше будут приносить больше пользы, нежели вреда. С помощью технологий обработки естественного языка исследователи теперь могут собрать воедино тысячи отдельных научных работ и получить новые результаты, чего не удалось бы ни одному человеку. Благодаря ИИ мы можем узнать мнения и взгляды миллионов людей и помочь нашим политикам и организациям лучше удовлетворять потребности этих людей. Любые новые технологии могут быть использованы как в хороших, так и в плохих целях. А значит, нам нужно признать силу ИИ и обеспечить его применение должным образом.

08. Вообразите реальность

Настоящим признаком интеллекта является не знание, а воображение.

АЛЬБЕРТ ЭЙНШТЕЙН

Вихрящиеся сверкающие облака танцуют во мраке. Они устремляются навстречу друг другу и, кажется, разрывают друг друга на части, превращая в дым, который вскоре сливается обратно в яркие вспышки. Большое спиральное облако наполняется блеском, а те, что поменьше, проплывают мимо. Но внезапно одно из них оказывается слишком близко, и, как притягивающиеся магниты, спирали сталкиваются, рассыпая вокруг себя обломки. Их внутренние ядра некоторое время колеблются, пока не объединяются в одно. Теперь спираль восстановлена, и она продолжает вращаться в темноте.

Это вариант формирования массивной звездообразующей дисковой галактики «позднего типа». Несмотря на яркую и реалистичную анимацию, ни одна камера никогда не сможет запечатлеть это зрелище, поскольку оно длится миллионы лет. Но это не просто симпатичная анимация – это самая совершенная компьютерная симуляция эволюции галактик в нашей Вселенной – IllustrisTNG, – созданная с помощью программы Illustris. Она более подробно, чем какие-либо другие симуляции, моделирует формирование нашей Вселенной, учитывая при этом все законы физики.

Цифровые исследования

Существует множество видов ИИ. В то время как одни исследователи пытаются спроектировать интеллект, способный лучшим и наиболее эффективным способом решить проблему, другие предпочитают использовать компьютеры в качестве научных инструментов для проведения исследований. Построение компьютерной симуляции – это не то же самое, что разработка компьютерной анимации или игры, в которой что-то происходит. Цель симуляции – создать виртуальную лабораторию, которая функционирует точно так же, как в действительности, за исключением того, что мы можем все контролировать. Если мы хотим понять какой-либо процесс, идущий слишком медленно, чтобы мы могли увидеть изменения, нам под силу ускорить его в симуляции. Если нам необходимо разобраться в устройстве какой-либо сложной формы, которое невозможно постигнуть в реальной жизни, проанализировать внутреннюю структуру этой формы нам удастся с помощью компьютера. Если мы задаемся вопросом «а что, если…», то мы можем изменить симуляцию: что, если бы законы физики работали немного иначе? Что, если бы эволюционирующие живые формы столкнулись с намного более горячей окружающей средой?

Моделирование реальности – дело непростое, и основано оно на очень тщательном сборе и использовании данных. Есть поговорка Garbage in, garbage out, что значит «мусор на входе – мусор на выходе». Если ваша модель неверна, то нельзя ожидать, что ее прогнозы будут точными. Все модели ошибочны по своей природе, поскольку наши компьютеры недостаточно мощны, чтобы учитывать каждый аспект реальности. Задача состоит в том, чтобы смоделировать те из них, что являются причиной интересующего нас поведения, и пренебречь всеми остальными. Поэтому исследователи должны пытаться создавать абстракции и упрощения реальности, которые одновременно достаточно мощные, чтобы дать нам новые ответы, и достаточно простые, чтобы компьютеры могли выполнить эти симуляции за разумное время. Необходимо тщательно откалибровать каждую часть моделей, убедиться, что все верно и соответствует действительности. Любые неправильные прогнозы, сделанные в соответствии с моделью, должны использоваться для дальнейшего уточнения модели. Общая критика экономических моделей заключается в том, что те редко подтверждаются реальными данными и часто предполагают, что люди будут вести себя рационально. Это может привести к крайне неточным прогнозам, которые мало чем помогут при попытке стабилизации или регулирования изменчивых и хаотичных рынков.

Мусор на входе – мусор на выходе. Или, перефразировав более удачно: дерево бессмыслицы поливают ошибками, и на его ветвях раскачиваются тыквы бедствия.

НИК ХАРКУЭЙ. МИР, КОТОРЫЙ СГИНУЛ (2008)

Многие описанные в предыдущих главах методы ИИ можно рассматривать как виды компьютерного моделирования. Виртуальные существа Карла Симса, например, – простая симуляция эволюции жизни в виртуальной среде. Ранние идеи искусственных нейронных сетей были основаны на понимании того, как работают нейроны в человеческом мозге. Многие алгоритмы оптимизации базируются на простых представлениях о том, как функционируют живые системы: генетические алгоритмы вдохновлены естественной эволюцией, алгоритм муравьиной колонии основан на том, как муравьи коллективно находят кратчайшие пути от гнезда к пище, алгоритмы искусственной иммунной системы – как наши иммунные клетки обнаруживают и реагируют на патогены. Алгоритмы машинного обучения создают простые «модели» изучаемых ими данных, которые можно использовать для прогнозирования.

Существуют и другие методы, разработанные специально для моделирования и симуляции. Модели часто опираются на множество систем уравнений, например дифференциальных, решения которых характеризуют поведение электрической цепи или химических процессов. Пространственные модели (они пытаются установить, как физические объекты могут вести себя в реальном мире) обычно делят пространство на маленькие части и определяют состояние внутри каждой из них, следуя уравнениям. Гидродинамическое моделирование применяет этот подход для расчета сложного поведения газов и жидкостей, что позволяет уточнять конструкции самолетов, а такой прием, как анализ методом конечных элементов, отлично подходит для расчета нагрузок на различные строения перед их созданием, за счет чего можно проектировать безопасные конструкции, используя правильные материалы.

Клеточные автоматы

Клеточные автоматы использовались в ИИ в течение многих десятилетий для моделирования всего: от химических реакций до физических сред. Базовый клеточный автомат – это простая решетка, состоящая из заполненных или незаполненных ячеек. При запуске моделирования время разбивается на отдельные этапы, и в рамках каждого из них компьютер перебирает элементы одной из ячеек, следуя простым правилам. Например, если заполнены две соседние ячейки, то и «исследуемая» ячейка заполняется, в противном случае она пустует.

Если люди не верят, что математика проста, то только потому, что они не понимают, насколько сложна жизнь.

ДЖОН ФОН НЕЙМАН (1947)

ИГРА «ЖИЗНЬ» ДЖОНА КОНВЕЯ

В игре «Жизнь» заполненная ячейка считается «живой», а пустая – «мертвой». И есть четыре простых правила для клеточных автоматов:

Низкая численность: живая клетка, у которой меньше двух живых соседей, умирает.

Жизнь: живая клетка с двумя или тремя живыми соседями остается в живых.

Перенаселенность: живая клетка, у которой больше трех живых соседей, умирает.

Размножение: мертвая клетка с тремя живыми соседями становится живой.

Несколько случайно расположенных клеток заполняются и становятся живыми, после чего запускается симуляция, и в результате образуются странные модели роста. Иногда клетки вымирают, иногда превращаются в маленькие колеблющиеся устойчивые формы. Если придать клеточным автоматам правильную сложную форму, они смогут даже копировать сами себя – и в игре «Жизнь» образуется «универсальный конструктор фон Неймана».

Концепцию клеточных автоматов впервые предложил математик Станислав Улам, которого заинтересовала идея Джона фон Неймана, и он захотел смоделировать жидкость, содержащую электромагнитные компоненты. И Улам, и Нейман были очарованы этой идеей, и она привела их к предположению, что живые системы могут быть самовоспроизводящимися и способными имитировать машину Тьюринга (решать все задачи, выполняемые компьютерами).

Фон Нейман определил «универсальный конструктор» как машину, которой под силу создавать идентичные копии себя, обрабатывая свою среду. Он использовал алгоритм клеточных автоматов, чтобы объяснить, как может работать универсальный конструктор. В 1970 году британский математик Джон Конвей вдохновился этой идеей и спроектировал специальный вид клеточных автоматов, ставший известным как игра «Жизнь».

ФОРМА ФИГУР

Некоторые ученые утверждают, что клеточные автоматы могут объяснить принцип работы биологических систем и даже Вселенной. Стивен Вольфрам, программист и создатель популярного программного обеспечения Mathematica, – один из таких людей. «Возможно, немного унизительно обнаружить, что мы, будучи людьми, в вычислительном отношении не более эффективны, чем клеточные автоматы с очень простыми правилами, – заключает он. – Но принцип вычислительной равнозначности подразумевает, что то же самое в конечном счете верно для всей нашей Вселенной».

Цифровые агенты

В то время как клеточные автоматы разделяют пространство и время на маленькие кусочки, другие виды моделей менее строги. Агентное моделирование развилось из работы фон Неймана над клеточными автоматами, и в итоге превратилось в самостоятельный научный метод. (Похоже звучащие многоагентные вычисления – это еще один связанный с ИИ подход, который рассматривает, как программные агенты взаимодействуют при решении проблем, но уделяет меньше внимания моделированию и фокусируется больше на практической стороне.)

Агентные, или индивидуальные, модели, представляют собой класс алгоритмов, имитирующих поведение автономных объектов, или агентов. Это могут быть биологические клетки в органе, молекулы в жидкости, люди в популяции или любая совокупность похожих объектов, имеющих независимое поведение, которое, однако, зависит от их взаимодействия. Эти модели используются для изучения более крупных систем, поскольку позволяют создать виртуальную среду для необходимых вычислений.

В агентном моделировании правила или алгоритмы применяются к каждому агенту, благодаря чему он может действовать автономно и контактировать со своими компаньонами. Модели способны привлекать любую форму ИИ для управления поведением агентов, включая самые сложные алгоритмы глубокого обучения. Даже если поведение каждого агента определяется относительно простыми правилами или алгоритмами, когда агенты взаимодействуют и влияют друг на друга с некоторой долей случайностей, вводимой для реалистичности, результатом является возникающее и часто неожиданное поведение более высокого уровня. Одна летящая птица – это довольно просто, но стая птиц может кружиться и мгновенно менять форму, как будто стая – нечто целое и обладает бóльшим интеллектом. Агентному моделированию под силу объединять многие аспекты ИИ и смежных с ним областей, таких как сложные системы, эволюционные вычисления, экономика, теория игр, социология и даже психология.

Крэйг Рейнольдс – эксперт по компьютерной графике и один из программистов оригинального фильма «Трон». В 1986 году он разработал алгоритм агентной модели, который назвал boids (сокращенное от bird-oid objects, что значит «птицеподобные объекты»). Его алгоритм впервые проиллюстрировал, как независимо движущиеся агенты, каждый из которых следует простым поведенческим правилам, могут создавать поведение, аналогичное поведению птичьих стай и косяков рыб. Базовые правила были на удивление просты: каждый бойд пытался избежать столкновения с соседями, следовал в среднем направлении по отношению к соседним бойдам и двигался к центру масс (среднее положение) бойдов неподалеку.

Алгоритм Рейнольдса работал настолько хорошо, что вскоре завоевал популярность в киноиндустрии: он позволял симулировать поведение птичьих стай и толп. Одним из первых примеров его применения стали симуляции поведения колоний летучих мышей и пингвинов в фильме «Бэтмен возвращается» 1992 года. В настоящее время подобные алгоритмы используются для управления скоплениями роботов, чтобы гарантировать их эффективную совместную работу при решении групповых задач. Рейнольдс продолжает развивать агентное моделирование по сей день – в компании Righthook, разрабатывающей автономных роботов и транспортные средства.

‘Мурмурация[14] – особенно яркий пример эмерджентности[15]: сложное глобальное поведение может возникнуть в результате взаимодействия простых локальных правил.’

КРЭЙГ РЕЙНОЛЬДС (2001)

Вскоре после того как Рейнольдс создал бойдов, новый вид ИИ получил свое официальное название – искусственная жизнь. Он объединил интересы исследователей ИИ с интересами биологов, химиков, философов и даже художников – всех, кто хотел пользоваться компьютерами для изучения фундаментальных вопросов о живых системах.

КРИСТОФЕР ЛАНГТОН (р. 1949)

Программист, специалист по вычислительным системам Кристофер Лангтон изобрел термин «искусственная жизнь» и в 1987 году организовал семинар по синтезу и моделированию живых систем. Впоследствии этот семинар стал известен как Международная конференция «Искусственная жизнь». Лангтон первым начал изучать сложные системы, моделируемые с помощью клеточных автоматов, и предположил, что эти сложные формы, и в первую очередь живые системы, существуют на границе между порядком (где все статично и предсказуемо) и беспорядком (где все случайно). Это был новый и важный взгляд на живые системы: вместо того чтобы рассматривать их как своего рода часовые механизмы, работающие с прогнозируемой определенностью, Лангтон высказал идею о жизни «на грани хаоса», компоненты которой взаимодействуют так, что становятся больше, чем сумма частей. Возникают непредсказуемые, но желательные виды поведения. Исследователь создал несколько обманчиво простых моделей, таких как «Муравей Лангтона», который двигался в соответствии с элементарными правилами, оставляя за собой след, и «Петля Лангтона», которая моделировала очень простой вид искусственной жизни, имеющий собственную наследуемую генетическую информацию. Несмотря на кажущуюся простоту этих моделей, возникшее у них поведение позволило получить более полное представление о развитии сложных форм.

Специалисты, занимающиеся искусственной жизнью, обычно используют агентные модели для анализа того, как возникли первые самореплицирующиеся молекулы, как развивались клетки, эволюционировали многоклеточные организмы, формировался мозг и процесс восприятия и, наконец, каким образом работают сложные экосистемы. Если другие формы ИИ, например глубокое обучение, сосредоточены на разработке более эффективных решений, исследователи искусственной жизни и смежных областей вычислительной биологии изучают модели, которые более точно соответствуют биологическим, чтобы понять, как они работают (например, импульсные нейронные сети; см. главу 10). Компьютерное моделирование необходимо для подобных исследований.

Виртуальные предсказания

Компьютерные симуляции и моделирование – это воображение ИИ, а воображение – одна из самых мощных способностей нашего интеллекта. Мы не просто предсказываем, что бутерброд, который только что уронили, упадет на пол. Мы способны вообразить целые сценарии, целые миры с выдуманными персонажами, демонстрирующими выдуманное поведение. У компьютеров воображение гораздо лучше. С помощью правильных алгоритмов они могут представить даже вселенные.

Сегодня модели используются для симуляции движения толп, что позволяет нам проектировать лучшие здания; для предсказания того, как опухолевые клетки отреагируют на лечения или как экономика может меняться со временем. Их применяют, даже когда изучают происхождение людей и то, как формируются наши общества. Моделирование широко распространено в сфере развлечений: с его помощью создаются спецэффекты в кино, виртуальной и дополненной реальности и компьютерных играх. Оно используется каждый день для прогнозирования погоды, а также удалось достигнуть заметных успехов в предотвращении болезней при задействовании моделирования. Например, в 2001 году в Великобритании вспыхнула эпидемия ящура. Благодаря моделированию удалось выяснить, что при значительной выбраковке скота экспоненциальный рост заболевания может трансформироваться в экспоненциальный спад в течение двух дней. Рекомендацию модели выполнили, и, хотя это привело к немалым потерям, она сработала: болезнь была ликвидирована.

Но компьютерное моделирование, как правило, является одной из наиболее сложных для вычислений форм ИИ из тех, что мы применяем сегодня. Даже если входные данные верны, мы ограничены доступными вычислительными ресурсами. Несмотря на ускоренное развитие аппаратного обеспечения, наши компьютеры не всегда могут имитировать реальность в необходимых нам деталях, а для проведения симуляций порой требуется недопустимо большое количество времени.

Искусство состоит в создании упрощения, достаточно простого для вычисления, но в то же время не настолько простого, чтобы вы упустили полезные данные.

МАЙКЛ ЛЕВИТТ, нобелевский лауреат, профессор структурной биологии (2013)

Некоторые симуляции настолько важны, что способны влиять на будущее нашей планеты. Климатические – одни из самых сложных моделей. Они должны объединять данные из огромного числа источников и делать прогнозы о том, как концентрация различных газов в атмосфере Земли может сказаться на глобальном потеплении и погодных условиях. Когда мы совершенствуем модели, то лучше понимаем, как предотвратить ущерб нашей планете в будущем. Хотя исследователям всегда хочется смоделировать все возможное и задействовать все доступные вычислительные ресурсы, иногда сложность настолько велика, что результаты оказывается трудно интерпретировать. Поэтому важно иметь модели (например, те, что используют вероятностные методы), которые не только делают прогнозы, но и обеспечивают определенный уровень уверенности в этих прогнозах, чтобы мы могли понять, насколько им стоит доверять.

09. Почувствуйте себя лучше

Чувства нельзя игнорировать, какими бы несправедливыми или неблагодарными они ни казались.

АННА ФРАНК

У Эллиота было все: отличная работа в крупной компании, прекрасная жизнь в кругу семьи и добрые друзья. Он был образцом для подражания и хорошим мужем и другом. Но однажды Эллиот начал страдать от сильных головных болей. В ходе обследования у него обнаружили опухоль головного мозга в префронтальной коре. Эллиоту повезло: она оказалась доброкачественной и операбельной и ее успешно удалили. После этого наш герой пошел на поправку, и казалось, что если в ходе операции мозгу и были нанесены какие-то повреждения, то никакого эффекта они не имели. Эллиот вернулся к работе и продолжил жить, как будто ничего не произошло.

Однако через несколько месяцев его жизнь постепенно начала меняться. Теперь он никогда не доводил до конца начатые проекты и совершал множество ошибок, а исправлять их приходилось другим. Его уволили, а через некоторое время он развелся с женой. Эллиот нашел сомнительного делового партнера, с которым проворачивал нелегальные схемы для получения прибыли, и в итоге обанкротился.

Вскоре Эллиот женился снова – на женщине, совершенно ему не подходившей, так что и второй брак быстро распался. В конце концов он переехал к брату, который понял, что что-то не так: Эллиот больше не был тем человеком, каким был раньше.

Его направили к неврологу Антонио Дамасио. При осмотре Эллиот выглядел совершенно нормально: отличная память, никаких нарушений речи или любых других видимых нарушений. Но он больше не мог чувствовать. У Эллиота пропали эмоции. Он был тем, кто принимает логичные решения, за исключением того, что без эмоций он ничего не мог решить. Сталкиваясь с необходимостью постоянно что-то решать каждый день, он не мог вынести положительное или отрицательное суждение. Есть на завтрак хлопья или тосты? Классифицировать рабочие документы по дате или по важности? Что делать вечером? А на следующей неделе? Эллиот просто утонул в безбрежном море решений и в конечном итоге либо застывал в нерешительности, либо делал неудачный выбор, все больше разрушая свою жизнь.

Я начал думать, что хладнокровие суждений Эллиота мешает ему определять ценность различных вариантов и делает его область принятия решений безнадежно плоской.

АНТОНИО ДАМАСИО (2005)

И Эллиот не единственный известный пример. В 1930-х годах неврологи обнаружили биржевого маклера, у которого тоже было повреждение префронтальной коры. И жизнь этого человека тоже оказалась разрушена. Он перестал выходить из дома – просто сидел там целыми днями и готовил грандиозное профессиональное возвращение, а также хвастался сексуальным мастерством, хотя больше не работал и ни с кем не встречался. Почти в то же время одна плохо продуманная операция, сделанная другому пациенту, страдавшему тревожностью и шизофренией, привела к аналогичным результатам. Несомненно, эмоции помогают нам принимать решения. Даже обладая высоким IQ и отличной способностью решать проблемы, без эмоций мы не сможем жить в реальном мире.

Эмоциональный интеллект

Эти идеи относительно новы и приобретают все большее значение, если речь идет об ИИ. На протяжении всей истории большинство исследователей ИИ, ученые и инженеры, были мужчинами, зачастую не обладающими развитой эмпатией или хорошими социальными навыками. На протяжении десятилетий у ИИ развивали способность принимать холодные, логические решения, осуществлять контроль и прогнозировать. Идея о том, что ИИ должен понимать эмоции или даже обладать собственными, не была распространенной – на самом деле большинство исследователей считали, что эмоции мешают принятию решений и лучше их не иметь.

Одной из первых исследовать эмоциональный ИИ, или, как его часто называют, эмоциональные вычисления, начала Розалинд Пикар, профессор Медиалаборатории МТИ, в 1995 году. Ее вдохновили идеи Дамасио и прежде всего тот факт, что эмоции необходимы для принятия решений. С тех пор исследователи в этой лаборатории вот уже более двух десятилетий изучают все аспекты эмоционального ИИ.

Первые успехи пришли с появлением улучшенных технологий распознавания лиц и речи (см. главы 5 и 7). Пикар и ее коллеги обнаружили, что в дополнение к распознаванию лиц ИИ можно научить понимать эмоции по выражениям лиц. А в дополнение к распознаванию речи – улавливать изменения в тоне, которые могут свидетельствовать о нервозности, гневе или даже нечестности говорящего. В 2009 году Пикар вместе с одной из своих аспиранток, Раной Эль-Калиуби, основала компанию Affectiva, ставшую пионером в разработке методов машинного обучения для анализа эмоций людей при просмотре рекламы, что позволило более чем 25 % компаний из списка Fortune 500[16] понять, как именно их реклама влияет на людей и какие решения стоит пересмотреть. Были разработаны также специальные приложения для транспортных средств – они помогли отслеживать эмоциональное состояние пассажиров с помощью распознавания лиц и речи, чтобы обеспечить людям безопасность и комфорт в пути. Сегодня технологии распознавания лиц используются также для выявления аутизма, шизофрении, болезни Альцгеймера и в системах прогнозирования преступности.

РАСПОЗНАВАНИЕ ЭМОЦИЙ ПО ЛИЦАМ

Лицевые эмоции распознаются путем идентификации отдельных мышечных движений, или «единиц действия» (Action Unit, AU), с помощью машинного обучения. Затем компьютер использует систему кодирования лицевых действий (Facial Action Coding System, FACS) для расшифровки отображенных эмоций. Например, AU6 + AU12 + AU25 означает «счастливый», а комбинация AU4 + AU15 + AU17 – «грустный». Некоторые единицы действия часто происходят одновременно, другие – очень редко: скажем, AU25 («разомкнутые губы») и AU24 («сжатые губы»); последние иногда меняют значение эмоции (например, когда человек хмурится, одновременно улыбаясь). Используя эти правила, основанные на результатах многолетних исследований, компьютер способен анализировать лица на изображениях и видео и обнаруживать даже микровыражения, распознать которые довольно трудно. Эта программа также может показать разницу между фальшивой улыбкой Pan Am и искренней улыбкой Дюшена[17].

Еще одна компания, берущая свое начало в МТИ, – Empatica – разработала специальные браслеты с датчиками для людей, подверженных судорогам. Исследователи создали методы машинного обучения, чтобы классифицировать неврологические реакции, такие как эмоциональный стресс (чтобы затем сообщить нам, как уменьшить его уровень в жизни) или судороги (чтобы помочь быстро оказать соответствующую медицинскую помощь). «Выявляя физиологические аспекты эмоций, мы узнали, что некоторые неврологические реакции – определенные виды судорог – задействуют области мозга, которые также вовлечены в эмоции, – объясняет Розалинда Пикар. – Эти реакции можно выявить с помощью разработанных нами браслетов, которые изначально предназначались для распознавания эмоций».

Подобная технология применяется сегодня многими компаниями. Например, базирующиеся в Амстердаме Koninklijke Philips Elektronics и ABN AMRO Bank раздали браслеты с датчиками финансовым трейдерам. Машинное обучение выявляет и классифицирует их эмоциональные состояния, транслируя пользователям результаты в виде различных цветов. Когда трейдеры более осведомлены о собственных эмоциях, торговые риски уменьшаются, что предотвращает случайные – и чрезвычайно дорогостоящие – ошибки.

Социальные роботы

ИИ могут распознавать эмоции, но создание разумных роботов, способных взаимодействовать с людьми, всегда вызывало у инженеров-робототехников проблемы. Мы порой испытываем дискомфорт, если робот похож на человека или животного. Однако, как ни странно, мы вполне довольны роботами, внешне напоминающими игрушки или персонажей мультфильмов. Это «эффект зловещей долины». Как только реалистичность возрастает до такой степени, что робот становится похож на нечто живое, мы чувствуем себя неуютно. Если же робот к тому же начинает двигаться, наша эмоциональная реакция оказывается еще более негативной.

Это проблема, поскольку существует множество приложений, в рамках которых роботам необходимо взаимодействовать с людьми. Было бы чрезвычайно полезно иметь роботов, способных контролировать здоровье пациентов в больницах или пожилых людей дома; роботов, которые брали бы на себя скучную работу портье или предоставляли бы информацию покупателям в торговых центрах. В идеале эти роботы должны обеспечивать дружеское общение, делать нас счастливыми и определять, какое эмоциональное влияние они на нас оказывают. Таких роботов называют социальными.

Одним из первых социальных роботов стал робот-тюлень Paro. Разработанный Таканори Сибата из Японского национального института передовой промышленной науки и технологии в 1993 году Paro был создан по образу гренландских тюленей, которых Сибата наблюдал на северо-востоке Канады. Маленький снежно-белый пушистый робот может немного двигать ластами и телом и издавать звуки, сгенерированные на основе записей звуков живых тюленей, сделанных Сибатой. Paro способен отвечать на поглаживания, смотреть в глаза, реагировать на свое имя и изучать действия, которые вызывают благоприятную реакцию. Сибата избежал эффекта зловещей долины, сделав Paro очень похожим на игрушку. И в итоге последнего зарегистрировали как медицинское устройство и начали использовать на сеансах терапии для пациентов с деменцией в домах престарелых.

Университеты достигли заметных успехов в области создания социальных роботов. Например, широкую известность получил робот Kismet, спроектированный Синтией Бризил из МТИ. Он представляет собой немного странно выглядящую карикатурную голову, способную понимать выражения лиц, жесты и тон голоса, а также реагировать на все это с помощью подвижных губ, бровей, глаз и ушей.

Керстин Даутенхан и Бен Робинс из Университета Хартфордшира разработали робота Kaspar – он похож на ребенка и используется для взаимодействия с детьми-аутистами, чтобы помочь им в развитии коммуникативных навыков и достижении эмоционального благополучия. «Многие люди с аутизмом тяготеют к технологиям, особенно к предсказуемости, которую они обеспечивают. А это значит, что такие технологии могут быть очень полезны детям и взрослым», – объясняет Кэрол Пови, директор Центра аутизма при Национальном обществе аутизма.

В течение какого-то времени компании пытались создать домашних роботов, которые привлекали бы пользователей большей эмоциональной осведомленностью и индивидуальностью. В их числе детский робот-динозавр Pleo, Vector от компании Anki и Keepon – милый маленький танцующий робот в форме желтого снеговика, изобретенный Хидеки Козимой из Национального института информационных и коммуникационных технологий (версия этого робота под названием Zingy появилась в рекламной кампании EDF Energy в 2012 году).

Выпущенный в 2006 году Nabaztag, умный домашний робот-кролик, мог читать электронные письма и спрашивать что-то вроде «Где моя шляпа? Ты видел мою шляпу?», а также двигать ушами. Несмотря на исследование, которое показало, что робот был популярен среди пожилых людей, он никогда не работал достаточно хорошо, чтобы соответствовать требованиям всех покупателей, и производителю пришлось остановить его выпуск – так часто происходит с компаниями, занимающимися социальными роботами. Немного жаль, что таких милых, забавных и полезных роботов к 2020 году заменили многочисленные домашние станции. Эти безликие цилиндрические колонки звучат так, будто могут выражать эмоции посредством тона своего голоса. Однако они не обладают ни собственными эмоциями, ни способностью понимать наши.

Эмоциональные роботы

Конечная цель эмоционального ИИ – дать ИИ его собственные эмоции. Распознавание эмоций у других лишь помогает вам понять, что ваше поведение оказывает определенное влияние. Ощущение же собственных эмоций позволяет вам сопереживать и принимать решения более эффективно.

Исследователи симулировали эмоции в своих ИИ и мультиагентных моделях в течение многих лет. Одни просто использовали понятие стоимости (скажем, 0,9 для счастья); другие – модели с нечеткой логикой. Симулированные эмоции могут быть реактивными, то есть возникающими автоматически: к примеру, страх, вызванный огнем, счастье во время приема пищи. Некоторые модели эмоций включают в себя психологические особенности, такие как личностные свойства, чтобы ограничить влияние каждой эмоции на поведение. Для создания правил об эмоциональных состояниях использовали символьные методы ИИ: если оцениваемая ситуация повысила ясность и удовольствие, она создает радость. Таким образом, агент начинает «чувствовать» радость, гнев, удивление, страх, панику, беспокойство, сожаление, а также понимает причину этих эмоций. В настоящее время другие исследователи приступили к моделированию физиологической реализации эмоций, при этом эмоциональные состояния меняют поведение нейронных сетей так же, как области нашего мозга – лимбическая система и миндалина – влияют на его поведение как системы. Точно так же, как настоящие эмоции помогают нам функционировать в реальном мире, включение эмоций в искусственные нейронные сети, как надеются исследователи, позволит роботам отражать и изучать эмоциональные состояния, в результате чего они обретут способность быстро и эффективно выносить суждения, как это делаем мы.

Вопрос не в том, могут ли разумные машины иметь какие-либо эмоции, а в том, могут ли эти машины быть разумными без каких-либо эмоций.

МАРВИН МИНСКИ (1986)

НЕЧЕТКАЯ ЛОГИКА

Нечеткая логика – это разновидность многозначной логики, впервые предложенная математиком и информатиком Лотфи Заде в 1965 году. В то время как нормальная логика основана на бинарном «да/нет», «включено/выключено», нечеткая логика определяет степень принадлежности к множеству. Нечеткая логика напоминает вероятность, но отличается от нее: значение нечеткой логики представляет собой степень, с которой данные относятся к значению в пределах неясно заданного набора, тогда как вероятность – это возможность чего-либо. В то время как логическое выражение имеет бинарную логическую переменную «счастливый», которая принимает значение «да» или «нет», в нечеткой логике та же концепция будет формулироваться с использованием нескольких лингвистических переменных, соответствующих нечетким множествам. Например, концепция настроения может быть размыта и содержать: нечеткое множество понятия «счастливый» со значением 0,8; нечеткое множество понятия «печальный» со значением 0,3; «злой» – 0,1 и «удивленный» – 0,4. Использование лингвистических переменных делает нечеткую логику намного более понятной. Сегодня она широко применяется в ИИ, которые контролируют метро, подъемники и даже рисоварки.

Заботливый ИИ

Эмоциональные вычисления – одно из последних значительных достижений в области ИИ: по оценкам специалистов, рынок эмоциональных вычислений вырастет с 22,2 миллиарда долларов в 2019 году до 90 миллиардов долларов к 2024 году. Распространение подобных технологий облегчает сбор данных (изображений лиц, аудиозаписей голосов и физиологических особенностей, таких как частота сердечных сокращений и интенсивность потоотделения). Алгоритмы машинного обучения теперь способны классифицировать эти данные и позволяют точно прогнозировать наше эмоциональное состояние. Это должно привести к появлению более осведомленных чат-ботов, которые смягчат свои ответы, если мы разозлимся или расстроимся. Производители автомобилей уже работают над транспортными средствами, которые предупредят нас, когда гнев или депрессия начнет негативно влиять на нашу способность вести машину. Более качественный анализ настроения уже используется британским правительством для сопоставления комментариев в социальных сетях с конкретными эмоциональными настроениями. По мере того как цифровые очки (такие как Google Glass) становятся все более распространенными, компании вроде Brain Power предлагают новые технологии для людей с аутизмом, которые подсказывают им эмоциональное состояние окружающих и учат лучше понимать мир чувств. Другие компании разрабатывают технические решения для людей с проблемами в области психического здоровья. В частности, они задействуют в поведенческой терапии чат-ботов. Один из таких чат-ботов Ellie – виртуальный агент, финансируемый Управлением перспективных исследовательских проектов и помогающий солдатам с посттравматическим стрессовым расстройством. Karim – чат-бот, созданный стартапом X2AI из Кремниевой долины, он помогает сирийским беженцам преодолевать последствия травмы.

Будущее выглядит радужно. Однако, как и все остальные достижения, эмоциональный ИИ имеет свою темную сторону. Использование наших физиологических и эмоциональных данных без разрешения вызывает у многих большие опасения. А что, если данные используются в менее пристойных целях? Чат-бот Microsoft в женском обличье, Xiaoice, добилась значительной популярности благодаря симпатичной внешности и способности очаровывать собеседника. Около 100 миллионов 18–25-летних людей в мире беседуют с ней, причем некоторые регулярно. Является ли это лекарством от одиночества, которое нам стоит принять? Или это всего лишь циничная уловка компании, призванная повысить лояльность к бренду?

К 2022 году ваше персональное устройство будет знать о вашем эмоциональном состоянии больше, чем ваша собственная семья.

АННЕТ ЦИММЕРМАНН, вице-президент по исследованиям в компании Gartner

В 2017 году в результате утечки данных о сообщениях, отправленных рекламодателям руководством Facebook, стало известно, что компания способна отслеживать сообщения в режиме реального времени и определять, когда подростки чувствуют себя «беззащитными», «бесполезными» и «нуждающимися в увеличении уверенности». Также утверждалось, что компания может классифицировать такие состояния, как «напряженный», «побежденный», «ошеломленный», «тревожный», «нервный», «глупый», «бессмысленный», «бесполезный» и «неудачливый».

Facebook также подвергся критике за более раннее исследование 2014 года, в ходе которого компания проводила манипулирование новостными лентами почти 700 000 пользователей, чтобы повлиять на их эмоции, что нарушало этические принципы, поскольку никто из «испытуемых» не давал информированного согласия.

Мы никогда бы не позволили роботу бегать среди людей и случайным образом размахивать конечностями, так как это неизбежно привело бы к травмам. Однако в обществе до сих пор отсутствует четкое осознание того, что эмоциональный ИИ тоже способен причинить вред – а ведь эмоциональный ущерб гораздо сложнее обнаружить и исправить. Мы ни в коем случае не должны рассматривать эмоциональный ИИ как новый инструмент для манипулирования людьми. Это может привести к весьма печальным последствиям как для отдельных людей, так и для всего общества.

10. Познайте себя

Сказать, что ИИ начнет делать то, что он хочет, преследуя собственные цели, все равно что сказать, что калькулятор начнет делать свои собственные вычисления.

ОРЕН ЭТЦИОНИ

Умерев в феврале 1988 года, всемирно известный физик Ричард Фейнман оставил после себя сообщение. Оно было написано его неровным почерком мелом в левом верхнем углу его доски в Калифорнийском технологическом институте. Эти слова десятилетиями вдохновляли многих ученых и продолжают делать это по сей день. Восемь простых слов, которые использовались для обоснования исследовательских программ стоимостью в миллионы долларов.

«Что я не могу создать, я не понимаю».

Оуэн Холланд – ученый, который в полной мере присоединяется к этим словам. На протяжении всей своей карьеры Холланд исследовал, как функционируют биологические системы, пытаясь раскрыть тайны их интеллекта, разрабатывая собственные равноценные заменители. И проходя этот путь, он создал много интересных роботов. (Одним из его самых необычных изобретений оказался Slugbot – робот, который «питался» настоящими слизнями и получал энергию, перерабатывая их тела.)

Его работа достигла кульминации в стремлении понять сознание – предел мечтаний всех исследователей ИИ. Подход Холланда состоял в том, чтобы копировать природу больше, чем когда-либо до этого в робототехнике. Он и его команда создали CRONOS – довольно пугающего робота-гуманоида с одним циклопическим глазом на голове, но с анатомией, максимально соответствующей человеческой. Кости, имитирующие человеческие, были сделаны из пластика. Приводы в сочетании с растягивающимися тросами тянули кости и функционировали как мышцы. Холланд полагал, что существует связь между сложностью тела и сложностью мозга, необходимого для контроля тела.

Тело робота получилось чрезвычайно сложным. На самом деле CRONOS оказался настолько трудным в плане управления, что в конечном итоге Холланд и его коллеги поняли: они не смогут завершить работу. CRONOS мог бы иметь тело разумного робота, но исследователи изо всех сил пытались создать мозг, обладающий сознанием, и бóльшую часть времени проводили, стараясь спроектировать работающие системы управления. (Уроки, извлеченные из этого опыта, привели к появлению новых приводов и новых роботов, таких как Roboy – немного более дружелюбная версия для детей.)

Но не все было потеряно. Холланд считал, что в ходе исследования все же нашел некоторые ответы. Он полагал, что сознание – это все, с помощью чего робот формирует собственную внутреннюю модель внешнего мира, свою воображаемую реальность, которая должна также включать в себя модель самого робота. Когда робот сможет думать о себе, своем теле и о том, как ему реагировать и воздействовать на реальный мир отдельно от самого мира, тогда, есть шанс, такой самоанализ станет первым шагом на пути к сознанию. Постепенно нужно будет добавлять новые функции – язык, речь, память, мотивацию, – и исследователи поймут, о чем думает робот. Возможно, когда собственные идеи робота станут более важными, чем реальность, тогда он получит сознание.

Холланд по-прежнему надеется, что мы сможем создать компьютерное сознание в ближайшие десятилетия. «Помните наклейки на компьютерах с надписью Intel Inside («Интел внутри»), – говорил Холланд. – Мы ждем наклейки с надписью Consciousness Inside («Сознание внутри»)».

Общий искусственный интеллект

Хотя такие исследователи, как Холланд, стремятся к лучшему самосознанию у компьютеров – цель, достижение которой может улучшить способность ИИ понимать себя и свои действия, – сознательный ИИ не обязательно означает полезный и, возможно, даже умный ИИ. Некоторые считают, что более полезным видом ИИ является некий общий вариант интеллекта.

Общих ИИ на сегодняшний день не так много. Практически все современные ИИ специализируются на очень узких областях. Попросите ИИ, занимающийся контролем качества, рассказать вам о погоде на завтра или попросите ИИ, «пишущий» музыку, спрогнозировать котировки акций, и вы не получите внятного ответа. Создавать ИИ с узкой специализацией более эффективно и практично, поэтому такой подход гораздо популярнее. Но когда мы хотим, чтобы ИИ взаимодействовал с нами в более широком диапазоне – определял наши потребности, вел с нами предметные разговоры, понимал социальные, этические или экологические последствия своих действий – мы начинаем думать о более общем виде ИИ.

Общий искусственный интеллект (ОИИ) – термин, используемый некоторыми исследователями для обозначения более «разносторонней» формы ИИ. Он подразумевает более широкий взгляд на создание систем ИИ, обладающих общим уровнем интеллекта, сопоставимым с человеческим или даже более высоким. В попытке дать ИИ больший набор возможностей используется и большее разнообразие методов и их комбинаций. Одни исследователи стремятся объединить символьные или модельные подходы с субсимвольными, такими как глубокое обучение. Другие пытаются создать гигантские графы знаний, чтобы обеспечить обширные общие знания.

Несмотря на десятилетия попыток исследователей и многих компаний, заявляющих, что они стремятся к этой цели, очевидно, что прогресс идет медленно. Одним из методов измерения уровня человеческого интеллекта является простой тест на IQ. В 2017 году IQ ИИ, находящихся в свободном доступе, таких как Google AI, Apple Siri и других, составлял в лучшем случае 47, что эквивалентно уровню IQ шестилетнего ребенка. Но другие исследователи утверждают, что те же ИИ не способны ходить, разговаривать или даже сделать чашку кофе, а значит, не являются ОИИ.

Моделирование мозга

Тогда как многие исследователи и ученые пытаются разработать ОИИ, существуют и другие пути моделирования и симуляции биологического мозга. Проект «Человеческий мозг», стартовавший в 2011 году, преследует чрезвычайно амбициозную цель – изучить и смоделировать все уровни человеческого мозга, начиная с микроскопического. К настоящему моменту в проект вложено уже 1 019 миллиардов евро. Однако цель выглядит довольно расплывчато, и большинство исследователей считают ее неосуществимой, учитывая уровень современных технологий и знаний. И все же участники проекта надеются, что при столь грандиозной цели им удастся достигнуть определенных успехов в нейробиологии и ИИ.

«Человеческий мозг» – лишь один из многих проектов. Например, в 2013 году администрацией Барака Обамы была запущена американская инициатива «МОЗГ». Ее целью является прогресс в нейробиологии – в частности, более глубокое понимание нарушения функций головного мозга с помощью передовых технологий сканирования и моделирования. Похожий китайский проект стартовал в 2015 году и продлится 15 лет. Ученые и исследователи уже создают массивные нейронные компьютеры, разрабатываемые специально для имитации импульсов нейронных сетей.

SPINNAKER

SpiNNaker – детище британского пионера в области компьютерной техники Стивена Фербера, который разработал эту новую компьютерную архитектуру, вдохновленную человеческим мозгом, для использования в нейробиологии, робототехнике и информатике. SpiNNaker включает в себя набор специальных процессоров, имитирующих импульсы нейронов. Каждый состоит из 18 процессоров меньшего размера (16 из которых используются для имитации нейронов, 1 – для управления и еще 1 – запасной) с продуманным дизайном, чтобы они могли взаимодействовать на сверхвысокой скорости друг с другом и со своими компаньонами на соседних чипах. Архитектура позволяет одновременно активировать множество таких микросхем для симуляции параллельной работы миллиардов нейронов и включает в себя до 1 036 800 процессоров, что требует 100 кВт мощности – удивительно мало для столь гигантского компьютера параллельного действия. SpiNNaker – одна из основных аппаратных платформ, входящих в проект «Человеческий мозг». Исследователи надеются, что помимо имитации импульсных нейронных сетей, в будущем эта технология поможет разрабатывать также новые типы больших энергосберегающих компьютеров параллельного действия.

1 Ethernet – технология, которая позволяет соединять проводные локальные сети, обеспечивая тем самым взаимодействие устройств согласно протоколу.

По сравнению с искусственными нейронными сетями, используемыми в машинном обучении, импульсные нейронные сети больше напоминают биологические нейроны. Традиционные искусственные нейроны непрерывно выводят значения на основе входных данных. Тогда как импульсные, которые активируются импульсами на входе, передают цепочки импульсов друг от друга, эффективно кодируя информацию во времени в форме двоичных сигналов «включено/выключено». Это значит, что импульсные нейронные сети лучше подходят для решения изменяющихся со временем проблем, нежели обычные искусственные нейронные сети. Импульсные нейронные сети требуют значительных вычислений для имитации более реалистичных нейронов (отсюда необходимость в специальном оборудовании, таком как SpiNNaker). Неясно только, как учить такие сети, поскольку нельзя применить традиционное обратное распространение. По этой причине, хотя импульсные нейронные сети имеют большой потенциал – в том числе для создания нейробиологических моделей, позволяющих лучше понимать живой мозг, – мы пока не знаем, как заставить их работать на полную мощность.

Я работаю над прорывным проектом ОИИ. Полагаю, нам нужно исследовать гораздо более сложные модели нейронов. В частности, нейроны, которые могут размножаться и умирать.

ДЖУЛИАН МИЛЛЕР (2019)

Исследователи продолжают разрабатывать инновации в этой области. Джулиан Миллер, например, стал пионером такого эволюционного подхода, как декартово генетическое программирование, которое позволит компьютерам развивать электронные схемы. Сегодня Миллера вдохновляет идея создания ОИИ с помощью декартова генетического программирования для совершенствования новых типов нейронных сетей. Тогда как большинство нейронных сетей обучены решать только одну задачу и должны пройти переподготовку, прежде чем смогут выполнять другие, Миллер создает искусственный мозг, который способен справиться со множеством задач, используя небольшой набор примеров. Его эволюционирующие нейронные сети меняют количество нейронов во время обучения и повторно используют их для выполнения различных задач.

Бесконечность – не предел!

Не все с оптимизмом смотрят на преимущества ОИИ. Некоторые футурологи, философы и писатели-фантасты делают пугающие прогнозы о том, куда в конечном итоге нас может привести эта технология. Они утверждают, что, как только ИИ станет достаточно умным, чтобы разрабатывать себе подобных, появится петля положительной обратной связи: умный ИИ сможет создать еще более умного ИИ, который в свою очередь создаст еще более умного ИИ, и так далее. Такого рода аргументы опираются на закон Мура, который гласит, что число транзисторов в микросхеме удваивается примерно каждые два года (а скорость процессоров удваивается каждые 18 месяцев). Сторонники этой идеи полагают, что экспоненциальное увеличение скорости компьютеров неизбежно приведет к появлению суперинтеллекта. Однажды, считают они, мы достигнем «технологической сингулярности[18]» – когда рост подобных ИИ станет неуправляемым, что приведет к потенциальной катастрофе для человечества.

Я установил дату сингулярности, когда произойдет глубокая и разрушительная трансформация человеческих возможностей, – 2045 год. Созданный в этот год небиологический интеллект окажется в миллиард раз мощнее, чем весь человеческий интеллект сегодня.

РЭЙМОНД КУРЦВЕЙЛ (2005)

За развитием подобных сюжетов интересно наблюдать в научно-фантастических фильмах и книгах, но в реальном мире их следует воспринимать как ложку дегтя. Развитие технологии ИИ выиграло от увеличения вычислительной мощности и доступности бóльших наборов данных для тренировки алгоритмов машинного обучения. Но успехи в области ИИ всегда связаны с улучшением алгоритмов, а не с частотой процессора. (И ночи ИИ обусловлены разочарованиями – тем, что алгоритмы не оправдали надежды.) Каждый алгоритм предоставляет захватывающие новые возможности, но ни один из них не решит всех проблем. Новые проблемы требуют новых алгоритмов для их решения (так же, как различные задачи, которые мы выполняем, задействуют разные области нашего мозга), а темпы инноваций ограничены нашими способностями и нашим уровнем понимания природы интеллекта.

Было бы замечательно, если бы мы могли пойти коротким путем и позволили бы компьютерам разрабатывать самих себя. Однако, несмотря на такие методы, как генетическое программирование, мы отчаянно стараемся заставить компьютеры разрабатывать более совершенные алгоритмы. Сегодня тысячи ученых используют самые современные компьютеры в попытках создать ИИ. Если мы изо всех сил пытаемся создать разум, почему же наши значительно менее умные ИИ будут лучше нас?

Нам не помогает даже экспоненциальный рост. Более того, он оборачивается не в нашу пользу. Каждый раз, когда мы пытаемся сделать ИИ чуть-чуть умнее, мы экспоненциально увеличиваем его возможности. Это дает экспоненциально больше шансов на провал, поэтому мы должны существенно умножить количество тестов и экспериментов, чтобы убедиться в правильности конструкций. В конечном счете данные, полученные в результате исследований ИИ, показывают, что бóльшие возможности означают более медленное развитие. Из физики мы знаем, что для достижения прогресса требуется все больше и больше энергии, как и при достижении скорости, более близкой к скорости света. Нечто подобное, похоже, происходит при создании интеллекта: становится все труднее увеличивать его возможности. Пожалуй, не случайно, что на планете Земля очень мало существ со столь же сложным мозгом, как наш, и что для их создания потребовалось 3,5 миллиарда лет эволюционных экспериментов.

Мы можем быть уверены: не будет никаких сингулярностей, вышедших из-под контроля ИИ. Наши преданные и трудолюбивые ученые и инженеры продолжат свои исследования, медленно изобретая новые алгоритмы и предоставляя ИИ полезные инструменты, чтобы сделать нашу жизнь более безопасной и легкой. Возможно, мы никогда не создадим ИИ, соответствующий по уровню продвинутости человеческому мозгу. Или это может занять у нас невообразимо много времени.

Будущее ИИ

Большинство исследований в области ИИ не имеет ничего общего с суперинтеллектом, или ОИИ. В основном они посвящены поиску решений конкретных проблем: чат-робот, отвечающий на запросы в колл-центре; автоматизированные алгоритмы вождения, помогающие управлять машиной на автостраде или во время парковки; более продвинутые роботы, автоматизирующие скучные производственные процессы; системы контроля качества, позволяющие фабрикам минимизировать бракованную продукцию; носимая электроника, своевременно выявляющая заболевания; социальные роботы, обеспечивающие уход за людьми с ограниченными возможностями и пожилыми; интернет-боты, отвечающие на наши вопросы; системы обнаружения мошенничества, отслеживающие транзакции и предупреждающие о том, что банковские реквизиты или личные данные могли быть украдены, и так далее. Что бы ни представлял собой ИИ, каждая такая технология призвана упростить нам определенную задачу, помочь в конкретном деле. Появятся новые удивительные ИИ и роботы. Они станут частью нашего общества, будут помогать нам или даже станут частью нас, как носимая электроника или умные протезы.

Не всем нравится такое видение будущего. Как вы помните, некоторые люди предполагают, что миллионы рабочих мест будут потеряны из-за ИИ и роботов. Заменят ли роботы рабочих на заводах? А чат-боты – сотрудников колл-центров? Ответ на эти и подобные вопросы вполне может оказаться утвердительным. Но в подобных процессах нет ничего принципиально нового. Мы всегда постепенно привыкаем к очередному изобретению и в результате меняем наш образ жизни. Знания устаревают, возникают новые специальности. Сегодня мало кузнецов и много фабричных рабочих. Завтра может стать меньше рабочих и больше роботов-менеджеров и инженеров по обслуживанию роботов. Технологии быстро меняются, и наше общество меняется вместе с ними. Но с такой же скоростью появляются и новые возможности. Автомобили без водителей будут нуждаться в совершенно иной дорожной инфраструктуре, других способах продажи и обслуживания. Индустрия компьютерных игр стремительно развивается, и ей требуются таланты во всех областях – от специалистов по компьютерному моделированию до писателей и актеров. Хранение данных и аналитика – и все, что связано с данными, – процветает, и каждый день появляются новые виды деятельности. Например, социальные медиа – область рекламы с открытыми рабочими местами и возможностями для карьеры. Возникают новые формы интерактивных развлечений, управляемые ИИ и носимой электроникой. Каждая новая технология нуждается в людях: ее необходимо создавать, тестировать, использовать, настраивать, регулировать, ремонтировать. Работа сегодня не та, что раньше. И причина этого не ИИ или роботы, а человеческий прогресс.

В конечном счете ИИ и робототехника всегда очаровывали нас и порой приводили в замешательство – возможно, потому, что мы интересуемся собой. Уникально в этой технологии то, что появление действительно разумного ИИ может помочь нам постичь, как работают мозг и тело человека. Чтобы преуспеть в создании наших искусственных «детей», мы должны тщательно изучить себя и свое поведение. Понять, как наши взаимодействия помогают нам развиваться и вместе работать. Узнать об эмоциях, самосознании и о том, как мы принимаем решения; каким образом наши действия влияют на нас самих и окружающих; что значит быть нравственными и как понятие о морали и уважение к жизни должны быть включены во все, что мы делаем. Узнать, что мы тесно связаны с нашей средой, которая меняет нас так же, как мы меняем ее. ИИ – это непрекращающееся путешествие в поисках открытий. Возможно, если мы пойдем по этому длинному и сложному пути, то сможем стать лучше.

Словарь

Абстракция – процесс упрощения и фокусирования внимания только на существенных деталях.

Автономный автомобиль (беспилотный автомобиль, автомобиль с автоматическим управлением, автомобиль-робот, автомобиль без водителя) – транспортное средство, управляемое ИИ, который может частично или полностью взять на себя функции водителя.

Автономный робот – робот, демонстрирующий высокую степень автономии поведения.

Агентное моделирование – использование программных агентов в различных комбинациях для моделирования естественных или физических систем.

Алгоритм – метод, используемый компьютером для выполнения конкретной задачи.

Алгоритм обратного распространения ошибки – метод обучения искусственных нейронных сетей.

Алгоритм поиска – алгоритм, выполняющий поисковую задачу: найти один или несколько элементов, обладающих определенным свойством, во множестве, чтобы решить проблему.

Большие данные – массивы данных, требующие специального анализа.

Глубокое обучение – методы машинного обучения, обычно основанные на искусственных нейронных сетях с несколькими скрытыми уровнями, которые изучают представленные данные. Обучение может осуществляться с полным или неполным контролем, а также быть неконтролируемым.

Импульсная нейронная сеть – тип искусственной нейронной сети, в которой информация передается способом, подобным тому, каким это делают биологические нейроны, обмениваясь импульсами.

Искусственная иммунная система – алгоритмы, основанные на принципах действия иммунной системы живого организма.

Искусственная нейронная сеть – алгоритмы машинного обучения, вдохновленные работой нейронных сетей в человеческом мозге.

Капсульная нейронная сеть – тип искусственной нейронной сети, которая может использоваться для улучшения моделей иерархических отношений, основанных на биологической нейронной организации.

Когнитивная наука – совокупность научных дисциплин, занимающихся исследованием разума.

Компьютерное зрение – алгоритмы распознавания, обработки и интерпретации изображений и видео с целью извлечения из них информации.

Массив данных – упорядоченная совокупность однородных данных, используемых, в частности, для обучения. Обычно подразделяются на массивы для обучения алгоритма, проверочные массивы, применяемые при настройке параметров алгоритма, и тестовые массивы, необходимые для определения точности данных.

Машинное обучение – процесс обучения искусственных нейронных сетей построению алгоритмов на основе имеющихся массивов данных.

Многоагентные вычисления – алгоритмы, в рамках которых несколько программных агентов взаимодействуют для решения задачи.

Нечеткая логика – форма многозначной логики, использующая лингвистические переменные.

Обработка естественного языка – ветвь ИИ, занимающаяся анализом текстовых или других неструктурированных данных на естественном языке.

Обучение с подкреплением – тип машинного обучения, цель которого – научить агента действовать в окружающей среде таким образом, чтобы максимально увеличить общее вознаграждение.

Онтология – представление, наименование и определение категорий, свойств и отношений между понятиями, сущностями и данными.

Поведенческое дерево – схема, которая демонстрирует, как поведение робота или агента переключается между задачами.

Решатель – программное обеспечение, которое принимает описание проблемы в качестве входных данных и вычисляет ее решение, часто используя поиск.

Робототехника – междисциплинарный раздел инженерии и наука, занимающаяся проектированием, конструированием, эксплуатацией и применением роботов, а также алгоритмами их управления, сенсорной обратной связи и обработки информации.

Сверточная нейронная сеть – тип алгоритмов глубоких нейронных сетей, обычно используемый в компьютерном зрении.

Сильный ИИ – гипотетический, но к настоящему моменту не реализованный тип ИИ, напоминающий биологический интеллект и обладающий сознанием.

Символьная логика – способ представления логических выражений с помощью символов и переменных.

Слабый ИИ – тип ИИ, в котором алгоритм предназначен для решения четко определенной задачи, иногда путем симуляции интеллекта. Все современные ИИ – примеры слабого ИИ.

Сложные системы – природные или искусственные системы, которые демонстрируют непредсказуемое поведение, возникающее спонтанно в результате более простых взаимодействий между компонентами.

Теория игр – изучение простых моделей взаимодействия лиц, принимающих рациональные решения.

Фреймы – структура данных, используемая для организации знаний в стереотипных ситуациях, связанных с классами в объектно ориентированном программировании.

Функция активации – функция, которая вычисляет выходной сигнал нейрона.

Функция приспособленности (оценочная функция, целевая функция) – мера приспособленности с точки зрения эволюционного принципа выживания; обычно используется в алгоритмах оптимизации, таких как генетические алгоритмы.

Чат-бот (диалоговый интерфейс, искусственный собеседник) – ИИ, имитирующий разговоры.

Эволюционные вычисления – алгоритмы оптимизации, основанные на принципах биологической эволюции, в том числе генетические алгоритмы, оптимизация методом роя частиц и алгоритм муравьиной колонии.

Экспертная система – алгоритм, базирующийся на правилах и обладающий способностью принимать решения подобно человеку-эксперту, используя хранимые знания, которые часто выражены в форме правил «если…, то…».

Эмоциональные вычисления (эмоциональный ИИ) – область ИИ, посвященная компьютерному моделированию, распознаванию и обработке эмоций.

Рекомендуемая литература

Истории о компьютерных науках, включая рассказ об истории развития ИИ:

Bentley P. J. Digitized: The Science of Computers and How it Shapes Our World. Oxford University Press, 2012.

Для понимания современного уровня развития ИИ:

Mitchell M. Artificial Intelligence: A Guide for Thinking Humans. Pelican Books, 2019.

Объективный взгляд на влияние ИИ:

Smith R. E. Rage Inside the Machine: The Prejudice of Algorithms, and How to Stop the Internet Making Bigots of Us All. Bloomsbury Business, 2019.

Реалистичный взгляд на современные ограничения ИИ:

Marcus G., Davis E. Rebooting AI: Building Artificial Intelligence We Can Trust. Ballantine Books Inc, 2019.

Захватывающий рассказ о возможном в будущем экономическом и социальном воздействии ИИ:

Lee K.-F. AI Superpowers. Houghton Mifflin Harcourt, 2018[19].

Опытный взгляд на социальных роботов и их применение:

Heerink M. A Compassionate Guide for Social Robots. E3, 2018.

Чтобы увидеть, что значит быть побежденным ИИ, а затем извлечь уроки из этого опыта:

Kasparov G., Murray J. Deep Thinking: Where Machine Intelligence Ends and Human Creativity Begins. PublicAffairs, 2017[20].

Взгляд математика на креативность ИИ:

Du Sautoy M. The Creativity Code: Art and Innovation in the Age of AI. Fourth Estate, 2019.

Оригинальная и, на мой взгляд, лучшая книга об эмоциональных вычислениях:

Picard R. Affective Computing. MIT Press, 2000.

Классическая книга о роботах и людях:

Brooks R. Flesh and Machines: How Robots Will Change Us. Pantheon Books, 2002.

Подробный рассказ об эксперименте «Китайская комната»:

Views into the Chinese Room: New Essays on Searle and Artificial Intelligence / Edited by John Preston. Oxford University Press, 2002.

История кибернетики и ИИ:

Husbands P., Holland O., Wheeler M. The Mechanical Mind in History. MIT Press, 2008.

Классическая книга, написанная одним из отцов ИИ:

Minsky M. The Society of Mind. Simon & Schuster, 1988[21].

Краткий, но тщательный обзор машинного обучения:

Burkov A. The Hundred-Page Machine Learning Book. Self-published in 2019.

Практические идеи о том, как чат-боты могут быть использованы в маркетинге:

Cancel D., Garhardt D. Conversational Marketing: How the World’s Fastest Growing Companies Use Chatbots to Generate Leads 24/7/365 (and How You Can Too). John Wiley and Sons, 2019.

Классическая книга, написанная в начале развития новой области:

Levy S. Artificial Life: The Quest for a New Creation. Jonathan Cape Ltd, 1992.

Более сложный взгляд на причинность и ее значение для ИИ:

Pearl J., Mackenzie D. The Book of Why: The New Science of Cause and Effect. Penguin Books, 2018.

Размышления физика об ИИ и нашем будущем:

Tegmark M. Life 3.0: Being Human in the Age of Artificial Intelligence. Penguin Books, 2017[22].

Обеспокоенный философ рассуждает об ИИ:

Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford University Press, 2014[23].

Скептический взгляд специалиста по математической физике на ИИ:

Penrose R. The Emperor’s New Mind: Concerning Computers, Minds and the Laws of Physics. Oxford University Press, 1999[24].

Горячо обсуждаемое мнение о будущем ИИ:

Kurzweil R. The Singularity is Near. Duckworth, 2006.

Примечания

1

Особняк, расположенный в городе Милтон-Кинс. Здесь в годы Второй мировой войны находилось главное шифровальное подразделение Великобритании – Правительственная школа кодов и шифров. – Здесь и далее примеч. переводчика.

2

PricewaterhouseCoopers – международная сеть компаний, предлагающих услуги в области консалтинга и аудита.

3

Катрен – четверостишие в составе сонета с законченной мыслью. Метр и расположение рифм не канонизированы, но наиболее частая форма – abba.

4

Хайку – жанр традиционной японской лирической поэзии. Оригинальное хайку состоит из 17 слогов.

5

Шекспировский сонет, или сонет с английской рифмовкой, имеет вид abab cdcd efef gg (три катрена и заключительное двустишие – так называемый сонетный ключ).

6

Граф – структура данных, состоящая из множества вершин и ребер, соединяющих их.

7

Отсылка к наиболее известной речи Мартина Лютера Кинга I have a dream («У меня есть мечта»).

8

The Jetsons («Джетсоны») – американский комедийный научно-фантастический мультсериал. Был очень популярен в 1960-х годах.

9

International Business Machines – американская компания, крупнейший производитель аппаратного и программного обеспечения. Каждая студия IBM имеет свою специализацию.

10

Mousebreaker (mousebreaker.com) – британский игровой портал.

11

Daisy Bell (Bicycle Built for Two) – популярная песня, написанная в 1892 году британским композитором Гарри Дакром. Это первая песня, спетая с использованием компьютерного синтезатора речи IBM 7094 в 1961 году.

12

HAL 9000 – вымышленный компьютер, ИИ, в цикле произведений «Космическая одиссея» Артура Кларка, обладающий способностью к самообучению.

13

Утиный тест (duck-test) – известный тест на очевидность происходящего. В его основе лежит представление, что сущность какого-либо явления можно определить по типичным внешним признакам. Суть теста выражается в утверждении: «Если нечто выглядит как утка, плавает как утка и крякает как утка, то это, вероятно, и есть утка».

14

Мурмурация – природное явление, когда тысячи птиц сбиваются в огромные стаи (или рыбы – в косяки). Плотность стаи постоянно меняется, но поддерживается таким образом, чтобы птицы могли собирать актуальную информацию об окружении.

15

Эмерджентность – наличие у той или иной системы особых свойств, не присущих ее элементам по отдельности.

16

Fortune Global 500 – ежегодный мировой рейтинг крупнейших компаний. Критерий отбора – выручка.

17

Улыбки Pan Am – знаменитые показные улыбки стюардесс компании Pan American World Airways. Они всегда должны были улыбаться, находясь рядом с пассажирами, независимо от ситуации и собственного настроения. В такие улыбки вовлекались лишь губы, но не глаза. Также их называют ботоксными улыбками. Улыбка Дюшена – искренняя улыбка. Названа в честь французского ученого Гийома Дюшена, исследовавшего мышцы лица и их связь с улыбками. Отличительная черта улыбки Дюшена – характерные морщинки в уголках глаз.

18

Сингулярность – то, что происходит лишь один раз. Это точка, к которой стремились события, пока каким-либо образом не разрешились. В точках сингулярности математические функции резко меняют свое поведение: устремляются в бесконечность, переламываются, внезапно обращаются в ноль.

19

Ли Л.-Ф. Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок. М.: Манн, Иванов и Фербер, 2019.

20

Каспаров Г. Человек и компьютер. Взгляд в будущее. М.: Альпина Паблишер, 2018.

21

Минский М. Сообщество разума. М.: АСТ, 2018.

22

Тегмарк М. Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта. М.: Corpus, 2019.

23

Бостром Н. Искусственный интеллект. Этапы, угрозы, стратегии. М.: Манн, Иванов и Фербер, 2016.

24

Пенроуз Р. Новый ум короля. О компьютерах, мышлении и законах физики. М.: УРСС, ЛКИ, 2011.

Content

Питер Дж. Бентли
Всё об искусственном интеллекте за 60 минут

Предисловие

01. Путешествие в тысячу миль начинается с первого шага

Античные роботы

Рождение ИИ и робототехники

Взлеты и падения ИИ

Возрождение

02. Выбор верного пути

Символический ИИ

Китайская комната

Логика поиска

Хранение знаний

03. Мы все падаем

Слоны не играют в шахматы

Послушные роботы

Самостоятельные автомобили

Роботы в нашем обществе

04. В поисках правильного ответа

Эволюция искусственной жизни

Решения, найденные естественным путем

Эволюционирующие роботы

Компьютеры, проектирующие сами себя

05. Понять свой мир

Восприятие

Учимся видеть

Мозговитые компьютеры

Компьютеры-расисты?

06. Изменения к лучшему

Учимся учиться

Категории обучения

Стратеги

Меняющиеся идеи

07. Общение – это ключ

Правила языка

Корпусная лингвистика

Приятно поболтать

Трудно говорить

08. Вообразите реальность

Цифровые исследования

Клеточные автоматы

Цифровые агенты

Виртуальные предсказания

09. Почувствуйте себя лучше

Эмоциональный интеллект

Социальные роботы

Эмоциональные роботы

Заботливый ИИ

10. Познайте себя

Общий искусственный интеллект

Моделирование мозга

Бесконечность – не предел!

Будущее ИИ

Словарь

Рекомендуемая литература

Примечания