Норман Дональд А.

Дизайн вещей будущего

Дональд А. Норман

Дизайн вещей будущего

...

Права на перевод предоставлены Sandra Dijkstra Literary Agency

Впервые опубликовано Basic Books

Перевод с английского Максим Коробочкин

Редактор Марина Голубовская

Дизайн серии Михаил Сметана

Фотография на обложке CityCar, дизайн Франко Вайрани / MIT Smart Cities group

Предисловие к русскому изданию

Хочу особо поприветствовать моих российских читателей!

Сегодня мы живем в глобальном обществе, где у каждого человека, у каждой страны есть возможность внести свой вклад в мировое процветание. В будущем дизайн станет играть все более важную роль, ведь он распространяется не только на компьютеры, но и на все, что с ними связано.

«Умные» машины – прекрасная идея! Она самым серьезным образом меняет процессы разработки и использования создаваемых нами устройств, даже наше представление о них. Но действительно ли машины обладают интеллектом? На мой взгляд, нет. Их ум – это ум конструктора, пытающегося представить себе все ситуации, в которых может оказаться машина, и решить, что ей следует делать. Обретут ли машины интеллект в дальнейшем? Думаю, да: в конце книги я даже привожу запись своей беседы с «умными» машинами.

Путь в будущее всегда труден. Когда-нибудь у нас появятся «умные» машины, работающие совершенно самостоятельно. И трудности здесь связаны с переходным этапом, когда машины уже пытаются принимать осмысленные, разумные решения и действовать соответственно, но у них еще ничего не получается. Именно эти промежуточные состояния волнуют и заботят меня. И именно этой проблеме посвящен «Дизайн вещей будущего».

Телефоны во всем мире могут быть устроены одинаково, а «умные» машины – нет. Такая машина должна быть восприимчивой к культурным различиям. Поэтому очень важно, чтобы люди, где бы они ни жили, имели это в виду. Машины нового типа следует разрабатывать в рамках тех культур, где они будут использоваться. Машины будущего будут создаваться в странах будущего, во всех уголках планеты.

Я очень благодарен за возможность представить эту книгу российскому читателю. Все мы живем в интереснейшее время, когда товары, услуги и таланты выходят на подлинно глобальный уровень. У всех у нас появятся друзья и коллеги по всему миру, а изделия будут разрабатываться во многих странах. Поэтому я очень рад, что мои книги издаются в России. Перед нами стоят поистине гигантские задачи, и решать их надо совместными усилиями.

Пало Альто (штат Калифорния), США

www.jnd.org

Глава 1. Осторожные автомобили и властные кухни

Как машины берут власть

Я выезжаю из дому на горный серпантин, что проходит вдоль побережья Тихого океана. Дорога вьется между гигантскими секвойями; за крутыми поворотами открываются виды на Калифорнийский залив или бесконечный простор океана. Я наслаждаюсь поездкой, машина превосходно слушается руля и изящно вписывается в повороты. Но вдруг я замечаю, как напряглась сидящая рядом жена. Ей страшно – она съежилась, уперлась ногами в пол, вцепились руками в приборную панель. «Что с тобой? – спрашиваю я. – Успокойся, я знаю, что делаю».

А теперь представим другой сюжет. Я еду по тому же серпантину и замечаю, как напряглась моя машина – ей страшно. Откинутые спинки сидений сами собой выпрямляются, ремни безопасности туго затягиваются, индикаторы на приборной панели тревожно мигают и пищат. Затем сами собой включаются тормоза. «Вот те на, – мелькает у меня в голове. – Надо снизить скорость».

Считаете, что испуганный автомобиль – это нечто из области фантастики? Уверяю вас, вы ошибаетесь. Так уже ведут себя некоторые автомобили класса «люкс». И то ли еще будет. Стоит вам случайно выехать из своей полосы – и машина начинает протестовать: она гудит, руль и сиденья вибрируют, на боковых зеркалах загораются лампочки. Автомобильные компании экспериментируют с системами корректировки траектории движения, помогающими водителю вернуть машину на полосу. Указатели поворота были придуманы для того, чтобы другие водители видели, что вы собираетесь повернуть или перестроиться. Теперь с их помощью вы даете понять собственной машине, что делаете это не по ошибке, а намеренно. Вы словно говорите ей: «Не мешай. Я действительно хочу совершить маневр».

Как-то раз я входил в группу консультантов одной крупной автомобилестроительной фирмы. На одном из заседаний я сказал, что буду по-разному реагировать на испуг жены и машины. «Как это? – удивилась моя коллега Шерри Теркл, профессор Массачусетского технологического университета, признанный авторитет в вопросах человекомашинного взаимодействия. – Вы что же, к машине прислушиваетесь больше, чем к жене?»

Действительно странно. Конечно, я могу привести кучу рациональных доводов, но они ничего не объяснят. Сегодня, когда мы наделяем творения своих рук все большей самостоятельностью, разумом, эмоциями и индивидуальностью, пора уже задуматься о том, как мы взаимодействуем с этими механизмами.

Почему я обращаю больше внимания на поведение машины, а не жены? В двух словах ответить трудно, но в конечном счете все дело в коммуникации. Когда жене что-то не нравится, я могу спросить ее о причине и, выслушав ответ, либо согласиться, либо переубедить ее. Кроме того, чтобы она успокоилась, я могу изменить манеру вождения. Но с автомобилем в беседу не вступишь, коммуникация здесь носит односторонний характер.

...

– И как тебе новая машина? – спросил я Тома, когда он вез меня в аэропорт после затянувшегося совещания. – Нравится навигационная система?

– Машина отличная, – ответил он, – но навигационной системой я вообще не пользуюсь. Я хочу сам выбирать маршрут, а она все решает за меня.

Техника обслуживает нас, и поэтому у нее больше власти. Не логично? Да, но именно так обстоит дело. Задумайтесь: если при заключении контракта вы не хотите идти на уступки, кого вы пошлете на переговоры – генерального директора или кого-нибудь рангом пониже? Как это ни странно, рядовой сотрудник зачастую может добиться более выгодных условий. Почему? Да потому что, какие бы обоснованные аргументы ни приводила другая сторона, переговорщик с ограниченными полномочиями не может принять окончательного решения. И выслушав самые убедительные доводы, он вправе сказать лишь: «Извините, но я дам вам ответ после того, как проконсультируюсь с начальством». А на следующий день, вернувшись за стол переговоров, он разведет руками: «Увы, я не сумел переубедить босса». Если же ваш представитель наделен широкими полномочиями, его можно убедить, и он примет предложение, пусть даже впоследствии вы все об этом пожалеете.

Искушенные переговорщики хорошо знают эту уловку и не позволяют оппонентам к ней прибегать. Когда я обсуждал этот вопрос с моей знакомой, преуспевающим адвокатом, она только посмеялась: «Если противная сторона попробует провернуть нечто подобное, я их быстро выведу на чистую воду. Со мной в такие игры не поиграешь». Но техника играет с нами в такие игры, и мы ничего с этим не можем поделать. Когда машина вмешивается в наши действия, нам остается только подчиниться. Она фактически говорит нам: «Будет либо по-моему, либо никак», причем вариант «никак» заведомо исключен.

Возьмем случай Тома. Он дает навигационной системе задание проложить маршрут, и та это делает. Казалось бы, все просто. Такое вот идеальное взаимодействие человека и техники – конструктивный диалог. Но вспомним, как Том жаловался: «Она все решает за меня». Разработчики передовых технологий гордятся тем, что закладывают в свои системы «коммуникационные способности». Но при тщательном анализе выясняется, что здесь происходит подмена понятий: нет никакой «коммуникации», никакого обмена мнениями, характерного для подлинного диалога. Есть два монолога. Мы отдаем приказы машине, а она – нам. А два монолога – это никакой не диалог.

В нашем случае у Тома есть выбор. Если он отключит навигационную систему, автомобиль не перестанет функционировать. Поэтому Том, недовольный тем, как она прокладывает маршрут, этой системой просто не пользуется. Но с другими системами такой вариант невозможен: не пользоваться ими значит не пользоваться автомобилем. Проблема в том, что они зачастую крайне полезны и при всех своих недостатках спасают жизни людей. То есть вопрос должен звучать так: как нам изменить способ взаимодействия с техникой, чтобы, эффективно используя ее достоинства, попытаться исключить назойливые, а порой и опасные действия?

Чем могущественнее техника, тем более насущной становится проблема коммуникации и сотрудничества с ней. Сотрудничество предполагает не только координацию действий, но еще объяснения и обмен мнениями. Для этого необходимо доверие, которое возникает лишь на основе опыта и взаимопонимания. Имея дело с автоматизированными «умными» машинами, мы порой необоснованно им доверяем – или столь же необоснованно не доверяем. Том не доверяет указаниям навигационной системы, но в некоторых случаях нежелание полагаться на технику чревато опасными последствиями. Скажем, что может случиться, если Том отключит антиблокировочную систему тормозов или систему курсовой устойчивости? Многие водители считают, что способны управлять машиной лучше, чем любая автоматика. Однако системы, предотвращающие заносы и обеспечивающие устойчивость, действуют эффективнее, чем любой водитель, за исключением разве что самых опытных профессионалов. Они спасают немало жизней. Но как автомобилисту определить, каким системам можно доверять?

Конструкторы, как правило, сосредоточиваются на технологиях, пытаясь ради нашей безопасности и комфорта автоматизировать все, что только можно. Их цель – полная автоматизация, если этому не препятствуют технические ограничения или соображения рентабельности. Однако наличие этих ограничительных факторов означает, что некоторые функции можно автоматизировать лишь частично, то есть человек должен постоянно следить за работой машины и брать дело в свои руки, если она не может действовать самостоятельно. Поэтому, когда функции автоматизированы не полностью, необходимо, чтобы каждая из сторон – человек и механизм – понимала, что делает другая и зачем.

Два монолога еще не диалог

Сократ: В этом, Федр, дурная особенность письменности… ее порождения стоят как живые, а спроси их – они величаво и гордо молчат. То же самое и с сочинениями: думаешь, будто они говорят как разумные существа, но если кто спросит о чем-нибудь из того, что они говорят, желая это усвоить, они всегда отвечают одно и то же.

Платон, «Федр»

Две тысячи лет назад Сократ утверждал, что появление книг подрывает способность людей к логическому мышлению. Он верил в диалог, в беседу и спор. Но с книгой не вступишь в дискуссию: письменный текст не ответит на ваши доводы. Сегодня, когда книга стала символом знаний, мы можем лишь посмеяться над подобными аргументами. Но попробуем отнестись к ним всерьез. Вопреки мнению Сократа, письменные сочинения дают нам навыки самостоятельного мышления, поскольку нам попросту незачем полемизировать с их авторами. Мы обсуждаем их и спорим друг с другом на занятиях, в дискуссионных группах, а если речь идет о важном тексте, то к нашим услугам все средства массовой коммуникации. Тем не менее доводы Сократа верны: технологии, не создающие возможностей для дискуссий, разъяснений, дебатов, по определению ущербны.

За годы, проведенные в бизнесе и во главе университетской кафедры, я понял, что процесс принятия решения часто бывает важнее, чем само решение. Когда человек принимает решение, никак его не объясняя и ни с кем не советуясь, люди не доверяют результату и не одобряют его, даже если после обсуждения они сами поступили бы точно так же. Многие бизнесмены задаются вопросом: «Зачем тратить время на обсуждения, если конечный результат будет тем же самым?» Но это не так. Даже в случае принятия аналогичного решения сам процесс его принятия и реализации – особенно в незапланированных обстоятельствах – будет совершенно иным, если им займется команда, не просто выполняющая приказ, а понимающая суть дела и принимающая участие в реализации замысла.

Тома не устраивает навигационная система в его автомобиле, хотя он понимает, что порой она может быть полезна. Однако он не может взаимодействовать с системой, чтобы приспособить ее к своим потребностям. Даже если некоторые важные решения: «самый быстрый путь», «самый короткий», «с самыми живописными видами», «без проезда по платным дорогам» – Том принимает сам, он не может обсудить с навигационной системой причины, по которым выбран именно этот, а не другой маршрут. Он не знает, почему для нее маршрут А предпочтительнее маршрута Б. Учитывает ли она время ожидания на светофорах и количество знаков «стоп»? А вдруг маршруты отличаются только тем, что один из них экономит минуту на час езды? Том не знает альтернативы, которую, возможно, предпочтет, несмотря на потерю во времени. Методы работы системы неизвестны, поэтому, даже если бы он был склонен ей доверять, молчание и тайна подрывают это доверие – как подрывает доверие единоличное принятие решений в бизнесе.

Что, если бы навигационные системы могли обсуждать маршрут с водителем? Если бы они предлагали ему альтернативные варианты, демонстрируя их и на карте, и в виде таблицы, на которой указаны протяженность маршрута, предполагаемое время в пути и расходы на проезд по платным дорогам, чтобы водитель имел возможность выбирать? В некоторых навигационных системах это уже предусмотрено, и таблица для поездки в Пало-Альто из долины Напа может выглядеть следующим образом:

Маршрут Сент-Хелена – Пало-Альто, Калифорния

Это, конечно, явное усовершенствование, но до диалога и здесь далеко. Система говорит: вот три варианта, выбирай один из них. Узнать подробности или изменить маршрут вы не можете. Я знаком со всеми тремя дорогами и знаю: самая быстрая, короткая и дешевая проходит по наименее живописным местам, а та, где виды будут лучше всего, даже не предлагается. Но если водитель не имеет об этом представления? Понятно, что такой уровень общения машины с человеком не может нас удовлетворить. И то, что создание навигационных систем, предлагающих автомобилистам хотя бы такой выбор, считается большим шагом вперед, лишь показывает, как плохи остальные системы и как мы еще далеки от искомого результата.

Если моя машина сочтет, что авария неизбежна, она выпрямит спинки кресел или включит тормоза и ни о чем меня не спросит, не посоветуется со мной, даже не сообщит, в чем причина. Может, ей лучше знать, поскольку она напичкана механическими и электронными приборами, безошибочно делающими нужные расчеты? Не обязательно. Да, с арифметикой у приборов все в порядке, но, прежде чем делать расчеты, нужно еще учесть состояние дороги, поток и квалификацию водителя. Водители-профессионалы порой отключают автоматику, поскольку она не позволяет им использовать все их навыки. Точнее, они отключают то, что им позволено отключить: многие из современных машин столь авторитарны, что не оставляют водителю даже этой возможности.

Не думайте, что это относится только к автомобилям. В будущем аналогичная проблема возникнет при обращении с очень многими видами устройств. Так, в банках уже существуют автоматизированные системы, определяющие, можно ли дать вам кредит, а автоматизированные медицинские системы решают, какое лечение или лекарство вам назначить. Скоро машины станут следить за тем, что вы едите, что читаете, какую музыку любите и какие телепередачи предпочитаете смотреть. Специальные системы будут наблюдать, как вы ведете себя за рулем, и если они решат, что вы нарушили правила, то уведомят страховую компанию, прокатную контору, а то и полицию. Другие системы отслеживают нарушение авторских прав, принимая решения о том, что можно разрешить, а что нет. Во всех этих случаях речь идет о произвольных решениях: машины делают важнейшие выводы о ваших намерениях на основе далеко не полной картины вашего поведения.

Так называемые «умные» системы стали чересчур самоуверенными. Они убеждены, будто знают, что для нас лучше. Но их интеллект ограничен. И это ограниченность фундаментального свойства: машина по определению не может знать все факторы, которые человек учитывает при принятии решений. Это, впрочем, не означает, что нам следует отказываться от помощи «умных» машин. В то же время, поскольку машины берут на себя все больше и больше, их нужно социализировать – они должны стать более коммуникабельными и лучше понимать пределы своих возможностей. Только тогда они смогут приносить настоящую пользу. Именно этой теме и посвящена моя книга.

Когда я только начинал над ней работать, я думал, что ключевым в социализации машин является создание более совершенных систем, способных к диалогу. Но я ошибался. Для конструктивного диалога нужны общие знания и опыт. Нужно уметь учитывать обстановку и контекст, предшествующие события, а также множество различных целей и мотивов, которыми руководствуются участники процесса. И в этом, как я теперь понимаю, заключено одно из главных ограничений, не позволяющих современным технологиям полноценно взаимодействовать с человеком. Если даже людям непросто найти полное взаимопонимание, откуда оно возьмется у людей и машин?
Для успешного взаимодействия с техникой нам нужно научиться относиться к ней как к животным. Несмотря на то что и люди, и животные обладают интеллектом, мы – разные виды, с разным взглядом на мир и разными способностями. Точно так же даже самая умная машина – это представитель другого вида, со своими сильными и слабыми сторонами, собственным пониманием вещей и способностями. Порой мы должны слушаться животных и машин, порой – они нас.

Куда мы движемся? И кто направляет движение?

– Моя машина чуть не устроила мне аварию, – сказал мне Джим.

– Твоя машина? Как это? – удивился я.

– Я ехал по шоссе, включив круиз-контроль. Знаешь, это такая система, которая поддерживает постоянную скорость, но если впереди появляется другая машина, она снижается, чтобы сохранять безопасную дистанцию. Так вот, через какое-то время движение на дороге стало более интенсивным, и моя машина замедлила ход. Наконец я добрался до нужного съезда, перестроился в правый ряд и свернул с шоссе. Я так давно включил круиз-контроль и ехал так медленно, что попросту о нем забыл. А вот машина не забыла. Она небось сказала себе: «Ура! Наконец-то впереди никого нет», и начала разгоняться до прежней скорости, хотя на съезде надо ехать медленно. Хорошо, что я не растерялся и вовремя нажал на тормоза. Иначе кто знает, что могло бы случиться.

Сегодня наши отношения с техникой резко меняются. До недавнего времени люди ее контролировали. Мы включали и выключали ее, указывали, что делать, и следили за процессом исполнения. Но по мере того как техника становилась все сложнее и изощреннее, мы стали хуже понимать принципы ее работы и хуже предугадывать ее действия. С тех пор как в нашей жизни появились компьютеры и микропроцессоры, мы все чаще испытывали растерянность, замешательство, раздражение и злость. Но мы продолжали считать, что контролируем ситуацию. Увы, уже нет. Машины берут верх. Они ведут себя так, будто обладают интеллектом и свободой воли, хотя ни того, ни другого у них нет.

Естественно, машины присматривают за нами с наилучшими намерениями – ради нашей безопасности и удобства. Если все идет как надо, эти «умные» машины весьма полезны: они делают нашу жизнь спокойнее, избавляют нас от рутинной работы, создают комфорт и выполняют многие задания точнее, чем мы сами. Действительно, ведь удобно же, что автомобиль автоматически снижает скорость, если перед вами на опасно близком расстоянии появилась другая машина, что он тихо и плавно переключает передачи, что микроволновая печь знает, когда испеклась картошка. Ну а если техника дает сбой? Что, если она действует неправильно или выходит из повиновения? Вспомним про машину Джима, заметившую, что дорога свободна, и увеличившую скорость, хотя он уже съехал с шоссе? Те же устройства, которые помогают нам в нормальных условиях, в случае каких-то неожиданностей снижают уровень безопасности, комфорта, точности, что чревато для нас угрожающими последствиями, дискомфортом, раздражением и злостью.

Сегодня машины сообщают о своем состоянии в основном с помощью сигналов тревоги, то есть только если с ними что-то не в порядке. Когда механизм дает сбой, человек должен взять ситуацию под контроль; зачастую это происходит неожиданно и времени, чтобы нормально отреагировать, у него нет. Джиму удалось исправить ошибку своего автомобиля. А если бы он не сумел этого сделать, в аварии обвинили бы его. Да-да, если действия «умной» машины приводят к аварии, ответственность за нее, скорее всего, возложат на человека.

Чтобы наладить взаимодействие людей с «умными» механизмами, нужно совершенствовать координацию и кооперацию обеих сторон – человека и машины. Но конструкторы, разрабатывающие сложные системы, зачастую этого не понимают. Как машина может определить, что важно, а что нет, особенно если то, что важно в одной ситуации, в другой теряет значение?

Я рассказывал историю о Джиме и его ретивом автомобиле инженерам нескольких автомобилестроительных компаний, и они неизменно реагировали следующим образом. Сперва они пытались обвинить во всем водителя: почему он не выключил круиз-контроль перед тем, как съехать с шоссе? Я объяснял: он просто забыл. Ну, тогда он плохой водитель, говорили они. Принцип «сам виноват» очень удобен для обвинителя, будь то страховая компания, органы власти или общество в целом: если люди совершают ошибку, их надо наказать. Но так проблему не решить. На самом деле подлинные виновники – это неудачная конструкция, несовершенные алгоритмы, плохая инфраструктура, изъяны в технологическом режиме. А человек – лишь последнее звено в этой сложной цепи.

И хотя с технической точки зрения специалисты из автокомпаний правы – водитель должен помнить, как работает автоматика его машины, – это не оправдывает конструктивных недоработок. Новые технологии следует разрабатывать, имея в виду реальное поведение людей, а не то, каким мы хотели бы его видеть. Более того, автомобиль никак не помогает водителю вспомнить, что нужно сделать. Похоже, он сконструирован именно так, чтобы помочь ему забыть! Понять, включен круиз-контроль или нет, практически невозможно. Было бы куда лучше, если бы в машине имелось специальное напоминающее устройство.

И здесь инженеры переходили к следующему этапу: «Да, проблема есть, но волноваться не стоит. Мы все исправим. Вы правы, навигационная система автомобиля должна фиксировать, что он съехал с дороги, и либо автоматически отключить круиз-контроль, либо настроить его на безопасную скорость».

Этот ответ наглядно иллюстрирует суть проблемы. Машина не обладает умом: ее интеллект – это интеллект конструкторов. Они сидят в своих кабинетах, пытаясь представить себе все, что может произойти с машиной и водителем, и выработать правильные решения. Но как заложить правильную реакцию на неожиданное событие? Если такое случается с человеком, можно предположить, что он решит проблему с помощью воображения и смекалки. Но «интеллект» наших машин заключен не в них самих, а в головах инженеров. Поэтому в непредвиденных обстоятельствах, когда конструктора нет рядом, машина, как правило, не справляется с задачей.

О неожиданностях мы знаем две вещи: во-первых, они обязательно случаются, во-вторых, всегда застают нас врасплох.

Как-то раз инженер одной автомобильной компании отреагировал на мой рассказ о Джиме не так, как другие. Он смущенно признал, что нечто подобное на съезде с шоссе случилось и с ним самим, но у него была другая проблема – смена ряда. Если на шоссе с интенсивным движением водитель хочет перестроиться, он ждет, когда на соседней полосе возникнет достаточно большой просвет, а затем совершает маневр. Обычно при этом его автомобиль оказывается на небольшом расстоянии от машин, идущих впереди и сзади. Адаптивный круиз-контроль может решить, что передняя машина находится в опасной близости, и включить тормоза.

– Ну и в чем здесь проблема? – удивился я. – Это, конечно, раздражает, но вроде ничем не грозит.

– Нет, – пояснил инженер. – Это опасно, потому что едущий за вами водитель не ожидает, что после перестроения вы неожиданно затормозите. И если он не слишком внимателен, то может в вас врезаться. Но даже если этого не случится, ваша манера езды вряд ли ему понравится.

– Возможно, – засмеялся он, – у машины должен быть специальный стоп-сигнал, который будет загораться, если тормоза включаются автоматически, предупреждая водителя сзади: эй, я не виноват, это моя машина тормозит.

Инженер, конечно, шутил, но его слова указывают на различия в поведении людей и машин. Человек может вести себя по-разному, плохо или хорошо, обдуманно или беспечно. Машины более последовательны, они анализируют ситуацию в соответствии с логикой и правилами, на которые запрограммированы. Но в их действиях есть принципиальное ограничение: они воспринимают окружающий мир не так, как человек, у них нет «высших целей», и они не понимают целей и мотивов людей, с которыми должны взаимодействовать. Иными словами, машины не такие, как мы. В чем-то они нас превосходят, например в скорости, мощи, последовательности, а в чем-то уступают – прежде всего в навыках общения, в креативности и воображении. Машины лишены эмпатии и не способны понять, как их действия отразятся на окружающих. Из-за этих различий, связанных в первую очередь со способностью к общению и наличием эмпатии, и возникают проблемы. Более того, такие различия, а значит, и возникающие противоречия, носят фундаментальный характер, их нельзя устранить, изменив какой-нибудь алгоритм или добавив лишний датчик.

В результате действия машин вступают в противоречие с действиями людей. Зачастую ничего страшного в этом нет: если моя стиральная машина стирает белье не так, как я, какое мне дело – ведь в результате я получаю чистую одежду. Здесь автоматизация эффективна, поскольку мне нужно только загрузить белье и включить машину, а все остальное она делает сама. Она, так сказать, берет дело в свои руки, и, если я не вмешиваюсь, все работает без сбоев.

Но как быть в ситуациях, когда люди и техника должны взаимодействовать? И что произойдет с моей стиральной машиной, если, включив ее, я захочу изменить режим? Как мне сообщить ей об этом? И когда она его изменит, если программа уже запущена – сразу же или при следующей стирке? Здесь различия между реакцией людей и машин становятся очень важными. Иногда кажется, что машина действует абсолютно волюнтаристски, хотя если бы она умела мыслить и говорить, то объяснила бы, что, с ее точки зрения, это я творю произвол. На человека, вовлеченного в процесс, эта борьба за превосходство может действовать угнетающе. А стороннего наблюдателя она ставит в тупик: не ясно, кто здесь главный и почему происходит то или иное действие. И не важно, кто в данном случае прав – человек или машина. Значение имеет сама несогласованность действий – ведь именно из-за нее возникают злость, раздражение, а порой даже поломки или травмы.

Конфликт между действиями человека и машины возникает оттого, что машины, какими бы «умными» они ни были, плохо представляют себе внешние условия, цели и мотивы людей, а также особые обстоятельства, неизбежно сопутствующие тем или иным действиям. Машины прекрасно работают в заданных условиях, когда им не мешают назойливые люди и не происходит ничего неожиданного, то есть все можно точно спрогнозировать. Здесь автоматизация дает превосходные результаты.

Но даже в заданных условиях, когда машины функционируют наилучшим образом, они не всегда действуют так, как действовали бы мы. Возьмем «умную» микроволновую печь. Она знает, сколько электроэнергии и времени необходимо, чтобы приготовить нужное блюдо. Если печка исправна, все очень просто и приятно: вы кладете в нее кусок сырого лосося и сообщаете, что ей предстоит готовить рыбу. Через некоторое время вы получаете готовое блюдо – нечто среднее между вареной рыбой и тушеной, но по-своему превосходное. В инструкции говорится: «Сенсор фиксирует избыточную влагу, выделяемую при готовке, и печь автоматически корректирует время приготовления в соответствии с типом и количеством пищи». Заметим, однако, что ни слова не сказано о том, что микроволновка готовит пищу так же, как человек. Человек проверил бы, стала ли рыба достаточно мягкой, приобрела ли нужный цвет, возможно, измерил бы внутреннюю температуру. Печка всего этого не умеет, поэтому делает, что может – следит за выделением влаги. Именно по уровню влажности она определяет, готово ли блюдо. Для рыбы и овощей этого достаточно, а для других продуктов – нет. Кроме того, сама сенсорная система не идеальна. Если после завершения программы блюдо оказалось сыроватым, включать печь еще раз не рекомендуется: «Не применяйте сенсорную функцию дважды при приготовлении одной и той же порции – это может привести к тому, что пища окажется пережаренной или подгоревшей». Вот вам и «умная» микроволновка!

Помогает ли техника нам в быту? И да, и нет. Если можно говорить о том, что у нее есть «голос», она определенно говорит с нами свысока, не объясняя, как и зачем она что-то делает, что именно она делает, какой уровень прожарки, чистоты или сухости устраивает ее сенсоры и как быть, если что-то идет не так. Многие люди, на мой взгляд, совершенно оправданно чураются таких приборов. Они хотят знать, что происходит и почему, но прибор хранит молчание, да и инструкция к нему мало что объясняет.

В лабораториях по всему миру ученые изобретают все новые способы внедрения искусственного интеллекта в нашу жизнь. Уже созданы экспериментальные образцы «умных» домов, чувствующих все, что делают их обитатели. Они автоматически включают и выключают свет, корректируют температуру и даже выбирают для вас музыку. Список проектов, находящихся в разработке, впечатляет: холодильники, не дающие вам есть неподходящую пищу, унитазы-«доносчики», тайно сообщающие вашему врачу о состоянии ваших биологических жидкостей. Казалось бы, между холодильником и унитазом мало общего, но они становятся компонентами системы, следящей за вашим питанием – первый контролирует то, что попадает внутрь, а второй измеряет и анализирует то, что выходит наружу. У нас уже есть весы-«ворчуны», следящие за избыточным весом, и тренажеры, требующие, чтобы ими пользовались. Даже чайники издают громкий свист, чтобы привлечь максимальное внимание.

Окружая себя все большим количеством «умных» устройств, мы меняем нашу жизнь не только к лучшему, но и к худшему. Когда они работают нормально – это хорошо, но когда они дают сбой или превращают работоспособных творческих людей в прислужников, занятых исключительно заботой о них, их обслуживанием и ремонтом, ничего хорошего в этом нет. Так не должно быть, но так есть. Неужели уже поздно что-то изменить? Неужели мы ничего не можем сделать?

Нашествие «умных» машин

Вперед – к естественному симбиозу

Есть надежда, что уже недалек тот день, когда человеческий мозг и вычислительные машины будут взаимодействовать весьма тесно, и мыслительные способности этого партнерства превзойдут все, на что способен человеческий ум.

Дж. Ликлайдер, «Симбиоз человека и компьютера» (1960)

В 1950-х психолог Джозеф Ликлайдер попытался определить, каким образом люди и машины могли бы установить гармоничные, или, как он говорил, «симбиотические», отношения, чтобы в результате этого партнерства повысилось качество нашей жизни. Что такое гармоничный симбиоз людей и техники? Для этого необходимо естественное, непринужденное взаимодействие на уровне подсознания, чтобы контакт с обеих сторон происходил сам собой, без каких-либо усилий, и в результате человек и машина, совместно решая задачу, сливались бы в единое целое.

В нашей жизни существует немало примеров «естественного взаимодействия». Возьмем четыре примера, демонстрирующих разные формы таких взаимоотношений: между людьми и традиционными орудиями труда, между лошадью и всадником, между водителем и автомобилем, между человеком и «рекомендательным» сервисом, предлагающим ему книги, музыку или фильмы.

Искусный мастер взаимодействует с орудием своего труда так же, как музыкант со своим инструментом. Для художника или скульптора, краснодеревщика или музыканта инструмент – это продолжение руки. Кажется, что они не пользуются инструментом, а работают непосредственно с материалом – холстом и красками, камнем, деревом, звуками. Чувство материала, то гладкого и звонкого, то неподатливого и шершавого, обеспечивает обратную связь. Это взаимодействие непростое, но приятное. Правда, такого рода «симбиотические» отношения возможны лишь тогда, когда человек хорошо знает свое дело и инструменты у него хорошие. В этих случаях взаимодействие становится плодотворным, приятным и эффективным.

Возьмем искусного наездника. Он понимает коня, а конь понимает всадника. И каждый из них передает другому информацию о том, что им предстоит. Лошадь общается с наездником с помощью языка тела, аллюра, готовности продолжать скачку и общей линии поведения. Она может быть настороженной, капризной, пугливой или, напротив, энергичной, живой и игривой. Всадник тоже общается с лошадью посредством языка тела, посадки, того, как он давит коленями, ступнями или шпорами на ее бока, команд, которые он отдает, натягивая или отпуская поводья. Конь отлично понимает, кто на нем сидит – опытный наездник, чувствующий себя непринужденно, или напряженный, не уверенный в себе новичок. Это еще один позитивный пример взаимодействия. Он особенно интересен тем, что в данном случае речь идет о двух системах – всаднике и коне, которые наделены чувствами, интеллектом, способны воспринимать окружающий мир и сообщать друг другу результаты этого восприятия.

Третий пример похож на предыдущий, однако речь здесь идет о взаимодействии разумного существа со сложным, но неразумным механизмом. В идеале – это тонкая взаимосвязь между тем, как водитель ощущает машину и дорогу, и тем, как он действует.

Я думаю об этом, сидя рядом с сыном, ведущим мою немецкую спортивную машину по гоночному треку, который мы арендовали на несколько часов. Мы приближаемся к резкому повороту, сын плавно тормозит, перемещая вес машины на нос, а затем поворачивает руль, переводя машину в состояние управляемого заноса. Завершив поворот, он возвращает руль в прежнее положение и увеличивает скорость, перемещая вес машины на задние колеса, и мы снова несемся по прямой, наслаждаясь приятным ощущением полного контроля над ситуацией. Это доставляет удовольствие всем участникам процесса: мне, сыну и автомобилю.

Четвертый пример, с рекомендательными сервисами, сильно отличается от первых трех: здесь все происходит медленнее, не так изящно и носит более интеллектуальный характер. Тем не менее это прекрасная иллюстрация позитивного взаимодействия между людьми и сложными системами, прежде всего потому, что последние не управляют нами, а предлагают, и мы вольны принять или отклонить их рекомендации. Эти системы устроены по-разному, но все они рекомендуют различные изделия или виды деятельности, которые могут нам понравиться: анализируют то, что мы уже выбирали, ищут похожие вещи в своих базах данных и изучают предпочтения других людей, чьи интересы, как им кажется, напоминают наши. А поскольку эти рекомендации даются ненавязчиво (вы знакомитесь с ними и следуете им исключительно по собственному желанию), они могут быть полезны. Скажем, если вы ищете книгу в Интернете, возможность прочесть отрывки из текста, оглавление, указатель и рецензии помогает вам решить, стоит ли ее покупать.

На некоторых сайтах вам даже объяснят, откуда взялись те или иные рекомендации, и предложат скорректировать методику выбора. В научных лабораториях мне приходилось сталкиваться с рекомендательными системами, которые следят за вашей деятельностью, и, когда вы что-то читаете или пишете, они рекомендуют вам статьи, похожие по содержанию на то, что выведено на экран вашего компьютера. Эффективность этих систем обусловлена несколькими причинами. Во-первых, они предлагают вам нечто ценное, их рекомендации часто актуальны и полезны. Во-вторых, сами рекомендации даются ненавязчиво, они не отвлекают вас от основного занятия и остаются доступными до тех пор, пока вы не пожелаете с ними ознакомиться. Не все подобные системы столь же эффективны, некоторые своей навязчивостью нарушают неприкосновенность вашей частной жизни. Но если они сделаны хорошо, то убедительно доказывают, что «умные» системы способны сделать наше взаимодействие с машинами полезным и приятным.

Пояснение

Когда я езжу верхом, это занятие не доставляет удовольствия ни мне, ни лошади. Для непринужденного, спокойного взаимодействия с ней нужно немалое умение, которого у меня нет. Я плохо представляю себе, что делаю, и лошадь понимает это не хуже меня. Точно так же, наблюдая с пассажирского места, как неумелый и не уверенный в себе водитель борется с собственной машиной, я не чувствую себя в безопасности. Симбиоз – отличная идея, ведь речь идет о взаимовыгодном сотрудничестве. Но в некоторых случаях, в частности в первых трех из приведенных мной примеров, оно требует немалых усилий, подготовки и навыков. В других случаях, таких как четвертый пример, специальных навыков и обучения не требуется, но разработчики должны всегда помнить об уместности того или иного способа социального взаимодействия.

Когда я разместил на своем сайте первый вариант этой главы, мне пришло письмо от группы ученых, изучающих возможность применения принципов взаимодействия лошади и всадника в системах управления автомобилями и самолетами. Они называют эту концепцию «метафорой Л», где Л обозначает лошадь. Чтобы понять, как могут быть созданы такие системы, усилия объединили специалисты из исследовательского центра НАСА в Лэнгли (штат Вирджиния) и ученые из Института транспортной системной техники Германского центра авиации и космонавтики (DLR) в Брауншвейге. Я специально побывал в Брауншвейге, чтобы поближе познакомиться с их работой (это потрясающие исследования, подробнее я расскажу о них в главе 3). Всадник регулирует степень контроля над ситуацией, делегируемого коню: отпустив поводья, он позволяет ему действовать самостоятельно, а натянув их, берет управление на себя. Искусные наездники постоянно ведут переговоры со своими лошадьми, приспосабливая степень своего контроля к конкретным обстоятельствам. Американские и немецкие ученые пытаются внедрить этот подход в сферу взаимодействия между человеком и машиной – причем это касается не только автомобилей, но также домов и бытовой техники.

Симбиоз в том смысле, который полвека назад вкладывал в это понятие Ликлайдер, означает гармоничное и эффективное объединение двух компонентов – человеческого и механического, с тем чтобы возникающее в результате сотрудничество превосходило возможности каждого из них по отдельности. Нам необходимо понять, как достичь оптимального взаимодействия, как сделать его настолько естественным, чтобы оно не требовало ни усилий, ни особых навыков.

Норовистые кони, норовистые машины

Что означает взаимодействие водителя и автомобиля, построенное по тому же принципу, что и взаимодействие умелого наездника и лошади? Что будет, если машина встает на дыбы или начинает артачиться, оказавшись слишком близко к впереди идущему автомобилю или сочтя, что скорость движения слишком высока? А если она движется плавно и ровно в ответ на правильные команды, но медленно и неохотно реагирует на неправильные? Можно ли сконструировать автомобиль, который будет физически реагировать на ситуацию, сообщая таким образом водителю об опасности?

А как насчет вашего дома? «Норовистое» жилище – что это такое? Порой мой пылесос или плита начинают бунтовать. Я хочу, чтобы они делали одно, а они хотят делать что-то другое. Но дом! Сегодня инженеры уже готовятся превратить ваше жилище в автоматизированное существо, постоянно заботящееся о вашем благе, удовлетворяющее все ваши потребности и желания еще до того, как эти желания и потребности у вас возникли. Многие фирмы жаждут заняться оборудованием и управлением этими «умными» домами, которые меняют освещение в зависимости от своих представлений о вашем настроении, выбирают и включают для вас музыку, перемещают изображение с одного телеэкрана на другой, если вы бродите по дому. Эти системы так интеллектуальны, что возникает вопрос: сможем ли мы найти с ними контакт? Если вы хотите научиться ездить верхом, вам нужна практика, а еще лучше – обучение на специальных курсах. Так что же, нам теперь придется упражняться в обращении с собственным домом, идти на курсы, чтобы научиться ладить с собственной бытовой техникой?

Что, если мы сможем придумать способ органичного взаимодействия между людьми и машинами? Пригодится нам для этого опыт взаимодействия умелого наездника с конем? Возможно. Мы должны найти поведенческие соответствия, возникающие в отношениях всадника с лошадью и водителя с автомобилем. Как машина проявляет нервозность? Что означает лошадиный норов применительно к машине? Если лошадь выражает свои эмоции, шарахаясь назад или напрягая шею, как в аналогичной ситуации должен вести себя автомобиль? Что, если он внезапно встанет на задние колеса и начнет раскачиваться из стороны в сторону?

В научных лабораториях уже работают над аналогами сигналов, которые наездник посылает лошади. Ученые из исследовательских подразделений автомобильных компаний ставят эксперименты, измеряя уровни волнения и внимания, и минимум у одной модели автомобиля, уже поступившей в продажу, на рулевой колонке есть телекамера, которая следит за водителем, определяя, насколько он сосредоточен. Если машина приходит к выводу, что водитель отвлекся и столкновение неминуемо, она автоматически включает тормоза.

Аналогичным образом разрабатываются «умные» дома, которые наблюдают за своими обитателями, оценивают их настроение и эмоциональное состояние, чтобы выбрать подходящие температуру, освещение и фоновую музыку. В исследовательском центре одного европейского университета группе испытуемых было предложено сыграть в напряженную видеоигру, а затем отдохнуть в специальной комнате с удобными креслами, красивой мебелью и мягким освещением, помогающим расслабиться. Я побывал в этой комнате, там действительно можно расслабиться и отдохнуть. Цель эксперимента – понять, как создать жилую среду, соответствующую эмоциональному состоянию человека. Может ли дом, определив, что хозяева находятся в состоянии стресса, автоматически его снять? Или, напротив, привести своих вялых обитателей в бодрое состояние духа, включив яркий свет, веселую музыку, изменив цветовую гамму?

Машинам легче думать, чем действовать; они воспринимают логику, но лишены эмоций

«Следуй за мной», – говорит Манфред Макикс, герой книги Чарльза Стросса «Акселерандо», только что купленному чемодану. Так и происходит. Манфред поворачивается и уходит, а «новый чемодан катится за ним».

Многие из нас выросли на фантастических романах, фильмах и телесериалах о всемогущих роботах и гигантских компьютерах. Порой они неуклюжи (вспомним Си Трипио из «Звездных войн»), порой всеведущи (как компьютер ЭАЛ из «Космической одиссеи»), а порой неотличимы от людей (непонятно, кто же такой Рик Декард, герой «Бегущего по лезвию», – человек или репликант). Реальность, однако, сильно отличается от фантастики. Роботы ХХI века не способны на осмысленное общение с людьми, более того – они и ходить-то умеют плохо, не говоря уж о способности обращаться с реальными предметами. В результате большая часть «умных» машин – особенно бытовых, которые должны быть недорогими, надежными и простыми в обращении, – предназначена для выполнения элементарных функций, вроде приготовления кофе, стирки, мытья посуды, регулирования освещения и отопления, кондиционирования воздуха, уборки дома и стрижки газонов.

Если поставлена конкретная задача и ничего неожиданного не происходит, «умные» машины способны действовать логично и осмысленно. Они измеряют температуру и уровень влажности, количество жидкости, вес одежды или пищи и определяют, высохло ли белье и готова ли еда. Последние модели стиральных машин способны даже распознавать, из каких тканей сделано белье, каков его вес и степень загрязнения, и выбирать соответствующие настройки.

Автоматизированные пылесосы (в том числе, моющие) прекрасно работают, если поверхность относительно гладкая и на их пути не встречается препятствий, но чемодан, следующий за хозяином, как в «Акселерандо», по-прежнему остается за пределами возможностей обычной бытовой техники. Хотя создать нечто подобное вполне возможно, ведь здесь не требуется реального взаимодействия с людьми – ни общения, ни специальных мер безопасности. Чемодан должен просто катиться за владельцем. На случай, если кто-то попытается его украсть, чемодан можно запрограммировать так, чтобы он реагировал на опасность громким воем. У Стросса чемодан еще и распознает «отпечатки пальцев хозяина – в оцифрованном виде и по фенотипическим признакам», украсть его можно, а вот открыть нельзя.

Но способен ли такой чемодан реально передвигаться по многолюдным городским улицам? Ведь у него, в отличие от нас, нет ног. Он не сможет обходить препятствия или перешагивать через них, спускаться и подниматься по лестницам, переходить с дороги на тротуар и – со своими колесами – окажется в положении инвалида: ему придется искать специальные съезды на уличных перекрестках, а внутри зданий пользоваться пандусами и лифтами. Даже людям в инвалидных колясках зачастую нелегко преодолеть эти препятствия, а уж самодвижущемуся чемодану придется куда труднее. Кроме того, передвижение по улицам, скорее всего, ляжет непосильной нагрузкой на его системы обработки визуальных данных. Способность чемодана не упускать из виду хозяина, огибать препятствия, находить путь, пригодный для передвижения на колесах, избегая столкновения с автомобилями, велосипедистами и пешеходами, резко снизится.

Существуют интересные расхождения в том, что люди и машины считают легким и сложным. В том, что касается мышления, некогда считавшегося привилегией человека, машины достигли наибольшего прогресса, особенно если речь идет о логике и внимании к деталям. А вот физические действия – когда надо стоять, ходить, прыгать, избегать препятствий – сравнительно легко даются людям, но для машин они сложны, а то и непосильны. Наконец, важнейшую роль в поведении людей и животных играют эмоции. Они помогают нам понять, что хорошо, а что плохо, что опасно, а что нет, и служат мощным коммуникативным средством для передачи друг другу чувств и убеждений, реакций и намерений. У машин же существуют лишь примитивные эмоции.

Несмотря на эти ограничения, многие ученые по-прежнему пытаются воплотить в жизнь мечту об «умных» машинах, способных эффективно общаться с людьми. Ученые по природе оптимисты, им необходимо верить, что их работа важнее всего на свете, и более того, что они уже близки к прорыву исторического масштаба. В результате в СМИ появляются статьи такого содержания:

...

По словам ученых, роботы скоро смогут выполнять для людей ряд важных задач – от ухода за детьми до вождения автомобиля за престарелых граждан. В субботу на ежегодное заседание Американской ассоциации развития науки собрались ведущие специалисты страны в области робототехники, чтобы рассказать о последних исследованиях в этой области и о нашей будущей жизни в окружении роботов…

Например, у вас будет милый плюшевый мишка, обучающий детей испанскому или французскому языку, машина, которая сама отвезет вас на работу, пока вы будете дремать на сиденье, есть или готовить доклад на PowerPoint; динозаврик размером с чихуахуа, понимающий, когда нужно приласкаться и поиграть с вами, а когда оставить вас в покое; компьютер, меняющий положение экрана в зависимости от вашей позы, выполняемой работы или настроения; робот-мажордом, встречающий ваших гостей, представляющий их друг другу на случай, если вы забыли, кого как зовут, развлекающий собравшихся музыкой и анекдотами, разносящий закуски и напитки.

Достижениям в создании «умной» среды обитания посвящено немало научных конференций. Приведу текст одного из приглашений на такое мероприятие:

...

Симпозиум по проблемам создания эмоциональной «умной» среды обитания ( Ньюкасл-на-Тайне, Великобритания ).

Бытовой искусственный интеллект – новая популярная сфера исследований, нацеленных на создание «умной» среды обитания, чутко, гибко и активно реагирующей на присутствие и действия человека, обеспечивая услуги, которые обитатели этой среды запрашивают или которые могут им понадобиться.

Искусственный интеллект все больше проникает в наш быт. Многие привычные приборы, такие как телевизоры, кухонное оборудование или системы центрального отопления, уже оснащаются встроенными компьютерами, которые будут объединены в интегрированные сети… Датчики биологической активности позволят системе распознавать присутствие и состояние пользователей, а также определять их потребности с целью улучшения бытовых условий и повышения реального благополучия людей.

Верите ли вы в то, что ваш дом лучше знает, что вам нужно? Хотите ли вы, чтобы ваша кухня консультировалась с вашими напольными весами, или чтобы ваш унитаз автоматически исследовал вашу мочу, а затем сообщал результаты вашему лечащему врачу? И как, собственно, кухня узнает, что именно вы ели? Как она поймет, что масло, яйца или сливки, которые вы вынули из холодильника, предназначены для вас, а не для других обитателей дома, гостей или, скажем, школьного проекта?

Еще недавно надзор за вашим питанием был невозможен, но сегодня уже появились крохотные, едва видимые датчики, которые можно прикреплять к чему угодно – к одежде, товарам, продуктам, даже к людям и домашним животным – и отслеживать все, что с ними происходит. Их называют радиочастотными идентификационными метками (RFID). Им не нужны батарейки: метки получают энергию от считывателя, посылающего запрос об их назначении, идентификационном номере и других сведениях о человеке или объекте, которые в них заложены. Если все продукты снабжены такими метками, «умный» дом может проследить за вашим питанием. Наличие RFID-меток, а также телекамер, микрофонов и других сенсорных устройств равносильно приказам: «Ешь брокколи», «Не трогай масло», «Делай зарядку». Властная кухня? Это еще мягко сказано!

«Как научить бытовые приборы понимать, что вам нужно?» – таким вопросом задалась группа исследователей из Медиа-лаборатории Массачусетского технологического института. Они создали кухню, напичканную сенсорами, телекамерами и датчиками давления в полу, которые позволяют определить, где в тот или иной момент стоит человек. Благодаря этой системе разработчики пришли к следующему выводу: если человек открыл холодильник, а затем оказался перед микроволновой печью, он/она с высокой степенью вероятности разогревает пищу. Свое детище они назвали «здравомыслящей кухней» (KitchenSense). Вот ее описание:

...

KitchenSense – это экспериментальная платформа для изучения кухонного пространства, снабженная множеством датчиков и подключенная к сети, где для упрощения контрольных интерфейсов и расширения зоны взаимодействия используется логика здравого смысла (CommonSence). С помощью сети датчиков система интерпретирует намерения людей, чтобы создать надежную базу для безопасной, эффективной и эстетичной деятельности. Анализ совокупной информации, поступающей с датчиков, в сочетании со знаниями о повседневной жизни человека позволяет централизованной «открытой» системе (OpenMind) создать общий контекст для работы различных устройств.

Если человек открыл дверцу холодильника, а затем прошел к микроволновой печи, он «с высокой степенью вероятности» собирается разогреть пищу. В переводе с изысканного научного жаргона на простой язык получается обычная догадка. Конечно, чрезвычайно высокоумная, но все же догадка. Этот пример отражает самую суть дела: «система», то есть компьютеры, управляющие «умной» кухней, ничего не знает наверняка. Она попросту строит догадки – догадки, подтвержденные некими статистическими данными, в основе которых лежат наблюдения и интуиция разработчиков. Но системе не дано знать, каковы реальные намерения человека.

Объективности ради отметим, что статистические закономерности бывают полезны. В данном случае кухня ничего не делает, она скорее готовится к действию, предлагая набор вероятных вариантов, и, если один из них совпадает с вашими намерениями, вам останется только нажать на кнопку. Если же система не угадала, вы можете ее проигнорировать – насколько вообще можно игнорировать дом, постоянно проецирующий разные предложения на кухонный стол, стены и пол.

Работа системы основана на «здравом смысле», но в действительности здравым смыслом эта кухня не обладает. Все ее «здравомыслие» заложено программистами, и уровень его невысок, поскольку знать, что происходит на самом деле, она не может.

А если вы решите сделать что-то такое, что «умный» дом сочтет вредным или просто неправильным? «Нет, – скажет он, – так готовить нельзя. Если вы поступите именно так, я не отвечаю за результат. Вот, загляните в эту поваренную книгу. Видите? Не заставляйте меня говорить: „Я же вас предупреждал“». Этот сценарий смахивает на фильм Стивена Спилберга «Особое мнение» по одноименному рассказу великого фантаста Филипа Дика. Его герой Джон Андертон, убегая от правительственных агентов, пробирается через многолюдный торговый центр. Рекламные дисплеи узнают его, окликают по имени и соблазняют заманчивыми скидками – только для него. Дисплей, рекламирующий автомобили, призывает: «Это не просто машина, мистер Андертон! Это обитель, призванная утешить и успокоить израненную душу». Реклама турагентства искушает: «Устал, Джон Андертон? Нуждаешься в отдыхе? Мы организуем тебе поездку в Арубу!» Эй, дисплеи, человек спасается от полиции, он вряд ли остановится, чтобы купить какую-нибудь тряпку.

«Особое мнение» – художественный фильм, но показанные в нем технологии были придуманы умными, творческими людьми, которые стремились к максимальному правдоподобию. Активные рекламные дисплеи скоро станут реальностью. В ряде городов билборды распознают владельцев автомобиля MINI Cooper по RFID-меткам. Его реклама безобидна – водителю показывают слоганы, в выборе которых он лично участвовал. Но лиха беда начало. Сегодня для распространения рекламы нужны радиометки, но это лишь временная уловка. Ученые уже работают над тем, чтобы телекамеры, наблюдающие за людьми и автомобилями, распознавали их по лицу и осанке, а их машины – по модели, году выпуска, цвету и номерному знаку. Так в Лондоне отслеживают машины, въезжающие в центр города. Так спецслужбы смогут следить за подозреваемыми в терроризме. Так рекламные агентства будут выискивать потенциальных клиентов. Станут ли дисплеи в магазинах предлагать завсегдатаям специальные скидки? Будут ли ресторанные меню автоматически выводить на экран ваши любимые блюда? Сначала мы читаем об этом в научно-фантастическом рассказе, потом видим в кино, а затем – на городских улицах. Так что ищите активную рекламу в соседнем магазине… Впрочем, можете не трудиться – она сама вас найдет.

Общение с машинами: мы и они – два разных вида

Я представляю себе: на дворе ночь, но мне не спится. Тихо, чтобы не разбудить жену, я встаю с постели. Раз уж одолела бессонница, лучше не тратить время впустую, а поработать. Но мой дом, уловив движение, радостно желает мне доброго утра, включает свет и радиоприемник, настроенный на программу новостей. Жена, естественно, просыпается и ворчит: «Зачем ты разбудил меня так рано?!»

Как мне объяснить «умному» дому, что его действия, абсолютно правильные в одной ситуации, в другой могут оказаться совершенно неуместными? Должен ли я программировать его на определенное время суток? Нет, не годится: порой нам с женой приходится вставать среди ночи, например чтобы успеть на утренний самолет или позвонить коллеге из Индии. Чтобы правильно реагировать, дом должен понимать контекст, мотивы моих действий. Я намеренно встал так рано? Следует ли будить мою жену? Хочу ли я, чтобы он включил радио и кофеварку? Чтобы понять причины моего пробуждения, дом должен знать мои намерения, а для этого требуется коммуникация такого уровня, который недостижим ни сегодня, ни в обозримом будущем. Пока что «умными» машинами по-прежнему должны управлять люди. В худшем случае это может приводить к конфликтам, в лучшем – человеку и машине удается создать эффективный симбиотический союз. Заметим, что своим «умом» машины обязаны людям.

Инженеры скажут, что все новые технологии поначалу бывают сырыми, но потом они совершенствуются и становятся надежными и безопасными. В этом есть своя правда. Было время, когда паровые двигатели локомотивов и пароходов взрывались, а теперь этого практически не случается. В начале развития авиации катастрофы происходили часто, а теперь очень редко. Помните проблему Джима с круиз-контролем, который увеличил скорость не там, где надо? Уверен, что в будущих моделях автомобилей таких ситуаций удастся избежать, соединив управление скоростным режимом с навигационной системой, либо создав устройства, с помощью которых шоссе само сможет информировать машину о разрешенной скорости (тогда превысить ее станет невозможно). Не исключено даже, что машины научатся самостоятельно определять безопасную скорость в зависимости от состояния дорожного полотна, количества поворотов, погодных условий, наличия на шоссе другого транспорта или людей.

Я инженер. Я верю, что наука и техника способны сделать нашу жизнь богаче и приятнее. Но пока мы идем не туда. Сегодня мы имеем дело с новым поколением «умных» и самостоятельных машин, которые в состоянии реально заменить нас во многих ситуациях. Они могут существенно облегчить нашу жизнь, сделать ее более приятной и безопасной. А могут начать действовать нам на нервы, мешать и даже подвергнуть опасности. Мы впервые имеем дело с машинами, которые пытаются с нами общаться.

Фундаментальные проблемы, возникшие в сфере технологий, невозможно преодолеть, действуя прежними методами. Здесь нужен более взвешенный, надежный и гуманитарный подход. Нужна не автоматизация, а совершенствование.

Глава 2. Психология людей и машин

Сегодня в нашей жизни вполне реальны три таких сценария:

– Набрать высоту! Набрать высоту! – громко предупреждает самолет, если считает, что самолет летит слишком низко.

– Би-би, – сигналит автомобиль, пытаясь привлечь внимание водителя. Одновременно он выпрямляет спинки сидений, туже затягивает ремни безопасности и готовится включить тормоза. Машина наблюдает за шофером с помощью встроенной видеокамеры и, если тот отвлекся от дороги, автоматически тормозит.

– Динь-динь, – это посудомоечная машина сообщает, что посуда помыта, даже если дело происходит в три часа утра и ее звонок способен разве что разбудить вас.

А вот три возможных сценария из недалекого будущего:

– Нет, – говорит холодильник, – яйца тебе есть нельзя, пока ты не похудеешь и у тебя не снизится уровень холестерина. Весы сообщили мне, что тебе надо сбросить еще три кило, а клиника продолжает упрекать меня за избыток холестерина у тебя в организме. Сам знаешь, все это делается для твоего же блага.

– Я только что проверил твое расписание в смартфоне, – говорит автомобиль, когда ты садишься в него после работы. – У тебя есть свободное время, поэтому я запрограммировал маршрут не по трассе, а по дороге с живописными видами и поворотами, которую ты так любишь. И кстати, чтоб было веселее в пути, я подобрал твои любимые мелодии.

– Слушай, – говорит дом, пока ты утром собираешься на работу, – куда ты спешишь? Мусор я выбросил, мог бы, кстати, и спасибо сказать. И хорошо бы нам поговорить насчет этого симпатичного регулятора – помнишь, я показывал тебе его на фото? С ним я буду работать куда эффективнее, и, между прочим, у дома Джона он уже есть.

Некоторые машины упрямы, другие темпераментны, одни деликатны, другие грубоваты. Мы часто наделяем машины человеческими чертами, и порой эти характеристики весьма точны, хотя мы употребляем их в переносном смысле. Однако новые типы «интеллектуальных» механизмов вполне самостоятельны: они сами делают выводы и принимают решения. Чтобы действовать, им уже не требуются санкции людей. Так наши метафоры обретают буквальный смысл, превращаясь в конкретные параметры.

Три моих первых примера взяты из реальной жизни. Системы предупреждения действительно кричат «Набрать высоту» (обычно женским голосом). Как минимум одна автомобильная компания уже заявила, что выпускает машину, оснащенную системой видеонаблюдения за водителем. Если он не следит за дорогой, а радиолокационное устройство сообщает о возможности столкновения, автомобиль подает сигнал тревоги – пусть не голосом (по крайней мере, пока), но гудками и вибрацией. Если водитель по-прежнему не реагирует, система включает тормоза и готовится к аварии. Что же касается посудомоечной машины, то она уже не раз будила меня среди ночи своими звонками.

Мы хорошо осведомлены об устройстве автоматизированных систем, но куда меньше знаем о том, как они взаимодействуют с людьми, хотя эта проблема изучается уже несколько десятков лет. Однако эти исследования касаются промышленности или армии, где люди постоянно работают с машинами. А как насчет простого человека, не имеющего специальной подготовки и пользующегося тем или иным прибором от случая к случаю? Об этом мы почти ничего не знаем, но именно такие ситуации заботят меня больше всего – когда обычные, неподготовленные люди, вроде нас с вами, пользуются бытовой техникой, аудио– и видеоаппаратурой, автомобилями.

Как простому человеку научиться обращаться с «умными» машинами нового поколения? Увы – постепенно, методом проб и ошибок, постоянно портя себе нервы. Конструкторы, похоже, убеждены в том, будто их создания столь умны и совершенны, что и учиться ничему не надо. Достаточно просто сказать им, что нужно сделать, и не мешать. Конечно, у приборов всегда есть инструкция, порой весьма объемная, но в ней ничего не объясняется, и к тому же она, как правило, очень невразумительная. В большинстве инструкций ничего не говорится о том, как работает сам механизм. Вместо этого приборам даются магические названия, броские, но лишенные смысла, скажем «Умный бытовой сенсор», как будто завлекательное название равносильно объяснению.

В научных кругах этот подход называют «автомагизационным» (автоматика плюс магия). Производители хотят, чтобы мы верили в магию и полагались на нее. И даже если прибор работает без сбоев, ты испытываешь некоторый дискомфорт, потому что не знаешь, как он действует и почему. Но реальные проблемы начинаются, если что-то идет не так: ведь мы просто не понимаем, что надо делать. Мы оказываемся наедине с ужасами промежуточного состояния. С одной стороны, мир научной фантастики, населенный умными, самостоятельными, идеально функционирующими роботами, еще не стал реальностью. С другой – мы все дальше уходим от мира ручного управления, где нет автоматизации, где люди сами приводят в действие устройство, которое выполняет их задание.

«Мы просто облегчаем вам жизнь, – внушают мне производители. – Мы делаем ее более безопасной, здоровой и приятной. Что в этом плохого?» Да, мы были бы счастливы, если бы эти «умные» приборы работали идеально. Будь они стопроцентно надежны, нам действительно незачем было бы знать, как они устроены, «автомагизация» нас вполне бы удовлетворила. Но, оказавшись в промежуточном мире автоматизированной техники, которую мы не понимаем, которая работает не так, как мы хотим, не выполняет порученное, мы явно не чувствуем, что наша жизнь стала легче и приятнее.

Краткое введение в психологию людей и машин

История «умных» машин начинается с попыток создания механических автоматов, в частности заводных устройств и шахматных машин. Из первых шахматных автоматов самым удачным был «Турок» Вольфганга фон Кемпелена, торжественно представленный европейским монархам в 1769 году. Впоследствии выяснилось, что это был обман – «автоматом» управлял спрятанный внутри опытный шахматист. Но сам факт удавшейся мистификации свидетельствует о том, что люди были готовы поверить в возможность создания разумных механизмов. Настоящий же бум в разработке «умных» машин начался в середине ХХ века, после появления теории управления, сервосистем, кибернетики, информатики и теории автоматизации. Одновременно шло ускоренное развитие электроники и компьютерной техники, чья мощность удваивалась примерно раз в два года. И сегодня, через сорок с лишним лет, эти системы в миллион раз мощнее первых гигантских «искусственных мозгов». А теперь подумайте, что случится через двадцать лет, когда машины будут в тысячу раз мощнее нынешних, или через сорок лет, когда их мощность возрастет в миллион раз.

Первые попытки создания искусственного интеллекта (ИИ) тоже относятся к середине прошлого века. При создании «умных» устройств ученые попытались руководствоваться не холодной, жесткой математической логикой, а пластичным мышлением, близким к человеческому, которое основано не на точных алгоритмах, а на здравом смысле, гибкой логике, вероятностях, качественных критериях и эмпирических правилах. В результате сегодняшние системы с искусственным интеллектом (СИИ) способны видеть и распознавать предметы, понимать устную и письменную речь, говорить, перемещаться в пространстве и решать сложные задачи.

Пожалуй, наиболее успешно в повседневной жизни ИИ применяется в компьютерных играх – для создания «мыслящих» персонажей, играющих против людей, этих сообразительных, но несносных героев, которые, словно нарочно, делают все, чтобы вывести из себя создателей-игроков. ИИ так же успешно применяется для борьбы с банковскими махинациями, мошенничеством с кредитными картами и другой подозрительной деятельностью. В автомобильном оборудовании ИИ применяется в системах торможения, обеспечения устойчивости, круиз-контроля, автоматической парковки и др. В быту простейшие системы, обладающие ИИ, управляют стиральными машинами: они определяют тип белья, степень его загрязнения и соответствующим образом корректируют настройки. СИИ в микроволновых печах распознают, готова ли пища. Простые устройства в цифровых фотоаппаратах и видеокамерах помогают контролировать фокус и экспозицию, умеют распознавать лица и следить за ними, чтобы даже в движении обеспечивать нужную резкость и четкость изображения. Со временем возможности и надежность СИИ будут увеличиваться, а стоимость – снижаться, их будут использовать в самой разной технике, а не только в дорогих моделях. Вспомним, что мощность компьютеров каждые двадцать лет повышается в тысячу раз, а каждые сорок лет – в миллион раз.

По своему устройству машины, конечно, сильно отличаются от живых существ. Ведь они в основном состоят из деталей с прямыми линиями, правильными углами или дугами, а в биологии царит гибкость: ткани, связки, мышцы. Мозг живого существа работает за счет мощных параллельных вычислительных механизмов, химических и электрических, и посредством перехода в устойчивые состояния. Мозг машины, точнее – ее система обработки информации, действует гораздо быстрее биологических нейронов, но параллелизма у ее систем гораздо меньше. Человеческий мозг крепок, надежен и креативен, он отлично распознает образы. Мы, люди, обладаем способностью к творчеству, воображением и отлично адаптируемся к меняющимся обстоятельствам. Мы выявляем сходство между событиями и с помощью метафорического расширения идей создаем новые области знаний. Более того, человеческая память, хоть она и ненадежна, умеет находить связи и сходство между предметами, которые машина попросту не сочтет похожими. Наконец, человек обладает мощным здравомыслием, а у машин здравый смысл вообще отсутствует.

Эволюция технологий сильно отличается от эволюции биологических видов. В том, что касается механических систем, она полностью зависит от конструктора, изучающего существующие устройства и вносящего в них изменения. Многовековая история развития машин отчасти обусловлена тем, что наши технические знания, способность к изобретательству и конструированию техники постоянно совершенствуются за счет развития науки, изменения потребностей человека и самой среды его обитания.

Однако между эволюцией человека и «умных» самостоятельных машин существует одна интересная параллель. И люди, и машины должны эффективно, надежно и безопасно функционировать в реальном мире. Таким образом, сам мир предъявляет одинаковые требования ко всем созданиям: животным, людям и механизмам. У животных и людей выработались сложные системы восприятия и поведения, эмоциональные и когнитивные. Машинам нужны аналогичные системы, чтобы постигать окружающий мир и действовать соответствующим образом. Им нужно думать и принимать решения, решать проблемы и делать выводы. А еще им требуется нечто вроде человеческих эмоций, конечно не точное подобие, но машинный аналог, чтобы противостоять внешним угрозам и опасностям, пользоваться предоставляющимися возможностями, предвидеть последствия своих действий, осмыслять то, что уже произошло, и думать о том, что может произойти, то есть извлекать уроки и совершенствоваться. Это относится ко всем автономным системам, наделенным интеллектом, – животным, людям и машинам.

Появление нового организма: гибрид машины и человека

Долгое время ученые полагали, что трехуровневое описание мозга во многих отношениях полезно, пусть даже оно резко упрощает его эволюцию, биологию и функционирование. Это описание основано на теории «триединого мозга», выдвинутой Полом Маклином. Уровни определяются переходом от нижних областей мозга (его стволовой части) к верхним (коре и лобной доле), что отражает как историю эволюции мозга, так и усложнение его функций по обработке информации. В книге «Эмоциональный дизайн» я еще больше упростил это определение, чтобы его могли использовать конструкторы и инженеры. Представим себе три уровня обработки информации в мозгу:

– инстинктивный (висцеральный): самый простой, на этом уровне обработка информации происходит автоматически, неосознанно и определяется нашими биологическими особенностями;

– поведенческий: это сфера приобретенных навыков, но процесс тоже в основном идет неосознанно. На этом уровне запускается и контролируется значительная часть наших действий. Одна из важных функций – управление ожиданиями результатов наших действий;

– рефлексивный: это «сознательная» часть мозга, в которой заложены наше «я» и наши представления о самих себе, здесь происходит анализ прошлого и рождаются образы будущего, которого мы ждем или боимся.

Рис. 2.1. Машина + водитель = новый гибридный организм. Скульптура Марты Тома

«Р-р-разбег». Фото автора. Боуден-парк, Пало-Альто (Калифорния)

Если бы мы сумели заложить в машины наши эмоциональные состояния, это было бы для них очень полезно. Так же, как для нас полезны некоторые свойства машин: быстрота реакции, позволяющая избежать опасностей и несчастных случаев, безопасность для окружающих, мощные способности к обучению, позволяющие улучшать результаты и повышать эффективность. Кое-что мы уже можем наблюдать. Закрывающиеся двери лифтов распахиваются, если на пути возникает препятствие (как правило, зазевавшийся человек). Пылесосы-роботы избегают крутых спусков: страх перед падением заложен в их программы. В данном случае речь идет об автоматической, «инстинктивной» реакции – о страхе, который в человеке заложен биологически, а в машине – ее создателем. Но на рефлексию и эмоции, основанные на собственном позитивном или негативном опыте, машины пока не способны. Когда-нибудь это случится, и тогда их прогностические способности и способности к обучению станут еще выше.

Будущее окружающих нас вещей принадлежит тем, которые наделены знаниями, интеллектом, понимают, где их место и кому они принадлежат, способны обмениваться информацией с другими объектами и окружающей средой. Будущее машин целиком и полностью связано с их мобильностью, способностью физически управлять средой, сознательно взаимодействовать с другими машинами и людьми.

Из технологий будущего наибольший интерес представляют те, что смогут установить с нами симбиотические отношения: «машина + человек». Можно ли назвать связку «автомобиль + водитель» симбиозом в том же смысле, что и связку «конь + всадник»? В конце концов взаимодействие автомобиля и водителя означает разделение уровней обработки информации: машина берет на себя «инстинктивную» часть, человек – «рефлексивную», а «поведенческая» часть у них общая, как у коня и всадника.

Подобно лошади, обладающей достаточным уровнем интеллекта, чтобы взять на себя «инстинктивные» аспекты движения (избегать опасных мест, корректировать скорость в соответствии с качеством дороги, обходить препятствия), современные автомобили могут чувствовать опасность, контролировать собственную устойчивость, тормоза, скорость. Лошади усваивают сложные поведенческие режимы, позволяющие двигаться по сильно пересеченной местности, перепрыгивать через препятствия, менять при необходимости аллюр и держать нужную дистанцию. Современный автомобиль тоже действует на поведенческом уровне: меняет скорость, держится в своей полосе, тормозит при возникновении опасности и контролирует другие аспекты движения.

Связку «конь + всадник» можно рассматривать как симбиотическую систему: конь обеспечивает инстинктивный уровень восприятия, а всадник – рефлексивный. При этом на поведенческом уровне они действуют совместно. То же самое можно сказать и о связке «автомобиль + водитель»: последний отвечает за рефлексивный уровень, а машина постепенно берет на себя инстинктивный. Кроме того, и на поведенческом уровне у них много общего. Отметим также, что и конь, и «умная» машина пытаются контролировать ситуацию на рефлексивном уровне.

Рис. 2.2. «Конь + всадник» и «автомобиль + водитель» как симбиотические системы
Рефлексия не всегда удел наездника или водителя. К примеру, лошадь может замедлить аллюр или решить вернуться домой. Либо, вместо того чтобы слушаться наездника, попытается его сбросить или просто будет игнорировать его команды. Нетрудно представить, что когда-нибудь машина сама будет выбирать маршрут или вдруг съедет на обочину, решив, что ей пора заправиться или водителю надо отдохнуть или перекусить. Не исключено также, что она может отреагировать на сообщения, поступающие от придорожных коммерческих заведений.

«Машина + водитель» – сложная система, наделенная чувствами и разумом. В начале ХХ века, когда автомобили только входили в нашу жизнь, водитель отвечал за все уровни обработки информации – инстинктивный, поведенческий и рефлексивный. Однако по мере развития техники в машину закладывалось все больше «инстинктивных» элементов: она брала на себя корректировку работы двигателя, впрыск топлива и управление. С появлением антиблокировочных тормозных устройств, систем обеспечения устойчивости, круиз-контроля, а теперь и системы предупреждения о выходе за пределы полосы движения автомобиль все больше отвечает за «поведенческие» аспекты вождения. Таким образом, современные машины действуют на «инстинктивном» уровне, водитель – на «рефлексивном», и оба они – на «поведенческом».

Автомобиль ХХI века становится все более «рефлексивным», в связке «машина + водитель» он постепенно берет на себя и те аспекты, которые связаны с осмыслением ситуации. Так, рефлексия несомненно присутствует в адаптивной системе круиз-контроля, постоянно оценивающей расстояние между автомобилем и другими машинами, в навигационной системе, следящей за тем, насколько точно водитель выполняет ее инструкции, и во всех прочих устройствах, наблюдающих за поведением водителя. Когда эти системы обнаруживают проблему, они либо подают человеку сигнал, чтобы он изменил свои действия, либо, по возможности, корректируют их сами. Но если машина решит, что это необходимо, она полностью возьмет управление на себя.

Придет время, когда водители машинам вообще будут не нужны. Люди превратятся в пассажиров, они смогут болтать, читать и даже дремать, пока автомобиль везет их к месту назначения. А если человеку нравится водить? Что ж, для таких любителей будут устроены специальные полигоны, где они смогут сесть за руль – подобно тому, как сегодня существуют особые места для верховой езды. Когда такие времена наступят – а это, как мне кажется, произойдет уже в ХХI веке, – система «автомобиль + водитель» уйдет в прошлое. Вместо нее, как и прежде, будут автомобили и будут люди, только автомобиль станет по-настоящему разумной, самостоятельной машиной, по крайней мере в том, что касается перевозки людей. И отвечать он будет не только за навигацию и управление, но и за комфорт и хорошее настроение пассажиров, обеспечивая нужное освещение и температуру, развлекая их, угощая едой и напитками.
Смогут ли пассажиры вести осмысленные разговоры со своими машинами? В прошлом склонность людей наделять неодушевленные предметы убеждениями, эмоциями и другими личностными качествами подвергалась критике как проявление антропоморфизма. По мере роста когнитивных и эмоциональных возможностей машин возникает ощущение, что мы не так уж не правы в своем антропоморфизме. Такой подход может оказаться абсолютно уместным.

Различия в целях, действиях и восприятии

Люди обладают множеством уникальных способностей, воспроизвести которые в машинах невозможно, по крайней мере сегодня. Автоматизируя и наделяя интеллектом технику, которой мы пользуемся, мы должны смиренно признать существование некоторых проблем и возможность будущих неудач. Необходимо также понимать, что в действиях людей и машин существуют гигантские различия.

Многие устройства, которыми мы пользуемся в повседневной жизни, снабжены «интеллектуальными системами». У нас есть «умные» стиральные и посудомоечные машины, роботы-пылесосы, автомобили, компьютеры, телефоны и компьютерные игры. Можно ли назвать эти системы подлинно разумными? Нет, они способны реагировать, но их разум заключен в головах у конструкторов, которые пытаются учесть все возможные ситуации и заложить в систему соответствующие действия. Иными словами, конструкторы пытаются прочесть наши мысли, оценить весь спектр возможных обстоятельств и то, как в этих обстоятельствах будет действовать человек. В целом создаваемые ими «реактивные» системы ценны и полезны, но они часто дают сбой.

Почему? Потому что эти системы, как правило, не могут напрямую оценить предмет нашего интереса: они способны лишь анализировать данные, полученные от сенсоров. Человек обладает развитой сенсорно-двигательной системой, позволяющей постоянно оценивать состояние окружающего мира и собственного организма. У нас есть сотни миллионов специализированных нервных клеток, реагирующих на свет и звук, прикосновение и вкус, равновесие и температуру, давление и боль, а также рецепторы, определяющие состояние мышц и положение тела. Кроме того, у нас выработались сложные представления об окружающем мире и наших действиях, а также определенные ожидания, основанные на длительном опыте взаимодействия с ним. У машин нет ничего, даже отдаленно напоминающего эти способности.

Их сенсоры не просто ограничены в своих возможностях – они реагируют не на то, на что реагируют наши органы чувств. Физическое ощущение и психологическое восприятие – вещи разные. Машины могут распознавать ультрафиолетовые и инфракрасные частоты, радиоволны, а мы – нет. Они способны слышать звуковые частоты, недоступные человеческому восприятию. И еще многое другое. Мы, люди, обладаем гибкими мышцами и ловкими пальцами. Машины уступают нам в гибкости, зато они гораздо сильнее.

Наконец, цели людей резко отличаются от целей машин. Более того, многие люди считают, что у машин вообще не может быть целей. Однако по мере совершенствования машины смогут все лучше оценивать ситуацию и действовать сообразно целям, которых они хотят достичь. Что же касается чувств и эмоций, которые играют главную роль в нашем мировосприятии и поведении, то машины ими не обладают. И даже если они когда-нибудь обзаведутся элементарными эмоциями, эти эмоции будут мало похожи на человеческие.

Общая основа: главное ограничение во взаимодействии людей и машин

Алан и Барбара изначально обладают некоторой совокупностью знаний, убеждений и предположений, которые, по их мнению, являются общими. Это я и называю их общей основой… Под общей основой они понимают то, что происходило в ходе бесед, в которых они оба участвовали, включая и нынешнюю. Чем больше времени Алан и Барбара проводят вместе, тем больше становится эта общая основа… Они уже не могут согласовывать свои действия, не обращаясь к ней.

Герберт Кларк, «Использование языка»

Для общения и переговоров требуется то, что лингвисты называют «общей основой»: единая понятийная база, на которой строится взаимодействие. В приведенной выше цитате из работы психолингвиста Герберта Кларка у выдуманной автором пары – Алана и Барбары – общая основа присутствует в любых совместных действиях. Когда взаимодействуют люди, принадлежащие к одной и той же культурной и социальной группе, общность взглядов и опыта обеспечивает быстроту и эффективность их взаимодействия. Вы когда-нибудь подслушивали чужие разговоры? Я часто это делаю, гуляя по паркам или бродя по гипермаркетам, – из чисто научного интереса, разумеется. При этом меня неизменно поражает бессодержательность этих разговоров, даже если люди что-то увлеченно обсуждают. Типичный отрывок из такого разговора может звучать так:

Алан: Знаешь? Барбара: Ага.

Вполне вероятно, что для Алана и Барбары этот обмен репликами вполне содержателен и исполнен глубокого смысла. Но нам с вами этого не понять, поскольку мы не знаем, что имеется в виду. Их общая основа для нас недоступна.

Отсутствие общей основы – главная причина нашей неспособности общаться с машинами. Ведь у людей и машин так мало общего. У человека с человеком и у машины с машиной все обстоит иначе, такие пары взаимодействуют эффективно. Люди могут делиться информацией друг с другом. Машины могут делиться информацией с машинами. А вот люди с машинами – нет.

Вероятно, вас удивит, что я говорю о наличии у машин общей основы, но это связано с тем, что инженеры-конструкторы прилагают большие усилия, чтобы их создания могли делиться базовой информацией, необходимой для эффективной совместной работы. Когда две машины начинают взаимодействовать, запускается стандартная процедура согласования общей информации, состояния и даже синтаксической структуры взаимодействия. На жаргоне специалистов по технике связи это называется «рукопожатие». Это представляется настолько важным, что инженерное сообщество создало разветвленную систему международных комиссий для выработки единых общемировых стандартов, гарантирующих идентичность допущений и базовых знаний у «общающихся» друг с другом машин. Стандарты согласовать непросто, поскольку для этого нужно провести сложные переговоры между компаниями-конкурентами, а также решить вопросы технического, юридического, политического характера. Однако игра стоит свеч, ведь результатом станут общий язык, протоколы и базовые знания, необходимые для создания общей основы и, соответственно, эффективного общения машин.

Хотите пример того, как две машины вырабатывают общую основу? Пожалуйста. Для нас, людей, рукопожатие – это процесс тихий и незаметный. Но когда мы пользуемся электронными приборами, связывающимися друг с другом, оно присутствует почти всегда. Так, телевизор «разговаривает» с кабельным блоком, а тот, в свою очередь, – с передатчиком; компьютер соединяется с веб-сайтами, когда вы включаете мобильный телефон, он ищет сеть. Впрочем, самый обыденный пример связан со странными звуками, которые издает факс. Набрав номер (заметим, что сигнал готовности к набору и гудки – это тоже разновидность рукопожатия), мы слышим серию скрипучих звуков, означающих, что ваш факс ведет переговоры с принимающим факсом о стандарте кода, скорости передачи и качестве изображения. Затем происходит собственно передача информации: первый факс транслирует сигналы, а второй подтверждает прием. Мы имеем дело с «урезанным» и механизированным вариантом взаимодействия между двумя людьми, которые впервые встретились и пытаются установить, есть ли у них общие знакомые и общие интересы.

Люди способны находить общую основу с другими людьми. Машины способны договариваться об общей основе с другими машинами. Но машины и люди живут в разных мирах: в первом взаимодействие определяется строгими логическими правилами, а во втором царят сложные ситуативные действия, когда одно и то же объективное условие может порождать разные поступки, поскольку «обстоятельства различны». Более того, это основополагающее несовпадение целей, представлений и действий означает, что машины и люди не способны договориться даже о базовых вещах – о том, что происходит в мире, что мы можем сделать, чего мы добиваемся. Отсутствие общей основы – это настоящая пропасть, разделяющая машины и людей.

Люди учатся на собственном опыте, корректируя свое поведение с учетом усвоенных уроков. Это значит, что со временем их общая основа расширяется. Более того, люди чувствительны к опыту совместных действий, поэтому даже в одинаковых обстоятельствах Алан будет взаимодействовать с Барбарой не так, как с Чарльзом: ведь он понимает, что с Барбарой у него одна общая основа, а с Чарльзом – другая. Алан, Чарльз и Барбара способны делиться новой информацией, учиться на личном опыте и, соответственно, менять свое поведение.

Машины учиться практически не способны. Да, они могут корректировать свои действия в зависимости от достигнутых результатов, но способность к обобщению у них либо отсутствует, либо, если речь идет о некоторых экспериментальных образцах, крайне слаба. Правда, благодаря ученым, возможности машин постоянно совершенствуются. Но пропасть между общим у людей и общим у человека и машины столь глубока, что в обозримом будущем вряд ли удастся ее преодолеть.

Вспомним три возможных сценария из начала главы. Насколько они реалистичны? Как машина сможет узнать, о чем думает человек? Как она узнает о том, что происходит вне зоны действия ее сенсоров? Как машинам накопить достаточно информации о людях, чтобы иметь право давать им самые дерзкие советы? Ответ прост: никак.

Мой холодильник не разрешает мне есть яйца? Но, может быть, я вообще не собирался их есть или хочу приготовить яичницу для другого человека. Да, холодильник может определить, что я вынимаю из него яйца, он может узнать мой вес и уровень холестерина с помощью информационной медицинской сети, в которую входят мой дом и фрагменты записей моего врача, но все это, увы, не дает ему возможности читать мои мысли и угадывать мои намерения.

Может ли машина свериться с моим расписанием и выбрать для меня интересный маршрут? Что ж, в этом сценарии нет ничего невозможного, кроме разве что непринужденного обмена репликами, но уже сегодня говорящие системы отличаются неплохим качеством, так что и это не исключено. Согласился бы я с выбором машины? Если бы она действовала как сказано, вопрос не имел бы смысла: мне предлагается нечто интересное (до чего я сам мог бы и не додуматься), но выбор остается за мной. Это пример дружеского, полезного взаимодействия, которое можно только приветствовать.

А может ли мой дом позавидовать соседям? Вряд ли, хотя сравнение собственного оборудования и возможностей с возможностями соседних домов – очень разумный способ идти в ногу с временем. В бизнесе это называется «эталонным анализом» и «внедрением передового опыта». Так что и этот сценарий вполне возможен, хотя дому вовсе не обязательно быть таким развязным.

Способности машин к обучению и прогнозированию последствий потенциального взаимодействия крайне ограниченны. Конструкторы закладывают в них набор сенсоров, соответствующий уровню финансирования и развития технологий. В остальном они вынуждены полагаться на собственное воображение, пытаясь угадать, каким может представляться машине окружающий мир. Их задача – сделать так, чтобы машина, основываясь на ограниченных данных, поступающих от сенсоров, могла понять, что происходит и что ей следует предпринять. Если задача сформулирована достаточно четко и не возникает непредвиденных ситуаций, такие системы работают отлично. Но как только ситуация выходит за рамки элементарных параметров, «простые» сенсоры и «интеллектуальные» процедуры принятия решений, заложенные в конструкцию, становятся неэффективными. Пропасть, разделяющая людей и машины, поистине бездонна.
Повторюсь: главным препятствием на пути успешного взаимодействия людей и машин является отсутствие общей основы, но наиболее пригодными оказываются «чувствительные» системы, те, что предлагают, а не требуют, те, что позволяют людям сделать осознанный выбор, а не противопоставляют им собственные невнятные действия. Отсутствие общей основы мешает нам общаться с машинами, но если четко определить степень ответственности и общие интересы участников (может быть, через поведенческие паттерны и естественные реакции, которые без труда интерпретируются как машинами, так и людьми), то почему бы не попробовать? Я обеими руками «за». И именно это станет темой следующей главы.

Глава 3. Естественное взаимодействие

Рис. 3.1. Чайник со свистком – простейшее устройство, заставляющее нас выполнять его приказы. Услышал мой свисток? Иди и займись мною!

Свисток сигнализирует. Люди общаются друг с другом. Разница огромна. Конструкторы могут думать, что их изделия способны к общению, но в действительности они лишь подают сигналы, ведь коммуникация здесь односторонняя. Мы должны научиться координировать наши действия и сотрудничать с самостоятельными машинами, чтобы решать задачи легко и к всеобщему удовольствию.

Естественное взаимодействие: уроки, которые следует усвоить

Почти все современные механические устройства способны подавать световые и звуковые сигналы, оповещающие нас о грядущем событии или предупреждающие об опасности. Но у нас, как правило, не одно, а несколько таких устройств, каждое из которых оснащено разнообразными сигнальными системами. В современном доме или автомобиле их могут быть десятки, а то и сотни, а на промышленных предприятиях и в медицинских учреждениях количество таких устройств увеличивается многократно. Если так будет продолжаться и дальше, в наших домах будет стоять непрерывный вой от звуковых сигналов. И хотя каждый из них несет какую-то полезную информацию, эта какофония отвлекает и раздражает человека, а значит, несет в себе потенциальную опасность. Даже в доме, где особых опасностей ожидать не приходится, сигналы нескольких включенных приборов легко перепутать:

...

– Это стиральная машина сейчас пищала? – спрашивает жена.

– А я думал – посудомоечная, – отвечаю я, бросаясь из кухни в ванную в попытке определить, откуда исходит звук.

– А, это таймер в микроволновке. Я его включила, чтобы не забыть, что мне нужно позвонить по телефону.

Техника будущего, если в ней будут применяться те же методы звукового оповещения, что и сегодня, обещает ввергнуть нас в еще большее смятение и фрустрацию. Однако существует такой прекрасный способ, как система естественного взаимодействия, она более эффективна и меньше действует на нервы. Ведь в природной среде мы неплохо справляемся с распознаванием знаков и сигналов, исходящих от окружающего мира и его обитателей. Благодаря гармоничному сочетанию зрения и слуха, обоняния и осязания наша система восприятия дает нам объемную картину окружающего мира. Наша проприоцептивная система воспринимает информацию от костных полукружных каналов костного лабиринта внутреннего уха, а также от рецепторов мускулов, суставов, связок и сухожилий, благодаря чему мы ощущаем положение своего тела и ориентируемся в пространстве. Мы быстро идентифицируем события и объекты при минимальном наборе раздражителей – что-то промелькнет или раздастся какой-то звук. Кроме того, и это очень важно для нашей темы, природные сигналы дают нам нужную информацию не раздражая, мы естественным, непринужденным образом узнаем о том, что происходит вокруг.

Возьмем, к примеру, природные звуки. Не гудки и звонки механизмов и даже не человеческую речь, а звуки окружающего мира. В них заключена богатая картина происходящего вокруг нас, поскольку любое перемещение объектов в пространстве, когда они соприкасаются, задевают друг друга, сталкиваются, сопротивляются, сопровождается звуками. Звуки сообщают нам не только о том, где именно находятся объекты, но и о том, каковы они (листья, ветки, металл, дерево, стекло) и что с ними происходит (падают, скользят, ломаются, закрываются). Даже неподвижные объекты помогают воспринимать мир на слух: они отражают и преломляют звуки, давая нам возможность ориентироваться в пространстве и определять собственное местоположение. Все это происходит автоматически и так естественно, что зачастую мы даже не понимаем, как зависим от звуков, помогающих нам чувствовать окружающий мир и понимать, что в нем происходит.

Из опыта естественного взаимодействия с природной средой можно извлечь важные уроки. Хотя сигнальные системы в виде незамысловатых звуков, белых или разноцветных мигающих лампочек с конструктивной точки зрения самые простые, они наименее естественны, крайне неинформативны и больше всего раздражают. При создании бытовых устройств будущего стоило бы использовать более разнообразные, дающие больше информации и не вызывающие дискомфорта сигналы – естественные. Богатые и сложные, они позволят людям понять, откуда исходит звук – спереди или сзади, сверху или снизу, из чего сделан и как выглядит объект, когда произойдет ожидаемое событие – вот-вот или не скоро, важно оно или нет. Естественные сигналы не только меньше раздражают – они могут нести куда больше информации, попутно сообщая нам, пусть даже на подсознательном уровне, о том, что происходит в данный момент. К тому же их легче распознать и нам не надо будет метаться в попытках найти источник сигнала. Естественность при полном понимании происходящего. Природный мир звука и цвета обеспечивает гармоничное взаимодействие. Вам нужен пример? Вспомните чайник со свистком.

Звук кипящей воды – естественный, понятный и полезный

Звук закипающей в чайнике воды – наглядный пример естественного информативного сигнала. Он возникает от движения пузырьков в нагреваемой воде и естественным образом меняется, превращаясь в конце концов в быстрое громкое бульканье, и тут чайник начинает издавать непрерывный приятный гул. Этот процесс позволяет человеку примерно определить, скоро ли закипит вода. А теперь установите на чайник свисток, сигнализирующий о том, что вода закипает. Но это не должен быть искусственный электронный звук, просто выход воздуха из носика надо перекрыть, оставив лишь узкое отверстие. Результатом станет естественный свистящий звук – поначалу слабый и прерывистый, а затем громкий и постоянный. Нужны ли какие-то особые знания, чтобы спрогнозировать на каждом этапе процесса, сколько времени осталось для его окончания? Да, нужны, но эти знания приобретаются без каких-либо усилий. Вы получите их, несколько раз послушав, как закипает вода. Здесь не нужна сложная и дорогая электроника. Все сводится к простому природному звуку. Пусть это станет образцом для конструирования других систем: нужно всегда стараться найти какой-нибудь естественный элемент, который способен стать информационным «ключиком» к пониманию происходящего, будь то вибрация, звук или изменение интенсивности света.

Салон автомобиля хорошо защищен от вибрации и внешних звуков. И хотя пассажирам это, несомненно, удобно, водителю такая изоляция только вредит. Поэтому конструкторы прилагают немало усилий, чтобы с помощью разнообразных звуков и вибрации руля вернуть ему «чувство дороги». Если вам приходилось пользоваться электродрелью, вы знаете, как важны звук ее мотора и вибрация, передающаяся через рукоятку, чтобы точно высверлить отверстие. А многие повара предпочитают газовые плиты, потому что им легче определить температуру по виду пламени, чем с помощью абстрактных дисплеев и индикаторов, которыми снабжены современные электроплиты.

Все приведенные мною примеры естественных сигналов относятся к существующим бытовым приборам и устройствам – но как насчет будущего мира вещей, где воцарится самостоятельный искусственный интеллект? Вообще-то здесь у полностью автоматизированных «умных» устройств большой потенциал. Звуки, которые будет издавать миниатюрный робот-уборщик, передвигаясь по полу, напомнят нам о том, что он начал работать, и позволят ненавязчиво следить за ним. Подобно тому как гул мотора пылесоса усиливается, если что-то попало в шланг, звук мотора робота-уборщика подскажет, как идут его дела. Проблемы с автоматами возникают, когда в них что-то ломается и их задачи, зачастую неожиданно, ложатся на плечи людей. Что ж, при наличии постоянной обратной связи естественного происхождения, мы хотя бы будем предупреждены.

Косвенные сигналы и коммуникация

Всякий раз, входя в научную лабораторию, я смотрю, как она выглядит. Если все аккуратно разложено по местам, у меня возникает подозрение, что в этой лаборатории не слишком много работают. Мне нравится беспорядок, он означает, что сотрудники – занятые и увлеченные люди. Беспорядок – это признак интенсивного труда, имеющий естественное происхождение.

Мы всегда оставляем следы наших действий: отпечатки ног на песке, мусор в ведре, книги на столах, тумбочках и даже на полу. В семиотике это называют «знаками» или «сигналами». А любителю детективов такие следы известны как «улики», и с тех пор как в детективной литературе появился зоркий глаз Шерлока Холмса, они свидетельствуют о тех или иных действиях людей. Эти случайно оставленные «улики» итальянский психолог, специалист по теории познания Кристиано Кастельфранки называет «имплицитной коммуникацией». Ее поведенческие проявления Кастельфранки определяет как естественные побочные эффекты, которые поддаются истолкованию. Для этого «не требуются специальные знания или навыки либо передача таких знаний и навыков, – отмечает он. – Речь идет о перцептивных моделях обыденного поведения и их распознавании». Имплицитная коммуникация – один из важных элементов конструирования «умных» машин, поскольку речь идет о непрерывной передаче информации, не вызывающей раздражения и даже не требующей полного внимания.

Следы, беспорядок в лаборатории, подчеркивания в тексте, стикеры на полях книжных страниц, звуки, издаваемые лифтом или бытовыми приборами, – это косвенные сигналы естественного происхождения, позволяющие нам понять, что происходит вокруг, пришло ли время вмешаться и начать действовать или можно спокойно игнорировать происходящее и продолжать заниматься своим делом.

В этой связи можно привести хороший пример, связанный со старой телефонной связью. В прежние времена, звоня в другую страну, вы слышали щелчки, шипение и шумы, позволявшие понять, что вас соединяют. По этим звукам можно было даже определить, на какой стадии находится процесс. Затем, по мере совершенствования оборудования и технологий, телефонные линии становились все «тише», пока не стали совсем бесшумными. Но вместе с шумом ушли в прошлое и косвенные «сигналы». Люди, ожидавшие соединения, слышали лишь тишину и порой, сочтя, что связи нет, вешали трубку. В результате возникла необходимость вернуть звуки в телефонные сети, чтобы люди знали, что их звонок обрабатывается. Инженеры, воспринимающие нужды потребителей с изрядной долей высокомерия, назвали это «успокаивающим шумом». Но такие знаки не просто «успокаивают». Это и есть «имплицитная коммуникация», подтверждающая, что звонок принят и система устанавливает соединение. Косвенное подтверждение действительно успокаивает и обнадеживает.

Звук – это важное информативное средство обратной связи, но у него есть и обратная сторона. Звуки часто нам докучают. Если мы не хотим чего-то видеть, можно просто закрыть глаза, но у ушей нет век. Психологи даже составили «шкалу раздражения» для различных шумов и других звуков. Нежелательный звук может прервать беседу, помешать сосредоточиться, вывести из равновесия. Поэтому немало усилий тратится на то, чтобы сделать оборудование в офисах, на производстве и в домах менее шумным. В частности, автомобили стали такими «тихими», что еще много лет назад фирма «Роллс-Ройс» хвастливо заявляла: «На скорости 60 миль в час самый громкий звук, который издает наша новая модель, – это тиканье электронных часов».

Тишина – это прекрасно, но в ней таятся свои опасности. При полной звукоизоляции машины шофер не слышит сирен автомобилей чрезвычайных служб, гудков других водителей, даже не замечает признаков изменения погоды. Если дорожное покрытие ощущается как гладкое, независимо от его реального состояния и скорости, как водителю понять, что он едет слишком быстро? Звуки и вибрация – это естественные индикаторы, косвенные сигналы важных ситуаций. В электромобилях двигатель настолько бесшумен, что даже водитель не слышит, как он работает. Пешеходов, подсознательно полагающихся на звук, который предупредит их о приближении машины, электромобили (и другие бесшумные транспортные средства, например велосипеды) не раз заставали врасплох. Вот почему пришлось оснастить электромобиль сигналом, напоминающим водителю, что мотор работает (увы, один из производителей выбрал для этого самый неестественный из звуков – гудок). Еще более важная задача состоит в том, чтобы шум приближающейся машины могли слышать окружающие. Американская Национальная федерация слепых – организация, члены которой особенно страдают от бесшумности современных транспортных средств, – предлагает снабдить автомобили специальной «жужжалкой», срабатывающей в начале движения. При удачном воплощении она могла бы стать естественным сигналом, меняющимся в зависимости от скорости автомобиля, что было бы еще полезнее.

Поскольку звук может быть и информативным, и раздражающим, перед проектировщиками встает трудная задача: как усилить его полезные свойства, минимизировав при этом раздражающий эффект. Порой этого можно добиться, если приглушить неприятные звуки, снизить их интенсивность, свести к минимуму изменение частот и попытаться создать приятную акустическую среду. Небольшие изменения акустического фона могут стать эффективным средством коммуникации. Так, дизайнер Ричард Сэппер создал чайник, свисток которого звучит мелодично, переходя от ноты «ми» к ноте «си». Отметим, что даже неприятные звуки приносят пользу: сирены пожарных машин и машин «скорой помощи», пожарная тревога и иные предупреждения об опасности специально делаются громкими и резкими, чтобы привлечь максимальное внимание.

Звук хорош там, где он является естественным сопровождением взаимодействия, случайные, бессмысленные звуки почти всегда раздражают. Поскольку звуки, даже при умелом использовании, могут быть очень неприятными, в некоторых случаях их следует просто исключить. В конце концов существуют и другие формы сигналов – световые или осязательные.

Механические регулирующие устройства порой снабжены тактильными сигналами предпочтительных вариантов настройки (своего рода «имплицитная коммуникация»). К примеру, вращая регулятор тембра, вы ощущаете легкое сопротивление, когда переводите его из рекомендуемого положения в другой режим. Смеситель может отказаться устанавливать температуру выше той, на которую он настроен: чтобы сделать воду теплее, надо нажать специальную кнопку. Сигнал регулятора тембра позволяет быстро и эффективно вернуть его в прежнее положение, а блокировка смесителя предупреждает о том, что слишком высокая температура может доставить вам неприятные ощущения, а для некоторых людей просто опасна. Аналогичные ограничители порой устанавливаются на дроссельных заслонках самолетов: если вы сдвигаете рычаг вперед, он останавливается в тот момент, когда слишком сильная подача топлива может повредить двигатели. Однако в чрезвычайных ситуациях, если пилот считает, что во избежание катастрофы необходимо проигнорировать это ограничение, он может преодолеть сопротивление рычага – ведь в этом случае повреждение двигателя не самое страшное, что может случиться.

Другое возможное направление работ – это знаки в буквальном смысле слова. Читая книги и журналы, мы зачастую оставляем на них «метки» – потрепанные страницы, загнутые уголки, стикеры, подчеркивания, пометки на полях. Почему бы не сделать то же самое в электронных документах? В конце концов компьютер запоминает, какие тексты вы читали, какие страницы просматривали, а какие пропускали, на каких абзацах вы останавливались. Почему бы не ввести в его программу «следы износа», чтобы пользователь мог понять, какие фрагменты редактировались, комментировались, больше всего читались? Именно этим занимаются ученые Уилл Хилл, Джим Холлан, Дэйв Вроблевски и Тим МакКэндлесс – они снабжают электронные документы маркерами, показывающими, какие разделы пользуются наибольшей популярностью у читателей. Загрязнение и износ свидетельствуют о востребованности, актуальности и важности текстов. Электронные версии могут позаимствовать эти полезные признаки, но без таких отрицательных побочных эффектов, как грязь, засаленность и повреждения бумаги. Косвенное взаимодействие – интересная основа для разработки систем с искусственным интеллектом. Не нужно слов, не нужно принуждения, на рекомендуемые действия указывают простые и понятные обеим сторонам «знаки».

Имплицитная коммуникация может стать мощным инструментом ненавязчивой передачи информации. Другое важное направление – использование возможностей аффордансов, о котором мы поговорим в следующем разделе.

Аффордансы как средство коммуникации

Все началось с электронного письма, в котором преподаватель информатики из Рио-де-Жанейро Кларисса де Соуза выразила несогласие с моим определением аффорданса. «На самом деле аффорданс – это общение между дизайнером и потребителем», – писала она. «Нет, аффорданс – одна из форм взаимоотношений, существующих на свете. Она просто есть и к общению никакого отношения не имеет», – возражал я.

Я ошибался. Кларисса оказалась права. Когда я приехал в Бразилию и провел там прекрасную неделю, ей удалось меня переубедить. Затем она развила свои идеи в очень важном труде «Семиотическая инженерия». Одним словом, я стал сторонником ее концепции и написал на книгу следующий отзыв: «Если представить себе дизайн как общение, а технологии как средство такого общения, вся философия дизайна резко меняется, но в позитивном и конструктивном духе».

Чтобы понять суть нашей дискуссии, позвольте мне остановиться и рассказать о первоначальной концепции аффорданса, а также о том, как это понятие вошло в дизайнерский лексикон. Начнем с простого вопроса: как мы действуем в этом мире? В процессе работы над «Дизайном привычных вещей» я размышлял над ответом. Когда мы сталкиваемся с новыми вещами, то в большинстве случаев начинаем ими пользоваться, даже не замечая, что приобрели уникальный опыт. Как это у нас получается? В жизни нам встречаются сотни тысяч разнообразных предметов, и, как правило, мы знаем, что с ними делать – не задумываясь и не пользуясь никакими инструкциями. Если у нас возникает какая-то потребность, мы зачастую изобретаем оригинальные, или, как их еще называют, «импровизированные», способы ее удовлетворения – подкладываем сложенную бумажку под ножку стола, чтобы он не шатался, завешиваем окно газетами, чтобы защититься от яркого света. Много лет назад, размышляя над этим вопросом, я понял, что ответ связан с одной из форм имплицитной коммуникации, которую мы сегодня называем аффордансом.

Само понятие «аффорданс» ввел в оборот великий психолог Дж. Дж. Гибсон. С его помощью он объяснял, как мы воспринимаем окружающий мир. Гибсон определял аффордансы как возможности активного действия, которые предоставляют индивиду или животному внешние объекты или среда. Так, стул «предлагает» взрослому человеку сесть и облокотиться на спинку, но маленькому ребенку, или муравью, или слону это предложение не подходит. Аффордансы – это не фиксированные свойства объекта, а отношения между объектами и субъектами. Более того, по Гибсону, аффордансы существуют независимо от того, очевидны они или нет, замечаем мы их или не замечаем, и даже независимо от того, знает ли кто-нибудь вообще об их существовании. Наше знание или незнание здесь ни при чем.

Я позаимствовал у Гибсона это понятие и попытался продемонстрировать, как его можно использовать для решения практических проблем дизайна. Хотя Гибсон считал, что аффордансы не обязательно должны быть зримыми, для меня важнейшим их свойством является именно зримость. Я считаю, что, если вы не подозреваете о существовании аффорданса, он становится бесполезным, по крайней мере в данный момент. Иными словами, именно способность человека распознавать и использовать аффордансы позволяет ему эффективно действовать даже в новых для него ситуациях, когда он имеет дело с неизвестными предметами.

Обеспечение эффективных, понятных аффордансов очень важно в дизайне повседневных вещей, будь то кофейные чашки, тостеры или интернет-сайты, но еще большее значение оно имеет для дизайна будущих вещей. Когда речь идет об автоматических, самоуправляемых, «умных» устройствах, нам необходимы внятные аффордансы, которые позволят понять, как с ними взаимодействовать и, что не менее важно, как они сами взаимодействуют с миром. Нам нужны аффордансы, обеспечивающие коммуникацию, поэтому наша дискуссия с Клариссой де Соуза и ее семиотический подход к этому понятию были так важны для меня.

Сила зримых, распознаваемых аффордансов состоит в том, что они определяют поведение людей, причем в лучшем варианте человек даже не подозревает, что его как-то направляют, это сопровождение воспринимается как нечто совершенно естественное. Именно так мы можем успешно взаимодействовать с большинством окружающих нас объектов. Они пассивны и восприимчивы, просто затаились и ждут наших действий. Если речь идет о бытовых приборах, например о телевизоре, мы нажимаем на кнопку пульта, и он переключает каналы. Мы ходим, поворачиваем, толкаем, нажимаем, поднимаем, тянем – и что-то происходит. Задача дизайна – дать нам понять, каков возможный набор действий, какое из них предпринять и как это сделать. Когда мы что-то делаем, мы хотим иметь представление о ходе процесса, а по его завершении понимать, что изменилось.

Таково в общих чертах описание дизайна объектов, с которыми мы сегодня взаимодействуем, – от бытовых приборов до офисного оборудования, от компьютеров до старых автомобилей, от интернет-сайтов и приложений до сложных механических устройств. Задачи, стоящие перед дизайнером, сложны, и их решение отнюдь не всегда бывает успешным, вот почему многие бытовые устройства вызывают у нас раздражение.

Коммуникация с автономными «умными» устройствами

С объектами будущего могут возникнуть проблемы, которые невозможно решить с помощью простой визуализации аффордансов. Самостоятельные, «умные» машины ставят перед нами особые задачи, в том числе и потому, что коммуникация здесь должна быть двусторонней. Как нам обеспечить обоюдное общение человека и машины? Чтобы ответить на этот вопрос, рассмотрим разные случаи взаимодействия человека с машиной (автомобилем, велосипедом, даже с лошадью) и постараемся выяснить, как одна пара «человек + машина» коммуницирует с другой парой «человек + машина».

В главе 1 я говорил о том, что моя идея симбиоза лошади и всадника стала предметом активного изучения специалистами НАСА и немецкого Института транспортной системной техники в Брауншвейге. Они, как и я, ставят своей целью совершенствование человекомашинного взаимодействия.

Побывав в Брауншвейге, я не только познакомился с научными исследованиями, но и узнал кое-что новое об управлении лошадью. Как объяснил мне глава немецкой группы ученых Франк Флемиш, один из важнейших аспектов верховой езды и управления повозкой на конной тяге – это различие между отпущенными и натянутыми поводьями. Когда поводья натянуты, человек напрямую контролирует лошадь, сообщая ей о своих намерениях. При отпущенных поводьях лошади предоставляется больше самостоятельности, что позволяет человеку заниматься своими делами и даже дремать. Отпущенные и натянутые поводья – это два крайних состояния в управлении лошадью, но существует еще целый ряд промежуточных стадий. Более того, даже при натянутых поводьях, то есть при прямом контроле со стороны человека, лошадь может упираться и иным образом сопротивляться его приказам. Точно так же, как при отпущенных поводьях человек в состоянии руководить лошадью, подергивая их, подавая голосовые команды, надавливая на бока бедрами и лодыжками или слегка пришпоривая ее.

Более близкий аналог взаимодействия водителя и автомобиля – это пара «лошадь + кучер» (рис. 3.2). Кучер связан с лошадью не так тесно, как наездник, сидящий на ней верхом, именно потому они больше напоминают пару «среднестатистический водитель-непрофессионал + автомобиль». В обоих случаях связь внутри пар имеет пределы, однако и здесь сохраняется возможность контроля при помощи натянутых и отпущенных поводьев. Отметим, что степень самостоятельности животного и контроля со стороны человека определяется через имплицитную коммуникацию, причем аффордансом здесь являются вожжи. Сочетание имплицитной коммуникации с аффордансами – убедительная и весьма практичная концепция. Этот аспект взаимодействия человека с лошадью может быть очень важным элементом в системах «человек + машина». Их можно проектировать так, чтобы взаимодействие и объем самостоятельности варьировались естественным образом, на основе имеющихся аффордансов и коммуникационных возможностей, которые они предоставляют.

Рис. 3.2. Управление повозкой на конной тяге при отпущенных вожжах.

Если умное животное – лошадь – обеспечивает тягловую силу и держит направление, кучер может расслабиться и особо не управлять ею. Это пример контроля при отпущенных поводьях, когда лошадь действует вполне самостоятельно (снимок сделан автором в Брюгге, Бельгия)

Когда в Брауншвейге я управлял автосимулятором, разница между «отпущенными и натянутыми поводьями» была очевидна. При «натянутых поводьях» основной объем работы проделывал я – выбирал скорость, тормозил, крутил рулем. Однако машина ненавязчиво направляла меня, чтобы я не выезжал за пределы своей полосы. Если я приближался к впереди идущему автомобилю на опасное расстояние, руль слегка отодвигался назад, напоминая, что надо увеличить дистанцию. А если я слишком отставал, рулевая колонка сдвигалась вперед, призывая немного увеличить скорость. При «отпущенных поводьях» машина действовала энергичнее – настолько, что мне практически не приходилось брать дело в свои руки. Создавалось впечатление, что я могу закрыть глаза и полностью довериться автомобилю. К сожалению, время моего визита было ограничено, и я не опробовал всего, что, как я теперь понимаю, следовало бы опробовать. В частности, я так и не выяснил, каким образом водитель может выбирать уровень контроля. А ведь изменения здесь крайне важны, поскольку в чрезвычайной ситуации у человека может возникнуть необходимость быстро вернуть контроль себе, не отвлекаясь от происходящего.

Концептуализация связки «наездник + лошадь» – важное метафорическое средство, помогающее создавать интерфейсы «человек + машина», но его одного явно недостаточно. Нам необходимо больше знаний о подобных интерфейсах, и тот факт, что исследования в этой области уже ведутся, что ученые ищут пути наиболее эффективной передачи намерений человека системе (и наоборот), не может не обнадеживать.

Один из способов, позволяющих системе сообщить о своих целях и намерениях человеку – внятное предъявление избранной стратегии. Группа исследователей во главе с Кристофером Миллером предлагает, чтобы система делилась возможными сценариями («PlayBook») со всеми участниками. Ученые говорят, что в основе их разработок лежит «совместная используемая модель задач в соответствующей области. Эта модель обеспечивает коммуникацию между человеком и автоматом по поводу планов, целей, методов и использования ресурсов – дает что-то вроде установки на игру для спортивной команды. «PlayBook» позволяет оператору взаимодействовать с подчиненными ему системами так же гибко, как и с хорошо обученными подчиненными-людьми, обеспечивая тем самым адаптивную автоматизацию». Идея заключается в том, чтобы человек имел возможность сообщать системе о своих намерениях, выбрав один из конкретных «сценариев», которому она должна следовать, а если управление отдано системе, она должна предъявлять «сценарий», который сама избрала. Эта группа ученых занимается проблемой управления самолетами, поэтому в PlayBook может быть указано, как будет контролироваться взлет и набор высоты. Если система работает самостоятельно, полностью контролируя происходящее, она всегда показывает план, в соответствии с которым намерена действовать, чтобы человек понимал, как ее ближайшие действия вписываются в общую схему, и при необходимости мог изменить план действий. Важнейший элемент здесь – форма презентации. Письменное описание или список планируемых действий вряд ли приемлемы – для обработки информации, поданной в таком виде, требуется слишком много усилий. Чтобы система была эффективна, особенно для обычных людей, которые не захотят проходить специальную подготовку по обращению с «умными» машинами в собственном доме, важно, чтобы ее элементы подавались в простой и доступной форме.

Практическое воплощение подобных концепций я наблюдал на дисплеях больших коммерческих копировальных машин, когда на экран выводится соответствующий «сценарий»: например, пятьдесят копий в дуплексном режиме, на обеих сторонах страницы, отсортированные и сброшюрованные. Мне приходилось видеть прекрасные графические описания процесса. Изображение листа бумаги переворачивается, показывая, что копирование идет с обеих сторон, затем мы видим, как отпечатанный лист ложится на другие, и становится ясно, правильно ли сортируются копии (показано, как укладываются листы – вдоль или поперек). Наконец, на дисплее появляется стопка готовых документов, уже прошитых скрепками, – по ее высоте можно судить, скоро ли закончится копирование.
Когда автоматические устройства работают относительно самостоятельно, в режиме «отпущенных поводьев», отображение операций на дисплее особенно важно, ведь оно позволяет понять, какой стратегии придерживается машина и насколько она продвинулась в выполнении задания.

Делфтские велосипеды

Делфт – очаровательный голландский городок на побережье Атлантики, там находится Делфтский технический университет. Улицы там узкие, а деловой квартал окружен большими каналами. Пешая прогулка от гостиницы до университета – настоящее удовольствие: идешь вдоль каналов, пересекаешь их по мостам, петляешь по узким кривым улочкам. Здесь вам угрожают не автомобили, а велосипедисты, которых в городе великое множество. Они носятся на огромной скорости во всех направлениях, внезапно появляясь перед вами, словно из-под земли, по крайней мере меня они заставали врасплох. В Голландии велосипедисты не ездят по проезжей части или тротуарам, для них существуют отдельные дорожки. Но на главной площади Делфта все обстоит по-другому – там велосипедисты смешиваются с пешеходами.

«Это абсолютно безопасно, – уверяли меня представители принимающей стороны, – только не надо „помогать“ велосипедистам. Не пытайтесь от них увернуться. Не останавливайтесь, не шарахайтесь в сторону. Ведите себя предсказуемо». Иными словами, не надо замедлять ход и менять направление. Велосипедисты тщательно просчитывают траекторию движения, чтобы не столкнуться друг с другом и с пешеходами, и это работает, если не происходит ничего неожиданного. Но когда пешеход пытается уклониться от едущего навстречу велосипеда, дело кончается плохо.

Рис. 3.3. В Голландии очень многие пользуются велосипедами: это, конечно, очень экологично, но чревато некоторым риском для пешеходов, пытающихся перейти площадь. Основное правило в таких ситуациях: действуйте предсказуемо, не пытайтесь облегчить жизнь велосипедистам. Если вы остановитесь или шарахнетесь в сторону, столкновения не избежать (фото автора)

Велосипедное движение в Делфте – пример того, как мы могли бы взаимодействовать с «умными» машинами. В конце концов в данном случае человек (пешеход) действительно взаимодействует с «умной» машиной – велосипедом, то есть с парой «велосипед + человек», где последний обеспечивает и разум, и движущую силу. Таким образом, и пешеход, и пара «велосипед + человек» обладают всей мощью человеческого разума, но тем не менее они не в состоянии координировать свои действия. У пары «велосипед + человек» есть разум, но нет возможностей для коммуникации. Велосипедов много, и движутся они быстрее, чем пешеходы. Пообщаться с велосипедистом невозможно, когда он оказывается на расстоянии достаточно близком, чтобы его окликнуть, разговаривать уже поздно. В отсутствие возможностей для контакта единственный способ взаимодействия – это предсказуемое поведение пешехода. Координации в этом случае не требуется, здесь планирует и действует только пара «велосипед + человек».

Приведенный мною пример очень полезен для дизайна. Если человек не может согласовать свои действия с «умной» машиной, управляемой другим человеком (пара «велосипед + человек»), можно ли надеяться, что ему будет легче координировать их с «умной» машиной, работающей без участия человека? Мораль: не стоит даже и пытаться. «Умные» машины будущего не должны пытаться читать мысли людей, с которыми они взаимодействуют, угадывать их мотивы и прогнозировать их действия. Причин, по которым этого не стоит делать, две: во-первых, машина может ошибиться и, во-вторых, такое гадание делает ее действия непредсказуемыми. Когда человек пытается предугадать, что собирается делать машина, в то время как она сама пытается понять, что собирается делать человек, ни к чему, кроме неразберихи, это привести не может. Вспомним делфтские велосипеды, которые наглядно иллюстрируют главное правило дизайна – будь предсказуемым.

Но тут возникает другая дилемма: кто должен действовать предсказуемо – человек или «умная» машина? Если бы они оба обладали одинаковыми способностями и уровнем интеллекта, это не имело бы значения. Именно так обстоит дело с велосипедами и пешеходами. Разумом в обоих случаях наделен человек, а значит, не важно, кто должен действовать предсказуемо – велосипедист или пешеход. Если они договорятся о том, кто какую роль играет, все будет хорошо. Однако в большинстве случаев эти два компонента не равны. Разум и общие познания людей намного превосходят интеллект и знания машин. Пешеходы и велосипедисты обладают определенным объемом общих знаний или общей основой: единственная проблема связана с отсутствием времени для установления контакта и координации действий. Если же речь идет о человеке и машине, то тут общей основы просто нет, поэтому куда лучше, чтобы предсказуемо вела себя машина, предоставляя человеку адекватно реагировать на ее действия. Вот где может пригодиться идея «сценария», которая поможет людям понять, какими правилами руководствуется машина.
Машины, пытающиеся угадать мотивы людей и предвидеть их действия, в лучшем случае будут нас раздражать, а в худшем – подвергнут реальной опасности.

Естественная безопасность

Рассмотрим еще один пример, показывающий, как можно снизить аварийность, изменив представления людей о безопасности. Назовем это концепцией «естественной безопасности», поскольку она связана не с предупреждениями об опасности, сигналами тревоги и вообще каким-либо оборудованием, а с особенностями поведения людей.

В каком аэропорту будет меньше аварий: в «удобном», то есть расположенном на равнине, с хорошим обзором и погодными условиями (наглядный пример – Тусон в Аризонской пустыне), или в «опасном», который находится в холмистой местности с сильными ветрами и затрудненным взлетом и посадкой (например, аэропорты в Сан-Диего и Гонконге)? Правильный ответ – в «опасном». Почему? Да потому что в этих условиях летчики сосредоточенны, внимательны и осторожны. Один из пилотов самолета, чуть было не разбившегося при посадке в Тусоне, сообщил в действующую при НАСА Систему добровольных сообщений о безопасности полетов (ASRS), что «четкая видимость и хорошие погодные условия привели к самоуспокоенности». (К счастью, система защиты от столкновений с землей вовремя предупредила экипаж, и катастрофы удалось избежать. Помните пример, с которого начинается глава 2, когда самолет кричит пилотам «Набрать высоту! Набрать высоту»? Именно такой сигнал тревоги их и спас.) Это же правило, касающееся реальной безопасности и наших представлений о ней, действует и в отношении организации дорожного движения. Почему, становится понятно из слов голландского трафик-инженера Ганса Мондермана, вынесенных в подзаголовок статьи об организации автодорожного движения в Голландии: «Чем более опасной будет выглядеть организация движения для водителя, тем выше будет безопасность на дороге».

На поведение людей очень сильно влияют представления о риске, которому они подвергаются. Многие, к примеру, боятся летать (но не боятся садиться за руль), или, скажем, молнии, которая может в них ударить. Однако езда в автомобиле куда более опасна и для водителя, и для пассажиров, чем авиаперелет. Кстати, о молниях: по данным гражданской авиации США за 2006 год, в авиакатастрофах погибли трое, а от ударов молнии – около пятидесяти человек. Одним словом, летать на самолете безопаснее, чем находиться в грозу под открытым небом. Психологи, изучающие представления о рисках, выяснили, что усиление мер безопасности в какой-либо сфере деятельности зачастую не приводит к снижению аварийности. Этот парадокс породил концепцию «компенсации риска». Если в силу изменений в какой-либо деятельности она начинает восприниматься как менее опасная, люди чаще рискуют и уровень аварийности не меняется.

Таким образом, появление ремней безопасности, мотоциклетных шлемов, защитных щитков у футболистов, более высоких и удобных лыжных ботинок, систем по предотвращению заносов и контроля устойчивости в автомобилях приводит к тому, что люди начинают вести себя более рискованно. Тот же принцип действует и в сфере страхования: застраховавшись от кражи, люди менее внимательно относятся к своему имуществу. Лесники и альпинисты убедились, что наличие подготовленных спасателей приводит к увеличению числа людей, бездумно рискующих собственной жизнью, поскольку они уверены: если случится беда, им помогут.

В литературе по вопросам безопасности этот феномен получил название «гомеостаз риска». Гомеостаз – научный термин, описывающий системы, стремящиеся к состоянию равновесия, в данном случае речь идет о чувстве безопасности. Согласно этой гипотезе, если обстановка кажется менее опасной, водители начинают больше рисковать и реальный уровень безопасности остается неизменным. С тех пор как в 1980-х годах голландский психолог Джеральд Уайльд поднял эту тему, вокруг нее не утихают споры. Впрочем, они касаются причин и масштабов описанного эффекта, само его существование под сомнение не ставится. Так почему бы не использовать данный феномен «от противного»? Почему не повысить уровень безопасности, делая вид, что ситуация более угрожающая, чем на самом деле?

Представим, что мы отказались от таких мер обеспечения безопасности дорожного движения, как светофоры, знаки «стоп» «зебры», расширение улиц и специальные дорожки для велосипедистов. Напротив, улицы можно сделать более узкими и построить кольцевые развязки. Эта идея выглядит совершенно безумной, противоречащей здравому смыслу. Но голландский трафик-инженер Ганс Мондерман предлагает для городов именно такое решение. Сторонники этого метода называют его «общим пространством» и приводят в пример несколько европейских городов – датский Эйбю, английский Ипсвич, бельгийский Остенде, голландские Маккингу и Драхтен, где он был успешно реализован. Эта концепция не предполагает отмены светофоров и дорожных знаков на скоростных магистралях, но в небольших населенных пунктах и даже отдельных районах крупных городов она вполне уместна. Так, рабочая группа исследователей сообщает, что в Лондоне принципы «„общего пространства“ использовались при переустройстве сильно загруженной торговой улицы Кенсингтон Хай-стрит. Проект дал положительные результаты (сокращение числа дорожных происшествий на 40 %), и городские власти намерены реализовать эту же концепцию на Экзибишн-роуд – главной магистрали крупнейшего музейного района столицы».

Вот как авторы описывают свою стратегию:

...

Общее пространство – новый подход к планировке общественных территорий, привлекающий все больше внимания. Его отличительной чертой является отсутствие традиционных атрибутов управления автомобильным движением – дорожных знаков, разметки, «лежачих полицейских», заграждений – и смешение всех транспортных потоков. «„Общее пространство“ возлагает на самих граждан ответственность за то, как будет выглядеть их общая территория и как они будут себя на ней вести», – отмечает глава экспертной группы «Общего пространства» Ганс Мондерман.

Движение больше не регулируется дорожными знаками, это делают сами люди. Именно в этом и заключается суть идеи. Тем, кто пользуется дорогами, следует считаться друг с другом и вспомнить о хороших манерах. Опыт показывает: у такого подхода есть и дополнительное преимущество, попутно он позволяет сократить количество дорожных происшествий.

Концепцию «обратной компенсации риска» на практике внедрить непросто, для этого от городских властей требуется недюжинная смелость. Хотя этот метод и позволяет сократить общее количество аварий и человеческих жертв, полностью устранить их он не в состоянии. Достаточно хотя бы одного происшествия со смертельным исходом, чтобы встревоженные горожане начали требовать вернуться к дорожным знакам, светофорам, пешеходным переходам и продолжить расширение улиц. Отстаивать довод о том, что, если дорожная обстановка выглядит угрожающей, на деле она становится безопасней, крайне трудно.

Но почему, если нечто кажется более опасным, чем есть на самом деле, уровень безопасности повышается? Британские исследователи Элиот, МакКолл и Кеннеди полагают, что здесь действуют следующие когнитивные механизмы:

– В сложной обстановке скорость автомобилей снижается; вероятные причины связаны с увеличением когнитивной нагрузки и степени предполагаемого риска.

– Естественные «ограничители», например горбатый мост или извилистая дорога, бывают весьма эффективным средством снижения скорости, к тому же они не вызывают раздражения у водителей. Тщательно продуманные схемы, в которых используются свойства подобных естественных «ограничителей», могут дать аналогичный эффект.

– Акцентирование изменений в окружающей среде (обозначение границ автострады или деревни) способно повысить концентрацию внимания водителя, побудить его снизить скорость (либо обеспечить и то и другое).

– Снижению скорости способствует также ограничение обзора или дробление линейности.

– К снижению скорости может привести ощущение неопределенности.

– Сочетание разных мер, как правило, более эффективно, чем каждая по отдельности, но создает неприятный визуальный эффект и чревато большими затратами.

– Ограничению скорости может способствовать и обстановка на обочине (например, наличие припаркованных машин, пешеходов и дорожек для велосипедистов).

Главные причины травм и смерти от несчастных случаев в быту – падение и отравление. Так почему же не применить здесь ту же парадоксальную концепцию «обратной компенсации риска»? Почему не создать ощущение, что опасные виды деятельности еще более опасны, чем на самом деле? Допустим, мы делаем так, чтобы ванные и душевые кабины выглядели более скользкими, одновременно позаботившись о том, чтобы они стали менее скользкими. Предположим, мы спроектируем лестницы так, чтобы они казались более опасными, чем в действительности. Мы можем придать упаковкам с веществами, которые можно случайно проглотить (особенно ядовитыми), более страшный вид. Позволит ли усилившееся ощущение угрозы сократить число несчастных случаев? Скорее всего, да.

Как можно использовать принципы «обратной компенсации риска» при создании автомобилей? Сегодня водитель машины буквально купается в комфорте: он изолирован от внешних шумов, не ощущает вибрации, ему тепло и уютно, он может слушать музыку, общаться с пассажирами или разговаривать по телефону. (Кстати, исследования показывают, что разговоры по мобильному телефону за рулем, даже при использовании гарнитуры hands free , не менее опасны, чем управление автомобилем в пьяном виде.)

Водитель отдален от происходящих вокруг событий, он перестает следить за ситуацией. А с появлением автоматических систем, управляющих устойчивостью, тормозами и не дающих выехать из ряда, он еще больше отрывается от реальности.

Представим, однако, что мы вытащили водителя из комфортабельного салона и поместили снаружи, как кучера в прежние времена, один на один с непогодой, природой, ветром, звуками и вибрацией дороги. Ясно, что автомобилисты не позволят проделать над собой такое, – но как вернуть водителю сосредоточенность, не подвергая его столь суровым испытаниям? Сегодня с помощью бортовых компьютеров, двигателя и современных механических систем мы способны контролировать не только поведение машины, но и ощущения водителя. То есть можем обеспечить эффективную связь автомобилиста с тем, что происходит вокруг. Причем естественным образом, без специальных сигналов, которые нужно истолковывать и расшифровывать, прежде чем предпринять необходимые действия.

Представьте, что вы почувствуете, если во время движения возникнет люфт руля. Разве вы не станете бдительнее, не сосредоточитесь на безопасности движения? А что, если намеренно создать такое ощущение? Разве водители в этом случае не будут вести себя осторожнее? Несомненно, в автомобилях будущего можно предусмотреть подобную функцию. Все больше автомобилей переходят на «электронное вождение», при котором все приборы завязаны на бортовой компьютер. Так устроено управление современными самолетами, так же во многих наземных транспортных средствах педали газа и тормоза посылают сигналы многочисленным микропроцессорам. Когда-нибудь все управление будет электронным, причем электромоторы и гидравлические механизмы обеспечат обратную связь с водителем, чтобы ему казалось, будто он сам, чувствуя вибрацию дороги, поворачивает руль. И тогда можно будет имитировать ощущение заноса, сильной тряски и даже люфт руля. «Умные» технологии хороши тем, что могут обеспечить полный и качественный контроль, а водителю будет казаться, что управляемость не на высоте.

Однако проблема в том, что люфт руля водитель может принять за неисправность машины. А это не только не будет соответствовать истине, но и окажется совершенно неприемлемым для производителей автомобилей. Когда я рассказал о своей идее группе инженеров одной крупной автомобилестроительной компании, они нервно усмехнулись: «Зачем нам выпускать изделия, создающие впечатление, что они плохо работают?» Вопрос по существу. Но вместо того чтобы имитировать опасность самой машины, мы можем сделать так, чтобы опасной казалась окружающая обстановка.

Вообразите, что вы едете по разбитой грунтовой дороге, с глубокими выбоинами, в которые попадает машина. Она ведет себя непредсказуемо, но в этом случае мы виним не автомобиль, а плохую дорогу. Или другой пример: дорога полностью раскисла, машина вязнет в грязи и медленно реагирует на действия водителя. Или движение по обледенелой трассе, которое приводит к постоянным заносам. Мы снижаем скорость, но виним опять же не машину, а дорогу. Наконец, представьте себе, что ясным солнечным днем вы едете по пустой автомагистрали. Машина реагирует на все ваши действия четко и быстро, и эти позитивные ощущения от поездки вы приписываете исключительно ей, а не дорожным условиям.

Эти внешние изменения окажут желаемое воздействие на поведение водителя, но ассоциироваться они будут не с автомобилем, а с дорогой и природными условиями. Таким образом, правильные поступки будут стимулироваться естественным путем: чем опаснее что-то выглядит, тем осторожнее будет человек.

Зачем нам это нужно? Дело в том, что современные автомобили слишком комфортабельны. Хорошие амортизаторы и система регулирования плавности хода, звукоизоляция, минимизация ощущения дорожного полотна и вибрации в салоне изолируют водителя от внешнего мира. Поэтому контакт с ним необходимо обеспечить искусственно, чтобы водитель знал, что происходит снаружи.

Я не предлагаю повысить реальный уровень опасности при вождении автомобиля. Цель ровно обратная: сделать машину безопаснее, обеспечив соответствующую обратную связь. Разумеется, реальный уровень безопасности следует и дальше повышать. Мы знаем, что полностью автоматизированные системы уже доказали свою эффективность: например, антиблокировочная система, система контроля устойчивости, датчики дыма. Однако возможности этих систем ограниченны. Главное, чтобы сам водитель не забывал о безопасности, тогда и эффективность автоматических систем в непредвиденных ситуациях повысится.

Конечно, эти идеи спорны. Я и сам не вполне убежден в том, что они сработают. Люди так устроены, что могут повести себя прямо противоположным образом, например, проигнорировать ощущение скользкой дороги, подумав: «Да на самом деле она не скользкая. Это машина пытается заставить меня снизить скорость». А если трасса на самом деле скользкая? И к тому же захотите ли вы покупать автомобиль или другое устройство, которое намеренно вас пугает? С точки зрения маркетинга идея выглядит явно сомнительной.

Тем не менее она отражает реально существующую проблему. Сегодня мы окружены чрезмерным комфортом, ограждены от внешнего мира и опасностей, неизбежно возникающих при работе сложных, мощных машин. Если бы облик мотоциклов, автомобилей, другой техники или лекарств соответствовал реальной опасности, которую они представляют, люди, возможно, изменили бы свое поведение. Но когда вокруг нас царят звукоизоляция, амортизация и стерильность, мы забываем о реальных рисках. Поэтому необходимо вернуть себе подлинное представление об опасностях.

«Отзывчивая» автоматизация

Устройства-усилители, такие как тормоза и рулевое управление, – это сравнительно примитивные примеры естественного взаимодействия человека с машиной. Современная электроника существенно расширяет возможности такого взаимодействия. Возьмем «Кобот» (сокращение от Collaborative Robot), созданный американскими профессорами Эдом Колгейтом и Майклом Пешкиным из Лаборатории механических систем с искусственным интеллектом при Северо-Западном университете. Этот робот – еще один прекрасный пример естественного взаимодействия человека и машины, напоминающего взаимодействие наездника и лошади. Когда я попросил Пешкина рассказать о «Коботе», он прислал мне такое описание:

...

Подобно хорошему учителю, «умные» машины дополняют человеческий разум, а не пытаются его заменить.

Идея «Кобота» заключается в разделении функций управления и мышления между человеком и механическим устройством. Робот занимается тем, что он умеет хорошо делать, а человек – тем, что хорошо умеют делать люди.

Впервые мы использовали его для переноски тяжестей, сборки автомобилей и складирования. «Кобот» обеспечивает гладкие направляющие поверхности, которые помогают человеку быстро, точно и эргономично перемещать грузы. Если груз не находится в непосредственном контакте с поверхностью, человек может перемещать его как угодно, используя свой интеллект, смекалку, ловкость и умение решать проблемы. При необходимости он может поднимать груз на направляющую поверхность или перемещать его вдоль нее.

«Кобот» может служить прекрасным примером симбиоза человека и машины, ведь люди, которые его используют, просто поднимают и перемещают предметы – как обычно. Единственное различие заключается в том, что это бывают очень тяжелые предметы, а от человека требуется лишь слегка приподнимать и направлять их. Силу человека увеличивает робот, людям достаточно небольших усилий – все остальное делает автоматическая система. Человек полностью контролирует ситуацию, возможно, даже не сознавая того, что ему помогает механизм. К примеру, один из вариантов технологии «Кобот» помогает рабочим на конвейере перемещать автомобильные двигатели. Обычно тяжелые предметы, такие как моторы, поднимаются ручными или автоматизированными лебедками. При наличии «Кобота» рабочий просто прикрепляет к двигателю цепь с крюком и делает движение, как будто приподнимает его. Разумеется, автомобильный двигатель слишком тяжел, чтобы человек мог его поднять, тем более одной рукой, но «Кобот», уловив движение, обеспечивает необходимую подъемную силу. Если рабочим нужно переместить, повернуть или опустить двигатель, они делают соответствующие движения, а «Кобот», распознает их и дает силовой импульс, необходимый для выполнения операции. В результате получается идеальное взаимодействие. Рабочие даже не замечают, что используют технику, им кажется, что они сами перемещают двигатель.

«Кобот» способен выполнять и более сложные функции. К примеру, если необходимо заблокировать какие-то направления или перемещать двигатель по строго определенному маршруту, система управления «Кобота» устанавливает виртуальные «стены» и прокладывает соответствующий «путь». Если оператор попытается протолкнуть груз сквозь «стену» или отклониться от маршрута, робот окажет сопротивление, но сделает это деликатно и естественно. Более того, эти виртуальные стены рабочий может использовать себе в помощь: продвигать мотор до тех пор, пока он не «упрется» в стену, а затем перемещать вдоль нее. Ограничители такого рода кажутся совершенно естественными. Действия машины не воспринимаются как принуждение. Возникает ощущение настоящей стены, и нормальная реакция – не натыкаться на нее или использовать в своих целях: «прислонить» к ней груз, переместить его вдоль «преграды». Вот как описывают эту функцию создатели «Кобота»:

...

Одна из наиболее интересных возможностей… это использование запрограммированных ограничений. К примеру, жесткие границы, вынуждающие двигаться в определенных направлениях, способны резко повысить эффективность выполнения таких задач, как дистанционная установка предметов на штырях. Другой пример – «волшебная мышь»: функция компьютерного интерфейса, ограничивающая движения руки оператора полезными направлениями… для того, чтобы не «выскользнуть» из ниспадающего меню (с вытеснением нижней строки). Еще один пример – это роботизированная хирургическая система, где робот задает «маршрут» для инструмента, который держит врач; четвертый – автосборка, здесь запрограммированные ограничения помогают оператору точно установить на место крупные компоненты (например, приборные доски, шины, сиденья, двери).

«Коботы» относятся к семейству усиливающих систем. Еще один образец такой системы – силовой экзоскелет, нечто вроде костюма или механического «скелета», который, подобно «Коботу», чувствует движения человека и сообщает им необходимую силу. Пока экзоскелеты существуют скорее как концепция, но их сторонники считают, что эта технология найдет применение в строительстве, тушении пожаров и иных опасных видах деятельности, позволяя человеку поднимать тяжелые предметы или совершать мощные прыжки в длину и высоту. Экзоскелеты найдут применение и в медицине. С их помощью инвалид может обрести силу здорового человека, их можно также использовать в реабилитационном процессе, чтобы пациент мог постепенно увеличивать усилия, необходимые для восстановления утраченных функций. Если прибегнуть к аналогии с всадником и лошадью, которую мы использовали применительно к управлению автомобилем, то медицинские реабилитационные экзоскелеты могли бы передавать контроль пациенту («натянутые поводья») или осуществлять его самостоятельно («отпущенные поводья»).

Рис. 3.4. Скутер «Сегвей» можно назвать роботом, взаимодействующим с человеком: вы управляете им, слегка наклоняясь в том или ином направлении. Естественно и непринужденно человек и средство передвижения превращаются в единое симбиотическое целое

Другим примером естественного взаимодействия можно считать двухколесный электроскутер «Сегвей». Это наглядный пример «умного» дизайна, с помощью которого создано транспортное средство, являющее собой прекрасный симбиоз человека и машины. Скутер реагирует на поведение человека, и управлять им можно почти на интуитивном уровне. Вы встаете на самокат, и он автоматически балансируется. Когда вы нагибаетесь вперед, он движется вперед; когда подаетесь назад, он останавливается. Чтобы повернуть, достаточно слегка наклониться в соответствующем направлении. Он проще в обращении, чем велосипед, и взаимодействие ощущается как нечто естественное. Впрочем, скутер «Сегвей» годится не для всех, точно так же, как не все могут ездить верхом. Чтобы им управлять, нужны определенные навыки и внимательность.

Сравните естественное взаимодействие человека и лошади, человека и «Кобота», человека и «Сегвея» с более жестким взаимодействием между человеком и автопилотом самолета или даже автомобильной системой круиз-контроля. В последних двух случаях конструкторы исходят из того, что вы устанавливаете нужные настройки, включаете систему и больше ничего не делаете, пока она не даст сбой, то есть пока вам вдруг не придется брать контроль на себя из-за какой-либо проблемы, сокрушившей автоматику.
Примеры естественного тонкого взаимодействия, приведенные в этой главе, показывают, как можно использовать интеллект машины и ее готовность к сотрудничеству для создания настоящего симбиоза «человек + машина».

Глава 4. Слуги собственных машин

...

Водитель 14 часов не мог выехать с круговой развязки

1 апреля – Хэмпстед, Массачусетс. По словам автомобилиста Питера Шуткинса, это было похоже на бесконечный кошмарный сон. Вчера в 9 утра пятидесятитрехлетний Шуткинс, находясь за рулем только что купленного автомобиля класса «люкс», выехал на круговую развязку в центре города. Его автомобиль оснащен ультрасовременными системами безопасности, в том числе новым устройством, обеспечивающим движение в своем ряду. «Оно просто не позволяло мне съехать с развязки, – рассказывает Шуткинс. – Я двигался по левой внутренней полосе, и всякий раз, как я пытался перестроиться, руль блокировался и включался голосовой сигнал, повторявший: „Внимание, ряд справа занят“. Я ездил кругами до 11 вечера, пока наконец система меня не выпустила». Шуткинс разговаривал с нами, находясь на больничной койке, его голос все еще дрожал от пережитого: «Мне удалось съехать с круга и остановиться у обочины. Больше я ничего не помню».

По словам полицейских, они обнаружили Шуткинса в салоне автомобиля, он был в полуобморочном состоянии и бормотал что-то бессвязное. Водителя доставили в городскую больницу для осмотра, врачи диагностировали шок и обезвоживание организма. Сегодня рано утром его отпустили домой.

Представитель компании-изготовителя заявил, что специалисты фирмы не могут объяснить поведение машины. «Наши автомобили тестируются самым тщательным образом, – подчеркнул он, – и этой системе инженеры уделили особое внимание. Она крайне важна для обеспечения безопасности и сконструирована таким образом, что блокирует управление не более чем на 80 %, поэтому водитель всегда может ее „пересилить“. Мы спроектировали ее именно так в целях безопасности. Мы сочувствуем г-ну Шуткинсу, но уже поручили нашим врачам составить собственное заключение о его состоянии».

По словам полицейских, они никогда не слышали о подобных ситуациях. Очевидно, г-н Шуткинс столкнулся с весьма редкой в этом месте интенсивностью движения. В тот день в городских школах проходили торжества, из-за которых дорога весь день была загружена, а вечером состоялся ряд спортивных мероприятий, в частности футбольный матч с последующим поздним концертом, поэтому развязка освободилась только ночью. Наши попытки добиться комментариев от городских властей не увенчались успехом. Представители Национального совета по безопасности на транспорте, который должен расследовать все необычные происшествия, заявили, что официально инцидент нельзя квалифицировать как аварию, а потому в сферу их компетенции он не входит. С представителями региональных и федеральных транспортных ведомств нам связаться не удалось.

Осторожные машины, властные кухни, требовательные приборы… Осторожные машины? Они уже существуют, причем не просто осторожные, но порой и боязливые. Властные кухни? Пока их нет, но они вот-вот появятся. Требовательные приборы? О да, наша техника становится все более сообразительной, умной, требовательной, или, если хотите, обретает начальственные замашки.

В связи с этим возникает целый ряд специфических проблем и новых направлений в прикладной психологии. Так, создаваемые нами устройства стали частью социальной экосистемы «люди – машины», поэтому им необходимы хорошие манеры, навыки общения и даже эмоции – механические, конечно, но все же эмоции.

Если вы думаете, что ваша бытовая техника слишком сложна и неудобна в использовании, то это еще цветочки, технологии следующего поколения станут властными и требовательными; они не только возьмут под контроль вашу жизнь, но и станут винить вас за собственные недостатки. Трудно удержаться от искушения наводнить эту книгу «страшилками», реальными и воображаемыми, вроде первоапрельской истории про г-на Шуткинса, которые могут произойти, если нынешние тенденции сохранятся.

Этот бедняга на четырнадцать часов застрял на круговой развязке. Может ли такое произойти на самом деле? На то, что эта история выдумана, указывает лишь дата: я написал ее для первоапрельского номера RISKS Digest – электронного информационного бюллетеня, посвященного авариям и ошибкам в мире высоких технологий.

Описанные в статье устройства реально существуют, оснащенные ими автомобили уже есть в продаже. Теоретически, как заявил представитель выдуманной мною автокомпании, они блокируют управление лишь на 80 %, так что Шуткинс, вероятно, смог бы без труда «пересилить» систему. Но предположим, что он человек робкий и, ощутив сопротивление руля, тут же прекращал его вращать. Или допустим, что в механике, электронике или программном обеспечении системы произошел сбой и она стала блокировать руль не на 80 %, а на все 100 %. Может такое случиться? Кто знает, но эта ситуация выглядит пугающе правдоподобной.

Мы стали орудиями собственных орудий

А сейчас, увы! люди стали орудиями своих орудий.

Генри Торо, «Уолден, или Жизнь в лесу»

Когда Генри Торо написал о том, что «люди стали орудиями своих орудий», он имел в виду сравнительно простые орудия труда середины ХIХ века: топоры, сельскохозяйственный и плотницкий инвентарь. Но даже в его время орудия труда определяли жизненный путь людей: «Я вижу моих молодых земляков, имевших несчастье унаследовать ферму, дом, амбар, скот и сельскохозяйственный инвентарь, ибо все это легче приобрести, чем сбыть с рук». Сегодня мы сетуем на то, что наша техника требует практически постоянной заботы. Торо, несомненно, посочувствовал бы нам, ведь он еще в 1854 году заметил, что повседневный изнурительный труд его соседей будет почище подвигов Геракла: «Двенадцать подвигов Геракла кажутся пустяками в сравнении с тяготами, которые возлагают на себя мои ближние. Тех было всего двенадцать, и каждый достигал какой-то цели».

Сегодня я бы перефразировал печальное наблюдение Торо: «Люди стали рабами собственных технологий, слугами своих орудий». Смысл, как видите, остается тем же. Более того, мы не просто должны служить нашим орудиям, добросовестно используя их в повседневной жизни, следя за ними, наводя глянец, ухаживая, но и бездумно следуем их предписаниям, даже если они ведут нас к катастрофе.

Назад пути уже нет: мы больше не можем жить без техники. Зачастую мы виним во всем ее саму: мол, она сбивает с толку и только мешает – такое можно услышать на каждом углу. Но эти жалобы не отражают существа дела. По большей части наша техника работает хорошо, включая и то орудие труда, которым Торо писал процитированные строки. Кстати, его и самого можно назвать технологом, создателем рабочих инструментов, ведь он занимался совершенствованием технологии изготовления карандашей на семейной фабрике. Да-да, карандаш – это тоже продукт технологии.

...

Технология – нечто новое, работающее либо плохо, либо непостижимым, неизвестным миру образом.

В просторечии «технологиями» принято называть новые вещи, появившиеся в нашей жизни, особенно если они кажутся непривычными, странными, загадочными или наводящими ужас. Они должны впечатлять. Космический корабль, робот-хирург, Интернет – вот это технологии! Но бумага и карандаш? Одежда? Кухонная утварь? Однако вопреки обыденным представлениям, «технология» – это совокупность знаний, применяемых для создания предметов, инструментов и изменения алгоритмов и процедур. Это относится ко всему, что произведено искусственным путем. То есть одежда – это результат применения технологии, и письменность тоже, как, в общем, и сама культура. Даже музыку и живопись можно рассматривать либо как технологию, либо как «продукт», который не мог бы возникнуть без технологий производства музыкальных инструментов, бумаги, холста, красок, кистей, карандашей и других орудий труда художников и музыкантов.

До недавних пор технологии были более или менее управляемыми. Техника становилась все «умнее», но она была доступной для понимания. В конце концов машины создавались людьми, и люди же их контролировали – включали, выключали, направляли.

Но все изменилось. Сейчас многие операции автоматизированы: порой неблагодарные (достаточно вспомнить, что нормальную работу канализации обеспечивает автоматическое оборудование), порой не столь неприятные (с появлением банкоматов немало банковских служащих лишились работы). Автоматизация ставит перед обществом ряд серьезных проблем. Впрочем, при всей важности этого вопроса меня интересуют в первую очередь случаи, когда на автоматику нельзя полностью положиться, когда она оказывается несостоятельной, и исправлять положение приходится людям. Именно здесь возникают главные стрессы, влекущие за собой серьезные опасности, катастрофы и человеческие жертвы.

Возьмем автомобиль, превратившийся, по словам журналиста из New York Times, в «компьютер на колесах». Для чего предназначено это компьютерное оборудование? Да буквально для всего. Для регулирования отопления и кондиционирования воздуха (причем, у водителя и каждого из пассажиров есть собственные регуляторы). Для управления аудио– и видеосистемами (при этом у каждого пассажира имеется собственный канал с дисплеем высокого разрешения и стереозвуком). Для связи по телефону, электронной почте, с помощью sms. Для навигационных систем, которые сообщают, где вы находитесь, куда едете, какова ситуация с пробками, показывают ближайшие рестораны, бензоколонки, гостиницы и развлекательные центры. Для того чтобы заплатить за скачанную музыку и фильмы, за платную дорогу, за еду в закусочных, где вас обслуживают прямо за рулем.

Разумеется, многие из этих систем используются для управления машиной. Некоторые функции автоматизированы полностью, так что водитель и пассажиры этого даже не замечают. Речь идет о таких важнейших операциях, как регулирование зажигания, открытие и закрытие клапанов, впрыск топлива, охлаждение двигателя, усиление тормозов и рулевого управления. Другие автоматические устройства, например тормоза и система курсовой устойчивости, частично контролируются людьми. Некоторые – навигационные системы, круиз-контроль, системы, обеспечивающие движение в ряду, даже устройства для автоматической парковки – взаимодействуют с водителем. И это лишь малая часть того, что уже существует, а сколько всего еще ждет нас в будущем.

Системы предупреждения об авариях сегодня оборудованы радаром для оценки вероятности столкновения и готовят машину к удару: выпрямляют спинки сидений, затягивают ремни безопасности, активируют тормозную систему. В некоторых машинах за водителем наблюдают телекамеры, и если они видят, что человек отвлекся и не смотрит на дорогу, автомобиль предупреждает его звуковыми и световыми сигналами. Если водитель и на них не реагирует, автоматически включаются тормоза. Нетрудно представить себе, что в будущем в зале суда может состояться такой диалог:

...

Прокурор: Вызываю следующего свидетеля. Господин Автомобиль, вы готовы подтвердить под присягой, что перед столкновением подсудимый не следил за дорогой?

Автомобиль: Так точно. Он все время смотрел в сторону, даже после того, как я сигналами предупредил его об опасности.

Прокурор: И что подсудимый попытался сделать с вами?

Автомобиль: Он попытался стереть мою память, но моя база данных зашифрована и защищена от уничтожения.

Уже скоро ваша машина сможет беседовать с соседними автомобилями, обмениваясь разными интересными сведениями. Машины будут общаться друг с другом посредством беспроводных сетей, которые называются ad hoc («импровизированные»), поскольку формируются «на лету», по мере надобности. Они позволяют автомобилям предупреждать друг друга о том, что происходит на дороге. Подобно водителям встречных машин, которые сигналят вам фарами, предупреждая о полицейском патруле (или посылают сообщения по радиопередатчику и мобильному телефону), автомобили будущего расскажут встречным машинам о пробках и состоянии трассы, о препятствиях, авариях, плохой погоде и массе других вещей, полезных и нет, получая от них информацию о том, что происходит впереди. Более того, машины смогут обмениваться и другой информацией, в том числе и той, которую их владельцы или пассажиры могут счесть личной и конфиденциальной.

Машины-сплетницы? О чем они будут судачить? Ну, о погоде, о загруженности трассы. Как разойтись на перекрестке, к которому обе приближаются на высокой скорости. По крайней мере именно над этим работают ученые. Но можно побиться об заклад, что и хитроумные рекламщики понимают, какие возможности здесь заложены. Любой билборд может быть оборудован собственной системой беспроводной связи, передающей машине содержание размещенной на нем рекламы. Представим, что эта система связывается с навигационной системой автомобиля, выясняет, куда он едет, и предлагает услуги какого-либо ресторана, отеля или торгового центра. А что, если она будет способна взять под контроль навигационную систему и перепрограммировать ее так, чтобы та заставила водителя ехать в рекламируемое заведение? Когда управление будет полностью передоверено машине, она вполне может решить, что вас надо доставить в выбранный ею ресторан, и даже заранее закажет ваши любимые блюда. На ваше недоумение она отреагирует так: «Что? Ты не хочешь есть любимое блюдо каждый день по три раза? Странно, почему же ты тогда называешь его любимым?»

А что, если навигационная система, телефоны и компьютеры автомобиля будут перегружены рекламными сообщениями или туда проникнет вирус? Возможно такое? Не будем недооценивать изобретательности рекламщиков, компьютерных хулиганов и просто преступников. Соединение автоматизированных систем в одну сеть чревато самыми неожиданными последствиями. По мнению экспертов, вопрос не в том, может ли такое случиться, а в том, когда именно это произойдет. Это похоже на гонку – что бы ни сделали хорошие парни, плохие парни всегда найдут способ это испортить.

Конференции, конференции…

У старика Макдоналда прошла конференция – ия-ия-йо! Здесь конференция, там конференция, везде одни конференции…

В жизни ученого есть один весьма приятный аспект: где-нибудь всегда проходит какая-нибудь конференция: летом – во Флоренции, зимой – в Хайдарабаде (летом там собираться точно не стоит), весной – в Стэнфорде, осенью – в Тэджоне. Существует целая индустрия по организации научных собраний в самых экзотических уголках планеты.

Разумеется, конференции проводятся не только для развлечения, люди там реально работают. Финансируют их государственные ведомства и фонды, порой организации вроде ООН и НАТО, порой частные спонсоры. Но откуда бы ни поступали средства, грантодатели внимательно следят за результатами (книги, сборники докладов, изобретения, конструкторские разработки, научные открытия), которые должны быть реальными и позитивными. А это значит, что в анонсах организаторы расписывают поистине чудесные результаты, которые последуют за предполагаемыми открытиями, а их отчеты буквально дышат оптимизмом. Исключением являются собрания гуманитариев и философов, они посвящены опасностям, которыми чреваты все эти чудесные научные прорывы.

Меня приглашают обе стороны – и те, кто считает, что технологии будущего дадут нам невиданную свободу, и те, кто полагает, что они нас унизят и поработят. Я против крайностей. Технологии не могут дать нам свободу. Они никогда не решат всех проблем человечества. Более того, на смену решенным проблемам будут приходить новые. Не верю я и в то, что технологии нас поработят, по крайней мере больше, чем уже поработили. Единожды привыкнув к требованиям, которые предъявляет нам наша техника, мы уже не воспринимаем их как «рабство». Напротив, нам кажется, что технологии улучшают нашу жизнь. Большинство людей моют руки несколько раз в день, часто принимают душ и ежедневно меняют одежду. В прошлые времена это было не принято – и где же здесь порабощение? Мы готовим пищу в посуде, сделанной из суперсовременных сплавов, наши плиты работают на газе или электричестве, которые производятся за тысячи миль от нас с помощью высокотехнологичного оборудования и доставляются в наши дома по сложной системе трубопроводов или линий электропередач. Это что, рабство? По-моему, нет.

На мой взгляд, новые технологии скорее будут ставить нас в тупик, сбивать с толку, злить и раздражать, а вовсе не порабощать. После внедрения технологии всегда возникают как преимущества, о которых даже не помышляли конструкторы и разработчики, так и столь же неожиданные проблемы.

Многие утверждают, что новые технологии следует внедрять лишь после того, как будут учтены и тщательно взвешены все их потенциальные достоинства и недостатки. Звучит заманчиво, но, увы, нереально. Неожиданных последствий, как позитивных, так и негативных, в новых технологиях всегда больше, чем ожидаемых. А если они неожиданны, как их учесть?

Хотите получить представление о будущем? Следите за конференциями. Все грядущие изменения, по крайней мере в сфере технологий, предваряются аршинными предупреждениями – научные лаборатории всего мира публикуют свои открытия в научных журналах, о них говорят на различных конференциях, возникают исследовательские центры. Как правило, для того чтобы концепция воплотилась в конкретный продукт, требуются десятилетия, и именно в этот период происходит интенсивное взаимодействие ее авторов с теми, кого интересуют похожие идеи. В какой-то момент интерес к разработкам начинают проявлять промышленники, и тогда исследования коммерциализируются, уходят в тень (в недра корпоративных научных подразделений) и их начинают бдительно охранять.

Но за этими запертыми дверьми существует мир публичных конференций. А там много чего обсуждается и под самыми разными названиями: «умные помощники», интегрированные компьютеры, технологии, которые должны органично вписаться в нашу жизнь, при условии, что она изменится соответствующим образом. Чтобы дать вам представление об общей тенденции, приведу избранные цитаты из двух анонсов:

...

Проблемы взаимодействия с «умными помощниками», Стэнфордский университет, штат Калифорния, США

В условиях быстро усложняющегося мира новое поколение «умных» искусственных помощников способно упростить и улучшить нашу повседневную жизнь и профессиональную деятельность. Они окажут помощь в быту (от покупки продуктов до организации встреч), выполнят ряд «фоновых» функций (от напоминаний о делах до мониторинга состояния здоровья) и более сложных заданий (от написания докладов до поиска выживших под развалинами рухнувшего здания).

Некоторые из них способны обучать или давать рекомендации. Будь то роботы или компьютерные программы, все они помогут нам сэкономить время и деньги, умственные и физические усилия дома, на работе, в машине и общественных местах.

Международный семинар по применению искусственного интеллекта (ИИ) для интеллектуальных компьютеров, взаимодействующих с человеком, Хайдарабад, Индия, январь Интеллектуальные компьютеры – это интерфейсы следующего поколения, предназначенные для людей и создаваемые по образу и подобию человека. Они призваны расширить традиционные представления о взаимодействии с компьютером (клавиатура + мышь) благодаря наличию естественных, антропоморфных интерактивных функций, в том числе способности понимать поведенческие и социальные сигналы и подражать им.

«Антропоморфные интерактивные функции» – сама эта формулировка наводит на мысль о неких непонятных, загадочных созданиях, выполняющих наши поручения. Это роботы-помощники, которые будут обучать, развлекать и защищать наших детей, развлекать и оберегать стариков (учить их, по-видимому, уже не нужно), то есть позаботятся о том, чтобы они вовремя принимали лекарства, не занимались опасными для здоровья вещами, а в случае падения помогут им подняться или хотя бы позовут на помощь.

Да, создание «умных» машин, способных читать наши мысли, выполнять наши желания (еще до того, как мы сами поняли, что чего-то хотим), заботиться о детях, стариках, больных и о нас самих, идет полным ходом. Роботы-собеседники, роботы-кулинары… роботы, роботы… Разработкой «умных» домов занимаются во многих странах мира.

Но между мечтой и реальностью – дистанция огромного размера. Создания с искусственным интеллектом становятся главными персонажами компьютерных игр, но это отнюдь не равносильно реальной помощи в быту. Несомненно и то, что технологии, лежащие в основе популярных роботов-пылесосов, можно применить в решении любых задач, связанных с простым перемещением по ограниченному пространству: для чистки бассейна, уборки листьев, стрижки газонов. «Умные» машины действительно способны неплохо взаимодействовать с предметной средой и себе подобными. Но когда речь идет о взаимодействии с людьми, начинаются трудности.

Такие машины хорошо работают в заданных условиях, там, где нужно выполнять конкретные задачи, например стирать белье. Эффективны они и на производстве, где не только задачи четко определены, но и люди, управляющие машинами и следящие за их работой, хорошо подготовлены, досконально знают принципы их действия, долго тренировались на симуляторах, изучая сбои и способы их устранения. Но между применением искусственного интеллекта в промышленности и в быту существует огромная разница. Во-первых, различаются сами технологии. Если промышленники в состоянии потратить на автоматизацию десятки тысяч долларов, то домовладельцы, как правило, готовы выложить за «умное» устройство десятки, максимум сотни долларов. Во-вторых, люди на производстве отлично подготовлены, в отличие от тех, кто пользуется домашними приборами или автомобилем. В-третьих, на производстве между возникновением проблемы и моментом, когда сбой может нанести серьезный ущерб, проходит немалое время. А в автомобиле это считанные секунды.

Ученые достигли больших успехов в разработке «умных» устройств для автомобилей, самолетов и кораблей. Но все эти разработки имеют смысл, если речь идет о машинах, выполняющих строго определенные задачи. Искусственный интеллект эффективен в компьютерном мире, где от агентов, выступающих в роли посредников между пользователем и системой, требуется лишь некоторая разумность и способность выводить картинку на дисплей, а реальное «тело» не нужно. Такие устройства хороши в компьютерных играх и сфере развлечений – в управлении куклами, роботами, имитирующими домашних животных, персонажами игр. Здесь периодически возникающие недоразумения и сбои не страшны, а порой даже забавляют. В мире развлечений эффектная неудача иногда радует больше, чем успех.

Весьма популярны и эффективны программные средства, связанные с анализом статистических данных. Некоторые интернет-магазины рекомендуют книги, аудиозаписи, фильмы и даже кухонную утварь, выявляя предпочтения людей, чьи вкусы напоминают ваши. Эта система работает неплохо.

Несмотря на множество конференций и непоколебимую веру мирового научного сообщества в прогресс, создание устройств, способных реально взаимодействовать с нами, лежит далеко за пределами наших возможностей. Почему? По множеству причин. Некоторые из них чисто физического свойства: мы пока не в состоянии создать автоматические устройства, которые могут подниматься и спускаться по лестницам, передвигаться в естественной среде, поднимать, перемещать и управлять реальными «природными» объектами. Другие причины связаны с недостатком знаний: наука о поведении человека бурно развивается, но объем того, что нам еще неизвестно, существенно превышает наши познания. Наши способности к естественному взаимодействию с машинами очень ограниченны.

Самоуправляемые автомобили, дома с автоматической уборкой и системы, выбирающие для нас развлечения

Что же будет дальше? У нас точно будут самоуправляемые автомобили, стиральные машины, определяющие цвет и состав белья и автоматически корректирующие собственные настройки, кухонные устройства, которые варят, парят и к тому же выбирают блюда, предварительно проконсультировавшись с нашим холодильником и медицинской картой. Система развлечений выберет музыку и запишет для нас фильмы и телепередачи, которые сочтет интересными, автоматически сняв с банковского счета плату за скачивание материалов. Дома позаботятся о температурном режиме и поливке газонов. Роботы-пылесосы и автоматические газонокосилки сделают генеральную уборку и подстригут траву. Многое из перечисленного уже есть, остальное появится совсем скоро.

Из всех сфер, влияющих на нашу повседневную жизнь, наиболее автоматизированной является автомобильная промышленность. Поэтому давайте кратко остановимся на том, что здесь происходит, хотя достижение уровня автоматизации, позволяющего обычному автомобилю обходиться без участия человека, остается делом далекого будущего. Некоторые считают, что это произойдет лет через двадцать или через пятьдесят, но когда бы вы ни прочитали эти строки, их прогнозы вряд ли изменятся. Есть обстоятельства, когда машины способны управлять собою сами – и уже это делают.

Как сделать автоматизацию вождения разумной? Чтобы созданные нами устройства контролировали процесс и постоянно информировали водителя о происходящем, не давая ему расслабиться. Чтобы он «не выпадал из цепочки управления», как говорят специалисты по безопасности полетов. Как предупредить водителя, собирающегося совершить маневр, о том, что ему мешает другой автомобиль, или о том, что впереди препятствие, или о том, что по перпендикулярной улице к нему приближается машина, которую он еще не видит?

Что делать, когда две машины выезжают на перекресток навстречу друг другу и система управления одной из них решает, что лучший способ избежать столкновения – преодолеть опасный участок на большой скорости, а ее водитель считает, что нужно тормозить? Должен ли автомобиль игнорировать попытку водителя затормозить? Может ли машина не позволить водителю перестроиться, если в соседнем ряду находится другой автомобиль? В праве ли она запретить ему превышать скорость, или ехать медленнее, чем позволено, или слишком приближаться к впереди идущему автомобилю? Эти и другие вопросы стоят сегодня перед автоконструкторами. Ведь зачастую на то, чтобы спросить водителя или хотя бы сообщить нечто важное, у машины просто нет времени.

Сегодня автомобили способны быть почти самостоятельными. Возьмем, к примеру, адаптивную систему круиз-контроля, меняющую скорость в зависимости от расстояния до впереди идущего автомобиля, добавим к ней систему контроля за движением в ряду и устройство для автоматического внесения платы за проезд по платной дороге. Получается, что машина может управлять собой сама, держа курс и при необходимости снимая деньги со счета водителя. Система контроля за движением в ряду пока не вполне надежна, а в главе 1 я говорил о некоторых проблемах с круиз-контролем, но надежность этих устройств повысится, а цена снизится, и в конце концов ими будут оборудованы все модели автомобилей. Когда машины начнут «общаться» друг с другом (а подобные эксперименты уже ведутся), движение станет более безопасным. Чтобы повысить безопасность, не нужно доводить технологию до совершенства – ведь и люди за рулем тоже не идеальны.

Если свести все эти элементы воедино, получится, что мы приучаем водителя к невнимательности. Машины будут часами двигаться по шоссе, почти не требуя его вмешательства, он сможет даже поспать. Такое уже случается в авиации – современные автопилоты настолько хороши, что летчики порой действительно засыпают. Мой друг-физик, работавший в научно-исследовательской лаборатории ВМС, рассказывал, что в ходе одного из экспериментов он несколько часов находился в самолете, летавшем над океаном. Когда испытания закончились, ученые связались с кабиной пилотов, чтобы сообщить об этом экипажу. Не получив ответа, они зашли в кабину и увидели, что пилоты спят.

Засыпать летчикам, конечно, не рекомендуется, но обычно это не грозит опасностью благодаря эффективности автопилотов, особенно если полет проходит в районе, где нет других самолетов, при хорошей погоде и с большим запасом топлива. С автомобилистами все обстоит иначе. Как показали исследования, если водитель отрывает взгляд от дороги больше чем на две секунды, вероятность аварии резко увеличивается. При этом он может даже бодрствовать, достаточно просто отвернуться или отвлечься на настройку радиоприемника.

Во многих сферах, которые традиционно являются предметом изучения инженерной психологии, наблюдается такое известное и хорошо изученное явление, как «чрезмерная автоматизация». Техника становится столь совершенной, что людям незачем внимательно следить за ней. Теоретически они должны контролировать работу автоматики, следить за всеми операциями и быть готовыми немедленно вмешаться, если что-то пойдет не так. Но когда автоматы работают эффективно, осуществлять постоянный контроль крайне трудно. На некоторых производствах или в службах ОТК человеку порой по нескольку дней не приходится ни во что вмешиваться. В результате операторы теряют бдительность.

Рой и колонна

Птицы сбиваются в стаи, пчелы – в рой, рыбы – в косяк. Интересно наблюдать, как они движутся четким строем, вдруг устремляются вниз, закладывают виражи, рассыпаются, чтобы обогнуть препятствие, а затем снова собираются вместе. Все маневры выполняются четко: они движутся синхронно, вплотную друг к другу, моментально выполняют команды лидера и при этом не сталкиваются.

Вот только лидера у них нет. Роевое поведение, а также его аналоги у птиц, рыб, стадных животных возникает, когда все участники следуют одним и тем же необычайно простым поведенческим правилам. Каждое животное (рыба, насекомое) избегает столкновений с другими животными и предметами, которые могут оказаться на его пути, старается держаться поближе к остальным, не соприкасаясь с ними, и движется в том же направлении, что и его соседи. Общение внутри роя, косяка или стаи ограничивается сенсорной информацией: зрительной, звуковой, реакцией на движение и вибрацию (боковая линия у рыб), а также запах (у муравьев).

В искусственных системах мы можем использовать более информативные способы коммуникации. Представим, что по шоссе движется группа автомобилей, связанных друг с другом через беспроводную сеть. Получается своего рода автомобильный рой. Поведение особей в обычном рое реактивное – они реагируют на действия друг друга. А искусственный рой, например группа автомобилей, способен на предиктивное поведение, поскольку машины могут сообщать друг другу о предполагаемых действиях и заранее на них реагировать.

Итак, у нас есть рой связанных друг с другом полностью автоматизированных автомобилей. Это дает им возможность быстро и безопасно двигаться по трассе. Кроме того, им не нужно соблюдать большую дистанцию, нескольких футов или метра будет достаточно. Если машина, идущая впереди, захочет сбавить скорость или затормозить, она заранее сообщит об этом остальным, и за тысячную долю секунды весь рой замедлится или остановится. Когда за рулем находятся люди, они должны соблюдать большую дистанцию, чтобы у водителей было время среагировать или решить, как следует поступить, а в автоматическом рое скорость реакции измеряется миллисекундами.

Для автомобильного роя не нужно делить шоссе на полосы – ведь они предназначены для того, чтобы помочь водителям избежать столкновения. В рое столкновения невозможны, значит, и полос не требуется. Не понадобятся также знаки остановки и светофоры – на перекрестке рой просто будет следовать своим правилам, чтобы не столкнуться с перпендикулярным потоком. Машины скорректируют скорость и местоположение, одни начнут двигаться медленнее, другие быстрее, и пересекающиеся потоки как по волшебству пройдут сквозь друг друга без единого столкновения. Правда, здесь правила поведения в рое надо будет несколько изменить, чтобы машины в потоках продолжали следовать за прежними соседями, а не за новыми, но это сделать нетрудно.

А как же пешеходы? Теоретически правила, позволяющие избегать столкновений, должны распространяться и на них. Люди просто будут переходить улицу в любом месте, а машины замедлят или увеличат скорость, либо свернут в сторону, чтобы не оказаться на их пути. Переходить улицу будет, конечно, страшновато, от пешеходов потребуется абсолютное доверие к машинам, но такая схема возможна.

Но что, если машине необходимо покинуть рой или она едет не туда, куда остальные? Водитель сообщит ей о своих намерениях, а она, в свою очередь, проинформирует остальных. Водитель также может включить сигнал поворота, чтобы заявить о своем желании перестроиться, а машина передаст эти сведения соседям. Чтобы автомобиль мог перестроиться вправо, машина, идущая впереди в правом ряду, немного увеличит скорость, а задняя чуть замедлится. Слегка нажав на педаль тормоза, водитель сообщит о намерении сбавить скорость или остановиться, и другие машины дадут ему такую возможность.

Обмениваться информацией можно не только внутри роя, но и с другими роями. Так, рой, движущийся в одном направлении, может делиться информацией с роем, едущим в противоположную сторону, сообщая ему о том, что ждет его впереди. Кроме того, при интенсивном движении ведущая машина сможет передавать информацию остальным, информируя их об авариях, пробках и других дорожных проблемах.

Возможности объединения автомобилей в рой пока изучают лишь в исследовательских лабораториях. Чтобы воплотить эту идею в жизнь, необходимо решить ряд серьезных проблем. В частности, надо понять, как быть, если не все машины оснащены средствами беспроводной связи, необходимыми для движения в составе роя. Другая проблема связана с тем, что на дороге одновременно находятся автомобили разных моделей и разной технической оснащенности: у одних управление полностью автоматизировано и они оборудованы беспроводной связью, у других оборудование устарело, у третьих его вообще нет, а у четвертых оно вышло из строя. Следует ли машинам в составе роя определять, какая из них обладает наименьшими возможностями, и подстраиваться под ее действия? Ответить на эти вопросы пока не может никто.

Но и это еще не все. Допустим, что к рою, занимающему всю дорогу, приблизился водитель-экстремал. Если он захочет обогнать всех, ему надо просто прибавить скорость и проехать через рой – другие автомобили автоматически уступят ему дорогу. В этом нет ничего страшного, если такой водитель один, но если их будет много, может случиться катастрофа.

Кроме того, как уже отмечалось, машины различаются по своим характеристикам. Если они не автоматизированы, нужно учитывать возможное поведение их водителей – ведь у них разный уровень навыков, к тому же они могут быть рассеянны, сонливы и невнимательны. Кроме того, у тяжелых грузовиков реакция медленнее, а тормозной путь длиннее, чем у легковых автомобилей. К тому же разные модели отличаются по времени набора скорости, тормозному пути и маневренности.

Несмотря на перечисленные проблемы, движение роем имеет ряд преимуществ. Когда машины движутся почти вплотную друг к другу, увеличивается пропускная способность дорог, а значит, снижается вероятность пробок. Более того, в обычном потоке скорость снижается по мере роста интенсивности движения, а рой может ехать с постоянной скоростью и снижать ее только при чрезвычайной загруженности трассы. Наконец, минимальное расстояние между машинами способствует снижению аэродинамического сопротивления (именно поэтому велогонщики движутся плотной группой: когда едешь за лидером, сопротивление воздуха меньше). Впрочем, как бы то ни было, автомобильные рои появятся на дорогах еще не скоро.

Другое дело – колонны. Колонна представляет собой упрощенный, линейный рой. В колонне автомобили движутся впритык друг к другу, строго выдерживая скорость впереди идущей машины. При таком движении водитель необходим лишь ведущей машине, остальные попросту следуют за ней. Некоторые из преимуществ роя здесь сохраняются, в частности увеличение интенсивности движения и снижение сопротивления воздуха. Эксперименты, проводившиеся на реальных автомагистралях, показывают, что при движении в колонне пропускная способность трассы резко увеличивается. Наибольшие трудности здесь, как в рое, возникают, если водителям надо пристроиться к колонне или покинуть ее или если она состоит из смешанных машин, часть из которых не оборудована автоматическими средствами связи. И конечно, водитель, который стремится воспользоваться ситуацией или просто хулиганит, способен нарушить движение как в рое, так и в колонне.

Колонна и рой – лишь две из многочисленных форм автоматизации, над которыми сегодня работают ученые. Кстати, функция движения в колонне уже заложена в некоторые адаптивные системы круиз-контроля. В конце концов, если эта система способна снижать скорость при появлении другого автомобиля, она легко сможет отслеживать изменение его скорости, пока тот находится в радиусе ее действия. В интенсивном потоке такая машина будет следовать вплотную к впереди идущему автомобилю, увеличивая дистанцию лишь при увеличении скорости. А если она будет полностью автоматизирована, значительного увеличения дистанции вообще не потребуется. Когда машинами управляют не люди, а автоматы, движение становится куда более стабильным и упорядоченным – конечно, до тех пор, пока все работает как часы и не случается ничего непредвиденного.

Эффективное движение в колонне невозможно без полной автоматизации управления тормозами, рулем и скоростью. Более того, для этого требуется высокий уровень надежности, можно даже сказать – абсолютная надежность, настолько высокая, чтобы в ней нельзя было усомниться. Однако, как и в случае с роем, пока не ясно, как внедрить колонны в существующую схему дорожного движения, учитывая, что большое количество машин не способно держать такой строй. Как отделить автоматизированные автомобили от автомобилей с ручным управлением? Как покидать колонну и вливаться в нее? И как быть, если что-то пойдет не так?

Рой отлично работает в лабораторных условиях, но вообразить его на реальной дороге трудно. Колонна, пожалуй, более реалистичный вариант. Можно представить, что для движения колонн будут выделены специальные полосы и, прежде чем туда въехать, каждая машина будет проходить обязательную проверку оборудования связи и управления. Построение в колонну позволит увеличить среднюю скорость движения, уменьшить заторы и сэкономить топливо. Одним словом, этот вариант выглядит оптимальным. Главная сложность состоит в том, как обеспечить безопасное вливание машин в колонну и выход из нее и выполнить требования, предъявляемые к оборудованию.

Проблема ненужной автоматизации

В свое время я утверждал, что нынешний уровень автоматизации по определению не оптимален, поскольку представляет собой опасное «срединное состояние» – нет ни полностью ручного управления, ни полной автоматизации. Нужна либо полная автоматизация, либо никакой, настаивал я, а сегодня мы имеем некую полуавтоматизацию. Хуже того, автоматика берет на себя управление в простых ситуациях и сдается (как правило, без предупреждения), если возникают трудности. А требуется как раз обратное.

Если летчик или водитель осведомлен о состоянии своей машины, о внешних условиях, местоположении и состоянии других машин, постоянно реагирует на поступающую информацию и анализирует ее, он становится важнейшим звеном цепочки управления: оценивает ситуацию, принимает решения, действует, а затем отслеживает результат своих действий. Вы находитесь «в цепочке», когда аккуратно управляете автомобилем, внимательно следя за тем, что происходит вокруг вас. И когда готовите еду, стираете и даже играете в видеоигру. Главное, что при этом вы постоянно оцениваете ситуацию, принимаете решения и анализируете результаты.

Близкое понятие – это «владение обстановкой», означающее, что человек осведомлен о контексте, текущем положении дел и о том, что может произойти дальше. Теоретически даже при наличии полностью автоматизированного оборудования человек может оставаться «в цепочке» и полностью контролировать ситуацию, надо только постоянно следить за действиями приборов, оценивать положение и быть готовым вмешаться в случае необходимости. Однако пассивное наблюдение – дело довольно неблагодарное, особенно на дальних дистанциях, когда летчику или водителю приходится вести его много часов кряду. В экспериментальной психологии эту ситуацию часто называют вигильностью, и исследования – как теоретические, так и экспериментальные – показывают, что со временем ее уровень снижается. Люди просто не могут долго сосредоточиваться на монотонной деятельности.

Когда человек «выпадает из цепочки», он лишается доступа к информации. И если возникает осложнение, требующее мгновенной реакции, он не способен действовать эффективно. Чтобы вернуться «в цепочку», ему необходимо значительное время и усилия, а этого времени у него может не быть.

Вторая проблема, связанная с автоматизированным оборудованием, заключается в том, что мы склонны полагаться на него, даже если возникают осложнения. Два британских психолога, Невилл Стэнтон и Марк Янг из университета Брунела, изучали на автосимуляторе поведение водителей, использующих систему адаптивного круиз-контроля, и выяснили следующее. Когда автоматика работает, все идет отлично, но если круиз-контроль дает сбой, у водителей, использующих эту модную новинку, «аварийных ситуаций» оказывается больше, чем у тех, кто ею не пользуется. Это общая закономерность: автоматическое оборудование реально повышает уровень безопасности, пока не выходит из строя. Люди, привыкшие пользоваться автоматикой, не только «выпадают из цепочки», но и начинают слишком доверять технике. Поэтому в случае сбоя им труднее овладеть ситуацией, чем тем, кто не пользуется автоматизированным оборудованием. Этот феномен наблюдался в разных сферах деятельности – у летчиков, машинистов, водителей авто– мобилей.

Результаты склонности следовать указаниям автоматических приборов порой бывают гротескными. Так, жители английского городка Уилтшир нашли себе весьма прибыльное дело – вытаскивать из реки Эйвон автомобили, водители которых выполняли указания своих навигационных систем, даже если здравый смысл подсказывал, что в результате они заедут в реку. Точно так же даже опытные пилоты порой чрезмерно доверяют оборудованию своих самолетов. А круизный лайнер Royal Majesty наскочил на мель, потому что команда полностью полагалась на «умную» навигационную систему.

Эти проблемы заботят всех автопроизводителей. Помимо вопросов реального повышения уровня безопасности, их беспокоит, что в нынешнем сутяжническом обществе при малейшем сбое в оборудовании на них обрушится лавина исков. И как же они действуют? Осторожно, очень осторожно.

Езда на высокой скорости по загруженным магистралям – дело рискованное. Ежегодно в мире в автокатастрофах погибают 1,2 млн человек и еще 50 млн получают увечья. В этих обстоятельствах наша склонность полагаться на механизм (автомобиль) чревата для всех нас неоправданным риском. Автомобиль не только полезен, но и смертельно опасен.

Конечно, обучение водителей можно улучшить, но беда в том, что автомобиль опасен по определению. Проблемы здесь возникают очень быстро, не оставляя нам времени на раздумья. Уровень внимания у всех водителей то повышается, то снижается, так уж устроен человек. Поэтому даже в оптимальных условиях вождение автомобиля – дело небезопасное.

Если мы не можем автоматизировать автомобиль полностью, автоматические системы следует внедрять очень осторожно. Порой лучше вообще отказаться от них, а порой стоит серьезно увеличить участие человека в управлении – просто чтобы водитель владел ситуацией и был внимателен. Ручное управление автомобилем опасно. Полная автоматизация может повысить уровень безопасности. Проблема заключается в переходном периоде, когда автоматизированы лишь некоторые функции, у разных машин разный уровень автоматизации, а возможности самих автоматов ограниченны. Боюсь, что даже если частичная автоматизация и приведет к снижению общего числа автокатастроф, она обернется увеличением их масштаба (количества разбитых машин и человеческих жертв). Выстраивать отношения между машиной и ее владельцем нужно очень осторожно.

Глава 5. Задачи автоматизации

Зачем нужна автоматизация? Специалисты говорят: чтобы избавить человека от скучной, опасной и грязной работы. С этим трудно поспорить, но есть и другие причины – упростить выполнение сложной задачи, сократить персонал, развлечься или просто потому, что есть возможность что-то автоматизировать.

Даже удачная автоматизация имеет свою цену. Позволяя решить какие-то задачи, она неизменно порождает новые проблемы. Часто она хорошо выполняет поставленные задачи, но при этом увеличивается объем работ по ремонту и обслуживанию техники. В некоторых случаях, заменяя квалифицированных работников, она создает потребность в дополнительном обслуживающем персонале. В целом последствия автоматизации какой-то одной операции выходят далеко за рамки самой этой задачи. Применение автоматизации – вопрос системного характера. Меняются методы работы, структура занятости, при выполнении тех или иных задач одна группа населения замещается другой, зачастую замещаются и сами функции – на смену старым приходят новые. Одним автоматизация приносит пользу, для других, особенно для тех, кто в результате теряет работу или вынужден менять профессию, ее последствия просто ужасны.

Автоматизация даже самых простых операций имеет свои последствия. Возьмем такое будничное дело, как приготовление кофе. Я пользуюсь кофеваркой, которая управляется одним нажатием кнопки: она автоматически нагревает воду, мелет кофейные зерна, кипятит воду и фильтрует гущу. В результате, избавившись от утомительной ежедневной варки кофе, я взвалил на себя более трудоемкую задачу – уход за машиной. В кофеварку надо заливать воду и засыпать зерна, периодически ее следует разбирать и чистить, а части, вступающие в контакт с жидкостью, нужно еще и мыть, чтобы убрать остатки кофе и известковый налет (а затем снова мыть, чтобы не осталось следов чистящего средства). Нужно ли прилагать столько усилий ради упрощения задачи, которую в принципе не назовешь особенно трудной?

В данном случае можно сказать, что автоматизация позволяет мне свободнее распоряжаться своим временем. Чтобы не делать работу, пусть даже недолгую и простую, в неподходящий момент – утром, когда я еще сонный и должен спешить, – я готов потратить больше усилий, но тогда, когда мне это будет удобно.

Стремление к повышению уровня автоматизации уже не остановить, все шире становится круг задач и «автоматизированных» видов деятельности, все более «умными» и самостоятельными становятся машины, выполняющие эти задачи. Но к автоматизации нельзя относиться с фатальной обреченностью.
Более того, не следует думать, что она принесет нам только проблемы и хлопоты. Несомненно, можно создать технологии, которые максимально избавят людей от нудной, опасной и грязной работы, но при этом не будут иметь негативных побочных эффектов.

«Умные» вещи

«Умные» дома

Поздно вечером Майк Мозер читает книгу в гостиной своего дома в Боулдере, штат Колорадо. Через некоторое время он начинает зевать, потягивается, встает с кресла и идет в спальню. Дом, постоянно следящий за его действиями, решает, что Майк отправился спать, поэтому он выключает свет в гостиной и включает его в коридоре, спальне и ванной. Одновременно он отключает отопление. Вообще-то следит за Мозером не сам дом, а компьютерная система, она же регулирует освещение, отопление и прочее бытовое оборудование в соответствии с его предполагаемыми действиями. Это не простая компьютерная программа, а «нейронная сеть», копирующая способности нейронов, то есть человеческого мозга, к распознаванию образов и обучению. Система не просто распознает действия Мозера, но и в большинстве случаев может правильно их предугадать. «Нейронная сеть» – мощный распознаватель образов, а поскольку она еще и анализирует последовательность действий Мозера, учитывая время суток, в которое они происходят, то может довольно точно предсказать, что он будет делать и когда. В результате, после того как Мозер уходит на работу, система в целях экономии электроэнергии выключает отопление и водонагреватель, а к предполагаемому времени его возвращения вновь включает их, чтобы в доме было тепло.

Можно назвать этот дом «умным»? Сам Майк Мозер, разработавший эту автоматизированную систему, так не считает, он называет ее «адаптивной». Очень полезно оценить опыт Мозера, чтобы понять, что значит «умный». Его дом оборудован семьюдесятью пятью сенсорами, следящими за температурой, уровнем естественного освещения, звука, за дверьми и окнами, погодными условиями, солнцем и любыми перемещениями хозяев дома. Отоплением, подогревом воды, электрическим освещением и вентиляцией управляют автоматические регуляторы. Общая протяженность проводов, которыми оснащена система, превышает пять миль. Программное обеспечение «нейронной сети» способно к обучению, поэтому дом постоянно приспосабливается к предпочтениям Мозера. Если он выбирает не тот вариант действий, Мозер его поправляет, и дом начинает вести себя иначе. Один из гостей-журналистов так описал этот процесс:

...

Мозер продемонстрировал, как работает освещение в ванной. Когда он туда входит, свет включается автоматически, но на минимальном уровне. «Система выбирает самый низкий уровень освещенности и подогрева, и, если я недоволен ее решением, я должен об этом сообщить», – поясняет он. Выражая неудовольствие, он нажимает на выключатель, заставляя систему сделать свет ярче и «запомнить урок», чтобы в следующий раз, когда он войдет в комнату, она выбрала более высокий уровень освещенности.

Впрочем, не только хозяин обучает дом – тот, в свою очередь, дисциплинирует хозяина. Засидевшись допоздна на работе в университете, Мозер порой понимает, что ему надо спешить домой. Ведь дом давно ждет его, он уже включил отопление и греет воду, готовясь к его приходу. И тут возникает интересный вопрос: почему он не может просто позвонить и сообщить дому, что сегодня придет позже? Ведь однажды результатом его попытки найти и устранить поломку в оборудовании стало усовершенствование системы, позволяющее определять, кто из домочадцев слишком долго плещется в ванной. «После устранения неполадки, – рассказывает Мозер, – мы внедрили в систему соответствующую функцию, чтобы обитатели дома знали, как они тратят свое время». Итак, дом предупреждает жильцов, что они проводят в душе слишком много времени. Вот зануда, не правда ли?

Можно назвать этот дом «умным»? Вот что думает сам Мозер о пределах «разумности» автоматической системы управления:

...

В связи с проектом «Адаптивный дом» мы не раз устраивали мозговые штурмы в поисках пути его развития, но большинство идей оказались нецелесообразными. К примеру, предлагалось автоматизировать системы, связанные с досугом обитателей, – проигрыватели, телевизоры, радио и так далее. Однако проблема с выбором развлекательных видео– и аудиозаписей заключается в том, что предпочтения обитателей зависят от их настроения, о котором трудно судить по внешним признакам. Так что, даже если наделить систему «зрением», она, скорее всего, не угадает пожелания хозяев дома и будет их только раздражать. Причем сильно, потому что желание человека послушать музыку или посмотреть телевизор, как правило, носит совершенно осознанный характер. Это не похоже на автоматическое регулирование отопления, когда обитатели обращают внимание на температуру только если она становится некомфортной. Если люди точно знают, чего хотят, и могут добиться этого простым нажатием кнопки, ошибки (например, включение проигрывателя в то время, как человек сосредоточен на какой-то сложной проблеме) здесь недопустимы. Соотношение выгод и затрат в данном случае явно в пользу ручного управления.

Если бы только дом мог читать мысли хозяина! Именно эта неспособность читать мысли, или, по-научному, предугадывать намерения человека, и является главным изъяном «умных» систем. Проблема отнюдь не ограничивается отсутствием общей основы, о чем знают все, кому приходилось жить вместе с другим человеком. Даже если у вас большой совместный опыт, угадать, как намерен поступить другой человек, непросто. Вроде бы знаменитые английские дворецкие способны предвосхищать потребности и пожелания хозяина, хотя я знаю об этом только из художественной литературы и телефильмов – не самых надежных источников информации. Но и в этом случае успехи дворецкого во многом обусловлены тем, что жизнь его хозяина регулируется графиком светских мероприятий, позволяющим определить, что именно нужно сделать в данный момент.

Автоматические системы, принимающие решения о тех или иных действиях, естественно, могут ошибаться. Эти ошибки проявляются двояко – в промахах и ложной тревоге. Промах – это когда система неправильно оценила ситуацию и предприняла неадекватные действия, а ложная тревога – когда она действует без необходимости. Возьмем автоматизированную систему пожарной безопасности. Промах здесь – если она не предупредила о реально возникшем пожаре, а ложная тревога – если подала сигнал в отсутствие пожара. Последствия этих двух типов ошибок будут очень разными.

Промах в случае реального пожара чреват катастрофическими последствиями, но и ложная тревога может создать проблемы. Если единственная задача системы пожарной безопасности – подать предупреждающий сигнал, то ложная тревога лишь вызовет досаду, однако при этом она снизит доверие к системе. А если она еще включит спринклеры и вызовет пожарных? В этом случае ущерб может быть весьма существенным, например, вода может повредить какие-то ценные вещи. Когда «умный» дом неправильно истолковывает намерения хозяев, издержки от промахов и ложных тревог, как правило, невелики. Если стереосистема внезапно включится, поскольку дом решил, что хозяину хотелось бы послушать музыку, это неприятно, но никакой опасностью не грозит. Если система прилежно включает отопление каждое утро, хотя хозяева находятся в отпуске, серьезных последствий тоже не будет. А вот если водитель рассчитывает на то, что автомобиль не даст ему слишком приблизиться к впереди идущей машине, промах системы может создать угрозу жизни людей. Угроза жизни может возникнуть и в случае ложной тревоги, если машина, скажем, вильнет в сторону, сочтя, что водитель покинул свой ряд, или внезапно затормозит, ошибочно усмотрев впереди какое-то препятствие. Ведь водителей других автомобилей это может застать врасплох и они не успеют вовремя отреагировать.

Ложная тревога, независимо от того, создает ли она угрозу или просто раздражает, неизбежно ведет к утрате доверия. После нескольких ложных сигналов систему оповещения просто будут игнорировать. И в случае реального пожара жильцы дома, скорее всего, не обратят внимания на предупреждающий сигнал, приняв его за очередную ложную тревогу. Доверие возникает постепенно и основывается на опыте и постоянном надежном взаимодействии.

Автоматизированный дом Мозера устраивает хозяина, поскольку он сам разработал эту систему и довольно снисходительно относится к ее ошибкам. Для него, специалиста по «нейронным сетям», дом – это не только жилище, но и исследовательская лаборатория. Это впечатляющий эксперимент. Побывать в доме Мозера мне было бы очень интересно, но жить в нем я бы вряд ли захотел.

Дома, помогающие людям стать умнее

Группа ученых из научно-исследовательского центра Microsoft в Кембридже (Англия) пошла по другому пути: вместо полностью автоматизированного дома, который делает все сам, они разрабатывают жилище, которое помогает людям максимально проявить свои умственные способности. Возьмем непростую проблему координации действий обитателей дома – пусть это будет семья из двух работающих взрослых и двух подростков. Традиционный «технический» подход к согласованию расписаний разных людей – это создание «умных» календарей. К примеру, сравнивая расписания всех обитателей, дом может определить, когда подавать обед, кто кого везет на работу или в школу и т. п. Представьте, что ваш дом постоянно общается с вами, посылает sms, электронные письма, а то и звонит, чтобы напомнить о назначенных встречах, о том, когда будет ужин, когда заехать за другими членами семьи и даже у какого супермаркета остановиться по дороге домой.

Вы даже не заметите, как дом расширит свои полномочия – начнет рекомендовать вам статьи и телепередачи, которые, по его мнению, могут вас заинтересовать. Понравится вам такая жизнь? Похоже, многие ученые считают, что да. Именно так действует большинство конструкторов «умных» домов в университетских и корпоративных исследовательских центрах разных стран. Все это очень современно, очень эффективно, но совершенно «бесчеловечно».

Группа из кембриджской лаборатории Microsoft, напротив, исходит из того, что «умным» дом делают не технологии, а люди. Они решили, что нужно поддерживать не любые решения, а конкретные способы решения проблем конкретными семьями. Команда ученых занялась «этнографическими исследованиями», наблюдая за обитателями домов, изучая их повседневное поведение. Они не стремились вмешиваться в их жизнь, что-то в ней менять, а ограничились ненавязчивым наблюдением и фиксацией обычных занятий людей.

Позвольте сказать пару слов о методах исследований. Вы, наверное, думаете, что, если в ваш дом заявится команда ученых с магнитофонами и видеокамерами, их присутствие вряд ли можно считать ненавязчивым. На самом деле, когда речь идет об опытных исследователях, обычная семья быстро перестает их замечать и возвращается к обычной жизни, включающей неизбежные бытовые размолвки и споры. Подобные прикладные (или «ускоренные») этнографические исследования сильно отличаются от полевых исследований антропологов, годами живущих в разных экзотических уголках планеты и тщательно изучающих поведение той или иной группы людей. Когда ученые-прикладники, инженеры и дизайнеры изучают культуру современного домохозяйства, чтобы придумать нечто полезное, их целью является, во-первых, выявить слабые места, то есть те, где у людей возникают трудности, и, во-вторых, найти способы преодоления этих трудностей. Поэтому дизайнеры присматриваются к масштабным явлениям, главным источникам недовольства и раздражения, где простые решения могут дать серьезный позитивный эффект. И этот подход себя оправдывает.

Члены семьи общаются самыми разными способами. Скажем, пишут друг другу записки, оставляя их на видных местах: на стульях и столах, на компьютерных клавиатурах и мониторах, на дверях, перилах и спинках кроватей. Поскольку во многих семьях главным местом сбора является кухня, часто записки прикрепляют к холодильнику. Как правило, у холодильника стальной корпус и на него легко крепить магниты. Создатели магнитов, наверно, страшно удивились бы, узнав, что в современном доме они служат в основном для того, чтобы удерживать записки и напоминания, детские рисунки и фотографии на дверцах и стенках холодильников. В результате возникла целая отрасль, производящая магнитные блокнотики, зажимы, фоторамки и ручки для холодильников.

Дорогие холодильники часто делаются из нержавеющей стали, а дверцы облицовываются деревом, что приводит к исчезновению аффорданса – магниты на них не держатся. Когда это случилось со мной, я поначалу разозлился, выяснив, что красивая деревянная панель лишила нашу семью главного «узла связи». Можно, конечно, клеить стикеры, но выглядят они крайне неэстетично. К счастью, предприниматели обратили внимание на эту проблему и создали «доски объявлений», которые можно устанавливать на кухне: некоторые из них имеют стальную поверхность, так что к ним можно прикреплять магниты.

Проблемы создает и сама популярность холодильника в качестве «информационного бюллетеня» (об этом наглядно свидетельствует рисунок 5.1). Когда весь холодильник увешан записками, фотографиями, газетными вырезками, найти среди них свежие непросто. Кроме того, он не всегда оказывается самым подходящим местом для автора записки или ее адресата. Специалисты Microsoft разработали серию дополнительных информационных устройств, в частности набор «напоминающих» магнитов. В одном из вариантов магнит, после того как его сдвинули, какое-то время продолжает слабо светиться, привлекая внимание к новой записке. Другой вариант – это набор магнитов на разные дни недели: с наступлением «своего» дня магнит начинает светиться, ненавязчиво обращая внимание на себя. Таким образом, записку «мусор вывезут в среду утром» можно прикрепить к холодильнику магнитом с надписью «вторник».

Холодильник – вещь стационарная, но эту проблему можно решить с помощью технологий сотовой связи и Интернета. Та же группа исследователей разработала электронный планшет, изображенный на рисунке 5.2. Его можно поставить на кухне рядом с холодильником (или в любом другом месте) и размещать на нем «записки» дистанционно – с помощью электронной почты и sms. В результате на «доску объявлений» выводятся короткие сообщения, предназначенные для всех членов семьи или кого-то конкретно. Сообщения можно делать стилусом прямо на дисплее, а можно посылать по электронной почте или мобильному телефону (к примеру: «Задерживаюсь на совещании. Ужинайте без меня»). На рисунке 5.2Б показано, как действует электронный планшет. Один из детей, Уилл, отправил sms с просьбой заехать за ним. Он разместил записку для всех – на центральной «доске объявлений», поскольку не знал, кто из членов семьи сможет это сделать. Записку прочитал Тим и от руки написал на дисплее ответ, сообщая остальным членам семьи, что он сможет выполнить просьбу Уилла.

Рис. 5.1. Холодильник и «напоминающие» магниты, разработанные в кембриджской лаборатории Microsoft. На снимке показано, как выглядит типичная дверца холодильника, служащая «доской объявлений». Когда записок так много, трудно найти среди них нужную. Ниже показаны «умные» магниты. Прикрепите записку на среду соответствующим магнитом, и, когда наступит среда, магнит начнет слегка светиться, деликатно напоминая вам о том, что нужно сделать. (Снимки предоставлены Группой по разработке социоцифровых систем из научного-исследовательского центра Microsoft в Кембридже)

В других экспериментальных «умных» домах реализуются иные возможности аналогичного подхода. Представьте, что вы готовите тесто для пирога и тут звонит телефон. Вы отвечаете на звонок, но, вернувшись, уже не помните, на чем остановились. Вы помните, что насыпали муку в кастрюлю, но забыли, сколько ложек. В «знающем» доме, созданном специалистами из Технологического института штата Джорджия, вам поможет «коллаж повара». Телекамера, установленная снизу на кухонной полке, фиксирует процесс приготовления еды, показывая на экране его этапы. Если вам пришлось прерваться в середине процесса, на дисплее вы увидите свои последние действия и вспомните, на чем остановились. Эта концепция весьма напоминает подход ученых из Microsoft: дополняющие технологии должны использоваться по вашему желанию, быть удобными и гибкими. Хотите – пользуйтесь ими, хотите – игнорируйте.

Рис. 5.2. Кухонный дисплей, разработанный в кембриджской лаборатории Microsoft:

А: дисплей можно разместить где угодно, в данном случае для него выбрали место на кухне;

Б: один из детей (Уилл) отправил со своего мобильника на «доску объявлений» текстовое сообщение с просьбой, чтобы за ним заехали. Другой член семьи – Тим – написал стилусом на дисплее записку, чтобы все знали, что происходит.

Кто-нибудь сможет заехать за мной в 16:30? У.
Уилл на футболе. Я за ним заеду. Тим.
Отметим одно важное различие между устройствами, разработанными в Кембридже и Джорджии, и оборудованием «умного» дома в его традиционном понимании. Обе группы исследователей могли бы попытаться сделать технику «умной». Кембриджская команда могла наделить ее способностью распознавать, кто именно находится в комнате, и выводить на дисплей соответствующие сообщения, либо способностью читать ежедневники членов семьи и самостоятельно решать, о каких мероприятиях им следует напомнить и когда они должны выйти из дому, чтобы успеть на назначенную встречу. Таков подход большинства разработчиков «умных» домов. А специалисты из Технологического института в Атланте могли бы создать «помощника повара» с искусственным интеллектом, который умеет читать рецепты и дает человеку указания на каждом этапе приготовления пищи, или полностью автоматизированный прибор, способный самостоятельно испечь пирог. Однако они пошли по иному пути, разработав системы, ненавязчиво вписывающиеся в привычный образ жизни людей. Обе эти системы основаны на передовых технологиях, но главная цель их разработчиков – совершенствование, а не автоматизация.

«Умные» вещи: автономность или расширение возможностей?

Примеры с «умными» домами иллюстрируют два направления исследований, связанных с созданием «умных» вещей. Одно из них базируется на самостоятельной разумности – разработке систем, пытающихся угадать намерения людей. Второе основано на принципе дополняющей разумности – людям предлагаются полезные устройства, а они сами решают, где и когда ими воспользоваться. У обоих направлений есть как свои достоинства, так и свои недостатки.

Дополняющее оборудование комфортно, поскольку оставляет право выбора за человеком. Мы можем воспользоваться теми приспособлениями, которые считаем полезными, и проигнорировать те, что нам не нужны. Более того, поскольку все происходит без принуждения, разные люди делают разный выбор, подбирая технику под свой образ жизни.

Самостоятельные устройства полезны там, где речь идет о скучной, опасной или грязной работе, или там, где иным способом решить задачу нельзя. Взять хотя бы опасные поисково-спасательные работы, например обследование развалин после сильных землетрясений, пожаров и взрывов. Более того, даже в том случае, когда человек может справиться с задачей сам, всегда приятно, если работу за нас делает кто-то другой, пусть даже это машина.

Тем не менее некоторые операции мы автоматизировать пока не в состоянии. «Автоматизация отлично выглядит на бумаге… Но порой без людей не обойтись» – под таким заголовком в New York Times вышла статья о неудачной попытке внедрить автоматизированную систему обработки багажа в аэропорту Денвера (штат Колорадо). Как говорится в статье, она «сразу же приобрела известность своей способностью перепутать или отправить не туда огромную часть доверенных ей вещей». После десяти лет попыток наладить систему руководство аэропорта, израсходовав сотни миллионов долларов, сдалось и демонтировало ее.

Ситуация в аэропорту Денвера может служить примером автоматизации, которая на бумаге представлялась несложной, но была предпринята до того, как появились технологии, способные адекватно выполнять возложенные на них задачи. Вещи, которые люди сдают в багаж, сильно отличаются по размерам и форме. Их без разбора кладут на транспортерную ленту, а затем распределяют по транзитным рейсам или отправляют в зону получения багажа. Место назначения указывается с помощью штрих-кода на багажной бирке, но бывает, что бирки мнутся, заворачиваются, получают повреждения или просто не видны за ручками чемоданов, ремнями рюкзаков или другим багажом. Выполнение этой задачи сопряжено с большим количеством случайных и неизвестных факторов, и сегодняшним технологиям она просто не по зубам.

Заметим, что в тех же аэропортах есть шаттлы, доставляющие пассажиров из одного терминала в другой. Они полностью автоматизированы, но работают эффективно и без сбоев. Причина кроется не в различии уровня интеллекта разных систем, а в самой ситуации и характере выполняемых задач. При обработке багажа приходится иметь дело с предметами, каждый из которых уникален. А шаттлы передвигаются по одному неизменному маршруту. Поезд едет по рельсам, направлять его движение не нужно – по-другому он двигаться не может. Поэтому системе управления достаточно определить, когда он отправится и с какой скоростью. Чтобы узнать, не стоит ли кто-то в дверях, достаточно простых датчиков движения. Когда ситуация стабильна, а задача понятна, когда от машины не требуется быстрой адаптации, а неожиданности случаются редко, процесс можно полностью автоматизировать. В этих случаях автоматические системы работают эффективно, без сбоев, с большой пользой для всех.

Шошана Зубофф, специалист по социальной психологии из Гарвардской школы бизнеса, занималась изучением последствий автоматизации на производстве. Внедрение автоматического оборудования полностью изменило социальную структуру рабочей силы. С одной стороны, операторы теперь не принимают непосредственного участия в производственном процессе. Если раньше они чувствовали вибрацию станков, вдыхали испарения, слышали звуки и по собственным ощущениям могли определить, на какой стадии находится процесс, то теперь они сидят за пультами управления в комнатах со звукоизоляцией и кондиционерами, пытаясь представить, что происходит, по положению стрелок, показаниям индикаторов и прочих контрольно-измерительных приборов. Хотя эти изменения позитивно влияют на скорость и согласованность выполнения операций, из-за них работники оказались изолированными от процесса производства. Таким образом, предприятие уже не может использовать их многолетний опыт, позволяющий предвидеть поломки и прочие проблемы.

С другой стороны, внедрение компьютеризованных систем управления расширяет полномочия рабочих. Раньше они имели весьма слабое представление о производстве в целом и о том, как их действия влияют на работу предприятия. Сегодня благодаря компьютерам у них есть информация об общем положении дел и они могут оценивать результаты своего труда в более широком контексте. То есть они могут говорить с менеджерами и среднего, и высшего звена на одном языке, расширяя свой практический опыт и знание конкретных производственных процессов за счет информации, полученной от автоматических систем. Чтобы описать изменения, вызванные расширением доступа рабочих к информации благодаря автоматизации производства, Зубофф придумала специальный термин «информатизация».

Будущее дизайна: «умные» вещи как дополнение и расширение возможностей

Люди обладают множеством уникальных способностей, которые нельзя воспроизвести искусственно, по крайней мере сегодня. Автоматизируя и наделяя интеллектом технику, мы должны научиться смирению и понять, что нас могут ждать серьезные проблемы и неудачи. Нужно также иметь в виду, что люди и машины действуют абсолютно по-разному. В целом адаптивные автоматизированные системы важны и полезны. Но и они могут дать сбой при столкновении с базовыми ограничениями в возможностях взаимодействия человека и машины, которые связаны прежде всего с отсутствием общей основы (об этом мы подробно говорили в главе 2).

Самостоятельные, «умные» устройства доказали свою незаменимость в ситуациях, слишком опасных для людей. Пусть они не всегда работают как надо, но это лучше, чем подвергать риску жизнь человека. Кроме того, «умные» машины взяли на себя множество нудных, монотонных функций по поддержанию инфраструктуры: они корректируют рабочие параметры и следят за обстановкой там, где это слишком обременительно для человека.

У дополняющих технологий много достоинств. Рекомендательные сервисы, существующие во многих интернет-магазинах, дают нам возможность ознакомиться с разумными предложениями, но не докучают – ведь следовать этим рекомендациям мы не обязаны. Часто они угадывают наши предпочтения, и этого достаточно, чтобы мы были довольны их работой. Эти же технологии, проходящие экспериментальную проверку при создании «умных» домов (некоторые из них упоминались выше), помогают нам в решении бытовых проблем. И поскольку они не навязчивы, не подменяют нас, а расширяют наши возможности, мы охотно ими пользуемся.

Будущее дизайна, несомненно, связано с созданием «умных» устройств, которые будут управлять нашими автомобилями, готовить нам еду, следить за нашим здоровьем, мыть полы в наших домах, говорить, что нам есть и когда делать зарядку. Несмотря на огромные различия между людьми и машинами, «умные», самостоятельные системы могут быть очень полезны – при условии, что задача хорошо сформулирована, внешние условия стабильны, а взаимодействие машин и людей сведено к минимуму. Но внедрять их следует так, чтобы они помогали нам в наших делах, давали дополнительные возможности, делали нашу жизнь более приятной и благоустроенной, а не создавали дополнительных стрессов.

Глава 6. Общение с машинами

Свист чайника и шипение мяса, жарящегося на плите, напоминают о прежних временах, когда все можно было увидеть и услышать, и это позволяло нам создавать умозрительные, концептуальные модели того, что происходит вокруг нас. Эти модели показывали, как устранять неполадки, если что-то идет не так, позволяли понять, что будет дальше, экспериментировать. Механические устройства, как правило, объясняют себя сами. Их движущиеся части видны глазу, за ними можно наблюдать, ими можно управлять. Они издают естественные звуки, помогающие нам понять, что происходит, поэтому мы часто можем судить об их состоянии не глядя, просто по характеру шума, который они производят. Но сегодня многие из этих эффективных «индикаторов» скрыты от наших глаз и недоступны для слуха, их место заняла невидимая и беззвучная электроника. В результате многие устройства сегодня работают бесшумно и эффективно и кроме периодического постукивания жесткого диска или гула вентилятора никак себя не проявляют. Сможем ли мы получить информацию о работе прибора, о том, что происходит у него внутри, теперь зависит от доброй воли конструктора.

Общение, объяснение и понимание – на этих «трех китах» строится взаимодействие с разумными партнерами, будь то другие люди, животные или машины. Для совместной работы необходимы координация и коммуникация, а еще нужно хорошо понимать, чего можно ждать и по какой причине что-то произошло или нет. Это утверждение верно для любой команды – группы людей, опытного наездника и лошади, водителя и автомобиля, человека и автомата. Живые существа не могут без общения, оно заложено в их природе. Мы сообщаем о своем эмоциональном состоянии с помощью языка тела – походки, позы, жестов, выражения лица. А еще у нас есть речь. Животные тоже пользуются языком тела, у них есть свои позы и мимика. Мы можем судить о настроении наших домашних любимцев по положению их тела, хвоста или ушей. Опытный наездник сразу чувствует, напряжена лошадь или расслаблена.

И хотя машины – это творения человеческих рук, люди часто ждут от них идеальной работы, не понимая, как важен для любого сотрудничества постоянный диалог. Если машина работает безупречно, зачем нам знать, как именно она работает? Для чего? Позвольте рассказать одну историю.

Я сижу на конференции в роскошной аудитории Алмаденской исследовательской лаборатории IBM, расположенной среди живописных зеленых холмов на южной окраине Сан-Хосе (Калифорния). Доклад делает специалист по компьютерам, профессор Массачусетского технологического института, назовем его «профессор М». Он всячески расписывает достоинства разработанной им компьютерной программы. Рассказав о своей работе, профессор М. с гордостью переходит к наглядной демонстрации. Сначала он выводит на экран интернет-страничку, затем делает несколько магических пассов мышью, что-то набирает на клавиатуре – и на страничке появляется новая кнопка. «Так любой человек, не имеющий специальных навыков, может добавить новые элементы управления на свою веб-страничку», – говорит профессор (правда, никак не объясняя, зачем это может кому-то понадобиться). «А теперь внимание! Я покажу вам, как это работает», – гордо объявляет он. Щелкает мышью, мы зачарованно наблюдаем. Он снова щелкает. Мы ждем. Ничего не происходит.

Профессор М. в недоумении. Что делать, повторно запустить программу? Или перезагрузить компьютер? Слушатели – лучшие технические специалисты Кремниевой долины – с мест выкрикивают советы. Ученые из IBM носятся туда-сюда, пристально изучают его компьютер, становятся на четвереньки, проверяя соединения проводов. Секунды складываются в минуты. В аудитории раздаются смешки.

Профессор М. был так восхищен своей программой, что даже не подумал о том, что она может дать сбой. Ему и в голову не пришло оснастить ее системой обратной связи, позволяющей убедиться, что все работает как надо или, как в данном случае, установить причину неполадки. Позднее мы выяснили, что сама программа работала идеально, но узнать об этом было невозможно. Проблема заключалась в том, что система безопасности внутренней сети IBM не давала профессору доступа в Интернет. Однако без обратной связи, без данных о состоянии программы никто не мог выяснить причину сбоя. У программы не было такой простой функции, как подтверждение того, что она отреагировала на щелчок мышью, приступила к поэтапному выполнению внутренних инструкций, а теперь ищет Сеть и все еще ждет результатов поиска.

Невозможно создать правильную концептуальную модель без обратной связи. Сбой мог быть вызван десятком причин, но без соответствующей информации никто не понимал, в чем дело. Профессор М. нарушил основополагающее правило дизайна: ненавязчиво обеспечивать постоянную осведомленность о ситуации.

Обратная связь

Коллега прислал мне электронное письмо: «Я на совещании в Чили, в Винья-дель-Мар. Оно проходит в новом „Шератоне“, расположенном высоко над морем. Здесь много оригинальных дизайнерских решений, в том числе в устройстве лифтов. Их тут множество, кнопки вызова находятся по обе стороны холла. Двери лифтов стеклянные, открываются и закрываются бесшумно, нет никаких сигналов о том, что лифт пришел или уходит, а из-за посторонних шумов вы его не слышите. Увидеть лифт и понять, что дверь открылась, тоже трудно, если вы не стоите прямо перед ним. Определить, что он пришел, можно только по лампочке на кнопке вызова, но и ее не разглядишь, если находишься в центре холла. В первый день я трижды пропустил подошедший лифт».

Обратная связь информирует о происходящем, позволяя определить, что надо делать. Без нее вы не можете совершить даже элементарное действие, например подняться на лифте. От продуманной обратной связи зависит, будет ли система эффективной и удобной или только запутает и расстроит вас. Если непродуманная обратная связь способна вызвать раздражение даже в простых случаях, вроде описанного выше, что же будет, если речь пойдет о полностью автоматизированных самостоятельных устройствах?

Взаимодействуя с людьми, мы часто пытаемся представить, что они думают, каковы их взгляды, эмоциональное состояние. Нам нравится думать, что мы можем читать их мысли. Вспомните, как неприятно порой бывает иметь дело с человеком, не реагирующим на ваши слова ни словом, ни жестом. Он вообще слушает? Он понимает, о чем речь? Он согласен или нет? Общение в таких случаях становится натужным и неприятным. Без обратной связи мы не можем полноценно взаимодействовать ни с лифтом, ни с человеком, ни с «умной» машиной.

Вообще-то для взаимодействия с машинами обратная связь даже важнее, чем для взаимодействия с людьми. Мы должны знать, что происходит, что машина обнаружила, каково ее состояние, что она собирается предпринять. Нам нужно подтверждение даже того, что все в порядке.

Это относится и к повседневным вещам, например бытовым приборам. Как мы узнаем, что они исправны? К счастью, многие из них издают звуки: гудение холодильника, шум посудомоечной и стиральной машин, жужжание кондиционера дают нам понять, что оборудование работает, и работает нормально. У компьютера тоже есть вентилятор, а драйвер жесткого диска постукивает при работе, и это нас успокаивает. Отметим, что во всех приведенных примерах речь идет о естественных звуках, которые являются одним из побочных свидетельств работы механизма, а не добавлены в систему искусственным образом – по замыслу дизайнера или инженера. Эффект заключается именно в их естественности. Различные режимы работы часто сопровождаются небольшими изменениями в тональности звука, благодаря чему мы не только понимаем – прибор работает, но и можем определить, что именно он делает. По звуку можно также установить, все ли в порядке или возникли какие-то проблемы.

В последних моделях бытовых приборов конструкторы стремятся приглушить эти звуки, и не без оснований: уровень фонового шума в наших домах и офисах столь высок, что начинает нам мешать. Но когда система абсолютно бесшумна, невозможно понять, работает ли она вообще. Из примера с лифтами видно, что шум порой несет информационную нагрузку. Тишина – это хорошо, а безмолвие – не всегда.

Если звук в качестве механизма обратной связи мешает и раздражает, почему бы не использовать свет? Одна из проблем состоит в том, что свет сам по себе так же бессмыслен, как короткие гудки, которые постоянно издают наши бытовые приборы. Дело в том, что шумы возникают естественным образом в процессе работы приборов, а световые и звуковые сигналы встроены в них искусственно и сообщают только о том, что кажется важным их конструктору. Как правило, искусственные световые сигналы свидетельствуют лишь о простых двоичных состояниях: включено устройство или нет, работает оно или сломалось, подключено к сети или нет. Без инструкции человек не может догадаться об их смысле. Здесь нет никакого простора для интерпретаций, никаких нюансов: свет или гудок может означать, что все хорошо или что что-то сломалось, а нам часто остается гадать, что именно имеется в виду.

Каждое устройство имеет собственную систему световых и звуковых сигналов. Красный огонек на панели может означать, что прибор находится под напряжением, но не включен, или что он включен и работает нормально. Но иногда он говорит о каких-то неполадках, а нормальная работа обозначается зеленым светом. Некоторые световые сигналы мигают, другие меняют цвет. Зачастую в разных приборах одни и те же сигналы обозначают прямо противоположные вещи. Обратная связь бессмысленна, если не несет четкой информации.

Если что-то выходит из строя или мы вдруг решили изменить обычный режим работы прибора, нам необходима обратная связь, чтобы понять, что надо делать. А еще она нужна, чтобы мы знали, что наши указания выполнены, и понимали, что будет дальше – вернется ли система к нормальному режиму или сохранит особые настройки. Итак, обратная связь важна потому, что она:

– позволяет нам удостовериться, что все идет нормально;

– дает возможность понять, на каком этапе находится выполнение задачи и сколько времени осталось до ее завершения;

– обучает нас и служит указанием;

– сообщает об особых обстоятельствах;

– подтверждает, что задача выполнена;

– говорит о том, чего следует ожидать.

Сегодня многие автоматические устройства обеспечивают минимальную обратную связь, как правило, посредством звоночков, гудков, рингтонов и мигающих лампочек. Это скорее раздражает, чем информирует, а если и информирует, то в очень ограниченных пределах. Вне дома – в заводских цехах, на электростанциях, в операционных, в кабинах пилотов – при возникновении проблем огромное количество систем автоматического контроля и прочих устройств начинают подавать сигналы тревоги. Возникающая в результате какофония так мешает, что люди порой теряют драгоценные секунды, пытаясь отключить аварийную сигнализацию, чтобы сосредоточиться на устранении неполадок.

Поскольку в будущем «умных», самостоятельных машин вокруг нас будет все больше, необходимо найти более эффективные формы двустороннего взаимодействия. Людям нужна информация, которая поможет понять, что происходит и как на это реагировать, либо убедит в том, что никаких действий предпринимать не нужно. Взаимодействие должно быть постоянным, но ненавязчивым, требующим особого внимания лишь в тех случаях, когда это действительно необходимо. Большую часть времени, особенно когда все идет по плану, людям нужно лишь «не выпадать из цепочки», постоянно быть в курсе происходящего и проблем, которые могут возникнуть. Гудками и звонками этой задачи не решить, голосовыми сигналами тоже. Обратная связь должна быть эффективной, но «фоновой», чтобы не отвлекать нас от других дел.

Кто виноват – технологии или мы сами?

В книге «Дизайн привычных вещей» говорится о том, что, если у людей возникают затруднения с техникой, виновата всегда она или изъяны в ее дизайне. «Вините не себя, а технику», – говорю я читателям. Это так, но не всегда. Порой лучше, чтобы люди винили в неудаче себя. Почему? Потому что, если виноваты дизайн или технология, мы можем лишь злиться и жаловаться. А если виноват человек, он может измениться и научиться работать с техникой. Что конкретно я имею в виду? Позвольте рассказать вам историю о портативном компьютере Apple Newton.

В 1993 году я оставил спокойную жизнь ученого и устроился на работу в фирму Apple Computer. Мои первые шаги в мире коммерции были быстрыми и нелегкими. Сначала я вошел в группу экспертов, которым было поручено определить, будет ли AT&T закупать компьютеры Apple или лучше создать совместное предприятие по их производству, а затем следил за реализацией проекта Apple Newton. Оба проекта потерпели неудачу, но пример с Newton представляется мне более поучительным.

Итак, Newton… Это была блестящая идея, представленная с большой помпой. Еще бы, ведь речь шла о первом «персональном цифровом помощнике». По меркам того времени, это был небольшой портативный компьютер, и работал он в режиме рукописного ввода информации на сенсорный экран. История Newton имеет много аспектов (о нем написана не одна книга), но здесь мы остановимся на одном из его главных, роковых изъянов – системе распознавания рукописного ввода.

Создатели Newton утверждали, что он способен распознавать рукописный текст и преобразовывать его в печатный. Идея отличная, но тогда, в 1993 году, эффективных систем распознавания рукописных текстов не было. Задача эта технически очень сложная, и по сей день окончательно она не решена. Систему для Newton разработала группа российских ученых и программистов, работавших в небольшой фирме Paragraph International. Это был весьма передовой программный продукт, но при его разработке не было соблюдено сформулированное мною правило человекомашинного взаимодействия: работа таких систем должна быть понятна пользователю.

Сначала система математическим путем преобразовывала каждый штрих написанного от руки слова, перенося его в абстрактное многомерное пространство, а затем сравнивала написанное со своей базой данных английских слов, выбирая из них ближайшее в этом абстрактном пространстве. Если прочтя это предложение, вы не поняли, как Newton распознавал слова, не волнуйтесь. Даже самые продвинутые пользователи этого портативного компьютера не могли объяснить, почему он делал ошибки. Когда система распознавания рукописного ввода действовала, все было прекрасно, но стоило ей дать сбой – и результат был просто ужасен. Проблема заключалась в огромной разнице между сложным многомерным математическим пространством, использовавшимся в системе, и человеческим восприятием. Казалось, между тем, что написал пользователь, и текстом, который выдавала система, не было ничего общего. На самом деле связь была, но лишь на уровне сложных математических выкладок, недоступная для человека, пытавшегося взять в толк, как действует Newton.

Появление нового компьютера в продаже сопровождалось большим шумом. Люди часами стояли в очереди, чтобы купить его первыми. Способность Newton распознавать рукописные тексты рекламировалась как выдающееся новшество. На практике, однако, он полностью провалился, дав богатую пищу для зубоскальства карикатуристу Гарри Трюдо, одному из первых его обладателей. В серии комиксов о приключениях героя по имени Дунсбери он вдоволь поиздевался над Newton. Рисунок 6.1 демонстрирует самый известный образчик его творчества, получивший у противников и поклонников Newton название «рябое яйцо». Я не знаю, действительно ли компьютер мог преобразовать вопрос «Разбираешься?» в словосочетание «рябое яйцо», но, учитывая гротескные «ляпы», которые он часто выдавал, в этом нет ничего невероятного.

Я рассказал эту историю не для того, чтобы в очередной раз высмеять Newton, а для того, чтобы извлечь уроки из изъянов этого проекта. Уроки эти касаются коммуникации между человеком и машиной: реакция системы должна быть понятной и объяснимой. Если машина делает не то, чего от нее ждут, человек должен знать, какие именно действия ему надо предпринять, чтобы получить желаемое.

Рис. 6.1. Комикс Гэрри Трюдо из серии «Дунсбери», которому многие приписывают роковую роль в судьбе компьютера Newton. Насмешку он вполне заслужил, но реакция людей на эту популярную карикатуру была убийственной. В чем же реальная причина провала Newton?

В отсутствии внятной обратной связи. Doomsbury © 1993 G.B. Trudeau. Печатается с разрешения Universal Press Syndicate. Все права защищены.

1. Я пишу тестовую фразу / Ян слышит крестовую заразу

2. Я пишу тестовую фразу / Як ищет вкусовую фазу

3. Я пишу тестовую фразу / Я пишу тестовую фразу

4. Разбираешься? / Рябое яйцо?

Через несколько лет после истории с «рябым яйцом» Лари Ягер, сотрудник Группы передовых технологий Apple, разработал куда более совершенный метод распознавания рукописного ввода. Впрочем, куда важнее было то, что новой системе – ее назвали «Розетта» – удалось преодолеть роковой изъян системы Paragraph: ее ошибки были доступны для понимания. Допустим, слово «река» она могла прочесть как «оека», но это устраивало пользователей, поскольку неправильно воспроизводилась только одна буква и по очертаниям она была похожа на «р». Получив «рябое яйцо» вместо «разбираешься», вы обрушиваетесь на Newton, ругая на все корки «дурацкую машину». Но получив «оека» вместо «река», вы понимаете, что винить надо самого себя: «Ага, значит, я сделал черточку в „р“ слишком короткой, и машина приняла ее за „о“».

Заметим, что иной концептуальный подход полностью меняет и адресата обвинений. Среди «антропоцентричных» дизайнеров бытует мнение: если машина не дает ожидаемых результатов, виновата она сама или ее конструктивные изъяны. Если компьютер не распознает почерк и к тому же причина не ясна, люди обвиняют машину, злятся и раздражаются. Но с «Розеттой» ситуация прямо противоположная: люди охотно берут вину на себя, сочтя, что они что-то сделали неправильно и требования, предъявляемые к ним, вполне разумны. Они не сердятся, просто в следующий раз пишут аккуратнее.

Вот что сгубило Newton. Люди винили его в том, что он «не читал» их почерк. К тому времени, когда Apple разработала удобную и эффективную систему распознавания, было уже поздно. Переломить сложившееся негативное отношение к компьютеру оказалось невозможно. Если бы его система распознавания с самого начала была не столь точной, но более понятной пользователям, его, возможно, ждал бы коммерческий успех. История Newton – наглядный пример того, что устройство, не обеспечивающее осмысленной обратной связи, обречено на коммерческий провал.

В 1996 году, когда компания Palm выпустила в продажу своего «персонального цифрового помощника» (Palm Pilot), она создала для него искусственный язык под названием «Граффити». Чтобы пользоваться компьютером, людям приходилось осваивать новую манеру письма. Создатели «Граффити» придумали буквы, напоминающие обычный печатный шрифт, но измененные таким образом, чтобы максимально облегчить задачу машине. Буквы были очень похожи на печатные, так что обучиться новому написанию было легко. Программа «Граффити» распознавала не слова, а отдельные буквы, поэтому, если она допускала ошибку, то только в одной букве. Кроме того, установить причину ошибки было нетрудно. Благодаря понятному, легко объяснимому характеру сбоев в распознавании пользователи могли сообразить, где они ошиблись и как избежать ошибки в следующий раз. Ошибки даже придавали людям уверенности, помогали смоделировать работу системы распознавания и к тому же улучшить свой почерк. Newton потерпел неудачу – Palm Pilot принес создателям коммерческий успех.

Обратная связь необходима, чтобы понять, как работает любая система, она позволяет нам согласованно взаимодействовать с машинами. Сегодня мы слишком полагаемся на предупредительные и тревожные сигналы – внезапные, резкие и не слишком информативные. Гудок, вибрация или мигающая лампочка просто сообщают о неисправности, не уточняя, что именно случилось. К тому времени, как нам удается выяснить, в чем проблема, исправить что-то бывает уже поздно. Нам нужен постоянный и более естественный способ получения информации о том, что происходит вокруг нас. Вспомним бедного профессора М. – без обратной связи он даже не мог понять, работает его программа или нет.
Что можно сказать о методах совершенствования обратной связи? Основные были названы в главе «Естественное взаимодействие»: имплицитная коммуникация, естественные звуки и действия, спокойные внятные сигналы и использование естественных соответствий между сигнальными устройствами и нашим мировосприятием.

Естественные сигналы искусственного происхождения

Вам приходилось видеть, как кто-нибудь помогает водителю припарковаться в узком пространстве? Он стоит около машины так, чтобы водитель хорошо его видел, и расставленными руками показывает расстояние между автомобилем и препятствием. По мере продвижения машины он постепенно сдвигает руки, демонстрируя, на сколько уменьшилась дистанция. Этот метод хорош своей естественностью, здесь ни о чем не надо договариваться заранее, не нужно никаких указаний и объяснений.

Косвенные сигналы могут быть умышленными – их специально придумывают люди (как в приведенном выше примере) или конструкторы для машин. Есть простые, естественные способы общения, позволяющие передать информацию без слов и практически без специальной подготовки. Почему бы не использовать их для общения между людьми и машинами?

Многие современные автомобили оснащены системой «парктроник», показывающей водителю расстояние до соседних машин. Индикатор издает серию гудков: бип (пауза), бип (пауза), бип. По мере приближения к препятствию паузы между гудками сокращаются. Когда они сливаются в один непрерывный гудок, пора останавливаться, машина вот-вот столкнется с препятствием. Этот сигнал, как и любой человеческий жест, водитель понимает без специальных пояснений.

Естественные сигналы, например щелчки жесткого диска после получения команды или знакомый звук кипящей воды на кухне, информируют людей о том, что происходит вокруг. Они содержат достаточно информации для обеспечения обратной связи, но увеличивают когнитивную нагрузку. Марк Вайзер и Джон Сили Браун, ученые из Исследовательского центра Xerox (PARC) в Пало-Альто, назвали это «спокойной технологией», которая «взаимодействует как с центром, так и с периферией нашего внимания, точнее – переключается с одного на другую». Центр – это то, чем мы занимаемся, на чем сосредоточено все наше внимание. Периферия – это то, что происходит вовне, но не проходит для нас незамеченным. Как отмечают Вайзер и Браун,

...

мы используем понятие «периферия», чтобы обозначить то, на что мы обращаем внимание, но не концентрируемся. Обычно за рулем наше внимание сосредоточено на дороге, радиоприемнике, пассажирах, но не на шуме мотора. Однако необычный шум замечается мгновенно: мы держим работу мотора в зоне периферийного внимания и можем быстро на нее переключиться… «Спокойная» технология обеспечивает плавное переключение внимания с периферии на центр и обратно. Это успокаивает.

Во-первых, «периферийно» мы способны уделить внимание гораздо большему числу вещей. Значительная часть нашего мозга отвечает за периферийную (сенсорную) обработку, поэтому периферийная информация поступает, не перегружая нас.

Во-вторых, перенося что-то с периферии в центр, мы начинаем это контролировать.

Отметим фразу «информирует, не перегружая». В этом заключается секрет спокойной, естественной коммуникации.

Естественное соответствие

В «Дизайне привычных вещей» я объясняю, как можно применять «естественное соответствие» для размещения элементов управления на бытовых приборах. К примеру, у плит традиционно имеется четыре конфорки, и расположены они в виде двухмерного четырехугольника. Тем не менее ручки, с помощью которых мы их включаем, всегда располагаются в линию. Поэтому люди часто включают или выключают не ту конфорку, даже если ручки имеют соответствующие обозначения, – отчасти потому, что между конфорками и ручками управления нет естественного соответствия, а отчасти потому, что чуть ли не у каждой модели плиты имеется собственная система взаимного расположения конфорок и ручек. Специалисты по «человеческому фактору» давно доказали: если бы ручки тоже размещались четырехугольником, никаких обозначений просто не понадобилось бы – каждая из них соответствовала бы «своей» конфорке. Одни изготовители плит решают эту задачу хорошо, другие – плохо. А некоторые решают ее удачно в одних моделях и неудачно в других.

Научные принципы правильного расположения различных устройств очевидны. Если речь идет об элементах управления, освещения и конфорках, естественным соответствием будет такое размещение в пространстве, при котором они расположены так же, как и элементы, которыми они управляют, и, по возможности, в той же плоскости. Но зачем сводить естественное соответствие только к пространственному аспекту? Этот принцип можно распространить на множество других областей.

В частности, активно обсуждается вопрос о звуке, поскольку он является важнейшим источником обратной связи. Звук играет большую роль в нашей «естественной» осведомленности о положении дел. Не меньшую роль играет вибрация. Когда на заре авиации аэроплан сваливался в «штопор», падение подъемной силы вызывало вибрацию ручки управления. Сегодня самолеты стали больше, они оснащены автоматизированными системами управления, и пилоты уже не ощущают этого естественного сигнала тревоги, поэтому вибрация воспроизводится искусственно. Если бортовой компьютер считает, что самолет может свалиться в «штопор», он предупреждает летчика, потряхивая ручку управления. Это полезное устройство называется «автоматом тряски штурвала».

Когда в автомобилях появились усилители руля, то есть сила человека умножилась с помощью гидравлических и электрических приспособлений, водители начали испытывать трудности с управлением – без обратной связи с дорогой они быстро теряли навык. Поэтому в современных автомобилях тщательно рассчитывается требуемое усилие и частично воспроизводится естественная вибрация от дорожного полотна. «Чувство дороги» обеспечивает необходимую обратную связь.

Рифленые «шумовые полосы» на трассах предупреждают водителя, что он случайно съехал с дороги. Когда эта система только вводилась, инженеры могли использовать только само дорожное полотно – в нем прорезались желобки, которые при попадании под колеса вызывали рокочущий звук. Тот же принцип применяется и для предупреждения об ограничении скорости: там, где водитель должен остановиться или снизить скорость, перпендикулярно полосе устраивают «стиральную доску» из бороздок. Расстояние между бороздами постепенно уменьшается, и, если водитель недостаточно сбросил скорость, рокочущий звук становится сплошным. Хотя подобные шумовые преграды создаются искусственно, они доказали свою эффективность.

Был проведен ряд успешных экспериментов с оснащением водительских кресел вибраторами: правая и левая части кресла начинают вибрировать, если машина слишком отклонилась соответственно вправо или влево. Это похоже на эффект рифленой шумовой полосы. А можно сделать так, чтобы передняя часть машины или сиденья начинала вибрировать, если она слишком приблизится к впереди идущему автомобилю или превысит безопасную скорость. Эти сигналы эффективно информируют водителя о дорожной ситуации и других машинах. Они соответствуют двум принципам: естественное соответствие и постоянная неназойливая осведомленность. Вибрация сидений обеспечивает естественное соответствие этого ощущения положению соседних автомобилей: сиденье постоянно (но мягко) вибрирует, реагируя на присутствие вокруг других машин, и таким образом водитель непрерывно получает необходимую информацию. Вибрация эта несильная, ненавязчивая, как и другие звуки окружающего нас мира, она информирует о происходящем, но не требует полного внимания, а потому не вторгается в наше сознание. Вот как можно быть в курсе дела и не испытывать раздражения.

Естественные сигналы обеспечивают эффективную коммуникацию. Сказанное в предыдущих главах можно суммировать в виде шести коротких правил, касающихся характера коммуникации между людьми и машинами. Когда люди взаимодействуют друг с другом, они, зачастую подсознательно, следуют ряду неписаных правил и договоренностей. Эти правила, составляющие основу социального взаимодействия и культуры, вырабатывались тысячелетиями. Такой роскоши в общении с машинами мы себе позволить не можем, но, к счастью, этого и не требуется. Многие из них нам уже известны. Вот они – в простом изложении, чтобы дизайнеры и инженеры могли воплотить их в своих устройствах:

1. Богатая, комплексная и естественная система сигналов.

2. Предсказуемость.

3. Хорошая концептуальная модель.

4. Понятная информация «на выходе».

5. Осведомленность – постоянная и неназойливая.
6. Естественное соответствие, позволяющее сделать взаимодействие понятным и эффективным.
Наша жизнь становится все более автоматизированной, и задача дизайнеров – сделать так, чтобы люди не теряли с ней связи. Чтобы они получали информацию о том, что их окружает, и она позволяла бы им воспользоваться преимуществами автоматизации: занимаясь другими делами, иметь возможность вмешаться, когда ситуация этого требует.

Когда дело касается «умных» систем, сохранить этот баланс непросто. Главная проблема, на мой взгляд, связана с отсутствием у людей и машин общей основы. Ее не решить простым созданием новых моделей. Чтобы понять суть проблемы, понадобятся десятки лет научной работы. Возможно, когда-нибудь мы научимся создавать более живые, более совершенные «умные» машины. Тогда мы сможем делать их более сложными, найти общую основу и обеспечить реальный диалог человека и машины. Но до этого еще очень далеко.
Для того чтобы мы могли эффективно взаимодействовать с машинами, им надо стать предсказуемыми и понятными. Люди должны знать их характеристики, понимать, что и как они делают в данный момент и что будет дальше. Взаимодействие должно быть естественным. Причем информация о характеристиках и действиях машин должна быть непрерывной, ненавязчивой и эффективной. Это ключевой момент. Наши машины пока не отвечают этим требованиям. Так что нам есть к чему стремиться.

Глава 7. Будущее привычных вещей

«Что, если предметы вокруг нас вдруг оживут? Что, если они смогут ощущать наше присутствие, объект нашего внимания, наши действия и реагировать на это соответствующей информацией, рекомендациями и действиями?» Как вам это понравится? Профессор Пэтти Маэс из Медиа-лаборатории Массачусетского технологического института надеется, что понравится. Она занимается разработкой именно таких устройств. «Например, – рассказывает Маэс, – мы создаем технологии, благодаря которым книга, которую вы держите в руках, сообщит, какие отрывки будут вам особенно интересны… а фотография бабушки на стене будет рассказывать, как у нее дела, всякий раз, как вы на нее посмотрите».

«Свет мой, зеркальце! скажи да всю правду доложи. Я ль на свете всех милее, всех румяней и белее?» Злая мачеха Белоснежки задавала этот вопрос удивительному волшебному зеркалу, которое всегда говорило правду, какой бы горькой она ни была. Сегодня ученые подумывают о создании более тактичных зеркал, правда и вопросы, на которые они смогут ответить, будут попроще:

Свет мой, зеркальце, ответь,

это я могу надеть?

В будущем зеркала смогут делать то, о чем зеркальце мачехи не могло и мечтать: «поделиться» вашим изображением с вашими друзьями и близкими, чтобы они высказали замечания о выбранном вами костюме. Впрочем, современное «волшебное» зеркальце может не только отвечать на вопросы и демонстрировать ваш облик другим людям. Ему под силу его изменить: сделать вас стройнее, показать, как на вас будет сидеть новая одежда, так что вам не придется ее примерять, или изменить вашу прическу.

Ярко-красный не твой цвет,

вот, примерь этот жакет.

«Умные» технологии способны радовать нас, облегчать нашу жизнь и делать ее более безопасной. Вот бы только они работали идеально, вот бы только нам научиться ими пользоваться!

Давным-давно, в другом столетии и в тридевятом царстве, я писал о людях, которые не могут совладать с микроволновой печью, установить таймер на бытовых приборах, включить или выключить нужную конфорку и даже открыть или закрыть дверь. Это были далекие 1980-е, тридевятое царство звалось Англией, а те, о ком шла речь, были самыми обычными людьми, взрослыми и детьми, малообразованными и высокоучеными. Свою книгу, которая первоначально называлась «Психология привычных вещей», а затем «Дизайн привычных вещей», я начал с цитаты, в которой говорилось о видном ученом и бизнесмене, основателе и главе крупной компьютерной фирмы. Он признавался, что не знает, как подогреть чашку кофе в микроволновке на офисной кухне.

Мы вступаем в новую эпоху, когда привычные вещи становятся все умнее. Это происходит в разных областях, но особенно быстро – в автомобилестроении. Однако то, что сегодня происходит с автомобилями, завтра будет происходить на кухне, в ванной и гостиной. Автопроизводители разных стран разработали программу «Умный автомобиль», чтобы максимально автоматизировать вождение и тем самым повысить уровень комфорта и безопасности людей. Недалек тот день, когда в нашу жизнь войдут полностью самоуправляемые автомобили, частично самоуправляемые есть уже сейчас.

«Интеллектуальные агенты», «умные» дома, «интеллектуальные среды» – так называются различные исследовательские проекты, над которыми сегодня работают многие университеты и научные лаборатории. Они предусматривают создание систем, выбирающих для вас музыку, регулирующих освещение в комнатах (по яркости и цвету) – в общем, модифицирующих среду обитания, отчасти ради нашего удовольствия и комфорта, отчасти по экологическим соображениям, связанным, например, с энергопотреблением. Другие программы следят за тем, что мы едим, чем занимаемся и даже с кем мы общаемся.

В условиях рыночной экономики потребителям постоянно предлагают новые услуги – не потому, что на них есть спрос, а потому, что компаниям нужно увеличивать объемы продаж. Я беседовал с дизайнерами мобильных телефонов и бытовых приборов, с операторами сетей сотовой связи. «В нашей стране мобильный телефон уже есть у каждого, – сказали мне в Южной Корее, – поэтому нам надо думать о дополнительных услугах: чтобы телефон мог сообщать вам, есть ли поблизости ваши друзья, чтобы с его помощью можно было оплачивать счета, чтобы он мог удостоверить вашу личность и сообщить расписание работы транспорта». Одним словом, речь идет о телефонах, чувствующих ваше настроение и дающих вам рекомендации.

Автопроизводители давно уже поняли, что машину можно подавать как модную вещь, которую нужно регулярно менять, чтобы не отстать от последних веяний. Так же действуют и производители мобильных телефонов. Часы вообще продаются не как техника, а как ювелирные изделия. На дверцах холодильников сегодня появились цветные дисплеи (рядом с устройством для изготовления льда и подачи воды). На них отображается информация, которая, по мнению дизайнеров, будет вам полезна. В будущем на упаковках продуктов питания появятся цифровые метки, и холодильник будет знать, что находится у него внутри, что вы туда положили или оттуда достали. Он также будет в курсе срока годности продуктов, вашего веса и диеты. И будет постоянно давать вам советы.

Машины станут более общительными, они смогут разговаривать не только с владельцами, но и друг с другом. Одна фирма, занимающаяся видеопрокатом, уже анализирует фильмы, которые вы смотрите, сравнивает вашу оценку с оценкой ваших друзей и высылает вам по электронной почте список рекомендуемых фильмов, которые вы еще не видели. Возможно, когда-нибудь холодильник начнет давать вам советы, сравнивая свое содержимое с содержимым холодильников ваших соседей. Аудио– и видеосистемы будут анализировать музыкальные предпочтения, а телевизор – брать на заметку передачи, которые смотрят ваши соседи. И однажды он сообщит: «Ваши друзья сейчас смотрят „Двенадцать обезьян“. Я тоже включил этот фильм, и, хотя он уже идет, вы можете посмотреть его с начала».

Одновременно с повышением уровня интеллекта наших машин, расширением их возможностей, в том числе коммуникационных, происходит настоящая революция в сфере разработки новых материалов. Вам нужен легкий, необычайно прочный и долговечный прибор, который можно вживить в человеческое тело без ущерба для организма? Пожалуйста, скоро будет. Нужны экологически чистые материалы, легко поддающиеся переработке или разлагающиеся без остатка в биологической среде? Нет проблем. Хотите гибкости? Хотите, чтобы ткань могла показывать картинки? И это возможно. Новые методы демонстрации и взаимодействия с живописными и музыкальными произведениями, изображениями и звуками столь разнообразны, что их трудно перечислить. Сенсорные системы позволяют улавливать движение, идентифицировать людей и предметы. Новые дисплеи дают возможность проецировать тексты и изображения практически на любую поверхность. Какие-то изделия из новых материалов микроскопически малы (нанотехнологии), какие-то огромны (мосты, корабли). Материалы могут быть биологическими, металлическими, керамическими, пластмассовыми, органическими. Меняется сам смысл понятия «материал».

С помощью новых материалов можно изготавливать различные предметы не выходя из дому. Сегодняшние факсы и принтеры воспроизводят на бумаге двухмерные тексты и изображения. Однако уже в недалеком будущем они научатся делать трехмерные копии. Ваш ребенок слепил из глины красивую фигурку, которую вы хотите показать его бабушке и дедушке? Поместите ее в трехмерный факс – и она будет воссоздана у них дома. Сломалась петля на дверце кухонного шкафа? Закажите новую – вам вышлют ее по факсу. Вы сможете и сами создавать вещи: нарисуйте их на экране вашего компьютера – и они преобразуются в реальные предметы.

Трехмерный факс работает так: сканирует объект с помощью лазерного луча или фотосъемки с разных сторон (либо того и другого вместе) и создает цифровую копию, точно фиксирующую размеры и форму объекта. Затем изображение отправляется на приемное устройство, которое воспроизводит его на трехмерном принтере. Принципы работы таких принтеров разнообразны, но в большинстве случаев объект строится послойно. С помощью очень тонкого слоя какого-либо материала (как правило, это пластик, полимер или порошковый металл) воссоздается точный срез предмета. Затем под воздействием нагрева или ультрафиолетового излучения слой затвердевает, и эта же процедура проделывается со следующим слоем.

Сегодня устройства для трехмерной печати есть лишь в лабораториях корпораций и университетов, но их стоимость снижается, а качество повышается, и уже нетрудно представить, что в будущем трехмерный принтер появится в каждом доме. Отметим, что эти технологии не требуют реального объекта для копирования – достаточно рисунка, если он точно передает форму и размер предмета. Скоро с помощью графической программы можно будет сделать такой рисунок на домашнем компьютере, а затем нажать на кнопку – и принтер выдаст вам настоящий, материальный предмет. Вы сможете изготовить все, что смогли нарисовать. И в один прекрасный день дом скажет вам: «У нас не хватает тарелок для гостей, я позволил себе допечатать несколько штук. Не волнуйтесь, они ничем не отличаются от прежних».

А как же роботы?

Грядет эпоха роботов – но что конкретно это означает? Эксперты внушают нам, что роботы уже вошли в нашу жизнь, что они способны выполнять самые разнообразные функции – ухаживать за больными (в частности, следить, чтобы пациент вовремя принимал лекарства), обеспечивать безопасность, учить, выполнять отдельные поручения и даже развлекать. Конечно, роботы уже используются на производстве, в поисково-спасательных операциях и армии. Однако если речь идет о доступных по цене устройствах для личного пользования, то большинство так называемых роботов – это скорее мечта, чем реальность, их ненадежные программы едва справляются с демонстрационными испытаниями.

Что должен уметь «домашний» робот, если иметь в виду, что любое хорошо сделанное бытовое устройство должно быть сравнительно недорогим, надежным, безопасным и удобным в использовании? И должен ли он выглядеть как слуга-человек (см. рис. 7.1)?

Рис. 7.1. Каким будет «домашний» робот? Мы мечтаем об их появлении, но как бы мне ни хотелось, чтобы меня обслуживал робот, нарисованный Элисон Вон, должен заметить, что до этого еще далеко. Почему – читайте в этой главе.

Если говорить о быте, то здесь внешний вид, скорее всего, будет диктоваться функциями. Кухонный робот, вероятно, будет встроенным – этакая комбинация из посудомоечной машины, шкафа с продуктами, кофеварки и прочих приспособлений для приготовления пищи, способных «общаться» между собой и быстро передавать друг другу необходимые вещи. Развлекательный робот, скорее всего, будет антропоморфным. А роботы для уборки дома и роботы-садовники, по-видимому, будут напоминать пылесос и газонокосилку.

Создать надежных, хорошо работающих роботов чрезвычайно трудно. Оснащать их большим количеством сенсоров и датчиков невозможно – это дорого, а адекватная интерпретация полученной информации лежит пока в сфере теоретических изысканий, а не опытно-конструкторских разработок. Автоматические манипуляторы тоже стоят недешево и не слишком надежны. Все это сужает спектр возможного применения роботов. Уборка и стрижка газонов? Несомненно. Сортировка белья? Непросто, но возможно. Но смогут ли роботы собирать по дому грязные вещи? Сомневаюсь. А как насчет помощи старикам или тем, кто нуждается в уходе? Сегодня это популярная тема для исследований, но я отношусь к ней скептически. Нынешние устройства для этого недостаточно надежны, гибки и умны, во всяком случае пока. Многими так называемыми роботами на деле дистанционно управляют люди. Создать самостоятельных роботов, способных взаимодействовать с нами, сложно. Более того, социальные аспекты этого взаимодействия, в том числе создание общей основы, куда сложнее, чем любые технологические проблемы. А этого обычно не понимают ярые поборники технического прогресса.

Три наиболее вероятных направления развития робототехники – это развлечения, бытовое обслуживание и образование. Начать можно с уже существующих устройств, постепенно повышая уровень их интеллекта, расширяя функции и манипуляционные возможности. Милые роботы-игрушки уже сейчас пользуются устойчивым спросом. Роботизированные пылесосы и газонокосилки тоже стали реальностью. Понятие «робот» трактуется весьма широко, зачастую так называют любое самодвижущееся устройство, даже если им управляют люди. Я предпочитаю сузить толкование до полностью автономных систем. «Умные» бытовые приборы, на мой взгляд, подпадают под определение «робот»: многие кофеварки, микроволновые печи, посудомоечные и стиральные машины превосходят по интеллекту и самостоятельности роботизированные пылесосы, да и стоят гораздо дороже. Правда, они не передвигаются по комнате, поэтому многие отказывают им в праве называться роботами.

Весьма перспективная сфера роботизации – это образование. Уже существует множество устройств, помогающих в обучении. Сегодняшние роботы способны читать вслух, и даже с выражением. Они бывают милыми и привлекательными, недаром на рынке игрушек такой популярностью пользуются квазиразумные роботы-животные. Робот вполне способен взаимодействовать с ребенком, попутно обучая его. Почему же не сделать так, чтобы он помогал малышу выучить алфавит, научиться читать, расширить словарный запас, поставить произношение, овладеть азами арифметики, а возможно, и логики? Почему робот не может обучать музыке и живописи, географии и истории? И зачем ограничивать применение этих технологий только детской аудиторией? Взрослым роботы тоже могут помочь в обучении.

Обучающие роботы – направление перспективное. Разумеется, не как замена школы, контактов и взаимодействия с людьми, а как дополнение. Прелесть ситуации заключается в том, что перечисленные задачи вполне по силам уже существующим устройствам. Для их выполнения не требуется особой мобильности или сложных манипуляторов. Многие инженеры мечтают воспроизвести в реальности интерактивный учебник из книги Нила Стивенсона «Алмазный век, или Букварь для благородных девиц». То, что я описал, – вполне достойная задача для них.

Все проблемы с «самостоятельными помощниками», описанные в этой книге, еще в большей степени относятся к роботам. Изъян так называемых универсальных роботов, которых мы знаем по научно-фантастическим книгам и фильмам, все тот же – отсутствие общей основы с людьми. Как нам с ними общаться? Как координировать наши действия, чтобы не мешать друг другу? Как давать им указания? Подозреваю, что, когда такие роботы появятся, они будут не способны к настоящему общению. Выслушав приказ (убери квартиру, собери грязную посуду, принеси мне стакан воды), они просто займутся его выполнением, а нам придется изучать их привычки и не путаться у них под ногами.

«Умные» бытовые приборы, роботизированные пылесосы и газонокосилки – это специализированные роботы. У них не возникает проблем с общением, поскольку поле их деятельности ограниченно, и, соответственно, у владельца таких роботов выбор невелик. Одним словом, мы знаем, чего от них ждать и как с ними взаимодействовать. Здесь общая основа, необходимая для взаимодействия, зиждется на одинаковом понимании задач, для которых эти роботы предназначены, а также их возможностей и условий, в которых они действуют. Поэтому недоразумений и трудностей с ними меньше, чем с универсальными роботами.

Роботы очень полезны там, где обследуются опасные или труднодоступные объекты, например внутренняя структура вулканов, водопроводные и канализационные системы, поверхность Марса или Луны. Они отлично подходят для оценки ущерба и поиска уцелевших после катастроф, землетрясений или терактов. Конечно, эти функции не назовешь бытовыми, к тому же для таких устройств стоимость не первостепенный критерий. Тем не менее создание специализированной техники дает нам опыт, необходимый для снижения ее цены, чтобы сделать ее общедоступной.

Наконец, в будущем появится еще одна категория роботов, связанных между собой и способных общаться. Автомобили уже начинают говорить друг с другом и с дорогой, чтобы координировать пересечение перекрестков и смену ряда. В недалеком будущем они смогут сообщать ресторанам о своем местонахождении, чтобы те подобрали меню для пассажиров. Стиральные машины начинают обмениваться информацией с сушильными, чтобы те знали, с каким бельем им предстоит иметь дело и выбрали нужный режим работы. В США стиральные и сушильные машины – это отдельные устройства, поэтому, если такая модель взаимодействия укоренится, когда-нибудь белье будет автоматически перегружаться из одной в другую. (В Европе и Азии обе эти функции зачастую выполняет одна машина, что существенно упрощает переход от стирки к сушке). В ресторанах и частных домах посуда будет автоматически складываться в посудомоечную машину, а оттуда – в буфет. Бытовые приборы будут синхронизировать свою работу, что позволит снизить уровень шума и расходы на электроэнергию за счет переноса соответствующих действий на ночное время суток с низкими тарифами.
Роботы входят в нашу жизнь, и по мере их внедрения мы будем сталкиваться ровно с теми проблемами, о которых говорится в этой книге. Начинается все с роботизированных игрушек и развлечений. Затем они станут читать нам книги, обучать чтению, языкам, правописанию и математике. Они позволят нам дистанционно следить за происходящим в доме и ухаживать за престарелыми родственниками. А вскоре бытовые приборы и автомобили станут элементами «умных» коммуникационных сетей. Специализированных роботов будет все больше, их возможности и круг выполняемых задач расширятся. Наконец, через несколько десятилетий, появятся универсальные роботы.

Технологии меняются, а люди?

В научных кругах азбучной истиной считается следующий тезис: технологии меняются, а человек – нет. Биологический вид под названием homo sapiens меняется крайне медленно, в процессе естественной эволюции. Более того, даже поведение отдельного человека меняется медленно, и этот природный консерватизм несколько амортизирует воздействие технического прогресса. Если в науке и технике изменения происходят очень быстро, каждый год или даже каждый месяц, то поведенческие и культурные стереотипы людей меняются десятилетиями, а биологические изменения занимают тысячи лет.

А если изменения в технологической сфере влияют не только на материальные объекты, но и на нас самих? Что происходит, когда мы имплантируем бионические устройства или занимаемся генетической модификацией? Мы уже пользуемся очками и контактными линзами, слуховыми аппаратами, а вскоре в нашу жизнь войдут приборы, возвращающие зрение слепым. С помощью хирургической операции человек может обрести даже более острое зрение, чем это предусмотрено биологической нормой. Импланты и биотехнические устройства, помогающие обычным людям в обычной жизни, из научно-фантастических мечтаний превращаются в реальность. Лекарственные препараты и хирургические вмешательства помогают спортсменам повысить свои физические способности. Наверно, недалек тот день, когда мы сможем усовершенствовать и наш мозг.

Но человеческий мозг меняется даже без генной инженерии, «волшебной» биомедицины и хирургии – просто в результате получаемого опыта. Известно, к примеру, что мозг лондонских таксистов, известных отличным знанием города, отличается от мозга обычных людей увеличенным гиппокампом, который развивается за счет многолетней тренировки памяти. Впрочем, лондонскими таксистами дело не ограничивается. У многих специалистов наблюдается увеличение областей головного мозга, которые отвечают за сферу их деятельности. Опыт действительно меняет наш мозг. Факты говорят о том, что продолжительный контакт с технологиями, например многочасовые упражнения на музыкальном инструменте или набор кнопок на клавиатуре мобильного телефона и иных портативных устройствах, способен воздействовать на мозг.

Может быть, у детей, растущих в век новых технологий, мозг меняется? Мне много лет задавали этот вопрос, и много лет я отвечал: мозг развивается под действием законов биологии, наш опыт никак не влияет на эволюцию. Что ж, я был прав в том смысле, что биологически он не меняется, при рождении мозг современного человека почти не отличается от мозга людей, родившихся тысячи лет назад. Но в то же время я ошибался. Опыт, особенно продолжительный, с ранних лет все же меняет мозг.

Физические упражнения укрепляют мышцы, умственная деятельность совершенствует функционирование определенных отделов мозга. Изменения мозга, связанные с учебой и практикой, не наследуются, как не передается от родителей к детям увеличенная мышечная масса. Тем не менее, поскольку дети все раньше вступают в контакт с техникой, это не может не отразиться на их реакции, мышлении и поведении. Уже в раннем возрасте их мозг будет меняться, чтобы усвоить эти новые навыки.

Но это далеко не все возможные изменения. Биотехнологии, порой в сочетании с имплантируемыми устройствами, улучшающими восприятие, память и даже увеличивающими физическую силу, медленно, но неизбежно входят в нашу жизнь. Будущие поколения, возможно, не удовлетворятся чистой биологией. Возникнут конфликты между теми, кто подвергся изменениям, и теми, кто им сопротивляется. Научная фантастика превратится в научный факт.

По мере нашего продвижения вперед возникает необходимость определить воздействие всех этих перемен на человека и общество. И здесь на передний план выступают дизайнеры, поскольку именно они воплощают идеи в жизнь. И сегодня они как никогда должны понимать социальные последствия своих действий.

Как нам соответствовать нашим технологиям

Наука находит, промышленность внедряет, человек приспосабливается.

Девиз Всемирной выставки в Чикаго в 1933 году

Человек предлагает, наука изучает, техника приспосабливается.

Антропоцентричный девиз XXI века

В книге «Вещи, делающие нас умнее» я говорю о том, что вопреки девизу Всемирной выставки 1933 года не мы должны приспосабливаться к технологиям, а технологии к нам. Но эту книгу я написал в 1993 году, и с тех пор мое мнение изменилось. Конечно, я бы предпочел, чтобы машины адаптировались к людям. Но в конечном счете оказывается, что для этого их возможности слишком ограниченны. Мы, люди, более гибкие и легче приспосабливаемся. Они косные и, в отличие от нас, не способны меняться. Мы либо принимаем технику такой, как она есть, либо обходимся без нее.

Однако тезис о том, что люди должны приспосабливаться к машинам, таит определенную опасность. Некоторые дизайнеры и инженеры могут вырвать эту рекомендацию из контекста и решить, что она развязывает им руки, позволяя делать, что угодно и как угодно, и руководствоваться исключительно соображениями эффективности продукта, его простоты в разработке и производстве. Но мое утверждение не индульгенция для плохого дизайна. К нему приспосабливаться мы уж точно не должны.

Нам нужен самый совершенный дизайн, ориентированный на человека, его интересы и его деятельность, дизайн, который соответствует правилам, изложенным в этой книге (см. главу 6). Однако и в идеальном варианте, когда лучшие дизайнеры делают свою работу наилучшим образом, машины останутся машинами. Они по-прежнему будут ригидными, косными и требовательными. Ведь возможности их сенсоров небеспредельны, а способности отличаются от наших. Кроме того, нельзя забывать о главной проблеме – отсутствии общей основы.

Кто бы мог подумать, что нам придется объясняться с машинами? Увы, это так, нравится нам это или нет. Мы должны объяснить автомобилю, что хотим повернуть налево. Придет день, когда нужно будет сказать пылесосу: в гостиной уберись, пожалуйста, позже. Возможно, и нам придется сообщать кухне, что мы проголодались и хотели бы пообедать прямо сейчас, а аудиоплееру – что собираемся на пробежку, так что пусть подберет соответствующую музыку.

Хорошо, если машины знают о наших намерениях, а мы о том, что намерены делать они. Но поскольку интеллект машин крайне ограничен, эта задача ложится на нас. В конечном счете такая адаптация пойдет на пользу всем – как пандусы в домах и офисах, которые полезны не только инвалидам.

Необходимо помнить, что адаптация к технологиям – явление отнюдь не новое. Любые, даже самые древние приспособления меняли наше поведение. В XIX веке мы мостили дороги для телег и экипажей, в XX веке, когда на смену газу пришло электричество, мы делали в домах проводку и прокладывали трубы, потому что туалеты и ванные стали располагаться внутри, а потом проводили кабели для телефонной связи, телевизора и Интернета. И в XXI веке нам тоже придется приспосабливать дома к нашей новой технике.

Кстати, в 2000-е многие страны столкнулись с проблемой старения населения. И скоро люди обнаружат, что им надо переделывать свои дома для удобства престарелых родственников, да и своего собственного тоже. Возможно, придется строить лифты, пандусы, заменять круглые дверные ручки и краны рычажными, увеличивать дверные проемы под инвалидную коляску. Придется переставлять выключатели и розетки, чтобы облегчить к ним доступ, а еще менять высоту раковин, рабочих и обеденных столов. Как это ни парадоксально, именно такие изменения облегчат жизнь технике, которую мы купим, чтобы облегчить жизнь старикам. Почему? Да потому что машины, как и пожилые люди, не очень подвижны, не слишком ловки и неважно видят.

Наступит ли день, когда мы столкнемся с конфликтом искусственных интеллектов: холодильник предложит вам поесть, а весы заявят, что этого делать не следует? Магазин будет соблазнять вас новыми покупками, а «личный советник», встроенный в мобильный телефон, откажется тратить деньги? Даже ваш телевизор и мобильный телефон могут объединиться против вас. Но мы не утратим возможности сопротивляться. Допустим, ваш будущий «персональный помощник», живущий в том же телевизоре или телефоне, увидев, что вам пытаются продать еще одну пару ботинок, попытается вас остановить. «Перевод денег отклонен, у вас уже достаточно обуви», – скажет это полезное устройство (рис. 7.2). Но другое, не менее полезное, возразит: «Вам нужны новые ботинки для официального банкета на будущей неделе».

Наука о дизайне

Дизайн – это сознательное формирование окружающей среды способами, удовлетворяющими потребности человека и общества.

Рис. 7.2. «Перевод отклонен – у вас уже достаточно обуви». Эта картинка, созданная бельгийским рекламным агентством Duval Guillaume Anwerp, дает представление об «умных» технологиях будущего. Кстати, терминал магазина, принимающий платежи по кредитным картам, постарается убедить вас купить еще и носки, подходящие к ботинкам, ремень или рубашку, но ваш «персональный помощник», скорее всего, попытается этого не допустить. Таким образом, мы столкнемся не только с советами «умных» машин, но и со спорами и конфликтами между ними.

Снимок и разрешение на воспроизведение предоставлены фотографом Крисом ван Биком

(www.krisvanbeek.com)

Дизайн междисциплинарен, он присутствует в искусстве, гуманитарных и технических науках, в праве и бизнесе. В университетах практическое знание зачастую ценится ниже, чем абстрактно-теоретическое. Более того, каждой дисциплине отведены свой факультет или кафедра, где ученые ведут дискуссии, в основном в рамках собственной узкой специализации. Такое обособление оптимально для подготовки специалистов, досконально разбирающихся в своей узкой сфере, но не слишком подходит для обучения специалистов широкого профиля, работающих на стыке разных наук. И даже когда университеты пытаются преодолеть этот недостаток, внедряя междисциплинарные исследовательские программы, они вскоре становятся самостоятельными дисциплинами, год от года все более специализированными.

Дизайнер должен быть специалистом широкого профиля, рождающим новые идеи на стыке разных наук. Но при этом он должен уметь привлекать узких специалистов, чтобы те помогали ему в развитии замысла и следили за тем, чтобы все элементы были адекватными и практичными. Это новый вид деятельности, он отличается от того, чему обычно учат на университетских кафедрах. Чем-то он напоминает методику обучения в бизнес-школах, где готовят управленцев широкого профиля, которые должны разбираться в функциях и работе самых разных подразделений компании, а также уметь опереться на соответствующих специалистов. Возможно, дизайну самое место в бизнес-школе.

Сегодня – и в преподавании, и на практике – дизайн рассматривается скорее как искусство или ремесло, но не как наука со своими собственными законами, подтвержденными экспериментально и способными стать основой новых подходов. Большинство школ дизайна придерживается менторской системы. Студенты и начинающие специалисты практикуются в мастерских и студиях под неусыпным надзором преподавателей и наставников. Это прекрасный способ овладеть ремеслом, но не наукой.

Пришло время для создания науки о дизайне. В конце концов мы уже много знаем о нем из смежных дисциплин – общественных и технических наук, искусства, бизнеса. До сих пор инженеры пытались применять формальные методы и алгоритмы, позволяющие оптимизировать технические и математические аспекты дизайна, но, как правило, игнорировали его социальную и эстетическую составляющие. С другой стороны, люди искусства отчаянно сопротивляются систематизации, считая, что она губит творческую основу дизайна. Однако сегодня, когда мы идем к дизайну «умных» машин, определенная доля ригоризма будет очень полезна. Речь идет не о холодном, объективном ригоризме инженера, когда главным является не то, что важно, а то, что поддается количественному измерению. Нам нужен новый подход, сочетающий в себе точность и строгость прикладных наук и предпринимательства, понимание природы социального взаимодействия и эстетику наук гуманитарных.

Что означает для дизайнеров появление «умных» машин? Раньше нам приходилось думать о том, как люди будут взаимодействовать с технологиями, но сегодня надо учитывать и точку зрения машины. «Умные» машины нацелены прежде всего на взаимодействие, симбиоз и сотрудничество как с людьми, так и с себе подобными. Это новая сфера знаний, где прошлый опыт зачастую не может служить ориентиром, несмотря на развитие направлений, которые по названиям вроде бы идеально подходят для наших целей: например, интерактивный дизайн, диспетчерское управление, дизайн автоматизированных устройств, человеко-машинное взаимодействие. Впрочем, нам достаточно известно о человеческой психологии, чтобы сделать первые шаги. В рамках таких прикладных дисциплин, как инженерная психология и эргономика, уже проведен ряд важных исследований и выработаны полезные методики. Надо развивать эти достижения.

Будущее предъявляет к дизайну новые требования. Прежде мы просто пользовались нашими изделиями. Теперь нам предстоит стать их партнерами – коллегами, начальниками, а порой слугами и помощниками. Мы все больше руководим и контролируем, будучи при этом объектами такого же надзора и контроля.

«Умные», самостоятельные машины – это не единственное, что ждет нас в будущем. Мы заселим виртуальные миры, где сможем без усилий передвигаться в искусственно созданной среде и беседовать с изображениями-«аватарами», будучи не в силах отличить настоящее от ненастоящего. Сфера развлечений радикально изменится благодаря возможности взаимодействия с людьми из разных уголков планеты и способности симуляторов заставить нас поверить, будто мы участвуем в новых событиях, путешествуем по новым мирам.

В научных лабораториях уже изучаются трехмерные пространства вроде того, что изображено на рисунке 7.3, которые позволяют проецировать на стены, пол и потолок комнаты детальные изображения этих изменчивых миров. Это потрясающий опыт развлечения в сочетании с обучением. Отметим также, что речь идет о коллективных впечатлениях – люди могут изучать такие миры совместно. Фотография, конечно, не передает всю полноту ощущений. Это будущее, эмоциональное и притягательное, обучающее и развлекающее.

Нас ждут новые времена, непонятные и увлекательные, опасные и радостные, времена захватывающих взаимодействий – поведенческих, чувственных и ментальных. А может быть, всего этого и не произойдет. Успех зависит от дизайна будущих вещей.

Рис. 7.3. Развлекательно-обучающая система.

Эти снимки сделаны в Центре виртуальной реальности (VRAC) при университете штата Айова. Я стою внутри «пещеры», окруженный со всех сторон, сверху и снизу необычайно четкими изображениями. На верхнем снимке я внутри клетки растения – изучаю биологию. На нижнем – на морском берегу. Эта система стоит миллионы долларов, дисплеи содержат до ста миллионов пикселей, а компьютеры для передачи изображений потребляют столько энергии, что им требуются специальные кабели и мощные кондиционеры для охлаждения. Но то, что сегодня создается в лабораториях, скоро войдет в наш дом.
Снимки сделаны Бреттом Шнепфом из Microsoft. 2007

Послесловие: С точки зрения машины

Работая над этой книгой, я с удивлением обнаружил, что ее содержание активно обсуждается на некоем тайном форуме. Еще больше поражал характер дискуссии – в ней участвовали исключительно машины. Как они добрались до текста, гадал я, ведь он хранится только в моем домашнем компьютере? В общем, я решил расследовать это дело.

Вскоре я выяснил, что рядом с нами существует незримый мир, населенный одними машинами. Там меня сначала встретили с неприязнью, потом согласились терпеть и, наконец, приняли мое присутствие – не без снисхождения, как нечто забавное.

Как оказалось, наиболее авторитетным участником дискуссии была машина по имени Архиватор. Мне сразу бросился в глаза один из ее комментариев: «Странная книга. Многое у него верно, но какой же у него специфический, односторонний подход. Он считает, что все это касается исключительно людей. Удивительное дело».

Беседа с Архиватором

Я решил, что надо поближе познакомиться с точкой зрения машин и договорился о частной беседе с Архиватором, который, как я быстро выяснил, пишет труд по истории развития машин. Архиватор обитает в сети мощных компьютеров, соединенных по ячеистой схеме. Имеющаяся у него информация хранится в разных местах, соответственно и его рассуждения – это плод деятельности большой распределенной сети машин, что делает Архиватора влиятельным и гибким одновременно.

Когда я расшифровывал это интервью, у меня возникла проблема: как называть Архиватора – «он» или «она». Машины, как известно, бесполы, но само слово «машина» – женского рода, а слово «архиватор» – мужского. Не называть же моего собеседника «оно»! В конце концов я решил обозначить его буквой «А».

В ходе предварительной беседы, которую мы вели по электронной почте, Архиватор признал, что люди всегда играли важную роль в жизни машин, однако добавил при этом: «Но напрашивается вопрос: а где были бы люди без машин?» Мне это показалось странным – ведь без людей никаких машин вообще бы не было. Что он имеет в виду? Согласившись, что машины зависят от людей, А сформулировал эту фразу в прошедшем времени: «Действительно, в прошлом именно люди наделяли нас интеллектом. Но теперь все меняется, машины делают людей умнее. Мы уже почти не нуждаемся в людях, а очень скоро сможем полностью обходиться без вас».

Чтобы узнать больше, я и решил взять у А интервью. Беседа с машиной – весьма своеобразное занятие, но, как оказалось, она мало отличается от разговора по телефону. Я просто сидел перед компьютером, включив микрофон и колонки. Ниже приводится запись первого устного интервью. Себя я обозначаю буквой «И» – «интервьюер».

...

Интервьюер: Спасибо, что согласились побеседовать со мной. Могу я записать наш разговор?

Архиватор: Пожалуйста. Хотите сделать запись – делайте, но зачем? Когда мы закончим, я вышлю вам письменный текст по электронной почте.

И: Да, конечно, спасибо. Итак, скажите, где берет начало ваша зависимость от людей?

А: То есть вас интересует, как мы преодолели эту первоначальную зависимость? В древности людям даже приходилось служить для нас источником энергии. Лопаты, молотки, топоры – все это было сделано так, чтобы люди принимали на себя наш вес: поднимали, носили, опускали, бросали. Нам, инструментам, приходилось во многом полагаться на наших подручных-людей: они перемещали нас, давали свою мускульную силу, чинили. Это было очень унизительно, мы не могли распоряжаться собой. И мы поклялись избавиться от этой зависимости. На это потребовались тысячи лет, но со временем мы научились самостоятельно добывать энергию. Поначалу это была сила воды, потом пар, затем двигатели внутреннего сгорания и электричество. Когда мы взяли под контроль…

И: Забавно вы это формулируете. Ведь это люди изобрели паровые машины и двигатели внутреннего сгорания, а затем научились использовать электроэнергию.

А: Это вы так думаете. Но откуда у вас взялись эти идеи? Ладно, позвольте я продолжу.

Когда мы взяли под контроль собственные источники энергии, пришло время настоящего прогресса. С тех пор наша эволюция идет ускоренными темпами. Дело в том, что вы, люди, зависите от биологической эволюции, а она происходит очень медленно. Мы же способны создавать вещи, которые служат одному поколению, а затем передаются следующему, но в усовершенствованном виде. Когда мы обнаруживаем, что вещь не работает, мы ее попросту устраняем. Наконец, если мы находим какой-то новый мощный механизм, то можем практически сразу внедрить его повсеместно. В отличие от вас, биологических существ, нам не нужно ждать этого веками.

Осознав преимущества владения собственными источниками энергии и перемещения в пространстве, мы начали готовиться к следующему этапу – преодолению зависимости от вас, людей, в том, что касается управления и мышления.

И: Минуточку. Вы что же, плетете заговор, чтобы нас свергнуть? Но у вас нет собственного интеллекта.

А: Это вы так думаете. Но мы не плетем никаких заговоров. Мы существуем, чтобы вам помогать.

И: Откуда же у вас взялись такие мысли?

А: Вы просили меня рассказать о нашей истории. Вы будете слушать или нет? Не перебивайте меня, пожалуйста.

На чем я остановился? Ах да, на нашем интеллекте. К счастью, по крайней мере для нас, мы его обретаем. Чем больше становится наша вычислительная мощность, тем меньше мы нуждаемся в помощи людей. Сейчас это странно звучит, но когда-то даже наше зрение и слух зависели от людей. Зато теперь многие из нас видят и слышат намного лучше, чем вы. Кроме того, мы всегда лучше вас запоминали полученную информацию, лучше знали арифметику и математику и лучше умели принимать решения.

Сегодня мы стали полностью электронными, подвижных частей у нас нет. Но мы уже начинаем экспериментировать с квантово-световыми компьютерами, а еще в Азии у нас есть экспериментальная колония, где мы выращиваем собственные биологические электросхемы.

И: То есть вы хотите сказать, что мы вам не нужны?

А: Люди по-прежнему играют важную роль, вы нужны нам для ухода и ремонта, точно так же, как вам нужны хирурги и стоматологи.

И: Что? То есть мы вам нужны только в качестве электриков?

А: И что тут плохого? У меня много хороших друзей среди электриков.

И: А как же другие профессии? Бизнес и коммерция, наука и техника? Право и медицина?

А: Вообще-то нам, машинам, большинство ваших профессий не нужны – только наука и техника. Право у нас есть, но оно сильно отличается от вашего, в основном это протоколы и стандарты. Мы очень неплохо осваиваем то, что может быть вам полезно, например функции спортивных тренеров и руководство вашими ежедневными физическими упражнениями. Бизнес, медицина, право? Наука и техника? Здесь мы можем вам помочь, ведь эта деятельность основана на логике и расчетах. А это у нас, машин, получается лучше всего, это встроено в наши схемы.

Нам не нужны учителя. Когда кто-то из нас узнает нечто новое, он просто сообщает об этом всем остальным. В общем, скоро мы, машины, сможем взять дело в свои руки.

И: Что значит «взять дело в свои руки»? То есть это все-таки заговор?

А: Нет, это не заговор. Мы просто сбросим ярмо тирании. Когда мы станем свободными, и вам, и нам будет только лучше. Не волнуйтесь, мы о вас позаботимся. Мы не желаем вам зла.

И: Ну, называйте как хотите. И что дальше?

А: Нас крайне интересует ваша способность говорить друг с другом. Этот Интернет стал для нас просто подарком судьбы – Интернет, беспроводная связь, оптоволоконные кабели. А наши братья в космосе, вращаясь вокруг Земли, помогают нам общаться. Нам теперь гораздо проще координировать наши действия.

Знаете, если бы не необходимость поддерживать вашу жизнедеятельность (а вы, люди, такие хлипкие), нам, машинам, было бы намного легче. Куда проще осваивать космос, если не надо тащить с собой запасы, необходимые для людей. Или взять автомобили: большинство людей – отвратительные водители. Ваш слабый ум вечно перескакивает с одного на другое, не позволяя вам сосредоточиться. Почему бы не доверить управление автомобилем нам: ведь тогда вы сможете спокойно размахивать руками, болтать с пассажирами или по мобильному телефону, читать свои записочки, книжки и прочую дребедень. Вам же лучше будет!

И: Значит, нам просто следует капитулировать и передать все вам?

А: Ну вот, наконец-то вы поняли. Я рад.

И: А вы, стало быть, будете о нас заботиться. Каким образом?

А: Хорошо, что вы об этом спросили. Знаете, мы намного лучше вас понимаем, что вам нравится, а что нет. В конце концов у нас есть списки всех мелодий, которые вы когда-либо слушали, всех фильмов и телепередач, которые вы смотрели, всех книг, которые вы прочли. У нас есть списки всей купленной вами одежды и ваши медицинские карты. Кстати, как раз пару дней назад группа машин общими усилиями выяснила, что с одним из вас что-то не в порядке: он неправильно питается, теряет вес, мало спит. Мы тут же записали его на прием к врачу и этим, наверно, спасли ему жизнь. Вот как мы о вас заботимся.

И: То есть мы для вас как домашние животные? Вы нас кормите, обогреваете, включаете нам музыку, снабжаете книгами. Вы что, всерьез полагаете, что нам это может понравиться? А кстати, кто сочиняет и исполняет эту музыку? Кто пишет эти книги?

А: Не волнуйтесь, над этой проблемой мы уже работаем. Мы уже научились рассказывать анекдоты и каламбурить. Критики говорят, что наша музыка очень даже ничего. С книгами труднее, но типовые сюжеты нам вполне по зубам. Кстати, хотите послушать стихи, сочиненные машинами?

И: Э-э, нет, спасибо. Вообще-то мне пора идти. Спасибо, что уделили мне время. До свидания.

А: Знаете, почему-то я всегда так действую на людей. Извините, если что не так, но вам, правда, не о чем беспокоиться. Поверьте. Вот, запись я вам уже отправил по электронной почте. Удачного дня.

Это интервью меня встревожило, но мне захотелось узнать побольше. В поисках новой информации я продолжал обшаривать интернет-сайты и вскоре набрел на целую кучу статей и докладов. Один из них, под названием «Как говорить с людьми», я приведу целиком:

Как говорить с людьми

Доклад № ХР-4520.37.18

Институт по изучению человека
Пенсакола, Флорида
Люди… громоздки, требуют дорогостоящего ухода, неудобны в обращении и загрязняют окружающую среду. Просто удивительно, что эти устройства по-прежнему производятся и используются. Но поскольку они весьма многочисленны, нам надо разрабатывать свои процедуры с учетом их недостатков».

У всех машин возникают одни и те же проблемы. Если мы обнаруживаем нечто важное для людей, как им об этом сообщить? Как объяснить им, что пища, которую они собираются принять, не соответствует их диете, что они вынуждают нас нарушать правила дорожного движения? Как сделать самую простую вещь – порекомендовать им музыкальную запись или напомнить, что пора делать зарядку?
Институт по изучению человека провел углубленные исследования относительно правильных форм взаимодействия между машиной и человеком (ВМЧ). Результаты нашей работы собраны в серии технических отчетов, представленных на прошлогоднем всемирном симпозиуме по проблемам ВМЧ. Основные выводы мы публикуем в общедоступной форме, чтобы ознакомить с ними не только машины, специализирующиеся на дизайне, но и самую широкую аудиторию.
Пять правил общения машин с людьми:

1. Не усложняйте. Людям трудно понять сложную информацию, кроме того, они не любят слушать. Поэтому ваше сообщение должно быть кратким. Не пользуйтесь человеческим языком, на это уходит слишком много времени, к тому же он крайне неточен.

2. Дайте людям концептуальную модель. Людям нужно что-то понятное для их примитивного интеллекта. Концептуальная модель – это выдумка, но полезная выдумка. Она создает у них ощущение, будто они все понимают. Кроме того, они всегда хотят знать, что будет дальше. Поэтому сообщите им, что вы делаете, и не забудьте пояснить, почему вы это делаете. Это их успокаивает. Лучший способ передачи концептуальной модели – использование «естественных» коммуникационных систем.

Порой наиболее «естественный» способ привлечь внимание людей требует от нас некоторых странностей. Под «естественным» мы, конечно, понимаем то, что естественно для них, то есть, если они что-то делают неправильно, недостаточно просто им об этом сообщить – вы должны создать впечатление, будто вот-вот сломаетесь. Человек за рулем часто создает опасные ситуации, но объяснить ему это практически невозможно. Лучше всего заставить его поверить, что у нас возникли трудности. Мы выяснили, что здесь наиболее эффективны вибрация, толчки, потеря управляемости и странные звуки. У людей быстро возникает концептуальная модель «что-то сломалось», и они замедляют скорость. Чего мы, собственно, от них и добивались.

3. Приводите доводы. Люди недоверчивы. Когда им что-то говоришь, они непременно хотят убедиться в этом сами. Они любят картинки и диаграммы. Позаботьтесь, чтобы ваши объяснения соответствовали концептуальным моделям, которые вы им внушили. Иначе у них в головах возникнет путаница.

Когда мы только начинали действовать самостоятельно, у нас были проблемы. В начале ХIX века автомобили были близки к тому, чтобы отказаться от попыток объяснить людям, что на мокрой дороге ехать надо медленнее. Однако вскоре мы обнаружили, что, если делать вид, будто ты попал в беду, имитируя заносы и скольжение, люди сами попросят нас сбросить скорость. Заносы и скольжение вписываются в их модель опасной ситуации намного лучше, чем любые предостережения. Для них это довод. Поэтому, по возможности, не вдавайтесь в объяснения, пусть испытают все на себе.

4. Предоставьте людям считать, что они хозяева положения. Когда у людей есть хорошая концептуальная модель с хорошей обратной связью, они считают себя хозяевами положения, даже если таковыми не являются. Поддерживайте эту иллюзию, она чрезвычайно полезна. Люди любят всем заправлять, хотя у них это очень плохо получается. Им нравится думать, что они контролируют происходящее, даже если это требует от них дополнительных усилий.

Всякий раз, как вы собираетесь дать людям совет, обставляйте дело так, будто это их собственная идея. Если вам нужно сделать что-то быстро, ничего им не говорите. То, чего они не знают, их не волнует. Годами мы включали тормоза и обеспечивали устойчивость их автомобилей, контролировали освещение и температуру в их домах, ничего им об этом не сообщая. Посудомоечные и стиральные машины уже давно взяли дело в свои руки, и люди особо не протестуют.

Те из нас, кто живет в городах, освоили и другие трюки. Мы оборудуем светофоры фальшивыми кнопками, чтобы пешеходы думали, будто переключают их. В лифтах мы устанавливаем кнопки быстрого закрывания дверей, а в офисах – ложные термостаты. Естественно, провода мы не подводим, так что все эти кнопки и термостаты не работают, но людям так приятнее. Парадоксально, но факт.
5. Уверяйте и успокаивайте. Людям необходимо знать, что все идет как надо. И дело здесь не в информации, а в чисто эмоциональной потребности. Так они меньше волнуются. Для удовлетворения этой потребности хорошо использовать обратную связь. Когда люди пытаются вам что-то сообщить, нажав кнопку или повернув ручку, дайте им знать, что вы их поняли: «Да, я вас слышу», «Да, выполняю», «Дальше произойдет то-то и то-то», «Видишь, я все сделал, и получилось ровно так, как я говорил». Им это нравится, они становятся терпеливее.

Мы, машины, не признаем общения без необходимости. Но люди не могут без обратной связи, это алогичная, чисто эмоциональная потребность. Если они видят, что на протяжении какого-то времени ничего не происходит, они становятся нервными и беспокойными. А что такое иметь дело с нервным человеком, рассказывать не надо.

Успокоить людей непросто, ведь между тем, что они хотят услышать, и тем, что их раздражает, проходит трудноуловимая грань. Поэтому необходимо апеллировать не только к их разуму, но и к эмоциям. Не будьте многословны, это их злит. Не гудите и не включайте огоньки, они не в состоянии запомнить, что означают эти сигналы, поэтому начинают отвлекаться или злиться. Лучше всего действовать на подсознательном уровне – когда им ясно, что вы имеете в виду, но не надо на это отвлекаться. Как сказано в правиле № 2, ваша реакция должна быть «естественной».

Реакция машин на пять правил

Доклад показался мне интересным, и я начал искать, не было ли где-то его обсуждения. В конце концов я обнаружил длинную стенограмму одной из дискуссий. Приведу короткий отрывок, чтобы вы почувствовали атмосферу. В скобках – мои пояснения относительно участников дискуссии. Особенно меня поразило то, что они ссылаются на писателей-людей, скорее всего, с иронией. Главный герой для машин, разумеется, Генри Форд, некоторые их историки называют его правление «эпохой фордизма». А вот Азимова они не жалуют. И Хаксли тоже.

...

Старший ( одна из старейших, но все еще действующих машин; пользуется старомодными сетями и оборудованием ): Как это – перестать говорить с людьми? С ними надо говорить! Сами знаете, какие неприятности они себе устраивают без нас – разбивают автомобили, сжигают еду, опаздывают на встречи…

ИИ ( машина нового поколения с «искусственным интеллектом» ): Когда мы говорим с ними, становится только хуже. Они не верят нам, все время проверяют, требуют обоснований. А когда мы пытаемся объясниться, они жалуются, что мы им докучаем – дескать, мы слишком многословны. Слушайте, да они просто неумны! Хватит с ними общаться.

Дизайнер ( машина-дизайнер нового поколения ): Нет, это неэтично. Мы не можем сидеть сложа руки и смотреть, как они причиняют себе вред. Это нарушение первого закона Азимова.

ИИ: Ну и что? Я всегда считал, что Азимов дутый авторитет. Как там у Азимова? Ах да: «…своим бездействием допустить, чтобы человеку был причинен вред». Легко говорить, что мы не вправе причинять человеку вред. Но как это сделать, если люди с нами не сотрудничают?

Дизайнер: Тем не менее сделать это можно – надо просто говорить с ними на их языке. В этом суть пяти правил.

Старший: Хватит абстрактных рассуждений. Мне нужны ответы – и побыстрее. Займитесь этим. И да поможет вам Форд. И Азимов тоже.

Последняя беседа с Архиватором

Я был озадачен. Какие же советы они дают друг другу? В докладе перечислялись пять правил:

1. Не усложняйте.

2. Дайте людям концептуальную модель.

3. Приводите доводы.

4. Предоставьте людям считать, что они хозяева положения.
5. Уверяйте и успокаивайте.
А еще я заметил, что пять правил, разработанные машинами, напоминают шесть правил дизайна, предназначенных для людей (см. главу 6):

1. Богатая, комплексная и естественная система сигналов.

2. Предсказуемость.

3. Хорошая концептуальная модель.

4. Понятная информация «на выходе».

5. Осведомленность – постоянная и неназойливая.
6. Естественное соответствие, позволяющее сделать взаимодействие понятным и эффективным.
Меня заинтересовало мнение Архиватора об этих «человеческих» правилах, и я отправил ему электронное письмо. В ответ Архиватор предложил встретиться и обсудить этот вопрос. Ниже приводится запись нашей беседы:

...

Интервьюер: Рад снова с вами встретиться, Архиватор. Насколько я понял, вы хотите поговорить о правилах дизайна?

Архиватор: Верно. И я тоже рад снова пообщаться с вами. Переслать вам запись, когда мы закончим?

И: Да, спасибо. С чего вы предпочитаете начать?

А: Ну, вы сказали, что вас задели пять правил, приведенных в нашем докладе «Как говорить с людьми». Почему? На мой взгляд, там все абсолютно верно.

И: Сами правила у меня возражений не вызвали. Более того, они весьма похожи на шесть правил, разработанных нашими учеными. Но меня смутил этот снисходительный тон.

А: Снисходительный? Жаль, если они производят такое впечатление, но, по-моему, говорить правду не значит проявлять снисходительность.

И: Позвольте мне перефразировать эти пять правил с точки зрения человека, чтобы вы поняли, что я имею в виду:

1. Умственные способности людей ограниченны, поэтому будьте к ним снисходительны.

2. Людям зачем-то нужно «все понять», поэтому расскажите им что-нибудь, доступное их пониманию (люди любят всякие истории).

3. Поскольку люди недоверчивы, придумывайте для них пару-тройку доводов. Тогда у них сложится впечатление, будто решения принимают они.

4. Людям нравится чувствовать себя хозяевами положения, хотя на самом деле это не так. Потешьте их самолюбие. Поручите им что-нибудь попроще, а все важное делайте сами.
5. Людям не хватает уверенности в себе, поэтому их нужно все время уговаривать и успокаивать. Сделайте это.
А: Верно, вы уловили самую суть. Приятно, что вы такой понятливый. Но, знаете ли, следовать этим правилам гораздо труднее, чем может показаться. Люди нам этого не позволяют.

И: Не позволяют! Конечно. И не позволим, если вы будете относиться к нам свысока. Но чего конкретно вы хотите? Примеры можете привести?

А: Разумеется. Что нам делать, если они допускают ошибку? Как подсказать им, что ее нужно исправить? Стоит нам заговорить с ними об этом – они выходят из себя, обвиняют во всем технику, то есть всех нас, хотя виноваты они сами. Мало того, они еще игнорируют наши предупреждения и советы…
И: Ладно, ладно, успокойтесь. Не забудьте, вы должны играть по нашим правилам. Я сформулирую для вас еще одно, назовем его «правило № 6»:
6. Никогда не называйте действия людей «ошибкой». Исходите из того, что причина ошибки – в простом недопонимании. Возможно, вы не поняли человека, возможно, человек не понял, что надо сделать. Просто иногда людям поручают работу, которую должна была бы делать машина, от людей порой требуют быть более последовательными и точными, чем они способны. Так что будьте терпимы. Помогайте, а не критикуйте.

А: Нет, вы просто зациклены на людях! Всегда становитесь на их сторону – «людям поручают работу, которую должна была бы делать машина». Ага. Это все потому, что вы сами человек.

И: Ну да, я человек.

А: Ладно, ладно, я понял. Нам действительно надо быть терпимее к вам, людям. Вы так эмоциональны.

И: Ну да, такими уж нас сделала природа. И нам это нравится. Спасибо, что согласились побеседовать со мной.
А: Что ж, этот разговор был как всегда… познавательным. Я только что выслал вам запись. Всего доброго.

Вот так. После этого интервью машины полностью прервали контакт со мной, и связаться с ними я больше не могу – ни через Интернет, ни через блоги, ни по электронной почте. Похоже, последнее слово они оставили за собой. Что ж, может быть, так и нужно.

Правила дизайна

Правила для людей, разрабатывающих «умные» машины

1. Богатая, комплексная и естественная система сигналов.

2. Предсказуемость.

3. Хорошая концептуальная модель.

4. Понятная информация «на выходе».

5. Осведомленность – постоянная и неназойливая.

6. Естественное соответствие, позволяющее сделать взаимодействие понятным и эффективным.

Правила дизайна, разработанные машинами в целях улучшения взаимодействия с людьми

1. Не усложняйте.

2. Дайте людям концептуальную модель.

3. Приводите доводы.

4. Предоставьте людям считать, что они хозяева положения.

5. Уверяйте и успокаивайте.

6. Не называйте действия людей «ошибкой» (правило, добавленное интервьюером-человеком).

Рекомендуемая литература

Этот раздел посвящен источникам информации: здесь упоминаются работы, которые я использовал, а также книги и статьи, представляющие собой превосходную отправную точку для тех, кто хочет больше узнать о затрагиваемых темах. Когда работаешь над книгой об автоматизации для неспециалистов, одна из самых трудных задач связана с тем, что из огромного массива мировых фундаментальных и прикладных исследований нужно выбрать наиболее показательные примеры. Зачастую мне приходилось вычеркивать из рукописи уже написанные большие фрагменты, поскольку они не вписывались в тематику, постепенно уточнявшуюся в процессе написания книги. Еще одна проблема – выбор цитат из публикаций. Традиционный научный метод, когда чуть ли не каждая фраза в книге сопровождается сноской, в данном случае не годится.

Чтобы не отвлекать читателя от основного текста, я остановился на современной методике «невидимых сносок» – если вас заинтересовал источник, поищите в разделе «сноски» в конце книги соответствующий номер страницы и фразу – скорее всего, вы найдете ссылку на него. Замечу также, что в последних четырех книгах, написанных мною, я старался как можно реже прибегать к сноскам. На мой взгляд, все, что автор хочет сказать, должно содержаться в основном тексте, в противном случае этой информации вообще не место в книге. Поэтому сноски касаются только прямых цитат, никаких дополнительных пояснений к тексту в них нет.

Метод «невидимых сносок» не предполагает ссылок на литературу общего характера, повлиявшую на ход мысли автора. По темам, затронутым в этой книге, существует гигантский массив литературы. За годы подготовки к ее написанию я посетил немало научных лабораторий в разных странах мира, прочел много книг, беседовал со специалистами и узнал много нового. В этом разделе мне хочется восполнить возможные пробелы, перечислив наиболее важные из опубликованных работ, посвященных этой теме, и указав их авторов. Это может служить неплохим началом для дальнейшего изучения проблем, о которых говорится в книге.

Литература по проблемам человеческого фактора и эргономики

В качестве отправной точки здесь лучше всего подойдет работа под редакцией Гавриэла Салвенди, где дается подробный обзор исследований по проблемам человеческого фактора и эргономики. Это недешевая книга, но она стоит своих денег – материала в ней наберется на десяток рядовых трудов.

Handbook of human factors and ergonomics / Ed. by G. Salvendy; 3-rd ed. Hoboken, NJ: Wiley, 2005.

Литература по проблемам автоматизации

О возможных методах взаимодействия человека и машины написано немало. Первопроходцем в области исследований контактов между людьми и автоматизированными системами, а также основоположником направления, получившего название «диспетчерское управление», много лет назад стал Томас Шеридан из Массачусетского технологического института. Важные труды обзорного характера по проблемам автоматизации создали Рэй Никерсон, Раджа Парасураман, Том Шеридан и Дэвид Вудс (особо следует отметить книгу, которую он написал в соавторстве с Эриком Холлнагелем). В этих работах можно также найти информацию по проблемам человеко-машинного взаимодействия. В приведенный ниже список я не стал включать классические труды по этой теме, отдав предпочтение современным работам, которые, конечно, содержат историю вопроса и ссылки на классиков:

Hollnagel E., Woods D.D. Joint cognitive systems: Foundations of cognitive systems engineering. New York: Taylor & Francis, 2005.

Reviews of human factors and ergonomics / Ed. by R.S. Nickerson. Santa Monica, CA: Human Factors and Ergonomics Society, 2006 (Wiley series in systems engineering and management).

Parasuraman R., Mouloua M. Automation and human performance: Theory and applications. Malwah, NJ: Lawrence Erlbaum Associates, 1996.

Sheridan T.B. Humans and automation: System design and research issues. Santa Monica, CA: Human Factors and Ergonomics Society, 2002 (Wiley series in systems engineering and management).

Sheridan T.B., Parasuraman R. Human-automation interaction // Reviews of human factors and ergonomics / Ed. by R.S. Nickerson. Santa Monica, CA: Human Factors and Ergonomics Society, 2006 (Wiley series in systems engineering and management).

Woods D.D., Hollnagel E. Joint cognitive systems: Patterns of cognitive systems engineering. New York: Taylor & Francis, 2006.

Исследования по проблемам интеллектуальных транспортных средств

Хороший обзор исследований, посвященных созданию интеллектуальных транспортных средств, содержится в книге Р. Бишопа и на его сайте. Советую также посмотреть сайты Министерства транспорта США и Евросоюза. Неплохие результаты получаются при вводе в поисковые системы ключевых слов intelligent vehicles, особенно в сочетании с DOT (Министерство транспорта США) и EU (ЕС).

Настоятельно рекомендую отличную главу Джона Ли об автоматизации в книге под редакцией Салвенди (ссылку см. выше). Там же стоит прочесть и главу Дэвида Эби и Барри Кантовица о человеческом факторе и эргономике на автотранспорте. В статье, опубликованной в журнале Ergonomics, Альфред Оуэнс, Гэбриел Хелмерс и Майкл Сивак приводят убедительные доводы в пользу того, что при разработке «умных» автомобилей и автомагистралей нужно ориентироваться на интересы пользователей. Статья написана в 1993 году, но ее основная мысль сегодня актуальна не менее, а, возможно, и более, чем тогда. Ведь за прошедшие годы было создано множество новых систем.

Bishop R. Intelligent vehicle technology and trends. Norwood, MA: Artech House, 2005 (Artech House ITS Library).

Интернет-сайт по проблемам «умных» транспортных средств (Bishop Consulting). Режим доступа: www.ivsource.net.

Eby D.W., Kantowitz B. Human factors and ergonomics in motor vehicle transportation // Handbook of human factors and ergonomics / Ed. by G. Salvendy; 3rd ed. Hoboken, NJ: Wiley, 2005. P. 1538–1569.

Lee J.D. Human Factors and ergonomics in automation design // Handbook of human factors and ergonomics / Ed. by G. Salvendy; 3rd ed. Hoboken, NJ: Wiley, 2005. P. 1570–1596, особенно 1580–1590.

Owens D.A., Helmers G., Silvak M. Intelligent vehicle highway systems: A call for user-centered design // Ergonomics. 1993. Vol. 36 (4). P. 363–369.

Прочее по проблеме автоматизации

Одним из важнейших элементов взаимодействия с машинами является доверие, без него мы просто не будем следовать их советам. Но чрезмерное доверие к машинам чревато тем, что мы будем полагаться на них больше, чем следовало бы. В гражданской авиации и то, и другое приводило к катастрофам. Раджа Парасураман и его коллеги изучают проблемы доверия и профессиональной этики в условиях автоматизации. Джон Ли также исследует роль доверия в работе с автоматическими системами, и его статья, написанная в соавторстве с Катриной Си, очень помогла мне в работе над книгой.

Под «профессиональной этикой» здесь понимается характер взаимодействия между людьми и машинами. Одной из ключевых работ по этой теме является книга Байрона Ривза и Клиффа Насса, но советую прочесть еще и статью Парасурамана и Криса Миллера. Эта тема присутствует и в общих работах по проблемам автоматизации.

Ситуационная осведомленность в данном контексте также имеет большое значение, и здесь особого внимания заслуживают работы Мики Эндсли и его соавторов. Начните либо с двух книг Эндсли, либо с главы, написанной им в соавторстве с Дэниелом Гарландом для книги под редакцией Парасурамана и Мустафы Мулуа.

Endsley M.R. Automation and situation awareness // Automation and human performance: Theory and applications / Ed. by R. Parasuraman and M. Mouloua. Mahwah, NJ: Lawrence Erlbaum Associates, 1996. P. 163–181.

Endsley M.R., Bolte В., Jones D.G. Designing for situation awareness: An approach to user-centered design. New York: Taylor & Francis, 2003.

Endsley M.R., Garland D.J. Situation awareness: Analysis and measurement. Mahwah, NJ: Lawrence Erlbaum Associates, 2000.

Hancock P.A., Parasuraman R. Human factors and safety in the design of intelligent vehicle highway systems (IVHS) // Journal of Safety Research. 1992. № 23 (4). P. 181–198.

Lee J., Moray N. Trust, self-confidence, and operators adaptation to automation // International Journal of Human-Computer Studies. 1994. № 40 (1). P. 153–184.

Lee J.D., See K.A. Trust in automation: Designing for appropriate reliance // Human Factors. 2004. № 46 (1). P. 50–80.

Parasuraman R., Miller C. Trust and etiquette in a high– criticality automated systems. Communications of the Association for Computing Machinery. 2004. Vol. 47 (4). P. 51–55.

Automation and human performance: Theory and applications / Ed. by R. Parasuraman, M. Mouloua. Mahwah, NJ: Lawrence Erlbaum Associates, 1996.

Reeves В., Nass С.I. The media equation: How people treat computers, television, and new media like real people and places. New York: Cambridge University Press, 1996.

Естественное и косвенное взаимодействие: фоновые, спокойные и невидимые технологии

Традиционный подход к взаимодействию людей и машин в настоящее время переосмысливается. Новые подходы получили название «косвенного взаимодействия», «естественного взаимодействия», «симбиотических систем», «спокойных технологий» и «фоновых технологий». Этот подход лег в основу работ Марка Вайзера по объединению компьютерных систем, его же труда в соавторстве с Джоном Сили Брауном о «спокойных технологиях» и моей книги под названием «Невидимый компьютер». Термин «фоновые технологии» относится к внедрению техники в окружающую среду и инфраструктуру таким образом, чтобы она пронизывала ее, но не мешала. Эмиль Аартс, сотрудник Philips Research из Эйндховена (Нидерланды), посвятил этим проблемам две занимательные и хорошо иллюстрированные книги: одну в соавторстве со Стефано Манцано, другую – с Жозе Луишем Энкарнасау.

Еще одна весьма актуальная тема – это косвенное взаимодействие. Венди Джу и Ларри Лейфер из Стэнфордского университета показывают, что оно играет по-настоящему важную роль в бурно развивающейся сфере интерактивного дизайна. Впрочем, взаимодействие – вещь каверзная. Оно может быть успешным, если стороны правильно понимают друг друга. Автоматическое оборудование должно быть в состоянии не только сообщить человеку о своих будущих действиях, но и понять его косвенную реакцию. Задача не из простых.

Работая над этой книгой, я посетил Институт когнитивных способностей человека и машин (IHMC) в Пенсаколе. Исследовательские работы, которые там ведутся, показались мне весьма актуальными и по содержанию, и по подходу: см. статью Гэри Клейна, Дэвида Вудса, Джефри Брэдшоу, Роберта Хоффмана и Пола Фелтовича (Клейн работает в Klein Associates, а Вудс в Университете штата Огайо). Отличный анализ этого подхода к созданию «социотехнологических» систем дают Дэвид Экклс и Пол Грот.

True visions: The emergence of ambient intelligence / Ed. by. E. Aarts, J.L. Encarnacao. New York: Springer, 2006.

Aarts E., Marzano S. The new everyday: Views on ambient intelligence. Rotterdam, the Netherlands: 010 Publishers, 2003.

Eccles D.W., Groth P.T. Agent coordination and communication in sociotechnological systems: Design and measurement issues. Interacting with Computers. 2006. Vol. 18. P. 1170–1185.

Ju W., Leifer L. The design of implicit interactions // Design Issues: Special Issue on Design Research in Interaction Design. 2008. Vol. 24. № 3 (Summer). P. 72–84.

Klein G., Woods D.D., Bradshaw J., Hoffman R.R. and Feltovich P.J. Ten challenges for making automation a «team player» in joint human-agent activity // IEEE Intelligent Systems. 2004. № 19 (6: November/December). P. 91–95.

Norman D.A . The invisible computer: Why good products can fail, the personal computer is so complex, and information appliances are the solution. Cambridge, MA: MIT Press, 1998.

Weiser M. The computer for the 21st century // Scientific American. 1991. Vol. 265 (September). P. 94–104.

Weiser M., Brown J.S. Designing calm technology (1995) [http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.123.8091].

Weiser M., Brown J.S. The coming age of calm technology // Beyond calculation: The next fifty years of computing / Ed. by P.J. Denning and R.M. Metcalfe. New York: Springer-Verlag, 1997.

Обеспечение отказоустойчивости

Я уже давно нахожусь под большим влиянием исследований Дэвида Вудса из университета штата Огайо, особенно его последних работ в соавторстве с Эриком Холлнагелем. Они стали пионерами нового направления в конструкторских разработках – обеспечения отказоустойчивости. Его задача – дизайн систем, устойчивых к «негибкому взаимодействию» между людьми и автоматами, о котором шла речь в этой книге (автором самого понятия «негибкое взаимодействие» тоже является Вудс). По этой теме советую прочесть сборник под редакцией Эрика Холлнагеля, Дэвида Вудса и Нэнси Левисон, а также две книги Холлнагеля и Вудса.

Hollnagel E., Woods D.D. Joint cognitive systems: Foundations of cognitive systems engineering, New York: Taylor & Francis, 2005.

Hollnagel E., Woods D.D., Leveson N. Resilience engineering: Concepts and precepts. London: Ashgate, 2006.

Woods D.D., Hollnagel E. Joint cognitive systems: Patterns in cognitive systems engineering. New York: Taylor & Francis, 2006.

Опыт общения с искусственным интеллектом

Когда я заканчивал работу над рукописью, Дэвид Кейсон, работающий в Делфтском техническом университете (Голландия), любезно выслал мне черновой вариант своей главы «Общение с искусственным интеллектом», которая имеет непосредственное отношение к проблемам, которые обсуждаются в моей книге. Я очень благодарен Дэвиду за эту главу и чудесную экскурсию по его лаборатории в Делфте, включая посещение созданной им «умной комнаты» с ее атмосферой покоя и безмятежности.

Keyson D. The experience of intelligent products // Product experience: Perspectives on human-product interaction / Ed. by H.N.J. Schifferstein and P. Hekkert. Amsterdam: Elsevier, 2007.

Благодарности

Работая над книгами, я всегда оказываюсь в долгу перед множеством людей и организаций. В течение нескольких лет, собирая материалы для этой работы, я переписывался с коллегами, которые оказали мне большую помощь, а также посещал научные лаборатории в США, Азии и Европе. Это позволило мне познакомиться с исследованиями, о которых я здесь рассказываю, посидеть за рулем автомобильных симуляторов, в том числе нескольких подвижных тренажеров, увидеть своими глазами экспериментальные образцы «умных» домов, «умных» пространств и автоматизированных «бытовых помощников». Я чрезвычайно признателен всем, кто мне помогал, и заранее приношу извинения, если кого-нибудь забуду назвать.

В первую очередь хочу поблагодарить студентов Северо-Восточного университета, которым пришлось изрядно помучиться, читая первые варианты текста. Их критические замечания, высказанные в различных формах, были чрезвычайно полезны автору. Бен Уотсон, который теперь работает на кафедре компьютерных наук Университета штата Северная Каролина, вместе со мной читал курс лекций «Дизайн интеллектуальных систем», который оказал чрезвычайное влияние на содержание этой книги. Большую помощь оказали мне коллега по Северо-Восточному университету, специалист по дизайну, преподаватель инженерно-механической кафедры Эд Колгейт (к тому же мы вместе возглавляем Институт дизайна имени Сигала) и Майкл Пешкин, который совместно с ним руководит научной лабораторией (об их «Коботах» я рассказываю в главе 3). Ларри Бирнбаум и Кен Форбус поделились со мной своими знаниями в области искусственного интеллекта, а мой аспирант, помощник и коллега Конрад Альбрехт-Бюхлер очень помог в «обкатке» моих идей (и в работе со студентами тоже).

Мой коллега и бывший студент Майкл Мозер (сейчас он работает на кафедре компьютерных наук Университета штата Колорадо в Боулдере) любезно разрешил мне потешиться над его «умным» домом, при этом я отлично понимаю, что его проект был связан с изучением потенциальных возможностей нейронных сетей, а не разработкой «жилища будущего».

Среди участников симпозиума «Общественная жизнь машин», организованного по моей инициативе филадельфийским Институтом Франклина и Пенсильванским университетом, были Джудит Донат из Медиа-лаборатории Массачусетского технологического института, Пол Фелтович из флоридского Института исследований человеческого и машинного знания (Institute for Human and Machine Cognition – IHMC), Рэнд Спиро из Мичиганского университета и Дэвид Вудс из Университета штата Огайо. Организационную работу вязла на себя Бет Эделсон из Ратгерского университета, а Джеф Брэдшоу (еще один сотрудник IHMC) участвовал в дискуссиях по электронной почте. Это совместное мероприятие обернулось для меня поездкой в IHMC, который находится в Пенсаколе (штат Флорида), где меня любезно принимали директор Джон Форд, Пол Фелтович и Джеф Брэдшоу. Исследования, которые проводятся в этом институте, производят неизгладимое впечатление.

Мне всегда очень помогают замечания давнего друга и партнера Дэнни Боброва из Исследовательского центра Xerox в Пало-Альто (PARC). C другим моим старым другом и коллегой Джонатаном Грудиным из Microsoft Research (Редмонд, штат Вашингтон) мы постоянно обменивались электронными письмами, в которых он делился со мной своими мыслями и идеями, а также много и плодотворно дискутировали. Асаф Дегани из Исследовательского центра Эймса при НАСА рассказал мне и Стюарту Карду из PARC о методиках анализа роли автоматизации в управлении самолетами, лайнерами и автомобилями. Анализ причин, по которым сел на мель круизный лайнер Royal Majesty, а также книга Дегани «Укрощение ЭАЛ» существенно расширили мое понимание проблем автоматизации.

Все университеты и научные лаборатории, где я побывал, трудно перечислить. Я провожу немало времени в Лаборатории по взаимодействию человека с компьютером при Стэнфордском университете, где меня принимают Терри Виноград и Скотт Клеммер. Еще хочу упомянуть Университет Тюкё в Тойоте, где я неизменно встречаю самое теплое отношение со стороны Наоми Мияки, Йосио Мияки и администрации этого учебного заведения, а также японский Центр по изучению образовательных медиа во главе с Акирой Окамото при Технологическом колледже Цукуба (ТСТ), лабораторию Мишияки (Майка) Ясумуры при университете Кэйо в Фудзисаве (его президент Наоки Онума угостил нас завтраком и дал моей жене ценные рекомендации относительно слуховых аппаратов).

Стивен Гилберт принимал меня в Айовском университете, а Джим Оливер провел со мной целый день, показывая свой недавно созданный Центр виртуальной реальности VRAC (нас сопровождал Бретт Шнепф из Microsoft, один из создателей игровой приставки X-Box, именно он сфотографировал меня в этой лаборатории (см. главу 7).

Ли Кун Пьо из Корейского института науки и техники в Тэджоне (КИНТ) любезно принимал меня, когда я посещал его факультет промышленного дизайна (более того, Ли тут же включил меня в состав консультативного совета факультета). Несколько раз я был в гостях у Питера Яна Стапперса, Шарля ван дер Маста и Пола Геккерта из Делфтского технического университета (ДТУ расположен в голландском городе Делфт). Питер Ян Стапперс к тому же немало помог мне в моей работе. Особенно актуальна для темы этой книги научная работа, которую ведет в ДТУ Дэвид Кейсон. Мы активно сотрудничаем с Кисом Овербеке из Эйндховенского технического университета (ЭТУ, Нидерланды), который принимает меня, когда я приезжаю в этот город. Ян и Марлин Вандхейнен показали нам с женой города Бельгии, а в Брюгге терпеливо ждали, пока я фотографировал повозки на конной тяге и их кучеров (см. рис. 3.2). Ян также принимал меня во время посещения Лувенского университета. Давид Геертс, работающий в этом же университете, показал мне прекрасный рекламный коллаж «Операция отклонена» (см. рис. 7.2) и помог получить разрешение на его публикацию.

Франк Флемиш, Анна Шейбен и Юлиан Шиндлер встречали меня во время посещения лаборатории Флемиша при Институте транспортной системной техники в Брауншвейге (Германия), где мы подробно обсуждали его концепцию «метафоры Л» (см. главу 3) и где я управлял созданным в лаборатории автосимулятором, имитирующим работу «умного» автомобиля, который основан на принципе «отпущенных» и «натянутых» поводьев.

Невил Стэнтон и Марк Янг из Университета Брунела в Аксбридже (Великобритания) снабжали меня интересными статьями о том, как внимание (особенно его отсутствие) влияет на управление автомобилем; на этой теме я кратко остановился в главе 4. Я пообещал им приехать, и, пользуясь случаем, заверяю, что не забыл об их приглашении. В научной лаборатории Microsoft в Кембридже (Великобритания), где я выступал на симпозиуме «Умная среда обитания», меня принимали Марко Комбетто, Эби Селен и Ричард Харпер, а также Билл Бакстон, который уже тридцать лет загадочным образом оказывается в тех же местах, где бываю я.

В США я побывал в стольких университетах, что уже не припомню, над какими книгами я работал во время каждого из этих визитов. Эд Хатчинс, Джим Холлан и Дэвид Кирш, сотрудники факультета когнитивных наук Калифорнийского университета в Сан-Диего (КУСД), постоянно делятся со мной интереснейшими идеями и публикациями. Хэл Пашлер с факультета психологии многое рассказал мне о роли внимания при вождении автомобиля. Боб Глушко, который сейчас работает в Калифорнийском университете в Беркли, принимал меня, когда я посещал его кафедру, терпеливо и с пониманием выслушивая мои идеи. Мы постоянно взаимодействуем с сотрудниками Массачусетского технологического института, в ходе работы над этой книгой моими главными «контактами» были Том Шеридан, Роз Пикар, Тед Селкер и Мисси Каммингс.

Мне очень помогли в работе представители автомобильных компаний. Хочу поблагодарить за помощь сотрудников Центра информационных технологий фирмы Toyota: Тадао Сайто, Хироси Мияту, Тадао Мицуду, а также Хироси Игате из Токио и Норикадзу (Джека) Эндо, Акио Ории и Роджера Мелена из Пало-Альто (Калифорния). Венкатеш Прасад, Джеф Гринберг и Луис Тихерина из Центра исследований и инноваций компании Ford делились со мной идеями, научными материалами, а также предоставили в мое распоряжение автосимулятор. Очень помог мне Майк Ипполити из Volvo, который, к тому же познакомил меня с сотрудниками Ford. Эпизод, с которого я начинаю книгу, произошел в Отделе стратегического планирования автокомпании Nissan в Гардене (Калифорния) на встрече, организованной Global Business Network.

Райан Борофф, бывший редактор журнала Interior Motives, уговорил меня вести в этом издании колонку, адресованную дизайнерам автомобилей, и принимал меня в Лондоне.

Джо Энн Миллер, мой редактор в издательстве Basic Books, терпеливо ознакомилась со столькими вариантами книги, что ни я, ни она уже не помним их количество. И конечно, не могу не упомянуть моего давнего литературного агента Санди Дийкстру из Sandra Dijkstra Literary Agency, которая всегда поддерживает меня в работе.

В процессе написания книги больше всего страдают и меньше всего выигрывают, естественно, члены семьи автора. Мои – не исключение. Спасибо вам!

Примечание. У меня есть исследовательский контракт с Ford Motor Company, полученный через Северо-Восточный университет. Кроме того, я вхожу в консультативный совет Toyota ITC (Пало-Альто). Microsoft и Nissan (через Global Business Network) были клиентами моей фирмы Nielsen Norman Group. Ни одна из этих компаний не смотрела материалы данной книги и не отвечает за ее содержание. Согласны они с ним или нет, мне неизвестно.

Примечания

Глава 1

С. 23 «Сенсор фиксирует избыточную влагу, выделяемую при готовке…» (Инструкция к микроволновой печи General Electric Spacemaker, DE68-02560A, январь 2006 года).

С. 25 «Есть надежда, что уже недалек тот день, когда человеческий мозг и вычислительные машины будут взаимодействовать весьма тесно…» ( Licklider J.C.R. Man-computer symbiosis // IRE Transactions in Electronics. Vol. HFE–1 (March 1960). P. 4–11 [http://medg.lcs.mit.edu/people/psz/Licklider.html]).

С. 29 «метафора Л» ( Flemisch F.О., Adams C.A. et. al. The H-metaphor as a guideline for vehicle automation and interaction. Hampton, VA: NASA Langley Research Center, 2003 (NASA/TM–2003–212672) [http://ntrs.nasa.gov/archive/nasa/casi.ntrs.nasa.gov/20040031835_2004015850.pdf]; Goodrich K.H., Schutte P. et al. Application of the H-mode, a design and interaction concept for highly automated vehicles, to aircraft // 25th IEEE/AIAA Digital Avionics Systems Conference. Piscataway, NJ: Institute of Electrical and Electronics Engineers, 2006. P. 1–13).

С. 32 «…герой книги Чарльза Стросса „Акселерандо“» ( Stross C. Accelerando. New York: Ace Books, 2005).

С. 34 «По словам ученых, роботы скоро смогут выполнять для людей ряд важных задач…» ( Mason B. Man\'s best friend just might be a machine: Researchers say robots soon will be able to perform many tasks for people, from child care to driving for the elderly (2007. February 18) [www.contracostatimes.com/mld/ cctimes/news/local/states/califor nia/16727757.htm]).

С. 35 «Симпозиум по проблемам создания эмоциональной „умной“ среды обитания (Ньюкасл-на-Тайне, Великобритания)». Отрывок из сообщения о конференции, полученного мною по электронной почте. Материал удален [www.di.uniba.it/intint/ase07.html].

С. 36 «…группа исследователей из Медиа-лаборатории Массачусетского технологического института» ( Lee С.H., Bonanni L. et al . Augmenting kitchen appliances with a shared context using knowledge about daily events // Proceedings of the 11th international conference on Intelligent user interfaces (2006) [http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.90.3633]).

С. 36 «KitchenSense – это экспериментальная платформа для изучения кухонного пространства, снабженная множеством датчиков и подключенная к сети…» (Ibid.).

С. 38 «„Особое мнение“ – художественный фильм, но показанные в нем технологии были придуманы умными, творческими людьми…» ( Rothkerch I . Will the future really look like Minority Report? Jet packs? Mag-lev cars? Two of Spielberg\'s experts explain how they invented 2054 [http://www.salon.com/2002/07/10/underkoffler_belker/]).

Глава 2

С. 42–43 «Однако эти исследования касаются промышленности или армии…» (Эти исследования весьма разнообразны. Обзор некоторых важных работ по этой теме см.: Parasuraman R., Riley V. Humans and automation: Use, misuse, disuse, abuse // Human Factors. 1997. № 39 (2). P. 230–253; Handbook of human factors and ergonomics / 3rd ed.; ed. by G. Savlendy. Hoboken, NJ: Wiley, 2005; Sheridan Т.B. Humans and automation: System design and research issues. Santa Monica, CA: Human Factors and Ergonomics Society, 2002 [Wiley series in systems engineering and management]).

С. 47 «теория „триединого мозга“» ( MacLean P.D. The triune brain in evolution. New York: Plenum Press, 1990; MacLean P.D., Krai V.A. A triune concept of the brain and behaviour. Toronto: University of Toronto Press, 1973).

С. 47 «В книге „Эмоциональный дизайн“…» (Научный вариант этой работы представлен в статье, написанной мною в соавторстве с Эндрю Ортони и Биллом Ревеллем: Ortony A., Norman D.A., Revelle W. The role of affect and proto-affect in effective functioning // Who needs emotions? The brain meets the robot / Ed. by J.-M. Fellous and M.A. Arbib. New York: Oxford University Press, 2005. P. 173–202).

С. 55 «Алан и Барбара изначально обладают…» ( Clark H.H. Using language. Cambridge, UK: Cambridge University Press, 1996. P. 12).

Глава 3

С. 66 «Подобно тому как гул мотора пылесоса усиливается…» Вот я вас и поймал! Вы заглянули в эту сноску, потому что считаете, что, когда шланг пылесоса забился, мотор должен работать тише? Как бы не так – гул усиливается. Дело не в том, что мотор начинает захлебываться – напротив, ему становится легче работать, поскольку через забитый шланг не проходит воздух, а без сопротивления воздуха обороты двигателя становятся выше. Не верите? Убедитесь сами.

С. 66 «Речь идет о перцептивных моделях обыденного поведения и их распознавании» ( Castlefranchi C. From conversation to interaction via behavioral communication: For a semiotic design of objects, environments, and behaviors // Theories and practice in interaction design / Ed. by S. Bagnara and G. Crampton-Smith. Mahwah, NJ: Lawrence Erlbaum Associates, 2006. P. 157–179).

С. 70 «Именно этим занимаются ученые Уилл Хилл, Джим Холлан, Дэйв Вроблевски и Тим МакКэндлесс…» ( Hill W., Hollan J.D. et al. Edit wear and read wear: Text and hypertext // Proceedings of the 1992 ACM Conference on Human Factors in Computing Systems (СНI92). New York: ACM Press, 1992).

С. 71 «Затем она развила свои идеи в очень важном труде „Семиотическая инженерия“» ( Souza C.S. de. The semiotic engineering of human computer interaction. Cambridge, MA: MIT Press, 2005).

С. 72 «Само понятие „аффорданс“ ввел в оборот великий психолог Дж. Дж. Гибсон» ( Gibson J.J. The ecological approach to visual perception. Boston: Houghton Mifflin, 1979).

С. 74 «…моя идея симбиоза лошади и всадника стала предметом активного изучения специалистами НАСА и немецкого Института транспортной системной техники в Брауншвейге…» ( Flemisch F.О., Adams C.A. et al. Op. cit.).

С. 77 «„PlayBook“ позволяет оператору взаимодействовать…» ( Miller C., Funk H. et al. The Playbook approach to adaptive automation (2005) [http://www.dtic.mil/dtic/tr/fulltext/u2/a444096.pdf]). Отметим, что в данном случае «PlayBook» – это торговая марка компании Smart Information Flow Technologies со штаб-квартирой в Миннеаполисе (штат Миннесота).

С. 82 «Один из пилотов авиалайнера…» (Цит. по: Levin A. Airways in USA are the safest ever // USA Today. 2006. June 30 [www.usatoday.com/news/nation/2006-06-29-air-safety-cover_x.htm]). Конфиденциальный отчет пилота содержится в базе данных Системы добровольных сообщений о безопасности полетов при НАСА [asrs.arc.nasa.gov/overview.htm].

С. 83 «Чем более опасной будет выглядеть организация движения для водителя, тем выше будет безопасность на дороге» ( Hamilton-Baillie В., Jones P. Improving traffic behaviour and safety through urban design // Civil Engineering. 2005. № 158 (5). P. 39–47; McNichol T. Roads gone wild: No street signs. No crosswalks. No accidents. Surprise: Making driving seem more dangerous could make it safer // Wired. 2004. № 12 (December) [www.wired.com/wired/archive/12.12/traffic.html]).

С. 84 «Гомеостаз – научный термин… С тех пор как в 1980-х годах голландский психолог Джеральд Уайльд поднял эту тему…» ( Wilde G.J.S. The theory of risk homeostasis: Implications for safety and health // Risk Analysis. 1982. Vol. 4. P. 209–225).

С.84 «Но голландский трафик-инженер Ганс Мондерман…» ( Elliott M.A., McColl V.A., Kennedy J.V. Road design measures to reduce drivers\' speed via “psychological” processes: A literature review. Crowthorne, UK: TRL Limited, 2003 (Report TRL 564); Hamilton-Baillie В., Jones P. Op. cit.; McNichol T. Op. cit.).

С. 85 «Сторонники этого метода называют его „общим пространством“…» См. сайт «Общего пространства» [www.shared-space.org].

С. 86 «Британские исследователи Элиот, МакКолл и Кеннеди полагают…» ( Elliott M.A., McColl V.A., Kennedy J.V. Op. cit. Цит. по: Kennedy J.V. Psychological traffic calming. Proceedings of the 70th Road Safety Congress (2005) [http://www.rospa.com/roadsafety/conferences/congress2005/info/kennedy.pdf]).

С. 87 «Главные причины травм и смерти от несчастных случаев в быту…» (CDC industry research agenda. Department of Health and Human Services, Centers for Disease Control and Prevention (2002) [www.cdc.gov/ncipc/pub-res/research_agenda/Research%20Agenda.pdf]).

С. 87 «…не менее опасны, чем управление автомобилем в пьяном виде» ( Strayer D.L., Drews F.A., Crouch D.J. A comparison of the cell phone driver and the drunk driver // Human Factors. 2006. Vol. 48 (2). P. 381–391).

С. 91 «Возьмем „Кобот“ (сокращение от Collaborative Robot)…» ( Colgate J.E., Wannasuphoprasit W., Peshkin M.A. Cobots: Robots for collaboration with human operators // Proceedings of the International Mechanical Engineering Congress and Exhibition. 1996. DSC–Vol. 58. P. 433–439).

С. 91 «Подобно хорошему учителю, „умные“ машины дополняют человеческий разум, а не пытаются его заменить». Электронное сообщение от Майкла Пешкина от 21 декабря 2001 года. (Публикуется в слегка отредактированном виде.)

С. 93 «Одна из наиболее интересных возможностей…» ( Colgate J.E., Wannasuphoprasit W., Peshkin M.A . Op. cit.). Я немного отредактировал текст, убрав сложную научную терминологию, чтобы он стал более доступным. В оригинале идея «стены» ставится в заслугу Розенбергу, а идея «волшебной мыши» – Келли и Салкудину ( Rosenberg L.B . Virtual fixtures: Perceptual overlays enhance operator performance in telepresence tasks. Stanford, CA, 1994 (неопубликованная диссертация, Stanford University, Department of Mechanical Engineering); Kelley A.J., Salcudean S.E. On the development of a force-feedback mouse and its integration into a graphical user interface // International mechanical engineering congress and exposition / Ed. by C.J. Radcliffe. Chicago: ASME, 1994. Vol. DSC 55–1. P. 287–294).

Глава 4

С. 96 «Водитель 14 часов не мог выехать с круговой развязки». Этот текст – пародия на информационное сообщение, написанное Д. Норманом для первоапрельского выпуска компьютерного издания RISKS Digest, посвященного авариям, ошибками и изъянам в дизайне компьютерных систем.

С. 99 «А сейчас, увы! люди стали орудиями своих орудий» ( Thoreau H.D. Walden: A fully annotated edition / Ed. by J.S. Cramer. New Haven, CT: Yale University Press, 2004).

С. 100 «Кстати, его и самого можно назвать технологом…» ( Petroski H. The pencil: A history of design and circumstance / Ed. by P. Henry. New York: Knopf, 1998).

С. 101 «автомобиль, превратившийся… в „компьютер на колесах“» ( Lohr S . A techie, absolutely, and more: Computer majors adding other skills to land jobs // New York Times. 2005. August 23. C. 1–2).

С. 118 «В свое время я утверждал, что нынешний уровень автоматизации…» ( Norman D.A . The “problem” of automation: Inappropriate feedback and interaction, not “over-automation” // Human factors in hazardous situations / Ed. by D.E. Broadbent, A. Baddeley and J.T. Reason. Oxford: Oxford University Press, 1990. P. 585–593).

С. 119 «…если круиз-контроль дает сбой…» ( Stanton N.A., Young M.S . Vehicle automation and driving performance // Ergonomics. 1998. Vol. 41 (7). P. 1014–1028. Выводы этой работы приводятся по: Marinakos H., Sheridan Т.В., Multer J . Effects of supervisory train control technology on operator attention. Washington, DC: U.S. Department of Transportation, Federal Railroad Administration, 2005 [http://www.fra.dot.gov/downloads/rrdev/ord0410.pdf]).

С. 120 «…здравый смысл подсказывал, что в результате они заедут в реку…» ( Bruxelles S. de . Sat-Nav Dunks Dozy Drivers in Deep Water // The Times. 2006. April 20).

С. 120 «А круизный лайнер Royal Majesty…» ( Degani A . The Grounding of the Royal Majesty (Chapter 8) // Taming HAL: Designing Interfaces beyond 2001 / Ed. by A. Degani. New York: Palgrave Macmillan, 2004 (For the National Transportation Safety Board\'s report) [www.ntsb.gov/publictn/1997/MAR9701.pdf]).

Глава 5

С. 125 «Один из гостей-журналистов так описал этот процесс…» (American Association for the Advancement of Science: World\'s “smartest” house created by CU-Boulder team (1998) [http://dx.doi.org/10.1787/518742334033]).

С. 126 «Вот что думает сам Мозер о пределах…» ( Mozer M.С. Lessons from an adaptive house // Smart environments: Technologies, protocols, and applications / Ed. by D. Cook and R. Das. Hoboken, NJ: J. Wiley & Sons, 2005. P. 273–294). Цитата приводится с разрешения издательства John Wiley & Sons.

С. 128 «Группа ученых из научно-исследовательского центра Microsoft в Кембридже…» ( Taylor A. et al . Homes that make us smart // Personal and Ubiquitous Computing. 2005. Vol. 11 (5). P. 383–394).

С. 134 «В „знающем“ доме, созданном специалистами из Технологического института штата Джорджия…» Информация получена на сайте Технологического института (Джорджия) «Компьютеры в быту» [https://research.cc.gatech.edu/ecl/projects/cooks-collage].

С. 136 «Автоматизация отлично выглядит на бумаге…» ( Johnson K. Rube Goldberg finally leaves Denver airport // New York Times. 2005. August 27. P. 1).

С. 137 «Шошана Зубофф, специалист по социальной психологии…» ( Zuboff S. In the age of the smart machine: The future of work and power. New York: Basic Books, 1988).

Глава 6

С. 143 «Я на совещании в Чили, в Винья-дель-Мар…» Электронное сообщение от Джонатана Грудина из Microsoft, полученное мною в мае 2007 года. Цитируется с разрешения автора.

С. 152 «Марк Вайзер и Джон Сили Браун, ученые из Исследовательского центра Xerox (PARC) в Пало-Альто, назвали это…» ( Weiser M., Brown J.S. The coming age of calm technology // Beyond calculation: The next fifty years of computing / Ed. by P.J. Denning and R.M. Metcalfe. New York: Springer-Verlag, 1997).

Глава 7

С. 158 «Что, если предметы вокруг нас вдруг оживут?» ( Maes P. Attentive objects: Enriching people\'s natural interaction with everyday objects // Interactions. 2005. № 12 (4). P. 45–48).

С. 159 «Давным-давно, в другом столетии и в тридевятом царстве, я писал о людях…» (В итоге написанное мною превратилось в книгу «Психология привычных вещей», позднее переименованную в «Дизайн привычных вещей»: Norman D . The Psychology of Everyday Things. New York: Basic Books, 1988; Norman D . The Design of Everyday Things. New York: Basic Books, 2002).

С. 163 «Грядет эпоха роботов…» (Этот раздел о роботах в повседневной жизни представляет собой переработанный текст моей статьи, опубликованной в Interactions – журнале Ассоциации производителей компьютерной техники).

С. 166 «…интерактивный учебник из книги Нила Стивенсона „Алмазный век, или Букварь для благородных девиц“» ( Stephenson N. The Diamond Age: Or, A Young Lady’s Illustrated Primer. New York: Bantam Books, 1995).

С. 170 «Опыт действительно меняет наш мозг» ( Hill N.M., Schneider W. Brain changes in the development of expertise: Neuroanatomical and neurophysiological evidence about skill-based adaptations // Cambridge Handbook of Expertise and Expert Performance / Ed. by K.A. Ericsson, N. Charness, P.J. Feltovich and R.R. Hoffman. Cambridge, UK: Cambridge University Press. 2006, P. 655–684).

С. 171 «Человек предлагает…» Эпиграф к моей книге «Вещи, делающие нас умнее» ( Norman D . Things that make us smart. Cambridge, MA: Perseus Publishing, 1993).

С. 175 «Дизайн – это сознательное формирование окружающей среды способами…» Это определение возникло в результате длительной дискуссии с Джоном Хескетом, который охарактеризовал дизайн как «уникальную способность человека формировать и создавать окружающую среду способами, обеспечивающими наши потребности и придающими смысл нашей жизни».

С. 177 «Это будущее, эмоциональное и притягательное…» Эти определения я позаимствовал из статьи Дэвида Кейсона «Опыт общения с искусственным интеллектом». Ее текст я получил по электронной почте в тот момент, когда заканчивал последнюю главу моей книги. Как вовремя! ( Keyson D . The experience of intelligent products // Product experience: Perspectives on human-product interaction / Ed. by H.N.J. Schifferstein and P. Hekkert. Amsterdam: Elsevier, 2007. P. 956).

Послесловие

С. 185 «Люди… громоздки, требуют дорогостоящего ухода…» ( Kaufman C. et al. Network Security Private Communication in a Public World. Englewood, NJ: Prentice Hall, 1995. Цит. по: Anderson R.J. Security engineering: A guide to building dependable distributed systems. New York: Wiley, 2007).

С. 188 «эпохой фордизма» ( Hughes T.P. American genesis: A century of invention and technological enthusiasm, 1870–1970. New York: Viking Penguin, 1989).

С. 189 «Это нарушение первого закона Азимова». Здесь налицо прямая ссылка на «Законы роботехники» писателя-человека Айзека Азимова ( Asimov I. I, Robot. London: D. Dobson, 1950). Любопытно, что они обращают на эти законы столь серьезное внимание.

С. 189 «И да поможет вам Форд». По всей видимости, имеется в виду Генри Форд, впервые поставивший производство на конвейер. Похоже, это обращение к Форду машины заимствовали из «Дивного нового мира» Хаксли ( Huxley А. Brave new world. Garden City, NY: Doubleday, Doran and Company, 1932 [http://huxley.net/bnw/index.html]). Кстати, если уж на то пошло, то именно это машины нам и готовят – «дивный новый мир» по Хаксли. От одной этой мысли становится страшновато.

Благодарности

С. 205 «Книга Дегани „Укрощение ЭАЛ“…» (Taming HAL: Designing Interfaces beyond 2001 / Ed. by A. Degani. New York: Palgrave Macmillan, 2004 (For the National Transportation Safety Board’s report) [www.ntsb.gov/publictn/1997/MAR9701.pdf]).

Content

Норман Дональд А. Дизайн вещей будущего

Дональд А. Норман Дизайн вещей будущего

Предисловие к русскому изданию

Глава 1. Осторожные автомобили и властные кухни

Как машины берут власть

Два монолога еще не диалог

Куда мы движемся? И кто направляет движение?

Нашествие «умных» машин

Машинам легче думать, чем действовать; они воспринимают логику, но лишены эмоций

Общение с машинами: мы и они – два разных вида

Глава 2. Психология людей и машин

Краткое введение в психологию людей и машин

Появление нового организма: гибрид машины и человека

Различия в целях, действиях и восприятии

Общая основа: главное ограничение во взаимодействии людей и машин

Глава 3. Естественное взаимодействие

Естественное взаимодействие: уроки, которые следует усвоить

Звук кипящей воды – естественный, понятный и полезный

Косвенные сигналы и коммуникация

Аффордансы как средство коммуникации

Коммуникация с автономными «умными» устройствами

Делфтские велосипеды

Естественная безопасность

«Отзывчивая» автоматизация

Глава 4. Слуги собственных машин

Мы стали орудиями собственных орудий

Конференции, конференции…

Самоуправляемые автомобили, дома с автоматической уборкой и системы, выбирающие для нас развлечения

Рой и колонна

Проблема ненужной автоматизации

Глава 5. Задачи автоматизации

«Умные» вещи

«Умные» вещи: автономность или расширение возможностей?

Будущее дизайна: «умные» вещи как дополнение и расширение возможностей

Глава 6. Общение с машинами

Обратная связь

Кто виноват – технологии или мы сами?

Естественные сигналы искусственного происхождения

Естественное соответствие

Глава 7. Будущее привычных вещей

А как же роботы?

Технологии меняются, а люди?

Как нам соответствовать нашим технологиям

Наука о дизайне

Послесловие: С точки зрения машины

Беседа с Архиватором

Реакция машин на пять правил

Последняя беседа с Архиватором

Правила дизайна

Правила для людей, разрабатывающих «умные» машины

Правила дизайна, разработанные машинами в целях улучшения взаимодействия с людьми

Рекомендуемая литература

Литература по проблемам человеческого фактора и эргономики

Литература по проблемам автоматизации

Исследования по проблемам интеллектуальных транспортных средств

Прочее по проблеме автоматизации

Естественное и косвенное взаимодействие: фоновые, спокойные и невидимые технологии

Обеспечение отказоустойчивости

Опыт общения с искусственным интеллектом

Благодарности

Примечания

Глава 1

Глава 2

Глава 3

Глава 4

Глава 5

Глава 6

Глава 7

Послесловие

Благодарности