Текст книги "Дизайн вещей будущего"

Общение с машинами: мы и они – два разных вида

Я представляю себе: на дворе ночь, но мне не спится. Тихо, чтобы не разбудить жену, я встаю с постели. Раз уж одолела бессонница, лучше не тратить время впустую, а поработать. Но мой дом, уловив движение, радостно желает мне доброго утра, включает свет и радиоприемник, настроенный на программу новостей. Жена, естественно, просыпается и ворчит: «Зачем ты разбудил меня так рано?!»

Как мне объяснить «умному» дому, что его действия, абсолютно правильные в одной ситуации, в другой могут оказаться совершенно неуместными? Должен ли я программировать его на определенное время суток? Нет, не годится: порой нам с женой приходится вставать среди ночи, например чтобы успеть на утренний самолет или позвонить коллеге из Индии. Чтобы правильно реагировать, дом должен понимать контекст, мотивы моих действий. Я намеренно встал так рано? Следует ли будить мою жену? Хочу ли я, чтобы он включил радио и кофеварку? Чтобы понять причины моего пробуждения, дом должен знать мои намерения, а для этого требуется коммуникация такого уровня, который недостижим ни сегодня, ни в обозримом будущем. Пока что «умными» машинами по-прежнему должны управлять люди. В худшем случае это может приводить к конфликтам, в лучшем – человеку и машине удается создать эффективный симбиотический союз. Заметим, что своим «умом» машины обязаны людям.

Инженеры скажут, что все новые технологии поначалу бывают сырыми, но потом они совершенствуются и становятся надежными и безопасными. В этом есть своя правда. Было время, когда паровые двигатели локомотивов и пароходов взрывались, а теперь этого практически не случается. В начале развития авиации катастрофы происходили часто, а теперь очень редко. Помните проблему Джима с круиз-контролем, который увеличил скорость не там, где надо? Уверен, что в будущих моделях автомобилей таких ситуаций удастся избежать, соединив управление скоростным режимом с навигационной системой, либо создав устройства, с помощью которых шоссе само сможет информировать машину о разрешенной скорости (тогда превысить ее станет невозможно). Не исключено даже, что машины научатся самостоятельно определять безопасную скорость в зависимости от состояния дорожного полотна, количества поворотов, погодных условий, наличия на шоссе другого транспорта или людей.

Я инженер. Я верю, что наука и техника способны сделать нашу жизнь богаче и приятнее. Но пока мы идем не туда. Сегодня мы имеем дело с новым поколением «умных» и самостоятельных машин, которые в состоянии реально заменить нас во многих ситуациях. Они могут существенно облегчить нашу жизнь, сделать ее более приятной и безопасной. А могут начать действовать нам на нервы, мешать и даже подвергнуть опасности. Мы впервые имеем дело с машинами, которые пытаются с нами общаться.

Фундаментальные проблемы, возникшие в сфере технологий, невозможно преодолеть, действуя прежними методами. Здесь нужен более взвешенный, надежный и гуманитарный подход. Нужна не автоматизация, а совершенствование.

Глава 2. Психология людей и машин

Сегодня в нашей жизни вполне реальны три таких сценария:

– Набрать высоту! Набрать высоту! – громко предупреждает самолет, если считает, что самолет летит слишком низко.

– Би-би, – сигналит автомобиль, пытаясь привлечь внимание водителя. Одновременно он выпрямляет спинки сидений, туже затягивает ремни безопасности и готовится включить тормоза. Машина наблюдает за шофером с помощью встроенной видеокамеры и, если тот отвлекся от дороги, автоматически тормозит.

– Динь-динь, – это посудомоечная машина сообщает, что посуда помыта, даже если дело происходит в три часа утра и ее звонок способен разве что разбудить вас.

А вот три возможных сценария из недалекого будущего:

– Нет, – говорит холодильник, – яйца тебе есть нельзя, пока ты не похудеешь и у тебя не снизится уровень холестерина. Весы сообщили мне, что тебе надо сбросить еще три кило, а клиника продолжает упрекать меня за избыток холестерина у тебя в организме. Сам знаешь, все это делается для твоего же блага.

– Я только что проверил твое расписание в смартфоне, – говорит автомобиль, когда ты садишься в него после работы. – У тебя есть свободное время, поэтому я запрограммировал маршрут не по трассе, а по дороге с живописными видами и поворотами, которую ты так любишь. И кстати, чтоб было веселее в пути, я подобрал твои любимые мелодии.

– Слушай, – говорит дом, пока ты утром собираешься на работу, – куда ты спешишь? Мусор я выбросил, мог бы, кстати, и спасибо сказать. И хорошо бы нам поговорить насчет этого симпатичного регулятора – помнишь, я показывал тебе его на фото? С ним я буду работать куда эффективнее, и, между прочим, у дома Джона он уже есть.

Некоторые машины упрямы, другие темпераментны, одни деликатны, другие грубоваты. Мы часто наделяем машины человеческими чертами, и порой эти характеристики весьма точны, хотя мы употребляем их в переносном смысле. Однако новые типы «интеллектуальных» механизмов вполне самостоятельны: они сами делают выводы и принимают решения. Чтобы действовать, им уже не требуются санкции людей. Так наши метафоры обретают буквальный смысл, превращаясь в конкретные параметры.

Три моих первых примера взяты из реальной жизни. Системы предупреждения действительно кричат «Набрать высоту» (обычно женским голосом). Как минимум одна автомобильная компания уже заявила, что выпускает машину, оснащенную системой видеонаблюдения за водителем. Если он не следит за дорогой, а радиолокационное устройство сообщает о возможности столкновения, автомобиль подает сигнал тревоги – пусть не голосом (по крайней мере, пока), но гудками и вибрацией. Если водитель по-прежнему не реагирует, система включает тормоза и готовится к аварии. Что же касается посудомоечной машины, то она уже не раз будила меня среди ночи своими звонками.

Мы хорошо осведомлены об устройстве автоматизированных систем, но куда меньше знаем о том, как они взаимодействуют с людьми, хотя эта проблема изучается уже несколько десятков лет. Однако эти исследования касаются промышленности или армии, где люди постоянно работают с машинами. А как насчет простого человека, не имеющего специальной подготовки и пользующегося тем или иным прибором от случая к случаю? Об этом мы почти ничего не знаем, но именно такие ситуации заботят меня больше всего – когда обычные, неподготовленные люди, вроде нас с вами, пользуются бытовой техникой, аудио– и видеоаппаратурой, автомобилями.

Как простому человеку научиться обращаться с «умными» машинами нового поколения? Увы – постепенно, методом проб и ошибок, постоянно портя себе нервы. Конструкторы, похоже, убеждены в том, будто их создания столь умны и совершенны, что и учиться ничему не надо. Достаточно просто сказать им, что нужно сделать, и не мешать. Конечно, у приборов всегда есть инструкция, порой весьма объемная, но в ней ничего не объясняется, и к тому же она, как правило, очень невразумительная. В большинстве инструкций ничего не говорится о том, как работает сам механизм. Вместо этого приборам даются магические названия, броские, но лишенные смысла, скажем «Умный бытовой сенсор», как будто завлекательное название равносильно объяснению.

В научных кругах этот подход называют «автомагизационным» (автоматика плюс магия). Производители хотят, чтобы мы верили в магию и полагались на нее. И даже если прибор работает без сбоев, ты испытываешь некоторый дискомфорт, потому что не знаешь, как он действует и почему. Но реальные проблемы начинаются, если что-то идет не так: ведь мы просто не понимаем, что надо делать. Мы оказываемся наедине с ужасами промежуточного состояния. С одной стороны, мир научной фантастики, населенный умными, самостоятельными, идеально функционирующими роботами, еще не стал реальностью. С другой – мы все дальше уходим от мира ручного управления, где нет автоматизации, где люди сами приводят в действие устройство, которое выполняет их задание.

«Мы просто облегчаем вам жизнь, – внушают мне производители. – Мы делаем ее более безопасной, здоровой и приятной. Что в этом плохого?» Да, мы были бы счастливы, если бы эти «умные» приборы работали идеально. Будь они стопроцентно надежны, нам действительно незачем было бы знать, как они устроены, «автомагизация» нас вполне бы удовлетворила. Но, оказавшись в промежуточном мире автоматизированной техники, которую мы не понимаем, которая работает не так, как мы хотим, не выполняет порученное, мы явно не чувствуем, что наша жизнь стала легче и приятнее.

Краткое введение в психологию людей и машин

История «умных» машин начинается с попыток создания механических автоматов, в частности заводных устройств и шахматных машин. Из первых шахматных автоматов самым удачным был «Турок» Вольфганга фон Кемпелена, торжественно представленный европейским монархам в 1769 году. Впоследствии выяснилось, что это был обман – «автоматом» управлял спрятанный внутри опытный шахматист. Но сам факт удавшейся мистификации свидетельствует о том, что люди были готовы поверить в возможность создания разумных механизмов. Настоящий же бум в разработке «умных» машин начался в середине ХХ века, после появления теории управления, сервосистем, кибернетики, информатики и теории автоматизации. Одновременно шло ускоренное развитие электроники и компьютерной техники, чья мощность удваивалась примерно раз в два года. И сегодня, через сорок с лишним лет, эти системы в миллион раз мощнее первых гигантских «искусственных мозгов». А теперь подумайте, что случится через двадцать лет, когда машины будут в тысячу раз мощнее нынешних, или через сорок лет, когда их мощность возрастет в миллион раз.

Первые попытки создания искусственного интеллекта (ИИ) тоже относятся к середине прошлого века. При создании «умных» устройств ученые попытались руководствоваться не холодной, жесткой математической логикой, а пластичным мышлением, близким к человеческому, которое основано не на точных алгоритмах, а на здравом смысле, гибкой логике, вероятностях, качественных критериях и эмпирических правилах. В результате сегодняшние системы с искусственным интеллектом (СИИ) способны видеть и распознавать предметы, понимать устную и письменную речь, говорить, перемещаться в пространстве и решать сложные задачи.

Пожалуй, наиболее успешно в повседневной жизни ИИ применяется в компьютерных играх – для создания «мыслящих» персонажей, играющих против людей, этих сообразительных, но несносных героев, которые, словно нарочно, делают все, чтобы вывести из себя создателей-игроков. ИИ так же успешно применяется для борьбы с банковскими махинациями, мошенничеством с кредитными картами и другой подозрительной деятельностью. В автомобильном оборудовании ИИ применяется в системах торможения, обеспечения устойчивости, круиз-контроля, автоматической парковки и др. В быту простейшие системы, обладающие ИИ, управляют стиральными машинами: они определяют тип белья, степень его загрязнения и соответствующим образом корректируют настройки. СИИ в микроволновых печах распознают, готова ли пища. Простые устройства в цифровых фотоаппаратах и видеокамерах помогают контролировать фокус и экспозицию, умеют распознавать лица и следить за ними, чтобы даже в движении обеспечивать нужную резкость и четкость изображения. Со временем возможности и надежность СИИ будут увеличиваться, а стоимость – снижаться, их будут использовать в самой разной технике, а не только в дорогих моделях. Вспомним, что мощность компьютеров каждые двадцать лет повышается в тысячу раз, а каждые сорок лет – в миллион раз.

По своему устройству машины, конечно, сильно отличаются от живых существ. Ведь они в основном состоят из деталей с прямыми линиями, правильными углами или дугами, а в биологии царит гибкость: ткани, связки, мышцы. Мозг живого существа работает за счет мощных параллельных вычислительных механизмов, химических и электрических, и посредством перехода в устойчивые состояния. Мозг машины, точнее – ее система обработки информации, действует гораздо быстрее биологических нейронов, но параллелизма у ее систем гораздо меньше. Человеческий мозг крепок, надежен и креативен, он отлично распознает образы. Мы, люди, обладаем способностью к творчеству, воображением и отлично адаптируемся к меняющимся обстоятельствам. Мы выявляем сходство между событиями и с помощью метафорического расширения идей создаем новые области знаний. Более того, человеческая память, хоть она и ненадежна, умеет находить связи и сходство между предметами, которые машина попросту не сочтет похожими. Наконец, человек обладает мощным здравомыслием, а у машин здравый смысл вообще отсутствует.

Эволюция технологий сильно отличается от эволюции биологических видов. В том, что касается механических систем, она полностью зависит от конструктора, изучающего существующие устройства и вносящего в них изменения. Многовековая история развития машин отчасти обусловлена тем, что наши технические знания, способность к изобретательству и конструированию техники постоянно совершенствуются за счет развития науки, изменения потребностей человека и самой среды его обитания.

Однако между эволюцией человека и «умных» самостоятельных машин существует одна интересная параллель. И люди, и машины должны эффективно, надежно и безопасно функционировать в реальном мире. Таким образом, сам мир предъявляет одинаковые требования ко всем созданиям: животным, людям и механизмам. У животных и людей выработались сложные системы восприятия и поведения, эмоциональные и когнитивные. Машинам нужны аналогичные системы, чтобы постигать окружающий мир и действовать соответствующим образом. Им нужно думать и принимать решения, решать проблемы и делать выводы. А еще им требуется нечто вроде человеческих эмоций, конечно не точное подобие, но машинный аналог, чтобы противостоять внешним угрозам и опасностям, пользоваться предоставляющимися возможностями, предвидеть последствия своих действий, осмыслять то, что уже произошло, и думать о том, что может произойти, то есть извлекать уроки и совершенствоваться. Это относится ко всем автономным системам, наделенным интеллектом, – животным, людям и машинам.

Появление нового организма: гибрид машины и человека

Долгое время ученые полагали, что трехуровневое описание мозга во многих отношениях полезно, пусть даже оно резко упрощает его эволюцию, биологию и функционирование. Это описание основано на теории «триединого мозга», выдвинутой Полом Маклином. Уровни определяются переходом от нижних областей мозга (его стволовой части) к верхним (коре и лобной доле), что отражает как историю эволюции мозга, так и усложнение его функций по обработке информации. В книге «Эмоциональный дизайн» я еще больше упростил это определение, чтобы его могли использовать конструкторы и инженеры. Представим себе три уровня обработки информации в мозгу:

– инстинктивный (висцеральный): самый простой, на этом уровне обработка информации происходит автоматически, неосознанно и определяется нашими биологическими особенностями;

– поведенческий: это сфера приобретенных навыков, но процесс тоже в основном идет неосознанно. На этом уровне запускается и контролируется значительная часть наших действий. Одна из важных функций – управление ожиданиями результатов наших действий;

– рефлексивный: это «сознательная» часть мозга, в которой заложены наше «я» и наши представления о самих себе, здесь происходит анализ прошлого и рождаются образы будущего, которого мы ждем или боимся.

Рис. 2.1. Машина + водитель = новый гибридный организм. Скульптура Марты Тома

«Р-р-разбег». Фото автора. Боуден-парк, Пало-Альто (Калифорния)

Если бы мы сумели заложить в машины наши эмоциональные состояния, это было бы для них очень полезно. Так же, как для нас полезны некоторые свойства машин: быстрота реакции, позволяющая избежать опасностей и несчастных случаев, безопасность для окружающих, мощные способности к обучению, позволяющие улучшать результаты и повышать эффективность. Кое-что мы уже можем наблюдать. Закрывающиеся двери лифтов распахиваются, если на пути возникает препятствие (как правило, зазевавшийся человек). Пылесосы-роботы избегают крутых спусков: страх перед падением заложен в их программы. В данном случае речь идет об автоматической, «инстинктивной» реакции – о страхе, который в человеке заложен биологически, а в машине – ее создателем. Но на рефлексию и эмоции, основанные на собственном позитивном или негативном опыте, машины пока не способны. Когда-нибудь это случится, и тогда их прогностические способности и способности к обучению станут еще выше.

Будущее окружающих нас вещей принадлежит тем, которые наделены знаниями, интеллектом, понимают, где их место и кому они принадлежат, способны обмениваться информацией с другими объектами и окружающей средой. Будущее машин целиком и полностью связано с их мобильностью, способностью физически управлять средой, сознательно взаимодействовать с другими машинами и людьми.

Из технологий будущего наибольший интерес представляют те, что смогут установить с нами симбиотические отношения: «машина + человек». Можно ли назвать связку «автомобиль + водитель» симбиозом в том же смысле, что и связку «конь + всадник»? В конце концов взаимодействие автомобиля и водителя означает разделение уровней обработки информации: машина берет на себя «инстинктивную» часть, человек – «рефлексивную», а «поведенческая» часть у них общая, как у коня и всадника.

Подобно лошади, обладающей достаточным уровнем интеллекта, чтобы взять на себя «инстинктивные» аспекты движения (избегать опасных мест, корректировать скорость в соответствии с качеством дороги, обходить препятствия), современные автомобили могут чувствовать опасность, контролировать собственную устойчивость, тормоза, скорость. Лошади усваивают сложные поведенческие режимы, позволяющие двигаться по сильно пересеченной местности, перепрыгивать через препятствия, менять при необходимости аллюр и держать нужную дистанцию. Современный автомобиль тоже действует на поведенческом уровне: меняет скорость, держится в своей полосе, тормозит при возникновении опасности и контролирует другие аспекты движения.

Связку «конь + всадник» можно рассматривать как симбиотическую систему: конь обеспечивает инстинктивный уровень восприятия, а всадник – рефлексивный. При этом на поведенческом уровне они действуют совместно. То же самое можно сказать и о связке «автомобиль + водитель»: последний отвечает за рефлексивный уровень, а машина постепенно берет на себя инстинктивный. Кроме того, и на поведенческом уровне у них много общего. Отметим также, что и конь, и «умная» машина пытаются контролировать ситуацию на рефлексивном уровне.

Рис. 2.2. «Конь + всадник» и «автомобиль + водитель» как симбиотические системы

Рефлексия не всегда удел наездника или водителя. К примеру, лошадь может замедлить аллюр или решить вернуться домой. Либо, вместо того чтобы слушаться наездника, попытается его сбросить или просто будет игнорировать его команды. Нетрудно представить, что когда-нибудь машина сама будет выбирать маршрут или вдруг съедет на обочину, решив, что ей пора заправиться или водителю надо отдохнуть или перекусить. Не исключено также, что она может отреагировать на сообщения, поступающие от придорожных коммерческих заведений.

«Машина + водитель» – сложная система, наделенная чувствами и разумом. В начале ХХ века, когда автомобили только входили в нашу жизнь, водитель отвечал за все уровни обработки информации – инстинктивный, поведенческий и рефлексивный. Однако по мере развития техники в машину закладывалось все больше «инстинктивных» элементов: она брала на себя корректировку работы двигателя, впрыск топлива и управление. С появлением антиблокировочных тормозных устройств, систем обеспечения устойчивости, круиз-контроля, а теперь и системы предупреждения о выходе за пределы полосы движения автомобиль все больше отвечает за «поведенческие» аспекты вождения. Таким образом, современные машины действуют на «инстинктивном» уровне, водитель – на «рефлексивном», и оба они – на «поведенческом».

Автомобиль ХХI века становится все более «рефлексивным», в связке «машина + водитель» он постепенно берет на себя и те аспекты, которые связаны с осмыслением ситуации. Так, рефлексия несомненно присутствует в адаптивной системе круиз-контроля, постоянно оценивающей расстояние между автомобилем и другими машинами, в навигационной системе, следящей за тем, насколько точно водитель выполняет ее инструкции, и во всех прочих устройствах, наблюдающих за поведением водителя. Когда эти системы обнаруживают проблему, они либо подают человеку сигнал, чтобы он изменил свои действия, либо, по возможности, корректируют их сами. Но если машина решит, что это необходимо, она полностью возьмет управление на себя.

Придет время, когда водители машинам вообще будут не нужны. Люди превратятся в пассажиров, они смогут болтать, читать и даже дремать, пока автомобиль везет их к месту назначения. А если человеку нравится водить? Что ж, для таких любителей будут устроены специальные полигоны, где они смогут сесть за руль – подобно тому, как сегодня существуют особые места для верховой езды. Когда такие времена наступят – а это, как мне кажется, произойдет уже в ХХI веке, – система «автомобиль + водитель» уйдет в прошлое. Вместо нее, как и прежде, будут автомобили и будут люди, только автомобиль станет по-настоящему разумной, самостоятельной машиной, по крайней мере в том, что касается перевозки людей. И отвечать он будет не только за навигацию и управление, но и за комфорт и хорошее настроение пассажиров, обеспечивая нужное освещение и температуру, развлекая их, угощая едой и напитками.

Смогут ли пассажиры вести осмысленные разговоры со своими машинами? В прошлом склонность людей наделять неодушевленные предметы убеждениями, эмоциями и другими личностными качествами подвергалась критике как проявление антропоморфизма. По мере роста когнитивных и эмоциональных возможностей машин возникает ощущение, что мы не так уж не правы в своем антропоморфизме. Такой подход может оказаться абсолютно уместным.