Текст книги "Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта"

Ричард Йонк
Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта

Всем, кто учил, просвещал

и вдохновлял меня все эти годы.

И прежде всего первым из многих —

моим родителям.

HEART OF THE MACHINE

Richard Yonck

Copyright © 2017 by Richard Yonck

© Воронович Э., перевод на русский язык, 2018

© Оформление. ООО «Издательство «Эксмо», 2019

Введение

Чувства для нас так же важны, как тело и разум. И хотя многие из нас способны распознавать чужие и свои эмоции, все же остается множество вопросов: что такое эмоции, как они действуют, почему возникают. Наверняка известно лишь одно: без них мы не были бы собой.

Сейчас мы переступаем порог удивительной новой эры, в которой начинаем наделять устройства способностью читать, интерпретировать, воспроизводить эмоции и, вероятно, испытывать их. Эмоциональное программирование – новое направление в искусственном интеллекте, эффективная и незаурядная технология, которой суждено изменить нашу жизнь и мир в течение грядущих десятилетий.

Такое развитие событий может показаться фантастикой или очередным свидетельством неумолимо наступающего прогресса. Как бы то ни было, мы сближаемся с технологиями теснее, чем когда-либо прежде. В конечном итоге машины станут нашими помощниками, друзьями, компаньонами и, возможно, даже возлюбленными. Со временем мы увидим, как мечта (или кошмарный сон) о разумных машинах становится реальностью.

Эволюция человечества связана с техническим развитием с тех самых пор, как на заре цивилизации люди изготовили первые инструменты. Столь тесное сближение стало возможным лишь благодаря своевременной и постоянной взаимной поддержке людей и механизмов. Процесс этот необратим, и, к счастью, при жизни нашего поколения и последующих тенденция будет усиливаться.

Социальные и экономические факторы, влияющие на развитие технологий, очень напоминают некоторые механизмы естественного отбора¹. Например, люди используют технологии, чтобы получить преимущество в конкуренции (в промышленности, научных учреждениях, строительстве). В свою очередь, некоторые факторы, определяющие, насколько технология приспособлена к окружающей среде, могут сдерживать развитие. Именно от среды – физических, социальных, экономических и политических реалий общества – зависит успех новой разработки, даже если впоследствии она будет изменяться и совершенствоваться.

Хотя у биологической и технологической эволюций есть общие черты, основное различие состоит в том, что технологии развиваются в геометрической прогрессии. В природе эволюция происходит в относительно стабильной линейной последовательности, поскольку ее сдерживают метаболизм, темпы размножения и частота генных мутаций. А технологии развиваются в условиях многочисленных цепей положительной обратной связи, ускоряющих процесс². Темп развития нельзя назвать постоянным; как правило, он выравнивается по каждой отдельной области или парадигме, а с течением времени – и по всей технологической сфере, но общей тенденцией является положительный прирост знаний и навыков. Таким образом, технологии и все, что с ними связано, растут в геометрической прогрессии, значительно опережая изменения, происходящие в биологическом мире на протяжении того же периода времени³.

Именно поэтому возникла потребность в сложных пользовательских интерфейсах, которые позволят взаимодействовать с многочисленными устройствами и технологиями и контролировать их. Я готов подтвердить это на основании своего многолетнего опыта разработки интерфейсов для компьютерных приложений. Как заметила эксперт по теории технологий Бренда Лорел, «чем больше различие между двумя объектами, тем сильнее необходимость в хорошо проработанном интерфейсе»⁴. И значит, на первый план выходит новое направление – разработка естественных интерфейсов, приближенных к жизни, приспособленных к нашим телам, чувствам и интеллекту.

В конечном итоге машины станут нашими помощниками, друзьями, компаньонами и, возможно, даже возлюбленными.

Эта книга о новейших естественных интерфейсах. Эмоциональное программирование объединяет компьютерные науки, искусственный интеллект, робототехнику, когнитивистику, психологию, биометрию и другие науки, позволяющие взаимодействовать и общаться с компьютерами, роботами и прочими технологиями при помощи чувств. Уже разрабатываются системы, которые позволят считывать, интерпретировать, воспроизводить человеческие эмоции и, возможно, влиять на них. Некоторые приложения прошли стадию лабораторных разработок и нашли коммерческое применение. В новую эру мы станем свидетелями преобразования аффекта (этим термином психологи и когнитивисты называют проявление эмоций) в цифровую форму.

Для нашего высокотехнологичного мира этот шаг в какой-то мере предсказуем. Цифровые эмоции – идеальный способ поддерживать постоянно развивающуюся связь с технологией. В то же время они способны изменить характер отношений между людьми и машинами. Предлагаемый путь полон неопределенности. Мир, в котором мы будем жить, может оказаться как лучшим местом, так и намного худшим, чем сейчас. Появятся ли в итоге системы, которые будут предугадывать и выполнять любое наше желание раньше, чем мы его осознаем? Или же возникнут машины, которые будут использоваться, чтобы тайно манипулировать нами, каждым в отдельности или всеми вместе? Как бы то ни было, в наших интересах исследовать возможные варианты будущего, связанные с технологией цифровых эмоций, пока у нас есть время повлиять на то, как она в конечном счете себя проявит.

В этой книге возможные перспективы рассмотрены с разных точек зрения, и сделано это намеренно. При исследовании будущего важно понимать, что о нем нельзя знать всего и его невозможно предсказать. Один из лучших способов заглянуть в будущее – исследовать многочисленные возможные сценарии и в разумных пределах подготовиться к каждому из них. Нужно не только рассмотреть, что произойдет, если технология будет развиваться по плану или не по плану, но и воспримут ли люди такое развитие событий или станут ему сопротивляться. Необходимо предусмотреть возможные долгосрочные, среднесрочные и краткосрочные последствия, в том числе и непредвиденные. Футурологический подход поможет нам подготовиться к целому ряду непредвиденных обстоятельств и действовать на опережение, направляя пути развития будущего.

Книга состоит из трех частей. Первая часть – «Путь к программированию эмоций» – рассказывает о нашем эмоциональном мире от первых дней существования человечества до начала разработки эмоциональных компьютеров, распознающих чувства, и роботов, способных общаться. В части «Рассвет эмоциональных машин» рассмотрены многочисленные способы применения технологий, возможная польза, а также последствия, к которым стоит подготовиться. Третья часть – «Будущее эмоционального искусственного интеллекта» – посвящена глобальным вопросам: каким путем пойдет развитие в целом, какие последствия оно будет иметь для каждого из нас и для всего человеческого общества. Книга заканчивается размышлениями о сознании и сверхразуме и о том, как подобные разработки могут изменить баланс в отношениях человека и машины.

До сегодняшнего дня наше путешествие бок о бок с технологией, длившееся три миллиона лет, было относительно односторонним и всегда молчаливым. Но как изменится ситуация, когда мы начнем взаимодействовать с машинами на уровне своего базового опыта? В то же время подготавливаем ли мы технологии к некоему гигантскому скачку вперед? Если искусственный интеллект когда-либо сравняется с человеческим или превзойдет его и, возможно, осознает себя, не станут ли чувства и все, что с ними связано, той искрой, которая подожжет «бикфордов шнур»? Только время даст ответ, но мы поступим мудро, если изучим возможности.

Хотя эта книга об эмоциях и чувствах, она в значительной степени основана на данных научных исследований и оценке постоянно развивающейся природы разума во Вселенной. Нам предстоит узнать, что эмоции – не только центральный аспект человеческой природы, но и основа любого высшего разума, независимо от того, какую форму он принимает.

Футурологическая точка зрения

Перспективы, или «стратегические прогнозы», как известно, необычная область знаний. В один прекрасный день вас спрашивают: «А кто такой футуролог?» или «Чем занимается футуролог?» Многие представляют предсказателя будущего, который вглядывается в хрустальный шар, но этот образ не имеет ничего общего с действительностью. Потому что все мы в какой-то мере футурологи.

Перспективы – одна из важнейших характеристик человеческого вида. Самосознание и наблюдение позволили людям предугадывать закономерности и циклы окружающей среды, что повысило вероятность выживания. В результате у людей развилась префронтальная кора головного мозга, и они приобрели способность думать с перспективой на будущее, пусть даже на несколько дней. Возможно, наблюдая за изменяющимся ландшафтом пастбищ Серенгети, человек стал понимать, где может спрятаться хищник. Затем люди начали распознавать фазы луны, приливы и отливы, цикличность сменяющихся времен года. Там было недалеко и до ожидания затмений, прогнозирования ураганов и предсказания обвалов фондового рынка. Мы, Homo sapiens, – вид футурологов.

Разумеется, это было только начало. Какой бы невероятной ни была эта способность, она могла принести значимые результаты лишь в изначальном неструктурированном виде. Так что когда мир начал задавать очень сложные и важные экзистенциальные вопросы о возможности пережить ядерную эру, пришло время формализовать то, что мы думаем о будущем.

Проект РЭНД, стартовавший сразу после Второй мировой войны, положил начало процессу формального прогнозирования. На основании имеющихся возможностей проект РЭНД искал способы понять потребности и возможную выгоду от объединения военного планирования и научно-исследовательских разработок. Это позволило военным понять не только собственные перспективы, но и будущие возможности врага. Это было важно, поскольку на заре атомной эры существовали сомнения по поводу будущего, в том числе выживет ли человечество и наступит ли это будущее в принципе.

В конечном итоге проект РЭНД стал корпорацией РЭНД, одним из важнейших для глобальной политики исследовательских центров. С началом гонки в области космических исследований возрос интерес к прогнозированию со стороны правительства и военных. Спустя некоторое время интерес проявили корпорации: Royal Dutch Shell одной из первых применила спрогнозированные сценарии в качестве реакции на нефтяной кризис 1973 года. Инструменты и методы продолжают развиваться и сейчас, методы прогнозирования используют корпорации всего мира, от таких гигантов, как Intel и Microsoft, у которых футурологи работают в штате, до меньших компаний и организаций, пользующихся услугами приглашенных футурологов-консультантов. Продвижение торговых марок, дизайн продуктов, исследование и разработка, государственное планирование, управление образованием – если у этих областей есть будущее, то есть и люди, которые его изучают. Используя методы постановки задач, поиска и накопления информации, составления прогнозов и сценариев, создания и воплощения концепций, специалисты-футурологи помогают определить возможности и проблемы, чтобы мы могли приблизить именно то будущее, которое хотим видеть.

Важный аспект прогнозирования: понимать, что будущее не предопределено окончательно, и у каждого из нас есть возможность повлиять на ход событий. Заметьте, я сказал «повлиять», а не «контролировать». Масштаб и уровень сложности многочисленных элементов, определяющих будущее, слишком велики, чтобы мы могли их контролировать. Но если мы поймем кое-что о своем будущем, каким хотели бы его видеть, и поймем это достаточно рано, то сможем учесть факторы, которые сделают его более вероятным.

Замечательным личным примером могут послужить сбережения на случай выхода на пенсию. Молодой человек, осознающий, что когда-нибудь выйдет на пенсию, начинает копить сбережения заранее. Поступая таким образом, он с большей вероятностью обеспечит себе финансовую безопасность в молодые годы, чем дожидаясь возраста пятидесяти или шестидесяти лет.

При написании этой книги использовались многие методы и процессы прогнозирования. Поиск информации из различных источников, обзоры мнений экспертов и прогнозы тенденций изменения – лишь малая их часть. Сценарии, возможно, самые очевидные из этих инструментов, поскольку они приведены в книге. Футурологические модели дают на выходе множество данных, которые часто не отражают того, что важно в общечеловеческом смысле. Но отражают рассказанные истории, потому что мы всегда были рассказчиками. Истории помогают сформировать отношение к новому знанию и друг к другу. Именно это и делает сценарий: собирает все данные и переводит их в легкую для восприятия форму.

Эмоции – самый сложный аспект человеческого состояния и разума, после разве что самой загадки сознания. Важно понимать их глубину и сложность и не пытаться чрезмерно упростить их механизмы и цели.

Прогнозы используются в более общем смысле, поскольку во многих отношениях их ценность меньше. Некоторые люди считают, что изучение будущего связано с предсказаниями, что на самом деле совершенно не так. Знание о том, произойдет ли то или иное событие в 2023 или 2026 году, менее ценно, чем предупреждение о событии в целом и решение о том, что мы будем делать, если событие произойдет. О том, кто выиграет скачки или Мировой кубок, должны беспокоиться букмекеры, а не футурологи.

Футуролог исследует будущее точно так же, как историк изучает исторические данные и видит целостную картину или закономерность, исходя из фрагментарных подсказок. Можно спросить, откуда берутся подсказки, если событие еще не произошло, однако стоит напомнить, что любое будущее опирается на прошлое и настоящее, в которых полно сигналов и указаний на то, что вскоре должно случиться.

Итак, поговорим о грядущей эре эмоционального искусственного разума, поскольку совсем скоро он станет частью настоящего.

Часть I
Путь к программированию эмоций

Глава 1
Рассвет эмоциональных машин

Менло-Парк, Калифорния – 3 марта 2032 года, 07:06

Хмурым весенним утром дремлющую Абигейл деликатно будит Мэнди, ее личный цифровой помощник. Сенсоры, встроенные в кровать, точно сообщают Мэнди о фазе сна Абигейл, позволяя подстраиваться под график ее работы и будить в оптимально подходящее для этого время. Учитывая сегодняшнее пасмурное утро и отнюдь не радостное настроение Абигейл перед сном вчера вечером, Мэнди решает разбудить ее записью пения воробьев и щеглов на рассвете.

Абигейл потягивается и садится на край кровати, нащупывая ногами шлепанцы.

– М-м-м… уже утро? – тихо бормочет она.

– Вы спали семь часов девятнадцать минут с минимальным прерыванием, – сообщает ей Мэнди приятным алгоритмически вычисленным бодрым голосом через встроенную акустическую систему комнаты. – Как вы себя чувствуете?

– Хорошо, – моргнув отвечает Абигейл. – Даже замечательно.

Всего лишь дежурные любезности. На самом деле Мэнди не нужно ничего спрашивать у своей владелицы или слышать ее ответ. Удаленные сенсоры цифрового помощника уже проанализировали позу Абигейл, ее энергетические уровни, выражение лица и интонации голоса, оценив, что с прошлого вечера ее настроение намного улучшилось.

Это самое обычное утро для молодой женщины и технологии, которая ей служит. Они вместе уже долгое время. Когда Абигейл была еще подростком, она назвала своего помощника Мэнди. Разумеется, тогда программное обеспечение было не настолько продвинутым, как сейчас, так что в каком-то смысле они выросли вместе. За это время Мэнди узнавала все больше о рабочих привычках Абигейл, манере поведения, сменах настроения, предпочтениях и многих других особенностях. Во многих отношениях она знает Абигейл лучше, чем кто бы то ни было. Мэнди продолжает рассказывать о погоде и дорожных пробках, об утреннем рабочем графике и немного о том, что нового и интересного было в соцсетях, пока Абигейл приводит себя в порядок.

– Мэнди, – спрашивает Абигейл, расчесывая волосы, – ты все организовала для сегодняшнего заседания совета директоров?

Личный помощник предвидела этот вопрос и сверилась с календарем и историей биометрических данных Абигейл прежде, чем организовать все необходимое для ее предстоящей встречи с советом директоров. Абигейл – генеральный директор компании ААТ – Applied Affective Technologies (Прикладные эмоциональные технологии), главный приоритет которой – отношения человека и машины.

– Все получили копии повестки совещания. Ваша 30-презентация и доклад к ней закончены. У Джереми все готово для завтрака. Для сегодняшнего дня я подобрала вам костюм от Нины Риччи.

– Разве я не надевала его недавно?

Мэнди отвечает без промедления.

– По моим данным, вы надевали его больше двух месяцев назад на собрание, аналогичное по важности этому. В нем вы чувствовали себя сильной и уверенной, и ни один человек из тех, кто будет присутствовать на совещании, еще не видел вас в этом костюме.

– Отлично! – радостно улыбается Абигейл. – Мэнди, что бы я без тебя делала?

В самом деле, что?

* * *

Хотя этот сценарий может показаться сценой из фантастического романа, на самом деле это вполне разумная экстраполяция того, куда могут зайти технологии через пятнадцать лет. Уже сейчас распознавание и синтез голоса, обработка персональных биометрических данных в реальном времени и системы планирования на основе искусственного интеллекта становятся все более обыденной частью жизни. С учетом возрастающей вычислительной мощности и прогресса в других сопутствующих технологиях эти инструменты станут намного более продвинутыми, чем сегодня, в течение одного десятилетия.

Однако настоящий переворот, о котором здесь говорится, наступит благодаря той области информатики, которая пока находится в стадии зарождения и еще слишком молода, чтобы многие люди о ней хотя бы слышали. Эта область называется эмоциональным программированием и занимается разработкой систем и устройств, взаимодействующих с чувствами. Эмоциональное программирование включает в себя распознавание, интерпретацию и воспроизведение человеческих эмоций, а впоследствии, возможно, и манипулирование ими, с помощью компьютеров и социальной робототехники.

Эта быстро развивающаяся область науки способна в будущем полностью изменить характер нашего взаимодействия с компьютерами и другими устройствами. Постепенно системы и механизмы управления научатся изменять свои операции и поведение в зависимости от наших эмоциональных реакций и других невербальных сигналов. Благодаря этому технологии будут становиться все более интуитивно понятными и выполнять не только заданные команды, но и невысказанные пожелания. Далее мы рассмотрим, что будет означать наступление новой эры для наших технологий и нас самих.

Все мы – эмоциональные машины. За сотни лет исследования в области анатомии, биологии, неврологии и других областях выявили, что почти все, что составляет нашу идентичность, представляет собой предсказуемую последовательность физических процессов. Благодаря этим механическим правилам мы едим, растем, производим потомство. С небольшими генетическими вариациями мы по сути своей копии тех, кто существовал до нас, и нам суждено воспроизводить поколение за поколением практически идентичные стандартные копии самих себя в далеком будущем.

Разумеется, мы знаем, что такое описание не отражает истинную реальность человеческого опыта. Хотя детерминистские силы определяют нас в какой-то мере, наше существование намного глубже и имеет множество измерений, которые объясняются не только и не столько обычным набором стимулов и реакций. Прежде всего мы – эмоциональные существа. Тем, что мечты, надежды, страхи и желания каждого из нас уникальны и в то же время универсальны, мы обязаны эмоциональному восприятию мира. Если бы было иначе, у идентичных близнецов, выросших вместе, были бы практически одинаковые личности¹. На самом деле их развитие начинается с генетически обусловленных признаков и моделей поведения, но позже отдаляется от них². У всех людей на земле практически одинаковое биологическое строение, но химические процессы и способы восприятия ощущений от органов чувств – наши чувства, эмоциональная интерпретация мира, в котором мы живем, и реакция на него – делает каждого из 107 миллиардов людей, когда-либо живших на этой планете, действительно не похожим на всех остальных^3,4.

Существуют сотни, если не тысячи, теорий о том, что такое эмоции, почему они существуют и откуда они происходят, и в книге, подобной этой, невозможно упомянуть или рассмотреть их все. Кроме того, эта книга не претендует на то, чтобы заявить, какая из теорий единственно верная (если это вообще возможно), отчасти потому, что при всем их сходстве такой теории не существует. Специалисты в области нейронаук, психологи и философы постоянно повторяют, что теорий эмоций столько же, сколько теоретиков⁵.

Эмоции – самый сложный аспект человеческого состояния и разума, после разве что самой загадки сознания. Важно понимать их глубину и сложность и не пытаться чрезмерно упростить их механизмы и цели.

Эмоции – одна из фундаментальных составляющих человеческого опыта. Но какое бы важное место ни занимали эмоции в нашей жизни, нам сложно дать им определение или хотя бы объяснить их. Нередко мы получаем ценную информацию об эмоциях, когда не ощущаем их или что-то идет не так. Несмотря на множество существующих теорий, мы знаем наверняка, что именно эмоции делают нас теми, кто мы есть, и без них мы были бы жалкими подобиями самих себя.

Память – главная движущая сила культуры и технологии. Логично считать, что усовершенствование этой способности способствовало нашему становлению как вида, использующего технологию.

Так что же будет означать начало новой эры, когда созданные нами машины – компьютеры, роботы и прочие устройства – приобретут постоянно совершенствующуюся способность взаимодействовать с нашими эмоциями? Как это изменит характер нашей связи с технологиями и друг с другом? Как изменится сама технология? Возможно, самый важный вопрос: если эмоции развились у людей и некоторых животных, потому что давали им определенные преимущества, могут ли они обеспечить те же преимущества разработанному в будущем искусственному интеллекту?

По причинам, о которых будет рассказано в следующих главах, эмоциональное программирование – это ожидаемый этап в развитии технологий, ориентированных на поведение человека, а не наоборот. В результате эта область искусственного интеллекта в той или иной степени сможет интегрироваться во все аспекты нашей жизни. В то же время, как и почти любая другая область искусственного интеллекта, разработанная и введенная в коммерческое обращение, эмоциональное программирование станет обыденной частью жизни, недооцененной и обойденной вниманием, ведь мы слишком быстро принимаем как должное то, что становится повсеместным.

Рассмотрим возможности. Комнаты, в которых изменяется освещение и музыка в зависимости от вашего настроения. Игрушки, занимающие умы детей естественными эмоциональными реакциями. Компьютерные программы, которые замечают, что вы расстроены выполняемой работой, и изменяют манеру помощи. Электронная почта, которая заставляет остановиться и подумать, прежде чем отправить излишне издевательское сообщение. Количество сценариев бесконечно.

Однако большинство технологий приводит к неожиданным последствиям или применяется не так, как ожидали разработчики. Эмоциональное программирование не станет исключением. Не нужно быть экспертом в прогнозировании, чтобы предвидеть, что применение подобной технологии с нарушением правил, защищающих интересы большей части общества, неизбежно. Как еще будет упомянуто в книге, эмоциональное программирование, как и многие другие технологии, будет палкой о двух концах – оно одновременно сможет и принести нам пользу, и причинить значительный вред.

Среди всех этих радикальных процессов следует упомянуть еще одно обстоятельство. Эмоциональное программирование – во многих отношениях веха на долгом пути эволюционного развития технологии и человечества. Эта история складывалась на протяжении миллионов лет, и, возможно, она подходит к переломному моменту – определению будущего не только технологии, но и человечества.

Но сначала изучим вопрос, который волнует многих: «Зачем вообще это нужно? Зачем разрабатывать устройства, которые понимают чувства?» Как мы увидим в следующей главе, это естественный и даже неизбежный шаг в путешествии, которое началось больше трех миллионов лет назад.