Текст книги "Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта"

Подобные периоды разочарования служат важной цели – отделяют зерна от плевел.

Тем не менее, несмотря на все возникшие перед становлением искусственного интеллекта проблемы, у направления все же был припрятан в рукаве туз, о котором люди на начальном этапе разработок могли и не знать: закон Мура.

Постоянное развитие компьютерной технологии было обусловлено многими причинами, но, вне всякого сомнения, одним из основных решающих факторов была тенденция, которую впоследствии назвали законом Мура. Название вошло в употребление через пять лет после выхода в 1965 году статьи Гордона Мура, в то время директора отдела исследований и разработок компании Fairchild Semiconductor, а одноименное наблюдение описывает одну из наиболее важных тенденций технологии. В своей статье Мур представил график из четырех точек, показавший, что количество транзисторов, размещенных на кристалле интегральной микросхемы, регулярно удваивается. Схема повторялась в период с 1962 по 1965 год. Мур считал, что тенденция будет устойчивой, и выдвинул экстравагантный прогноз, согласно которому в пределах десятилетия плотность электронных компонентов возрастет с 64 до более чем 65 000. Это увеличение – более чем в тысячу раз – соответствует удвоению в течение каждого года (210 равно 1024). Позже, в 1975 году, Мур пересмотрел прогноз и сказал, что в будущем удвоение будет происходить каждые два года.⁸

Закон Мура – не столько непреложный закон физики или природы, сколько наблюдение за характером технологического прогресса. Тем не менее он оставался движущей силой экономических бизнес-моделей на протяжении более полувека. Эта тенденция, как и другие, которые служат стимулом для развития электроники, привела к появлению более быстрых и мощных компьютеров и произвела цифровую революцию, которая уже изменила наш мир и общество. Из закона Мура следовало, что тенденция размещать возрастающие вычислительные мощности на меньшем пространстве позволяла снизить требования к источнику питания, выделение тепла и, самое важное, затраты на процессорный цикл.

По некоторым показателям, в последние годы темп замедлился, и появились прогнозы, что закон Мура больше не работает. Это значит, что промышленность достигла предела в развитии технологий и методов производства. Как отметил изобретатель, футуролог и писатель Рэй Курцвейл, интегральная микросхема, о которой говорилось в законе Мура, всего лишь пятая парадигма более масштабной тенденции, которую можно отследить с начала XX века. Электромеханическая обработка, реле, вакуумные трубки и транзисторы также развивались по схеме удвоения вычислительной мощности по отношению к затратам в течение некоторого времени. Возникнет ли шестая, полупроводниковая парадигма? Многие компании делают на это ставку и занимаются исследованиями и разработками, которые, по их мнению, сделают полупроводники основной компьютерной технологией будущего.

Что это означает в реальности? Смартфоны, которыми мы пользуемся сегодня, обладают намного большей мощностью обработки данных, чем вся программа посадки на Луну «Аполлона-11» сорок лет назад. Уди Манбер и Петер Норвиг из Google сообщили, возможно, еще более впечатляющие статистические данные, написав в 2012 году:

Вводя один-единственный запрос в строку поиска Google или просто разговаривая по телефону, вы запускаете вычислительные мощности, аналогичные тем, что понадобились для того, чтобы отправить в космос Нила Армстронга и еще одиннадцать космонавтов. Не для собственно полетов, но для всех расчетов, выполненных при планировании и осуществлении семнадцати миссий программы «Аполлон» за одиннадцать лет⁹.

Нам легко забыть, какими объемами процессорной мощности мы оперируем в повседневной жизни, но еще большая проблема – понять, как сильно все изменилось за относительно небольшой период времени.

Развитие, о котором говорится в законе Мура и другие «законах» технологии, например, в законе Крайдера (плотность записи на магнитные диски удваивается каждые восемнадцать месяцев) или законе Меткалфа (полезность сети пропорциональна квадрату численности ее пользователей) идет по экспоненте¹⁰. При удвоении чего-либо с постоянной скоростью, раз в день, раз в год или столетие, мы называем это ростом в геометрической прогрессии. Такой темп роста может встречаться где угодно от биологических систем, таких как клетки, до популяций животных и сложных процентов в инвестициях.

Рост в геометрической прогрессии может быть невероятно обманчивым, поскольку мы привыкли воспринимать мир линейно. Минуты, дни и годы последовательно сменяют друг друга, накапливаясь один за другим. То же самое происходит и с задачами, которые мы выполняем. Во многих отношениях геометрическая прогрессия нам чужда.

Представьте небольшое озеро, на поверхности которого плавает одна кувшинка. Количество кувшинок каждый день удваивается, так что на второй день их будет две, на третий – четыре, на четвертый – восемь и так далее. Через десять дней кувшинок будет 1024, но они все равно покроют лишь небольшую часть озера. Предположим, площадь поверхности озера составляет миллион квадратных футов (-92 903 м²) с кувшинками на каждый квадратный фут (-30 см²). Даже на пятнадцатый день озеро будет покрыто цветами на 3 %. Но спустя четыре дня кувшинки покроют половину поверхности озера, а на двадцатый день будет закрыта вся поверхность озера. Более того, при отсутствии сдерживающих факторов через десять дней кувшинками зарастут тысячи таких озер. И все началось с одного цветка.

Вот почему рост по экспоненте нередко нас удивляет, будь то кувшинки на озере, пандемии или технологический прогресс. Мы еще не эволюционировали до способности воспринимать их должным образом. Это не значит, что такие ожидания и прогнозы невозможны, они просто кажутся нелогичными.

Изменения в геометрической прогрессии не ограничиваются интегральными микросхемами и законом Мура. Они затрагивают большую часть мира технологий. Все больше экспертов в области технологий и ученых признают, что это фундаментальный аспект технологического прогресса. Учитывая положительную обратную связь и пользу, которую приносит технология, она обеспечивает нам возможность изменять окружающий мир с невиданной скоростью, что ведет к ускорению темпа изменений. Это только укрепляет симбиоз: нам нужна технология, а мы нужны ей. (По крайней мере пока.) Благодаря этому симбиозу происходит постоянное развитие, и в итоге формируются самодостаточные отношения совместной эволюции. Во многих отношениях мы стали чем-то большим, чем люди, поскольку мы – это сумма всего, что нами создано.

Ускоряющиеся изменения происходят постоянно, но стали очевидными лишь в последние десятилетия, поскольку происходят в пределах времени, воспринимаемого человеком. Когда наши человекоподобные предки начали мастерить первые примитивные орудия труда, изменения происходили настолько медленно, что наблюдать их было невозможно даже на протяжении многих поколений. Сегодня технологии регулярно меняют общество. Рэй Курцвейл называет это «законом ускоряющейся отдачи», поскольку технология существует внутри цепи положительной обратной связи, заставляя наблюдаемый темп изменений постоянно ускоряться с течением времени¹¹. Некоторые аспекты такого укрепления приводят к вторичным уровням роста в геометрической прогрессии. Курцвейл продолжает, что рост в геометрической прогрессии сам возрастает в геометрической прогрессии.

Именно это усовершенствование в геометрической прогрессии приведет к тому, что в грядущие десятилетия технология искусственного интеллекта совершит гигантский скачок вперед. Эти исследования станут настолько значительными, что мы окажемся перед фактом: интеллектуальному превосходству людей брошен вызов. Проще говоря, мы можем не удержаться на вершине разума.

В течение последних десятилетий к проблеме искусственного интеллекта применялись многочисленные подходы, например перцептроны, простые нейронные сети, экспертные системы на основе дерева принятия решений, алгоритм имитация отжига и байесовские сети. Каждый из них был по-своему успешен и носил прикладной характер, но спустя время стало ясно, что ни один из этих подходов даже не приблизился к искусственному интеллекту уровня человека.

Такой была ситуация, когда молодой инженер по вычислительной технике по имени Розалинд Пикард поступила на работу в междисциплинарную исследовательскую лабораторию Массачусетского технологического института в 1987 году. Вначале она работала ассистентом преподавателя и научным сотрудником, а в 1991 году заняла должность штатного сотрудника в группе по разработке машинного распознавания образов и моделированию. Пикард преподавала и работала над рядом новых технологий и инженерных задач, включая разработку методов распознавания образов, математического моделирования, машинного зрения, изучения восприятия и обработки сигналов. Получив степень по электротехническому проектированию, а позже по информатике, Пикард уже внесла значительный вклад в развитие некоторых из этих направлений.

Но именно работа Пикард по разработке технологии моделирования образов и систем поиска по содержимому привела ее в направлении, неожиданном для многих и для нее самой. В этих системах ряд математических моделей используется для приближения к системам биологического зрения, наподобие того, как мы «извлекаем» из обстановки (например, фильма или реальной жизни) предметы, содержание и смысл. Система, которую вместе со своей командой разработала Пикард, была одной из первых трех систем в мире и прототипом таких современных систем, как Google Images.

Система, основанная только на жестких правилах, не может быть устойчивой.

Чтобы лучше понимать, как мозг обрабатывает изображения, Пикард сотрудничала с учеными, исследовавшими зрительную зону коры головного мозга человека. Но даже когда имитация человеческого зрения была освоена, остались серьезные проблемы, от решения которых зависела стабильная и надежная работа системы. Было недостаточно просто создать фильтры для выделения сцен или жестко задать правила, описывающие, как выглядит тигр, стул или машина. Линии размываются. Цвета и текстуры накладываются друг на друга. Тени исчезают. Поэтому система, основанная только на жестких правилах, не может быть устойчивой. Такие системы программного обеспечения называют нестабильными, поскольку имеют ограниченное применение в жизни. Нестабильность – очень подходящее название; получая новые условия или непонятную информацию на входе, система просто ломается.

Именно в ходе этой работы Пикард поняла, что многие системы, над которыми она работала, могли быть более эффективными, если бы только удалось узнать, куда направить их внимание. Глядя на изображение, мы не фокусируем внимание с одинаковым интересом на всем, что видим. Мы рассматриваем один элемент, а потом другой. Направление взгляда и фокус внимания смещаются к тому, что нас интересует: цвет, контраст, узор. Пикард предположила, что если бы удалось смоделировать внимание, это помогло бы ее группе решить некоторые задачи. Однако для этого требовалось нечто близкое к системе биологического зрения, что могло активно различать объекты и определять важные. Как объясняет Пикард:

Чувства определяют многое из того, что мы воспринимаем. Они указывают нашим глазам, куда смотреть. Определяют, что нам делать, что мы выбираем делать, чему уделить внимание. И я поняла, что компьютерам кое-чего не хватает. Компьютеры воспринимают каждый фотон на входе одинаково. Каждый бит информации для них одинаков. Они не ощущали, что какой-то бит был более значимым, чем остальные. Собственно говоря, у них вообще не было никаких чувств насчет какого бы то ни было значения, и я подумала: «Если они собираются нам помогать, а для нас некоторые биты более значимы, чем остальные, тогда им [компьютерам] нужна функция оценки, которая говорит, что некоторые вещи более ценны, чем другие.

В качестве примера того, как наши чувства влияют на зрение и внимание, Пикард рассказывает историю о своем друге, с которым она начинала работать в Лабораториях Белла и который занимался разработкой системы сжатия видеоинформации в рамках работы над докторской диссертацией. Он уже знал, что комиссия, которой он собирался демонстрировать свой новый метод, состояла из трех мужчин. Итак, он сделал видеоролик с пышногрудой девушкой из группы поддержки, зная наверняка, куда именно будет смотреть комиссия. В этой области он сохранил резкость и сильно сжал все остальные области, на которые комиссия не смотрела, создав при этом множество всевозможных дефектов и искажений. Несмотря на все визуальные недостатки изображения, никто ничего не заметил, и комиссия оценила метод сжатия на отлично. Пикард радостно делает заключение: «Теперь это эмоциональный интеллект!»

Тем не менее создать такую разновидность эмоционального интеллекта было крайне сложно. Компьютер мог обнаружить в изображении линии и границы, но распознать и распределить объекты по категориям в зависимости от их важности было принципиально иной задачей. Оставался вопрос: как мы решаем, что имеет значение, когда рассматриваем изображение?

В 1991 году, в свой первый год работы в Массачусетском технологическом институте, Пикард прочла статью на первой полосе «Wall Street Journal» об ученом и музыканте Манфреде Клайнсе. Клайне был выдающимся человеком, автором целого ряда успешных изобретений. Большинство его работ посвящены нейронаукам в музыке, но внимание Пикард привлек именно его «сентограф», машина, предназначенная якобы для измерения эмоций. (На латыни глагол «sentire» означает «чувствовать».) Машина Клайнса измеряла малейшие изменения колебательного сигнала пальцев человека, нажимавшего на кнопку. Он говорил, что эти изменения следуют характерным моделям, отражающим разные эмоции. Пикард заинтересовала идея измерения эмоций, и она сохранила статью.

Исследование продвигалось, и Пикард обнаружила, что сталкивается с проблемами, которые показывают, насколько ограниченным был ее прежний подход. Она сотрудничала с учеными, исследовавшими зрение, и изучала и моделировала визуальную область коры головного мозга, тот участок, который отвечает за обработку зрительной информации. Подход был в чем-то полезен, но системы все равно не выполняли того, что требовалось, и в процессе работы возникли дополнительные вопросы. Например, откуда мы знаем, на что следует обратить внимание? Почему один объект или фигура интересует нас в один момент времени и совершенно не интересует в другой? Или, как в случае с Эллиотом после операции, как наше разум присваивает ценность?

Другая работа в области цифровой обработки информации заставила Пикард задать те же вопросы о мотивации и расстановке приоритетов. Конечно, можно было создать системы, которые бы проходили последовательность жестко заданных шагов, устанавливая фильтры и определяя степень важности различных элементов, но такие подходы не работали, если на входе оказывалась необычная или неожиданная информация. Программное обеспечение по-прежнему было слишком нестабильным. Она считала, что нужен другой подход, чтобы повысить стабильность и адаптивность системы и сделать ее устойчивой.

Как-то во время рождественских каникул Пикард читала книгу «Человек, который пробовал формы на вкус» (The Man Who Tasted Shapes), написанную неврологом Ричардом Ситауиком. В книге исследовался мир синестезии – явления, при котором люди воспринимают одну разновидность входящей сенсорной информации как совершенно другую. Например, некоторые синестетики воспринимают звуки как цвета. В случае лексико-вкусовой синестезии слово может обладать вкусом того или иного блюда или вещества. Среди догадок Ситауика было утверждение, что восприятие ощущений связано с лимбической системой и соответствующими зонами коры головного мозга. Это особенно интересовало Пикард, учитывая то, что лимбическая система – это часть мозга, имеющая первостепенное значение для памяти, внимания и эмоций.

Молодой профессор уже тогда интересовалась процессами памяти и внимания, так что она начала читать многочисленные работы по нейронаукам, узнав из них, что эмоции возникают постоянно. Различные исследования подтверждали, что эмоции неразрывно связаны с памятью, вниманием, восприятием и принятием решений. Пикард начала думать, что нашла недостающий фрагмент головоломки.

К сожалению, он находился слишком далеко от того, чем она занималась. Она привыкла, что в науке и инженерном проектировании нет места таким иррациональным вещам, как эмоции. В Технологическом институте Джорджии Пикард была единственной женщиной в учебной аудитории среди сотни мужчин. Если бы она связалась с чем-то необъективным и ненаучным, таким как чувства, она не получила бы докторскую степень по проектированию электрических систем.

Всего через год Пикард собиралась претендовать на должность в Массачусетском технологическом институте. Она неустанно работала над новаторским исследованием в области моделирования стандартных изображений и разрабатывала первую в мире систему поиска информации по содержимому. Она писала в своей статье для ИЕЕЕ, Института инженеров по электротехнике и электронике:

Я работала днем и ночью по шесть дней в неделю над первой в мире системой поиска по содержимому, создавая и группируя математические модели сжатия изображений, машинного зрения, моделирования текстур, статистической физики, машинного обучения и идей кинопроизводства, а в свободное время консультировала студентов, организовывала новые учебные группы, публиковала статьи, читала и писала отзывы на работы других и участвовала в бесконечных конференциях и лабораторных комиссиях. Я приложила массу усилий, чтобы меня воспринимали как серьезного исследователя, и добилась финансирования в миллион долларов. Последнее, чего я хотела, – это связать свою работу с эмоциями и разрушить все, чего я добилась. Черт возьми, я была женщиной-инженером. Я не хотела ассоциироваться с какими-то там «эмоциями», которые в то время считала чем-то совершенно иррациональным¹².

Она четко понимала, что это решение может погубить ее карьеру. Внезапная смена направления могла обесценить и поставить под угрозу огромную работу, которую она проделала к тому времени.

И все же Пикард была уверена в том, что какая-то связь существует. Она знала, что настоящий ученый должен искать доказательства, даже если они не совпадают с устоявшимся мнением большинства членов научного сообщества. Она решила обратиться к тому, кому можно рассказать о своем исследовании, в идеале коллеге-мужчине со сложившейся репутацией. Если какая-то связь существовала, ее нужно было исследовать, даже если это сделает не она.

Из десяти тысяч выражений человеческого лица лишь три тысячи соответствуют собственно эмоциям.

По мере продолжения исследования Пикард обнаружила, что неожиданные советы исходят из множества областей. Необходимость пойти на риск, позволить себе мыслить нешаблонно, пренебречь условностями постоянно возникала в разговорах с коллегами и учителями. Это повлекло за собой определенные последствия. Пикард считала себя рядовым сотрудником знаменитой на весь мир Междисциплинарной исследовательской лаборатории Массачусетского технологического института. Инженер-проектировщик электрических систем, занимающийся разработкой систем поиска по содержимому. Это важная работа, но рискованная ли? Не слишком. Скорее наоборот, именно этого от нее все и ждали.

Убедившись в том, что эмоции нужно исследовать и распознавать так, как это никогда не делалось прежде, во время рождественских каникул и времени, отведенного для самостоятельной работы, Пикард изложила предварительное мнение по вопросу. Помимо всего технического материала и идей, которые ей было необходимо представить в документе, Пикард нужно было как-то его озаглавить. Такие фразы, как «программирование чувств» и «эмотивная технология», содержали отсылки к субъективности и иррациональности, которых она так старалась избежать. Наконец, она решила, что хорошим научным названием будет психологический термин «аффект», означающий переживание чувства. В статье «Аффективное программирование» она подробно изложила идеи и доказательства, собранные в ходе исследования до 1995 года. Не привлекая к работе особого внимания, она дала ее прочесть коллегам, обладавшим самыми широкими взглядами, и стала ждать их реакции. Как и предполагалось, реакция была неоднозначной. Один студент счел ее идеи многообещающими. Он пришел в кабинет Пикард с кипой книг об эмоциях и сказал: «Вам стоит это почитать». Между студентами и преподавателями Массачусетского технологического института иногда возникают дружеские отношения. Преподаватели либо не разделяли ее энтузиазма, либо просто не знали, что думать. Многим это казалось чем-то незначительным, не играющим особой роли в их личной реальности. «У меня нет чувств», – прокомментировали многие из них в уверенности, что так и есть на самом деле, а нечто столь расплывчатое, как эмоции, нельзя ни измерить, ни воспринимать серьезно.

Но постепенно к ней пришло признание. Пикард обнаружила, что все больше рассказывает и пишет об эмоциях и методах их измерения. Ее работу обсуждали в прессе и на телевидении. Наконец, в 1997 году, спустя девять месяцев после подписания контракта на публикацию, она закончила книгу, которая носила то же название, что и первая статья. Книга «Аффективное программирование» (Affective Computing) представила миру ее смелые новаторские идеи и положила начало новейшей отрасли искусственного интеллекта и информатики.

Хотя Пикард не была уверена, что к ее работе отнесутся серьезно, она вскоре оказалась ведущим экспертом в области, о которой никто прежде не слышал. Кроме того, она получила должность, о которой так беспокоилась, хотя из-за недостатка слаженности некоторые члены комиссии назвали ее работу «шизофренической». Среди работ Пикард были рецензии на статьи о поиске информации по содержимому, менее официальные доклады с конференций об анализе аффективных сигналов и, наконец, ее собственная книга. Она не собиралась рисковать, но вскоре оказалось, что риск полностью оправдался.

Однако самая простая часть работы на этом закончилась. Теперь предстояло обратиться к сложным задачам – разработке компьютеров, способных точно измерять эмоции, и созданию первой в мире лаборатории эмоционального программирования.