Текст книги "Искусственный интеллект"

Программисту легко писать алгоритм: он создается, используется и вроде работает. Никто не отслеживает его работу. Возможно, он попытается усовершенствовать точность прогнозов, слегка изменив параметры. Попытается добиться наилучшего результата. А затем перейдет к другой задаче.

Тем временем во внешнем мире за каждым результатом стоят определенные последствия. И неразумно было бы в действительности полагать, что в морских крушениях выживают те, кто платит больше. Хотя какой-нибудь управленец вполне мог бы посчитать такой вывод статистически оправданным. При прогнозировании страховых тарифов можно сказать, что люди, способные оплачивать более дорогие билеты, вероятнее всего, выживут в крушениях, связанных со столкновениями с айсбергами, и, таким образом, относятся к категории малого риска ранней выплаты. Эти люди богаче тех, кто не может себе позволить дорогой билет. Значит, у более обеспеченных граждан может быть дешевый страховой тариф. А это плохо! Ведь страховки нужны как раз для того, чтобы поровну распределить риск между широким спектром людей. Так зарабатывают деньги наши страховые компании, но это никак не способствует чему-то по-настоящему хорошему.

Похожие компьютерные технологии используются для оптимизации цены или узкого сегментирования покупателей, в результате которого разным людям предлагается разная цена. Оптимизация цены используется в самых разных отраслях – от страховой до туристической, а результаты нередко приводят к ценовой дискриминации. Согласно анализу, проведенному в 2017 г. ProPublica и Consumer Reports в Калифорнии, Иллинойсе, Техасе и Миссури, страховые тарифы на жилье, предложенные ключевыми компаниями жителям районов компактного проживания меньшинств, были на 30 % выше тарифов в других районах со сходными оценками аварийности[92]92
  Angwin et al. “A World Apart.”


[Закрыть]. В 2014 г. аналитики The Wall Street Journal выяснили, что стоимость одного и того же степлера на staples.com различается для разных покупателей – в зависимости от предполагаемого почтового индекса пользователя она была выше или ниже[93]93
  Valentino-DeVries, Singer-Vine, and Soltani, “Websites Vary Prices, Deals Based on Users’ Information.”


[Закрыть]. Кристо Уилсон, Дэвид Лизер вместе с коллегами из Северо-Восточного университета выяснили, что разные цены предлагали покупателям homedepot.com и на туристических сайтах, в зависимости от того, просматривали ли они сайт с мобильных устройств или с компьютеров[94]94
  Hannak et al., “Measuring Price Discrimination and Steering on E-Commerce Web Sites.”


[Закрыть]. Компания Amazon признала, что в 2000-х гг. экспериментировала с ценами подобным образом. Джеф Безос, основатель компании, принес свои извинения, назвав это «ошибкой»[95]95
  Heffernan, “Amazon’s Prime Suspect.”


[Закрыть].

В мире, где господствует неравенство и где мы создаем ценовые алгоритмы, анализирующие то, как выглядит мир, женщины, бедные и представители меньшинств будут неизбежно платить больше. Математиков это постоянно удивляет; а вот женщины, малообеспеченные и представители меньшинств не удивляются совершенно. Раса, пол, уровень жизни – очевидным и изощренным образом все эти факторы становятся значимыми. Для женщин стоимость парикмахерских услуг, химчистки, бритв и даже дезодоранта будет выше, чем для мужчин. Стоимость курсов подготовки к Академическому оценочному тесту (SAT) для американцев азиатского происхождения в два раза выше[96]96
  Angwin, Mattu, and Larson, “Test Prep Is More Expensive – for Asian Students.”


[Закрыть]. Афроамериканцы получают меньше чаевых, чем их белые коллеги[97]97
  Brewster and Lynn, “Black-White Earnings Gap among Restaurant Servers.”


[Закрыть]. Быть бедным также означает платить больше за предметы первой необходимости. Мебель, купленная в рассрочку, окажется дороже, чем покупка с немедленной оплатой. У «кредитов до получки» гораздо более высокий процент, чем у банковских займов. Жилищные условия считаются подъемными, если ежемесячный взнос составляет до 30 % заработной платы, однако бедным приходится априори платить больше из-за факторов банальной экономической нестабильности. «В Милуоки большинство бедных арендаторов платит как минимум половину собственного дохода, треть из них отдает и 80 %», – пишет социолог Пат Шарки в рецензии на две этнографические работы: Мэттью Десмонда «Изгнанные: Бедность и выгода американского города» (Evicted: Poverty and Profit in the American City) и Митчелл Дунае «Гетто: Изобретение места и история идеи» (Ghetto: The Invention of a Place, the History of an Idea)[98]98
  Sharkey, “The Destructive Legacy of Housing Segregation.”


[Закрыть]. Феномен неравенства несправедлив, при этом он не является редкостью. И, если в рамках машинного обучения все это будет продолжаться, мы не сдвинемся с мертвой точки к более справедливому обществу. «Обаяние технологии объяснимо – в нем сошлись древние надежды на предсказание будущего с современным уклоном в статистическую строгость, – пишет в своей книге «Общество черного ящика» (The Black Box Society) профессор права и эксперт в области этики искусственного интеллекта Фрэнк Паскаль. – Тем не менее в обстановке секретности плохая информация, скорее всего, будет использоваться в качестве хорошей, что приведет к несправедливым и даже катастрофическим прогнозам»[99]99
  Pasquale, The Black Box Society.


[Закрыть].

Отчасти это происходит из-за того, что при принятии социальных решений мы пользуемся машинным обучением, при котором числа скрывают важный социальный контекст. В случае с «Титаником» мы выбрали классификатор выживания и для его предсказания обратились к известным факторам. Но могли быть и другие. Например, массив данных для «Титаника» включает в себя информацию о возрасте, поле и прочее. И прогноз был сделан с опорой на данные, которыми мы обладали. Однако, поскольку это событие не из математической задачки, а из реальной жизни, вероятнее всего, имели место и иные факторы.

Рассмотрим подробнее ночь катастрофы. От находящихся неподалеку судов «Титаник» получал множество предупреждений об айсбергах по своему курсу на 14 апреля 1912 г. В 23:42 лайнер столкнулся с айсбергом. Сразу после полуночи капитан Эдвард Джон Смит оповестил пассажиров и начал эвакуацию. Он отдал приказ: «Сажать женщин и детей, затем травить тали!» Первый офицер Уильям Мердок отвечал за спасательные шлюпки на правом борту. Второй офицер Чарльз Лайтоллер – за левый. Каждый из них по-разному понял приказ капитана. Мердок подумал, что капитан велел сажать в шлюпки женщин и детей в первую очередь. Лайтоллер посчитал, что сажать в шлюпку нужно только женщин и детей. В итоге Мердок сажал в шлюпку мужчин тогда, когда поблизости не оставалось женщин или детей. Лайтоллер сажал женщин и детей в шлюпки и затем опускал их на воду – даже если еще оставались свободные места. Оба опускали шлюпки, рассчитанные на 65 человек, даже тогда, когда они не были заняты полностью. При этом на борту было недостаточно шлюпок: всего 20 на 3547 человек, хотя, по самым скромным расчетам, на судне предполагалось 892 члена команды и 1320 пассажиров.

Со спасательными шлюпками можно провести занимательный тест. Номера шлюпок на борту Мердока были нечетными, на борту Лайтоллера – четными. И, возможно, мужчины выживали также в зависимости от той шлюпки, в которой оказались, ведь Лайтоллер не сажал в шлюпки мужчин. Однако в имеющихся у нас данных не было информации о номерах шлюпок. А это принципиальная проблема. И, к сожалению, закономерность, связанную с номерами шлюпок, невозможно установить до тех пор, пока информация о них не превратится в компьютерные данные, которые машина способна обработать. Компьютер не может выяснить что-то потенциально значимое для нас. Но человек – может.

Мы также видим здесь ошибочную причинно-следственную связь. Ведь если бы мы располагали данными о номерах шлюпок, то могли бы решить, что мужчины, находившиеся в шлюпках с нечетными номерами, имели больше шансов пережить крушение «Титаника». Тогда, опираясь на результаты, нам следовало бы сделать вывод, что впредь все шлюпки должны быть нечетными, ведь это повышает шансы на выживание в критической ситуации. Конечно, это смешно. Не номер шлюпки, но офицер – вот что действительно имело значение.

История двух молодых людей также вносит коррективы в чисто математические расчеты. В художественном бестселлере Уолтера Лорда «Ночь, которую стоит помнить» (A Night to Remember) идет речь о последних часах «Титаника»[100]100
  Lord, A Night to Remember; Brown, “Chronology – Sinking of S. S. TITANIC.”


[Закрыть]. Лорд рассказывает историю 17-летнего Джека Тейера, севшего на борт в Шербуре, во Франции, после долгих каникул в Европе с родителями. На «Титанике» Тейер познакомился со своим ровесником, пассажиром 1-го класса Милтоном Лонгом. По мере развития катастрофических событий молодые люди помогали пассажирам добираться в безопасные места. К двум часам ночи, когда практически все спасательные шлюпки были спущены на воду, Тейер и Лонг помогали женщинам и детям забраться в них. К 2:15 последние шлюпки исчезли из виду. Корабль кренился на левый борт. Произошел взрыв, взрывная волна вырвалась на шлюпочную палубу. В этот момент повар Джон Коллинз стоял там, держа в руках ребенка, помогая стюарду и женщине из 3-го класса с двумя детьми. Его и других выбросило за борт. Ребенка вырвало из его рук взрывной волной.

Тейер и Лонг видели хаос на палубах. Внезапно везде погас свет – уровень воды на судне достиг котельной в бойлерной № 2. Теперь источником света остались только луна, звезды и фонари шлюпок, удаляющихся от тонущего лайнера. Обрушилась с грохотом вторая дымовая труба. Тейер и Лонг осмотрелись: шлюпки уплыли, а судна, идущего на помощь, видно не было. Они поняли, что пришло время покинуть борт. Друзья пожали друг другу руки и пожелали удачи. Лорд пишет:

Лонг перелезает через поручни, тем временем Тейер залезает на них и начинает расстегивать пальто. Свесившись и держась за поручни, Лонг посмотрел на Тейера и спросил: «Ты идешь, парень?»

«Смелее, я прямо за тобой», – отозвался тот.

Лонг скатился вниз. Спустя 10 секунд Тейер перенес вторую ногу за поручни, собираясь прыгать. Он был в трех метрах над водой. Оттолкнувшись изо всех сил, он прыгнул так далеко, как только мог.

Из двух способов покинуть судно сработал вариант Тейера.

Он выжил, доплыв до ближайшей перевернутой шлюпки и ухватившись за нее вместе с 40 другими пассажирами. Он наблюдал за тем, как «Титаник» переломился пополам, как нос и задняя часть ушли под воду среди обломков. Тейер слышал крики людей. «Похоже на цикад», – подумал он. Наконец, шлюпка № 12 подобрала Тейера и других из ледяной воды. Помощь прибыла спустя несколько часов. До 8:30 утра, пока их не спасла «Карпатия», Тейер дрожал от холода в шлюпке.

Тейер и Лонг были молодыми людьми, одного возраста, со схожими физическими данными, примерно одинакового социального статуса и абсолютно равной возможностью выжить. Разница сказалась в момент прыжка. Тейер прыгнул так далеко от судна, как только мог; Лонг нырнул прямо рядом с кораблем. Лонга затянуло в водоворот, Тейера – нет. Меня смущает другое: что бы ни прогнозировал компьютер относительно будущего Тейера и Лонга, он все равно ошибется. Его прогноз основывается на данных о классе пассажиров, возрасте и поле – но значение имело не это, а разница в прыжках. Компьютер просто в принципе не думает. Случайная смерть Лонга показывает, что прогнозы относительно выживших на «Титанике» никогда не окажутся точными на 100 % и ни один статистический прогноз не будет точен на 100 %, потому что человеческие существа никогда не станут статистикой.

Это подтверждает принцип неоправданной эффективности данных. Пока вас не беспокоит потенциальная дискриминация и беспорядок, кажется, что ИИ работает превосходно. Одной из моих любимых работ, посвященных объяснению мира с точки зрения информатики, является статья исследователей Google Алона Халеви, Питера Норвига и Фернандо Перейра. Они пишут:

В статье «Неоправданная эффективность математики в естественных науках» Юджин Вагнер объясняет, почему многие физические явления можно легко объяснить математическими формулами f = ma или e = mc^-62. Тем временем направления науки, так или иначе подразумевающие взаимодействие с человеческими существами, а не с элементарными частицами, считаются менее ясными с точки зрения математики. Экономисты завидуют физикам, поскольку не могут с легкостью моделировать человеческое поведение. Неформальная, неполная грамматика английского языка занимает примерно 1700 страниц. Возможно, в случае с обработкой естественных языков и смежными областями знаний мы вынуждены мириться со сложными теориями и никогда не сможем приблизиться к простоте физических формул. И в таком случае нам нужно перестать поступать так, будто мы действительно собираемся разработать исключительно точные теории, и вместо этого стоит признать сложность мира и воспользоваться тем, что у нас есть: неоправданной эффективностью данных[101]101
  Halevy, Norvig, and Pereira, “The Unreasonable Effectiveness of Data,” 8.


[Закрыть].

Данные неоправданно эффективны – звучит интригующе и точно. Это объясняет, почему мы можем создать классификатор, способный с точностью 97 % предсказать смерть пассажиров «Титаника», и почему компьютер может обыграть чемпиона по го. Это также объясняет, почему, когда мы обращаем внимание на то, что именно происходит в момент обучения компьютера, мы понимаем, что машина не учитывает множества случайностей, которые происходят в случае реальных катастроф. Данные действительно эффективны. Однако подход, основанный на данных, не учитывает множества факторов, которые – по мнению людей – оказываются значительными.

Закон и общество пытаются вместить все, что люди узнали о материальном мире. Решения, основанные на данных, редко вписываются в эту сложную систему правил. Бессмысленность данных мы можем наблюдать в случае машинного перевода, голосовых помощников и распознавания рукописей. Слова и их комбинации компьютер не понимает так, как их понимает человек. Поэтому статистические методы распознавания речи и машинного перевода полагаются на вероятности и огромные массивы данных коротких последовательностей слов, или N-граммы. Десятилетиями лучшие умы компании Google работали над этим, им удалось собрать больше данных, чем кому-либо. Архив Google, архив The New York Times, все поисковые запросы, когда-либо заданные системе: в итоге получается, что, когда все это соединяется воедино и вырабатывается зависимость частоты появления тех или иных слов в комбинации, мы имеем дело с неоправданной эффективностью данных. Рассмотрим что-нибудь простое. В N-граммах слово «лодка», скорее всего, появится рядом со словом «вода», а не с электрокаром или лесным клопом, поэтому поисковик соединяет термины и файлы, связанные с лодками и водой, а не с водой и клопами. Люди обычно говорят об одних и тех же вещах, ищут одно и то же, в конце концов, общие знания на то и общие. Машина не учится на самом деле; процесс поисковой обработки попросту вдохновлен человеческим обучением. Если вы когда-нибудь решали математические задачки, вы видели, что это не магия, а всего лишь математика. Компьютеру удастся что-то «понять» достаточно правильно только тогда, когда мы сможем признать, что он в целом «прав», то есть он «поймет», что что-то правильно, на совершенно другом основании.

Принятие социальных решений связано не только с вычислениями, и проблемы будут возникать всегда, когда мы будем использовать только данные там, где нужно обращаться к общественным и ценностным суждениям. Действительно, путешествие 1-м классом на «Титанике» могло повысить шанс на выживание, но неразумно на основе этого развивать модель, согласно которой пассажиры 1-го класса заслуживают получить шанс на выживание в крушении больше тех, кто путешествует 2-м или 3-м классом. На основе этой модели не стоит строить какие-либо предположения. Наша прогностическая модель могла бы пригодиться для того, чтобы объяснить, почему для пассажиров 1-го класса можно было предложить более дешевую страховку, но это абсурд: нельзя наказывать тех, кто недостаточно богат, чтобы путешествовать 1-м классом. Но важнее всего то, что мы должны понимать, что есть вещи, которые машины никогда не смогут понять о людях, поэтому будут всегда востребованы человеческие: суждение, подтверждение и интерпретация.

8
Эта машина сама не поедет

Массивы неоправданно эффективных данных хорошо работают применительно к электронному поиску, простому переводу и навигации. И при достаточном объеме обучающих данных алгоритмы действительно могут неплохо справляться с разными повседневными задачами, в то время как человеческая смекалка помогает заполнить «пробелы» ИИ. Благодаря поисковикам мы научились использовать как сложные комплексные запросы, так и конкретные термины (или их синонимы), что позволяет нам при помощи строки поиска находить определенные веб-страницы. Машинный перевод между языками сегодня развит лучше, чем когда-либо. Он, конечно, не так хорош, как человеческий, однако человеческий мозг превосходно справляется с интерпретациями значений и искаженных сентенций. Обычного пользователя вполне удовлетворяет высокопарный, неуклюжий машинный перевод веб-страниц. Системы GPS, помогающие добраться из пункта А в пункт Б, невероятно удобны. Если спросить любого профессионального таксиста или водителя-попутчика, они скажут, что GPS не предлагают наилучший путь в аэропорт, но способны довести вас в нужное место и проинформировать о загруженности на дорогах.

И все же у массивов неоправданно эффективных данных есть ряд недостатков, из-за которых я скептически отношусь к замене человека ИИ в потенциально опасных случаях вроде вождения. Беспилотные автомобили наилучшим образом показывают, как ИИ (не) состоятелен в данном случае.

Когда я впервые прокатилась в беспилотнике в 2007 г., я думала, что умру. Либо меня стошнит. Или и то и другое. Так что, когда в 2016 г. до меня дошли слухи, что скоро на рынке появятся автономные машины и что Tesla создала программу под названием Autopilot, а Uber тестирует самоуправляемые такси в Питтсбурге, я подумала: «А что же изменилось? Неужели авантюрным разработчикам, с которыми я познакомилась в 2007 г., удалось каким-то образом внедрить систему этического принятия решений в двухтонную “машину-убийцу”»?

В итоге оказалось, что перемен произошло даже меньше, чем я ожидала. История о соревновании по созданию автопилотируемой машины – это история о фундаментальных ограничениях вычислительной техники. Оглядываясь назад и наблюдая за тем, что сработало и что не сработало в первую декаду бытования беспилотных транспортных средств, мы сталкиваемся с предостерегающей историей о том, как техношовинизм может привести к буквально магическому мышлению в случаях, когда технология способна стать угрозой здоровью членов общества.

Моя первая поездка случилась на тестовом треке для беспилотных машин: по-воскресному пустой стоянке завода Boeing в Южной Филадельфии. Ben Franklin Racing Team, команда инженеров из Университета Пенсильвании, в то время разрабатывала автономный автомобиль для участия в соревновании. Я встретила членов команды в кампусе на рассвете в воскресенье и последовала за ними по шоссе, чтобы попробовать прокатиться на автопилотируемой машине.

Им приходилось экспериментировать тогда, когда на улицах никого не было. Вообще-то, их автомобиль, кастомная Toyota Prius, по закону не допускался к эксплуатации. Существует ряд правил, которым должен соответствовать автомобиль, например у него должно быть рулевое колесо. Короче, они могли тестировать беспилотник на парковке или на территории университета, но вот поездка от гаража в Западной Филадельфии по шоссе 1–95 до тренировочной площадки в Саус-Билли была достаточно рискованной. Вероятнее всего, их бы остановили полицейские, патрулирующие шоссе. Университетские юристы как раз работали над получением разрешения на уровне штата на то, чтобы беспилотные автомобили могли сами собой управлять. До тех пор команде приходилось тренироваться в «нечеловеческое» время и надеяться на лучшее.

Я остановилась на стоянке позади беспилотника, которого они назвали «Малыш Бен». В салоне сидели разработчики: студент инженерной механики Талли Фут за рулем, на заднем сиденье были аспирант электронной и системной инженерии Пол Верназа и докторант электротехнического проектирования Алекс Стюарт. Рядом с водителем, одетый в черно-желтую куртку команды, находился Хитин Чокси, сотрудник Lockheed Martin и недавний выпускник кафедры теории вычислительных систем Дрексельского университета. Как только машина неспешно подкатилась, Фут вышел, открыл багажник и стал рыться и наводить порядок в проводах, свисающих над задним сиденьем и с потолка. Напичканная всевозможными сенсорами и с непонятными устройствами на крыше, машина выглядела так, будто участвовала в съемках постапокалиптического фильма. Студенты вырезали часть пластиковой консоли, прикрывающей приборную доску. Оттуда торчал моток проводов, тянущихся к внушительному ноутбуку. Пол багажника был частично покрыт плексигласом, а на рулевой колонке виднелись провода и коробочки. Фут ввел команду через сенсорный монитор, установленный в бардачке, и вскоре перед нами предстал вид парковки – прямо со спутника. Все три пассажира оставались пристегнутыми в машине, сгорбившись над ноутбуками. Испытание началось.

В рамках соревнований Grand Challenge 2007 года «Малышу Бену» предстояло самостоятельно проехать по пустому «городу», построенному на месте бывшей военной базы. Никакого удаленного управления и запрограммированных путей следования по городу: только 85 беспилотных автомобилей, кружащих по улицам. Спонсор, Управление перспективных исследований Министерства обороны (DARPA), обещал $2 млн команде, разработавшей автомобиль, который дойдет до финиша первым, $1 млн и $500 000 тем, кто займет второе и третье место.

Технологии робомобилей помогают водителям с 2007 г. Тогда, например, Lexus выпустила машину, способную выполнять параллельную парковку – при определенных условиях. «Сегодня во всех машинах есть такие функции, как адаптивный круиз-контроль или парковочный ассистент. Вождение становится все более автоматизированным, – пояснил Дэн Ли, доцент инженерно-технического проектирования и советник команды. – Однако для полной автоматизации процесса необходимо, чтобы автомобиль был в курсе всего происходящего вокруг. Вот это по-настоящему сложные проблемы робототехники: компьютерное зрение, научить компьютер “слышать” звуки, понимать, что происходит вокруг, – отличное место для проверки всего этого».

Для того чтобы «Малышу Бену» удалось «увидеть» и объехать препятствие, необходима правильная работа системы GPS-навигации, а лазерные сенсоры на крыше должны правильно идентифицировать объект. Затем ему нужно идентифицировать объект как препятствие и разработать путь объезда. Одна из задач сегодняшнего испытания состояла в том, чтобы поработать над подпрограммой, которая в итоге позволит «Малышу Бену» объезжать другие машины.

«Система настолько сложна, может случиться куча всего неожиданного, – сказал Фут. – Если что-то будет работать слишком медленно, то это может привести к краху системы. Работа программиста такова, что три четверти времени ты проводишь, исправляя ошибки системы. А в проекте вроде этого все девять десятых времени уходит на исправление ошибок».

Испытание 2007 г. было куда сложнее, чем предыдущие. Например, в 2005 г. нужно было создать робота, который сможет проследовать 281 км через пустыню менее чем за 10 часов и без единого человеческого вмешательства. 9 октября 2005 г. команда Stanford Racing и их автомобиль Stanley выиграли это соревнование (и $2 млн за то, что автомобиль проехал 212 км по пустыне Мохаве). Stanley ехал со средней скоростью 30 км/ч и добрался за 6 часов и 55 минут. В пустыне «на самом деле было не важно, был ли препятствием камень или куст, потому что можно было просто его объехать», говорил Себастиан Тран, тогда бывший доцент теории вычислительной техники Стэнфорда[102]102
  “Robot Car ‘Stanley’ designed by Stanford Racing Team.”


[Закрыть]. В городских условиях машинам необходимо определить очередность проезда и учитывать правила дорожного движения. «По сути, испытание заключается в том, чтобы перейти от простого восприятия машиной окружающего мира к его пониманию», – продолжил Тран. В испытании 2007 г. от Стэнфорда участвовал Junior, автомобиль на базе Volkswagen Passat 2006 г., главный конкурент «Малыша Бена». Как и Boss – Chevy Tahoe 2007 г. от команды Университета Карнеги – Меллона. В 2005 г. от этого университета участвовало две машины – Sandstorm и H1ghlander, пришедшие второй и третьей соответственно. Соперничество роботов университетов Карнеги – Меллона и Стэнфорда сродни баскетбольной битве команд университетов Северной Каролины и Дьюка. В 2003 г. Стэнфорд переманил к себе Трана, бывшего профессора Университета Карнеги – Меллона и звезду робототехники.

Возвращаемся на парковку. Старший специалист инженерной электроники Алекс Кушлеев подъехал на новенькой Nissan Altima. Алекс отлучался, чтобы купить пульт радиоуправления, такой же, что используется для игрушечных машинок: он предназначался для экстренной остановки. Кажется, у каждого робота есть большая, мультяшная красная кнопка. Две дополнительные кнопки были приклеены на клейкую ленту на задней панели машины и подключены к серверу блока Mac Mini, который служил электронными «мозгами» автомобиля. К этому моменту для Пенсильванской лаборатории общей робототехники, автоматизации и восприятия (GRASP) стоимость этого проекта приближалась к $100 000. Проект также спонсировался Лабораториями продвинутых технологий Lockheed Martin из Черри-Хилл, Нью-Джерси и Thales Communications из Мэриленда.

«Prius дает нам больше маневренности и поскольку это гибридная машина, то еще и хорошие аккумуляторы на борту. А нам нужна дополнительная энергия, ведь помимо самого автомобиля там запитана куча компьютеров, сенсоров и моторчиков», – прокомментировал Ли. Электрические моторы управляют системой подачи топлива, тормозами и управлением «Малыша Бена»; всем этим – от систем подачи сигналов до дворников – можно управлять с панели над рычагом коробки передач, как в машинах для людей с физическими ограничениями, которые управляют машиной при помощи рук, а не ног. Машиной можно управлять обычным образом, а можно с компьютера. Они уверяли, что в управлении не будет нужды вовсе, когда в автомобиле появится автопилот.

Я наблюдала за тем, как машина рывками передвигается по парковке. Страхующий водитель сидел на пассажирском сиденье, его рука находилась на кнопке экстренной остановки. Было страшновато, но волнительно приятно – видеть двигающуюся машину с рулевым колесом, вращающимся перед пустым водительским сиденьем.

Как только аккумулятор разрядился, Кушлеев взялся за руль и проехал по парковке со скоростью 25 км/ч. Сегодняшней целью было отрепетировать объезд препятствий на парковке. Во время соревнования «Малышу Бену» придется пересекать перекрестки, объезжать бордюры и реагировать на сигналы остановки, другие машины и бездомных собак на максимальной скорости 50 км/ч.

Наконец настала моя очередь занять место за рулем. Я села на водительское сиденье. Странным образом оно ощущалось пустым. Кушлеев включил механизм автоматического вождения, и машина проехала несколько метров, затем повернула круто влево, потом направо и сошла с траектории. «Бери управление!» – крикнул с заднего сиденья Стюарт. Машина ехала аккурат в фонарный столб. По мере приближения к бетонному основанию фонаря машина ускорялась. Мы стремительно приближались к столбу. Я ударила ногой туда, где предположительно должен был находиться тормоз, и обнаружила, что педали были переоборудованы во что-то мне непонятное. «Эта штука случайно не должна притормозить?!» – крикнула я в панике. Я закрыла глаза, уверенная в скором столкновении, и приготовилась кричать.

С заднего сиденья доносились бормотания и яростный стук по клавиатуре. Кушлеев переключился на ручное управление и задействовал тормоза. Машина резко остановилась в нескольких сантиметрах от бетонного столба. Я чувствовала себя так, будто мой желудок остался где-то на несколько метров позади.

Я повернулась, чтобы взглянуть на парня с ноутбуком на заднем сиденье. «Должно быть, какой-то баг программы, – отозвался он. – Это случается».

«Спас только GPS», – радостно провозгласил Стюарт. Они еще долго спорили о проблеме с поворотом: машина сделала широкий поворот там, где должна была сделать небольшой. Лазеры сканировали местность вокруг машины, но программа почему-то не регистрировала фонарный столб в качестве препятствия. Очевидно, это повлияло на управление, заставляя машину резко рвануть, вместо того чтобы медленно поворачивать.

Фут и Стюарт переговаривались между собой. Они были ветеранами разработки беспилотных машин, принимали участие в двух Grand Challenges в качестве выпускников Калифорнийского технологического университета. Последней их разработкой был Alice, беспилотник на базе Ford E350, подготовленный для соревнований 2005 г. Во время гонки в пустыне Alice самостоятельно проехал около 11 км, прежде чем направиться в сторону барьера, отделявшего журналистов от трека. Судьи выключили Alice до того, как автомобиль успел попасть в новостные заголовки.

Рулевое колесо «Малыша Бена» еще раз дернулось; Стюарт и Верназа управляли им с заднего сиденья. Проблема с программой решена. Кушлеев пригнал машину на парковочное место и снова включил автопилот. Колесо дернулось вновь, затем автомобиль направился к снегоуборочной машине на краю парковки, со стороны двигателя послышался скрежет.

– Проклятье! – выругался Стюарт.

– Может, это Sheep? – произнес Верназа, имея в виду одну из программ, управляющих машиной.

– Как раз она в списке проблем на сегодня, которые я не собирался решать. – отозвался Стюарт.

Тогда я подумала (но не написала) о том, что этот опыт не вселяет уверенность в технологии. Находясь в машине, я ощущала опасность – будто ей управлял пьяный малыш. И если такие люди занимаются созданием беспилотных автомобилей, их неосторожность по отношению к моей собственной жизни не предвещает ничего хорошего. Я не могла представить, что я доверяю своего ребенка такой машине, построенной этими детьми. Мне не нравилась сама идея присутствия этого беспилотника на дороге; это казалось общественной угрозой. Я написала статью и понадеялась, что разработка потерпит неудачу или перерастет в другой проект, исчезнув в технологическом мраке вместе с видео RealPlayer, программой Macromedia Director и портативными жесткими дисками Jaz. Вскоре я забыла об этой истории и о машине-роботе Пенсильванского университета.

Меж тем «Малышу Бену» предстояла гонка. Утром 3 октября, в день DARPA Grand Challenge, все транспортные средства стали на линии старта. Их цель состояла в том, чтобы пересечь улицы резервной военно-воздушной базы Джорджа в Неваде. Там были дороги, знаки и сопровождающие автомобили. Разношерстная масса кастомных автомобилей выстроилась на линии старта. Им предстояло проехать 96 км по военной базе, соблюдая предписания знаков и избегая столкновений с другими автомобилями.