Читать книгу "Мегатех. Технологии и общество 2050 года в прогнозах ученых и писателей"

Чтобы прояснить некоторые проблемы, необходимо понять один фундаментальный момент: искусственный интеллект успешен во многом из-за того, что мы строим среду, в которой умные технологии чувствуют себя как дома, а мы все больше напоминаем аквалангистов. Это мир адаптируется к ИИ, а не наоборот. Посмотрим, что это значит.

В промышленной робототехнике трехмерное пространство, задающее границы, в которых робот может успешно работать, определяется как оболочка последнего. Мы не строим дроидов вроде C‐3PO из «Звездных войн», которые бы мыли посуду в раковине точно так же, как это делаем мы. Мы подстраиваем среду вокруг простых роботов, чтобы она соответствовала их ограниченным возможностям, и используем их так, чтобы это приводило к желаемому результату. Посудомоечная машина выполняет свою задачу потому, что окружающие условия структурированы с учетом ее простых способностей. То же самое относится, например, к роботизированным полкам в Amazon. Эта среда разработана для удобства роботов. Беспилотные автомобили станут удобными в тот день, когда мы сможем создать для них подходящую окружающую обстановку.

Оболочка обычно была либо автономным явлением (вы покупаете робота с требуемыми функциями – например, с посудомоечной или стиральной машиной), либо реализовывалась в стенах промышленных зданий, тщательно подобранных для этих искусственных обитателей. Сегодня преобразование окружающей среды в удобную для искусственного интеллекта инфосферу пронизывает все аспекты реальности. Это можно видеть везде – в доме, в офисе и на улице. На протяжении десятилетий мы обволакиваем весь мир цифровыми технологиями, не реализуя их в полной мере.

В 1940-х и 1950-х годах компьютер занимал целую комнату, и, чтобы работать, Алисе приходилось заходить внутрь него. Программирование производилось при помощи отвертки. Взаимодействие человека и компьютера было похоже на соматические или физические отношения. В 1970-х дочь Алисы вышла из компьютера и встала перед ним. Взаимодействие человека и компьютера стало семантическим отношением, чему позже поспособствовали DOS (дисковая операционная система), взаимодействие при помощи текстовых команд, GUI (графический пользовательский интерфейс) и иконки. Сегодня внучка Алисы снова вошла в компьютер, представляющий собой целую инфосферу, которая окружает девочку – порой даже незаметно для нее. Взаимодействие человека и компьютера снова стало соматическим: с сенсорными экранами, голосовыми командами, прослушивающими устройствами, чувствительными к жестам приложениями, данными для определения местоположения и т. д.

В такой дружественной для искусственного интеллекта инфосфере нас регулярно просят доказать, что мы люди – для чего разгадать так называемую «капчу» (CAPTCHA, аббревиатура английской фразы «полностью автоматизированный публичный тест Тьюринга, определяющий, где компьютер, а где – человек»). Тест представляет собой слегка измененные буквы, иногда фрагменты изображений, иногда то и другое вместе. И при регистрации новой учетной записи, например в Википедии, мы должны дать правильный ответ, чтобы доказать: мы – люди, а не программы. Иногда это просто рамка с надписью: «Я не робот» и кнопкой подтверждения. Программы не могут поставить в ней галочку, поскольку не понимают это сообщение, люди же находят задачу тривиальной.

Каждый день в Интернет выходит все больше людей, он связывает все большее количество документов, инструментов, взаимодействующих друг с другом устройств, датчиков, RFID-меток, спутников, приводов, данных. Иными словами, постоянно расширяется пространство, приспособленное для нужд компьютеров, а не людей. Все больше рабочих мест и видов деятельности становятся цифровыми по своей природе: игры, обучение, развлечения, знакомства, встречи, борьба, лечение, сплетни, реклама. Мы делаем все это и многое другое в инфосфере, где все больше напоминаем гостей, а не хозяев. Это хорошая новость для будущего ИИ и умных технологий в целом. С каждым шагом они будут становиться экспоненциально полезнее и успешнее. Ведь они – настоящие «цифровые аборигены». Однако преобразование мира в оболочку ИИ – это процесс, связанный с серьезными проблемами. Некоторые – например, «цифровая пропасть» – хорошо известны и очевидны; другие менее заметны и не так известны.

Представьте себе двух людей – назовем их И и Л. Они женаты и хотят, чтобы их отношения были успешными. И – более активный, он непреклонен, упрям, нетерпим к ошибкам и вряд ли изменится. Л – полная его противоположность, но постепенно становится все ленивее и зависимее от И. То есть возникает дисбаланс, при котором И в конце концов формирует отношения под себя, меняя поведение Л – возможно, он даже с самого начала планировал это сделать. Если брак сохраняется, то лишь потому, что все очень тщательно подогнано под желания И.

В этой аналогии искусственный интеллект и «умные» технологии играют роль партнера И, в то время как люди явно оказываются на месте партнера Л. Риск, которому мы подвергаемся, заключается в том, что, подстраивая мир под себя, технологии могут формировать нашу физическую и концептуальную среду и сдерживать нашу способность приспособиться к ним, поскольку это лучший или самый простой (а иногда – единственный) способ заставить все работать. Ведь ИИ – это глупый, но трудолюбивый супруг, а человечество – умный, но ленивый. Так кто к кому будет приспосабливаться, учитывая, что развод невозможен? Вы наверняка вспомните много эпизодов из реальной жизни, когда «договориться» с компьютером либо не получалось вообще, либо только каким-нибудь громоздким или нелепым образом, который оказывался единственным способом заставить электронную систему сделать то, что необходимо. «Компьютер говорит «нет», – сообщает персонаж Кэрол Бир в английском комедийном скетче «Маленькая Британия» на любой запрос клиента.

Очень важно, что все большее присутствие в нашей жизни все более умных технологий оказывает огромное влияние на наше представление о себе и о мире, а также на взаимодействие с последним. В связи с этим важно не начать думать, что машины обладают сознанием или умом или способны понимать или знать что-то так же, как мы. Они этого не могут.

Есть множество известных случаев, демонстрирующих пределы возможностей компьютерных технологий, так называемые нерешаемые задачи, для которых можно доказать невозможность построения алгоритма, всегда приводящего к правильному ответу в виде «да/нет». Мы знаем, что наши вычислительные машины, например, удовлетворяют так называемому соответствию Карри – Ховарда, утверждающему, что между математическими доказательствами и програмами для компьютеров наблюдается структурная эквивалентность. Поэтому любое логическое ограничение относится и к компьютерам. Многие машины способны делать удивительные вещи: среди прочего, они легко выигрывают у нас в разные настольные игры: шашки, шахматы, го – и даже побеждают в викторинах! И это не предел. И все же все они – варианты машины Тьюринга, абстрактной модели, устанавливающей пределы того, что может быть сделано компьютером посредством математической логики. Квантовые компьютеры тоже ограничены пределами того, что может быть вычислено (так называемыми вычисляемыми функциями). Из машины Тьюринга не может волшебным образом появиться никакая сознательная, разумная, обладающая волей сущность.

Дело в том, что интеллектуальные технологии – благодаря огромному количеству доступных данных, очень сложным программам и возможности беспрепятственно взаимодействовать друг с другом – способны решать все больше и больше задач, причем делать это (включая прогнозирование нашего поведения) лучше нас. Поэтому мы больше не единственные возможные исполнители. Именно это я называю «четвертой революцией» в нашем понимании самих себя. Оказалось, не мы находимся в центре Вселенной (Коперник), биологического царства (Дарвин) или царства разума (Фрейд). После Тьюринга мы больше не пребываем в центре инфосферы – мира обработки информации и умных приложений. Мы разделяем ее с цифровыми технологиями.

В решении все большего числа задач нас превосходят уже даже не дети из научной фантастики, обладающие сверхразумом, а самые обычные предметы, несмотря на то, что они не умнее тостера. Их способности заставляют нас испытывать смирение и переоценивать человеческие исключительность и особую роль во Вселенной. Мы полагали себя самыми умными, потому что можем играть в шахматы. Теперь обычный телефон играет лучше гроссмейстера. Мы думали, что свободны, потому что можем купить все, что пожелаем. Теперь глупое, как пробка, устройство может предсказать модель нашего потребительского поведения, а иногда даже предвидеть наши действия.

Что все это значит для нашего самосознания? Успех технологий во многом зависит от того, что, рассуждая о возможностях сверхразума, мы тем временем все больше наполняем мир огромным количеством устройств, датчиков, приложений и данных. В результате он становится средой, где технологии смогут заменить нас, но при этом им не потребуется какого-либо понимания, намерений, интерпретаций, эмоциональных состояний, семантических навыков, совести, самосознания или интеллектуальной гибкости (позволяющей нам, например, использовать обувь в качестве молотка, если нам нужно забить гвоздь). Память (в форме алгоритмов или гигантских наборов данных) работает лучше интеллекта, если нужно посадить самолет, найти оптимальный маршрут из дома в офис или лучшую цену на новый холодильник.

То есть умные технологии лучше справляются с простыми задачами, но не следует это путать со способностью лучше думать. Цифровые технологии не думают (не говоря уж о том, чтобы думать лучше нас). Но они могут делать лучше все больше и больше вещей, обрабатывая все большие объемы данных или отталкиваясь от результатов своих собственных расчетов ради повышения их точности в будущем (так называемое машинное обучение). Компьютерная программа AlphaGo, разработанная Google DeepMind, выиграла в игре го у лучшего игрока в мире Ли Седоля, поскольку могла использовать базу данных из примерно 30 млн ходов и сыграть тысячи игр против самой себя, каждый раз становясь немного более «умной» и, как следствие, улучшая свою игру. Это как система с двумя ножами, которые могут затачивать сами себя. Но представьте на минуточку, что во время матча сработала бы пожарная сигнализация. Ли Седоль в ту же секунду встал бы и направился к выходу, в то время как AlphaGo продолжала бы думать над следующим ходом.

Так в чем разница? В том же, в чем между вами и посудомоечной машиной, когда вы и она моете посуду. Результат? Любой апокалиптический прогноз с участем искусственного интеллекта можно игнорировать. Серьезный риск заключается не в появлении какого-то сверхразума, а в том, что мы сами злоупотребляем цифровыми технологиями в ущерб значительной части человечества и всей планете.

В обозримом будущем самой большой проблемой будем мы сами, а не технологии. Поэтому нужно включить свет в темной комнате и внимательно обдумать, куда нам стоит направиться. В этой комнате нет чудовищ, но есть много препятствий, которые необходимо обойти, убрать или постараться договориться о том, что с ними делать. Тревожиться надо по поводу реальной человеческой глупости, а не воображаемой опасности, исходящей от искусственного интеллекта. Проблема не в уровне аппаратных абстракций, а в самом человечестве.

Иными словами, следует сосредоточиться на реальных проблемах. В заключение я перечислю пять таких одинаково важных узких мест.

• Мы должны привести искусственный интеллект в соответствие с окружающей средой. Нам нужны самые умные технологии, которые только можно создать для борьбы с конкретными бедствиями – от экологических катастроф до финансовых кризисов, от преступности, терроризма и войны до голода, нищеты, невежества, неравенства и ужасающего уровня жизни. Например, у более 780 млн человек нет доступа к чистой воде, почти 2,5 млрд людей живут в антисанитарных условиях. Ежегодно от последствий стихийных бедствий и болезней, связанных с плохой водой, умирает от 6 до 8 млн человек. Это, а не искусственный интеллект, входит в число «наших самых серьезных экзистенциальных угроз».

• Мы должны сделать искусственный интеллект удобным для человека. Следует действовать так, чтобы для него, перефразируя Иммануила Канта, люди были целью, а не средством для ее достижения.

• Мы должны обратить недостатки искусственного интеллекта на пользу человеческому интеллекту. Будут ликвидированы и созданы миллионы рабочих мест. Выгоды от этого преобразования должны принадлежать всему обществу – равно как и издержки, понесенные последним, поскольку никогда ранее такое количество людей не переживало столь радикальных и быстрых изменений. Сельскохозяйственной революции для оказания реального воздействия на общество потребовались тысячелетия. Промышленной – столетия. А цифровой потребовалось всего несколько десятилетий. Неудивительно, что мы чувствуем неуверенность и беспокойство.

• Мы должны сделать так, чтобы способность искусственного интеллекта к прогнозированию не ограничивала наши свободу и автономность. Маркетинг, внедрение в массовое сознание новых моделей поведения, борьба с преступностью и терроризмом никогда не должны унижать человеческое достоинство.

• И, наконец, мы должны заставить искусственный интеллект сделать нас более человечными. Серьезный риск заключается в том, что мы можем злоупотребить интеллектуальными технологиями. Уинстон Черчилль однажды сказал: «Сначала мы создаем свои дома, а потом они создают нас». Это относится и к инфосфере, и ко входящим в нее «умным» технологиям.

14. Мир, управляемый данными

Кеннет Кукьер

Повсеместное массовое и инновационное использование данных позволит многое делать проще, дешевле и в больших объемах.

Вы просыпаетесь, и ваш личный робот плавно парит в воздухе, чтобы подать вам в постель завтрак – белковую таблетку и эспрессо в виде леденца. Вы зеваете, и вмонтированный в потолок датчик дыхания анализирует данные, проверяя наличие недомоганий. А чуть позже беспилотный реактивный ранец аккуратно везет вас на работу.

Вообще-то, пока это лишь мечта. Фантастика. Но в течение следующих трех десятилетий, когда практики искусственного интеллекта проникнут во все сферы жизни, грядут фундаментальные изменения. Данные преобразуют каждый аспект бизнеса и общества, точно так же, как это происходило в период развития вычислительной техники и Интернета.

Начало современной научной революции датируется 1638-м – годом выхода книги Галилео Галилея «Беседы и математические доказательства двух новых наук» («Discorsi e dimostrazioni matematiche intorno a due nuove scienze»), в которой он выдвинул идею о том, что все природные явления могут быть выражены языком математики. Сейчас начинается новый этап: все происходящее в мире будет оцениваться и оптимизироваться путем сбора и анализа данных. Информация начнет рассматриваться в качестве важнейшего ресурса. В XIX веке все приводилось в действие паром, в XX – нефтью, а в XXI веке важнейшим «топливом» станут данные.

С помощью передового искусственного интеллекта мы сможем осуществлять обучение не только в беспрецедентных масштабах, но и в автоматическом режиме. Американский философ технологий Кевин Келли называет это «когнитивизацией», то есть внедрением искусственного интеллекта во все, что мы делаем. Это станет возможно вследствие появления крошечных компьютерных чипов и высокоэффективных алгоритмов. Однако способности искусственного интеллекта в конечном счете определяются данными, которыми он располагает. Именно поэтому гаджеты будут не только использовать данные, но и постоянно собирать новые.

Предвестников этого явления мы видим в таких элементарных вещах, как термостаты (продукция Google под названием Nest) и разнообразные подсчитывающие шаги и пульс фитнес-трекеры, не говоря уж о невероятных, постоянно связанных с человеком личных помощниках, активируемых голосовыми командами (Google Home и Amazon Echo). К 2050 году они будут распространены так же широко, как наручные часы или радиоприемники более полувека назад.

Применение собранных данных в нашей ежедневной деятельности, по сути, другой способ сказать, что мы применяем на практике наши эмпирические знания об устройстве мира. Общество давно поступает именно так, но когда их объем был ограничен, это выглядело как определенные, весьма заметные стереотипы поведения. Теперь, когда нам доступно куда больше информации, стереотипы стали гораздо тоньше. Если в течение последующих 35 лет эффективность человеческого труда будет расти так же, как она росла в последние 35 лет благодаря компьютерам, можно пытаться спрогнозировать, как будет выглядеть жизнь в 2050 году.

Она разобьется на три основных направления. Во-первых, то, что сегодня сложно, станет легче. Во-вторых, подешевеет то, что сегодня дорого. В-третьих, проблема дефицита перестанет быть столь острой. Короче: проще, дешевле, больше. Давайте возьмем три эти направления и наложим их на некоторые самые важные и крупные сферы жизни общества: здравоохранение, образование и право.

Сегодня медицинская практика имеет больше общего с XIX веком, чем с XXI. Доктора опираются на прочитанное в медицинских учебниках и на многолетний опыт принятия решений. Звучит вполне разумно. Но на самом деле это нелепо: никто из практикующих врачей не может быть знаком со всеми возможными заболеваниями и методами лечения, особенно с учетом постоянного появления новых лекарств.

Если Google среди миллиардов страниц может найти нужные и упорядочить их по релевантности, а Amazon – удивительно точно порекомендовать вам следующую покупку, не должны ли доктора при составлении каждого диагноза полагаться на компьютер? К 2050 году это, вероятно, окажется самым привычным делом. Медицинские карты станут электронными, и алгоритмы будут перебирать их в поисках действенных методов лечения, побочных эффектов и их возможной взаимосвязи.

База данных станет самым умным врачом в мире: она помнит каждый случай и видит связь между назначенными лечебными средствами и результатами, благодаря чему может порекомендовать, что лучше всего сработает в данной ситуации. Но окончательное решение все еще будет за врачом. В то же время они будут подвергаться риску судебного преследования по обвинению в ненадлежащем исполнении врачебных обязанностей, если они попытаются поставить диагноз без консультации с системой больших данных, так же, как сегодня летчики потеряют свою работу, если выключат автопилот, наденут кожаный шлем и очки и попытаются посадить самолет «как в старые добрые времена».

Для помощи врачам в диагностике заболеваний, Watson – суперкомпьютер фирмы IBM, способный находить в своей обширной базе данных ответы на вопросы, заданные на естественном языке, – уже несет в себе большой объем медицинской информации. Решения из области больших данных используются для разработки новых лекарств. А роботизированные хирургические системы «обучены» накоплению информации о прошлых операциях, так же как беспилотный автомобиль опирается на опыт предыдущих дорожных ситуаций.

Одной из областей, где большие данные смогут произвести локальный переворот в здравоохранении, является цифровая патология. В 2011 году команда исследователей во главе с Эндрю Беком из Гарвардского университета использовала компьютерное распознавание образов и алгоритм машинного обучения для анализа биопсии клеток рака молочной железы. Эта информация сопоставлялась с уровнем выживаемости пациентов, чтобы понять, сможет ли система строить прогнозы для раковых пациентов так же хорошо, как живые люди. Что удивительно, ей это удалось. Более того, среди 11 признаков, использованных алгоритмом для предсказания наличия рака в биопсии клеток, только восемь ссылались на сами клетки. Три остальные были связаны с окружающими стромальными клетками, врачи даже не знали, что именно следует искать. Эта информация была скрыта от человеческих глаз, но анализ огромных массивов данных помог докопаться до истины.

Цифровая патология все еще находится на стадии лабораторных исследований, и для введения ее в повседневный обиход необходимо пересмотреть нормативно-правовые акты. Тем не менее к 2050 году именно так и будет проводиться медицинская диагностика. Данные революционизируют оказание медицинской помощи. Собственно, все, требующее узкоспециализированной подготовки, суждений и принятия решений в условиях неопределенности, будет осуществляться лучше, если человек станет использовать соответствующие алгоритмы. Это будет точнее, быстрее и дешевле.