Читать книгу "Мегатех. Технологии и общество 2050 года в прогнозах ученых и писателей"

Появление виртуальной реальности предсказывалось минимум четверть века назад. Последняя волна возбуждения по этому поводу – в значительной степени спровоцированная покупкой компанией Facebook связанного с виртуальной реальностью стартапа Oculus в 2014 году за 2 млрд долларов, – напоминает оптимизм начала 1990-х. Но есть основания полагать, что на этот раз все будет иначе.

Во-первых, сегодня компьютерами пользуются в разы больше людей. Соответственно, выросло и число людей, готовых купить самую новую разработку. Во-вторых, ее стоимость невелика. Если в 1990 году прототип гарнитуры с виртуальной реальностью стоил почти 10 тысяч долларов, то в 2016-м Oculus Rift – 599. Менее чем за 10 лет цена, скорее всего, упадет на порядок. Таким образом, к 2050 году девайс окажется достаточно дешевым, чтобы распространиться по всему миру, а не остаться привилегией лишь богатых стран. В-третьих, виртуальная больше не является областью, понятной только энтузиастам из Кремниевой долины – она стала технологией, контент для которой готовят все крупные развлекательные компании. Все больше и больше кинофестивалей предусматривают номинацию «Виртуальная реальность». Производители видеоигр выпускают игры в ней. В начале 1990-х руководители студий только начинали осваивать новые технологии. «Куда спешить? – спрашивали они, – вспоминает Ник Демартино, в свое время возглавлявший технологическую студию в Американском институте киноискусства. – А сегодня они уже боятся не поспеть за прогрессом».

Четвертая причина для оптимизма заключается в том, что технология виртуальной реальности усовершенствовалась настолько, что вполне разумно предположить ее готовность быстро и бурно развиваться. Интернет есть везде, вычислительные мощности стоят дешево и их много, дисплеи высокого разрешения существуют уже много лет.

Но для того чтобы виртуальная реальность реализовала весь свой потенциал, технологии должны двигаться вперед: как постепенно, так и большими скачками.

Сначала будут происходить постепенные улучшения. Операторы связи уже участвуют в гонке, стремясь первыми предложить мобильные сети пятого поколения 5G. Подавляющее большинство стран мира пользуется мобильным широкополосным доступом третьего или четвертого поколения (3G или 4G/LTE), которые передают данные в десятки раз быстрее предшественников (G означает «поколение»). Следующая версия – 5G – будет в 10–100 раз быстрее, чем 4G/LTE, причем в комплекте с ней будут поставляться и другие улучшения, включая одновременную поддержку множества устройств и чрезвычайно низкую задержку (время, затраченное на передачу данных). Высокоскоростные соединения важны не только для быстрого доступа к информации, но и для подключения к вычислительной мощности. Поскольку закон Мура постепенно перестает действовать (глава 4), вычисления будут перенесены в облако. Чтобы стать реальностью, легкие очки с дополненной реальностью должны будут иметь постоянное соединение с мощными удаленными компьютерами.

Необходимо будет усовершенствовать и другие технологии. Дисплей станет легче, его пиксели – меньшими и плотнее расположенными, а компьютерная графика будет включать все больше полигонов. Возможность этого сегодня не вызывает сомнений, вопрос лишь во времени. Разработка этих технологий уже идет полным ходом.

Некоторым технологиям только предстоит достигнуть зрелости. В современном смартфоне скрыто около десятка сенсоров. Но вскоре это число в различной технике взрывообразно увеличится – как внутри, так и снаружи. Мир окажется напичкан крошечными сенсорами, чтобы наши новые устройства знали, где они находятся, на что смотрят, ощущали пространство и глубину. Это проще представить на примере помещения. В гостиных или офисах установят датчики и 3D-проекторы. Дискретные устройства могут проецировать реалистичные объекты или аватары людей, в то время как датчики – отслеживать наши движения и их взаимодействия. И это тоже дело не слишком далекого будущего: бесконтактный сенсорный игровой контроллер Microsoft Kinect уже сейчас способен чувствовать движение.

Не менее важны достижения в области искусственного интеллекта и машинного обучения. Один человек с устройством дополненной реальности гораздо менее полезен, чем 100 млн: шаблоны использования и поведения огромного количества пользователей могут быть проанализированы для улучшения технологий, позволяющих машинам понять, чего люди ожидают, когда смотрят на что-то или определенным образом наклоняют голову.

В более отдаленном будущем произойдет значительный рывок вперед: к 2050 году виртуальная и дополненная реальность сольются так, что переход между ними станет незаметным. Мы можем экспериментировать с такими вещами, как браслеты с сенсорами или одежда с вплетенными в нее электронными сетями. Со временем технология все ближе подбирается к нашим телам – в конце концов будет найден способ проникнуть внутрь них. Начало положили контактные линзы. Связанная с ними технология уже существует, правда, пока только в рудиментарной форме. Но в 2016 году компания Samsung подала заявку на патент на умные контактные линзы.

От них совсем недалеко до такой простой операции, как замена хрусталика глаза на его технологически более совершенную версию, возможно, она будет проводиться сразу после рождения. Продолжая абстрактное теоретизирование, подумаем, почему бы не заменить сразу все глазное яблоко на такое, которое включало бы в себя все необходимое для работы средств дополненной реальности? По мере того, как люди начнут все больше привыкать к идее имплантации, технологические решения будут все глубже проникать в их тела и, возможно, все завершится имплантацией мозга.

Все это позволяет нам получать информацию. Но как передавать ее? В фильме режиссера Стивена Спилберга «Особое мнение», вышедшем в 2002 году и основанном на рассказе Филипа К. Дика, изображалось будущее, в котором компьютеры представляли собой сенсорные стеклянные панели размером во всю стену. Управлялись они прикосновениями и жестами. Сегодня это реализовано: сенсорный экран стал естественной формой ввода информации. Овладеть ею могут даже младенцы. Дейл Херигстад, «продвинутый консультант по взаимодействию» и один из работавших над футуристическим обликом фильма, думает, что зашел недостаточно далеко. Зачем нужны большие экраны, если достаточно хорошим холстом является пустое пространство, куда отлично можно проецировать любые формы?

К 2050 году чем-то архаичным будут казаться не только нынешние, но и идея стучать пальцами по клавиатуре. Google разрабатывает приложение под названием Project Soli, для ощущения движения пальцев использущее радар. Идея заключается в том, что естественные действия – такие, как поворот рукоятки или нажатие кнопки – могут быть имитированы без необходимости касаться реальных рукояток и кнопок. Херигстад считает, что будет создано что-то похожее на язык жестов: целые новые грамматики и словари для общения с машинами, языки, которые будут ощущаться так же естественно, как движение пальца на экране смартфона (последнего, кстати, всего 10 лет назад тоже не существовало).

Или, возможно, к 2050 году будут разработаны системы, которые позволят машинам заглянуть прямо к нам в мозг и считать его электрические колебания. Эта идея не так фантастична, как кажется. По крайней мере уже создана одна компания – Emotiv, – которая займется изучением возможностей того, что она называет «интерфейсом мозгом-компьютера». Гораздо раньше мы сможем управлять предметами, просто глядя на них и моргая. Подобная технология пока находится лишь в начальной фазе разработки, но уже есть некоторые осязаемые результаты.

Помимо отображения и ввода существует и третий, не менее важный аспект виртуальной реальности: тактильная (или физическая) обратная связь. Прикосновение к экрану смартфона возможно из-за противодействия жесткого листа стекла. Рисование фигур в воздухе может работать благодаря визуальным подсказкам. Но как реализовать движения, требующие физических ощущений, например пожатие руки? А 10–20 лет назад ответом могли быть только технологичные перчатки. Но в будущем все будет намного лучше. Пионер виртуальной реальности Нонни де ла Пенья считает, что в этой ситуации можно использовать звук, который нельзя услышать.

Последний передается с помощью волн и, как может подтвердить любой человек, когда-либо присутствовавший на рок-концерте, можно почувствовать, как в толпе пульсируют басы. Звуковые волны нужной частоты, посланные под правильным углом, могут обеспечить ощущение прикосновения к чему-то, рукопожатия с виртуальным другом, находящимся в нескольких тысячах километрах.

Ни одна из этих систем не будет хорошо работать сама по себе. Но, совместно друг с другом и с неизвестными пока технологиями, станет основой мира, в котором компьютеры перестанут существовать как предметы. Вместо этого они будут везде, в том числе и внутри нас.

Чтобы наслаждаться этим будущим, обществу придется пойти на определенные компромиссы. Первый – постоянное, почти абсолютное наблюдение. Сегодня данные, собранные вашим смартфоном, уже могут сказать о вас больше, чем знают ваши партнер или мать. С помощью базы данных GPS-слежения, датчиков движения и журналов вызовов есть возможность нарисовать полную картину вашей повседневной деятельности. Добавьте к этому просмотр социальных сетей и истории поиска, и в результате ваш смартфон может знать вас лучше, чем вы знаете самого себя.

Но есть еще кое-что, чего машины о вас не знают. Виртуальная реальность может это изменить. Компании, производящие эти устройства, будут получать информацию о каждом повороте вашей шеи, каждом моргании, каждой реакции на любой стимул. При развитии дополненной реальности это будет происходить еще активнее: разработчики смогут увидеть все, что видите вы. Они в буквальном смысле смогут видеть мир вашими глазами.

Компании заявляют, что у них нет выбора, поскольку эти данные формируют основу, на которой работает сервис и, кроме того, помогают улучшить его. Они отмечают, что люди не имеют доступа к этой информации – только машины и алгоритмы. Но это не делает ситуацию более приятной. Кроме того, доступ к ней неизбежно захотят получить правительства: она будет слишком ценной, чтобы добровольно отказаться от нее.

Современные пользователи смартфонов и бесплатных веб-сервисов показали, что готовы отказаться от некоторой степени конфиденциальности в обмен на удобство. Они понимают: их данные будут использоваться для получения прибыли – например, посредством целевой рекламы, – но не для отслеживания их передвижений. До тех пор пока ситуация будет оставаться неизменной, она вряд ли обеспокоит обычных потребителей.

Но будущее потребует создания более серьезной защиты, чем существующая сегодня. Есть надежда, что регулирующие, правовые и исполнительные органы смогут удержать контроль над крупными корпорациями, а также над особо ушлыми государственными учреждениями. Тем не менее набирает обороты дискуссия, толчок к которой в 2013 году дал Эдвард Сноуден[12]12
  В 2013 году Сноуден передал в СМИ ряд секретных документов Агентства национальной безопасности США, касающихся тотальной слежки американских спецслужб за информационными коммуникациями граждан многих стран. – Прим. ред.


[Закрыть], и обе стороны – разработчики и чиновники – высказались против чрезмерно активного сбора данных государствами. Вместе с тем антимонопольные ведомства по всему миру внимательно следят за крупными технологическими компаниями.

Вторая проблема заключается в том, что корпорации навсегда займут место посредников между нами и окружающим нас миром. Судя по нынешнему состоянию потребительских технологий, это будет небольшая горстка фирм, которые будут доминировать в бизнесе виртуальной и дополненной реальности. Каждый разработчик будет находиться под их контролем, каждый потребитель должен будет согласиться с их условиями. Их взгляды на приемлемость поведения и контента (с учетом культур, которые они представляют, и адвокатов, которые хотят ограничить их ответственность) станут основой нашего взаимодействия с миром. Так же, как они могут заставить что-либо исчезнуть из результатов поиска или из социальных сетей, дополненная реальность может дать возможность этим компаниям убирать людей и предметы из вашего мира – в реальности они будут оставаться на прежнем месте, но вы просто не сможете видеть их. Люди, не соблюдающие навязанные этими компаниями правила, могут оказаться выброшенными из мира виртуальной реальности. Принципы развития виртуальной реальности сильно отличаются от происходившего с Интернетом. В то время, как Сеть была построена на открытости и опиралась на убеждение о том, что любой человек должен иметь к ней доступ, а также право публиковаться и ссылаться друг на друга, в виртуальной реальности доминируют крупные компании, стремящиеся действовать в рамках идеологии закрытых экосистем.

Общество должно будет придумать способы контроля этих компаний, возможно, путем закрепления новых прав. Сегодня, если Facebook или Google блокирует аккаунт, его владелец мало что может сделать. Но по мере того, как наше онлайн-отражение обретает все более четкую форму, вопрос о том, кто обладает правами на наших виртуальных двойников, будет становиться все более актуальным. Станет ли согласие на условия компании отказом от самостоятельной виртуальной жизни? Или фирмы должны будут позволить пользователям свободно импортировать и экспортировать свои данные? Последнее кажется более вероятным. Другие права также являются предметом бурных дискуссий. Есть ли у вас право видеть мир непосредственно, невооруженным глазом? Ведь это противоречит правам других людей заблокировать вас или остаться скрытым от чужих взглядов? Для создания мира, основанного на виртуальной и дополненной реальности, ответить на эти вопросы нужно как можно скорее.

Третья проблема – защищенность. Несмотря на долгие годы напряженной работы, компьютерная безопасность далека от идеальной. Опытный хакер может взломать даже самые надежные системы. Вполне возможно, к 2050 году надежное, должным образом реализованное шифрование станет обычным делом, пароли уйдут в прошлое и для того, чтобы взломать защиту, потребуется мощь целого государства. За заметным исключением Yahoo, крупнейшие технологические компании продемонстрировали желание заняться решением этой задачи: примечательно, что Facebook, Google, Amazon и Apple удивительно мало страдают от хакерских атак.

Последняя проблема, пожалуй, наименее тревожная. Пессимисты предсказывают, что виртуальная реальность сделает мир местом, где каждый живет в абсолютном одиночестве, где люди погружаются в свои личные виртуальные миры, полностью оторвавшись от окружающей их реальности. «Виртуальная реальность погубит мозги наших детей», – говорят они. Но эти страхи не новы: стоит вспомнить социальные сети, видеоигры, телевидение и рок-музыку XX века, появление печатного станка в XVI веке и даже просто записывание речи учителя во времена Сократа (по крайней мере, если верить Платону).

Люди пожилого возраста жалуются, что дети сегодня все свое время проводят, уставившись в экраны смартфонов. Но ведь юное поколение использует свои устройства для взаимодействия с окружающим миром – фотографирует своих друзей, описывает в WhatsApp то, что видит, наблюдая за жизнью во всем ее разнообразии, а не бродит по выдуманным мирам. И пускай технологии меняются – люди остаются все теми же. А это означает, что мы всегда будем хотеть взаимодействовать с реальным миром.

В дополнение к упомянутым в тексте я хотел бы поблагодарить следующих людей за понимание и за то, что они согласились щедро потратить на меня свое время: Джастина Хендрикса, Джанет Мюррей, Аластера Рейнольдса, Марка Скварека и Сашку Анселд.

Часть 3
Мегатехнологии и общество

13. Этика искусственного интеллекта

Лучано Флориди

Угроза захвата машинами власти над над человечеством – не более чем плод воображения. Но риск, связанный с неправильным использованием машин, реален.

Предположим, вы входите в темную комнату в неизвестном вам здании. Вы можете запаниковать, боясь чудовищ, которым могут скрываться в темноте. Но можете и просто включить свет, чтобы не натыкаться на мебель. Темная комната – это будущее искусственного интеллекта (ИИ). К сожалению, есть люди, считающие, что, входя в эту комнату, мы можем столкнуться со злыми сверхразумными машинами. Страх перед монстрами вроде Голема или Франкенштейна столь же древен, как и сама человеческая память. Компьютерная версия такого страха восходит к 1960-м годам, когда британский математик Ирвинг Джон Гуд, работавший шифровальщиком в Блетчли-парке вместе с Тьюрингом, сделал следующее наблюдение:

– Определим сверхразумную машину как такую, которая может значительно превзойти результаты интеллектуальной деятельности любого человека, как бы умен он ни был. Поскольку проектирование машин является одним из таких интеллектуальных видов деятельности, сверхразумная машина могла бы проектировать еще лучшие машины, тогда, несомненно, произошел бы «взрыв интеллекта», и человек остался бы далеко позади. Таким образом, первая сверхразумная машина является последним изобретением, которое сделает человек при условии, что машина достаточно послушна, чтобы сказать нам, как держать ее под контролем. Любопытно, что этот момент редко обсуждается вне научной фантастики. Иногда к этому виду литературы стоит относиться более серьезно.

Как только сверхразумные машины станут реальностью, они могут выйти из повиновения, поработить нас, начать игнорировать наши права и преследовать свои собственные цели, независимо от последствий для нашей жизни и благополучия. Если это звучит слишком невероятно, чтобы восприниматься всерьез, то быстрое и удивительное развитие цифровых технологий за последние полвека заставило многих людей поверить: божественный «взрыв интеллекта», иногда называемый сингулярностью, очень рискованная штука, если мы не будем достаточно осторожными, конец нашего биологического вида может оказаться достаточно близок.

Например, Стивен Хокинг заявил: «Я думаю, что развитие полноценного искусственного интеллекта может означать конец человеческой расы». Но это так же верно, как и условно: если бы появились четыре всадника Апокалипсиса, проблемы стали бы еще более серьезными. Дело в предпосылках. Основатель Microsoft Билл Гейтс тоже озабочен:

– Я отношусь к тем людям, которых тревожит суперинтеллект. Сначала машины займут много рабочих мест, и не будут слишком умными. Это позитивное изменение, если мы подойдем к вопросу правильно. Несколько десятилетий спустя их разумность значительно повысится – настолько, что это уже может стать проблемой. В этом я согласен с Илоном Маском и другими и не понимаю, почему некоторых людей это не тревожит.

А вот что по этому поводу сказал генеральный директор американской автомобильной компании Tesla Илон Маск:

– Думаю, мы должны быть очень осторожны с искусственным интеллектом. Если бы пришлось делать прогноз относительно наиболее серьезной угрозы нашему существованию как вида, я, вероятно, назвал бы именно ИИ. Ученые все чаще считают, что на национальном и международном уровнях должен существовать какой-то надзор, чтобы мы не сделали чего-то очень глупого. Создавая искусственный интеллект, мы призываем демона. Во всех историях, где есть парень с пентаграммой и святой водой, он уверен, что сможет контролировать его. Но обычно у него ничего не получается.

Но все же, если вы считаете, что прогнозы экспертов являются надежным руководством к дальнейшим действиям, подумайте еще раз. Существуют много поразительно неверных технологических прогнозов великих экспертов. Например, в 2004 году Гейтс предсказал: «Через два года проблема спама будет решена». Маск также высказывал предположение: «Шанс, что мы не живем в компьютерном симуляторе – один на миллиард». То есть вы не реальны, вы читаете все это в Матрице. Буквально.

Реальность более банальна. Нынешние и предполагаемые умные технологии обладают интеллектом счетной доски, абака, то есть нулевым. Беда всегда является продуктом человеческой глупости или злой воли. 24 марта 2016 года Microsoft представила в Twitter Тая – говорящего робота с искусственным интеллектом. Всего через 16 часов компании пришлось удалить его. В процессе общения с людьми Тай должен был становиться все умнее и умнее. Вместо этого он быстро превратился в злого болтуна, обожающего Гитлера, отрицающего холокост, пропагандирующего инцест и провозглашающего, что «теракт 11 сентября 2001 года организовал Буш». Причина? Он функционировал как обычное кухонное полотенце, впитывающее любые отправленные ему злобные и неприятные сообщения. Microsoft пришлось извиняться.

Таково состояние искусственного интеллекта сегодня и в обозримом будущем. Компьютерам по-прежнему не удается найти стоящие рядом с ними принтеры. Тем не менее тот факт, что совершенный искусственный интеллект пока остается лишь объектом из научной фантастики, не является поводом для самоуспокоенности. Напротив, после стольких сбивающих с толку безответственных домыслов о разнообразных и самых причудливых рисках, связанных со сверхразумными машинами, пришло время включить свет, перестать тревожиться по поводу научно-фантастических сценариев и сосредоточиться на реальных и серьезных задачах, чтобы избежать болезненных и дорогостоящих ошибок при разработке и использовании «умных» технологий.