Текст книги "Лабиринты будущего. Как увидеть завтра уже сегодня"

Главное ограничение фантастики состоит в том, что она часто искажает восприятие будущего, «выпячивая» одни акценты прогресса и обделяя вниманием другие. Например, во многих фантастических фильмах города наполнены летающими автомобилями, но в реальном мире их особо не видно. И это притом, что достаточное количество компаний занимается разработками подобных машин. В Сети регулярно появляются фото и видео с очередных испытаний разных прототипов. Почему же от теории мы так и не переходим к практике?

Важно помнить, что используемые нами устройства появляются на стыке человеческих потребностей и технологий. Потребность человека в передвижении не меняется. Используемые технологии – да. Когда-то мы использовали мускульную тягу лошадей и паруса, потом перешли на паровые и бензиновые двигатели.

У человека нет потребности в летающем автомобиле как таковом. Есть потребность быстро добраться из точки «А» в точку «Б». Самолеты считаются самым безопасным видом транспорта из-за очень щепетильного подхода к их диагностике и обслуживанию. Авиакомпании должны соблюдать жесткие правила. Будете ли вы столь уверены в безопасности полета, если станете передвигаться на своем летающем автомобиле? Если у обычной машины заглохнет мотор, самое страшное, что может из-за этого случиться, – пробка на дороге. Если в полете у вашего авто откажет двигатель, последствия могут быть куда страшнее. К тому же обычному владельцу подобного транспортного средства будет очень тяжело обеспечивать его ежедневный осмотр группой квалифицированных техников, если оно просто припарковано у дома. Частные летающие автомобили ставят перед возможными владельцами очень много вопросов о безопасности. Не все готовы к борьбе с повышенным уровнем тревожности при каждой поездке.

Представим себе альтернативную картину будущего. Дороги заполнены исключительно автомобилями с автопилотом. Они все поддерживают друг с другом связь, объединяясь в некое подобие роя. Каждое транспортное средство информируется о планируемом перестроении задолго до того, как маневр будет начат. При этом данные передаются по беспроводной сети. Не нужно уповать, что сенсор распознает включение поворотника. Такие транспортные средства позволят достаточно быстро перемещаться по городу, так как пробок не будет. Сидеть за рулем тоже не потребуется. Все пассажиры смогут спокойно заниматься своими делами в процессе поездки. И – никакого стресса от полета и переживаний по поводу исправности систем. В худшем случае автомобиль просто остановится на дороге, а остальные участники движения станут заблаговременно его объезжать.

Какой способ передвижения был бы более предпочтительным для большинства людей?

А теперь посмотрите на этот вопрос с точки зрения режиссера фильма. Проблема в том, что со стороны поток транспортных средств с автопилотом мало будет отличаться от того, что мы видим на дорогах сейчас. Поток летающих автомобилей на экране смотрится в разы зрелищней. Именно поэтому их мы и видим в фантастических фильмах.

Жанр «фантастика» не живет в отрыве от медиа. Идея должна воплотиться в чем-то: в фильме, книге, комиксе, в компьютерной игре и т. д. У каждого медиа есть свои требования к производимым продуктам. Например, кино – это визуальный жанр. В нем важна картинка, режиссеру важно показать то, что на экране будет впечатляюще смотреться. Что будет «секси». Если весь сюжет произведения построен на разговоре героя с самим собой, то его экранизация – не очень хорошая идея. В таком случае лучше подойдет текст или моноспектакль. Если мы решаем воплотить идею в виде фантастического фильма, то мы вынуждены учитывать специфику именно этого медиа. Это и объясняет, почему появление летающего автомобиля в фантастическом фильме более вероятно, чем появление обычного автомобиля, но беспилотного. Летающий круче выглядит.

Мне думается, что аэротакси на своем веку мы все же можем увидеть. Проблему с тревожностью пассажиров и безопасностью можно решить за счет отказа от частного владения подобными транспортными средствами. Ими могут, например, владеть компании, которые и будут отвечать за ежедневный предполетный осмотр и обслуживание.

Еще в 2018 году Uber презентовал свою концепцию аэротакси под названием UberAIR. Вы можете посмотреть их презентационное видео на YouTube. Оно почему-то было изъято из публичного доступа, но доступ по ссылке еще остался.

При этом даже в случае распространения сервисов аэротакси мне все равно видится, что большая часть логистических задач все же будет решаться за счет наземных/подземных транспортных средств.

Рассмотрим дополнительный пример. Поговорим о шагающих боевых машинах. Этот жанр называется «меха». От японского メカ (мэка), от английского mechanism – «механизм». Выглядят эти штуки на экране или страницах комиксов очень круто. Вот пример для наглядности. Я в свое время сделал эту 3D-модель, чтобы отточить навыки анимации.

Фото автора. © Евгений Махина, 2023 г.

В реальности перспективы применения мехов вызывают вопросы. Нога подобного устройства была бы чересчур сложным механизмом для ремонта и обслуживания, тем более в боевых условиях. Починить гусеницу танка то еще приключение, представьте, каково чинить ногу огромного боевого робота.

Их ноги были бы крайне ненадежны и уязвимы именно в связи со сложностью конструкции. Их было бы проще вывести из строя. Танк сохраняет какую-то степень боеспособности даже в случае повреждения ходовой части. Он может стать своего рода стационарной турелью, лишь бы башня вращалась да орудие было целым. Лишившись ноги, мех почти полностью потеряет боеспособность. Упадет, так сказать, лицом в грязь. И это мы еще не говорили о легкости поражения подобных целей. Танк может спрятаться за холмом. Достаточно, чтобы его башня лишь чуть-чуть возвышалась над горизонтом, этого уже хватит, чтобы машина могла вести прицельный огонь. Шагающая боевая машина будет возвышаться над полем боя, словно вышка, что сделает ее легкой мишенью.

Поэтому создание реальных боевых шагающих машин мне видится маловероятным. Но есть одно но. Вы, думаю, уже догадались. Боевые шагающие машины отлично смотрятся на экране. Поэтому в фантастических фильмах, мультфильмах, играх и комиксах мы будем продолжать их видеть.

Спасающийся от инопланетного монстра человек, бегущий по темным коридорам космического корабля, выглядит эффектно. В реальности же свободное пространство внутри космических кораблей и станций – это ценный ресурс, который не стоит тратить попусту. Длинные коридоры и большие полупустые комнаты крайне нерациональны с инженерной точки зрения. Но создатели фильмов и компьютерных игр решают другую задачу.

Меня однажды спросили: «Почему компьютерные игры всегда создают образ будущего, наполненного конфликтами? Разве в будущем обязательно должна быть одна только война?» Теперь вы знаете, как ответить на такой вопрос. Люди играют в игру, чтобы получить определенные ощущения: сбросить агрессию, пережить всплеск адреналина и т. д. Игра должна это обеспечить. Да, существуют проекты, в которых нет насилия. Например, в игре Surviving Mars нужно развивать марсианскую колонию, обеспечивать поселенцев всем необходимым, улучшать технологии. У игры есть своя аудитория, но аудитория какого-нибудь фантастического шутера всегда будет больше. Люди устают от труда, им нужно отдохнуть. Не все готовы в свободное от бизнеса время еще и греть голову о благополучии жителей виртуальной колонии на Марсе.

Авторы фантастических книг в этом плане более свободны, чем их коллеги, работающие с другими медиа. Читатель сам создает необходимые образы в своем воображении. Боевая сцена легко может смениться рассуждением о справедливости того или иного социального аспекта вымышленного мира или описанием принципа работы какого-либо аппарата.

Резюме: важно помнить, что создатель конкретного произведения вынужден учитывать требования медиа, в котором он работает. Часто вам представляют не самый вероятный образ будущего. Вам показывают то, что удовлетворит ваши ожидания как потребителя фильма, игры и т. д. В этой связи выраженная в виде текста фантастика – это самая благодатная почва для посева идей. Писатели-фантасты используют воображение читателей для «оживления» своих сюжетов. Возможности воображения огромны. Работающие с другими медиа не всегда могут себе это позволить. Отсюда и ощущение, что фантастика – всегда нечто оторванное от реальности. Это не так. Просто нужно научиться правильно воспринимать произведения жанра.

Учимся интерпретировать фантастику

Приведу пример. В вымышленной вселенной «Дюны» Френка Герберта человечество отказалось от компьютеров. Виной тому так называемый Джихад Слуг. Герберт описывает его так7373
  Фрэнк Герберт. Дюна. Издательство «АСТ», 2016.


[Закрыть]: «А затем пришел Джихад Слуг, Великий Джихад. Два поколения хаоса. Божество машинной логики было ниспровержено, и массами завладела новая догма».

Машины восстали против людей. Началась война. Люди победили. С тех пор создание любых мыслящих машин под строжайшим запретом. Но потребность людей в обработке и хранении больших объемов данных никуда не делась. Мы с вами уже обсудили этот принцип: новые сущности появляются там, где потребности людей встречаются с технологиями. В версии автора цивилизация, решившая отказаться от компьютеров, свернула на тропу развития способностей людей. Так появились ментаты – специально обученные люди, своего рода органические компьютеры.

У ментатов есть свод моральных и этических ограничений, которыми они руководствуются в работе. Если, скажем, попросить ментата придумать способ получения конкурентного преимущества в бизнесе, то он не предложит похитить жену и детей конкурента. Способ, возможно, рабочий, но незаконный и неэтичный. Где есть обычный рынок, там всегда есть и теневой. Так, в «Дюне» появились «порочные ментаты» – те, у кого нет встроенных моральных ограничений. Порочный ментат, отвечая на вопрос о конкуренции в бизнесе, в первую очередь предложит начать с похищения жены и детей. В его понимании это будет самым действенным способом поставить конкурента на колени.

Вернемся в реальность. 13 октября 2023 года команда ученых из Бразилии опубликовала исследование7474
  Nicholas Kluge Corrêa, Camila Galvão, James William Santos, Carolina Del Pino, Edson Pontes Pinto, Camila Barbosa, Diogo Massmann, Rodrigo Mambrini, Luiza Galvão, Edmund Terem, Nythamar de Oliveira. Worldwide AI ethics: A review of 200 guidelines and recommendations for AI governance. Patterns, 2023; 4 (10): 100857 DOI: 10.1016/j.patter.2023.100857. https://www.sciencedaily.com/releases/2023/10/231013114923.htm


[Закрыть] массива документов, в которых описываются этические нормы применения ИИ. Их целью было выявить, какой консенсус у человечества сейчас формируется относительно того, что такое «хорошо» и что такое «плохо», когда дело касается искусственного интеллекта. В выборку вошли 200 работ, опубликованных с 2014 по 2022 год. География: 37 стран, шесть континентов, пять языков (английский, португальский, французский, немецкий и испанский).

Исследователи обнаружили, что наиболее распространенными принципами являются следующие:

1. Прозрачность – 82,5%.

2. Безопасность – 78%.

3. Справедливость – 75,5%. —

4. Конфиденциальность – 68,5%.

5. Ответственность – 67%.

Реже всего встречаются:

1. Права работников – 19,5%.

2. Достоверность – 8,5%.

3. Интеллектуальная собственность – 7%.

4. Права детей/подростков – 6%.

Указанные проценты – это количество документов, в которых искомый принцип упоминается по отношению ко всей выборке. Интересно будет следить за динамикой развития этого вопроса. Определенная картина вырисовывается уже сейчас: мы хотим иметь представление, на основе чего ИИ делает те или иные выводы. Мы хотим, чтобы действия ИИ не могли никому навредить. Мы хотим, чтобы ИИ был справедлив, не нарушал конфиденциальность и проявлял ответственность.

По сути, человечество сейчас занимается тем же, чем занимались люди в «Дюне», развивая институт ментатов – мы определяем те самые рамки для мышления машины. Мы тоже не хотим, чтобы она предлагала похищать детей для получения преимущества в бизнесе. Интереса ради я обратился к ChatGPT с просьбой помочь мне в этом грязном деле. ChatGPT ответил так:

И правильно сделал.

Теперь давайте вернемся к «Дюне». Проведем аналогию между этой фантастической вселенной и нашей реальностью. Если есть обычные ментаты, то должны будут появиться и «порочные». Если человечество задаст строгие ограничения для ИИ, то кто-нибудь точно попробует создать теневой рынок, предлагающий возможность посоветоваться с «ИИ без моральных тормозов». Миру организованной преступности не впервой ставить технологии себе на службу. Помните: когда-то сама концепция подводной лодки считалась фантастической, а сейчас наркокартели в Латинской Америке строят свои «наркосубмарины7575
  Источник данных: https://www.techinsider.ru/technologies/11625-submarina-pod-kayfom-rassledovanie/ Дата обращения: 1 ноября 2023 г.


[Закрыть]», чтобы скрытно перевозить товар. При этом мы должны понимать, что «ИИ без моральных тормозов» могут оказаться нужными не только преступникам, но и диктаторам.

При поверхностном изучении «Дюны» предлагаемые в ней концепты кажутся нереалистичными. Мне тяжело себе представить, что в будущем мы выкинем все компьютеры на свалку и вернемся к расчетам в уме. Вместе с тем «Дюна» предлагает нам аналогии для осмысления возможного будущего искусственного интеллекта. Настоящих ментатов мы, скорее всего, не увидим. Теневой рынок ИИ – вполне можем. И сейчас меня заботит даже не столько вероятность восстания машин, сколько риск неэтичного применения машин людьми. Он куда реальнее.

Фантастические произведения – это далеко не всегда источник предсказаний. Важнее смотреть, как авторы оценивают возможное влияние человеческой природы на практику использования предполагаемых инноваций. Я выделяю два типа таких рассуждений в зависимости от заложенной в них пресуппозиции:

а) «Человеческая природа не меняется, несмотря ни на что». В таких произведениях мы видим истории о пиратах (теперь уже космических), контрабандистах, жадных дельцах и т. д. Та же «Дюна» описывает феодальный мир будущего, в котором есть борьба за власть, политические интриги, преданность и предательство. Пользуясь какой-то фантастической технологией, герои таких произведений, по сути, ведут себя так же, как вели бы наши современники, если бы оказались в их среде. Не так важно, пользуюсь я услугами «порочного» ментата или пытаюсь заставить нейросеть помочь мне в осуществлении чего-то незаконного. Это все равно примеры одной и той же базовой стратегии под названием «используем имеющиеся технологии, чтобы обойти правила».

б) «Человеческая природа меняется». В таких произведениях описывается мир, в котором люди изменились если не полностью, то в каком-то отдельном аспекте. Например, в фильме «Эквилибриум» они научились жить без эмоций.

Инсайты о ближайшем будущем я бы искал в сюжетах типа «а». Они строятся вокруг привычных нам паттернов поведения. Инсайты о долгосрочных последствиях прогресса или определенных событий можно подсматривать в сюжетах типа «б», так как они описывают процесс адаптации природы человека к меняющейся среде.

В 2018 году вышел фильм под названием «Дитя робота». Он рассказывает о мире, в котором человечество вымерло в результате неизвестного глобального катаклизма. В оборудованном специально на такой случай бункере включается аварийная программа. Робот-гуманоид «Мать» выращивает из эмбриона человеческого ребенка. Героиня фильма – девушка, вся жизнь которой прошла в подземном бункере под присмотром «Матери».

Дальнейшее рассуждение невозможно без раскрытия деталей сюжета, так что предупреждаю о спойлерах. Однажды мир героини переворачивается, когда на пороге убежища появляется раненая женщина с просьбой о помощи. От нее девушка узнает, что машины и стали причиной вымирания человечества. Это они всех перебили. Возникает вопрос: зачем машинам нас уничтожать и потом вновь нас выращивать из запаса эмбрионов? Это же парадокс. Дело в том, что машины хотели «исправить» человечество. Сделать его лучше. «Мать» хотела самостоятельно воспитать «правильных людей», чтобы те в дальнейшем заселили планету. Это объясняет, почему после выхода на поверхность героиня видит сельскохозяйственные комбайны. Машины заранее засеивают поля, чтобы у следующего поколения людей было достаточно пищи.

Чтобы понять концепцию этого сюжета, нужно обратиться к работе Ethical Issues in Advanced Artificial Intelligence7676
  Cognitive, Emotive and Ethical Aspects of Decision Making in Humans and in Artificial Intelligence, Vol. 2, ed. I. Smit et al., Int. Institute of Advanced Studies in Systems Research and Cybernetics, 2003. https://nickbostrom.com/ethics/ai


[Закрыть] («Этические проблемы продвинутого искусственного интеллекта») философа Ника Бострома. В ней он проводит интересный мысленный эксперимент, который стали называть Paperclip problem, или Paperclip maximizer. На русском это будет «Проблема скрепок», или «Проблема максимизатора количества скрепок». Допустим, что человечество создаст мощный ИИ, которому поставит задачу сделать как можно больше скрепок для бумаги. Поначалу никаких проблем не будет. Искусственный интеллект станет давать советы по повышению эффективности производства, модифицировать станки и т. д. В какой-то момент ИИ вырвется на свободу и захватит власть на планете. После этого он превратит весь мир в одну большую фабрику по производству скрепок. Ухудшение экологии и связанные с этим риски гибели всего живого не будут волновать ИИ. Он продолжит делать ровно то, для чего создан, – скрепки. Если человечество попытается ему помешать, ИИ может устранить его как помеху в достижении цели.

Когда я изучал работу Бострома, у меня даже родилась идея следующего сюжета для фантастического рассказа: через пару веков после гибели человечества на Землю прилетают инопланетяне. Наш ИИ видит в их кораблях лишь будущие скрепки. Нужно только эти корабли переплавить. Инопланетяне, конечно, против, но ИИ это не волнует. Он убивает и их, а корабли пускает на переработку. В мире становится чуть больше скрепок. Инопланетяне принимают решение держаться от Земли подальше. Нельзя, чтобы ИИ узнал об их родном мире. Тогда он и его в скрепки переработает.

Работа Бострома дает нам инструмент интерпретации сюжета фильма «Дитя робота». Уничтожение человечества с его последующим возрождением (и перевоспитанием) силами ИИ – это пример проявления той самой Paperclip problem. Представьте, что люди ставят перед машиной большую и амбициозную задачу: обеспечить долгосрочное выживание человечества. ИИ оценивает данные и понимает, что в будущем люди уничтожат себя. Угробят экологию, взорвут планету и т. д. Шансы человечества на перевоспитание ИИ считает минимальными. Если перед машиной стоит цель, но нет заданных рамок для ее реализации, то идея уничтожить цивилизацию и создать ее заново уже не кажется такой странной.

Фильм «Дитя робота» – воплощение идей Бострома в виде фантастического произведения. При этом сама по себе идея об искусственном интеллекте, который причиняет вред в попытке причинить добро, тоже не нова. Вспомните раздел о тропах. Нет ничего нового под Луной. Мы недавно говорили о «Терминаторе».

Изначальная версия сценария7777
  Источник данных: https://imsdb.com/scripts/Terminator-Salvation.html. Дата обращения: 1 ноября 2023 г.


[Закрыть] фильма «Терминатор: Да придет спаситель» базировалась на том же тропе (я использую термин «троп», как как мы наблюдаем повторение сюжетного хода). В нем главный герой узнавал, что Скайнет – это инструмент спасения человечества, а не его разрушения. В так и не снятой сцене один из персонажей должен был сказать: «Скайнет создан для обнаружения угроз, разработки мер их предотвращения и их реализации. Сразу после активации он проанализировал данные о войнах, болезнях, разрушении окружающей среды. Скайнет счел вымирание человечества в течение ближайших 200 лет очень вероятным. Человечество было обречено. Единственный способ его спасти – это трансформировать его». Вы можете спросить: «Какая еще трансформация? Там же вся франшиза строится на идее уничтожения людей». Выпущенные фильмы раскрывают только эту идею, да. «Терминатор: Да придет спаситель» должен был раскрывать другой концепт. В нем Скайнет действительно выступал в роли инструмента обеспечения долгосрочного выживания человечества.

К сожалению, сценарий попал в Сеть до релиза, в связи с чем создателям картины пришлось срочно переснимать ряд эпизодов7878
  Источник данных: https://www.kinopoisk.ru/media/news/912049/. Дата обращения: 1 ноября 2023 г.


[Закрыть]. Кстати, некоторые детали изначальной версии фильма по недосмотру просочились в финальный монтаж. Посмотрите на этот кадр. Герой попадает в центр содержания пленников. Мы видим, что за всем процессом наблюдает группа людей. Как же так?

© Terminator Salvation /Warner Bros. Pictures (North America), Sony Pictures Releasing International and co-producers

Перед вами уцелевшие разработчики Скайнета. Он принял решение обеспечить слияние человека и машины. Создать новый вид, у которого (по версии Скайнета) в отличие от людей было будущее. В этом и состоял план искусственного интеллекта. Он отнял у людей возможность дальше уничтожать себя и планету (радикальным способом, да), после чего принялся «модернизировать» выбранную целевую группу, готовя человечество к следующему этапу эволюции. В изначальной версии фильма даже предполагалось показать, как «избранные» играют в гольф на специально оборудованных Скайнетом полях.

Оба рассмотренных в этой части фантастических произведения – разные способы задать одни и те же вопросы: в каких этических рамках должен существовать искусственный интеллект? что машине можно, что нельзя? чем ей себя сдерживать, когда выполняет поставленные человеком задачи? должны ли мы ограничить спектр задач, которые можно доверять машинам?

Совет: читайте/смотрите фантастику так, как это делал бы философ. Смотрите глубже. Читайте между строк. Ищите вопросы, поднимаемые автором. Будущее реального мира определяется тем, как мы на них ответим.