Читать книгу "Ключевые идеи книги: Эпоха искусственного интеллекта и будущее человечества. Генри Киссинджер, Эрик Шмидт, Дэниел Хаттенлохер"

Угроза безопасности и мировому порядку

Применение ИИ-технологий в военной сфере представляет большой вызов для человечества. На этом пути есть две основные проблемы:

1. Цифровой конфликт неизбежно усилит уязвимость его участников и при этом значительно расширит поле для экспериментов.

Главный парадокс цифрового века заключается в том, что чем более страна развита в этом отношении, тем она уязвимее. Компьютеры, коммуникационные системы, финансовые рынки, электрические сети и все, что от них зависит, подвержены кибератакам и различным манипуляциям.

Государство, внедрившее цифровые инструменты в системы управления электростанциями, поддерживающее государственные программы с помощью больших серверов и облачных сервисов и хранящее данные на электронных носителях, представляет собой масштабную и крайне разнообразную цель для кибератаки.

2. Искусственный интеллект обладает огромным потенциалом и может существенно изменить стратегию применения обычного, ядерного и цифрового оружия.

Цифровое оружие представляет наибольшую опасность в этом списке за счет своей масштабности и труднообнаружимости. Обладатели такого оружия могут нарушать и изменять работу всех компьютерных сетей, в том числе и гражданского назначения, долгое время оставаясь незамеченными.

Кибероружие может быть украдено, модифицировано и развернуто против создателя. К тому же, как мы уже говорили выше, ИИ выстраивает свою стратегию на основании недоступных человеку аспектов реальности, а по скорости обучения он во много раз превосходит наши способности. Не говоря о дипфейках, создании человекоподобного текста и прочем оружии пропаганды и дезинформации.

В этом смысле кибероружие смотрится равным соперником биологическому и химическому оружию, применение которого сопряжено с максимально незапланированными и не поддающимися просчету последствиями.

Даже если мы сможем воздержаться от использования автоматического и полуавтоматического ИИ-оружия, обученного самостоятельно выбирать и атаковать цели, сам факт применения искусственного интеллекта в военных и разведывательных целях полностью меняет правила игры.

Гонка стратегического ИИ-вооружения уже началась. Ее основные игроки – США, Китай и Россия. Но это далеко не предел. Несмотря на то что создание сложных ИИ-технологий действительно требует особых государственных мощностей, использование связанных с ними сервисов – нет. Как только другие страны заподозрят распространение специфического вооружения, они не преминут вступить в общее соревнование.

Полное разоружение или отчаяние перед грядущим – не выход. Изобретение искусственного интеллекта невозможно отменить. Однако переговоры об ограничении цифрового вооружения между ведущими державами и компаниями-разработчиками – необходимый шаг на пути выстраивания адекватных мер защиты как человечества, так и окружающей нас среды. Помимо этого все страны мира должны создать государственный совет для обсуждения проблем ИИ-вооружения и наделить новый орган власти двумя функциями:

1) поддержание конкурентоспособности страны на мировой арене;

2) координация исследований о том, как предотвратить или ограничить эскалацию напряжения в отношениях и развитие возможных кризисов.

Что будет с человеком?

Мы вступаем в эпоху, когда все большее количество различных задач, прежде выполняемых человеком, передается в ведение искусственного интеллекта. В свою очередь, ИИ выдает результаты, порой и превосходящие возможности человеческого разума, в связи с чем возникает вопрос: что значит быть человеком в новую эпоху?

Помимо необходимости адаптироваться к новым – вполне материальным – условиям существования, человеку понадобятся новые смыслы. Какова его роль в общем процессе? Должно ли его мнение учитываться в таких операциях, как выбор маршрута, одобрение кредита и даже утверждение кандидатов на собеседование?

Сможет ли человек конкурировать с искусственным интеллектом на поле творчества и экспертности? Раньше смысл человеческому существованию придавали процессы познания и создания продуктов собственного труда. Однако с учетом всего вышеописанного в будущем многие люди могут почувствовать себя ненужными, а это прямой путь к опустошению и социальной напряженности.

Программа GPT-3 уже сейчас способна писать текст и код на уровне человека, получившего высшее образование. Генеративные модели заставят нас пересмотреть, какие человеческие навыки уникальны и ценны настолько, что людям по-прежнему стоит им обучаться. В конечном счете людям придется решить, какую часть жизни оставить за собой, а какую разделить с ИИ-партнером.

Кажется, что как минимум одна сфера остается незатронутой. Межличностное общение по-прежнему будет играть важную роль в нашей жизни, но ему уготованы серьезные испытания. Уже сейчас пожилые люди и дети становятся все больше зависимы от виртуальных ассистентов – первые в бытовой сфере, вторые в образовательной. А с учетом того, что люди склонны придавать всему, с чем сталкиваются, антропоморфные черты, ИИ-ассистенты вскоре могут превратиться не только в наших партнеров, но и в друзей. К тому же может возникнуть вопрос: так ли ценно взаимодействие с другим человеком, если в отличие от него искусственный интеллект не противоречит, не спорит и не раздражает?

Развитие любой технологии всегда имеет две стороны. С одной стороны, оно продвигает человечество вперед, с другой – меняет привычный уклад жизни и вырывает людей из привычных условий существования. Так, индустриализация спровоцировала массовое переселение людей в города, а глобализация навсегда изменила сферу производства и связанных с ней цепочек поставок. Распространение искусственного интеллекта также будет иметь две стороны медали[1]1
  Читайте саммари книги Гэри Маркуса и Эрнеста Дэвиса «Перезагрузка ИИ. Создание искусственного интеллекта, которому можно доверять».


[Закрыть].

Положительные эффекты:

▶ ИИ значительно повысит уровень знаний в таких областях, как медицина, биология, химия и физика. Ученые получат новый взгляд на то, как лечить болезни, защищать окружающую среду и решать этические противоречия.

▶ Бытовая жизнь людей станет куда легче и удобнее, а в некоторых аспектах и безопаснее. У нас появится куда больше свободного времени, которое мы сможем потратить на личностно важные сферы жизни.

▶ Внедрение искусственного интеллекта даст большему количеству людей равные образовательные возможности и облегчит доступ к информации.

▶ Руководители смогут принимать более точные решения, свободные от человеческих предрассудков, а значит, эффективность многих предприятий и производственных процессов существенно вырастет.

▶ Общественные ресурсы будут распределяться более справедливо, качество государственных услуг значительно вырастет.

Отрицательные эффекты:

▶ Людям, не обладающим достаточными техническими знаниями, будет сложно оценить положительное влияние искусственного интеллекта на их жизнь, при этом они будут чувствовать, как расплывается их чувство собственной независимости и способность наделять события в мире понятным значением.

▶ Кардинальное изменение рабочей среды подорвет для многих чувство собственной идентичности, профессиональной реализованности и финансовой защищенности.

▶ Алгоритмы заточены на то, чтобы ловить наше внимание с помощью яркого, неожиданного и эмоционального контента. Времени и сил на спокойные логические размышления будет становиться все меньше.

▶ Искусственный интеллект способен эксплуатировать человеческие страсти лучше любой пропаганды. Постоянно подкрепляемая уверенность в собственной правоте и все большая обособленность информационных пузырей сделают человеческое общество беспрецедентно разобщенным.

Какими бы ни были краткосрочные последствия развития ИИ, в долгосрочной перспективе новые технологии кардинально изменят некоторые экономические сегменты, профессиональную среду и чувство нашей идентичности. Государства должны быть готовы дать тем, кто неизбежно окажется на обочине новой жизни, не только альтернативные источники дохода, но и альтернативные источники жизненных смыслов.

Что делать?

Каждому государству придется искать собственные способы адаптироваться к новой реальности. Универсальных правил, как и универсальных ответов на этические вопросы, нет. Но вот несколько базовых принципов, которыми можно руководствоваться на этом пути:

1. Для обеспечения автономности человечества необходимо, чтобы государственные решения принимались максимально ИИ-независимыми организациями, ограничивались человеческой администрацией и реализовывались под ее контролем.

2. Ключевые элементы государственных функций и процессов должны по-прежнему оставаться под человеческим управлением, чтобы поддерживать их легитимность. Так, в юридической практике и особенно ее спорных случаях объяснения подсудимого имеют огромное значение для вынесения приговора, а значит, люди, принимающие решения, должны быть соответственно квалифицированы и готовы открыто демонстрировать свою личность.

3. Демократические принципы должны оставаться в корне гуманными и управляемыми человеком. В первую очередь это касается различных дебатов и выборных процессов. Важно защитить человеческую речь от искажения искусственным интеллектом. Свобода слова должна поддерживаться людьми и не распространяться на ИИ.

4. Каждое сообщество должно определить для себя рамки допустимых и недопустимых вариантов использования искусственного интеллекта. Однако некоторые ограничения, например запрет использования ИИ в разработке биологического оружия, должны обсуждаться на международном уровне.

ИИ-революция случится быстрее, чем мы ожидали. Развитие искусственного интеллекта даст нам доступ к новой информации, значительно продвинет науку и экономику, а значит, изменит весь мир. То, в какую сторону двинется этот мир, зависит только от нас: совершим ли мы качественный скачок в развитии и только сильнее сплотимся перед лицом новой реальности или разобьемся на непересекающиеся сообщества, неспособные не только принять, но и выслушать аргументы другой стороны.

На каждом повороте у людей будет три варианта выбора:

1) ограничить ИИ;

2) вступить с ним в партнерство;

3) передать задачу ему.

Универсального правильного ответа нет. В каждом случае это будет свой выбор и своя аргументация.

Например, как действовать во время авиакатастроф: отдавать пульт управления в руки человеку или ИИ-пилоту? Нам только предстоит ответить на этот вопрос. В некоторых случаях ответ будет более очевиден, например, если ИИ-программа сможет лучше и точнее человека определять начальную стадию рака груди по маммограмме, логично делегировать выполнение этой задачи. Партнерство уместно в таких областях, как беспилотное вождение, где человек и искусственный интеллект будут выступать в роли современных пилотов и автопилотов. В других сферах, таких как военное дело, мы должны будем определить набор четких, понятных и ясно очерченных ограничений.

Мы во всех смыслах стоим на пороге новой эпохи. Для того чтобы сохранить человеческую реальность, мы должны опираться на свои ценнейшие ресурсы – способность к комплексному осмыслению, веру, традиции и технологии.

10 главных мыслей

1. Главные умения современного искусственного интеллекта: самостоятельно обучаться и находить паттерны, недоступные человеку; сопоставлять аспекты реальности, не поддающиеся обнаружению привычным человеку методом познания; генерировать человекоподобный контент.

2. Из подручных инструментов машины становятся нам партнерами, и эта перемена представляет собой тектонический сдвиг в истории человечества. В будущем многие решения будут приниматься не отдельно людьми или отдельно машинами, но союзом человека и искусственного интеллекта.

3. Развитие ИИ в разных странах может пойти разными путями, что способно привести к созданию взаимно непознаваемых реальностей.

4. Основные ограничения искусственного интеллекта – нехватка данных, искажение данных человеком, отсутствие гибкости и способности к саморефлексии. Наша задача – учесть все эти факторы в процессе тестирования и сертификации новых ИИ-сервисов.

5. Глобальные сетевые платформы – новые игроки на международной арене. Однако их долгосрочные цели и глобальное видение будущего мира до сих пор остаются нам малоизвестны.

6. По мере распространения искусственного интеллекта в повседневной жизни перед нами встает задача понять, на основании каких критериев он действует и чьему замыслу подчиняется.

7. Правительства могут реагировать на изменения тремя способами – ограничивать распространение ИИ, пытаться его контролировать и не вмешиваться. Что бы они ни выбрали, алгоритмы ИИ уже влияют на социальную динамику, но каким именно образом – не знают даже их создатели.

8. Парадоксальным образом активное внедрение цифровых технологий делает государство более уязвимым перед внешними угрозами. Для сдерживания подобных угроз ключевым игрокам необходимо уже сейчас приступить к переговорам по ограничению цифрового вооружения.

9. Людям понадобятся не только материальные средства адаптации к новой реальности, но и новые смыслы. Ткань личной и профессиональной жизни так сильно меняется, что многие неизбежно почувствуют себя на обочине прогресса, а это прямой путь к социальной напряженности.

10. Развитие искусственного интеллекта будет сопряжено как с положительным, так и с отрицательным влиянием на жизнь человека. Но то, в какую сторону двинется мир, зависит только от нас самих.