Текст книги "Ключевые идеи книги: Эпоха искусственного интеллекта и будущее человечества. Генри Киссинджер, Эрик Шмидт, Дэниел Хаттенлохер"

Ключевые идеи книги: Эпоха искусственного интеллекта и будущее человечества. Генри Киссинджер, Эрик Шмидт, Дэниел Хаттенлохер

Оригинальное название:

The Age of AI: And Our Human Future

Авторы:

Henry A Kissinger, Eric Schmidt, Daniel Huttenlocher

www.smartreading.ru

Граница миров

Нам всем пора признать, что будущее уже наступило. Развитие новых технологий достигло такого уровня, что говорить об их проникновении в ту или иную часть жизни больше не приходится. Они проникли везде и изменили все. Старый мир уходит в прошлое, и главная движущая сила на этом пути – искусственный интеллект.

Только за 2020 год стартапы, специализирующиеся на ИИ-технологиях, получили $38 млрд финансирования в Америке, $25 млрд – в Азии, и $8 млрд – в Европе. США, Китай и Европейский союз учредили комиссии по изучению искусственного интеллекта и его влияния на общество. Политики и корпоративные лидеры все чаще объявляют одной из своих ключевых целей выиграть гонку ИИ, будто искусственный интеллект – это отрасль промышленности или отдельный продукт.

На самом деле искусственный интеллект – это катализатор изменений. Благодаря своей способности учиться, развиваться и экспоненциально приумножать свои возможности ИИ перевернет с ног на голову все привычные нам сферы жизни: науку, медицину, образование, транспорт, производство. Распространение искусственного интеллекта не остановить. Но куда оно нас приведет – вопрос открытый. Как эволюция ИИ скажется на нашем восприятии и методах взаимодействия? Каким станет постчеловеческое познание и какие аспекты реальности оно нам откроет? Как ИИ повлияет на культуру, концепцию гуманизма, а в конечном счете и на историю? На эти вопросы нам только предстоит ответить.

Эта книга – рассуждение о том, с какими вызовами и этическими дилеммами предстоит столкнуться человечеству. Она не дает однозначных ответов на вопросы, но приглашает читателей к размышлению: что мы, как глобальное общество и представители каждой отдельной страны, можем сделать уже сейчас, чтобы мир будущего, на пороге которого мы стоим, оказался дружественным местом, где найдется место всем – и искусственному интеллекту, и человеку?

Авторы ставят перед собой задачу понять, каковы могут быть последствия применения ИИ в ключевых сферах человеческой жизни, пока эти последствия еще поддаются человеческому осмыслению. Поскольку главное, что нам уже известно к этому моменту: искусственный интеллект – не просто сверхчеловек, а внечеловеческая сущность, и этот факт говорит о нашем будущем куда больше, чем может показаться на первый взгляд.

Тихая революция

За последние несколько лет ученые и специалисты в области искусственного интеллекта совершили несколько важнейших открытий, способных перевернуть нашу жизнь.

В 2017 году принадлежащая Google компания DeepMind выпустила ИИ-программу AlphaZero, которая обыграла программу Stockfish – предыдущего чемпиона мира по шахматам. AlphaZero отличалась от своих предшественников лишь одной деталью. В основе предыдущих программ лежали человеческие паттерны игры – в них закладывался человеческий опыт, знания, стратегии. Они обыгрывали людей не за счет оригинальности, а за счет скорости обработки данных. В AlphaZero, напротив, не содержалось ни заранее запрограммированных ходов, ни привычных комбинаций, ни человеческих стратегий. Создатели снабдили ее лишь базовыми правилами и поставили задачу самостоятельно разработать стратегию, максимизирующую выигрыши и минимизирующую проигрыши. В течение четырех часов программа играла против самой себя, а сразу после стала лучшим шахматным игроком в мире.

У AlphaZero не было стратегии в человеческом смысле этого слова, но у нее была собственная логика, основанная на способности распознавать такие паттерны ходов, до которых человек просто не додумался бы.

В 2020 году ученые из Массачусетского технологического института объявили об открытии халицина – нового антибиотика, способного убивать штаммы бактерий, до этого устойчивых ко всем видам антибиотиков. Сначала в ИИ-программу загрузили данные о двух тысячах «тренировочных» бактерий. На основании этих данных ИИ смог сделать вывод, какими признаками должны обладать антибактериальные вещества. Затем его попросили проанализировать данные 61 тысячи бактерий и отфильтровать их по трем параметрам:

1) бактерии подходят на роль эффективных антибиотиков;

2) они не входят в состав существующих антибиотиков;

3) не токсичны для людей. Всем перечисленным требованиям отвечала лишь одна молекула.

Если бы такое исследование проводилось привычным человеку способом, оно обошлось бы в непомерную сумму и заняло гигантское количество времени. ИИ справился с этим лучше, а его работа стоила куда дешевле. К тому же программе, в отличие от человека, не надо было понимать, почему та или иная молекула работает в борьбе с бактериями. Ей было достаточно просканировать библиотеку кандидатов, чтобы определить одну молекулу, которая будет успешно справляться с поставленной задачей, пусть и неясно, за счет чего именно. Кстати, мы до сих пор не знаем, почему она работает.

ИИ не просто быстрее человека обработал данные, но нашел и сопоставил такие аспекты реальности, которые до этого ускользали от человеческого взгляда, а возможно, и вообще не поддаются обнаружению привычными человеку методами познания.

Третьим прорывом стало создание GPT-3 – ИИ-модели по написанию текста. В отличие от двух предыдущих программ, призванных решить конкретную задачу – сыграть в шахматы или найти антибиотик, модели, подобные GPT-3, генерируют ответы на различные вводные. Алгоритм работает по принципу автодополнения: вы вводите начало текста, а программа выдает наиболее вероятное его продолжение. Программа не решает конкретных задач: введите начало фразы, и она сформулирует возможное продолжение; задайте тему, и она составит несколько абзацев; задайте вопрос, и она даст несколько ответов.

Таким образом, мы перешли от модели перевода существующего текста к созданию речевой продукции. Так называемые программыгенераторы значительно обогатят наше информационное пространство, но без должного регулирования они же могут сильно размыть тонкую линию между реальностью и фантазией.

Победа AlphaZero, обнаружение халицина, создание человекоподобного текста – лишь первые ласточки новой эпохи. Мы стоим на пороге открытия жизненно важных аспектов реальности, доселе ускользавших от человека.

Тектонический сдвиг

В ходе истории человечество неоднократно сталкивалось с технологическими прорывами. Но ничто так же сильно не меняло политический и социальный ландшафт, как создание искусственного интеллекта. Машины заменяли лошадей, на смену мушкетам приходили винтовки, но общая парадигма жизни оставалась той же. Приход ИИ изменит все аспекты человеческого существования. И важнейшие перемены будут происходить в философском поле – мы должны будем пересмотреть свое понимание реальности и собственной роли в ней.

Искусственный интеллект приумножит все наши наработки: как в очевидном ключе – например, поспособствует созданию новых лекарств, так и в менее очевидных деталях – разработка ПО с учетом наших данностей и склонностей позволит ему не только предугадывать, но и формировать наши потребности. В новом мире решения будут приниматься тремя возможными акторами:

1) людьми;

2) машинами;

3) союзом людей и машин.

Из подручных инструментов машины станут нашими партнерами. Все реже и реже мы будем инструктировать ИИ, как достичь того или иного результата. Куда чаще мы будем просить: «Сделай собственные выводы и скажи, как нам стоит действовать дальше».

Как будет выглядеть партнерство людей и машин

Такой сдвиг парадигмы не убьет и не спасет нас, но точно изменит траекторию развития человечества и его историю. Например, раньше считалось, что творчество присуще только человеку. Но вскоре написание песни или постановка диагноза станут продуктом совместного творчества человека и машины. Это скажется на будущем целых индустрий, а не только отдельных профессий.

Все общества поделятся на тех, кто уже применяет новые технологии, и тех, кто не спешит включаться в общий процесс или не имеет средств для приобретения необходимых инструментов. К тому же без должной координации разные страны будут внедрять разные концепции ИИ, и их развитие пойдет если не параллельными, то слабо пересекающимися путями, что только усилит уже существующий разрыв. То, что изначально создавалось для преодоления национальных различий и выявления «объективной истины», может стать причиной создания взаимно непознаваемых реальностей.

И все же, несмотря на умение делать выводы и принимать решения, искусственному интеллекту не хватает одного важного компонента – самосознания. Он не может поразмышлять о собственной роли в нашем мире, у него нет морали и эмоций, нет мотивации и конкретных намерений. А значит, подумать об этом – наша задача.

Как устроен искусственный интеллект

Системы искусственного интеллекта – неточные, динамичные, развивающиеся и способные к обучению. С технической точки зрения эти четыре качества представляют собой настоящий прорыв. Классические алгоритмы создавались для воспроизведения точных результатов, в то время как современные алгоритмы машинного обучения запрограммированы на постоянное улучшение неточных результатов.

В условиях симуляции боя ИИ-пилоты превзошли людей и продемонстрировали такие маневры, которых не способен повторить обычный человек.

Несмотря на то что это только начало, подобные инновации уже начали менять ткань человеческого опыта, а в ближайшие десятилетия этот тренд только усилится. Для того чтобы понять, какие социальные, культурные и политические изменения будут сопряжены с развитием новых технологий, необходимо кратко разобраться в том, как устроен современный искусственный интеллект.

Эволюция

Первые системы ИИ содержали в себе выжимку человеческого опыта – определенный набор правил и фактов. Проблема в том, что наш мир далеко не всегда можно описать простыми правилами и символическими обозначениями. Поэтому в одних случаях ИИ хорошо справлялся с поставленными задачами, например с игрой в шахматы и автоматизацией бизнес-процессов, а в других – сравнительно плохо, например с языковым переводом и распознаванием визуальных объектов. С конца 1980-х до середины 1990-х годов прогресс в этой области заметно приостановился.

Но уже в 1990-х стало понятно, что вместо обучения машин на человеческом опыте можно делегировать им сам процесс обучения. Так появились нейросети, извлекающие паттерны из обширных баз данных.

В какой-то момент ученые бросили попытки предложить программе по распознаванию изображений идеальную фотографию кошки, по которой она смогла бы безошибочно определять остальных, и вместо этого дали ей возможность понаблюдать за релевантными изображениями во множестве контекстов и самостоятельно сделать вывод, что можно считать кошкой.

Используя алгоритмы машинного обучения, ИИ может создавать и адаптировать модели, построенные на реальной обратной связи. Это позволяет ему получать приближенные результаты и анализировать возможные белые пятна, которые ставили классические алгоритмы в тупик.

Технологии глубокого обучения помогают нейросетям устанавливать сложные взаимосвязи, порой недоступные человеческому глазу.

Как ИИ учится

Существует три формы машинного обучения:

1. Контролируемое обучение. Разработчики предоставляют программе базу данных с входными значениями и индивидуальными параметрами, описывающими желаемый результат. Эта модель особенно эффективна для создания систем, способных выдавать нужные результаты в ответ на ввод новых данных.

Так стало понятно, что халицин может использоваться как антибиотик. Разработчики использовали базу данных, где содержались образцы молекулярных структур и желаемые параметры их эффективности в качестве антибиотика.

2. Неконтролируемое обучение. Разработчики предоставляют программе базу данных и просят сгруппировать их по принципу схожести. Преимущество данного типа обучения заключается в том, что, не обладая понятием «правильного» результата, программа может выдавать вполне неожиданные открытия.

Именно таким образом алгоритмы Netflix определяют кластеры клиентов с похожими интересами и рекомендуют им материалы к просмотру.

3. Обучение с подкреплением. Из пассивного исполнителя ИИ становится агентом, действующим в контролируемой среде, обозревающим и записывающим ответы на свои действия. Как правило, это «симуляторы», орудующие в упрощенной версии среды, например робот на линии сборки. Специфика этого метода заключается в том, что ИИ получает обратную связь от среды о том, насколько успешными были его действия, и так учится принимать лучшие решения.

Хорошим примером здесь служит AlphaZero, игравшая против самой себя и оценивавшая свои действия по заработанным очкам.

Ограничения и управление

Несмотря на всю свою сложность и эффективность, искусственный интеллект обладает некоторыми ограничениями. Так, он может выйти за пределы человеческого познания и совершить удивительное открытие, но решение о том, насколько это открытие ценно и как оно может быть интегрировано в нашу жизнь, остается за человеком.

К тому же ИИ не может оценить свои действия с моральной и философской точек зрения. Он не может осмыслить сам себя, используемые методы и полученные результаты. Адекватность его действий, оценка их зло– или доброкачественности целиком лежит на людях, а значит, они должны научиться управлять им и отслеживать все факторы, способные повлиять на развитие новых технологий.

Ошибки в развитии искусственного интеллекта зависят от трех факторов:

1. Нехватка данных. ИИ делает выводы на основании данных, и чем их меньше, тем худшие модели он строит. Это особенно опасно с точки зрения малопредставленных групп населения, например расовых меньшинств, которые могут просто отсутствовать в выборке.

2. Искажение данных человеком. Это особенно часто встречается в процессе контролируемого обучения – какие бы ошибки, бессознательные склонности и предубеждения ни закрались в базу данных благодаря ее составителю, система их примет и будет считать точкой отсчета.

3. Отсутствие гибкости. ИИ не знает того, чего не знает, а соответственно, не может оградить себя от промаха, очевидного для любого из нас. Вот почему так важно наладить процесс тестирования и обнаружения ограничений в логике ИИ, чтобы научиться предсказывать его узкие места.

Таким образом, один из важнейших шагов, которые нам предстоит предпринять, – это разработка системы профессиональной сертификации и контроля за соблюдением установленных требований, а также различных программ надзора, позволяющих применять ИИ-сервисы только после того, как создатели продемонстрируют их надежность в процессе испытаний.

Глобальные сетевые платформы

Социальные сети, стриминговые платформы и другие многочисленные онлайн-сервисы незаметно интегрировали ИИ в ткань человеческой жизни. При этом зачастую мы не понимаем ни как работают их алгоритмы, ни почему они работают именно так.

Менее чем за одно поколение успешные сетевые платформы объединили миллиарды людей и дали им возможность свободно общаться между собой. Несмотря на то что формально они представляют собой частные предприятия, масштаб происходящего делает их заметными игроками на геополитической арене. А значит, нам необходимо определить их глобальные цели и видение мира, который они хотят создать.

Основополагающий принцип устройства сетевых платформ таков: чем больше людей они обслуживают, тем эффективнее работают и тем больше новых пользователей привлекают. Экономисты называют это положительным сетевым эффектом, согласно которому ценность сети возрастает пропорционально квадрату числа ее пользователей. Без применения технологий ИИ устойчивость такого эффекта обеспечить просто невозможно.

С возрастающим числом пользователей перед сетями возникают задачи, которые также невозможно решить без ИИ, например модерация контента в Facebook или оптимизация поиска Google.

Чем активнее применяется искусственный интеллект, тем в большей степени сетевые платформы определяют реальность в глобальном масштабе. Вряд ли найдется хоть одна область человеческой жизни, которую эти изменения не затронут. Далее мы рассмотрим ключевые вопросы, возникающие в связи с появлением новой глобальной силы.

Повседневная жизнь

Каждый из нас в течение дня сталкивается с огромными массивами данных. Переработать их самостоятельно не представляется возможным, поэтому мы все чаще делегируем эту задачу ИИ: отфильтровать новостную ленту, предложить подходящие товары в онлайн-магазине, сформировать топ-5 поисковых ответов. Таким образом, искусственный интеллект становится комбинацией почты, универмага, консьержа, духовника и друга. Человек и ИИ вступают в партнерство, которое позволяет им общаться и учиться друг на друге. При этом логика, которой руководствуется искусственный интеллект, во многих случаях непостижима. Даже разработчики поиска Google до конца не знают, почему одна страница попадает в топ, а другая – нет.

Непознаваемость – важнейшее отличие от предыдущей эпохи, когда каждый шаг ментального или механического процесса был нам понятен и объясним. К тому же большинством функций, предоставляемых ИИ, раньше управляли бизнес и правительство, а теперь мы с трудом понимаем, кто и как это делает. Все это ставит перед нами ключевой вопрос: на основании каких критериев действует ИИ? Чьему замыслу он подчиняется и кто им управляет?

Общество

Рекомендуя контент и новых друзей, категоризируя информацию и концепции, угадывая пользовательские склонности и желания, ИИ неизбежно усиливает ту или иную индивидуальную, групповую или социальную динамику. В свою очередь, любая динамика влияет на социальную и политическую обстановку, далеко не всегда следуя логике, заложенной создателями сетевых платформ. С учетом количества ежедневных взаимодействий между пользователями операторы платформ далеко не всегда могут отследить, какие процессы запускаются прямо сейчас.

Все это представляет серьезный вызов для национальных правительств. Какой бы способ реагирования они ни выбрали – ограничивать, контролировать, не вмешиваться, – это напрямую повлияет на ситуацию в стране и мире. Скажем, если правительство требует, чтобы операторы удаляли «ложный» контент – кто и на каком основании решает, что условный пост именно таков? Одни будут действовать в интересах своих граждан, другие – из желания подавить свободу высказывания. ИИ уже сейчас способен создавать фейковые личности и заставлять их производить текст, направленный на разжигание вражды и ненависти. Для того чтобы с этим справиться, необходимо вручную обрабатывать каждую единицу такого контента и принимать решения, с которыми будет сложно справиться даже самым изощренным и продвинутым правительствам и операторам.

Если взглянуть на эту проблему шире, возникает еще один вопрос: с учетом глобального характера сетевых платформ кто и как будет определять желаемое влияние ИИ на общемировую культуру? И будет ли, или ИИ просто распространит усвоенные от пользователей паттерны, что приведет к самому неожиданному – и, возможно, нежелательному – эффекту?

Геополитика

Ни одна, даже самая технологически развитая страна не будет делать ставку на строго «национальную» версию той или иной глобальной платформы. Скорость прогресса такова, что в мире просто не хватит программистов, инженеров и продакт-дизайнеров, чтобы поддерживать такое разнообразие сервисов. Большинство стран по-прежнему будут зависеть от иностранных компаний и их услуг. При этом чем сильнее эти услуги интегрированы в фундаментальные аспекты жизни общества, тем уязвимее они становятся, ведь потенциально другие государства имеют доступ к данным их граждан.

Тот факт, что на данный момент регулятивные нормы и правила обучения ИИ разрабатываются частными компаниями, говорит о том, сколь огромную роль они приобрели на международной арене. Оказавшись меж двух огней – национальными правительствами и международным сообществом, – руководители частных предприятий должны будут решить, как организовать конгломерат региональных компаний, действующий во множестве разных юрисдикций. Однако они могут пойти по другому пути и развивать свои компании как глобальные международные мегакорпорации, не подчиняющиеся ни одному конкретному правительству. А это значит, человечеству пора признать, что мы уже вышли за пределы конвенциональной политики и теперь остро нуждаемся в разработке новых подходов.

Один из ключевых вопросов здесь: к каким экономическим и социальным последствиям приведет разработка ИИ-технологий потенциально недружественными государствами? США, Китай, Европа, Индия, Россия, Восточная и Юго-Восточная Азия – все эти страны конкурируют за экономическое преимущество, цифровую безопасность и технологическое первенство в соревновании, правила которого до сих пор не определены.