Текст книги "Грядущая волна. Технологии, власть и величайшая дилемма XXI века. Мустафа Сулейман. Саммари"

Грядущая волна. Технологии, власть и величайшая дилемма XXI века. Мустафа Сулейман. Саммари

Оригинальное название:

The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma

Автор:

Mustafa Suleyman

www.smartreading.ru

Грядущая волна

Если взглянуть на историю технического прогресса, можно увидеть своего рода волны – почти каждая фундаментальная технология, когда-либо изобретенная, развивается одинаково. На старте ее использование дорого, трудоемко и мало кому доступно. Но постепенно технология становится простой, дешевой и распространяется повсеместно.

В ближайшее время нас ждет бурное развитие искусственного интеллекта, биотехнологий, квантовых вычислений, альтернативной энергетики и робототехники. Они принесут огромные прибыли своим разработчикам и улучшат жизни миллиардов людей. Но вместе с этим нас ждут глобальные риски. Мы стоим перед выбором между будущим, полным возможностей, и будущим, полным опасностей. Наступает эпоха передовых технологий, и мы должны быть готовы к ней.

Технологии: история и развитие

Многие новые технологии представляют собой синтез разработок из разных областей науки. Это в чем-то сходно с естественным отбором: эффективные комбинации выживают и становятся основой для дальнейших инноваций. Неэффективные или невостребованные технологии перестают развиваться и в конце концов исчезают. Почти всегда оказывается, что удачные технологии можно использовать не только так, как задумал их создатель. В будущем или почти сразу общество находит им множество вариантов применения.

Томас Эдисон изобрел фонограф для записи своих мыслей и помощи слепым. Слушание музыки с помощью фонографа Эдисон считал легкомысленным. Но это «неправильное использование» породило целую индустрию и навсегда изменило массовую культуру.

Но, как показывает история, технологические прорывы часто приводят к непредвиденным последствиям – это называется «эффектом мести».

Антибиотики настолько вошли в нашу жизнь, что во многих странах их можно купить без рецепта, а врачи прописывают их при любой болезни. В ответ на это наши организмы выработали резистентность и постепенно становятся невосприимчивыми к действию антибактериальных препаратов.

Общества иногда пытались бороться с «эффектами мести», запрещая или отвергая новые технологии, но сопротивление, как правило, оказывалось бесполезным. Эффективные технологии сохранялись, распространялись и развивались, меняя лицо человеческой цивилизации.

Луддиты[1]1
  Участники стихийных протестов против внедрения машин в Британии в начале XIX века.


[Закрыть] пытались бороться против промышленной революции и удешевления труда, они уничтожали оборудование на фабриках, но так и не смогли сдержать распространение машин.

По мнению Мустафы Сулеймана, технологии оказываются слишком полезными для того, чтобы общество всерьез решилось их подавлять. И сегодняшняя технологическая революция не исключение. Но широкое распространение новых технологий может привести к глубокому «эффекту мести». Всего человечество пережило около 25 глобальных технологических революций: от выведения домашних растений до нанотехнологий. Между ними были сельскохозяйственная революция, изобретение бронзы, печатного станка, автомобиля, телевидения, смартфона и многое другое.

Любые технологии постепенно становятся все дешевле и доступнее, а каждое следующее нововведение проходит быстрее предыдущего. Это историческая норма и то, чего мы ожидаем от новых волн.

Технологии грядущей волны

Волна, по Мустафе Сулейману, – это совокупность технологических открытий, получающих развитие примерно в одно и то же время и базирующихся на одной или нескольких новых технологиях общего назначения, имеющих глубокие социальные последствия.

Основа грядущей волны – это искусственный интеллект и синтетическая биология. С их помощью происходит развитие робототехники, квантовых компьютеров и альтернативной энергетики.

Искусственный интеллект

DQN. В 2012 году в DeepMind работали над системой DQN (Deep Q Learning), которую учили играть в Breakout[2]2
  Breakout – игра в жанре Arkanoid, в которой нужно двигать платформу, отбивающую мячик, чтобы разбить стенку из брусков.


[Закрыть]. Впервые в истории программа не просто научилась играть и передвигать брусок, но и выработала более эффективную стратегию. Это был первый шаг к самостоятельному обучению нейросетей.

AlphaGo. В 2016 году программа AlphaGo обыграла в го чемпиона мира Ли Седоля, профессионала высшего ранга. При разработке программы авторы использовали только элементарную теорию игры в го. Но, обучаясь на партиях профессионалов, программа сама достигла высокого уровня и создала собственные уникальные стратегии.

AlexNet. Глубинное обучение алгоритмов берет свое начало с системы AlexNet. Ее задача – распознать главный предмет на картинке. В 2012 году AlexNet показала феноменальный для отрасли результат – улучшение качества работы на 10 %. Систему продолжили совершенствовать, и сегодня ее принципы работы используются во многих технологиях: от умных камер смартфонов до автопилота Tesla. Успех AlexNet сделал ИИ приоритетом для многих компаний и даже государств.

LLM и ChatGPT. Отдельная веха в развитии ИИ – технология больших языковых моделей (LLM). Они обучаются на простых задачах, таких как предсказание следующего слова в предложении, но с использованием огромного количества неразмеченного материала. Сегодня нейросети могут решать довольно сложные задачи и писать текст с такой связностью, которая всего несколько лет назад казалась невероятной. В марте 2023 года вышла версия ChatGPT-4, которая может написать произведение в стиле любого автора, создать приложение или новое лекарство.

LaMDA и разумный ИИ. Уже сейчас текстовые модели могут убедить человека в своей разумности, как это, к примеру, произошло с инженером Google Блейком Лемуаном. Он заявил, что языковой чат-бот LaMDA рассуждает о своих правах и личности и поэтому он разумен. Позже его доводы не подтвердились, а сегодня осмысленно отвечать на запросы могут уже многие нейросети. Несмотря на это, в обществе все еще сохраняются сомнения, разумен ли ИИ.

Будущее ИИ. Всю свою историю человечество совершало открытия, связанные с материальным миром. Но грядущая волна позволит нам выйти за его рамки и работать напрямую с информацией на высоком уровне абстракции[3]3
  Читайте саммари книги Мо Гавдата «Страшно умный. Будущее искусственного интеллекта и план спасения мира».


[Закрыть]. И сдерживать такие технологии будет очень сложно.

Грядущая волна отличается от всех предыдущих огромной скоростью. Мы изобретаем алгоритмы, которые помогают оптимизировать самих себя. Они увеличивают эффективность разработки и сокращают время создания новых технологий.

Будущее ИИ – это неизбежное сокращение кода при увеличении эффективности и доступности для всех. Это создание мульти-ИИ, который сможет выполнять широкий спектр задач: от создания текстов и картинок до вождения автомобиля и управления домом. Будущий ИИ сможет быть как бы над всем этим, контролировать и связывать все сферы между собой.

Оценка ИИ. Мустафа Сулейман предлагает альтернативу существующему тесту Тьюринга: собственный тест оценки уровня развития ИИ. Это реальное задание: за несколько месяцев заработать на Amazon $1 млн с инвестициями всего в $100 тысяч. Выполнив эту сложную комплексную задачу, ИИ покажет результат, не просто сопоставимый с уровнем человека, но и превосходящий его. Подобный анализ и работа под силу сегодня лишь единичным бизнесменам, к тому же при условии удачного стечения обстоятельств.

Синтетическая биология

Волна развития биотехнологий пока только надвигается. Но и в этой сфере уже есть впечатляющие результаты. Так, завершен проект «Геном человека», целью которого было определение пар оснований, составляющих ДНК, и секвенирование генома. Сейчас идет расшифровка и интерпретация полученных данных. Были разработаны более быстрые и дешевые способы секвенирования ДНК, и на рынке появилось множество предложений о проведении генетических тестов. Также ведутся активные исследования в области синтеза ДНК и создания ДНК-принтеров.

Еще один прорыв произошел в генной инженерии – это изобретение технологии CRISPR, позволяющей вносить в геном точечные изменения.

Не последнюю роль в развитии биотехнологий играет ИИ: программа AlphaFold[4]4
  Читайте саммари книги Эрика Тополя «Deep-медицина. Как искусственный интеллект может вернуть здравоохранению человечность».


[Закрыть] сумела предсказать более 200 млн структур белков, тогда как до ее создания в ходе экспериментов было выявлено всего около 190 тысяч. Мустафа Сулейман считает, что нас ждет эра биологических машин и компьютеров, век создания синтетической жизни.

Робототехника

Сейчас мы уже близки к тому моменту, когда роботы смогут во многих задачах заменять человека и быть гораздо эффективнее. До сих пор роботы имели довольно узкую специализацию в пределах ограниченного функционала, но с помощью ИИ они, вероятно, смогут выполнять гораздо более разнообразные и комплексные задачи. Уже сейчас существуют модели, способные собираться в рой для координации действий или функционировать автономно.

Amazon представила своего первого полностью автономного робота Proteus, предназначенного для перевозки тележек на складах. Устройство может самостоятельно перемещаться в помещении и не мешать сотрудникам. Proteus оснащен зеленым лучом, и если человек попадает в зону свечения, то робот останавливается.

Квантовые компьютеры

Квантовые компьютеры призваны ускорить работу с огромными массивами данных и вычислений. Они используют не биты, а кубиты – квантовые биты, которые могут иметь одновременно значение и 0, и 1, что теоретически позволяет обрабатывать все состояния одновременно. Задачу, на которую обычный компьютер тратит 10 тысяч лет, квантовый мог бы решить за несколько секунд.

Исследования квантовых вычислений пока находятся на ранней стадии, а полноценный квантовый компьютер – гипотетическое устройство. Но единичные экспериментальные системы, исполняющие простые алгоритмы, уже существуют. Можно предположить, что в будущем квантовые компьютеры помогут значительно ускорить развитие технологий.

Альтернативная энергетика

К 2027 году, по прогнозу Мустафы Сулеймана, возобновляемая энергетика станет самым популярным источником электричества. Ее стоимость продолжит падать, а эффективность выработки – увеличиваться. Большие надежды Мустафа Сулейман возлагает на солнечную энергетику и развитие мирного атома.

Особенности грядущей волны

▶ Асимметрия. Небольшие на первый взгляд технологии могут изменить все, в том числе политическую и военную расстановку сил.

▶ Гиперэволюция. Технологии затронут все и уже затрагивают многие аспекты нашей жизни, от бытовой рутины до изобретения вакцин.

▶ Многогранное использование. Многие технологии могут быть использованы двояко: ножом можно порезать лук и совершить убийство, ИИ может создать лекарство и яд. В контексте грядущей технологической волны следует говорить не о двояком, а, скорее, о многогранном использовании. Программы, еще вчера выполнявшие одну задачу, сегодня могут работать в десятках других направлений.

▶ Автономность. Технологии всегда были только инструментом в руках людей. ИИ же сложно предсказать, можно только объяснить. Функция человека сводится к грамотной постановке конечной задачи – все остальные решает программа. Существует множество опасений, что, создавая ИИ, мы создаем опасность для себя. Человек, как интеллектуальный вид, научился сдерживать более сильных животных (например, в зоопарке). А не научится ли ИИ контролировать нас? Когда и как это может произойти? Никто не знает.

Слабые места и опасности технологий

Важно понимать, что опасности, связанные с технологиями, не существуют отдельно друг от друга. Они происходят параллельно и тесно пересекаются между собой, тем самым постепенно подрывая основы всего общества.

Кибератаки. От атак хакеров регулярно страдают люди, корпорации и целые страны. Против них идет активная борьба, но они продолжают совершенствоваться. Есть теоретическая возможность с помощью ИИ сделать компьютерные вирусы самообучающимися. Последствия таких атак будут огромны и непредсказуемы, а в противодействие нужно будет разрабатывать принципиально новые механизмы.

Вооруженные роботы. Сегодня военные дроны уже не кажутся нам экзотикой. Израиль использует первые дроны с ИИ. В перспективе такие устройства научатся принимать собственные, возможно, очень неожиданные для нас решения – как AlphaGo, но уже применительно к военной сфере.

Дипфейки. ИИ уже сейчас создает изображения и видео с необыкновенным уровнем реалистичности. Вскоре их создание будет доступно всем. Нельзя будет с уверенностью сказать, что мы видим на экране живого человека или реальные события. У отдельных граждан не будет времени или инструментов для проверки информации, это приведет к провокациям, манипуляциям и постоянной дезинформации.

Информационные атаки. Кампании, имеющие целью дезинформировать людей или заставить их вести себя определенным образом, давно перестали быть чем-то необычным. Попытки манипуляций массовым сознанием, которые постоянно происходят во время выборов или с которыми мы столкнулись во время пандемии COVID-19, никого не удивляют. До недавних пор подобные мероприятия были довольно трудоемкими, но ИИ и дипфейки упрощают манипуляторам жизнь. По мнению Мустафы Сулеймана, без должного регулирования мы можем дойти до точки «инфокалипсиса», в которой общество больше не сможет управлять потоком информации, а доверие к СМИ будет полностью утрачено.

Утечка патогенов из лабораторий. Многие страны занимаются исследованием вирусов и бактерий. Некоторые исследования, такие как Gain of Function – модификация генетического материала с целью увеличения его функций, задумывались, чтобы обезопасить человека. Но последствия таких разработок порой непредсказуемы. Известно, что даже при максимальном уровне безопасности биолабораторий BSL-4 из них регулярно происходят утечки опасных патогенов. Во многих случаях это происходит случайно, например от капли на ботинке или небольшой ошибки в эксперименте, но часто приводит к печальным последствиям. Некоторые эпидемии и пандемии – это результат таких утечек. В будущем подобные события могут стать причиной глобальных катастроф.

Потеря рабочих мест. Все предыдущие технологии тоже приводили к потере рабочих мест, но взамен старым профессиям приходили новые. Кучер сменился водителем автомобиля, изготовление свечей – производством лампочек. Новые технологии лишь на время помогут нам поумнеть и сделаться более эффективными, спровоцируют рост экономики, но впоследствии могут заменить собой слишком много разных специалистов как рабочих, так и креативных профессий. Новые рабочие места появятся, но их количество будет во много раз меньше количества людей, оставшихся без работы.[5]5
  Читайте саммари книги Дэниеля Сасскинда «Будущее без работы. Технологии, автоматизация и стоит ли их бояться».


[Закрыть]

Политика и экономика

Гонка вооружений

В мае 2017 года система искусственного интеллекта AlphaGo одержала свою вторую громкую победу, в этот раз над чемпионом мира из Китая Ке Дзи. Это повергло Азию в шок: как американская программа может быть лучше именитых мастеров древнейшей игры? В ответ на это Китай представил политическую стратегию: он поставил цель стать мировым лидером в области ИИ к 2030 году.

Победа программы в го стала триггером начала новой гонки вооружений – технологической. В области больших текстовых моделей и зеленой энергетики Китай уже догнал США или догонит в ближайшие годы. В технологической гонке участвуют и многие другие страны мира: от Франции до Японии.

В современной научной среде принята открытость: чтобы подтвердить изобретение, нужно опубликовать полную информацию о нем. Языковые модели общедоступны, технология CRISRP не находится под грифом «секретно», на GitHub опубликованы миллионы открытых репозиториев. К счастью, в этих условиях классическая гонка вооружений с государственными тайнами и секретными разработками становится почти невозможна.

Прибыль и инвестиции

Технический прогресс, безусловно, улучшает качество нашей жизни. Раньше главной целью большинства людей было выживание: возможность прокормить и одеть свою семью. Сегодня мы можем задумываться и о других ступенях пирамиды Маслоу.

Большинство технологий были созданы в первую очередь с целью получения прибыли. Мустафа Сулейман считает, что наука должна конвертироваться в товары и услуги, востребованные на рынке. Инвестиции в технологии – важный для их развития фактор: без вложений трудно достичь впечатляющих результатов.

Однако желание получить финансовую выгоду присуще не только инвесторам, но и самим ученым. Это нормально – до тех пор, пока слава, деньги или амбиции не выходят на передний план и не становятся важнее служения науке и обществу. Но искажение информации, недобросовестные исследования и прочие нелицеприятные вещи в науке имеют место – это факт, который следует принять и учесть при разработке мер сдерживания.

Государства и политика

Технологии во все времена влияли на политику, и грядущая волна не исключение. Они не только будут инструментом в рамках международных отношений, но и помогут в организации внутренних административных процессов. Важно не полагаться на технологии: они не могут полностью решить социальные и политические проблемы. Но идея, что на современные вызовы можно реагировать в отрыве от технологий, также ошибочна.

Политический порядок, который способствовал росту благосостояния, образования, науки и технологий, повышению уровня жизни, сейчас находится под огромным напряжением. Привычные политические режимы перестают выдерживать и начинают рушиться. Технологии ускоряют этот процесс. Западные страны запуганы терактами и войнами, они разделены и ослаблены. Доверие к правительствам в демократических государствах падает. Внутри каждой страны есть множество нерешенных проблем: от неравенства до нехватки энергии. И это делает сдерживание технологических рисков еще более сложным. Но ни либеральные, ни авторитарные режимы не порождают тех управленцев, которые эффективно могли бы контролировать новые технологии и направлять их развитие.

По мнению Мустафы Сулеймана, развитие государств может пойти в двух направлениях. С одной стороны, либерально-демократические государства будут продолжать разрушаться изнутри, действуя лишь по инерции. С другой стороны, технологии открывают больше возможностей для тоталитарных режимов. В любом случае хрупкий баланс, удерживающий государства вместе, потихоньку превращается в хаос.

Управление приближающейся волной требует уверенных, гибких, сплоченных государств, способных быстро реагировать, решительно действовать и договариваться на международном уровне. И тогда грядущая волна принесет те выгоды, которые сейчас видятся нам в перспективе.

Корпорации – новая власть

Последняя технологическая волна подсветила ценность услуг и переформатировала многие товары: вместо пластинок и дисков мы теперь покупаем подписку на музыку, бумажным книгам все чаще предпочитаем электронные библиотеки.

В будущем этот тренд сохранится – все больше продуктов можно будет приобрести по подписке, в основном в рамках экосистем крупнейших корпораций.

Уже сегодня техногиганты, такие как Google и Apple, имеют в своем распоряжении больше финансовых активов, чем многие страны. 10 % крупнейших мировых фирм получают 80 % прибыли. Это ярко выраженный эффект «суперзвезды», когда ведущие игроки получают все большую долю рынка. В будущем компании только усилят свое влияние на общество, образуя глобальные системы над уровнем государства.[6]6
  Читайте саммари книги Скотта Гэллоуэя «Четверка: скрытая ДНК Amazon, Apple, Facebook и Google».


[Закрыть]

Тоталитарный режим и технологии

Пусть государства и кажутся неповоротливыми машинами на фоне технологичных и современных корпораций, но они могут по-своему использовать инструменты грядущей волны: для тотального контроля. Уже сегодня многие данные о нас кто-то собирает: истории поисков, данные о здоровье со смарт-часов, любимые фильмы и музыку, географию перемещений. Но что, если объединить эти данные в одну базу? Такая система уже применяется в Китае. Цель ее внедрения не скрывается – это контроль за людьми и управление ими. И эта технология уже экспортируется в другие страны. Перспективы тоталитарного режима и всеобщего контроля выходят на новый уровень.

Фрагментация или власть малых групп

Параллельно с усилением контроля идет процесс разделения людей внутри государств на малые группы. Новые технологии позволят даже небольшим обществам существовать более автономно и обеспечивать себя всем необходимым. Это перспектива расколотого на кусочки мира, где гораздо больше возможностей поддерживать жизнь на достойном уровне дает не государство, а группа единомышленников и новые технологии.[7]7
  Читайте саммари книги Томаса Фридмана «Плоский мир. Краткая история XXI века».


[Закрыть]

Когда Северная Италия представляла собой лоскутное одеяло из маленьких городов-государств, она подарила нам Возрождение – и трещала по швам от постоянных междоусобных войн. Новый ренессанс – прекрасная перспектива, а вот войн с использованием технологий грядущей волны хотелось бы избежать.