Текст книги "Грядущая волна. Технологии, власть и величайшая дилемма XXI века. Мустафа Сулейман. Саммари"

Дилемма XXI

Полная открытость всех экспериментов и разработок – это путь к катастрофе, считает Мустафа Сулейман. Если каждый сможет экспериментировать с ядерными бомбами, на каком-то этапе произойдет ядерная война. Сценарии могут быть разными: искусственно созданная пандемия, роботизированная война, глобальный теракт или кибератака. Не стоит забывать и о возможности несчастного случая, ошибки, непредсказуемых последствий любого рода. На каком-то этапе, в той или иной форме что-то где-то обязательно выйдет из строя.

Открытый исходный код стал громадным стимулом для прогресса. Но без эффективного правового надзора сложные технологии обязательно будут использованы против людей. Самые безопасные и внешне простые решения по сдерживанию технологий – это полный запрет или тотальный контроль. Они в равной степени неприемлемы, поскольку ведут человечество по авторитарному пути, который в конце концов превратится в реальную антиутопию. Этому тоже придется противостоять. Перед человечеством сегодня стоит выбор: безопасность или свобода? И наша задача – решить эту дилемму.

10 шагов к сдерживанию технологий

Мустафа Сулейман предлагает начать с разработки программы сдерживания и дает ее набросок для дальнейшего обсуждения. Шаги идут от простого к сложному, начиная с технологической специфики и заканчивая уровнем международных объединений. Их можно представить себе в форме концентрических кругов.

Шаг 1. Безопасность. Стоит не только работать над этикой развития ИИ, но и создать программы технической безопасности. В идеале 20 % бюджета каждого проекта должно расходоваться на нужды контроля. Необходимо разработать некий «рубильник», который сможет выключать программы, если они выйдут из строя.

Шаг 2. Аудит. Нельзя полагаться на правительства и учреждения, которые не имеют четкого представления о технологиях. Нужно создавать национальные и международные институты технического аудита и стремиться сделать технологии более прозрачными. Должен быть четко определенный и законный путь проверки любой новой технологии «внутри»: в коде, лаборатории, на заводе или в реальных условиях.

Некоммерческая программа SecureDNA нацелена на проверку всех синтезируемых ДНК с целью выявления потенциально опасных фрагментов. При их обнаружении система отправляет сигнал в общую базу данных и уведомляет самого пользователя.

Шаг 3. Точечные ограничения. Несмотря на широкую распространенность современных технологий, их разработка и производство сосредоточены в небольшом количестве стратегических мест.[8]8
  Читайте саммари книги Криса Миллера «Война чипов. Борьба за самую важную технологию в мире».


[Закрыть]

Большая часть графических процессоров, которые используются во всем мире, разработана одной-единственной американской компанией – NVIDIA. В основном ее чипы производит опять-таки одна компания, TSMC, на Тайване, в одном здании, на самом сложном и дорогом заводе в мире. Оборудование TSMC для производства этих чипов поставляет один поставщик, голландская фирма ASML. Эти три компании, по сути, владеют всем рынком графических процессоров.

Мы можем выиграть время, если ввести точечные ограничения для определенных компаний. Мустафа Сулейман считает, что нужно применить разумные ограничения темпов разработки и внедрения технологий. Это не остановит технологии, но позволит дать нам отсрочку на разработку мер сдерживания.

Сегодня уже действует запрет на экспорт американских чипов для систем ИИ в Китай. Он вынуждает Поднебесную разрабатывать свои технологии и замедляет развитие ИИ в этой стране, но лишь в краткосрочной перспективе. Сейчас это эксперимент, который покажет, как можно сдержать технологию, но не задушить ее.

Шаг 4. Привлечение критиков. Безусловно, изобретатели несут ответственность за свои разработки. Но порой многие опасности и проблемы неочевидны изнутри. Поэтому к разработке технологических решений стоит активно привлекать грамотных критиков извне. Они должны участвовать в создании и совершенствовании технологии, продвигая сбалансированную точку зрения.

Шаг 5. Новый бизнес. Прибыль – главный фактор развития технологий. Инвесторы и акционеры хотят получить экономическую выгоду. Человечеству придется вырастить новое поколение предпринимателей, ориентированных на социальные цели и этические соображения при разработке ИИ. Пока в этом направлении только ведутся эксперименты.

Сегодня около 10 тысяч компаний имеют сертификацию B Corp. Они все еще нацелены на получение прибыли, но в их юридические цели вписана социальная или экологическая миссия.

Шаг 6. Государственное регулирование. Правительства должны идти в ногу со временем и проводить необходимые реформы для эффективного регулирования и лицензирования технологий. Именно государства могут наиболее точно направить грядущую волну на благо общественных интересов.

В 2022 году Белый дом опубликовал проект Билля о правах в области ИИ-технологий. Документ наделяет американцев правами на защиту от небезопасных систем и алгоритмической предвзятости, защиту персональных данных, на контакт с человеком вместо контакта с ИИ.

Важным шагом для государств будет пересмотр системы налогообложения. Для продолжения активного найма сотрудников нужно тщательно продумать снижение сборов на рабочую силу и введение «налога на роботов». Более того, Мустафа Сулейман предлагает найти механизмы трансграничного налогообложения для компаний-техногигантов. Это позволит гарантировать их справедливый вклад в поддержание функционирования всего общества.

Шаг 7. Создание альянсов. Новым технологиям необходимы общемировые договоры и альянсы для установления стандартов и правил, способствующих сотрудничеству между странами. Неплохой идеей будет создание глобального института по аналогии со Всемирным банком или ООН, но в области высоких технологий. Такой регулятор должен быть функциональным, а не номинальным. Он поможет избежать злоупотреблений и будет выполнять функцию мониторинга на основе объективных научных критериев. Нам придется заново усвоить урок холодной войны: нет пути к технологической безопасности без сотрудничества с противниками.

Шаг 8. Культура. Нужно создать культуру, которая поощряет экспериментирование и обучение на ошибках, допущенных в разработке ИИ ранее. Передовой опыт не должен становиться корпоративной тайной и преимуществом перед конкурентами: его нужно применять в интересах безопасности всей отрасли. Важно не замалчивать ошибки, а делать информацию о них открытой и разрабатывать совместные стратегии их устранения.

На заре создания реактивных двигателей аварии во время авиаперелетов были обычным явлением. Сегодня самолет – один из самых безопасных видов транспорта. Авиационная отрасль активно учится на своих ошибках. Аварии – это основополагающий опыт, позволяющий определить, почему системы выходят из строя, и получить возможности для диагностики проблем, их устранения и распространения этих знаний по всей отрасли.[9]9
  Читайте саммари книги Мэтью Сайеда «Принцип "черного ящика". Как снизить риск неудач и непоправимых ошибок».


[Закрыть]

Шаг 9. Общественные движения. Социальные объединения часто становятся драйверами широкомасштабных изменений, и грядущая волна не должна стать исключением. Нам стоит создавать новые общественные движения и сотрудничать с существующими, чтобы формировать безопасное развитие новых технологий и подсвечивать их риски.

На проблему глобального потепления обратили внимание не просто потому, что люди заметили изменение погоды. Активисты и ученые, а затем некоторые знаменитости, предприниматели и политики совместно транслировали мысль о том, что проблема имеет глобальный масштаб. И лишь затем проблема была признана на уровне государств, после чего появились официальные программы поиска решений.

Шаг 10. Единый путь. Система сдерживания негативных последствий развития технологий должна стать целостной и единой для всего мира. Каждый шаг в этой сфере должен быть прозрачным и контролируемым. Тогда нам удастся разработать и поддерживать взаимоусиливающие, а не конкурирующие меры развития технологий.

10 лучших мыслей

1. Технический прогресс имеет своего рода волны – почти каждая фундаментальная технология постепенно становится простой, дешевой и распространяется повсеместно.

2. Волна – это совокупность технологических открытий, происходящих примерно в одно и то же время и базирующихся на одной или нескольких новых технологиях общего назначения, имеющих глубокие социальные последствия.

3. «Эффект мести» – негативные последствия, которые влечет за собой практически любой технологический прорыв. Иногда общества пытаются уменьшить этот эффект, подавляя развитие технологий, но сопротивление обычно бесполезно.

4. Несмотря на все риски, технологии, как правило, оказываются слишком полезными, чтобы общество решилось всерьез их подавлять. В случае с сегодняшними технологиями масштаб рисков велик как никогда.

5. Основа грядущей волны – искусственный интеллект и синтетическая биология. Человечество стоит на пороге выхода за рамки материального мира – теперь мы можем работать с «чистой» информацией.

6. Если мы не сможем контролировать технологии, нас ждут кибератаки, автономное оружие, дипфейки, дезинформация, утечка патогенов из лабораторий, потеря рабочих мест.

7. Воплощать план по сдерживанию негативного влияния технологий нужно уже сейчас: начиная с чисто технического уровня и заканчивая общемировым.

8. Информация обо всех технологиях по принципу открытого кода – путь к катастрофе. Мы никогда не знаем, кто и для чего может воспользоваться этими данными.

9. Технологии не должны превращаться в корпоративную тайну и становиться способом победить конкурентов. Любые открытия и ошибки должны становиться достоянием всей отрасли и работать на благо человечества.

10. Технологии делают сегодняшние и без того уязвимые политические режимы практически недееспособными. Для обеспечения безопасности человечеству нужны максимально эффективные институты власти.