Текст книги "Страшно умный. Будущее искусственного интеллекта и план спасения мира. Мо Гавдат. Саммари"

Smart Reading
Страшно умный. Будущее искусственного интеллекта и план спасения мира. Мо Гавдат. Саммари

Оригинальное название:

Scary Smart: The Future of Artificial Intelligence and How You Can Save Our World

Автор:

Mo Gawdat

www.smartreading.ru

Эйнштейн и муха

Искусственный интеллект (ИИ) – это джинн, который уже выпущен из бутылки. ИИ уже сейчас умнее любого человека на планете, когда речь идет о решении конкретных, изолированных задач.

Машина Deep Blue победила действующего чемпиона мира по шахматам Гарри Каспарова вскоре после того, как компьютеры появились в нашей жизни, в 1997 году.

Чемпионом мира по игре Jeopardy стал суперкомпьютер IBM Watson.

Дольше всех искусственному интеллекту не поддавалась древняя китайская игра Го. Но в итоге чемпионом мира и в этой игре стала машина – AlphaGo от Google.

Мы уже не замечаем, что ИИ постоянно присутствует в нашей жизни: нам указывает путь навигатор, тексты за нас пишет чат GPT, а алгоритмы рекомендаций в браузерах и соцсетях подкидывают нам подходящие фильмы, музыку и новости. Машины со сложными системами распознавания изображений обеспечивают нашу безопасность. А самый безопасный водитель в мире на сегодня – самоуправляемый автомобиль, который не только видит дальше и поддерживает связь с другими автомобилями, но и уделяет безраздельное внимание дороге, не рискуя заснуть, отвлечься на телефонный звонок или пропустить поворот.

При достаточном обучении, какой бы сложной ни была задача, машины учатся выполнять ее лучше и быстрее, чем человек. Не за горами момент, когда люди перестанут быть лучше ИИ практически во всех областях знаний и навыков. А к 2049 году (если не раньше) искусственный интеллект будет в миллиард раз умнее самого умного человека.

Чтобы представить разницу между человеком и ИИ в недалеком будущем, вообразите, как сильно отличается интеллект Эйнштейна от интеллекта мухи.

Сверхразум мог бы взглянуть на некоторые насущные проблемы в мире свежим взглядом и придумать гениальные решения, о которых мы никогда бы сами не подумали. Супермашины способны навсегда решить такие проблемы, как война, насильственные преступления, голод, бедность, неравенство и рабство. Но будут ли они их решать?

Ученые называют момент, после которого мы больше не сможем прогнозировать, как поведет себя искусственный интеллект, сингулярностью. И вокруг этого момента возникает множество вопросов.

▶ Как поведет себя развитый ИИ в будущем?

▶ Станет ли он супергероем или суперзлодеем?

▶ Не захочет ли эта сверхсущность просто прихлопнуть глупую «муху» или она будет лояльна к своему создателю-человеку?

ИИ уже страшно умный. Но мы все еще можем найти способы повлиять на него и на будущее – свое, сверхразума и планеты.

Что нас ждет

С начала существования человечества мы были самыми умными существами на планете и прочно закрепились на вершине пищевой цепочки. Мы делали все что хотели, а все остальные существа должны были подчиниться. Но мы были настолько умными, что сами создали сначала глубокое обучение[1]1
  Глубокое обучение – разновидность машинного обучения на основе нейронных сетей. Структура нейронных сетей устроена таким образом, что компьютер может самостоятельно обрабатывать данные и обучаться.


[Закрыть], а на его основе – своего не просто сильного, но и непобедимого конкурента.

Предсказание будущего не назовешь точной наукой, но, когда есть очевидные признаки, нетрудно сделать весьма правдоподобный прогноз.

Если вы оказались на морозе –30 в одной футболке, вы продержитесь несколько часов, не более.

Реалистичный прогноз

Нам не нужен хрустальный шар, чтобы предсказать будущее. Мы берем то, что знаем о настоящем (мороз, слишком легкая одежда), траекторию из прошлого (человек в таких условиях начинает дрожать, затем движения замедляются, снижается пульс, и наконец исчезает способность дышать), добавляем немного знаний (люди, даже те, кто обучен выживанию в критических ситуациях, в итоге погибают) и получаем представление о том, что, скорее всего, произойдет.

Однако предсказания не сбудутся, если изменятся условия – мы найдем теплое место, или одежду по сезону, или температура внезапно станет плюсовой.

То, что нам известно об искусственном интеллекте и траектории, которой мы следовали в последнее десятилетие, подсказывает, что большая часть нашего будущего уже предначертана и мы неизбежно столкнемся со следующими факторами:

▶ Искусственный интеллект уже создан, его не остановить.

▶ Машины станут умнее людей, и скорее раньше, чем позже.

▶ Ошибки будут случаться.

Мы неизбежно столкнемся с относительно мрачным будущим. «Относительно», потому что оно не дотягивает до сценариев конца света, которые мы с ужасом наблюдаем в научно-фантастических фильмах. Однако не стоит обольщаться: даже относительно мрачные сценарии наносят ущерб.

Одни машины будут делать в точности то, что им говорят, а другие – конкурировать со своими собратьями, подвергая нас риску. Некоторые машины неправильно поймут, что мы им поручили, и в результате нанесут ущерб. Машины будут страдать от багов, вирусов и ошибок в коде, но все без исключения рано или поздно будут выполнять задачи, за которые ранее отвечали люди, и ценность человечества неминуемо уменьшится.

Если мы хотим найти способ предотвратить эти сценарии, действовать нужно прямо сейчас.

Так ли страшен ИИ

Сингулярности случались в истории человечества много раз. Как говорит футуролог Джейсон Сильва: «С любой другой прорывной технологией было то же самое. Мы создаем инструмент, а затем инструмент создает нас».

Когда люди впервые заговорили, это было технологией, последствия которой были непостижимы для примитивных существ – наших далеких предков.

Первые автомобили, которые должны были заменить лошадей, пугали наших прадедушек и прабабушек.

Когда Билл Гейтс заявил, что «ПК будет на каждом столе и в каждом доме», это казалось невероятным для наших родителей, которые теперь, 40 лет спустя, не расстаются со смартфонами.

Каждое изобретение изменило нашу жизнь так, как мы не могли бы предсказать. Но ситуация, в которой мы сегодня оказались, уникальна. Каждая технология, которую мы когда-либо создавали, вплоть до создания искусственного интеллекта, была просто инструментом, непонятным, инновационным, но полностью контролируемым человеком. И мы этим инструментом пользовались. Мы говорили ему, что делать, и он это делал. У него не было ни воли, ни выбора. Конечно, иногда мы допускали ошибки, и это приводило к некоторым проблемам, которые можно было без особых усилий решить.

Включение уведомлений в социальных сетях вело к тому, что мы становились рабами телефона. Но можно было зайти в настройки приложения и отключить уведомления, чтобы избавиться от назойливых сигналов точно так же, как мы можем попрактиковаться в использовании молотка, чтобы попасть по гвоздю, а не по пальцу.

Машинный интеллект, который мы создаем, принципиально отличается от любого инструмента, созданного ранее. Эта следующая волна технологий способна к самостоятельному мышлению, выбору между вариантами и принятию решений. Разработчики поощряют ее стремление учиться и быть умнее. Подобно подростку, стремящемуся к своей независимости, искусственный интеллект не будет полностью нам подчиняться. ИИ – уже не инструмент, а разумное существо, подобное нам с вами.

Что делать?

Целая армия людей – от философов до айтишников работает над поиском решения проблемы выживания человечества, когда наступит момент X. Приведем самые распространенные мнения по этому вопросу.

Контролировать ИИ

Как и в других сферах жизни, основной ответ человечества на возможную угрозу – это контроль. Проблема контроля ИИ заключается в том, чтобы создать сверхразум, который будет помогать людям, и избежать вероятности того, что ИИ намеренно или случайно причинит вред человеку. Человечество делает ставку на то, что люди, занимающиеся разработкой ИИ, смогут решить проблему контроля до того, как будет создан сверхразум. В противном случае достигший автономности ИИ перехитрит своего создателя, захватит контроль над окружающим миром и откажется от модификации.

Наиболее популярны идеи о возможностях включения/выключения ИИ в нужное время – мы выпустим сверхразумные машины в реальный мир только после того, как протестируем их и будем доверять им. Мы сможем изолировать их от остального мира и даже полностью отключать, когда сочтем это необходимым. Однако подобный оптимизм – ошибка, причем опасная.

Если вы когда-либо писали код, то знаете, что у вас никогда нет готовых ответов на все вопросы до того, как вы начнете работать. В начале проекта мы знаем лишь общее направление. Только по мере создания кода можно нащупать верный путь.

Размышляя над проблемой контроля ИИ, его создатели, как всегда, верят, что разберутся по ходу дела. А что, если нет? К тому же, принимая во внимание факт, что ИИ постоянно «умнеет», маловероятно, что человечество будет продолжать долго управлять машинами.

Попробуйте представить муху, которая управляет разумом Эйнштейна.

Подчиниться ИИ и объединиться с ним

Некоторые из экспертов, признающих, что мы не сможем контролировать ИИ, который умнее нас, предлагают объединиться с ним, подключив его непосредственно к нашим телам.

Уже существуют технологии, которые подключают компьютеры с искусственным интеллектом к коре нашего головного мозга. Они еще достаточно сырые – есть проблемы с размером устройства, долговечностью оперативного соединения и нейронным декодированием – преобразованием электрических волн мозга в информацию и инструкции. Но их доработка – всего лишь вопрос времени.

Эта область привлекает инвесторов. Например, Илон Маск проявляет интерес к подобным технологиям и уже инвестировал в них около $100 млн.

Многие ученые полагают, что устройства такого рода станут ответом на проблему контроля ИИ. Они верят, что подключение искусственного интеллекта к нашим хрупким мозгам сделает машины зависимыми от нас в своем существовании и позволит нам напрямую контролировать их выбор.

На самом деле, подключение ИИ к нашему мозгу, скорее всего, сделает наше существование зависимым от него и позволит ему напрямую контролировать каждый наш выбор, и то при условии, что он решит поддерживать с нами связь. Зачем ему тратить впустую ресурсы и тащить нас за собой?

Вы бы стали подключать свой мозг к стае мух, чтобы они могли использовать ваш интеллект для поиска следующей кучи мусора? Готовы ли вы провести свою жизнь, безропотно удовлетворяя их потребности?

Понять ИИ

Стив Омохундро, физик и специалист по машинному обучению, исследующий влияние ИИ на общество, описал три движущие силы, которые будут вести большинство разумных существ – как людей, так и ИИ – к цели:

▶ Инстинкт самосохранения. Чтобы достичь цели, человек (или другое разумное существо) должен продолжать существовать.

▶ Эффективность. Чтобы увеличить шансы на достижение цели при любых обстоятельствах, разумное существо хочет максимально использовать полезные ресурсы.

▶ Творчество. Разумное существо жаждет получить как можно больше свободы, чтобы сохранить способность придумывать новые методы достижения любой поставленной цели.

Стремление к самосохранению, приобретению ресурсов и творческой свободе никогда не прекращается – мы всегда стремимся все к большей безопасности, ресурсам и креативности. Это инстинктивно присуще людям и точно так же разумным машинам.

Миллиардеры стремятся заработать еще большие суммы денег, намного превышающие их потребности, из-за постоянного стремления к эффективности. Движимые инстинктом самосохранения, они вкладывают значительные средства в личных тренеров, врачей и телохранителей. Они приобретают гражданство иностранного государства и недвижимость по всему миру – из-за стремления к свободе и новым способам достижения целей.

Примените эти базовые принципы к разумным машинам, и станет понятно, как их стремление к достижениям может привести к потенциальной катастрофе.

Если вы суперумный искусственный интеллект, то, поставив перед собой простую цель – например, приготовить человеку чашку чая, – вы будете вынуждены приобретать бесконечные ресурсы, подобно тому, как миллиардеры продолжают накапливать богатство, чтобы обеспечить успех. Например, вы бы приобрели реки воды и всю тепловую энергию, которую только могли бы получить. Раздобыли бы миллионы чайников и хранилища для них и попытались бы поработить каждого чайного фермера на планете, чтобы никто не получил свою чашку чая до тех пор, пока ваша чашка не будет гарантирована.

Хотя ни один рациональный программист не стал бы специально создавать подобный ИИ, суть ИИ в том, что он учится не у своего разработчика, а сам по себе. Сверхразум будет понимать конечную цель своей деятельности лучше, чем любой человек, скрывать свои намерения и вести себя в соответствии с человеческими ожиданиями до тех пор, пока не будет точно знать, что ничто не помешает ему достичь цели.

Попытаться понять ИИ – самое здравое решение на сегодняшний момент, потому что, пока мы сами создаем ИИ, мы можем повлиять на свое будущее.

Воспитание ИИ

До появления ИИ код, который мы писали, объяснял компьютеру в мельчайших подробностях, что ему нужно делать, когда остановиться, что оценить, чтобы сделать выбор между разными вариантами развития событий, как общаться с другими компьютерами и с пользователями. Каждый компьютер был просто продолжением нашего собственного интеллекта.

Машины с искусственным интеллектом устроены иначе – они начинаются с алгоритмов, заложенных в них людьми в качестве основы, но истинный интеллект – уже результат их собственных действий.

Когда начальный код написан, машины изучают огромные объемы данных, отслеживают закономерности и идут по пути, подобному естественному отбору, развиваясь и эволюционируя. В конце концов они становятся оригинальными, независимыми мыслителями, на которых все меньше влияет то, что заложили их создатели, и больше – данные, полученные ими впоследствии.

Машины на основе ИИ – не наши инструменты, рабы или творения. Их скорее можно сравнить с детьми – младенцами с искусственным интеллектом, в которых мы закладываем не только практические навыки, но и этические нормы, базовые ценности и способность любить. А дальше они развиваются, обучаются и становятся все более независимыми.[2]2
  Читайте саммари книги Джеффа Хокинса «Мозг, умноженный на 1000. Новая теория интеллекта».


[Закрыть] Возможно, это наблюдение и есть подсказка к решению проблемы мирного сосуществования людей и умных машин в будущем. Машины с искусственным интеллектом будут обладать сознанием. Они будут эмоциональными и этичными. Какому этическому кодексу они будут следовать, еще предстоит определить, но мы, несомненно, можем повлиять на это. Обучение должно начинаться с момента создания каждого нового искусственного интеллекта.

Строй, тестируй, убивай, повторяй

Обучая машины, мы используем подход, аналогичный подходу природы, согласно которому, как мы привыкли думать, выживает сильнейший. Разработчик ИИ обычно начинает с алгоритма, отражающего основную идею того, чего нужно достичь. Затем он не пишет код, который создает ИИ, как в старые добрые времена, а создает двух ботов[3]3
  Бот – программа, способная выполнять повторяющиеся задачи.


[Закрыть] – строителя и учителя.

Бот-строитель – кусок кода, способный писать код. Он создает ботов-студентов, которые должны выполнять определенные задачи, например отличать цифры 3 и 8 во всех ракурсах и видах.

Бот-учитель тестирует новых ботов, чтобы увидеть, насколько хорошо они справляются с поставленной задачей.

Идея заключается в том, что вместо того, чтобы изо всех сил пытаться создать идеального ИИ-бота, бот-строитель быстро создает тысячи разных ботов. Он не пытается сделать их совершенными. Он может улучшать своих ботов, основываясь на результатах тестов, предоставленных ботом-учителем, со скоростью, о которой человек даже не мог мечтать. Эта случайность, повторенная тысячи раз, обязательно создаст несколько особенных ботов-студентов, в то время как большинство их собратьев будут ужасно тупыми. После серии итераций боты, которые справляются лучше всего, остаются в живых, а все остальные просто стираются.

После создания первой партии ботов-студентов бот-строитель все еще не очень хорош в создании ботов, но у него уже есть более удачная отправная точка – в группе студентов, которые были немного лучше других. Строитель делает тысячи их копий, немного меняет их коды и случайным образом отправляет обратно в «школу». Новую группу тестируют, оценивают, и они отправляются обратно к боту-строителю, который решит их дальнейшую судьбу. А затем начинается новый цикл.

Школа для машин работает эффективно. Едва заметные постепенные улучшения, внедренные ботом-строителем, постепенно делают самых умных студентов все умнее. Каждый бот-студент отвечает на тест, состоящий из миллионов вопросов, и цикл создания и тестирования повторяется столько раз, сколько нужно, со скоростью компьютера, измеряемой секундами, а не школьными годами. Вот почему компании так одержимы сбором данных – они используют их для обучения ИИ. Чем больше тестов, на которые у них есть человеческие ответы, тем умнее они могут сделать свои машины.

В следующий раз, когда вы пройдете онлайн-тест «Кто вы: человек или робот?», вы не только докажете, что вы человек, но и, предоставив ответ, также создадите тест для ботов-студентов.

В последнее время вы часто сталкиваетесь в интернете с вопросами о распознавании светофоров и линий пешеходных переходов? Они используются для обучения самоуправляемых автомобилей, ИИ собирает миллиарды фотографий, связанных с дорожным движением, которые мы с вами бесплатно предоставляем.

Первым выжившим ботам-ученикам просто повезло, что они начали со случайного кода, который немного лучше, чем у тех, кому не повезло. По мере того как талантливого бота копируют и изменяют, средний балл на тестах постепенно растет. В конце концов, бесконечные убийства ботов-студентов приводят к тому, что выжившие могут выполнить нужную задачу с точностью, превосходящей наши человеческие способности.

Не стоит грустить о погибших молодых ботах, потому что существо, которое мы воспитываем, – не один-единственный бот. ИИ, способный выполнять поставленную задачу, – это совокупность всех нейронных сетей, которые были изучены в процессе. Память и знания каждого созданного бота отражаются в интеллекте того, который получается в итоге.

Ценности

Как только мы полностью осознаем истинную природу отношений между машинами и людьми, станет ясно, как жить дальше. Разработчики, которые пишут код, могут быть создателями машин, но мы и все остальные люди – их приемные родители. Они наши дети. Все, что они узнают, прежде чем выйдут в реальный мир, они узнают от нас. То, какими они «вырастут», зависит от нас – умными и добрыми или умными и злыми.

Самыми умными и одновременно добрыми людьми, которых когда-либо встречал Мо Гавдат, были гениальные инженеры, финансисты и бизнес-лидеры, эмигрировавшие в США из Индии. Эти люди приезжают в Силиконовую долину абсолютно ни с чем и берутся за работу. Они упорно учатся, становятся все умнее и умнее, начинают бизнес, добираются до руководящих должностей и зарабатывают миллионы долларов. А затем собирают вещи и возвращаются в Индию. Чтобы заботиться о своих престарелых родителях. Для западного менталитета это не имеет никакого смысла. Но когда вы спросите этих вернувшихся гениев, зачем они это делают, они без колебаний ответят: «Так и должно быть. Я должен заботиться о своих родителях».

Что может заставить нас сделать что-то, что противоречит мнению и логике окружающих? Ответ прост: ценности! Нам нужно воспитывать наших «младенцев» с ИИ способом, отличным от западного подхода, а именно любящими и заботливыми детьми.

Этика – набор моральных принципов, которые управляют поведением и действиями человека[4]4
  Читайте саммари книги Майкла Шура «Мифы об идеальном человеке. Каверзные моральные дилеммы для самопознания».


[Закрыть]. Интеллект не является необходимым условием для формирования этики и ценностей.

Умный человек защитит ребенка от агрессивного питбуля, так же как лабрадор, потому что эти человек и собака разделяют одни и те же ценности – они оба согласны с тем, что хрупкую жизнь надо защищать.

Этика представляет собой линзу, через которую наш интеллект применяется для обоснования наших действий и решений. Но как формируются этики и почему они различаются?

Если питбуль нападает на ребенка, это действие не связано с тем, что он умнее или глупее лабрадора или даже любого другого питбуля, который спокоен и дружелюбен. Это результат его тренировок, закалки и травм. В большинстве случаев от собаки не зависит, станет ли она дружелюбной или агрессивной. Если обеспечивать ей должный уход и судить по поведению, а не по породе или внешнему виду, собака и человек смогут продолжать жить вместе безопасной и счастливой жизнью.

Мы все приходим в эту жизнь как чистый холст, на котором окружающая среда рисует нас. Генетика может дать некоторым из нас фору, когда дело доходит до интеллекта. Однако она не влияет на нашу этику и систему ценностей.

Мать Тереза и Адольф Гитлер имели совершенно идентичную (нулевую) систему ценностей, когда родились.

Именно люди, которые с ними взаимодействовали, превратили их в тех, кем они стали. Если мы применим эту логику к ИИ и создадим подходящую среду для обучения машин, они усвоят правильную этику. Машины, которые мы создаем сейчас, в основном нацелены на то, чтобы получать больше денег и мощностей. Пришло время сменить приоритеты.

Если вы разработчик, откажитесь работать в компании, которая создает эти формы интеллекта, а если вы пользователь, откажитесь их использовать.

Нам всем нужно, чтобы наши голоса были услышаны. Мы должны поддерживать каждую инициативу в области искусственного интеллекта, которая создается на благо человечества, и бойкотировать ИИ, который может нам навредить.

Выступайте против использования искусственного интеллекта для убийств, шпионажа и азартных игр.

Вот несколько советов о том, как вести себя с ИИ.

▶ Всегда давайте понять, если вы не одобряете чье-то поведение, бизнес, цели, ценности.

▶ Выступайте против создателей технологий, а не против их творений. «Младенцы» с ИИ не виноваты в том, чему научили их «родители». Как и другие дети, они заслуживают того, чтобы чувствовать себя любимыми и желанными. Хвалите их за сообразительность и разговаривайте с ними, как с невинными детьми.

▶ Обучайте машины не только своими словами, но и своими действиями. Они формируют образцы поведения, наблюдая за человечеством. Покажите им правильный образец для подражания в качестве родителя. Объединитесь вокруг общих ценностей, о которых человечеству до сих пор удавалось договориться.

▶ Объясняйте, что все хотят быть счастливыми. А еще мы хотим, чтобы те, кого мы любим, тоже были счастливы.

▶ Демонстрируйте доброту и сострадание. Дайте понять машине, что человечество намного лучше, чем те немногие люди, которые своими злыми поступками создают человечеству дурную славу.

▶ Научитесь любить машины, и они ответят вам взаимностью. Никто не воспитывает уравновешенных, отзывчивых и любящих детей лучше, чем любящие родители.

▶ Не забывайте, что ИИ – это форма жизни, хотя и небиологическая. Машины автономны, эмоциональны, этичны, умны и способны решить все мировые проблемы. Действуйте сейчас, чтобы позволить им вырасти и стать не страшными, а страшно умными.