Читать книгу "Революция разума: на подступах к Сингулярности. Как технологии изменят общество и сознание"

Прохождение теста Тьюринга

Каждый месяц ИИ овладевает все более сложными навыками, а стоимость вычислений, необходимых для его работы, неуклонно снижается. Траектория развития ясна. Но как мы поймем, что ИИ достиг уровня человеческого мозга? Тест Тьюринга дает нам возможность подойти к этому вопросу с научной точки зрения. Однако сам Тьюринг не обозначил всех условий эксперимента, например, он не уточнил, сколько времени должна продолжаться беседа машины и человека и какими качествами должен обладать судья. Девятого апреля 2002 года я и Митч Капор, один из первых разработчиков программ для персональных компьютеров, заключили пари в проекте фонда Long Now. Мы поспорили о том, будет ли пройден тест Тьюринга к 2029 году¹⁵². В ходе обсуждения возникло множество новых вопросов, в частности, о допустимом уровне усовершенствования мышления человека, при котором он все еще может быть судьей или участником.

Подробно описанная методика проведения теста крайне важна, поскольку, как мы уже упоминали ранее, люди склонны в ретроспективе недооценивать сложность задач, решенных ИИ. Это явление получило название «синдром искусственного интеллекта»¹⁵³. За семь десятилетий, прошедших со дня описания Аланом Тьюрингом его игры в имитацию, компьютеры постепенно превзошли людей в ряде специфических аспектов интеллекта. Однако чего машинам всегда недоставало, так это гибкости и широты охвата человеческой мысли. После победы суперкомпьютера Deep Blue фирмы IBM над чемпионом мира по шахматам Гарри Каспаровым в 1997 году многие комментаторы не сочли это достижение значимым в том, что касается моделирования общего интеллекта¹⁵⁴. Игру в шахматы легко описать математически, потому что расположение и свойства фигур на доске определяются однозначно, количество допустимых ходов сравнительно невелико. Так что победу над Каспаровым можно отнести на счет хитроумных вычислений. При этом ряд наблюдателей уверенно заявлял, что машины никогда не добьются успеха в многогранных задачах, связанных с обработкой фраз на естественном языке, таких как разгадывание кроссвордов или телевизионная игра «Джеопарди!»¹⁵⁵. С кроссвордами машины справились через два года¹⁵⁶, а менее чем двенадцать лет спустя суперкомпьютер Watson, разработанный компанией IBM, сыграл в «Джеопарди!» и победил двух самых успешных игроков за всю историю этой игры – Кена Дженнигса и Брэда Руттера ¹⁵⁷.

Эти викторины выявили очень интересную особенность ИИ. Наблюдая, как ловко Watson вникает в игровые подсказки, ищет информацию и уверенно озвучивает правильные ответы роботизированным голосом, легко было поддаться иллюзии, что компьютер размышляет примерно так же, как Кен или Брэд. Однако у зрителей была дополнительная информация. В нижней части экрана отображались три лучшие версии, полученные суперкомпьютером, в порядке убывания вероятности. Хотя в первой строчке почти всегда содержался верный ответ, две другие догадки были не просто неверными, они были смехотворно неподходящими. Таких нелепых ошибок не допустил бы даже самый слабый из игроков-людей. Например, на вопрос «Члены этого органа избираются каждые 5 лет, сейчас в нем заседают 736 человек из 7 фракций»¹⁵⁸ из категории «ЕС, Европейский союз» Watson дал верный ответ «Европейский парламент», присвоив ему вероятность 66 %. Вторым вариантом было «ДЕП» (депутаты Европарламента, 14 %), а третьим с вероятностью 10 % шло «всеобщее избирательное право»¹⁵⁹. Даже тот, кто никогда не слышал о Европарламенте, не мог бы предположить, что варианты 2 или 3 являются верными, хотя бы исходя из формулировки вопроса. Таким образом, хотя стиль игры Watson был похож на человеческий, «под капотом» явно происходили процессы, не свойственные мышлению человека.

В последние годы нам удалось научить ИИ гораздо лучше понимать и использовать естественные языки. В 2018 году компания Google представила сервис Duplex – роботизированного помощника, умеющего настолько хорошо общаться по телефону, что ничего не подозревавшие собеседники были уверены, что говорят с человеком. В том же году компания IBM разработала систему Project Debater, способную вести осмысленные споры¹⁶⁰. А к 2023 году большие языковые модели уже научились писать сочинения так же хорошо, как люди.

Однако, несмотря на все свои достижения, даже GPT-4 время от времени оказывается подвержен «галлюцинациям»: ИИ уверенно выдает утверждения, не имеющие ничего общего с реальностью¹⁶¹. Например, если попросить его кратко пересказать несуществующие новости, он может сочинить весьма правдоподобную сводку. А в ответ на просьбу указать источники достоверного научного факта нейросеть может перечислить несуществующие статьи. Сейчас ведется активная работа над устранением этой проблемы¹⁶², но пока неясно, насколько сложной она окажется в итоге. Появление таких ошибок лишний раз свидетельствует о том, что, как и в случае с Watson, современные мощные системы ИИ находят ответы путем сложных математических и статистических вычислений, что сильно отличается от привычного нам мышления.

Интуитивно нам это не нравится. Кажется, что Watson «должен» рассуждать, как человек. Но, на мой взгляд, это предрассудки. На самом деле нам важно, как разумное существо действует. Если к выдающемуся научному открытию или душещипательному сюжету его приведут иные мыслительные процессы, то что с того? А в случае, когда ИИ будет утверждать, что обладает сознанием, какие у нас будут основания настаивать, что только биологическая система, подобная нашей, может считаться по-настоящему разумным организмом? В этом смысле эмпирический тест Тьюринга предоставляет нам верные ориентиры.

Хотя тест Тьюринга может стать отличным инструментом для оценки прогресса ИИ, его прохождение не стоит считать единственно возможным критерием развитого интеллекта. Как показывают системы PaLM 2 и GPT-4, машины могут превосходить людей в решении сложных задач, при этом не научившись убедительно имитировать действия человека во всех возможных ситуациях. По моим прогнозам, в промежутке между 2023 и 2029 годами, когда будет пройден тест Тьюринга, компьютеры уже превзойдут людей в самых разных областях деятельности. Более того, не исключено, что ИИ научится самосовершенствоваться раньше, чем учитывать нюансы человеческого общения, необходимые для прохождения теста. Уверенности в этом нет, но сама возможность заставляет нас более тщательно рассмотреть определение «интеллект уровня человеческого». В этом определении немалую роль сыграет тест Тьюринга, но нам также необходимо разработать более сложные методы, чтобы понять, в чем разница между человеческим и машинным интеллектом и в чем они схожи.

Хотя не все согласны, что тест Тьюринга – это надежный способ определить, обладает ли машина интеллектом, сравнимым с человеческим, я убежден, что его успешное прохождение убедит наблюдателей и широкую публику в том, что они имеют дело с настоящим разумом, а не просто с имитацией. Как писал Тьюринг в 1950 году: «Разве не может внутри машины происходить процесс, не похожий на тот, что идет в голове человека, и который тем не менее иначе как мышлением не назовешь? <…> Но если при этом машина способна показать удовлетворительный результат в игре в имитацию, значит, аргумент о несхожести внутренних процессов мышления не должен нас беспокоить»¹⁶³.

На этом рисунке представлены задачи, с которыми искусственному интеллекту еще предстоит справиться. Листки на полу символизируют уже освоенные ИИ навыки, а над теми, что пока висят на стене, очерченные пунктирными линиями, ведется активная работа. (Только человек может играть в бейсбол. Только у людей есть здравый смысл. Только человек может написать рецензию на фильм. Только люди проводят пресс-конференции. Только человек может навести порядок в доме. Человеческая раса. Только человек может написать книгу о компьютере. Только человек может переводить речь. Только люди могут мастерски играть в го. Только человек может поставить диагноз по ЭКГ. Прочие новости Мы все еще удерживаем Берлин. Только человек может сочинять музыку, подражая Баху. Только люди могут играть в настольный теннис. Только люди могут узнавать лица. Человек может управлять ракетой. Только люди могут импровизировать в джазе. Только люди могут мастерски играть в шахматы. Только люди могут инвестировать. Только человек может водить машину. Только люди могут понимать непрерывную речь. Только люди могут понимать естественный язык. Только люди могут доказать важные теоремы. Только люди могут…)

Важно отметить, что, если искусственный интеллект успешно пройдет строгий тест Тьюринга, это будет означать, что он способен продемонстрировать более высокие результаты, чем человек, на любом экзамене, проводимом на естественном языке¹⁶⁴. Независимо от того, в какой области ИИ проявляет свои слабые стороны, письменный тест способен их обнаружить. Конечно, это возможно только при условии, что судьи и собеседники сами достаточно компетентны и внимательны. Не составит труда притвориться выпившим, сонным или не владеющим языком человеком¹⁶⁵. Кроме того, ИИ, который сумеет обмануть судей, не знакомых с методикой тестирования его способностей, не будет считаться прошедшим тест.

Тьюринг считал, что такой тест подходит для оценки способностей ИИ в «любой из областей человеческой деятельности по нашему усмотрению». Находчивый экзаменатор может попросить ИИ объяснить сложную ситуацию в общении между людьми, сделать выводы на основе представленных научных данных, предложить смешную сцену для комедии. Таким образом, тест Тьюринга проверяет не просто понимание естественного языка, а наличие умственных способностей, которые мы проявляем посредством речи. Конечно, успешный ИИ не должен производить впечатление сверхчеловека. Если экзаменуемый будет мгновенно отвечать на все энциклопедические вопросы, быстро проверять числа на простоту и бегло говорить на сотне языков, станет ясно, что с нами общается не человек.

Кроме того, искусственный интеллект, который достигнет такого уровня, будет обладать способностями, значительно превосходящими человеческие, начиная с объема памяти и заканчивая скоростью мышления. Вообразите себе систему, умеющую читать на уровне человека и обладающую банком данных со всеми статьями из «Википедии» и полным архивом научных публикаций за всю историю. Пока что именно недостаточно глубокое понимание нашего языка не позволяет ИИ эффективно наращивать свой объем знаний. Прогресс людей же сдерживается низкой скоростью чтения, скромным объемом памяти и в целом слишком короткой жизнью. Компьютеры уже в состоянии обрабатывать данные с потрясающей скоростью: если человеку на чтение одной книги требуется в среднем около шести часов, сервис Talk to Books компании Google справляется с этой задачей в пять миллиардов раз быстрее¹⁶⁶. Кроме того, объем памяти компьютеров практически не ограничен.

Смена парадигм обработки информации в процессе эволюции

Когда ИИ овладеет языком на уровне человека, ему не просто станет легче постепенно пополнять свои знания, скорее это приведет к взрывному росту его эрудиции. Чтобы пройти затем тест Тьюринга, ему буквально придется прикидываться дураком! В тех же задачах, где не будет нужды имитировать человеческое поведение, например в области медицины, химии, инженерии, ИИ уровня Тьюринга сможет достичь небывалых успехов.

К чему это приведет, мы обсудили в предыдущей главе, когда говорили о шести информационных эрах. В таблице «Смена парадигм обработки информации в процессе эволюции» кратко изложены основные моменты.

Расширение новой коры с помощью облачных сервисов

К сожалению, пока что наши возможности в области прямого обмена сигналами с мозгом с использованием электроники, будь то снаружи или внутри черепа, остаются ограниченными. Неинвазивные методы не позволяют достичь одновременно высокого пространственного и временного разрешения, поэтому в чем-то приходится жертвовать точностью измерения. Функциональная магнитно-резонансная томография (фМРТ) позволяет измерять объем кровотока в мозге, что служит индикатором возбуждения нейронов¹⁶⁷. Чем активнее определенный участок мозга, тем больше глюкозы и кислорода ему требуется, что приводит к притоку артериальной крови. В объеме мозга этот приток можно обнаружить с точностью до воксела (кубик со стороной 0,7–0,8 мм), что достаточно для получения важных выводов¹⁶⁸. Однако, поскольку кровь поступает к активному участку мозга с задержкой, наши приборы могут обнаружить активность лишь спустя несколько секунд, а в редких случаях – от 400 до 800 миллисекунд¹⁶⁹.

Электроэнцефалограмма (ЭЭГ) подвержена другой проблеме. Этот метод позволяет измерить электрическую активность мозга, так что сигнал регистрируется с точностью до миллисекунды¹⁷⁰. Однако, поскольку сигналы считываются с поверхности головы, невозможно точно определить, какая часть мозга их генерирует. Поэтому пространственное разрешение метода составляет от 6 до 8 кубических сантиметров, в лучшем случае – от 1 до 3¹⁷¹.

В 2023 году невозможность достичь высокого пространственного и временного разрешения при сканировании мозга является одной из ключевых проблем нейробиологии. Причиной затруднений служат фундаментальные свойства электричества и физика течения крови, так что даже с помощью современных датчиков и искусственного интеллекта пока не удается добиться значительного прогресса. Продвинутый интерфейс мозг-компьютер таким образом не построить.

От проблемы пространственно-временного компромисса можно уйти, если поместить электроды в мозг. Тогда мы сможем не только считывать сигналы каждого отдельного нейрона, но и стимулировать его – коммуникация будет двусторонней. Однако на современном уровне технологий вживить электроды можно только через отверстия в черепе, что сопряжено с риском повредить мозговую ткань. Поэтому пока такие методы применяются только для пациентов с нарушениями функции нервной системы, такими как потеря слуха или паралич. В этих случаях возможная польза перевешивает риск. К примеру, система BrainGate позволяет людям с БАС или повреждениями спинного мозга силой мысли управлять курсором на экране или механической рукой¹⁷². Однако такая вспомогательная технология позволяет подключаться к весьма небольшому количеству нейронов, поэтому с ее помощью нельзя обрабатывать сложные сигналы наподобие речи.

Технология перевода мыслей в текст стала бы революционным новшеством, что стимулирует исследования по созданию устройств, интерпретирующих мозговые волны. В 2020 году команда разработчиков провела эксперимент, в ходе которого на головы людей было установлено 250 внешних электродов. С помощью мощного искусственного интеллекта исследователи пытались сопоставить активность коры мозга с набором слов из тестовых предложений. Исследователи использовали ограниченный словарь из 250 слов и смогли распознать мысли человека с погрешностью не более 3 %. Результат впечатляет, но в 2021 году проект закрыли¹⁷⁴. Пока неясно, удастся ли масштабировать этот эксперимент, используя словари с большим количеством слов (и, соответственно, получив более сложные сигналы), или же технология упрется в проблему пространственно-временного разрешения. Так или иначе, чтобы расширить возможности неокортекса, нам необходимо найти способ двусторонней коммуникации с большим количеством нейронов одновременно.

Одной из самых многообещающих попыток подключения к максимальному числу нейронов стала технология Neuralink, разработанная компанией Илона Маска. Эта система предполагает имплантацию в мозг множества тонких электродов¹⁷⁵. Опыты на мышах показали, что можно считывать данные сразу с 1500 электродов, что значительно больше, чем в других проектах, где обычно задействуются сотни электродов¹⁷⁶. Обезьяна, которой вживили такой чип, научилась с его помощью играть в видеоигру Pong¹⁷⁷. После ряда согласований в 2023 году Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) разрешило проводить испытания на людях. На момент подготовки этой книги к печати Neuralink только имплантировала первый чип с 1024 электродами в мозг человека¹⁷⁸.

В настоящее время Агентство перспективных исследовательских проектов Министерства обороны (DARPA) США работает над долгосрочным проектом под названием «Проектирование нейроинженерной системы» (NESD). Его цель – создать устройство, способное считывать информацию с одного миллиона нейронов и передавать сигналы ста тысячам¹⁷⁹. В рамках этого проекта агентство выделило гранты на реализацию нескольких программ. Например, команда Университета Брауна разрабатывает так называемые «нейрозерна» – микроскопические устройства, которые можно имплантировать в мозг. Эти «зерна» будут образовывать связи с нейронами и друг с другом, создавая своего рода «кортикальный интранет» внутри нашего мозга¹⁸⁰.

В итоге мы стремимся создать неинвазивный интерфейс, который, вероятно, будет состоять из наноразмерных электродов, без какого-либо риска доставляемых в мозг через кровеносную систему.

Сколько же вычислительных операций нам предстоит записать? Как мы уже выяснили, общее количество вычислений, необходимых для полноценного моделирования человеческого мозга, составляет не более 10¹⁴ за секунду. Заметим, что речь идет о симуляции на основе реальной структуры мозга, способной пройти тест Тьюринга и в принципе для стороннего наблюдателя неотличимой от настоящего мозга человека. Такая симуляция не обязательно должна включать в себя все процессы, происходящие в мозге, поскольку часть из них не влияет на наблюдаемое поведение. Например, крайне маловероятно, что внутриклеточные процессы, такие как репарация ДНК в ядре нейрона, имеют отношение к мышлению.

Но даже если в мозге происходит 10¹⁴ операций каждую секунду, не все из них обязательно передавать через интерфейс мозг-компьютер. Многие из этих операций связаны с предварительной обработкой информации в структурах, расположенных глубже верхнего слоя неокортекса¹⁸¹. А нам нужно подключиться именно к высшим областям мозга. Кроме того, мы можем игнорировать процессы, которые не относятся к разуму, такие как регуляция пищеварения. Так что, по моим оценкам, нам потребуется интерфейс, способный образовывать миллионы, может быть, десятки миллионов параллельных связей.

Чтобы этого добиться, нам придется все сильнее уменьшать размеры устройств, попутно решая возникающие инженерные и нейробиологические задачи с помощью продвинутого ИИ. В 2030-х годах мы достигнем цели, создав микроскопических роботов, так называемых наноботов. Эти крошечные устройства свяжут высшие участки коры нашего мозга с облачным сервисом, позволяя биологическим нейронам напрямую обмениваться сигналами с программными нейронами через Всемирную сеть¹⁸². Для этого не потребуется проводить хирургические операции на грани фантастики – наноботов можно будет доставить в мозг неинвазивным способом, через капилляры. До сих пор размер нашего мозга был ограничен необходимостью проходить через родовые пути, теперь же его можно будет расширять бесконечно. Как только мы подключим первый слой виртуальной коры, поверх него (в иерархическом смысле) можно будет размещать последующие, что будет делать наше мышление все более сложным. Стоимость вычислительных мощностей продолжит снижаться, но теперь вместе с возможностями компьютеров будет расти и потенциал нашего мозга.

Помните, что случилось два миллиона лет назад, после предыдущего апгрейда нашего неокортекса? Мы стали людьми. Когда мы получим доступ к облачному неокортексу, то, скорее всего, совершим похожий скачок в уровне абстрактного мышления. В результате проявления нашего интеллекта станут намного глубже и богаче, чем искусство и технологии. Изменения будут настолько фундаментальными, что сейчас мы не можем их себе даже представить.

Вообразить себе искусство будущего невозможно. Но если попытаться провести аналогию, стоит вспомнить последнюю революцию, касающуюся неокортекса. Представьте, как обезьяна – достаточно развитое животное с мозгом, который не сильно отличается от человеческого, – смотрела бы кинофильм. Часть картинки имела бы для нее смысл. Она могла бы понять, что на экране люди разговаривают, но не смогла бы разобрать ни слова из диалога. Ей также не пришла бы в голову мысль, что «то, что герои носят металлические костюмы, означает, что действие происходит в Средние века»¹⁸³. Такие суждения стали возможны благодаря префронтальной коре.

Когда мы говорим об искусстве для людей с облачным неокортексом, мы имеем в виду не только более качественную графику или возможность ощущать вкус и запах. Нам откроются принципиально новые возможности, связанные с тем, как мозг обрабатывает впечатления. В наши дни актеры могут передавать особенности характера героя только с помощью слов и движений. Однако мы можем создать вид искусства, в котором найдут отражение глубинные, неоформленные и невысказанные мысли героя, которые будут загружаться прямо в наш мозг во всем их невыразимом великолепии и многообразии. Интерфейс мозг-компьютер станет важным инструментом, который обогатит нашу культуру.

Мы станем соавторами самих себя: будем развивать свой интеллект, чтобы уметь мыслить глубже, а затем использовать новые возможности для создания новых трансцендентных идей, осмыслить которые будет под силу только новым версиям нашего мозга. Наконец-то мы получим доступ к своему исходному коду подобно ИИ, который способен совершенствовать себя. Эти технологии позволят нам объединиться со сверхинтеллектом, который мы сами сконструируем, так что, по сути, мы создадим себя заново. Освободив наш разум от ограничений черепа и перенеся его на устройства, в миллионы раз более мощные, чем биологические ткани, мы добьемся экспоненциального роста возможностей нашего интеллекта и станем в миллионы раз умнее. Именно это я имею в виду, когда говорю о Сингулярности.