Текст книги "Саммари книги «Как мы учимся. Почему мозг учится лучше, чем любая машина… пока»"

Саммари книги «Как мы учимся. Почему мозг учится лучше, чем любая машина… пока»

Введение

Выдающийся талант нашего мозга – способность учиться. Автор книги, Станислас Деан, один из самых известных нейробиологов современности, считает, что наш вид может по праву называться Homo Docens – человек обучающийся. Это название отражает уникальные способности человека к овладению знаниями и навыками в самых разных сферах и в самых разных условиях. Наш мозг способен подстраиваться к кардинальным изменениям, чтобы продолжать учиться. Автор иллюстрирует это рассказом о семилетнем мальчике Фелипе из Бразилии, у которого в результате ранения был поврежден спинной мозг и зрительные центры в головном мозге. Фелипе утратил способность видеть и оказался почти парализованным. Перед встречей автор ожидал увидеть несчастного и искалеченного ребенка, но встретил жизнерадостного и очень любопытного мальчика, который, несмотря на травму и ограниченные возможности, активно интересовался окружающим миром, общался с людьми, изучал иностранные языки, сочинял истории, записывая их с помощью специального оборудования. Наша способность учиться помогает противостоять испытаниям и резкому изменению в сенсорном восприятии.

Мы редко задумываемся о том, как мы учимся, хотя это целая наука, которая помогает лучше понять человека, его способности и потребности, отличия от других живых существ. Еще одно важное применение науки об обучении – создание искусственного интеллекта, самообучающихся алгоритмов, которые пока что значительно проигрывают человеческому мозгу в способности обучаться.

О том, как мы учимся и почему пока превосходим искусственный интеллект, у автора есть несколько важных идей.

Идея № 1. Человек учится лучше, чем все существующие на сегодняшний день машины

Существует множество пророчеств о том, как искусственный интеллект превзойдет человека, а то и станет его хозяином и захватит власть в мире. Однако на сегодняшний день, несмотря на заметный прогресс, ясно, что машины далеки от этого. Искусственные нейронные сети копируют лишь незначительную часть операций, которые наш мозг выполняет за доли секунды в бессознательном режиме, такие как восприятие и распознавание образов, их классификация. Остается огромный пласт того, что машины не могут, а мозг может: выполнение медленных символических операций, сознательное удержание внимания, формирование символических представлений, создание эксплицитных теорий мира, умение делиться ими с окружающими. Наш мозг без труда выделяет важное, расставляет приоритеты, выводит общие логические принципы – эти естественные наши склонности пока недоступны машинам.

Автор выделяет несколько важных особенностей, которые есть у человека, но которых пока недостает машинам:

Первое преимущество человека – усвоение абстрактных понятий. Искусственные нейросети и алгоритмы глубокого обучения в основном опираются на поверхностные закономерности в данных, они не способны усваивать абстрактные понятия высокого уровня так, как это делает человек. Человек легко может понять, что стул остается стулом, даже если у него три ножки, а не четыре, для искусственного интеллекта это остается сложнейшей задачей. Мы извлекаем внутреннюю сущность из всего, с чем сталкиваемся в жизни.

Второе преимущество человека – эффективная обработка данных. Чтобы научиться играть на консоли Atari, нейросети, разработанной DeepMind, нужно минимум 900 часов, а человеку всего 2. Аналогичная динамика наблюдается в усвоении языков и многом другом – пока что машины учатся гораздо медленнее человека. Несмотря на то что они могут поглощать гораздо больше информации, мы усваиваем ее гораздо более эффективно.

Третье преимущество – социальное научение. Мы можем вербально передавать свои знания, сообщать окружающим о своих ментальных моделях, используя небольшое количество слов. Это пока что находится за пределами возможностей искусственных нейросетей.

Четвертое – научение с помощью одной попытки. Машины пока слабо интегрируют новую информацию в имеющуюся у них сеть знаний, человек внедряет новые знания с первой попытки и делает это без труда, например, начиная спрягать даже вымышленное слово по известным правилам.

Пятое преимущество – систематичность и язык мышления. Человек легко обнаруживает общие правила, лежащие за частными проявлениями, выявляя базовые абстрактные принципы, которые затем использует в разных контекстах, делая обобщающие выводы. Искусственные нейросети пока не могут достичь такой системности и абстрактности мышления.

Шестое – компоновка. Современным искусственным нейросетям далеко до гибкости человеческого разума. Мы можем применять знания, полученные в одной области, в самых разных контекстах. Человек способен сочетать разные знания, рекомбинировать их для решения новых задач. Нейросеть, побеждающая людей в одной игре, не способна рекомбинировать свои способности для одоления людей в другой. Сначала наш разум делает то, что и нейросеть. Он фильтрует образы и распознает определенные паттерны, но затем мы переходим на более высокий уровень иерархии, мы делаем логический вывод, рассуждаем, выделяем основополагающие принципы в полученной информации. Машины пока не достигли этого уровня, переход на него является сложнейшей задачей их архитекторов.

Идея № 2. Учиться – означает формировать внутреннюю модель внешнего мира

По сравнению с другими живыми существами у людей очень длительный период детства, в течение которого мы учимся, а наш мозг потребляет половину всей энергии. Возможно, лучше было бы сразу рождаться с загруженными знаниями, необходимыми нам в жизни, но это невозможно в силу того, что для их кодирования нашей ДНК не хватило бы емкости, которая составляет примерно 6 миллиардов битов (750 мегабайтов), что сравнимо с емкостью среднего USB-накопителя. Автор указывает на парадокс – ДНК как чертеж нашего тела содержит гораздо меньше информации, чем реальные мы с 86 миллиардами нейронов и тысячами триллионов связей между ними. Емкость реального мозга превышает емкость генома минимум в 100 тысяч раз. Такая сложность достигается через «доработку чертежей» путем обучения.

Деан определяет способность учиться как способность формировать внутреннюю модель внешнего мира, создавать подсознательную симуляцию, ментальную карту как в естественных, так и в искусственных нейронных сетях. Наш мозг создает огромное количество таких моделей для всего, что познает: для мест, движений, речи, объектов и взаимодействий с ними, для людей и их поведения. Благодаря этим моделям мы можем создавать реалистичные симуляции реальности в виде фантазий и снов. Мы сознательно создаем гипотезы на основе наблюдений, а сами наблюдения основаны на наиболее вероятных интерпретациях. Со временем мы лучше приспосабливаемся к внешнему миру, обновляя ментальные модели.

Семь важных принципов, каждый из которых описывает обучение и применим не только к человеческому мозгу, но и к работе алгоритмов машинного обучения:

● Мы регулируем параметры ментальной модели, подстраивая свое поведение к сигналам реальности.

● Мы используем возможности экспоненциального роста параметров для регулировки. В нашем мозге 86 миллиардов нейронов, каждый образует около десяти тысяч синаптических связей – это огромное количество потенциальных параметров.

● Мы минимизируем ошибки, анализируя их и корректируя свои действия.

● Мы исследуем пространство возможностей, можем переходить на более высокие уровни иерархии, чтобы выбрать оптимальный вариант, не зацикливаясь на поиске идеального. Для многих алгоритмов такие обычные для человека решения являются проблемой.

● Обучение становится вознаграждением, само достижение приятно для нас, мы оцениваем свои действия и наблюдаем за прогрессом.

● Мы без труда обобщаем информацию и применяем выученное в одной области для других.

● У нас множество допущений (априорных гипотез) о разных сферах, на которые мы опираемся при обучении.

Чтобы учиться лучше человека, искусственный интеллект должен превзойти его в каждом из этих семи параметров, но пока он далек от этого. Алгоритмам нужны огромные массивы данных для обучения, а человеческий мозг «выжимает» максимум из минимума данных, делает выводы из мельчайших наблюдений. Автор указывает, что даже мозг младенца превосходит все самые продвинутые компьютерные архитектуры в способности создавать абстрактные модели мира. Возможное перспективное направление для улучшения существующих алгоритмов – моделирование аналогичных человеческим механизмов, созданных эволюцией, то есть внимания, любопытства, сна для консолидации усвоенного в течение дня.

Наша склонность делать выводы на основе частных наблюдений – очень мощная стратегия обучения, так как в дальнейшем обнаруженные закономерности мы можем применять к новым наблюдениям. С помощью усвоенных метаправил процесс обучения ускоряется. Так, малыш, лишь пару раз услышав слово «жук», может применять его ко всем жукам, каких бы размеров и цветов они ни были, где бы он их ни увидел – в природе, на картине, по телевизору. С такой скоростью не может обучаться ни одна современная нейросеть.

Идея № 3. Концепция «чистого листа» ошибочна

Долгое время популярностью пользовалась теория «чистого листа», которую разделяли такие философы, как Джон Локк и Жан-Жак Руссо. Она гласит, что мозг ребенка похож на пустой лист, который заполняется тем, что обеспечивает окружающая среда. Однако современные исследования в области науки о мозге продемонстрировали ошибочность этого взгляда. Несмотря на то что человек рождается с незрелым мозгом, в нем уже содержится множество знаний о том, с чем ему предстоит столкнуться в жизни. Это знания о поведении объектов, одушевленных и неодушевленных, о лицах людей, о числах и даже вероятностях.

Исследования младенцев показали, что они понимают, что физические объекты не могут просто исчезнуть, что они занимают определенное пространство и не могут находиться сразу в нескольких местах одновременно. В экспериментах младенцы демонстрировали явное удивление, когда наблюдали ситуации, при которых объекты нарушали законы физики, например, когда предметы проходили сквозь стену или исчезали, не оставляя следа. Это было видно по движениям глаз детей, направлению их взгляда и его длительности.

Со временем к врожденным интуитивным знаниям добавляются уточняющие знания о физических законах, отличиях между живыми объектами и предметами. Когда младенцам показывают шар, который сначала движется сам по себе, потом перепрыгивает через препятствие и поворачивает, они воспринимают его как живое существо с целями и намерениями. Они очень удивляются, когда шар подпрыгивает, даже если перед ним нет препятствия. Это нарушает интуитивные представления детей о психологии поведения живых объектов.

Также у младенцев есть врожденные представления об арифметике. Многие эксперименты показывают, что дети с рождения интуитивно распознают приблизительное число объектов как зрительно, так и на слух по количеству слогов.

Удивительно, но у младенцев также есть интуитивные представления о вероятностях. Это продемонстрировали многие эксперименты, в том числе такой: малышам в возрасте несколько месяцев показывали лотерею с ящиком, в котором перемещались три красных шара и один зеленый. Внизу ящика имелось отверстие, из которого выпадали шары. Если выпадал красный шар, ребенок смотрел на него совсем недолго, но когда выпадал зеленый, вероятность выпадения которого была в три раза меньше, чем у красного, малыши удерживали взгляд гораздо дольше, демонстрируя удивление. Мозг младенца делает сложные вероятностные выводы, применяя правило Байеса, он понимает логику на интуитивном уровне. Младенцы выдвигают гипотезы и проверяют их в реальном мире, отбрасывая или принимая в зависимости от результатов. Компьютерные алгоритмы, которые используют такой же вероятностный подход, называются байесовскими. Преподобный Томас Байес сформулировал его в XVIII веке (именно байесовская теория использована Тьюрингом для расшифровки кода «Энигмы»). Автор считает, что байесовская теория предлагает лучший способ рассуждения в условиях неопределенности. Этот подход помогает извлечь максимум информации из ограниченного количества данных.

Младенцы обладают врожденными знаниями о людях и животных, а также представлениями об их моделях поведения. Они понимают, что живые существа могут двигаться без постороннего вмешательства, в девять месяцев они уже могут приписывать людям моральные качества. Они отворачиваются от человека, если видят, что он совершил плохой поступок, и поворачиваются к тому, кто совершил хороший.

Также мы обладаем врожденным восприятием лиц: три точки в форме лица привлекают больше внимания младенцев, чем три точки в форме пирамиды.

Еще один врожденный навык – языковой инстинкт, инстинкт овладения речью. В нашем мозге заложена возможность усвоения любого из существующих языков. Интересно, что младенцы предпочитают родной язык другим языкам. Овладение речью начинается еще в утробе, когда через стенки матки до плода доходит мелодика языка.

Исследования мозга с помощью МРТ показали наличие у новорожденных практически всех нейронных сетей, характерных для мозга взрослого. У нашего мозга есть первоначальная структура, которая задает направление дальнейшего развития, а у ребенка еще в утробе формируются главные складки коры. На 35-й неделе беременности наблюдается характерная асимметрия височной области, где находятся речевые центры. Нейронные модули, специализирующиеся на обработке разных типов информации (слух, зрение, осязание), организованы и закладываются генетически. Такая самоорганизация мозга еще до рождения наглядно опровергает концепцию «чистого листа».

Наличие врожденной организации мозга не означает, что у людей нет индивидуальных различий. У мозга каждого человека есть свои индивидуальные черты, уникальные нейронные связи, их сила и плотность. Однако эти вариации не меняют общую основу, характерную для всех людей.

Идея № 4. Обучение приводит к масштабным биологическим трансформациям в мозге

Несмотря на то что теория «чистого листа» оказалась неверной и для нашего мозга характерна самоорганизация, он остается очень пластичным и способным реорганизовывать свои связи. Новые знания меняют миллионы синапсов, окружающая среда помогает детям раскрывать их когнитивный потенциал. Однако у пластичности есть границы. Это как пространственные границы – пластичность затрагивает лишь несколько миллиметров мозгового вещества, так и временные – пластичность ограничена сензитивными периодами.

Нейроны нашего мозга могут принимать очень сложные формы, у них множество отростков-дендритов, составляющих дендритное дерево. Синапсы – это места, где нейроны контактируют друг с другом через дендриты и аксоны. В мозге тысячи триллионов синапсов – вычислительных элементов нервной системы. Синаптические связи обусловливают уникальную сложность нашего мозга, в них электрические сигналы преобразуются в химические. Синапсы постоянно меняются, эти изменения отражают то, как мы учимся: может меняться количество и размер везикул – пузырьков, заполненных нейротрансмиттерами, количество и эффективность рецепторов, размер и форма самого синапса. Частое совместное срабатывание связанных через синапсы нейронов усиливает существующую между ними связь. Синаптическая пластичность очень важна для обучения и памяти, она модулируется нейротрансмиттерами (ацетилхолином, дофамином, серотонином). По мере обучения меняется форма нейронов, в месте дендрита, где расположен синапс, образуется «дендритный шипик» грибовидной формы, иногда появляется и второй синапс.

Эксперименты на животных позволили ученым увидеть, как обучение влияет на мозг. Так, японский исследователь Ацуси Ирики смог научить обезьяну пользоваться граблями и доставать с их помощью пищу, до которой нельзя дотянуться рукой. Животное также смогло понять, как с помощью одних грабель притянуть еще большие по размеру, затем обезьяна использовала их, чтобы дотянуться до пищи, которая лежала далеко от клетки. Овладение инструментом вызвало заметные изменения в мозге обезьяны: увеличилось потребление энергии в передней теменной области, появились и усилились новые синаптические связи, произошла экспрессия генов.

Освоение новых навыков меняет анатомию мозга, происходит утолщение коры, усиливаются синаптические связи. Также отрастают дополнительные ветви как на аксонах, так и на дендритах. Аксоны обволакивает специальное вещество, миелин, подобное защитной оболочке. Чем она толще, тем выше изоляция, что позволяет передаваться информации с большей скоростью. Обучение трансформирует и глиальные клетки, помогающие нейронам нормально функционировать, меняется и сеть вен и артерий. Обучение приводит к масштабным биологическим трансформациям в мозге.

Идея № 5. Пластичность мозга имеет пределы и ограничена сензитивными периодами

Благодаря экспрессии генов, связанных с пластичностью, клетки вырабатывают вещества, необходимые для образования новых синапсов, дендритов и аксонов, что требует существенных затрат энергии (мозг маленького ребенка потребляет до 50 процентов энергии организма), поэтому очень важно полноценное питание. Автор упоминает печальный случай, произошедший в Израиле в 2003 году, когда в больницы поступили десятки малышей, пораженных неизвестной болезнью с неврологическими симптомами, вялостью, рвотой, нарушением зрения. Выяснилось, что все они потребляли одно и то же искусственное сухое соевое молоко, в котором не оказалось необходимого для развития мозга витамина В1. Его дефицит даже у взрослых вызывает тяжелое неврологическое расстройство вплоть до летального исхода. Восстановление полноценного питания помогло детям пойти на поправку, но в возрасте 6–7 лет у всех возникли серьезные проблемы с речью. Нейропластичность имеет пределы. Для нее нужны серьезные ресурсы и благоприятные условия. Нарушения на любом этапе могут сказаться на дальнейшем развитии, не дать мозгу реализовать весь свой потенциал, что хорошо видно на примере детей с фетальным алкогольным синдромом.

Даже в самых благоприятных условиях мозг пластичен до определенного предела. Автор рассказывает о молодом художнике Нико, которому в возрасте трех с половиной лет, чтобы избавить от мучительной эпилепсии, удалили правое полушарие. Это не помешало ему учиться в школе, овладеть устной и письменной речью, пространственными навыками, развить выдающийся талант к рисованию. Левое полушарие взяло на себя многие функции правого. Корковые нейроны, реагирующие на лица и обычно располагающиеся в правой височной доле, у Нико были расположены в той же области, но слева. Его мозг перестроился, но сохранил примерно такую же организацию, как и у всех людей. Но у Нико есть и то, что не перестроилось. Его зрение оказалось расщепленным на две части: он прекрасно видит в правой половине обоими глазами, но в левой полностью слеп. Чтобы увидеть левую сторону предметов, Нико должен смещать взгляд или поворачивать голову. Опыт 20 лет зрения не смог компенсировать отсутствие этой способности из-за скромной пластичности зрительных связей и ранней остановки развития в этой области.

Во многих областях мозга пластичность максимальна только в течение определенного интервала – сензитивного периода, который начинается в раннем детстве и занимает несколько лет. Для разных областей эти периоды могут варьироваться.

Общая тенденция такова, что пластичность мозга замедляется с возрастом. Чем старше становится мозг, тем ниже его гибкость. Научиться новому можно, но это становится труднее. Детям первого года свойственна невероятная синаптическая пластичность, их дендритные деревья растут с огромной скоростью. У младенцев синапсы создаются в чрезмерном количестве, а затем они сохраняются или уничтожаются в зависимости от условий среды. Плотность синапсов в раннем детстве вдвое больше, чем во взрослом возрасте, поэтому автор называет младенцев «самообучающимися машинами».

Сензитивный период сенсорных областей самый ранний, они созревают рано и изменить их затем крайне сложно или невозможно, поэтому, например, такое расстройство, как «ленивый глаз», нужно исправить в первые годы жизни. Еще один сензитивный период существует для речи. При рождении дети различают все фонемы всех языков. Чтобы овладеть языком, им нужно лишь оказаться в языковой среде. Но с возрастом мы утрачиваем эту способность. Так, японцы могут десятилетиями жить в англоговорящей стране, но не научиться отличать звук «Р» от звука «Л», а для англоговорящих остаются недоступными короткие и длинные гласные японского и финского. Чтобы освоить то, что ребенок усваивает бессознательно, взрослому необходимы огромные усилия. Способности к изучению иностранного языка медленно снижаются на протяжении всего детства, а после 17 лет резко падают, поэтому исследователи рекомендуют начинать изучение второго языка не позднее 10 лет. К счастью, способность изучать второй язык никогда не исчезает полностью. Нейропластичность хоть и уменьшается, но не исчезает совсем, особенно в высших областях мозга. Многие взрослые даже в пожилом возрасте успешно учатся играть на музыкальных инструментах и говорить на иностранном.

Возможности и ограничения пластичности мозга иллюстрирует пример усыновленных бухарестских отказников. При Чаушеску в Румынии велась политика стимулирования рождаемости. Меры были очень жесткими: для одиноких действовали повышенные налоги, за аборт грозила смертная казнь, запрещалась контрацепция. Родители, которые не могли прокормить детей, отдавали их в переполненные приюты, где дети не могли получить ни нормального питания, ни заботы. В 600 приютах содержались около 150 тысяч детей, до которых никому не было дела и которые страдали от серьезных когнитивных и эмоциональных нарушений. После падения режима Чаушеску была запущена программа усыновления, но детей было так много, что приходилось с помощью жребия выбирать, кому из них посчастливится обрести приемных родителей. Исследования отказников показали, что эмоциональная и социальная изоляция оказывают крайне негативное влияние на развитие мозга. Все отказники демонстрировали серьезные когнитивные нарушения, у них наблюдались проблемы с метаболизмом. Однако те, кому посчастливилось попасть в приемную семью до 20 месяцев, практически ничем не отличались от сверстников, когда им исполнялось 8 лет. У них были нормальные социальные навыки и словарный запас. Но двадцать месяцев отсутствия нормального питания, любви и заботы все равно проявляли себя в виде стойкого недостатка серого вещества в мозге.