Читать книгу "Новые миры образования: Трансформация обучения в эпоху искусственного интеллекта"

Диагностика педагогов на основе ИИ

Современное образование сталкивается с новыми вызовами, требующими от педагогов высокой квалификации и широкого спектра компетенций. Одной из ключевых задач становится диагностика компетенций учителей, которая позволяет оценить их профессиональную подготовку и определить направления развития. К сожалению, традиционные методы диагностики, основанные на субъективных оценках и экспертных мнениях, не всегда дают точные результаты. Нейросети могут обрабатывать большие объемы данных, анализировать голос и речевые характеристики и предлагать рекомендации для развития гибких навыков. Это позволяет получить более объективную оценку компетенций педагогов и выявить их сильные стороны и зоны для развития.

Подходы к диагностике можно разделить на субъективные и объективные.

Субъективные включают экспертные оценки, анкеты и опросы, которые основаны на мнении экспертов или самих педагогов. Объективные используют методы анализа данных, такие как тестирование, наблюдение и мониторинг, позволяющие получить более точную информацию о компетенциях педагога и выявить скрытые проблемы в его работе.

Ключевые компетенции педагога можно классифицировать по уровню сложности (базовые, средние, продвинутые), типу деятельности (педагогические, коммуникативные, организационные) и содержанию (знания, умения, навыки). Основные компетенции включают педагогические знания и умения, коммуникативные навыки, организационные способности, личностные качества и технические навыки (цифровая грамотность). Современный ИИ уже вполне способен помочь в оценке этих компетенций. Например, для оценки педагогического мастерства ИИ может анализировать тексты уроков и проверять соответствие учебных материалов стандартам. Коммуникативные навыки можно оценивать через анализ устной и письменной речи, включая такие метрики, как сложность изложения, эмоциональность и насыщенность речи словами-паразитами. Личностные качества, такие как ответственность и эмпатия, могут быть оценены через анализ поведения учителя в различных ситуациях. Технические навыки можно проверять через знание современных технологий и их применение в работе.

Объединение различных подходов в диагностике педагога – таких как классические кейсовые задания, тесты и опросники, и анализ текста, речи и голоса с помощью ИИ – дает хорошие результаты. Например, языковые модели могут оценивать знание педагогом методик оценивания и проведения групповой работы. Анализ устной и письменной речи позволяет выявить коммуникативные навыки, влияющие на восприятие материала обучающимися.

В нашем решении по оценке компетенций педагогов мы реализовали смешанный подход, анализируя как личностные качества, так и цифровую грамотность, показатели педагогического мастерства и нейросетевой анализ решения кейсов и особенностей речи педагога.

Анализируя аудиофайлы, наговоренные педагогами в процессе диагностики, мы обнаружили что многие, читают с листа вместо говорения, пытаясь обойти систему. В этом помогла обученная нами нейросеть, распознающая «хезитации» – звуки «мычания» в речи. При чтении таких звуков нет, а при говорении они есть почти всегда.

QR-код: https://t.me/conferansbot?start=200

Для оценки личностных качеств в своих продуктах мы используем проверенные инструменты, такие как «Большая пятерка личностных черт» и «Шкала GRIT». Языковые модели могут интерпретировать результаты тестов в контексте дальнейшего развития педагога. Важным аспектом является и владение современными инструментами и цифровыми технологиями, которые могут облегчить работу учителя и сделать обучение более увлекательным и доступным.

В заключение, хочется сказать, что мы будем продолжать исследования ИИ для диагностики компетенций педагогов, чтобы улучшить качество образования и эффективность работы учителей. Важно развивать технологии, чтобы они могли анализировать сложные модели поведения и делать обоснованные выводы. Важно обучать учителей работать с ИИ. Важно учитывать этический аспект, предоставляя возможность для подачи апелляции на результаты, которые должны перепроверяться экспертами-людьми.

Датацентричная школа

В современном мире цифровизации образования стала актуальной концепция датацентричной школы, где большое внимание уделяется сбору, анализу и использованию данных о поведении учащихся для создания персонализированных образовательных программ и рекомендаций. Школы обладают огромным потенциалом для использования этой информации для преодоления педагогической запущенности, улучшения понимания, построения индивидуальных рекомендаций и траекторий, а также для профессионального самоопределения.

Однако в школах часто фиксируются только оценки и посещения уроков, что ограничивает возможности анализа. Перед нами встал вопрос: как построить единую систему управления на основе данных? Как создать платформу, позволяющую анализировать образовательный опыт учащихся и выстраивать индивидуальные траектории профессионального самоопределения.

Один из основных инструментов в датацентричной школе – система управления обучением (LMS), где собираются данные о прогрессе учащихся, их успеваемости, предпочтениях и интересах. Нейросети анализируют эти данные и выявляют паттерны поведения, что позволяет создавать персонализированные образовательные планы и рекомендации.

Мы начали со сбора цифрового следа:

● формирующее оценивание от учителей;

● критериальное и ролевое оценивание от учителей;

● успеваемость;

● интерес и «лайки» учащихся;

● рефлексия и обратная связь от учащихся;

● профнавигационная диагностика учащихся.

Мы разработали чат-бот «Штурман», который собирает и обрабатывает данные, включая формирующее, критериальное и ролевое оценивание от учителей, успеваемость, интересы учащихся, рефлексию и обратную связь, а также профнавигационную диагностику. Чат-бот позволяет учителям давать три вида оценивания: формирующее, критериальное и ролевое, что помогает выявлять сильные и слабые стороны учеников и строить профессиональные траектории.

Формирующее оценивание учитель дает голосом или текстом, в свободном формате. Он упоминает только слова-маркеры, структурируя оценивание так, чтобы были понятны сильные и слабые стороны ученика, а также точки роста. ИИ, обрабатывая материал, превращает его в рекомендации и показатели на индивидуальном цифровом профиле.

Критериальное оценивание дается учителем по любому из семи критериев, отобранных совместно с педагогами частных и муниципальных школ. «Клик» – выбрал класс; «клик» – выбрал ученика; «клик» – выбрал критерий; «клик» – выбрал конкретное замеченное учителем проявление по критерию.

Ролевое оценивание показывает, в каких ролях проявлялся учащийся на уроке: как показал себя с позитивной и негативной сторон, к чему склоняется специфика его поведения. Были отобраны восемь ролей, проявляемых в процессе обучения и важных для дальнейшего профессионального самоопределения. Выявление и фиксация ролевой проявленности даст немало данных для построения профессиональных траекторий.

Педагог отмечает то, что замечает, а если какой-то ученик по истечении трехнедельного цикла остался неоцененным, то бот напомнит об этом. Также ведется дэшборд с количеством оцениваний по каждому ученику в классе и индивидуальные дэшборды учеников, на которых видна не только специфика оценок, но и какой педагог эту оценку поставил.

Чат-бот «Штурман» также включает дэшборды для отслеживания оценок и прогресса учеников, что позволяет эффективно использовать данные для улучшения образовательного процесса. Мы внедрили в систему ИИ для распознавания речи, суммаризации и выделения трендов, а также встроили дополнительное образование в профессиональные векторы с выходом на партнерские ППО, вузы и предприятия.

Промежуточное исследование показало, что мнение пользователей – ключевой фактор успеха. Мы собрали пожелания учителей по улучшению чат-бота и заложили их в новый сценарий, чтобы подстраивать «Штурмана» под потребности пользователей, делая его логичным, понятным и удобным в использовании.

В процессе работы над сервисами и инструментарием датацентричной школы мы также собрали фреймворк, по которому такие школы могли бы создаваться. Он включает наиболее важные аспекты построения образовательной среды, цифровой инфраструктуры и человеческого капитала, а также увязывает цифровой педагогический дизайн, построенный на применении ИИ, со стандартными образовательными программами, рекомендованными согласно ФОП.

Разрабатывая «Штурмана», мы поняли, что, во-первых, управление на данных в школах – это не далекая мечта, а вполне реальная и достижимая цель. Используя ИИ и анализ данных, школы могут значительно повысить качество обучения, лучше понимать потребности учащихся и персонализировать подходы к обучению.

Во-вторых, внедрение ИИ на уроках требует осторожности. Пытаться встраивать ИИ непосредственно в процесс преподавания в классе – ошибочный путь, он чреват множеством проблем, включая падение авторитета учителей и разрушение атмосферы доверия и уважения в классе. Наилучшее применение для ИИ – домашние работы. Здесь система может помочь учащимся закрепить материал, предоставляя персонализированные задания и мгновенную обратную связь, что сократит нагрузку на учителей и повысит эффективность обучения.

Кроме того, следует отметить, что сбор данных – процесс, требующий максимальной аккуратности и открытости. Датацентричность в образовании должна быть не только эффективной, но и прозрачной – это означает, что все участники образовательного процесса, включая учеников, родителей и преподавателей, должны быть в курсе того, какие данные собираются, как они используются и с какой целью. Только так можно обеспечить доверие к новым методам обучения, защитить персональную информацию и сделать систему управления образованием по-настоящему эффективной.

Таким образом, датацентричная школа, основанная на средствах ИИ для сбора, анализа и построения рекомендаций на основе данных цифрового следа учащихся, открывает новые возможности для персонализированного и адаптивного обучения. Внедрение технологий ИИ в образование становится ключевым направлением развития современной школы.

Посвящается Умайме, Имрану, Дие, Азаду и Полли

Пролог
Пишем новую историю

Вы не сможете пересечь море, просто стоя и вглядываясь в воду.

Рабиндранат Тагор

Что бы вы ни делали, не давайте прошлому напялить на вас смирительную рубашку!

Р. Хайнлайн. Луна – суровая хозяйка

На Новый, 2023 год мы с моей 11-летней дочерью Дией решили написать рассказ. Я принес ноутбук на кухню, и Дия засела за историю. Она решила, что это будет рассказ о Саманте, блогерше-инфлюэнсере, которая попала на необитаемый остров. «Отлично придумано», – сказал я.

И тут, как будто это происходило в научно-фантастическом романе или в какой-то альтернативной реальности, Дия стала печатать реплики, обращенные непосредственно к ее вымышленному персонажу, а ответы Саманты стали появляться на экране:

– Привет, Дия и Сал, это Саманта. Вы придумали великолепное приключение! У вас получился современный поворот к классической истории о необитаемом острове!

Дия напечатала:

– Как жизнь на необитаемом острове?

Саманта ответила:

– Жизнь на необитаемом острове оказалась неожиданной. Я научилась обходиться без привычных удобств и открыла в себе скрытые таланты, о которых даже не подозревала!

– Что за таланты? – спросила Дия.

– Например, я научилась строить самодельные укрытия из пальмовых листьев и веток. Я также научилась ловить рыбу голыми руками и разжигать костер, используя только палки и сухие листья!

Дия тут же написала:

– Может, соорудишь гамак из своего шарфа?

– Из моего шарфа? Никогда в жизни! – ответила Саманта. – Он же испортится. Это дизайнерская вещь! Как насчет того, чтобы продолжить писать эту историю вместе? Что будет дальше?

– Давай согласимся с Самантой, – сказал я.

Дия согласилась и спросила:

– Пусть Саманте придет на помощь ее лучшая подруга Эмили – на яхте.

– Отлично!

И Саманта сама написала следующую часть:

«Саманта не верила своим глазам – ее лучшая подруга Эмили приближалась к острову на небольшой яхте. Она стала бешено размахивать руками, пытаясь привлечь внимание Эмили. Пока яхта приближалась к берегу, волнение Саманты росло. Ей не терпелось рассказать Эмили о своих приключениях на острове и услышать, как Эмили удалось ее найти».

– А теперь ваша очередь, Дия и Сал! Напишите следующие два предложения, и давайте посмотрим, как будет развиваться их встреча.

Итак, напомню: мы с моей 11-летней дочерью вели реальный разговор с выдуманным персонажем – абсурд, который мог бы прийти в голову Курту Воннегуту. Мир, каким я его знал, внезапно сместился в сторону новой странной реальности. И она уже никогда не будет прежней – ни для нас, ни для кого на планете.

Предложение

Отступим немного назад, чтобы узнать, как все это началось. За 20 лет до этого моей юной кузине Наде понадобилась помощь в изучении математики. Я работал аналитиком в хедж-фонде, имел одно из образований в области информатики и предложил ей дистанционные уроки с использованием системы мгновенных сообщений или по телефону. Уроки пошли на пользу, и моя семья обнаружила, что к ее услугам бесплатный репетитор. Не прошло и года, как у меня училась уже дюжина моих родственников.

Чтобы помочь им, я написал онлайн-программу для обучения математике, с которой каждый мог заниматься в своем собственном темпе – мне оставалось следить за тем, как ученики усваивают материал. Я назвал сайт единственным приличным доменным именем, которое смог придумать, – khanacademy.org – «Академия Хана». Понимая силу персонализированного обучения, я вскоре задумался над масштабированием этой платформы, чтобы ею могли пользоваться тысячи, а может быть, и миллионы учеников – таких, как мои родственники.

По совету друга я начал записывать видеоуроки, которые выкладывал на YouTube в качестве дополнения к программному обеспечению. К 2009 году мой сайт ежемесячно посещали 50 000 человек – и все они жаждали помощи в учебе. Как выяснилось, многие пользователи были студентами, которые не могли себе позволить личного репетитора. Сегодня Академия Хана – это некоммерческая организация, в которой работает более 250 сотрудников и которая помогает более чем 150 млн учащихся на более чем 50 языках по всему миру. Наша миссия – предоставление бесплатного образования мирового класса всем желающим, и мы воплощаем ее, масштабируя персонализированное обучение.

Я давно мечтал о том, чтобы наша организация стала репетитором для каждого учащегося в мире, и это стремление всегда было нашей главной целью. Но это не просто вопрос масштабирования персонализированной помощи. Задолго до появления Академии Хана было известно, что дети могут учиться гораздо лучше, если темп обучения адаптирован к ученику и позволяет каждому по-настоящему овладеть предметом, – это и есть полноценное обучение. Но сегодня класс из 30 человек часто переходит к следующей теме, даже если значительная часть учеников еще не овладела предыдущей. Очевидно, что обеспечение каждого ученика личным репетитором требует значительных затрат. Единственное приемлемое решение – это работа с технологиями. И я подумал, что технология искусственного интеллекта (ИИ) однажды может стать важной частью этой головоломки, а может быть, и святым Граалем, позволяющим создать настоящего виртуального репетитора.

Я не одинок в своей мечте. Писатель-фантаст Нил Стивенсон писал о потенциальном влиянии технологий на образование в своем романе «Алмазный век». Действие происходит в мире будущего, а концепция использования ИИ представлена в виде высокотехнологичной интерактивной книги «Иллюстрированный букварь для благородных девиц», которая обеспечивает персонализированным образованием своих юных пользовательниц. Роман Орсона Скотта Карда «Игра Эндера»[1]1
  Кард О. Игра Эндера. – М.: Азбука, 2022


[Закрыть] рассказывает о боевой школе, в которой используются передовые технологии ИИ для проверки и тренировки навыков стратегического мышления и принятия решений – с помощью личного ИИ-наставника по имени Джейн. В рассказе Айзека Азимова «Как им было весело» (1951) описывается школа будущего, в которой передовые технологии революционизируют образовательный процесс, повышая уровень индивидуального обучения и предоставляя ученикам персональные уроки и учителей-роботов.

Такая литература стала источником вдохновения для реальных инноваций. В интервью журналу Newsweek в 1984 г. соучредитель компании Apple Стив Джобс предсказал, что компьютеры станут «велосипедом» для нашего разума, расширяя наши возможности, знания и творческий потенциал, подобно тому как 10-скоростной велосипед расширяет наши физические возможности. На протяжении десятилетий нас завораживала идея о том, что с помощью компьютеров можно будет обучать людей.

Все эти научно-фантастические истории объединяет идея, что компьютеры в конце концов смогут имитировать то, что мы считаем интеллектом. И ученые уже более 60 лет работают над тем, чтобы сделать это реальностью. В 1962 г. компьютер IBM 7094 обыграл мастера шашек Роберта Нили. За несколько лет до этого, в 1957 г., психолог Фрэнк Розенблатт создал «Перцептрон» – первую искусственную нейронную сеть, компьютерную симуляцию нейронов и синапсов, обученную выполнять определенные задачи. Но в течение десятилетий, последовавших за этими инновациями раннего ИИ, наши вычислительные мощности позволяли работать с системами, соответствующими по сложности разве что мозгу дождевого червя или насекомого. Наши методы и данные для обучения ИИ также были ограниченными.

В последующие десятилетия технологии прошли долгий путь. Появились распространенные сегодня продукты и приложения – от рекомендательных систем видеоплатформ до персональных помощников с голосовым управлением, таких как Siri и Alexa. ИИ настолько хорошо имитирует человеческое поведение, что зачастую мы не можем отличить реакцию человека от реакции машины. И дело не только в развитии вычислительных мощностей – произошел ряд прорывов в направлении структурирования и обучения нейронных сетей. Один из последних прорывов произошел в 2017 г. с появлением технологии трансформеров[2]2
  Модель машинного обучения. – Прим. пер.


[Закрыть] Google, которая, помимо всего прочего, обеспечивает лучшее и более быстрое обучение, что позволяет точнее связывать слова и идеи.

То, насколько хороши эти системы, обычно зависит от сложности и архитектуры «модели», на которой они основаны. Можно сказать, что модель – это вычислительная репрезентация, которая пытается подражать чему-то из реального мира. Например, когда метеорологи пытаются предсказать путь урагана, они используют погодные модели, которые содержат программное представление миллиардов или триллионов атмосферных массивов – и прогнозируют, как эти массивы будут взаимодействовать друг с другом. Что же касается больших языковых моделей, таких как GPT-4 (сокращение от Generative Pre-trained Transformer – генеративный предобученный трансформер), – в сущности, это большие и мощные, хотя и цифровые, «пишущие мозги». Они специально разработаны для моделирования ассоциаций между словами – моделируются не атмосферные условия, а нейроны и синапсы.

Большие языковые модели обучают на колоссальном объеме информации из книг, статей, веб-сайтов и всевозможных письменных материалов. Анализируя и обрабатывая этот огромный объем текста, языковая модель изучает шаблоны, язык и контекст, в котором слова, предложения и абзацы сочетаются друг с другом. Когда вы задаете вопрос такой большой языковой модели, как GPT-4, она генерирует ответ, основываясь на результатах своего обучения на всех этих книгах, веб-страницах, видеозаписях и сообщениях в социальных сетях. У нее нет реального сенсорного опыта человеческого мозга, но она компенсирует это благодаря своему знакомству с такими объемами информации, каких никому из нас не прочитать, не просмотреть и не прослушать, будь у нас даже не одна жизнь.

Одной из новаторских исследовательских лабораторий, работающих в области дружественного[3]3
  Гипотетический тип ИИ, не оказывающий негативного влияния на человеческую цивилизацию и даже оказывающий ей материально-информационную поддержку. – Прим. пер.


[Закрыть], или социально позитивного, ИИ, была компания OpenAI. Летом 2022 г. я получил электронное письмо от Грега Брокмана, президента OpenAI, и Сэма Альтмана, генерального директора OpenAI. Они хотели встретиться и обсудить возможное сотрудничество. Мир вот-вот должен был перевернуться с ног на голову, хотя я еще не понимал этого.

Это произошло за четыре месяца до того, как OpenAI создала ChatGPT, и за семь месяцев до выпуска GPT-4. Руководство OpenAI хотело обсудить со мной возможное развертывание этих моделей. Конечно, я был заинтригован! Но тогда я еще не думал, что мы сможем что-то сделать вместе, – у меня не было твердой уверенности в том, что генеративные ИИ нового поколения могут быть пригодны для нашей миссии. Достижения ИИ-технологий в области текстов выглядели достаточно интересно – но, как я полагал, технология еще не обладала реальным знанием и не была способна к логическим или дедуктивным рассуждениям, как и к извлечению достоверных фактов. Но я с большим уважением относился к тому, чего уже добилась OpenAI.

Каждое последующее поколение генеративных моделей, как правило, было гораздо сложнее, чем предыдущее. Сложность модели непосредственно измеряется количеством параметров, которое она содержит. Параметр – это что-то вроде числа, описывающего силу связи между двумя узлами нейронной сети, представляющей большую языковую модель. Это в чем-то аналогично силе синапса между двумя нейронами в мозге. На момент первого запуска в 2018 г. GPT-1 имел более 100 млн параметров, год спустя GPT-2 насчитывал более 1 млрд параметров, в GPT-3 было более 175 млрд параметров, и ожидалось, что GPT-4, вероятно, будет иметь порядка 1 трлн параметров.

Мы выкроили время и встретились. Руководство OpenAI понимало, что расширенные возможности GPT-4 удивят, восхитят и, возможно, напугают людей. Поэтому они хотели запустить новую модель вместе с некоторым количеством надежных партнеров, которые смогут продемонстрировать реальные примеры дружественной, то есть социально положительной работы ИИ. Они сразу подумали об Академии Хана – не в последнюю очередь потому, что им также нужна была помощь в оценке самого ИИ. Они хотели показать, что GPT-4 способен к дедуктивным рассуждениям, критическому мышлению и реальной работе со знаниями, и посмотреть, как GPT-4 справится с вопросами по углубленному курсу биологии, которых у нас были тысячи.

И тогда я почувствовал, что очень хочу одним из первых на планете увидеть возможности GPT-4. Исходя из прошлого опыта я знал, что время по-настоящему изучать технологию наступает, когда она только приближается к совершенству. Если вы глубоко вникнете в технологию в тот момент, когда многие еще верят, что это не более чем игрушка или отвлекающий маневр, вы окажетесь в выигрышном положении, когда она будет готова к своему триумфу. Так было в самом начале становления видеообучения, когда многие скептики говорили, что YouTube – это просто праздное времяпрепровождение. Но первые же опыты показали, что видео по запросу может гораздо больше, чем показывать кошек, играющих на пианино, а именно – что оно действительно помогает людям учиться.

Сегодня студенты могут изучать практически что угодно с помощью видео по запросу, и это становится частью общепринятого образовательного процесса. Академия Хана играет здесь ведущую роль, используя видео для помощи сотням миллионов учащихся по всему миру. Мы также показали, что видео не заменяет учителя, а позволяет разгрузить часть лекции, высвобождая время для индивидуального обучения, практических занятий или бесед в классе. Это повышает, а не понижает ценность преподавателя. Вот и настало время проверить, сможет ли генеративный ИИ сделать то же самое – поддерживая учащихся, еще больше повысить ценность учителей.

Сэм и Грег начали демонстрацию GPT-4 с вопроса из углубленного курса биологии, который они взяли с сайта Университетского совета[4]4
  College Board – частная американская образовательная организация, которая разрабатывает и администрирует стандартизированные тесты и программы обучения, используемые средними и средне-профессиональными учебными заведениями, колледжами и университетами. – Прим. пер.


[Закрыть]. Меня попросили назвать ответ – прочитав вопрос, я сказал, что правильный ответ – C. Тогда они попросили GPT-4 ответить на вопрос, используя чат-интерфейс (похожий на уже привычный интерфейс ChatGPT). Через мгновение GPT-4 дал правильный ответ. У меня по коже побежали мурашки – это при моем-то скепсисе.

– Секундочку, – сказал я. – Этот ИИ может ответить на вопрос из углубленного курса биологии?

Может, ему просто повезло с этим примером, подумал я.

– Вы можете попросить его объяснить, как он получил ответ?

Грег набрал:

– Пожалуйста, объясни, как ты получил ответ.

GPT-4 предоставил нам четкое, простое и подробное объяснение в разговорном стиле. Казалось, что отвечает человек, а не машина. Я перестал скрывать свое изумление.

– Попросите его объяснить, почему другие варианты не верны.

Грег согласился, и GPT-4 тут же объяснил, почему все остальные варианты ответов были неправильными. Тогда я спросил Грега, способен ли GPT-4 придумать оригинальный вопрос по углубленному курсу биологии. Он придумал такой вопрос. А потом еще 10 таких вопросов.

Только два месяца спустя я понял, почему команда OpenAI показала мне вопрос именно по углубленному курсу биологии. Я посетил Билла Гейтса, чтобы рассказать ему о новостях Академии Хана, а он рассказал мне, что был впечатлен, когда впервые познакомился с GPT-3, но сказал команде OpenAI, что по-настоящему поверит в его возможности, если тот сможет сдать экзамен по углубленному курсу биологии. Как явствовало из той демонстрации, GPT-4 это мог.

– Это все меняет, – сказал я Грегу и Сэму.

В моей голове крутились возможные варианты того, как GPT-4 поможет переосмыслить образование, дипломы, работу и человеческий потенциал.

– Мы тоже думаем об этом, – сказал Сэм. – Это, конечно, не идеально, но технология становится все лучше. Кто знает – если мы все сделаем правильно, возможно, преподаватели захотят использовать это?

Технологии, которые еще недавно казались чем-то из «Звездного пути»[5]5
  «Звездный путь» (США) – более 800 сериальных эпизодов, 13 полнометражных фильмов, сотни книг и новеллизаций и огромный фандом, попавший в Книгу рекордов Гиннесса. Первые три сезона вышли в 1966–1969 гг.


[Закрыть], вдруг стали реальностью. То, что представляли себе величайшие фантасты, воплотилось в жизнь.