Читать книгу "Главные российские ИТ-тренды – 2024: дайджест"

Самый привлекательный тренд, который сейчас исследует большинство компаний, – разработка решений на базе ИИ. Действительно, наибольшее внимание к искусственному интеллекту было приковано в начале 2023 года, и на момент проведения опроса внедрить ИИ в свою деятельность успели чуть менее 30 % компаний. Показательно, что всего 20 % организаций не планируют внедрять ИИ. При этом все компании, которые уже используют ИИ, планируют увеличить инвестиции в это направление. Его практическое и предполагаемое использование больше всего распространено в операционной деятельности, в разработке и инжиниринге, в исследованиях, маркетинге и клиентском опыте.

Области текущего и ожидаемого применения ИТ-решений на базе соответствующих трендов (%)

ИНВЕСТИЦИОННАЯ ПРИВЛЕКАТЕЛЬНОСТЬ ИТ-ТРЕНДОВ

Респонденты, чьи компании уже внедрили ИТ-решения, относящиеся к тому или иному ИТ-тренду, ответили на вопрос, есть ли у них планы по увеличению инвестиций в развитие соответствующего направления.

Как показал опрос, российские компании в целом удовлетворены даже текущими результатами от использования ИТ-решений и видят в них значительный потенциал. Для различных ИТ-трендов доля компаний, которые планируют увеличивать объем инвестиций, колеблется в диапазоне от 82 до 100 %, причем максимальный показатель зафиксирован в отношении сразу трех трендов: «Автономные системы», «Новые технологии цифровой безопасности» и «Разработка решений, использующих ИИ».

Авторы исследования также хотели выяснить области применения ИТ-решений, основанных на соответствующих трендах. В качестве ключевых областей применения были выделены операционная деятельность, разработка и инжиниринг, исследования, маркетинг, цепи поставок и логистика, бэк-офис (обработка счетов, документооборот), HR, клиентский опыт. Области применения были отдельно проанализированы для компаний, которые уже внедрили соответствующие ИТ-решения, и для организаций, которые лишь исследуют возможности по их применению.

Области ожидаемого применения ИТ-решений на базе соответствующих трендов (%)

В случае с компаниями, которые уже внедрили соответствующие ИТ-решения, актуальным для наибольшего количества областей применения оказался тренд «Разработка решений, использующих ИИ». Значительную актуальность для различных областей применения продемонстрировали и такие тренды, как «Переход организаций к анализу совокупного опыта (сотрудников, клиентов, поставщиков, подрядчиков и т. д.) и внедрение соответствующих гибких ИТ-систем» и «Цифровые платформы: организация единого информационного пространства и алгоритмизация доступа».

Следующая часть анализа включает ответы респондентов, которые заявили о том, что на момент проведения опроса их компания только исследует возможность применения ИТ-решений на базе какого-либо тренда. Анализ данной группы компаний показал схожие результаты. Наиболее привлекательной областью применения для данной группы компаний оказалась операционная деятельность. Ей значительно уступают разработка и инжиниринг, маркетинг и клиентский опыт. HR – наименее привлекательная область применения для реализации соответствующих ИТ-решений. А «Исследования» и «Бэк-офис (обработка счетов, документооборот)» оказались наименее привлекательными областями применения для решений на базе рассматриваемых ИТ-трендов.

Самым привлекательным в данном случае оказался ИТ-тренд «Новые технологии цифровой безопасности», который опережает тренд на расширенную автоматизацию и тренд по разработке решений на основе ИИ. В качестве наименее интересных трендов, как и в предыдущем случае, фигурируют автономные системы и цифровые двойники.

АНАЛИЗ ОБЩИХ ДАННЫХ

Один из вопросов исследования касался импортозамещения компаниями иностранных ИТ-решений. Подавляющее большинство респондентов (73,6 %) заявили, что их организация осуществляет имплементацию отечественных решений взамен ушедших с российского рынка западных технологий. Тем не менее значимая группа компаний (26,4 %) заявила о том, что не проводит подобную имплементацию. Это позволяет говорить о том, что потенциал роста спроса на отечественные ИТ-решения не исчерпан. В российской экономике существует значительная доля предприятий, которые еще не приступили к замене иностранных ИТ-решений.

Еще один вопрос был нацелен на понимание того, насколько распространены сегодня инструменты управления внедрением цифровых инноваций. Можно ожидать, что компании, которые обладают подобными инструментами, способны осуществлять этот процесс быстрее, эффективнее и, что крайне важно, более предсказуемо. Результаты опроса показали, что подавляющее большинство компаний ограничиваются обычными инструментами управления проектами (60,4 %). Небольшая доля предприятий осуществляет только контроль рисков (11,3 %), а 28,3 % рассчитывают показатель возврата на цифровые инвестиции.

Также в рамках опроса мы выявили наиболее серьезные проблемы, с которыми сталкиваются российские компании при планировании и освоении новых цифровых решений. В первую пятерку вошли недостаток специалистов (программистов, архитекторов, дата-сайентистов); приоритизация инвестиций и/или разработок; отсутствие у персонала навыков, необходимых для имплементации решений, цифровая неграмотность; правильный выбор новых технологий; наличие старых систем с несовершенным кодом и архитектурой.

Интересно, что вариант «Отсутствие заинтересованности у руководства» оказался наименее популярным: подобный ответ дал только один респондент. Непопулярным стал и ответ «Отсутствие поддержки со стороны поставщика», что позволяет говорить как о высокой заинтересованности российских поставщиков, так и о качественных процессах взаимодействия и поддержки.

И наконец, в рамках опроса мы хотели выяснить, насколько сами специалисты заинтересованы в изучении ИТ-трендов. Более половины участников опроса – директора и старшие менеджеры, от осведомленности которых о перспективах использования цифровых технологий зачастую зависят начало и последующая реализация соответствующих проектов. При этом специалисты и мидл-менеджеры, как правило, хорошо осведомлены о деятельности организации и ее процессах и могут выявить области потенциального применения ИТ-трендов.

Результаты опроса показали, что сотрудникам наиболее интересны такие ИТ-тренды, как разработка решений, использующих ИИ (56,6 %); суперприложения (41,5 %); обогащение и интеграция разнородных распределенных данных (39,9 %). Также сотрудники заинтересованы в вопросах импортозамещения, достижения цифрового суверенитета, генеративного искусственного интеллекта и в регулировании областей применения ИИ.

В этом сборнике эксперты, разбирая 10 ключевых российских ИТ– трендов, используют не только полученные в ходе опроса данные, но и профессиональный опыт экспертов, статистику и информацию из открытых источников.

Состав актуальных ИТ-трендов российской экономики, вероятно, будет меняться год от года – как будет меняться и экономический, политический, социальный и культурный контекст, внутри которого существует российская экономика и функционируют отечественные предприятия.

Евгений Зараменских – профессор, руководитель департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ.

Тренд № 1
Искусственный интеллект

Искусственный интеллект снова атакует
Евгения Чернозатонская
Мир переживает волну интереса к искусственному интеллекту, а бизнес готов вкладывать миллиарды в ИИ-решения. Оправданны ли эти инвестиции?

По данным опроса Высшей школы бизнеса НИУ ВШЭ, 80 % компаний уже применяют или собираются применять инструменты искусственного интеллекта (ИИ) в своих бизнес-процессах. Напомним, что ИИ – это обширная и разнородная область Computer Science, включающая такие направления, как нейросети, машинное обучение, глубинное обучение, обучение с подкреплением, компьютерное зрение и общение на естественном языке.

Задачи, с которыми должны справляться машины, чтобы их можно было считать «интеллектуальными», – умение распознавать изображения, решать задачи, понимать человеческий язык, анализировать данные и выдавать экспертные оценки – были определены более полувека назад.

Тогда же появился термин «искусственный интеллект». Удивительно, что ранние ИИ-разработки были сосредоточены в основном на классических играх, в первую очередь шахматах, а также на попытках алгоритмического машинного перевода, которые велись с конца 1950-х. Именно успехи в игровом поединке с человеком считались мерой разумности машины.

В 1996 году весь мир следил за матчем компьютера Deep Blue с тогдашним чемпионом мира по шахматам Гарри Каспаровым (признан в России иноагентом). Победа Deep Blue принесла славу ее создателям и подняла акции компании IBM, вложившейся в этот проект.

Сейчас ИИ проник во все сферы человеческой деятельности: образование, науку, искусство, промышленность и транспорт. А когда вычислительные мощности перестали ограничивать объемы обработки данных, компании стали производить их в невиданных прежде масштабах, и бизнес вступил в эру ИИ.

У этого понятия есть разные определения. Они довольно сложные, поэтому мы воспользуемся объяснением «на пальцах», предложенным Рубеном Ениколоповым, научным руководителем Российской экономической школы[11]11
  Ениколопов, Рубен, Стельмах, Иван. Дискуссия «Экономические эффекты искусственного интеллекта» // Просветительские дни РЭШ – 2023 (https://www.youtube.com/watch?v=jkguwhxl5fM&t=1971s). Дата обращения: 10.09.2023.


[Закрыть].

Допустим, что у нас есть таблица Excel. В первой колонке число, во второй – тоже число, а в третьей – их произведение. Excel сама перемножит числа, если вы введете формулу умножения. А теперь представим себе, что формулы нет, но есть несколько строк из трех чисел: множитель, множитель, произведение и т. д. Вы хотите, чтобы машина сама догадалась, что в третьей колонке произведение чисел. Это и есть задача для ИИ, и сейчас он решает ее для огромных и многомерных массивов данных разного формата, а вместо простой формулы произведения выдает сложные интегральные метрики. Бизнес-применение ИИ опирается в первую очередь на его способность улавливать закономерности в массивах данных.

ЭКОНОМИКА

Системы, которые относятся к классу ИИ, – многомиллиардная индустрия. По прогнозу IDC[12]12
  IDC Worldwide Artificial Intelligence Spending Guide 2023 – Forecast 2023 //idc.com (https://www.idc.com/getdoc. jsp?containerId=prUS50454123). Дата обращения: 10.09.2023.


[Закрыть], в 2023 году мировой объем инвестиций в ИИ достигнет $154 млрд, а к 2026 году – $300 млрд (в оценку включены софт и «железо»). Как распределятся эти миллиарды? Из 36 сфер применения ИИ, выделенных IDC, cамыми востребованными в 2023 году будут умные чат-боты для поддержки клиентов, системы анализа продаж и рынков и рекомендательные сервисы. В эти направления будут вкладываться компании всех отраслей, и в совокупности они принесут поставщикам решений примерно $40 млрд. Также значительными будут инвестиции бизнеса в технологии ИИ для оптимизации ИТ-инфраструктуры, расширенной аналитики киберрисков, анализа и расследований мошенничества и обмана. Отрасли с наибольшими инвестициями в ИИ – банковский сектор и ретейл (см. врез справа).

Искусственный интеллект – обширная и разнородная область Computer Science, включающая такие направления, как нейросети, машинное обучение, глубинное обучение, обучение с подкреплением, компьютерное зрение и общение на естественном языке

Исследовательские фирмы Precedence Research[13]13
  Artificial Intelligence (AI) Market Size, Growth, Report By 2032 // Precedence Research, 2023 (https://www.precedenceresearch.com/ artificial-intelligence-market). Дата обращения: 10.09.2023.


[Закрыть] и Acumen[14]14
  Generative AI Market Size. Global Industry, Share, Analysis, Trends and Forecast 2022–2030 // Acumen. 2022 (https://www. acumenresearchandconsulting.com/generative-ai-market). Дата обращения: 10.09.2023.


[Закрыть] тоже предсказывают бурный рост инвестиций в ИИ в 2023-м и последующие годы. Однако исследование Стэнфордского университета свидетельствует о том, что это будет не только рост, но и восстановление: в 2022 году корпоративные инвестиции в ИИ упали на 26,7 % по сравнению с 2021 годом. Этому охлаждению, однако, предшествовал серьезный рост: с 2013 по 2020 год инвестиции корпоративного сектора в ИИ увеличились в 18 раз. Главным фактором роста был не утихающий вплоть до 2020 года оптимизм и даже хайп вокруг машинного обучения и ИИ в целом, подогреваемый бизнес-гуру. Откат начался в 2021 году, а в 2022 году снизилось как общее число сделок по приобретению решений с ИИ, так и число ИИ-стартапов[15]15
  Artificial Intelligence Index Report 2023 // Stanford University, Human-Centered Artificial Intelligence, 2023 (https://aiindex.stanford. edu/wp-content/uploads/2023/04/HAI_AI–Index-Report_2023.pdf). Дата обращения: 10.09.2023.


[Закрыть]. Вероятно, сказалось разочарование: лишь небольшая доля компаний смогла нарастить доход и прибыль благодаря ИИ-решениям. Доля американских компаний, которые внедрили их хотя бы в одном функциональном подразделении, перестала расти: согласно опросу McKinsey, в 2019 году таковых было 58 %, а в 2022 году – лишь 50 %. Сказались и неудачный опыт внедрения ИИ в разные функции компаний, и общее разочарование в его возможностях, связанное с пандемией: роль ИИ в предиктивной аналитике была неубедительной. Автор статьи в HBR связывает это в первую очередь с качеством данных, которыми пользовались национальные системы здравоохранения[16]16
  Chakravorti, Bhaskar. Why AI Failed to Live Up to Its Potential During the Pandemic // HBR, 17 марта 2022 (https://hbr.org/2022/03/why-ai-failed-to-live-up-to-its-potential-during-the-pandemic). Дата обращения: 10.09.2023.


[Закрыть].

В 2022 году бизнес не спешил внедрять разработки по ИИ в повседневную практику. «Многие компании, которые решили строить собственные приложения на основе ИИ и аналитики, сталкиваются с одной и той же проблемой. Они нанимают дата-сайентистов, те строят модели, но эти модели редко реализуются на практике. Недавний опрос дата-сайентистов показал, что лишь 20 % моделей реально дошли до имплементации», – пишет евангелист применения ИИ в бизнесе Томас Дэвенпорт[17]17
  Davenport, Thomas, Bean, Randy, Jain, Shail. Why Your Company Needs Data-Product Managers // HBR, 13 октября 2022 (https://hbr. org/2022/10/why-your-company-needs-data-product-managers). Дата обращения: 10.09.2023.


[Закрыть].

Вектор снова повернул вверх с приходом ChatGPT (подробнее о ней на с. 31). Бизнес опять поверил в то, что ИИ-решения способны обеспечить подъем эффективности в разных сферах. Инвестиции в стартапы, которые имели в своем описании генеративный ИИ (generative artificial intelligence), в I квартале 2023 года взлетели в разы – до $12 млрд. Даже без учета тех $10 млрд, которые компания Microsoft вложила в создателя ChatGPT OpenAI, рост год к году составил 58 %. А уже летом 2023 года американский канал CNN заговорил о новом ИИ-пузыре[18]18
  Cooban, Anna. AI investment is booming. How much is hype? // CNN, 23 июля 2023 (https://edition.cnn.com/2023/07/23/business/ai-vc-investment-dot-com-bubble/index.html). Дата обращения: 10.09.2023.


[Закрыть] с неясным будущим (в том числе из-за быстро меняющейся регуляторной среды).

По мнению доцента факультета компьютерных наук НИУ ВШЭ Евгения Соколова, сейчас технологии ИИ находятся на поворотном этапе: алгоритмы действительно работают и могут приносить пользу, но при этом мы мало понимаем их свойства, ограничения и потенциальные риски: «Грубо говоря, мы умеем получать гигантскую формулу, которая выдает очень неплохие решения задачи, но при этом не можем в этой формуле разобраться и гарантировать ее корректность. А без понимания устройства этих алгоритмов невозможно говорить об их надежности, стабильности и непредвзятости».

РОССИЙСКИЙ РЫНОК ИИ

Правительство России до 2030 года направит около 24,6 млрд руб. на развитие технологий ИИ, еще около 100 млрд руб. в это направление вложит «Сбер», следует из утвержденной властями дорожной карты. К 2024 году, согласно этому документу, объем рынка технологий на базе ИИ в России составит 14 млрд руб. Это более чем в 10 раз меньше оценок, заложенных в аналогичную программу от 2019 года, отмечает «Коммерсантъ»[19]19
  Королев, Никита. Искусственный интеллект пошел на убыль // Коммерсантъ, 18 января 2023 (https://www.kommersant.ru/ doc/5773647). Дата обращения: 10.09.2023.


[Закрыть]. Но даже обновленные планы реализовать будет сложно, считают эксперты: для этого просто не хватит высокопроизводительного зарубежного оборудования вроде видеокарт Nvidia.

Лидеры финтехрынка в России инвестировали в ИИ около 600 млрд руб. за последние 10 лет, говорится в свежем исследовании ассоциации «ФинТех»[20]20
  Ассоциация Финтех. «Применение технологий искусственного интеллекта на финансовом рынке». 31 июля 2023 (https://www. fintechru.org/analytics/issledovanie-primenenie-tekhnologiy-iskusstvennogo-intellekta-na-finansovom-rynke/). Дата обращения: 10.09.2023.


[Закрыть]. По данным опроса, к середине 2023 года 80 % финансовых компаний имеют подразделения по анализу данных, но только у 17 % компаний есть централизованные структуры по работе с ИИ-решениями. 95 % компаний финансового сектора используют ИИ-технологии в основных процессах. Респонденты отметили, что главными барьерами внедрения ИИ являются дефицит профильных специалистов, а также отсутствие отечественных инструментов для работы с машинным обучением.

По словам Германа Грефа, в «Сбере» ИИ широко применяется в разных бизнес-функциях. В интервью РБК[21]21
  Ткачев, Иван, Парфентьева, Ирина. Герман Греф – РБК: «Пришлось научиться планировать и жить вкороткую» // РБК, 14 июня 2023 (https://www.rbc.ru/economics/14/06/2023/648050839a79477c585f6318?from=column_1). Дата обращения: 10.09.2023.


[Закрыть] он сказал: «<…> На сегодняшний день в подавляющем большинстве наших сервисов мы локализовали собственные разработки на 100 %. Это же касается искусственного интеллекта. Все, что касается <…> больших языковых моделей и трансформеров, это от начала до конца наша собственная разработка. И мы не зависим ни от каких вендоров». По словам Грефа, у «Сбера» достаточно собственных данных, чтобы обучить свои модели, а единственное узкое место – это «железо». «Для задач искусственного интеллекта нужны специализированные чипы, так называемые ASIC [application-specific integrated circuit, интегральная схема для конкретного применения], и целый ряд других специализированных инструментов, которые производят несколько компаний в мире. Это сегодня вызов». Свои ИИ-решения, например по Deep Learning, «Сбер» использует в разных частях экосистемы, но не как коммерческий продукт.

Особые риски систем ИИ: нарушение авторских прав, дискриминация, высокие энергозатраты

Перспективы развития ИИ в банковском секторе видит и Банк России. В начале апреля регулятор заявил о собственных планах создания центра компетенций по ИИ.

В «Яндексе» ИИ интегрирован во множество сервисов: собственно поиск, YandexGo, Yandex Market. «Яндекс» разрабатывает свою версию генеративной сети ChatGPT на базе решений GPT-3 от компании OpenAI. Проект в итоге назвали YandexGPT. YandexGPT умеет тезисно пересказывать текст (сервис 300.ya.ru), а также генерирует тексты в режиме реального времени и форматирует их. В августе 2023 года «Яндекс» объявила, что на технологической платформе «Яндекс. Учебник» будет построена образовательная нейросеть на базе YandexGPT для помощи в изучении программирования. Ожидается, что бесплатный обучающий сервис для детей и подростков появится в открытом доступе в 2024 году.

По данным CNews[22]22
  Анищук, Наталья. Искусственный интеллект изменит мировую экономику // CNews, 22 июня 2023 (https://corp.cnews.ru/reviews/ ii_2023/articles/iskusstvennyj_intellekt_izmenit). Дата обращения: 10.09.2023.


[Закрыть], российский рынок ИИ быстро растет, суммарная выручка топ-10 участников третьего рейтинга крупнейших игроков увеличилась на две трети. С 2022 года российский бизнес активно внедряет распознавание и синтез речи, чат-боты и голосовых виртуальных ассистентов.

Дмитрий Дырмовский, CEO группы компаний ЦРТ (занимает второе место на рынке ИИ по версии CNews), основываясь на статистике заказчиков своей компании, отмечает повышение интереса к речевой аналитике и диалоговым ассистентам. «Направление диалоговых ассистентов – текстовых и голосовых роботов для банков, телекомкомпаний, госсектора – в 2022 году выросло на 90 % по сравнению с 2021 годом; развивались проекты по голосовому заполнению медицинских протоколов», – говорит он. Второе по количеству проектов направление ИИ в российских компаниях и в госсекторе – распознавание изображений и компьютерное зрение, отмечает Дырмовский.

По оценке Александра Корнева, операционного директора Rubbles, доля собственной и заказной разработки на российском ИИ-рынке измеряется десятками процентов: «Это связано с тем, что для многих западных решений, ушедших с рынка, нет прямых российских аналогов. То есть у заказчиков нет другой возможности, кроме разработки с нуля – самостоятельно или с привлечением аутсорсера».

«Многие ведущие российские компании разных отраслей – металлурги, энергетики и даже РЖД – внедряют собственные разработки по ИИ для оптимизации ИТ-архитектуры и операций, – говорит профессор департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ Петр Панфилов. – И чаще всего они пользуются библиотеками из open source. Алгоритмы, на основе которых строятся ИИ-решения, универсальны – математика не делится на западную и отечественную. Российские математики сильные, и у разработчиков ПО есть очень продвинутые решения. Наша проблема в ИИ, как и во многом другом, – долгий, а зачастую и непреодолимый путь от разработки до промышленного внедрения».

«В России фундаментальными исследованиями в сфере ИИ занимаются не только университеты, но и ряд компаний. К примеру, исследователи из „Яндекса“, „Сбера“, „Тинькофф“ регулярно публикуют свои результаты на ведущих конференциях по ИИ. Уверен, что если инвестиции в такую работу сохранятся, то скоро появятся прорывные методы, разработанные уже нашими учеными», – полагает Евгений Соколов.

ЗАКОНЫ И ЭТИКА

В 2022 году в мире было принято 37 законов, регулирующих разработку и применение систем ИИ. На диаграмме видно, как госрегулирование отрасли усиливается в последние годы. По оценке EY, совокупные затраты компаний списка Fortune 500 на комплаенс в сфере данных в 2022 году могли составить $8 млрд[23]23
  How to prepare for global data compliance // EY, 4 мая 2021 (https://www.ey.com/en_us/consulting/how-to-prepare-for-global-data-compliance). Дата обращения: 10.09.2023.


[Закрыть]. «Сейчас более 100 юрисдикций – страны, штаты и города – вводят собственные законы о персональных данных. Это дополнительно отягощает прохождение лабиринта регуляторных требований, в котором может заблудиться практически любая глобальная компания, взаимодействующая с потребителем. Все это сравнимо с появлением нового налога: большие расходы, большие риски, сложность выполнения требований и невозможность от него уйти», – пишут эксперты EY[24]24
  Там же.


[Закрыть].

Одной из главных вех в регулировании этой сферы стало появление в 2018 году общего регламента ЕС о защите персональных данных, устанавливающего штрафы за нарушения в размере от €10 млн до €20 млн или от 2 до 4 % от глобальной выручки для компаний. За прошедшие годы примеру ЕС последовали и другие страны. В США законодательство о защите данных постоянно ужесточается, неуклонно приближаясь к европейскому. Понятно, что всех беспокоит риск утечек персональных данных, но какой вред человеку и обществу могут нанести машинное обучение и ИИ?

Известно, однако, что с цифровым разумом сопряжены особые риски: нарушение авторских прав, дискриминация, высокие энергозатраты и пр. В сфере найма, например, ИИ отличает предвзятость в отношении женщин, расовых меньшинств и людей с ограниченными возможностями – ведь у них, как правило, послужные списки хуже. Компания Amazon потратила несколько лет и миллионы долларов на разработку механизма найма с использованием ИИ, а затем выбросила этот алгоритм, поняв, что не может устранить в нем дискриминацию женщин[25]25
  Dastin, Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women // Reuters.com, 11 октября 2018 (https://www. reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G). Дата обращения: 10.09.2023.


[Закрыть].

14 июня 2023 года Европейский парламент принял проект закона об ИИ[26]26
  Artificialintelligenceact.eu (https://artificialintelligenceact.eu/developments/). Дата обращения: 10.09.2023.


[Закрыть], который серьезно ограничит использование программного обеспечения с ИИ для распознавания лиц, а также потребует от создателей систем ИИ, таких как чат-бот ChatGPT, раскрывать больше информации о данных, используемых при разработке их решений. Другое положение запрещает компаниям собирать биометрические данные из социальных сетей для наполнения баз данных ИИ. Эта практика вызвала пристальное внимание после того, как ее использовала компания Clearview AI – лидер в системах распознавания лиц.

Европарламентарии также добавили запрет на использование технологий определения эмоций правоохранительными органами, пограничными службами, на рабочих местах и в учебных заведениях. Ожидается, что окончательный вариант закона будет принят до конца 2023 года.

Проект закона предполагает запрет в ЕС разработок с неприемлемым уровнем ИИ-риска. Что касается разработок с ограниченным ИИ-риском, то главное требование к ним таково: пользователь должен быть осведомлен о том, что взаимодействует не с человеком, а с роботом. Компании с высоким уровнем риска по ИИ должны будут подчиняться правилам, среди которых, например, такие:

• внедрение системы управления рисками;

• контроль управления данными;

• техническая документация;

• надзор человека за работой ИИ;

• транспарентность и доступность информации для пользователей;

• кибербезопасность;

• аудит кибербезопасности;

• регистрация в одной из стран ЕС;

Оценка комплаенса основных моделей ИИ с проектом закона ЕС об искусственном интеллекте

• контроль отдаленных последствий.

Нарушения правил повлечет штрафы до €30 млн или 6 % глобальной выручки.

Ученые из Стэнфордского центра Hai (Human-Centered AI) проанализировали действующие модели ИИ с точки зрения их соответствия новым правилам ЕС. Почти половина из них не дотянула и до 24 баллов по 48-балльной шкале[27]27
  Bommasani, Rishi, Klyman, Kevin, Zhang, Daniel, Liang, Percy. Do Foundation Model Providers Comply with the Draft EU AI Act? // Stanford University Center for Research of Foundation Models, 15 июня 2015 (https://crfm.stanford.edu/2023/06/15/eu-ai-act.html). Дата обращения: 10.09.2023.


[Закрыть].

Исследовательская компания Gartner выделила в отдельный тренд 2023 года системы управления рисками в сфере ИИ (AI Trust, Risk and Security Management – AI TRiSM). В качестве примера этического контроля ИИ Gartner приводит Датское управление бизнеса (DBA), которое выработало специальные методы. DBA устанавливает системы мониторинга, а также конкретными действиями проверяет справедливость аналитики ИИ. С помощью этого подхода уже контролируется 16 моделей ИИ, которые применяются в финтехе с совокупным объемом транзакций в миллиарды долларов[28]28
  Top Strategic Technology Trends 2023 // Gartner, 2023 (https://emtemp.gcom.cloud/ngw/globalassets/en/publications/documents/2023-gartner-top-strategic-technology-trends-ebook.pdf). Дата обращения: 10.09.2023.


[Закрыть].

В России законодательства в сфере ИИ не существует. По мнению руководителя практики по авторскому праву компании DRC Владимира Ожерельева, в нашей стране регулирование ИИ, скорее всего, пойдет по пути централизации управления нейросетями в руках государства и крупных корпораций. «Мы наблюдаем это как минимум в последних изменениях норм об обработке биометрических данных. Примеры злоупотреблений в сфере распознавания лиц уже заметны», – говорит он[29]29
  Гаврилюк, Анастасия, Рожков, Роман. Зачем регулировать искусственный интеллект и как это затронет его развитие в России // Forbes.ru, 22 мая 2023 (https://www.forbes.ru/tekhnologii/489563-zacem-regulirovat-iskusstvennyj-intellekt-i-kak-eto-zatronet-ego-razvitie-v-rossii). Дата обращения: 10.09.2023.


[Закрыть].

В 2021 году в России был принят Кодекс этики в сфере искусственного интеллекта[30]30
  Альянс разработчиков искусственного интеллекта. Кодекс этики в сфере ИИ (https://ethics.a-ai.ru/assets/ethics). Дата обращения: 10.09.2023.


[Закрыть], который, правда, не является обязательным. Ряд компаний, например «Сбер», имеют собственные этические нормы для систем ИИ (см. врез ниже)[31]31
  Принципы этики искусственного интеллекта Кодекс корпоративной этики и делового поведения. Искусственный интеллект // sber.ru (https://www.sberbank.com/ru/about/ethics/interactive) // sber.ru (https://www.sberbank.com/ru/sustainability/principles-of-artificial-intelligence-ethics). Дата обращения: 10.09.2023.


[Закрыть].

7 августа 2023 Конгресс США принял законопроект об ИИ, который обяжет компании бигтеха делиться датасетами с научными коллективами и стартапами, занимающимися созданием интеллектуальных систем. Законопроект исходит из того, что сейчас финансовые ресурсы, необходимые для сбора, хранения и управления массивами из петабайтов информации, есть только у ИТ-гигантов. Если доступ к этим массивам будет и у научного и предпринимательского сообщества, ИИ-разработки ускорятся[32]32
  Wald, Russel. We Must Pass the Create AI Act // Stanford University, Human-Centered Artificial Intelligence, 10 августа 2023 (https://hai. stanford.edu/news/we-must-pass-create-ai-act). Дата обращения: 10.09.2023.


[Закрыть].

В мае 2023 года HBR опубликовал подборку статей ведущих профессоров разных дисциплин – от истории до сomputer science – на тему этичности систем ИИ. Их выводы пессимистичны: ИИ-приложения разрабатывают и используют без оглядки на такие моральные ценности, как справедливость и достоинство человека, достоверность информации, личная безопасность и неприкосновенность частной жизни.

«Разработчики в Кремниевой долине десятилетиями действовали по принципу “двигайся быстрее, сметая все на своем пути”, – пишет Маргарет O’Мара, руководитель кафедры истории Университета Вашингтона. – Видеоигры в 1980-х, онлайн-платформы шопинга в нулевые, затем социальные сети, а теперь вот разговорный ИИ». И пока не известно, сколько и чего наломают разработчики в сфере ИИ, если не поставить их в четкие рамки закона[33]33
  What Does the Tech Industry Value? The Big Idea Series / Ethics in the Age of AI // HBR.org, 9 мая 2023 (https://hbr.org/2023/05/what-does-the-tech-industry-value?ab=seriesnav-bigidea). Дата обращения: 10.09.2023.


[Закрыть], заключает автор. В другой статье HBR Цедал Нили[34]34
  Tsedal Neeley. 8 Questions About Using AI Responsibly, Answered. The Big Idea Series / Ethics in the Age of AI // HBR.org, 9 мая 2023 (https://hbr.org/2023/05/8-questions-about-using-ai-responsibly-answered). Дата обращения: 10.09.2023.


[Закрыть] напоминает, что непрозрачность является оборотной стороной использования этих мощных систем. И поэтому лидеры бизнеса должны особенно ответственно подходить к инструменту ИИ, всякий раз оценивая его риски и документируя, в каких задачах и с какой целью он был задействован.

Евгения Чернозатонская – ведущий эксперт Высшей школы бизнеса НИУ ВШЭ.