Текст книги "Инновации от идеи до рынка"

c) неправильные действия вследствие нехватки объемов используемых или актуальных данных, или неточных выводов заданного алгоритма обучения;

d) проблему взаимодействия при автономии ИИ, когда человек и машина совместно управляют процессом (например, в рассказе С. Лема пилот Пиркс был вынужден в критической ситуации космического полета разгадывать ловушку ИИ).

Неверные, недостаточно обученные, плохо понятные алгоритмы, искажение данных и неверная статистическая аппроксимация могут привести к ошибочным результатам, которые могут иметь широкомасштабные последствия для жизни людей. Недавно беспилотные автомобили Tesla вышли из строя, что привело к гибели людей. Ошибки ИИ, возникшие в результате неисправности или плохой конструкции моделей, могут иметь самые разнообразные последствия в условиях критического ограничения времени, например, в сфере здравоохранения, или на поле военного конфликта. На решение многих сложных проблем безопасности ИИ могут уйти годы. С учетом множества случаев из текущей практики реализации продуктов ИИ в 2023 г. страны «большой семерки» согласовали ряд ограничивающих и формализующих рекомендаций разработчикам ИИ.

«Создателей ИИ призывают принимать меры для выявления и снижения рисков на протяжении всех этапов разработки, выявлять и устранять уязвимости, а также инциденты и модели неправильного использования. Предлагают разработать и внедрить механизмы удостоверения содержания и установления его происхождения в случаях, где это технически возможно, в том числе путем использования водяных знаков и других методов, позволяющих пользователям идентифицировать контент, созданный ИИ. Разработчики должны открыто сообщать о возможностях и ограничениях создаваемых систем ИИ, а также о сферах их надлежащего и ненадлежащего применения, для обеспечения прозрачности использования. Компании призывают работать над ответственным обменом данными об инцидентах. Разработчики ИИ должны инвестировать в создание систем контроля безопасности, отдавать приоритет изучению способов снижения рисков для безопасности, а также методов смягчения последствий таких рисков. Разработчиков систем ИИ призывают содействовать созданию и принятию международных технических стандартов по принадлежности, а также внедрить меры защиты персональных данных и интеллектуальной собственности (конец цитаты)».

Эти тезисы лишний раз подчеркивают опасения, что массовое применение систем машинного интеллекта может привести к хаосу общественного существования, при отсутствии конкретных ответственных лиц за возможные инциденты или даже катастрофы. Можно прогнозировать, что на данном этапе развития изложенные «благие пожелания» вряд ли будут выполняться согласно тексту, потому что потребуют дополнительных инвестиций в повышение качества ИИ и раскрытия имеющихся уязвимостей коммерческой продукции во вред прибыльности.

Российские эксперты также считают, что настало время упаковать машинный интеллект в понятные для всех правовые рамки. Например, чат-бот, робот, голосовой помощник с первой секунды общения должны себя идентифицировать, называя свой регистрационный номер. Когда автомобили признали источником повышенной опасности, каждому присвоили регистрационный номер, видимый для всех, создали дорожные правила и дорожную инфраструктуру, и предусмотрели меры ответственности водителей и пассажиров. Кстати, пора аналогичные меры применить к неконтролируемо используемым электросамокатам, уже нанесшим немало травм пешеходам. Необходимо юридически устанавливать факт причинения вреда действиями или бездействиями автономного «умного» робота. Далее следует установить и дать юридическую квалификацию действиям или бездействиям программиста, производителя, пользователя, иного лица, а также связи между этими лицами и причинившим вред автономным ИИ. Определенную причинно-следственную связь на уровне экспертных исследований можно будет выявить и доказать при соблюдении закрепленных в «Национальной стратегии развития искусственного интеллекта в РФ на период до 2030 года» принципов безопасности и прозрачности.

Недавнее сообщение интернета гласит, что проектировщики новых кораблей в Китае не успевают выполнять обширную переделку конструкторской документации из-за массы изменений в проектах. Был разработан ИИ-конструктор подсистем военных кораблей, который за день выполняет работу трехсот человек. К инженерному внедрению в практику готова линия автоматизированного проектирования электрической подсистемы кораблей. Созданный командой из Китайского центра проектирования машинный интеллект делает узкоспециализированную работу, данные для которой берутся из базы проектов последних десяти лет и адаптируются для новых конструкторских решений. Важно, что при этом ИИ, в отличие от людей, не делает ошибок. Фактически данный ИИ ничего принципиально нового не изобретает, использует сделанную человеком базу СУЗ, и работает под прямым руководством человека. Но это значительно сокращает объём необходимых для работы человеческих ресурсов и исключает ошибки. Можно видеть, что в данном тексте термин ИИ по сути применен к экспертной системе, с расширенным участием компьютера.

На основании изложенного можно заключить, что в настоящее время в технических, быстро развивающихся отраслях, несмотря на привлекательность применения, машинный интеллект имеет ряд определенных ограничений для использования в ОКР.

1. Новые разработки часто включают расширенные области эксплуатационных параметров, статистически достоверный объем экспериментальных данных по которым либо минимален, либо вовсе отсутствует. Это сводит результат процесса обучения ИИ к нулю.

2. Следует принимать во внимание, что данные, используемые для обучения ИИ, имеют естественную точку отсечения по времени. То есть критическая новая информация может не попасть в базу знаний модели. Кроме того, требуется постоянное пополнение базы данных обучения используемого ПО. Это не является уязвимостью ИИ для автономного сочинения музыки или написания романов, но может создать проблему для разработчиков ОКР, имеющих доступ к новейшим знаниям, особенно в тех областях исследований, где ситуация быстро меняется.

3. Качество данных для сложных объектов, статистически генерируемых с помощью ИИ по ограниченному набору экспериментальных точек, может оказаться неприемлемым, приводя к недокументированным возможностям, типа возникающих при разработке ПО. Сюда входят не только точность алгоритмических прогнозов, но и потенциальные отклонения, которые могут присутствовать в обучающих данных. Нужно и важно учитывать, какие конкретные данные и насколько своевременно были включены в базу сведений, используемую для обучения.

4. Эмпирическая практика промышленной деятельности корпораций-лидеров существенно различается по подходам и содержанию процессов и алгоритмов разработки инноваций, что снижает вероятность появления объединенных отраслевых систем ИИ или их компонентов.

5. Сложно и затратно по времени проконтролировать и оценить результаты обучения ИИ, в ходе инженерных решений возможно появление неожиданных вариантов выводов. Так как модели ИИ являются для пользователя черными ящиками, не всегда ясно, как ИИ пришел к определенному выводу и насколько надежны полученные результаты, что затрудняет их своевременную верификацию.

6. Многие критические данные, нужные для расширения области обучения ИИ, крупные компании не выкладывают в общий доступ, относя их к своим «ноу-хау».

7. Разработка специализированных баз знаний для машинного интеллекта становится отдельной отраслью работ, требующей участия обученного персонала, а также существенных вложений финансовых и человеческих ресурсов.

8. При неудачном использовании результатов деятельности ИИ сегодня нет юридических оснований определения ответственных за возможные инциденты.

Все перечисленные ограничения подчеркивают необходимость приоритетно рассматривать ИИ для ОКР в варианте гибридного интеллекта, где люди непосредственно встроены в процессы и сохраняют контроль над результатами работ. Кроме того, внедрение технологии гибридного интеллекта в ОКР требует коррекции одной из фундаментальных задач управления ОКР, организации разделения труда и распределения задач в команде проекта. Развитие ИИ является областью компьютерных процедур принятия решений и структуры данных, а исследования соответствующих технических приложений ИИ в основном сосредоточены в инженерных отраслях. Поэтому реализация гибридного интеллекта в ОКР представляет собой новую и сложную задачу управления техническими проектами на основе системного подхода.

Можно предполагать, что в роли экспертных систем ИИ продолжит, в основном, опираться на известные физические закономерности, а процесс глубинного обучения будет сказываться на тонких эффектах второго и третьего порядка. Аналогичная картина наблюдалась при внедрении трехмерного ПО для методов расчета задач прочности, теплопередачи и газовой динамики. Некоторый прогресс сравнительно с ручными методами достаточно быстро замедлился из-за увеличения на порядок объемов потребных экспериментальных данных для тестовых задач в дорогостоящем и затратном по трудоемкости процессе отладки и верификации трехмерных программ.

Требование к компаниям сделать свое программное обеспечение ИИ общедоступным и прозрачным также будет создавать проблемы. Потребители должны будут понять, что алгоритм ИИ, скорее всего, будет постоянно меняться с течением времени или с учетом новых входных данных. Компании начнут оформлять права на сохранение ПО своего ИИ в собственности. Надо также учесть опыт распространения более простого поколения ПО компаний Microsoft, Google, Apple и других. Он показал, что разработчики активно используют встроенные функции в продуктах ПО для слежения за пользователем, копирования чувствительной информации из гаджетов, возможностей дистанционного отключения покупной аппаратуры, что, вероятно, также будет широко использовано в системах ИИ.

Развитие и внедрение в организациях и холдингах систем управления конкретными отраслевыми знаниями (СУЗ) несет быстрые и заметные выгоды, более прозрачно прослеживается, обходится существенно дешевле систем ИИ. Применение СУЗ обеспечивает:

• сокращение времени на актуализацию действующей документации;

• сокращение ошибок в бизнес-процессах за счет единого хранилища структурированной документации, инструкций, спецификаций, техусловий, стандартов в цифровом формате;

• изучение опыта извлеченных уроков ОКР;

• сокращение простоев оборудования в производстве;

• сокращение времени на погружение новых сотрудников в специфику деятельности и адаптацию;

• кратное увеличение скорости поиска необходимой документации для решения конкретных производственных задач;

• сокращение вероятности утери нужной документации;

• доступ к структурированным материалам для наращивания компетенций и обучения;

• доступ к пошаговым инструкциям для выполнения производственных операций;

• передачу накопленного в организации опыта для эффективного повторного использования.

В заключение темы цифровизации следует отметить, что цифровая трансформация при реализации инновационных ОКР должна гармонично сочетаться с разнообразным творчеством людей, обеспечивая решение проблем и создание ценностей, направленных на устойчивое развитие общества. Упомянутые инструменты при внедрении следует нацеливать на создание ценности для организаций за счет обеспечения положительного баланса между доходами и затратами. В приоритете должна быть достаточно быстрая окупаемость затрат на развитие инфраструктуры аппаратного и программного обеспечения.

Аналогичные мысли содержит стихотворение поэта В. Котова, написанное в далеком 1959 году, когда только появились вычислительные машины второго поколения (где более компактные транзисторы и печатные схемы вытеснили громоздкие электронно-ламповые шкафы).

Хвала человеку!

Возьми, оглянись —

Сколько прошел он, мечтая!

За механизмом творит механизм,

Себя самого удивляя!..

Пожнет он и снова растит семена,

А машину за то и ценит,

Что его, без конца заменяя, она

До конца никогда не заменит!

Глава 7.
Реализация системного подхода

7.1 Принципы эффективности методологии

В заключительном разделе книги подведем итоги изложения сведений. Системный подход к инновационным проектам и программам имеет жизненно важное значение для их реализации и контроля расходов и сроков работ, за счет широкого мультидисциплинарного взгляда на системы. Системный подход и командная работа охватывают техническую суть программы и управление общей картиной, а не только типовое проектирование. Получаемые знания, а также инициативы по улучшению контроля над затратами и рисками, закладывают основу для успешной реализации программ будущего и передают новым проектам с трудом завоеванные передовые методы и извлеченные уроки. Особое внимание уделяется мероприятиям по экономике и качеству инновационной продукции на этапе разработки жизненного цикла. Это необходимо, чтобы:

• точно охарактеризовать сложность и объем программы или проекта;

• улучшить понимание требований программы;

• лучше определять и снижать риски, связанные с высокой безопасностью, техническими характеристиками, производством, затратами и графиком;

• повысить точность и реалистичность обязательств по затратам и графику, принятых при утверждении программы или проекта.

Информация, методы и практики, описанные в этой книге и других публикациях [1…6, 8…14], представляют собой уроки, извлеченные из опыта лучших руководителей программ и проектов, технических лидеров и команд, специалистов по закупкам, финансовых менеджеров и руководителей в рамках российского и зарубежного опыта. Эти требования полезно и выгодно должным образом адаптировать к размеру, сложности, стоимости и риску новой инновационной программы или проекта.

Выводы по статистике неудачных проектов показывают, что 40% проектов провалились из-за ошибок в управлении требованиями. Сильно действующим тормозным фактором для других 40% новых разработок явилось принятие неверных решений.

Данные по влиянию управления требованиями на результаты выполнения ряда контрактов военно-промышленного комплекса США показаны на рис. 8.

Рис. 8. Влияние управления требованиями

Два графика иллюстрируют отклонения по бюджету и срокам исполнения программ. По горизонтальной оси девять контрактов разделены на три группы слева направо. Для трех первых программ управление требованиями выполнено в соответствии с системно-инженерными процедурами, для трех средних правила управления требованиями соблюдены частично, для трех контрактов справа управление требованиями не применялось.

Можно видеть, что использование управления требованиями привело к минимальным несоответствиям исполнения контрактов по срокам и бюджету, тогда как три контракта, где управление требованиями не применялось, заметно провалились как по перерасходу бюджета, так и на годы по срокам исполнения. В заключении Государственной аудиторской комиссии США по проектам ВПК в 2018 г. констатируется, что на указанный период времени заметно улучшилось исполнение государственных программ. С 2016 г. принято решение вставить в отчетность GAO США по проектам обязательную статью затрат «Системная инженерия». Интересно, что сводные аналитические результаты исполнения государственных контрактов публикуются в открытой печати.

Выделены типовые проблемы реализации инновационных проектов:

1. Сложность и срочность задачи ОКР растет быстрее, чем способность управлять ею, что увеличивает риск успешного выполнения из-за неадекватной спецификации и неполной верификации.

2. Конструкция системы возникает из кусочков, а не из архитектуры. В результате системы становятся трудными для тестирования, сложными и дорогими в эксплуатации.

3. Не установлены и не контролируются объем требований и изменения проекта, отсутствует контроль базовой конфигурации системы.

4. Риски проекта недооценены, не идентифицированы, или не вынесены на верхний уровень.

5. Запаздывают или скрываются сообщения о проблемах (не преодолено отношение «Убей вестника» для неприятных новостей).

6. Технические обзоры не вскрывают весь спектр недоработок, редко используют независимых экспертов.

7. Техническая и программная стороны проектов плохо взаимодействуют, что затрудняет принятие решений, увеличивает риски.

8. Выпадает контроль технических проблем из-за отсутствия системно-инженерного плана работ.

9. Отсутствует понимание в работе с субподрядчиками, сбои в коммуникациях между поставщиками и головной компанией.

10. Знания «извлеченных уроков», включая контроль бюджета, теряются между проектами, из-за чего увеличиваются стоимость систем, риски позднего обнаружения проблем разработки, и риски для последующих производственных цепочек.

11. Бытует неправильное представление о том, что затраты времени и средств на обучение команды системному мышлению и системному подходу в части организационных процессов являются излишними и не окупаются.

Секреты успеха реализации инновационных проектов и программ на основе системного подхода включают несколько принципов:

a) всегда следует держать в памяти выполнение требований, критических для заказчика;

b) все плановые действия на проекте должны поддерживать предыдущее условие;

c) критическими задачами менеджера являются формирование и организация слаженной работы интегрированной команды проекта;

d) каждое действие на программе должно быть нацелено на улучшение последующих этапов жизненного цикла системы в целом.

Перечислим сводные рекомендации по выполнению основных целей инновационных проектов на основе системного подхода (по срокам, бюджету, качеству и развитию компетенций).

Для достижения поставленных сроков ОКР рекомендуется использовать:

• системно-инженерный план на базе детальной структуры разбиения работ;

• управление требованиями;

• параллельный инжиниринг;

• оптимальное моделирование системы, создание и использование цифровых двойников;

• ограничение количества итераций в принятии решений;

• пошаговую верификацию компонентов и подсистем;

• минимизацию изменений в проекте;

• организацию технических обзоров при прохождении КР по этапам разработки;

• еженедельный контроль исполнения работ по вехам;

• эффективное управление большими массивами данных проекта;

• своевременное и полное документирование результатов по этапам.

При исполнении бюджета программ важны следующие факторы:

1) использование на проекте парного управления (менеджер и технический лидер);

2) формирование гибкой команды профессионалов;

3) управление требованиями на всех этапах разработки;

4) полная структура разбиения работ проекта;

5) выдерживание сроков графика на рабочих пакетах;

6) ликвидация ошибок на ранних стадиях жизненного цикла;

7) проектирование под заданную стоимость;

8) использование принципов бережливого производства;

9) обеспечение качества работ «с первого раза»;

10) стандартизация типовых пакетов работ;

11) недопущение внеплановых задержек исполнения проекта или программы;

12) минимизация сроков запуска продукта в производство;

13) исключение доводочных операций на подсистемах и компонентах.

Обеспечение качества работ проекта достигается следующими инструментами:

• декомпозиция задачи, инфраструктуры организации проекта, системы, набора работ, этапов жизненного цикла;

• использование электронной модели системы и цифровых двойников на этапах жизненного цикла;

• верификация и поэтапный контроль матрицы соответствия требований;

• управление интерфейсами;

• управление конфигурацией;

• формирование и выполнение плана качества;

• отказ от двумерных чертежей в пользу аннотированных твердотельных моделей деталей и сборочных узлов;

• верификация и валидация подсистем и компонентов;

• принятие решений на каждом КР по объективным результатам технических обзоров;

• оптимальное управление рисками проекта;

• сбор и использование «извлеченных уроков» предыдущих проектов.

Наполнение системы управления знаниями головной компании для повышения эффективности, сохранения наработанных компетенций и передачи накопленного опыта должно включать:

a) документирование, обработку, классификацию и распространение извлеченных уроков;

b) подготовку и развитие набора контрольных чек-листов по проблемным местам продукта в процессе исполнения проекта;

c) организацию непрерывного обучения сотрудников;

d) обработку и внедрение справочных материалов по новым критическим технологиям.

Можно заметить, что ряд пунктов по выделенным сегментам достижения успешных результатов работ повторяется, так как они совместно влияют на выполнение основных параметров проекта: цели, сроки, бюджет, качество, риски, ценность результатов.

Оценки продвижения организации в инновационной деятельности удобно контролировать в формате ежегодной отчетности по финансовым и нефинансовым показателям.

Например, финансовые метрики на входе могут включать процентную долю инвестиций в ОКР от общих доходов, и прогноз финансовых доходов от выведенных на рынок продуктов (согласно бизнес-плану).

Метрики этого процесса могут включать общую стоимость разработки в каждом проекте, процент отклонения расходов проекта от бюджета, среднюю стоимость затрат на команду разработчика.

Финансовые метрики на выходе проекта могут содержать процент дохода от новых продуктов (как показатель жизнеспособности компании), финансовые показатели (рост выручки, рост прибыли, чистую приведенную стоимость NPV, коэффициент возврата инвестиций ROI), точность прогнозов дохода, цены и себестоимости, процент новых продуктов за прошедший год, достигших точки безубыточности по срокам своих бизнес-планов.

Нефинансовые метрики на входе могут содержать количество изученных новых идей, соответствие выбранных новых проектов стратегии компании, состав сбалансированного портфеля проектов (например, долю эволюционных и революционных инновационных проектов, по линейке продуктов, по темам).

Метрики данного процесса могут показывать количество новых проектов против снимаемых с производства, процент проектов, реализуемых по графику, процент отклонения времени разработки от планового, длительность сроков исполнения фаз ЖЦ проектов, долю успешно пройденных КР, количество проектов с проблемами.

Нефинансовые выходные метрики могут содержать количество новых продуктов, оценку удовлетворенности клиентов, процент изменения доли рынка, среднее время выхода на запланированный рынок, количество оформленных патентов и разработанных критических технологий.

Набор метрик и соответствующие показатели эффективности менеджеров, ответственных за направления работ, может варьироваться согласно традициям и выбору руководства предприятия.

Основные преимущества внедрения системного подхода при разработке ОКР инновационных продуктов и систем включают:

• Сокращение времени, необходимого на разработку, интеграцию и вывод продукта на рынок. Соответственно, появляется возможность экономии денег на всех этапах жизненного цикла системы. Использование системного подхода на фазе разработки в начале ЖЦ также может привести к экономии средств на более поздних стадиях строительства или производства, эксплуатации и ППО системы.

• Командная работ, оптимальное распределение ролей сотрудников, делегирование обязанностей, обучение, сильные лидеры являются основой выполнения проекта.

• Проектирование под заданную стоимость, качественных, надежных и безопасных продуктов, параллельный инжиниринг и другие, перечисленные в книге, инструменты обеспечивают успех разработки.

• Системное внедрение требований пользователя в конструкцию системы помогает свести к минимуму дорогостоящие и трудоемкие изменения требований на более поздних этапах ЖЦ. Проведение регулярных обзоров на КР способствует улучшению качества продукта или системы.

• Прослеживаемость между различными уровнями документации технического проекта до исходных требований пользователя позволяет минимизировать системные сбои, перерасход средств и проблемы с графиком работ, которые часто являются прямым следствием плохой практики разработки требований.

• Снижение вероятности длительных задержек в доработке изделия, и перерасхода средств или даже отмены программ. Среди проблем могут быть меняющиеся со временем потребности клиентов из-за технологических и экономических факторов, готовность технологий может быть переоценена, или получены негативные результаты при испытаниях системы.

• Упрощается реализация возникающих компромиссов между различными характеристиками продукта.

• Применение системного подхода приводит к снижению технических рисков, связанных с разработкой продукта. Они выявляются на ранней стадии и контролируются на протяжении всего процесса с использованием системы технических показателей, а также анализа и аудита проекта.

Системная инженерия приносит выгоду в проекте, при этом ее относят к статье накладных расходов на управление проектом. То есть результатом системной инженерии является не увеличение прибыли, а снижение вероятных убытков проекта за счет выполнения программы в заданные сроки, в рамках бюджета, согласно требованиям контракта, с высоким качеством. Эффект применения системного подхода тем выше, чем крупнее проект. Опыт показал, что можно снизить перерасход бюджета на 20…90%, от малых до очень крупных проектов. При этом оптимальная доля затрат на СИ от общего управленческого бюджета составила от 5 до 35% соответственно [13].

Сегодня применение стандартов системной инженерии за рубежом обязательно для контрактов военных ведомств развитых стран и государственных заказчиков сложных систем (включая строительство космических объектов, транспортной инфраструктуры, атомных станций, мостов). В интернете выложены руководства по СИ таких организаций как Министерство обороны США (DoD), Национальная аэрокосмическая ассоциация США (NASA), компаний Boeing, Airbus, гигантов в сфере телекоммуникаций и информационных технологий (Siemens, IBM), и др.