Содержание |
История
2024: Утверждение стандарта
В начале ноября 2024 года в России принят предварительный национальный стандарт (ПНСТ) 945-2024 «Искусственный интеллект. Техническая структура для разделения и совместного исполнения модели глубокой нейронной сети».
В разработке документа приняли участие Научно-образовательный центр компетенций в области цифровой экономики Федерального государственного бюджетного образовательного учреждения высшего образования «Московский государственный университет имени М.В. Ломоносова» (ФГБОУ ВО МГУ имени М.В. Ломоносова) и Общество с ограниченной ответственностью «Институт развития информационного общества» (ООО «ИРИО»).
Отмечается, что процесс логического вывода для модели глубокой нейронной сети обычно требует больших объемов вычислительных ресурсов и памяти. В связи с этим самостоятельное исполнение модели оконечными устройствами представляется сложной задачей. Эффективным способом решения проблемы является реализация совместного исполнения глубокой нейронной сети несколькими устройствами путем разделения модели: такой подход позволяет снизить задержку исполнения и одновременно улучшить использование ресурсов.Как DevOps-сервис помогает «разгрузить» высоконагруженные системы BPMSoft
Новый стандарт направлен на определение технической структуры разделения и совместного исполнения модели глубокой нейронной сети, включая создание модели прогнозирования задержки, разработку стратегии разделения, оптимизацию распределения ресурсов и совместное исполнение для соответствия требованиям логического вывода модели и обеспечения эффективного использования ресурсов между оконечными устройствами и периферийным устройством. В документе определены несколько типовых сценариев для разделения и совместного исполнения модели глубокой нейронной сети: это умный дом, промышленное производство, интеллектуальные транспортные системы и пр.[1]