МЕТОДЫ ОПТИМИЗАЦИИ МОДЕЛЕЙ НЕЙРОННЫХ СЕТЕЙ
Аннотация:
Рассмотрены методы построения ускорителей глубокого обучения. Показано, что традиционные подходы к обеспечению отказоустойчивости ускорителей глубокого обучения основаны на избыточных вычислениях, что приводит к значительным накладным расходам, включая время обучения, энергопотребление и размеры интегральных схем. Рассмотрен метод, основанный на учете различий в уязвимости отдельных нейронов и битов каждого нейрона, частично решающий проблему избыточности вычислений. Метод позволяет избирательно защищать компоненты модели на уровне архитектуры и схемы, что снижает накладные расходы без ущерба для надежности модели. Показано, что квантование модели ускорителя глубокого обучения позволяет представлять данные меньшим числом битов, что снижает требования к аппаратным ресурсам.
Ключевые слова:
Постоянный URL
Статьи в номере
- КЛАССИФИКАЦИЯ ЭПИЗОДОВ НАРУШЕНИЙ СЕРДЕЧНОГО РИТМА ПО ИНФОРМАТИВНЫМ ПРИЗНАКАМ ВО ВРЕМЕННОЙ ОБЛАСТИ ЭЛЕКТРОКАРДИОГРАММЫ
- ИСПОЛЬЗОВАНИЕ ГЛУБОКОГО ОБУЧЕНИЯ ПРИ ДИАГНОСТИРОВАНИИ ПНЕВМОНИИ ПО РЕНТГЕНОВСКИМ СНИМКАМ
- ИНТЕЛЛЕКТУАЛЬНЫЙ АНАЛИЗ ДАННЫХ В ДИАГНОСТИКЕ АНЕМИИ ПО КЛИНИЧЕСКИМ ПОКАЗАТЕЛЯМ
- ГЕНЕРАЦИЯ СЛУЧАЙНЫХ ЧИСЕЛ ДЛЯ ИНТЕРАКТИВНЫХ ПРИЛОЖЕНИЙ С ИСПОЛЬЗОВАНИЕМ ВНЕШНИХ ДАТЧИКОВ
- МЕТОДЫ БАЛАНСИРОВКИ НАГРУЗКИ В ИНФОРМАЦИОННЫХ СИСТЕМАХ
- БАЛАНСИРУЕМАЯ СТРУКТУРА ДАННЫХ С ПРИОРИТЕТАМИ ЭЛЕМЕНТОВ В ЗАДАЧЕ МОДЕЛИРОВАНИЯ ДИСКРЕТНЫХ ИСТОЧНИКОВ ИНФОРМАЦИИ
- ИССЛЕДОВАНИЕ ИЗМЕНЧИВОСТИ ПРИРОДНО-ТЕРРИТОРИАЛЬНЫХ КОМПЛЕКСОВ ТАЗОВСКОГО ПОЛУОСТРОВА НА ОСНОВЕ ДАННЫХ МНОГОСПЕКТРАЛЬНОЙ И РАДИОЛОКАЦИОННОЙ КОСМИЧЕСКОЙ СЪЕМКИ
- МОДЕЛЬНЫЕ ОЦЕНКИ ПАРАМЕТРОВ ПАССИВНЫХ РАДИОТЕХНИЧЕСКИХ СИСТЕМ МОНИТОРИНГА ГРОЗОВОЙ АКТИВНОСТИ
- ИНФОРМАЦИОННО-АНАЛИТИЧЕСКИЙ СЕРВИС: ПОДХОД К АНАЛИЗУ ГЕОПРОСТРАНСТВЕННЫХ ДАННЫХ СПУТНИКОВОГО МОНИТОРИНГА