СРАВНИТЕЛЬНОЕ ИССЛЕДОВАНИЕ АРХИТЕКТУР НЕЙРОННЫХ СЕТЕЙ ДЛЯ ИНТЕГРАЛЬНОЙ СИСТЕМЫ РАСПОЗНАВАНИЯ РЕЧИ
Аннотация:
Обсуждается проблема усовершенствования архитектуры интегральной нейросетевой модели распознавания русской речи. Модель создана путем объединения кодер-декодер-модели с механизмом внимания и модели на основе коннекционной временной классификации. Исследовано применение в интегральной модели таких архитектур нейронных сетей, как магистральные нейронные сети (Highway Wetworks), остаточные нейронные сети (ResNet) и Dense-соединения (DenseNet); кроме того, исследовано применение функции gumbel-softmax вместо активационной функции softmax при декодировании. Модели были обучены с использованием метода переноса знаний, вначале выполнено предварительное обучение на англоязычном корпусе, затем — на небольшом корпусе слитной русской речи объемом 60 ч. Разработанные модели показали высокую точность распознавания речи по сравнению с базовой интегральной моделью. Приведены результаты экспериментов по распознаванию слитной русской речи: наилучший результат составил 10,8 % по показателю количества неправильно распознанных символов и 29,1 % по показателю количества неправильно распознанных слов.
Ключевые слова:
Постоянный URL
Статьи в номере
- МЕТОДОЛОГИЧЕСКИЕ И МЕТОДИЧЕСКИЕ ОСНОВЫ СОЗДАНИЯ И ИСПОЛЬЗОВАНИЯ ИНТЕГРИРОВАННЫХ СИСТЕМ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ
- ПРОГРАММНО-МАТЕМАТИЧЕСКОЕ ОБЕСПЕЧЕНИЕ ПРОЦЕССА МОДЕРНИЗАЦИИ СЛОЖНЫХ ОБЪЕКТОВ
- НЕЧЕТКО-ВОЗМОЖНОСТНЫЙ ПОДХОД К ФОРМАЛИЗАЦИИ И ИСПОЛЬЗОВАНИЮ ЭКСПЕРТНЫХ ЗНАНИЙ ДЛЯ ОЦЕНИВАНИЯ СОСТОЯНИЙ СЛОЖНЫХ ОБЪЕКТОВ
- МЕТОД ПРОВЕДЕНИЯ СИНЕРГЕТИЧЕСКИХ НАБЛЮДЕНИЙ ЗА ПРОЦЕССАМИ НА БОРТУ КОСМИЧЕСКОГО АППАРАТА
- ИССЛЕДОВАНИЕ АЛГОРИТМОВ ПОТОКОВОЙ КЛАСТЕРИЗАЦИИ ПРИ РЕШЕНИИ ЗАДАЧИ АНАЛИЗА ДАННЫХ ТЕЛЕМЕТРИИ МАЛЫХ КОСМИЧЕСКИХ АППАРАТОВ
- ТЕХНОЛОГИЯ АВТОМАТИЗИРОВАННОЙ ИНФОРМАЦИОННО-АНАЛИТИЧЕСКОЙ ПОДДЕРЖКИ ЖИЗНЕННОГО ЦИКЛА ИЗДЕЛИЙ НА ПРИМЕРЕ ЕДИНОГО ВИРТУАЛЬНОГО ЭЛЕКТРОННОГО ПАСПОРТА КОСМИЧЕСКИХ СРЕДСТВ
- ВАРИАНТ ИНФОРМАЦИОННО-КОММУНИКАЦИОННОЙ ИНФРАСТРУКТУРЫ НА ОСНОВЕ УПРАВЛЯЕМОЙ КОНТЕНТОМ СЕТИ
- АВТОМАТИЗАЦИЯ ЮРИДИЧЕСКОЙ ЭКСПЕРТИЗЫ ТЕКСТОВ ДОГОВОРОВ
- ФОРМИРОВАНИЕ ТРЕБОВАНИЙ К ПРОЦЕССУ ПРОЕКТИРОВАНИЯ ЗАЩИЩЕННЫХ КИБЕРФИЗИЧЕСКИХ СИСТЕМ
- ЭФФЕКТИВНОСТЬ ВИЗУАЛИЗАЦИИ ДАННЫХ В ВИРТУАЛЬНОЙ РЕАЛЬНОСТИ