Кодирование и устойчивость обработки сигналов в потоковых рекуррентных нейронных сетях
Ключевые слова:
рекуррентная нейронная сеть, устойчивость, моделирование, кодирование и обработка сигналовАннотация
Введение: при обосновании перспективных архитектур потоковых рекуррентных нейронных сетей возникает необходимость оценивания их устойчивости обработки различных входных сигналов. Для этого строятся диаграммы устойчивости, содержащие результаты имитационного моделирования для каждого из узлов этих диаграмм. На такое оценивание могут затрачиваться значительные временные и вычислительные ресурсы, особенно при анализе больших нейронных сетей. Цель: поиск методов оперативного построения таких диаграмм и оценивания устойчивости работы потоковых рекуррентных нейронных сетей. Результаты: анализ особенностей исследуемых диаграмм устойчивости показал, что узлы диаграмм группируются в сплошные зоны с одинаковыми характеристиками соотношения дефектов обработки входных сигналов. В статье предложен метод построения этих диаграмм на основе принципа обхода границ их зон. Таким путем можно избегать выполнения имитационного моделирования для внутренних узлов каждой зоны. Моделирование выполняется только для узлов, примыкающих к границам зон. Число узлов, для которых необходимо выполнять сеансы имитационного моделирования, снижается на порядок. Исследовано влияние видов кодирования входных сигналов на устойчивость потоковых рекуррентных нейронных сетей. Показано, что представление входных сигналов в виде последовательностей единичных образов с пересекающимися элементами может обеспечить большую устойчивость, чем без их пересечения.
