Математическая модель и экспериментальная оценка устойчивости квантованных DS-CNN для TinyML-распознавания речевых команд

Аннотация

Введение: квантование позволяет размещать нейронные сети распознавания ключевых слов на микроконтроллерах, но дискретизация весов и активаций изменяет классификационный запас и чувствительность модели к возмущениям. Цель: разработать математическую модель, связывающую ошибку квантования, классификационный запас, локальную устойчивость и ограничения развертывания, и применить ее для сравнения режимов численного представления. Методы: на бинарной подзадаче «yes/no» набора Google Speech Commands v2 сравнивались сверточные сети с разделением по глубине: исходная сеть с 32-разрядными числами с плавающей точкой и сети с восьми- и четырехразрядным целочисленным квантованием после обучения либо с учетом квантования при обучении. Использовались адаптивные атаки проецируемого градиентного спуска в пространстве признаков, акустические искажения с контролем отношения сигнал/шум, пороговый допуск, парето-анализ и интегральный показатель. Результаты: восьмиразрядное квантование после обучения сохранило близкую к исходной точность на чистых данных (95,67 против 95,83 %) и при атаке (90,70 против 91,59 %). Обучение с учетом восьмиразрядного квантования обеспечило соответственно 95,87 и 90,78 % при коэффициенте сохранения точности 0,947. Четырехразрядное квантование после обучения снизило исходную точность до 63,31 %, а обучение с учетом квантования восстановило ее до 88,55 %. Максимальный интегральный показатель 0,5862 получен для восьмиразрядной сети, обученной с учетом квантования, при медиане задержки 41,53 мс на Arduino Nano 33 BLE Sense. При отношении сигнал/шум −5 дБ целевая аугментация этой сети повысила точность с 50,85 до 67,75 %, сократив долю ошибок на 34,4 %. Практическая значимость: предложенная модель позволяет количественно выбирать режим квантования с учетом измеренных показателей качества и задержки при отдельном контроле памяти всей прошивки.