Интерпретация обученной нейронной сети на основе генетических алгоритмов
Ключевые слова:
классификация, глубокое машинное обучение, нейронная сеть, генетический алгоритм, многомерный OLAP-куб, решающее правило, семантическая интерпретация, визуализация классов.Аннотация
Введение: стратегия развития искусственного интеллекта предполагает применение алгоритмов глубокого машинного обучения для решения задач различного класса. Обученные на конкретных наборах данных нейросетевые модели трудно интерпретировать, что связано с подходом «черного ящика», когда знания формируются как набор весовых коэффициентов связей между нейронами. Цель: разработка дискретной модели знаний, представляющей в явной форме закономерности обработки информации, закодированные связями между нейронами. Методы: адаптивное квантование признакового пространства с помощью генетического алгоритма и построение дискретной модели многомерного OLAP-куба с бинарными мерами. Результаты: генетический алгоритм выполняет извлечение из обученной нейронной сети дискретного носителя знаний. В хромосоме особи зашифровывается комбинация значений всех уровней квантования для измеримых свойств объекта. Головная генная группа определяет структуру признакового пространства, остальные гены отвечают за настройку квантования многомерного пространства, где каждый ген отвечает за один порог квантования заданной переменной. Дискретная модель многомерного OLAP-куба с бинарными мерами представляет в явной форме связи между комбинациями значений признаков объектов и классами. Практическая значимость: для нейросетевых моделей предсказания, построенных по обучающей выборке, генетический алгоритм дает возможность найти эффективное значение объема пространства признаков для тех комбинаций значений входных признаков, которые не были представлены в обучающей выборке, обычно ограниченной в объеме. С помощью предложенной дискретной модели формируются уникальные образы каждого класса на основе прямоугольных карт, в которых используется ячеистая структура градаций. Карты отражают наиболее существенные, интегральные показатели классов, которые определяют местоположение и размер класса в многомерном пространстве. На основе свертки построенных образов классов для установленных градаций признаков записывается полная система продукционных решающих правил.
правил.
