Введение
Глава 1. Проблема извлечения знаний и обзор методов извлечения знаний 11
1.1 .Знание и приобретение знаний 11
1.1.1. Определение понятия "знание" 11
1.1.2. Приобретение знаний 13
1.2. Методы извлечения и приобретения знаний 14
1.2.1. Приобретение знаний, обучение и обобщение по примерам в теории классических экспертных систем 15
1.2.2. Методы извлечения знаний из таблиц данных 19
1.3. Требования к технологии извлечения знаний 26
Глава 2. Искусственные обучаемые нейронные сети 29
2.1. Искусственные нейронные сети 29
2.1.1. Элементы нейронных сетей 30
2.1.2. Архитектура нейронных сетей 33
2.2. Решение задач нейронными сетями 34
2.2.1. Подача входных сигналов сети 35
2.2.2. Обучение нейронной сети 37
2.2.3. Вычисление градиента функции оценки по адаптивным параметрам нейронной сети 38
2.2.4. Обучение нейронной сети как градиентная оптимизация 42
2.2.5. Факторы, влияющие на успешность обучения нейросети 43
2.2.6. Упрощение нейронной сети 44
2.3. Нейронная сеть как объект, формирующий неявное знание о
процессе решения задачи, и извлечение знаний из нейронной сети 45
Глава 3. Упрощение нейронных сетей 47
3.1. Методы упрощения нейронных сетей 47
3.1.1. Контрастирование синапсов нейросети 48
3.1.2. Контрастирование нейронов нейросети 54
3.1.3. Контрастирование входных сигналов нейросети 57
3.1.4. Бинаризация синапсов 60
3.1.5. Упрощение нелинейных преобразователей нейронов 61
3.1.6. Дополнительные модификации алгоритмов контрастирования 61
3.1.7. Методы модификации структуры обученной сети 62
3.2. Требования к процессу упрощения сети для извлечения знаний 62
3.3. Упрощающие операции над нейронной сетью 64
3.4. Процедура комплексного упрощения нейронной сети 67
Глава 4. Методы извлечения знаний из искусственных нейронных сетей 70
4.1. Существующие методы извлечения знаний из обученной нейросети 70
4.1.1. Методы на основе квантования сигналов нейронной сети 71
4.1.2. Методы извлечения знаний параллельно с обучением сети 76
4.1.3. Методы извлечения знаний из обученной нейросети 77
4.1.4. Эффективность методов при решении практических задач 84
4.2. Методы извлечения знаний: требования к методам 85
4.3. Методология извлечения явных знаний, использующая технологию комплексного упрощения нейросети 88
4.4. Приемы повышения вербализуемости нейронной сети 93
4.4.1. Добавление синдрома в набор входных симптомов 93
4.4.2. Построение иерархии продукционных правил 94
4.4.3. Ручное конструирование сети из фрагментов нескольких логически прозрачных сетей 97
4.5. Примеры использования технологии извлечения явных знаний 99
4.5.1. Прогнозирование результатов выборов президентов США 100
4.5.2. Изучение современных связей между климатом и растительностью 103
Заключение 118
Литература 121
