• Язык
   

 

Интеллектуальные системы и технологии: учебное пособие

Аннотация

Учебное пособие «Интеллектуальные системы и технологии» предназначено для студентов, обучающихся по направлению подготовки 230400.62 «Информационные системы и технологии».
Содержание учебного материала соответствует федеральному государственному образовательному стандарту высшего профессионального образования (ФГОС ВПО) к минимуму содержания и уровню подготовки выпускников (бакалавров) по указанному направлению подготовки. В учебном пособии рассматриваются статистические методы интеллектуального анализа данных (Data Mining). Методы обучения статистических моделей с преподавателем и без него демонстрируются на классических примерах статистических данных с использованием программ, написанных в среде Matlab. Это обеспечивает научный и методический уровень материала. Приведенные примеры представляют собой задания для лабораторных работ, закрепляющих изучение представленного в пособии теоретического материала. Учебное пособие содержит большое количество примеров, поясняющих излагаемый теоретический материал и результаты обучения статистических моделей на классических примерах статистических данных.
Учебное пособие рекомендуется к использованию в учебном процессе по направлению «Информационные системы и технологии».

Содержание

Введение 5
Глава 1. Лекции 6
1. Вероятностная постановка задачи обучения модели данных и непараметрические методы оценки распределения 6
1.1. Выборки с Гауссовым распределением 6
1.2. Методы непараметрического оценивания распределений 7
2. Деревья классификации 10
2.1. Описание метода 10
2.2. Меры нечистоты узлов дерева классификации 11
2.2.1. GINI-индекс 11
2.2.2. Критерии расщепления, основанные на INFO 13
2.2.3. Критерий расщепления, основанный на ошибке классификации 14
2.2.4. Обрезание дерева на основе правдоподобия со штрафной функцией 15
3. Байесовские методы 16
3.1. Наивная Байесовская классификация 16
3.2. Байесовское оценивание на основе максимума апостериорной вероятности 18
3.2.1. Пример 18
3.2.2. Анализ Коши 20
3.2.3. Байесовская оценка параметров Гауссова распределения по максимуму правдоподобия 22
3.3. Регрессия и классификация по максимуму правдоподобия (Maximum Likelihood (ML)) 23
3.3.1. Линейная регрессия 23
3.3.2. Линейная классификация 24
3.3.2.1. Генеративная классификация 25
3.3.2.2. Дискриминатная классификация 28
4. Анализ главных компонент (Principle Component Analysis – PCA) 30
4.1. Описание метода PCA 30
4.2. Пример Анализа главных компонент (PCA) 30
5. Разбиение набора векторов на заданное число кластеров 33
5.1. Алгоритм разбиения на заданное число кластеров (K-средних) 33
5.2. Нечеткое разбиение на заданное число кластеров 34
6. Кластеризация наборов векторов и EM-алгоритм 36
6.1. Дважды случайные процессы 36
6.2. Алгоритм ожидания и максимизации правдоподобия 36
6.3. Модель Гауссовых смесей 39
7. Алгоритмы скрытых моделей Маркова 41
7.1. Модели Маркова 41
7.2. Скрытые модели Маркова 41
7.3. Алгоритм Витерби 42
7.4. Алгоритм прямой и обратной рекурсии 44
7.5. Алгоритм ожидания и максимизации правдоподобия (алгоритм Баума-Уолша) 45
7.6. Численные аспекты: перенормировка (renormalization) 46
7.7. Наиболее правдоподобные последовательности состояний 47
7.8. Пример 47
8. Машины опорных векторов (SVM-машины) 49
8.1. Классификация на основе линейного разделения данных 49
8.2. Оптимизация с ограничениями 49
8.3. Исходная задача оптимизации 50
8.4. Дуальная задача 50
8.5. Нелинейные задачи разделения 52
8.6. Пример 54
9. Искусственные нейронные сети 56
9.1. Многослойный персептрон 56
9.2. Алгоритм обратного распространения ошибки 57
9.3. Алгоритм наискорейшего спуска 58
9.4. Пошаговый пример работы искусственной нейронной сети 58
10. Сети и карты Кохонена 61
10.1. Сети Кохонена 61
10.2. Карты Кохонена 63
Глава 2. Лабораторные работы 64
Лабораторная работа 1. Деревья классификации в Matlab 64
Лабораторная работа 2. Наивная Байесовская классификация 68
Лабораторная работа 3. Дискриминантный анализ в Matlab 69
Лабораторная работа 4. Логистическая регрессия на данных Фишера 73
Лабораторная работа 5. Анализ главных компонент (PCA) в Matlab 77
Лабораторная работа 6. Факторный анализ (Factor Analysis) в Matlab 82
Лабораторная работа 7. Кластерный анализ в Matlab 85
Лабораторная работа 8. Примеры использования модели Гауссовых смесей 91
Лабораторная работа 9. Открытые модели Маркова в Matlab 96
Лабораторная работа 10. Машины опорных векторов 100
Лабораторная работа 11. Искусственные нейронные сети 102
Лабораторная работа 12. Карты Кохонена 107
Глава 3. Оценочные фонды 110
Список литературы 114

Рекомендации материалов по теме: нет