Нейробионические системы

В скобках указаны недели выполнения работ по учебному графику

Раздел 1. Цели и задачи дисциплины.

Целью изучения дисциплины является приобретение знаний в области нейронных сетей и эволюционных вычислений.

На основе изучения материала данной дисциплины студенты должны:

Иметь представление о достоинствах и недостатках однослойных и многослойных НС, персептронов, когнитронов и неокогнитронов, сетей Кохонена, Гроссберга, Хопфилда, об адаптивно резонансной теории.

Знать принципы организации нейронных сетей, алгоритмы обучения, методы эволюционных вычислений и генетических алгоритмов.

Уметь проектировать и реализовывать однослойные и многослойные нейронные сети, решать оптимизационные задачи с помощью нейронных сетей и генетических алгоритмов.

Иметь навыки работы на ЭВМ типа IBM PC в среде Delphi 5 и специализированных нейросетевых пакетах.

Данная дисциплина базируется на всех ранее прочитанных учебных курсах.

Раздел 2. Содержание дисциплины.

Лекции (34 часа)

Тема 1. Введение в Нейронные Сети.

История развития НС. НС сегодня, перспективы развития. Свойства НС. Основные направления.

Тема 2. Основы искусственных нейронных сетей.

Биологический прототип. Искусственный нейрон. Однослойные искусственные нейронные сети. Многослойные искусственные нейронные сети. Терминология, обозначения и схематическое изображение искусственных нейронных сетей.

Тема 3. Персептроны.

Персептроны и зарождение искусственных нейронных сетей. Персептронная представляемость. Обучение персептрона. Алгоритм обучения персептрона.

Тема 4. Процедура обратного распространения.

Введение в процедуру обратного распространения. Обучающий алгоритм обратного распространения. Пример обучения. Усовершенствования алгоритма. Область применения алгоритма и ограничения по использованию.

Тема 5. Сети встречного распространения.

Введение в сети встречного распространения. Структура сети. Нормальное функционирование. Обучение слоя Кохонена. Обучение слоя Гроссберга.

Тема 6. Стохастические методы.

Использование обучения. Приложения к общим нелинейным задачам оптимизации. Обратное распространение и обучение Коши.

Тема 7. Сети Хопфилда.

Конфигурации сетей с обратными связями. Бинарные системы. Ассоциативная память. Непрерывные системы. Сети Хопфилда и машина Больцмана. Статистичекие сети Хопфилда.

Тема 8. Двунаправленная ассоциативная память.

Структура ДАП. Восстановление запомненных ассоциаций. Кодирование ассоциаций. Емкость памяти. Непрерывная ДАП. Адаптивная ДАП. Конкурирующая ДАП.

Тема 9. Адаптивная резонансная теория.

Архитектура адаптивно резонансной теории (АРТ). Реализация АРТ. Пример обучения сети АРТ. Характеристики АРТ.

Тема 10. Оптические нейронные сети.

Векторно-матричные умножители. Сети Хопфилда на базе электронно-оптических матричных умножителей. Голографические корреляторы и голографическая ассоциативная память. Оптическая сеть Хопфилда, использующая объемные голограммы.

Тема 11. Когнитрон и неокогнитрон.

Когнитрон. Возбуждающие и тормозящие нейроны. Процедура обучения. Латеральное торможение. Рецептивная область. Неокогнитрон. Структура, слои, плоскости. Простые и комплексные узлы. Обучение.

Тема 12. Алгоритмы обучения.

Обучение с учителем и без учителя. Метод обучения Хэбба. Входные и выходные звезды. Обучение персептрона. Метод обучения Уидроу-Хоффа. Методы статистического обучения. Самоорганизация.

Тема 13. Основы эволюции человека.

Понятие эволюции. Возникновение жизни, психики. Индивидуально-изменчивое поведение, возникновение рефлексов, интеллектуальное поведение. Формирование и отделение человека от природы, от животного мира. Отличие животного от человека. Интеллект как исключительный атрибут человека.

Тема 14. Эволюционные вычисления и генетические алгоритмы.

Теория эволюции Дарвина и ее применение в СИИ. Эволюционные исчисления. Сравнение ЭИ и ГА. Генетические алгоритмы. Примеры решения задач. Понятия хромосомы, операторов мутации, скрещивания, размножения, редукции. Критерий отбора, поколение, элитизм, наследование генов.