CCO - 726 - Introdução às Redes Neurais

Quantidade de créditos: 8
Total de horas de aulas teóricas: 60
Total de horas de aulas de exercícios, seminários ou estudos dirigidos : 60

Objetivo

Apresentar fundamentação sobre os principais modelos de Redes Neurais Artificiais existentes na literatura, e suas formalizações matemáticas, bem como seus respectivos modelos de aprendizado. Além disso, apresentar aplicações práticas dos modelos estudados. Ao final da disciplina, o estudante deve:

• conhecer os conceitos fundamentais dos modelos de Redes Neurais Artificiais apresentados, tendo a capacidade de aplicá-los em problemas reais;
• ser capaz de explicar o funcionamento e aplicar os principais modelos de Redes Neurais Artificiais da Literatura;
• ter conhecimento teórico para o desenvolvimento de métodos utilizando as Redes Neurais Artificiais Vistas em aula.

Ementa

1. Introdução
   
   1. O que é uma rede neural artificial
   2. Aplicações e Inspiração
   3. Tipos de aprendizado e exemplos
   4. Benefícios das Redes Neurais Artificiais
   5. Modelo de Neurônio Artificial
   6. Funções de Ativação
   7. Arquiteturas de Rede Neurais Artificiais
   8. Representação do Conhecimento
   9. Histórico
2. Aprendizado
   
   1. Definição de Aprendizado
   2. Aprendizado por Correção de Erro
   3. Aprendizado Baseado em Memória
   4. Aprendizado Hebbiano
   5. Aprendizado Competitivo
   6. Aprendizado de Boltzmann
3. O Perceptron
   
   1. O Perceptron
   2. Teorema de Convergência do Perceptron
   3. Exemplificando o Perceptron
   4. Prática: Perceptron
4. O Multi-layer Perceptron
   
   1. O Muti-Layer Perceptron (MLP)
   2. Modos de Treinamento
   3. O Algoritmo Backpropagation
   4. Funções de Ativação
   5. O problema XOR
   6. Heurísticas para Melhorar o Desempenho
   7. Prática: MLP
5. Função de Base Radial
   
   1. Introdução
   2. O Teorema de Cover
   3. O problema XOR
   4. O problema de Interpolação
   5. Função de Base Radial (RBF)
   6. O Agrupamento com K-means
   7. Resumo do treinamento de uma RBF
   8. Prática: RBF
6. Mapas Auto-Organizáveis
   
   1. Introdução
   2. Modelos de Mapeamento e Características
   3. Mapas Auto-Organizáveis (SOM)
   4. Processo Competitivo
   5. Processo de Cooperação
   6. Processo de Adaptação
   7. O algoritmo SOM
   8. Propriedades dos Mapas de Kohonen
   9. Prática: Mapas de Kohonen
7. O Modelo de Hopfield
   
   1. Introdução ao Modelo de Hopfield
   2. Arquitetura
   3. Fases de Operação
   4. Exemplificação
   5. Prática: o Modelo de Hopfield
8. Restricted Boltzmann Machines
   
   1. Introdução à Mecânica Estatística
   2. Restricted Boltzmann Machine
   3. Inferência
   4. Energia livre
   5. O algoritmo Contrastive Divergence
   6. Persistent Contrastive Divergence
   7. Exemplificação
   8. Prática: Restricted Boltzmann Machines
9. Autoencoders
   
   1. Introdução
   2. Funções de Perda
   3. Camadas Ocultas Sub e Sobre completas
   4. Denoising Autoencoders
   5. Contractive Autoencoder
   6. Prática: Autoencoder
10. Introdução ao Aprendizado Profundo
    
    1. Introdução e Motivação
    2. Justificativa Teórica
    3. Exemplos de Sucesso
    4. Dificuldade do treinamento de redes neurais profundas
    5. Pré-treino e Ajuste Fino
    6. Stacked Autoencoders e Stacked RBMs
    7. Deep Autoencoders
    8. Redes Neurais Convolucionais
    9. Prática

Bibliografia Principal

1. Simon Haykin, Neural Networks and Learning Machines (3rd Edition) Prentice Hall • Cloth, 936 pp ©2009 ISBN: 978-0131471399.
2. Simon Haykin, Neural Networks: A Comprehensive Foundation (3rd Edition) Prentice-Hall, Inc. Upper Saddle River, NJ, USA ©2007 ISBN:0131471392.
3. Braga, Antônio; Ludermir, Teresa; Carvalho, André Redes Neurais Artificiais: Teoria e Aplicações. LTC, 2000. 262p.

Bibliografia Complementar

1. Hassoun, M. H. (1995). Fundamentals of artificial neural networks. MIT Press, Cambridge : MA.
2. Zurada, J.M. (1992) Introduction to Artificial Neural Systems, Publisher : West Pub. Co, US.
3. Hertz, J., Krogh, A., and Palmer, R.G. (1991). Introduction to the theory of neural computation. AddisonWesley Publishing Company, Redwood City, CA.
4. Aleksander, I. e Morton, H. (1995). An Introduction to Neural Computing, 2 Ed., International Thomson Editions.