Ministrantes: Prof. Dr. Eduardo Valle – FEEC/UNICAMP; Prof. Dr. Matthieu Cord -UPMC Paris 6 – Sorbonne Universités — LIP6
Resp.: Prof. Dra. Roseli Ap. Francelin Romero e Prof. Dr. João Luis Garcia Rosa
Objetivos
Deep Learning (DL) tem revolucionado muitos aspectos da área de reconhecimento de padrões nos últimos anos e tem sido extremamente bem sucedido em tarefas como reconhecimento e detecção de objetos, classificação de cenas, reconhecimento de movimentos. Neste curso, na primeira parte, serão apresentados alguns modelos de redes neurais, que servem de base para a compreensão de DL. Na segunda parte, arquiteturas para redes DL serão apresentadas, com respectivos de algoritmos de treinamento e exemplos de aplicações reais.
Justificativa
As pesquisas em Redes Neurais está em pleno desenvolvimento e os resultados obtidos na solução de problemas complexos (visão, voz, etc.), muitos deles ainda não resolvidos satisfatoriamente em computadores digitais, têm despertado o interesse de pesquisadores de diversas áreas, tais como, processamento de imagens, reconhecimento de padrões, robótica, controle, otimização, processamento paralelo, etc..
Conteúdo
1. Introdução: · Cognição e Modelos Biológico. · Aprendizado e Inteligência. · Processamento Simbólico versus Não-Simbólico. · Reconhecimento de padrões. 2. Primeiros Modelos: Perceptron, Adaline. 3. Rede MLP: Arquitetura, Algoritmo backpropagation,· Aplicações. 3. Redes RBF :Arquitetura,· Treinamento,· Aplicações. 4. Deep Learning: Introdução. Redes Convolucionárias, Pre-treinamento Não-supervisionado, Auto-encoders: SDA e RBM, Redes de Crença Profundas. Aplicações. Deep-learning for Vision, From LeNet to Imagenet, Tricks for Training, Transfer Learning, Fine Tuning, Extensions and Applications (Supervised Segmentation, Automatic Captioning, Metric Learning, Generative Models).
Bibliografia
- HAYKIN, S.; “Neural Networks: A Comprehensive Foundation”, Macmillan Publishing Co:/ IEEE-Press,1994.
- Deep Learning Tutorial – Release 0.1, LISA lab, University of Montreal, (http://www.iro.umontreal.ca/~lisa/publications2/index.php/publications/show/239),set/ 2015.
- Y. LeCun, B. Boser, J. S. Denker, D. Henderson, R. E. Howard, W. Hubbard and L. D. Jackel: Handwritten digit recognition with a back-propagation network, in Touretzky, David (Eds), Advances in Neural Information Processing Systems (NIPS 1989), 2, Morgan Kaufman, Denver, CO,1990.
- Rumelhart, D.; McClelland and THE PDP RESEARCH GROUP – Parallel Distributed Processing: Explorations in the Microstructure of Cognition, vol.1. Cambridge MA:MIT Press, 1986.
