Parte I
Título: Descomplicando Modelos BERT na Teoria e na Prática
Minstrante: Gustavo Henrique Paetzold
Resumo: Os modelos BERT sinalizam uma revolução em Processamento de Linguagem Natural (PLN). Munidos de mecanismos de nome obscuro, como “self-attention”, “encoders” e “decoders”, estes modelos representam o estado-da-arte atual em centenas de tarefas e vêm sendo adaptados para a criação de inúmeras soluções inovadoras extremamente eficazes. Portanto, é crucial que um profissional da área seja capaz de compreender e manipular modelos BERT para que se mantenha relevante tanto no meio acadêmico quanto de mercado. Este minicurso visa suprir essa demanda de forma didática, objetiva e prática.
Conteúdo: Neste minicurso aprenderemos de onde os modelos BERT vieram, como funcionam por dentro e como podemos usar a biblioteca PyTorch para empregá-los na criação de soluções para tarefas de classificação de texto. Os participantes serão guiados passo-a-passo pela construção de um modelo completo e poderão ver, na prática, o modelo resolvendo um problema importante na área de Análise de Sentimento.
Mini CV:
Gustavo Henrique Paetzold é bacharel em Ciência da Computação pela UNIOESTE – Cascavel e doutor em Processamento de Linguagem Natural pela Universidade de Sheffield. Suas contribuições acadêmicas focam em Simplificação de Texto, Estimativa de Qualidade, Psicolinguística e também competições de Aprendizado de Máquina. Atualmente atua como professor da UTFPR – Campus Toledo onde emprega a pesquisa como uma ferramenta de ensino e construção de carreira para jovens graduandos.
Parte II
Título: Visão Geral do Estado da Arte de Deep Learning Aplicado ao Processamento da Fala
Ministrante: Arnaldo Candido Junior
Resumo: Deep Learning trouxe grandes avanços na área de processamento de fala. Neste minicurso será apresentada uma visão geral do estado da arte da área em cada uma das principais frentes de trabalho, incluindo os modelos mais populares da área.
Conteúdo: O processamento da fala tem grandes frentes de trabalho como a conversão de voz para (STT – Speech-To-Text), de texto para voz (TTS – Text-To-Speech), a identificação do locutor e a clonagem da voz. Será discutida uma série de modelos neurais profundos propostos de acordo com as especificidades de cada .
Mini-CV:
Arnaldo Candido Junior possui graduação em Ciência da Computação pela Universidade Estadual Paulista Júlio de Mesquita Filho (2005), mestrado em Ciências da Computação e Matemática Computacional pelo Instituto de Ciências Matemáticas e de Computação (ICMC) da Universidade de São Paulo (USP) (2008) e doutorado em Ciências da Computação e Matemática Computacional também pelo ICMC/USP. Atualmente é professor da Universidade Tecnológica Federal do Paraná. Atua nas áreas de Inteligência Artificial, Aprendizado de Máquina e Redes Neurais Profundas aplicadas ao processamento da voz e à visão computacional.