Ministrante: Fernando V. Paulovich
Resumo: Nas últimas décadas, os modelos de classificação provaram ser ferramentas essenciais de aprendizado de máquina devido ao seu potencial e aplicabilidade em vários domínios. Nestes anos, o norte da maioria dos pesquisadores tem sido o de aprimorar as métricas quantitativas, apesar da falta de informações sobre as decisões dos modelos que essas métricas transmitem. Esse paradigma vem mudando e as estratégias além das tabelas e números para auxiliar na interpretação das decisões dos modelos estão ganhando importância. Parte dessa tendência, as técnicas de visualização têm sido amplamente utilizadas para apoiar a interpretabilidade de modelos de classificação. Nesta apresentação, discutirei soluções de visualização para a interpertabilidade de modelos de classificação suportando o entendimento do comportamento geral modelos e a auditoria de resultados com o intuito de aumentar a confiança nos modelos produzidos.
Conteúdo:
Introdução à visualização e visual analytics
Modelos de classificação e avaliação de desempenho
Interpretabilidade de modelos de classificação
Visualização global de modelos de classificação
Visualização local de modelos de classificação
Limitações e direções futuras
Referências:
M. P. Neto and F. V. Paulovich, “Explainable Matrix – Visualization for Global and Local Interpretability of Random Forest Classification Ensembles,” in IEEE Transactions on Visualization and Computer Graphics, vol. 27, no. 2, pp. 1427-1437, Feb. 2021, doi: 10.1109/TVCG.2020.3030354.
Cantareira, Gabriel D., Elham Etemad, and Fernando V. Paulovich 2020. “Exploring Neural Network Hidden Layer Activity Using Vector Fields” Information 11, no. 9: 426. https://doi.org/10.3390/info11090426
Mini CV:
Fernando V. Paulovich é professor associado e Canada Research Chair na Faculdade de Ciência da Computação da Dalhousie University e chefe do laboratório de Análise Visual e Visualização. Antes de se mudar para o Canadá, foi professor associado da Universidade de São Paulo, Brasil (2009-2017). Ele tem pesquisado visualização de informações e análise visual, com foco na integração de ferramentas e técnicas de aprendizado de máquina e visualização, aproveitando a “inteligência” fornecida por abordagens de aprendizado de máquina e o conhecimento do usuário por meio de interações com representações visuais para ajudar as pessoas a compreender e aproveitar ao máximo de coleções de dados complexas e massivas. Nos últimos anos, seu foco principal tem sido projetar e desenvolver técnicas de análise visual para o público em geral para avançar o conceito de democratização de dados, promovendo acesso irrestrito à análise de dados, ampliando a capacidade analítica de usuários leigos em transformar dados em insights.