Defesa de Dissertação de Mestrado do aluno Moises Henrique Pereira
Título da dissertação:
OceanUI: interface para geração de explicações contrafactuais
Resumo:
Atualmente algoritmos de aprendizado de máquina (ML) estão incrivelmente presentes no nosso cotidiano, desde sistemas de recomendação de filmes e músicas até áreas de alto risco como saúde, justiça criminal, finanças e assim por diante, auxiliando na tomada de decisões. Mas a complexidade de criação desses algoritmos de ML também está aumentando, enquanto sua interpretabilidade está diminuindo. Assim, os algoritmos e suas decisões não podem ser facilmente explicados por desenvolvedores ou usuários, e os algoritmos também não são auto explicáveis. Com isso, erros e vieses podem acabar ficando ”escondidos” , o que pode impactar profundamente a vida das pessoas. Devido a isso o tema da transparência, explicabilidade e interpretabilidade está se tornando mais relevante, como podemos ver no novo regulamento sobre proteção e tratamento de dados pessoais (GDPR, do inglês
General Data Protection Regulation), aprovado em 2016 para a União Europeia, e também na Lei Geral de Proteção de Dados (LGPD) aprovada em 2020 no Brasil. Além de leis e regulamentos tratando sobre o tema, temos diversos autores que consideram necessário o uso de algoritmos inerentemente interpretáveis, outros mostram alternativas para se explicar algoritmos caixa-preta usando explicações locais, tomando a vizinhança de um determinado ponto e então analisando a fronteira de decisão dessa região, enquanto outros estudam o uso de explicações contrafactuais. Seguindo essa linha dos contrafactuais, nos propomos a desenvolver uma interface para o sistema “Optimal Counterfactual Explanations in Tree Ensembles” (OCEAN – usuário gera explicações contrafactuais plausíveis usando Programação Inteira Mista e Isolation Forest) e a denominamos OceanUI. O propósito desta interface é que ela facilite a geração de contrafactuais e que permita o usuário obter um contrafactual personalizado e mais aplicável individualmente, por meio da utilização de restrições e gráficos interativos.
Orientador(a):
Prof(a). Doutora Simone Diniz Junqueira Barbosa
Banca:
Prof. Doutor Thibaut Victor Gaston Vidal
Prof. Doutor Bruno Feijó
Prof. Doutor Helio Côrtes Vieira Lopes
Prof Doutor Marx Leles Viana
Link: http://www.inf.puc-rio.br/blog/noticia/noticia/defesa-de-dissertacao-de-mestrado-oceanui-interface-para-geracao-de-explicacoes-contrafactuais
#dissertação #mestrado #aprendizadodemaquina #pesquisa #desenvolvimento #alunos #dipucrio