Fechar

Defesa de Dissertação de Mestrado do aluno Moises Henrique Pereira

Defesa de Dissertação de Mestrado do aluno Moises Henrique Pereira

Título da dissertação:

OceanUI: interface para geração de explicações contrafactuais

Resumo:

Atualmente algoritmos de aprendizado de máquina (ML) estão incrivelmente presentes no nosso cotidiano, desde sistemas de recomendação de filmes e músicas até áreas de alto risco como saúde, justiça criminal, finanças e assim por diante, auxiliando na tomada de decisões. Mas a complexidade de criação desses algoritmos de ML também está aumentando, enquanto sua interpretabilidade está diminuindo. Assim, os algoritmos e suas decisões não podem ser facilmente explicados por desenvolvedores ou usuários, e os algoritmos também não são auto explicáveis. Com isso, erros e vieses podem acabar ficando ”escondidos” , o que pode impactar profundamente a vida das pessoas. Devido a isso o tema da transparência, explicabilidade e interpretabilidade está se tornando mais relevante, como podemos ver no novo regulamento sobre proteção e tratamento de dados pessoais (GDPR, do inglês

General Data Protection Regulation), aprovado em 2016 para a União Europeia, e também na Lei Geral de Proteção de Dados (LGPD) aprovada em 2020 no Brasil. Além de leis e regulamentos tratando sobre o tema, temos diversos autores que consideram necessário o uso de algoritmos inerentemente interpretáveis, outros mostram alternativas para se explicar algoritmos caixa-preta usando explicações locais, tomando a vizinhança de um determinado ponto e então analisando a fronteira de decisão dessa região, enquanto outros estudam o uso de explicações contrafactuais. Seguindo essa linha dos contrafactuais, nos propomos a desenvolver uma interface para o sistema “Optimal Counterfactual Explanations in Tree Ensembles” (OCEAN – usuário gera explicações contrafactuais plausíveis usando Programação Inteira Mista e Isolation Forest) e a denominamos OceanUI. O propósito desta interface é que ela facilite a geração de contrafactuais e que permita o usuário obter um contrafactual personalizado e mais aplicável individualmente, por meio da utilização de restrições e gráficos interativos.

Orientador(a):

Prof(a). Doutora Simone Diniz Junqueira Barbosa

Banca:

Prof. Doutor Thibaut Victor Gaston Vidal

Prof. Doutor Bruno Feijó

Prof. Doutor Helio Côrtes Vieira Lopes

Prof Doutor Marx Leles Viana

Link: http://www.inf.puc-rio.br/blog/noticia/noticia/defesa-de-dissertacao-de-mestrado-oceanui-interface-para-geracao-de-explicacoes-contrafactuais

#dissertação #mestrado #aprendizadodemaquina #pesquisa #desenvolvimento #alunos #dipucrio