Um modelo para explicação de decisões locais de classificadores baseado em algoritmos genéticos com preservação da diversidade de populações (2022)
- Authors:
- Autor USP: SANTOS, DANIEL AUGUSTO DOS - FFCLRP
- Unidade: FFCLRP
- Sigla do Departamento: 595
- DOI: 10.11606/D.59.2022.tde-17112023-112559
- Subjects: ALGORITMOS; INTELIGÊNCIA ARTIFICIAL; POPULAÇÃO
- Keywords: Algoritmos genéticos; Black box; Caixa-preta; Explainable artificial intelligence; Explanation; Explicação; Fitness sharing; Genetic algorithms; Inteligência artificial explicável
- Language: Português
- Abstract: O uso de aprendizado de máquina em domínios diversos é cada vez mais comum. No entanto, muitas aplicações críticas não podem usufruir desta tecnologia sem que as decisões de um classificador sejam interpretáveis. O problema é que a maioria dos modelos se comporta como uma caixa-preta cujas decisões não são facilmente interpretáveis, o que limita sua efetividade apesar do bom desempenho. Diversos trabalhos na literatura buscam resolver este problema propondo técnicas de decisão que explicam o comportamento de modelos caixa-preta quando estes são aplicados a um determinado exemplo. Uma delas é a técnica Local Rule Based Explanations (LORE) que gera explicações locais, utilizando uma Árvore de Decisão treinada a partir de dados artificiais gerados por um algoritmo genético (AG). O método LORE utiliza um algoritmo genético padrão, que não preserva necessariamente a diversidade das soluções na população final. A hipótese investigada neste trabalho é que a diversidade é importante para gerar árvores de decisão que consigam reproduzir com maior precisão as fronteiras de decisão do classificador localizadas perto do exemplo a ser explicado. Este trabalho mostra que os exemplos artificiais gerados pelos AGs em LORE não são necessariamente diversos. É proposto então o uso da técnica de fitness sharing no AG para gerar exemplos artificiais mais diversos. Consequentemente, as fronteiras de decisão locais da Árvore de Decisão devem ser mais semelhantes aos do classificador caixa-preta. Resultados experimentais com dois classificadores (Perceptron Multicamadas e Florestas Aleatórias) e quatro problemas de classificação indicam que LORE com fitness sharing produz populações de AG mais diversas e melhores explicações locais
- Imprenta:
- Publisher place: Ribeirão Preto
- Date published: 2022
- Data da defesa: 20.12.2022
- Este periódico é de acesso aberto
- Este artigo é de acesso aberto
- URL de acesso aberto
- Cor do Acesso Aberto: gold
- Licença: cc-by-nc-sa
-
ABNT
SANTOS, Daniel Augusto dos. Um modelo para explicação de decisões locais de classificadores baseado em algoritmos genéticos com preservação da diversidade de populações. 2022. Dissertação (Mestrado) – Universidade de São Paulo, Ribeirão Preto, 2022. Disponível em: https://www.teses.usp.br/teses/disponiveis/59/59143/tde-17112023-112559/. Acesso em: 10 jun. 2024. -
APA
Santos, D. A. dos. (2022). Um modelo para explicação de decisões locais de classificadores baseado em algoritmos genéticos com preservação da diversidade de populações (Dissertação (Mestrado). Universidade de São Paulo, Ribeirão Preto. Recuperado de https://www.teses.usp.br/teses/disponiveis/59/59143/tde-17112023-112559/ -
NLM
Santos DA dos. Um modelo para explicação de decisões locais de classificadores baseado em algoritmos genéticos com preservação da diversidade de populações [Internet]. 2022 ;[citado 2024 jun. 10 ] Available from: https://www.teses.usp.br/teses/disponiveis/59/59143/tde-17112023-112559/ -
Vancouver
Santos DA dos. Um modelo para explicação de decisões locais de classificadores baseado em algoritmos genéticos com preservação da diversidade de populações [Internet]. 2022 ;[citado 2024 jun. 10 ] Available from: https://www.teses.usp.br/teses/disponiveis/59/59143/tde-17112023-112559/
Informações sobre o DOI: 10.11606/D.59.2022.tde-17112023-112559 (Fonte: oaDOI API)
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
