Aplicação de técnicas de XAI em redes neurais convolucionais na classificação de lesões de pele

Abstract

Modelos de machine learning estão cada vez mais presentes no dia a dia. Com o crescimento do poder computacional verificou-se um aumento na complexidade desses modelos. Devido a alta complexidade, principalmente, em redes neurais profundas conhecidas como “caixas pretas“. pois é extremamente difícil como o modelo lida com os dados de entrada. O presente trabalho tem como finalidade aplicar duas grandes técnicas de XAI: baseado em perturbações usando LIME e outras cinco técnicas baseada no cálculo de gradiente e como essas técnicas fornecem recursos para o entendimento da base do processo de decisão feito pela rede neural profunda. Na mesma linha, compara quais métodos fornecem os melhores recursos para análises humanas..Para tanto, foi desenvolvido um modelo que classifica 9 tipos de lesões de pele, sendo 4 tipos malignos. Esse modelo foi utilizado para classificar um conjunto de imagens de 9 tipos de lesões diferentes com a finalidade de analisar as técnicas de interpretabilidade de cada amostra isolada amostras.Essas doenças afetam mais de 14,1 milhões de pacientes e tem sido a causa de mais de 8,2 milhões de mortes no mundo. Para auxiliar os diagnósticos clínicos é necessário avaliar o processo de decisão do modelo. Para tratar-se de decisões sensíveis é necessário confiabilidade baseado na interpretabilidade do modelo. Com o auxílio do modelo e os insight gerados a partir da explicabilidade dos padrões aprendidos, pode-se criar novas metodologias de classificação de lesões por profissionais da saúde.