Interpretabilidade de redes neurais convolucionais em radiografias do tórax: um estudo comparativo de técnicas de mapas de calor na localização de patologias pulmonares

Abstract

O uso de Redes Neurais Convolucionais (CNNs) no apoio ao diagnóstico de patologias por radiografias de tórax, embora promissor, enfrenta barreiras de confiança devido à natureza de “caixa-preta” desses modelos. A Inteligência Artificial Explicável (xAI), por meio de técnicas de mapas de calor, busca solucionar essa opacidade, mas a confiabilidade e a con sistência desses métodos ainda são um desafio. Este trabalho tem como objetivo principal analisar comparativamente os métodos de geração de mapas de calor, sendo estes: Grad CAM, Grad-CAM++, Score-CAM e Layer-CAM, por meio das métricas quantitativas: AOPC, Inserção, Deleção e POMPOM, a fim de identificar suas potencialidades e limita ções na localização de patologias pulmonares. A metodologia consiste em uma pesquisa quantitativa, estruturada como um experimento que utiliza a arquitetura DenseNet-121 aplicada à base de imagens ChestX-ray14. A performance de cada método foi aferida, e os resultados demonstraram as particularidades de cada método nas explicações visuais gera das. Pôde-se concluir que os métodos obtiveram resultados similares em algumas métricas, não havendo uma técnica universalmente superior e que o Score-CAM, apesar de gerar mapas menos difusos, nem sempre indicou a localização correta, destacando-se ainda que a identificação de vieses, como o fenômeno de Clever Hans, reforça a interpretabilidade como requisito indispensável para a validação clínica, sendo cada método mais adequado a depender do contexto clínico e da patologia. Assim, sugere-se que uma posterior análise qualitativa dos métodos realizada por profissionais da área pode enriquecer a discussão apresentada neste trabalho.