Detecção de comentários tóxicos em chats e redes sociais com deep learning

Abstract

O crescente aumento do uso de redes sociais e aplicativos de chat online tem trazido consigo um desafio significativo relacionado aos comentários tóxicos. No entanto, a abordagem convencional para enfrentar esse problema muitas vezes não é eficaz o suficiente, especialmente quando se trata de idiomas específicos, como o português. Nesse contexto, o objetivo deste trabalho é preencher essa lacuna por meio da aplicação de tecnologias avançadas, como redes neurais recorrentes, para a detecção de comentários tóxicos em português. Através do treinamento de um modelo utilizando um conjunto de dados contendo sequências classificadas como tóxicas ou não tóxicas, espera-se desenvolver um sistema capaz de distinguir com precisão a qual classe cada sequência pertence. A avaliação e comparação desse modelo com outras abordagens existentes serão realizadas para fornecer insights valiosos sobre sua eficácia na detecção de conteúdo tóxico em português, contribuindo assim para a criação de ambientes online mais seguros e saudáveis.