Uma abordagem eficiente para classificação de textos baseada em compressão

Abstract

Nos últimos anos, a comunidade de Aprendizado de Máquina tem desenvolvido modelos cada vez mais complexos para classificação de textos, especialmente com o avanço dos Large Language Models (LLMs), que apresentam bom desempenho, mas exigem alta capacidade computacional e grandes volumes de dados rotulados, o que limita seu uso em cenários com poucos recursos. Como alternativa, métodos baseados em compressão têm sido estudados por seu baixo custo computacional, utilizando a Distância de Compressão Normalizada (do inglês, Normalized Compression Distance) (NCD), que usa a compressão para medir a similaridade entre textos, em conjunto com classificadores K-vizinhos mais Próximos (do inglês, K-Nearest Neighbors) (KNN), embora a busca exaustiva por vizinhos mais próximos represente um gargalo de desempenho. Este trabalho propõe um método de classificação textual baseado em compressão que utiliza uma Burkhard-Keller Tree (BKTree) para otimizar essa busca e compara diferentes algoritmos de compressão sem perda no dataset Fake News Filipino. Os resultados experimentais mostram que o método mantém desempenho preditivo semelhante ao de abordagens mais complexas, com ganhos de eficiência expressivos, incluindo acelerações de 20×, 25×, 7×, 6,6×, 8×, 10×, 1,4×, 1,9×, 11× e 12× para os compressores Brotli, FSST, LZ4, LZAV, LZF, QuickLZ, Shoco, Smaz, Snappy e ZLib, respectivamente, configurando uma alternativa eficiente e escalável para cenários com recursos limitados.