Avaliação externa de modelos de tópicos por word embedding na língua portuguesa

Abstract

A avaliação de modelos não supervisionados é um processo crítico na descoberta de conhecimento. É intríseco ao contexto não supervisionado o não conhecimento de rótulos

pré-estabelecidos e, em muitos casos, os padrões são determinados pelo próprio processo algorítmico. Quando se trata de documentos no formato textual, uma técnica bastante

utilizada no aprendizado não supervisionado são os Modelos de tópicos. Modelos de Tópicos são um conjunto de algoritmos que tem como função inferir, a partir de uma grande

quantidade de documentos textuais, os temas neles contidos. Este arcabouço de técnicas é bastante utilizado para a sumarização, exploração e classificação de documentos. Em

geral, o produto destes modelos é um conjunto de tópicos (temas) e sua distribuição sobre os documentos processados. Cada tópico é constituído por um conjunto de palavras

com diferentes probabilidades de ocorrência. Devido à característica não-supervisionada

destes algoritmos, nem sempre os tópicos gerados são formados por palavras semânticamente relacionadas, ou seja: tópicos aprendidos podem não fazer sentido para um leitor

humano. Estes tópicos têm pouca utilidade na análise de documentos por não possuírem a interpretabilidade necessária para representar um assunto real. Para identificar estes tópicos pouco úteis, a avaliação manual por especialistas humanos pode ser utilizada, porém, esta é uma atividade onerosa e lenta. Por isso, algumas técnicas de avaliação

automática foram propostas. As técnicas automáticas mais bem estabelecidas na liter- atura consistem em buscar por co-ocorrências de pares de palavras dentro de uma grande

base de conhecimento, comumente a Wikipedia. Devido ao tamanho da base de busca, existem problemas de lentidão e excessivo gasto computacional. Assim, neste trabalho foi investigada a aplicabilidade de palavras imersas no espaço vetorial para avaliar tópicos de

forma mais ágil e eficiente. Os resultados obtidos basearam-se na correlação entre as técnicas que utilizam vetores associados à palavras com as técnicas de avaliação automática baseadas na coocorrência entre pares de palavras.