Avaliando o relacionamento semântico de textos em publicações de Diários Oficiais a partir de modelos profundos com Transformers

Abstract

A comunicação oficial do país é conduzida por meio de diários oficiais, que apresenta grande volume de publicações em formato textual, neste ambiente existe o problema das fraudes em licitações públicas que gera prejuízos aos cofres públicos e danos à sociedade. A identificação de práticas corruptivas em documentos publicados nesse meio é desafiadora em termos de acesso e organização. Nesse sentido, o trabalho proposto visa desenvolver metodologias para a extração e organização de informações presentes nos diários oficiais, fornecendo suporte aos tomadores de decisão no combate à corrupção e fraudes em instrumentos contratuais publicados na Seção 3 do Diário Oficial da União. Por meio de técnicas de processamento de linguagem natural com Transformers, é esperado que seja possível definir o relacionamento semântico entre entidades contratuais que exigem publicação, para facilitar a visualização de documentos correlacionados para o especialistas. Um conjunto de dados foi criado com publicações da Seção 3 do DOU para avaliar a semelhança entre publicações de um mesmo convênio. Realizou-se um levantamento bibliográfico e definição de tarefas, como Passage Ranking e Semantic Textual Similarity, que fundamentaram o estudo. Por meio dos métodos adotados, foram conduzidas análises e estudos de Sentence-Transformers para a seleção do modelo a ser treinado. Os resultados indicam que o modelo treinado alcançou uma acurácia de 96%, representando um avanço em relação ao modelo pré-treinado. No entanto, a precisão, a sensibilidade e o F1-score não demonstraram melhoria no desempenho.