O potencial da IA na revolução sustentável : desvendando as estratégias de otimização do aprendizado profundo na pesquisa científica

Abstract

Este estudo investiga a sustentabilidade de aplicações em aprendizado profundo, com enfase na eficiencia computacional e especializacao de modelos, explorando a arquitetura Transformer e tecnicas de otimizacao para aprimorar sua eficiencia e adaptabilidade, tornando essas tecnologias mais acessíveis e alinhadas as necessidades humanas e ambientais. Destaca-se a importancia de um ecossistema flexível, no qual modelos podem ser treinados, otimizados e compartilhados de forma sustentavel. Para isso, realizou-se um estudo de caso sobre a triagem de artigos relevantes, utilizando apenas oito exemplos por classe em 22 bases de dados de revisoes sistematicas da literatura. Foram avaliadas tecnicas de otimizacao, como poda, quantizacao e com posto eficiente de habilidades ajustadas, aplicadas ao ajuste fino do modelo Transformer SPECTER, empregado para a representacõo semantica de trechos de textos científicos. O desempenho foi mensurado pela metrica quantitativa de trabalho salvo. Os desafios identificados ressaltam a necessidade de explorar novos regimes de treinamento para aprimorar a adaptabilidade dos modelos e desenvolver estrategias para mensurar o impacto ambiental do uso contínuo dessas tecnologias. Alem disso, discute-se o papel da eficiencia computacional na promocao de avanços científicos, otimizando pipelines de uso contínuo para prototipagem de soluçoes e integracõo de conhecimento interdisciplinar de soluçoes baseadas em revisões sistematicas da literatura.