Aprendizado de máquina aplicado em cluster Kubernetes para dispositivos de baixo custo

Abstract

Diante da crescente aplicação do machine learning para auxilio em diversas áreas e a quantidade de dados cada vez maior, barreiras relacionadas ao poder computacional foram construídas e hoje, tornam todo o processo bastante oneroso. O grande custo e a sustentabilidade têm sido impulsionadores para que novas alternativas sejam desenvolvidas e estudadas. Nesse contexto, pesquisas e aplicações relacionadas a Model Parallelism e Data Parallelism ganharam uma notável importância e uma valiosa contribuição para tornar a aplicação do aprendizado de máquina presente em um maior número de ambientes e por um maior número de pessoas. Neste trabalho, métricas estatísticas que permitem analisar o desempenho e o resultado obtido entre a solução usual e a solução proposta serão apresentadas, tornando possível uma avaliação profunda do trade off realizado entre os parâmetros intrinsecamente ligados. Para avaliar o consumo energético por parte dos dispositivos, execuções serão realizadas em dois tipos de dispositivos: em dispositivos Raspberry Pi 4 modelo B e em máquinas virtuais. A solução desenvolvida, baseado na construção de um cluster Kubernetes utilizando Raspberry Pi, busca além de oferecer menor custo no processo de treinamento e inferência do machine learning, uma maior eficiência de energia. A distribuição de Kubernetes utilizada nesse estudo foi a oferecida pela Rancher Labs, K3s, voltada para dispositivos de baixo custo. Com o intuito de ser mais leve que as demais distribuições, é possível utilizar o benefício oferecido pelo Kubernetes sem que haja uma sobrecarga nos dispositivos. Durante o trabalho, pipelines de aprendizado de máquinas foram implementados e testados. Utilizando a ferramenta Kubeflow, foi construído um ambiente integrado ao Kubernetes voltado para o aprendizado de máquinas. Com essa arquitetura construída, foi possível mensurar elementos como uso de memória, CPU, temperatura e consumo energético e assim, estabelecer métodos para avaliar a utilização de dispositivos Raspberry Pi com processamento ARM em etapas de treinamento e inferência de um modelo genérico. Para compor a pesquisa, foram utilizados ferramentas open-source que auxiliam em todo as etapas do aprendizado de máquinas. A solução de storage escolhida foi o LongHorn, para monitoramento foi utilizado painéis do Grafana facilmente instalados através do Rancher. Para prover o cluster, foi utilizado o K3s e o ambiente de aprendizado de máquinas dá-se na ferramenta Kube flow