Gradiente descendente estocástico para otimização não convexa

Abstract

O presente trabalho tem como objetivo apresentar, discutir e aplicar o algoritmo do gradiente descendente estoc´astico (GDE), com ˆenfase em problemas de otimiza¸c˜ao em contextos estat´ısticos, tais como a maximiza¸c˜ao da fun¸c˜ao de verossimilhan¸ca e a regress˜ao log´ıstica. Inicialmente, s˜ao abordados os conceitos fundamentais necess´arios para a plena compreens˜ao do tema. Em seguida, apresentam-se exemplos da aplica¸c˜ao do GDE na estima¸c˜ao dos parˆametros da regress˜ao log´ıstica. Por fim, o algoritmo ´e empregado na estima¸c˜ao dos parˆametros de um modelo de mistura de distribui¸c˜oes normais. Este trabalho baseou-se em um trabalho pr´evio de inicia¸c˜ao cint´ıfica premiado no 31º Congresso de Inicia¸c˜ao Cient´ıfica da UnB e 22º do Distrito Federal (Exatas e Tecnol´ogicas), Universidade de Bras´ılia.