Mapeamento e análise das iniciativas de inteligência artificial no setor público brasileiro : potenciais riscos e benefícios a serem oferecidos pela tecnologia para a democracia

Abstract

A Inteligência Artificial (IA) é uma tecnologia emergente que vem conduzindo mudanças críticas na sociedade vigente. À vista das funcionalidades desse instrumento, o interesse pela IA passou por avanços acelerados nos últimos cinco anos no setor público. Tendo em vista sua capacidade de analisar grandes volumes de dados de forma mais rápida do que os humanos, bem como de fornecer sugestões sobre como otimizar os serviços públicos e aproximar os governantes dos governados, o uso de IA pela gestão pública brasileira vem crescendo como instrumento capaz de aumentar a eficiência da máquina pública. Apesar de suas inúmeras potencialidades, trata-se de uma tecnologia que pode apresentar riscos à democracia a partir da reprodução de comportamentos discriminatórios provenientes de algoritmos, efeito relacionado a aspectos técnicocientíficos inerentes ao atual estado da arte desse tipo de artefato. Tal fator é ainda mais alarmante quando aplicado à área de Segurança Pública. Questiona-se, assim, quais as iniciativas de IA sendo usadas na gestão pública para a área de segurança pública em nível federal e na sociedade civil no Brasil até setembro de 2023. A partir disso, pretende-se investigar os potenciais riscos e benefícios a serem oferecidos pela tecnologia à democracia. A pesquisa desenvolvida é do tipo exploratória e descritiva, com abordagem mista. Para análise das iniciativas, utilizou-se dados primários e secundários, além de pesquisa bibliográfica e documental. Foi possível encontrar treze (13) iniciativas do governo federal e uma da sociedade civil. Identificou-se, além do problema da opacidade algorítmica, uma opacidade na gestão. Averiguou-se que as ferramentas de IA contribuem para aumento de eficiência na gestão pública sob a ótica dos órgãos implementadores. Contudo, foi possível apontar potenciais impactos negativos a direitos para todas as ferramentas. Verificou-se que nem todas as ações para mitigar os possíveis riscos a direitos estão sendo realizadas pela gestão pública. Conclui-se que, para a manutenção da democracia, a eficiência na gestão pública possibilitada pela inteligência artificial não pode ser alcançada às custas dos direitos fundamentais.