Uso ético da inteligência artificial pelas unidades de inovação de organizações públicas brasileiras

Abstract

A inteligência artificial (IA) tem alcançado rápido avanço e popularização na sociedade e nas organizações nas últimas décadas. Diante do grande alcance da IA nas organizações, as equipes de inovação não ficaram fora desse contexto. Pesquisas apontam tarefas de inovação passíveis de serem automatizadas ou aprimoradas pela IA. Contudo, paralelo aos benefícios, essa nova tecnologia traz consigo riscos, especialmente relacionados à falta de aplicação de princípios éticos. Assim, esta pesquisa teve por objetivo investigar se e como as unidades de inovação de organizações públicas brasileiras estão utilizando tecnologias baseadas em IA, se há a adoção de princípios éticos para o uso de IA, se existem normativos e quais são os desafios para o uso ético da IA. Com abordagem exploratória e descritiva, foi aplicado um questionário direcionado para as unidades de inovação de organizações públicas brasileiras. A amostra de 97 participantes permitiu a análise dos dados primários com estatística descritiva das questões objetivas, análise de conteúdo das questões subjetivas e aplicação do método fuzzy QCA. A maioria das organizações são de grande porte e possuem unidade formal de inovação. Foi observado que um pouco mais da metade das unidades utilizam IA. Com relação à adoção de princípios éticos, a preocupação com a proteção de dados pessoais foi a mais presente. As unidades de inovação, além de utilizarem para as tarefas mais gerais como produção de textos, têm utilizado a IA nos processos de trabalho próprios de uma área de criação de ideias e novas soluções digitais. Os maiores desafios enfrentados se referem à falta de políticas, governança e adoção de princípios éticos. A aplicação da Fuzzy QCA revelou que, unidades formais de inovação, de grande porte e que usam IA há mais tempo, possuem níveis superiores de maturidade para a adoção de princípios éticos. Conclui-se que, no geral, as unidades de inovação da amostra não estão com a maturidade elevada para implantação de mecanismos visando princípios éticos nas suas atividades. Elas estão em fase de testes e começando a perceber a necessidade de ações voltadas ao uso ético da IA. Constatou-se a necessidade das organizações públicas priorizarem essas ações na sua estratégia de governança de IA, para minimizarem riscos que possam inviabilizar todo o esforço de criação, comprometerem a imagem da instituição ou acarretar riscos financeiros.