Percepções de desenvolvedores de IA sobre dilemas éticos e poder

Abstract

À medida que as tecnologias de Inteligência Artificial (IA) influenciam cada vez mais os processos de tomada de decisão, preocupações éticas no desenvolvimento de IA têm ganhado destaque. No entanto, a maior parte das pesquisas nessa área concentra-se em tomadores de decisão de alto nível ou grandes corporações tecnológicas do Norte Global, negligenciando as experiências vividas por engenheiros de software em contextos subrepresentados. Este estudo investiga como engenheiros de software brasileiros, atuando em equipes de IA em uma empresa de médio porte, percebem princípios éticos, lidam com dilemas éticos e respondem a preocupações emergentes no seu trabalho cotidiano. O foco está em compreender como desenvolvedores Juniores, Plenos e Seniores interpretam e aplicam frameworks éticos durante o desenvolvimento concreto de sistemas de IA, como classificadores,geradoresdeimagemedetectoresdeobjetos. Foiadotadaumaabordagem de métodos mistos, combinando dados de 18 respostas a questionários com 8 entrevistas semiestruturadas em profundidade. Os dados qualitativos foram analisados com base em uma codificação tanto indutiva quanto dedutiva, a fim de identificar padrões recorrentes, desafios éticos e estratégias de enfrentamento. Os resultados indicam que, embora os participantes tenham, em geral, consciência dos principais princípios éticos — como justiça, transparênciaeresponsabilidade—, suacapacidadedeagirdiantedepreocupaçõeséticas é limitada por fatores como hierarquias organizacionais, falta de treinamento formal em ética e pouca autonomia nas decisões de design. A deliberação ética tende a ser informal, reativa e restringida por assimetrias de recursos e poder. Esta pesquisa destaca a agência ética de profissionais de IA no Sul Global e contribui para a ampliação do escopo geográfico e profissional da literatura sobre ética em IA. Enfatiza-se a necessidade urgente de estruturas organizacionais que capacitem desenvolvedores a levantar, discutir e resolver questões éticas ao longo de todo o ciclo de desenvolvimento de sistemas de IA.