Reconhecimento facial e direito : propostas para uma IA antidiscriminatória

Abstract

O presente trabalho se dedica a analisar a implementação do reconhecimento facial na aplicação da lei por agentes públicos e a propor medidas para o emprego de uma IA antidiscriminatória. Desse modo, o trabalho analisa a implementação da inteligência artificial no contexto jurídico, a exemplo dos sistemas utilizados nos tribunais brasileiros, bem como a existência de vieses algorítmicos e a discriminação humana reproduzida pelos sistemas de inteligência artificial. Ademais, analisa a existência de falhas e de reprodução do racismo no uso do reconhecimento facial. A partir daí, propõe medidas para uma regulação capaz de garantir transparência, antidiscriminação e a proteção dos direitos individuais. Dentre as medidas estão a diversificação de rostos inseridos nas máquinas de IA para treinarem a detecção de rostos com faces de diversas etnias e gêneros; a existência de um fórum para que as pessoas relatem as falhas e discriminações dos sistemas; a criação de um grupo de estudo para pesquisar constantemente regulações para se propor sistemas mais justos; a divulgação de relatórios de impacto sobre os vieses algorítmicos e a proteção dos dados dos usuários. a inserção de rostos distintos nos sistemas de IA, a criação de relatórios de impacto da igualdade, depoimentos de violações de direitos ou de falhas cometidas pela IA.