Análise de ética computacional no projeto de uma sociedade artificial multi-agente para ecossistema educacional

Abstract

Com o crescente desenvolvimento das tecnologias de inteligência artificial tem crescido também as discussões em torno das possíveis violações éticas que dela podem advir, já que parte do funcionamento desse tipo de tecnologia consiste em coletar e manipular dados de seus usuários. Dados esses que muitas vezes acabam sendo obtidos de formas pouco transparentes ou até mesmo sem o consentimento dos mesmos. Em relação ao ambiente educacional, foco deste estudo, quando se utiliza tecnologias de inteligência artificial os dados em questão são as informações pessoais de alunos e professores que utilizem o sistema. Diante dessa preocupação e dado o atual cenário do projeto SmartUnB.ECOS, este trabalho propõe a descrição de um modelo AGR, para ser utilizado de referência no desenvolvimento do SmartUnB.ECOS, e faz uma análise ética encima do modelo proposto, com o objetivo de se identificar os riscos e os benefícios da utilização de agentes autônomos no ambiente educacional em questão. Para isso, o trabalho correlaciona algumas funcionalidades do modelo AGR proposto com as principais etapas de manipulação de dados e com alguns princípios éticos, con siderados essenciais para a utilização benéfica das inteligências artificiais. Dessa forma o trabalho evidencia alguns dos riscos mais evidentes da utilização do modelo AGR no projeto SmartUnB.ECOS e levanta a atenção para os princípios éticos que não podem ser ignorados ao longo do desenvolvimento do projeto como um todo.