O objetivo é propor um olhar ético no desenvolvimento de tecnologias
Você já deve ter se deparado com aplicativos que usaram os seus dados para entregar propagandas, ou com softwares que utilizam a inteligência artificial para reconhecer o seu rosto em uma foto. Mas você já parou para pensar se essas situações, aparentemente corriqueiras, exigem uma discussão quanto à sua conduta ética?
A resposta é sim, e esse debate precisa ser cada vez mais frequente na sociedade. Pensando em ampliar essa questão, o Departamento de Informática da PUC-Rio (DI) criou o grupo Valores Humanos e Ética na Informática (VHEI), formado pelos professores Markus Endler, diretor do DI, Daniel Schwabe, Clarisse Sieckenius de Souza, Edward Hermann Haeusler, Marcos Kalinowski, Sérgio Lifschitz, Simone Barbosa, Anderson Silva e Julio Leite.
“A proposta inicial é que nós tenhamos, dentro do DI, um núcleo de pessoas que estão voltadas, interessadas e ativas nesse questionamento ético constante”, afirmou a professora emérita do DI Clarisse de Souza. “Gostaríamos de imprimir uma conduta ética em relação ao desenvolvimento de tecnologia como parte da formação dos nossos alunos”, complementou.
Algoritmos: mocinhos ou vilões?
Algoritmos mal concebidos, modelos de Inteligência Artificial enviesados e o desenvolvimento de software, em geral, são temas discutidos pelo grupo, que surgiu em abril de 2020 como resposta a um impulso na forma de alerta dado ao colegiado do Departamento pelo professor titular do DI Daniel Schwabe.
Na ocasião, Schwabe lembrou que atualmente softwares e algoritmos podem ter impactos graves sobre as nossas vidas, ressaltando que a ética deveria ser uma disciplina central, que permeasse toda a formação do cientista e do engenheiro da computação.
“Por exemplo: você pode ter um algoritmo que usa o gênero de um usuário para tomar alguma decisão. Mas será que isso é ético? Será que isso tem uma boa intenção? Pode até ter, mas corre riscos de essa intenção não ter sido colocada explicitamente”, disse o professor.
“A partir dali, saiu o primeiro alerta: os nossos alunos precisam entender que os processos que envolvem os sistemas computacionais vão, necessariamente, envolver esse tipo de questões envolvendo ética e valores”, completou.
Endler alertou para a programação dos algoritmos que é feita por uma pessoa que muitas vezes não previu todos os possíveis usos da ferramenta. Para ilustrar o debate ético que envolve essa questão, o diretor do DI citou um exemplo muito comum: a solicitação de um empréstimo bancário.
“Nesse caso, o banco consulta a sua ficha cadastral e tem acesso ao seu histórico de transações e de pagamentos, tudo graças a um algoritmo. Esses números vão ser os responsáveis por dizer que alguém tem, ou não, direito a esse empréstimo. Pode acontecer de uma pessoa idônea ter o seu direito negado porque cometeu um pequeno deslize lá atrás, mas o sistema não vai reconhecer isso, nem levar esse caso em consideração”.
Olhar para dentro antes de olhar para fora
Além de discutir a ética no processo de concepção, desenvolvimento e no uso de sistemas de informação e de software em geral, o grupo também discute os princípios éticos relativos ao próprio DI, dentre eles, as regras de conduta dos professores, pesquisadores e alunos do departamento.
O intuito é que as dimensões tratadas e discutidas no grupo devam refletir os princípios e os valores que norteiam o convívio harmonioso, colaborativo e socialmente empático da nossa comunidade.
“Nós temos que ter mais consciência do nosso comportamento enquanto pessoas, no que diz respeito à nossa atuação profissional. Dentro dessa esfera, temos que entender qual é o código de ética que queremos adotar”, disse Schwabe.
Endler explicou que a ideia é expandir as discussões do grupo para outras áreas e ampliar o debate para o restante da universidade e, também, para a sociedade. “Esse é um processo que vai levar tempo, mas essa é só a semente”, disse.
Uma questão multidisciplinar
A questão da ética dentro da tecnologia vai além do Departamento de Informática e conversa com outras áreas. Clarisse, por exemplo, coordena o EMAPS (Ética e Mediação Algorítmica de Processos Sociais), grupo criado em conjunto com professores e alunos dos departamentos de Filosofia e de Direito da PUC-Rio. “A proposta era ter um grupo interdisciplinar para discutir questões de ética dentro de qualquer processo social que fosse mediado por algoritmos”, afirmou.
O professor do Departamento de Filosofia da PUC-Rio, Edgar Lyra, é um dos integrantes do EMAPS, e estimula o intercâmbio entre as áreas. “A tecnologia precisa ser discutida, porque ela está alterando todo o nosso ethos, costumes, horizontes, desejos e expectativas”, disse.
Lyra também defende que a junção da ética, da tecnologia e da filosofia contribui com a formação das subjetividades e com a moldagem dos comportamentos, dos desejos e da percepção que as pessoas têm dos seus deveres e direitos. “Não podemos mais agir como meros usuários das novas tecnologias. Precisamos pensar no que está acontecendo ao redor, e a filosofia contribui fortemente para esse papel”, concluiu.