Professora Simone Barbosa. Foto: Divulgação
Documentário disponível na Netflix que denuncia racismo em algoritmos foi tema de reportagem
O documentário “Coded Bias”, de 2020, está disponível na Netflix desde o início de abril. O filme mostra o mecanismo racista de algoritmos de reconhecimento facial, um desdobramento indesejável da inteligência artificial (IA). Para falar sobre o assunto, o site Guia do Estudante entrevistou a professora do Departamento de Informática (DI) da PUC-Rio Simone Barbosa, especialista na área de Interação Humano-Computador (IHC).
Na reportagem, Simone explicou de que forma a tecnologia de reconhecimento facial foi desenvolvida, e apresentou um caminho para se tentar minimizar este caráter discriminatório e nada ético da IA.
“A tecnologia de reconhecimento foi construída utilizando uma amostragem menor de rostos negros e de mulheres. Esse fato impede uma taxa de acertos maior. Foi uma escolha enviesada. No entanto, é possível realimentar o algoritmo para reduzir o viés e melhorar a classificação”, disse a professora, que também mostrou usos do reconhecimento facial em diferentes contextos.
O texto do Guia do Estudante cita o grupo de Ética e Mediação Algorítmica de Processos Sociais (EMAPS), coordenado pela professora emérita do DI, Clarisse Sieckenius de Souza. Outro ponto abordado foi a utilização de dados pessoais por empresas ou governos de maneira controversa.
Para ler a matéria na íntegra, clique aqui.
Saiba mais sobre o documentário
“Coded Bias” é dirigido por Shalini Kantayya, e trata da experiência da pesquisadora do MIT (Instituto de Tecnologia de Massachussets) Joy Buolamwini, que é negra e não teve o rosto reconhecido por uma tela com dispositivo de IA.
Joy só conseguiu ser identificada pelo programa ao colocar uma máscara branca. Sendo assim, fica claro que os sistemas de inteligência artificial são instruídos a reconhecer o mesmo padrão de conjunto de dados, notadamente, homens brancos, o que dificulta o reconhecimento de rostos negros e/ou femininos.
O filme também aborda o fortalecimento de sistemas de vigilância a partir do desenvolvimento das tecnologias de reconhecimento facial.