A inteligência artificial (IA) parece ter muito mais dificuldade para reconhecer objetos de países pobres, o que poderia impactar negativamente vários sistemas que dependem dela, como carros sem motorista, diz reportagem da revista NewScientist. Equipe do grupo de pesquisa Facebook AI Research, liderada por Terrance DeVries, testou seis sistemas de reconhecimento de imagens usando 135 fotos de diferentes objetos, a IA foi menos eficiente em identificar objetos de casas de países pobres e “não ocidentais” [o Ciência na Rua tentou contato com um dos autores do artigo para entender este recorte, havendo resposta, atualizaremos].

Um dos exemplos apontados foram fotos de sabão (abaixo). Na foto do Nepal, com barras de sabão e uma espécie de esponja, entre as sugestões da IA estavam “comida” e “queijo”, mas não “sabão”. Na foto da foto do reino unido, com um frasco plástico de sabão líquido, todas as sugestões tiveram a ver com sabão, lavabo ou pia.

Sabão no Nepal (esq.) e no Reino Unido (dir.) – fotos Chris Dade and Luc Forsyth

Embora os sistemas de IA em geral sejam treinados com milhões de imagens, a diversidade geográfica dessas imagens não é muito grande. “Quando mostramos [para as IAs] só um pedacinho do mundo, elas estarão despraparadas para todo o restp”, disse à revista britânica a pesquisadora Janelle Shane, não envolvida na pesquisa. O pesquisador Os Keyes, da Universidade de Washingnton, que também não participou da pesquisa, declarou à NewScientist ser a primeira vez que vê o viés da IA ser demonstrado no reconhecimento de objetos e destacou a importância disso, por causa de seus usos. As aplicações do reconhecimento de objeto incluem ajudar pessoas cegas a reconhecer o que está no seu entorno.

“A inteligência artificial é dominada por percepções do mundo brancas, masculinas, ocidentais e de classe média”, disse à revista o cientista Mike Cook, da Universidade Queen Mary. “Esse é um bom exemplo dos efeitos que isso tem”.

Conteúdos relacionados

Congresso da UFBA: Contra a universidade operacional e a servidão voluntária “Minha cabeça está nas estrelas, mas eu vivo na Terra” Faleceu José Marques de Melo, o pioneiro no Brasil da comunicação, a “prima pobre das ciências sociais” O pântano no volume morto: degradação institucional brasileira atinge ponto mais agudo