por Bárbara Paes, originalmente publicado em: https://minasprogramam.com/algorithms-of-oppression/
No fim do ano passado começamos a ler o livro Algorithms of oppression (em português, algoritmos da opressão), da Safiya Umoja Noble, professora da UCLA (Universidade da Califórnia em Los Angeles). A obra fala sobre como os mecanismos de busca que usamos todos os dias perpetuam narrativas que refletem distribuição de poder desiguais na sociedade. A autora analisa os significados implícitos e explícitos dos resultados de busca feitas no Google sobre meninas e mulheres negras.
Uma das grandes constatações feitas durante a época da pesquisa é que ao buscar o termo ‘black girls’ (meninas negras), o grande volume de conteúdo gerado pelo Google era de cunho pornográfico, machista e sexista. Ou seja, ao buscar mais informações sobre as vidas de meninas negras nos EUA, as pessoas não encontravam conteúdo confiável e informativo – isto é, estatísticas, contato de organizações respeitadas, artigos acadêmicos, textos jornalísticos, livros de autoras e autores especialistas nos temas. Os resultados eram uma sucessão de conteúdos que perpetuam estereótipos terríveis sobre meninas negras.
Ao longo do livro, Safiya Noble mostra como a maneira que buscamos informação importa dentro da nossa sociedade. Ferramentas de busca são uma forma de mídia e moldam nossos discursos, nossas opiniões e nossas percepções sobre o mundo em que vivemos. E hoje, vivemos em um mundo em que grande parte das pessoas com acesso à internet se apoia em ferramentas comerciais para encontrar informações de interesse público.
Nesse texto, vamos reunir algumas coisas que aprendemos com essa leitura e entender como o tema do acesso à informação na internet tem a ver com gênero e raça.
- a tecnologia nunca é neutra.
- o Google não é uma fonte de informações isenta ou neutra. o Google é uma empresa com interesses corporativos. os resultados exibidos são pautados por esses interesses.
- achar que os resultados de busca estão listados de forma neutra ou imparcial é um equívoco. segundo a autora, os resultados são listados a partir daquilo que gera mais lucro.
- acesso à informação é um direito. e busca por informações é um assunto político.
- a seleção do que aparece primeiro nos resultados de busca é também uma seleção do que importa e do que não importa. é uma classificação de que informações são mais relevantes. e esse é um processo que molda discursos políticos.
- a prática de classificar informação é histórica. o jeito que a gente determina que informações são mais cruciais, as decisões sobre o que aparece primeiro, e a escolha sobre o que deve receber mais atenção dos usuários. tudo isso é uma questão de narrativas. as instituições que criam os sistemas que organizam e ranqueiam informações têm a habilidade de determinar o que é prioridade.
- assim, mecanismos de busca e os resultados que eles produzem têm significado simbólico e concreto, e influenciam áreas como cultura e educação.
- o que achamos é significativo
- resultados do google são uma forma de representação midiática. e representações midiáticas têm um papel importante em como entendemos as diferenças sociais, culturais, étnicas, raciais.
- há pesquisas que mostram que aquilo que encontramos no google gera impacto no nosso comportamento. e aquilo que encontramos é informado por interesses comerciais.
- por exemplo, a autora mostra como meninas e mulheres negras viram commodities em mecanismos de busca. historicamente, meninas e mulheres negras são vistas como hipersexualizadas. e ao priorizar determinados tipos de resultados (porque eles são rentáveis para a empresa), essas plataformas perpetuam estruturas sociais de opressão.
- empresas precisam se responsabilizar pelo tipo de tecnologia que elas produzem. e isso precisa ser feito já.
- a narrativa de que nada pode ser feito hoje é falha. muitas empresas de tecnologia ainda insistem no discurso de que a mudança só virá “um dia no futuro, quando mais mulheres negras aprenderem a programar”. elas insinuam que o dever de mudar essas práticas racistas e misóginas na tecnologia é apenas de mulheres negras e demais pessoas racializadas.
- mas as empresas precisam abandonar a lógica racista e machista HOJE!!! elas têm que se esforçar e melhorar seus códigos e seus algoritmos agora.
- cursos superiores de áreas relacionadas a tecnologia deveriam incluir estudos de gênero e raça nos seus currículos.
- é preciso que pessoas que compreendem questões sociais relacionadas à opressões de gênero e raça estejam dentro de empresas, monitorando e contribuindo para criação de tecnologias que não tenham impacto negativo nas vidas de meninas e mulheres negras.
- do quê precisamos? como melhorar esse cenário?
- a autora conta que precisamos de políticas públicas que regularizem como a informação é classificada e ranqueada. assim, precisamos de regulações que nos protejam de práticas antiéticas na tecnologia.
- precisamos também de alternativas não-comerciais para buscar informação na internet. para garantir que o público possa acessar informações verdadeiras, confiáveis e de qualidade, precisamos de iniciativas que não sejam guiadas inteiramente pela vontade de lucrar.
As tecnologias digitais reproduzem relações sociais. A principal lição que tiramos desse livro é que não podemos ignorar as disparidades raciais que aparecem na internet porque elas refletem e influenciam o nosso contexto. Se queremos combater o racismo e o machismo, é preciso fazer isso dentro da tecnologia também.
Bárbara Paes é co-fundadora do @MinasProgramam. Mestra em Gênero e Desenvolvimento pelo Institute of Development Studies (@ids_uk).
