Reportagem produzida originalmente por Elisa Marconi e Francisco Bicudo para a Giz, revista on-line do Sindicato dos Professores de São Paulo
Já faz algum tempo que o cientista social Sérgio Amadeu da Silveira, professor da Universidade Federal do ABC (UFABC), estuda como os algoritmos – aqueles códigos invisíveis que agem na internet, orientando o resultado das buscas que fazemos, decidindo pelo usuário da rede social quem aparecerá na timeline dele ou para quais amigos suas postagens serão exibidas e ainda escolhendo os anúncios que milagrosamente aparecem nos sites e aplicativos – são também capazes de agir, ainda que indiretamente, sobre o comportamento e as posturas dos internautas. Em seu trabalho mais recente, o e-book Democracia e os códigos invisíveis: Como os algoritmos estão modulando comportamentos e escolhas políticas, publicado em junho pela coleção “Democracia Digital”, o especialista em tecnopolítica, como ele prefere se apresentar, avança nesse sentido e procura compreender com mais precisão de que maneira esses mesmos algoritmos impactam os caminhos da política e da democracia.
“Os códigos estão aí, mas o cidadão não faz ideia de quem são, como agem, como se relacionam com o que aparece para cada indivíduo ao acessar a internet”, ele destaca, para começar a construir o raciocínio. Amadeu lembra que os proprietários das redes não divulgam as regras e os objetivos dos códigos, mas os impõem aos internautas que, se quiserem navegar, devem se submeter a essa parafernália. Acontece que esse modus operandi influencia compras e relacionamentos pessoais e certamente toca também a participação do cidadão na sociedade, sugere o autor. O que o usuário da internet enxerga e alcança traz consequências para a formulação de suas visões de mundo e de seus posicionamentos e percepções a respeito de temas de qualquer natureza. Nesse processo, evidentemente o universo político com o qual o cidadão vai se afinar – ou refutar – é também atravessado pela ação dos códigos. “Ou seja, não estamos falando apenas da formação da maioria, que na democracia determina a eleição deste ou daquele candidato. Estamos falando, antes, do processo de formação dessa maioria. Como ela se estabeleceu? De que forma foi construída?”, ele provoca, como exercício de reflexão.
O conceito proposto pelo professor da Federal do ABC para explicar a ação dos algoritmos é o de modulação. Um pouco diferente da manipulação, defendida pelos pensadores clássicos da Escola de Frankfurt – como Theodor Adorno e Max Horkheimer -, a modulação também diz respeito à maneira como os meios tangem seus usuários, mas seus processos são mais sofisticados e individualizados. “A manipulação está fortemente relacionada à sociedade de massas, seus métodos e objetivos inclusive. Já a modulação se dá pelo discurso e age nas lacunas desse discurso, nas brechas”, ensina Amadeu. Seria, portanto, mais sutil – e talvez também mais eficiente.
Além disso, as redes sociais e plataformas como YouTube e WhatsApp não criam os conteúdos que vão modular as ações e os sentimentos do usuário. Apenas fazem circular mensagens e discursos, potencializando ou reduzindo a importância deles. É uma dinâmica diferente da patrocinada pelas emissoras de TV ou dos jornais de grande circulação, que são corporações que produzem os conteúdos. “Os sites fazem a gestão do algoritmo e, portanto, do conteúdo. Determinam, assim, o controle da visão e da audição, garantem o acesso e a edição do acesso do internauta aos textos e imagens da rede”, ensina.
Em linhas gerais, o mecanismo é o seguinte: os funcionários de Mark Zuckerberg não escrevem nada autoral, nem postam fotos e vídeos produzidos pela equipe do Facebook. No entanto, através da senha e com base naquelas informações coletadas pela inteligência artificial (homem ou mulher? Que idade? Tem filhos? Mais progressista ou conservador?), os colaboradores de Zuckerberg autorizam os códigos a decidir o que aparece na linha do tempo da rede social. Se a inteligência entendeu que o internauta é um rapaz jovem, devorador de hambúrgueres, com inclinações para a direita, os posts daquele amigo sobre a Feira da Reforma Agrária, promovida pelo MST, não serão visíveis de forma automática, ainda que os dois personagens sejam amigos de infância. É, assim, uma visão limitada e parcial da realidade.
Essa forma de ação, replicada pelos milhões de usuários do Facebook e demais social media, configuram, segundo Amadeu, uma forma sub-reptícia, por meio da qual os códigos podem atentar contra a democracia. Existe até uma receita para garantir que a miopia estimulada acabe ferindo os princípios democráticos: a normalização de regras nada transparentes. “O internauta usa as redes sociais, sabe que está sendo manejado, mas nem imagina como”. Atualmente, essa percepção sem reação do usuário vai entrando no rol das atitudes naturais, como se fosse um pedágio que precisa ser pago para que se possa usar a web. Em termos práticos, as redes sociais promovem mesmo um “encurtamento da realidade e, assim, modulam a percepção e a ação do cidadão. Politicamente, inclusive”, crava e insiste Amadeu.
De 2016 para cá, são vários – e relevantes – os exemplos de disputas e decisões políticas que foram fortemente influenciadas pela ação dos códigos da internet. “Basta listar as eleições brasileiras de 2016 e 2018; o processo do Brexit, na Grã-Bretanha; a campanha e a eleição de Donald Trump, nos EUA; e movimentações para a eleição espanhola mais recente”, vai listando o pesquisador. Além do marketing político – já bastante conhecido -, todos esses eventos lançaram mão da chamada inteligência artificial, que armazena e cruza os dados do cidadão e, a partir dessas informações, interfere no que chega e no que não chega, afetando o entendimento da realidade e o comportamento mais relacionado à política.
Vale lembrar dos grupos de WhatsApp que ferveram durante o pleito presidencial aqui no país. É exatamente isso. Robôs de inteligência artificial, chamados de bots, se infiltravam nesses espaços e postavam ali cards e informações que espantosamente se afinavam com o perfil e as demandas daquele grupo. Nos grupos acessados pelo vizinho, de outra tendência política, as mensagens eram outras, mas também customizadas para aquela realidade. Bancos, e-commerces e outros sites comerciais há tempos se utilizam dessa ferramenta. A novidade é a gestão desse tesouro para fins eleitorais. “O maior problema, é importante frisar, é a falta de transparência nesse processo. As tecnologias são muito recentes e ainda não há estudos de fôlego que apontem para onde vai o cidadão guiado por uma inteligência artificial”, preocupa-se Amadeu.
Ele joga luz sobre algo tão próximo quanto assustador: a gestão de todas as informações que circulam na rede – inclusive as mais pessoais e íntimas do cidadão – não é feita por uma entidade neutra e autônoma, ou mesmo escolhida pelo cidadão, como o Estado. “É, antes, administrada por corporações privadas que pouco se preocupam com a democracia ou a cidadania. Por isso mesmo, já se discute a constituição dessa figura eletrônica, além das pessoas física e jurídica já estabelecidas”, sugere o especialista. Amadeu não comemora essa possibilidade como um avanço do mundo inexoravelmente tecnológico. “Nas mãos de quem estarão nossos dados e informações biométricas e de navegação? É preciso abrir rapidamente o debate sobre a regulação e o manejo dos nossos dados”, propõe.
O caminho, segundo o pesquisador, é, ao mesmo tempo, aprofundar o entendimento da cidadania – on-line e off-line – e exigir transparência nas relações mediadas pela rede mundial de computadores. A sociedade deve decidir quem gere os dados navegados e as possibilidades de uso. “Caso contrário, a chance de que aconteçam injustiças difíceis de administrar e sanar é enorme”. Junto com isso, ele sugere, é preciso rever a naturalização que permite que empresas privadas detenham o controle dos dados dos usuários da internet e não precisem prestar contas desse arquivamento. “O nome disso é caixa preta, que tira a responsabilidade das empresas. É sério. É um perigo para o cidadão, porque promove equívocos e possíveis injustiças que ainda não têm foro para discussão e mitigação”.
Por fim, o autor de Democracia e os códigos invisíveis: Como os algoritmos estão modulando comportamentos e escolhas políticas entende que os grupos de defesa da cidadania devem acrescentar às suas pautas esse novo mundo digital, uma vez que o crescimento desregulamentado da inteligência artificial, coleta e uso dos dados dos internautas, associados à ação de algoritmos não transparentes influenciam na percepção da realidade, geram ondas de desinformação e impactam de forma importante a democracia. “O entendimento do cenário já está acontecendo nos grupos que estudam a tecnopolítica e naqueles que defendem os direitos humanos e sociais. É importante partir para ação, para alertar a sociedade e a Justiça. Os robôs avançam muito velozmente e proteger o cidadão e a democracia é o chamado do nosso tempo”, conclui
