Por Juliano Borges
A internet é uma cidade onde as redes sociais são praças públicas, espaços de encontros entre pessoas diferentes que trocam informações, experiências e conhecimentos. A imagem de bucólica pracinha não resiste a um escrutínio elementar sobre como se dão as interações nas redes sociais, mais próximas de um campo de batalha informacional, onde muita sujeira é produzida e disseminada. Em lugar de ação comunicativa, as interações são presididas por algoritmos que distorcem tanto a orientação dos fluxos quanto a disponibilidade dos conteúdos, comprometendo qualquer possibilidade de crença na pluralidade de opiniões e na diversidade de pensamento capazes de produzir consensos habermasianos.
Empresas como Facebook, Google e Twitter apresentam a liberdade de expressão e a segurança nas redes sociais como valores que orientam suas políticas. Em um mundo em que 3,2 bilhões de seres humanos são ativos nas plataformas sociais, a responsabilidade de gerenciar os conteúdos que ali circulam torna-se uma questão crucial para a segurança dessa “comunidade global”, como Mark Zuckerberg gosta de definir seu Facebook.
Ocorre que os critérios que regem a programação dos algoritmos, logo o acesso à informação e o próprio caráter das interações, é absolutamente desconhecido, segredo industrial. Essa comunidade global é presidida por protocolos e critérios de segurança totalmente alheios aos seus membros. A contradição é evidente: não há como avaliar a eficiência da edição pelas empresas sem que se saiba como seus valores e objetivos corporativos são convertidos nas diretrizes que orientam tanto seus engenheiros na Califórnia, quanto o contingente de dezenas de milhares de “moderadores de conteúdo” que operam em cubículos em países periféricos.
Trabalhando para empresas terceirizadas nas típicas condições de precarização trabalhista do capitalismo tardio, são essas pessoas que tomam contato direto com informações críticas para a segurança das redes sociais. Elas são responsáveis por manter ou apagar conteúdos suspeitos de serem ofensivos, violentos, pornográficos ou que propaguem discursos de ódio. Esses trabalhadores estão na ponta de escolhas binárias que determinarão os níveis de limpeza e de diversidade nas redes sociais.
O documentário The Cleaners (2018), produção brasileira e alemã dirigida por Hans Block e Moritz Riesewieck, joga luz sobre o obscuro processo de edição de informações nas redes sociais, regido por contratos que obrigam anonimato e sigilo total sobre as práticas e os critérios fornecidos pelas matrizes aos escritórios em países como as Filipinas.
Face mais cruel da proletarização em empresas de tecnologia e lado menos conhecido das políticas de filtragem e moderação, esses trabalhadores devem cumprir metas diárias de análise de 25 mil imagens e vídeos por jornada de trabalho, submetidos diariamente a conteúdos extremos como decapitações, linchamentos, automutilações, estupros coletivos, ciberbullying, bombardeios e explosões em cenários de guerra, pedofilia e toda sorte de discursos racistas e de ódio contra imigrantes e minorias.
Operando em condições de extrema pressão, já que não podem levar mais do que alguns segundos para decidir se um conteúdo deve ou não ser mantido nas redes sociais, esses seres humanos sofrem as consequências psíquicas de uma atividade altamente danosa à saúde mental.
Perturbações psicológicas graves afetam esses trabalhadores, acarretando depressão e suicídios. Entretanto, os danos psíquicos são ignorados pelas empresas em favor de uma internet mais “segura”. Ainda que extremamente explorados, esses anônimos moderadores se veem como policiais da internet, imbuídos de um sentido de missão que os fazem se posicionar politicamente ao apagar ou manter uma informação nas redes sociais. A tecnologia não é neutra, possui viés e objetivo. E este viés se faz presente na forma como as empresas atribuem poder aos moderadores.
The Cleaners evidencia o descompasso entre os valores culturais próprios do contexto local onde se realiza a filtragem e as motivações da postagem nos seus países de origem. Algoritmos (ainda) não são capazes de interpretar conteúdos, tarefa para humanos. Porém, a despeito de haver critérios para orientar os cortes, há níveis de subjetividade elementares que afetam o resultado da edição e que resultam em censura. Temas LGBTQ são frequentemente classificados como pornográficos e expressões artísticas que envolvam nudez são banidas das redes sociais em nome da “segurança” dos usuários, ignorando que um conteúdo satírico não equivale necessariamente a ser violento ou pornográfico. Há uma clara implicação moral na execução dos desconhecidos critérios estabelecidos desde os Estados Unidos. Cultura local, valores pessoais, visões de mundo e o medo de errar sob pressão laboral favorecem que mais conteúdos sejam apagados do que mantidos, com prejuízo para a liberdade de expressão e a diversidade de informações nas redes sociais.
Na dúvida, informações não contempladas nos critérios são apagadas, desconsiderando casos em que a exposição de violência pode ser necessária, como denúncias. Na Inglaterra, por exemplo, a organização humanitária Airwars, que denuncia os diversos abusos cometidos na guerra civil da Síria, enfrenta dificuldades para produzir registros históricos das violências e gerar evidências que possam vir a esclarecer circunstâncias e a responsabilizar culpados por crimes contra a humanidade e violações aos direitos humanos. Denúncias de violência policial, de massacres ou acusações contra políticas migratórias que redundem em mortes de refugiados podem ser eliminadas sob alegação de serem explícitas. A questão que se segue dessas constatações é: o que então é permitido permanecer nas redes?
Discursos xenófobos, racistas ou informações deliberadamente falsas que estigmatizam ou acusam minorias podem ser admitidas nas redes sociais, amparadas pela primeira emenda da Constituição dos Estados Unidos. Em países como Mianmar, as conseqüências objetivas dessa opção liberal têm sido a legitimação do genocídio de rohingyas. Linchamentos motivados por histeria coletiva e acusações infundadas têm se tornado cada vez mais frequentes devido à circulação de boatos em contextos tão distintos como México e Índia. Assim, uma série de graves externalidades em âmbito global tem origem em decisões políticas e econômicas tomadas desde o Vale do Silício. O documentário questiona o conceito de liberdade total de expressão, tal como compreendido nos Estados Unidos, qual seja, a garantia plena do direito de expressar qualquer coisa, inclusive discursos de ódio. Isso expõe diretamente a hipocrisia das políticas de conteúdo das gigantes tecnológicas: apagam imagens de mamilos, mas permitem a circulação de falsas teorias conspiratórias e discursos de ódio, frequentemente impulsionando sua visibilidade.
Distorções de resultados eleitorais com base em desinformação massiva e promoção do medo contra adversários vêm minando a democracia em países como Reino Unido, Estados Unidos, Hungria, Polônia, Brasil e nas Filipinas de Rodrigo Duterte. O país é um claro resultado da política de informação das empresas, onde ocorre uma retroalimentação da circulação enviesada de imagens com o fortalecimento de discursos autoritários. Não por acaso, líderes vitoriosos nesses países atribuem seus êxitos políticos justamente às liberdades de expressão propiciadas pelas redes sociais. Eles sabem que o modo como as plataformas estão filtrando produz efeitos políticos e culturais que os beneficiam em larga escala.
Facebook e Google lucram com a comercialização de dados obtidos de seus usuários, extraídos de seus movimentos em plataformas sociais como Instagram e Youtube. Notícias, opiniões, atualizações e informações são a matéria-prima que possibilita compartilhamentos e interações nas redes sociais. Porém, quando a maior parte do fluxo de informação da internet acontece no interior das redes sociais, essas empresas assumem papel central de mediação e, como tal, devem responsabilidade pública sobre os conteúdos que ali circulam. Diante da pressão por regulação e transparência, entretanto, elas se esquivam alegando que seu negócio é tão somente o de tecnologia.
O filme mostra como as novas corporações de mídia não praticam o que pregam e são capazes de fazer acordos com governos autoritários, garantindo o banimento da crítica e do dissenso nas redes sociais desses países por meio de geoblocking, restrições de certos conteúdos a usuários de áreas geográficas específicas. Alegando tão somente cumprir as leis nacionais, essas empresas transigem politicamente com ditaduras para manter seus negócios ativos em contextos autoritários, como a Turquia de Recep Erdoğan.
A liberdade de expressão, força-motriz das redes sociais, se presta mais a legitimar as grandes corporações de comunicação na internet do que em funcionar como um princípio capaz de garantir pluralidade de opiniões e diversidade de pensamento na rede. Sem que haja transparência total sobre os filtros adotados pelas empresas não há meios políticos de construir coletivamente diretrizes adequadas à garantia da liberdade de opinião, favorecendo o crescimento de regimes autoritários. A sociedade permanece alijada do debate sobre os critérios de filtragem adotados e de sua operacionalização, algorítmica ou manual.
Além de denunciar as condições de trabalho determinadas pelo regime de moderação estabelecido pelas empresas, sob o qual conhecemos apenas parcialmente, The Cleaners expõe a contradição essencial e a hipocrisia das empresas de comunicação. A falta de transparência é uma barreira instransponível para pensar uma moderação que seja capaz de garantir a circulação de informações seguras, sem que isso implique numa governança algorítmica onde o caráter da comunicação é secretamente definido por executivos do Vale do Silício.
Veja o trailer de The Cleaners aqui.
Publicado em 9 de abril de 2019.