Como pensar algoritmos na democracia

Qual é de fato o papel dos algoritmos na sociedade, e como podemos refletir sobre eles de um ponto de vista analítico e que valorize a democracia? Ricardo F. Mendonça, Fernando Filgueiras e Virgílio Almeida partem dessa pergunta no livro Política dos algoritmos – Instituições e as transformações da vida social, lançado pela Ubu Editora na coleção Exit, dedicada a pensar criticamente temas do mundo contemporâneo, como as tecnologias digitais.

Algoritmos, cabe dizer, são sistemas computacionais compostos por uma sequência de etapas, com o objetivo de gerar algum tipo de cálculo ou resultado. Com a ascensão do aprendizado de máquina no início deste século, passaram a incorporar não apenas etapas previamente definidas, mas a identificação de padrões de forma mais ou menos autônoma. Encontrar algoritmos de alto impacto social hoje é trivial: do sistema de cálculo da corrida no Uber aos sistemas de análise automatizada de crédito, passando pelas recomendações de conteúdo em redes sociais e a indicação de usuários em aplicativos de relacionamento, todos são casos de interfaces contemporâneas mediadas por algoritmos.

Não é de hoje que o mundo editorial e acadêmico explora o papel social dos algoritmos. A segunda metade da década passada, já imersa na lógica algorítmica de decisão, gestão e recomendação de conteúdo, viu uma ascensão de livros que problematizam essas estruturas técnicas tão complexas e, não obstante, decisivas para o funcionamento de governos, empresas e indivíduos. Entre os muitos autores que se dedicaram ao assunto, estão Cathy O’Neil (Algoritmos de destruição em massa, publicado em inglês em 2016), Safiya Noble (Algoritmos da opressão, 2018), Meredith Broussard (Artificial unintelligence, 2018) e Virginia Eubanks (Automating inequality, 2018). Dada a profusão de visões sobre algoritmos e sociedade, como propor um olhar inédito ao debate?

Mendonça, Almeida e Filgueiras (os dois primeiros, professores na Universidade Federal de Minas Gerais, e o terceiro na Universidade Federal de Goiás) adicionam originalidade à discussão ao apresentar um enquadramento claro, embora não simples: algoritmos constituem novos tipos de instituições contemporâneas, e analisá-los com tal enfoque descortina um novo arcabouço para pensá-los e criticá-los, assim como para desmistificar características básicas desse tipo de estrutura técnica. Considerando que instituições são estruturas que, por meio de regras e processos, incentivam e desincentivam comportamentos humanos em sociedade, avaliar algoritmos por essa avenida significa concebê-los como algo além de meros objetos técnicos ou ferramentas. O texto pode parecer um pouco árido em alguns pontos; afinal, as teorias institucionalistas apresentam um caráter um tanto hermético para o público leigo no tema. Ainda assim, percebe-se um esforço dos autores para conectar as teorias com casos concretos, o que facilita a leitura.

Os pesquisadores estabelecem um caminho para guiar o leitor ao sentido dos algoritmos como instituições: primeiro, conceituam tanto algoritmos como instituições, ambas ideias conectadas a vastas tradições intelectuais, para então delinear o que significa o institucionalismo algorítmico. Após descreverem as quatro vertentes da visão institucionalista e a partir dela construírem um quadro analítico, eles aplicam esse quadro teórico a três estudos de caso sobre âmbitos sociais em que algoritmos possuem alto impacto: segurança pública, governo digital e sistemas de recomendação.

A estrutura narrativa constitui um dos pontos positivos do livro: a combinação do rigor metodológico e reflexivo com a aplicação do quadro teórico a casos reais. Cabe então pensar: por que o institucionalismo algorítmico traz benefícios à discussão mais ampla sobre o papel dos algoritmos na sociedade?

O quadro proposto pelos autores é composto por seis partes: construção e desenho de instituições, que envolve o fato de que algoritmos, como outras instituições, são construídos por pessoas, a partir de decisões, levando rastros dessas decisões em seu design; processos históricos, que questiona a trajetória histórica do sistema algorítmico, por quais transformações passou e em quais conjunturas; regras e normas aborda quais regras, formais e informais, um dado sistema estabelece para incentivar e desincentivar comportamento; relações de poder, o fato de que algoritmos envolvem poder sobre decisões, coagindo, limitando, moldando e influenciando desejos e identidades; gaming, ou as estratégias que as pessoas usam para driblar os algoritmos, ainda dentro de seu contexto de uso; e, finalmente, as dimensões discursivas, que dizem respeito aos discursos que circulam sobre os algoritmos e a como os algoritmos acabam incentivando certos tipos de discursos, como o da eficiência – no caso dos governos, por exemplo.

Esse quadro permite pensar além de certas noções comumente presentes na imprensa ou no comentário geral sobre algoritmos. Por exemplo, que os algoritmos não são como são apenas porque foram planejados de certa maneira por quem os construiu, mas também por conta da interação com cidadãos, governos, outras instituições e outros algoritmos, e que os resultados dessas interações raramente são previstos.

Outra grande dificuldade ao se debater e criticar algoritmos é combater dois polos argumentativos: o da suposta neutralidade dos algoritmos, por um lado, ou de seu suposto “superpoder”, responsável por mudar mentes e corações sobre política, consumo e sociedade. O primeiro polo está equivocado, pois como a literatura a respeito da tecnologia demonstrou há muito tempo, nenhuma tecnologia (ou técnica) é neutra: qualquer estrutura técnica é feita visando algum objetivo, com características formais que incentivam certos usos e desincentivam outros (como cunhou o historiador estadunidense Melvin Kranzberg, a tecnologia não é boa nem má, mas também não é neutra). No caso dos algoritmos, cada estrutura foi construída para maximizar certo tipo de resultado, em detrimento de outro tipo de resultado.

Já o segundo polo se equivoca porque algoritmos não são estruturas de poder absoluto, capazes de “controlar a mente” dos usuários – embora as próprias empresas responsáveis por eles prefiram que pensemos assim. Na verdade, os algoritmos agem em um contexto mais amplo de incentivos a certos comportamentos, num jogo complexo que envolve outros usuários, pressões sociais e predisposições individuais. O pesquisador estadunidense Tim Hwang, no livro Subprime attention crisis (2020), demonstrou os inúmeros problemas com a publicidade online e, justamente, as promessas falsas de superpoderes feitas pelas empresas responsáveis.

Ao mesmo tempo, algoritmos podem ser usados pelas empresas como pretextos. É muito comum, quando ocorre algum problema social relacionado a uma ferramenta ou sistema digital, que se culpabilize o “algoritmo”. Embora o algoritmo por trás de um sistema decisório até possa ser o responsável primário pelo problema em questão, a argumentação ignora que algoritmos também agem de determinada maneira por decisões humanas, o que não exime seus criadores de responsabilidade, ao contrário. Como a cientista da computação e autora Cathy O’Neil defende, um algoritmo é uma opinião em formato de código.

Ao fim e ao cabo, os autores de Política dos algoritmos trazem uma perspectiva que pode ser conectada às ideias do teórico da comunicação canadense Marshall McLuhan, pois levam em consideração as características intrínsecas dos algoritmos como extensão de decisões humanas, e pensam sobre essas características como influentes na trajetória humana. Essa perspectiva é complementada por uma visão bastante interacionista, ou seja, que considera os algoritmos e suas aplicações como resultado de interações complexas entre usuários, empresas, esferas de governo, bancos de dados, estratégias etc.

Há uma via de mão dupla interessante aí: se é produtivo considerar algoritmos como instituições, também é importante pensar como o estudo dos algoritmos permite atualizar os conceitos relativos às teorias do institucionalismo. Afinal, eles não são instituições como o Senado, as eleições ou o casamento civil. Como outras instituições, também dependem de accountability e legitimidade, mas a implementação desses princípios no caso dos algoritmos é diversa, por exemplo, de fazê-lo nas contas do governo ou em um processo eleitoral.

É este o cerne de um dos argumentos centrais do livro: a mediação algorítmica é uma realidade, e seu uso, inclusive por governos, não é apenas incontornável, mas desejável perante a imensa quantidade de dados a ser analisados e a necessidade de implementar políticas públicas de maneira isonômica e imparcial. No entanto, sua implementação pode ter elementos que os autores nomeiam como epistocráticos, ou seja, que partem do princípio de que boas decisões políticas vêm de conhecimento, não de decisões democráticas. É aí que mora um dos perigos dos algoritmos enquanto instituições, tanto dentro como fora do âmbito governamental. Exemplos não faltam: quando um algoritmo recomenda obras culturais sob o pretexto de que sabe mais sobre as pessoas do que elas próprias; quando uma rede social define quais os limites aceitáveis para os discursos; quando um algoritmo decide quem tem direito a liberdade condicional e quem não tem. Todas são questões que envolvem mais do que a decisão “correta”, a partir dos dados, e dependem de visões de mundo e princípios. A consequência da visão epistocrática é a leitura de cidadãos e usuários como meros data points, à mercê do que empresas e governos considerarem mais adequado, otimizado e eficiente.

Para solucionar esse dilema, os autores propõem uma estrutura com seis valores centrais para a democratização dos algoritmos: participação; igualdade; pluralismo; accountability e transparência; debate público; e liberdade. Estes funcionam não como proposta de regulações diretas ou absolutas sobre algoritmos, até porque isso não é sempre possível – por exemplo, ser completamente transparente sobre o código de um algoritmo governamental pode facilitar que atores mal-intencionados driblem o sistema. Mas são horizontes a se buscar para uma acepção verdadeiramente democrática dos algoritmos na sociedade.

Regular algoritmos pode parecer impossível, dada a complexidade de suas estruturas e a diversidade entre eles – são empregados para todo tipo de desafio contemporâneo. No entanto, esse objetivo pode ser alcançado – ou pelo menos aproximado – se essas estruturas computacionais forem vinculadas a princípios democráticos. Política dos algoritmos é uma obra relevante para quem considera algoritmos mais do que apenas conjuntos de cálculos e se interessa pelo desafio de enquadrá-los numa visão democrática e participativa.