Há uma preocupação crescente sobre a influência que os algoritmos exercem nas sociedades modernas e às potenciais ameaças que representam para a democracia. Alguns algoritmos são considerados de alto risco, pois têm consequências significativas para a vida das pessoas e seus direitos fundamentais. O caso dos algoritmos de recomendação, sistemas projetados para gerar sugestões significativas de conteúdos ou produtos que podem interessar um determinado grupo de usuários, exemplifica bem os potenciais impactos desses sistemas no nosso dia a dia. Esses sistemas lançam luz sobre conceitos, produtos e recursos, organizando – os e criando atalhos cognitivos para aqueles que precisam tomar decisões. Ao fazê-lo, estruturam ideias, moldam decisões e influenciam pessoas, criando instâncias de tomadas de decisões e agência, o que explica por que se tornaram parte essencial dos problemas contemporâneos, como a difusão de desinformação e de discursos de ódio em eleições políticas, pandemias e guerras.^{4, 10}

Incorporados às plataformas digitais globais, sistemas algorítmicos têm tensionado a democracia em diversos países em virtude da desconexão entre os processos democráticos e o controle técnico dentro de uma esfera pública cada vez mais governada por códigos.⁷ Os sistemas de recomendação algorítmicos conectam as preferências das pessoas às escolhas que elas fazem, determinando qual será o objeto da atenção, da racionalização e da agência dos seres humanos. Em outras palavras, ao recomendar algo, os sistemas algorítmicos enquadram os objetos de atenção e organizam os contextos em que acontecem as ações humanas. Se um conteúdo é sugerido por causa de sua capacidade de prender a atenção, não surpreende que esses sistemas mudem radicalmente os processos de construção de conhecimento ao promover conteúdos provocativos, falsos e ultrajantes. Algumas questões fundamentais surgem nesse contexto: quais informações devem estar disponíveis sobre o funcionamento desses algoritmos? Como a sociedade pode lutar para que o desenho dos algoritmos esteja alinhado a princípios democráticos? Quais valores democráticos devem ser integrados à criação e ao desenvolvimento dos algoritmos, e quais protocolos podem apoiá-los de um ponto de vista político?

Com base nos conceitos apresentados em  Política dos algoritmos: instituições e as transformações da vida social (com previsão de lançamento em setembro de 2025 pela editora Ubu), este artigo resume alguns dos nossos principais argumentos.⁵ Também explora a tese de que, assim como outras instituições complexas foram democratizadas ao longo da história, é imperativo avaliar de que modo sistemas algorítmicos podem ser democratizados a fim de mitigar os riscos que alguns deles representam às sociedades modernas.

Algoritmos como instituições

Os algoritmos nas são apenas linhas de código no interior de sistemas. Eles são arquiteturas que organizam sistemas complexos de interações envolvendo máquinas e humanos. Ao fazer isso, funcionam como outras instituições concebidas como artefatos humanos, compostas de normas e regras formais e informais relacionadas a decisões coletivas que balizam o comportamento de atores em diversas situações. Como outras instituições, eles operam em contextos institucionais de múltiplas camadas com graus variados de complexidade, em estruturas semelhantes a montagens. Plataformas digitais (ex.: Facebook, Whatsapp, Instagram, Uber, YouTube, Spotify), por exemplo, podem ser vistas como instituições amplas englobando instituições algorítmicas mais restritas, com estruturas nas quais os contextos de interação são organizados e o comportamento esperado, roteirizado. A governança de sistemas algorítmicos de tomada de decisão pode ser implementada em diferentes camadas. Cada uma atua como uma instituição própria exigindo uma combinação específica de abordagens adequadas às suas características. 

As instituições estão presentes em diversos espaços da sociedade. Famílias, por exemplo, são instituições mantidas por regras e papéis atribuídos a cada um de seus membros. Governos definem regras que estruturam políticas econômicas complexas que impactam cidadãos e empresas. Instituições políticas como o sistema eleitoral balizam o comportamento dos eleitores e moldam escolhas. Instituições, embora estáveis, são entidades dinâmicas integradas à vida social moldando comportamentos, estratégias e ideias. Muitas vezes surgem de tentativas de solucionar problemas de ação coletiva e de estabelecer formas de tomadas de decisão. A premissa do conceito de instituição é que os seres humanos agem com base em regras socialmente construídas que dão sentido às suas ações e estruturam relações sociais e ações coletivas. Em outras palavras, uma instituição é, ao mesmo tempo, um fator de significado e de estruturação de relações de poder. Como os algoritmos são regras incorporadas a sistemas complexos, eles podem criar significado para a agência humana. Os sistemas algorítmicos coevoluem com a agência humana em diferentes contextos.

Assim como outras instituições, algoritmos são sistemas criados por humanos geralmente projetados para tomar decisões e resolver problemas. Quando pensamos em algoritmos como instituições, reconhecemos sua capacidade de estruturar o comportamento humano ao influenciar o escopo de nossas escolhas. A agência humana depende de como interpretamos os códigos de conduta organizados nas diferentes situações do dia a dia. Os algoritmos se tornaram instituições emergentes da sociedade contemporânea porque organizam esses códigos de conduta para a ação humana em múltiplas esferas, públicas e privadas. Ou seja, os algoritmos tornaram-se instituições (ou camadas de configurações institucionais complexas). Mais da metade dos adultos dos Estados Unidos (54%), por exemplo, afirma que, ao menos ocasionalmente, tem acesso a notícias em plataformas digitais administradas por sistemas algorítmicos.a Estudos indicam que a maior parte dos conteúdos vistos nas telas de usuários adultos ativos do Facebook naquele país advém de fontes alinhadas às suas preferências.⁶

No cotidiano, não temos consciência de como as instituições influenciam o modo como pensamos, agimos, desejamos e, em última instância, somos. Os algoritmos também representam relações de poder – não apenas as relações explicitamente hierárquicas, mas principalmente aquelas manifestas em redes invisíveis, sutis e onipresentes que moldam processos de formação da subjetividade. Como outras instituições, os sistemas algorítmicos alocam recursos e poder. Muitos países utilizam sistemas algorítmicos em decisões imigratórias e de asilo, com ferramentas como reconhecimento facial e de fala.²

Pensar em algoritmos como instituições exige compreender os valores sociais neles inscritos, a maneira como se interpõem, e como são transformados pela ação humana no mundo. Assim como as instituições políticas, os algoritmos devem estar relacionados a princípios amplos que estruturam a ação coletiva – princípios que podem variar ao longo do tempo. Os algoritmos não são cadeias históricas lógicas, mas registros de relações sociais em padrões de tomada de decisão. Essas inscrições tornam-se bastante visíveis quando os algoritmos, por meio de modelos de inteligência artificial, buscam aprender com o passado para agir no presente e projetar o futuro. Por exemplo, o debate sobre preconceitos raciais em softwares de aprendizado da máquina surge porque esses sistemas reproduzem estruturas racistas baseadas em dados racialmente preconceituosos.⁷ Os algoritmos refletem uma estrutura social baseada em relações de poder desiguais, reforçando, assim, formas estruturais de dominação.⁹

A democratização de instituições algorítmicas

Compreendemos os algoritmos como uma dimensão central das sociedades contemporâneas e que vieram para ficar. Não há retorno possível para um mundo pré-algorítmico. Contudo, da mesma forma que outras instituições foram democratizadas ao longo do tempo, acreditamos que as democracias agora precisam – e dependem – da democratização das instituições algorítmicas. 

Como instituições, os algoritmos exercem influência coletiva na sociedade. Ao ocupar um papel central na tomada de decisão coletiva, eles oferecem formas de racionalizar estruturas sociais, alterar normas decisórias e reorganizar a existência humana. A integração disseminada dos algoritmos em áreas como dinâmicas de trabalho, processos eleitorais, relações interpessoais e escolhas de políticas públicas exemplifica seu impacto transformador sobre o tecido social, dando origem a uma estrutura política algorítmica que evolui em conjunto com a agência humana.

Ao conceber os sistemas algorítmicos como instituições também podemos imaginar um movimento em direção à sua democratização. Essas instituições são novas, confusas e opacas, têm consequências ambivalentes e imprevistas, e são permeadas por profundas assimetrias de poder e jogos de influência. A conjuntura crítica gerada pela problematização pública das consequências políticas dos algoritmos oferece, em muitos casos, uma janela de oportunidade para promover mudanças – trazendo o design, a implementação e a operação dos sistemas algorítmicos para mais perto dos valores democráticos.

Para fomentar essa transformação, propomos duas etapas. A primeira é o reconhecimento da legitimidade das tomadas de decisões algorítmicas. A democratização das instituições algorítmicas está entrelaçada com as discussões sobre a criação de processos legítimos de tomada de decisão em contextos democráticos. Também é fundamental refletir sobre os valores básicos essenciais para fomentar instituições mais democráticas. A segunda etapa, por sua vez, é alinhar os algoritmos a princípios democráticos: eles devem ser integrados a dinâmicas políticas orientadas por valores tais como participação, igualdade, pluralismo, responsabilização, debate público e liberdade.

Embora os sistemas algorítmicos sejam uma peça central da nossa vida institucional contemporânea, eles carecem dos dois principais pilares de legitimação próprios da democracia: autorização e responsabilização. Decisões tomadas por meio de sistemas algorítmicos raramente contam com mecanismos claros de autorização ou de responsabilização. Os algoritmos usufruem dos benefícios da legitimidade esperados por seus resultados sem os ônus inerentes às tomadas de decisões democráticas. Eles moldam contextos interativos e têm consequências coletivas profundas sem estarem sujeitos aos testes de autorização ou aos mecanismos de controle aplicados a outras instituições com implicações políticas em regimes democráticos. Ou seja, a institucionalização de sistemas algorítmicos com diferentes impactos públicos raramente satisfaz os critérios de princípios e valores democráticos, não havendo procedimentos claros para sua justificação dentro da comunidade política.

Um caminho para a governança democrática

Defendemos que os sistemas algorítmicos, quando inseridos em contextos institucionais, precisam ser democratizados, mas o significado dessa redemocratização requer mais clareza. No caso dos algoritmos, o princípio da responsabilização (accountability) parece ser a chave para democratizar essas instituições. Esse princípio pode demandar novas estratégias de governança. Os principais valores democráticos devem fazer parte da estrutura de governança para a responsabilização democrática dos algoritmos. 

A democratização dessas instituições deve ser pensada como um horizonte normativo – algo que orienta as práticas e permite críticas contínuas às instituições existentes. Atualmente, as democracias estão passando por processos de transformação entendidos como a erosão das instituições políticas tradicionais e o surgimento de novas formas institucionais. Instituições tradicionais como os sistemas eleitorais e partidários, são desafiadas e enfraquecidas diariamente. Ao mesmo tempo, as plataformas de redes sociais, com diferentes algoritmos baseados em inteligência artificial, influenciam a comunicação política, afetando preferências humanas, discursos e orientações políticas. Quando se trata de administrar instituições algorítmicas, devemos tirar lições das instituições políticas. É essencial estabelecer redes de instituições diversas para supervisionar e regulamentar essas entidades. A concentração de poder nunca é benéfica e confiar exclusivamente na autorregulação não é a solução. Ademais, a democratização da governança algorítmica exige uma participação transnacional, reunindo não apenas especialistas e governos, mas uma ampla gama de cidadãos afetados pela ubiquidade de algoritmos de alto risco em suas vidas cotidianas.

O termo “governança” comporta vários significados. No contexto atual serve como um conceito amplo para descrever todos os tipos de direcionamento coletivo de questões sociais. Isso inclui formas institucionalizadas de colaboração entre Estado, sociedade e organizações privadas. A governança colaborativa surge como resposta às complexidades da sociedade algorítmica e às desvantagens atribuídas a uma administração centralizada no Estado, que incluem falta de flexibilidade, centralização, carência de expertise e regras excessivamente genéricas.^3,8 Ela busca incorporar perspectivas não governamentais sem se limitar a uma mera autorregulação empresarial. Seu objetivo é combinar as vantagens das organizações privadas com a responsabilidade pública e a legitimidade regulatória associadas à governança estatal. 

A análise dos algoritmos como instituições permite compreender melhor um mundo em transformação em tempos incertos, permeado por algoritmos e tecnologias digitais. E ajuda a pavimentar um caminho para a governança democrática digital.

* Este artigo foi originalmente publicado em inglês na Commun. ACM 68, 1 com o título Thinking of Algorithms as Institutions  (January 2025), 20-23. https://doi.org/10.1145/3680411