Seja com base na ciência ou na metafísica, ao longo da história as pessoas frequentemente sustentaram a crença de que padrões ocultos da vida cotidiana determinam o curso do mundo e de que revelar esses padrões pode abrir caminho para a prosperidade e o desenvolvimento.

Atualmente, uma versão dessa crença aparece com frequência nas declarações públicas de executivos das principais empresas de inteligência artificial (IA). Sam Altman, cofundador da OpenAI, por exemplo, ao exaltar o impacto futuro do trabalho realizado por sua empresa, perguntou: “Como chegamos ao limiar do próximo salto de prosperidade?” E respondeu: “A humanidade descobriu um algoritmo capaz, de fato, de aprender qualquer distribuição de dados (ou, mais precisamente, as ‘regras’ subjacentes que produzem qualquer distribuição de dados).”

Ilya Sutskever, da Safe Superintelligence (SSI), descreveu o treinamento de um grande modelo de linguagem (LLM, na sigla em inglês, uma das tecnologias que impulsionam a IA) como o processo de “aprender um modelo do mundo”, capaz de captar uma representação cada vez mais detalhada “da condição humana”. Partindo de uma perspectiva ligeiramente diferente, Dario Amodei, da Anthropic, retratou o ritmo lento das mudanças no “mundo exterior” como um gargalo para a inovação promovida pela capacidade da IA de reconhecer padrões.

De fato, a capacidade dos grandes modelos de linguagem de revelar, ampliar e recombinar esses padrões parece propensa a acelerar os avanços diante de desafios já conhecidos em muitas áreas da ciência e da tecnologia.

No entanto, tão antiga quanto essas crenças é a questão de como nós, seres humanos, nos inserimos nessa suposta ordem subjacente e em seu potencial de prosperidade – somos apenas peças passivas de um quebra-cabeça predeterminado ou somos agentes capazes de criar novos quebra-cabeças? Estamos apenas descobrindo os padrões da existência ou também estamos criando essa existência à medida que avançamos? A fórmula da nossa prosperidade econômica estaria escondida na própria estrutura da realidade, à espera de um algoritmo suficientemente poderoso para encontrá-la?

A inovação exige o desejo de criar

Nem todos os estudiosos do progresso econômico e da inovação concordariam com a ideia de que o caminho para a prosperidade de uma sociedade está “por aí”, à espera de ser revelado por cálculos superiores, ou de que poderíamos simplesmente terceirizar a inovação para a IA e nos limitar a desfrutar de seus resultados. Inovar – o que significa não apenas descobrir como algo funciona, mas também determinar o que realmente vale a pena descobrir – não é uma questão de encontrar, mas de criar.

Edmund Phelps, economista estadunidense laureado com o Prêmio Nobel e um dos pensadores mais prolíficos e abrangentes de nosso tempo, passou as últimas duas décadas estudando a vitalidade econômica e a capacidade de inovação das nações. Ele argumenta que a força fundamental por trás do dinamismo econômico é o impulso humano de explorar o desconhecido e criar algo novo.

A razão para isso, como Phelps sustenta em sua obra seminal Mass Flourishing [Florescimento em massa, em tradução livre], é que as inovações genuínas, aquelas que abrem novos campos de possibilidade e impulsionam o dinamismo, “não podem ser determinadas a partir do conhecimento atual”, pois, “por serem novas, não poderiam ter sido conhecidas anteriormente”. Nenhuma quantidade de análise de dados, teste de hipóteses ou mesmo um conhecimento superior do presente é capaz de dar origem ao que é significativamente novo.

Empregando a terminologia da inteligência artificial, inovar significa sair das distribuições de dados que reunimos no passado. Como nos lembram os estudiosos de sistemas complexos Teppo Felin e Matthias Holweg: “A IA usa uma abordagem probabilística do conhecimento e é, em grande medida, voltada para o passado e baseada na imitação, enquanto a cognição humana é voltada para o futuro e capaz de gerar uma novidade genuína.”

A verdadeira inovação cria o próprio padrão pelo qual será posteriormente compreendida. Inovar não pode ser orientado pelo raciocínio probabilístico, uma vez que o valor e o significado do resultado final só podem ser analisados depois que ele se concretiza. Em vez disso, a inovação exige uma visão, mas também a capacidade de se aventurar pelo desconhecido, começando a construir algo que, inicialmente e, em certa medida, por definição, parece irracional. Seja a inovação motivada pelo desejo de “fazer a diferença”, de “verificar se suas ideias se mostram corretas” ou de “oferecer algo à sua comunidade”, Phelps sustenta que “no centro do sistema de uma nação voltado para um elevado dinamismo estão pessoas com o desejo ou o impulso ocasional de inovar”.

Os fundadores das empresas de inteligência artificial evidentemente também manifestaram esse desejo. Sam Altman fundou a OpenAI em uma época em que a ideia de uma inteligência artificial de propósito geral ainda parecia pouco plausível até mesmo para a maior parte do Vale do Silício. Apostando com base em uma convicção, e não em um cálculo, investidores se comprometeram a destinar US$ 1 bilhão [R$ 5 bilhões] à empresa em seus primeiros anos, antes que ela tivesse demonstrado qualquer produto comercialmente viável. Por sua vez, Anthropic e SSI, as empresas fundadas por Dario Amodei e Ilya Sutskever, nasceram de apostas baseadas em visões de futuros imaginados nos quais a inteligência artificial seria mais segura.

É claro que os seres humanos podem, e de fato costumam, reproduzir padrões previsíveis. Ainda assim, não podemos esquecer que também é caracteristicamente humano aventurar-se pelo desconhecido, impulsionado por uma curiosidade sem um fim predeterminado e pela percepção de que algo diferente é possível.

O senso inato do que pode fazer sentido para outros seres humanos

Também não devemos esquecer que se aventurar pelo desconhecido é mais do que um salto solitário. É algo que fazemos juntos, ainda que implicitamente.

O que ocorre na inovação humana não é apenas uma exploração ousada, mas também uma espécie de regulação dinâmica – um senso intuitivo e incorporado do que pode funcionar para os outros e do que talvez não funcione, mesmo sem sabermos exatamente por quê. A vontade humana opera sempre em referência às mentes e às vontades de outras pessoas, em meio à complexidade da vida social.

A capacidade humana de intuir algo sobre as necessidades e as motivações de outros seres humanos é fundamental para o desenvolvimento de algo novo, quando a utilidade e o significado da inovação não podem ser extrapolados de experiências anteriores. A atual geração de sistemas de IA simplesmente não possui essa capacidade. Embora a IA possa imitar com eficácia comportamentos socialmente inteligentes, ela não dispõe da capacidade básica de cognição social com a qual os seres humanos (e até mesmo outros animais) nascem, como amplamente demonstrado, por exemplo, pela neurociência e pela psicologia do desenvolvimento. Como resultado, ao se aventurar pelo desconhecido, a IA tem dificuldade para tomar decisões que façam sentido no contexto social da inovação, uma vez que esse próprio contexto social ainda está sendo criado.

Mesmo quando os inovadores são motivados pelo desejo aparentemente autocentrado de criar algo que eles próprios gostariam de ter, aquilo que os seres humanos criam está sempre, em alguma medida, sintonizado com outros seres humanos, simplesmente pelo fato de seus criadores também serem humanos. Por exemplo, o engenheiro de software finlandês Linus Torvalds descreveu a criação do Git, sistema de controle de versão de códigos-fonte, dizendo: “Vou fazer algo que funcione para mim e não vou me importar com mais ninguém.” No entanto, aquilo que funcionava para ele acabou funcionando para muitas outras pessoas e se tornou o padrão global no desenvolvimento de software. De forma semelhante, o criador do jogo Balatro afirmou que não pretendia, de fato, desenvolver um jogo para outras pessoas jogarem. Mas, segundo ele, “entreguei o jogo a um amigo e, alguns meses depois, ele me disse: ‘Joguei aquilo por umas 20, 30, 40 horas’”. Tempos depois, a revista GQ o classificou como “o melhor jogo de 2024”.

Como as inovações verdadeiramente valiosas fazem pouco sentido quando projetadas a partir do presente, uma rede neural não consegue distingui-las dos muitos projetos irracionais que poderiam produzir consequências extraordinárias, porém inteiramente prejudiciais. Os seres humanos, em contraste, possuem essa capacidade essencialmente incorporada (embora isso não signifique que as criações humanas sejam sempre benéficas).

Embora ainda exista pouca documentação histórica sobre casos em que se concedeu autonomia total à IA para inovar no mundo real, situações análogas do cotidiano oferecem indícios sobre o quanto ela pode falhar caso lhe seja permitido inovar de forma independente. Considere, por exemplo, um chatbot terapêutico recomendando “uma pequena dose de metanfetamina” a uma pessoa em recuperação da dependência química, ou uma namorada de IA que incentiva alguém a se suicidar. Os seres humanos reconhecem imediatamente que esses comportamentos são absurdamente inadequados. A IA, porém, por não estar sintonizada com o tecido de expectativas sociais no qual os seres humanos transitam sem esforço, não faz ideia disso. Ou considere um caso mais prosaico: o chatbot de IA da Chevrolet prometeu vender um carro do modelo Tahoe por US$ 1 [R$ 5] depois que um cliente reformulou o comando de uma maneira que se sobrepôs à lógica original do sistema. Um operador humano perceberia sem dificuldade a discrepância entre o pedido do cliente e aquilo que “faz sentido” no contexto social de representar a Chevrolet. (Embora isso tenha ocorrido em 2023, a OpenAI ainda alerta que o modo agente do ChatGPT é vulnerável a ataques semelhantes de “injeção de prompt”, nos quais instruções maliciosas ou enganosas conseguem alterar o comportamento esperado do sistema.)

No pior cenário, o inovador artificial tomará decisões com confiança, mas completamente dissociadas de qualquer compreensão dos interesses e valores humanos. Mecanismos de proteção e técnicas de engenharia voltadas à confiabilidade não funcionarão na fronteira do conhecimento porque, por definição, a IA estará explorando um território onde ninguém jamais esteve. Isso não significa que a IA não possa ser útil no processo de inovação. Significa, porém, que é arriscado colocá-la no comando.

A prosperidade humana não pode ser automatizada

A percepção mais importante de Phelps é que o florescimento humano em uma economia próspera não diz respeito apenas à utilidade dos resultados econômicos ou tecnológicos, mas também ao próprio processo de criação e exploração.

Embora Phelps admita que “o sucesso ou as conquistas podem, de fato, ser gratificantes”, ele argumenta que, quando as pessoas têm a oportunidade de buscar novas possibilidades, aventurar-se pelo desconhecido e apreciar a jornada, “o que lhes permite crescer e expressar a si mesmas ao longo do processo”, elas experimentam “uma vida vivida em sua plenitude”. Em uma economia inovadora e dinâmica, essa experiência não é desfrutada apenas pelos empreendedores, mas por todos os participantes, entre eles investidores dispostos a apostar em uma intuição, trabalhadores que imaginam e experimentam novos métodos e consumidores pioneiros na adoção de novos produtos cujo valor não pode ser conhecido de antemão. É precisamente ao se aventurarem para além das distribuições de dados estabelecidas – na criação confusa e concreta da vida real – que os seres humanos encontram realização, sentido e vitalidade.

Infelizmente, a visão dos executivos de IA parece sugerir que não apenas é possível, mas, de certa forma, desejável desconsiderar as sensibilidades humanas envolvidas na inovação ou assumir por completo os processos de inovação. Na formulação de Altman, os seres humanos aparecem como operadores de exércitos de agentes de IA que interagem com outros exércitos semelhantes. Na imagem proposta por Amodei, o inovador é explicitamente a IA, que diz aos seres humanos o que fazer, “da mesma forma que um pesquisador principal orienta seus estudantes de pós-graduação”.

Na prática, nessa visão de mundo, o trabalho dos entregadores de aplicativos de hoje pode ser entendido como um prenúncio do trabalho dos empreendedores do futuro: seguir instruções geradas por um algoritmo opaco, exercendo apenas uma autonomia limitada e arbitrária em suas atividades. Em vez de explorar novos mercados ou perseguir com ousadia suas ideias originais e pouco convencionais, fundadores de startups podem acabar aguardando, de forma hesitante, sinais emitidos por simulações geradas por IA que lhes dirão o quê, quando e como “inovar”.

Somos naturalmente atraídos por tecnologias que nos livram de esforços penosos. Contudo, à medida que terceirizamos nossas percepções e passamos a mediar nossas interações por meio de algoritmos, corremos o risco de enfraquecer a dimensão relacional sobre a qual a verdadeira inovação se constrói. Quanto mais nossas ações são orientadas por algoritmos e quanto mais colaboradores e colegas são substituídos por máquinas, menos empregamos plenamente nossos sentidos para desenvolver a coragem e a percepção ainda não formulada que impulsionam a inovação.

Uma visão de mundo, não o mundo

Então, o que fazer? Hoje, o avanço da IA ​​em direção a ocupar, na economia, o tipo de papel contra o qual argumentamos parece inevitável. Mas o cerne da questão talvez esteja justamente na forma como percebemos e compreendemos o papel que estamos atribuindo a essa tecnologia. O problema não está apenas nas mudanças que ela pode provocar, mas no fato de que, mesmo antes dessas mudanças se concretizarem, já começamos a estreitar nossa visão de mundo e nossa concepção do que significa ser humano para que ambas caibam nos limites daquilo que a IA é capaz de fazer..

Esse desafio exige duas respostas distintas.

Manter a IA no papel de ferramenta. A primeira resposta consiste em aprender a tratar continuamente essas tecnologias, cada vez mais poderosas e sedutoras, como nada mais e nada menos do que ferramentas. Isso significa tanto cobrar das empresas que considerem cuidadosamente como essas ferramentas são projetadas como pedir a todos nós que estejamos atentos à maneira insidiosa pela qual essas tecnologias podem assumir o comando. As intervenções necessárias nesse sentido provavelmente se assemelham ao movimento liderado pelo psicólogo estadunidense Jonathan Haidt para reduzir a dependência de adolescentes em relação a smartphones e redes sociais. Seguindo esse modelo, podemos decidir quando e onde o uso dessas ferramentas é apropriado e favorece a prosperidade humana e, então, restringi-lo nos contextos em que isso não ocorre. Embora essas medidas talvez não pareçam especialmente atraentes à primeira vista, é provável que elas sejam essenciais para preservar nossa conexão com o próprio senso de autonomia.

Reconhecer a visão de mundo em jogo. A segunda resposta exige reconhecer que aquilo com que nos deparamos atualmente, diante da ascensão da IA, não é apenas uma solução tecnológica, mas uma visão de mundo específica: uma visão segundo a qual todos os problemas podem ser resolvidos com o aumento da capacidade computacional e que a prosperidade humana consiste no consumo dessas soluções. Essa visão de mundo, na verdade, antecede os avanços mais recentes da IA. Trata-se, em essência, dos pressupostos contra os quais Phelps argumenta há décadas no campo da economia. No entanto, a atual forma de conceber e adotar a IA representa uma reafirmação ainda mais intensa dessa visão.

A maioria dos esforços existentes de regulamentação da IA opera dentro desses pressupostos e se concentra em maximizar benefícios e minimizar danos. Embora isso seja necessário, para produzir uma diferença real, em última instância, precisamos nos concentrar naquilo que a IA não pode fazer e destacar o que essa visão de mundo compreende de maneira claramente equivocada sobre a vida humana, a inovação e a prosperidade social.

Os seres humanos não são meros maximizadores de utilidade computacionalmente ineficientes, mas participantes criativos de coletividades. A inovação não é apenas a recombinação de padrões existentes, mas a emergência do novo em contextos sociais. A prosperidade humana não é um estado de consumo passivo, mas a consciência das possibilidades existentes e a realização do desejo de criar. Todas essas capacidades são e, no futuro previsível, continuarão sendo características exclusiva e fundamentalmente humanas. E, como a história claramente demonstra, podemos ser humanos com ou sem IA. À medida que passamos cada vez mais a viver nossa humanidade ao lado da IA, também podemos refletir e decidir se ela nos ajuda a inovar e prosperar, tanto como sociedade quanto como indivíduos.

Em última instância, as economias vencedoras no contexto do avanço da IA não serão aquelas movidas pelo medo de ficar para trás ou pela adoção indiscriminada da tecnologia, mas sim aquelas capazes de manter os seres humanos no comando em todas as dimensões da vida econômica e social. Caso contrário, não haverá ninguém realmente vencendo.

*Texto publicado originalmente na Stanford Social Innovation Review com o título “The Impossibility of Automating Economic Flourishing”.

Leia também: A era da inteligência relacional