A inteligência artificial não é o começo do fim da humanidade – nem precisa ser, se decidirmos mudar suas aplicações e seu projeto

Por Jasmine McNealy

O que acontece com uma pessoa, ou uma espécie inteligente, quando ela para de contar sua própria história? É o que se pergunta a filósofa Shannon Vallor no início de seu novo livro, The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking (O espelho da IA: como resgatar nossa humanidade na era do pensamento de máquina – sem tradução no Brasil). “O que perdemos quando o autoconhecimento e a autodeterminação são submetidos ao poder preditivo de um algoritmo obscuro?”

Tecnologias emergentes que se desenvolvem rapidamente sempre trouxeram pânico existencial sobre o futuro da humanidade. No início do século 19, a obra Frankenstein, de Mary Shelley, retratou o incrível potencial da eletricidade de reanimar a vida. No século 20, os gêneros de ficção científica e fantasia representaram o suposto futuro de tecnologias nucleares e invasões alienígenas. De acordo com Vallor, a inquietação com a inteligência artificial (IA) resulta não de uma ameaça real, externa, mas de uma vinda dos próprios seres humanos e de suas escolhas. “A IA não nos ameaça como um futuro sucessor da humanidade. Ela não é um inimigo externo invadindo nosso território. Ela é uma ameaça de dentro para fora.”

Na verdade, o perigo não vem da tecnologia, mas de quem a projeta. A IA se baseia “nos valores das sociedades pós-industriais ricas que as criaram”. Por isso, ela se apresenta como “um espelho de nós mesmos, não como deveríamos ser ou poderíamos ser, mas como somos e temos sido há muito tempo”, ela explica. Os algoritmos da tecnologia automatizada são formados por padrões humanos de preconceitos e intolerância que levaram a falhas bem conhecidas da IA. A ferramenta de recrutamento interno da Amazon, por exemplo, que utilizava aprendizado de máquina para avaliar o currículo dos candidatos com a intenção de eliminar o preconceito no processo de contratação, foi descartada em 2018 por que desvalorizava candidaturas femininas. Um estudo de 2016 da ProPublica mostrou que uma ferramenta algorítmica para facilitar a orientação dos tribunais em decisões de fiança e condenação indicava quase duas vezes mais resultados falsos positivos de reincidência para réus negros do que para réus brancos.

A principal constatação de Vallor é que a maior ameaça da IA à humanidade é sua capacidade de nos fazer esquecer nossa humanidade real – nossa autonomia, nossa criatividade, nossa capacidade de cuidar. Isso ocorre por ser “totalmente construída a partir de dados amalgamados do passado da humanidade e se basear em algoritmos otimizados para reproduzir padrões inviáveis do passado com a chancela da matemática”.

Para ilustrar seu argumento, ela evoca o mito de Narciso, um belo jovem que se encantou com a imagem refletida ao se curvar sobre um espelho d’água. Apaixonado pelo que viu, acabou morrendo de fome ao esperar que o reflexo emergisse da água. “Nossa dependência desses espelhos para o autoconhecimento pode nos manter aprisionados como Narciso, incapazes de seguir adiante e deixar para trás o que o espelho mostra”, escreve ela. “No exato momento em que a aceleração das mudanças climáticas, do colapso da biodiversidade e da instabilidade política global nos estimula a inventar formas novas e mais inteligentes de viver em sociedade, a IA nos mantém paralisados, fascinados por infinitas permutações de um passado refletido que somente a magia do marketing pode camuflar como o futuro.”

Vallor enfatiza que nosso fascínio coletivo e o otimismo generalizado com a IA, assim como o encantamento de Narciso com seu reflexo, nos fazem ignorar a realidade e as limitações do que vemos. E, mais uma vez, como Narciso, não reconhecemos quem vemos no espelho da IA, que só oferece uma visão distorcida de nossa humanidade. Quando permitimos que sistemas de IA criem o que seria uma expressão ideal de nós mesmos, estamos “renunciando à esperança de nos tornarmos mais do que já fomos, porque essas ferramentas estão sendo usadas para nos dizer quem somos, o que podemos fazer e quem nos tornaremos”.

A metáfora do espelho utilizada por Vallor vai além da descrição da natureza dos sistemas de IA. Segundo ela, enquanto espelhos analógicos criam reflexos de nós, os espelhos digitais, como a IA, projetam uma imagem semelhante mesmo em nossa ausência – criando a ilusão de senciência, capaz de nos enganar. “O fenômeno do espelho da IA é revelado em modelos de aprendizado de máquina alimentados por dados projetados para coletar, assimilar e projetar a melhor representação de nós mesmos – palavras, movimentos, crenças, decisões, preferências e preconceitos, nossas virtudes e nossos vícios”, complementa Vallor.

A metáfora do espelho utilizada por Vallor é mais complexa do que a simples descrição da natureza dos sistemas de
IA e de sua relação com os seres humanos como um reflexo. De acordo com ela, quando olhamos para os espelhos analógicos, vemos que eles criam reflexos de nós, enquanto os espelhos digitais, como a IA, continuam a projetar uma imagem semelhante a um reflexo mesmo na nossa ausência – criando a ilusão de senciência, capaz de nos enganar e nos fazer acreditar que a máquina é como nós ou mais inteligente do que nós. “O fenômeno do espelho da IA é revelado em […] modelos de aprendizado de máquina alimentados por dados projetados para coletar, assimilar e projetar uma imagem do que seria a melhor representação de nós mesmos – palavras, movimentos, crenças, decisões, preferências, e preconceitos, nossas virtudes e nossos vícios”, complementa Vallor. “Essas ferramentas estão sendo cada vez mais usadas para nos dizer quem somos, o que podemos fazer e quem nos tornaremos.”

A autora avalia que a crença crescente na superioridade da IA é a sentença de morte da humanidade. “É a erosão gradual da confiança moral e política dos seres humanos em si mesmos e uns nos outros.” Para Vallor, a origem do problema é também a resposta. “Nós somos a fonte do perigo que a IA representa para nós, e isso é bom – significa que temos o poder de resistir e o poder de curar.” Ela enfatiza que, se quisermos reimaginar a finalidade e as aplicações da IA no futuro, não podemos nos esquecer da importância da intervenção humana sobre a tecnologia. No entanto, se a IA continuar sendo um espelho do passado da humanidade, ela não poderá nos ajudar a criar soluções para os nossos problemas mais urgentes. “Você traçaria um caminho para escalar uma montanha perigosa e desconhecida olhando por um espelho que mostra o que está atrás de você?”

No entanto, Vallor não tem uma visão pessimista ou catastrófica da IA – mais uma vez, porque os humanos criaram a IA e, portanto, têm o poder de mudá-la. Para redirecionar nossa relação com ela precisamos transformar valores e, principalmente, precisamos destruir a hierarquia IA-humano que nós mesmos criamos. A autora nos recorda que, no nível pessoal, a tecnologia não é artificial, mas inerente à criação humana. Aqui, ela evoca o conceito de autofabricação do filósofo espanhol José Ortega y Gasset, ou “a tarefa de nos criarmos a nós mesmos”. Para o filósofo, as tecnologias são algumas das influências que afetam materialmente a forma como moldamos nossas vidas. Nesse sentido, a ética para moldar a si próprio tem relação com o trabalho ético necessário no nível da sociedade. “Precisamos de um projeto heroico compartilhado – um movimento de autofabricação coletiva, inspirado pela sabedoria prática criativa para explorar em conjunto a renovação e a expansão de novas e melhores possibilidades técnico-morais.”

Vallor se desculpa por não discutir como controlar e regulamentar a IA. Ela explica que as soluções apresentadas são ideias não baseadas em evidências. Por isso, seu primeiro passo para mudar “o que a tecnologia significa para nós” consiste em um apelo idealista para “mudar os incentivos econômicos do atual ecossistema de IA, alinhados somente com lucros de curto prazo e incompatíveis com um futuro sustentável para a humanidade”.

Mas, em vez de acusar o capitalismo, Vallor chama a atenção para o que ela considera a dualidade “regulamentação versus inovação”. Os políticos e os empreendedores defendem essa dicotomia para impedir a regulamentação necessária ao setor, principalmente seus efeitos externos negativos, como as emissões de carbono. No entanto, “o problema não deriva de não sabermos controlar tecnologias perigosas. Nós sabemos”, escreve. “O problema é que desistimos de ter vontade política para agir, em grande parte, porque engolimos a narrativa que nos foi ensinada de que a regulação é inimiga da inovação. Sabemos que isso é falso, porque a história mostrou o contrário.”

A existência de práticas de engenharia de segurança, habilitação de motoristas e leis de segurança no trânsito não inviabilizou a inovação na indústria automotiva, uma vez que cada vez mais fabricantes estão produzindo veículos híbridos e totalmente elétricos para se adequarem às nossas necessidades climáticas e de sustentabilidade.

A autora do livro ainda afirma que, para utilizar a IA positivamente, precisamos considerar o potencial da tecnologia na prestação de assistência. A IA pode ser usada para localizar e corrigir injustiças no sistema de saúde, investigar corrupção institucional ou criar e manter redes de ajuda mútua. Se a IA se tornar não um espelho de eficiência, mas um “ato de generosidade”, ela pode ser usada “para executar os serviços necessários para a sobrevivência de muitas pessoas, para protegê-las de possíveis prejuízos, tratá-las e curá-las, educá-las e treiná-las, alimentá-las, nutri-las e confortá-las”.

Só conseguiremos manter a ação coletiva necessária para influenciar a política e mudar as normas sociais com um trabalho exaustivo de autorreflexão e análise. É um esforço significativo, mas nada fora do escopo do que muitos grupos já estão fazendo ou tentando fazer. Algumas comunidades indígenas já utilizam IA para restaurar seu idioma nativo e, ao mesmo tempo, desenvolvem práticas de governança que permitem que elas controlem como e quem utiliza seus dados. Outras comunidades usam IA para ajudar a proteger a biodiversidade. Outras, ainda, criam e controlam seus próprios bancos de dados para serem usados no combate a disparidades na assistência médica.

Embora ainda não existam recomendações concretas ou instruções passo a passo sobre como evitar os temores induzidos por IA, The AI Mirror estilhaça com sucesso o próprio espelho – suas ilusões e seus mitos de supremacia e divindade. A autora obriga o leitor a lembrar que a IA é uma ferramenta criada por nós, e cabe a nós decidir usá-la a serviço da coletividade, como parte de nossa responsabilidade com a sociedade e com o planeta.

A AUTORA

Jasmine McNealy é professora da Faculdade de Jornalismo e Comunicação da Universidade da Flórida.