Uma estratégia de IA para o setor social

“Estamos apenas tentando sobreviver”, disse-nos recentemente a liderança de um empreendimento social. “Estamos fazendo algumas coisas pontuais com IA, mas ainda não conseguimos entender como tudo isso se encaixa na organização como um todo. Sei que precisamos dedicar mais tempo a pensar no assunto.”

Como financiadoras, consultoras e integrantes de conselhos de organizações do setor social, ouvimos frequentemente diferentes versões desse relato. Financiadores perguntam sobre estratégias de IA, conselhos pressionam pela realização de projetos-piloto e equipes fazem experimentos sem uma orientação clara, mas muitos líderes, compreensivelmente, não sabem como iniciar conversas mais estratégicas e abrangentes.

Um bom ponto de partida é fazer quatro perguntas fundamentais que ajudem a identificar oportunidades, avaliar o grau de preparação da organização e definir limites e um ritmo adequado. Embora não sejam exaustivas, essas perguntas oferecem uma pauta prática, pronta para ser levada ao conselho, capaz de criar um entendimento comum e servir de referência para as primeiras discussões estratégicas.

Pergunta 1: IA para quê?

As primeiras perguntas que muitos conselhos fazem sobre IA são: como estamos usando a IA? Quais ferramentas devemos adotar? Quase sempre, esse é o ponto de partida errado.

Antes de discutir ferramentas, riscos ou investimentos, as lideranças precisam ajudar o conselho ou a equipe executiva a esclarecer a relevância da IA para a organização: que problemas estamos tentando resolver? Que oportunidades esperamos criar? Quando a questão é formulada dessa maneira, a IA passa a ser uma conversa sobre estratégia, e não apenas sobre tecnologia.

Para tornar essa conversa mais concreta, é importante dar um passo atrás e considerar os tipos de desafios e ambições que a organização enfrenta com frequência, além de observar como eles variam em escala. Uma maneira simples de estruturar esse raciocínio é posicionar as oportunidades da organização ao longo de um espectro. Em uma extremidade, ficam as necessidades mais incrementais e voltadas à produtividade, como aumentar a eficiência interna ou reduzir a carga administrativa. Na outra, estão as ambições transformadoras e diretamente ligadas à missão, como ampliar o alcance da organização ou melhorar resultados em grande escala. Outros modelos de categorização incluem classificação de usos de IA para organizações sem fins lucrativos proposta pela Fast Forward; o Mapa do Tesouro da IA para Organizações Sem Fins Lucrativos, da Tech Matters; e a Taxonomia de Uso de IA do NIST: uma abordagem centrada no ser humano.

A partir daí, é útil analisar casos específicos de uso de IA como modelos ilustrativos para atender a essas necessidades e ambições. Apresentar tanto possibilidades incrementais quanto alternativas mais ambiciosas ajuda a tornar as opções concretas, sem que a organização precise assumir imediatamente o compromisso de colocá-las em prática. Boas fontes de exemplos incluem a Biblioteca de Casos de Uso de IA, da Patrick J. McGovern Foundation, e o Relatório de Impacto da AI for Good.

O objetivo desses exercícios é desenvolver uma linguagem e uma estrutura comuns para avaliar em quais áreas a IA poderia contribuir de forma significativa para os objetivos da organização, antes de decidir se ela deve avançar e de que maneira. Caso o objetivo seja fortalecer a capacidade interna, no lado do espectro voltado à produtividade, por exemplo, a pergunta poderia ser: como podemos reduzir a carga administrativa e liberar tempo para atividades de maior valor? Os casos de uso poderiam incluir organizações que usam IA para redigir comunicados, resumir reuniões ou automatizar fluxos de trabalho repetitivos. A Generation.org, por exemplo, que oferece formação profissional e apoio à inserção no mercado de trabalho, criou um GPT personalizado com base em seus próprios dados para agilizar o desenvolvimento e a revisão de currículos, reduzindo significativamente o tempo dedicado às duas atividades.

Caso o objetivo seja ampliar o acesso a um serviço ou recurso, no lado transformador do espectro, a pergunta poderia ser: como podemos fazer com que nossos serviços ou recursos cheguem a pessoas que atualmente não conseguem acessá-los? Organizações que usam IA para permitir que determinadas tarefas sejam realizadas por profissionais não especializados, ampliar o acesso a capital por meio de sistemas mais eficientes ou se conectar com mercados antes inacessíveis podem servir como referência. A Apollo Agriculture, por exemplo, usa uma ferramenta preditiva de IA para avaliação de risco de crédito, o que lhe permite oferecer empréstimos de forma sustentável a pequenos agricultores que não possuem histórico de crédito.

Pergunta 2: O que precisamos para avançar?

Se a primeira pergunta esclarece a finalidade da IA, a segunda coloca essa intenção diante da realidade: o que precisamos para avançar? A adoção de IA, especialmente quando envolve ambições mais transformadoras, começa pelo grau de preparação da organização e alguns componentes fundamentais podem exigir anos de trabalho e um volume significativo de recursos para serem desenvolvidos. Com base em nossa pesquisa, três dimensões influenciam mais diretamente a duração e a inclinação da curva de adoção de IA de uma organização: sua relação com a tecnologia, sua cultura de aprendizagem e o setor ou área em que atua. A seguir, examinamos cada uma delas.

Tecnologia: projetos eficazes de IA dependem de dados de alta qualidade, de uma infraestrutura de dados robusta e de profissionais com competências técnicas. Organizações nas quais a tecnologia ainda não ocupa um papel central na estratégia e na prestação de serviços precisam avaliar se o desenvolvimento dessa capacidade é uma prioridade de curto prazo, uma aspiração de longo prazo ou algo que está completamente fora de seu direcionamento estratégico.

Embora estejam surgindo organizações “nativas em IA”, que enfrentam seus próprios desafios, especialmente em relação à confiança e à implementação, de forma geral e para os fins deste artigo, a maioria das organizações se enquadra em um de três perfis:

Baixa adoção tecnológica: usa tecnologia de maneira limitada em suas operações e programas; seus sistemas de dados podem ser fragmentados ou pouco desenvolvidos.
Usuária de tecnologia: usa de maneira eficaz tecnologias de uso geral como uma camada de apoio (como sistemas de gestão do relacionamento com clientes, os chamados CRMs, e ferramentas digitais), mas a tecnologia não é um elemento central de seu modelo de atuação.
Orientada por tecnologia: incorpora a tecnologia como um dos pilares centrais de sua estratégia ou de seu modelo de prestação de serviços, geralmente contando com equipes especializadas, sistemas de dados estruturados e capacidade analítica.

Uma avaliação honesta pode ajudar as organizações a entender em quais áreas o caminho será mais difícil e a ancorar as discussões estratégicas na realidade dos investimentos necessários em dados, sistemas e talentos.

Uma observação sobre contratações: conselhos podem rapidamente se inclinar pela contratação de profissionais de tecnologia, mas esse raramente é o melhor primeiro passo. As organizações devem considerar uma “estratégia gradual de dosagem”, que primeiro desenvolva internamente uma compreensão ampla sobre IA e, depois, invista em conhecimentos especializados (internos ou externos) alinhados às suas prioridades. Esse apoio externo pode vir de consultores, integrantes do conselho ou programas de voluntariado em tecnologia, como Mapbox, Tech To The Rescue e MovingWorlds.

Cultura de aprendizagem: a adoção de IA raramente ocorre de forma linear. Ela exige experimentação, aperfeiçoamento contínuo e disposição para mudar de rumo quando as premissas se mostram equivocadas. Organizações com uma cultura de aprendizagem sólida usam dados para questionar, refinar e aprimorar suas práticas e, por isso, estão mais bem preparadas para explorar a IA de forma responsável. As lideranças devem perguntar: usamos os dados principalmente como uma ferramenta de prestação de contas e reporte às instâncias superiores ou estimulamos seu uso para revelar verdades incômodas e adaptar nossa atuação em tempo real?

Ao discutir essa dimensão com o conselho ou com a equipe de liderança, o objetivo não é fazer críticas, mas obter clareza. Quando a experimentação e o aprendizado coletivo ocorrem de maneira informal ou inconsistente, investir em mudanças culturais ou nos sistemas internos pode ser tão importante quanto investir em novas tecnologias.

Área de atuação: o contexto determina o grau de preparação. Algumas áreas, como clima e agricultura, podem se beneficiar de bases de dados relativamente abundantes, de menos restrições relacionadas à privacidade individual e de um histórico de experimentação digital. Outras, como saúde, direitos fundiários ou enfrentamento à violência de gênero, operam em ambientes altamente regulados e extremamente sensíveis, nos quais os riscos para populações vulneráveis são significativos.

As lideranças precisam considerar como o contexto de sua organização influencia as oportunidades, as exigências regulatórias e os riscos, e trazer exemplos de organizações semelhantes para demonstrar como outras instituições vêm lidando com esses dilemas. Onde há dados em abundância e riscos administráveis? De que maneira a regulamentação e as exigências de conformidade determinam quais dados podem ser coletados ou utilizados? Que nível de complexidade e de dano potencial o contexto acrescenta às diferentes aplicações de IA?

Essas perguntas não são meramente teóricas. Na prática, diferentes áreas de atuação resultam em caminhos muito distintos para a IA, dependendo da forma como as organizações avaliam e administram os riscos. Na agricultura, por exemplo, organizações como a Digital Green constataram que ferramentas voltadas diretamente aos usuários, como chatbots de orientação agronômica, podem ser eficazes e apresentar riscos relativamente baixos, sobretudo quando amparadas por uma grande quantidade de dados locais e por casos de uso claramente definidos. Em áreas mais sensíveis, a mesma abordagem pode não ser adequada. No campo do enfrentamento à violência de gênero, a organização de tecnologia sem fins lucrativos Chayn interrompeu um projeto-piloto de chatbot com IA voltado ao apoio de sobreviventes, após concluir que os riscos, especialmente os associados a usos não previstos, eram elevados demais diante daquele contexto. Isso não significa que a IA não tenha nenhum papel a desempenhar. Significa, antes, que ela pode ser mais adequada a aplicações indiretas. Um exemplo é o trabalho da DataGénero, que usa IA para ajudar tribunais criminais a coletar dados jurídicos sobre violência de gênero e disponibilizá-los publicamente. (Para mais reflexões sobre a influência da área de atuação, consulte o estudo da AI Access Initiative, “IA para o bem: uma análise intersetorial”.)

Pergunta 3: Como liderar nesse processo?

Os níveis de entusiasmo e de apreensão em relação à IA variam consideravelmente entre as organizações. Entre profissionais orientados por uma missão e empenhados em enfrentar falhas de mercado e problemas sistêmicos, o ceticismo é comum e justificável. As preocupações incluem os custos ambientais e trabalhistas, a reprodução de vieses, as violações de privacidade e os impactos mais amplos sobre o emprego, a democracia e a sustentabilidade. Ao mesmo tempo, a IA oferece um potencial concreto para impulsionar avanços sociais e ambientais, especialmente à medida que as organizações enfrentam problemas cada vez mais complexos e restrições de recursos. Vilas Dhar, presidente da Patrick J. McGovern Foundation, compartilhou conosco a seguinte reflexão: “As vozes mais estridentes no debate sobre IA estão vendendo euforia ou alertando para um colapso. Nenhuma dessas posições constitui uma estratégia. A verdadeira liderança, neste momento, exige reconhecer simultaneamente os desafios e as possibilidades, avançando em conjunto e mantendo viva a esperança no potencial da IA.”

A tarefa das lideranças não é resolver essas tensões de imediato, mas reconhecê-las abertamente, lidar com elas de maneira construtiva e criar espaço para uma exploração informada e orientada por princípios dentro desse caminho intermediário e esperançoso. Uma forma prática de fazer isso é estabelecer salvaguardas desde o início. O primeiro passo é convidar o conselho e as equipes a identificar os riscos mais relevantes para o contexto da organização. Em seguida, esses riscos podem ser traduzidos em um conjunto de princípios para o uso responsável da IA, ou de compromissos compartilhados, que orientem sua avaliação, implementação e governança. Os princípios de IA responsável devem levar em conta aspectos como equidade, transparência, centralidade das pessoas, privacidade e segurança de dados, inclusão e sustentabilidade.

Esse processo ancora a exploração da IA em princípios éticos e a alinha à missão da organização, oferecendo a clareza necessária para que todos possam avançar com mais confiança e equilíbrio. Mais uma vez, é útil recorrer a exemplos de organizações que trabalham com oportunidades e restrições semelhantes. No caso da Jacaranda Health, por exemplo, aplicar IA à saúde materna significa priorizar um consentimento claro dos usuários, desenvolver soluções pensando nas pessoas mais vulneráveis, assegurar que profissionais capacitados revisem as respostas geradas pela IA e manter custos acessíveis para possibilitar a expansão da iniciativa. O módulo de IA Responsável da Patrick J. McGovern Foundation pode apoiar o desenvolvimento desses princípios. Já as perguntas do Construtor de Políticas de IA para Organizações Sem Fins Lucrativos, da Fast Forward, podem ajudar a orientar as discussões sobre o uso interno adequado da IA.

Pergunta 4: Qual é o ritmo certo para nós?

O setor privado costuma apresentar a adoção da IA como uma corrida para implementar soluções mais rapidamente, automatizar mais processos e “errar rápido”, com o objetivo de reduzir custos e conquistar participação de mercado. Organizações do setor social, porém, atuam sob outro mandato e enfrentam riscos de outra natureza. Um chatbot com falhas pode oferecer orientações perigosas a gestantes. Um modelo enviesado de avaliação de crédito pode aprofundar a exclusão. Por isso, as organizações precisam avançar no ritmo da confiança. Compromissos operacionais com inclusão, proteção e conformidade – muitas vezes fundamentados em princípios de IA responsável – devem determinar o ritmo e o alcance da adoção.

As lideranças precisam definir o que esses compromissos exigem em termos de processos, recursos e prazos. À medida que a Jacaranda Health amplia o acesso ao PROMPTS, seu chatbot de saúde materna baseado em IA, por exemplo, a organização precisa estabelecer parcerias com sistemas e prestadores locais de saúde, validar rigorosamente a precisão das mensagens, adaptar-se a diferentes ambientes regulatórios e conquistar a confiança de profissionais da linha de frente e pacientes. Esse nível de rigor exige tempo e recursos. À medida que a adoção da IA se acelera em todo o mundo, financiadores e parceiros podem pressionar por mais rapidez. Explicar claramente que o ritmo é uma decisão estratégica fundamentada em impacto, ética e confiança – e não uma reação ao medo ou inércia – ajuda a estabelecer expectativas realistas com conselhos, parceiros e financiadores. Isso garante que a inovação fortaleça a missão, em vez de desviá-la de seu propósito. (A forma como a Patrick J. McGovern Foundation incorporou seus princípios de IA ao longo do desenvolvimento de uma ferramenta de diligência financeira, assim como os estudos de caso da NetHope nas áreas de saúde, educação e agricultura, pode servir de inspiração.)

O próximo passo

Independentemente do ponto de partida ou do grau de dificuldade do caminho, o desenvolvimento de qualquer estratégia de IA deve ser iterativo. Ao esclarecer “IA para quê?”, avaliar o grau de preparação da organização em tecnologia, cultura de aprendizagem e área de atuação, manter o ceticismo e a esperança em uma tensão construtiva e permitir que as prioridades de impacto determinem o ritmo, as lideranças podem oferecer ao conselho e à equipe algo mais valioso do que respostas rápidas: um entendimento compartilhado. A partir daí, poderão avançar de maneira deliberada, definindo estratégias e marcos, identificando parceiros, realizando testes, investindo ou fazendo pausas, de acordo com o grau de preparação e de alinhamento da organização.

*Texto publicado originalmente na Stanford Social Innovation Review com o título “A Path Through AI Overwhelm”.