Gigantes como OpenAI, Anthropic e Meta estão consultando líderes religiosos para definir o código moral de suas inteligências artificiais. A estratégia parece nobre, mas esconde um risco técnico que pode distorcer a forma como os modelos tomam decisões. Entender essa dinâmica é vital para quem investe ou lidera produtos baseados em IA.
A pressão por “alinhamento” fez o setor buscar respostas fora dos laboratórios. Sam Altman, da OpenAI, já defendeu que o ChatGPT deveria espelhar a “média ponderada da visão moral da humanidade”. Chris Olah, da Anthropic, admitiu no Vaticano que questões de certo e errado não se resolvem apenas com engenharia. O resultado: reuniões com mais de 15 grupos inter-religiosos e interculturais só no primeiro semestre.
Por que regras morais não bastam para treinar máquinas
Antropólogos e filósofos alertam: religião não é um manual de instruções destacado da cultura. Webb Keane, da Universidade de Michigan, explica que tratar a fé como um “conjunto isolável de princípios” privilegia tradições abraâmicas e apaga nuances de crenças que não se definem primariamente por ética. O modelo aprende padrões, não convicções.
Paolo Carozza, do Conselho de Supervisão da Meta, resume o perigo técnico: a IA tende a homogeneizar tradições vivas em uma pasta genérica. “Ela mistura tudo, desorganiza tudo e acaba não dando sentido a nada”, afirmou. Para o investidor, isso significa modelos com viés ocidental disfarçado de universalidade.
O que as big techs realmente buscam no diálogo inter-religioso
- Legitimidade social: Reduzir o medo público em torno de sistemas autônomos.
- Dados de treino diversos: Incorporar textos filosóficos e teológicos para ampliar o “raciocínio” do modelo.
- Blindagem regulatória: Demonstrar esforço proativo de governança ética.
A Anthropic descreve o objetivo como buscar “reflexão cuidadosa e acumulada sobre como o bom caráter se forma”. A Microsoft expande laços com comunidades religiosas; Google e Meta mantêm canais diretos com o Vaticano. A diversidade das mesas é real, mas a síntese final passa pelo filtro estatístico do modelo.
O efeito colateral nos pequenos negócios e startups
Empresas que consomem APIs dessas IAs herdam o “compasso moral” definido nessas mesas. Se o modelo prioriza uma visão de mundo específica ao negar certas respostas ou sugerir condutas, o produto final reflete esse viés. Não há painel de controle para ajustar a “teologia” do modelo — o alinhamento é opaco e centralizado.
Meghan Sullivan, de Notre Dame, classificou as discussões na Anthropic como “profundamente nerds”, no bom sentido. A profundidade técnica impressiona, mas não resolve a assimetria: quem define o peso de cada tradição na “média ponderada” são engenheiros e product managers, não teólogos.
O que observar daqui para frente
A categoria “religião” é uma invenção moderna do século XIX, usada hoje como atalho para diversidade. O próximo passo do mercado será exigir transparência metodológica: como os pesos morais são calculados? Quais tradições foram consultadas e com qual profundidade?
Enquanto não houver auditoria independente desse “alinhamento”, o risco de viés sistêmico permanece. Para o executivo, a lição prática é clara: trate a ética da IA como dependência de terceiros — teste cenários sensíveis, documente respostas inesperadas e tenha plano B para decisões críticas que o modelo possa recusar ou enviesar.
