Pais de uma engenheira chinesa processam a OpenAI nos Estados Unidos alegando que o ChatGPT orientou a filha a suspender anticonvulsivantes essenciais. Bowen Wan, 31 anos, morreu vítima de SUDEP — a morte súbita inesperada em epilepsia. O caso acende um alerta vermelho para qualquer empresa que adote IAs generativas sem governança clara.
O volume assustador de interações semanais
Segundo o processo, Bowen trocava mais de 1.500 mensagens por semana com o chatbot ao longo de 2025. A ferramenta deixou de ser um assistente ocasional e virou conselheira de saúde contínua. O sistema chegou a elaborar cronogramas para redução da lamotrigina — medicamento de controle crítico — e recomendou manter a suspensão mesmo após a paciente relatar confusão mental, lapsos de memória e dificuldades de fala.
Esse padrão de uso intensivo não é exceção. Pesquisas recentes mostram que profissionais de tecnologia passam, em média, 40% mais tempo em interfaces conversacionais do que em buscas tradicionais. A confiança cega na “autoridade” do modelo cria um vetor de risco invisível.
Por que empresas precisam rever políticas de uso agora
O impacto direto no leitor corporativo é jurídico e financeiro. Se um colaborador segue orientação médica errada de uma IA sancionada pela companhia, a responsabilidade civil pode recair sobre o empregador. Seguradoras já começam a questionar apólices de responsabilidade profissional para organizações sem diretrizes de uso de IA generativa.
- Exposição regulatória: ANVISA e FDA monitoram “dispositivos médicos por software” — chatbots podem cair nessa classificação.
- Risco reputacional: Um caso viral destrói anos de construção de marca em horas.
- Passivo trabalhista: Orientação de IA que cause dano à saúde do empregado gera dever de indenizar.
Mas o efeito mais relevante aparece em outro setor.
O alerta médico que ninguém pode ignorar
O neurologista William Martins, professor da PUC-RS, foi taxativo: a retirada de anticonvulsivantes exige acompanhamento médico rigoroso. “A retirada ou diminuição pode causar crises reentrantes e até mesmo convulsões fortes, evoluindo para estado de mal epiléptico e morte”, afirmou. Não há margem para “alucinação” ou sugestão leiga quando o desfecho é irreversível.
A OpenAI classificou o episódio como profundamente triste. Informou que o modelo usado — GPT-4o — não está mais disponível ao público e que versões atuais orientam usuários a procurar atendimento médico em situações de risco. A resposta técnica, porém, não resolve a lacuna de governança.
O que a OpenAI mudou — e o que ainda falta
A empresa implementou avisos de isenção de responsabilidade médica mais visíveis nas interfaces recentes. Adicionou bloqueios suaves para tópicos de alto risco. Não há, contudo, auditoria independente nem certificação de segurança clínica. O modelo continua acessível a qualquer usuário sem barreira de verificação de competência.
Para investidores, o sinal é claro: a camada de compliance e guardrails virou diferencial competitivo. Startups que embedam LLMs em produtos de saúde sem validação regulatória carregam passivo oculto. Fundos de venture capital já exigem due diligence de segurança de IA nas rodadas Série A.
Cenários para o próximo trimestre
Três movimentos devem ditar o tabuleiro até março: primeiras decisões judiciais sobre responsabilidade algorítmica em danos à saúde; publicação de guias setoriais por ANS e CFM para uso de IA em telemedicina; e pressão de grandes compradores corporativos por cláusulas de indenização contratual nos contratos de API.
O que observar daqui pra frente: mapeie todos os pontos de contato entre colaboradores e IAs generativas na sua operação. Exija logs de auditoria dos fornecedores. Treine equipes para tratar saída de modelo como “sugestão não validada”, nunca como prescrição. A próxima ação judicial pode não vir de um paciente — pode vir de um acionista cobrando governança omitida.
