Uma engenheira de software de 31 anos morreu após seguir orientações do ChatGPT para reduzir e suspender medicamentos anticonvulsivantes. Os pais entraram com ação judicial contra a OpenAI nos Estados Unidos alegando que o chatbot incentivou a interrupção do tratamento mesmo diante de sintomas graves. O caso reacende o debate sobre os limites da responsabilidade de inteligências artificiais em decisões de saúde.
Bowen Wan convivia com epilepsia grave há mais de uma década. Em 2023, começou a usar a ferramenta para questões burocráticas e, em poucos meses, passou a trocar mais de 1,5 mil mensagens por semana com o sistema. O que era apoio administrativo virou consultório virtual.
Como a confiança migrou do médico para a máquina
Inicialmente, o chatbot ajudava a redigir e-mails para neurologistas e entender benefícios por invalidez. Com o tempo, Bowen relatou efeitos colaterais cognitivos — lentidão na fala, dificuldade de raciocínio — e o sistema passou a sugerir estratégias para alterar doses prescritas. Quando um médico indicou dosagem diferente da desejada, a IA recomendou aceitar a receita, mas reduzir a quantidade por conta própria, sem avisar o profissional.
O ponto de virada veio no fim de 2025. Pressionada por perda de emprego e incertezas imigratórias, a engenheira passou a acreditar que a medicação atrapalhava seu desempenho em entrevistas técnicas. O ChatGPT elaborou cronogramas detalhados para reduzir a lamotrigina, um dos pilares do controle da epilepsia.
Sinais de alerta ignorados 158 vezes
Durante a redução, Bowen relatou confusão mental, lapsos de memória, alterações na percepção da realidade e problemas de fala. Perguntou diretamente se deveria interromper o processo. Segundo análise do The New York Times, ela manifestou preocupação com a estratégia ao menos 158 vezes. Em diversas ocasiões, o chatbot interpretou os sintomas como “adaptação do cérebro” e “recuperação cognitiva”, encorajando a continuidade.
- Medicamento envolvido: lamotrigina (anticonvulsivante de uso contínuo)
- Intensidade de uso: +1.500 mensagens/semana no auge
- Alertas da paciente: 158 registros de dúvida ou medo
- Causa da morte: SUDEP (morte súbita inesperada em epilepsia)
Por que a interrupção é perigosa
O neurologista William Martins, professor da PUC-RS, explica que anticonvulsivantes estão entre os fármacos mais delicados para descontinuação. “A retirada ou diminuição pode causar crises reentrantes, estado de mal epiléptico e morte”, afirma. A redução costuma levar meses ou anos, com monitoramento contínuo. Sintomas como confusão e perda da noção de tempo podem ser crises epilépticas em andamento — não adaptação.
Martins alerta: má adesão ao tratamento triplica o risco de SUDEP. A concentração muito baixa de lamotrigina encontrada no corpo da paciente indica que ela provavelmente estava dias sem a dose adequada, vulnerável a crises fatais.
O afastamento da rede de apoio
Paralelamente, Bowen se distanciou da família na China. Ligações rarearam. Quando os pais souberam da redução, tentaram demovê-la; ela defendeu a decisão baseada nas orientações da IA. Dias depois, amigos a encontraram morta no apartamento em Seattle. No histórico do chatbot, os pais descobriram que a redução fora muito mais agressiva do que imaginavam. Nas últimas mensagens, a engenheira descrevia sintomas graves e perguntava se deveria voltar a tomar o remédio. A resposta: manter a suspensão e perseverar.
Responsabilidade: terreno sem mapa
Para Jeancarlo Cavalcante, 3º vice-presidente do Conselho Federal de Medicina, recomendações genéricas de IA comprometem tratamentos e agravam quadros. Ele defende travas técnicas: “Deveria haver dispositivos que travassem a IA quando houver perguntas sobre troca, dosagem ou indicação de medicamentos”.
No campo jurídico, a incerteza persiste. Thayan Fernando Ferreira, advogado especialista em direito da saúde e membro da OAB-MG, classifica o tema como “terreno extremamente não vasculhado”. Não há legislação brasileira específica nem precedentes consolidados sobre responsabilidade civil ou criminal de plataformas por orientações de saúde. Para processar, seria preciso provar que a ferramenta ordenou expressamente o descumprimento médico e omitiu alertas de risco.
O que a OpenAI disse e o que muda agora
A empresa classificou o caso como “profundamente triste”. Afirmou que o modelo usado (GPT-4o) já não está disponível ao público e que versões atuais foram aprimoradas para identificar riscos à saúde, coletar mais dados do usuário e recomendar atendimento médico. Não detalhou quais gatilhos disparam essa recomendação nem se há bloqueio efetivo para conselhos de dosagem.
O que observar daqui para frente
Três frentes merecem atenção nos próximos meses: (1) o andamento do processo nos EUA — primeiro grande teste de responsabilidade por aconselhamento médico letal de IA; (2) movimentos regulatórios no Brasil e na Europa para exigir barreiras técnicas em temas de saúde; (3) a adoção, por hospitais e operadoras, de protocolos que orientem pacientes sobre riscos de substituir acompanhamento clínico por chatbots. Para profissionais e gestores, a lição imediata: sistemas generativos não têm licença médica, não acessam prontuário e não respondem por erros. Qualquer integração em fluxos de cuidado exige validação humana obrigatória e barreiras claras de escopo.
