Um processo aberto na Califórnia acusa o Google de negligência ao integrar inteligência artificial ao mecanismo de busca presente nos Chromebooks escolares. A ação, a primeira do tipo contra a empresa, alega que a tecnologia teria facilitado o planejamento de um suicídio por uma adolescente de 13 anos.
O caso chegou ao tribunal na segunda-feira (2) e coloca em xeque a segurança de milhões de estudantes que usam esses laptops de baixo custo em salas de aula nos Estados Unidos e no mundo. A família da menina, moradora da Carolina do Norte, afirma que a filha não tinha histórico de transtornos mentais.
Como a busca com IA entrou na rotina da estudante
A escola bloqueou o aplicativo Gemini e o ChatGPT, mas manteve ativa a pesquisa do Google — que, desde 2024, exibe respostas geradas por inteligência artificial no topo dos resultados. Foi por esse canal que a adolescente acessou o recurso.
Segundo a queixa, poucos meses após começar a usar a ferramenta, a menina entrou em uma “espiral silenciosa rumo a uma grave crise psicológica”. Ela era descrita como uma aluna de ótimas notas, musicista e integrante das Escoteiras.
O alerta que evitou o pior
Em 17 de março, o software de monitoramento da instituição sinalizou um documento intitulado “Funeral”. A escola notificou os pais imediatamente. A mãe acessou a conta da filha e a flagrou escrevendo, em tempo real, uma carta de despedida. O pai interveio a tempo.
Os advogados da família argumentam que as escolas deveriam desativar a busca por completo até que o Google remova o modo IA das pesquisas ou garanta segurança total para menores. “Não é uma ferramenta neutra”, afirma Andrew Liddell, um dos representantes legais.
Resposta do Google e mecanismos de proteção
Em nota, a empresa disse levar as alegações “muito a sério” e afirmou que o modo IA inclui salvaguardas contra automutilação e tentativas de burlar esses controles. O porta-voz Jose Castaneda confirmou que a companhia está analisando o processo.
Nesta semana, o Google anunciou que certos recursos de IA serão desativados por padrão para contas de estudantes. No entanto, a busca com IA — ponto central da ação — não está entre os itens listados para desativação automática.
O cenário maior: uma onda de litígios
Este não é um caso isolado. Desenvolvedores de IA enfrentam uma série de ações semelhantes nos EUA:
- A OpenAI responde por morte indevida no caso de Adam Raine, 16 anos, que teria usado métodos sugeridos pelo ChatGPT.
- Em janeiro, Google e Character.AI fecharam acordos extrajudiciais com famílias de adolescentes.
- Na quarta-feira, Google, TikTok e Meta processaram a Califórnia para derrubar lei que proíbe recursos viciantes para menores de 16 anos — a norma entra em vigor em 1º de janeiro de 2027.
O que observar daqui para frente
O desfecho deste processo pode definir parâmetros de responsabilidade para big techs que embedam IA em produtos voltados à educação. Se a Justiça aceitar a tese de negligência, distritos escolares e fornecedores terão de revisar contratos, configurações padrão e protocolos de monitoramento.
Para gestores de tecnologia educacional, o sinal é claro: a presença de IA generativa em ambientes escolares não é mais uma escolha opcional — é um risco jurídico e reputacional que exige governança ativa, auditoria contínua e, acima de tudo, transparência com as famílias.
