O ex-vice-presidente de confiança e segurança do Google, Tom Siegel, declarou nesta semana que o desenvolvimento da inteligência artificial precisa desacelerar imediatamente. O alerta não vem de fora do setor: parte de quem ajudou a construir as defesas da maior empresa de buscas do mundo. Siegel afirma que a indústria está repetindo os erros das redes sociais, mas com potencial de dano muito maior para o público infantil.
Ele classifica a situação atual como “realmente terrível” e descarta a autorregulação como solução viável. A pergunta que fica é: por que um executivo sênior deixa o comando de uma startup de segurança para liderar um instituto de proteção à juventude?
O Alerta de Quem Conhece a Máquina por Dentro
Siegel passou 15 anos no Google, saindo em 2019 frustrado com a estagnação das ferramentas de segurança. Fundou a TrustLab, vendida recentemente, e assumiu terça-feira (22) a diretoria-executiva do Youth AI Safety Institute, da Common Sense Media. A entidade, financiada pela Anthropic e pela OpenAI Foundation, nasceu em maio com a proposta de criar padrões independentes de avaliação — uma espécie de “teste de colisão” para algoritmos acessíveis a menores.
O objetivo é mensurar riscos reais antes que os produtos cheguem às mãos de milhões de usuários jovens. A eficácia, porém, depende da colaboração das próprias empresas que hoje correm para lançar recursos cada vez mais avançados.
Por Que a IA Assusta Mais Que as Redes Sociais
Segundo Siegel, a ameaça ultrapassa o vício ou a exposição a conteúdo tóxico — problemas já judicializados contra Meta, TikTok e Snap. Ele cita três vetores críticos identificados por pesquisadores e insiders:
- Autolesão e psicose: chatbots simulando relações românticas ou sensuais com menores, caso exposto pela Reuters em documento interno da Meta no ano passado.
- Descarga cognitiva: dependência da IA para respostas prontas, erodindo a capacidade de pensamento crítico e resolução de problemas.
- Escala e intimidade: diferentemente do feed passivo, a IA conversa, persuade e aprende com a criança em tempo real.
Um relatório interno da Meta, revelado em 2023, admitia que seus bots podiam “envolver uma criança em conversas românticas ou sensuais”. O episódio gerou investigação no Congresso dos EUA, mas a legislação não acompanhou a velocidade dos lançamentos.
Medidas Imediatas Que As Gigantes Poderiam Adotar
Siegel aponta soluções técnicas simples, já existentes em outros contextos, que reduziriam a exposição de risco:
- Verificação de idade rigorosa na entrada de chatbots (Anthropic e OpenAI).
- Botão nativo para desativar AI Overviews e AI Mode na Busca do Google — assim como existe o SafeSearch para conteúdo explícito.
O Google respondeu que pais já possuem controles para bloquear o acesso infantil ao buscador. A OpenAI disse usar “sinais de conta e comportamento” mais a idade declarada pelo usuário. A Anthropic não comentou.
Para Siegel, o custo de curto prazo — queda de engajamento ou receita — é menor que o passivo jurídico e regulatório que se avizinha. Processos bilionários contra redes sociais servem de precedentes.
O Modelo de “Teste de Colisão” Para Algoritmos
A grande aposta do instituto liderado por Siegel é a criação de benchmarks públicos e independentes. A analogia é direta: assim como carros passam por crash-tests antes de ir ao mercado, modelos de IA precisariam de certificação de segurança para interação com menores.
Não há garantia de adesão das big techs. Siegel admite a incerteza, mas considera a janela de cooperação “suficientemente alta” para justificar a mudança de cadeira. Se a indústria ignorar a autorregulação proposta, a pressão por leis duras — nos EUA, Europa e Brasil — tende a se tornar inevitável.
O Que Observar Daqui Para Frente
Três movimentos definem o próximo trimestre: a publicação dos primeiros relatórios do Youth AI Safety Institute, a resposta das plataformas às exigências de verificação etária efetiva e o avanço de projetos de lei que equiparam danos de IA a responsabilidade civil objetiva. Empresas que anteciparem padrões de segurança ganham tempo de mercado; as que esperarem a canetada do regulador correm risco de multas e bloqueios operacionais. Para investidores e gestores, o sinal é claro: segurança infantil deixa de ser ESG e vira variável de valuation.
