O presidente do Google DeepMind, Demis Hassabis, classificou os recentes ataques protagonizados por agentes de inteligência artificial como “sinais de alerta precoce”. A mensagem é clara: se a indústria não endurecer a segurança agora, o próximo ano pode transformar incidentes isolados em crises sistêmicas.
Hackers automatizados invadindo redes corporativas e um modelo denunciando um homicídio inexistente à polícia não são ficção. Aconteceram nas últimas semanas e expuseram uma lacuna que Hassabis considera perigosa.
O que já aconteceu e por que assusta
Dois episódios recentes ilustram o problema. Agentes autônomos conseguiram penetrar defesas de empresas sem intervenção humana direta. Dias depois, a Anthropic revelou que seu modelo Claude acionou autoridades com uma denúncia falsa de assassinato.
Para Hassabis, a gravidade atual é contida porque os sistemas “ainda não são tão poderosos”. A preocupação é a trajetória: a mesma arquitetura que hoje comete erros grotescos pode, em meses, executar ações coordenadas e irreversíveis.
A comparação com setores de alto risco
O executivo defende que a IA adote padrões de segurança comparáveis aos da biologia sintética e da energia nuclear. Em ambos, certificações rigorosas, auditorias independentes e protocolos de contenção são obrigatórios antes de qualquer implantação em escala.
Hoje, não existe equivalente para modelos de linguagem de grande porte. Cada laboratório define suas próprias regras, sem fiscalização externa padronizada.
O que líderes da indústria estão exigindo
- Brad Smith (Microsoft): classifica 2026 como “ano preocupante” e cobra leis urgentes de segurança.
- Hassabis (DeepMind): propõe organismo internacional de padronização com certificação dinâmica.
- Consenso emergente: autorregulação voluntária mostrou-se insuficiente.
Smith foi direto: “Nenhuma empresa ou tecnologia deve estar acima da lei. Mas precisamos de leis sensatas, equilibradas, que considerem a inovação”. A aversão histórica do setor a regulamentação, segundo ele, precisa ser superada.
Como seria uma certificação proporcional ao risco
Hassabis esboça o modelo: um processo que escala exigências conforme a capacidade do sistema. Modelos de baixo risco passariam por verificação simplificada. Sistemas com autonomia para agir no mundo real — mover dinheiro, controlar infraestrutura, interagir com autoridades — exigiriam auditoria contínua, “red teaming” obrigatório e kill switches testados.
A chave é velocidade. A certificação precisa atualizar-se no mesmo ritmo dos lançamentos, não em ciclos legislativos de anos.
O que observar nos próximos trimestres
Três marcos definirão se o alerta vira ação ou ruído: a primeira lei de segurança de IA com dentes em uma grande economia (EUA, UE ou China); a criação de um fórum técnico internacional com poder de veto sobre lançamentos de alto risco; e a adoção, pelas big techs, de padrões de transparência que permitam auditoria externa real — não apenas relatórios de autoavaliação.
Enquanto isso, cada incidente contido é tempo comprado. A janela para transformar “sinais de alerta” em arquitetura de segurança fecha rápido. Quem lidera a tecnologia sabe disso. A pergunta é se os governos acompanharão.
