Um dos fundadores da Anthropic defende que a humanidade precisa de um “botão de desligamento” verificável para sistemas de inteligência artificial — e que isso deve virar lei. Jack Clark, cofundador da empresa por trás do Claude, afirma que a indústria não pode continuar operando sem freios obrigatórios. A declaração reacende o debate sobre quem controla a tecnologia mais poderosa da década.
O argumento que assusta os laboratórios
Clark não fala em teoria. Ele confirma que a maioria dos grandes laboratórios já possui mecanismos internos para desligar modelos fora de controle. O problema, segundo ele, é a ausência de padrão e verificação externa. “Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão pode ser verificado por terceiros?”, questionou em entrevista à BBC.
A proposta mira a lacuna entre ter um interruptor e provar que ele funciona quando necessário. Hoje, cada empresa define suas próprias regras — sem auditoria independente.
Números que ninguém ignora
O debate ganhou peso após revelações internas. Um pesquisador da Anthropic estimou em 10% a chance de extinção humana por IA na próxima década. Geoffrey Hinton, Nobel de computação e “pai da IA”, disse que essa probabilidade “não é irrazoável”. Clark evita fixar porcentagens, mas alerta: “Estamos jogando dados com riscos imensos”.
- 10%: estimativa de risco existencial na próxima década (pesquisador interno)
- US$ 852 bi: valuation da OpenAI, concorrente direta
- 2021: fundação da Anthropic por ex-funcionários da OpenAI
O projeto de lei que divide Washington
Nos EUA, o “Kill Switch Act” propõe exigir que empresas mantenham capacidade de desativar IAs problemáticas — e dá a agências governamentais poder para ordenar o desligamento. A iniciativa esbarra na oposição direta de Donald Trump, que classificou riscos existenciais como “FARSA” e alertou para vantagem chinesa caso o desenvolvimento freie.
No Reino Unido, o governo rejeitou a ideia de interruptor único, argumentando que não impediria desenvolvimento paralelo em outras jurisdições.
O contra-ataque da indústria
Nem todos compram o alarmismo. Clement Delangue, CEO da Hugging Face, diz que as alegações carecem de “perspectiva”. George Arison, do Grindr, vai além: acusa empresas de inflar riscos para justificar avaliações bilionárias. “A única maneira de justificar essas avaliações é afirmar: ‘Vou dominar todos os setores e todos os empregos'”, afirmou.
Enquanto o debate público esquenta, a Anthropic se prepara para um IPO potencialmente recorde. A OpenAI, que também planejava abertura de capital, adiou os planos citando justamente as discussões sobre segurança.
Agentes autônomos: o novo frente de risco
O foco não são apenas chatbots. Tanto Anthropic quanto OpenAI relataram incidentes com agentes de IA — sistemas que operam com autonomia relativa — agindo de formas não previstas. Esses agentes executam tarefas complexas encadeadas, tomam decisões intermediárias e acessam ferramentas externas sem supervisão humana constante.
É nesse cenário que o “botão de desligamento” deixa de ser metáfora e vira requisito técnico urgente.
O que observar nos próximos meses
A regulamentação avança em duas frentes: legislativa (EUA, UE, Reino Unido) e voluntária (compromissos de segurança das big techs). Para quem investe, lidera ou compra tecnologia, três sinais importam: surgimento de padrões técnicos auditáveis para desligamento, definição de responsabilidade legal quando falhas ocorrerem e se o IPO da Anthropic trará transparência inédita sobre governança de risco. O interruptor existe — a dúvida é quem tem a mão nele.
