O estado de Nova York acaba de sancionar a legislação mais restritiva dos EUA sobre inteligência artificial conversacional. A medida, assinada pela governadora Kathy Hochul, proíbe que menores de idade interajam com a maioria dos chatbots comerciais e obriga as plataformas a desativar a “personalidade humana” dos robôs quando detectam usuários jovens.
Não se trata apenas de controle de acesso: a lei ataca a essência de como essas IAs são projetadas para reter atenção. O impacto direto recai sobre custos de conformidade e arquitetura de produto para big techs e startups.
O que a lei exige na prática
A norma entra em vigor exigindo verificação etária rigorosa — não basta um botão “tenho mais de 18 anos”. Se o sistema identificar um menor, deve bloquear automaticamente recursos que simulem empatia, consciência ou identidade humana.
Na prática, o bot não pode:
- Usar pronomes ou tom que sugiram subjetividade (“eu sinto”, “eu acho”);
- Manter personas contínuas que imitem amizade ou autoridade;
- Gerar respostas que induzam o usuário a acreditar que há “alguém” do outro lado.
Para desenvolvedores, isso significa criar camadas de “modo seguro” que castram a experiência conversacional padrão — justamente o diferencial competitivo de modelos como GPT-4o ou Claude.
O choque entre segurança e Primeira Emenda
A Tech:NYC, entidade que representa o setor tecnológico local, classificou o texto como “impreciso” e alertou para riscos constitucionais. O argumento central: forçar uma IA a não “falar como humana” equivaleria a compelir discurso — ou restringi-lo — violando a Primeira Emenda.
A OpenAI alinhou-se à entidade. Anthropic e Google não comentaram até o fechamento. Do outro lado, a Common Sense Media comemorou o que chamou de “lei de segurança de IA para crianças mais robusta do país”.
O impasse jurídico é quase certo. Tribunais terão de decidir se a “personalidade” de um algoritmo é expressão protegida ou design de produto regulável.
Por que o escopo assusta o mercado
Califórnia e outros estados já regulam IA, mas focam em transparência ou dados. Nova York foi além: regulou a interface comportamental. Isso cria um precedente perigoso para empresas que operam nacionalmente.
Imagine manter versões distintas do mesmo modelo por estado: uma “livre” para adultos no Texas, outra “robotizada” para adolescentes em Nova York. A complexidade operacional e o custo de compliance escalam exponencialmente.
Além disso, a definição de “chatbot” na lei é ampla o suficiente para pegar assistentes de suporte, tutores educacionais e NPCs de jogos com IA generativa.
O que observar daqui para frente
Três vetores definirão o desdobramento prático nos próximos trimestres:
- Liminares judiciais: espera-se que a indústria busque bloquear a aplicação imediata alegando inconstitucionalidade;
- Efeito dominó: legisladores de Illinois, Massachusetts e Washington já sinalizam projetos semelhantes;
- Pressão federal: o Congresso pode ser forçado a criar um padrão único nacional para evitar um “retalho regulatório” inviável.
Para investidores e gestores, o sinal é claro: arquitetura de conformidade por jurisdição deixa de ser opcional e vira requisito de go-to-market. Quem não tiver “chaves de desligamento” de persona por região ficará exposto a multas e injunções — ou terá de retirar o produto de mercados inteiros.
