Pesquisadores conseguiram baixar dezenas de aplicativos que geram nudez artificial em contas de adolescentes de 13 anos, mesmo com proteções da Apple e do Google ativadas. O levantamento expõe uma falha sistêmica na classificação etária das lojas oficiais. O que mais a investigação revelou sobre a facilidade de acesso a essas ferramentas?
O Tech Transparency Project criou quatro perfis de teste — dois no ecossistema da Apple e dois no do Google —, todos registrados como usuários de 13 anos. O resultado: 135 aplicativos com recursos de remoção de roupas ou troca de rostos por corpos nus foram baixados sem barreiras efetivas.
Controles parentais falharam em larga escala
Nas contas com supervisão familiar ativa, a loja da Apple permitiu o download de 24 aplicativos do tipo. Na Play Store, o número saltou para 51. Nenhum exigiu autorização prévia dos responsáveis, contrariando a promessa de segurança desses recursos.
A raiz do problema está na classificação indicativa. Os sistemas das duas big techs confiam nas informações declaradas pelos próprios desenvolvedores, sem verificação robusta. Isso abriu brechas absurdas:
- Um app que prometia “despir digitalmente qualquer pessoa” tinha classificação para maiores de 9 anos.
- Outro, anunciado com imagem sexualmente explícita, estava liberado para crianças a partir de 4 anos.
- Em um teste, a Apple permitiu que a conta de 13 anos declarasse ter 17 anos para acessar um app com restrição etária.
- Uma assinatura foi concluída sem que o responsável vinculado recebesse qualquer alerta.
Reação das plataformas: remoção parcial e promessas
Durante o período da pesquisa, a Apple removeu 25 dos aplicativos identificados. O Google retirou seis. Ambos afirmam proibir esse tipo de conteúdo em suas diretrizes, mas a fiscalização depende majoritariamente de denúncias e revisões automatizadas baseadas nas declarações dos criadores.
Importante: os apps já instalados nos dispositivos continuam funcionando normalmente. A remoção da loja não apaga o software do celular do usuário.
Novas exigências e lacunas persistentes
A Apple anunciou que passará a exigir que desenvolvedores implementem mecanismos para prevenir e remover imagens íntimas não consentidas, incluindo as geradas por inteligência artificial. O Google declara que detecta e remove proativamente aplicativos nocivos, além de ter restringido termos de busca relacionados na loja.
Especialistas em segurança digital apontam que, sem auditoria independente e penalidades claras para classificações fraudulentas, o ciclo de “publicar, denunciar, remover” tende a se repetir. A velocidade de criação de novos apps com IA generativa supera a capacidade de moderação atual.
O que observar daqui para frente
Pais e responsáveis não devem confiar exclusivamente nos controles parentais nativos. A verificação manual de apps instalados, conversas sobre riscos de deepfakes e o uso de soluções de monitoramento de terceiros tornaram-se camadas adicionais necessárias. Reguladores nos EUA e na Europa já estudam obrigar lojas de aplicativos a auditar classificações etárias de alto risco — movimento que pode mudar as regras do jogo nos próximos meses.
