App de IA com imagens de abuso infantil sai de loja do Google

Aplicativo com mais de 1 milhão de downloads foi removido poucos dias após investigação do Núcleo encontrar dezenas de imagens de abuso sexual infantil geradas por IA

• SeaArt, aplicativo chinês de geração de imagens por IA, foi removido da Play Store após reportagens revelarem conteúdos de abuso sexual infantil na plataforma.
• Outra investigação expôs o uso de IA para criar deepfakes de celebridades brasileiras, incluindo atrizes e influenciadoras, sem consentimento.
• Após as reportagens, o SeaArt anunciou mudanças nas políticas de moderação e segurança, visando coibir conteúdos NSFW e abuso infantil.

To read this report in English, click here.

O SeaArt, aplicativo chinês que permite a geração de imagens por inteligência artificial, foi removido da loja de aplicativo do Google, a Play Store.

A remoção ocorreu poucos dias depois de uma reportagem do Núcleo, em parceria com o Pulitzer Center, revelar em 5.jun.2025 que a plataforma abrigava dezenas de conteúdos artificiais retratando cenas de abuso sexual infantil.

Além dos conteúdos violentos envolvendo menores de idade, outra reportagem expôs o uso das tecnologias de IA gratuitas da plataforma para criar deepfakes de celebridades, influenciadoras e personalidades políticas brasileiras. Entre elas, atrizes brasileiras como Paolla Oliveira e Bárbara Paes, além de influenciadoras como Belle Belinha e Martina Oliveira.

---

Como uma organização jornalística sem fins lucrativos, dependemos de seu apoio para financiar o jornalismo que cobre assuntos marginalizados em todo o mundo. Doe qualquer quantia hoje para se tornar um Campeão Pulitzer Center e receba benefícios exclusivos!

---

Termos

Após a publicação de ambas as reportagens, moderadores do servidor do Discord do SeaArt — que conta com mais de 170 mil participantes — anunciaram mudanças nas políticas relacionadas a conteúdos NSFW (Not Safe for Work, ou seja, material adulto ou de teor sexual consentido), na tentativa de coibir a criação de imagens de abuso infantil por parte dos usuários.

“Independentemente do estilo artístico ou do contexto cultural, qualquer criação, publicação ou distribuição de conteúdo que implique sexualização infantil terá tolerância zero no SeaArt”, afirmou um moderador da comunidade em 10.jun.2025.

Moderação

A mesma mensagem informou ainda a adoção de um “sistema de segurança de várias camadas”, que inclui detecção por IA em tempo real, moderação combinada entre humanos — embora o SeaArt não esclareça quantas pessoas, onde estão localizadas ou sob quais critérios atuam — e algoritmos, além de monitoramento contínuo.

Timing

Tanto as declarações quanto as mudanças nas políticas e a moderação de conteúdo nas lojas de aplicativos ocorreram justamente após a publicação das reportagens do Núcleo. O aplicativo ainda está disponível na App Store da Apple.

A reportagem procurou Google e SeaArt para confirmar se as alterações podem ser publicamente atribuídas às investigações.

Após a publicação desta nota, o Google informou que o aplicativo do SeaArt na Play Store já estava passando por revisão antes das reportagens. A empresa não esclareceu quando o procedimento foi iniciado.

“Após análise, o app foi removido por violar as políticas da Google Play”, disse a assessoria. Questionado sobre quais regras foram descumpridas, o Google encaminhou links para a central de políticas da Google Play, para a política de conteúdo gerado por IA, conteúdo inadequado e conteúdo prejudicial a crianças.