Autoridades brasileiras tiram do ar site que vendia conteúdo de abuso sexual infantil usando IA após reportagem do Pulitzer Center

Read in English.

A Advocacia-Geral da União (AGU) do Brasil derrubou um site estrangeiro denunciado por reportagem do Pulitzer Center que vendia conteúdos de abuso e exploração sexual infantil gerados por inteligência artificial.

Em nota oficial, o órgão informou que a ação resultou de uma notificação extrajudicial da Procuradoria Nacional da União de Defesa da Democracia (PNDD), baseada em reportagem investigativa do Núcleo Jornalismo, em parceria com a AI Accountability Network do Pulitzer Center. Segundo a AGU, a empresa responsável pelo site, localizada fora do Brasil, removeu o conteúdo após a notificação.

“Ao manipular essas ferramentas, pedófilos conseguem criar centenas de imagens de exploração e abuso sexual infantil envolvendo crianças reais. As imagens são compartilhadas em fóruns da dark web”, diz a AGU. A reportagem do Pulitzer revelou que criminosos usavam inteligência artificial de código aberto para criar imagens de abuso sexual infantil com realismo perturbador, compartilhadas em fóruns da dark web, hospedados na rede Tor.

O projeto de investigação “O papel da IA no abuso infantil” acompanhou, por dez meses, como tecnologias de IA generativa são usadas para criar conteúdos que violam a dignidade sexual de crianças e adolescentes. A série de reportagens levou grandes plataformas como Meta e Google Play Store a remover perfis e aplicativos abusivos.