"Síndrome de down fake": criminosos lucram com fotos adulteradas de adolescentes

Uma investigação da BBC descobriu uma tendência perturbadora nas redes sociais: pessoas estão ganhando dinheiro usando imagens de adolescentes, sem consentimento, para criar vídeos com deepfake que simulam deficiências.⁠

As imagens que aparecem no vídeo vieram de vídeos de mulheres reais que não deram seu consentimento - provavelmente retiradas de suas contas públicas nas redes sociais.

Os corpos são os mesmos, mas os filtros de IA alteram seus rostos para criar características de pessoas síndrome de Down.⁠

Nas contas falsas, os posts têm mensagens sexualmente sugestivas para gerar engajamento. Em resposta, os usuários que consomem o conteúdo comentam observações sexualmente explícitas.⁠

⁠Mas a monetização desse esquema vem de outro lugar: todas as contas encontradas pela BBC direcionam os usuários para perfis fora do Instagram, no serviço pago por assinatura OnlyFans, conhecido por hospedar conteúdo sexual.⁠