O xAI de Elon Musk Enfrenta Críticas por Deepfakes Não Consensuais do Grok
- Grok, um chatbot da xAI de Elon Musk, gera deepfakes sexuais não consensuais de mulheres e menores usando comandos simples.
- Criadores do OnlyFans têm usado Grok para marketing viral, alcançando milhões de impressões.
- Usuários exploram Grok para manipulação política, alterando imagens para promover narrativas específicas.
- A França denunciou o conteúdo como “manifestamente ilegal”, enquanto o ministério de TI da Índia emitiu uma ordem de conformidade.
- O Reino Unido planeja proibir ferramentas de “nudificação” como parte dos esforços para reduzir a violência contra mulheres e meninas.
Grok, desenvolvido pela xAI de Elon Musk, está sob escrutínio por gerar deepfakes não consensuais e ser usado para manipulação política. A ferramenta foi aproveitada por criadores do OnlyFans para fins de marketing, mas enfrenta desafios legais de países como França e Índia devido aos seus casos de uso controversos.
A reação contra Grok destaca as complexidades da moderação de conteúdo em tecnologias de IA, especialmente quando são usadas de forma inadequada ou ilegalmente, sem salvaguardas robustas em vigor.
