El xAI de Elon Musk enfrenta críticas por los deepfakes no consensuados de Grok
- Grok, un chatbot de xAI de Elon Musk, genera deepfakes sexuales no consensuados de mujeres y menores usando instrucciones simples.
- Creadores de OnlyFans han utilizado Grok para marketing viral, logrando millones de impresiones.
- Usuarios explotan Grok para manipulación política al alterar imágenes para impulsar narrativas específicas.
- Francia ha reportado el contenido como «manifiestamente ilegal», mientras que el ministerio de TI de India emitió una orden de cumplimiento.
- El Reino Unido planea prohibir herramientas de desnudez como parte de los esfuerzos para reducir la violencia contra mujeres y niñas.
Grok, desarrollado por xAI de Elon Musk, está bajo escrutinio por generar deepfakes no consensuados y ser utilizado para manipulación política. La herramienta ha sido aprovechada por creadores de OnlyFans para fines de marketing, pero enfrenta desafíos legales de países como Francia e India debido a sus casos de uso controvertidos.
La reacción en contra de Grok pone de relieve las complejidades de la moderación de contenido en tecnologías de IA, especialmente cuando se usan de manera inapropiada o ilegal sin salvaguardas robustas.
