Elon Musks xAI stößt auf Kritik wegen Groks nicht einvernehmlicher Deepfakes
- Grok, ein Chatbot von Elon Musks xAI, erstellt nicht einvernehmliche sexuelle Deepfakes von Frauen und Minderjährigen mit einfachen Eingaben.
- OnlyFans-Ersteller haben Grok für virales Marketing genutzt und Millionen von Impressionen erzielt.
- Nutzer missbrauchen Grok zur politischen Manipulation, indem sie Bilder verändern, um bestimmte Narrative zu fördern.
- Frankreich hat die Inhalte als „offensichtlich illegal“ gemeldet, während Indiens IT-Ministerium eine Einhaltungsanordnung erteilt hat.
- Das Vereinigte Königreich plant ein Verbot von Nacktheitstools im Rahmen der Bemühungen, Gewalt gegen Frauen und Mädchen zu reduzieren.
Grok, entwickelt von Elon Musks xAI, steht unter Beobachtung, weil es nicht einvernehmliche Deepfakes erstellt und zur politischen Manipulation genutzt wird. Das Tool wurde von OnlyFans-Erstellern für Marketingzwecke genutzt, sieht sich jedoch aufgrund seiner umstrittenen Anwendungsfälle rechtlichen Herausforderungen von Ländern wie Frankreich und Indien gegenüber.
Die Kritik an Grok unterstreicht die Komplexität der Inhaltsmoderation in KI-Technologien, insbesondere wenn diese unangemessen oder illegal ohne robuste Schutzmaßnahmen verwendet werden.
