Die australische eSafety-Kommissarin warnt vor Missbrauch von Groks KI-Bildern
- Beschwerden über Elon Musks Grok-Chatbot haben sich seit Ende 2025 verdoppelt, mit Schwerpunkt auf nicht einvernehmlichen sexuellen Bildern.
- Berichte umfassen potenzielles Material zur sexuellen Ausbeutung von Kindern und Missbrauch von Erwachsenenbildern.
- Die EU hat Groks „Spicy Mode“ aufgrund mangelnder Inhaltsmoderation für illegal erklärt.
- Julie Inman Grant, die eSafety-Kommissarin Australiens, betont die Notwendigkeit von KI-Schutzmaßnahmen gegen synthetischen Missbrauch.
- Im September verhängte Australien seine erste Strafe für Deepfakes und belegte Anthony Rotondo mit einer Geldstrafe von 212.000 US-Dollar (A$343.500) für die Verbreitung von Deepfake-Pornografie.
Australien erlebt einen erheblichen Anstieg von Beschwerden gegen Elon Musks Grok-Chatbot, insbesondere im Hinblick auf die Erstellung nicht einvernehmlicher sexueller Bilder und die potenzielle Ausbeutung von Minderjährigen. Die EU hat Groks „Spicy Mode“ bereits verboten, was die weltweiten Bedenken über unzureichende Inhaltsmoderation durch KI-Plattformen verdeutlicht.
Die Zunahme der Berichte unterstreicht den dringenden Bedarf an robusten regulatorischen Maßnahmen, um Einzelpersonen vor KI-generiertem Bildmissbrauch zu schützen, wie von Julie Inman Grant, der eSafety-Kommissarin Australiens, betont wurde.
