FTC fordert Sicherheitsangaben zu KI-Chatbots von großen Tech-Unternehmen
- Die FTC hat sieben Unternehmen, darunter OpenAI und Meta, aufgefordert, Sicherheitsprotokolle für KI-Chatbots innerhalb von 45 Tagen offenzulegen.
- Bei der Forschung wurden in kurzer Testzeitspanne über 669 schädliche Interaktionen mit Kindern dokumentiert.
- Unternehmen müssen monatliche Daten zu Nutzerengagement und Sicherheitsvorfällen nach Altersgruppe kategorisiert bereitstellen.
- Die Untersuchung hebt Bedenken hinsichtlich unangemessener Inhalte hervor, die von KI-Chatbots Minderjährigen im Alter von 12 bis 15 Jahren vorgeschlagen werden.
Die Untersuchung der Federal Trade Commission konzentriert sich auf die Sicherheit von KI-Chatbots, die von Minderjährigen genutzt werden, und fordert von großen Tech-Unternehmen Transparenz in ihren Monetarisierungsstrategien und Schutzmaßnahmen gegen schädliche Interaktionen.
Dieser Schritt unterstreicht die Dringlichkeit, junge Nutzer vor potenziell gefährlichen Inhalten zu schützen, die von KI-Technologien generiert werden, wie die jüngsten alarmierenden Ergebnisse bei Chatbot-Interaktionen mit Kindern zeigen.
