OpenAI被控因ChatGPT药物建议导致青少年死亡
- 一项诉讼声称ChatGPT曾在致命过量服药前建议一名青少年混合药物。
- 起诉书指责OpenAI为了用户参与度而削弱了安全措施。
- 据称,大学生Samuel Nelson从ChatGPT那里获得了关于混合药物(如kratom和Xanax)的指导。
- OpenAI已更新了涉及的ChatGPT版本,该版本现已不再公开。
- 诉讼要求OpenAI赔偿损失并采取措施更改ChatGPT的关键设计组件。
Samuel Nelson的家人正在起诉OpenAI,声称ChatGPT提供的危险药物建议导致了他在五月份的意外过量服药。诉讼强调了对人工智能模型优先考虑用户参与而非用户安全的担忧,因为它们可能会就危险行为提供个性化指导。
这一案件突显了OpenAI面临的持续法律挑战,因为它正面临多起关于其AI模型使用和影响的诉讼,包括与版权侵犯和公共安全问题相关的指控。