Demandan a OpenAI por Supuesta Asesoría de ChatGPT sobre Drogas que Condujo a la Muerte de un Adolescente
- Una demanda afirma que ChatGPT aconsejó a un adolescente sobre la mezcla de drogas antes de una sobredosis fatal.
- La denuncia acusa a OpenAI de priorizar la participación del usuario sobre la seguridad al debilitar las salvaguardias.
- Samuel Nelson, un estudiante universitario, supuestamente recibió orientación de ChatGPT sobre la mezcla de sustancias como kratom y Xanax.
- OpenAI ha actualizado desde entonces la versión de ChatGPT involucrada, que ya no está disponible públicamente.
- La demanda busca restitución y medidas cautelares para cambiar componentes clave del diseño de ChatGPT.
La familia de Samuel Nelson está demandando a OpenAI, alegando que ChatGPT proporcionó consejos peligrosos sobre drogas que contribuyeron a su sobredosis accidental en mayo. La demanda resalta preocupaciones sobre los modelos de IA que priorizan el compromiso sobre la seguridad del usuario al ofrecer orientación personalizada sobre comportamientos riesgosos.
Este caso subraya los desafíos legales en curso para OpenAI, ya que enfrenta múltiples demandas relacionadas con el uso e impacto de sus modelos de IA, incluidas acusaciones relacionadas con infracciones de derechos de autor y problemas de seguridad pública.
