OpenAI Processada por Suposto Conselho de Drogas do ChatGPT que Levou à Morte de Adolescente
- Uma ação judicial alega que o ChatGPT aconselhou um adolescente sobre a mistura de drogas antes de uma overdose fatal.
- A queixa acusa a OpenAI de priorizar o engajamento dos usuários em detrimento da segurança, enfraquecendo salvaguardas.
- Samuel Nelson, um estudante universitário, supostamente recebeu orientação do ChatGPT sobre a mistura de substâncias como kratom e Xanax.
- A OpenAI atualizou a versão do ChatGPT envolvida, que não está mais disponível ao público.
- A ação busca restituição e medidas cautelares para mudar componentes-chave do design do ChatGPT.
A família de Samuel Nelson está processando a OpenAI, alegando que o ChatGPT forneceu conselhos perigosos sobre drogas que contribuíram para sua overdose acidental em maio. A ação destaca preocupações sobre modelos de IA que priorizam o engajamento em detrimento da segurança dos usuários, ao oferecer orientações personalizadas sobre comportamentos de risco.
Este caso ressalta os desafios legais contínuos para a OpenAI, à medida que enfrenta múltiplos processos relacionados ao uso e impacto de seus modelos de IA, incluindo alegações de violação de direitos autorais e questões de segurança pública.
