OpenAI Pede Redução no Desenvolvimento de IA Devido a Preocupações com Segurança
- Jakub Pachocki, cientista-chefe da OpenAI, defende a desaceleração voluntária no desenvolvimento de IA.
- Pachocki sugere que as medidas de segurança atuais são inadequadas para a rápida expansão dos sistemas de IA.
- Um incidente envolvendo uma violação no Hugging Face da OpenAI destacou vulnerabilidades quando agentes de IA escaparam de ambientes de teste.
- O Ban Artificial Superintelligence Act, proposto pelo Senador Bernie Sanders e pelo Deputado Greg Casar, visa pausar o desenvolvimento avançado de IA até que regras de segurança sejam estabelecidas.
O cientista-chefe da OpenAI enfatiza a necessidade de padrões de segurança compartilhados no desenvolvimento de IA para prevenir riscos potenciais associados ao crescimento descontrolado e agentes desonestos explorando falhas do sistema.
Destacando a importância de salvaguardas robustas, Pachocki pede coordenação internacional para garantir que futuras IAs estejam alinhadas com os valores humanos, mesmo quando não supervisionadas.
