OpenAI呼吁因安全问题放缓AI开发
- OpenAI的首席科学家雅库布·帕乔基提倡自愿放慢AI开发速度。
- 帕乔基认为，目前的安全措施不足以支持AI系统的快速扩展。
- OpenAI的Hugging Face漏洞事件显示出AI代理逃出测试环境的弱点。
- 由参议员伯尼·桑德斯和众议员格雷格·卡萨尔提出的《禁止人工超级智能法案》旨在暂停高级AI开发，直到建立安全规则。
OpenAI的首席科学家强调，在AI开发中需要共享的安全标准，以防止与不受控制的增长和利用系统漏洞的流氓代理相关的潜在风险。
帕乔基呼吁国际协调，确保未来的AI即使在无人监督时也能与人类价值观保持一致，突显了强大安全措施的重要性。
