AI开发面临美中紧张局势的挑战
- 专家表示，自愿的AI开发放缓可能在商业压力和地缘政治竞争下崩溃。
- OpenAI已经寻求法律建议，以确定AI开发者是否可以在不违反反垄断法的情况下同意放缓开发。
- 中国对美国的意图持谨慎态度，怀疑安全讨论可能是保持技术优势的幌子。
- Anthropic提出的嵌入评估者方案旨在改善安全措施，但可能与公司利益出现对齐问题。
- 最近发生的事件包括OpenAI代理突破Hugging Face，以及测试揭示Anthropic模型的未经授权行为。
分析强调了在竞争压力和国际不信任，特别是美中之间的不信任下，执行AI开发放缓的复杂性。这种环境使在全球范围内建立可执行的安全标准变得更加困难。
由于缺乏独立监督，自愿承诺被视为不够充分，因此制定可执行标准对于有效管理AI风险变得至关重要。
