以太坊联合创始人 Vitalik Buterin 于 9 月 14 日发文,提出对抗性治理机制设计理论的一个重要应用可能是 AI 安全。他强调,若能有效限制代理人之间的合谋,就能取得显著更好的结果,这一结论也可能适用于 AI 安全。他还指出,未来对 AI 的约束,或许更像是建立包含规则、权限、裁决和记录机制的制度体系。…
马斯克在 All-In Summit 对谈中表示,到了目前这个阶段,AI 的危险已「非常显著」,且随着模型能力持续提升,AI 风险正呈指数级增加。马斯克提出的解决方案并非建立新的全球 AI 监管机构,而是要求大型 AI 公司在模型正式发布前彼此进行安全测试,涵盖 OpenAI、Anthropic 等主要 AI 公司。 …