戴井之：AI竞赛不必困于囚徒困境，须建立可验证的共同约束

美国人工智能（AI）界出现一幕颇具意味的场景。Anthropic首席执行官阿莫代伊呼吁有节奏地放缓前沿AI模型能力提升，让安全研究有时间追赶，并提出独立安全评估、协调安全标准和国际合作。OpenAI首席执行官奥尔特曼和美国首富马斯克随后表示赞同。

但“踩刹车”很快遇到另一个现实问题：如果自己减速，竞争者是否也会减速？美国国内已有声音反对因安全担忧限制AI发展，理由之一正是担心削弱美国相对于中国的竞争优势。

于是，一个熟悉的“囚徒困境”出现了。

对企业而言，如果竞争者仍在快速迭代，自己单方面减速，就可能损失人才、资本、客户和市场先机；对国家而言，如果AI被视为未来产业和国家安全的重要基础，率先限制本国研发，也可能被认为是在把战略空间让给竞争者。结果是，即使各方都认为无序竞速并非最佳选择，但从各自利益出发，继续加速仍可能成为看似理性的决定。

这也说明，单纯要求科技企业更加负责任，或者期待某个国家率先踩刹车，很难真正解决问题。须要改变的不只是参与者的态度，更是这场竞赛的规则。

如果主要参与者能够确认别人也遵守最低安全标准，合作本身同样可以成为理性选择。真正缺少的，是让彼此承诺可信、违规能够被发现的机制。

因此，比笼统呼吁放慢AI更现实的路径，是建立可验证的共同约束。例如，当前沿模型达到一定能力门槛后，接受独立测试；对重大安全事故建立通报机制；企业对模型能力、风险评估和防护措施进行适度披露；各国则可在保护商业和国家安全机密的前提下，探索共同认可的测试方法和安全标准。

这些机制的意义不是消灭竞争，而是减少最危险的那一种竞争：因为无法判断别人是否守规则，所以每个人都被迫不断加速。

事实上，竞争与合作不必然二选一。据路透社9月15日报道，OpenAI正与Anthropic和Google DeepMind讨论AI安全合作。这几家公司仍是商业竞争者，却已开始尝试在部分安全问题上寻找共同规则。

当然，治理本身也可能产生新的问题。如果规则设计过重，过高的合规成本可能抬高市场门槛，使拥有资金、算力和法律资源的既有企业获得额外优势。因此，安全规则既要约束高风险能力，也应避免演变成保护现有巨头的进入壁垒。

所以，真正的选择不是“安全还是创新”，也不是“发展还是停止”，而是如何让安全责任随着模型能力和潜在风险提高，同时避免治理演变成技术封锁或市场保护工具。

中美之间尤其如此。要求双方停止AI竞争并不现实，但竞争不意味着所有问题都必须零和。AI当然不同于核武器，但冷战时期的军控经验至少说明，即使战略竞争激烈，共同风险仍可能催生最低限度的沟通、核验和行为准则。

AI同样需要这样的最低公约数。

对新加坡这样的小型开放经济体而言，价值未必在于参与算力竞赛，也可以体现在标准互认、技术验证和制度连接方面。AI治理测试框架和工具箱（AI Verify）及亚细安层面的治理合作，已经提供一些现实基础。

当前围绕“AI是否应该放慢”的争论，表面上是技术安全之争，深层却反映一个更困难的问题：当企业利益、国家竞争和全球公共安全交织在一起，谁愿意相信别人会先守规则？

这正是囚徒困境最危险的地方。但囚徒困境不是宿命。真正须要建立的，是一套让守规则者不必担心吃亏，让违规者必须承担代价，同时让各方能够验证彼此承诺的机制。

AI竞争不会停止，也没有必要停止。更重要的问题是，人类能否在竞争的同时，仍然保留为这场竞赛制定规则的能力。建立可信且可验证的共同约束，才是走出困局的关键。

作者是中国软件工程师

您查看的内容可能不完整，部分内容和推荐被拦截！请对本站关闭广告拦截和阅读模式，或使用自带浏览器后恢复正常。