李其与西蒙·赫德林：美中AI安全沟通渠道需要哪些要素

美国总统特朗普与中国国家主席习近平9月峰会所产生的最切实成果，就是双方就建立美中人工智能事件沟通渠道达成明确一致。但即便两国政府都愿意使用这条直通渠道，或开始向太平洋彼岸传输数据，它们首先必须解决一个更紧迫的问题：美中两国的尖端人工智能公司目前并未提供所需的信息。

在美国，没有任何联邦法律或法规明确要求人工智能企业向政府报告安全事件和危险能力。尽管有一些州已通过事件报告法，但《人工智能事件报告法案》（AI Incident Reporting Act）和《前沿风险监督、国家透明度、独立评估与报告法案》（FRONTIER Act）等联邦立法在国会中陷入停滞。该行业目前仍主要依靠自我监管。

此外，尽管《白宫超级智能协议》（White House Accord on Super Intelligence ）承诺要识别并解决安全问题，但却并未强制要求向监管机构通报或设定报告截止期限。 虽然特朗普政府另行设立的“超级智能部队”（Super Intelligence Force）正在制定针对数据泄露、黑客攻击及其他人工智能事件的政府报告机制，但它并非监管机构，而其建议也须通过各类可强制执行措施方能落实。

另外，联邦政府的测试和监管工作也严重缺乏资金。斯坦福大学发布的《2026年人工智能指数报告》指出，美国开发者在去年发布59个值得关注的人工智能模型，而英国开发者仅发布一个。然而，作为美国主要联邦人工智能测试机构的商务部超级智能创新与标准推进中心（Center for Advancing Innovation and Standards for Super Intelligence）的年度预算仅为1500万美元，相比之下，英国的人工智能安全研究所（AI Security Institute）的预算却高达近9000万美元。

鉴于《白宫超级智能协议》似乎设想由前沿实验室自行完成大部分安全测试，我们目前尚不知晓政府在验证此类测试中将扮演何种角色，以及是否有任何政府机构能获得足够算力来自行开展测试。

与美国不同，中国政府无须面对政治瓶颈，且已建立起一套完善的监管体系——中国国家互联网信息办公室（国家网信办）近期提出要加强行为管控、模型可追溯性、安全测试，并制定防范系统漏洞和失控的保障措施。但中国目前仍缺乏与美国超级智能创新与标准推进中心相当的机构，即一个拥有明确职权、专门负责人工智能安全的中央机构。中国政府对科技公司拥有相当大的管辖权，但监管职责分散在网信办、工业和信息化部、国家发展和改革委员会（国家发改委）、科学技术部及其他机构之中。

评估前沿人工智能模型的风险需要专业技术能力，并需要中国所有相关政府部门（包括安全部门）之间的协调配合。但一些中国政府机构缺乏足够的技术能力，而许多拥有最深厚技术专长的人才则就职于私营研究机构，这些机构无权要求企业提供最先进的模型，更不用说检查内部运行日志或强制它作出修改。

目前，中国政府已派遣网信办和发改委的官员前往国内各实验室，商讨可能对最先进模型设置的发布限制。但官方最终还是须强制要求企业设立内部安全测试团队、确保获得充足的算力，并对最先进模型进行发布前测试。

鉴于下一轮中美人工智能安全对话定于11月举行，两国应重点探讨如何提高事件报告渠道的有效性。美国政府须要制定一项透明且具有强制力的前沿模型测试政策。白宫要么公开现有框架并使它具有约束力，要么应与国会合作，通过诸如两党共同提出的《前沿风险监督、国家透明度、独立评估与报告法案》之类的立法。联邦政府还须制定针对人工智能企业的外部审计规则，赋予审计机构明确任务授权、报告义务以及实质性的独立性（由行业组织或政府机构选定审计机构并支付相关费用）。

中国须弥合权威与专业知识之间差距

与此同时，特朗普政府须要更积极地监督企业的合规情况。它应利用超级智能部队去审查当前围绕最先进模型的有缺陷发布流程，考虑如何应对能力日益增强的开放权重模型，并开始制定一个具有实际约束力的事件报告机制。

在中国方面，要使报告渠道切实运作，就须要弥合权威与专业知识之间的差距。网信办可界定安全预期和报告安排；技术机构可制定并验证评估标准；发改委及其他产业机构可评估对投资和技术扩散的影响；商务部则继续负责技术转让和出口规则的相关事务。鉴于美国已授权超级智能部队对美国政府在该领域所扮演的角色进行彻底审查，中国也应考虑采取类似举措。

中国还须解决自身在企业、评估机构和政府部门等各个层面存在的人工智能评估能力不足和算力资源获取受限等问题。鉴于中国开放权重模型的快速发展，这一点尤为重要，因为模型权重一旦发布，开发者就很难掌握他们的系统被如何使用或滥用的情况。

在这方面，智谱AI与Concordia AI新近联合发布的《前沿开放权重人工智能风险管理框架》，有望成为可供借鉴的范例。它将模型分为三类：可安全地全面发布的“绿区”模型；须分阶段发布、仅限经过审核的研究人员在受控状态下访问，或在权重评估期间仅通过应用编程接口（API）托管提供服务的“黄区”模型；以及在审查完成前暂停发布的“红区”模型。

人工智能安全是一项全球性挑战，对此的应对取决于两大人工智能强国之间日益紧密的合作，而建立人工智能事件报告渠道只是朝着正确方向迈出的一小步。美中两国政府还需要很长时间，才能达成具有约束力且可验证的协议，因此绝不能让国内改革迟迟无法落实的问题拖慢这一进程。

作者Lizzi C. Lee是亚洲协会政策研究所中国分析中心的中国经济研究员，负责领导中心的经济与技术研究板块；Simon Hedlin曾任人工智能治理研究机构GovAI研究员，现为人工智能政策研究员，主要研究开放权重模型

英文原题：What a US-China AI Safety Channel Needs

版权所有：Project Syndicate, 2026.

您查看的内容可能不完整，部分内容和推荐被拦截！请对本站关闭广告拦截和阅读模式，或使用自带浏览器后恢复正常。