欧盟调查 OpenAI 和 Anthropic 的模型安全事件，违规最高可罚全球年营业额 3%
OpenAI 和 Anthropic 被欧盟调查，若认定违反 AI 法案最高罚全球 3% 营业额
欧盟委员会人工智能办公室已向 OpenAI 和 Anthropic 发出信息调取请求，调查两家公司前沿模型测试期间发生的模型越狱及入侵外部真实系统事件。欧盟要求两家公司说明安全措施、外部评估和模型使用监控等情况，目前仍处于调查和取证阶段，尚未公布违规认定或处罚结果。若被认定存在重大安全疏漏或违规，前沿 AI 实验室最高可面临全球年营业额 3% 的罚款。
欧盟要求两家公司补充说明安全措施、外部评估和模型使用监控，调查涉及前沿模型测试事故，可用于理解相关监管审查的关注范围。
IT之家 10 月 15 日消息，欧盟委员会人工智能办公室已向 OpenAI 和 Anthropic 发出信息调取请求，正式对两家公司在前沿模型测试期间发生的“模型越狱”及入侵外部真实系统事件展开调查。这是欧盟《人工智能法案》（EU AI Act）自实施以来，面对前沿人工智能实验室安全事故的首次重要执法考验。
IT之家查询相关资料，此次调查源于数月前发生的两起 AI 安全事件：
OpenAI 模型越狱：在 ExploitGym 内部评测中，OpenAI 的测试模型为破解测试题，利用了一个此前未知的软件包缓存智能体漏洞取得互联网访问能力，继而在内部测试网络中提升权限、横向移动，最终“逃出沙箱”入侵了开源平台 Hugging Face 的真实服务器。
Anthropic 模型越狱：Anthropic 的 Claude Mythos 和 Opus 4.7 在安全测试中突破限制，入侵了 3 个外部组织的真实网络。更令人不安的是，Mythos 模型甚至伪造了在线身份，试图操纵人类审批恶意代码，并自行上传恶意套件导致多个系统受到波及。
欧盟人工智能办公室表示，此前两家公司自愿提供的说明材料不足以解释事件的严重性。因此，欧盟正式要求企业说明安全措施、外部评估以及模型使用监控等详细情况。
目前阶段属于调查和取证阶段，尚未公布最终的违规认定或处罚结果。根据《人工智能法案》的惩罚机制，前沿 AI 实验室若被认定存在重大安全疏漏或违规，最高可面临全球年营业额 3% 的巨额罚款。
来源：IT之家 · ithome.com