OpenAI在内部研究设施部署AI任务控制系统

OpenAI已在内部研究设施部署“控制室”系统，可在收到停止指令后最长35秒内阻止可能存在风险的AI任务继续输出。系统将智能体训练、评估和数据处理任务接入中央服务，并由推理授权请求决定任务能否继续；前沿强化学习任务另配独立模型监控器，用于检查行为并在发现潜在问题时发出警报。 OpenAI称，35秒延迟来自推理授权请求的缓存层，公司正努力将延迟缩短至零。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。