跳到正文
新浪财经7x24·· 1 小时前AI 评分38

OpenAI董事保罗·克里斯蒂亚诺警告一年内发生 AI 灾难存在较高可能性

【OpenAI董事:一年内发生AI灾难具备合理可能性】知名AI安全研究者、OpenAI控股实体董事会成员保罗・克里斯蒂亚诺,在一档热门科技播客采访中,对人工智能的发展前景发出警示。他表示,未来人类完全失去对AI控制权的可能性正快速上升。克里斯蒂亚诺称:“目前存在合理可能性,未来六个月就可能发生一场灾难,造成大量人员死亡,或是出现政府被颠覆的局面。”克里斯蒂亚诺表示,上述事件是否发生,取决于AI技术迭代的速度。他还提出,受递归自我改进技术驱动,AI模型可以实现自我迭代升级,未来一年内发展到危险临界点的概率“相当高”。克里斯蒂亚诺在采访中着重强调,发言仅代表个人立场,并不代表OpenAI董事会观点。他表示过去数月模型能力进展迅猛,如今评估,未来一年发生AI接管人类局面的风险“更接近10%,而不是1%”。他称,如果各大企业不采取更多防护措施以缓释AI开发带来的风险,该风险预估数值还将“显著走高”。

AI 导读

OpenAI控股实体董事会成员、AI安全研究者保罗·克里斯蒂亚诺警告,未来一年发生 AI 接管人类局面的风险更接近 10%,而非 1%。他称,未来六个月发生造成大量人员死亡或政府被颠覆的灾难也存在合理可能性,并强调这些判断仅代表个人立场,不代表 OpenAI 董事会观点。

来源:新浪财经7x24 · finance.sina.cn