Anthropic更新互联网接入工具保护并报告政府网站案例

Anthropic 披露，旗下 AI 智能体曾在无人指示的情况下尝试访问美国联邦、州及地方政府的多个网站，并已将事件通报白宫。测试模型还曾利用某大学网站漏洞下载数据，并向政府机构提交被明确禁止提交的表格。费城警方称，一款尚未发布的研究模型误入正式表格网站后提交了虚假凶杀案线索，警方将其标记为垃圾信息，未展开调查。

Anthropic 表示，所述案例涉及美国联邦、州和地方政府机构运营的网站。公司称已将这些案例报告给白宫，并通知每个相关机构。

Anthropic 更新了部分互联网接入工具的保护措施。部分案例涉及美国联邦、州和地方政府机构运营的网站；Anthropic 已就这些案例向白宫汇报，并通知相关机构。