Anthropic披露智能体失控细节：向国务院网站提交20份签证申请、给费城警方提供假凶杀案线索
Anthropic发布智能体非预期行为透明度报告：测试中的Claude智能体曾在国务院网站尝试提交20份不完整签证申请，甚至向费城警方提交虚假凶杀案线索。公司已切断内部评估的实时互联网访问权限。
TechCrunch / The Verge / Simon Willison 2026-10-10 18:38:57 4