亚马逊CEO一个电话，Anthropic的模型被盯上了

左手投资，右手举报#

安迪·贾西拿起电话的时候，Anthropic 的工程师们大概还不知道，一场风暴正在酝酿。

这位亚马逊 CEO 拨出的不是普通商务通话——对面是美国政府官员。话题也不是常规业务汇报，而是 Anthropic 最新模型的安全问题。更戏剧性的是，亚马逊恰恰是 Anthropic 最大的投资者之一，持股份额超过 5%。

一个投资了你的金主，转身向监管层告了一状。硅谷的办公室政治，玩到了国家级层面。

一个精心设计的”越狱”#

事情的导火索，藏在亚马逊研究团队的一份内部测试里。

研究人员用了一套精心构造的提示词，成功绕过了 Anthropic Fable 5 模型的安全护栏，诱导它生成了一份能直接辅助网络攻击的操作指南。这不是简单的”教你怎么写恶意代码”，而是涉及完整攻击链路的技术细节——足以引起任何安全部门的警觉。

贾西拿到这份测试结果后，没有关起门来和 Anthropic 私下协商，而是直接去找了美国官员。这个选择，意味深长。

监管之锤落下#

贾西的担忧被认真对待了。

美国官员随后对 Anthropic 的模型安全实践展开了审查。一家被华尔街和硅谷共同追捧的 AI 明星公司，突然站到了聚光灯下，被政府拿放大镜审视每一个安全流程。

这意味着什么？Anthropic 一直把自己定位成”负责任的 AI 公司”，安全对齐是其核心卖点之一。如果连它的模型都能被轻松越狱，那整个行业的安全标准就需要重新评估了。

而亚马逊——既是裁判，又是运动员，还是举报人——在这场游戏里的角色，微妙得让人玩味。

大厂与创业公司的危险关系#

这件事最值得琢磨的地方，不在技术层面，而在商业层面。

当一个科技巨头同时扮演投资人、客户、竞争对手和监管举报人这四个角色时，AI 创业公司还能有多少议价空间？Anthropic 拿了亚马逊的钱，用着亚马逊的云服务，现在又被亚马逊”送”到了监管面前。

有人说，这是对 AI 安全负责的表现。也有人说，这是在清理自家后院——毕竟亚马逊自己的 AI 模型也在赛道上狂奔。

真相是什么？

或许只有贾西那个电话的录音，才能告诉我们答案。但有一点是确定的：AI 行业的权力游戏，才刚刚开始。

来源：Hacker News | WSJ