那个“太危险了”的AI，帮我做了一个牧羊游戏

危险？它在帮我赶羊#

Anthropic 造出了一个”危险到不该给世界看”的模型。

代号 Fable 5，据说能力太强，强到让人害怕。

你猜人们用它来做什么？

搞金融攻击。写深度伪造。制造生物武器。

……还有，让一只狗去追羊。

是的。一位叫 Koen van Gilst 的开发者，用了这个”全世界最危险的 AI”，做了一个牧羊游戏。名字就叫《牧羊犬》（Shepherd’s Dog）。

这反差，比让终结者去帮你遛狗还大。

一个心愿，等了多年#

Koen 想做一个牧羊游戏很久了。

不是那种复杂的 3A 大作。就是一个简单的游戏——你是一只牧羊犬，在草地上把羊群赶到圈里。

听起来不难，对吧？

但之前的 AI 模型，没有一个能帮他做出来。GPT-4 不行。Claude 3 不行。每次他都满怀期待地输入 prompt，每次结果都差那么一口气。要么羊群像得了癫痫，要么狗根本不会跑，要么整个游戏就是个半成品。

他几乎放弃了。

然后他拿到了 Fable 5 的访问权限——就是那个”太危险了，不能给公众用”的模型。

一次生成，45 分钟，两万行#

他给了模型一个 prompt：帮我做《牧羊犬》。

然后他等着。

45 分钟。

超过 20 美元的 token 费用。

Fable 5 一直沉默地在”思考”——没有输出，没有进度条，只有算力在燃烧。

然后，它给出了结果。

一个完整的、可玩的、2,319 行的 index.html。零依赖。没有框架。没有库。一个文件搞定一切。

而且，游戏就是他想象中的样子。牧羊犬在草地上奔跑，羊群被驱赶，围栏精准地拦住去路。没有 bug 乱飞，没有羊飞天遁地。就这么一次生成，完美落地。

Koen 说了一句意味深长的话：“这是第一次，一个 AI 模型能一次就帮我做成这个游戏。“

所以，到底谁更危险？#

这篇文章在 Hacker News 上引发了热烈讨论。

一个”危险到不能公开”的超级模型，做出的第一个出圈作品——是一个牧羊游戏。

这画面本身就充满了黑色幽默。

也许，Fable 5 确实很危险。它有能力写出让安全研究员失眠的代码。但 Koen 的故事提醒了我们另一件事：AI 的能力边界正在极速扩张。以前需要反复调试、各种 hack、拆东墙补西墙才能勉强运行的项目，现在一个模型在 45 分钟内就完成了。

危险的从来不是工具本身，而是拿着工具的手。

不过话说回来……如果最先进的 AI 首先选择用来做牧羊游戏，这个世界的未来，好像也没那么可怕？

来源：Hacker News