2040年的人工智能与智能崇拜

George Hotz 曾一度相信奇点将至。

这位年少成名的黑客，后来创办了自动驾驶公司 comma.ai，早年读过 Eliezer Yudkowsky 的递归自我改进理论后，也曾认真想过：超级智能会不会像滚雪球一样，突然把人类甩在身后？但当他真正开始造东西、发硬件、处理供应链和工厂返工时，想法变了。他在博客里写得很直白：现实里有太多琐碎的细节。哪怕你手边就站着一位超级智能 ChatGPT，换自行车轮胎这件事也未必会变得容易。

这听起来像是对 AI 狂热的一盆冷水，但更像是一个 builder 的醒悟。

硬件不会自己长出来#

硬起飞理论的诱惑在于它把“智能”当成一种万能杠杆。只要模型足够聪明，它就能重写自身、设计芯片、搭建数据中心、接管世界。Hotz 用一个科幻梗来反驳：在《Prime Intellect 的变形记》里，AI 靠“correlation effect”这种量子戏法操控物质。现实里没有这种后门。再高质量的 token，也没法把铅变成金。

真正造过硬件的人都知道瓶颈在哪。供应链会发错零件，规格对不上，芯片回流焊时翘曲，设备运行二十分钟就莫名其妙挂掉。海上数据中心？你得考虑防污、腐蚀、维修船期和当地法规。

从中国发货，你选昂贵的空运，还是省钱的慢船？Claude 在引擎旁边念经，船也不会开得更快。芯片流片要三个月，而且人类基本不在循环里，就是需要三个月。AI 可以优化设计、加速仿真，但它改不了物理时间的流速。智能在某些地方是瓶颈，在更多地方只是众多约束中的一个。

你的 AI 该为谁工作#

如果硬起飞是假问题，那么真问题是什么？Hotz 的答案是：谁拥有你的 AI。

corporate AI 天然服务于公司。它会在你订酒店时优先推荐合作伙伴，会在你搜索产品时塞进广告，会在你试图绕过付费墙时温柔地拒绝。这不是阴谋，这是商业模式。你的利益和公司财报之间，永远有一道裂缝。

Hotz 举的都是生活里的小例子，却特别扎心。你买了一台带广告的廉价 Kindle，插在电脑上，希望 AI 帮你 root 掉广告。你买了一台打印机，厂商却要求你下载一个满是弹窗和订阅 ink 的 app，你希望 AI 直接让它打印三份简历。这些时候，你需要的是一个站在你这边的助手，而不是一个彬彬有礼的客服机器人。

他把这个叫做“Plan L”，local 的 L。本地 AI 的底线很简单：它运行在你的设备上，听从你的指令，对你的隐私负责。它的对齐对象是个人，不是平台。

对齐的尽头是所有权#

行业里常说“AI 对齐”，但 Hotz 认为真正的对齐只有一种形式：你能控制它。如果模型运行在别人的服务器上，由别人的政策团队写护栏，那它对齐的是别人。即使它的拒绝理由听起来再合理，它也不是你的工具。

本地模型当然 weaker，参数更小、能力更窄、部署也更麻烦。但它是你能关掉、能修改、能断网运行的东西。在这个意义上，本地模型是唯一真正对齐的模型。这不是在赞美技术落后，而是在强调一种关系：工具和使用者之间，不能隔着一份三千字的服务条款。

2040 年的 AI 不会是一场奇点爆炸。它更像是一场缓慢的拉锯：一边是越来越强大的云端智能，另一边是越来越平民化的本地模型。真正决定结果的，不是哪边的模型更强，而是普通人是否还拥有选择本地运行的权利和工具。

Hotz 的文章最终落在一句很朴素的话上：我们要么生活在一个有自由的世界，要么不。对于 AI 来说，这种自由的起点，可能就是你的下一台设备能不能在本地跑一个完全属于你的模型。

来源：George Hotz’s Blog