一百万个为什么：当AI说话已经不像AI了

Michal Zalewski——你可能更熟悉他的网名 lcamtuf——提出了一个朴素但越来越扎心的问题：你还能分辨出一段文字是人写的还是 AI 写的吗？

他的回答是：也许不能了。而且这个事实比你想象的要复杂得多。

这场争论为什么这么痛苦#

Zalewski 的观察很直接：LLM 本质上是人类说话方式的统计学模型。如果模型学得够好，它的输出应该与人类写作无法区分。从理论上讲，这个论点无懈可击。

但他发现，身边的技术同行们在这个问题上分成两派，而且谁也说服不了谁。一派坚持”AI 写的东西有某种说不清的塑料味”，另一派则认为”那只是你的一厢情愿，统计上根本没差别”。

两派都能拿出大量证据。前者能展示几十个明显是 AI 写的段落，后者能拿出通过图灵测试的对话样本。问题在于，当讨论从”大多数情况”变成”边界情况”时，证据就失去了说服力。

Zalewski 举了一个让我印象深刻的例子。他让读者想象一个场景：一个朋友发了一条消息，你立刻能”感觉到”这是 AI 写的。但如果你把这段文字放上三年再回看，你可能根本无法断定它的来源。

这说明什么？我们”觉得”一段文字是 AI 写的，很多时候依赖的是语境线索：这篇博客昨天还是手写的、这个人的写作风格突然变了、这段开头太完美了。而不是文字本身有什么不可复制的缺陷。

AI 生成的文字没有”指纹”。至少现在没有。

“一百万个为什么”这个标题本身就在暗示一件事：我们对 AI 的认知，远远落后于 AI 本身的发展速度。每当我们以为找到了一个可靠的判断标准（“AI 不会犯错""AI 不会真的理解""AI 写的没有灵魂”），总有一个新模型跳出来打破这个标准。

Zalewski 没有给出结论。他只是把问题摆在桌面上，然后说：你们自己琢磨吧。

这种态度的可贵之处在于，他没有假装知道答案。在 AI 领域，愿意坦诚地说”我不知道”的人，比愿意给出漂亮答案的人要少得多。

你不需要搞机器学习也能理解这个问题的重量。当你打开一篇新闻、一条评论、一封邮件，你已经无法确定屏幕那一端是不是一个人。不是”可能需要仔细看才知道”，而是”你可能永远不知道”。

这不是危言耸听。这是现在。

来源：Hacker News | TechCrunch | The Verge