OpenAI公布AI文本水印方案:能提示来源,不能判定真假
OpenAI的textGrain为部分文本提供水印来源线索;检测效果会受文本长度、语言与编辑影响。
textGrain 如何标记文本
OpenAI 的 textGrain 会在生成时把不可见的统计信号加入选词过程,检测器据此寻找 OpenAI 水印。公司计划更新技术报告,并希望之后开源。检测结果只能说明 OpenAI 系统可能参与生成或处理了部分文字,无法识别具体用户、衡量人的贡献,也不能证明内容准确、归属或责任。
API 客户可为部分模型选择启用水印,默认关闭;欧盟符合条件的 ChatGPT 与 Codex 输出预计分阶段加入。检测器初期只向获批研究者和专家组织开放。文本水印与 OpenAI 已有的图像、音频验证工具分开。

textGrain 把不可见的统计信号嵌入生成文本,检测器据此寻找水印。
检测率会受哪些因素影响
OpenAI 测试把目标误报率设为 1%。在心理学类英文文本中,检测器约能识别 80% 的 200-token 段落和 95% 的 400-token 段落;数学等选词范围较窄的文本更难识别。针对 400-token 段落,同义词替换 10% 后检测率由约 92% 降至 66%,替换 25% 后降至 17%。这些数据来自 OpenAI 对 ELI5 英文回答的自测,不能代表所有语言和企业文件。缩短、编辑或翻译也会削弱信号;没有检测到水印不能证明文本由人撰写。OpenAI 还称,其 Astra 基准测试中加水印与不加水印没有出现有意义的性能差异;这一结论只适用于公告列出的测试。

短文本和编辑会削弱检测信号。
消息参考来源