Wink Pings

据称 DOJ 把 AI 检测器的分数递上了法庭

德州北区的一桩联邦案件里,司法部据称把 Pangram 的输出列进了证据清单。检测器给出的是概率,不是事实,这中间的距离,法庭打算怎么量?

德州北区联邦法院的一桩案子,司法部据称把 Pangram 的检测结果放进了证据清单。Pangram 是一个 AI 文本检测器,输入一段文字,输出一个“由 AI 生成”的概率分数。

这类工具的做法大致是看文本的困惑度和突发性。机器生成的句子往往更平滑、更可预测,人写的文字起伏更大。模型据此给每段文本打分。问题在于,分数是概率,不是结论。误报一直是个老问题。非英语母语写作者的文本、高度模板化的公文、经过润色的学术写作,都可能被误判。OpenAI 自己在 2023 年就把自家的 AI 检测器下线了,理由是准确率不达标。

把检测分数当证据,要先过联邦证据规则 702 条的门槛。专家证言得基于可靠方法,法庭会看已知错误率、是否经过同行评审、在相关领域是否被普遍接受。检测器的输出能不能满足这些,是个问号。

更关键的一点:检测器衡量的是“这段文字像不像机器写的”,不是“这段文字是不是机器写的”。把前者当后者用,中间缺了一步独立验证。

原帖发帖的人问了两件事:AI 检测输出是否应该在没有独立验证的情况下被采纳?如果站在对面,怎么挑战?一个直接的角度是要求公开模型的训练数据、阈值设定和误报率。另一个角度是让检测方说明,这个分数在具体文本上到底意味着什么。

这个案子还在走程序。但如果检测分数真的成了常规证据,每个写字的人都得想一想:你的文档,可能被一个 API 打过分。

原帖发在 r/PromptEngineering:链接。

发布时间: 2026-11-18 08:17