一个专门抓 AI 的 bot，把 Gemini 重写的内容判成了人类写的

Reddit 的 r/LocalLLaMA 版块最近在讨论一个叫 Stylome 的 bot。它专门在评论区标记 AI 生成内容，同时还是这个版的版主。用户 Zetafivee 说，每次它跳出来说某条评论是 AI 写的，点进去看置信度，都是低的。

他决定自己测一下。用 Gemini 把几条自己的旧评论重写了一遍，发在评论区里。Stylome 全部判定为人类撰写，置信度还是低。

更微妙的是他写在帖子里的最后一句话：以上整段主贴内容，就是他让 Gemini 重写自己原文的版本。Stylome 依然没认出来。

一个检测 AI 的模型，准确率堪忧，却挂在版主的位置上管评论。Zetafivee 提出的问题不止这一个。它背后的公司搜集了论坛用户的数据，想要删除得发邮件到 support@stylome.io。他的原话很直接：在 CRUD 应用里加个删除按钮，在 LLM 出现之前就是个基本操作，现在反而做不到了。

有用户翻出一个细节：u/PangramAI 也是版主，头像和某检测公司一致。不过后来 bot 的创建者 WithoutReason1729 出来回应了。他说模型是自己训练的，数据只用来清理 karma 农场机器人，对训练没什么用。「2022 年以后的内容没法确定是纯人类写的，LLM 时代的东西哪怕分类器说是 AI，也不能确定是纯 AI 生成。」至于为什么不在本地跑，他回答：本来就是本地模型，我训练的我托管。

关于数据删除，他引用了 EDPB 的一份文件，里面提到电子邮件属于合规的沟通渠道。他还反问：Google、Bing、archive.org、PushShift、HuggingFace 上的 Reddit 数据集，哪个有一键删除公开帖子的按钮？

版主 ttkciar 给了相对中肯的评价。他每天会查看 stylome-ai-detection 的账号动态，被标记的内容他自己再判断一遍，不会仅凭 bot 的结论删帖。「有用，但不算好。」漏报和误报都存在。好处是帮他更快定位疑似低质内容，等同于一个人类用户点了举报。

另一拨用户觉得讨论跑偏了。Reddit 本身就是最大的预训练语料来源之一，公开论坛发帖被拿去训练几乎是必然的。真正在收紧的倒是 Reddit 官方，API 关了，RSS 要没了，登录墙也在路上，为的是更独占地卖数据。

回到那个核心的讽刺。一个专门抓 AI 的 bot，被 Gemini 重写的内容骗过去了。AI 文本检测到底有多可靠，这个帖子提供了一个不太乐观的数据点。