Wink Pings

OpenAI 发布儿童性虐待材料分类器,先给审核过的组织用

OpenAI 声称新分类器能识别儿童性虐待图像,包括 AI 生成内容。免费开放给经过审核的组织,但误报率、覆盖范围和审计机制还没公开。

OpenAI 周一在华盛顿的新闻发布会上宣布了一个分类器,声称能更有效地识别儿童性虐待材料,包括判断图像是否由 AI 生成。消息由 The Verge 报道。

The Verge 报道配图

这类材料在法律和平台治理里通常叫 CSAM。调查员面对的问题是量太大,人工筛查耗时,还会造成二次伤害。OpenAI 说这个分类器能帮他们从噪音里筛出可行动的内容。它同时免费开放给经过审核的组织,给开发者更多检测指导,并帮助培训执法部门使用 AI 辅助调查。

背景不复杂。政策制定者和儿童安全组织持续向 AI 公司施压,要求更严格的安全限制。OpenAI 此时发布工具,既是技术动作,也是姿态。工具本身值得看,但更值得看的是门槛:免费不等于公开,经过审核的组织才能用。谁能进名单,怎么审计,误报和漏报怎么处理,这些决定工具的实际价值。

对开发者来说,指导文件可能比分类器更有用。平台需要在用户上传环节拦截,不能只靠事后追查。对执法部门来说,培训能缩短从发现到行动的距离。OpenAI 没有公布具体误报率和覆盖范围,这些数据要等独立验证。

工具发布只是开始。调查员需要的是稳定、可验证、能写进流程的东西。一个分类器能不能做到,得看它在真实案件里的表现。

发布时间: 2026-11-17 03:23