工厂里的 AI 该有多大权限？人类控制别只剩一个急停按钮

工业 AI 的自主性，最后要落到一个很土的问题：出了异常，谁按停？

MIT Technology Review Insights 这篇文章的标题把 autonomy 和 human control 放在一起，用了 pairing。这个动作比很多产品页诚实。工业现场不缺概念，缺的是把权限、责任和异常处理写进流程。

工业 AI 的自主，通常长什么样

常见场景无非几类：预测性维护给检修建议，视觉质检判缺陷，工艺优化调参数，排产系统改顺序。差别在权限。系统只给建议，人来做决定，是一种；系统在限定条件下直接动作，是另一种。后一种效率高，风险也集中。

所以讨论工业 AI，不能只看模型准不准。现场工程师会先问：误判了谁负责？动作能不能撤回？异常多久升级到人？日志能不能复盘？这些问题不解决，再高的准确率也停在试点。

我见过一种偷懒做法：每个关键动作都弹审批框。看起来人还在控制，实际会训练所有人闭眼点通过。控制要设计在边界上，不放在疲劳点击里。按风险分级放权更现实。低风险动作自动执行，中风险动作给建议加抽检，高风险动作强制人工确认，并保留回滚路径。

这套东西不新鲜，航空、电力、流程工业都有类似思路。工业 AI 的新问题是模型会变，数据会漂，供应商还会升级版本。权限表、异常升级路径、审计日志得跟着一起迭代。

自主性和人类控制要一起设计。自主性带来响应速度和执行一致性，控制带来可运营性。把控制理解成一个急停按钮，太省事，也太空。真正能上线的东西，通常有清楚的权限分层、可追溯的记录、能回滚的动作，以及一个人愿意接手的异常流程。