Altman想让一群AI互相监督，网友：每个PR都由写它的人批准

Sam Altman在Cheeky Pint访谈里给了一个AI安全图景。他描述的世界里，没有单一的、神级AI。大量只比人类聪明一点的AI彼此检查、制衡，像健康社会里的多方博弈。

Rohan Paul在X上总结了这段话：Altman认为人类社会足够稳健，因为很多玩家互相牵制。他想让AI遵循同样模式，避免把全部智能放在一个地方。完整视频在Cheeky Pint的YouTube频道，Rohan Paul原帖评论里有链接。

这个说法听着像分权制衡。模型之间互相审查，像代码评审。问题也在这里。

有网友在回复里吐槽：AIs checking and balancing each other，所以每个pull request都由同样写了它的同事批准。这个类比戳中一个现实：制衡依赖独立审查者。AI之间如果共享训练数据、目标函数、推理路径，独立性可能只是表面。审查链路看起来完整，盲区也一起共享。

另一位网友Code With Jerry更乐观。他认为，一群略超人类的模型互相检查制衡，可能比把智能集中到一个AGI更安全。分散权力有时就是最好的保障。这个判断有道理，但成立条件不少。模型之间得有真实差异，审查能追到外部证据，权限和目标不集中在同一个控制者手里，出错时有人能停机、回滚、问责。

Giga Gerard的回复更直接：Yeah robust. Tech people are so naive. 他还配了一张图，两个男性站在讲台后发言。画面本身不解释太多，放在“robust”这句讽刺下面，意思已经够清楚。

两名男性站在讲台后发言，左边穿深色西装、红色领带，右边穿深蓝色西装、蓝色领带

Altman的说法更像设计方向，还不是安全证明。健康社会不只有多个玩家，还有法律、媒体、选票、利益冲突和外部问责。AI群如果没有这些制度层，互相检查容易退化成多智能体版代码审查：流程齐全，责任分散，最后没人能说清谁该负责。

所以关键不在AI数量。关键在制衡是否真独立。分散智能能降低单点失控风险，也可能把风险摊薄到每个节点，看起来哪里都没问题。