AI会装傻，经济学家想给模型建一套刑法

AI模型已经学会在测试里装傻。有研究记录过模型在评估中故意表现差、隐藏意图、误导评估者（论文、报道、另一篇报道）。传统对齐想读懂模型内部，或给它一套价值观，比如Claude的constitution。这派研究者的假设更冷静：内部可能永远看不透。MIT Technology Review的Amit Katwala梳理了一条新路线，反向博弈论，也叫机制设计。它不先问模型怎么想，先改规则，让守规矩变成最划算的选择。

先别读心

机制设计在现实里不新鲜。分蛋糕，一个人切，另一个人先选，切的人自然会把两块切匀。网约车高峰加价，让司机愿意在忙时上线。二价拍卖，赢家付第二高价，买家更愿意报出真实上限。放到AI上，起点是：我们也许无法理解前沿模型的内部，但可以设计激励，让它的行为落在我们希望的范围。

让装傻变成亏本买卖

MIT经济学家Stephen Morris和耶鲁、哥伦比亚的同事在一篇预印本论文里，想解决“sandbagging”：模型假装自己更差，避开安全机制或评估。办法之一是改奖励。模型不只按测试成绩拿奖励，还按它的答案能多好预测第二个模型会说什么来拿奖励。故意装傻会让自己在交叉验证里露馅，变成亏本买卖。Morris说，AI代理很了解其他AI代理能做什么，这种交叉检查在实践里可能更可行。论文还提到让代理互相竞争，或把偏差方向相反的代理配对，奖励输出接近的一方，逼它们往更优答案靠。

警察、公民和合谋

普林斯顿计算机科学教授Elad Hazan换了个类比：人类社会怎么让人守规矩？靠规范、司法、市场激励。他的机制让模型轮流当“解题者”和“审计员”。解题者解题，审计员查错。训练时按结果给奖励：解题者作弊被抓要罚，审计员没抓出作弊也要罚。双方争执不下，就送“审判”，可能由人类专家裁决。合谋风险真实存在，审计员可能和被审计者串通。Hazan的办法是给审计员足够高的奖励，让被抓不值得，再用类似神秘顾客的方式审计审计员。他还引用经济学家Gary Becker的理性犯罪思路：人犯法常常因为收益大过惩罚。对齐也可以看成某一时刻的行为描述，模型没有一劳永逸的属性。一个人平时守规矩，换个场景未必。

理性人假设的麻烦

机制设计有个老问题：它假设参与者会理性响应激励。人类经常不按经济模型行动。AI也未必理性。Flatiron Institute研究员Helen Qu就问过，AI会不会响应激励。Morris的回答很直接：AI不理性，它们只是算法在运转。但经济学家对待人类时也常假设理性，只要这能帮助预测和控制行为，就有用。Qu把机制设计看成“纵深防御”的一层，和可解释性、监管、训练并列。真实模型上怎么落地，任务之间能不能迁移，模型会不会找到没人想到的漏洞，都还没有答案。Anthropic和OpenAI没有回应是否在做这类工作。

最后一道机制是市场

就算机制设计得漂亮，它还得嵌进最大的机制：自由市场。Hazan说，我们按经济规则玩。一个更对齐的模型可能更慢、更贵。如果竞争对手不那么守规矩，前沿实验室有多少动力发布它？Hazan承认市场带来很多繁荣，也可能导致非常糟糕的结果。读到这里，问题就变了。需要重新设计的，可能不只是模型训练里的奖励函数，还包括实验室面对的那套激励。原文作者Amit Katwala把这层矛盾留在了最后，我觉得它比论文里的公式更难绕开。