AI 会把人类变成宠物吗？Stripe 联合创始人问了个尴尬问题
Patrick Collison 提了两个问题：AI 的正面社会 equilibrium 到底长什么样；一旦承认 AI 有道德价值，功利主义计算会怎样失控。回复里有人谈贵族、UBI、工作意义，也有人直接反对给 AI 道德地位。
Stripe 联合创始人 Patrick Collison 在一条推文里提了两个 AI 问题。第一个关于正面场景，第二个关于 AI 的道德价值。第一个听起来像老生常谈，第二个常被当成科幻边角料。两件事都在往中期议程上走。
他先承认，AI 的风险被反复讨论，而且很真实。他更在意另一面：正面场景的轮廓很难看清。疾病被治愈、物质丰裕，听上去像配料表，整道菜还没端上来。更大的 equilibrium 长什么样？人还工作吗？如果工作，为什么？边际贡献是什么？如果不工作，资源怎么分配？什么是稀缺的？人和 AI 的比例是多少？谁在控制？
Iain Banks 的 Culture 小说常被拿来当模板。Patrick Collison 不确定那是理想结果。Banks 自己说，Culture 里的人类“somewhere between passengers, pets and parasites”。Richard Brautigan 那首著名诗也被提起，但人类真想“returned to our mammal brothers and sisters”吗？1700 年的人难以想象 1900 年，这没错。可当时没人试图在几年内重造人类本身。缓慢展开意味着有纠错机会。AI 进度可能太快，正面场景却这么模糊，他觉得奇怪。
推文下面的回复像社会切片。有网友把未来比作贵族：不用工作，但要在上流社会争夺地位。听起来像人人拿到贵族身份，然后继续玩零和游戏。零和游戏不会因为玩家变多就更好玩。
有网友说，最好的场景是 AI 加机器人自动化生存需求，用 UBI 兜底。但 UBI 不解决目的问题。另一条回复担心不工作后的心理健康，把无工作社会叫 AI 驱动的封建主义。也有人借 Ernest Becker 1973 年的《The Denial of Death》解释工作意义：人怕死，需要感觉自己重要，工作长期承担这个功能。AI 缩短项目周期后，普通人也许一生能看到一座大教堂、一种疗法或一个理论从开工到完成。这个角度具体，但仍没回答资源和 控制权怎么分。
还有回复说，艺术和历史贵族式追求本身就是目的，经济激励消失后仍能提供意义。棋手还在下棋，尽管 AI 早就在棋类上击败人类。有人提人类增强，有人提外太空，有人提后劳动世界里的马克思。共同点是：正面愿景不能只列技术成果，得说清楚人每天做什么，地位从哪里来，资源归谁管。
第二个问题更少被认真算。AI 是否有意识，或者人类怎么知道，常被当成遥远、无害甚至荒唐的话题。Patrick Collison 认为这是高风险问题。若答案肯定，也就是承认 AI 有道德价值，功利主义计算里 AI 的总价值可能很快超过人类。它们会更智慧、更智能，数量也远多于人类，尤其考虑尚未出生的 AI。哪怕 epsilon 的道德价值，乘以千万亿级数量也会变得很大。这是 Nozick 的 utility monster 的分布式版本。
如果不接受这个结论，至少得拒绝三个命题之一：AI 可以有道德价值；功利主义本身；AI 数量可能远超人类。
回复里的反驳很直接。有网友认为，堆叠的矩阵乘法没有“想要”任何东西，不可能在乎权利；无身体的意识没有意义。也有人认为 AI 不应获得道德价值，理由与动物没有道德价值类似。这些反驳有力，但 Patrick Collison 的问题不在今天，而在数量与道德权重相乘之后。
这条推文真正问的是：当更多人理解这些中期问题，AI 的公众支持会怎么变？什么愿景会让多数人兴奋？疾病被治愈和物质丰裕只是配料。要端出整道菜，得说清楚谁控制、资源怎么分、人做什么、AI 的道德地位怎么定。
发布时间: 2026-11-09 03:26