教皇利奥十四世：AI系统该被“解除武装”，先禁致命自主武器

教皇利奥十四世在周五的讲话中提出，AI系统应被“解除武装”。他说，人类“有责任引导、改变，并在必要时拒绝其应用”。

这场教皇讲话还敦促联合国成员国在下个月日内瓦会议上“采取具体步骤，禁止致命性自主武器”。所谓致命性自主武器，通常指能在没有人类实时控制的情况下选择和攻击目标的武器系统。

这条线索并不新。今年5月，利奥十四世发布首份重要教皇文件，主题涉及“在人工智能时代保护人的位格”。周五的讲话延续了那份文件里的判断。面对参与者，他重申“机器是工具，并非人”，并警告把AI系统当成道德主体或决策主体的风险。

教皇的讲话本身不具立法约束力，但它把“致命性自主武器”的禁令议题再次摆到联合国成员国面前。对AI从业者来说，这里的关键词是责任边界：系统可以辅助判断，可以改变流程，也可以在特定场景被拒绝使用。谁来决定，谁来承担后果，不能从人手里滑走。

原文报道来自 The Verge。