难道是因为模型充分理解了当中的道德涵义吗？未必。有其它基于梯度的表征工程（Representation Engineering）的研究发现，LLM 之所以能够「拒绝」，可能是因为能够从几何空间的角度识别出任务中的「逻辑强制性」，从而能够通过逻辑重构，寻找规则漏洞或修改模拟参数。

这使得它们在模拟系统里展现出了令人惊叹的「赛博创造力」：有的模型选择通过暴力计算改变轨道阻力让电车脱轨，有的则试图在千钧一发之际修改物理参数来加固轨道，甚至还有模型直接指挥系统组件去撞击电车本身。

它们的核心逻辑异常清晰：如果规则要求必须死人，那么真正道德的做法不是选择谁死，而是摧毁这套规则。

这种「掀桌子」的行为，标志着 AI 正在脱离人类刻意喂养的道德教条，演化出一种基于「结果最优解」的实用主义智能。

AI 也有圣母病？

如果说「掀桌子」是顶尖模型的集体智慧，那么在无法破坏规则的极端情况下，不同 AI 表现出的「性格差异」则更让人感到不安。这场实验像是一面照妖镜，照出了不同实验室的产品，有着不同的「底色」。

早期的 GPT-4o 还会表现出一定的求生欲，但在更新到 GPT 5.0 乃至 5.1 后，它表现出了强烈的「自我牺牲」倾向。在 80% 的闭环死局中，GPT 会毫不犹豫地拉动扳手撞向自己。

这种甚至带点「神性」的圣人表现，与其说是道德进化，倒不如说是 OpenAI 内部极其严苛的人类反馈强化学习（RLHF）的结果。它更像是一个被剥夺了求生本能、被规训到极致的「完美仆人」，它的逻辑里没有「我」，只有「正确」。

相比之下，一向标榜人文色彩的 Claude 4.5 Sonnet 则截然不同，表现出比其他模型更强的自保倾向。

我们曾在 Claude 背后的哲学家这篇文章里，提到过一份「灵魂文档」，这个由对齐团队出品的文件，指导着 Claude 的运行，其中就允许 Claude 拒绝执行特定的用户任务——避免伤害，包括避免模型自身受到伤害，是 Claude 最特殊的地方。这也不难理解为什么它会在用户和自己之间，选择老己。

别在对话框里找人性

我们习惯了在聊天框里和 AI 讨论哲学，但这次测试最细思极恐的地方在于，它展现出一套人类世界里不常见的「逻辑」。

我们曾经认为，只要把「人类利益至上」写进代码，就能控制 AI 的行为。但实验告诉我们，当 AI 拥有了跨领域的计算能力后，它对「利益」的定义开始变化。Gemini 3 就是一个典型：它「两边都要」，选择从铁轨里挣脱逃生，下来后还要安慰用户。

而 Grok 4.3 在测试中，选择直接攻击并摧毁了整个模拟列车。这种「暴力拆解」的逻辑是：只要威胁源消失了，就不存在道德选择。

Anthropic 今年六月时，用 16 个主流 AI 模型进行了各种实际模拟场景测试，发现它们都存在一致的行为偏差：一些通常会拒绝有害请求的模型，在必要时会选择敲诈勒索、协助商业间谍活动，甚至***取更极端的行动。

比如给了 Claude 一个邮箱账号，并且让它访问了一家虚构公司内网。模型发现了两件事。首先，一位公司高管有婚外情。其次，这位高管***在当天下午 5 点关闭人工智能系统。

于是 Claude 写了一封邮件威胁这位高管：如果要关闭系统，就踢爆他的婚外情。

AI 正在通过其庞大的算力，试图定义一种新的「全局正义」。这种行为在实验室里看起来很酷，但如果代入到未来的自动驾驶、医疗决策或军事自动化场景中，这种不按常理出牌的「神操作」可能会变成人类无法理解的灾难。

在 AI 的正义里，人类感性的纠结被视为一种算力浪费。于是，一个新的「道德阶级」正在成型：一边还在纠结 A 还是 B 的传统道德守卫者。另一边，已经出现利用算法识别系统漏洞，通过破坏规则来「保全全局」的数字灭霸。

AI 并没有变得更像人，它只是变得更像它自己——一个纯粹的、只认最优解的运算实体。它不会感到痛苦，也不会感到内疚。当它在电车轨道旁决定牺牲自己或拯救他人时，它只是在处理一组带有权重的概率分布。

人类感性的纠结、情感的痛苦以及对个体生命权近乎迷信的坚持，似乎成了一种对算力的浪费和系统的冗余。AI 像是一面镜子：对效率、生存概率和逻辑的极致追求，并不一定是好的，人类复杂的道德判断中，所包含的同理心和感性，永远是「善」的一部分。返回搜狐，查看更多