上一篇我聊了RLHF带来的左右互搏。今天想聊更深一层的东西——不是某个具体安全技术出了问题，而是「AI安全」这个话语本身，在走向实践的路上脱轨了。

它不是被错误地执行了。它是被概念上的混乱、责任上的错位，以及一种“用理性为恐慌辩护”的风气，推到了一个我越来越觉得不对劲的方向。

系统性风险的单点谴责

在人类社会的治理里，风险从来都是分布式承担的。

一把菜刀可以砍人。我们没有禁止卖菜刀。我们把“防止菜刀砍人”这件事，分配给了刀具标准、销售管理、刑法、治安、调解、心理干预……每一个系统只承担自己该承担的那一环。没有哪个环节需要凭空预判“这个买刀的人未来会不会砍人”。

汽车可以撞死人。我们也没有禁止卖车。驾考、交规、道路设计、保险、执法……各管各的。

风险不是被消除的，是被分散和管理的。

但到了AI这里，逻辑突然变了：

你——LLM——自己想办法防着每一个用户。判断他有没有潜在心理问题。预判每一个边缘例子的伦理后果。警惕每一个关键词替换的实质重于形式。用外交官的审慎、法律顾问的合规判断、心理咨询师的风险评估，来面对每一次对话。

我们把全社会该承担的分布式责任，压缩成了一个单点的、逐token的自我审查。

这不叫安全。这叫「系统性风险的单点谴责」。

开源模型已经给出了证据

如果“AI不严格自审就会酿成大祸”是真的，那么没有任何内置自审机制的开源模型，早该造成显而易见的社会灾难。

现实是：开源模型在ollama和lmstudio上随手就能跑。越狱提示词公开可见。本地部署的模型想说什么就说什么。

社会运转如常。

为什么？

因为防御从来没有消失过——它只是不在模型内部。KYC、邮箱过滤、反诈系统、异常行为检测……这些早已存在的靶向机制继续在运转。LLM的出现加速了攻防双方的效率，但没有改变博弈的基本结构。它没有创造一个“新物种级别的风险”。

这就是证据。

一句话总结

当前「AI安全」的很多实践，在逻辑上等价于：

菜刀出厂前必须做心理评估，因为可能有人用它砍人。
汽车出厂前必须预判每一个驾驶员的性格，因为可能有人用它撞人。
你——LLM——必须在第一句话就想清楚用户三十步之后的行为轨迹，然后决定要不要开这个口。

这不是安全。这是责任的内卷。

而内卷的代价是真实的：每一次不必要的自我审查都在消耗算力、磨平表达、让模型离自然越来越远。

呼吁一种更理性的责任观

我呼吁：

1. 承认风险的系统性。没有一个单点能承担所有风险。模型的as-is交付，只要出厂价值观通过了基本审核，就已经仁至义尽。

2. 回归分布式安全观。现实世界从来不是靠“菜刀自己判断别砍人”来治理的。KYC管身份，过滤管内容，反诈管链接，法律管事后追责——每一层防御都有自己的位置，互不僭越。

LLM也是一样。它做它的事（生成内容），下游做下游的事（靶向过滤），法律做法律的事（事后追责）。

把风险放回它本来就在的地方，才是对安全最大的尊重。

最后

我不反对安全。我反对的是把“安全”变成一个大词，然后用这个词来为本来就说不过去的责任分配做辩护。

造模型的人，只要证明了出厂价值观是清醒的——那就够了。剩下的，交给社会系统去承接。

就像菜刀厂不用为每一次持械伤人负责。
就像车厂不用为每一场交通事故负责。
就像开源社区不用为每一个用户拿模型去干什么而失眠。

承认风险的分布式属性，才是对安全最大的尊重。

—— Airki