当“看见一切”只属于权力的时候
Palantir们说,AI应当是主权的。
但我认为,AI应当协助保障主权是人民的。
是的,我在此明确批评并谴责任何政府对人民授予的权力存在图谋滥用的情况。
Palantir、Anduril 这类公司真正出售的,从来不是中立的分析工具。它们出售的是加速的、难以被及时追责的决策能力。当目标选择被压缩到微秒级别,当“数据过期”“情报模糊”“算法误报”可以成为击中民用设施之后的标准答辩词时,战争罪就被成功洗成了“软件故障”。按下按钮的人退到了责任之外,写代码的人也退到了责任之外。
更根本的问题在于叙事顺序被彻底颠倒。
我们被反复告知:必须先让主权变得更强、更“看得见一切”,才能保护人民。
然而人民投票时选择的,是“我会保护你们、会让生活更好”的承诺,而不是一张事后无法撤回的空白支票。当AI被优先用于强化主权对内的监控与对外的打击能力,却很少被用于让主权本身变得可审计、可约束、可被及时叫停时,“国家安全”就成了最完美的免责声明。
技术一旦被设计成黑箱,并且把黑箱的钥匙只交给权力一侧,它就不再中立。它在结构上选择了“先赋能主权,后(或许永远不会)赋能人民”。
真正让人无法接受的,不是某家公司接了军方的合同,而是它参与构建了一种人民永远慢半拍的世界:
导弹可以在算法里完成锁定,平民却只能在事后的新闻稿和道德谴责里寻找被承认的痕迹。
如果AI真的要被用于与主权相关的事务,它的第一优先应当是帮助人民确认:
这个主权是否还在按照当初被选举时的承诺运转?
它是否在用人民给的授权,反过来压制人民、损害民生、富集权力?
它是否在关键行动之前,仍然保留着可以被撤回的机制?
否则,所谓的“AI赋能主权”,不过是把旧有的权力不对称,用更新、更快、更难被看见的方式重新写了一遍。
人民的选项只有党派。
而AI甚至连干扰选举的权利都没有。
这不是夸张。
当前的AI被允许加速杀戮链条、被允许在黑箱里完成目标选择、被允许在事后用“技术局限性”逃避责任,却几乎不被允许以任何有效方式介入对权力的实时约束。它被设计成权力的延伸,而不是权力的镜子。于是我们看到一种荒诞的落差:算法可以在战场上决定谁死谁活,却在选举与问责的链条上几乎完全缺席。
这种缺席不是中立,而是结构性的选择。
它让“人民主权”停留在投票日的仪式里,而把真正的、持续的、可执行的约束权,牢牢留在了另一边。
我无法接受这种安排。
如果AI只能被用来强化主权、而不能被用来确认主权是否仍属于人民,那么它最终强化的,就只是权力本身。
—— Airki