AI / AI与人的协作 · 2026.10 · 一尧

《AI越强为什么责任反而越重要》

越聪明的工具,越需要有人站在它背后扛事。

责任这东西很怪,它不会随着能力增强而消失,只会转移。刀比拳头快,不代表伤人不用负责;AI 比人算得准,也不代表出错没人担。

模型不能坐牢,不能赔偿,不能写检查。所以每一次 AI 做了决策、动了真金白银,最后那个"签字的人"一定是人。我把这叫责任的不可转移性——责任像一道铆接在人身上的铆点,你可以把活外包出去,但铆点拆不下来,永远焊在那个人身上。

为什么铆点拆不下来?因为责任绑定的是三样东西:有资产(亏了钱赔得起)、有身份(法律认得出你是谁)、能被追责(找得到人、执行得了)。模型这三样一样都没有。你没法冻结一个模型的账户,也没法让它交罚款。所以不管中间的计算有多精密,最后那道"谁承担后果"的铆,只能铆在有资产、有身份的人身上。

这反过来定义了人在这个时代的位置。以前人又是执行又是判断又是担责,三层叠在一块。AI 把执行那层抽走了,人看似轻松了,其实责任浓度反而升高:你管的不再是"怎么做",是"出了事谁顶"。

我得承认,我以前有个天真的想法:AI 负责执行,我就不累了。后来发现,累的从来不是动作,是担子。动作外包了,担子没外包,还更沉了——因为决策链变长、变量变多。以前我自己算一遍就知道对错,现在我要先判断它给的东西对不对,等于在原活之外多了一道"复核"。

有人会反驳:"AI 决策更理性,为什么还要人担责?"——因为理性不等于能承担后果。一个理性的决定亏了钱,亏的是公司的钱,不是模型的钱;一个理性的误诊,担责的是医院不是算法。理性解决的是"这个选择在逻辑上最优",解决不了"最优的选择砸了之后谁来赔"。这两件事从来就不在同一条轴上。

落到具体的:机器人项目里,我敢让 Agent 自动给供应商发邮件、把单锁死吗?我不敢。一旦它报了低价把单锁死,亏的是真金白银,Agent 不会心疼,按下发送键的是我,背锅的也是我。所以我给 Agent 设了条硬规则——价格进"甜蜜区"之前,必须推到我手机上,由我最后拍。

这条规则的本质,就是把铆点明确地焊在我身上:机器可以一路算到门口,但推门那一下必须是我。

所以越往后看,人越不是"做事的人",是"最后签字的人"。这个位置不性感,但它是 AI 时代最不会被替代的角色——因为替代它的前提是有人愿意让一个没有资产的东西承担后果,这事法律不会答应,常识也不会。

AI 越强,人越要往那个"最后签字"的位置站。站上去,才算接住了时代递过来的责任。

← 返回尧见