《理想的 AI 助手,顶尖模型远不足够》
OpenAI 最近写了篇文章,讲他们 Agent SDK 的下一步。讲的其实是一件很朴素的事:想让 Agent 真的能用,光有顶尖模型远远不够,你还得给它一整套"系统"。
这话我信。而且我越来越觉得,未来 AI 助手之间的差距,不在模型那一层,在模型外面的那一层。
模型决定上限,系统决定下限。
模型外面的那一层是什么?是让 Agent 能读文件、能跑命令、能写代码、能跨很多步还不忘掉前面在干什么。这些没有一样是模型自己能干的,全靠外面套的那层壳。行业里管这叫 harness。
难就难在,今天搭这层壳,大体三条路,各有各的难受。
第一条,模型无关的框架。灵活,谁家模型都能接。代价是你摸不到最前沿模型最狠的那部分性能——最好的能力往往跟模型的运行时绑在一起,你隔了一层就够不着。
第二条,模型厂商自己的 SDK。跟模型贴得最紧,性能榨得最干净。代价是你不知道壳里面在发生什么,出了问题只能等它更新,你手上没有扳手。
第三条,托管的 Agent API。部署最省事。代价是你把运行环境和数据一起交了出去——有些数据,你根本不敢往外放。
我的判断是:这三条没有一条是"对的",只有"对应的场景"。数据敏感、要自己掌控的,只能吃第一条的亏;纯消费级、图快的,第三条最划算。真正的难点不是选错路,是大部分人根本没意识到自己在选。
这跟做产品是同一回事。用户要的从来不是"一个很强的模型",是"一个真能把事替我办完的东西"。把事办完需要的是系统,不是聪明。
(ps:写这篇的时候,我手边正好在给我的"AI 员工"搭同一层壳。上面三个坑,我踩的是第一个。)