你手里的 AI,和别人手里的不是同一个 AI
你手里的 AI,和别人手里的不是同一个 AI
前阵子参加了一场 AI 工具的线下交流会(城市不说,公司名也不说,都不重要)。会上有个现象很有意思:科班出身的、半路出道的、文科背景的,各讲各的,彼此的观点几乎无法对话。
一位半路出道的开发者上台,要向大家分享一个”听到就绝对不可能”的东西——一个零 Bug 的 skill,用来开发小程序,一定一次通过,没有 bug。
同一场里,另一群人在聊的是:定期抓一遍开源社区的热点、做成 RSS 推送这种工作流,去年就已经能靠 AI 百分百复现了,效果还很好。
这两拨人坐在一个房间里,用着同一个词——“AI”——在描述两个完全不同的东西。
我一开始以为这是水平差距。后来想明白了:不是观点不同,是手里的东西根本不是同一个。 同一场会里至少叠着四层分裂,每层都会让上层的讨论失去共同基础。
上一篇讲的是宏观层面:AI 把成本从”做出来”搬到了”判断对不对”上。这一篇往下钻一层,讲一个更前置的问题——为什么大多数人连”AI 到底好不好用”这个最基本的判断都做不出来。
答案有点难堪:因为你根本不知道自己手里拿的是什么。
一、模型层:你没见过它真正的样子
先说最基础也最少被提起的一层:免费 chat 界面里的模型,从来都是 API 的严重缩水版本。
这不是猜测,是这个行业的通行做法。网页端和 App 端要扛住海量的并发,给你的是经过量化的、上下文被截断的、采样参数调得更保守的版本,高峰期还会再降一档。它和你在 API 里调用的同一个名字的模型,能力不是一回事。
这个事实的推论很硬:在缩水版上得出的任何判断,都只对缩水版成立。
于是”AI 不过如此”和”AI 无所不能”这两种截然相反的结论,可以同时为真——因为描述它们的两个人,压根不是在同一个东西上得出的结论。他们只是在用同一个词。
云端化让这件事更难了
而最近几个月,情况还在一路恶化。
各家都在把 Agent 往云端搬。豆包把扣子(Coze)和 Trae 一并并进了”豆包工作”——前者出多模态能力(办公场景和 AI 视频工作流),后者出代码能力;腾讯有 WorkBuddy,Cursor 也加上了原生的云 agent 能力。方向都对——云端意味着不用配环境、不用管依赖、开箱即用,而且把多种能力缝进同一个入口,本来就是当下的产品共识。
但它带来一个没人明说的副作用:当你的工作空间变成一个云上的黑盒,你离”仓库”这个概念就更远了。
你不再清楚文件在哪儿,不再清楚 AI 到底看到了什么,也更不会想起来要主动塞点什么进去。而恰恰是这一层——你要额外提供给 AI 的环境信息——才是决定它能不能干活的关键。
于是出现了那句在现场反复被验证的话:AI 纯自己管一个仓库,到后面绝对会烂,无论是谁的仓库,绝对会烂。 不是因为模型不行,是因为没有一套统一标准告诉用户该提供什么文件、该给 AI 什么工具,而用户自己又完全没有”这件事需要我来做”的意识。
二、成本层:那一百万 token,人人都算错
第二层分裂在钱上,而且它比想象中更隐蔽。
大多数人的付费意愿并不高,用免费版又用不好。稍微往前走一步的人,会听劝去买付费 API——但他们既说不清自己要怎么用,也算不明白这笔账。
最典型的误算是这样的:听说某个模型每百万 token 几块钱,于是以为自己看到的内容总共一百万 token,那就是几块钱。
这里面藏着两个没人告诉过他们的真相。
第一条:AI 永远只在进行一轮对话。
你看到的”多轮对话”,对模型而言根本不是连续的。它没有任何跨轮次的记忆——每一次调用,它都要把整包上下文(系统提示、历史对话、工具返回的结果)重新读一遍,重新做一次完整的前向推理。所谓记忆,全在外部,靠把历史塞回上下文里实现。
这意味着成本是二次增长的:第 N 轮要处理前 N-1 轮的全部内容。你以为你在”接着聊”,实际上你在每一次对话里重新付一遍前面所有轮次的钱。
第二条:每一次工具反馈,都会触发一次缓存读写。
Agent 之所以比聊天框强,是因为它会调用工具。但工具每返回一次结果,这份结果就被追加进上下文,然后整包重新走一遍。你看到的是”它查了一下”,账单上记的是”整个上下文又被完整处理了一次”。
所以”用户可见的一百万 token”和”实际消耗的一百万 token”是两件完全不同的事。
这也正是真正的试错成本所在——它不在订阅费那一栏里,它在每一次你让它”再试一次”的时候悄悄累积。上一节说的免费版缩水,和这一节说的账算不清,加在一起构成了同一个后果:大多数人既没见过真家伙,也算不出真账单,却要在此基础上判断”AI 值不值得用”。
三、工程层:缰绳替你管了上下文,但背景信息只能你自己给
第三层是技术层,也是最容易讲歪的一层。
先把演进顺序摆清楚,一段带过,因为它在我之前那篇《模型变强了,Agent 的约束框架该松了》里已经讲透了:
提示词工程(怎么问)→ 上下文工程(给什么信息)→ 编排工程(怎么组织能力)→ 循环工程(怎么让它持续产出)
Harness(编排层)这个词来自马具——缰绳、马鞍、嚼子,一整套用来驾驭强壮但不可预测的动物的装备。有个类比很贴切:提示词工程是对马喊话的技巧,上下文工程是给马看的地图,编排工程是给马修一条高速公路,配上限速牌和护栏。
这个词由 HashiCorp 联合创始人 Mitchell Hashimoto 在 2026 年 2 月提出,六天后 OpenAI 在百万行代码的实验报告里正式采用。他对它的定义值得抄下来:
任何时候,只要 Agent 犯了一个错,你就花时间去设计一套方案,让它在未来不会再犯同一个错。
注意这句的潜台词:Agent 的每一次失败,都是环境设计不完善的信号。正确的回应不是换一个更强的模型,而是重新设计它运行的环境。
LangChain 的数据能说明这个思路的分量:底层模型一个参数都没动,仅仅优化外部编排环境(文档结构、验证回路、追踪系统),编码 Agent 在 Terminal Bench 2.0 上的得分从 52.8% 涨到 66.5%,排名从第 30 位跳到第 5 位。
问题出在:编排层太能干了
这就是关键转折——正因为编排层把上下文管理做得越来越自动,用户反而不存在”我要主动管上下文”这个念头了。
工具确实给了你控制的入口。以 OpenClaw 为例,它的斜杠命令里明明白白摆着 /context list(查看上下文都由哪些部分构成)和 /compact(压缩上下文、释放窗口空间)。它的工作区里也明明白白摆着 AGENTS.md、USER.md、MEMORY.md 这一组文件。
但有多少人打开过?有多少人往 USER.md 里写过一句话?
而手动提供这件事,AI 替代不了
有人会说:不是有 Agent 吗,它自己会用 bash 去仓库里查啊。
能查,但两个问题无解。
第一,慢。 让它自己摸索出一个项目的约定,和你直接把约定写在文件里让它读,成本差一个数量级。而按上一节的说法,这个差距是要按”整包上下文重跑”来计价的。
第二,也是更致命的一条:既然是小白,那些背景信息会在仓库里吗?
不可能。项目为什么是现在这个结构、哪次事故之后定了哪条规矩、哪个依赖不能升、客户那边认哪个版本——这些东西从来就没被写下来过,它们只存在于做过这件事的人的脑子里。AI 可以检索一切被记录下来的东西,但它检索不到从来没被记录过的东西。
这就是为什么”让 AI 自己管仓库”这条路走不通。它面对的不是一个信息充足但杂乱的仓库,而是一个信息本身就有巨大空缺的仓库,而它没有任何办法知道缺的是什么。
让 AI 自己管,结局是确定的
Anthropic 的工程师总结过 Agent 的三种典型翻车姿势,每一条都指向同一个根因:
- 试图一步到位:在一个会话里把所有功能做完,上下文窗口耗尽,留下一堆没有文档的半成品。
- 过早宣布胜利:看到部分功能完成了,就宣布任务结束,哪怕还有一大半没做。
- 过早标记完成:写完代码就标记完成,不做端到端测试。单元测试过了不代表功能可用。
还有一条更阴的:Agent 极其擅长模式复制。 代码库里有什么模式,它就忠实地复制并放大——包括坏模式和架构漂移。 不加约束的 Agent,会以惊人的速度积累技术债务。
所以那句总结才站得住:为了获得更高的 AI 自主性,运行时必须受到更严格的约束。增加信任需要的不是更多自由,而是更多限制。
四、所有厂商都在做同一件事:把工具藏起来
讲完工程层,就能看懂一件正在发生、但很少被挑明的事:头部厂商的产品方向高度一致——把 Agent 的中间过程从用户眼前拿走。
时间线摆出来很清楚:
- 2025 年 1 月,OpenAI 发布 Operator,让 AI 直接操作浏览器。
- 2025 年 7 月,OpenAI 把 Operator 团队和 Deep Research 团队合并,做出 ChatGPT Agent。原先独立的 Operator 随后停运,Deep Research 的分析能力被吸收进 Agent 内部。
- 2026 年 3 月 5 日,GPT-5.4 发布,首次把推理、编程和 Agent 工作流整合进同一个模型,并首次同时登陆 ChatGPT、API 和 Codex。它带来原生的 Computer Use——直接解读屏幕、控制鼠标键盘;文本浏览器、可视化浏览器、终端、API 调用共享同一份状态、无缝切换。在 OSWorld 基准上拿到 75%,人类平均是 72.4%。
- 再往后,OpenAI 开始把 ChatGPT、Codex 和开发者 API 进一步合并成统一的 agentic 平台。
Deep Research 自己也变了:从”提交请求、等待报告”,变成可中途介入、可限定信息源、可接连接器的交互式流程。
这些动作的共同点是什么?是产品方正在替用户把”上下文工程”和”工具编排”这两层直接做了。
于是用户看到的是这样一幅画面:我提了一个问题,界面上开始滚动一段”思考过程”,折叠着、读不太懂,然后一份结果出来了。
大多数人以为那只是一段被折叠的思维链。
实际上那段折叠起来的东西背后,是几十次工具调用——它去查了你根本没提供的背景,跑了你没想到要跑的检查,把用户没说清楚的部分自己补全了。你以为你在和一个聊天框说话,其实一个完整的 Agent 已经在后台替你把活干完了。
这个方向没错,但它有一个没人回答的问题
必须承认:这个方向是对的,而且是不可逆的。用户想偷懒是天经地义的,产品顺着这个方向走也很合理。把门槛降到”一句话就能用”,才有可能让这项技术真正普及。
但代价也实实在在:你离”我在用什么、它替我做了什么”这件事越来越远了。
而这恰恰会加剧前面说的那些分裂——你越不知道它干了什么,你就越没有能力验收;越没有能力验收,你就越只能凭”看起来对不对”来判断结果。
所以必须问一句:当产品替你做完了所有中间层,验收的责任在谁身上?
答案从来没变过,只是越来越少人愿意听:在你身上。 工具可以替你调用工具,工具不能替你承担责任。
为什么厂商非做不可:指望用户自己配好,本来就不现实
这里还有个问题必须回答:厂商为什么非要替用户做掉这一层?仅仅是因为这样更好卖吗?
不止。看看这半年真正跑出来的那批 Agent 就明白了。
OpenClaw——就是那个最初叫 Clawdbot、因为名字太像 Claude 收到律师函、中途改叫 Moltbot(脱皮龙虾,吉祥物是只龙虾)的项目,作者是 PSPDFKit 创始人 Peter Steinberger。
Hermes Agent——Nous Research 开源的自主 Agent 框架,官方定位一句话:“The agent that grows with you”,一个会随着使用不断成长的 Agent。 它被描述为业内少见的原生内置学习闭环的 Agent:从执行经验里沉淀技能、自主优化能力、持久化知识、跨会话完善用户认知模型。
这两个项目的共同点,不是能跑代码,也不是能接十几个聊天平台,而是——它们都在主动替用户做同一件事:从执行经验里沉淀技能。
Hermes 对记忆这一项的描述是:它会学习你的项目、自动生成技能,并且不会忘记它解决过的问题;每次会话结束后,重要信息写入持久记忆。它还支持用自然语言设定定时任务,在后台无人值守运行。
而圈内管这个机制叫”做梦”,是个很贴切的说法:在你睡着的那些小时里,它把今天跑过的东西翻一遍——哪些工具调用试了很多轮才走通、中间踩了哪些坑、最后是怎么成的——然后把这条路固化成一个 skill。 下次再遇到,不用重新摸索。
为什么这类东西会火?
因为它们解开了一个真实存在的死结:用户表达不清的地方,它用额外的上下文和自己的知识去补;用户犯过的错,它自己记下来,下次绕开。本质上,是厂商在替用户完成”和用户自己磨合”这件事。
而这件事之所以只能由厂商来做,原因极其朴素:
指望用户自己把自己的 Agent 配好,本来就不现实。
绝大多数人既不知道 AGENTS.md 该写什么,也不会去写;既搞不清 skills 是什么,更不会去维护。你要求他们先学一遍上下文工程再来用工具,等于直接把他们劝退。厂商比谁都清楚这一点,所以只能自己发力。
于是形成了一个有点荒诞、但确实在转的循环:
因为用户不肯提供上下文,所以厂商替用户猜上下文;厂商猜得越准,用户就越没有动力去提供上下文。
这个循环不是坏事——它确实把门槛降到了最低,让更多人有得用。但代价同样实在:用户对自己工具的理解,被永久地留在了最初那一层。
五、许愿柳、生图与 AI 漫剧:一句话思维,行业已经为此买过三次单
第四层是最难讲、也最根本的一层,因为它不在工具上,在人身上。
大多数人心里对 AI 的想象,是阿拉丁神灯——我说一句话,它就把结果给我。
这个想象有多普遍,看最近一个梗就知道了。许愿柳的段子里,你说”我要发财”,那这财是怎么给你的?从银行里挪给你?还是你亲戚刚好留了笔遗产?如果你自己都说不清这笔钱该以什么方式出现,那”我要发财”四个字里包含的有效信息量,其实是零。
想让愿望靠谱,你至少得把附加条款说清楚:我希望获得一笔飞来之财,且它不会给我带来任何法律风险,不会影响我现有的工作,不会牵连任何人……
说白了,这就是提示词——而很多人连提示词这一层都还没过去。
这个故事在三年前上演过一次
最有说服力的证据不在编程领域,在生图。
早期的 AI 生图,提示词是很明确的词组拼装:主体、风格、光线、镜头、画质,一个词一个词堆出来。后来突然就都变成了自然语言描述——你随便说一句话,它也能出图。
为什么会有这个转变?
因为用户明明被要求用多个词组来描述,但绝大多数人就是不肯写,就是一句话丢过去。一句”帮我画一张好看的风景”里面,能提取出多少个真正有意义的词?少得可怜。
行业最后怎么解决的?——在每个图像模型前面外挂一个文本解析模型。 一个参数量更小的 LLM,专门负责把你那句含混的自然语言翻译、拆解、补全成真正的提示词,再传给图像模型。
也就是说:用户不肯提供结构化信息,于是系统只好自己长出一层,替用户把这一层补上。
今天正在重演,而且这次补不起
现在回头看 Agent 领域,发生的是同一件事的第二次上演。
用户不肯写 AGENTS.md,不肯维护 USER.md,不肯管理上下文——于是编排层长出了一整套自动上下文管理,替用户把这层补上。
但生图补得起,Agent 补不起。
一张图的上下文就那么大,外挂一个小模型翻译一下,成本可控,出错也就是这张图不好看,重画一张就是了。
而一个代码仓库的上下文是近乎无限的,是跨会话累积的,是会因为一次错误假设而层层传导的。在这里补错了,不会立刻报错,它会安静地变成技术债,然后在三个月后的某次重构里一次性爆炸。
这就是”AI 自己管仓库绝对会烂”的真正原因——不是能力问题,是错误可以被无限期推迟结算这件事,和软件的长期性天然冲突。
第三次买单就在眼前:AI 漫剧
这个剧本现在正在第三次上演,主角是 AI 漫剧。
很多人看到别人做的 AI 漫剧效果极好——运镜丝滑、分镜讲究——于是兴致冲冲去试。结果一上手就卡住:不是模型不行,是自己连描述都写不清楚。
分镜怎么切、镜头怎么运动、角色一致性怎么保持、情绪转折落在哪一帧——这些是分镜和视听语言的基本功。它们不会因为你改用自然语言下指令,就自动长到你身上。
本质上还是同一件事:该学的没学,却以为 AI 时代不用学了。
六、律师的账:专业能力越强,偷懒的代价越大
读到这里,很容易以为前面讲的全是”小白的问题”。不是。
这里有一个反直觉的事实值得单独讲:在真实世界里,用 AI 用出大问题最多的群体之一,恰恰是最懂行的那批人——律师。
先看采用率。多项 2026 年的行业调查给出的数字已经很高:一份覆盖一千三百多名从业者的行业报告显示 69% 的法律从业者在使用生成式 AI(2025 年是 31%,一年翻倍),另有调查给出更高的比例。Thomson Reuters 的 CoCounsel 在 2026 年 2 月宣布用户数达到一百万,覆盖 107 个国家。
理由不难理解:法律工作几乎完全由语言构成,是生成式 AI 最对口的专业场景。而且——这一点很关键——律师恰恰是最有能力把话说清楚的群体。 他们受过严格训练,知道什么叫把一件事陈述清楚,什么叫言之有据。
按理说,他们应该是最会用 AI 的人。
然后数字开始难看了
斯坦福 RegLab 与 HAI 的一项同行评议研究(发表于《Journal of Empirical Legal Studies》)专门测试了律所花高价采购的法律专用 AI 工具,结果是:
- Lexis+ AI:17% 的查询出现幻觉
- Westlaw AI-Assisted Research:33% 的查询出现幻觉
- 作为对照,原始 GPT-4:43%
请注意测试对象是”法律专用”工具,不是通用聊天机器人。两家供应商都对研究方法提出了异议,但这项研究经过同行评议,而它的结论足够清晰:没有任何现有 AI 工具能免除人工核查引用。
后果也早已发生。截至目前,全球记录在案的 AI 幻觉法庭案例已超过 1100 起(Charlotin 数据库)——2023 年还只是零星几起,2025 年前八个月就超过 300 起。加拿大法院 2026 年至今已在 79 份裁决中发现虚假案例,而 2024 年全年只有 7 例。
处罚是怎么一路涨上去的
- 2023 年,Mata v. Avianca(纽约南区法院):6 条虚构引用,罚款 5,000 美元。一切的开端。
- 2025 年,加利福尼亚州:在州上诉文件中使用 ChatGPT 生成的虚假引述,罚款 10,000 美元。
- 2026 年,俄勒冈州联邦地区法院:23 条虚构引用加 8 处虚假引述,109,700 美元。
- 2026 年,佛罗里达南区法院 ByoPlanet 案:86,000 美元,联邦法院有记录的最高额。
- 2026 年,内布拉斯加州最高法院:Greg Lake 被无限期停牌——63 条引用中 57 条有问题,4 个案例完全虚构,而他最初否认使用过 AI。
从罚款到吊销执业资格,这条路走了不到三年。
最该记住的是这一个案子
Flycatcher v. Affable(纽约南区法院,2026 年 2 月)。
这位律师反复提交含有 AI 幻觉的文件。法院警告过他,他继续提交。随后法院要求他说明为什么不该被制裁——他用 AI 起草了这份说明,而那份说明里同样包含幻觉。
Failla 法官没有再罚款。她直接终止了案件。客户失去一切。
这是有记录以来,AI 幻觉第一次导致终结性制裁。
我想不出比它更好的例子来说明”验收为什么不能外包”:当一个人连解释自己为什么出错,都要交给那个让他出错的东西去做,他就已经不在循环里了。
幻觉是怎么骗过专业人士的
机制值得说,因为它解释了为什么连律师都会中招。
它不是凭空编一串乱码。它取一个真实法官的名字、一个真实的判例汇编卷号、一个真实的当事人,组合成一条引用——格式完全符合 Bluebook 规范,读起来就是一条标准的法律引用。
陷阱正在于格式。 律师扫一眼,格式对了,就默认是真的,于是没有去核。
一句话总结这个机制:它读起来像法律,它不是法律。
这一节真正想说的
律师身上藏着一个悖论,而这个悖论适用于所有专业人群:
你的专业能力让你用 AI 用得更好,同时也让你更敢偷懒。 因为你知道自己有能力把事情说清楚,所以你觉得偶尔省一次没关系。
但幻觉不会因为你是专家就打折。 它对律师的幻觉率是 17% 或 33%,不会因为你资历老就降到 5%。
还有一组数字把这个背景补全:54% 的律所不为律师提供任何 AI 培训,43% 没有任何正式的 AI 使用政策。
甚至有个不那么体面的细节:2026 年西北大学与纽约市律师协会的抽样调查发现,超过 60% 的联邦法官在自己的司法工作中使用 AI 工具;而与此同时,超过 300 名联邦法官要求出庭律师披露并证明其 AI 使用情况。
研究者 Damien Charlotin 对 NPR 说过一句话,可以原样搬到任何专业领域——问题在于,“AI 太好用了,但还不够完美”。
七、凭什么它背得住:训练截止、搜索边界,和一个从不遗忘的东西为什么总在说谎
律师要判例,大学生要参考文献——这其实是同一个错误的两个版本。
后者的场景更常见:一句话让 AI 把摘要和正文都写出来,最后补一句”再把参考文献写上”。很多人用的还是最普通的聊天界面。
他们心里的假设是:AI 有能力把那些文献的名字背出来。
这个假设经不起一秒钟的推敲。
凭什么
先问最直白的一层:凭什么?
现在各家模型都在比参数量,本质上是拼谁背得多。就算这个方向成立,你也得面对一个更具体的问题——你凭什么觉得它背的一定是你要的那一条?
现实里确实有考试要求考生进考场前背下参考文献的清单,但那种考试属于极端情况,而且考生背完还得核对。人尚且不能保证自己背的东西一个字不差,你凭什么指望一个模型背得住?
它连新的都还没见过
第二层是时间差,也是最容易被忽略的一层。
假设这个模型是 5 月发布的,你在 8 月用它。6 月和 7 月出来的东西,它知道吗?
绝对不可能知道。训练结束的那一刻,它的知识就冻结在那儿了。后面发生的所有事,对它而言不存在。
这个道理简单到近乎废话,但大量的人完全没有这个概念——他们默认”它是 AI,它应该知道”。
那开个联网搜索不就行了?
这是最常见的反驳,也是最值得拆的一层,因为它半对半错。
网络搜索的原理是:模型去调一次搜索引擎的接口,拿回搜索引擎能爬到的东西。 关键在”能爬到”这三个字。
公开网页只是信息世界的表层。真正高密度、高准确性的内容,绝大多数不在网页上,它们在数据库里:
- 判例在 Westlaw、Lexis 这些法律数据库里;
- 论文在 Web of Science、PubMed、知网这些文献库里;
- 行业标准在标准库的付费区里;
- 你公司内部的接口文档在内部 Confluence 里。
这些东西大部分不对搜索引擎开放,或者只开放了一个摘要页面。你搜得到一条题录,不代表你拿得到全文;你拿得到全文,不代表你拿得到它的完整引用信息。
要真正接进去,只有一条路:工具调用。 写脚本去抓、去接 API、去对接本地的专业软件——这恰好就是前文说的 MCP 连接器那一层。
而这正是绝大多数人既不会做、也不知道要做的事。他们以为网页上那个”联网搜索”的小开关,等于接上了全世界的数据库。
那它为什么还能一本正经地给你一个答案
这才是真正要害的问题,也是这一节标题的后半句。
生物神经网络演化了数亿年,至今仍然会遗忘、会记错、会产生幻觉。人工构建的神经网络,凭什么不会?
但这里有个区别必须说清楚,它能澄清一个流传很广的误解:
严格来讲,大模型并没有”遗忘”这回事。 训练一旦完成,参数就固定了,它不会因为时间流逝而把什么东西忘掉。它不会的那一块,从训练结束的那一刻起就不存在。
它会的是另一件事——幻觉。
真正的”遗忘”只发生在训练过程内部。举个例子:一个模型从预览版到正式版,中间那段后训练换了数据集、调了配比,结果某些原本会的能力反而退化了——那种才配叫遗忘,也就是机器学习里说的灾难性遗忘。
把这个区别讲清楚之后,问题的形状就非常明确了:
你面对的是一个不会遗忘、但随时可能在一片空白上自信地补全的系统。
它记不住的东西,它不会说”我不知道”。它会给你造一个格式完美、读起来极其像真的答案——一个真实作者的名字,配一个真实期刊的卷号,加一个看起来完全合理的年份。
它不会的地方,恰恰是它最流畅的地方。
所以知识永远是翘板
到这里可以给这一节一个落点。
前面所有的机制都指向同一件事:你必须有那块板,才踩得出它给的东西是不是空的。
一个没读过几篇论文的人,拿到一份 AI 生成的参考文献列表,没有任何办法分辨哪条是真的;一个从没翻过判例的人,拿到一条格式完美的引用,也没有任何办法分辨它是否存在。
工具一直在升级,但”该学的没学”这件事,从来不会因为工具升级就自动作废。
八、验收层:零 Bug 的 skill,和打不开的 GitHub
最后回到开头那个”零 Bug 的 skill”。
它不需要反驳,它是这一层最好的标本。一个说自己写小程序一定一次通过、没有 bug 的 skill,其存在本身就说明提出者从未验收过任何东西。 因为只要你验收过一次,你就知道”一次通过且零 bug”在软件工程里不是一个可承诺的东西。
真正值得说的是它背后的东西:非科班和文科背景的使用者,面对的是一整套结构性障碍,而不是”不够努力”。
至少三条,一条比一条基础:
- 教程良莠不齐。 网上的内容大量是互相抄的,且严重滞后。
- 搞不清 skills 是什么。 这个词被提了无数次,但绝大多数人不知道它其实就是一个写着项目约定的
SKILL.md文件夹,也不知道自己需要写一个。 - 打不开 GitHub。 这一条最朴素,也最致命。信息源断在源头,后面所有方法都无从谈起。
同一个房间里,另一拨人在聊的工作流——定期抓开源热点、做 RSS 推送——对科班出身的人来说,去年就已经能用 AI 完整复现并跑得很好了。这个差距不是智力的差距,是资源可达性的差距。
还有一类误区更隐蔽,也更需要说,因为它发生在受过训练的人身上。
谷歌的模型去年就已经能画出很像样的科研绘图了,但绝大多数研究者还在手绘。这本身还好解释——习惯问题。真正的问题是用了之后的那句抱怨:“模型画得不对。”
你刚发现的这条分子通路,模型的训练数据里根本就没有。你让它画一个它从未学过的东西,然后指责它画得不像。 这不是模型的失败,这是提问的失败——你得先把背景、结构、已知关系喂给它,它才可能画出你想要的东西。
本质上还是那四个字:上下文工程。 而这四个字,恰恰是绝大多数人还没做到的一步。
九、大厂是怎么做的:允许、鼓励,但不按使用量考核
会上有一段内部视角的分享(公司名和城市都不重要),我觉得是全场最有价值的实操信息,因为它回答了一个很多人吵不出结果的问题:一个真实运转的大团队,到底怎么对待员工用 AI。
几条关键信息:
- 基层岗完全允许用 AI。 新招的应届生,计算机相关专业本科阶段学过编程就行,能力高低只影响薪资和职级,不影响你用不用 AI 的资格。
- 给配额,各家模型都有,包括国外的。 员工可以自己选工具。
- 但不以 AI 使用量作为最重要的绩效考核。 鼓励高效使用,但不数你用了多少次。
- 合并分支的标准只有一条:结果能跑通,可说服、可论证。
- 内容生产类的代码另算。 因为平台对明确标识为 AI 的内容有限流逻辑,所以生产端不鼓励大量使用——除非是专门的 AI 影视赛道。
- 积极使用被鼓励,消极滥用被严厉禁止。
最后这一句里,”积极使用”和”消极滥用”的区分标准是什么?就是前面那条:能跑通,可说服、可论证。
这几条合起来,指向的是一个非常清醒的判断——
他们考核的是产出,不是工具使用率。
这和上一篇讲的”成本从生成搬到验收”是同一件事的两个切面:既然贵的东西已经变成了验收,那组织当然应该考核验收的结果,而不是考核生成的用量。
十、工具升级了,该学的还得学
到这里必须处理一个绕不开的反驳:照你这么说,AI 时代岂不是什么都要学,那还要 AI 干什么?
不是这个意思。我的意思是——工具会精简你需要的专业知识,但不会让它归零。 被精简掉的那部分是真的精简了,不必再学;被保留下来的那部分,恰恰是最不能丢的。
这件事人类已经经历过很多次了,回看几个例子就很清楚。
计算器。 它淘汰了手算四位数乘除法,但从来没有淘汰数学课。因为计算器只负责”算”,不负责”该算什么”。更实际的一点是:你按错一个键,计算器不会提醒你,唯一能发现错误的是你心里那个粗略的估算。 估算能力不是用来替代计算器的,是用来给计算器兜底的。
导航。 它淘汰了背地图,但没有淘汰认路的价值。几乎所有人都经历过被导航带进死路、带进单行道、带进一条正在施工的路——那一刻能救你的,只有”没有导航也知道自己在哪儿”这个能力。 这个能力平时完全用不上,用上的时候却值全部。
自动驾驶与飞行员。 这是最值得说的一个。现代客机的自动驾驶系统已经能完成起飞、巡航、进近、着陆的绝大部分操作,而且比人类更稳、更省油。但民航体系从来没有因此取消飞行员的手动飞行训练——恰恰相反,飞行员必须定期手动飞行以保持资质,这是强制项。
原因有两条。第一条很直白:系统会在极端情况下失效,失效那一刻需要的正是基础能力。
第二条才是关键,而且是个悖论:自动驾驶越可靠,飞行员的手动飞行时间就越少,技能就越生疏;而技能生疏本身,成了新的风险来源。
所以训练不是可选项,是强制项。
这是人类有史以来第一次用制度明确承认一件事:工具越可靠,人的基础能力就越需要被强制维护。 因为这两者是此消彼长的关系,不会自动保持平衡。
把这个结论搬回 AI 就非常清楚了:
- 被精简掉的,是”怎么做”那部分——查语法、写样板、搜资料、跑重复流程。这些确实不用再练了,练也练不过机器。
- 被保留下来的,是”做得对不对”那部分——判断、验收、承担责任。这些不但没精简,反而因为生成变便宜而变得更贵。
而后者,恰恰是唯一不能外包的东西。
十一、先搞清楚自己站在哪一层
写到这里,可以给一张自检表。四层,从下往上,每层问自己一个问题:
| 层 | 自检问题 | 如果你答不上来 |
|---|---|---|
| 模型层 | 我现在用的这个界面,给我的是完整版还是缩水版? | 你对 AI 的所有判断都只对缩水版成立 |
| 成本层 | 我这一个月真正烧掉的 token,和账单上的数字对得上吗? | 你在为看不见的东西付费,且不知道贵在哪 |
| 工程层 | 我的 AGENTS.md / USER.md 里,现在有几个字? |
AI 每次都在从零猜你的项目 |
| 验收层 | 我能说出 AI 上一份输出的三个问题吗? | 这一层你已经外包了,且没人替你承担后果 |
四层里,最容易被跳过、也最不该被跳过的是第三层。因为它是唯一一层只能由你来做的事——模型可以换,钱可以多花,验收能力可以练,但”你脑子里那些从来没被写下来的背景”,没有任何人能替你补。
所以如果只能给一条建议,那就是:
在学任何方法论之前,先解决两件最朴素的事——能打开 GitHub,用上一次真正的 API。
前者决定你的信息源是不是通的,后者决定你见的是不是真家伙。两件事都不难,但它们卡住了绝大多数人,而且卡住的方式是沉默的:你不会收到任何错误提示,你只会一直觉得”AI 好像也就那样”。
回到开头那个”零 Bug 的 skill”。
我现在不觉得它可笑。它是一份很诚实的诊断报告——它说明这个人从头到尾,都站在四层里最下面的那一层,却以为自己已经到了最上面。
而这场会上所有的分歧,科班的、非科班的、文科的,说到底都是同一件事:大家站在不同的层上,用同一个词,讨论着四个不同的东西。
真正的问题从来不是”AI 能不能做到”,而是”你知道自己要它做什么吗”。许愿柳不会追问你那笔钱该从哪儿来,AI 也不会追问你那个需求背后的约束是什么——它们都只会照你给的那句话执行,包括你没说的那一部分。
上一篇的结尾我写了这样一句:什么时候你发现用 AI 反而更忙了,恭喜你,这一关你才算入门。
这一篇的结尾是它的下一句:入门之后的第一件事不是学更多技巧,是先搞清楚——你手里拿的到底是什么,以及你站在这几层的哪一层。
最后一句,说给包括我在内的所有人:工具确实一直在升级。但”该学的没学”这件事,从来不会因为工具升级就自动作废——你自己掌握的那点知识,永远是那块让你踩得出虚实的翘板。