AI 替我们写了代码,那谁来懂代码

用 AI 写代码这两年,我对自己手里的代码越来越没底了。

说来有点不好意思。现在遇到报错,我的第一反应是复制下来贴给 AI。按理该先自己看看,可这个习惯不知道什么时候就没了。它给的答案几乎总是对的,问题也就这么解决了。让它梳理某个模块的逻辑,它也写得明明白白,读下来挑不出毛病,可读完总觉得,自己跟这个模块之间隔着层纱。从前自己一行行敲出来的代码,哪个分支为什么那样判断,哪个默认值为什么偏偏取这个数,不用打开文件心里也大致有数。这种有数的感觉是哪天没的,我说不上来。

前些天读了 Anthropic 讲 Claude Code 团队怎么做 code review 的那篇文章,发觉大家普遍都有这个问题。他们的做法我很佩服,但读到其中一些观点,却有些别扭。

他们把读代码交给了机器

Claude Code 大约九成的代码是 Claude 自己写的。整个 Anthropic 主仓库每天合入的变更,从五月的两千五百个左右涨到九月的三万多个。这么多变更,人一行行读 diff 已经做不到。他们的办法是把大部分阅读工作交给机器:提 PR 之前,agent 自己跑测试、构建和 lint,再另开一个 agent,在干净的上下文里把 diff 审一遍;PR 上有 CI、AI 评审和安全评审,评审意见没处理完合不进去;然后看改动风险大小,决定要几个人批,低风险的可以一个都不要,高风险的要两个;合并以后还有开关,先给内部员工用,再分批发布,出了问题能很快回滚。

结果是六到九月合入的 PR 翻了一倍多,需要回滚的比例反而降了四成以上。数据是他们自己公布的,按理该打个折扣看。不过就算打个对折,也够让人佩服的。

他们有个说法我挺认同:有没有人读过代码,说明不了多少问题,review 真正要解决的是,这个改动可能在哪儿出错,该由哪道检查把它拦下来。每层检查都会漏,层层叠加就很难漏过去,漏过去的再靠回滚补救。单就质量把控而言,这种方式是非常合理的。每天几万个变更,再坚持人工逐行审,既做不到,也无必要。

让我在意的是文章的另一个话题。开头说 code review 有两个用处,一个是上线前把问题找出来修掉,一个是让团队里的人都熟悉这套代码。前一个写了几千字,后一个只在接近结尾处占了一小节,第一句是:

We don’t have a formal process for this.

坦白得让人有点意外。他们的办法是,想了解哪一块,就让 Claude 专门给那一块写一份 explainer。这个词我想不出特别贴切的中文,下面姑且叫它讲解。讲解几分钟就能写好,写的是代码眼下的样子。他们觉得,读一份马上要动的模块的讲解,比逐行读一个只改了一行文案的 diff 有用得多。他们还说,团队里没有谁能把 Claude Code 整个装在脑子里,也没这个必要。

最后这句我来回看了几遍。稍大一点的系统本来就没人装得下,这一点没错。让我迟疑的,是它没往下说的那半句:整个系统装不下,倒也罢了,可关键约束是什么、当初为什么那样定、哪里出过事,总得有人心里有数。我在意的懂,指的就是这个,不是记住每个分支干了什么。讲解能给我多少这样的懂,我一时说不清。

那层纱到底是什么

我有时候怀疑是不是自己在怀旧。说不定从前也没那么了然于胸,是现在回头看时美化了。这个可能,我倒没有彻底排除。

但想起心理学里有个概念,叫解释深度错觉。Rozenblit 和 Keil 在 2002 年做过一组实验。他们先让人估算一下,自己对拉链、抽水马桶这类东西懂多少,打个分,大多数人都打得不低;再让他们一步步写出这些东西是怎么工作的,写完重新打分,分数就明显掉下来了。越是熟悉的东西,人越容易觉得自己懂了,非得一步步讲出来,才发现高估了自己。

AI 的讲解,特别容易让人掉进这种错觉陷阱。它写得流畅,层次清楚,读的时候每一步都跟得上,恍惚间就觉得自己懂了。可这种懂多半只到认得的程度,下次见到能想起个大概,真要自己讲一遍,或者顺着往下推进,多半会卡住。

而从前弄懂一段代码要狼狈得多,读不懂就得干瞪着,先猜一个解释,顺着去验证,发现猜错了,再回头读。来回折腾几趟,才算明白。那个过程实在谈不上愉快,我一点也不怀念,可那样弄懂的代码,确实记得牢靠。讲解把这些折腾全替我省了,读起来方便,脑子里留下的反而少,那层纱多半就是这么来的。当然,也可能怀旧和错觉兼而有之。

讲解里少了一块

AI 生成的讲解,依据主要是代码,天生缺了一块:代码为什么是这个样子。

Anthropic 说讲解写的是 the code as it is today。这是它的好处,永远是最新的,不会像文档那样写完就过时。可代码里只留下最后定下来的写法。当初为什么没用另一个方案,哪次事故之后补上了这个判断,哪个看着多余的检查其实在堵一个很少碰到的边界问题,代码里都没有,AI 读得再细也读不出来。

这些来龙去脉,以前有不少是在 review 里传下来的。评审的人在评论里问一句这里怎么不那样写,作者就解释一遍当初踩过的坑;评审的人提醒这种写法上次出过事,作者就改了。理由说出来,也就多了一个人知道。有的留在评论里,有的只是当面说一句、在群里聊几句,没有留下来。

这样的讨论现在还有,只是换了人。那篇文章提到一个 PR,夜里让 agent 审、让 agent 改,来回五十多轮,直到作者叫停。这五十多轮里的取舍、纠错和被否掉的写法,都发生在 agent 之间,旁边没有人。理由只躺在日志里,多半不会有人再去翻。

按需讲解还有个前提,就是你知道该问什么。文章里的例子是 How does Claude Code retrieve managed settings? 能问出这句,得先知道有 managed settings 这么个东西,还知道眼下的问题跟它有关。平时改需求,要动哪一块一般心里有数,按需查一查够用。出事故就不同了,现象摆在面前,原因可能在任何地方,人往往不知道该从哪里问起。

讲解本身也会出错,比如把一个分支的条件说反,把缓存失效的时机说错。能看出来的人,得先懂这段代码,而讲解要替人省下的,恰恰是这份懂。

两个现成的反驳

说到这儿,可能有人搬出编译器:抽象层一路往上走本是常态,我们早就不读汇编了,也没谁因此觉得管不住自己的程序。这个类比常被提起,可惜经不起细想。编译器是确定性的,同样的输入永远得到同样的输出,几十年来被无数程序验证过,底层的问题几乎不会漏到上面来。AI 生成的代码不同,prompt 并没有变成新的源码,要运行、要调试、要维护的仍然是代码。出了问题,还是得打开代码读,动手改代码,顺着调用栈往下追。写代码这一步 AI 替我们省了,读懂这一步,目前看来还省不掉。

另一种反驳更难回答:懂代码,未必要懂到每一行。工程师清楚接口契约、状态怎么流转、并发模型和故障怎么隔离,具体的代码由 agent 铺出来,似乎也不必都装在人脑子里。这一点我大体同意,前面说的懂,本来也不是记住每个分支。但架构层面的这些理解,如果从来没在实现里摸过,能不能积累出来,这值得怀疑。

这套体系,似乎也离不开懂代码的人

回头重读那篇文章,有几处细节我多看了几眼。

过去出过事故、被回滚过的 PR,他们都收集起来做成了评测集,每天拿来测 AI 评审。AI 评审的提示词、工具或模型一改,就在这批案例上重新打分。这个闭环做得很好,里面却有个不起眼的环节:每个案例都得请懂那段代码的工程师(engineers who know that code)来确认 bug 是什么、出在哪里。

他们要求人去看测试输出、跑过的命令、截图和 AI 评审提出的问题,还特意写了一句 If you can’t say what the checks would miss, ask for a real review。要说得出检查会漏掉什么,先得懂这段代码。

agent 写代码太快,有些 PR 其实根本不该做。他们的办法是让团队在公开的频道里干活,有人看到了,就会出来问一句为什么要做,或者提醒说这件事以前已经定过别的做法,作者看了,要么关掉 PR,要么换个方向。但会这么提醒的人,得提前知道这里的来龙去脉。

还有 REVIEW.md,由 code owner 来写,讲清楚在这个仓库里什么样算出错。能写清楚的,也只有懂这块代码的人。

几点放在一起,这套体系的几个关键环节,都靠懂代码的人。这是我的理解,文章本身倒是没这么说。他们的懂,多半是从前一行行读代码、被人评审、自己处理事故攒下来的。眼下这些人都在,体系运转得好,数据也好看。下一批这样的人从哪里来,文章没涉及。

一点笨办法

下面是一点自己的做法,不一定对,也只在个人这一层有用,团队层面的问题它们解决不了。

一个是分清哪些代码必须装在自己脑子里。核心路径、关键的判断、出过事的逻辑,负责的人最好不借助 AI 也能讲个大概,其余的交给 AI 讲解,我觉得没什么不妥。全部放进脑子里,以现在的速度也做不到。

另一个是看 AI 的讲解之前,先自己讲一遍。讲得磕磕绊绊也无所谓,卡住的地方就是没懂的地方,带着这些疑问去读讲解,读进去的会不太一样。这个办法很笨,但管用:能不能讲出来,一试便知,觉得自己懂了的错觉也就不攻自破了。

最后是把当初为什么这么做留下来,这是讲解给不了的。代码现在是什么样,随时能让 AI 再讲一遍,人花在文档上的力气,不如多用来记被否掉的方案、出过的事和不能改的理由。最合适的时机是合入的时候,由动手改的人写进提交说明或 PR 描述。agent 来回折腾过的那些轮次,也可以让它把取舍总结一遍,人再核对一遍。Anthropic 的 REVIEW.md 记的是什么样会出错,是标准,不是理由,方向却有些相近,只是文章没有把它和知识传承放在一起讲。

回滚率上看不到的

那篇文章最后说,他们的目标一直没变:每个改动花的人力更少,回滚不比以前多。这两个指标上他们做得很好。

就算懂代码的人在一点点变少,回滚率和事故率上也看不出来,起码现在看不出来。至于那个没写进流程的第二个用处,Anthropic 说他们没有正式的办法,老实讲,我也没有。


我把这两年关于 AI 编程的一些理解整理成了一本开源书《AI 编程的第一性原理》,书里更完整地讲了模型的生成机制、上下文与判断力,以及工程上该怎么和这样一台机器共事。

《AI 编程的第一性原理》 GitHub 仓库