当 AI 开始接管编码,软件工程还剩哪些难题?

最近读了一本软件工程领域的新书,James C. Davis 的《The Software Engineering Handbook: A Judgment and Decision-Making Approach》,中文可以译为《软件工程手册:基于判断与决策的方法》。
这本书第一版发布于 2026 年 9 月,本文参考的是 11 月 17 日更新的版本。
书中讨论的内容很传统,包括需求分析、开发过程、团队协作、软件架构、设计、测试验证以及工程知识管理。但作者选择了一个很有现实意义的切入点:当 AI 能够完成越来越多的编码工作,软件工程师应该如何培养和运用工程判断力?
过去几年,AI 编程工具的发展相当迅速。从最初的代码补全,到现在能够阅读代码仓库、修改多个文件、执行测试的 Coding Agent,软件开发的工作方式已经发生了明显变化。
原本需要工程师花费大量时间完成的实现工作,现在可以在一定程度上交给 AI。
这种变化也带来了一个问题。
过去,初级工程师通常通过编写代码、调试程序、修复缺陷和维护系统逐渐积累经验。随着 AI 接管部分常规工作,这条成长路径可能受到影响。
作者在前言中指出,新人可能还没有通过实践形成足够的工程判断力,就已经需要指导和评估机器生成的工作。
这也是整本书的出发点。
作者希望把过去主要依靠经验积累的工程判断,转化为可以学习、讨论和练习的知识。
一、软件工程是一门控制变化的学科
在第一章中,作者给出了一个定义:
Software engineering is the engineering discipline of controlled change in software systems.
软件工程是一门对软件系统中的变化进行受控管理的工程学科。
为什么要强调变化?
作者首先分析了软件这种工程媒介的几个特点:
- Changeable,可变更。 软件行为可以在构建完成后继续修改。
- Copyable,可复制。 软件一旦完成,复制成本通常很低。
- Transferable,可迁移。 软件能力可以迁移到不同设备和运行环境。
- Updateable,可更新。 软件部署后,仍然可以不断修复和扩展。
这些特性让软件与传统工程材料有着很大的区别。
一座桥梁建成以后,想要修改它的结构,需要付出巨大的物理成本。但软件可以通过一次更新改变系统行为,甚至将修改后的程序同时部署到数百万台设备上。
软件的可变更性赋予了工程师巨大的影响力,也带来了相应的风险。
一次正确的修改可以迅速惠及大量用户,一次错误的修改同样可能影响整个系统。
新增功能可能破坏已有行为,性能优化可能引入并发问题,依赖升级可能影响安全边界。随着系统规模扩大,局部修改的影响范围也可能越来越难以预测。
因此,软件工程需要持续回答几个问题:
什么应该改变?什么允许改变?什么必须保持不变?我们又该如何证明一次改变是可以接受的?
书中举了一个支付系统的例子。
假设系统需要增加一种新的支付方式。实现对应的业务逻辑只是其中一部分工作,工程师还需要保证已有的安全属性不受影响,客户端和历史数据保持兼容,并获得足够的验证证据。
这就是作者所说的 Controlled Change。
它强调的控制,并不意味着阻止变化,也不要求工程师亲自决定所有实现细节。工程师需要理解哪些性质必须得到保护,并确保系统的演进始终处于可接受的范围内。
二、AI 正在转移软件工程的瓶颈
作者在第一章还讨论了技术进步如何改变工程活动的成本结构。
高级编程语言降低了编写机器指令的成本。
操作系统和软件库提供了可以直接复用的基础能力。
开源生态减少了大量重复实现工作。
云计算让计算资源可以按需获取。
这些技术进步都降低了某些工作的成本,同时让工程师将更多精力投入到其他问题上。
生成式 AI 和 Coding Agent 正在延续这个过程。
过去,软件开发需要投入大量时间完成具体实现。编写接口、处理异常、修改代码、补充测试,这些工作通常需要工程师亲自完成。
现在,Coding Agent 已经能够参与其中的很多环节。
但代码生成速度提高,并不会自动解决软件工程中的其他问题。
假设我们需要开发一个新的业务系统。
AI 可以根据需求描述快速生成代码,但仍然需要有人判断:
- 需求是否足够明确,是否遗漏重要的业务场景。
- 系统应该采用什么架构,各个组件如何划分职责。
- 哪些业务规则、安全约束和性能要求必须得到满足。
- 哪些技术决策会影响未来的维护成本。
- 测试结果是否足以证明系统可以交付。
随着实现成本下降,这些决策在整个工程活动中的相对重要性会进一步提高。
作者在书中指出:
The bottleneck moves.
瓶颈正在转移。
这也解释了为什么 AI 能够生成大量代码,并不意味着软件工程本身会变得简单。
代码生成只是软件工程中的一个环节。系统还需要满足需求、适应环境变化,并在长期维护中保持可靠。
对于使用 Coding Agent 的团队来说,工程师可能会减少一部分亲自编写代码的工作,但需要投入更多精力定义任务、评估方案、验证结果和控制风险。
三、工程判断,首先体现在如何做决策
第二章讨论软件开发过程。
作者没有把瀑布模型和敏捷开发简单地划分为两种相互竞争的方法,而是从工程问题本身出发,提出了三个影响开发过程选择的维度。
1. 确定性:我们能够提前知道多少?
有些项目的需求非常明确。
例如,根据已经确定的协议实现一个数据交换接口,输入、输出和约束条件都相对稳定。
在这种情况下,提前完成充分的规划和设计通常是有价值的。
但如果开发的是一个全新的产品,用户会如何使用、哪些功能真正有价值,可能只有在产品投入使用后才能逐渐了解。
此时,通过增量开发获得反馈,可以帮助团队减少不确定性。
作者强调,开发过程应该适应信息的获取方式。
如果重要信息能够提前获得,就应该充分利用规划。
如果重要信息只有通过构建和使用才能获得,就应该建立能够尽早产生反馈的开发过程。
2. 可变更性:推翻一个决定需要多大成本?
书中举了一个很直观的例子。
假设某个配置参数的最佳取值需要花三天才能分析出来,但即使选错,第二天也只需要二十分钟就能修改。
那么,提前投入三天寻找最佳答案,可能并不划算。
换一个场景。
如果我们设计的是一个被数百个系统依赖的公共 API,一旦发布,后续修改可能需要协调大量上下游系统。
这种决策就值得在前期投入更多分析成本。
作者给出的原则可以概括为:
越难撤销的决定,越值得提前投入分析;越容易修改的决定,越适合通过实践获得反馈。
这对于 AI 编程同样适用。
让 Agent 重写一个普通工具类可能只需要几分钟,但数据库结构、公共接口、安全协议和架构边界的修改成本,并不会因为 AI 能够快速生成代码而同步下降。
因此,在 AI 辅助开发中,区分哪些决定可以快速尝试、哪些决定需要谨慎处理,仍然非常重要。
3. 可分解性:能否通过局部实现获得价值?
第三个维度是可分解性。
有些系统必须整体完成才能发挥作用,但很多软件可以分阶段构建。
例如,一个电商系统可以先实现商品搜索和基础支付,再逐步增加推荐、优惠券等功能。
即使某个局部实现暂时无法交付给用户,只要它能够验证技术假设、提供有价值的信息,增量开发仍然可能是合理的选择。
作者还特别区分了开发过程与验证强度。
一个系统发生故障的后果越严重,通常需要越充分的证据来支持交付。但这并不直接决定它必须采用哪一种开发流程。
高风险系统也可以采用迭代开发,只是每一次重要变更都需要满足相应的验证要求。
这几个维度共同说明,软件工程中很少存在适用于所有场景的固定答案。
工程师需要根据问题本身的特点,在不同方案之间做出选择。
四、工程知识应该能够长期发挥作用
第四章 Engineering Knowledge 讨论了一个容易被忽视的问题:
How should what engineers learn persist?
工程师学到的知识,应该如何持续保留下来?
在长期维护的软件项目中,我们经常遇到类似情况。
某个系统使用了一种看起来不太合理的设计,但已经没人知道当初为什么这样做。
某个接口存在特殊的限流规则,后来接手的工程师只知道不能修改,却不清楚具体原因。
某个数据库字段看起来可以删除,实际上却存在历史业务依赖。
这些问题都涉及工程知识的流失。
作者认为,工程知识包括系统本身的信息,也包括围绕系统做出的决策。
例如:
- 为什么选择某个技术方案。
- 当时考虑过哪些替代方案。
- 哪些假设支撑了这个决定。
- 有哪些测量结果可以支持它。
- 曾经发生过什么故障。
- 哪些问题仍然存在不确定性。
假设一个团队决定使用 PostgreSQL。
如果文档只记录“数据库采用 PostgreSQL”,未来的工程师很难判断这个选择是否仍然合理。
但如果同时记录当时的业务场景、数据规模、查询需求、性能测试结果以及其他候选方案,那么后来的人就可以根据新的条件重新评估。
作者也提醒,工程知识管理并不意味着记录所有信息。
文档存在维护成本,记录可能过时,过多的信息也会增加理解成本。
工程师需要判断哪些知识值得保留,应该以什么形式保留,以及什么时候需要重新验证。
这与 Agent 开发有什么关系?
从 AI Agent 工程实践的角度看,这一章很有启发。
当前很多 Coding Agent 已经支持通过项目规则文件、Skills、工具调用和其他上下文机制获取工程知识。
我们可以将项目架构规范、接口约束、业务限制、测试要求等内容提供给 Agent。
但仅仅让 Agent 能够读取文档,还不足以解决所有问题。
例如,某个系统曾经因为错误的重试策略造成消息重复消费。
如果这次故障只保留在一份没人阅读的事故报告里,那么未来的开发仍然可能遇到类似问题。
如果团队进一步将经验转化为明确的幂等性要求、自动化测试和代码检查机制,这次故障产生的知识就能够持续影响后续开发。
这种思路与作者在前言中提到的 Model-Based Agentic Engineering(MAGE)有关。
MAGE 强调让重要的工程知识显式化,让关键约束能够被执行,并让反复出现的工程判断形成可持续复用的机制。
从实践角度看,这些思想可以应用到 Agent 的规则文件、Skills 和自动化测试中。具体采用哪种机制,仍然需要根据项目情况决定。
五、需求、规格、架构和设计,解决的是不同层次的问题
第五章到第八章分别讨论 Requirements、Specification、Architecture 和 Design。
这几章可以放在一起理解。
Requirements:我们应该承诺实现什么?
需求工程需要判断什么能够创造价值,以及在有限资源下,团队能够负责任地承诺什么。
Specification:这些承诺究竟意味着什么?
规格说明将需求转化为明确的约束,让工程师能够判断哪些实现可以接受,哪些实现违反了要求。
Architecture:如何组织系统以满足这些约束?
架构决定系统的主要边界、职责分配以及组件之间的关系,并控制局部变化对其他部分的影响。
Design:在既定架构下,具体应该如何实现?
设计进一步解决局部实现机制的问题,并通过分析和证据比较不同方案。
这些概念在传统软件工程中并不陌生,但在 AI 编程场景下,它们的重要性更加突出。
假设我们要求 Agent 开发一个银行营销话术生成系统。
如果只告诉它“根据客户信息生成营销话术”,Agent 可能很快就能完成一个可以运行的版本。
但这个需求没有说明很多重要问题。
例如:
哪些客户信息允许使用?
是否允许承诺理财收益?
生成结果应该符合什么结构?
哪些内容需要经过合规校验?
当模型无法确定答案时应该如何处理?
这些问题需要在需求和规格阶段得到回答。
然后才是架构层面的选择。
话术生成、客户信息读取、合规校验、日志记录等能力应该如何组织?哪些操作可以由 Agent 自主完成?哪些必须交给确定性的业务服务?
最后才涉及具体实现,例如框架选择、代码组织、模型调用和异常处理。
AI 可以参与上述各个层次的工作,但工程师需要明确哪些约束不可违反,哪些实现细节可以保留自由度。
这也是作者在规格说明章节讨论的一个重要问题。
我们应该约束什么,又应该保留什么选择空间?
约束过少,可能导致系统产生不可接受的行为。
约束过多,则可能增加维护成本,限制合理的实现方案。
工程判断需要在两者之间找到适合当前问题的平衡。
六、AI 生成的代码,如何证明它是可靠的?
第九章 Validation 是全书中非常值得关注的一章。
随着 Coding Agent 的能力不断增强,我们经常会遇到这样的场景:
Agent 完成了代码修改,执行了测试,然后报告任务已经完成。
但这些结果能够证明什么?
作者认为,验证应该从具体的工程主张出发。
例如,一个系统声称能够支持 1000 个并发请求,并且 P99 延迟低于 500ms。
那么,我们需要在适当的环境和负载条件下进行性能测试,才能获得支持这一主张的证据。
单元测试全部通过,并不能证明性能要求得到满足。
同样,代码覆盖率达到 90%,也无法直接证明系统不存在重要缺陷。
不同指标只能反映系统的某些属性。
作者在引言中给出了一个贯穿全书的推理框架:
Model → Property → Observation → Evidence → Judgment
即:
模型 → 属性 → 观察 → 证据 → 判断。
工程师首先建立对系统的理解,明确系统应该具备哪些性质,再通过观察和测量获得证据,最后根据证据做出判断。
这里还有一个重要的问题:指标本身也是模型。
例如,代码覆盖率可以帮助我们了解测试执行了哪些代码,但它并不能直接代表软件质量。
接口响应时间可以反映性能表现,但无法单独说明系统是否可靠。
因此,工程师需要理解指标能够说明什么、遗漏了什么,以及测量条件是否符合实际使用场景。
验证需要与风险相匹配
作者还强调,失败的后果会影响验证所需要的证据强度。
一个内部使用的小工具,与涉及资金交易的银行系统,对验证的要求显然不同。
对于 AI 生成的代码,可以根据具体风险选择不同的验证方式。
功能正确性可以通过自动化测试验证。
接口兼容性可以通过契约测试验证。
性能要求需要通过基准测试验证。
安全性可能需要静态分析、权限测试以及其他针对性检查。
复杂业务规则则需要明确的业务验收标准。
这些方法本身并不新鲜,但当代码生成速度越来越快时,验证工作可能成为交付过程中的重要瓶颈。
AI 可以帮助编写测试、执行检查和分析结果,但测试是否充分、证据是否可信,仍然需要结合系统的实际要求进行判断。
尤其需要警惕一种情况:Agent 生成了代码,也生成了测试,随后所有测试都通过了。
如果测试本身遗漏了重要约束,那么测试通过也无法证明实现符合真正的业务要求。
七、工程经验来自对决策结果的反思
全书最后一章的标题是 Failure-Aware Engineering,可以理解为“具有失败意识的工程实践”。
作者引用了工程史研究者 Henry Petroski 的一句话:
Failure is central to engineering.
失败是工程的重要组成部分。
软件工程始终面对不完整的信息、不完美的模型和有限的验证证据。
即使进行了充分的设计与测试,系统仍然可能出现故障。
作者关心的是,当实际结果与预期不一致时,工程师应该如何利用这些信息。
例如,一个服务因为并发问题发生故障。
我们可以修复代码,然后关闭故障工单。
但如果希望从这次故障中积累工程能力,还需要进一步调查:
为什么设计阶段没有识别这个问题?
为什么测试没有发现?
系统模型中是否存在错误假设?
其他模块是否存在类似风险?
应该增加哪些测试、约束或保护机制?
作者在书中用一个过程解释经验如何形成:
Decision → Consequence → Reflection → Repertoire
决策、结果、反思,最终形成未来可以使用的经验。
这里的 Repertoire,可以理解为工程师积累的情境识别和应对能力。
有经验的工程师往往能够在问题真正发生之前,就注意到某个设计可能存在风险。
这种能力来自过去的决策、实际结果,以及对两者之间差异的反思。
作者特别强调,经验并不会因为工作年限增长而自动形成。
如果工程师始终重复相同的工作,却没有将结果与原有判断联系起来,那么经验积累可能十分有限。
而且,经验也不应该只停留在个人身上。
一次故障产生的重要教训,可以转化为自动化测试、架构约束、开发规范或团队共享的知识。
这样,即使原来的工程师离开,经验仍然能够继续发挥作用。
对于 AI Agent,这种机制同样有参考价值。
当 Agent 反复出现某类错误时,我们可以将失败案例纳入评测集,将重要业务限制转化为可检查的约束,并通过自动化机制降低类似问题再次发生的概率。
当然,并非每一次失败都需要引入新的规则。
新增约束也存在维护成本,工程师仍然需要判断问题的严重程度、复发概率以及改进措施是否值得。
八、AI 时代的软件工程师需要什么能力?
读完整本书,可以发现作者始终围绕一个问题展开:
当软件实现的成本不断下降,工程师应该如何保持对系统的控制?
过去,一个优秀的软件工程师通常需要具备扎实的编程能力,能够理解复杂代码,熟悉技术框架,并独立解决开发过程中遇到的问题。
这些能力仍然重要。
但随着 AI 编程工具的发展,单纯依靠代码产出速度建立的优势,可能会逐渐缩小。
与此同时,另一些能力的重要性会进一步提高。
例如,理解业务目标、识别关键约束、比较架构方案、判断验证证据,以及从生产故障中提炼经验。
这也不意味着未来的软件工程师可以完全不懂代码。
如果无法理解系统的实现机制,就很难有效评估 AI 的工作,也很难在复杂问题出现时承担工程责任。
作者在第一章对 Engineering 的定义中强调,工程师不需要亲自完成实现系统所需的每一个动作,但必须保留足够的控制能力,能够指导工作、理解后果、评估证据,并在必要时进行干预。
这一点对于 AI 辅助开发尤其重要。
当越来越多的实现工作由 Agent 完成时,工程师仍然需要对关键决策和系统结果负责。
与此同时,AI 也给工程师的培养带来了新的问题。
过去,初级工程师可以通过大量相对简单的编码、调试和维护任务逐渐积累经验。
如果这些工作被大量交给 AI,新人可能缺少形成工程判断力所需的实践机会。
作者在前言中用了一个形象的比喻。
过去,我们可以让学生像毛毛虫一样毕业,再由工业界通过实践将他们培养成蝴蝶。
现在,我们需要让学生在毕业时就具备一定的工程判断能力,成为能够继续成长的“小蝴蝶”。
这个比喻也解释了为什么作者要写这本书。
他希望将工程师过去主要通过长期实践才能获得的一部分判断方法,提前纳入软件工程教育。
写在最后
《The Software Engineering Handbook》没有提供具体的 AI 编程工作流,也没有讨论应该选择哪一种 Coding Agent 或开发框架。
它试图回答的是一个更基础的问题:在实现技术不断变化的情况下,软件工程中有哪些能力始终重要?
作者将答案集中在工程判断上。
从需求分析到架构设计,从实现选择到测试验证,再到故障复盘,软件工程始终需要在有限信息和资源约束下做出决策。
AI 可以帮助工程师完成越来越多的实现工作,也可以辅助分析方案、编写测试和发现问题。
但这些能力能否真正转化为可靠的软件系统,还取决于工程师是否能够明确目标、建立约束、评估证据,并根据实际结果不断修正自己的判断。
这本书给我的主要启发是,随着 AI 编程工具不断发展,软件工程师需要更加重视那些难以通过代码生成直接解决的问题。
包括需求是否值得实现、架构决策是否合理、系统变化是否可控、验证证据是否充分,以及工程经验能否在团队中持续积累。
这些问题长期存在于软件工程中。AI 的发展让我们有机会将更多时间投入其中,也让缺乏工程判断的代价变得更加明显。
参考资料
- James C. Davis, The Software Engineering Handbook: A Judgment and Decision-Making Approach, First Edition, 2026。本文依据 2026 年 11 月 17 日更新版本撰写。
- James C. Davis, Model-Based Agentic Engineering, 2026。https://davisjam.github.io/model-based-agentic-software-engineering/book/mage-book/index.html
- Frederick P. Brooks, No Silver Bullet: Essence and Accidents of Software Engineering, IEEE Computer, 1987。
- Donald A. Schön, The Reflective Practitioner: How Professionals Think in Action, Basic Books, 1983。