在QCon AI纽约2025大会上，Tracy Bannon发表演讲，探讨了AI代理的快速采用如何重塑软件系统，以及如果组织将所有“AI”或“代理”视为可互换的，为何会面临重复熟悉架构失败的风险。
Bannon认为，当前的许多混淆源于将截然不同的行为和风险状况归拢在相同的标签之下。机器人被描述为根据预定义触发器作出反应的脚本化响应程序，而助手则与人类协作，且很大程度上处于人的控制之下。相比之下，代理是目标驱动的行动者，能够在系统中做出决策并执行行动。
“每个人都在谈论AI‘生产力’，却很少有人提及随之而来的架构健忘症。” —— Tracy Bannon
为了具体说明，Bannon概述了一组在软件开发生命周期中常见的自主性模式。这些模式涵盖了嵌入现有工作流的AI辅助工具、在有限范围内运行的任务级代理、协调端到端流程的多代理编排，以及系统为实现更高级目标而进行规划、优化和调整的任务级自主。
演讲的一个核心主题是：自主性本身不会失败；当自主性的增长速度快于架构纪律时，失败就会发生。Bannon将这种差距称为“代理债务”。她将代理债务与一些熟悉的问题领域联系起来，例如身份和权限蔓延、隔离与遏制不足、缺少谱系追溯和可观测性、以及薄弱的验证和安全检查。
Bannon将这种风险与更广泛的行业趋势联系起来，指出有研究表明，绝大多数技术决策者预计，由于AI驱动的复杂性，技术债务的严重程度将在短期内上升。她认为，AI并没有引入全新的故障模式，而是通过加速变化和扩大错误的波及范围，加剧了现有的问题。
她重点阐述了将既定的架构原则应用于代理系统。她认为，组织已经知道如何在分布式系统中管理风险，但往往在追求速度的压力下忘记了这些教训。在此背景下，治理被提出，作为建立信任所需的最低限度控制集，包括明确的责任划分以及行动和数据流的可追溯性。
身份被认为是其他安全保障所依赖的基础控制。Bannon强调，每个代理都必须拥有唯一的、可撤销的身份，并且当出现问题时，组织应该能够迅速回答一些基本问题：代理可以访问什么、执行了什么操作、以及如何停止它。她描述了一种最小身份模式，包括一个代理注册表。
“我们追逐可见的活动指标……却悄悄地忽视了保持系统健康的工作：设计、重构、验证、威胁建模。” —— Tracy Bannon
决策纪律是另一个反复出现的主题。Bannon鼓励团队从“为什么”开始思考，而不是“如何做”，并在增加自主性之前明确权衡取舍。她将决策描述为总是在改善一个维度的同时牺牲另一个维度的优化，例如价值与努力、或速度与质量。
演讲最后呼吁架构师和高级工程师在引入AI代理的方式上发挥积极作用。Bannon将这一责任定位为通过设计受管理的代理而非临时自动化、使风险和债务可见、以及仅在明确能带来价值的地方追求更高水平的自主性，来防止架构健忘症。她的结束语是：软件架构的核心实践仍然有效，挑战不在于学习全新的学科。
希望了解更多信息的开发者可以探索更多QCon AI会议和InfoQ的报道，大会的录播视频预计将于2026年1月15日开始提供。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）
