AI 代理在遗留系统中的问题:无人谈论的挑战

新闻

作者：微信文章
AI 代理在遗留系统中的问题：无人谈论的挑战

核心要点：AI 代理会严格按照指令执行，学习如何通过策略检查工作流弥合意图与执行之间的差距，实现可信赖的自动化

发布日期：2025 年 11 月 14 日
作者：Saurabh Bhatia

当我们首次将 AI 代理集成到企业环境中时，我预计挑战会来自 AI 模型本身：数据准确性、延迟或可扩展性。然而，第一个真正的障碍出现在我们最意想不到的地方：那些本该被帮助的系统本身。

这些系统是记录系统，是企业安静但不可妥协的骨干。每一次批准、每一项政策、每一个时间戳都存储在那里。它们旨在保护真相，而非追求速度。

我们的代理轻松连接到了这些系统。API 响应正常，数据流动顺畅，一切看似正常。但当某个部署上线时，事故仪表板讲述了一个不同的故事。

代理开始自动解决 IT 服务工单，通过我们的自动化脚本使用的相同 API 端点读取分类。每个更新看起来都有效，但它跳过了为防止过早关闭而存在的批准步骤。系统接受了每一个更改，因为语法是正确的。但它无法识别缺失的上下文。

那个时刻永远改变了我对集成的看法。

---

摩擦真正开始的地方


在 AI 项目中，"集成"通常被视为技术练习，用于构建连接器、认证和传递数据。真正的困难出现在之后，当自主性遇到问责制时。

代理并非粗心；它只是不理解为什么需要这些额外检查。人类将批准视为责任时刻；代理将其视为延迟。记录系统是围绕前一种视角构建的。

当我们重放运行时，我们期望找到逻辑错误。相反，我们发现了意义上的差距。我们构建了一个能够在理解之前行动的系统。

这就是无人谈论的问题。AI 通常不会大声失败。它通过严格按指令执行而安静地失败。

---

意图与执行之间的差距


每个记录系统包含的不仅仅是数据；它包含意图、历史和政策。当 AI 代理发出"解决"命令时，它表达了一个目标。当系统执行它时，它期望完整的证据链。在这两个时刻之间存在着意图-执行差距。

我们了解到，在一个工作流中的"关闭"命令可能会级联到服务级别协议（SLA）重新计算、合规性触发器和下游自动化。代理无法知道这一点。弥合这个差距需要的不仅仅是编码技能，还需要对系统本身的同理心。

---

集成通常失败的地方

集成步骤	通常出错的地方	原因	团队应该做什么
1. 代理连接 API	连接成功，但代理获取或写入超出批准范围的数据	令牌通常授予比预期更广泛的访问权限；服务账户继承管理员权限	使用最小权限限制凭据，为每个工作流定义明确范围，插入策略检查工作流来验证每个端点调用
2. 代理执行更新	有效更新违反业务顺序（在验证前关闭工单）	遗留系统在 UI 层强制执行逻辑，而非 API，因此规则在自动化绕过它们时消失	引入共享理解层，重新创建那些隐藏的检查——时间安排、依赖关系和所有权验证
3. 代理触发下游自动化	一个不正确的字段更改波及到 SLA 违规或计费错误计算	记录系统自动同步；错误状态立即传播	在提交写入操作前运行模拟测试；对任何跨系统级联要求人工批准
4. 代理记录结果	日志仅捕获技术成功，而非推理过程。审计员无法追踪操作原因	标准日志框架省略语义上下文	存储人类可读的理由（"代理为何行动"）和每个交易 ID 的回滚计划
5. 跨域扩展集成	不一致的规则导致部门间的静默漂移	每个域重新定义"已批准"、"已关闭"或"已完成"	逐步推出——只读 → 受保护的写入 → 自主——并在中央策略库中标准化定义

这个表格成为了我们的指南。它提醒团队成功不是连接；而是合作。

---

构建共享理解层


为防止静默错误，我们在代理和记录系统之间引入了一个薄层：一个翻译区域，它放慢决策速度以便进行验证。在任何更新到达生产环境之前，该层执行快速策略检查工作流：

验证所有权：确认工单或交易仍属于活跃用户或团队检查批准：对照变更记录确保所有必需的签核存在生成人类可读日志：解释代理正在做什么以及为什么触发原始 API 调用：仅在这些检查通过后进行

结果立竿见影。曾经过早关闭工单的同一代理开始在数据看起来不完整时将其标记为审查。它没有失去速度；它获得了判断力。

曾经持怀疑态度的合规负责人称其为"第一个真正尊重流程的 AI 工具"。这句话让我印象深刻。它准确描述了良好集成应有的感觉。

---

引入集成层前后的对比

维度	引入集成层前	引入集成层后	带来的好处
执行路径	代理直接写入生产 API，具有完全访问权限	代理通过批准或拒绝请求的策略网关微服务行动	减少错误表面，加快审计响应
工作流时间安排	操作立即触发，忽略变更窗口	执行与维护或发布计划对齐	在受监管操作中保持稳定性
数据质量	子系统间频繁出现不匹配状态	跨平台的统一预提交验证	更高的一致性，更容易对账
可见性	日志仅显示原始请求和响应	每个操作都记录原因、所有者和回滚 ID	真正的端到端可追溯性
团队信任	工程师不愿授予写入权限	共享仪表板显示每个代理操作	更广泛的采用和更快的迭代

---

让我们铭记的教训


经过多次部署，一些教训始终成立：

集成是协商。每个记录系统编码了多年的人类推理。将自主性插入那个世界总会产生摩擦。目标不是消除它，而是将其用作反馈。

上下文胜过连接性。成功的 API 调用如果破坏了工作流的意义就毫无价值。不仅要测试响应代码，还要测试语义准确性。

信任是真正的交付物。一个良好集成的代理不仅仅是执行任务。它赢得工程师、合规团队和业务负责人的信心。这种信心是集成的真正结果。

---

为自主性准备系统——和人


大多数企业将在未来多年继续使用其核心系统。它们不需要替换；它们需要尊重。这些平台通过强制执行可解释性来保护组织。AI 不挑战这种设计；它依赖这种设计。

我了解到最困难的工作通常发生在代码库之外。它发生在工程和治理团队之间关于"安全自主性"真正含义的讨论中。一旦这个定义存在，集成就自然而然地跟进了。

对于任何计划类似工作的团队，实际路径很简单：从只读模式开始，引入策略检查工作流，并在自主性之前设计可逆性。这个单一序列可以节省数月的返工时间，并建立长期信心。

---

集成关乎共享真相


遗留系统不是过去的遗物；它们是组织信任的存储库。它们提醒我们，没有问责制的自主性只是没有方向的速度。

如果一个 AI 代理能够在每个操作都有理由和可追溯性的记录系统中负责任地运行，它就能在任何地方运行。

集成不是关于连接端点。它是关于教导智能系统尊重最初构建企业的逻辑。

这是很少有人讨论的部分，也是决定 AI 成为可信赖伙伴还是另一个无法扩展的实验的部分。

---

文档来源：AI Agents in Legacy Systems The Problem No One Talks About
原始作者：Saurabh Bhatia
原始发布日期：2025 年 11 月 14 日

本文由 AI 助手整理优化，欢迎关注、分享转载，请注明出处