探索 LLM 应用的过程中,LLM作为 Agent 的"大脑"有着无限可能。其中,"代码编写"已经成为了少数几个成功大规模落地的场景之一,这让我们不禁想到:既然 LLM 可以写出高质量的代码,为什么不能让它更进一步,编写并运行代码来控制 Agent 自身的行为呢?这样运行逻辑,就不简简单单的是“下一个”这么简单,而是让Agent拥有分支、循环等各种复杂逻辑。
这个想法虽然听起来有点魔幻,但仔细想想确实是可行的。在这篇文章中,我想和大家分享我们是如何一步步构建这样一个能够"自我编程"的 Agent 的历程。
我们的目标是将Agent模式,打造成一个“师弟”,一个真正能在内部的DevOps系统中,能帮得上忙的AI助手。
Agent系统设计
Agent简介
-
技术架构方面,我们在 ReAct Agent 模式基础上进行了深度优化:
-
改造传统 JSON + 组装调用方式,基于Py4j,实现" Code+泛化调用 "机制,显著提升工具调用的灵活性和执行效率;
-
采用 Spring Boot 技术栈构建后端架构,整合 Spring AI 生态及 Spring AI Alibaba 能力完成模型接入;
-
通过 内部评测平台 和 内部观测平台 实现全链路评测与观测;
-
底层工具采用 Mcp 协议实现业务能力补充;
-
基于 A2A 协议实现 Multi Agent 架构,高效对接各子 Agent;
-
模型策略采用混合部署方案,根据不同场景使用最优模型:
-
翻译/数据提取任务:Qwen3-Turbo(低延迟优先);
-
思考/动态代码生成:Qwen3-Coder(强化代码能力);
-
通用场景:按需调用各个平台提供的Qwen、Deepseek等模型 (Agent内部模块分布);
