学习路线 · v2 · 2026-11-08 · 对照 26 份招聘要求修订

AI Agent 学习地图

从 Java 后端到 AI Agent 工程师。AI Agent 做主线,Java 架构按需补;每一站交出一个能跑的东西,进度用提交记录作证。

12 站4 个等级30 周(含 2 周机动)每周 26 小时1 个贯穿项目每站先看全景对照 26 份招聘要求 作者进度:0 / 99 个知识点用上11 月 9 日从站 01 出发
AI Agent 工程师主线 · 本页 · 12 站,从 AI 小白到能上线 agent

← 按需补给

Java 后端架构补给库 · 已有 44 篇,主线用到哪篇再补哪篇

想到一个问题?先在地图上找

输入关键词,看它在主线哪一站、在 Java 板块,还是还不在地图上。

试试:

终点:从 AI 小白到能上线 agent 的工程师

四个等级,每级都有一道过关检验。过不了关就不往下走,这样“学完”才有意义。

起点 · Java 后端老手,AI 小白终点 · 能设计、评估、上线 agent 系统,懂后训练
  1. 入门站 01–03 · 6 周

    用 Python 稳定地调用模型,拿到校验过的结构化结果,算得清钱和时间。

    过关 告警分诊服务 Python、Spring AI 两版都跑通;讲得清 token、上下文、温度。

  2. 进阶站 04–07 · 10 周

    从需求拆到设计,手写能干活的 agent,配上记忆和知识库,把工具做成 MCP。

    过关 手写的值班助手能解决真实排障问题;记忆和检索都有评测数字;复盘报告每句都能点回出处;MCP 服务端被两个客户端调通。

  3. 高级站 08–09 · 5 周

    会选框架和低代码平台、会拆多 agent、敢做写操作,改任何东西都先看评测。

    过关 手写、LangGraph、Spring AI、Dify 四种实现的对比表;换模型、改提示词都能用评测说出好坏。

  4. 专家站 10–12 · 7 周

    把 agent 安全、稳定、算得过账地上线,懂后训练,能替团队做取舍。

    过关 上线版 + 压测 + 故障演练 + 安全清单;自训小模型和大模型的对比表;仓库公开,别人 30 分钟能跑起来。

对照 26 份招聘要求

2025 年 6 月到 2026 年 11 月的 Agent 开发岗位:大厂 13 份(字节、腾讯、蚂蚁、拼多多、京东、百度、华为),中小公司 13 份。数的是“提到过”,职责和加分项都算,一份里提到多次只算一次。

  1. 评测与效果优化19站 04、09v2 加强:站 04 就开始攒用例
  2. RAG 与检索18站 06v2 加强:RAG 优化
  3. Python18站 01
  4. 提示词与上下文工程17站 03、05
  5. 工作流编排与任务规划16站 04、08
  6. 需求分析与业务理解14站 04v2 新加
  7. 工具调用13站 04
  8. 多 Agent 协作13站 08
  9. Agent 框架(LangChain、LangGraph 等)13站 08
  10. 接受 Java13站 03、07、08 + Java 板块
  11. 可观测、成本、稳定性12站 09、10
  12. MCP、Skills、插件11站 07
  13. 后端工程(数据库、缓存、MQ、高并发)11Java 板块 + 站 10
  14. 业务系统集成与流程自动化11站 08v2 新加:写操作
  15. 记忆系统10站 05v2 加强:单独成站
  16. 低代码平台(Dify、Coze 等)9站 08v2 新加
  17. 部署(Docker、K8s、私有化)9站 10、11
  18. 安全、权限、审计8站 07、10
  19. 知识库建设(文档解析、清洗)6站 06v2 新加
  20. 后训练与 RL6站 11v2 新加
  21. 前端或全栈(TypeScript)6站 10(只做最小界面)只覆盖一部分
  22. 深度学习框架(PyTorch)5站 11 的补给v2 新加
  23. AI 编程工具4站 01v2 新加
  24. 模型部署与推理优化3站 11v2 新加
  25. 内容生成、多模态3站 06(多模态不在主线)只覆盖一部分
26 份原文出处,以及每份提到了哪些能力
  1. 你贴的那份 · AI Agent 开发工程师 2026-11提示词/上下文 RAG 知识库建设 多 Agent 编排/规划 记忆 后训练/RL 需求/业务 业务集成/自动化 内容生成/多模态
  2. 某科技公司(猎头代招) · AI Agent 开发工程师(算法)· 北京 未注明提示词/上下文 RAG 工具调用 多 Agent 编排/规划 记忆 框架 低代码 Java Python 后端工程 部署 推理部署 需求/业务
  3. 中创智维 · AI 大模型应用及 Agent 开发工程师 · 北京 未注明RAG 框架 Python 需求/业务 业务集成/自动化 PyTorch
  4. 拼多多 · AI Agent 研发工程师(2027 届校招)· 上海 2026-07提示词/上下文 RAG 知识库建设 工具调用 MCP/Skills 多 Agent 编排/规划 记忆 评测 可观测/成本 安全权限 框架 低代码 Java Python 后端工程 后训练/RL AI 编程工具
  5. 某公司(AI 客服、CRM) · Agent 开发工程师 · 远程 2026-06提示词/上下文 RAG 工具调用 多 Agent 编排/规划 记忆 评测 可观测/成本 安全权限 框架 低代码 Python 部署 需求/业务 业务集成/自动化 内容生成/多模态
  6. 某上市公司 · Java Agent 工程师 · 宁波 · 20–25K 2026-04提示词/上下文 RAG 知识库建设 编排/规划 Java Python 后端工程 部署 推理部署
  7. 天津天开方舟 · AI Agent 应用开发(Dify / 低代码,金融) 2026-10提示词/上下文 RAG 知识库建设 工具调用 MCP/Skills 编排/规划 评测 可观测/成本 安全权限 低代码 Python 后端工程 部署 需求/业务 业务集成/自动化
  8. 字节跳动 · Agent 工程师(Aime) 2026-08提示词/上下文 MCP/Skills 编排/规划 记忆 评测 前端/全栈
  9. 蚂蚁集团 · 后端研发工程师(Agent 应用方向)· 上海 / 杭州 2026-10提示词/上下文 RAG 工具调用 MCP/Skills 多 Agent 编排/规划 评测 可观测/成本 安全权限 Java 后端工程 需求/业务 业务集成/自动化
  10. 某公司(制造、审计) · Agent 开发工程师(全栈)· 常州 · 15–25K 2026-10提示词/上下文 工具调用 评测 可观测/成本 Java Python 后端工程 部署 需求/业务 前端/全栈
  11. 字节跳动 · Agent 研发工程师(数据智能体)· 北京 2025-08提示词/上下文 RAG 多 Agent 评测 框架 低代码 需求/业务 PyTorch
  12. 腾讯 · 混元大模型 Agent 开发工程师 · 深圳 2025-11工具调用 多 Agent 编排/规划 评测 框架 Python
  13. 腾讯 · 腾讯广告 后端开发(Agent Infra)· 北京 2025-12提示词/上下文 RAG MCP/Skills 编排/规划 评测 框架 Java Python 后训练/RL 需求/业务
  14. 腾讯 · AI 记忆系统研发 · 上海 / 北京 / 深圳 2026-09RAG 多 Agent 记忆 评测 框架 Python 内容生成/多模态
  15. 内蒙古政司科技 · AI Agent 开发工程师 · 呼和浩特 未注明提示词/上下文 RAG 知识库建设 工具调用 MCP/Skills 多 Agent 编排/规划 记忆 评测 可观测/成本 安全权限 框架 低代码 Java Python 后端工程 部署 后训练/RL 推理部署 需求/业务 业务集成/自动化
  16. 某公司 · Agent 开发工程师(TypeScript)· 深圳 2026-07提示词/上下文 RAG 工具调用 MCP/Skills 多 Agent 编排/规划 记忆 评测 可观测/成本 部署 业务集成/自动化 前端/全栈
  17. 字节跳动 · Agent 软件架构师(移动 OS)· 北京 2026-10MCP/Skills 多 Agent 框架 低代码 Java 后端工程 前端/全栈
  18. 京东 · 算法开发岗(智能交互、Agent)· 北京 2026-08RAG 评测 Python 后训练/RL PyTorch
  19. 百度 · 大模型应用 Agent 框架后端(实习) 未注明RAG 可观测/成本 框架 Java Python PyTorch
  20. 字节跳动 · Agent 研发工程师(音视频技术)· 北京 / 上海 / 深圳 2026-08记忆 评测 可观测/成本 安全权限 Java Python 需求/业务
  21. 广州通易科技 · Agent 开发工程师(实习) 未注明提示词/上下文 RAG 知识库建设 工具调用 MCP/Skills 多 Agent 编排/规划 评测 框架 低代码 Java Python 业务集成/自动化
  22. 智法数科 · 大模型应用工程师 · 深圳 2025-06RAG 编排/规划 评测 框架 低代码 Python 后端工程 业务集成/自动化
  23. 蚂蚁集团 · 研发 Agent 平台工程师(CodeFuse)· 杭州 2026-08提示词/上下文 RAG 工具调用 MCP/Skills 编排/规划 记忆 评测 可观测/成本 安全权限 需求/业务 业务集成/自动化 前端/全栈 AI 编程工具
  24. 某初创公司(制造业) · Agent / FDE 开发工程师 · 深圳 · 15–20K 2026-09提示词/上下文 工具调用 评测 可观测/成本 Java Python 后端工程 部署 需求/业务 前端/全栈 AI 编程工具
  25. 华为 · AI Agent 开发工程师(2026 校招,偏算法)· 上海 2026-05提示词/上下文 工具调用 多 Agent 编排/规划 后训练/RL PyTorch
  26. 杭州源诚科技 · Agent / AI 开发工程师(金融,校招) 2026-05MCP/Skills 评测 可观测/成本 安全权限 Java Python 后端工程 部署 需求/业务 业务集成/自动化 AI 编程工具

十二站路线

每站三步:先看场景全景,再逐个学知识点,最后回到全景讲一遍。点开一站看全景、知识点、这一站给值班助手加什么、怎么算过关、要用到 Java 板块的哪几篇。标着“v2”的是对照招聘要求后加的。日期按每周 26 小时排。

入门进阶高级专家 会用懂机制懂设计
  1. ① 先看全景这一站的场景从头走一遍,知道每个知识点在链路的哪一站
  2. ② 再下钻按建议顺序逐个学知识点页,在项目里做出来
  3. ③ 回到全景合上页面把整条链路讲一遍,这次每一站往下多讲两层
01 Python 速成入门11/09–11/22 · 2 周 · 52 小时 给 Java 程序员的两周:写出带类型、能异步、有测试的 Python 小服务,后面每一站都用它。 一个 FastAPI 请求的一生 0%

① 先看全景

一个 FastAPI 请求的一生

从请求进来,到事件循环同时等 5 台机器的日志,再到把结果返回

打开全景页 →

知识点 8 个

  • uv 管环境和依赖(对照 Maven)页
  • 语法对照:列表、字典、推导式、切片页
  • 函数是一等公民:闭包和装饰器页
  • 类型标注和 Pydantic 数据模型页
  • asyncio:事件循环、async/await、并发请求页
  • FastAPI 写接口(对照 Spring MVC)页
  • pytest 写测试页
  • 用 AI 编程工具干活:Claude Code、Cursorv2页

值班助手 · 这一站

写一个 GC 日志小工具:解析停顿、算出最长和平均;再包成 FastAPI 接口,用 asyncio 同时拉 5 台机器的日志。全程用 Claude Code 结对写。

怎么算过关

  • 不查资料写出:Pydantic 模型、带超时的并发请求、FastAPI 接口和测试
  • 讲清 asyncio 和 Java 线程池、虚拟线程各适合什么

Java 老朋友

uv ≈ Maven 加 JDK 版本管理;Pydantic ≈ DTO 加 @Valid;asyncio 像 Redis 和 Netty 的单线程事件循环,和线程池是两回事。已经熟悉 Python 的话,这站压成一周复习。

02 大模型怎么工作入门11/23–12/06 · 2 周 · 52 小时 站在用它的人这边看懂模型:它一次写一个 token,为什么会编,为什么上下文越长越贵。 一句话怎么变成模型的回答 0%

① 先看全景

一句话怎么变成模型的回答

分词成 token,一个一个往后生成,采样挑词,直到停下

打开全景页 →

知识点 9 个

  • 一次只写一个 token:下一个词预测
  • token、分词和计费
  • 上下文窗口:输入输出共用,越长越慢越贵
  • 采样:temperature 和 top_p 改的是什么
  • 为什么会一本正经地编(幻觉)
  • 推理模型和“思考”:用 token 换质量
  • 注意力和 KV 缓存(只讲到够用)
  • Embedding:文本变向量,意思近的靠得近
  • 怎么选模型:能力、价格、速度、开源闭源、国内外

值班助手 · 这一站

三个小实验写成报告:同一段日志的 token 数和成本;温度 0 和 1 各跑 10 次看差别;把一条关键报错埋进长日志,看模型找不找得到。

怎么算过关

  • 答得出:温度设成 0,为什么也不保证每次一样
  • 给一个调用场景,估得出大概花多少钱、多慢
  • 讲清幻觉从哪来,为什么“先查资料再回答”能缓解

Java 老朋友

上下文窗口 ≈ 堆内存上限,但装太满不会报 OOM,而是悄悄抓不住重点;Embedding 和 hashCode 正相反,hashCode 要散开,Embedding 要让意思近的靠在一起。

补给站

够用的数学:向量、点积和概率

03 调用模型:API、提示词、结构化输出入门12/07–12/20 · 2 周 · 52 小时 把模型当一个会出错的远程服务来用:拿到校验过的结果,扛得住限流和超时,算得清成本。 一次分诊调用的来回 0%

① 先看全景

一次分诊调用的来回

组装提示词、发出请求、流式收回、校验结构、出错重试

还没做:学这一站时第一页就做它

知识点 8 个

  • Messages API:角色、system、多轮其实是无状态的
  • 流式输出:SSE 一边生成一边推
  • 提示词基本功:说清楚、给例子、用标签分隔
  • 结构化输出:JSON Schema、Pydantic 校验、失败重试
  • 出错怎么办:429 限流、过载、超时,退避加抖动
  • 省钱:提示词缓存和批处理
  • 换模型只改一层:模型抽象层
  • Java 版:用 Spring AI ChatClient 写同一个服务

值班助手 · 这一站

告警分诊服务:输入一段告警和日志,输出“类型、级别、可能原因、先查什么”。带校验、重试和限流处理。Python 一版,Spring AI 一版。

怎么算过关

  • 连续调用 100 次,结构化结果全部通过校验(靠校验加重试兜底)
  • 实测提示词缓存命中前后的成本和延迟
  • 讲清重试为什么要退避加抖动,不加会怎样

Java 老朋友

多轮对话 ≈ 无状态 HTTP,每次都把整段历史带上;提示词缓存 ≈ PreparedStatement 复用,但前缀必须一字不差;结构化输出 ≈ DTO 加 @Valid,只是生成方会出错,要能重试。

04 从需求到手写 Agent进阶12/21–01/10 · 3 周 · 78 小时 先把专家怎么排障拆成步骤和用例,再不用任何框架亲手写出 agent:模型提议调用工具,你的代码执行,循环到做完。 一次排障提问,agent 来回了几轮 0%

① 先看全景

一次排障提问,agent 来回了几轮

模型提议工具、你的代码执行、结果送回,直到答出来

还没做:学这一站时第一页就做它

知识点 10 个

  • 从需求到设计:拆专家 SOP、定成功指标v2
  • 先写 10 条评测用例,后面每站都跑v2
  • 工具调用的一来一回:模型提议,你的代码执行
  • Agent 循环:调到不再要工具或到上限为止
  • 工作流还是 Agent:五种常见模式怎么选
  • 工具怎么设计:名字、描述、参数、精简的返回
  • 停止条件:步数、预算、超时
  • 沙箱:只读优先、命令白名单、隔离执行
  • 危险操作先问人
  • 并行工具调用

值班助手 · 这一站

先把你自己排查 Full GC、线程池打满的步骤写成 SOP,写 10 条评测用例。再手写 v1:约 200 行,工具有查日志、解析 GC 日志、看线程 dump、搜学习笔记;全部只读,最多 15 步。

怎么算过关

  • SOP 和 10 条用例进了仓库,v1 跑出第一份分数
  • 画得出一次三轮工具调用的完整消息往返
  • 说得出这个场景为什么用 agent 而不用固定流程,或者反过来

Java 老朋友

拆 SOP ≈ 写接口文档前先跟业务方对流程;工具定义 ≈ RPC 接口,但模型只是“提议”调用,参数可能传错;Agent 循环 ≈ while 加状态机,但下一步由模型决定,所以一定要有上限。

05 上下文工程与记忆系统进阶v2 拆出01/11–01/24 · 2 周 · 52 小时 管好模型眼前那张桌子放什么,再设计一套记忆:记什么、怎么记、怎么取、什么时候忘。 第二天再问同一个服务 0%

① 先看全景

第二天再问同一个服务

上下文里装了什么、哪些被压缩掉、记忆从哪里取回来

还没做:学这一站时第一页就做它

知识点 7 个

  • 上下文工程:放什么、放哪、放多少
  • 上下文快满了:压缩、摘要、子任务隔离
  • 记忆分几种:短期和长期,情景、语义、程序性v2
  • 记忆怎么写:抽取、去重、合并,新旧冲突听谁的v2
  • 记忆怎么取:按相关性、时间、重要性召回v2
  • 记忆怎么忘:衰减、过期,按用户隔离和隐私v2
  • 记忆好不好:该记的记住了吗,对任务有帮助吗v2

值班助手 · 这一站

让它记住每个系统的病历:这个服务上次 Full GC 是什么原因、谁处理的、怎么修的。跨会话保留,按团队隔离。

怎么算过关

  • 构造 20 段历史对话,测它该记的记住了、该忘的忘了、新旧冲突时用了新的
  • 讲清记忆和 RAG 的区别:一个是“经历”,一个是“资料”

Java 老朋友

记忆 ≈ 缓存加淘汰策略:有写入、过期、淘汰;不同的是先要判断值不值得记,新旧记忆还会互相矛盾。上下文压缩 ≈ GC,但压缩会丢信息,丢错了就答错。

06 RAG 与知识库建设进阶v2 加强01/25–02/21 · 3 周 + 春节 1 周 · 78 小时 从真实的“脏”文档建出知识库,检索得准、更新得快,生成的长文每句都有出处。 一份运维手册从上传到被引用 0%

① 先看全景

一份运维手册从上传到被引用

解析、切块、向量化、入库,再被检索、重排,写进复盘报告

还没做:学这一站时第一页就做它

知识点 10 个

  • RAG 流水线:切块、向量化、检索、重排、生成
  • 文档解析:PDF、Word、表格、扫描件v2
  • 清洗、切块策略和元数据v2
  • 向量检索和 HNSW 索引
  • 混合检索:关键词 BM25 加向量,再重排
  • RAG 优化:查询改写、元数据过滤、父子块v2
  • 知识库运维:增量同步、权限、版本v2
  • 评测:检索命中率和答案忠实度
  • 让 agent 自己决定查什么(Agentic RAG)
  • 内容生成:带引用的长文报告v2

值班助手 · 这一站

知识库放两类数据:干净的学习笔记,加上真实的“脏”数据(运维手册 PDF、历史故障单),能增量同步。它第一次写长文:自动生成带引用的故障复盘报告。

怎么算过关

  • 30 个问题,前 5 条命中率和答案忠实度都有数字
  • 加一份新手册,不重建索引就能查到
  • 复盘报告里每个结论都能点回原文

Java 老朋友

RAG ≈ 先查缓存再回源,但查到的是“相似”而不是“命中”,可能拿错;增量同步 ≈ 用 binlog 把 MySQL 同步进 Elasticsearch;向量索引 ≈ 数据库索引,但它是近似查找,用一点精度换速度。

补给站

缓存穿透、击穿与雪崩 连接池与事务性能(PostgreSQL) 倒排索引与 BM25 向量索引 HNSW PostgreSQL 与 pgvector(和 Java 地图 J06 共用)

07 MCP 与 Skills进阶02/22–03/07 · 2 周 · 52 小时 把工具做成标准接口,谁的 agent 都能接;把做事的步骤写成按需加载的说明书。 Claude Code 调用你的 MCP 工具 0%

① 先看全景

Claude Code 调用你的 MCP 工具

启动、握手、发现工具、调用、拿回结果

还没做:学这一站时第一页就做它

知识点 7 个

  • MCP 的三方:主机、客户端、服务端
  • 三种能力:工具、资源、提示词模板
  • 两种传输:stdio 和 Streamable HTTP
  • 写 MCP 服务端:Python 和 Java 各一个
  • 远程 MCP 的鉴权(OAuth)
  • MCP 的安全:不可信服务端、工具描述投毒、最小权限
  • Agent Skills:按需加载的说明书

值班助手 · 这一站

把工具拆成 MCP 服务端(Python 一个、Spring AI 一个),接进 Claude Code 直接用;把排障 SOP 写成一个 Skill,就像你现在用的 learn。

怎么算过关

  • 你的 MCP 服务端被两个不同的客户端调通
  • 讲清 stdio 和 HTTP 传输各适合什么,远程服务端为什么要 OAuth

Java 老朋友

MCP ≈ JDBC 驱动或 SPI:一套接口,各家实现,客户端不用改;不同的是驱动是你挑的可信代码,MCP 服务端可能不可信。Skill ≈ 按需加载的 starter 加一份说明书。

08 框架、低代码与多 Agent高级v2 加强03/08–03/28 · 3 周 · 78 小时 知道框架和低代码平台替你做了什么、藏了什么;会拆多 agent;第一次让 agent 替人办事。 一个告警进来以后 0%

① 先看全景

一个告警进来以后

主 agent 分诊、三个子 agent 并行调查、人批准后建工单

还没做:学这一站时第一页就做它

知识点 9 个

  • 框架替你做了什么、藏了什么
  • Python 框架主修 LangGraph(带上 LangChain 基础),AutoGen、Claude Agent SDK 了解
  • Java 框架:Spring AI、Spring AI Alibaba、LangChain4j
  • 低代码平台:Dify、Coze、n8nv2
  • 什么时候用低代码,什么时候写代码v2
  • 状态图和检查点:长任务断点续跑
  • 多 agent:主从编排、并行子 agent、交接
  • 什么时候不该拆多 agent
  • 业务流程自动化:写操作、审批、幂等、审计v2

值班助手 · 这一站

v2:用 LangGraph 和 Spring AI 各重写一次,再用 Dify 搭一个分诊流程对比。主 agent 分诊,三个子 agent 并行查日志、指标、笔记,再汇总。第一次有写操作:建工单、发通知;重启服务要人批准。

怎么算过关

  • 交一张四种实现的对比表:手写、LangGraph、Spring AI、Dify,比代码量、可控性、调试难度、token 成本
  • 同一个写操作重放两次,不会建出两张工单
  • 说得出多 agent 在你的场景里省了什么、多花了什么

Java 老朋友

多 agent ≈ 微服务拆分:拆了能并行,也要付协调成本,而且每个子 agent 都要重读一遍上下文。Dify 工作流 ≈ Flowable 这类流程引擎,只是节点里是概率模型。Spring AI 的 Advisors ≈ AOP 拦截器链。Spring AI 2.x 建在 Spring Boot 4 上,还在 Boot 3 的项目用 1.1.x。

09 评测与可观测高级03/29–04/11 · 2 周 · 52 小时 把站 04 起攒的用例做成体系:改提示词、换模型都用数字说话,trace 看清每一步。 改了一句提示词之后 0%

① 先看全景

改了一句提示词之后

评测怎么发现变差,trace 怎么指出是哪一步

还没做:学这一站时第一页就做它

知识点 9 个

  • 为什么必须评测:输出不确定,改一处坏一片
  • 评测集:从真实问题里收,扩到 50 条
  • 怎么打分:规则断言、参考答案、LLM 当评委
  • 不只看结果,也看过程(轨迹评测)
  • Tracing:每次模型和工具调用的耗时、token
  • 线上指标:成功率、成本、P95 延迟、转人工率
  • 评测进 CI:改提示词要过门禁
  • 提示词和 Skill 的版本管理v2
  • 换模型、升级模型怎么回归v2

值班助手 · 这一站

用例扩到 50 条,加自动打分,接上 tracing;故意改坏一次提示词,看评测能不能抓到;再换一个模型跑一遍。

怎么算过关

  • 改一次提示词,能用数字说出变好还是变坏,以及差别是不是噪声
  • 换一个模型跑完评测,给出能不能换的结论
  • 随便挑一次请求,看得到每一步花了多少时间和 token

Java 老朋友

评测集 ≈ 单元测试加压测,但结果是通过率,不是全过或全挂;Tracing ≈ SkyWalking、Zipkin 那套链路追踪,只是每一段多了 token 和成本;提示词版本 ≈ 配置中心的版本和灰度。

补给站

系统压测 响应时间为什么越压越长 OpenTelemetry 链路追踪 够用的统计:样本量和置信区间

10 生产化与 Agent Infra专家v2 加强04/12–05/02 · 3 周 · 78 小时 架构师的老本行接上新东西:让 agent 在真实流量下不崩、不贵、不被骗,用户用得上。 大促夜里 1000 个告警同时涌进来 0%

① 先看全景

大促夜里 1000 个告警同时涌进来

网关、队列、限流、降级、成本看板各做了什么

还没做:学这一站时第一页就做它

知识点 10 个

  • 可靠性:超时、重试、熔断、降级到备用模型
  • 限流和配额:供应商的速率上限、自己的令牌桶
  • AI 网关:模型管理、token 限流、工具过滤v2
  • 成本和延迟:缓存、模型路由、流式、并行
  • 长任务架构:队列、工作者、状态存储、进度推送
  • 提示注入:直接注入和间接注入
  • 多租户、权限、审计、脱敏
  • 最小交互界面:流式输出、反馈按钮、转人工v2
  • 部署:容器、扩容、密钥管理、私有化
  • 压测和故障演练

值班助手 · 这一站

上线版:AI 网关、鉴权限流、队列跑长任务、超时重试降级、成本看板、提示注入防护,加一个最小网页界面。做一次压测,演练三种故障:模型超时、被限流、工具挂掉。

怎么算过关

  • 交一份压测报告和三份故障演练记录
  • 交一份安全清单,每条写清防的是哪种攻击
  • 同事能在网页上用它,反馈按钮的数据进了评测集

Java 老朋友

AI 网关 ≈ Spring Cloud Gateway 加一层 token 计量;护栏 ≈ Filter 链和 Spring Security,但攻击写在自然语言里,正则拦不全;长任务 ≈ Kafka 消费加 offset 提交,但重放一步时模型可能做出不同决定,所以工具必须幂等。

11 后训练与 RL:懂原理,跑通一次专家v2 新站05/03–05/16 · 2 周 · 52 小时 知道什么时候该训模型、什么时候改提示词就够;用自己的评测集当奖励,亲手训一次小模型。 从线上 trace 到一个更准的小模型 0%

① 先看全景

从线上 trace 到一个更准的小模型

收数据、定奖励、训练、评测、部署上线

还没做:学这一站时第一页就做它

知识点 7 个

  • 后训练全景:SFT、DPO、RLHF、GRPO 各解决什么
  • 奖励从哪来:能自动判对错的奖励、奖励模型、人类偏好
  • 什么时候值得训模型,什么时候改提示词就够
  • LoRA 微调一个开源小模型
  • 用 GRPO 在分诊任务上做一次强化学习
  • 部署开源模型:vLLM、Ollama
  • 数据飞轮:从线上 trace 和反馈到训练数据

值班助手 · 这一站

拿站 09 的评测集当奖励,租一张云 GPU,用 LoRA 和 GRPO 训一个开源小模型做告警分诊;用 vLLM 部署起来,接进模型客户端,和大模型比准确率、延迟、成本。

怎么算过关

  • 交一张三列对比表:小模型训练前、训练后、大模型
  • 讲清 SFT、DPO、GRPO 的区别,以及各自要什么数据
  • 说得出你的场景下训模型值不值

Java 老朋友

提示词 ≈ 配置文件,微调 ≈ 改源码重新编译:改得深,效果稳。不同的是编译结果是确定的,训练要靠评测证明变好了,还可能把别的能力弄坏。

补给站

够用的深度学习:张量、损失、梯度、PyTorch 入门 GPU、显存和云 GPU 怎么租

12 毕业作品与专家方向专家05/17–05/30 · 2 周 · 52 小时 把半年多的东西变成别人能验证的作品,再选一个方向往深处走。 值班助手走完一圈 0%

① 先看全景

值班助手走完一圈

从告警进来到复盘报告写完,经过的所有部件

还没做:学这一站时第一页就做它

知识点 5 个

  • 作品集:值班助手全部开源,附架构文档和评测报告
  • 一个独立的开源 MCP 服务端
  • 复盘:把 30 周的学习日志整理成文
  • 选一个专家方向深入
  • 跟进新东西的方法:先上地图,再决定学不学

值班助手 · 这一站

1.0 公开发布。专家方向任选:Agent Infra 与 AI 网关、企业 Java 与 AI 集成、编码 agent 与开发者工具、深入后训练与 RL、多模态与 computer use。前两个和你的 Java 架构背景最对口。

怎么算过关

  • 别人照着你的仓库,30 分钟内能跑起来
  • 能用 20 分钟讲清整个系统的每个设计取舍

Java 老朋友

专家 ≈ 你熟悉的架构师:不在于会的最多,而在于每个取舍都说得清,并且对结果负责。

补给站

这一站不加新补给,用的是前面攒下的全部东西。

一个项目走完全程:值班助手

不做十几个玩具,只做一个越长越大的系统。题目选线上排障,是因为它用得上你最强的东西:JVM、线程池、Redis、Kafka 的排障经验。蚂蚁 CodeFuse 的招聘要求里,要做的也正是这类日志排查、根因判断的 agent。

危险操作先问人(04 · 08) 入口 告警、网页、IDE AI 网关 鉴权 · 限流 · 护栏 10 任务队列 + 状态 长任务 · 断点续跑 10 08 请求 排队 取任务 Agent 编排 04 08 主 agent:分诊 · 规划 查日志 查指标 查笔记 08 上下文:压缩 · 记忆 05 提示词 / 回复 模型客户端 结构化输出 · 重试 · 降级 · 缓存 03 10 API 大模型 + 自训小模型 02 11 观测与评测 Tracing · 评测集回归 · 成本看板 09 trace MCP MCP 工具层 07 日志检索 · GC 日志解析 01 04 线程 dump 分析 04 jcmd / jstat(只读沙箱) 04 建工单 · 发通知(先审批) 08 知识库检索 · 记忆 06 05 向量库 · 学习笔记 · 故障单 圆圈 = 第几站加上,颜色 = 等级 入门 进阶 高级 专家
值班助手的最终样子。请求先过 AI 网关和队列,再交给 agent 编排;编排通过模型客户端问大模型或自训的小模型,通过 MCP 调排障工具、写操作和知识库;每一次调用都留下 trace,进评测和成本看板。手机上可以左右滑动看全图。
  1. 01GC 日志小工具和接口
  2. 03告警分诊服务(两种语言)
  3. 04排障 SOP、10 条用例、手写 agent v1
  4. 05跨会话记忆:系统病历
  5. 06知识库和带引用的复盘报告
  6. 07工具拆成 MCP 服务端和 Skill
  7. 08框架重写、多 agent、第一次写操作
  8. 0950 条评测集和 tracing
  9. 10上线:网关、队列、护栏、网页
  10. 11自训的分诊小模型
  11. 121.0 开源发布

讲法:AI 部分一律从零讲

读者是有经验的 Java 后端。经验决定讲多快、用什么打比方,不决定从哪讲起:天天调接口,也可能说不清温度设成 0 结果为什么还会变。

AI 部分(新的)

当零基础讲:往下讲两层,前置知识写足。每个新概念先挂到一个 Java 老朋友上,再指出哪里不像。

例:讲 Embedding,先讲向量和距离,再讲模型怎么把一句话变成一串数,最后说它和 hashCode 哪里相反。

Java 部分(老本行)

从这一站要解决的问题讲起,往下讲一层;仓库里已经有的页面直接链过去,不重讲。

例:讲限流,从“模型供应商每分钟只给 N 次”讲起,再讲令牌桶。

下面 17 个比方是这门课的骨架:每个 AI 概念都先从你认识的东西出发。红色那行最要紧,比方失效的地方正是新东西的精华。

调用大模型≈ 调远程 HTTP 服务03

不像同样的输入,不保证同样的输出

多轮对话≈ 无状态 HTTP + session03

不像历史越长,每次越贵越慢

上下文窗口≈ 堆内存上限02

不像不报 OOM,而是悄悄抓不住重点

提示词缓存≈ PreparedStatement 复用03

不像只认一字不差的前缀,改一个字就失效

结构化输出≈ DTO + @Valid03

不像生成方自己会出错,校验失败要重试

Embedding≈ hashCode02

不像意思近的要靠近,hashCode 偏要散开

工具定义≈ RPC 接口04

不像模型只提议调用,执行的是你的代码;它会传错参数

Agent 循环≈ while + 状态机04

不像下一步由模型决定,必须有上限

记忆系统≈ 缓存 + 淘汰策略05

不像先要判断值不值得记,新旧记忆还会互相矛盾

RAG≈ 先查缓存再回源06

不像查到的是“相似”不是“命中”,可能拿错

MCP≈ JDBC 驱动 / SPI07

不像驱动是你挑的可信代码,MCP 服务端可能不可信

Dify 工作流≈ Flowable 流程引擎08

不像节点里是概率模型,每个节点都要评测

多 agent≈ 微服务拆分08

不像每个 agent 都要重读上下文,token 成倍涨

评测集≈ 单元测试09

不像结果是通过率,要分清进步还是噪声

护栏≈ Filter 链 / Spring Security10

不像攻击写在自然语言里,正则拦不全

断点续跑≈ Kafka 的 offset 提交10

不像重放一步,模型可能做出不同决定,工具要幂等

微调≈ 改源码重新编译11

不像结果不确定,要靠评测证明变好了,还可能把别的能力弄坏

每周 26 小时怎么花,怎么算学会

七成给主线,三成给补给。主线里“做”占得最多,看懂了不算,要跑起来、讲出来。

学 6 小时:先看全景页,再读知识点页 做 9 小时:写值班助手的代码 讲和记 3 小时:自测、录讲解、写日志 补给 8 小时:Java 板块和待做补给

一格是一周。06 站的斜纹是春节那一周,最后一格是机动周;落后了就用机动周补,不压缩“做”的时间。红线是今天。

每个知识点走四级,打勾以“用上”为准

  1. 读懂看着图能把这一页讲给自己听,预测题答对一半以上页面上的“读懂”
  2. 跑通代码进了仓库,能跑;换个参数也知道会怎样页面上的“跑通”
  3. 讲出合上页面讲 5 分钟,录下来,以后能直接当素材页面上的“讲出”
  4. 用上用进了值班助手,提交记录里看得到页面上的“✓ 用上”

每次状态变化都是公开仓库里的一次提交,带日期,谁都能查。“我用自己的学习证明这张地图可靠”靠的就是这串记录,页面写了多少篇不算数。

Java 后端架构板块:44 篇挂在哪

之前学的都归到这个板块,当主线的补给库。一半会在主线上用到;另一半是架构师的储备,主线暂时用不上,不用再往深挖。这个板块有自己的地图:Java 后端架构学习地图,主线走完以后按它系统走一遍。

彩色 23 篇:主线会用到(颜色是最早用到它的那一站的等级)灰色 21 篇:储备

储备页不是白学:面试和架构评审还会用到。只是按现在的目标,它们排在主线后面。主线用到的 Java 和基础知识里还缺 16 个,在各站“补给站”里标着“待做”,到那一站再做。

为什么这样排

每个排法都放弃了另一种做法。写清放弃了什么、为什么,以后改地图时知道哪些能动、哪些别动。

先手写,再用框架

选站 04 不用框架写 agent,站 08 再学框架和低代码

没选一上来学 LangChain、Dify 或 Spring AI

关键约束:框架把循环藏起来了。出了问题看不到消息往返,只能改配置碰运气。

评测从站 04 就开始

选站 04 先写 10 条用例,站 09 做成体系

没选开发都学完了再补评测

关键约束:26 份招聘要求里 19 份提到评测,排第一。没有用例,每次改提示词都在碰运气。

一个项目贯穿全程

选值班助手每站长一块

没选每站一个独立小 demo

关键约束:作品要有深度。十几个玩具证明不了你能把东西做到上线。

Python 学原理,Java 做特色

选主线用 Python,站 03、07、08 各出一版 Java

没选只用 Java,或者只用 Python

关键约束:18 份要 Python,新工具几乎都先有 Python 版;但也有 13 份接受 Java,这是你的读者和你的优势所在。

架构知识按需补

选每站列补给,用到再补

没选先把架构知识系统学完,再上 AI

关键约束:架构知识没有尽头,“学完再说”会一直拖住主线。带着问题补的东西也记得最牢。

RL 只到懂原理、跑通一次

选站 11 两周:原理加一次小模型实训

没选三周以上深入训练,或者完全不碰

关键约束:只有 6 份提到,其中 4 份是加分项或算法岗;应用岗更看重评测和数据闭环。想走算法方向,站 12 再深入。

原理不绑定某一家模型

选讲原理,换模型只改客户端一层

没选围着一家模型的接口教

关键约束:模型几个月就换一代,国内读者用的模型也不一样。课程要比任何一个模型活得久。

地图怎么用

想到一个问题

↓ 先用页首的“先定位”查一下它在哪

在主线上

到那一站再学。正好是当前这站,就马上学。

在 Java 板块

主线用到时再补。急用就做一页快速档。

不在地图上

记进下面的“以后再说”,两周回看地图时再决定加不加。

每站结束

  1. 回到全景:合上页面把这一站的场景从头讲一遍,可以直接讲给我听
  2. 做“怎么算过关”里的检验
  3. 写学习日志:卡在哪、猜错了什么,用你自己的话写
  4. 告诉我更新进度,提交一次,日期公开可查

每两周

  1. 回看地图:哪站超时了,哪站太松
  2. 处理“以后再说”:加进地图,或者划掉
  3. 有新的招聘要求就加进统计,改了什么写在页尾,版本号加一

以后再说