目录
- 一、概念层次说明
- 二、主流推理策略详解
- 三、策略对比与选型
- 四、关于技术选型的说明
- 五、落地建议
- 六、落地智能体典型策略提示词
一、概念层次说明
在讨论 Agent 技术时，常常会涉及多个层次的概念，它们之间存在清晰的层级关系。理解这些层次有助于准确评估技术方案和进行技术选型。
各层次定义
架构层定义了一个完整 Agent 系统应具备的核心能力模块：规划负责任务分解，执行负责调用工具完成子任务，记忆负责保存上下文和历史信息，反思负责自我评估和纠错。这些是描述 Agent "需要什么能力"的维度。
策略层是具体的方法论，规定了模型在推理和执行过程中"如何组织思考流程"。例如 ReAct 规定了思考与行动的交替模式，CoT 规定了分步推理的方式。策略之间可以组合使用。
实现层是将上述策略落地的代码框架或工具库。框架的选择取决于项目需求、团队技术栈、可维护性等因素，与策略本身是正交的——同一种策略可以用不同框架实现，也可以完全自研。
二、主流推理策略详解
CoT（Chain of Thought）基础策略
CoT 是最基础的推理增强策略，核心思想是让模型在输出最终答案前，显式地展示中间推理过程。研究表明，分步推理能显著提升模型在复杂问题上的准确率。
ReAct（Reasoning + Acting）交互策略
ReAct 在 CoT 的基础上引入了"行动"能力，模型不再只是纯推理，而是能够调用外部工具获取实时信息，然后根据观察结果继续推理。这解决了 LLM 知识静态、无法获取实时信息的问题。
Plan-and-Execute规划策略
与 ReAct 的"边想边做"不同，Plan-and-Execute 采用"先规划后执行"的模式。首先让模型生成完整的任务计划，然后逐步执行各个子任务。这种方式更适合需要全局视角的复杂任务。
Reflexion / Self-Refine反思策略
在执行完成后增加自我反思环节，让模型评估结果质量、总结经验教训，并根据反思结果进行修正或重试。这种机制能有效提升任务成功率和输出质量。
LATS（Language Agent Tree Search）搜索策略
将蒙特卡洛树搜索（MCTS）的思想引入 Agent 决策过程。模型会探索多条可能的行动路径，评估每条路径的价值，最终选择最优方案。适合高风险、需要探索多种可能性的复杂决策场景。
三、策略对比与选型
| 策略 | 复杂度 | 工具调用 | 规划能力 | 自我纠错 | Token 成本 |
|---|---|---|---|---|---|
| CoT | 低 | ❌ | 弱 | ❌ | 低 |
| ReAct | 中 | ✅ | 中 | 有限 | 中 |
| Plan-and-Execute | 中 | ✅ | 强 | 需额外实现 | 中 |
| Reflexion | 中高 | 可选 | 中 | ✅ | 中高 |
| LATS | 高 | ✅ | 强 | ✅ | 高 |
四、关于技术选型的说明
自研框架 vs 开源框架
选择自研框架还是使用 LangChain 等开源框架，需要根据项目实际情况综合评估：
Agent 的核心循环逻辑（LLM 调用 + 工具执行 + 结果处理）本身并不复杂。当项目需求明确、需要精细控制执行流程时，自研往往是更务实的选择。LangChain 的抽象层次较多，在需要定制化调整时反而会增加开发成本。
五、落地建议
六、智能体典型策略提示词
CoT（Chain of Thought）
最简单，就是引导模型分步推理：
请一步步思考，然后给出最终答案。 问题：小明有 5 个苹果，给了小红 2 个，又买了 3 个，最后有几个？ 思考过程： 1. 小明原来有 5 个苹果 2. 给了小红 2 个，剩下 5 - 2 = 3 个 3. 又买了 3 个，现在有 3 + 3 = 6 个 答案：6 个ReAct
推理和行动交替，带工具调用：
你是一个助手，可以使用以下工具： - search(query): 搜索信息 - calculator(expression): 计算数学表达式 请按照以下格式回答问题： Thought: 我需要思考下一步该做什么 Action: 工具名称(参数) Observation: 工具返回的结果 ... (重复直到得出答案) Thought: 我现在知道答案了 Answer: 最终答案 问题：周杰伦出生那年中国人口是多少？ Thought: 我需要先查周杰伦的出生年份 Action: search(周杰伦 出生年份) Observation: 周杰伦出生于 1979 年 Thought: 现在我需要查 1979 年中国人口 Action: search(1979年 中国人口) Observation: 1979 年中国人口约 9.75 亿 Thought: 我现在知道答案了 Answer: 约 9.75 亿Plan-and-Execute
先规划完整步骤，再逐个执行：
你是一个任务规划助手。请先制定完整计划，再逐步执行。 任务：帮我写一篇关于气候变化的博客文章 === 规划阶段 === 请列出完成该任务的步骤： 步骤 1：确定文章大纲和核心观点 步骤 2：收集气候变化的关键数据 步骤 3：撰写引言部分 步骤 4：撰写正文各段落 步骤 5：撰写结论 步骤 6：通读检查，润色修改 === 执行阶段 === 现在开始执行步骤 1...Reflexion / Self-Refine
执行后自我反思并改进：
你是一个会自我反思的助手。 任务：写一个 Python 函数，判断一个数是否是质数。 === 初次尝试 === def is_prime(n): for i in range(2, n): if n % i == 0: return False return True === 反思 === 这个方案有什么问题？ 1. 没有处理 n <= 1 的情况 2. 效率不高，只需要检查到 sqrt(n) 即可 === 改进版本 === def is_prime(n): if n <= 1: return False for i in range(2, int(n**0.5) + 1): if n % i == 0: return False return TrueLATS（简化版）
探索多条路径，评估后选最优：
你需要解决一个问题，请生成多个可能的方案并评估。 问题：如何提高团队的代码质量？ === 生成候选方案 === 方案 A：引入强制代码审查流程 方案 B：增加单元测试覆盖率要求 方案 C：定期进行代码重构 === 评估各方案 === 方案 A：可行性 8/10，效果 7/10，成本 5/10 方案 B：可行性 7/10，效果 8/10，成本 6/10 方案 C：可行性 6/10，效果 6/10，成本 7/10 === 选择最优 === 综合评估后选择方案 A + B 组合实施这些都是"示意性"的 prompt 结构，实际使用时会根据具体场景调整。核心是让你看到每种策略的思维模式是怎么通过 prompt 体现出来的。
如何学习大模型 AI ？
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
但是具体到个人，只能说是：
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段（10天）：初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段（30天）：高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示（Embeddings）
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段（30天）：模型训练
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段（20天）：商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身：基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例：如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。
如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。
)
