大型语言模型
上下文工程的六个组件
以下是一个粗略的数学描述，用于确定你的AI应用输出质量的因素：
- 模型选择：15%
- 提示：10%
- 其他所有组件（检索、记忆、工具、查询处理）：75%
我们见过许多团队过度关注那错误的25%，而实际问题却出在别处。
这正是为什么“上下文工程”悄然成为当今AI工程中最重要的技能。
它是一门艺术，旨在以正确的格式、在正确的时间向模型提供正确的信息。
它包含六个核心组件，如下方的视觉图所示：
提示技术
许多人在这里就停步不前了。但即使在这里，其深度也远超人们所认识到的。
经典提示关乎模式识别。你给模型提供示例，它就能学习到你想要的格式、风格和逻辑。少样本提示对于结构化任务依然效果显著。
少样本提示是一种技术，通过在提示中提供少数几个示例（如一个或几个），让大语言模型学习并模仿给定的模式或风格。这减少了数据需求，适合结构化任务，如分类或格式化文本。
像Chain-of-thought prompting这样的技术为模型提供了思考空间。不是直接要求给出答案，而是引导它逐步推理。这一简单的改变能显著提升复杂问题上的准确性。
Chain-of-thought prompting是一种提示技术，它要求语言模型在生成答案之前先输出推理步骤，这有助于提高模型在需要逻辑思考的任务上的表现。
查询增强（Query Augmentation）
用户在写查询时往往很懒。
当有人输入“我的API调用总是失败，该怎么办？”时，这样的查询对检索系统来说几乎无用。
查询增强通过多种技术来解决这个问题：
Query Augmentation是一种信息检索技术，通过扩展或重写用户查询来改善搜索结果的准确性和相关性，特别是在用户查询过于简短或不明确时。
- 查询重写：大语言模型（LLM）接收模糊问题并将其转换。
- 查询扩展：添加相关术语和同义词以扩大搜索范围。
- 查询分解：将复杂问题拆分为可独立回答的子问题。
- 查询智能体：使用智能体基于初始结果动态决定如何重新表述查询。
长期记忆
假设一个智能体与用户进行了一次精彩的对话。用户分享了偏好、上下文和历史记录。但会话结束时，所有信息都丢失了。
长期记忆通过外部存储来解决这个问题：
- 向量数据库：存储过去交互的嵌入向量，用于语义搜索。
- 图数据库：将对话存储为关系和实体。
记忆类型也很重要：
- 情景记忆：指特定事件
- 语义记忆：维护用户的一般事实，以及
- 程序性记忆：处理用户喜欢事情如何被完成的方式
开源工具如[缺失名称]使得这变得可访问，并且你无需从头构建。
短期记忆
短期记忆就是对话历史。这一点看似明显，但往往处理不当。
以下是团队常犯错误的地方：
- 向上下文窗口塞入过多内容（噪音淹没信号）
- 包含不足（模型缺乏关键信息）
- 顺序不佳（重要上下文被埋没在末尾）
- 没有长对话的总结策略
知识库检索
大多数团队将其视为RAG，但这太狭隘了。RAG只是一种模式，并非全貌。
真正的问题是：如何将你的AI连接到组织的数据？
这些知识无处不在，例如：文档、维基、数据库、SaaS工具如Notion和Google Drive、API和代码仓库。
注：嵌入向量是高维空间中表示数据点的数学向量，常用于捕捉语义相似性，使语义搜索能基于内容含义而非关键词匹配找到相关信息。RAG（检索增强生成）是一种结合信息检索和文本生成的技术，通过从外部知识源检索文档来增强大语言模型的回答，从而提供更准确、上下文相关的输出。
检索管道包含三个层次：
- 预处理：如何切分文档？保留哪些元数据？如何处理表格和结构化数据？如何保持一切同步？
- 检索：使用哪种嵌入模型？采用哪种检索策略：向量搜索或与BM25的混合搜索？如何进行重排序？
嵌入模型是将文本转化为向量表示的模型，常用于计算语义相似性；BM25是一种经典的信息检索算法，基于词频和文档长度进行评分；重排序是对初步检索结果应用更复杂的模型进行优化排序的过程。
- 增强：如何格式化检索到的上下文，包括引注，处理矛盾等？
开源工具如（待补充）提供了端到端的解决方案。无需为每个数据源构建自定义连接器，你可以同步知识库，并统一访问Notion、Google Drive、数据库等。
无需改动模型，只需调整分块策略或妥善同步知识源，就能使检索质量提升十倍。
工具与智能体
工具能扩展模型的能力，因为如果没有工具，模型就只能局限于其权重和上下文窗口中的信息。此外，智能体负责决定何时以及如何使用这些工具。智能体的基本运作循环如下所示：查询 → 思考 → 行动 → 观察 → （重复此过程直至目标满足） → 响应。
- 单智能体架构适用于简单任务。大多数聊天机器人和智能助手都属于此类。
- 多智能体架构更适合复杂工作流。在这种架构中，专门的智能体相互协作：一个负责研究，另一个负责写作，还有一个负责批判。它们之间传递工作成果。
MCP让我们更进一步！
- 传统的工具集成需要 N×M 个连接点。例如，如果有 3 个模型和 4 个工具，就需要 12 个集成点。
- MCP 将其简化为 N+M。模型和工具都连接到一个标准协议层。
解释：MCP（可能指模型控制协议或类似标准）是一种协议，旨在标准化模型与工具之间的交互，从而减少集成复杂度，从乘法关系（N×M）优化为加法关系（N+M）。这降低了系统开发和维护的成本。
曾经，提示工程让人以为魔法的关键在于精心设计完美的指令。
而上下文工程认识到，真正的魔法在于整个信息管道：
- 你提供什么上下文？
- 这些上下文来自哪里？
- 如何检索、过滤和格式化？
- 模型能利用工具做什么？
- 它在跨会话中能记住什么？
我们创建的视觉图分解了我们今天讨论的所有 6 个组件：
对于2026年的AI应用开发者，这正是你必须掌握的核心心智模型。
普通人如何抓住AI大模型的风口？
领取方式在文末
为什么要学习大模型？
目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 ， 大模型作为其中的重要组成部分 ， 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力， 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ，为各行各业带来了革命性的改变和机遇 。
目前，开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景，其中，应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过30%。
随着AI大模型技术的迅速发展，相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业：
人工智能大潮已来，不加入就可能被淘汰。如果你是技术人，尤其是互联网从业者，现在就开始学习AI大模型技术，真的是给你的人生一个重要建议！
最后
只要你真心想学习AI大模型技术，这份精心整理的学习资料我愿意无偿分享给你，但是想学技术去乱搞的人别来找我！
在当前这个人工智能高速发展的时代，AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长，真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料，能够帮助更多有志于AI领域的朋友入门并深入学习。
真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】
大模型全套学习资料展示
自我们与MoPaaS魔泊云合作以来，我们不断打磨课程体系与技术内容，在细节上精益求精，同时在技术层面也新增了许多前沿且实用的内容，力求为大家带来更系统、更实战、更落地的大模型学习体验。
希望这份系统、实用的大模型学习路径，能够帮助你从零入门，进阶到实战，真正掌握AI时代的核心技能！
01教学内容
从零到精通完整闭环：【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块，内容比传统教材更贴近企业实战！
大量真实项目案例：带你亲自上手搞数据清洗、模型调优这些硬核操作，把课本知识变成真本事！
02适学人群
应届毕业生：无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。
零基础转型：非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界。
业务赋能突破瓶颈：传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型。
vx扫描下方二维码即可
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】
本教程比较珍贵，仅限大家自行学习，不要传播！更严禁商用！
03入门到进阶学习路线图
大模型学习路线图，整体分为5个大的阶段：
04视频和书籍PDF合集
从0到掌握主流大模型技术视频教程（涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向）
新手必备的大模型学习PDF书单来了！全是硬核知识，帮你少走弯路（不吹牛，真有用）
05行业报告+白皮书合集
收集70+报告与白皮书，了解行业最新动态！
0690+份面试题/经验
AI大模型岗位面试经验总结（谁学技术不是为了赚$呢，找个好的岗位很重要）
07 deepseek部署包+技巧大全
由于篇幅有限
只展示部分资料
并且还在持续更新中…
真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】
？＜/span＞)