LangChain调用Qwen3-1.7B全流程，附代码示例

LangChain调用Qwen3-1.7B全流程，附代码示例

1. 引言：为什么用LangChain对接Qwen3-1.7B？

你刚在CSDN星图镜像广场拉起一个Qwen3-1.7B的Jupyter环境，终端里模型已经跑起来了，但接下来怎么让程序“真正用上它”？不是手动curl发请求，也不是写一堆HTTP封装——而是像和真人对话一样，自然、可扩展、能编排。

LangChain就是这个桥梁。它不关心你后端是Qwen、Llama还是本地Ollama，只提供统一的chat_model.invoke()接口。对开发者来说，这意味着：

• 不用重复造轮子写API调用逻辑
• 能直接复用LangChain生态里的记忆、工具、链式调用能力
• 后期切换模型只需改一行model="Qwen3-1.7B"，业务代码零改动

本文不讲大道理，只带你从镜像启动那一刻起，完整走通一条真实可用的调用链路：启动→配置→提问→流式响应→错误排查→效果验证。所有代码均可直接粘贴运行，无需额外安装或魔改。

注意：文中所有地址、端口、参数均基于你实际启动的镜像环境，不是通用模板。看到8000端口、gpu-pod69523bb78b8ef44ff14daa57-8000.web.gpu.csdn.net这类地址时，请务必替换成你自己的Jupyter服务地址（后面会教你怎么找）。

2. 环境准备与镜像启动确认

2.1 确认镜像已正确运行

在CSDN星图镜像广场启动Qwen3-1.7B后，你会得到一个类似这样的Jupyter访问链接：
https://gpu-pod69523bb78b8ef44ff14daa57-8000.web.gpu.csdn.net/lab

打开这个链接，进入Jupyter Lab界面。关键一步：检查模型服务是否就绪。
在任意Notebook中执行：

import requests # 替换为你自己的base_url（去掉/v1后缀） base_url = "https://gpu-pod69523bb78b8ef44ff14daa57-8000.web.gpu.csdn.net" try: response = requests.get(f"{base_url}/health") print(" 模型服务健康检查通过") print("返回内容:", response.json()) except Exception as e: print("❌ 服务未就绪，请检查：") print("- 是否已点击镜像页面的'启动'按钮") print("- 浏览器地址栏端口号是否为8000（不是8888或其他）") print("- 网络是否能访问该域名（可尝试在终端ping测试）")

如果返回{"status": "healthy"}，说明后端模型服务已就绪。如果报错，常见原因有三个：

• 地址末尾多写了/v1（base_url应只到域名+端口，/v1由LangChain自动拼接）
• 端口不是8000（镜像文档明确要求端口为8000）
• 镜像还在加载中（首次启动可能需1-2分钟，观察右上角CPU/内存使用率是否稳定）

2.2 安装LangChain依赖（仅需一次）

在Jupyter中新建Terminal（File → New → Terminal），执行：

pip install langchain langchain-openai python-dotenv

为什么只装langchain-openai？
因为Qwen3-1.7B镜像实现了OpenAI兼容API协议（即/v1/chat/completions等标准路径），LangChain用ChatOpenAI类就能无缝对接，无需额外适配器。

3. LangChain核心配置详解

3.1 最简可用配置（先跑通）

把镜像文档里的代码复制进Notebook，稍作调整即可运行：

from langchain_openai import ChatOpenAI # 关键：替换为你自己的base_url（格式：https://xxx-8000.web.gpu.csdn.net） chat_model = ChatOpenAI( model="Qwen3-1.7B", # 模型名称，必须与镜像一致 temperature=0.5, # 创意度：0=确定性输出，1=高度随机 base_url="https://gpu-pod69523bb78b8ef44ff14daa57-8000.web.gpu.csdn.net/v1", api_key="EMPTY", # Qwen镜像固定值，非真实密钥 extra_body={ "enable_thinking": True, # 启用思维链推理 "return_reasoning": True, # 返回思考过程（非最终答案） }, streaming=True, # 开启流式响应，适合长回答 ) # 测试调用 response = chat_model.invoke("你是谁？请用一句话介绍自己。") print("模型回答：", response.content)

运行后，你应该看到类似这样的输出：
模型回答： 我是通义千问Qwen3-1.7B，阿里巴巴研发的新一代大语言模型，具有17亿参数，支持32K上下文长度...

3.2 配置参数逐项说明（避坑指南）

3.3 如何找到你自己的base_url？

如果你不确定镜像地址，按以下步骤操作：

1. 在Jupyter Lab左侧导航栏，点击Launcher标签页
2. 找到Server Information卡片，点击Open
3. 在弹出的窗口中，查找Public URL字段，格式类似：
   https://gpu-pod69523bb78b8ef44ff14daa57-8000.web.gpu.csdn.net
4. 手动在末尾添加/v1，即得到完整base_url

小技巧：把这个地址存为环境变量，避免硬编码
在Notebook第一行加：

import os os.environ["OPENAI_BASE_URL"] = "https://your-real-url-8000.web.gpu.csdn.net/v1"

4. 实战调用：从单次提问到流式对话

4.1 单次调用（适合简单问答）

# 提问：让模型解释技术概念 question = "请用初中生能听懂的话，解释什么是‘注意力机制’？" response = chat_model.invoke(question) print("=== 单次调用结果 ===") print("问题：", question) print("回答：", response.content.strip()) print("耗时：", response.response_metadata.get("token_usage", {}).get("total_tokens", "未知"), "tokens")

4.2 流式响应（适合长文本生成）

当回答较长时，streaming=True能让文字像打字一样逐字出现，提升用户体验：

from langchain_core.messages import HumanMessage # 构建消息对象（更符合聊天场景） messages = [HumanMessage(content="请写一首关于春天的五言绝句，要求押韵且有意境")] print("=== 流式响应 ===") print("问题：", messages[0].content) print("回答：", end="", flush=True) # 逐chunk接收并打印 for chunk in chat_model.stream(messages): print(chunk.content, end="", flush=True) # flush=True确保实时显示 print("\n") # 换行

4.3 多轮对话（带记忆）

LangChain的RunnableWithMessageHistory可管理对话历史，让模型记住上下文：

from langchain_community.chat_message_histories import ChatMessageHistory from langchain_core.runnables.history import RunnableWithMessageHistory # 初始化历史记录 store = {} def get_session_history(session_id: str): if session_id not in store: store[session_id] = ChatMessageHistory() return store[session_id] # 创建带记忆的链 with_message_history = RunnableWithMessageHistory( chat_model, get_session_history, input_messages_key="messages", history_messages_key="history", ) # 第一轮对话 config = {"configurable": {"session_id": "abc123"}} response1 = with_message_history.invoke( [HumanMessage(content="北京的天气怎么样？")], config=config ) print("第一轮回答：", response1.content) # 第二轮（模型会记住上文） response2 = with_message_history.invoke( [HumanMessage(content="那上海呢？")], config=config ) print("第二轮回答：", response2.content)

效果验证：第二轮回答中，模型会自动对比北京和上海的天气，而不是孤立回答。

5. 进阶技巧：提升回答质量与稳定性

5.1 提示词工程（Prompt Engineering）

Qwen3-1.7B对提示词结构敏感，推荐使用标准聊天模板：

from langchain_core.prompts import ChatPromptTemplate # 定义结构化提示词 prompt = ChatPromptTemplate.from_messages([ ("system", "你是一名资深AI工程师，回答要准确、简洁、避免废话。"), ("human", "{input}") ]) # 组装链 chain = prompt | chat_model # 调用 result = chain.invoke({"input": "用Python写一个快速排序函数，并解释每行作用"}) print("结构化提示词结果：\n", result.content)

5.2 错误处理与重试机制

网络波动可能导致调用失败，加入重试逻辑：

from langchain_core.runnables import RunnableRetry # 包装重试逻辑（最多重试3次，间隔1秒） retryable_model = RunnableRetry( runnable=chat_model, max_retries=3, wait_exponential_jitter=True, ) try: response = retryable_model.invoke("你好") print("调用成功：", response.content) except Exception as e: print("多次重试后仍失败：", str(e))

5.3 性能监控（查看Token消耗）

Qwen3-1.7B支持返回详细Token统计，用于成本控制：

response = chat_model.invoke("请总结人工智能发展的三个关键阶段") usage = response.response_metadata.get("token_usage", {}) print("=== Token使用详情 ===") print(f"输入Token数：{usage.get('prompt_tokens', 0)}") print(f"输出Token数：{usage.get('completion_tokens', 0)}") print(f"总Token数：{usage.get('total_tokens', 0)}") print(f"模型版本：{response.response_metadata.get('model', 'unknown')}")

6. 常见问题排查清单

7. 总结：一条可复用的生产级调用链路

回顾整个流程，你已经掌握了一条开箱即用、可直接嵌入生产环境的LangChain调用方案：

1. 环境层：通过CSDN星图一键启动Qwen3-1.7B，省去GPU驱动、CUDA、模型加载等复杂步骤
2. 协议层：利用OpenAI兼容API，用ChatOpenAI类屏蔽底层差异，未来切换模型零成本
3. 应用层：支持单次调用、流式响应、多轮对话三种模式，覆盖从简单问答到智能客服的全场景
4. 运维层：内置重试、Token监控、错误分类，让调用稳定可控

这条链路的价值在于：它不是一个Demo，而是一个最小可行产品（MVP）的起点。你可以在此基础上：

• 接入企业知识库（用LangChain的RetrievalQA）
• 对接微信公众号（用FastAPI封装API）
• 构建自动化报告系统（用LangChain的Agent调用Python工具）

Qwen3-1.7B的17亿参数和32K上下文，让它在保持轻量的同时具备扎实的推理能力。而LangChain，则是你把这种能力转化为真实业务价值的最短路径。

下一步建议：

• 尝试将本教程中的代码封装成一个qwen_client.py模块，供团队其他项目复用
• 用langchain-cli创建一个CLI工具，让非技术人员也能调用模型
• 在CSDN星图中部署一个Web UI（如Gradio），把模型能力变成可视化服务

--- > **获取更多AI镜像** > > 想探索更多AI镜像和应用场景？访问 [CSDN星图镜像广场](https://ai.csdn.net/?utm_source=mirror_blog_end)，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。