本文详细讲解如何将 Ollama 部署在本地，并通过内网穿透实现远程调用，并深入对比直连 Ollama vs 通过 One-API 统一网关调用两种架构，给出完整实战方案与最佳实践，适合个人开发者、企业私有化部署、内网大模型调用场景。
一、背景与需求分析
随着本地大模型能力不断提升，越来越多开发者选择使用Ollama 在本地运行大模型，例如：
- llama3.1
- qwen2
- deepseek-r1
- mistral
但随之而来的问题是：
如何在外网远程调用本地运行的 Ollama？
核心需求：
- 本地 GPU 跑模型
- 远程电脑 / 服务器 / 笔记本 / 手机可访问
- 安全
- 稳定
- 低延迟
于是就引出了本文的两大方案：
- 直接对 Ollama 进行内网穿透
- 通过 One-API 作为统一网关中转
二、整体架构方案对比
方案 A：直连 Ollama（推荐个人使用 ⭐⭐⭐⭐⭐）
远程客户端 ↓ 内网穿透 ↓ Ollama 本地模型优点：
- 架构极简
- 延迟最低
- 部署最简单
- 成本最低
缺点：
- 无统一鉴权
- 无限流
- 无审计日志
- 容易被恶意刷爆 GPU
方案 B：One-API 中转（企业级 ⭐⭐⭐⭐⭐）
客户端 → One-API → 内网穿透 → Ollama优点：
- 统一 API 接口（OpenAI 兼容）
- 多模型统一管理
- 鉴权 + 限流 + 日志
- 支持多用户 / 多租户
缺点：
- 架构更复杂
- 延迟略微增加
适用建议
| 使用场景 | 推荐方案 |
|---|---|
| 个人自用 | 方案 A |
| 多设备 | 方案 A |
| 多用户 | 方案 B |
| 企业内网 | 方案 B |
| SaaS 服务 |
