AI新纪元：Qwen3.6-35B-A3B Uncensored，无审查、多模态、低显存，引爆你的AI体验！-编程阁

文章介绍了Qwen3.6-35B-A3B Uncensored HauhauCS Aggressive这一基于Qwen架构深度修改的“越狱版”模型，其特点为本地、无审查、多模态、支持Agent、低显存可运行，尤其中文和代码能力强大。文章详细解释了“越狱版”模型的定义及其优势，并说明了为何35B模型低显存也能运行。最后，文章提供了模型下载、部署和启动的详细步骤，以及接入AI Agent的方法，展示了本地AI如何改变行业，使普通用户真正拥有属于自己的AI。

过去大家印象里的本地模型：

很笨，慢，只能简单聊天，配置复杂，显卡要求极高

但现在，随着 MoE（专家混合架构）模型成熟，以及 GGUF 量化生态完善，本地 AI 已经开始真正接近商业闭源模型。

而最近热度最高的模型之一，就是：

Qwen 3.6-35B-A3B Uncensored HauhauCS Aggressive

这是一个基于 Qwen 架构深度修改的“越狱版”模型。

它最大的特点只有一句话：

本地、无审查、多模态、支持 Agent、低显存可运行。

尤其是：

中文能力极强，代码能力非常夸张，支持视觉识图，支持 OpenAI API可接入 Agent 工作流，6G/8G 显卡都能跑

对于很多本地 AI 玩家来说，它已经属于“真正能日用”的阶段。

什么是“越狱版”模型？

官方模型通常都会加入大量安全限制。

比如：

敏感内容过滤，系统级拒答，强制安全策略，提示词限制，输出风格约束

所以很多时候：

你只是正常提问。

模型却直接：

“抱歉，我无法帮助你。”

而 Uncensored版本：则会尽可能移除这些限制。

尤其这个：Aggressive 版本，属于目前最激进的一批。它不仅回答范围更广，而且输出也更加开放。

但重点是：它并不是“只会越狱”的低智商模型。

相反：它本身能力就非常强。

为什么 35B 模型，6G 显存都能跑？

很多人看到：

35B

第一反应：

“这得服务器吧？”

实际上并不是。因为它采用的是：MoE（专家混合架构）

简单理解：模型虽然总参数是 35B。但每次推理：只会激活其中大约 3B 参数。所以：它同时拥有：大模型能力，小模型速度

再加上 GGUF 量化后：

现在甚至：6G 显卡，8G 显卡，普通游戏本

都能运行。

第一部分：模型下载

目前主流版本基本都托管在：Hugging Face，OpenClaw Github，O站社区量化模型库

建议优先下载：

显存	推荐量化
24G+	Q4_K_P
16G	Q4_K_M
8G	IQ3_M
6G	IQ2_M

其中：IQ2_M，是目前低显存最推荐版本之一。

第二部分：下载 llama.cpp

部署推荐使用：llama.cpp Github

这是目前最成熟的本地大模型推理框架之一。

支持：NVIDIA CUDA，AMD Vulkan，Intel Arc，CPU 推理，Windows，Linux，macOS，而且速度非常快。

很多情况下：Ollama，LM Studio

更稳定。

第三部分：目录结构搭建

建议目录结构如下：

AI/ ├─ llama.cpp/ │ ├─ llama-server.exe │ ├─ models/ │ │ ├─ Qwen3.6.gguf │ │ ├─ mmproj.gguf │ ├─ start.bat

其中：mmproj.gguf

是视觉模型关键文件。

如果缺少：上传图片按钮会直接失效。

第四部分：一键启动脚本

创建：start.bat

复制下面内容：

@echo off chcp 65001 >nul title Qwen3.6-35B-A3B cd /d "%~dp0" llama-server.exe ^ -m "models\Qwen3.6.gguf" ^ --mmproj "models\mmproj.gguf" ^ -ngl 999 ^ -c 131072 ^ -n 8192 ^ --host 127.0.0.1 ^ --port 8080 ^ --jinja pause

参数解释（非常重要）

–mmproj

开启多模态视觉支持。

否则：无法识图。

-ngl 999

尽可能把模型加载进 GPU。

显卡推理速度会快很多。

-c 131072

上下文长度。

支持超长记忆。

–jinja

新版 Qwen 非常关键。

如果不加：可能出现：中文乱码，无限重复，回复异常，格式混乱

很多人部署失败：就是漏了这个参数。

第五部分：启动模型

运行：start.bat

随后浏览器打开：http://127.0.0.1:8080

即可进入本地模型界面。

如果看到：聊天框，上传图片按钮，模型信息

说明部署成功。

第六部分：接入 AI Agent

真正让它价值爆炸的：不是聊天。

而是：Agent

推荐接入：Hermes Agent，OpenClaw Github

配置方法非常简单。

API Base

填写：http://127.0.0.1:8080/v1

API Key

随便填写即可。

因为：本地接口根本不验证。

现在它已经能做什么？

现在的本地 Agent：已经不是以前的“聊天机器人”。

而是：真正的自动化 AI。

它已经可以：自动写代码，自动修复 BUG，自动分析图片，自动 OCR，自动工具调用，自动联网，自动执行工作流，长上下文记忆

而且：完全本地运行

意味着：不依赖 API，不消耗 Token，不限次数，没有订阅费用

真正实现：Token 自由，多模态能力到底有多强？

现在Qwen3.6-35B-A3B 已经可以：看懂 UI 截图，分析网页，OCR 识别阅读代码截图，理解复杂画面

配合 llama.cpp 后：实际上已经非常接近：

本地版 ChatGPT Vision

入门配置

RTX 2060 6G
16G 内存

即可运行 IQ2_M。

高端配置

RTX 4090
64G 内存

基本可以真正实现：超长上下文，多 Agent，高速推理，本地工作流

本地 AI 为什么正在改变行业？

过去：AI 是云端服务。

现在：AI 正在变成本地操作系统。

未来很多人电脑里都会长期运行：本地模型，本地 Agent，本地工作流，本地知识库

而：Qwen3.6-35B-A3B 这种模型。

就是这一阶段的重要标志之一。

它意味着：普通用户第一次，真正拥有了属于自己的 AI。

最后

对于正在迷茫择业、想转行提升，或是刚入门的程序员、编程小白来说，有一个问题几乎人人都在问：未来10年，什么领域的职业发展潜力最大？

答案只有一个：人工智能（尤其是大模型方向）

当下，人工智能行业正处于爆发式增长期，其中大模型相关岗位更是供不应求，薪资待遇直接拉满——字节跳动作为AI领域的头部玩家，给硕士毕业的优质AI人才（含大模型相关方向）开出的月基础工资高达5万—6万元；即便是非“人才计划”的普通应聘者，月基础工资也能稳定在4万元左右。

再看阿里、腾讯两大互联网大厂，非“人才计划”的AI相关岗位应聘者，月基础工资也约有3万元，远超其他行业同资历岗位的薪资水平，对于程序员、小白来说，无疑是绝佳的转型和提升赛道。

如果你还不知道从何开始，我自己整理一套全网最全最细的大模型零基础教程，我也是一路自学走过来的，很清楚小白前期学习的痛楚，你要是没有方向还没有好的资源，根本学不到东西！

下面是我整理的大模型学习资源，希望能帮到你。

👇👇扫码免费领取全部内容👇👇

最后

1、大模型学习路线

2、从0到进阶大模型学习视频教程

从入门到进阶这里都有，跟着老师学习事半功倍。

3、入门必看大模型学习书籍&文档.pdf（书面上的技术书籍确实太多了，这些是我精选出来的，还有很多不在图里）

4、AI大模型最新行业报告

2026最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

5、面试试题/经验

【大厂 AI 岗位面经分享（107 道）】

【AI 大模型面试真题（102 道）】

【LLMs 面试真题（97 道）】

6、大模型项目实战&配套源码

适用人群

四阶段学习规划（共90天，可落地执行）

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

大模型 AI 能干什么？
大模型是怎样获得「智能」的？
用好 AI 的核心心法
大模型应用业务架构
大模型应用技术架构
代码示例：向 GPT-3.5 灌入新知识
提示工程的意义和核心思想
Prompt 典型构成
指令调优方法论
思维链和思维树
Prompt 攻击和防范
…

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

为什么要做 RAG
搭建一个简单的 ChatPDF
检索的基础概念
什么是向量表示（Embeddings）
向量数据库与向量检索
基于向量检索的 RAG
搭建 RAG 系统的扩展知识
混合检索与 RAG-Fusion 简介
向量模型本地部署
…

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

为什么要做 RAG
什么是模型
什么是模型训练
求解器 & 损失函数简介
小实验2：手写一个简单的神经网络并训练它
什么是训练/预训练/微调/轻量化微调
Transformer结构简介
轻量化微调
实验数据集的构建
…

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

硬件选型
带你了解全球大模型
使用国产大模型服务
搭建 OpenAI 代理
热身：基于阿里云 PAI 部署 Stable Diffusion
在本地计算机运行大模型
大模型的私有化部署
基于 vLLM 部署大模型
案例：如何优雅地在阿里云私有部署开源大模型
部署一套开源 LLM 项目
内容安全
互联网信息服务算法备案
…
👇👇扫码免费领取全部内容👇👇

3、这些资料真的有用吗？

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】