腾讯混元宣布推出极致量化压缩版本翻译模型 Hy-MT1.5-1.8B-1.25bit,将支持 33 种语言的翻译大模型压缩至 440MB,可在手机本地运行,且翻译质量优于谷歌翻译。
Hy-MT1.5 由腾讯混元团队打造,原生支持 33 种语言、5 种方言/民汉及 1056 个翻译方向。以 1.8B 参数量,实现了比肩商业翻译 API 和 235B 级大模型的翻译效果。
腾讯推出 2-bit 与 1.25-bit 两种极致量化压缩方案。2-bit 模型采用拉伸弹性量化,结合量化感知蒸馏,压缩至 574MB 且翻译质量几乎无损。1.25-bit 模型基于 Sherry 技术,将 3.3GB 原始模型压缩至 440MB。
腾讯制作了混元翻译 Demo 版,适配“后台取词模式”,无需网络、订阅,完全本地处理,不涉及个人信息采集和上传,一次下载永久使用。
目前所有模型权重、代码及技术报告均已全面开源,暂时只支持安卓体验 demo,后续正式版会添加对 IOS 等平台的支持。
编辑观点:腾讯混元翻译模型的推出,为移动设备翻译带来新突破,本地运行且高质量的特点极具竞争力,开源策略也将推动行业发展。