跳到主内容
福利啊论坛
返回资源帖子

Hy-MT2 1.8B 440MB 本地推理:自研量化与无网络运行

资源

Hy-MT2 1.8B 440MB 本地推理:自研量化与无网络运行

1.8B Hy-MT2 440MB 本地推理极致压缩,自研量化提升推理速度,轻量版超越主流商用 API。

简介

1.8B 的 Hy-MT2,居然能靠自研的 1.25 位终极量化技术塞进 440MB,推理还比上一代快了 1.5 倍,这事儿你知道吗?

  • 核心亮点:自研量化、极致压缩、无联网本地运行。
  • 性能对比:相较上一代,推理更快,且与主流商用 API(微软/豆包等)相比,质量更具竞争力。
  • 版本对比:7B、30B 版本进一步拉开与开源对手的差距,提供更强的本地推理能力。

不联网、不掏钱、本地直接开跑,效果还稳得住,这才是普通用户应该关注的方向。

🔗 资源链接(示例,详见下方下载/访问入口)

下载链接

下载链接:
https://huggingface.co/tencent/Hy-MT2-1.8B-GGUF

5次阅读00举报

评论 0

还没有评论,来说两句吧。

登录 后参与评论