腾讯混元离线大模型翻译APP来了

腾讯专门为手机CPU设计的STQ内核,该方案实现了对SIMD指令集的完美适配。最终,3.3GB的原始模型被进一步压缩至440MB,轻松常驻后台,让内存紧张的普通手机也能顺滑进行高质量离线翻译。 下载链接 Huggingface https://huggingface.co/AngelSlim/Hy-...
腾讯混元离线大模型翻译APP来了
腾讯混元离线大模型翻译APP来了

腾讯专门为手机CPU设计的STQ内核,该方案实现了对SIMD指令集的完美适配。最终,3.3GB的原始模型被进一步压缩至440MB,轻松常驻后台,让内存紧张的普通手机也能顺滑进行高质量离线翻译。

下载链接

  • Huggingface

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/main/Hy-MT-demo.apk

  • 魔搭社区

https://modelscope.cn/models/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/master/Hy-MT-demo.apk

5 个帖子 - 4 位参与者

阅读完整话题

来源: LinuxDo 最新话题查看原文