Unsloth - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 钛刻科技

[人工智能] Qwen3.6 MTP GGUF 发布：本地推理 1.4-2.2 倍加速

Unsloth 团队为 Qwen3.6 发布了 MTP （ Multi Token Prediction ） GGUF 量化版本，可 Qwen3.6 的本地推理速度提升 1.4-2.2 倍，精度无任何损失。除 Qwen3.6 外，Unsloth 这次还回溯发布了 Qwen3.5

tech v2ex 2026-05-19 11:48:06+08:00

Unsloth 团队为 Qwen3.6 发布了 MTP （ Multi Token Prediction ） GGUF 量化版本，可 Qwen3.6 的本地推理速度提升 1.4-2.2 倍，精度无任何损失。除 Qwen3.6 外，Unsloth 这次还回溯发布了 Qwen3.5

tech v2ex 2026-05-19 11:25:28+08:00

使用的是Unsloth家的动态，选的Qwen3.6-27B-UD-Q5_K_XL.gguf量化版本，用的是5090单卡，32G vram，大家可以根据这个表格，快速选配下目前输出感觉是 qwen 3.6 27B ≈ Jackrong/Qwen3.5-27B-GLM5.1 &gt

tech linux.do 2026-04-23 13:17:26+08:00

4070 12G挑战一下 huggingface.co unsloth/Qwen3.6-27B-GGUF at main We’re on a journey to advance and democratize artificial intelligence through o

tech linux.do 2026-04-22 23:25:54+08:00