求解答:LLM 量化后与原模型对比的区别

GLM 5.1 根本抢不到,这里有一个渠道是量化的,但是我不知道量化精度带来的影响。 求解答,谢谢! 2 个帖子 - 2 位参与者 阅读完整话题...
求解答:LLM 量化后与原模型对比的区别
求解答:LLM 量化后与原模型对比的区别

image

GLM 5.1 根本抢不到,这里有一个渠道是量化的,但是我不知道量化精度带来的影响。

解答,谢谢!

2 个帖子 - 2 位参与者

阅读完整话题

来源: linux.do查看原文