首页 / 科技 / 有人知道nvfp4这种量化格式该怎么改吗？…

有人知道nvfp4这种量化格式该怎么改吗？

编辑部 2026-05-04T13:40:03.351159 47152 阅读 tech

我是50系显卡，听说了nvfp4格式的量化模型能最大程度上利用显卡的算力，想尝试一下，但是在魔塔跟huggingface都没有找到现成的模型，想自己量化又不知道该怎么做，问大模型也是各说各的方式 1 个帖子 - 1 位参与者阅读完整话题...

我是50系显卡，听说了nvfp4格式的量化模型能最大程度上利用显卡的算力，想尝试一下，但是在魔塔跟huggingface都没有找到现成的模型，想自己量化又不知道该怎么做，问大模型也是各说各的方式

1 个帖子 - 1 位参与者

来源: linux.do查看原文

有人知道 nvfp4 这种量化一个帖子现在

相关推荐

IT之家 5 月 4 日消息，据科技媒体 Interesting Engineering 昨天报道，西门子现已获得罗马尼...

我开发了一个滑动消除类游戏，请大家看看这个游戏的玩儿法有什么问题没有？这个游戏上线后，数据很差，玩家的在线时间很短，并...

作为小白散户，每天就是看各类新闻去分析股票走势。有时候不知道一条新闻会对应哪些股票走势所以我做了一个「新闻雷达」。它...

每天都是秒没，比我 24 年抢 Mac mini 还难……难道只能加价从第三方商家购买了么...

只能在旁边给它开个风扇吹 3 个帖子 - 2 位参与者阅读完整话题...

真的是彻底的浪费啊，还是美元玩的开，不断流入推高股市，还能国际自由流通，...