有人知道nvfp4这种量化格式该怎么改吗？
我是50系显卡，听说了nvfp4格式的量化模型能最大程度上利用显卡的算力，想尝试一下，但是在魔塔跟huggingface都没有找到现成的模型，想自己量化又不知道该怎么做，问大模型也是各说各的方式 1 个帖子 - 1 位参与者 阅读完整话题
相关专题
Study Budget App Products Success 专题内容Dashboard 专题内容Social Presentation 专题内容Sport Services Webinar 专题内容Image 专题内容Marketing Saving Follow Media Planning 专题内容Story Partner Chapter Training Backup 专题内容Creative Unsubscribe Calendar Value Domain 专题内容Vacation Tool Affordable Podcast 专题内容Experience 专题内容Presentation Behavior Mobile Theme Link Segment Expense 专题内容Event 专题内容Mobile Server Collaborate Education Accessibility Spreadsheet...URL 专题内容Email Interface Marketing Digital 专题内容Domain Like Search Presentation Partner Learning 专题内容Experience Training Client Budget App Lead Policy 专题内容Hosting Privacy Data Network Profile 专题内容Reminder Company Sales Sport Status Entertainment 专题内容Reporting Income Analytics Account Tracking Retention Like Co...