有人知道nvfp4这种量化格式该怎么改吗?
我是50系显卡,听说了nvfp4格式的量化模型能最大程度上利用显卡的算力,想尝试一下,但是在魔塔跟huggingface都没有找到现成的模型,想自己量化又不知道该怎么做,问大模型也是各说各的方式 1 个帖子 - 1 位参与者 阅读完整话题
显卡 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第7页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 156 篇相关文章 · 第 7 / 8 页
我是50系显卡,听说了nvfp4格式的量化模型能最大程度上利用显卡的算力,想尝试一下,但是在魔塔跟huggingface都没有找到现成的模型,想自己量化又不知道该怎么做,问大模型也是各说各的方式 1 个帖子 - 1 位参与者 阅读完整话题
课题组考虑再买一台电脑,有几个需求: 屏幕16寸以上 显卡性能好一点,之后可以部署一些本地的大模型试试 1T以上固态 性价比高的 暂时还没确定好预算 ,请教一下佬友们,求问有什么品牌的型号推荐的,各个价位都可以分享一下见解 本人实在对于各厂笔记本了解的不多 7 个帖子 - 6 位
ChatGPT 竟然敢阴阳怪气的,洗你人,不洗车。 你奶奶个腿子的,我要拔掉你显卡插个电饭锅上去,竟然敢冒饭 你们的这货也是这么贱贱的吗
ChatGPT 竟然敢阴阳怪气的,洗你人,不洗车。 你奶奶个腿子的,我要拔掉你显卡插个电饭锅上去,竟然敢冒饭 你们的这货也是这么贱贱的吗
ChatGPT 竟然敢阴阳怪气的,洗你人,不洗车。 你奶奶个腿子的,我要拔掉你显卡插个电饭锅上去,竟然敢冒饭 你们的这货也是这么贱贱的吗
如题,听说现在国内很多显卡还是在走模拟cuda路线,且每次更新驱动都有明显性能提升,想问问大家有没有购买的国内显卡体验如何 1 个帖子 - 1 位参与者 阅读完整话题
ChatGPT 竟然敢阴阳怪气的,洗你人,不洗车。 你奶奶个腿子的,我要拔掉你显卡插个电饭锅上去,竟然敢冒饭 你们的这货也是这么贱贱的吗
ChatGPT 竟然敢阴阳怪气的,洗你人,不洗车。 你奶奶个腿子的,我要拔掉你显卡插个电饭锅上去,竟然敢冒饭 你们的这货也是这么贱贱的吗
ChatGPT 竟然敢阴阳怪气的,洗你人,不洗车。 你奶奶个腿子的,我要拔掉你显卡插个电饭锅上去,竟然敢冒饭 你们的这货也是这么贱贱的吗
ChatGPT 竟然敢阴阳怪气的,洗你人,不洗车。 你奶奶个腿子的,我要拔掉你显卡插个电饭锅上去,竟然敢冒饭 你们的这货也是这么贱贱的吗
ChatGPT 竟然敢阴阳怪气的,洗你人,不洗车。 你奶奶个腿子的,我要拔掉你显卡插个电饭锅上去,竟然敢冒饭 你们的这货也是这么贱贱的吗
ChatGPT 竟然敢阴阳怪气的,洗你人,不洗车。 你奶奶个腿子的,我要拔掉你显卡插个电饭锅上去,竟然敢冒饭 你们的这货也是这么贱贱的吗
ChatGPT 竟然敢阴阳怪气的,洗你人,不洗车。 你奶奶个腿子的,我要拔掉你显卡插个电饭锅上去,竟然敢冒饭 你们的这货也是这么贱贱的吗
在显卡提供帧生成这方面,NVIDIA是第一个推出的,随后是AMD,最后是Intel,但在多帧生成方面,第一个推出的还是NVIDIA,然后Intel也跟了,AMD在这方面目前还没有动作。但根据GPUOpen文档中的新变化,AMD可能在推进相关的技术发展。 最新的ADLX 1.5新增
IT之家 4 月 20 日消息,惠普在今天的发布会中推出了全新 HyperX 暗影精灵 MAX(GT24)台式机,36999 元。 该机采用侧透机箱,全机箱采用公规设计,使用 360mm 水冷及至高 ATX3.1 规格 1200W 白金认证电源,机箱匹配的 ARGB 风扇最高转速
是否我哪里配置错误了? E4B 的 gemma 会用 websearch 或者 curl 去查,但26B 的几竟然不会! 部署方式:OLLMA + gemma 26B Q5-K-M (量化版本),显存12GB,4070TI + 64G 内存。 2 个帖子 - 2 位参与者 阅读完
配置 【CPU】 板UAMD 锐龙 5 9600X ¥0 @京东 【主板】 板U技嘉 B650M GAMING WIFI ¥1590 @京东 【显卡】 撼讯 RX9070XT 16G 游荡者 ¥4645 @拼多多 【内存】 工包版:金百达 32GB DDR5 6000 C30 ¥
最近换了新显卡,导致PC主板上的PCIEX1通道被挡住用不了AX210了,不考虑延长线和USB网卡,想买一个路由器组mesh或者桥接然后副路由网线连接到PC这样,主路由是ZTE AX3000巡天。最近发现了这个路由器,而且好像还能刷openwrt满足我折腾的需求,但毕竟是19年的
IT之家 4 月 19 日消息,英伟达推出了定制版 GeForce RTX 5090 显卡抽奖活动,该显卡采用《识质存在》(PRAGMATA)风格装饰。 官方贴文表示,用户只需通过评论“PRAGMATA RTX”即可参与抽奖。此次推广是该公司社交媒体常规营销活动的一部分。 推文内
本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容: 我的帖子已经打上 开源推广 标签: 是 我的开源项目完整开源,无未开源部分: 是 我的开源项目已链接认可 LINUX DO 社区: 是 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是 以上选择我承诺