[问与答] 昇腾是目前性价比最高的推理 GPU 吗?

对于企业内部私有化部署小模型,如 32B 、72B 等,对比英伟达或其他一众国内厂商,华为昇腾是目前性价比最高的选择吗?仅用于主流模型(如 deepseek 、qwen 、未来不知道 mimo 会不会发开源小模型)的推理,不做训练。 如果是,是否有经销商推荐?目前在京东淘宝等渠道没找到官方店铺...
[问与答] 昇腾是目前性价比最高的推理 GPU 吗?
[问与答] 昇腾是目前性价比最高的推理 GPU 吗?

对于企业内部私有化部署小模型,如 32B 、72B 等,对比英伟达或其他一众国内厂商,华为昇腾是目前性价比最高的选择吗?仅用于主流模型(如 deepseek 、qwen 、未来不知道 mimo 会不会发开源小模型)的推理,不做训练。

如果是,是否有经销商推荐?目前在京东淘宝等渠道没找到官方店铺

来源: v2ex查看原文