英伟达RTX Spark 处理器的笔记本能跑120b的大模型?

现在这么恐怖了吗?120b的大模型,我们这里内部部署的华为的八卡910b 部署Ds r1 70b当时花了上百万啊,不太懂硬件的感觉现在英伟达也太逆天了吧 9 个帖子 - 5 位参与者 阅读完整话题...
英伟达RTX Spark 处理器的笔记本能跑120b的大模型?
伟达RTX Spark 处理器的笔记本能跑120b的大模型?

现在这么恐怖了吗?120b的大模型,我们这里内部部署的华为的八卡910b 部署Ds r1 70b当时花了上百万啊,不太懂硬件的感觉现在英伟达也太逆天了吧

9 个帖子 - 5 位参与者

阅读完整话题

来源: LinuxDo 最新话题查看原文