公司自部署模型, 到底能做到什么程度?
公司最近在聊自部署模型, 但本地部署出来究竟能做什么呢? 不花大价钱跑几个强模型, 什么都做不了, 现在两张5090,跑俩qwen27B的低精度模型就到头了, 逻辑处理能力还很一般, 幻觉问题严重. 涉及到可靠性的功能完全用不上, 测来测去, 最后还是回到写个python脚本解决
价钱 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 8 篇相关文章
公司最近在聊自部署模型, 但本地部署出来究竟能做什么呢? 不花大价钱跑几个强模型, 什么都做不了, 现在两张5090,跑俩qwen27B的低精度模型就到头了, 逻辑处理能力还很一般, 幻觉问题严重. 涉及到可靠性的功能完全用不上, 测来测去, 最后还是回到写个python脚本解决
网址: https://appstoreprice.org/zh/apps 1 个帖子 - 1 位参与者 阅读完整话题
Spark 最贵,和后两者价钱有点儿区别,不过看起来都像是同一个方案,只是公版和各家自己牌子的区别而已? Spark 自带开箱即用的工具集,会有老黄家在 Spark 上才能用的工具吗? 用线对联 Spark 也能和另外两个机型,扩展使用 LLM ? 三者有什么产品硬件上的差异区别
Spark 最贵,和后两者价钱有点儿区别,不过看起来都像是同一个方案,只是公版和各家自己牌子的区别而已? Spark 自带开箱即用的工具集,会有老黄家在 Spark 上才能用的工具吗? 用线对联 Spark 也能和另外两个机型,扩展使用 LLM ? 三者有什么产品硬件上的差异区别
Spark 最贵,和后两者价钱有点儿区别,不过看起来都像是同一个方案,只是公版和各家自己牌子的区别而已? Spark 自带开箱即用的工具集,会有老黄家在 Spark 上才能用的工具吗? 用线对联 Spark 也能和另外两个机型,扩展使用 LLM ? 三者有什么产品硬件上的差异区别
Spark 最贵,和后两者价钱有点儿区别,不过看起来都像是同一个方案,只是公版和各家自己牌子的区别而已? Spark 自带开箱即用的工具集,会有老黄家在 Spark 上才能用的工具吗? 用线对联 Spark 也能和另外两个机型,扩展使用 LLM ? 三者有什么产品硬件上的差异区别
Spark 最贵,和后两者价钱有点儿区别,不过看起来都像是同一个方案,只是公版和各家自己牌子的区别而已? Spark 自带开箱即用的工具集,会有老黄家在 Spark 上才能用的工具吗? 用线对联 Spark 也能和另外两个机型,扩展使用 LLM ? 三者有什么产品硬件上的差异区别
Spark 最贵,和后两者价钱有点儿区别,不过看起来都像是同一个方案,只是公版和各家自己牌子的区别而已? Spark 自带开箱即用的工具集,会有老黄家在 Spark 上才能用的工具吗? 用线对联 Spark 也能和另外两个机型,扩展使用 LLM ? 三者有什么产品硬件上的差异区别