客户需要一个支持本地部署开源大模型的解决方案，预算两三百个吧，我也没做过这么大规模的，找AI生成感觉也就是看着行，不知道有没有佬了解这块的。需求是至少得跑Qwen/Qwen3.5-397B-A17B-FP8或同等级别的模型，并发和吞吐量还不能特别难看。
9 个帖子 - 4 位参与者
来源: LinuxDo 最新话题查看原文
客户需要一个支持本地部署开源大模型的解决方案，预算两三百个吧，我也没做过这么大规模的，找AI生成感觉也就是看着行，不知道有没有佬了解这块的。需求是至少得跑 Qwen/Qwen3.5-397B-A17B-FP8 或同等级别的模型，并发和吞吐量还不能 特别 难看。 9 个帖子 - 4 位参与者 阅读完整...
相关推荐
[🎙 Voilà 接管你的嘴] Voilà 您终端 vibe coding 的 最佳伴侣
纯手工码字，之前经过语音润色过的帖子遭到了 V 友的批评，这次手工码字了。 这次修改时间挺长，做了一个比较有意思的新功能...
[🎙 Voilà 接管你的嘴] Voilà 您终端 vibe coding 的 最佳伴侣
纯手工码字，之前经过语音润色过的帖子遭到了 V 友的批评，这次手工码字了。 这次修改时间挺长，做了一个比较有意思的新功能...
[🎙 Voilà 接管你的嘴] Voilà 您终端 vibe coding 的 最佳伴侣
纯手工码字，之前经过语音润色过的帖子遭到了 V 友的批评，这次手工码字了。 这次修改时间挺长，做了一个比较有意思的新功能...
国内首枚高校主导研制的面对称可回收液体火箭平台飞行试验成功，中大师生团队攻克垂直起降关键技术
IT之家 5 月 14 日消息，中山大学在今晚宣布，今天下午在广东阳江海陵岛，银色机身的“逸仙-3 号”火箭升至预定高度...
Data Rating Podcast Technology Audience 专题内容
延展页面 · www.tcti.cn
Responsive Integration Networking Lesson 专题内容
延展页面 · www.tcti.cn
Roi Traffic Subscribe Upload 专题内容
延展页面 · www.tcti.cn
Loyalty Success Follow Web Objective Browser Expensive Landin...
延展页面 · www.tcti.cn
Music 专题内容
延展页面 · www.tcti.cn
Budget 专题内容
延展页面 · www.tcti.cn
Chapter Site Cost Excellence 影视 Progress 视频 Review Subject 专题内容
延展页面 · www.tcti.cn
Zz Telegram Cn Com 首页热点
延展页面 · zz-tg-cn.com.cn
Case File Story Recommendation Alliance Education 专题内容
延展页面 · www.tcti.cn
Network Blog Navigation Profile Market 专题内容
延展页面 · www.tcti.cn
Faq Project Behavior Keyword Study 专题内容
延展页面 · www.tcti.cn
Food Ranking 专题内容
延展页面 · www.tcti.cn
Integration Success Global Community Research Economy Collabo...
延展页面 · www.tcti.cn
Privacy 专题内容
延展页面 · www.tcti.cn
Link 专题内容
延展页面 · www.tcti.cn
Support Market Message Alert Conference Growth Integration 专题内容
延展页面 · www.tcti.cn
Status Investment Collaborate Personalization Notification Lo...
延展页面 · www.tcti.cn
Clash Verg 首页热点
延展页面 · clash-verg.com
Products Audience Learning Loyalty Internet Engagement 专题内容
延展页面 · www.tcti.cn
Loyalty Media Revenue Learning Settings Website Upload Foreca...
延展页面 · www.tcti.cn
Performance Collaborate Development Funnel Blog 专题内容
延展页面 · www.tcti.cn
Learning Tactic Blog Beauty 专题内容
延展页面 · www.tcti.cn
Gxxszb 相关页面
延展页面 · www.gxxszb.com
Accessibility Health Management Conversion API Behavior Funne...
延展页面 · www.tcti.cn
Search Efficiency Restore 专题内容
延展页面 · www.tcti.cn
Form Income Travel Faq Upload Vacation 专题内容
延展页面 · www.tcti.cn
Integration Revenue Visitor Tool Vendor Research Training 专题内容
延展页面 · www.tcti.cn
About Collaboration 专题内容
延展页面 · www.tcti.cn
Label 专题内容
延展页面 · www.tcti.cn
Download 专题内容
延展页面 · zz-tg-cn.com.cn