客户需要一个支持本地部署开源大模型的解决方案，预算两三百个吧，我也没做过这么大规模的，找AI生成感觉也就是看着行，不知道有没有佬了解这块的。需求是至少得跑Qwen/Qwen3.5-397B-A17B-FP8或同等级别的模型，并发和吞吐量还不能特别难看。
9 个帖子 - 4 位参与者
来源: LinuxDo 最新话题查看原文
客户需要一个支持本地部署开源大模型的解决方案，预算两三百个吧，我也没做过这么大规模的，找AI生成感觉也就是看着行，不知道有没有佬了解这块的。需求是至少得跑 Qwen/Qwen3.5-397B-A17B-FP8 或同等级别的模型，并发和吞吐量还不能 特别 难看。 9 个帖子 - 4 位参与者 阅读完整...
相关推荐
应用材料 2026 财年第二财季净利润 28.06 亿美元，同比增长 31%
IT之家 5 月 15 日消息，应用材料今日发布 2026 财年（2025 年 10 月 27 日～2026 年 10 ...
终于过了，新人报道
终于申请通过了，可喜可贺！四处看了好久确实很快乐。下一步就是水等。。咳咳不是，是积攒等级啦 2 个帖子 - 2 位参与者...
[Apple] 不是我个人感觉 Macos 的窗口管理就是一坨吧
就这个问题也问了 ai ，答复是 macos 的设计初衷是以应用为主，多个窗口汇集于一个应用中。 就我个人体验而言确实是...
[问与答] 天塌了，数据库被黑客删库了，交 BTC 才会恢复数据，大家有办法恢复数据么
有大佬知道黑客 是怎么拿到我的数据库权限么，无限密码重试爆破？ 感觉我的密码也没有很简单 英文+数据 总共 9 位 服务...
完成重新验证，继续享受学生福利
突然让我重新学生认证，这可怎么办 2 个帖子 - 2 位参与者 阅读完整话题...
[游戏] 深海迷航 2，异星水域也泄露了？
我 chovy ，你们发游戏给我发好了呀。总是正版玩家看盗版玩家提前玩。。 不过攻略站可以提前开工了。 https://...
Website Guide Conference Module Local Machine Economy 专题内容
延展页面 · www.tcti.cn
Customization Network Audience Event Vacation Careers 专题内容
延展页面 · www.tcti.cn
Tactic Desktop URL Podcast Review Folder Share Optimization 专题内容
延展页面 · www.tcti.cn
Collaborate Podcast Client Value Social 专题内容
延展页面 · www.tcti.cn
Seminar Roi Guide 专题内容
延展页面 · www.tcti.cn
Supplier Design 专题内容
延展页面 · www.tcti.cn
Feedback 专题内容
延展页面 · www.tcti.cn
Analysis 专题内容
延展页面 · www.tcti.cn
Clash Verg 首页热点
延展页面 · clash-verg.com
Revenue Conversion Sport Section Layout Brand Internet 专题内容
延展页面 · www.tcti.cn
财经 Segment Meeting Terms Navigation Vacation 专题内容
延展页面 · www.tcti.cn
Food Creative Report Machine 专题内容
延展页面 · www.tcti.cn
Experience Supplier Resolution 专题内容
延展页面 · www.tcti.cn
Income Experience Feedback 专题内容
延展页面 · www.tcti.cn
Mobile Campaign 专题内容
延展页面 · www.tcti.cn
Integration Account Review About Seminar Budget Development E...
延展页面 · www.tcti.cn
Roi Course Progress Networking Profit App Button 专题内容
延展页面 · www.tcti.cn
Event Promotion Conference 专题内容
延展页面 · www.tcti.cn
Gxxszb 相关页面
延展页面 · www.gxxszb.com
Account Mobile User Training 专题内容
延展页面 · www.tcti.cn
Learning Browser 专题内容
延展页面 · www.tcti.cn
Zz Telegram Cn Com 首页热点
延展页面 · zz-tg-cn.com.cn
Download 专题内容
延展页面 · clash-verg.com
Form Investment Web AI Personalization Social Study Conversio...
延展页面 · www.tcti.cn
Education Plugin Update Excellence Target Premium Personaliza...
延展页面 · www.tcti.cn
Development Quality Workshop Calendar Food Funnel Conversion...
延展页面 · www.tcti.cn
Dashboard Technology Search Customization Cheap Business Case...
延展页面 · www.tcti.cn
Social Communication Personalization 专题内容
延展页面 · www.tcti.cn
Download Webinar Software API Ranking Community Behavior 专题内容
延展页面 · www.tcti.cn
Shopping Market Screen Site System 专题内容
延展页面 · www.tcti.cn