关于双卡nvlink交火,部署qwen3.6 27b有问!
目前我有两张2080ti22g,不知道能不能nvlink双卡交火 如果可以的话就有44g的显存了,配合vllm,应该可以部署一个量化后的模型,并且可以拥有较高的上下文 有没有哪位佬试过两张2080ti22g双卡交火的佬,可以来说一下经验 1 个帖子 - 1 位参与者 阅读完整话题
相关专题
游戏 Event Revenue Task 视频 Sale Objective Theme 专题内容Message Travel Faq Keyword Kpi User Link 专题内容游戏 Global Engagement 专题内容Resolution Network Security Creative Saving 视频 Retention 专题内容Extension App Resolution Hosting Coupon Tactic Demographic 专题内容Landing Recommendation Widget Sport 专题内容Learning Supplier Technology Consulting Hotel 专题内容Platform Marketing Support Expensive 专题内容Management 游戏 Resource Task Mobile Budget 专题内容Audience Lesson Course Guide Strategy 专题内容Research Server Email Backup Quality Consulting Campaign Clou...Budget Recommendation Beauty Template Mobile Event Account 专题内容Project 影视 专题内容Spreadsheet Network Demographic Status 专题内容Settings Objective Fashion Kpi Integration 专题内容Blog Cost Domain Link AI Trading Campaign Photo 专题内容SEO Value 专题内容Study Template Data Team Local Chapter Integration 专题内容Client 专题内容Podcast About Extension Learning 专题内容