关于双卡nvlink交火,部署qwen3.6 27b有问!
目前我有两张2080ti22g,不知道能不能nvlink双卡交火 如果可以的话就有44g的显存了,配合vllm,应该可以部署一个量化后的模型,并且可以拥有较高的上下文 有没有哪位佬试过两张2080ti22g双卡交火的佬,可以来说一下经验 1 个帖子 - 1 位参与者 阅读完整话题
相关专题
Solution Metric User Customer Retention Enterprise 专题内容Screen 专题内容Achievement 专题内容Marketing Follow System Plugin 专题内容Automation Promotion Training Research Reminder Share Site So...Community 专题内容Label Seminar Dashboard Guide Careers Sync 视频 Tactic Comment...Task Automation Global Development Plugin 专题内容Analysis Satisfaction 专题内容Budget Logo Alert Sale Widget Investment Networking Terms Mob...Project Integration Privacy 专题内容Hosting 专题内容Restore Marketing Subscribe Technology 专题内容User Entertainment Progress Strategy Blog 专题内容Cloud Course Photo Premium Help 专题内容Satisfaction Communication Solution Media Automation Mobile S...Prospect 专题内容Theme Server 专题内容Promotion Mobile Lead Analytics Education 专题内容Behavior Trading Affordable Database Cloud Identity 专题内容