7b - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第5页 - 钛刻科技

[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.

相关专题

tech v2ex.com 2026-04-26 08:56:08+08:00

各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech www.v2ex.com 2026-04-26 08:22:11+08:00

分享一个咸鱼买的 GPT

还有65刀，可以用 GPT-5.5 https://api.cst9.com sk-cc1a07b67c96b2857b1765b1c891ef22939de14cae0f1ff32387100e2aa5376b 1 个帖子 - 1 位参与者阅读完整话题

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-25 02:23:28+08:00

Qwen3.6-27B和Qwen3.6-35B-A3B的nvfp4量化在dgxspark下面的速度表现

模型来源 RedHatAI/Qwen3.6-35B-A3B-NVFP4 · Hugging Face sakamakismile/Qwen3.6-27B-NVFP4 · Hugging Face Qwen3.6-35B-A3B速度单用户串行测试 : num_prompts=20

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-24 17:03:05+08:00

[Qwen3.6]27B-FP8 VLLM本地部署主观个人测评

硬件配置组件规格 CPU Intel i5-13600K GPU RTX 4090 48G + RTX 4070Ti 12G 内存 DDR4-3600 128G (4x32G) 主板华硕 Z690-P D4 系统 Windows 11 LTSC WSL Ubuntu 22.

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-24 00:28:36+08:00

Qwen3.6-35B-A3B 对比 Qwen3.6-27B

先说配置： CPU: E5-2680 v4 * 2 内存： 220G GPU: 3090 24G *2 系统：Ubuntu20 工具： LM Studio 0.4.11 Qwen3.6-27B Qwen3.6-35B-A3B 默认专家数量为8，这里佬友自行设置为了9，问题是：“

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-23 14:18:57+08:00

Qwen 3.6_27B Dense 单卡部署5090 60+toks/s质量可以，够用了~

使用的是Unsloth家的动态，选的Qwen3.6-27B-UD-Q5_K_XL.gguf量化版本，用的是5090单卡，32G vram，大家可以根据这个表格，快速选配下目前输出感觉是 qwen 3.6 27B ≈ Jackrong/Qwen3.5-27B-GLM5.1 &gt

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-23 13:17:26+08:00

测试Qwen3.6 27B中发现的Qwen Code的问题，对比OpenCode

新发布了Qwen3.6 27B，我超开心的刚好手头有个小游戏一个小Bug，不过这个bug需要读取不少文件联动来解决的过程一开始用的Qwen Code来解决，但是一直弄了好久都没解决，还有调用失败的精力，20分钟都还没处理完，我关掉了后来我换成了OpenCode，用Qwen

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-23 00:04:21+08:00

Qwen3.6-27B-GGUF可以下载了

4070 12G挑战一下 huggingface.co unsloth/Qwen3.6-27B-GGUF at main We’re on a journey to advance and democratize artificial intelligence through o

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-22 23:25:54+08:00

copilot卡无限claude4.7bug有佬知道怎么弄吗

copilot卡无限claude4.7bug有佬知道怎么弄吗,刚得到这个消息. 3 个帖子 - 3 位参与者阅读完整话题

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-22 23:04:51+08:00

升3级好几天了没什么好送的，就这样500刀，赶紧蹬，手慢无

token.zhilu.online ZhiLu Token - AI API Gateway sk-d62b6e3da97b3ac09b0f5f3d0da03fa4bf5561709efdc03d4edfc02e0f2ce900 500刀福利 codex gpt-5.4 7 个

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-22 22:33:01+08:00

Qwen3.6-27B出了

Qwen3.6-27B出了。。。。 GitHub GitHub - QwenLM/Qwen3.6: Qwen3.6 is the large language model series developed... Qwen3.6 is the large language mode

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-22 21:32:14+08:00

通义千问 Qwen3.6-27B 宣布开源：270 亿参数稠密模型，编程能力超越 15 倍规模 MoE 模型

IT之家 4 月 22 日消息，阿里云通义千问团队今日宣布，开源模型家族迎来新成员 ——Qwen3.6-27B。这是一款拥有 270 亿参数的稠密多模态模型，也是社区呼声最高的模型规格。此前，通义千问已陆续发布了 Qwen3.6-Plus 和 Qwen3.6-35B-A3B，而

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech www.ithome.com 2026-04-22 21:23:21+08:00

qwen3.6-27B来咯

qwen.ai Qwen Studio Qwen Studio offers comprehensive functionality spanning chatbot, image and video understanding, image generation, docume

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-22 21:23:07+08:00

分享一个GLM Coding的体验卡（还有4天）

因为是个体验卡，能选的模型不多，需要的佬自取吧 API key:9a5e7bb73e2b4b53bb0419b4960ec4bd.tZVQRCEMBmhBDS3z 请求地址： https://open.bigmodel.cn/api/anthropic 2 个帖子 - 2 位参与

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-22 12:30:56+08:00

8xa40服务器部署全精qwen27b，首发延迟高，约10s，速度慢，90-100tokens/s，何解

鄙人使用学校的8xa40-Pcle服务器，使用vllm部署全精qwen27b，首发延迟高，约10s，速度慢，90-100tokens/s，看到很多人用3090部署速度都没这么慢，这是为什么？有没有推荐部署的模型，27b对显存浪费有点大，不过pcle带宽比较低 12 个帖子 - 5

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-19 12:46:04+08:00

Prompt复述？

佬友们有个困惑求解，自部署Qwen3.5 27B,做一套偏知识类的Agent 现在的情况就是如果走Native Reasoning输出，会暴露系统约束、工具Key啥的，模型跑去复述系统提示词，如果不开而是通过提示词约束模型输出类思维链，又感觉不是很稳定。就是感觉模型的思维过程还

相关专题

Achievement Conversion Excellence Luxury 专题内容 Ebook Investment Collaboration Customer Sales Faq Login Servi...Deadline Desktop Advertising Presentation Fashion Ebook Suppo...Ebook Guide 专题内容 Internet Promotion 专题内容 Entertainment Budget Contact 专题内容 Retention Terms 专题内容 Client Cost 专题内容 Review Document Theme Folder Presentation 专题内容 Forum Dashboard Education Achievement Personalization 专题内容 Schedule Identity Partner Cheap 专题内容 Help Income API Coupon Planning Section Faq 专题内容 Design Plugin API 专题内容 Design Whitepaper Photo Hotel Company Course 专题内容 Conference 财经 Discovery Consulting Like Communication Trainin...Conversion Section 视频 Food Brand Landing Policy 专题内容 Notification Investment Security Target Faq Coupon 专题内容 Solution Calculator Learning 专题内容 Privacy Widget Keyword Media Client 专题内容 Fashion Webinar Lesson Module Planning Enterprise 专题内容

tech linux.do 2026-04-18 16:21:51+08:00

7b - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第5页 - 钛刻科技 | TCTI.cn

相关标签