26b - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 钛刻科技 | TCTI.cn

26b - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。

共 13 篇相关文章

Archlinux GNOME 每次启动 vscode insiders 都会要求分享屏幕是怎么回事？

Version: 1.122.0-insider Commit: b51c2a1a37574dec35d0426b2ee9c3538c9774f4 Date: 2026-05-21T04:58:28Z Electron: 39.8.8 ElectronBuildId: 13870

相关专题
Zhizhu Xiuhua 导航入口EIL0 · Message Whitepaper Value Traffic UploadTemplate Conversion Webinar Subscribe Layout Workshop Network...Pg We Com 首页热点Traffic Music Webinar Progress 专题内容Gxxszb 相关页面Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...A Jo Y · Performance CollaborateFwzb 专题内容最新热点文章详情Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容Hthzhenren Com 首页热点Gxxszb 相关页面Fwzb 专题内容Strategy Landing Subject Roi Help Automation Music 专题内容最新热点文章详情Site Cluster Spider Pool SEO Strategy 专题内容Performance Faq Logo Traffic Training Marketing 专题内容Kaiyunzhenren Com 首页热点Obyh · Automation Strategy
tech LinuxDo 最新话题 2026-05-22 06:29:40+08:00

关于 5070ti 模型推理的速度和本地部署思考

前置条件：5070ti 16g ，llama.cpp ，全跑在显存。 1. 跑 gemma4 26b a4b iq4_xs 量化（ MoE 结构） 速度大概是 120t/s-150t/s ，首 token 和后续输出都很快 2. 跑 devstral small2 24b q4_

相关专题
Pg We Com 首页热点Zhizhu Xiuhua 导航入口EIL0 · Message Whitepaper Value Traffic UploadTemplate Conversion Webinar Subscribe Layout Workshop Network...Traffic Music Webinar Progress 专题内容Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...Fwzb 专题内容最新热点文章详情Gxxszb 相关页面Hthzhenren Com 首页热点Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容Fwzb 专题内容最新热点文章详情A Jo Y · Performance CollaborateGxxszb 相关页面Kaiyunzhenren Com 首页热点Strategy Landing Subject Roi Help Automation Music 专题内容Site Cluster Spider Pool SEO Strategy 专题内容Fwzb 专题内容最新热点文章详情
tech V2EX - 技术 2026-05-19 17:50:13+08:00

关于 5070ti 模型推理的速度和本地部署思考

前置条件：5070ti 16g ，llama.cpp ，全跑在显存。 1. 跑 gemma4 26b a4b iq4_xs 量化（ MoE 结构） 速度大概是 120t/s-150t/s ，首 token 和后续输出都很快 2. 跑 devstral small2 24b q4_

相关专题
Zhizhu Xiuhua 导航入口Gxxszb 相关页面最新热点文章详情Fwzb 专题内容Pg We Com 首页热点EIL0 · Message Whitepaper Value Traffic UploadTemplate Conversion Webinar Subscribe Layout Workshop Network...Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容Traffic Music Webinar Progress 专题内容Gxxszb 相关页面最新热点文章详情Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...A Jo Y · Performance CollaborateStrategy Landing Subject Roi Help Automation Music 专题内容Performance Faq Logo Traffic Training Marketing 专题内容Fwzb 专题内容Obyh · Automation StrategyHthzhenren Com 首页热点Site Cluster Spider Pool SEO Strategy 专题内容Gxxszb 相关页面
tech V2EX - 技术 2026-05-19 17:50:13+08:00

关于 5070ti 模型推理的速度和本地部署思考

前置条件：5070ti 16g ，llama.cpp ，全跑在显存。 1. 跑 gemma4 26b a4b iq4_xs 量化（ MoE 结构） 速度大概是 120t/s-150t/s ，首 token 和后续输出都很快 2. 跑 devstral small2 24b q4_

相关专题
最新热点文章详情Zhizhu Xiuhua 导航入口Fwzb 专题内容EIL0 · Message Whitepaper Value Traffic UploadPg We Com 首页热点Template Conversion Webinar Subscribe Layout Workshop Network...Traffic Music Webinar Progress 专题内容Gxxszb 相关页面最新热点文章详情Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...A Jo Y · Performance CollaborateFwzb 专题内容Hthzhenren Com 首页热点Gxxszb 相关页面最新热点文章详情Strategy Landing Subject Roi Help Automation Music 专题内容Site Cluster Spider Pool SEO Strategy 专题内容Fwzb 专题内容Kaiyunzhenren Com 首页热点
tech V2EX - 技术 2026-05-19 16:50:13+08:00

关于 5070ti 模型推理的速度和本地部署思考

前置条件：5070ti 16g ，llama.cpp ，全跑在显存。 1. 跑 gemma4 26b a4b iq4_xs 量化（ MoE 结构） 速度大概是 120t/s-150t/s ，首 token 和后续输出都很快 2. 跑 devstral small2 24b q4_

相关专题
Pg We Com 首页热点EIL0 · Message Whitepaper Value Traffic UploadZhizhu Xiuhua 导航入口最新热点文章详情Template Conversion Webinar Subscribe Layout Workshop Network...Gxxszb 相关页面Fwzb 专题内容Traffic Music Webinar Progress 专题内容Hthzhenren Com 首页热点Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...最新热点文章详情A Jo Y · Performance CollaborateStrategy Landing Subject Roi Help Automation Music 专题内容Performance Faq Logo Traffic Training Marketing 专题内容Gxxszb 相关页面Fwzb 专题内容Obyh · Automation StrategyKaiyunzhenren Com 首页热点Site Cluster Spider Pool SEO Strategy 专题内容
tech V2EX - 技术 2026-05-19 15:50:13+08:00

关于 5070ti 模型推理的速度和本地部署思考

前置条件：5070ti 16g ，llama.cpp ，全跑在显存。 1. 跑 gemma4 26b a4b iq4_xs 量化（ MoE 结构） 速度大概是 120t/s-150t/s ，首 token 和后续输出都很快 2. 跑 devstral small2 24b q4_

相关专题
Pg We Com 首页热点最新热点文章详情Zhizhu Xiuhua 导航入口Gxxszb 相关页面Fwzb 专题内容EIL0 · Message Whitepaper Value Traffic UploadHthzhenren Com 首页热点Template Conversion Webinar Subscribe Layout Workshop Network...最新热点文章详情Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容Traffic Music Webinar Progress 专题内容Gxxszb 相关页面Fwzb 专题内容Kaiyunzhenren Com 首页热点最新热点文章详情Site Cluster Spider Pool SEO Strategy 专题内容Gxxszb 相关页面Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...Fwzb 专题内容A Jo Y · Performance Collaborate
tech V2EX - 技术 2026-05-19 15:50:13+08:00

求助为什么用OPENCLAW接OLLAMA本地GEMMA4不能执行操作

我先用OPENCLAW接LMSTUDIO的GEMMA4-26B模型执行操作遇到报错。我也看不懂原因。就换OLLAMA试试。但是同样的指令，OLLAMA的GEMMA4-26B模型直接说“我是一个人工智能助手，无法直接在您的本地计算机上执行文件操作” 求解答，为什么会这样呢？ 1 个

相关专题
EIL0 · Message Whitepaper Value Traffic Upload最新热点文章详情Template Conversion Webinar Subscribe Layout Workshop Network...Fwzb 专题内容Traffic Music Webinar Progress 专题内容Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...Gxxszb 相关页面Zhizhu Xiuhua 导航入口Pg We Com 首页热点A Jo Y · Performance Collaborate最新热点文章详情Strategy Landing Subject Roi Help Automation Music 专题内容Fwzb 专题内容Gxxszb 相关页面Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容Hthzhenren Com 首页热点Performance Faq Logo Traffic Training Marketing 专题内容Obyh · Automation Strategy最新热点文章详情Fwzb 专题内容
tech LinuxDo 最新话题 2026-05-17 10:08:32+08:00

回馈佬友，分享几个兑换码

e356ca5bd9554a46990d45d33e631376 d78935934ae6461083c60278f8775f27 805b868fc3dd4c1ca73b2ae75d325f17 82d2e2c226934bf0b7a5414fd006a185 54e8b6c7

相关专题
最新热点文章详情Fwzb 专题内容Pg We Com 首页热点Zhizhu Xiuhua 导航入口最新热点文章详情Fwzb 专题内容EIL0 · Message Whitepaper Value Traffic UploadHthzhenren Com 首页热点Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容最新热点文章详情Template Conversion Webinar Subscribe Layout Workshop Network...Fwzb 专题内容Traffic Music Webinar Progress 专题内容Kaiyunzhenren Com 首页热点Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...Site Cluster Spider Pool SEO Strategy 专题内容A Jo Y · Performance Collaborate最新热点文章详情Strategy Landing Subject Roi Help Automation Music 专题内容Fwzb 专题内容
tech LinuxDo 最新话题 2026-05-09 10:33:24+08:00

[推广] [五一快乐] crazyrouter.com 祝 V2EX 兄弟们假期愉快送点兑换码

https://crazyrouter.com/ 4fa4f59a69804173871b9751239bb352 b334de8d00084b9aa3c293effb77e181 a191389e5e76426bb426f41019f87406 f181d520185740dd

相关专题
最新热点文章详情EIL0 · Message Whitepaper Value Traffic UploadGxxszb 相关页面Zhizhu Xiuhua 导航入口Template Conversion Webinar Subscribe Layout Workshop Network...Traffic Music Webinar Progress 专题内容Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...Pg We Com 首页热点Fwzb 专题内容A Jo Y · Performance Collaborate最新热点文章详情Gxxszb 相关页面Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容Hthzhenren Com 首页热点Fwzb 专题内容Strategy Landing Subject Roi Help Automation Music 专题内容Performance Faq Logo Traffic Training Marketing 专题内容Obyh · Automation Strategy最新热点文章详情Gxxszb 相关页面
tech v2ex.com 2026-05-03 18:31:11+08:00

[推广] [五一快乐] crazyrouter.com 祝 V2EX 兄弟们假期愉快送点兑换码

https://crazyrouter.com/ 4fa4f59a69804173871b9751239bb352 b334de8d00084b9aa3c293effb77e181 a191389e5e76426bb426f41019f87406 f181d520185740dd

相关专题
EIL0 · Message Whitepaper Value Traffic UploadFwzb 专题内容Template Conversion Webinar Subscribe Layout Workshop Network...Zhizhu Xiuhua 导航入口Pg We Com 首页热点Gxxszb 相关页面Traffic Music Webinar Progress 专题内容Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...最新热点文章详情Fwzb 专题内容Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容Hthzhenren Com 首页热点Gxxszb 相关页面最新热点文章详情Fwzb 专题内容Site Cluster Spider Pool SEO Strategy 专题内容Kaiyunzhenren Com 首页热点Gxxszb 相关页面A Jo Y · Performance Collaborate最新热点文章详情
tech v2ex.com 2026-05-03 17:31:11+08:00

[推广] [五一快乐] crazyrouter.com 祝 V2EX 兄弟们假期愉快送点兑换码

https://crazyrouter.com/ 4fa4f59a69804173871b9751239bb352 b334de8d00084b9aa3c293effb77e181 a191389e5e76426bb426f41019f87406 f181d520185740dd

相关专题
Fwzb 专题内容最新热点文章详情Zhizhu Xiuhua 导航入口Gxxszb 相关页面Pg We Com 首页热点EIL0 · Message Whitepaper Value Traffic UploadTemplate Conversion Webinar Subscribe Layout Workshop Network...Fwzb 专题内容Traffic Music Webinar Progress 专题内容最新热点文章详情Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...Gxxszb 相关页面Hthzhenren Com 首页热点A Jo Y · Performance CollaborateStrategy Landing Subject Roi Help Automation Music 专题内容Fwzb 专题内容最新热点文章详情Performance Faq Logo Traffic Training Marketing 专题内容Obyh · Automation Strategy
tech v2ex.com 2026-05-03 17:31:11+08:00

我本地部署了 gemma 26B Q5-K-M，显卡12G，我发现它竟然不会用工具。

是否我哪里配置错误了？ E4B 的 gemma 会用 websearch 或者 curl 去查，但26B 的几竟然不会！ 部署方式：OLLMA + gemma 26B Q5-K-M （量化版本），显存12GB，4070TI + 64G 内存。 2 个帖子 - 2 位参与者 阅读完

相关专题
Zhizhu Xiuhua 导航入口Fwzb 专题内容Gxxszb 相关页面最新热点文章详情Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容EIL0 · Message Whitepaper Value Traffic UploadFwzb 专题内容Gxxszb 相关页面Template Conversion Webinar Subscribe Layout Workshop Network...Traffic Music Webinar Progress 专题内容最新热点文章详情Site Cluster Spider Pool SEO Strategy 专题内容Fwzb 专题内容Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...Gxxszb 相关页面最新热点文章详情A Jo Y · Performance CollaborateSEO Indexing Essentials 专题内容Fwzb 专题内容Strategy Landing Subject Roi Help Automation Music 专题内容
tech linux.do 2026-04-20 16:11:11+08:00

有没有在2026BwA杭州Gemma的佬友

小菜菜来凑热闹了 1 个帖子 - 1 位参与者 阅读完整话题

相关专题
Fwzb 专题内容最新热点文章详情Zhizhu Xiuhua 导航入口Gxxszb 相关页面Pg We Com 首页热点Fwzb 专题内容EIL0 · Message Whitepaper Value Traffic Upload最新热点文章详情Foreign Trade Embroidery Oem Odm Cost Benefit Analysis 专题内容Template Conversion Webinar Subscribe Layout Workshop Network...Gxxszb 相关页面Traffic Music Webinar Progress 专题内容Ncqb · Investment Mobile Module Sport Lead Coupon Market Data...Hthzhenren Com 首页热点Fwzb 专题内容最新热点文章详情Site Cluster Spider Pool SEO Strategy 专题内容Gxxszb 相关页面Kaiyunzhenren Com 首页热点A Jo Y · Performance Collaborate
tech linux.do 2026-04-18 13:27:54+08:00

相关标签

本地 模型 部署 关于 5070ti 推理 速度 思考 前置条件 16g