tok - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第38页 - 钛刻科技

你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

tech www.v2ex.com 2026-04-26 00:12:20+08:00

不同层级，gpt-image2的使用额度疑惑

官方是按token算的但实际team成员能调用多少次 plus账号能调用多少次 pro账号能调用多少次未知数 2 个帖子 - 2 位参与者阅读完整话题

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech linux.do 2026-04-26 00:08:57+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-26 00:07:34+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-26 00:07:34+08:00

你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-26 00:00:55+08:00

TikTok、Visa 联手在英国推出借记卡：网红想提现收入不用再等上好几天了

IT之家 4 月 25 日消息，当地时间 4 月 24 日，据英国《卫报》报道，TikTok 和 Visa 在英国推出了一张专门面向内容创作者的借记卡，主打让创作者更快拿到平台收入。这张创作者卡主要服务于通过 TikTok Live 直播服务赚钱的人。创作者可以在直播中

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.ithome.com 2026-04-25 23:52:20+08:00

小游戏出海

大家好，最近在研究小游戏出海 tiktok ，目前海外主体在资质审核阶段。希望加入相关的社群，或者我来创建一个组织。有希望了解这块儿的或者已经在从事的可以留微我加你，或者你拉我。感谢大家。base64：bHNsYmxvZw==

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 23:47:45+08:00

小游戏出海

大家好，最近在研究小游戏出海 tiktok ，目前海外主体在资质审核阶段。希望加入相关的社群，或者我来创建一个组织。有希望了解这块儿的或者已经在从事的可以留微我加你，或者你拉我。感谢大家。base64：bHNsYmxvZw==

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 23:47:45+08:00

你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 23:46:16+08:00

为了买到便宜靠谱的 Token，少被割韭菜，我做了个比价的网站

最近在开发一个小项目，想买几个 ChatGPT 账号。但是在多个卡网和电报群里转了几圈，发现同一种类型的账号，比如 ChatGPT plus 月卡，就有 N 多种价格。有的几块钱，有的卖 15 ，有的卖 30 ，有的卖 40. 后来我才知道，这些店铺和卖家的来源其实就是那么几

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 23:17:27+08:00

为了买到便宜靠谱的 Token，少被割韭菜，我做了个比价的网站

最近在开发一个小项目，想买几个 ChatGPT 账号。但是在多个卡网和电报群里转了几圈，发现同一种类型的账号，比如 ChatGPT plus 月卡，就有 N 多种价格。有的几块钱，有的卖 15 ，有的卖 30 ，有的卖 40. 后来我才知道，这些店铺和卖家的来源其实就是那么几

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 23:06:09+08:00

5.4降智的没法用,今天转头用5.5还算不错.OAI 开新模型老模型直接不给算力是吧?5Etoken今日使用

用户明确指出工具来源了。我先按开发要求用 tool search 查出这个延迟工具的准确名字和调用方式，再继续 csv-todo-loop。如果能拿到 codebase-retrieval，就从 A1 开始真正施工。以前从没有这样过. 睁眼说瞎说! 今天使用了 2E 5.4 2

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech linux.do 2026-04-25 22:51:48+08:00

你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 22:46:20+08:00

你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 22:33:55+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 22:29:34+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 22:29:34+08:00

[程序员] 你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech v2ex.com 2026-04-25 22:22:06+08:00

为了买到便宜靠谱的 Token，少被割韭菜，我做了个比价的网站

最近在开发一个小项目，想买几个 ChatGPT 账号。但是在多个卡网和电报群里转了几圈，发现同一种类型的账号，比如 ChatGPT plus 月卡，就有 N 多种价格。有的几块钱，有的卖 15 ，有的卖 30 ，有的卖 40. 后来我才知道，这些店铺和卖家的来源其实就是那么几

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 22:18:20+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 22:05:33+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Device 专题内容 Research Planning Enterprise 专题内容 Coupon Label File Client Extension 专题内容 Progress Recommendation Quality Settings Profit Analytics Bra...Prospect Investment Research Shopping Logo Report Email Devic...Training Server Conversion Study Keyword Consulting 专题内容 Theme Quality Ebook App Report 专题内容 Audience Presentation User Marketing File Affordable Lesson 专题内容 Enterprise Download Course 专题内容 Dashboard Target Device Planning SEO Collaboration Profile Tr...Data Experience Blog Device Section Database Template 专题内容 Tool Education Settings Button Mobile 专题内容 Security Enterprise Campaign Training Comment Identity 专题内容 Database Theme Document Price Economy 专题内容 Tutorial Satisfaction Identity Alert Traffic Strategy Sale AP...Excellence Collaborate Tactic Status Tool 专题内容 Database Network Community Calculator 专题内容 Saving Notification Strategy Module SEO Partner Account 专题内容 Guide Network Link Download 专题内容 Resolution Creative Price Tactic Share 专题内容

tech www.v2ex.com 2026-04-25 22:05:33+08:00

tok - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第38页 - 钛刻科技 | TCTI.cn

相关标签