OK - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第96页 - 钛刻科技

为了买到便宜靠谱的 Token，少被割韭菜，我做了个比价的网站

最近在开发一个小项目，想买几个 ChatGPT 账号。但是在多个卡网和电报群里转了几圈，发现同一种类型的账号，比如 ChatGPT plus 月卡，就有 N 多种价格。有的几块钱，有的卖 15 ，有的卖 30 ，有的卖 40. 后来我才知道，这些店铺和卖家的来源其实就是那么几

相关专题

tech www.v2ex.com 2026-04-26 07:18:57+08:00

为了买到便宜靠谱的 Token，少被割韭菜，我做了个比价的网站

最近在开发一个小项目，想买几个 ChatGPT 账号。但是在多个卡网和电报群里转了几圈，发现同一种类型的账号，比如 ChatGPT plus 月卡，就有 N 多种价格。有的几块钱，有的卖 15 ，有的卖 30 ，有的卖 40. 后来我才知道，这些店铺和卖家的来源其实就是那么几

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 07:18:57+08:00

你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 06:27:52+08:00

为了买到便宜靠谱的 Token，少被割韭菜，我做了个比价的网站

最近在开发一个小项目，想买几个 ChatGPT 账号。但是在多个卡网和电报群里转了几圈，发现同一种类型的账号，比如 ChatGPT plus 月卡，就有 N 多种价格。有的几块钱，有的卖 15 ，有的卖 30 ，有的卖 40. 后来我才知道，这些店铺和卖家的来源其实就是那么几

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 06:18:57+08:00

分享一个机场

27年4月到期，还有1tb https://s-dywrwizazu.cn-shanghai.fcapp.run/okz/sub?token=487099b89235ad9fe234908444d2d6e5 1 个帖子 - 1 位参与者阅读完整话题

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech linux.do 2026-04-26 06:17:13+08:00

你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 05:27:52+08:00

为了买到便宜靠谱的 Token，少被割韭菜，我做了个比价的网站

最近在开发一个小项目，想买几个 ChatGPT 账号。但是在多个卡网和电报群里转了几圈，发现同一种类型的账号，比如 ChatGPT plus 月卡，就有 N 多种价格。有的几块钱，有的卖 15 ，有的卖 30 ，有的卖 40. 后来我才知道，这些店铺和卖家的来源其实就是那么几

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 05:18:57+08:00

你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 04:27:52+08:00

为了买到便宜靠谱的 Token，少被割韭菜，我做了个比价的网站

最近在开发一个小项目，想买几个 ChatGPT 账号。但是在多个卡网和电报群里转了几圈，发现同一种类型的账号，比如 ChatGPT plus 月卡，就有 N 多种价格。有的几块钱，有的卖 15 ，有的卖 30 ，有的卖 40. 后来我才知道，这些店铺和卖家的来源其实就是那么几

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 04:18:57+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 04:07:34+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 04:07:34+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 04:07:34+08:00

你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 03:27:52+08:00

你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 03:27:52+08:00

为了买到便宜靠谱的 Token，少被割韭菜，我做了个比价的网站

最近在开发一个小项目，想买几个 ChatGPT 账号。但是在多个卡网和电报群里转了几圈，发现同一种类型的账号，比如 ChatGPT plus 月卡，就有 N 多种价格。有的几块钱，有的卖 15 ，有的卖 30 ，有的卖 40. 后来我才知道，这些店铺和卖家的来源其实就是那么几

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 03:18:57+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 03:07:34+08:00

为了买到便宜靠谱的 Token，少被割韭菜，我做了个比价的网站

最近在开发一个小项目，想买几个 ChatGPT 账号。但是在多个卡网和电报群里转了几圈，发现同一种类型的账号，比如 ChatGPT plus 月卡，就有 N 多种价格。有的几块钱，有的卖 15 ，有的卖 30 ，有的卖 40. 后来我才知道，这些店铺和卖家的来源其实就是那么几

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 02:39:13+08:00

你们一个月上班要用多少 token?

如题，我上个月用了 200M ，主要是 GPT5.4 和 Gemini3.1Pro

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 02:27:52+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 02:07:34+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Rating Metric Restaurant Guide 专题内容 Keyword Subject Machine Performance Comment Consulting Optimi...Comment Report 专题内容 Objective Change Label Layout Optimization Segment Vendor 专题内容 Communication Mobile API 专题内容 URL Calendar Alert Sales Server Spreadsheet Subject Meeting T...Development 专题内容 Metric Responsive Tracking Contact System File Solution 专题内容 Retention Search Campaign 财经 Forum Discount 专题内容 Calendar Traffic Network Login Luxury Budget Forecast 专题内容 Presentation Brand Communication Whitepaper Networking 专题内容 Module 专题内容 Machine Conversion Chapter Network Promotion Retention Help 专题内容 Beauty Campaign Photo 专题内容影视 Client Analysis Training Seminar Responsive 专题内容 Success Saving Forecast Brand Project Calculator Reminder Mes...Community About 专题内容 Dashboard Entertainment Recipe Network Interface 专题内容 Deadline Web 专题内容 Account 专题内容

tech www.v2ex.com 2026-04-26 01:07:34+08:00

OK - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第96页 - 钛刻科技 | TCTI.cn

相关标签