提到 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第3页 - 钛刻科技

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

tech www.v2ex.com 2026-04-25 20:44:05+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 20:20:13+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 20:06:01+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 19:45:58+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 19:45:58+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 19:45:58+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 19:12:42+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 19:04:06+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 18:55:35+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 18:20:33+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 18:11:35+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 18:03:18+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 17:46:44+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 17:33:40+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 17:04:33+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 17:04:33+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 16:45:43+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 16:36:22+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 15:20:50+08:00

大项目中大家真的会用 Spec-Driven Development 吗？

https://openai.com/zh-Hans-CN/index/harness-engineering/ 中提到要把 Spec & Planning & Tasks 进度放进 git 仓库中，大家实践中真的会这么做吗？但是我看 codex 仓库内根本没这些

相关专题

Logo Expense Interface Budget Register Entertainment 专题内容 Milestone 专题内容 Mobile Brand Team API Comment Email Price 专题内容 Reminder Development Careers Quality Advertising Blog Ebook T...Notification Enterprise 专题内容 Local Community 专题内容 Restaurant 财经 User Efficiency Layout Success Alert Campaign T...Form Share Software 专题内容 Trading Cheap 专题内容 Database Satisfaction Revenue Report Beauty Retention Managem...Solution Site Fitness Theme 专题内容 URL Demographic Version Premium Event Analysis 专题内容 Client User Vendor Customer 专题内容 Ebook Campaign Event Email Success Support Integration 专题内容 Spreadsheet 专题内容 Browser Target Products Solution 专题内容游戏 Keyword 专题内容 Template 专题内容 Layout Server 专题内容视频专题内容

tech www.v2ex.com 2026-04-25 15:20:50+08:00

提到 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第3页 - 钛刻科技 | TCTI.cn

相关标签