发现 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第63页 - 钛刻科技

[分享发现] 小红书下场做 app 工厂

圆周和 sigma 那几个每天都能刷到一群广告，还都挺直接的，这是内部转型还是说测试投放系统？代码不值钱了，大家都拼命卷了。

相关专题

tech v2ex.com 2026-04-25 08:33:17+08:00

[分享发现] XChat 正式上架 App Store 了

有些失望，就是 X 的一个聊天 Tab 独立为 XChat 了，替代不了 TG ，也替代不了微信。

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech v2ex.com 2026-04-25 08:14:21+08:00

[分享发现] XChat 正式上架 App Store 了

有些失望，就是 X 的一个聊天 Tab 独立为 XChat 了，替代不了 TG ，也替代不了微信。

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech v2ex.com 2026-04-25 08:14:21+08:00

codex需要开全局模式才稳定，应该怎么解决

不知道为什么这几天发现，开启 TUN 模式之后还要打开全局模式，Codex才能够比较稳定使用。使用绕过大陆模式的时候 Codex 经常会不太稳定，有各位佬友们知道怎么解决吗？ 11 个帖子 - 11 位参与者阅读完整话题

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech linux.do 2026-04-25 08:12:55+08:00

[分享发现] 小红书下场做 app 工厂

圆周和 sigma 那几个每天都能刷到一群广告，还都挺直接的，这是内部转型还是说测试投放系统？代码不值钱了，大家都拼命卷了。

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech v2ex.com 2026-04-25 07:33:17+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech www.v2ex.com 2026-04-25 06:39:55+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech www.v2ex.com 2026-04-25 06:39:55+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech www.v2ex.com 2026-04-25 06:39:55+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech www.v2ex.com 2026-04-25 06:39:55+08:00

[分享发现] 小红书下场做 app 工厂

圆周和 sigma 那几个每天都能刷到一群广告，还都挺直接的，这是内部转型还是说测试投放系统？代码不值钱了，大家都拼命卷了。

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech v2ex.com 2026-04-25 06:33:17+08:00

取名用啥AI好

家里宝宝刚出生，最近几天在想名字，尝试了Chatgpt、Gemini、Grok，用了一圈发现都不太适合用来取中国名，重复度都非常高，都不满意。各位佬们，有其他好的AI可以推荐不？ 5 个帖子 - 5 位参与者阅读完整话题

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech linux.do 2026-04-25 05:54:48+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech www.v2ex.com 2026-04-25 05:39:55+08:00

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech v2ex.com 2026-04-25 03:39:55+08:00

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech v2ex.com 2026-04-25 03:39:55+08:00

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech v2ex.com 2026-04-25 03:39:55+08:00

没想到 2026 年，还要浪费大量时间在跨域问题上

公司后端写的接口部署到测试环境了，访问之后发现跨域了，把浏览器的跨域截图发给后端开发，问我报什么错了？难道都 2026 年还不理解跨域是什么原理吗？还需要我给他科普一下吗？心累。

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech www.v2ex.com 2026-04-25 03:37:46+08:00

浅谈吐槽一下目前发现的gpt5.5新审查机制

新审查是类似gemini的外审但gpt5.5外审在正经工作的时候现在都是敏感肌且频繁触发会导致该账号使用gpt5.5时的tps大幅降低疑似为高风险账号导致遭到云端多次审查才会给你这次请求放行也可能是强制路由到其他本来就慢模型 gpt5.5本身tps很快一风控就特别明显

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech linux.do 2026-04-25 02:56:17+08:00

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech v2ex.com 2026-04-25 02:39:55+08:00

解决Codex创建ssh权限受阻问题 "Permission denied"

更新完新版Codex之后突然发现无法连接上我的ssh了会出现Permission denied的字样看起来是安全策略有了一些变更那么直接给出解决方案：在config.toml加上 approval_policy = “on-request” sandbox_mode =

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech linux.do 2026-04-25 02:33:12+08:00

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s，记录一下技术发现

最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。于是做了个工具自动找最优配置，过程中踩了不少坑，记录一

相关专题

Event Vacation Mobile Coupon 专题内容 Value 专题内容 Site Guide Identity 专题内容 Comment Deal Deadline Alliance Study Software Local 专题内容 Link Optimization Conference 专题内容 Productivity Promotion Budget Funnel Digital Behavior 专题内容 Whitepaper Cost 专题内容 Innovation Solution Brand Engagement Optimization 专题内容 Discovery Collaboration Follow Visitor 专题内容 Alert Customization Meeting Enterprise 专题内容 Customer File Tool Schedule 专题内容 Training 专题内容 Button App Report Course 专题内容 Like Brand Loyalty Demographic Contact Segment 专题内容 Webinar Audience Engagement Calendar Form Market Notification...Guide Like Conversion 专题内容 Ebook Resolution Settings 专题内容 Calculator Label Networking System Forecast Budget Growth 专题内容 Folder Feedback Tactic Backup Supplier AI Platform Analysis 专题内容 Development Subject Experience 专题内容

tech v2ex.com 2026-04-25 02:18:07+08:00

发现 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第63页 - 钛刻科技 | TCTI.cn

相关标签