一下 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第64页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech www.v2ex.com 2026-04-25 06:39:55+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech www.v2ex.com 2026-04-25 06:39:55+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech www.v2ex.com 2026-04-25 05:39:55+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech v2ex.com 2026-04-25 03:39:55+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech v2ex.com 2026-04-25 03:39:55+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech v2ex.com 2026-04-25 03:39:55+08:00
新审查是类似gemini的外审 但gpt5.5外审在正经工作的时候现在都是敏感肌 且频繁触发会导致该账号使用gpt5.5时的tps大幅降低 疑似为高风险账号导致遭到云端多次审查才会给你这次请求放行 也可能是强制路由到其他本来就慢模型 gpt5.5本身tps很快 一风控就特别明显
tech linux.do 2026-04-25 02:56:17+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech v2ex.com 2026-04-25 02:39:55+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech v2ex.com 2026-04-25 02:18:07+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech v2ex.com 2026-04-25 01:40:43+08:00
【长期贴】开个帖子，分享一下我自己是如何做harness【已更新完成，等待交作业，后续再有新想法再补充】 开发调优 据网上传，目前Anthropic的所有产品均为harness模式，不过最近他们推了一个harness产品，原本把我吓了一跳，但实质一看，并不是干货，多少有点恶心人了
tech linux.do 2026-04-25 00:48:23+08:00
分享一下最近开始做的一个小实验，因为一直有朋友问我到底怎么投资，而我不想把人盲目的引进股市，于是想要推荐定投，但又想到我自己也从来没尝试过DCA，仅仅是通过回测和他人的分享就进行推荐同样是一种盲目，所以我决定掏出真金白银来进行试验，挑选几种简单的方式，流派全都测一遍。 境内组出于
tech linux.do 2026-04-25 00:38:03+08:00
想问问推上nous research现在正在置顶的那个视频是怎么制作的？（贴链接的话好像需要审核才能发出来，麻烦佬友手动搜一下） 2 个帖子 - 2 位参与者 阅读完整话题
tech linux.do 2026-04-25 00:18:50+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech v2ex.com 2026-04-24 23:54:14+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech v2ex.com 2026-04-24 23:54:14+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech v2ex.com 2026-04-24 23:54:14+08:00
停药了，不吃草酸艾斯西酞普兰了 等能活到哪一秒算哪一秒吧 多多发帖子记录一下，除此之外没别的可做的 15 个帖子 - 7 位参与者 阅读完整话题
tech linux.do 2026-04-24 23:53:00+08:00
最近在折腾本地大模型，发现一个核心问题：Ollama 和 LM Studio 能让模型跑起来，但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置，过程中踩了不少坑，记录一
tech v2ex.com 2026-04-24 23:47:32+08:00
这几天天天就这状态，有没有佬能正常用网页普号，哪里IP？ 4 个帖子 - 4 位参与者 阅读完整话题
tech linux.do 2026-04-24 23:42:47+08:00
这随便蹬一下，100多刀没了。还没有开fast模式。牛逼是真牛逼。感觉一天要是2-3任务并行，起码需要300刀？ 1 个帖子 - 1 位参与者 阅读完整话题
tech linux.do 2026-04-24 23:21:31+08:00