提到 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第6页 - 钛刻科技 | TCTI.cn

提到 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第6页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。

共 126 篇相关文章 · 第 6 / 7 页

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech v2ex.com 2026-04-24 20:06:39+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech www.v2ex.com 2026-04-24 19:59:44+08:00

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech v2ex.com 2026-04-24 19:41:32+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech www.v2ex.com 2026-04-24 19:41:32+08:00

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech v2ex.com 2026-04-24 18:48:29+08:00

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech v2ex.com 2026-04-24 18:48:29+08:00

借用AI解释下ds公众号提到的短语

不诱于誉,不恐于诽,率道而行,端然正己 1. 情绪的解耦:名声与我无关 “不诱于誉,不恐于诽” 不诱于誉 :当全世界都在赞美你、捧你(比如 DeepSeek 被捧为“国产之光”)时,你不会因此而飘飘然,不会为了维持这些赞美而去做违背初衷的事。你深知美誉往往带有泡沫。 不恐于诽 :

tech linux.do 2026-04-24 11:34:04+08:00

DeepSeek V4 好像官方那边给出的信息中还是没有提到多模态,也没有coding plan,佬们怎么看ds在如今大模型中所处的生态位

DeepSeek V4 好像官方那边给出的信息中还是没有提到多模态,也没有coding plan,佬们怎么看ds在如今大模型中所处的生态位 想听听佬们的理解 9 个帖子 - 9 位参与者 阅读完整话题

tech linux.do 2026-04-24 11:30:19+08:00

DeepSeek V4似乎还是没有多模态?

看了下官方的公众号介绍,没有提到多模态的内容。 似乎这次的两个v4模型还是都不支持多模态? 1 个帖子 - 1 位参与者 阅读完整话题

tech linux.do 2026-04-24 11:16:01+08:00

Claude Code的Subagents是什么,怎么用呢?

最近看到帖子 https://linux.do/t/topic/2017019 中提到了Subagents,看了下大概是防止污染上下文并且压缩上下文的时候用的,这个在Claude Code怎么用呀 8 个帖子 - 6 位参与者 阅读完整话题

tech linux.do 2026-04-23 11:00:13+08:00

[生活] 陈奕迅的苦瓜,歌词真的太好

某网友评论里提到了苦瓜,恰好本人是 eason 的至少 15 年老粉 难得有划水的时光,就趁这个机会把黄伟文作词的苦瓜从头到尾“赏”了一遍,感觉很有感触 年轻的时候心急气盛,越长大越被棱角磨平 年青的时候对很多事情的追求和执着,到现在看来其实都过眼云烟 我甚至让 deepseek

tech v2ex.com 2026-04-22 16:59:56+08:00

[生活] 陈奕迅的苦瓜,歌词真的太好

某网友评论里提到了苦瓜,恰好本人是 eason 的至少 15 年老粉 难得有划水的时光,就趁这个机会把黄伟文作词的苦瓜从头到尾“赏”了一遍,感觉很有感触 年轻的时候心急气盛,越长大越被棱角磨平 年青的时候对很多事情的追求和执着,到现在看来其实都过眼云烟 我甚至让 deepseek

tech v2ex.com 2026-04-22 16:48:34+08:00

[生活] 陈奕迅的苦瓜,歌词真的太好

某网友评论里提到了苦瓜,恰好本人是 eason 的至少 15 年老粉 难得有划水的时光,就趁这个机会把黄伟文作词的苦瓜从头到尾“赏”了一遍,感觉很有感触 年轻的时候心急气盛,越长大越被棱角磨平 年青的时候对很多事情的追求和执着,到现在看来其实都过眼云烟 我甚至让 deepseek

tech v2ex.com 2026-04-22 16:39:41+08:00

[生活] 陈奕迅的苦瓜,歌词真的太好

某网友评论里提到了苦瓜,恰好本人是 eason 的至少 15 年老粉 难得有划水的时光,就趁这个机会把黄伟文作词的苦瓜从头到尾“赏”了一遍,感觉很有感触 年轻的时候心急气盛,越长大越被棱角磨平 年青的时候对很多事情的追求和执着,到现在看来其实都过眼云烟 我甚至让 deepseek

tech v2ex.com 2026-04-22 16:30:49+08:00

[生活] 陈奕迅的苦瓜,歌词真的太好

某网友评论里提到了苦瓜,恰好本人是 eason 的至少 15 年老粉 难得有划水的时光,就趁这个机会把黄伟文作词的苦瓜从头到尾“赏”了一遍,感觉很有感触 年轻的时候心急气盛,越长大越被棱角磨平 年青的时候对很多事情的追求和执着,到现在看来其实都过眼云烟 我甚至让 deepseek

tech v2ex.com 2026-04-22 16:20:59+08:00

[☕Vibe Coding🤖] 上周登顶过本站热搜的 codex 中转批发渠道贴中提到的 86Gamstore 是不是跑路了?

买的 api key 用不了了,网站所有商品也下架了

tech v2ex.com 2026-04-22 15:41:23+08:00

[☕Vibe Coding🤖] 上周登顶过本站热搜的 codex 中转批发渠道贴中提到的 86Gamstore 是不是跑路了?

买的 api key 用不了了,网站所有商品也下架了

tech v2ex.com 2026-04-22 15:41:23+08:00

[☕Vibe Coding🤖] 上周登顶过本站热搜的 codex 中转批发渠道贴中提到的 86Gamstore 是不是跑路了?

买的 api key 用不了了,网站所有商品也下架了

tech v2ex.com 2026-04-22 15:40:23+08:00

[宽带症候群] 爱快 iKuai 科学上网新思路,扔掉旁路由!

在过去,大多数教程都提到,使用 iKuai 的同时如果想要实现科学上网,通常需要额外配备一个 Openwrt 旁路由专门负责特定设备,这些设备通常需要把网关和 DNS 修改为旁路由 IP ,虽然同样能达成目标。而流控是 iKuai 一直以来宣传的强项,但这样一来,iKuai 几乎

tech v2ex.com 2026-04-22 13:02:28+08:00

勒索软件谈判专家帮助黑客索要更高赎金 甚至还亲自下场部署勒索软件

此前曾提到过美国事件响应公司 DigitalMint 有勒索谈判专家收取黑客支付的好处费,帮助黑客勒索前来寻求帮助的受害者,日前这名谈判专家的其他两名同事也因为收受贿赂而被法庭审判,这些谈判专家甚至还参与部署勒索软件。 41 岁的安杰洛马蒂诺曾是勒索软件谈判代表,主要工作就是代表

tech plink.anyfeeder.com 2026-04-22 12:35:44+08:00