记录 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第14页 - 钛刻科技 | TCTI.cn

记录 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第14页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。

共 394 篇相关文章 · 第 14 / 20 页

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech v2ex.com 2026-04-24 20:06:39+08:00

和异性的聊天记录

之前在网上认识了个女生,现在已经分手了。当我又翻到这段聊天记录,感觉她说的前两句话对我的伤害挺大的。 30 个帖子 - 26 位参与者 阅读完整话题

tech linux.do 2026-04-24 20:02:28+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech www.v2ex.com 2026-04-24 19:59:44+08:00

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech v2ex.com 2026-04-24 19:41:32+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech www.v2ex.com 2026-04-24 19:41:32+08:00

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech v2ex.com 2026-04-24 18:48:29+08:00

[Local LLM] 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech v2ex.com 2026-04-24 18:48:29+08:00

[宽带症候群] 记录: clash-meta 配置 ss 回连访问局域网设备

两个注意点: clash-meta 取消勾选“网络->绕过私有地址”,不然配置了 dns 和 tun 都会被直接过滤掉,连 debug 日志都不显示 192.168.0.0/16 的访问流量; dns -> proxy-server-nameserver 要加,不然解

tech v2ex.com 2026-04-24 15:48:04+08:00

[宽带症候群] 记录: clash-meta 配置 ss 回连访问局域网设备

两个注意点: clash-meta 取消勾选“网络->绕过私有地址”,不然配置了 dns 和 tun 都会被直接过滤掉,连 debug 日志都不显示 192.168.0.0/16 的访问流量; dns -> proxy-server-nameserver 要加,不然解

tech v2ex.com 2026-04-24 15:28:03+08:00

关于小白对Antigravity前端无响应和Clash Verge Rev版本的TUN模式修复过程记录

三月底发现反重力用不了了,表现效果为:发送消息后,没有任何响应,甚至都没有进入到Working/Generating这种显示状态的阶段。更换节点和代理等方式均尝试无果,以为是谷歌算力限制了 前几天使用还是如此,感觉不对劲。卸载重装、清缓存、重新登录,网页提示登录成功但是应用没有反

tech linux.do 2026-04-24 15:20:14+08:00

[问与答] GCP 账号因涉及与盗用账户有关的滥用活动而遭到停权

GCP 账号被暂停经历记录 背景 绑卡情况 :GCP 账号绑定了国内发行的万事达信用卡 订阅服务 :购买了 Google AI Ultra 订阅 福利领取 :利用 Ultra 订阅每月领取 $100 赠金 领取时长 :成功领取了 2 个月 使用方式 :仅开通了 Vertex AI

tech v2ex.com 2026-04-24 14:36:12+08:00

跟佬友的步骤Claude Desktop自定义API成功了

记录一下步骤 自定义API Claude Desktop使用自定义API 开发调优 女朋友经常使用Claude Desktop编辑ppt和excel,订阅了一个pro plan,奈何消耗太快,所以研究了下怎么接入第三方api。 官网提供有文档说明,写的有点复杂。 总结起来 正常安

tech linux.do 2026-04-24 14:07:45+08:00

佬友们CPA出来的image2质量如何

我这边怎么在CPA里的记录一直是GPT5.4mini,然后感觉图片质量不如网页版,指定quality high也是无效的 4 个帖子 - 3 位参与者 阅读完整话题

tech linux.do 2026-04-24 14:01:09+08:00

[问与答] GCP 账号因涉及与盗用账户有关的滥用活动而遭到停权

GCP 账号被暂停经历记录 背景 绑卡情况 :GCP 账号绑定了国内发行的万事达信用卡 订阅服务 :购买了 Google AI Ultra 订阅 福利领取 :利用 Ultra 订阅每月领取 $100 赠金 领取时长 :成功领取了 2 个月 使用方式 :仅开通了 Vertex AI

tech v2ex.com 2026-04-24 11:28:44+08:00

请教各位佬,有没有企微聊天记录导出分析的项目

请教各位佬,有没有企微聊天记录导出分析的项目 1 个帖子 - 1 位参与者 阅读完整话题

tech linux.do 2026-04-24 11:22:08+08:00

IDA PRO动态调试Android问题记录(不定期更新)

0x01 前言 之前学习逆向的时候碰到了一大堆问题,然后逆向在网络上资源复杂,有些问题太简单可能根本没人提起,写这篇文章是为了记录使用IDA PRO的时候遇到的问题,方便自己及他人排查错误,由于新手入门,秉持着能用就行,所以解释不一定正确,如有错误,请各位大佬指正。(以及不知道w

tech linux.do 2026-04-24 11:05:24+08:00

[分享发现] 记一次 QQ 被盗事件记录

QQ 被盗事件记录 基本信息 手机号码 :1*********(中国联通) 设备 :iPhone (最新系统,无越狱) 使用习惯 :平时使用非中国大陆 eSIM ,联通号码通常不启用,需要时才临时开启 发现时间 :2026/04/24 ,经朋友提醒才发现账号异常 背景说明 平时开

tech v2ex.com 2026-04-24 08:10:31+08:00

多少tps(每秒tokens),算快?多少速度大家可以接受?

这是某个中转的gpt5.4xhigh我用的记录,然后丢给了GPT。我体感来说,40~50每秒tokens对我来说刚好够用,属于不快也不慢 等会儿我具体测一下这个中转站到底支不支持fast,因为我是配置里是开着fast用的但我不清楚这个中转支不支持 7 个帖子 - 7 位参与者 阅

tech linux.do 2026-04-24 01:41:45+08:00

【记录贴】Claude Pro存活的第3个月(10刀优惠)

(话题已被作者删除) 1 个帖子 - 1 位参与者 阅读完整话题

tech linux.do 2026-04-23 23:25:19+08:00

求助:Codex windows app更新后应用内对话记录丢失,但本地记录还在如何解决?

我的微软商店莫名其妙用不了(关闭代理也不行),所以使用了站内佬开发的 Codex Windows 下载页 下载了4.21版本的msix安装,从3.09的版本更新到4.21版本。之前3.09版本也是下载的安装包安装的,没走微软商店。更新后,我发现codex应用内对话记录大量的丢失,

tech linux.do 2026-04-23 21:32:23+08:00