最近 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第79页 - 钛刻科技 | TCTI.cn

最近 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第79页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。

共 2902 篇相关文章 · 第 79 / 146 页

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech www.v2ex.com 2026-04-25 22:29:34+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech www.v2ex.com 2026-04-25 22:29:34+08:00

[分享创造] 做了个小实验:先用 GPT Image 2 生成图片,再把图片生成音乐

最近在做一个有点绕的小实验: 先用 AI 生成一张图片,再把这张图片拿去生成音乐。 比如先生成: 雨夜赛博朋克街道 海边日落 像素风游戏场景 复古唱片店 森林里的木屋 科幻电影海报 然后再让 AI 根据图片的氛围生成一段音乐。 我原来做的是一个 Image to Music 的小

tech v2ex.com 2026-04-25 22:21:01+08:00

为了买到便宜靠谱的 Token,少被割韭菜,我做了个比价的网站

最近在开发一个小项目,想买几个 ChatGPT 账号。 但是在多个卡网和电报群里转了几圈,发现同一种类型的账号,比如 ChatGPT plus 月卡,就有 N 多种价格。 有的几块钱,有的卖 15 ,有的卖 30 ,有的卖 40. 后来我才知道,这些店铺和卖家的来源其实就是那么几

tech www.v2ex.com 2026-04-25 22:18:20+08:00

[问与答] 公司普通网管遇到一个问题打开淘宝链接 400 报错的问题

公司网管一名,最近公司电脑打开淘宝,点击搜索后的链接会出现下面的报错 400 Bad Request Your browser sent a request that this server could not understand. Powered by Tengine 刚开始

tech v2ex.com 2026-04-25 22:17:58+08:00

[问与答] 公司普通网管遇到一个问题打开淘宝链接 400 报错的问题

公司网管一名,最近公司电脑打开淘宝,点击搜索后的链接会出现下面的报错 400 Bad Request Your browser sent a request that this server could not understand. Powered by Tengine 刚开始

tech v2ex.com 2026-04-25 22:17:58+08:00

实习经历小记

临近毕业,记录下最近一年的实习片段,留下些我存在过的痕迹。 背景 我是一名大四的学生,计算机专业。一年前大三下学期的时候我们就要开始决定是工作还是读研了。我属于比较迷茫,没有未来规划的人,家里条件一般。我也是不太喜欢家的人,可能就因为这个,我想要早点摆脱父母经济上的束缚,我选择了

tech linux.do 2026-04-25 22:11:05+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech www.v2ex.com 2026-04-25 22:05:33+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech www.v2ex.com 2026-04-25 22:05:33+08:00

[分享创造] 做了个小实验:先用 GPT Image 2 生成图片,再把图片生成音乐

最近在做一个有点绕的小实验: 先用 AI 生成一张图片,再把这张图片拿去生成音乐。 比如先生成: 雨夜赛博朋克街道 海边日落 像素风游戏场景 复古唱片店 森林里的木屋 科幻电影海报 然后再让 AI 根据图片的氛围生成一段音乐。 我原来做的是一个 Image to Music 的小

tech v2ex.com 2026-04-25 22:04:37+08:00

[问与答] 公司普通网管遇到一个问题打开淘宝链接 400 报错的问题

公司网管一名,最近公司电脑打开淘宝,点击搜索后的链接会出现下面的报错 400 Bad Request Your browser sent a request that this server could not understand. Powered by Tengine 刚开始

tech v2ex.com 2026-04-25 22:02:49+08:00

各位佬的plus号都上反重力了么

我最近的20个plus的号反重力掉了2个,其他的还一直正常,不知道各位佬的怎样? 顺便可以分享下渠道。 1 个帖子 - 1 位参与者 阅读完整话题

tech linux.do 2026-04-25 22:00:00+08:00

[程序员] 为了买到便宜靠谱的 Token,少被割韭菜,我做了个比价的网站

最近在开发一个小项目,想买几个 ChatGPT 账号。 但是在多个卡网和电报群里转了几圈,发现同一种类型的账号,比如 ChatGPT plus 月卡,就有 N 多种价格。 有的几块钱,有的卖 15 ,有的卖 30 ,有的卖 40. 后来我才知道,这些店铺和卖家的来源其实就是那么几

tech v2ex.com 2026-04-25 21:56:11+08:00

为了买到便宜靠谱的 Token,少被割韭菜,我做了个比价的网站

最近在开发一个小项目,想买几个 ChatGPT 账号。 但是在多个卡网和电报群里转了几圈,发现同一种类型的账号,比如 ChatGPT plus 月卡,就有 N 多种价格。 有的几块钱,有的卖 15 ,有的卖 30 ,有的卖 40. 后来我才知道,这些店铺和卖家的来源其实就是那么几

tech www.v2ex.com 2026-04-25 21:53:42+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech www.v2ex.com 2026-04-25 21:45:41+08:00

我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现

最近在折腾本地大模型,发现一个核心问题:Ollama 和 LM Studio 能让模型跑起来,但参数全靠猜——上下文长度、KV cache 类型、MoE expert 放哪、ubatch 多大……用默认参数基本是在浪费显卡。 于是做了个工具自动找最优配置,过程中踩了不少坑,记录一

tech www.v2ex.com 2026-04-25 21:45:41+08:00

[程序员] 为了买到便宜靠谱的 Token,少被割韭菜,我做了个比价的网站

最近在开发一个小项目,想买几个 ChatGPT 账号。 但是在多个卡网和电报群里转了几圈,发现同一种类型的账号,比如 ChatGPT plus 月卡,就有 N 多种价格。 有的几块钱,有的卖 15 ,有的卖 30 ,有的卖 40. 后来我才知道,这些店铺和卖家的来源其实就是那么几

tech v2ex.com 2026-04-25 21:39:56+08:00

[程序员] 为了买到便宜靠谱的 Token,少被割韭菜,我做了个比价的网站

最近在开发一个小项目,想买几个 ChatGPT 账号。 但是在多个卡网和电报群里转了几圈,发现同一种类型的账号,比如 ChatGPT plus 月卡,就有 N 多种价格。 有的几块钱,有的卖 15 ,有的卖 30 ,有的卖 40. 后来我才知道,这些店铺和卖家的来源其实就是那么几

tech v2ex.com 2026-04-25 21:21:26+08:00

[分享创造] 做了个小实验:先用 GPT Image 2 生成图片,再把图片生成音乐

最近在做一个有点绕的小实验: 先用 AI 生成一张图片,再把这张图片拿去生成音乐。 比如先生成: 雨夜赛博朋克街道 海边日落 像素风游戏场景 复古唱片店 森林里的木屋 科幻电影海报 然后再让 AI 根据图片的氛围生成一段音乐。 我原来做的是一个 Image to Music 的小

tech v2ex.com 2026-04-25 21:16:43+08:00

[问与答] 公司普通网管遇到一个问题打开淘宝链接 400 报错的问题

公司网管一名,最近公司电脑打开淘宝,点击搜索后的链接会出现下面的报错 400 Bad Request Your browser sent a request that this server could not understand. Powered by Tengine 刚开始

tech v2ex.com 2026-04-25 21:15:31+08:00