llm - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第6页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
快问快答一下。 如题，最近不太喜欢切很多web跟LLM对话，所以想试一下 一站式 的AI Chat的工具。目前Cherry用着不舒服就排除了。在尝试Lobe和Msty中。于是遇到一个问题。 我还挺想用GPT-5.5聊天的，但是 Msty似乎只能走completions端点或者me
tech linux.do 2026-04-26 21:17:38+08:00
TPS Calculator · GPU 推理速度计算器 买不起机子，所以做了这个。 在线地址： tps.bunai.cc 突发奇想赶紧记录下来，直接 vibe code ，说敲就写 一个 vibe code 出来的 GPU 推理性能估算工具。 起因很简单——显卡太贵，买不起，想
tech v2ex.com 2026-04-26 17:34:17+08:00
刚在openclaw配了下ds的V4Pro模型，直接跑不起来了 回复信息：LLM request failed: provider rejected the request schema or tool payload. 3 个帖子 - 2 位参与者 阅读完整话题
tech linux.do 2026-04-26 17:31:57+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 16:28:27+08:00
新人加入L站，分享个前端开发小技巧: 鉴于gpt短期的前端能力相较于gemini等llm相对不足，在当前可以提供一个曲线救国的思路: 利用google当前的较高的stitch调用次数(无论是否pro账号)，可以白嫖高质量的特调gemini的前端开发能力，配合目前高质量的aweso
tech linux.do 2026-04-26 15:21:58+08:00
导师让我想一想接下来自己想做什么方向的内容。 导师是做graph+llm的。我对这个大的研究方向也不太好拿捏，不知道怎样才能选一个研究方向 导师大概给了两个： Agent Memory GFM：Graph Foundation Model(Graph + LLM也算） 导师主要是
tech linux.do 2026-04-26 12:48:40+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 11:33:27+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 10:57:35+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 10:38:59+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 10:23:40+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 09:57:43+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 09:46:29+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 08:56:08+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 08:56:08+08:00
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的，图片数据暂定 5000 张（其实数据有很多，但是暂定用于训练的数据上限是 5000 张）。 目前有一台 RX6600xt ，但是 directML 好像也不能使这张卡参与训练计算，上网查了一下好像是对 7000 系列以
tech v2ex.com 2026-04-26 03:14:45+08:00
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的，图片数据暂定 5000 张（其实数据有很多，但是暂定用于训练的数据上限是 5000 张）。 目前有一台 RX6600xt ，但是 directML 好像也不能使这张卡参与训练计算，上网查了一下好像是对 7000 系列以
tech v2ex.com 2026-04-26 01:14:45+08:00
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的，图片数据暂定 5000 张（其实数据有很多，但是暂定用于训练的数据上限是 5000 张）。 目前有一台 RX6600xt ，但是 directML 好像也不能使这张卡参与训练计算，上网查了一下好像是对 7000 系列以
tech v2ex.com 2026-04-26 01:14:45+08:00
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的，图片数据暂定 5000 张（其实数据有很多，但是暂定用于训练的数据上限是 5000 张）。 目前有一台 RX6600xt ，但是 directML 好像也不能使这张卡参与训练计算，上网查了一下好像是对 7000 系列以
tech v2ex.com 2026-04-26 01:14:45+08:00
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的，图片数据暂定 5000 张（其实数据有很多，但是暂定用于训练的数据上限是 5000 张）。 目前有一台 RX6600xt ，但是 directML 好像也不能使这张卡参与训练计算，上网查了一下好像是对 7000 系列以
tech v2ex.com 2026-04-26 01:14:45+08:00
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的，图片数据暂定 5000 张（其实数据有很多，但是暂定用于训练的数据上限是 5000 张）。 目前有一台 RX6600xt ，但是 directML 好像也不能使这张卡参与训练计算，上网查了一下好像是对 7000 系列以
tech v2ex.com 2026-04-26 01:03:28+08:00