27b - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第3页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
搞了一上午，本地 a100 40g ，输出也慢 40t/s 大概的提示词劳力士风格，罗马数字，月相日历，高贵典雅 月相那块搞了好多轮 结论: 小参数的模型智力不差，Trae IDE agent 连接本地模型，coding 完全可用
tech www.v2ex.com 2026-04-27 17:38:48+08:00
搞了一上午，本地 a100 40g ，输出也慢 40t/s 大概的提示词劳力士风格，罗马数字，月相日历，高贵典雅 月相那块搞了好多轮 结论: 小参数的模型智力不差，Trae IDE agent 连接本地模型，coding 完全可用
tech www.v2ex.com 2026-04-27 17:38:48+08:00
搞了一上午，本地 a100 40g ，输出也慢 40t/s 大概的提示词劳力士风格，罗马数字，月相日历，高贵典雅 月相那块搞了好多轮 结论: 小参数的模型智力不差，Trae IDE agent 连接本地模型，coding 完全可用
tech www.v2ex.com 2026-04-27 17:26:54+08:00
搞了一上午，本地 a100 40g ，输出也慢 40t/s 大概的提示词劳力士风格，罗马数字，月相日历，高贵典雅 月相那块搞了好多轮 结论: 小参数的模型智力不差，Trae IDE agent 连接本地模型，coding 完全可用
tech www.v2ex.com 2026-04-27 17:04:03+08:00
搞了一上午，本地 a100 40g ，输出也慢 40t/s 大概的提示词劳力士风格，罗马数字，月相日历，高贵典雅 月相那块搞了好多轮 结论: 小参数的模型智力不差，Trae IDE agent 连接本地模型，coding 完全可用
tech v2ex.com 2026-04-27 15:57:58+08:00
搞了一上午，本地 a100 40g ，输出也慢 40t/s 大概的提示词劳力士风格，罗马数字，月相日历，高贵典雅 月相那块搞了好多轮 结论: 小参数的模型智力不差，Trae IDE agent 连接本地模型，coding 完全可用
tech v2ex.com 2026-04-27 15:57:58+08:00
搞了一上午，本地 a100 40g ，输出也慢 40t/s 大概的提示词劳力士风格，罗马数字，月相日历，高贵典雅 月相那块搞了好多轮 结论: 小参数的模型智力不差，Trae IDE agent 连接本地模型，coding 完全可用
tech v2ex.com 2026-04-27 15:29:33+08:00
搞了一上午，本地 a100 40g ，输出也慢 40t/s 大概的提示词劳力士风格，罗马数字，月相日历，高贵典雅 月相那块搞了好多轮 结论: 小参数的模型智力不差，Trae IDE agent 连接本地模型，coding 完全可用
tech www.v2ex.com 2026-04-27 14:56:11+08:00
搞了一上午，本地 a100 40g ，输出也慢 40t/s 大概的提示词劳力士风格，罗马数字，月相日历，高贵典雅 月相那块搞了好多轮 结论: 小参数的模型智力不差，Trae IDE agent 连接本地模型，coding 完全可用
tech v2ex.com 2026-04-27 14:36:20+08:00
非推广，纯分享，和下方参考视频、Github项目均无利益关系！ 众所周知， Qwen3.5-27B 在多方面的能力表现惊艳，甚至能打一两年前的超大模型，然而在本地部署中，其较低的速度往往让体验大打折扣，即使是 90 级别显卡也只有二三十 Token/s，远不如 Qwen3.5-3
tech linux.do 2026-04-27 00:21:35+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech www.v2ex.com 2026-04-26 18:30:30+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech www.v2ex.com 2026-04-26 18:30:30+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech www.v2ex.com 2026-04-26 17:48:07+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech www.v2ex.com 2026-04-26 17:27:54+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech www.v2ex.com 2026-04-26 16:33:08+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 16:28:27+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech www.v2ex.com 2026-04-26 14:48:11+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 11:33:27+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech www.v2ex.com 2026-04-26 11:29:46+08:00
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
tech v2ex.com 2026-04-26 10:57:35+08:00