本地部署的Qwen3.5-9B-AWQ打开思考模式在终端对话总是会输出完整的</think>而不折叠隐藏
我需要思考模式,但是不像其他在线模式那样思考过程会折叠 像下面只是发了一个"你好",他连思考过程都返回完整的输出在终端上 #启动方式如下 vllm serve /root/models/huggingface/Qwen3.5-9B-AWQ \ --served
9B - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 18 篇相关文章
我需要思考模式,但是不像其他在线模式那样思考过程会折叠 像下面只是发了一个"你好",他连思考过程都返回完整的输出在终端上 #启动方式如下 vllm serve /root/models/huggingface/Qwen3.5-9B-AWQ \ --served
佬们,哪里有便宜的 qwen3.5-9b 可以用啊;硅基流的太慢了,还经常调用失败! 12 个帖子 - 10 位参与者 阅读完整话题
新对话,用的claude sonnet。 Error: HTTP 400 Bad Request Sherlog: TraceID: 0xf5bf172e11119b39 Headers: {“Alt-Svc”:[“h3=":443"; ma=2592000,
分享一波邀请码,需要的佬自取: CLAWDD2600734C94 CLAW86B6DE27213F CLAW2FE5FDF809BF CLAW15931FD94515 CLAW993E32DF5E4E CLAW5D35A34BC71D 5 个帖子 - 4 位参与者 阅读完整话题
https://crazyrouter.com/ 4fa4f59a69804173871b9751239bb352 b334de8d00084b9aa3c293effb77e181 a191389e5e76426bb426f41019f87406 f181d520185740dd
https://crazyrouter.com/ 4fa4f59a69804173871b9751239bb352 b334de8d00084b9aa3c293effb77e181 a191389e5e76426bb426f41019f87406 f181d520185740dd
https://crazyrouter.com/ 4fa4f59a69804173871b9751239bb352 b334de8d00084b9aa3c293effb77e181 a191389e5e76426bb426f41019f87406 f181d520185740dd
邀请码如下: CLAWDEF401DFB7B1 CLAWF15A19B709A3 CLAW8C047EB7E3AD CLAW0E37B6070E23 9 个帖子 - 8 位参与者 阅读完整话题
https://www.bilibili.com/video/BV1QBo9BLEXu/ 8 个帖子 - 6 位参与者 阅读完整话题
Crazyrouter.com 的兑换码国内老站 f4e431b607cc4c939428e2c335c7d5da da34f6536d3444df8fc09027458f7bbf dc3db1f158fd4ce79405cb5aa48ae6d1 a228e8f9ea074ed8
https://file.icve.com.cn/file_doc/aoh2tls5/Z9BVENeI.mp4 陈平安以拳问心,破境最强三境!!! 好消息是一次性看第二季大结局,坏消息是后面每周三晚上又少一部细糠看了 4 个帖子 - 4 位参与者 阅读完整话题
哇牛的,上次看见还是qwen3的80b-A3B如此小规模的激活参数呢 2 个帖子 - 2 位参与者 阅读完整话题
token.zhilu.online ZhiLu Token - AI API Gateway sk-d62b6e3da97b3ac09b0f5f3d0da03fa4bf5561709efdc03d4edfc02e0f2ce900 500刀福利 codex gpt-5.4 7 个
因为是个体验卡,能选的模型不多,需要的佬自取吧 API key:9a5e7bb73e2b4b53bb0419b4960ec4bd.tZVQRCEMBmhBDS3z 请求地址: https://open.bigmodel.cn/api/anthropic 2 个帖子 - 2 位参与
我现在8卡的T4显卡,单卡16G,跑Qwen3.5-9B-Q4_K_M.gguf cli下测试的结果如下,速度都还行 8卡结果:[ Prompt: 71.2 t/s | Generation: 23.7 t/s ] 单卡结果:[ Prompt: 78.2 t/s | Genera
url: http://16.59.44.98:8080/v1 key:sk-59b8bf476783c857c2a3c0fa4f3afaf573cac9bf5379a8e5ffb036271a1334cc 并发10 1 个帖子 - 1 位参与者 阅读完整话题
vless://6810a725-9f09-4e44-89b1-0db4ad5003d1@38.76.205.24:16196?encryption=none&security=reality&pqv=&type=tcp& sni=www.mysq
https://cn.wsj.com/articles/meta计划新一轮裁员-5月或裁员约8-000人-路透-e8d9b3c4 4 个帖子 - 4 位参与者 阅读完整话题