2080ti 11g本地部署qwen 3.6 35b a3b,128k 上下文,67tps
我是windows上llama.cpp部署的,先看效果图。 这里面,我用的模型是 unsloth 量化的 Qwen3.6-35B-A3B-UD-IQ1_M 模型。 得益于其超强的量化,整个模型可以完美装在 2080ti 11g 显存里面,用 q4 量化上下文可以跑到128k 的上
WIN - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第23页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 808 篇相关文章 · 第 23 / 41 页
我是windows上llama.cpp部署的,先看效果图。 这里面,我用的模型是 unsloth 量化的 Qwen3.6-35B-A3B-UD-IQ1_M 模型。 得益于其超强的量化,整个模型可以完美装在 2080ti 11g 显存里面,用 q4 量化上下文可以跑到128k 的上
根据站内佬友的文章和查询gpt,终于养上马了,把操作步骤分享一下~ 官方文档: https://hermes-agent.nousresearch.com/ 1. 安装前准备 1.1 Windows 侧要求 windows基于wls安装,需先检查是否安装了wls 检查 WSL 状
最近用了windsurf后发现这玩意挺好用,所以问问有没有什么换号器推荐下 5 个帖子 - 3 位参与者 阅读完整话题
比如我当前在 d:\xxx 项目空间,希望 r:\xxx 也可写
比如我当前在 d:\xxx 项目空间,希望 r:\xxx 也可写
比如我当前在 d:\xxx 项目空间,希望 r:\xxx 也可写
此前微软在博客中已经提到将不再强迫用户 Windows 11 安装更新,因为自动下载和安装更新在事实上确实给不少用户造成麻烦,尽管及时安装更新可以提升系统安全性但前提是不能影响用户的正常使用。 所以微软后续将继续默认采用自动更新,但如果用户需要的话可以暂停更新并且还是无限期暂停更
比如我当前在 d:\xxx 项目空间,希望 r:\xxx 也可写
大家在Windows上会用emacs写代码吗,不算主力,主力还是vscode,cursor,然后emacs作为辅助主力,在用claude code,codex命令行的时候,辅助用emacs来写和改点代码 佬们在Windows安装emacs的最佳实践是怎样的 2 个帖子 - 2 位
目前我在开发win,mac和ios的软件,纯vibe coding,工作流是: claude cowork+obsdian,Claude出计划,审核,前端claude code执行,后端方面全给codex执行 我在其中就是个传话筒的作用,我是想把可以自动化的流程自动化,但和ai讨
300块的cursor学生优惠值得买吗 我看闲鱼上有类似的渠道呀 最近windsurf试用号经常出问题 想试试这个 2 个帖子 - 2 位参与者 阅读完整话题
佬友们,cc的win桌面版可以接入其他api吗,还是说只有cli才行?谢谢 4 个帖子 - 4 位参与者 阅读完整话题
model_context_window = 1000000 model_auto_compact_token_limit = 900000 万能的佬们,配置了自动压缩,感觉没起作用 还要配置其他的吗 2 个帖子 - 2 位参与者 阅读完整话题
IT之家 4 月 26 日消息,Windows 11 文件资源管理器图库视图和主页视图的滚动十分流畅,但奇怪的是,其余文件夹和目录在滚动时却卡顿、有阶梯感。如今,微软给出了官方解释。 微软采用全新框架重构了主页视图和图库视图,这也是这两个视图滚动顺滑的原因。不过,文件资源管理器的
挺奇怪的,昨天开始出现的 用的广电联通出口,DMIT 的线路,windows 的 clash 时不时就 timeout ; mac 用的同一个节点就完全没问题,这是什么神奇操作? 有遇见类似情况的吗? 各种我想到的都排查过了,dns 啥的,没找出个所以然,主要是 mac 是完全正
最近windsurf的热度又起来了,最近好像也是有什么活动吧,之前一直不温不燥,现在看来也撑不太久了 相信在不久的将来就能看到微信公众号有人开始宣传这个东西了,然后应该拉闸了 5 个帖子 - 5 位参与者 阅读完整话题
砺算科技正式获得微软WHQL认证,成为中国首家、世界第四家拿到这一顶级通行证的GPU公司。 WHQL认证由微软硬件质量实验室严格颁发,通过认证意味着砺算的显卡及驱动与Windows系统达到了官方级别的深度兼容。这是国产显卡真正走向大规模消费市场、实现商业化落地的基础。 砺算科技此
挺奇怪的,昨天开始出现的 用的广电联通出口,DMIT 的线路,windows 的 clash 时不时就 timeout ; mac 用的同一个节点就完全没问题,这是什么神奇操作? 有遇见类似情况的吗? 各种我想到的都排查过了,dns 啥的,没找出个所以然,主要是 mac 是完全正
Windows Update 新体验已经开始逐步推送,Windows 更新的暂停功能现在引入了新的日历体验,用户可以选择具体日期暂停更新,最长可达 35 天,便于围绕旅行、会议、考试或繁忙周期进行规划。如果需要更长的暂停时间,用户可以多次延长暂停截止日期,每次最多 35 天,且无
Windows Update 新体验已经开始逐步推送,Windows 更新的暂停功能现在引入了新的日历体验,用户可以选择具体日期暂停更新,最长可达 35 天,便于围绕旅行、会议、考试或繁忙周期进行规划。如果需要更长的暂停时间,用户可以多次延长暂停截止日期,每次最多 35 天,且无