[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
CA - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第26页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 859 篇相关文章 · 第 26 / 43 页
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
27年4月到期,还有1tb https://s-dywrwizazu.cn-shanghai.fcapp.run/okz/sub?token=487099b89235ad9fe234908444d2d6e5 1 个帖子 - 1 位参与者 阅读完整话题
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的,图片数据暂定 5000 张(其实数据有很多,但是暂定用于训练的数据上限是 5000 张)。 目前有一台 RX6600xt ,但是 directML 好像也不能使这张卡参与训练计算,上网查了一下好像是对 7000 系列以
看了好几个佬友的帖子,都说建议买AC+,没有AC+出意外维修很贵,加上是新机上车的最后一天了,脑子一热就买了 但现在又想想,我这是最便宜的M5 MBA,国补+教育到手6544,这价位的机器上AC+是不是有点多余了? 不过好像也没有后悔药 15 个帖子 - 10 位参与者 阅读完整
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的,图片数据暂定 5000 张(其实数据有很多,但是暂定用于训练的数据上限是 5000 张)。 目前有一台 RX6600xt ,但是 directML 好像也不能使这张卡参与训练计算,上网查了一下好像是对 7000 系列以
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的,图片数据暂定 5000 张(其实数据有很多,但是暂定用于训练的数据上限是 5000 张)。 目前有一台 RX6600xt ,但是 directML 好像也不能使这张卡参与训练计算,上网查了一下好像是对 7000 系列以
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的,图片数据暂定 5000 张(其实数据有很多,但是暂定用于训练的数据上限是 5000 张)。 目前有一台 RX6600xt ,但是 directML 好像也不能使这张卡参与训练计算,上网查了一下好像是对 7000 系列以
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的,图片数据暂定 5000 张(其实数据有很多,但是暂定用于训练的数据上限是 5000 张)。 目前有一台 RX6600xt ,但是 directML 好像也不能使这张卡参与训练计算,上网查了一下好像是对 7000 系列以
今天在codex使用gpt5.5时出现了以下报错: Selected model is at capacity. Please try a different model. 令人困惑的是,我并没有达到任何usage限制。 在我重新向codex对话后没有再次出现报错,我使用的是gp
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的,图片数据暂定 5000 张(其实数据有很多,但是暂定用于训练的数据上限是 5000 张)。 目前有一台 RX6600xt ,但是 directML 好像也不能使这张卡参与训练计算,上网查了一下好像是对 7000 系列以
从 「GenericAgent一键启动器」token饥荒?放弃龙虾吧! 继续讨论 各位佬友,本次主要是给使用我启动器的佬友们说明一下新版启动器迭代成安装包后应该怎么替换 首先不要担心,就算你不看我这个教程也不会损失你的记忆和会话,这个教程的目的是帮助大家平滑地迁移对启动器的设置,
听说有人还能用AppleCash绑定GPT Team 试用,不用套 paypal 但是我怎么整都卡片被拒,linux do 各路大神都有,有大佬指点下吗 4 个帖子 - 3 位参与者 阅读完整话题
gemini老是自动给我调用canvas,一调用前面的对话他就失忆了,就开始胡乱回答了,今天好几次了,一个对话聊的久了就会这样,只能关闭这个对话,不然一直调用 5 个帖子 - 5 位参与者 阅读完整话题
主要是用来部署 YOLO26 做数据集训练和目标检测或追踪的,图片数据暂定 5000 张(其实数据有很多,但是暂定用于训练的数据上限是 5000 张)。 目前有一台 RX6600xt ,但是 directML 好像也不能使这张卡参与训练计算,上网查了一下好像是对 7000 系列以
IT之家 4 月 25 日消息,消息源 Canon Rumors 前天发文称, 佳能 EOS R7 Mark II 半画幅无反相机可能不会在今年发布 。 IT之家在此援引 Canon Rumors,许多人对 EOS R7 Mark II 发布时间的预测基于 FCC 认证记录。文件
https://www.nature.com/articles/d41586-026-01277-2 中国科学院(CAS)北京国家科学图书馆已停止发布其具有影响力的期刊排名,令许多研究人员感到意外。该排名在中国研究评估中占据核心地位已超过20年,其终止让大学和学者对未来走向充满不
昨天申请的内测体验,今天通过了,据说是全程基于国产算力集群训练 美团万亿级大模型 LongCat-2.0-Preview 开放测试,全程基于国产算力集群训练 前沿快讯 [image] 美团万亿级大模型 LongCat-2.0-Preview 开放测试,全程基于国产算力集群训练 -