各位推荐一个 32G Macbook air M5 可以跑的 moe 模型
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
甚至 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第4页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 106 篇相关文章 · 第 4 / 6 页
27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.
应用接入l站登录后,我发现在授权登录后会卡很久甚至回调失败。 这个和服务器有关系吗,我的是阿里云国内的机器 2 个帖子 - 2 位参与者 阅读完整话题
最近(应该要更早,甚至几个月前)出现了一些Cloudflare的永久商业版计划的成品账号或代开 不是试用或者什么开源计划之类的,就是直接250美刀一个月的订阅计划,甚至还带其它服务 各位佬有什么思路吗?说是可以用很久,和之前的真永久(不出账单)差不多 搞了个代开和成品号,所有商业
前阵子有大佬分享了一批网站,都是20块钱30块钱,甚至7块钱的账号一个月的。 但是我去看了一圈,现在都基本上没了,库存都为0了。 现在还有哪些大佬有这些资源渠道呀,跪求 9 个帖子 - 8 位参与者 阅读完整话题
本人都三级账号了,依然会因为配置问题苦恼,甚至前几天还在寻求帮助 不过现在不需要了,因为并不是我配置有误,仅仅是没搞清楚使用规则 如何验证自己配置方式没问题: 如果你手头有一些收费的中转站,或者是某官方订阅, 就是确定模型没问题,并且支持导入cc或者cx中使用,那就把它们导入试一
Windows 11 更新终于没那么烦人了,现在你可以自己决定什么时候更新,甚至一直不更新。 青小蛙此前遇到过好几次这种情况:某一个更新,无论点多少次“立即更新”,它都不会动,就卡在那里,完全没办法处理。 微软发博客说《您的 Windows 更新体验刚刚升级》,至少解决了 4 件
最近用好多模型都卡甚至都出不来,看了看结果一看我花云的节点基本全红,我之前甚至谷歌浏览器一个网页都加载半天,花云这是炸了还是怎么? 1 个帖子 - 1 位参与者 阅读完整话题
一个问题,pro进阶5分钟就回答,heavy甚至一分钟,出来的答案也是拉中拉跟5.4进阶thking差不多了 6 个帖子 - 4 位参与者 阅读完整话题
写了大概300行代码,甚至不到半个任务,直接被限速。完全到了不可用的水平。。。 GitHub你干点人事吧,你claude的模型被刷了别限gpt啊,又不是什么很聪明的模型。。。 9 个帖子 - 8 位参与者 阅读完整话题
Chat 体感上慢,事实上貌似也慢 看 Nao 佬的报告 ,Flash 的平均耗时甚至都超过大多数模型了 Tokens 消耗是别家的两倍甚至三倍,不过看见那么长的思考输出好像就释然了 可能是纯算力的原因吗(thinking 1 个帖子 - 1 位参与者 阅读完整话题
刚刚翻火狐的密码管理,翻到了当时用潘多拉的号,现在甚至还能登上codex使用 数量有10个左右 4 个帖子 - 2 位参与者 阅读完整话题
这一篇,我想认真对你、他/她、我说··· 你好,年轻人;你好,世界 你好,年轻人。 如果你偶尔会感到疲惫、犹豫,甚至在某些深夜怀疑自己的努力是否真的有意义,这并不说明你软弱,也不说明这一代人失去了向上生长的意志。恰恰相反,很多时候,正是因为我们对生活仍有期待,对自我仍有要求,所以
看了Lmarena天塌了,比GLM5.1和Kimi 2.6甚至Qwen 3.6 Plus都差(图片由ChatGPT Image 2生成) 6 个帖子 - 6 位参与者 阅读完整话题
测了魔方 ds完全不如glm5.1甚至不如mimo2.5p 测了拉煤问题ds也拉完了 陨落了ds 16 个帖子 - 12 位参与者 阅读完整话题
图形化的linux界面如ubuntu,kali,以往给我的印象是强命令行控制台相关的系统,大部分设置都要通过命令或修改配置文件来完成,以前我总认为这种系统怎么可能有windows这么易用呢,要么直接点击,要么直接勾选点确认。 但是ai出现了,一开始可以在网页端对话界面将想完成的操
IT之家 4 月 23 日消息,渐冻症抗争者、攻克渐冻症慈善信托创立者蔡磊今日发文分享了自己的书《相信(增订版)》即将出版的消息,并谈及自己目前的身体状况。 蔡磊表示,这三年,自己的身体在节节败退,如今只能靠眼控仪与世界对话。不过他提到,该病症正在破冰。 部分渐冻症药物已进入临床
海外都能做到上下传稳定千兆,相比之下pikpak的发展中国家会员在发达国家被限速6mb,甚至算下年付来还比115贵… 1 个帖子 - 1 位参与者 阅读完整话题
对我来说可能就是 港湾晚灯 山顶破晓 摘下怀念 记住美妙 黄伟文写的、陈奕迅的《沙龙》吧 然后买了个相机
对我来说可能就是 港湾晚灯 山顶破晓 摘下怀念 记住美妙 黄伟文写的、陈奕迅的《沙龙》吧 然后买了个相机
近日,有网友在澳大利亚发现酷似中国农村“大黄”的野生动物,引发围观。这种动物其实是澳洲野犬,保留了大黄的姜黄毛色与竖耳特征,身形矫健、耐力极强,习惯群居协作捕猎,那么它们究竟来自哪里? 中科院全基因组研究与国际权威基因测序已给出定论: 澳洲野犬的直系祖先是中国南方的古代驯化家犬,