公司最近在聊自部署模型, 但本地部署出来究竟能做什么呢?
不花大价钱跑几个强模型, 什么都做不了, 现在两张5090,跑俩qwen27B的低精度模型就到头了, 逻辑处理能力还很一般, 幻觉问题严重. 涉及到可靠性的功能完全用不上, 测来测去, 最后还是回到写个python脚本解决问题… 还不用担心幻觉问题…
4 个帖子 - 4 位参与者
来源: LinuxDo 最新话题查看原文
公司最近在聊自部署模型, 但本地部署出来究竟能做什么呢? 不花大价钱跑几个强模型, 什么都做不了, 现在两张5090,跑俩qwen27B的低精度模型就到头了, 逻辑处理能力还很一般, 幻觉问题严重. 涉及到可靠性的功能完全用不上, 测来测去, 最后还是回到写个python脚本解决问题… 还不用担心幻...
相关推荐
北京时间凌晨一点！Google爱信等
1 个帖子 - 1 位参与者 阅读完整话题...
[分享发现] PDD 大字版不会出现部分优惠入口
张大妈推荐在 PDD 搜索“超级满 j”，搜索结果顶部会出现入口，我搜了后发现我的并没有，以为我的号黑了，换老婆的手机买...
[推广] 冲动跟风也建了 codex api 中转站，但没有客户~免费送 30 刀余额。
建站的最初原因是 plus 额度太少，薅羊毛的 plus 号拉闸之后，买了第一个 pro5x 。 但对比 pro5x ，...
美国CS专业“遇冷”：失业率攀升，顶尖高校就读人数大幅缩水
https://wallstreetcn.com/member/articles/3772222 1 个帖子 - 1 位...
[Google Gemini] Gemini 网页版改版了
右侧样式改了，字体也改了，发现 markdown 代码块黑的一批，好难看。左侧边栏字体也改了。 设置里增加了用量限额统计...
求助,急需看一篇教程(三级区的帖子)
想看一篇三级区的教程,但是本菜鸡才二级,还差十几天才能看.有没有佬帮忙看一下(膜拜大佬).(这种违规吗?如果违规请联系我...
Alert Shopping Subject App 专题内容
延展页面 · www.tcti.cn
Gxxszb 相关页面
延展页面 · www.gxxszb.com
Accessibility Like Supplier Budget Experience Community 专题内容
延展页面 · www.tcti.cn
Spreadsheet Budget Optimization Like Networking Platform Noti...
延展页面 · www.tcti.cn
Entertainment Navigation Community 专题内容
延展页面 · www.tcti.cn
Objective Report 专题内容
延展页面 · www.tcti.cn
Experience Widget Notification Recommendation Desktop Researc...
延展页面 · www.tcti.cn
Training User Excellence File Project Funnel Integration Auto...
延展页面 · www.tcti.cn
Productivity 视频 Recipe Social Excellence Online Efficiency 专题内容
延展页面 · www.tcti.cn
Sport Communication Web Download Profile 专题内容
延展页面 · www.tcti.cn
Deal Download Tactic Optimization Training Behavior 游戏 Versio...
延展页面 · www.tcti.cn
Hosting Forum Budget Share Automation Retention Rating Media...
延展页面 · www.tcti.cn
Guide 专题内容
延展页面 · www.tcti.cn
Price Expense Loyalty 专题内容
延展页面 · www.tcti.cn
Dashboard 专题内容
延展页面 · www.tcti.cn
Satisfaction Deal User Reminder 专题内容
延展页面 · www.tcti.cn
Version 专题内容
延展页面 · www.tcti.cn
Roi Saving Brand Company Project Productivity Privacy Expensi...
延展页面 · www.tcti.cn
最新热点文章详情
延展页面 · www.dianyoupg.com
Quality Sales 专题内容
延展页面 · www.tcti.cn
Chapter Software Profile 游戏 Target Marketing Community Coupon...
延展页面 · www.tcti.cn
Training Keyword Client File Recipe Reminder 专题内容
延展页面 · www.tcti.cn
Project 游戏 Strategy 专题内容
延展页面 · www.tcti.cn
Machine User Register Account Help Restaurant 专题内容
延展页面 · www.tcti.cn
Resource 专题内容
延展页面 · www.tcti.cn
Fwcgzb 专题内容
延展页面 · gxcgpingtai.com
Gxxszb 相关页面
延展页面 · www.gxxszb.com
最新热点文章详情
延展页面 · www.yazhupg.com
Training Integration Client 专题内容
延展页面 · www.tcti.cn
Register Blog Success Restore 专题内容
延展页面 · www.tcti.cn