目前在做一个项目, 里面会用到一些本地大模型来跑asr和ocr. 将来还会有一些脱敏的工作需要跑本地模型.
在服务器上跑,太慢了, 即便是甲骨云的4c24g也跑不太动.
目前是在自己的电脑上跑, 3060的显卡. 但是觉得一来不方便, 二来感觉还是有点性能不够.
是不是有必要上一台macmini? 家里已经有个nas了, 性能一般, 跑本地模型指望不上, 但macmini就不需要买太大硬盘里.
目前的初步想法是MACMINI 买24g 或以上, 目前的macmini都是M4的, 要不要等下M5?
各位佬有什么建议么?
1 个帖子 - 1 位参与者
1 个帖子 - 1 位参与者 阅读完整话题...
我的Plus没有。我的Pro今天突然上了个这个 GPT-4o with scheduled tasks 看这个语气风格也...
各位 V 友好~ 先自报家门:我们是 蒲云 AI ( ai.tracup.com )，一个 AI API 中转站。背后是...
各位 V 友好~ 先自报家门:我们是 蒲云 AI ( ai.tracup.com )，一个 AI API 中转站。背后是...
直接上菜： GenericAgent https://github.com/lsdefine/GenericAgent ...
目前在做一个项目, 里面会用到一些本地大模型来跑asr和ocr. 将来还会有一些脱敏的工作需要跑本地模型. 在服务器上跑...
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.gxzztoubiao.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn
延展页面 · www.gxxszb.com
延展页面 · www.tcti.cn
延展页面 · www.dianyoupg.com
延展页面 · zz-tg-cn.com.cn
延展页面 · www.tcti.cn
延展页面 · www.tcti.cn