多台 GPU 之间怎么组网互联?
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
部署 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第24页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 598 篇相关文章 · 第 24 / 30 页
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
llama.cpp 支持的APEX量化效果挺好的, https://huggingface.co/mudler/Qwen3.6-35B-A3B-APEX-GGUF 根据该量化库的作者的表述 , 消费级显卡可用的 Qwen3.6-35B-A3B-APEX-I-Compact.ggu
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
从 【长期活动-每10楼抽3位500万Token-已开富可敌国】告别环境配置!一键接部署云上 OpenClaw 内置AI模型 继续讨论: 本文说明如何选择实例规格、配置机器人插件,并完成实例部署与上线验证。 前置条件 在开始部署前,请先准备以下信息: 已创建机器人,并获得对应的
求大佬解惑,使用CPA部署在本地windows,只有一个plus号的凭证文件,使用过程中经常内存爆炸死机甚至重启,只有一个对话窗口也会这样,这是怎么回事,如何解决呢? 6 个帖子 - 1 位参与者 阅读完整话题
我是一个qqpw的家宽上部署的cliproxyapi, 然后用 cloudflare tunnel 转过去的(域名也是放在cf上管). 由于本机无法直连cf 地址, 还需要用一个代理才能访问 我用的过程访问正常了一段时间, 然后会出现下面的错误 Unexpected status
最近开始研究 docker 部署个 harmesagent 玩玩,然后看到很多推荐 m2.7 的量大管饱,pinchbench 排行也是前几位,就买了个 49 套餐试了试,结果发现让他实现个自己打通 gitea 自动审批 pr 都整不明白。我就很好奇,把官方的文案味道了 gemi
在ClawCloud部署的CPA,今天链接访问提示: no healthy upstream 有佬友遇到过吗?求指教 ClawCloud太不靠谱了,有其他VPS推荐吗? 10 个帖子 - 3 位参与者 阅读完整话题
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
目前想建个中转站,想通过clash连接vps这样正确的架构应该是什么? 2 个帖子 - 2 位参与者 阅读完整话题
家里的宽带没有公网 IP, 用 docker 部署的 qbittorrent 有把 bt 端口映射出来 但是现在下载没有速度, 有什么解决方法
家里的宽带没有公网 IP, 用 docker 部署的 qbittorrent 有把 bt 端口映射出来 但是现在下载没有速度, 有什么解决方法
家里的宽带没有公网 IP, 用 docker 部署的 qbittorrent 有把 bt 端口映射出来 但是现在下载没有速度, 有什么解决方法
闭源模型存在降智,这个是肯定的…但是我好奇如果国产开源模型部署在各个服务器上,售卖出的codingplan,可能出现降智么?比如说FP16阉割成int8,或者满血直接搞成小参数模型70B,我感觉极有可能啊,而且和中转站一个问题,condingplan也能掺水啊…一这样想,感觉太难
来LINUXDO受益匪浅,分享一下这段时间的学习收获,自建中转站的过程。(参考: 【水一帖】聊一下我的中转方案,any-auto-register+CPA+new-api,自用基本够了。 ) 先列一下所部署的API项目和服务器 项目 服务器 说明 Wenfxl Manage Ne
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。