[Local LLM] 多台 GPU 之间怎么组网互联?
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
local - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第7页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 140 篇相关文章 · 第 7 / 7 页
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
之前通过改 Local State 文件换过美国的,是有 gemini in chrome 的,因为日常用日本节点,所以我又换回日本了。现在 gemini in chrome 支持日本了,想体验下,检查了一下: 1. [账号关联地区]( https://policies.goog
之前通过改 Local State 文件换过美国的,是有 gemini in chrome 的,因为日常用日本节点,所以我又换回日本了。现在 gemini in chrome 支持日本了,想体验下,检查了一下: 1. [账号关联地区]( https://policies.goog
之前通过改 Local State 文件换过美国的,是有 gemini in chrome 的,因为日常用日本节点,所以我又换回日本了。现在 gemini in chrome 支持日本了,想体验下,检查了一下: 1. [账号关联地区]( https://policies.goog
之前通过改 Local State 文件换过美国的,是有 gemini in chrome 的,因为日常用日本节点,所以我又换回日本了。现在 gemini in chrome 支持日本了,想体验下,检查了一下: 1. [账号关联地区]( https://policies.goog
之前通过改 Local State 文件换过美国的,是有 gemini in chrome 的,因为日常用日本节点,所以我又换回日本了。现在 gemini in chrome 支持日本了,想体验下,检查了一下: 1. [账号关联地区]( https://policies.goog
之前通过改 Local State 文件换过美国的,是有 gemini in chrome 的,因为日常用日本节点,所以我又换回日本了。现在 gemini in chrome 支持日本了,想体验下,检查了一下: 1. [账号关联地区]( https://policies.goog
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
个人使用 new-api 配置项太多了,看的我头疼。 有没有简单版本的
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
比如看 dgx spark 这台机子,部署 31B BF16 gemma 这台机子的带宽 273 GB/s 31B 参数 × 2 bytes (BF16) ÷ 273 GB/s = 每个 token 227 ms = 理论最大 4.4 token/s 实际能到 3token/s
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
公司做的是美团业务,需要定期解析一批美团的订单截图(也有一些是手机相机拍的订单页面图片),提取出其中的订单号码。 我试用了下腾讯的 ocr 识别成功率很高,就是太贵了,图片量很大遭不住。哪位老哥研究过 OCR ,能不能推荐一个适合本地部署的,公司有 5060 显卡。
在 mac studio 、395 Max 和 DGX Spark 这几种设备考虑 本地部署的 coding 能力和效果,能接近 gpt-5.3-codex 吗? 如果本地部署的 coding 能力可以,我感觉可以让牛逼的模型 API 来创建分解任务,然后让本地执行。
各位有遇到过吗?传输大概10G文件,中途就卡死不动了 8 个帖子 - 6 位参与者 阅读完整话题
本人一直想要搭建一个中转站,偶然看见sub2api,故使用它搭建了一个,以下是步骤: 先约定 3 个你要替换的值: api.example.com :改成你的域名 admin@example.com :改成你的管理员邮箱 CHANGE_ME... :改成你自己生成的随机密钥 1)