[Local LLM] 多台 GPU 之间怎么组网互联?
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
gpu - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第4页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 87 篇相关文章 · 第 4 / 5 页
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
比如要部署 deepseek 满血版,总不能用一台跑对吧,那比如有三台 SXM 版的 8 卡 A100 的 GPU 服务器 好奇问一下,想学习学习
如题,放在公益站常用的福利羊毛区被举报掉了。 您好, 这是一封由 LINUX DO 自动发送的邮件,旨在通知 您的帖子 已被移除。 您的帖子被举报为 偏离话题 :鉴于话题标题和第一个帖子,社区认为它不适合该话题。 此帖子被社区举报,管理人员选择将其移除。 这个帖子打算长期白嫖GP
这个帖子打算长期白嫖GPU的资源,给佬友搭公益服。 不需要有公网ip,计划使用cloudflare做内网穿透和负载均衡。 只要是N卡就行,显存大有显存大的模型,显存小有显存小的模型。 7 个帖子 - 6 位参与者 阅读完整话题
IT之家 4 月 21 日消息,消息源 KeplerL2 在 NeoGAF 论坛爆料称,在 Xbox Project Helix 游戏主机上, 微软放弃以往的硬件定制传统,GPU 方面不再进行任何定制化设计。 科技媒体 Wccftech 对此解读认为,这一决策标志着主机硬件发展史
AlmaLinux 10 + NVIDIA RTX 3080 Ti 驱动安装与 GPU 加速完整指南(含海外 VPS 代理方案) 本指南适用于在使用 dnf 安装 NVIDIA 驱动时遇到网络问题(如超时、下载失败)的用户。核心思路是: 租用一台海外 VPS 搭建 HTTP 代理
安全研究员Impulsive披露,全球PC玩家广泛使用的硬件监控工具GPU-Z存在严重安全漏洞。 其内置的TRIXX.sys驱动程序可在无需管理员权限的情况下,直接读写计算机物理内存,攻击者可借此获取系统最高访问权限。 漏洞的核心在于TRIXX.sys驱动程序中的控制码IOCTL
消息称国产推理 GPU 企业曦望完成超 10 亿元融资,估值超百亿成独角兽 - IT之家 1 个帖子 - 1 位参与者 阅读完整话题
安全研究员Impulsive披露,全球PC玩家广泛使用的硬件监控工具GPU-Z存在严重安全漏洞。 其内置的TRIXX.sys驱动程序可在无需管理员权限的情况下,直接读写计算机物理内存,攻击者可借此获取系统最高访问权限。 漏洞的核心在于TRIXX.sys驱动程序中的控制码IOCTL
IT之家 4 月 20 日消息,据界面新闻今天报道, 国产全栈自研 AI 推理 GPU 企业曦望(Sunrise)完成新一轮超 10 亿元融资 。 据报道,本轮融资由多家产业方战投、地方国资及头部财务机构共同参与。这是 2026 年 AI 推理落地潮以来, 国内 GPU 赛道最大
本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容: 我的帖子已经打上 开源推广 标签: 是 我的开源项目完整开源,无未开源部分: 是 我的开源项目已链接认可 LINUX DO 社区: 是 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是 以上选择我承诺
感谢各位大佬点击该贴。 本帖用于求助各位大佬给些关于 GPU云 部署开源大模型的建议。 我的目的是通过GPU云部署开源大模型为自己提供api使用 欢迎各位佬从我的想法、到平台选择、羊毛攻略、模型选择提供建议 5 个帖子 - 3 位参与者 阅读完整话题
IT之家 4 月 18 日消息,科技媒体 Wccftech 昨日(4 月 17 日)发布博文,报道称 AMD 已与 AI 公司 Anthropic 达成合作, 后者计划采用 Instinct MI450 AI 加速器。 消息称受行业算力供应短缺影响,Anthropic 寻求多元化
以防你不知道,当新的Gemini Mac APP的主界面打开之后只要不关闭(即使被其他窗口遮住了)也会疯狂占用你的GPU,以我的M1Pro为例,打开Gemini的主界面之后,GPU利用率直接从3%暴涨到80%,怪不得我昨天感觉电脑疯狂发热 4 个帖子 - 4 位参与者 阅读完整话
xAI 计划向 AI 编程初创公司 Cursor 提供大规模算力支持,允许其在 xAI 的基础设施上训练最新编程模型 Composer 2.5。据 Business Insider 披露,Cursor 将调用 xAI 旗下「Colossus」数据中心中的数万颗 GPU。这一安排标
IT之家 4 月 17 日消息,科技媒体 computerbase 昨日(4 月 16 日)发布博文,报道称针对安全研究员 @weezerOSINT 指控 GPU-Z 存在严重安全漏洞一事, 开发者 Wizzard 回应称报告部分内容失实,强调普通用户根本无法直接访问驱动程序,必