私有化部署大模型的“终点”是 Mac 还是 Nvidia?
自己家里的 5070Ti 跑模型起来太费劲了,用了一下同事的 macbook 顶配版跑模型比 5070Ti 要强一点点,感觉都差不多,所以大佬可以指点下有没有必要搞一个 Mac studio 还是 Nvidia thor 或者 DGX Spark
部署 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第6页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 588 篇相关文章 · 第 6 / 30 页
自己家里的 5070Ti 跑模型起来太费劲了,用了一下同事的 macbook 顶配版跑模型比 5070Ti 要强一点点,感觉都差不多,所以大佬可以指点下有没有必要搞一个 Mac studio 还是 Nvidia thor 或者 DGX Spark
我想着是后台服务、mysql 、redis 都放到了 docker 中 生产环境是不是不能这么弄呢 是需要单独购买个云数据库吗
我想着是后台服务、mysql 、redis 都放到了 docker 中 生产环境是不是不能这么弄呢 是需要单独购买个云数据库吗
因为邮箱不能用 25 端口 但是部署了邮箱服务 所以想用代转发服务来实现发邮件 请问有什么推荐的吗 问了 Deep Seek说是可以直接绑定163邮箱的SMTP中继但是容易被封号 还有什么比较专业的这种中介服务吗 2 个帖子 - 2 位参与者 阅读完整话题
我想着是后台服务、mysql 、redis 都放到了 docker 中 生产环境是不是不能这么弄呢 是需要单独购买个云数据库吗
我想着是后台服务、mysql 、redis 都放到了 docker 中 生产环境是不是不能这么弄呢 是需要单独购买个云数据库吗
我想着是后台服务、mysql 、redis 都放到了 docker 中 生产环境是不是不能这么弄呢 是需要单独购买个云数据库吗
我想着是后台服务、mysql 、redis 都放到了 docker 中 生产环境是不是不能这么弄呢 是需要单独购买个云数据库吗
我想着是后台服务、mysql 、redis 都放到了 docker 中 生产环境是不是不能这么弄呢 是需要单独购买个云数据库吗
我想着是后台服务、mysql 、redis 都放到了 docker 中 生产环境是不是不能这么弄呢 是需要单独购买个云数据库吗
我按照以下教程在 Render 上部署了 CPA 没有VPS?教你零成本在Render上部署CLIProxyAPI - 资源荟萃 - LINUX DO 由于 Render 免费计划不包含持久化存储,配置文件和认证文件保存在 GitHub 的私有仓库中的,但是更新配置文件后 Git
发邮件申请了一次 但是回复的是不给开让我去用他们的服务 但是我就想开开这个端口然后就可以自动转发也可以发邮件了 要不然根本就没法发邮件 不知道各位大佬们有没有什么办法能够把甲骨文的25端口给打开呀 8 个帖子 - 7 位参与者 阅读完整话题
前言:本人是代码能力为0.5的人,至于为什么部署到本地vm是因为没钱买服务器, 因为涉及到ip地址什么的,代理软件也是,这个要灵活变通,下面是实战结合gpt整理的经验教程,纯小白向 首先你要有个chatgp,不懂就问就好了 这篇教程讲的是: 我有一台 Windows 电脑,里面装
我做了一个专门为本地开源模型优化的 Coding Agent ,希望更多华人开发者一起来搞 本贴发布的目的不是推产品,不是炫技,而是想扬眉吐气——和华人开发者一起,和开源模型本地部署开发者一起,做一件我们自己的事。 一、我遇到了什么问题 去年开始用本地模型做编程辅助。原因很简单:
我做了一个专门为本地开源模型优化的 Coding Agent ,希望更多华人开发者一起来搞 本贴发布的目的不是推产品,不是炫技,而是想扬眉吐气——和华人开发者一起,和开源模型本地部署开发者一起,做一件我们自己的事。 一、我遇到了什么问题 去年开始用本地模型做编程辅助。原因很简单:
好消息呀,ds优惠延期了。等到5月底会不会延长到6月,一直延长到升腾算力集群部署好呢 3 个帖子 - 2 位参与者 阅读完整话题
咋不是授权直接登录呢?有没有友友知道的. 2 个帖子 - 1 位参与者 阅读完整话题
我做了一个专门为本地开源模型优化的 Coding Agent ,希望更多华人开发者一起来搞 本贴发布的目的不是推产品,不是炫技,而是想扬眉吐气——和华人开发者一起,和开源模型本地部署开发者一起,做一件我们自己的事。 一、我遇到了什么问题 去年开始用本地模型做编程辅助。原因很简单:
mimo-v2.5-pro写的,有些小瑕疵,问题不大。感兴趣的自己改改。 演示: 千问视频无水印下载 js版: /** * 通义千问 AI 视频无水印下载 - Cloudflare Worker * * 支持两种分享链接: * 类型1: https://www.qianwen.c
目前我有两张2080ti22g,不知道能不能nvlink双卡交火 如果可以的话就有44g的显存了,配合vllm,应该可以部署一个量化后的模型,并且可以拥有较高的上下文 有没有哪位佬试过两张2080ti22g双卡交火的佬,可以来说一下经验 1 个帖子 - 1 位参与者 阅读完整话题