[分享发现] 据说这是目前全世界最快的文本推理速度

编辑部 2026-06-03T14:45:59.527715 28042 阅读 tech

下面是我自己搭桥过来的体验页，国内有一部分网络环境会发不出请求，也有可能打不开页面，换成 wifi 或者流量多试一试。 http://hmyang33.3vfree.vip/fast_llm/ 搭桥链路： cerebras.ai <-> vercel 免费美国节点 <-> 廉价的香港 VPS <->...

http://hmyang33.3vfree.vip/fast_llm/

搭桥链路：cerebras.ai <-> vercel 免费美国节点 <-> 廉价的香港 VPS <-> 廉价的香港静态页托管

因为接入的都是廉价或免费的服务，体验的人又很多，源头 cerebras.ai 给的免费 api 也有很多限制，vercel 也可能会偶尔出问题。

所以不稳定是常见的，出错就稍后再试试，主要是给兄弟们体验一下世界最快的 token 生成速度。

cerebras.ai 是源头，标称 gpt-oss-120b 每秒生成 3k 个词元，个人实际体验就 1.7k 左右

---------
不要说 apikey 暴露的问题了，反正是免费的 key ，无门槛申请点击就送

来源: v2ex查看原文

分享发现据说这是目前帖子一个参与者

[分享发现] 据说这是目前全世界最快的文本推理速度

[Codex] codex 二次验证消失了

[问与答] 有一个 git 仓库合并问题，不知道怎么办才好

相关推荐