中转站的首token的速度快慢都和什么有关
最近自己搭建了sub2api的中转,上游连接的部署在美国的vps上,部署了一个号池,用的cpa,然后分别走了6条家宽。不管走不走首token都要好几秒,最多的居然有300多秒,有佬知道该怎么优化吗 12 个帖子 - 7 位参与者 阅读完整话题
en - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 第330页 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 6959 篇相关文章 · 第 330 / 348 页
最近自己搭建了sub2api的中转,上游连接的部署在美国的vps上,部署了一个号池,用的cpa,然后分别走了6条家宽。不管走不走首token都要好几秒,最多的居然有300多秒,有佬知道该怎么优化吗 12 个帖子 - 7 位参与者 阅读完整话题
如题,可能以前的大模型推理能力不足,在设计agent的时候可能需要去规划,执行,react的过程,但好像现在这些能力已经是大模型的基本能力了,还需要去设计很复杂的agent嘛 6 个帖子 - 5 位参与者 阅读完整话题
前几天阿里开源了qwen3.6-35b-a3b,这个模型是qwen3.5-35b-a3b的升级版 和qwen3.6-plus一样,qwen3.6-flash也进行了涨价,一般来说都是按模型参数定价的,阿里这一波感觉飘了,把训练成本加给用户api(备注plus和flash是开源模型
本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容: 我的帖子已经打上 开源推广 标签: 是 我的开源项目完整开源,无未开源部分: 是 我的开源项目已链接认可 LINUX DO 社区: 是 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是 以上选择我承诺
有点不理解 原文 https://community.openai.com/t/security-report-apple-pay-receipt-validation-does-not-bind-to-purchaser-apple-id-potential-subscript
想问问opencode web怎么才能看到全局的对话的,为什么只能通过文件夹打开 1 个帖子 - 1 位参与者 阅读完整话题
成功缓解token焦虑 15 个帖子 - 15 位参与者 阅读完整话题
gpt网页端和app每次用都得手动开extended thinking 有没有什么设置可以默认开这个选项 3 个帖子 - 2 位参与者 阅读完整话题
凌晨以来一直霸榜日榜榜一,刚截图的时候被反超了 网站是别的佬友做的,不得不说,好玩: 比比谁更会烧 Token!TokenArena:一个完全开源的 token 统计看板/竞技场(交互/UI 超精美) 开发调优 本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:
3 个帖子 - 2 位参与者 阅读完整话题
GPT 5.5 会有新的 tokenizer 吗?目前没看到一点风声 佬们觉得会有吗? 会 不会 点击以查看投票。 3 个帖子 - 2 位参与者 阅读完整话题
12.7.6 Monterty,除了升级外,还有啥办法么? 当前版本,其实OpenCode也没法用 14 个帖子 - 9 位参与者 阅读完整话题
https://github.com/mahonzhan/awesome-agent-harness
各位佬有遇到这样的事情吗,如何解决,求助求助 6 个帖子 - 4 位参与者 阅读完整话题
newapi感觉还是太多功能了虽然可以不去用,但还是想问问有没有中转单openai兼容渠道负载均衡的这种 14 个帖子 - 6 位参与者 阅读完整话题
什么是Agent? 在开始讨论前,我们需要建立一个相对统一的共识,那么就先需要给Agent下一个定义:Agent并不是聊天机器人,而是一个可以 自主完成任务 的 软件系统 。 软件系统很好了解,就是指由多个相互关联的软件组件组成的 集合体 ,它作为一个整体在计算机硬件上运行,以实
Azure的公共IP只允许创建静态IP,静态IP又不在azure for student的额度上,然后扣你余额。 Azure学生包 创建机器默认静态IP 改为动态IP可避免扣费 开发调优 默认配置下来就是静态ip,两台机器一年下来 这100刀基本上就搭进去了 已经创建的虚拟机无法
无限续杯 ??一个月开一个plus使用,下个月换一个号??试用会一直保留么 14 个帖子 - 9 位参与者 阅读完整话题
免费领取 plus/team ,很容易封号,随用随蹬,千万记得使用小号领 tg 机器人: https://t.me/freexzteam_bot?start=inv_5729709229 带 aff ,介意可以去掉
apikey:02521d9370224da3928269845f062c59.s1aHG9W1rgBRaSye openai兼容端点: https://open.bigmodel.cn/api/coding/paas/v4 authropic兼容端点: https://open