原版的octopus 貌似会有缓存问题, 最近使用一个中转的时候发现总是出现缓存不命中,如图 上游渠道的记录:

[程序员] 大多数中转站都是国模套壳和四方模型(比如 Kiro 或者一些 freegpt 杂牌高仿)2api,甚至从其他中转站嵌套接入,主打掺假封号捂嘴跑路一条龙,当 无法确定模型从哪里来 的时候,无资质提供跨境 AI 服务 是否适用?
[分享创造] 我最近 vibe 了一个 pod 级别的智能运维工具!希望大家使用在给点反馈
让AI分析了一下,有概率是octopus同格式的请求不进行透传导致的,他内部还会进行一次格式转换,所以后面让AI把同格式的请求改成了透传,大家需要的可以试试, 我fork的这个版本还新增了一些codex oauth 和 用量卡片的功能,日志记录也做了一些优化。
github.com
GitHub - chicring/octopus: 自用修改版
自用修改版
2 个帖子 - 2 位参与者