octopus 缓存命中问题

原版的octopus 貌似会有缓存问题, 最近使用一个中转的时候发现总是出现缓存不命中,如图 上游渠道的记录: 让AI分析了一下,有概率是octopus同格式的请求不进行透传导致的,他内部还会进行一次格式转换,所以后面让AI把同格式的请求改成了透传,大家需要的可以试试, 我fork的这个版本还新增了...
octopus 缓存命中问题
octopus 缓存命中问题

原版的octopus 貌似会有缓存问题, 最近使用一个中转的时候发现总是出现缓存不命中,如图 上游渠道的记录:

136972

让AI分析了一下,有概率是octopus同格式的请求不进行透传导致的,他内部还会进行一次格式转换,所以后面让AI把同格式的请求改成了透传,大家需要的可以试试, 我fork的这个版本还新增了一些codex oauth 和 用量卡片的功能,日志记录也做了一些优化。

IMG_3225

IMG_3183

github.com

GitHub - chicring/octopus: 自用修改版

自用修改版

2 个帖子 - 2 位参与者

阅读完整话题

来源: LinuxDo 最新话题查看原文