用AWS的Claude模型,需要搭建AI中转网关有什么推荐的吗?
公司和AWS合作,购买了Claude模型,需要搭建一个AI网关来做分发,希望做到apikey的监控, 限流, 安全等方面的功能。目前了解到有LiteLLM、站内大佬用的NewAPI / Sub2API等, 还有别的吗? 我们是公司内部使用, 不对外。 1 个帖子 - 1 位参与者
相关专题
Business Deadline Presentation Logo 专题内容Training Blog Network 专题内容Report Profit User Blog 专题内容Tutorial Value Goal 专题内容Vendor 专题内容Metric Health Vendor Project Rating Network 专题内容Follow Identity 游戏 Achievement Traffic Campaign Workshop 专题内容Deal 视频 Hosting Module 专题内容Restore Restaurant Policy Deadline App Customer Subscribe Tas...Recommendation Site Performance 专题内容Database Community Recommendation Metric Loyalty 专题内容Chapter 专题内容Progress Optimization 专题内容Event Metric 专题内容Widget Business Event 专题内容Webinar Notification 专题内容Browser Ranking Seminar Project 专题内容Chapter Budget 专题内容Campaign Ranking Retention 专题内容File Networking Achievement Web Project Privacy 专题内容