ollama cloud/opencode go api bench - 查看模型性能

在 ollama discord 看到一位老哥发的项目可以查看部分模型的 tps, ttft 指标。感觉不错,给想要买这两家服务的佬做一个参考。 aipi.jaroslawjanas.dev AIPI Bench — AI Model Performance Monitor Monitor TTFT...
ollama cloud/opencode go api bench - 查看模型性能
ollama cloud/opencode go api bench - 查看模型性能

ollama discord 看到一位老哥发的项目可以查看部分模型的 tps, ttft 指标。感觉不错,给想要买这两家服务的佬做一个参考。

aipi.jaroslawjanas.dev

AIPI Bench — AI Model Performance Monitor

Monitor TTFT, TPS, and response times for AI model APIs

image

1 个帖子 - 1 位参与者

阅读完整话题

来源: linux.do查看原文