[问与答] token 省钱有哪些点子？毕竟天下苦 3 大厂久矣。

编辑部 2026-05-06T04:42:23.541904 25501 阅读 tech

我暂时考虑自建或租用一个 gemma 模型，跑一些简单任务如 cron 定时查阅邮件这种。毕竟 gemma 4B 性价比最高，然后将 agent 分层，智能敏感的大厂，中低端的给 gemma 。不准备本地搭建，对延迟不敏感。顺便跑不可信 agent 准备用 smolvm ，相当于本地 ser...

我暂时考虑自建或租用一个 gemma 模型，跑一些简单任务如 cron 定时查阅邮件这种。毕竟 gemma 4B 性价比最高，然后将 agent 分层，智能敏感的大厂，中低端的给 gemma 。

不准备本地搭建，对延迟不敏感。顺便跑不可信 agent 准备用 smolvm ，相当于本地 serverless ，这样类似做了一层 sandbox ，强隔离。当然，lxc 也可以，但对于不可信 agent ，最好短期内跑在 smolvm 里，后面再移到 lxc 中。

服务器费用增加一点，维护成本增加一点。但我觉得至少能让 token 减少 1/3 的无效请求。

其他还有什么优化方案？

来源: v2ex.com查看原文

问与答 token 省钱哪些点子一个帖子参与者

相关推荐