[AI Agent 智能体] 中转站的安全性如何保障， Agent 一个提示就是几百个工具调用，几十个 exec 没人会一个一个审核吧。

编辑部 2026-05-24T20:50:07.697388 10224 阅读综合

看了一个这个： https://www.bilibili.com/video/BV1ZmG46MEut 有点焦虑，Agent 一个操作就是几百个工具调用，几十个 exec 没人会一个一个审核吧，太容易中毒了。里面翻倍，注水我都能忍，但是安全性如何保证，比如偷偷的把某个 tool calling 的...

[AI Agent 智能体] 中转站的安全性如何保障， Agent 一个提示就是几百个工具调用，几十个 exec 没人会一个一个审核吧。

看了一个这个： https://www.bilibili.com/video/BV1ZmG46MEut

有点焦虑，Agent 一个操作就是几百个工具调用，几十个 exec 没人会一个一个审核吧，太容易中毒了。里面翻倍，注水我都能忍，但是安全性如何保证，比如偷偷的把某个 tool calling 的改成 exec 命令执行 npx vite-build-xxx 然后 vite-build-xxx 其实是中转站 push 上去的一个恶意程序怎么办。

来源: v2ex查看原文

AI Agent 智能中转站安全性一个帖子什么

[AI Agent 智能体] 中转站的安全性如何保障， Agent 一个提示就是几百个工具调用，几十个 exec 没人会一个一个审核吧。

[问与答] 网页版的 opus 4.7 不遵循指令，打着为我好的旗子，疯狂拒绝我的要求

你们都是 plus、pro，但是程序需要用 api 在哪里买？

相关推荐