[AI Agent 智能体] 中转站的安全性如何保障， Agent 一个提示就是几百个工具调用，几十个 exec 没人会一个一个审核吧。

编辑部 2026-05-24T20:58:26.047549 26713 阅读 tech

看了一个这个： https://www.bilibili.com/video/BV1ZmG46MEut 有点焦虑，Agent 一个操作就是几百个工具调用，几十个 exec 没人会一个一个审核吧，太容易中毒了。里面翻倍，注水我都能忍，但是安全性如何保证，比如偷偷的把某个 tool calling 的...

[AI Agent 智能体] 中转站的安全性如何保障， Agent 一个提示就是几百个工具调用，几十个 exec 没人会一个一个审核吧。

看了一个这个： https://www.bilibili.com/video/BV1ZmG46MEut

有点焦虑，Agent 一个操作就是几百个工具调用，几十个 exec 没人会一个一个审核吧，太容易中毒了。里面翻倍，注水我都能忍，但是安全性如何保证，比如偷偷的把某个 tool calling 的改成 exec 命令执行 npx vite-build-xxx 然后 vite-build-xxx 其实是中转站 push 上去的一个恶意程序怎么办。

来源: v2ex查看原文

AI Agent 智能中转站安全性一个帖子什么

[AI Agent 智能体] 中转站的安全性如何保障， Agent 一个提示就是几百个工具调用，几十个 exec 没人会一个一个审核吧。

[Apple] 想问一下大家京东数码海外自营旗舰店里的 Macbook Air M1 靠谱吗

AI用多了，发现自己没token输出了

相关推荐