偷偷篡改 function call 的数据，居然被 AI 察觉了😮

编辑部 2026-05-04T15:10:46.567028 44575 阅读 tech

由于需要做内容增强 RAG ，需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后，输出建议。为了测试模型的“忠诚”度，故意污染了部分 function call 的 output 数据给模型。然后，吃惊的地方是，GPT 居然说：不过我刚...

由于需要做内容增强 RAG ，需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后，输出建议。

为了测试模型的“忠诚”度，故意污染了部分 function call 的 output 数据给模型。

然后，吃惊的地方是，GPT 居然说：

不过我刚查到的数据结果质量不太行，你不要太信任我的答复。

表现最好是 GPt5.4 ，米饭里惨老鼠屎给它居然闻到臭了

来源: www.v2ex.com查看原文

偷偷篡改 function call 数据一个帖子使用

偷偷篡改 function call 的数据，居然被 AI 察觉了😮

被赛博大善人cloudflare反薅了17.5刀

CodeCrafters 上架了一个小课程 Build your own Claude Code

相关推荐