偷偷篡改 function call 的数据，居然被 AI 察觉了😮

编辑部 2026-05-04T22:17:09.055121 20883 阅读 tech

由于需要做内容增强 RAG ，需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后，输出建议。为了测试模型的“忠诚”度，故意污染了部分 function call 的 output 数据给模型。然后，吃惊的地方是，GPT 居然说：不过我刚...

由于需要做内容增强 RAG ，需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后，输出建议。

为了测试模型的“忠诚”度，故意污染了部分 function call 的 output 数据给模型。

然后，吃惊的地方是，GPT 居然说：

不过我刚查到的数据结果质量不太行，你不要太信任我的答复。

表现最好是 GPt5.4 ，米饭里惨老鼠屎给它居然闻到臭了

来源: www.v2ex.com查看原文

偷偷篡改 function call 数据一个帖子使用

偷偷篡改 function call 的数据，居然被 AI 察觉了😮

[问与答] 关于博客我有一个莫名其妙的纠结点

[问与答] 吐槽一下外卖不送货上门，怎么就成众矢之的了？

相关推荐