偷偷篡改 function call 的数据，居然被 AI 察觉了😮

编辑部 2026-05-04T13:42:11.045667 43973 阅读 tech

由于需要做内容增强 RAG ，需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后，输出建议。为了测试模型的“忠诚”度，故意污染了部分 function call 的 output 数据给模型。然后，吃惊的地方是，GPT 居然说：不过我刚...

由于需要做内容增强 RAG ，需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后，输出建议。

为了测试模型的“忠诚”度，故意污染了部分 function call 的 output 数据给模型。

然后，吃惊的地方是，GPT 居然说：

不过我刚查到的数据结果质量不太行，你不要太信任我的答复。

表现最好是 GPt5.4 ，米饭里惨老鼠屎给它居然闻到臭了

来源: www.v2ex.com查看原文

偷偷篡改 function call 数据一个帖子现在

偷偷篡改 function call 的数据，居然被 AI 察觉了😮

豆包将在免费模式外探索推出更多增值服务的付费版本，目前处于测试阶段！标准版每月68元、加强版200元、专业版500元！

[Apple] 苹果的信号是我误解了吗

相关推荐