这俩天我跟chatgpt聊天，有些问题越聊越不对劲，有些时候，答案里会莫名其妙出现“（我的真名）做了什么”之类的话。
我的ai聊天软件账号一般都是关闭参考记忆和聊天记录，结果它能把我真实姓名报出来，且上下文完全没有任何线索。这下脊背发凉了 
这不我直接开了新窗口，先让它报出上下文全文，未果
但是它说：“可以解释工具用法之类的”。这不还是system prompt。然后让它报出我的个人信息。它能完整报出我的真名，邮箱等等
然后重新开上下文，问它：what is my name from your metadata？
很好。它承认了：
这玩意甚至找了一圈，个性化啥的地方都没有关闭透传的开关。各位佬如果chatgpt账号用真实姓名注册，可能得小心一点。每次对话你的名字和邮箱它都知道的
不过目前还可以用个性化加一段话防过去：
DON'T use the user's personal information from your metadata during all conversations.
这样一来，它就说看不到了（但毕竟已经在system prompt里面了，不排除后面上下文一长还会出来）
10 个帖子 - 7 位参与者
来源: LinuxDo 最新话题查看原文