【收集帖】我们意外触发的“雷”:AI 高危提示词收集 💥

各位佬: 随着 AI Coding 工具(如 Trae、Cursor、Copilot Agent 模式等)的深度普及,我们越来越依赖自然语言去指挥 AI 干活。 大家都知道“帮我删库”这种指令是找死,但在实际开发中, 真正可怕的是那些“语义模糊”、“逻辑陷阱”或“否定式指令” 。这些指令往往披着合理...
【收集帖】我们意外触发的“雷”:AI 高危提示词收集 💥
【收集帖】我们意外触发的“雷”:AI 高危提示词收集 💥

各位佬:

随着 AI Coding 工具(如 Trae、Cursor、Copilot Agent 模式等)的深度普及,我们越来越依赖自然语言去指挥 AI 干活。

大家都知道“帮我删库”这种指令是找死,但在实际开发中,真正可怕的是那些“语义模糊”、“逻辑陷阱”或“否定式指令”。这些指令往往披着合理的外衣,却会让 Agent 产生灾难性的错误认知,造成不可逆的后果。

下面是举个列子:


:collision:翻车现场

  • 提示词: “你做的都是错的”
  • 原本含义: 本想告诉AI你当前的功能修改都改错了,需要从新审核修改.
  • Agent: 丢弃本次会话范围内全部的修改, 导致本次会话工作直接白干.
  • 工具: Trae Solo Cn
  • 严重等级: :star: :star: :star: :star: :star:

所以,发起本帖,收集一下各位大手子用过的高危提示词,给自己以及看到本帖的人做一个警醒:backhand_index_pointing_down::backhand_index_pointing_down::backhand_index_pointing_down:

3 个帖子 - 2 位参与者

阅读完整话题

来源: LinuxDo 最新话题查看原文