OpenAI回应其模型的“哥布林”怪癖 Codex曾被要求不得再提神话生物
在《Wired》披露OpenAI曾向其编程模型下达“永远不要谈论哥布林、gremlins、浣熊、巨魔、食人魔、鸽子或其他动物或生物”的内部指令后,OpenAI已在官网发文解释这一现象,称这是一种模型在训练过程中形成的“奇怪习惯”。 OpenAI表示,这类涉及哥布林及其他生物的隐喻
布林 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。
共 7 篇相关文章
在《Wired》披露OpenAI曾向其编程模型下达“永远不要谈论哥布林、gremlins、浣熊、巨魔、食人魔、鸽子或其他动物或生物”的内部指令后,OpenAI已在官网发文解释这一现象,称这是一种模型在训练过程中形成的“奇怪习惯”。 OpenAI表示,这类涉及哥布林及其他生物的隐喻
从 openai: 为什么我们的模型喜欢上了哥布林 | 奇怪的黑话 继续讨论: 省流: 内部训练gpt的时候,给他设定了人格,比如「书呆子」(Nerdy) 此类人格非常容易使用生物词汇 随着不断迭代,就变成了如今这个样子 我倒是没见过() 因为是英文用户专属() 文源APPso
Ars Technica – 29 Apr 26 OpenAI Codex system prompt includes explicit directive to "never talk about... Directions also include system
IT之家 4 月 30 日消息,OpenAI 昨日(4 月 29 日)发布博文,复盘发现 GPT-5.1 系列及后续 AI 模型出现异常行为,在回答中频繁使用“哥布林”(goblin)和“小魔怪”(gremlin)等生物隐喻。 OpenAI 官方调查后发现,自从 GPT-5.1
IT之家 4 月 30 日消息,科技媒体 Ars Technica 今天(4 月 30 日)发布博文,报道称在最新开源的 Codex CLI 代码中,OpenAI 披露了 GPT-5.5 模型的系统提示词, 其中包含一条令人费解的禁令:严禁讨论哥布林、小精灵等生物。 在长达 35
https://openai.com/index/where-the-goblins-came-from/ 从GPT-5.1开始,我们的模型开始形成一种奇怪的习惯:他们越来越多地在隐喻中提到哥布林、小妖精和其他生物。与通过坦克评估或训练指标激增时出现并指向具体变化的模型漏洞不同,
IT之家 4 月 21 日消息,科技媒体 The Information 昨日(4 月 20 日)发布博文, 报道称谷歌 DeepMind 为在 AI 编程赛道追赶 Anthropic,组建精英团队,希望提升 Gemini 的编程能力。 IT之家援引博文介绍,该团队由 DeepM