深度学习的 LLM 就像受伤的大脑

人类大脑受伤后, 一种典型的症状就是 "妄想", 不是肆意胡说, 而是真的这样认为. 这种情况就像现在依靠深度学习的 LLM, 利用已有知识进行 "妄想". 我们可以说这是因为缺乏世界模型的约束, 也可以说这是原有经训练的正常链路 (或者我们还没有明确什么是合格的链路) 遭破坏导致....
深度学习的 LLM 就像受伤的大脑
深度学习的 LLM 就像受伤的大脑

人类大脑受伤后, 一种典型的症状就是 "妄想", 不是肆意胡说, 而是真的这样认为.

这种情况就像现在依靠深度学习的 LLM, 利用已有知识进行 "妄想".

我们可以说这是因为缺乏世界模型的约束, 也可以说这是原有经训练的正常链路 (或者我们还没有明确什么是合格的链路) 遭破坏导致.

来源: V2EX - 技术查看原文