演进流程
Prompt → Workflow → RAG → Agent → Flywheel
为什么需要
LL本质上是概率模型，输出每次都不可控，所以需要工程化的手段将LLM的输出约束在我们希望的方向上。从而让LLM从单次生成到可交付，可控制，可迭代，可以应用于真实系统中的模块。
每个阶段解决了什么问题
1.Prompt 解决什么问题？
prompt给LLM设定角色，推理范围，约束，输出结构，边界条件，让LLM能够稳定的按照需求输出。prompt只能解决“单次推理”，无法解决长流程，状态管理，多步骤决策，外部知识，数据更新，工具调用，长期记忆。
[AI Agent 智能体] 如果为了本地大模型，卖掉 MacBook Pro M3 Pro 36G，买Μ5 Max 128G，合适吗？
[美酒与美食] 分享好吃的零食和饮料清单（尝过的
2.Workflow 解决什么问题？
workflow将LLM拆解成稳定的可重复执行的节点，让流程可以稳定重复执行。无法动态选择路径，灵活度不够(可以通过if else分支选择)，多步骤信息丢失。
3.RAG 解决什么问题？
RAG解决的是知识不够新，知识不足的问题，能够了解内部知识，根据内部知识进行推理。降低幻觉
4.Context Engineering 解决什么问题？
Context Engineering 解决了上下文过长，什么时候要压缩，什么内容要保留，什么时候进行压缩，对上下文的管理。有限上下文里，如何放最关键的信息。上下文路由，长期记忆。
5.AI Coding 解决什么问题？
解决软件开发流程如何自动化。包括代码生成，重构，测试，debug，review，文档生成，架构设计。如何重构我们的开发流程。
AI Coding解决了编码过程中重复编写业务代码，让人可以专注于更加重要以及抽象的系统设计及架构设计
6.Agent 解决什么问题？
如何让AI自主完成目标。自主决策，感知-决策-行动-反馈
Agent解决了LLM无法使用工具去处理外部世界的问题，Agent可以调用工具进行连续的拆解，处理外部世界的真实任务。
拆解任务，排优先级，调用工具，修错误，重试。主要是自主性高。
状态管理很重要。规划，memory，context，retry，eval，feedback
7.Evals/Observability/Data Flywheel 解决什么问题？
Evals评估：传统软件确定性，AI是概率性，所有必须建立评估体系。准确率，幻觉率，工具成功率，任务完成率，用户满意度。
Observability解决了不知道大模型工具调用流程以及修改Prompt之后效果，可观测才能进行调整。
Data Flywheel 解决了Agent自动优化
1 个帖子 - 1 位参与者