【人工智能】AI基础知识（第十八节：Loop的发展跃迁）

【人工智能】AI基础知识第十八节Loop的发展跃迁AI基础知识第十八节Loop的发展跃迁【人工智能】AI基础知识第十八节Loop的发展跃迁一. Loop Engineering二. loop的实现价值1第一次跃迁2第二次跃迁3第三次跃迁4第四次跃迁三. LOOP的四种类型1回合制Loop2定时制Loop3目标制Loop4主动制Loop5混编制Loop四. 总结一. Loop Engineering我们可以将“Loop Engineering”直接翻译为“循环工程”。实际上Loop循环并非一个全新的概念它在我们的日常工作中早已屡见不鲜。例如家中使用的变频空调便会根据实时温度自动控制和调节其工作模式与功率。在AI技术兴起之初人们并未将其视为生产力工具而仅仅视作一种聊天助手。后来人们发现通过特定的方式与AI进行交互能够产生特定的价值产出由此进入了“提示词Prompt时代”。随后人们又意识到AI模型存在“遗忘”问题为了解决这一问题“上下文工程Context Engineering”应运而生。为了进一步减少AI的犯错概率对其进行约束与引导“束导工程Harness Engineering”被提出。而在束导工程之后便演进到了我们今天讨论的“循环工程Loop Engineering”。AIChatbot → Prompt → Context → Harness → Loop以上简图清晰地勾勒了AI发展的四次跃迁。我们可以将这四次跃迁分为两个阶段在前三次跃迁中其实已经蕴含了Loop的雏形只是表现得并不明显。而最后一次跃迁——Loop Engineering——与前三次最根本的不同在于前三次Loop都离不开人的深度参与而最终的循环工程则旨在实现无人参与或最大限度地减少人为干预。二. loop的实现价值随时制目标制回合制。主动制。1第一次跃迁要想有效利用AI关键在于能够撰写出高质量的提示词。提示词的质量直接决定了AI回答的质量。那么提示词时代的“循环”体现在哪里呢它就蕴含在“目标”之中。当我们向AI提问并获得回答后会对AI的回答进行一次“质检”以判断其是否达到了预设的目标要求。如果未达到要求我们会再次向AI提问即使用新的提示词这就构成了一个最基本的循环Loop。然而这里存在一个问题大模型本身不具备记忆能力或者说容易“遗忘”。那么如何解决这个“十亿参数模型失忆”的难题呢这就引出了我们接下来要讨论的第二次跃迁。2第二次跃迁第一天我们让实习生小张打扫卫生他照做了。第二天我们下达同样的指令时小张却忘记了该怎么做这模拟了大模型缺乏记忆功能的问题。为了解决这个问题我们通常会要求小张写“日记”记录下每天的工作内容。这样在第三天或之后接到新指令时他就可以先回顾日记了解之前是如何完成的。这里所说的“日记”其实就是上下文Context。此后我们每次通过Agent与AI大模型对话时除了发送当前的提示词Prompt外还会将之前对话的“日记”即上下文一并发送给模型。有了上下文的辅助即使AI之前的回答有所偏离也能通过多轮对话逐渐被纠正回来。然而上下文机制也带来了新的挑战当上下文内容过于庞大时可能会干扰大模型的判断导致其产生“幻觉”这种现象也被称为上下文爆炸Context Explosion。3第三次跃迁当AI因上下文爆炸而产生“幻觉”时——以小张为例他可能误将打扫卫生当作自己的核心目标而偏离方向——此时就需要对他施加约束与引导这种约束与引导机制便是Harness束导。在使用AI Agent时第一步就是定义好Harness。在设定好Harness的约束与引导规则后我们再通过提示词向AI提问通常就能获得理想的结果。然而这仍然存在一个问题即质检环节。最大的痛点在于效率低下其根源在于每次质检都需要人工参与。那么是否有可能将质检环节也交由AI来完成呢恭喜你当你思考这个问题时便已迈入了第四次跃迁的门槛。4第四次跃迁Loop Engineer循环工程师的诞生正是为了解决效率瓶颈问题。那么一个理想的 Loop 应该是什么样子呢其核心在于在整个工作流程中包括自检尤其是质检环节实现无人参与或最大限度地减少人工干预。举个例子假设你是一名项目经理给“小弟”即 AI 助手安排工作。你要求他每天撰写日报记录进度每日工作成果至少提交两次到代码库并且每周的 Bug 数量不能超过两个。设定好这些任务指标后“小弟”便会自主围绕目标开展工作。这就是一个理想的 Loop——在整个过程中你几乎无需介入因此效率极高。从上述例子可以看出一个高效的 Loop 离不开两个核心要素质检定义“工作做好”的标准和目标定义“工作做完”的标准。二者缺一不可。当然实际运行在你电脑上的 Loop 远比这个例子复杂。以目标管理为例AI 会将一个大目标拆解为若干中小目标。为了完成每个子目标AI 会自主进行任务分解、读取你的 Harness束导数据、生成提示词、执行工作、并进行质量检查。若检查合格则代表子目标完成若不合格则进入下一轮 Loop 迭代直至子目标达成。所有子目标完成后AI 会对输出结果进行汇总并再次实施质检。若质检不通过AI 会回退到各个子目标定位出错环节然后重新执行。三. LOOP的四种类型当质检标准不明确或目标频繁变化时我们该如何应对在深入探讨这个问题之前我们首先需要了解 Loop 的四种基本类型。1回合制Loop在这种 Loop 中用户向 AI 提问AI 给出回答随后用户对回答进行质检即确认是否符合预期。这种类型的 Loop 看似简单却应用得非常广泛。例如处理独立的或临时性的小任务时往往要求快速完成回合制 Loop 就能很好地满足这种“短平快”的需求因此它也是我们最常用的一种方法。回合制 Loop 同样适用于需要发散性创新的任务。其特点是目标和质检方法经常变化。以文案创作为例我们可以让 AI 从五个不同的视角各写一篇文章。作为质检人员我为这五篇文章分别打分。经过几轮迭代AI 便能通过我的打分摸索出质检的标准并通过我的筛选偏好推测出我的质检喜好。2定时制Loop定时制 Loop 是在回合制 Loop 基础上的一种拓展。它引入了时间维度的约束让任务在特定时间点或周期性地自动执行。例如我们可以设定每天晚上 10 点自动拉取代码库的最新代码并进行静态扫描。从这个例子可以看出定时制 Loop 本质上是在回合制的基础上增加了时间调度机制。3目标制Loop目标制 Loop 的核心在于设定清晰明确的目标并建立可验证的质检标准。这里的关键是“可验证”——这是目标制与回合制 Loop 最本质的区别。在目标制 Loop 中质检工作不再由人工完成而是交由 AI 自动执行。举例1写代码目标将工作汇报制作成 HTML 页面。质检回合制页面需要美观。质检目标制页面加载时间需小于 100ms。举例2整理文件目标汇总门店 30 天内的每日盘点表。质检回合制汇总表中需包含专业的图标。质检目标制汇总数据不能有遗漏和重复。规则注意点务必确保质检标准不会异化为目标本身。古德哈特定律的警示AI 非常擅长钻规则的空子你考核什么它就会只做什么。例如如果你设定的目标是“HTML 页面加载时间小于 100ms”AI 可能会通过删除页面中的部分内容来“作弊”以达到目标AI 尤其精于此道。4主动制Loop主动制 Loop 是目标制 Loop 的进阶形态旨在将自动化推向极致实现效率的再次跃升。其核心思想是让 AI 自主定义目标并为自己设定质检标准。如果说目标制 Loop 是将“执行-质检”的循环自动化那么主动制 Loop 则是将“目标设定-标准制定”的环节也一并自动化。这标志着 AI 从被动的任务执行者转变为具有一定自主规划和决策能力的“智能协作者”。运作机制环境感知与目标生成AI 会持续监测其运行环境如系统状态、数据流、用户行为模式等基于预设的宏观原则例如“提升系统稳定性”、“优化用户体验”或历史经验自主识别出需要解决的问题或可优化的机会并生成具体、可执行的目标。标准自定与策略规划在生成目标后AI 会进一步分析达成该目标所需的条件和约束自主制定一套可量化的质检标准并规划出实现目标的具体行动策略。这个过程可能涉及权衡多个标准如速度、准确性、资源消耗。执行与自适应调整AI 按照自定的策略执行任务并依据自定的标准进行实时质检。更重要的是它能根据执行反馈动态调整目标和标准。例如如果发现原定目标在当前环境下过于激进或难以达成AI 可以将其分解为更小的阶段性目标或调整质检标准的阈值。应用场景示例智能运维一个部署在服务器集群的主动制 Loop可以自主监控各项性能指标CPU、内存、错误率。当它发现某个服务的响应时间有上升趋势但尚未触发警报时可以主动生成目标“在未来一小时内将服务A的P99延迟降低10%”并自行制定质检标准“扩容两个实例且扩容后实例负载低于70%”。随后自动执行扩容操作并验证效果。内容策略优化一个用于内容推荐的主动制 Loop可以分析用户互动数据自主设定目标“提升本周科技类文章的点击率”并制定质检标准“生成5套不同的文章标题和封面图组合通过A/B测试选出点击率最高的组合”。然后自动执行测试、分析结果并应用最优策略。价值与挑战价值极大减少了人类在目标管理和规则制定上的投入使系统能够更快速、更灵活地响应复杂和动态变化的环境真正实现“设定好方向全权交付”。挑战对 AI 的抽象思考、因果推理和长期规划能力提出了更高要求。同时必须为其设定牢固的“元规则”或伦理边界防止其生成有害或偏离核心价值的目标例如为提升点击率而生成耸人听闻的虚假标题。主动制 Loop 代表了自动化智能的更高阶段是构建真正“自主智能体”的关键一步。5混编制Loop每天早上 10 点系统会自动启动回归测试定时制 Loop。测试完成后会根据发现的缺陷数量自动撰写并发送邮件报告回合制 Loop。接着系统会分析缺陷的具体内容主动调查问题根源并提出多种可行的解决方案主动制 Loop。四. 总结本文系统阐述了 Loop循环在 AI 发展中的演进历程与核心价值。AI 经历了从提示词Prompt、上下文Context、束导Harness到循环工程Loop Engineering的四次跃迁其核心驱动力是不断提升自动化水平、减少人工干预最终实现自主闭环。一个高效的 Loop 离不开目标定义“做完”与质检定义“做好”两大要素。根据自动化程度和应用场景Loop 可分为四种基本类型回合制人工质检、定时制加入时间调度、目标制AI自动质检以及更高级的主动制AI自主定义目标与质检的标准。实际应用中常将多种类型组合为混编制Loop以适应复杂任务流。Loop的发展跃迁四次跃迁Prompt目标驱动循环Context解决“遗忘”引入记忆面临“上下文爆炸”Harness施加约束防止“幻觉”Loop Engineering核心: 无人/少人参与目标: 效率最大化核心要素定义“做完”定义“做好”四种类型回合制Loop人工质检短平快定时制Loop回合制 时间调度目标制LoopAI自动质检标准可验证主动制LoopAI自主定义目标与标准混编制Loop组合应用应对复杂流程