把大模型塞进产线控制,最常见的争论是“LLM 能不能替代调度算法”。这篇 arXiv 综述换了个问法:在一个以多智能体强化学习(MARL)为中心的控制系统里,LLM 应该挂在哪一层?作者先列出现代制造的六项耦合要求——局部决策带来全局后果、没有全局状态、非平稳性、秒级响应却要看长周期、结果延迟且弥散、动力学难以显式建模——再用 Dec-POMDP 作为问题形式,把 2022 年至 2026 年 8 月的文献按四个“挂载点”归类。
四个挂载点,而不是一场替换赛
四个挂载点分别是策略(policy)、奖励设计(reward)、智能体间通信(comm)和高层规划(plan)。奖励挂载是离线的:用自然语言任务描述生成或塑形奖励函数,训练仍按常规 MARL 走;通信挂载把观测转成自然语言消息广播给邻居;规划挂载运行在更慢的时间尺度上,把人的目标拆成子目标,底层策略以子目标为条件。只有策略挂载是“竞争性边界情况”,因为它替换掉原来的数值策略网络。作者用一个描述性记号 LLM-Augmented Dec-POMDP 记录这四种选择,明确说明它不改变问题类别,也不带来任何收敛或安全保证。
三层:语义、协同、受保执行
参考架构按时间尺度和保障责任分三层。第一层是语义推理,由 LLM 承担,解释自然语言情境、分解目标、支撑操作员交互,输出只是“提案”,必须经过接地与校验,自然语言的解释不被默认为忠实。第二层是自适应协同控制,由 MARL 承担,在子目标条件下做协调、信用分配和任务特定学习。第三层是受保执行,由经典控制器、运行时监视器、动作约束,必要时还有独立认证的安全 PLC 组成。作者特意用“受保”(assured)而不是“确定性”,因为确定性输出既不等于运行可复现,也不等于安全。
两个辅助挂载不构成独立层:奖励挂载在部署前离线塑形第二层的训练目标;通信挂载是第二层内部的可选通道,只有当每步决策预算能容下一次 LLM 调用时才可用——预算低于一秒的控制回路,应当留空,退回数值通信,把 LLM 的协调角色收回到第一层的慢规划。数字孪生则作为三层共享的底座,承担训练与验证环境。
证据走到哪一步
作者对九项工作做了就绪度评分:六项是制造或供应链的直接应用,多数只在仿真层面验证,没有任何一项同时实例化三层。L2M2 和语言引导的队形框架覆盖了第一、二层,但都没有独立认证的执行层;GR00T N1 在单个具身智能体内组合了慢推理与快执行,属于单智能体,没有本文意义上的第二层。结论是条件性的分工:经过任务训练的传统 MARL 更适合高频、结构化、去中心化的协同;LLM 在语义解释、任务分解、人机交互、可读的理由说明和奖励起草上有前景。当前纯 LLM 控制器还不能证明在严格实时、去中心、安全关键的场合与任务训练策略等价——这是证据边界,不是“不可能”的断言。
这份架构最实用的地方,是它把“策略确定性、运行可复现、解释忠实、安全保障”拆成四项独立责任,谁也别想用一句“模型很强”打包过关。
资料来源:A MARL Centered Reference Architecture for Large Language Model Augmentation in Smart Manufacturing — arXiv(2026-08)。本文为技术要点整理/编译,非原文全文。