离线 RAG 先管版本和权限:设备手册问答的工程边界

现场技师问“这台设备的 E42 报警怎样复位”,系统给出一段流畅说明,却说不清适用型号、手册版本和原文页码——这个答案就不能拿去指导维修。断网时问题更严重:没有在线文档可回查,错误答案可能被当成唯一依据。星野云联的工程文章因此提出一个结论:设备手册离线 RAG 的关键,不是把模型塞进边缘盒子,而是让型号、版本、权限与引文贯穿索引、检索、回答和更新。

设备手册离线 RAG

先定义职责,再谈模型

文章从一个错误答案倒推系统分工。同一个 E42 代码可能出现在不同系列设备中,同一型号的新旧固件复位前提也可能不同。把所有 PDF 切成文本块做相似度检索,会把“语义接近”误认为“操作可互换”。维修问题首先要缩小的不是向量距离,而是设备身份、文档版本和使用者权限。

因此系统被定义为“受版本和权限约束的手册检索入口”,而不是一台会聊天的设备。检索器负责找“哪个版本的哪段原文”,权限层决定“这个人能否看到”,生成模型只负责把获准片段整理成可读答案。模型不猜版本,也不替代授权服务做决定。

索引条目要保留什么

手册不是一堆可以脱离上下文的句子。文章建议每个索引条目保留:原始文件标识、文档版本、适用机型、章节、页码或可定位锚点、语言、发布日期、访问范围,以及提取文本的校验值。回答中的“来源”要回到这些字段和原文片段,而不是只列一个 PDF 文件名;同一文件跨版本共用标题时,只有标题的引用无法让人核对动作。

一次可用提问至少要带设备型号、硬件修订、固件版本、站点或资产编号。若拿不到,检索可以返回候选手册,但不能写成确定适用于当前设备的指令;界面应提示核对铭牌或固件版本,并展示被引文档的标题、版本与段落。

先处理文档关系,再决定切块大小

设备手册常把一个动作拆在报警表、前置安全条件和操作步骤三处。按固定字符数切块,报警码可能落在一个块,断电警告落在另一个块。更稳妥的做法是先解析目录、表格、警告框和章节层级,再按操作单元建立片段,必要时让一个片段指向同一动作的安全前提与适用条件。扫描版 PDF 还要保留 OCR 置信度与原页链接,不能把识别不清的参数变成确定数值。

版本关系也比“最新文件覆盖旧文件”复杂:旧设备仍可能需要旧版手册,补丁公告可能只替换某个步骤。知识包应明确每条片段的有效范围,并能把补丁与基版连接起来。

权限必须在召回之前生效

有些手册是公开用户版,有些含维修商专属步骤,还有些只适用于特定客户或序列号。若先从全部文档检索、再从最终答案里删掉不该展示的内容,越权片段已经进入检索上下文,甚至进入模型输入。文章主张权限作为候选集的硬过滤条件,并在原文打开、引用跳转和缓存读取时再次校验。

索引条目至少要标出组织、设备范围、文档分级和可访问角色。断网期间也要有可验证的离线授权边界,包括到期时间、撤销策略和本机密钥保护;授权过期且无法确认时,应缩小到公开资料或拒绝显示受限内容,而不是因为断网就默认放行。缓存同样属于权限边界:缓存键要包含权限范围和知识包版本,否则甲看过的受限步骤可能被乙用同样的问题命中。

更新要回答“现在读的是哪一版”

边缘设备更新常被当成同步新 PDF,实际需要同步一组相互依赖的对象:原文、提取文本、片段 ID、向量或全文索引、权限标签、引用定位,以及生成时使用的模型与提示约束版本。只换原文不换向量,检索可能指向已不存在的段落;只换向量不换引文,读者无法核对答案。

可审计流程是:新知识包先下载到非活动区域,校验签名与哈希,检查机型与依赖版本,再构建或导入索引;用少量已知问题冒烟验证,之后才原子切换活动包标识。导入失败则继续服务旧包并标记状态;新包上线后发现严重错误,则回退到前一整包,同时恢复索引、权限标记和引文定位。

先验收检索,再验收生成

没有脱敏手册、标注问题和正确来源,就无法谈“回答准确”。试点第一份资产应覆盖真实型号、旧版手册、冲突公告、权限差异和“手册没有答案”,每个问题标注应命中的原文段落、允许查看的人和必须拒答的条件。

验收顺序也很明确:先在不调用生成模型的条件下验收检索——正确文档和版本是否进入候选、错误型号是否被排除、引用能否打开到原页、权限过滤是否在所有查询路径生效;再验收生成——回答是否只使用获准证据、是否漏掉安全前提、冲突时是否拒答;最后才在目标硬件、真实离线条件和预期并发下测资源占用、响应时间与升级回滚。文章还提醒,检索片段可能被插入改变模型行为的文本;OWASP 的 LLM Top 10 指出 RAG 不能消除提示注入风险,手册片段只能当作待引用数据。

这套方法把“智能问答”拉回可验收的工程系统:找不到适用版本、授权不足、片段冲突或缺少安全前提时,应主动返回缺口,而不是用通顺的话补上。

资料来源:设备手册离线 RAG 架构:版本、权限、引文与本地模型 — 星野云联。本文为技术要点整理,非原文全文。