意图识别 + 围栏

2026-8-27 diaba LLM

企业知识库：意图识别 + 围栏（安全围栏 / 边界围栏）

先厘清概念

意图识别：判断用户想问什么、该不该走知识库检索、要不要拒绝、要不要走业务接口

围栏（Guardrail，护栏 / 边界管控）：拦截越界问题，防止 RAG“答非所问、越权回答、幻觉、跑出知识库范围、违规内容”，分为前置围栏、检索围栏、生成围栏、后置围栏。

一、RAG 意图识别：4 种主流实现方案

RAG 里的意图识别核心目标不是分类闲聊，而是决策路由：

路由分支： 1️⃣ 查询知识库 (RAG)｜2️⃣ 调用工具 / 业务 API｜3️⃣ 闲聊，不走知识库｜4️⃣ 拒绝回答

方案 1：Prompt‑Based 大模型意图识别（最常用、上手最快）

工作流程

用户 query → 发给一个轻量 LLM（也可以用主模型），输出结构化 JSON 意图结果。

输出字段设计（标准模板）

{
  "intent_type": "rag_query|chat|api_call|reject",
  "topic": "产品售后问题",
  "need_retrieval": true,
  "retrieval_filter": {"product_id":"A001"},
  "confidence": 0.95,
  "reason": "用户询问售后保修政策，知识库包含该内容"
}

意图枚举定义

表格

intent_type	含义	路由动作
`rag_query`	知识库问题	进入向量检索→召回文档→生成答案
`chat`	闲聊、问候、情绪对话	直接模型回答，跳过检索
`api_call`	需要实时数据（订单、余额）	调用后端接口，不走知识库
`reject`	违规、超出业务范围	直接拒绝，不走 RAG

优点：开发快、不用标注样本；缺点：高并发成本高、偶发不稳定。适合中小项目。

参考系统提示词（可直接复制）

你是RAG路由意图分类器。
任务：判断用户问题是否属于本企业知识库可回答范围。
知识库范围：公司产品手册、售后政策、收费标准、常见问题。
禁止回答：时政、娱乐、无关闲聊、内部未公开数据。

输出严格返回JSON，不要多余文字：
{
  "intent_type": "rag_query/chat/api_call/reject",
  "need_retrieval": true/false,
  "confidence":0~1小数,
  "reason":"简短理由"
}

方案 2：轻量分类模型（小模型意图识别，高并发首选）

用文本分类模型：BERT/ERNIE、text‑cnn，做二分类 / 多分类

二分类：是否需要检索知识库（0/1）
多分类：知识库问题 / 闲聊 / 实时查询 / 违规问题

优点：速度快、成本低、延迟稳定；缺点：需要标注数据集。

适合高流量线上生产环境。

方案 3：关键词 + 规则引擎（前置快速过滤）

适合简单场景：黑名单词、触发词例：命中【订单号】→路由 API；命中【你好、谢谢】→闲聊。

一般只做第一层前置过滤，不能单独当意图识别。

方案 4：Query‑Rewrite + 语义向量召回匹配（语义意图）

计算用户 query 和知识库文档标题 / 问题库的向量相似度。

相似度 > 阈值 →走 RAG 检索
相似度 < 阈值 →判定为超出知识库范围。

缺点：容易误判；适合和意图模型配合使用，不能单独作为围栏。

工业级推荐链路（标准生产流水线）

用户 Query →1. 规则黑名单过滤（前置围栏） →2. 意图识别（LLM / 小分类模型） →3. 路由：・reject →拒绝・chat →直接回答・api_call →调用接口・rag_query →向量检索→重排→围栏校验→生成答案

二、RAG 围栏（Guardrail）完整体系：四层围栏架构

围栏本质：把回答锁死在知识库边界，防止越界、幻觉、违规、泄露

四层围栏：前置围栏、检索围栏、生成围栏、后置围栏

1）前置围栏（用户提问阶段，最优先）

目标：拦截坏问题，还没走检索就拒绝 执行时机：意图识别之前。

管控内容：

违规内容：色情、暴力、敏感提问
越界领域：知识库只回答产品问题，用户问股票、历史
攻击提示词：Prompt 注入、越狱指令

实现方式：

关键词黑名单
内容安全审核 API（百度 / 阿里云 / 字节安全）
LLM 前置护栏 Prompt 校验

示例护栏 Prompt

如果用户问题不在【XX产品知识库】范围内，直接回复：
"抱歉，我无法回答该问题，请咨询产品相关问题。"
禁止编造知识库不存在的内容。

2）检索围栏（召回阶段，最关键的 RAG 围栏）

RAG 最常见坑：召回无关文档，然后模型顺着无关文档胡说；或者召回不到内容，模型凭空幻觉。 检索围栏 = 管控召回质量，只允许召回匹配的内容。

检索围栏手段清单

相似度阈值围栏 向量召回时，设置最低相似度分数。

例：相似度 < 0.75，判定【知识库无相关资料】，放弃检索，直接返回无答案，禁止大模型编造

标签: AI Agent

« 保险险种的关键要素 | ELK（Elasticsearch + Logstash + Kibana，Elastic Stack）»

发表评论：

随笔记录

韭菜园，have a try try try...!