首页 > 开源 > gfast 快速开发框架全新版本 V3.4.1 发布

gfast 快速开发框架全新版本 V3.4.1 发布

OSChina资讯 2026-09-14 09:13 1 阅读 查看原文
快速开发框架 更新 AI模型配置

本次更新内容：

1.更换全新前端UI样式
2.登陆页交互滑块验证码弹层显示，验证通过后自动提交登陆数据
3.新增AI模型配置，知识库、MCP服务、智能客服基座

一、模块总览

后台菜单 路由 功能
大模型管理 → 大模型配置列表 /llm/config 管理接入的 LLM/Embedding/Rerank 模型
大模型管理 → mcp服务器配置列表 /llm/mcp 管理 MCP 工具服务器（SSE）
大模型管理 → AI对话 /llm/chat 与模型对话（可调用 MCP 工具）
智能客服 → 知识库管理 /kb/knowledge 创建知识库（绑定模型、分块参数）
智能客服 → 文档管理 /kb/docs 上传文档 → 解析 → 分块 → 向量化入库
智能客服 → 客服对话 /kb/chat 后台在线问答（RAG 检索增强）
智能客服 → 流程编排 /kb/flow 可视化编排客服 SOP 流程
智能客服 → 应用管理 /kb/app 应用/凭证管理，对接 C 端开放 API 与网站挂件

链路关系：知识库 = 知识 + 向量化模型 + 对话模型；文档喂给知识库 → Qdrant 向量化；客服对话用「检索 + 大模型」回答；流程编排把上述能力编排成 SOP。

二、模型接入协议（5 种）

通过数据库 lm_config.model_class 区分（值与字典 lm_protocol 一致）：

协议 model_class 值 说明
OpenAI 兼容 openai_compatible 智谱/Kimi/腾讯混元/MiniMax/MiMo/火山方舟/Gemini 兼容端等，通用性最强
Anthropic anthropic Anthropic Claude Messages API
DeepSeek deepseek DeepSeek 原生协议（deepseek-reasoner 可输出思维链）
阿里百炼 qwen DashScope 原生 SDK 协议（Embedding 也用此协议）
Ollama ollama 本地模型（默认 http://127.0.0.1:11434）

三、MCP 服务器配置

MCP（Model Context Protocol）让大模型能调用外部工具（查天气、查订单、建工单等）。

  • 入口：大模型管理 → mcp服务器配置列表（/llm/mcp）
  • 关键字段：服务器名称、SSE 地址（如 http://服务端/mcp，需服务端实现 SSE 端点）
  • 保存后，AI 对话发送时会自动拉取该服务器暴露的工具列表，模型按需调用

四、AI 对话

4.1 使用方式

  • 选择模型（下拉：左侧模型名、右侧提供商小徽章）
  • 输入问题 → 发送。采用真流式打字：WebSocket chat 事件逐字推送正文，chatThink 事件推送思考过程
  • 历史消息通过 lm_chat_list / lm_chat_message 持久化

五、智能客服（知识库 RAG）

基于「检索增强生成」：上传文档 → 切分 → 向量化入 Qdrant → 问答时检索最相关内容 + 大模型生成，回答标注引用来源。

5.1 前置条件（重要）

  1. Qdrant 向量库可用：配置 manifest/config/config.yaml 
    kb:
  qdrant:
    address: "http://192.168.0.214"   # Qdrant HTTP 地址
    grpcPort: 6334                    # Qdrant gRPC 端口
    apiKey: ""                        # 可选
    • 若 address 为空，知识库功能不可用
    • go-client 与 Qdrant 服务端版本必须匹配（主版本一致、次版本差 ≤1），否则向量「假写入」（Upsert 返回成功但实际 0 点），本机 go-client 升级后请同步升级 Qdrant 至 1.19.x
  2. TextEmbedding 模型：在大模型配置列表新增一条 TextEmbedding 类型配置（如百炼 text-embedding-v4），知识库创建时选择它
  3. 对话模型：至少一条启用状态的 LLM 配置

5.2 知识库管理

字段 说明
名称 / 描述  
向量化模型 TextEmbedding 配置（决定向量维度）
对话模型 客服回复用的 LLM
MCP 配置 可选，客服 Agent 可调用工具
分块大小 / 分块重叠 文档切分粒度（如 300 / 50）
检索条数 topK 每次问答检索的分块数（默认 5）
状态 停用后该库不可问答

每个知识库对应 Qdrant 一个独立 collection（命名 kb_{id}，Cosine 距离）。

六、流程编排（SOP Workflow）

让客服按预设「标准作业程序」处理多步骤任务：意图识别 → 条件判断 → 路由 → 查询/转人工 → 回复。

核心技术：DSL（JSON）→ 后端用 eino compose.Graph 动态构建执行引擎；前端用 vue-flow 可视化画布编辑 DSL。

 

4、多语言支持（多语言采用「前端持久化语言 → 请求头传递 → 后端中间件注入 ctx → 输出边界统一翻译」的整体方案，数据库内容（菜单标题/字典标签/网站配置文案）在响应时翻译，前端静态 UI 用 vue-i18n 渲染。）

 

5、全新安装方式（安装器是一个独立于主程序的 Web 程序（install/install.go），通过浏览器分步完成全部配置。）

 

 

演示地址

http://v34.g-fast.cn/sys
账号：demo 密码：Demo123

文档地址

https://doc.g-fast.cn/docs/gfast_v34

 

相关推荐