首页 > 开源 > 微软Prompt flow:LLM应用全链路开发框架

微软Prompt flow:LLM应用全链路开发框架

AI垂直社区 2026-11-18 10:02 40 阅读 查看原文

Prompt flow 是微软开源的 LLM 应用开发套件,用 YAML 定义的流(flow)把提示词、Python 函数、模型调用与工具编排成有向图,打通原型调试、批量评估、部署上线与链路追踪的完整闭环。它强调评估驱动开发与本地云端同构,适合追求工程化与 CI/CD 的团队,但官方已宣布 2027 年 4 月退役并建议迁移至 Microsoft Agent Framework。

适用人群:一是 AI 应用开发者与算法工程师,需要把零散的 prompt 脚本整理成可维护、可测试的工程结构;二是企业架构师与 MLOps 团队,关注模型凭据治理、批量评测、CI/CD 与线上监控;三是提示词工程师与产品原型设计者,希望用可视化界面快速搭出可演示的 LLM 流程

适用场景:构建 RAG 检索问答、对话助手等 LLM 应用的编排与调试;对提示词做数据集级别的批量评估与版本对比,建立质量回归测试;将 flow 部署为 REST 端点并接入现有可观测体系与发布流水线

推荐理由:如果你正在寻找一套把 prompt 工程从手工试错升级为可评估、可复现、可部署的工程化方案,Prompt flow 的流式编排与评估闭环非常值得研究。但需注意其将于 2027 年 4 月退役,新项目应优先考虑官方推荐的 Microsoft Agent Framework,存量项目应尽早规划迁移。

项目定位与背景

Prompt flow 是微软开源的一套 LLM 应用开发工具套件,目标是打通从原型、实验、评估到生产部署与监控的完整链路。它诞生于一个很现实的痛点:当团队开始把提示词、模型调用、检索和业务代码拼在一起时,prompt 很快变成散落在脚本里的字符串,既没有版本管理,也没有可重复的评测手段,更谈不上上线后的可观测性。Prompt flow 用流(flow)这一抽象把这些环节收进一张可视化的有向图里,让 LLM 应用像普通软件一样被构建、测试和交付。项目采用 MIT 协议,以 Python 实现,目前有一万一千以上 star 和千余次 fork,并提供 VS Code 扩展与命令行工具。

需要特别提醒的是,官方已在 README 顶部给出退役公告:Microsoft Foundry 与 Azure Machine Learning 中的 Prompt flow 将于 2027 年 4 月 20 日退役,不再推荐用于新开发,相关运行时容器镜像也已停止更新,官方建议迁移到 Microsoft Agent Framework。这个时间点对选型判断至关重要。

核心功能与技术架构

Prompt flow 的核心是 flow:一份 YAML 描述的有向无环图,节点可以是 prompt 模板、Python 函数、LLM 调用或外部工具,节点之间通过输入输出连线传递数据。围绕这个核心,项目拆出了多个 Python 包,包括核心 SDK、工具库、开发套件与追踪模块,并通过 pf 命令行提供初始化、测试、运行、部署等能力。

在能力层面,它覆盖了几个关键环节。连接(connection)机制统一管理 OpenAI、Azure OpenAI 等模型凭据,避免密钥散落;批量运行与评估流让你用一份数据集跑完整条链路,再用 LLM 作为裁判或自定义指标打分;部署方面,同一份 flow 既能在本地以服务形式启动调试,也能打包成托管在线端点;追踪模块基于 OpenTelemetry,可对接 LangChain、AutoGen 等框架的调用链。开发体验上,VS Code 扩展提供了图形化编辑与单步调试,Azure 侧还提供网页版创作界面。

创新点与亮点

最值得称道的是评估驱动开发的闭环。传统做法是改完 prompt 手动试几条,Prompt flow 把数据集、评估流、指标和运行记录组织成可重复的流水线,让每次改动都能和历史版本对比,这在提示词工程里是相当稀缺的工程化能力。

其次是本地与云端的同构。同一份 flow 定义可以在笔记本上调试、在 CI 里跑回归、再原样部署为端点,避免了本地能跑线上不行的割裂。

第三是代码与低代码的平衡。相比纯代码框架,它提供可视化编排和调试面板;相比纯可视化平台,它又保留了 Python 节点的完全自由度,复杂逻辑可以随时下沉到代码。

第四是追踪与生态集成,OpenTelemetry 标准让链路数据能进入既有的可观测体系。

与同类项目对比

和 LangChain、LlamaIndex 相比,后两者是代码优先的 SDK,灵活度极高,但评估、部署、监控需要自己搭;Prompt flow 更像一条工程流水线,把这些环节内置。和 LangSmith、LangFuse 这类观测平台相比,Prompt flow 的追踪深度不如专门产品,但胜在编排、评估、部署一体。和 Dify、Flowise 这类可视化平台相比,Prompt flow 的可视化体验偏开发者工具,学习曲线更陡,但对 CI/CD、企业凭据治理和 Azure 生态的贴合度更高。

短板也很明显:与 Azure 生态绑定较深,脱离 Azure 后部署与创作体验会打折;YAML 加节点契约有一定学习成本;社区热度受退役公告影响,长期维护预期需要谨慎评估。

上手指南与快速开始

安装只需 pip install promptflow promptflow-tools,随后用 pf flow init 生成一个示例 flow 目录,编辑 flow.dag.yaml 定义节点与连线。本地验证用 pf flow test 传入输入参数,交互式调试用 pf flow serve 起一个本地服务。批量实验用 pf run create 指定数据集,跑完用 pf run visualize 查看每条样本的输入输出与指标。VS Code 装好 Prompt flow 扩展后,可以直接在图形界面里连线、改 prompt、单步运行。若准备上生产,可将其部署为托管端点并接入监控。

对于新项目,官方建议直接采用 Microsoft Agent Framework;存量项目应尽早按官方迁移指南与示例代码评估改造量。

总结与展望

Prompt flow 是 LLM 应用工程化早期最有代表性的尝试之一,它把提示词即代码的理念落到了可编排、可评估、可部署的具体工具上,评估闭环和本地云端同构的设计思路影响了不少后来者。它的退役并非理念失败,而是产品形态向 Agent 框架演进的必然结果,多智能体、工具调用与长期记忆正在取代单次 prompt 流水线。对开发者而言,它仍是理解 LLM 应用工程化的优秀教材;对团队而言,现在更该做的是学习其方法论,并把新项目放到官方推荐的替代方案上。

项目信息

项目名称 microsoft/promptflow
编程语言 Python
Star 数 11268
Fork 数 1127
主题标签 ai, ai-application-development, ai-applications, chatgpt, gpt, llm, prompt, prompt-engineering
查看 GitHub 项目
https://github.com/microsoft/promptflow