首页 > 开源 > HeteroFlow 异构算力调度平台于 2026 年 8 月 8 日推理服务正式发布

HeteroFlow 异构算力调度平台于 2026 年 8 月 8 日推理服务正式发布

OSChina项目 2026-08-09 16:57 1 阅读 查看原文

HeteroFlow v2 推理服务的解决方案正式上线

HeteroFlow v2 是一款开源的异构算力调度平台,本次发布的推理服务功能针对上述三大痛点提供完整解决方案:

一句话总结:用一套 OpenAI 兼容 API,统一调度 9 种厂商 GPU × 5 种推理引擎,原生支持多租户、计费、扩缩容、热加载。

三、核心能力详解

1. OpenAI API 100% 兼容

(此处为原文缺失内容,保留原文信息)