10月17日,2026人工智能开放计算大会暨众智FlagOS技术大会举行。智源众智展示了FlagOS 2.2自9月30日发布以来的技术进展,覆盖从底层算子、编译器到模型部署与服务。
据介绍,算子层面,FlagOS 2.2九大算子库合计覆盖1454个算子,较上一版增加890个,并首次发布包含40个多芯片高性能算子的FlagGems-SGLang。在上千个算子、10款异构AI芯片的测试范围内,跨芯算子性能提升约27%。
模型适配上,依托统一跨芯插件与首次发布的FlagOS-Compressor(权重转换与量化),新模型发布后可一天内适配多达12款芯片。以中国电信星辰大模型为例,推理侧Xing4.0-29B-A4B完成十款芯片适配,首Token时延较英伟达原生算子降低19.87%,解码速度提高26.32%。
服务落地方面,GLM-5.3-Flash经FlagOS优化后,在存量昇腾910B上的逻辑服务吞吐由8.52k提高至17.36k tokens/s,约为优化前的2.04倍;512K长上下文生成速度达60.9 tokens/s,接近官方API外部测量参考值61.1 tokens/s。按每台8卡910B月租16,500元等指定条件测算,每百万输出Token的租金折算算力成本较对应商业API计费参考低19.4%—27.6%。DeepSeek V4.1 Flash在平头哥810E上较该平台SGLang原生路径,24路并发下每请求解码速度提升83.1%、48路并发下提升91.5%。
研发与生态侧,自动算子生成工具KernelGen已支持九款AI芯片,本季度新增765个算子,其中416个在至少5款国产芯片通过精度验证;截至第三季度,FlagOS生态成员单位达107家,季度社区下载量464,336次、为第二季度的4.76倍,代码贡献者264位、较上一版增加55%。
面对AI模型约3个月一代、算力基础设施需长期服役的现实,FlagOS的路径是将算子、编译、量化等优化沉淀为可复用公共能力。联合国“开放计算工作组”已于9月28日获批成立,首次会议计划于11月APEC期间举行。(袁宁)