36氪获悉,近日,中科曙光发布全新迭代升级的AI推理原生存储FN Neo。
实测数据显示,模型首Token响应时间缩减73%,整体Token吞吐能力提升150%,有效压缩用户交互等待时长,强化系统并发服务能力。
针对生产级AI业务7×24小时不间断运行需求,FN Neo还拥有99.999%高可靠性,多重故障防护机制保障推理业务连续不中断。
同时产品兼容主流推理框架与多元组网环境,企业无需大规模改造现有系统即可完成部署,在复用现有推理生态前提下提质增效,有力支撑大模型、智能体规模化生产落地。
36氪获悉,近日,中科曙光发布全新迭代升级的AI推理原生存储FN Neo。
实测数据显示,模型首Token响应时间缩减73%,整体Token吞吐能力提升150%,有效压缩用户交互等待时长,强化系统并发服务能力。
针对生产级AI业务7×24小时不间断运行需求,FN Neo还拥有99.999%高可靠性,多重故障防护机制保障推理业务连续不中断。
同时产品兼容主流推理框架与多元组网环境,企业无需大规模改造现有系统即可完成部署,在复用现有推理生态前提下提质增效,有力支撑大模型、智能体规模化生产落地。