MLPerf Storage v3.0 基准测试结果发布

MLPerf Storage v3.0 基准测试正式发布

MLCommons 近日宣布推出行业标准 MLPerf Storage v3.0 基准测试套件结果。该测试以架构中立、具有代表性和可复现的方式，衡量机器学习工作负载下的存储系统性能。

新增两项基准测试

版本 3.0 引入了 KV Cache 测试，用于评估 LLM 推理中缓存读写操作的存储性能。KV 缓存是提升 transformer 模型推理速度的关键技术，尤其适用于自回归 LLM。

同时新增 Vector Database（VDB）测试，衡量向量索引与查询工作负载的存储表现。向量数据库广泛用于存储高维非结构化数据，是 AI 应用的重要组成部分。

支持 S3 对象存储访问层

新版本还增加了对 S3 object storage access layer 的支持，作为 POSIX 层的替代方案。这一改进使同一工作负载下可比较更多托管存储选项。约六分之一的提交结果使用了 S3 访问层。

11 家新机构首次提交

本轮共有 19 家机构参与提交，包括 Azure、NVIDIA、Nebius 等 11 家首次提交者。提交方涵盖云与本地解决方案提供商，以及存储系统开发者。

测试结果显示了存储行业的功耗效率现状：checkpointing 写入测试的现场提交中位数为每瓦 14 GB/秒，最高达 201 GB/秒；UNet3D 读取测试中位数为每瓦 34 GB/秒，最高 277 GB/秒。