【MLPerf】AIチップの性能比べの読み方を、Training・Inference・Endpoints の違いから整理する
AIのチップやサーバーの速さを比べる共通の試験 MLPerf の仕組みを、Training v6.1 の結果とあわせて整理します。
目次
業界団体の MLCommons が11/16、AIの学習の速さを比べる MLPerf Training v6.1 の結果を公開しました。参加は24組織、153システムから250件の結果が出て、NVIDIA の Rubin 世代の GPU と Google の第7世代 TPU(Ironwood)が初めて登場しています。同じ日に NVIDIA は自社ブログで、Vera Rubin NVL72 が GPU あたりで GB300 NVL72 の最大2倍、推論の試験 MLPerf Endpoints では電力あたりの処理量が10倍超だったと発表しました。
ただ、「2倍」「10倍」がどんな条件の数字かは、見出しからは分かりません。MLPerf は学習・推論・API越しの推論で試験が分かれ、結果には検証が済んだかどうかの印も付きます。この記事では、MLPerf の種類、比べ方のルール、結果の読み方を整理します。AIモデルの点数の読み方は、11/10の記事「ベンチマーク」で扱いました。
