MLPerf Inference v6.1: pioneering agent, VLM benchmarks
Lambda は MLPerf Inference v6.1 ラウンドにおける自社の測定結果を発表し、同一ハードウェア上で前回ラウンド比8.85%のスループット向上を含む高い推論性能を示したと報告した。同社は、MLPerf においてデータセンター向けハードウェアでエージェント型ワークロードを実行した初の事例であり、1兆パラメータ超のモデルを提出した初の事例でもあるとしている。提出結果には NVIDIA Blackwell 環境での vision-language モデル推論や mixture-of-experts の最適化も含まれる。