LLM Inference Benchmark Explorer

MiniMax-M2.7 op 2× DGX Spark — NVFP4, vLLM, TP1, PP2 inferentiebenchmark

Open deze configuratie in de LLM Inference Benchmark Explorer

ModelMiniMax-M2.7
Parameters229B
Intelligence Index22.8
Agentic Index15.3
Apparaat2× DGX Spark
KwantisatieNVFP4
Max C0
Chatcapaciteit0
Agentische capaciteit0
TP—
DP—
PP2
EnginevLLM
Speculatieve decodering—
CTTFT (ms)TPS (tok/s)Status
139618.03FAIL
237115.17FAIL
450111.10FAIL
86707.77FAIL

In deze meting bereikte MiniMax-M2.7 (229B parameters), aangeboden in NVFP4-formaat met vLLM op 2× DGX Spark (PP=2), met één verzoek een generatiesnelheid van 18 tok/s per verzoek en een time to first token (TTFT) van 396 ms.

Bij de standaard snelheidsdoelen (ten minste 20 tok/s per verzoek, TTFT ten hoogste 1,000 ms) is er voor deze configuratie geen capaciteitsschatting: geen enkel gemeten belastingsniveau voldeed eraan.

Opmerkingen: PP=2 (pipeline parallel)

De waarden van Intelligence Index en Agentic Index worden gepubliceerd door Artificial Analysis en worden hier met bronvermelding overgenomen.