LLM Inference Benchmark Explorer

Qwen3.6-27B op 2× DGX Spark — NVFP4, vLLM, TP2 inferentiebenchmark

Open deze configuratie in de LLM Inference Benchmark Explorer

ModelQwen3.6-27B
Parameters27B
Intelligence Index21.4
Agentic Index18.5
Apparaat2× DGX Spark
KwantisatieNVFP4
Max C4
Chatcapaciteit16
Agentische capaciteit6
TP2
DP—
PP—
EnginevLLM
Speculatieve decodering—
CTTFT (ms)TPS (tok/s)Status
114923.00PASS
225221.72PASS
432020.77PASS
845718.70FAIL
1674116.25FAIL
32119712.24FAIL
6421377.58FAIL

In deze meting bereikte Qwen3.6-27B (27B parameters), aangeboden in NVFP4-formaat met vLLM op 2× DGX Spark (TP=2), met één verzoek een generatiesnelheid van 23 tok/s per verzoek en een time to first token (TTFT) van 149 ms.

Rekening houdend met de snelheidsdoelen en de beschikbare KV-cachecapaciteit, bedraagt de geschatte capaciteit 16 gebruikers voor chatgebruik en 6 voor agentisch gebruik. De realistische capaciteit ligt waarschijnlijk tussen deze twee waarden. In scenario's waarin programmeren, toolgebruik, lange workflows en multi-agentgebruik overheersen, benadert de capaciteit de agentische schatting; waar kortere interacties, standaardgesprekken en lichtere taken overheersen, benadert zij de chatschatting.

Opmerkingen: nvidia NVFP4, eugr nightly

De waarden van Intelligence Index en Agentic Index worden gepubliceerd door Artificial Analysis en worden hier met bronvermelding overgenomen.