Technische whitepapers van Aetherix
Diepgaande technische analyses van AI-inferentie op NVIDIA-hardware. Van edge AI op basis van Jetson tot DGX Spark-clusters en RTX PRO-werkstations — deploymenthandleidingen, clusterinstallaties en gemeten LLM-, vision-language- en computervisiebenchmarks.
Nieuwste whitepapers
Wat LMCache aan vLLM toevoegt wanneer dezelfde contexten terugkomen: een drietraps KV-cache (GPU, CPU, NVMe) op DGX Spark, gemeten TTFT — 1.95× bij hergebruik, 3.3× na een herstart van de service — en de instellingen en grenzen die daarbij horen.
oktober 2026 Technische gidsNetwerklinksnelheid voor tensorparallelle inferentie op 8× DGX Spark (200G vs 100G)Hoeveel netwerkbandbreedte een tensorparallel cluster van 8 Sparks werkelijk gebruikt, en wat het kost om elke DGX Spark op 100G in plaats van 200G te laten draaien: het mechanisme, een schatting op basis van de architectuur van het model, en metingen met GLM-5.3 op TP8.
oktober 2026 BeslisgidsKeuzegids voor LLM-kwantisatieBeslisgids voor LLM-kwantisatie: hoe workload, kwantisatieformaat, GPU-architectuur en betrouwbaarheid van checkpoints de keuze bepalen — met de keuzestroom, veelgemaakte fouten, voorbeelden en een snelle opdrachtenreferentie.
oktober 2026 ApparaatadviesApparaatadviesBeschrijf uw camera's en kies een vision-language-model, dan noemt deze pagina het kleinste door ons gemeten apparaat dat het bijhoudt — en speelt de stroom daarna af als een live tijdlijn, zodat u ziet hoe vaak elke camera antwoord krijgt en hoeveel van haar frames het model ooit ziet.
oktober 2026 VLM-benchmarkVLM Inference Benchmark ExplorerVerken inferentiebenchmarks van vision-languagemodellen op Jetson AGX Thor, DGX Spark, RTX PRO 6000 Blackwell, Jetson AGX Orin 32GB en Jetson Orin NX 16GB. Kies het beeldformaat, stel in hoe lang een camera op zijn antwoord mag wachten, en zie hoeveel camera's elke configuratie bijhoudt.
oktober 2026 Technische gidsDe eerste open-gewichtsalternatieven voor JevZes open-weight typed-decision-modellen, vergeleken op één NVIDIA DGX Spark (GB10) via één gedeelde state + questions-interface en één set van 25 vragen: nauwkeurigheid, kalibratie, gevoeligheid voor de optievolgorde en latentie — plus welk model bij welke taak past.
oktober 2026 Technische gidsEngram-offloading bij LLM-inferentieEngram-tabellen zijn groot, maar per token worden er maar een paar rijen uit gelezen; daarom kunnen ze van het GPU-geheugen naar systeem-RAM of NVMe. Wat dat betekent op DGX Spark, RTX PRO 6000 en DGX B300, en meetresultaten met DeepSeek-V4.1-Flash en Qwen3.8-Flash-Next.
september 2026 LLM-deploymentDeepSeek-V4.1-Flash-deployment op 8× DGX Spark met TP8Deployment van DeepSeek-V4.1-Flash (763B MoE, FP8, DSpark k=5) op 8× NVIDIA DGX Spark (GB10) met TP8: twee configuraties (300K met Engram in het geheugen, 1M met Engram-on-disk), NCCL-optimalisatie, benchmarkresultaten en vergelijking met TP4.
september 2026 CV-benchmarkCV Inference Benchmark ExplorerVerken de inferentiebenchmarks voor computer vision op NVIDIA GPU's en Jetson-apparaten. Kies een GPU en een detectiemodel om te zien welke framerate het volhoudt, hoe die daalt naarmate er camera's bijkomen, en hoeveel camera's het draagt bij uw doel-FPS.
september 2026 LLM-deploymentDeepSeek-V4.1-Flash-deployment op 4× DGX SparkDeployment van DeepSeek-V4.1-Flash (763B MoE, FP8, DSpark k=5) op 4× NVIDIA DGX Spark (GB10) met tensorparallellisme: vLLM-buildketen, 7 patches voor SM 12.1a, Engram-on-disk, benchmarkresultaten en vergelijking met B300.
september 2026 LLM-benchmarkLLM Inference Benchmark ExplorerVerken de LLM-inferentiebenchmarks op NVIDIA DGX Spark, DGX B300, RTX PRO 6000 Blackwell en Jetson Thor. Filter op model, aantal parameters, apparaat, kwantisatie en gelijktijdigheid, en stel uw eigen prestatiedoelen in.
augustus 2026 ArchitectuurvergelijkingNVIDIA DGX B300 vs GB300 NVL72: vergelijking van clusterarchitecturenTechnische vergelijking van twee NVIDIA Blackwell Ultra-architecturen, DGX B300 en GB300 NVL72: systeemontwerp, schaalaanpak, netwerkfabric, stroom en koeling, en welke workloads bij welk platform passen.
augustus 2026 LLM-benchmarkKimi K3-inferentiebenchmark op DGX-B300Prestatie-evaluatie van Moonshot AI Kimi K3 (2.8T MoE, MXFP4) op NVIDIA DGX-B300 (8x Blackwell Ultra, TP=8): vLLM versus SGLang, direct versus DSpark speculatieve decodering, met capaciteitsplanning op basis van SLO's.
juli 2026 ClusterinstallatieInstallatiehandleiding voor een DGX Spark AI-cluster met 3 nodesInstallatie van een AI-cluster in ringtopologie (mesh) met 3 NVIDIA DGX Spark-nodes: management- en compute-netwerk, RoCEv2/RDMA, sparkrun-configuratie.
juli 2026 ClusterinstallatieInstallatiehandleiding voor een DGX Spark AI-cluster met 2 nodesInstallatie van een AI-cluster in point-to-point-topologie met 2 NVIDIA DGX Spark-nodes: management- en compute-netwerk, RoCEv2/RDMA, sparkrun-configuratie.
juli 2026 ClusterinstallatieInstallatiehandleiding voor een DGX Spark AI-cluster met 8 nodesInstallatie van een switchgebaseerd AI-cluster met 8 NVIDIA DGX Spark-nodes via een MikroTik CRS804 met 200G-breakout: management- en compute-netwerk, RoCEv2/RDMA, sparkrun en NAS.
juli 2026 ClusterinstallatieInstallatiehandleiding voor een DGX Spark AI-cluster met 4 nodesInstallatie van een switchgebaseerd AI-cluster met 4 NVIDIA DGX Spark-nodes via een MikroTik CRS812: management- en compute-netwerk, RoCEv2/RDMA, sparkrun en NAS.
juli 2026 LLM-schalingSchaling van Qwen3.6-27B op een DGX Spark-clusterSchalingsstudie over meerdere nodes van Qwen3.6-27B-NVFP4 op 1x, 2x en 4x NVIDIA DGX Spark (GB10): tensorparallellisme over 200GbE, capaciteitsplanning op basis van SLO's en advies voor de keuze tussen TP en replicatie bij deployment.
juli 2026 LLM-benchmarkQwen3.6-27B DGX Spark-benchmarkPrestatie-evaluatie van het Qwen3.6-27B-model op het NVIDIA DGX Spark (GB10)-platform met de kwantisatievarianten FP8, FP8-MTP, AWQ-MTP, NVFP4 en NVFP4-MTP.
juli 2026 BeslisgidsHandleiding voor lokaal LLM-gebruikIntegrale beslisgids voor lokaal LLM-gebruik: hardware (NVIDIA Jetson, RTX PRO, DGX Spark, DGX/HGX), modelkeuze, softwarestack en koppeling aan scenario's.
juni 2026Laatste wijzigingen
- 21 oktober 2026Nieuwe LLM-benchmarkMuse-Spark-Open-816B-A42B — DGX B300Muse-Spark-Open-816B-A42B op een DGX B300: NVFP4-gewichten geserveerd met vLLM op TP=4, met DSpark speculatieve decodering, gemeten tot 64 gelijktijdige verzoeken.
- 21 oktober 2026Nieuwe LLM-benchmarkNVIDIA-Nemotron-3.5-Super-VL-120B-A12B — DGX B300NVIDIA-Nemotron-3.5-Super-VL-120B-A12B op een DGX B300: BF16-gewichten geserveerd met vLLM op TP=2, met de ingebouwde MTP speculatieve decodering (k=3), gemeten tot 256 gelijktijdige verzoeken.
- 21 oktober 2026Nieuwe LLM-benchmarkStep-5-Preview — DGX B300Step-5-Preview op een DGX B300: FP8-gewichten geserveerd met vLLM op TP=4, met MTP speculatieve decodering (k=3), gemeten tot 256 gelijktijdige verzoeken.
- 21 oktober 2026Nieuwe LLM-benchmarkStep-5-Preview — DGX B300Step-5-Preview op een DGX B300 met expertparallelisme: FP8-gewichten geserveerd met vLLM met EP=4 over TP=4, met MTP speculatieve decodering (k=3), gemeten tot 256 gelijktijdige verzoeken.
- 21 oktober 2026Nieuwe LLM-benchmarkStep-5-Preview — DGX B300Step-5-Preview op een DGX B300 met dataparallellisme: FP8-gewichten geserveerd met vLLM op DP=4, met MTP speculatieve decodering (k=3), gemeten tot 256 gelijktijdige verzoeken.