AI-superdatamaskiner i rack-skala: Fra maskinvare til topologi-bevisst planlegging

title: "AI-superdatamaskiner i rack-skala: Fra maskinvare til topologi-bevisst planlegging" slug: "running-ai-workloads-on-rack-scale-supercomputers-from-hardware-to-topology-aware-scheduling" date: "2026-04-08" lang: "no" source: "https://developer.nvidia.com/blog/running-ai-workloads-on-rack-scale-supercomputers-from-hardware-to-topology-aware-scheduling/" category: "Enterprise AI" keywords:

• AI-arbeidsbelastninger
• superdatamaskiner i rack-skala
• NVIDIA Blackwell
• NVLink
• topologi-bevisst planlegging
• Slurm
• NVIDIA Mission Control
• Multi-Node NVLink (MNNVL)
• IMEX
• GPU-fabriker
• ressursforvaltning
• enterprise AI meta_description: "Avdekk hvordan NVIDIA Blackwell superdatamaskiner, kombinert med Mission Control, muliggjør topologi-bevisst planlegging for AI-arbeidsbelastninger, og optimaliserer ytelsen på tvers av NVLink- og IMEX-domener." image: "/images/articles/running-ai-workloads-on-rack-scale-supercomputers-from-hardware-to-topology-aware-scheduling.png" image_alt: "NVIDIA Grace Blackwell NVL72 rack som illustrerer NVLink- og IMEX-domener for AI-superdatamaskiner i rack-skala" quality_score: 94 content_score: 93 seo_score: 95 companies:
• NVIDIA schema_type: "NewsArticle" reading_time: 7 faq:
• question: "Hva er NVIDIA GB200- og GB300 NVL72-systemer, og hvilken rolle spiller Blackwell-arkitekturen?" answer: "NVIDIA GB200- og GB300 NVL72-systemer representerer en ny generasjon superdatamaskiner i rack-skala, spesifikt konstruert for krevende AI- og HPC-arbeidsbelastninger. Disse systemene utnytter den banebrytende NVIDIA Blackwell-arkitekturen, som integrerer massive GPU-fabriker med høy båndbredde-nettverk i en enkelt, tett koblet enhet. Blackwell-arkitekturen er designet for å levere enestående ytelse og effektivitet for trening og inferens, med avanserte NVLink-svitsjer, Multi-Node NVLink (MNNVL) for inter-GPU-kommunikasjon, og IMEX-kompatible beregningsbrett som muliggjør delt GPU-minne på tvers av flere noder innenfor racket. Dette integrerte designet har som mål å overvinne begrensningene ved tradisjonelle serverbundne GPU-distribusjoner, og gir en sømløs, skalerbar plattform for komplekse AI-modeller."
• question: "Hva er den primære utfordringen ved planlegging av AI-arbeidsbelastninger på disse avanserte superdatamaskinene i rack-skala?" answer: "Kjerneutfordringen ligger i det betydelige misforholdet mellom den intrikate, hierarkiske fysiske topologien til superdatamaskiner i rack-skala og de ofte forenklede abstraksjonene som presenteres av konvensjonelle arbeidsbelastningsplanleggere. Mens systemer som NVIDIA GB200/GB300 NVL72 kan skilte med sofistikerte NVLink-fabriker og IMEX-domener, oppfatter planleggere typisk en flat samling av GPU-er og noder. Dette kan føre til ineffektiv ressursallokering, suboptimal ytelse på grunn av dårlig datalokalitet eller kommunikasjonsflaskehalser, og økt operasjonell kompleksitet for plattformoperatører. Uten topologi-bevisst planlegging kan de iboende fordelene ved rack-skala integrering, som høy båndbredde-forbindelser, ikke utnyttes fullt ut for AI-arbeidsbelastninger."
• question: "Hvordan adresserer NVIDIA Mission Control de operasjonelle kompleksitetene ved AI-planlegging i rack-skala?" answer: "NVIDIA Mission Control fungerer som et avgjørende kontrollplan som bygger bro mellom den komplekse maskinvaretopologien til NVIDIA Grace Blackwell NVL72-systemer og behovene til plattformer for arbeidsbelastningsadministrasjon som Slurm og NVIDIA Run:ai. Den gir en egen, dyp forståelse av NVLink- og IMEX-domener, og oversetter fysiske maskinvarerelasjoner til logiske identifikatorer som planleggere kan tolke. Ved å sentralisere visningen av klyngens UUID-er og klikk-ID-er, muliggjør Mission Control nøyaktig, topologi-bevisst jobbplassering, sikrer riktig arbeidsbelastningsisolasjon, og garanterer konsistent ytelse ved å justere beregninger med den optimale underliggende maskinvarefabrikken. Dette forvandler effektivt rå infrastruktur til en 'effektiv, håndterbar AI-fabrikk'."
• question: "Forklar konseptene Cluster UUID og Clique ID i kontekst av NVLink-topologi og deres operasjonelle betydning." answer: "Klyngens UUID og Klikk-ID er systemnivåidentifikatorer som koder en GPU-s posisjon innenfor NVLink-fabrikken, noe som gjør den komplekse topologien forståelig for systemprogramvare og planleggere. Klyngens UUID tilsvarer NVLink-domenet, noe som indikerer at systemer og deres GPU-er tilhører samme fysiske rack og deler en felles NVLink-fabrikk. For Grace Blackwell NVL72 er denne UUID-en konsekvent over hele racket. Klikk-ID-en gir et finere skille, som tilsvarer en NVLink-partisjon. GPU-er som deler en klikk-ID tilhører samme logiske partisjon innenfor det domenet. Operasjonelt sett svarer klyngens UUID på hvilke GPU-er som fysisk deler et rack og kan kommunisere via NVLink, mens klikk-ID-en svarer på hvilke GPU-er som deler en NVLink-partisjon og er ment å kommunisere sammen for en spesifikk arbeidsbelastning, noe som muliggjør finere-gradert ressursallokering og ytelsesoptimalisering."
• question: "Hvordan forbedrer Slurms topologi-/blokk-plugin AI-arbeidsbelastningsplassering på NVL72-systemer?" answer: "Slurms topologi-/blokk-plugin er essensiell for effektiv AI-arbeidsbelastningsplassering på NVIDIA NVL72-systemer ved å gjøre Slurm oppmerksom på at ikke alle noder (eller GPU-er) er like når det gjelder tilkobling og ytelse. På Grace Blackwell NVL72-systemer kartlegger blokker av noder med lavere latens-forbindelser direkte til NVLink-partisjoner, som er grupper av GPU-er som deler en høy båndbredde NVLink-fabrikk. Ved å aktivere denne plugin-en og eksponere NVLink-partisjoner som 'blokker', får Slurm den nødvendige konteksten for å ta intelligente plasseringsbeslutninger. Dette sikrer at multi-GPU-jobber fortrinnsvis tildeles innenfor en enkelt NVLink-partisjon for å bevare MNNVL-ytelsen, og forhindrer ytelsesforringelse som kan oppstå hvis jobbene ble spredt tilfeldig over forskjellige, mindre tilkoblede segmenter av superdatamaskinen. Det muliggjør optimalisert ressursutnyttelse og forutsigbar ytelse for krevende AI-oppgaver."
• question: "Hva er Multi-Node NVLink (MNNVL), og hvordan legger IMEX til rette for det for delt GPU-minne?" answer: "Multi-Node NVLink (MNNVL) er en nøkkelteknologi som tillater GPU-er på tvers av forskjellige beregningsnoder innenfor et rack-skala system å kommunisere direkte med høy båndbredde og lav latens, noe som er essensielt for å skalere store AI-modeller. MNNVL muliggjør en delt minne-programmeringsmodell på tvers av disse distribuerte GPU-ene, slik at det fremstår for applikasjoner som en enkelt, massiv GPU-fabrikk. IMEX (Infiniband Memory Expansion) er den underliggende teknologien som legger til rette for MNNVL. IMEX-kompatible beregningsbrett er designet for å muliggjøre delt GPU-minne på tvers av noder ved å utnytte NVIDIAs avanserte nettverk. Mens MNNVL forenkler programmeringsmodellen for utviklere, spiller Mission Control en avgjørende rolle bak kulissene for å sikre at IMEX-tjenester blir korrekt klargjort og synkronisert med MNNVL-jobber, og garanterer at fordelene med delt GPU-minne blir fullt ut realisert uten å eksponere de underliggende kompleksitetene for sluttbrukeren."
• question: "Hva er de viktigste fordelene ved å implementere topologi-bevisst planlegging for AI-arbeidsbelastninger på superdatamaskiner i rack-skala?" answer: "Implementering av topologi-bevisst planlegging gir flere betydelige fordeler for AI-arbeidsbelastninger på superdatamaskiner i rack-skala. For det første sikrer det optimal ytelse ved intelligent å plassere jobber på GPU-er som har de høyeste båndbredde- og laveste latensforbindelsene, noe som minimerer kommunikasjonsoverhoder som er iboende i distribuert AI-trening. For det andre forbedrer det ressursutnyttelsen ved å forhindre ineffektiv spredning av jobber over ulike maskinvaresesgmenter, noe som fører til mer forutsigbar ytelse og bedre gjennomstrømning. For det tredje forenkler det administrasjonen for plattformoperatører ved å abstrahere maskinvarekompleksiteter samtidig som det gir klare isolasjonsgrenser mellom arbeidsbelastninger, noe som forbedrer systemstabilitet og sikkerhet. Til syvende og sist forvandler topologi-bevisst planlegging kompleks maskinvare til en svært effektiv, skalerbar og håndterbar 'AI-fabrikk', som akselererer forskning og utvikling samtidig som den reduserer den operasjonelle byrden."
• question: "Hvordan bidrar NVIDIA Topograph til automatisert oppdagelse og planlegging av superdatamaskintopologier?" answer: "NVIDIA Topograph er en kritisk komponent som automatiserer oppdagelsen av det intrikate NVLink- og sammenkoblingshierarkiet innenfor superdatamaskiner i rack-skala. Denne automatiserte oppdagelsen er essensiell fordi manuell konfigurering og vedlikehold av detaljert topologiinformasjon for store systemer ville vært utsatt for feil og svært tidkrevende. Topograph eksponerer denne detaljerte fabrikkinformasjonen til arbeidsbelastningsplanleggere, inkludert Slurm og Kubernetes (via NVIDIA DRA og ComputeDomains), samt NVIDIA Run:ai. Ved å gi planleggere en nøyaktig og sanntidsvisning av maskinvaretopologien, gjør Topograph dem i stand til å ta intelligente, automatiserte plasseringsbeslutninger. Dette sikrer at AI-arbeidsbelastninger blir planlagt på en topologi-bevisst måte fra starten av, noe som optimaliserer ytelse, ressursallokering og generell systemeffektivitet, som er avgjørende for å bygge og drifte skalerbare AI-fabriker."

# AI-superdatamaskiner i rack-skala: Fra maskinvare til topologi-bevisst planlegging

![Dekorativt bilde.](https://developer-blogs.nvidia.com/wp-content/uploads/2026/04/gtc25-tech-blog-dgx-gb300-1920x1080-1-1024x576.png)

Landskapet for kunstig intelligens utvikler seg raskt og krever stadig kraftigere og mer effektive beregningsinfrastrukturer. I forkant av denne utviklingen er AI-superdatamaskiner i rack-skala, designet for å akselerere de mest komplekse AI- og høyytelsesberegnings (HPC) arbeidsbelastningene. NVIDIAs GB200 NVL72- og GB300 NVL72-systemer, bygget på den innovative Blackwell-arkitekturen, representerer et betydelig sprang i denne retningen, og pakker enorme GPU-fabriker og nettverk med høy båndbredde inn i sammenhengende, kraftige enheter.

Imidlertid medfører distribusjon av så sofistikert maskinvare en unik utfordring: Hvordan oversetter man denne intrikate fysiske topologien til en håndterbar, ytelsesrik og tilgjengelig ressurs for AI-utviklere og forskere? Det fundamentale misforholdet mellom den hierarkiske naturen til maskinvare i rack-skala og de ofte flate abstraksjonene til tradisjonelle arbeidsbelastningsplanleggere skaper en flaskehals. Det er nettopp her en validert programvarestakk som NVIDIA Mission Control kommer inn, og bygger bro for å transformere rå beregningskraft til en sømløs, topologi-bevisst AI-fabrikk.

## Neste generasjons AI-superdatabehandling i rack-skala med NVIDIA Blackwell

NVIDIA GB200 NVL72- og GB300 NVL72-systemer, drevet av den banebrytende NVIDIA Blackwell-arkitekturen, er ikke bare samlinger av kraftige GPU-er; de er integrerte superdatamaskiner i rack-skala, konstruert for fremtidens AI. Hvert system har 18 tett koblede beregningsbrett, som danner en massiv GPU-fabrikk koblet til av avanserte NVLink-svitsjer. Disse systemene støtter NVIDIA Multi-Node NVLink (MNNVL), som muliggjør ultrahøyhastighetskommunikasjon innenfor racket, og inkluderer IMEX-kompatible beregningsbrett som muliggjør delt GPU-minne på tvers av noder. Denne arkitekturen gir et uovertruffent grunnlag for trening og distribusjon av store AI-modeller, og flytter grensene for hva som er mulig innen felt som spenner fra vitenskapelig oppdagelse til enterprise AI-applikasjoner.

Designfilosofien bak disse Blackwell-baserte systemene fokuserer på å maksimere datagjennomstrømning og minimere latens mellom sammenkoblede [GPU-er](/no/gpus). Dette oppnås gjennom en tett integrert maskinvarestakk der hver komponent er optimalisert for kollektiv ytelse, noe som sikrer at AI-arbeidsbelastninger kan skaleres effektivt uten å støte på kommunikasjonsflaskehalser.

## Brobygning mellom maskinvaretopologi og AI-planleggingsabstraksjoner

For AI-arkitekter og HPC-plattformoperatører er den virkelige utfordringen ikke bare å anskaffe og sette sammen denne avanserte maskinvaren, men heller å operasjonalisere den til en 'sikker, ytelsesrik og brukervennlig' ressurs. Tradisjonelle planleggere opererer ofte under antagelsen om en homogen, flat samling av beregningsressurser. Dette paradigmet er uegnet for superdatamaskiner i rack-skala, hvor det hierarkiske og topologi-sensitive designet av NVLink-fabriker og IMEX-domener er avgjørende for ytelsen. Uten riktig integrering kan planleggere utilsiktet plassere oppgaver på suboptimale steder, noe som fører til redusert effektivitet og uforutsigbar ytelse.

Dette er gapet NVIDIA Mission Control er konstruert for å fylle. Som et robust kontrollplan i rack-skala for NVIDIA Grace Blackwell NVL72-systemer, har Mission Control en egen forståelse av de underliggende NVIDIA NVLink- og NVIDIA IMEX-domenene. Denne dype bevisstheten gjør det mulig å intelligent integrere med populære plattformer for arbeidsbelastningsadministrasjon som Slurm og NVIDIA Run:ai. Ved å oversette komplekse maskinvaretopologier til handlingsrettet planleggingsintelligens, sikrer Mission Control at de avanserte funksjonene i Blackwell-arkitekturen blir fullt ut utnyttet, og transformerer en sofistikert maskinvaresamling til en virkelig operasjonell AI-fabrikk. Denne funksjonen vil utvides til den kommende NVIDIA Vera Rubin-plattformen, inkludert NVIDIA Rubin NVL8, og videre befeste en konsekvent tilnærming til høyytelses AI-infrastruktur.

## Dekoding av NVLink-domener og -partisjoner for AI-arbeidsbelastninger

Kjernen i topologi-bevisst planlegging for Blackwell-systemer er konseptene NVLink-domener og -partisjoner, som eksponeres gjennom systemnivåidentifikatorer: **klyngens UUID** og **klikk-ID**. Disse identifikatorene er avgjørende fordi de gir et logisk kart over den fysiske NVLink-fabrikken, slik at systemprogramvare og planleggere kan resonnere om GPU-ens posisjon og tilkobling.

Kartleggingen er enkel, men kraftig:
-   **Klyngens UUID** tilsvarer **NVLink-domenet**. En delt klyngens UUID betyr at systemer – og deres GPU-er – tilhører det samme overordnede NVLink-domenet og er koblet til av en felles NVLink-fabrikk. For Grace Blackwell NVL72 er denne UUID-en konsekvent over hele racket, noe som indikerer fysisk nærhet og delt høy båndbredde-tilkobling.
-   **Klikk-ID** tilsvarer **NVLink-partisjonen**. Klikk-ID-en gir et finere-gradert skille, og identifiserer grupper av GPU-er som deler en NVLink-partisjon innenfor et større domene. Når et rack er logisk segmentert i flere NVLink-partisjoner, forblir klyngens UUID den samme, men klikk-ID-ene skiller disse mindre, isolerte høy båndbredde-gruppene.

Dette skillet er avgjørende fra et operasjonelt synspunkt:
-   **Klyngens UUID** svarer på spørsmålet: *Hvilke GPU-er deler fysisk et rack og er i stand til NVLink-kommunikasjon med høyeste hastigheter?*
-   **Klikk-ID** svarer: *Hvilke GPU-er deler en NVLink-partisjon og er ment å kommunisere sammen for en gitt arbeidsbelastning eller tjenestenivå, og sikrer optimal ytelse for svært parallelle oppgaver?*

Disse identifikatorene er bindevevet som gjør at plattformer som Slurm, Kubernetes og NVIDIA Run:ai kan justere jobbplassering, isolasjon og ytelsesgarantier med den faktiske strukturen til NVLink-fabrikken, alt uten å eksponere den underliggende maskinvarekompleksiteten direkte for sluttbrukere. NVIDIA Mission Control gir en sentralisert visning av disse identifikatorene, noe som strømlinjeformer administrasjonen.

| Maskinvarekonsept      | Programvareidentifikator | Beskrivelse                                                                                |
| :-------------------- | :------------------ | :----------------------------------------------------------------------------------------- |
| NVLink-domene         | Klyngens UUID        | Identifiserer GPU-er som fysisk deler et rack, og som er i stand til NVLink-kommunikasjon på tvers av rack.      |
| NVLink-partisjon      | Klikk-ID           | Skiller GPU-er som er ment å kommunisere sammen innenfor et NVLink-domene for en spesifikk arbeidsbelastning eller et tjenestenivå. |

## Topologi-bevisst AI-planlegging med Slurm

For arbeidsbelastninger med flere noder som kjører på Blackwell-baserte NVL72-systemer, **blir plassering like kritisk som selve antallet tildelte GPU-er**. En AI-treningsjobb som krever 16 GPU-er, vil for eksempel yte svært forskjellig hvis den spres tilfeldig over flere mindre tilkoblede noder sammenlignet med å være begrenset innenfor en enkelt NVLink-fabrikk med høy båndbredde. Det er her Slurms **topologi-/blokk-plugin** viser seg å være uunnværlig, slik at Slurm kan gjenkjenne de nyanserte tilkoblingsforskjellene mellom noder.

På Grace Blackwell NVL72-systemer kartlegger blokker av noder med lavere latens-forbindelser direkte til **NVLink-partisjoner** – grupper av GPU-er som er forent av en dedikert NVLink-fabrikk med høy båndbredde. Ved å aktivere topologi-/blokk-plugin-en og eksponere disse NVLink-partisjonene som distinkte blokker, får Slurm den kontekstuelle intelligensen som kreves for å ta overlegne planleggingsbeslutninger. Som standard blir jobber intelligent plassert innenfor en enkelt NVLink-partisjon (eller blokk), og bevarer dermed den kritiske Multi-Node NVLink (MNNVL)-ytelsen. Mens større jobber fortsatt kan strekke seg over flere blokker om nødvendig, gjør denne tilnærmingen ytelseskompromissene eksplisitte, snarere enn utilsiktede.

I praksis tillater dette fleksible distribusjonsstrategier:
-   **Én blokk/node-gruppe per rack**: Denne konfigurasjonen muliggjør Slurm Quality of Service (QoS) for å administrere tilgang til den delte, rack-brede partisjonen, ideell for konsolidert ressursadministrasjon.
-   **Flere blokker/node-grupper per rack**: Denne tilnærmingen er perfekt for å tilby mindre, isolerte GPU-pools med høy båndbredde. Her kartlegger hver blokk/node-gruppe til en dedikert Slurm-partisjon, og gir effektivt et distinkt tjenestenivå. Brukere kan deretter utnytte en spesifikk Slurm-partisjon, og automatisk lande jobbene sine innenfor den tiltenkte NVLink-partisjonen uten å måtte forstå de underliggende fabrikkintrikatene. Denne avanserte ressursadministrasjonen er avgjørende for organisasjoner som ønsker å skalere AI-initiativene sine, i tråd med det bredere målet om [skalering av AI for alle](/no/scaling-ai-for-everyone).

## Optimalisering av MNNVL-arbeidsbelastninger med IMEX og Mission Control

Multi-Node NVIDIA CUDA-arbeidsbelastninger er ofte avhengig av MNNVL for å oppnå maksimal ytelse, noe som gjør at GPU-er på forskjellige beregningsbrett kan delta i en sammenhengende, delt minne-programmeringsmodell. Fra en applikasjonsutviklers perspektiv kan det virke villedende enkelt å utnytte MNNVL, men den underliggende orkestreringen er kompleks.

Det er her NVIDIA Mission Control spiller en avgjørende rolle. Den sikrer at kritiske komponenter justeres perfekt når MNNVL-jobber kjøres med Slurm. Spesifikt garanterer Mission Control at IMEX-tjenesten – som muliggjør det delte GPU-minnet – kjører på *det eksakte* settet av beregningsbrett som deltar i MNNVL-jobben. Den sikrer også at de nødvendige NVSwitchene er riktig konfigurert for å etablere og opprettholde disse høy båndbredde MNNVL-forbindelsene. Denne koordineringen er avgjørende for å gi konsistent, forutsigbar ytelse over hele racket. Uten Mission Controls intelligente orkestrering ville fordelene med MNNVL og IMEX være utfordrende å realisere og administrere i stor skala, noe som understreker NVIDIAs forpliktelse til å levere komplette løsninger for avanserte [GPU-er](/no/gpus) og deres økosystemer.

## Mot automatisert, skalerbar AI-infrastruktur

Integreringen av NVIDIAs Blackwell-arkitektur med sofistikerte programvarelag som Mission Control og Topograph markerer et betydelig skritt mot å skape virkelig automatisert og skalerbar AI-infrastruktur. NVIDIA Topograph automatiserer oppdagelsen av det komplekse NVLink- og sammenkoblingshierarkiet, og eksponerer denne viktige informasjonen til planleggere som Slurm, Kubernetes (via NVIDIA DRA og ComputeDomains) og NVIDIA Run:ai. Dette eliminerer det manuelle arbeidet med å administrere topologi, slik at organisasjoner kan distribuere og skalere AI-arbeidsbelastninger med uovertruffen effektivitet.

Ved å gi planleggere en dyp, sanntidsforståelse av maskinvaretopologien, sikrer denne integrerte tilnærmingen at AI-applikasjoner kjører på de optimale ressursene, minimerer kommunikasjonslatens og maksimerer gjennomstrømning. Resultatet er en svært ytelsesrik, robust og brukervennlig AI-fabrikk som er i stand til å håndtere de mest krevende AI-trenings- og inferensoppgavene. Etter hvert som AI-modeller fortsetter å vokse i kompleksitet og størrelse, vil evnen til effektivt å administrere og planlegge arbeidsbelastninger på superdatamaskiner i rack-skala være avgjørende for å drive innovasjon og opprettholde konkurransefortrinn. Denne helhetlige strategien underbygger fremtiden for enterprise AI, og forvandler rå beregningskraft til intelligent, responsiv og svært effektiv AI-superdatabehandling.