title: "AI суперкомпютри от мащаба на рак: От хардуер до планиране, съобразено с топологията" slug: "running-ai-workloads-on-rack-scale-supercomputers-from-hardware-to-topology-aware-scheduling" date: "2026-04-08" lang: "bg" source: "https://developer.nvidia.com/blog/running-ai-workloads-on-rack-scale-supercomputers-from-hardware-to-topology-aware-scheduling/" category: "Корпоративен AI" keywords:

• AI натоварвания
• суперкомпютри от мащаба на рак
• NVIDIA Blackwell
• NVLink
• планиране, съобразено с топологията
• Slurm
• NVIDIA Mission Control
• Multi-Node NVLink (MNNVL)
• IMEX
• GPU мрежи
• управление на ресурси
• корпоративен AI meta_description: "Разберете как суперкомпютрите NVIDIA Blackwell, комбинирани с Mission Control, позволяват планиране, съобразено с топологията за AI натоварвания, оптимизирайки производителността в NVLink и IMEX домейни." image: "/images/articles/running-ai-workloads-on-rack-scale-supercomputers-from-hardware-to-topology-aware-scheduling.png" image_alt: "NVIDIA Grace Blackwell NVL72 рак, илюстриращ NVLink и IMEX домейни за AI суперкомпютри от мащаба на рак" quality_score: 94 content_score: 93 seo_score: 95 companies:
• NVIDIA schema_type: "NewsArticle" reading_time: 7 faq:
• question: "Какво представляват системите NVIDIA GB200 и GB300 NVL72 и каква роля играе архитектурата Blackwell?" answer: "Системите NVIDIA GB200 и GB300 NVL72 представляват ново поколение суперкомпютри от мащаба на рак, специално проектирани за взискателни AI и HPC натоварвания. Тези системи използват новаторската архитектура NVIDIA Blackwell, която интегрира масивни GPU мрежи с мрежи с висока пропускателна способност в една, тясно свързана единица. Архитектурата Blackwell е проектирана да осигури безпрецедентна производителност и ефективност за обучение и извод, включваща усъвършенствани NVLink комутатори, Multi-Node NVLink (MNNVL) за комуникация между GPU и IMEX-способни изчислителни тави, които улесняват споделената GPU памет между множество възли в рака. Този интегриран дизайн има за цел да преодолее ограниченията на традиционните внедрявания на GPU, базирани на сървъри, осигурявайки безпроблемна, мащабируема платформа за сложни AI модели."
• question: "Кое е основното предизвикателство при планирането на AI натоварвания върху тези модерни суперкомпютри от мащаба на рак?" answer: "Основното предизвикателство се крие в значителното несъответствие между сложната, йерархична физическа топология на суперкомпютрите от мащаба на рак и често опростените абстракции, представяни от конвенционалните планировчици на натоварвания. Докато системи като NVIDIA GB200/GB300 NVL72 разполагат със сложни NVLink мрежи и IMEX домейни, планировчиците обикновено възприемат плосък набор от GPU и възли. Това може да доведе до неефективно разпределение на ресурсите, под-оптимална производителност поради лоша локализация на данните или тесни места в комуникацията и повишена оперативна сложност за операторите на платформи. Без планиране, съобразено с топологията, присъщите предимства на интеграцията от мащаба на рак, като високоскоростни връзки, не могат да бъдат напълно използвани за AI натоварвания."
• question: "Как NVIDIA Mission Control се справя с оперативните сложности на AI планирането в мащаб на рак?" answer: "NVIDIA Mission Control действа като ключов контролен панел, който преодолява пропастта между сложната хардуерна топология на системите NVIDIA Grace Blackwell NVL72 и нуждите на платформите за управление на натоварвания като Slurm и NVIDIA Run:ai. Той осигурява родно, дълбоко разбиране на NVLink и IMEX домейни, превеждайки физическите хардуерни връзки в логически идентификатори, които планировчиците могат да интерпретират. Чрез централизиране на изгледа на UUID на клъстери и ID на клики, Mission Control позволява прецизно, съобразено с топологията позициониране на задачи, осигурява правилна изолация на натоварванията и гарантира постоянна производителност чрез съгласуване на изчисленията с оптималната базова хардуерна мрежа. Това ефективно трансформира суровата инфраструктура в ефективна, управляема AI фабрика."
• question: "Обяснете концепциите за Cluster UUID и Clique ID в контекста на NVLink топологията и тяхното оперативно значение." answer: "Cluster UUID и Clique ID са идентификатори на системно ниво, които кодират позицията на GPU в NVLink мрежата, правейки сложната топология разбираема за системен софтуер и планировчици. Cluster UUID съответства на NVLink домейна, показвайки, че системите и техните GPU принадлежат към един и същ физически рак и споделят обща NVLink мрежа. За Grace Blackwell NVL72, този UUID е последователен в целия рак. Clique ID осигурява по-фино разграничение, съответстващо на NVLink дял. GPU, които споделят Clique ID, принадлежат към един и същ логически дял в този домейн. Оперативно, Cluster UUID отговаря на въпроса кои GPU физически споделят рак и могат да комуникират чрез NVLink, докато Clique ID отговаря на въпроса кои GPU споделят NVLink дял и са предназначени да комуникират заедно за конкретно натоварване, което позволява по-фино разпределение на ресурсите и оптимизация на производителността."
• question: "Как плъгинът topology/block на Slurm подобрява разполагането на AI натоварвания върху NVL72 системи?" answer: "Плъгинът topology/block на Slurm е от съществено значение за ефективното разполагане на AI натоварвания върху системите NVIDIA NVL72, като уведомява Slurm, че не всички възли (или GPU) са равни по отношение на свързаност и производителност. В системите Grace Blackwell NVL72, блоковете от възли с връзки с по-ниска латентност се съпоставят директно с NVLink дялове, които са групи от GPU, споделящи високоскоростна NVLink мрежа. Чрез активирането на този плъгин и излагането на NVLink дялове като 'блокове', Slurm придобива необходимия контекст за вземане на интелигентни решения за разполагане. Това гарантира, че задачите с множество GPU се разпределят преференциално в един NVLink дял, за да се запази производителността на MNNVL, предотвратявайки намаляване на производителността, което може да възникне, ако задачите са разпръснати безразборно в различни, по-малко свързани сегменти на суперкомпютъра. Това позволява оптимизирано използване на ресурсите и предвидима производителност за взискателни AI задачи."
• question: "Какво представлява Multi-Node NVLink (MNNVL) и как IMEX го улеснява за споделена GPU памет?" answer: "Multi-Node NVLink (MNNVL) е ключова технология, която позволява на GPU от различни изчислителни възли в система от мащаба на рак да комуникират директно с висока пропускателна способност и ниска латентност, което е от съществено значение за мащабиране на големи AI модели. MNNVL позволява програмен модел с обща памет между тези разпределени GPU, правейки го да изглежда за приложенията като една, масивна GPU мрежа. IMEX (Infiniband Memory Expansion) е основната технология, която улеснява MNNVL. IMEX-способни изчислителни тави са проектирани да позволят споделена GPU памет между възли, като използват усъвършенстваните мрежи на NVIDIA. Докато MNNVL опростява програмния модел за разработчиците, Mission Control играе решаваща роля зад кулисите, за да гарантира, че IMEX услугите са правилно осигурени и синхронизирани с MNNVL задачите, гарантирайки, че ползите от споделената GPU памет са напълно реализирани, без да се излагат основните сложности на крайния потребител."
• question: "Кои са основните предимства от въвеждането на планиране, съобразено с топологията, за AI натоварвания върху суперкомпютри от мащаба на рак?" answer: "Въвеждането на планиране, съобразено с топологията, предлага няколко значителни предимства за AI натоварвания върху суперкомпютри от мащаба на рак. Първо, то осигурява оптимална производителност чрез интелигентно разполагане на задачи върху GPU, които имат най-висока пропускателна способност и най-ниска латентност на връзките, минимизирайки комуникационните разходи, присъщи на разпределеното обучение на AI. Второ, то подобрява използването на ресурсите, като предотвратява неефективното разпръскване на задачи в различни хардуерни сегменти, което води до по-предвидима производителност и по-добра пропускателна способност. Трето, то опростява управлението за операторите на платформи, като абстрахира хардуерните сложности, като същевременно предоставя ясни граници на изолация между натоварванията, подобрявайки стабилността и сигурността на системата. В крайна сметка, планирането, съобразено с топологията, трансформира сложния хардуер във високоефективна, мащабируема и управляема 'AI фабрика', ускорявайки изследванията и развитието, като същевременно намалява оперативната тежест."
• question: "Как NVIDIA Topograph допринася за автоматизираното откриване и планиране на топологии на суперкомпютри?" answer: "NVIDIA Topograph е критичен компонент, който автоматизира откриването на сложната NVLink и междусвързана йерархия в суперкомпютри от мащаба на рак. Това автоматизирано откриване е от съществено значение, защото ръчното конфигуриране и поддържане на детайлна информация за топологията за широкомащабни системи би било податливо на грешки и изключително отнемащо време. Topograph излага тази подробна информация за мрежата на планировчиците на натоварвания, включително Slurm и Kubernetes (чрез NVIDIA DRA и ComputeDomains), както и NVIDIA Run:ai. Чрез предоставянето на планировчиците на точен и в реално време изглед на хардуерната топология, Topograph им позволява да вземат интелигентни, автоматизирани решения за разполагане. Това гарантира, че AI натоварванията се планират по начин, съобразен с топологията, от самото начало, оптимизирайки производителността, разпределението на ресурсите и цялостната ефективност на системата, което е от решаващо значение за изграждането и експлоатацията на мащабируеми AI фабрики."

AI суперкомпютри от мащаба на рак: От хардуер до планиране, съобразено с топологията

Пейзажът на изкуствения интелект бързо се развива, изисквайки все по-мощна и ефективна изчислителна инфраструктура. В челните редици на тази еволюция са суперкомпютрите от мащаба на рак, проектирани да ускорят най-сложните AI и високопроизводителни изчислителни (HPC) натоварвания. Системите GB200 NVL72 и GB300 NVL72 на NVIDIA, изградени върху иновативната архитектура Blackwell, представляват значителен скок в тази посока, опаковайки огромни GPU мрежи и високоскоростни мрежи в кохезивни, мощни единици.

Въпреки това, внедряването на такъв сложен хардуер представлява уникално предизвикателство: как да превърнете тази сложна физическа топология в управляем, производителен и достъпен ресурс за AI разработчици и изследователи? Фундаменталното несъответствие между йерархичния характер на хардуера от мащаба на рак и често плоските абстракции на традиционните планировчици на натоварвания създава тясно място. Именно тук се намесва валидиран софтуерен стек като NVIDIA Mission Control, преодолявайки пропастта, за да превърне суровата изчислителна мощност в безпроблемна, съобразена с топологията AI фабрика.

Следващо поколение AI суперкомпютри от мащаба на рак с NVIDIA Blackwell

Системите NVIDIA GB200 NVL72 и GB300 NVL72, задвижвани от авангардната архитектура NVIDIA Blackwell, не са просто колекции от мощни GPU; те са интегрирани суперкомпютри от мащаба на рак, проектирани за бъдещето на AI. Всяка система включва 18 тясно свързани изчислителни тави, образуващи масивна GPU мрежа, свързана с усъвършенствани NVLink комутатори. Тези системи поддържат NVIDIA Multi-Node NVLink (MNNVL), улеснявайки комуникация с ултрависока скорост в рака, и включват IMEX-способни изчислителни тави, които позволяват споделена GPU памет между възли. Тази архитектура осигурява несравнима основа за обучение и внедряване на широкомащабни AI модели, разширявайки границите на възможното в области, вариращи от научни открития до корпоративни AI приложения.

Философията на дизайна зад тези системи, базирани на Blackwell, се фокусира върху максимизиране на пропускателната способност на данните и минимизиране на латентността между свързани gpus. Това се постига чрез плътно интегриран хардуерен стек, където всеки компонент е оптимизиран за колективна производителност, гарантирайки, че AI натоварванията могат да се мащабират ефективно, без да се сблъскват с тесни места в комуникацията.

Свързване на хардуерната топология с AI абстракциите на планировчика

За AI архитекти и HPC оператори на платформи, истинското предизвикателство не е просто придобиването и сглобяването на този усъвършенстван хардуер, а по-скоро неговото оперативно въвеждане като "безопасен, производителен и лесен за използване" ресурс. Традиционните планировчици често работят под предположението за хомогенен, плосък набор от изчислителни ресурси. Тази парадигма е неподходяща за суперкомпютри от мащаба на рак, където йерархичният и чувствителен към топологията дизайн на NVLink мрежите и IMEX домейните са критични за производителността. Без правилна интеграция, планировчиците могат неволно да поставят задачи на неоптимални места, което води до намалена ефективност и непредсказуема производителност.

Това е пролуката, която NVIDIA Mission Control е проектиран да запълни. Като стабилен контролен панел от мащаба на рак за системите NVIDIA Grace Blackwell NVL72, Mission Control притежава родно разбиране на основните NVIDIA NVLink и NVIDIA IMEX домейни. Тази дълбока осведоменост му позволява интелигентно да се интегрира с популярни платформи за управление на натоварвания като Slurm и NVIDIA Run:ai. Чрез превеждане на сложни хардуерни топологии в приложима информация за планиране, Mission Control гарантира, че усъвършенстваните възможности на архитектурата Blackwell са напълно използвани, трансформирайки сложен хардуерен модул в истинска оперативна AI фабрика. Тази възможност ще се разпростре и върху предстоящата платформа NVIDIA Vera Rubin, включително NVIDIA Rubin NVL8, затвърждавайки допълнително последователния подход към високопроизводителната AI инфраструктура.

Декодиране на NVLink домейни и дялове за AI натоварвания

В основата на планирането, съобразено с топологията, за системите Blackwell са концепциите за NVLink домейни и дялове, които се излагат чрез системни идентификатори: cluster UUID и clique ID. Тези идентификатори са от решаващо значение, защото предоставят логическа карта на физическата NVLink мрежа, позволявайки на системния софтуер и планировчиците да разсъждават за позицията и свързаността на GPU.

Съпоставянето е просто, но мощно:

• Cluster UUID съответства на NVLink домейна. Споделен Cluster UUID означава, че системите — и техните GPU — принадлежат към един и същ общ NVLink домейн и са свързани от обща NVLink мрежа. За Grace Blackwell NVL72, този UUID е последователен в целия рак, което показва физическа близост и споделена високоскоростна свързаност.
• Clique ID съответства на NVLink дяла. Clique ID предлага по-фино разграничение, идентифицирайки групи от GPU, които споделят NVLink дял в по-голям домейн. Когато един рак е логически сегментиран на множество NVLink дялове, Cluster UUID остава същият, но Clique ID разграничават тези по-малки, изолирани групи с висока пропускателна способност.

Тази разлика е жизненоважна от оперативна гледна точка:

• Cluster UUID отговаря на въпроса: Кои GPU физически споделят рак и са способни на NVLink комуникация с най-високи скорости?
• Clique ID отговаря на въпроса: Кои GPU споделят NVLink дял и са предназначени да комуникират заедно за дадено натоварване или ниво на обслужване, осигурявайки оптимална производителност за високопаралелни задачи?

Тези идентификатори са свързващата тъкан, позволяваща на платформи като Slurm, Kubernetes и NVIDIA Run:ai да съгласуват разполагането на задачи, изолацията и гаранциите за производителност с действителната структура на NVLink мрежата, всичко това без пряко излагане на основната хардуерна сложност на крайните потребители. NVIDIA Mission Control предоставя централизиран изглед на тези идентификатори, рационализирайки управлението.

AI планиране, съобразено с топологията, със Slurm

За натоварвания с множество възли, работещи на базирани на Blackwell системи NVL72, разполагането става толкова критично, колкото и броят на разпределените GPU. Задача за обучение на AI, изискваща 16 GPU например, ще работи коренно различно, ако е разпръсната безразборно между множество по-малко свързани възли, в сравнение с това, ако е ограничена в една високоскоростна NVLink мрежа. Именно тук плъгинът topology/block на Slurm се оказва незаменим, позволявайки на Slurm да разпознава нюансираните разлики в свързаността между възлите.

При системите Grace Blackwell NVL72, блокове от възли, характеризиращи се с връзки с по-ниска латентност, директно съответстват на NVLink дяловете — групи от GPU, обединени от специализирана, високоскоростна NVLink мрежа. Чрез активирането на плъгина topology/block и излагането на тези NVLink дялове като отделни блокове, Slurm придобива контекстуалната интелигентност, необходима за вземане на превъзходни решения за планиране. По подразбиране, задачите се разполагат интелигентно в рамките на един NVLink дял (или блок), като по този начин се запазва критичната производителност на Multi-Node NVLink (MNNVL). Докато по-големите задачи все още могат да обхващат множество блокове, ако е необходимо, този подход прави компромисите в производителността явни, вместо случайни.

На практика това позволява гъвкави стратегии за внедряване:

• Един блок/група възли на рак: Тази конфигурация позволява на Slurm Quality of Service (QoS) да управлява достъпа до споделения дял в целия рак, идеален за консолидирано управление на ресурсите.
• Множество блокове/групи възли на рак: Този подход е идеален за предлагане на по-малки, изолирани, високоскоростни GPU пулове. Тук всеки блок/група възли се съпоставя със специализиран Slurm дял, ефективно осигурявайки отделно ниво на обслужване. Потребителите след това могат да използват конкретен Slurm дял, като автоматично разполагат своите задачи в предвидения NVLink дял, без да е необходимо да разбират основните тънкости на мрежата. Това усъвършенствано управление на ресурсите е от решаващо значение за организациите, които искат да мащабират своите AI инициативи, съобразявайки се с по-широката цел за мащабиране на AI за всички.

Оптимизиране на MNNVL натоварвания с IMEX и Mission Control

Multi-Node NVIDIA CUDA натоварванията често разчитат на MNNVL за постигане на максимална производителност, което позволява на GPU на различни изчислителни тави да участват в сплотен програмен модел с обща памет. От гледна точка на разработчик на приложения, използването на MNNVL може да изглежда привидно просто, но основната оркестрация е сложна.

Именно тук NVIDIA Mission Control играе ключова роля. Той гарантира, че критичните компоненти се подравняват перфектно при изпълнение на MNNVL задачи със Slurm. По-конкретно, Mission Control гарантира, че IMEX услугата — която улеснява споделената GPU памет — работи на точния набор от изчислителни тави, участващи в MNNVL задачата. Той също така гарантира, че необходимите NVSwitches са правилно конфигурирани за установяване и поддържане на тези високоскоростни MNNVL връзки. Тази координация е жизненоважна за осигуряване на постоянна, предвидима производителност в целия рак. Без интелигентната оркестрация на Mission Control, ползите от MNNVL и IMEX биха били трудни за реализиране и управление в мащаб, подчертавайки ангажимента на NVIDIA да предоставя цялостни решения за усъвършенствани gpus и техните екосистеми.

Към автоматизирана, мащабируема AI инфраструктура

Интеграцията на архитектурата Blackwell на NVIDIA със сложни софтуерни слоеве като Mission Control и Topograph бележи значителна стъпка към създаването на наистина автоматизирана и мащабируема AI инфраструктура. NVIDIA Topograph автоматизира откриването на сложната NVLink и междусвързана йерархия, излагайки тази жизненоважна информация на планировчици като Slurm, Kubernetes (чрез NVIDIA DRA и ComputeDomains) и NVIDIA Run:ai. Това елиминира ръчната работа по управление на топологията, което позволява на организациите да внедряват и мащабират AI натоварвания с безпрецедентна ефективност.

Чрез предоставянето на планировчиците на дълбоко, в реално време разбиране на хардуерната топология, този интегриран подход гарантира, че AI приложенията работят на оптималните ресурси, минимизирайки латентността на комуникацията и максимизирайки пропускателната способност. Резултатът е високопроизводителна, устойчива и лесна за управление AI фабрика, способна да се справя с най-взискателните AI задачи за обучение и извод. Тъй като AI моделите продължават да нарастват по сложност и размер, способността за ефективно управление и планиране на натоварвания върху суперкомпютри от мащаба на рак ще бъде от първостепенно значение за стимулиране на иновациите и поддържане на конкурентно предимство. Тази цялостна стратегия е в основата на бъдещето на корпоративния AI, трансформирайки суровата изчислителна мощност в интелигентна, отзивчива и високоефективна AI суперкомпютърна система.