Kompyuta Kuu za AI za Ukubwa wa Raki: Kutoka Vifaa Hadi Ratiba Inayojali Topolojia

Mazingira ya akili bandia yanabadilika kwa kasi, yakihitaji miundombinu ya kompyuta yenye nguvu na ufanisi zaidi. Katika mstari wa mbele wa mageuzi haya ni kompyuta kuu za ukubwa wa raki, zilizoundwa kuharakisha mizigo ya kazi tata zaidi ya AI na kompyuta zenye utendaji wa hali ya juu (HPC). Mifumo ya NVIDIA GB200 NVL72 na GB300 NVL72, iliyojengwa juu ya usanifu bunifu wa Blackwell, inawakilisha hatua kubwa katika mwelekeo huu, ikiunganisha vitambaa vikubwa vya GPU na mitandao ya kasi ya juu kuwa vitengo thabiti na vyenye nguvu.

Hata hivyo, kupeleka vifaa hivyo vya kisasa huleta changamoto ya kipekee: unawezaje kutafsiri topolojia hii tata ya kimwili kuwa rasilimali inayoweza kusimamiwa, yenye utendaji, na kupatikana kwa watengenezaji na watafiti wa AI? Kutolingana kwa msingi kati ya asili ya kimaeneo ya vifaa vya ukubwa wa raki na utoaji tambarare mara nyingi wa ratiba za kawaida za kazi huunda kizuizi. Hapa ndipo mkusanyiko wa programu uliothibitishwa kama NVIDIA Mission Control unapoingia, ukiziba pengo kubadilisha nguvu ghafi ya kompyuta kuwa kiwanda cha AI kisicho na mshono, kinachojali topolojia.

Kompyuta Kuu ya AI ya Kizazi Kijacho ya Ukubwa wa Raki na NVIDIA Blackwell

Mifumo ya NVIDIA GB200 NVL72 na GB300 NVL72, inayotumia usanifu wa hali ya juu wa NVIDIA Blackwell, si tu makusanyiko ya GPU zenye nguvu; ni kompyuta kuu zilizounganishwa, za ukubwa wa raki zilizoundwa kwa ajili ya mustakabali wa AI. Kila mfumo una trei 18 za kompyuta zilizounganishwa kwa nguvu, zikiunda kitambaa kikubwa cha GPU kilichounganishwa na swichi za hali ya juu za NVLink. Mifumo hii inaunga mkono Multi-Node NVLink (MNNVL) ya NVIDIA, ikirahisisha mawasiliano ya kasi ya juu sana ndani ya raki, na inajumuisha trei za kompyuta zenye uwezo wa IMEX zinazowezesha kumbukumbu ya GPU iliyoshirikiwa katika nodi zote. Usanifu huu unatoa msingi usio na kifani wa kufundisha na kupeleka mifumo mikubwa ya AI, ukisukuma mipaka ya kile kinachowezekana katika nyanja mbalimbali kuanzia ugunduzi wa kisayansi hadi programu za AI za shirika.

Falsafa ya muundo nyuma ya mifumo hii inayotegemea Blackwell inalenga kuongeza upitishaji wa data na kupunguza muda wa kusubiri kati ya gpus zilizounganishwa. Hii inafanikiwa kupitia mkusanyiko wa vifaa uliounganishwa kwa karibu ambapo kila sehemu imeboreshwa kwa utendaji wa pamoja, kuhakikisha kuwa mizigo ya kazi ya AI inaweza kupanuka kwa ufanisi bila kukumbana na vikwazo vya mawasiliano.

Kuunganisha Topolojia ya Vifaa na Utoaji wa Ratiba za AI

Kwa wasanifu wa AI na waendeshaji wa jukwaa la HPC, changamoto halisi sio tu kupata na kukusanya vifaa hivi vya hali ya juu, bali ni kuviwezesha kufanya kazi kama rasilimali 'salama, yenye utendaji, na rahisi kutumia'. Ratiba za jadi mara nyingi hufanya kazi kwa dhana ya rasilimali tambarare, inayofanana ya kompyuta. Mfumo huu haufai kwa kompyuta kuu za ukubwa wa raki, ambapo muundo wa kimaeneo na unaojali topolojia wa vitambaa vya NVLink na vikoa vya IMEX ni muhimu kwa utendaji. Bila muunganisho sahihi, ratiba zinaweza kuweka kazi kwa bahati mbaya katika maeneo yasiyo bora, na kusababisha ufanisi mdogo na utendaji usiotabirika.

Hapa ndipo pengo ambalo NVIDIA Mission Control imeundwa kuziba. Kama kituo thabiti cha udhibiti wa ukubwa wa raki kwa mifumo ya NVIDIA Grace Blackwell NVL72, Mission Control ina uelewa wa asili wa vikoa vya msingi vya NVIDIA NVLink na NVIDIA IMEX. Uelewa huu wa kina unairuhusu kuunganishwa kwa akili na majukwaa maarufu ya usimamizi wa kazi kama Slurm na NVIDIA Run:ai. Kwa kutafsiri topolojia tata za vifaa kuwa akili ya kuratibu inayoweza kutekelezeka, Mission Control inahakikisha kuwa uwezo wa hali ya juu wa usanifu wa Blackwell unatumiwa kikamilifu, kubadilisha mkusanyiko wa vifaa vya kisasa kuwa kiwanda cha AI kinachofanya kazi kikamilifu. Uwezo huu utaenea hadi kwenye jukwaa lijalo la NVIDIA Vera Rubin, ikijumuisha NVIDIA Rubin NVL8, ikithibitisha zaidi mbinu thabiti ya miundombinu ya AI yenye utendaji wa hali ya juu.

Kufafanua Vikoa na Sehemu za NVLink kwa Mizigo ya Kazi ya AI

Katika kiini cha uratibu unaojali topolojia kwa mifumo ya Blackwell kuna dhana za vikoa na sehemu za NVLink, ambazo zinafichuliwa kupitia vitambulisho vya kiwango cha mfumo: cluster UUID na clique ID. Vitambulisho hivi ni muhimu kwa sababu vinatoa ramani ya kimantiki ya kitambaa halisi cha NVLink, kuruhusu programu ya mfumo na ratiba kufikiria juu ya nafasi na muunganisho wa GPU.

Upatanifu ni rahisi lakini wenye nguvu:

• Cluster UUID inalingana na kikoa cha NVLink. Cluster UUID iliyoshirikiwa inaashiria kwamba mifumo—na GPU zake—ni za kikoa kimoja kikuu cha NVLink na zimeunganishwa na kitambaa cha kawaida cha NVLink. Kwa Grace Blackwell NVL72, UUID hii ni thabiti katika raki nzima, ikionyesha ukaribu wa kimwili na muunganisho wa kasi ya juu ulioshirikiwa.
• Clique ID inalingana na sehemu ya NVLink. Clique ID inatoa utofautishaji sahihi zaidi, ikitambua vikundi vya GPU vinavyoshiriki Sehemu ya NVLink ndani ya kikoa kikubwa. Raki inapogawanywa kimantiki katika sehemu nyingi za NVLink, cluster UUID inabaki sawa, lakini clique ID zinatofautisha vikundi hivi vidogo, vilivyotengwa vya kasi ya juu.

Tofauti hii ni muhimu kutoka kwa mtazamo wa uendeshaji:

• Cluster UUID inajibu swali: Ni GPU zipi zinazoshiriki raki kimwili na zina uwezo wa mawasiliano ya NVLink kwa kasi ya juu zaidi?
• Clique ID inajibu: Ni GPU zipi zinazoshiriki Sehemu ya NVLink na zimekusudiwa kuwasiliana pamoja kwa kazi fulani au kiwango cha huduma, kuhakikisha utendaji bora kwa kazi zinazofanana sana?

Vitambulisho hivi ni uti wa mgongo unaounganisha, vikiwezesha majukwaa kama Slurm, Kubernetes, na NVIDIA Run:ai kupatanisha uwekaji wa kazi, utengaji, na dhamana za utendaji na muundo halisi wa kitambaa cha NVLink, yote bila kufichua utata wa vifaa vya msingi moja kwa moja kwa watumiaji wa mwisho. NVIDIA Mission Control inatoa mtazamo mkuu wa vitambulisho hivi, ikirahisisha usimamizi.

Kuratibu AI Kunakojali Topolojia na Slurm

Kwa mizigo ya kazi ya nodi nyingi inayoendeshwa kwenye mifumo ya NVL72 inayotegemea Blackwell, uwekaji unakuwa muhimu kama idadi kamili ya GPU zilizotengwa. Kazi ya mafunzo ya AI inayohitaji GPU 16, kwa mfano, itafanya kazi tofauti sana ikiwa itaenea bila mpangilio katika nodi nyingi zenye muunganisho mdogo ikilinganishwa na kuwekwa ndani ya kitambaa kimoja cha NVLink cha kasi ya juu. Hapa ndipo kipengele jaluzi cha Slurm cha topology/block kinathibitisha umuhimu wake, kikimruhusu Slurm kutambua tofauti ndogo za muunganisho kati ya nodi.

Kwenye mifumo ya Grace Blackwell NVL72, vizuizi vya nodi zenye miunganisho ya kasi ya chini vinapatana moja kwa moja na sehemu za NVLink—vikundi vya GPU vinavyounganishwa na kitambaa maalum cha NVLink cha kasi ya juu. Kwa kuwezesha kipengele jaluzi cha topology/block na kufichua sehemu hizi za NVLink kama vizuizi tofauti, Slurm hupata akili ya muktadha inayohitajika kufanya maamuzi bora ya kuratibu. Kwa chaguo-msingi, kazi huwekwa kwa akili ndani ya sehemu moja ya NVLink (au kizuizi), hivyo kuhifadhi utendaji muhimu wa Multi-Node NVLink (MNNVL). Ingawa kazi kubwa bado zinaweza kuenea katika vizuizi vingi ikiwa ni lazima, mbinu hii inafanya matokeo ya utendaji kuwa wazi, badala ya bahati mbaya.

Kwa maneno ya vitendo, hii inaruhusu mikakati rahisi ya uwekaji:

• Kizuizi/kikundi kimoja cha nodi kwa kila raki: Usanidi huu huwezesha Slurm Quality of Service (QoS) kusimamia ufikiaji wa sehemu iliyoshirikiwa, ya raki nzima, bora kwa usimamizi wa rasilimali uliounganishwa.
• Vizuizi/vikundi vingi vya nodi kwa kila raki: Mbinu hii ni kamili kwa kutoa vikundi vidogo, vilivyotengwa, vya GPU zenye kasi ya juu. Hapa, kila kizuizi/kikundi cha nodi kinapatana na sehemu maalum ya Slurm, ikitoa kiwango tofauti cha huduma. Watumiaji wanaweza kisha kutumia sehemu maalum ya Slurm, wakiweka kazi zao kiotomatiki ndani ya sehemu ya NVLink iliyokusudiwa bila kuhitaji kuelewa utata wa kitambaa cha msingi. Usimamizi huu wa hali ya juu wa rasilimali ni muhimu kwa mashirika yanayotaka kupanua mipango yao ya AI, ikilingana na lengo pana la kuongeza AI kwa kila mtu.

Kuboresha Mizigo ya Kazi ya MNNVL na IMEX na Mission Control

Mizigo ya kazi ya Multi-Node NVIDIA CUDA mara nyingi hutegemea MNNVL kufikia utendaji wa juu, ikiwezesha GPU kwenye trei tofauti za kompyuta kushiriki katika mfumo wa programu ya kumbukumbu iliyoshirikiwa. Kutoka kwa mtazamo wa msanidi wa programu, kutumia MNNVL kunaweza kuonekana kuwa rahisi kwa udanganyifu, lakini uratibu wa msingi ni tata.

Hapa ndipo NVIDIA Mission Control inapoingia na jukumu muhimu. Inahakikisha kuwa vipengele muhimu vinapangilia kikamilifu wakati wa kuendesha kazi za MNNVL na Slurm. Hasa, Mission Control inahakikisha kuwa huduma ya IMEX—inayorahisisha kumbukumbu ya GPU iliyoshirikiwa—inaendeshwa kwenye seti halisi ya trei za kompyuta zinazoshiriki katika kazi ya MNNVL. Pia inahakikisha kuwa NVSwitches muhimu zimesanidiwa kwa usahihi ili kuanzisha na kudumisha miunganisho hii ya MNNVL ya kasi ya juu. Uratibu huu ni muhimu kwa kutoa utendaji thabiti, unaotabirika katika raki. Bila uratibu wenye akili wa Mission Control, faida za MNNVL na IMEX zingekuwa changamoto kutambua na kusimamia kwa kiwango kikubwa, ikionyesha ahadi ya NVIDIA kutoa suluhisho kamili kwa gpus za hali ya juu na mifumo yao ya ikolojia.

Kuelekea Miundombinu ya AI Iliyojiendesha, Inayoweza Kupanuka

Muunganisho wa usanifu wa Blackwell wa NVIDIA na tabaka za programu za kisasa kama Mission Control na Topograph unaashiria hatua muhimu kuelekea kuunda miundombinu ya AI iliyojiendesha kikamilifu na inayoweza kupanuka. NVIDIA Topograph inatumia kiotomatiki ugunduzi wa uongozi tata wa NVLink na interconnect, ikifichua taarifa hii muhimu kwa ratiba kama Slurm, Kubernetes (kupitia NVIDIA DRA na ComputeDomains), na NVIDIA Run:ai. Hii inaondoa mzigo wa mwongozo wa kusimamia topolojia, kuruhusu mashirika kupeleka na kupanua mizigo ya kazi ya AI kwa ufanisi usio na kifani.

Kwa kutoa ratiba uelewa wa kina, wa wakati halisi wa topolojia ya vifaa, mbinu hii iliyounganishwa inahakikisha kwamba programu za AI zinaendeshwa kwenye rasilimali bora, kupunguza muda wa kusubiri wa mawasiliano na kuongeza upitishaji. Matokeo yake ni kiwanda cha AI chenye utendaji wa hali ya juu, kinachostahimili, na rahisi kusimamia chenye uwezo wa kushughulikia kazi ngumu zaidi za mafunzo na inference ya AI. Kadiri mifumo ya AI inavyoendelea kukua kwa utata na ukubwa, uwezo wa kusimamia na kuratibu mizigo ya kazi kwa ufanisi kwenye kompyuta kuu za ukubwa wa raki utakuwa muhimu sana kwa kuendesha uvumbuzi na kudumisha faida ya ushindani. Mkakati huu kamili unategemeza mustakabali wa AI ya shirika, ukibadilisha nguvu ghafi ya kompyuta kuwa kompyuta kuu ya AI yenye akili, inayojibu, na yenye ufanisi mkubwa.