NVIDIA a implementat oficial modificări în întreaga gamă de produse „Vera Rubin”, reducând specificațiile vizate pentru memorie și infrastructura de interconectare. Conform fișei actualizate cu specificațiile produsului, prima modificare vizează memoria HBM4. Anterior, NVIDIA utiliza memorie HBM4 cu o viteză de 11,7 Gbps per pin, valoare care a fost acum redusă la 9,6 Gbps per pin. Într-o soluție „Vera Rubin” NVL72, proiectată la nivel de rack, NVIDIA oferă acum o lățime de bandă totală a memoriei de 1.400 TB/s, în scădere față de valoarea anunțată anterior, de 1.580 TB/s. Deși această problemă nu provine direct de la furnizorii NVIDIA, ea indică faptul că implementarea de către companie a lățimii magistralei de memorie și a semnalizării electrice în ansamblu nu este suficientă pentru a susține viteze mai mari.
Totuși, modificările nu se limitează la memorie. NVIDIA a redus și lățimea de bandă NVLink per GPU anunțată anterior, de la 1,8 TB/s la 1,5 TB/s. Acest lucru duce la o scădere a lățimii de bandă NVLink bidirecționale per GPU, de la 3,6 TB/s la 3 TB/s. Problema de bază este legată de integritatea semnalului, deoarece, potrivit informațiilor apărute, NVIDIA a redus frecvența Nyquist vizată pentru NVLink de la 56 GHz la 47 GHz. Reducerea frecvenței Nyquist diminuează solicitările electrice asupra componentelor SerDes, cablurilor și materialelor, ceea ce poate îmbunătăți randamentul fabricației și fezabilitatea generală, chiar dacă presupune acceptarea unei mici reduceri a lățimii de bandă maxime a interconectării. Prin urmare, NVIDIA a ales să sacrifice o parte din lățimea de bandă pentru a îmbunătăți stabilitatea sistemului. Mai jos sunt prezentate noile specificații ale sistemului în modul luminos și specificațiile vechi în modul întunecat.
În prezent, soluția NVIDIA este inferioară sistemului Helios de la AMD, proiectat la nivel de rack, atât în ceea ce privește capacitatea memoriei, cât și lățimea de bandă a acesteia. Acceleratorul AMD Instinct MI455X oferă o cantitate semnificativ mai mare de memorie cu lățime de bandă ridicată decât versiunea revizuită a sistemului „Vera Rubin” de la NVIDIA: 432 GB de memorie HBM4 per GPU, cu o lățime de bandă de 23,3 TB/s, comparativ cu cei 288 GB și 19,2 TB/s ai sistemului Rubin.
La nivelul unui rack cu 72 de GPU-uri, Helios cumulează aproximativ 31 TB de memorie HBM4, cu o lățime de bandă totală a memoriei de circa 1,67 PB/s, comparativ cu aproximativ 20,7 TB și 1,4 PB/s pentru sistemul Vera Rubin NVL72.
Diferențele se extind și la interconectările de tip scale-up, care permit componentelor sistemului să comunice între ele la viteze foarte mari. Tehnologia UALoE de la AMD oferă o lățime de bandă bidirecțională de 3,6 TB/s per GPU, însumând 260 TB/s la nivelul întregului sistem, în timp ce NVLink de la NVIDIA a fost redus la 3 TB/s per GPU, respectiv 216 TB/s în total.
Aceste diferențe îi oferă sistemului Helios un avantaj clar atât în ceea ce privește capacitatea memoriei integrate în fiecare pachet, cât și lățimea de bandă disponibilă la nivelul întregului sistem.
About the Author
