AMD je na dogodku Advancing AI poleg strežniških procesorjev na osnovi arhitektur ZEN 6 in ZEN 6c razkril še eno pomembno novost, to pa ni nič drugega kot Instinct MI455X, ki je izpadel precej impresivno, ponuja večjo zmogljivost kot kdaj koli prej in obeta biti dovolj konkurenčen tudi nasproti pospeševalnikom umetne inteligence nove generacije podjetja Nvidia.
Instinct MI455X presega prihajajoče modele Nvidie Rubin tako po pomnilniški kapaciteti kot po pomnilniški pasovni širini, tudi pri surovi računski zmogljivosti postavlja letev visoko. Res pa ne smemo pozabiti, da bo na koncu dneva štelo, koliko teoretične največje računske zmogljivosti lahko izkoristi posamezna programska oprema, torej kako dobra bo njena optimizacija – tekma torej še zdaleč ni odločena.
Celoten GPU MI455X lahko štejemo za izjemno masiven čip, ki uporablja napredne tehnologije plastenja čipov in ohišij, tranzistorjev pa lahko uporabi skupno 320 milijard. Osnovo čipa tvori skupno osem čipov Accelerator Complex Die (XCD), ki so po štirje nameščeni na dveh čipih Fabric and Cache Die (FCD), in sicer plastno drug na drugem, s tehnologijo Hybrid Bonding.
Na vsak od obeh čipov FCD je nato priključenih po šest sendvičev pomnilniških čipov HBM4 in dva čipa I/O – torej je na voljo skupno 12 sendvičev pomnilniških čipov HBM in štirje čipi I/O –, same čipe FCD pa povezuje tehnologija TSMC CoWoS-L. Čipi XCD se izdelujejo z najsodobnejšo proizvodno tehnologijo TSMC, s proizvodnim procesom 2N razreda 2 nm, saj imajo od njegovih prednosti veliko koristi, pri čipih FCD in čipih I/O pa uporaba procesa N2 ne bi prinesla toliko prednosti, kolikor bi stala več, zato pri teh uporabljajo proizvodno tehnologijo TSMC N3P.
Na čipih XCD so računski bloki na osnovi arhitekture CDNA 5, ki se tokrat namesto Compute Unit imenujejo Work Group Processor, zgradba XCD pa je v glavnem ostala podobna prejšnji, kar zadeva glavni koncept, a na zelo veliko področjih so izvedli spremembe, ki pomagajo pri učinkovitejšem delovanju in doseganju višje računske zmogljivosti.
Čeprav je število WGP ostalo enako 256, kot je bilo pri MI355X število blokov CU, lavji delež pospešitve gre torej na račun sprememb arhitekture CDNA 5, ki jih je veliko. WGP odslej delujejo ne v načinu 64-wide, temveč le v načinu 32-wide, kar po navedbah AMD zmanjšuje pritisk na registre, hkrati pa se pospeši tudi izvajanje ukazov, arhitektura pa postane prožnejša, zato lahko bolje sodeluje tudi z različnimi velikostmi Tensor Tile. Zanimivo je, da na področju RDNA to zgradbo 32-wide uporabljajo že od samega začetka, kar zadeva izvorno velikost WaveFront – z izidom CDNA 5 bo to privzeto tudi v segmentu pospeševalnikov umetne inteligence, vsaj znotraj AMD-jeve ponudbe.
Zaradi sprememb se lahko računska vršna zmogljivost v primerjavi z ravnjo, ki jo predstavlja CDNA 4, podvoji, v nekaterih primerih pa celo početveri – slednje se lahko zgodi predvsem pri formatu OCP MXFP4 z nižjo natančnostjo. To pomeni, da je bila pri MI355X računska zmogljivost v načinu OCP MXFP4 10 PetaFLOP/s, pri MI455X pa je lahko že 40,26 PFLOP/s, pri drugih formatih pa večinoma pride do podvojitve. MI455X bo večinoma presegal tudi računsko zmogljivost prihajajočega GPU-ja Nvidia Rubin.
GPU MI455X je dobil povsem preoblikovan podsistem predpomnilnika, kjer ni več predpomnilnika Infinity Cache z veliko kapaciteto, njegovo mesto je prevzel predpomnilnik L2 z manjšo kapaciteto, a večjo pasovno širino. Kapaciteta predpomnilnika L2 je skupno 192 MB, torej je na vsakem čipu FCD 96 MB predpomnilnika L2, medtem ko je bilo pri MI355X na osnovi CDNA 4 poleg 32 MB predpomnilnika L2 povezanih še 256 MB predpomnilnika Infinity Cache. Po navedbah AMD zaradi nove zgradbe na vsak FCD pride 1,5-krat večja pasovna širina kot pri CDNA 4, kjer je breme nosil Infinity Cache, torej lahko MI455X v primerjavi z MI355X uporabi trikrat večjo pasovno širino predpomnilnika L2. Predpomnilniki so se pri WGP spremenili tako po kapaciteti kot po hitrosti in prožnosti, kar prispeva k temu, da lahko pride do znatnega povečanja hitrosti v primerjavi z arhitekturo CDNA 4.
Pomembna novost pri CDNA 5 je nova različica Tensor Data Mover, ki pomaga, da sistem podatke hitro in učinkovito premika iz DRAM-a na področje WGP, pri tem pa postopek ne obremenjuje motorjev WGP v GPU-ju. Nova različica lahko različne podatke v bistvu neposredno, brez uporabe vmesnih ravni predpomnilnika, premakne iz DRAM-a v predpomnilnik LDS enote WGP, s čimer pospeši pravočasno razpoložljivost podatkov.
Novi pospeševalnik umetne inteligence zdaj uporablja vgrajeni pomnilnik standarda HBM4, in sicer v obliki skupno 12 sendvičev pomnilniških čipov, zaradi katerih je na voljo do 432 GB vgrajenega pomnilnika, pomnilniška pasovna širina pa znaša 23,3 TB/s. To je v primerjavi z Nvidiinim Rubinom velika prednost, saj ta »le« 288 GB vgrajenega pomnilnika, prav tako na osnovi HBM4, pomnilniška pasovna širina pa znaša 22 TB/s.
Za AMD je velika prednost tudi to, da lahko z uporabo MI455X zdaj ponuja tudi racke s 72 GPU-ji, s čimer se učinkovito kosa z Nvidiino zasnovo NLV72, zahvaljujoč Heliosu, za katerega se zanima vse več velikih akterjev v panogi, vodstvu AMD pa je uspelo skleniti tudi že večje posle. Čeprav se teoretična največja računska zmogljivost MI455X na papirju res dobro odraža, bo odločilno, koliko tega bo v praksi lahko izkoristila posamezna programska oprema, saj bo na koncu to odločilo, katerega proizvajalca izdelek je boljši. To se seveda lahko spreminja tudi glede na vrsto nalog, programska optimizacija pa bo vsekakor veliko pomenila.
Pri rackih ima AMD prednost, saj omara s 72 GPU-ji vsebuje skupno 31,1 TB vgrajenega pomnilnika HBM4, zato imajo različni delovni tokovi na voljo 50 % več pomnilnika kot pri Nvidiinem racku Rubin NVL72, ki ima »le« 20,7 TB vgrajenega pomnilnika. Na AMD-jevi strani je ta vgrajeni pomnilnik poleg tega dostopen prek ene same koherentne domene, kar je lahko pri nalogah sklepanja velika prednost.
Racki Helios na osnovi MI455X prihajajo zelo impresivni, a tudi Nvidiinih rackov Rubin NVL72 ne smemo podcenjevati. V drugi polovici leta se lahko med AMD in Nvidio začne bolj zaostrena tekma kot kdaj koli prej, ko bosta akterjem v panogi začela dobavljati rešitve naslednje generacije. Takrat se bo izkazalo tudi, pri katerih nalogah je boljši izdelek katerega proizvajalca.
