Nvidia je napovedala zelo pomembno novost, in sicer NVHBM, posebno pomnilniško tehnologijo. NVHBM naj bi bil partnerjem NVLink Fusion Link na voljo tako za izdelavo lastnih pospeševalnikov UI kot za Nvidiine pospeševalnike UI, zgrajene okoli lastnih GPU-jev – v obeh primerih ponuja precejšnjo prednost pred pomnilniškimi podsistemi običajnega standarda HBM4E.
Bistvo NVHBM je, da uvaja novo pomnilniško arhitekturo, pri kateri pomnilniški krmilniki niso več na čipu XPU in tako ne zasedajo dragocene silicijeve površine na čipih, nabitih z računskimi komponentami, temveč so nameščeni na osnovni čip sendviča pomnilniških čipov NVHBM. S premestitvijo pomnilniških krmilnikov na krov čipov NVHBM se na čipih XPU sprosti dragocena površina silicijevega čipa, zato lahko nastanejo kompleksnejši pospeševalniki UI z večjo računsko zmogljivostjo, saj lahko za računske komponente namenijo večji proračun tranzistorjev.
Ian Cutress, izjemno podkovan analitik, ki je bil dolgo steber ekipe že ugasnjenega AnandTecha, meni, da je NVHBM v bistvu pomemben korak od standardiziranih sendvičev pomnilniških čipov HBM k zasnovam z lastno, za stranko značilno pomnilniško zgradbo, ki ponujajo številne nove možnosti. Poleg standardnih sendvičev pomnilniških čipov HBM se bodo v prihodnje za naklonjenost kupcev potegovale zasnove HBM z lastnim osnovnim čipom in tesneje v čipe integrirani 3D pomnilniki, zato bodo mesto danes široko uporabljanih standardnih sendvičev pomnilniških čipov HBM veliko bolj prevzele slednje, saj bodo po meri prilagojene zasnove in osnovni čipi ponujali ogromno prednosti tako pri računski zmogljivosti kot pri pomnilniški pasovni širini in energijski učinkovitosti.
Po navedbah Nvidiine ekipe bo pri sendvičih pomnilniških čipov NVHBM v primerjavi z običajnimi modeli HBM4E mogoče pasovno širino pomnilnika povečati do 30 % na čip, porabo pa zmanjšati do 15 % glede na raven, ki je običajna pri čipih HBM4E. Hkrati bodo lahko stranke zaradi predelanega pomnilniškega vmesnika za namene XPU uporabile do 25 % več površine silicijevega čipa, kar pomeni, da bo na istem čipu prostora za več komponent, kar lahko pomeni večjo računsko zmogljivost in/ali dostop do dodatnih funkcij, odvisno od potreb.
Hkrati se lahko zaradi ožjega pomnilniškega vmesnika poenostavi tudi zgradba interposerja, lažje bo oblikovati ožičenje, zato lahko pri celotnem ohišju ostane do 80 % več uporabne silicijeve površine. Po navedbah Nvidie se lahko skupna zmogljivost XPU poveča celo do 30 %, saj NVHBM ponuja dodatno pomnilniško pasovno širino, sprosti se nekaj površine silicijevega čipa, ki se lahko uporabi za povečanje računskih zmogljivosti, pomnilniški podsistem na osnovi HBM pa deluje tudi energijsko učinkoviteje.
Ena prvih strank, ki bo lahko izkoristila prednosti NVHBM, bo Annapurna Labs, ki spada pod Amazon. Podjetje že razvija pospeševalnik UI Trainium4, ki bo morda prišel s podporo za NVLink Fusion in NVLink 6, zato bo lahko sodeloval s pospeševalniki UI na osnovi Nvidiinih GPU-jev znotraj iste arhitekture strežniških omar. Po Nvidiinih načrtih bo v prihodnje čipe NVHBM ponujalo več proizvajalcev pomnilnika, niso pa izdali, katera generacija GPU-jev v njihovi lastni ponudbi bo prva, ki bo lahko izkoristila prednosti NVHBM.
