Vodstvo podjetja ARM je že prej namignilo, da želi sčasoma vdreti na področje podatkovnih centrov z lastnim procesorjem, s čimer bi do neke mere ustvarilo konkurenco ne le strežniškim procesorjem x86, ampak tudi industrijskim partnerjem, ki licencirajo njegove tehnologije in intelektualno lastnino. Procesor, potreben za vstop, je že izdelan in napovedan, prvi vzorci pa so partnerjem že na voljo.
Nova rešitev se imenuje ARM AGI CPU, njena naloga pa je predvsem, da sistemu zagotovi ustrezno zmogljivost za izvajanje nalog agentne umetne inteligence in učinkovito sodeluje tudi s pospeševalniki umetne inteligence na posameznem strežniku. ARM AGI CPU je izdelan v procesu razreda 3 nm in lahko zaposli skupno do 136 procesorskih jeder tipa Neoverse V3. Procesor s TDP 300 W lahko deluje s pomnilniško pasovno širino 6 GB/s na jedro in zagotavlja zakasnitev pod 100 ns, kar zveni konkurenčno.
Po navedbah podjetja ARM vsako procesorsko jedro obravnava le eno namensko programsko nit, kar je ugodno, ker ob stalni obremenitvi tako ne bo nitk v prostem teku, prav tako pa se je mogoče izogniti zmanjšanju zmogljivosti (throttling) zaradi neoptimalnega delovanja. Pomnilniški podsistem lahko na čip sestavlja do 6 TB pomnilniških modulov ali pomnilniških čipov DDR5-8800 MT/s, hkrati pa je na čip na voljo 96 linij PCI Express 6.0, partnerji pa dobijo tudi podporo za CXL 3.0 in AMBA CHI.
Z novimi procesorji je mogoče doseči zelo veliko gostoto zmogljivosti, saj lahko pri zračno hlajenih sistemih en regal vsebuje do 8160 procesorskih jeder, pri uporabi tekočinskega hlajenja pa je mogoče število jeder povečati celo nad 45.000. Po navedbah podjetja ARM je to pomembno zato, ker bi bilo v segmentu podatkovnih centrov glede na sedanjo procesorsko zmogljivost na gigavat potrebnih več kot štirikrat več procesorskih zmogljivosti, da bi bilo delovanje podatkovnega centra optimalno in bi procesorji lahko zadovoljili potrebe pospeševalnikov umetne inteligence.
Ekipa podjetja ARM je izpostavila tudi, da procesorji, zgrajeni okrog arhitekture x86, delujejo s previsokim režijskim bremenom (overhead), torej gre preveč zmogljivosti v nič, poleg tega pa so tudi preveč zapleteni za učinkovito upravljanje novovrstnih delovnih tokov. Zgovoren je podatek, da je s procesorji na osnovi ARM na regal mogoče doseči več kot dvakrat večjo zmogljivost, kot če bi uporabljali procesorje na osnovi x86, to pa je pomembno ne le zato, ker se tako bistveno poveča gostota zmogljivosti, ampak tudi zato, ker je pri kapaciteti podatkovnega centra z umetno inteligenco enega gigavata mogoč prihranek do 10 milijard dolarjev. Prihranjeni znesek je mogoče nameniti dodatnim računskim zmogljivostim ali drugim izdatkom, povezanim z dejavnostjo.
Pri delu podjetja ARM je kot sorazvijalec pomagala tudi ekipa Meta, dokončani ARM AGI CPU pa bo imel pomembno vlogo tudi v Metinih podatkovnih centrih, kjer bo skupaj z Metinimi lastnimi pospeševalniki MTIA usklajeval naloge umetne inteligence različnih platform. ARM seveda svoje novosti ne more dostaviti le v Metine podatkovne centre, za prvi ARM-ov procesor za podatkovne centre se zanimajo tudi drugi partnerji: med njimi so med drugim Open AI, Cerebras, SAP, SK Telecom in Cloudflare.
Okrog novega procesorja bo regale in druge izdelke gradilo več partnerjev OEM, na primer Supermicro, Quanta, ASRock Rack in Lenovo. Hkrati se je okrog novega procesorja izoblikoval precej velik ekosistem z več kot 50 podjetji, med njegovimi podporniki pa so Google, Microsoft, Samsung, Micron, TSMC in AWS.
Prvi vzorci procesorja ARM AGI CPU so partnerjem že na voljo, v širšem obsegu pa jih bo mogoče dobavljati v drugi polovici leta, skupaj s kompletnimi regali, opremljenimi z njimi.
