ASUS-ova razvojna ekipa je dokončala prvi AI pospeševalnik USB podjetja z imenom UGen300, ki ponuja kar impresivnih 40 TOPS računske zmogljivosti INT4. Omenjeni pospeševalnik USB temelji na dobro znanem procesorju Hailo-10H, ki se je v naših novicah že večkrat pojavil. Ob procesorju so tokrat dodali 8 GB vgrajenega pomnilnika LPDDR4, ki pomaga pri učinkovitem delu, pospeševanju lokalno delujočih LLM-jev in VLM-jev ter hitrejšem izvajanju drugih AI nalog.
Drobna naprava USB je dolga 105 milimetrov, široka 50 milimetrov in visoka 18 milimetrov, kar je več kot klasičen ključek USB, a manj kot zmogljiv zunanji SSD. S pospeševalnikom AI, ki se priklopi na vrata USB-C, je mogoče dopolniti zmogljivost NPE v procesorju, prav pa pride tudi, kadar v sistemu NPE sploh ni. Pospeševalnik USB, uporaben tudi za zahtevne AI naloge, deluje s porabo le 2,5 W in uporablja vmesnik USB 3.1 Gen2 Type-C s pasovno širino prenosa podatkov 10 Gbps. Izdelek brez težav sodeluje z večjimi ogrodji za AI, med drugim podpira Keras, PyTorch, TensorFlow, TensorFlowLite in ONNX.
Novost, ki jo je mogoče uporabljati v potrošniških in industrijskih napravah in sistemih, se ponaša s podporo ne le za Windows in Linux, temveč tudi za Android, zato lahko od njenih zmožnosti koristi več platform. Ob pospeševalniku AI z nizko porabo bo ekipa ASUS ponudila tudi posebno aplikacijo z imenom UGen Utility, ki vsebuje več kot 100 vnaprej naučenih modelov za lažji začetek. Z izdelkom postane dostopna tudi skupnost Hailo Developer Community, kjer so na voljo vodniki, referenčne vsebine in obilo znanja, da bi bila razvoj in uvedba aplikacij Edge AI čim hitrejša in čim učinkovitejša.
ASUS-ova novost je namenjena razvijalcem, učencem, učiteljem in razvijalcem vgrajenih industrijskih sistemov, pa tudi vsem drugim, ki si za obdelavo lokalnih AI vsebin želijo pospeševalnika AI z nizko porabo, preprostega za uporabo, a vendar zmogljivega.
Model ASUS UGen300 bo predvidoma kmalu na voljo v prodaji, o tem, koliko bo natančno stal, pa za zdaj ni novic. Izdelek nastaja tudi v različici v obliki razširitvene kartice M.2, s katero lahko proizvajalec z enakimi zmožnostmi cilja na nove segmente in naprave.
