Tavasztól bárkinek lehet AI-szuperszámítógépe
Rövidesen akár otthoni körülmények között is üzemeltethetnek kutatók vagy éppen hallgatók AI-szuperszámítógépet. Az Nvidia a CES-en lerántotta a leplet a Project Digitsről, mely úgy néz ki, mint egy Mac Mini, ám attól lényegesen eltérő képességekkel rendelkezik.
A mesterséges intelligencia modelleket többnyire óriási számítási teljesítményt nyújtó szerverekből álló adatközpontok szolgálják ki, melyeket világszerte felhős topológia alapján érhetnek el az ügyfelek. A szegmens legismertebb hardvergyártója, az Nvidia most azt a célt tűzte ki a zászlajára, hogy az AI-szuperszámítógépeket közvetlenül a felhasználó asztalára is le lehessen tenni.
A Santa Clara-i chipgyártó a 2025-ös CES-en jelentette be a fenti célt szolgáló speciális számítógépét, a Project Digits-et, melyben az Nvidia vadonatúj, AI-feldolgozóegységet és CPU-t egyaránt tartalmazó GB10 Grace Blackwell Superchipje dolgozik. Az egység a gyártó szerint akár 200 milliárd paraméterből álló AI-modelleket is képes lokálisan kezelni, miközben elfér az ember tenyerében és hagyományos fali csatlakozáson keresztül, hálózati árammal működik.
Hyperscaler vagy hazai felhő? Lehet, hogy nem kell választani! Egy jól felépített hibrid vagy multicloud modellben a különböző felhők nem versenytársai, hanem kiegészítői egymásnak.
A 3000 dollárról induló Project Digits a GB10 mellett 128 GB, fixen beépített, nem bővíthető rendszermemóriával és legfeljebb 4 TB-nyi NVMe háttértárral konfigurálva érhető el májustól. A rendszer lehetőséget biztosít két egység összekapcsolására, az így létrejött számítási közeg legfeljebb 405 milliárd paraméterrel rendelkező modellekkel is megbirkózik (éppen ennyi paramétere van a Meta jelenleg legfejlettebb Llama 3.1-es modelljének).
A rendszer agyának számító GB10 a gyártó közleménye szerint egy petaflopsnyi AI-számítási kapacitást nyújt FP4 pontossággal - az egység valójában egy az adatközponti megoldásoknál kisebb teljesítményű, de azokkal alapjaiban egyező felépítésű Blackwell GPU-ból áll, mely az Nvidia NVlink-C2C chip-to-chip technológiájával csatlakozik egy 20 db ARM-alapú processzormaggal rendelkező Grace CPU-hoz.
A Blackwell architektúrára épülő Project Digits rendszerek természetesen nem otthoni játékszerek, a gyártó leginkább AI-modellekkel helyben dolgozó kutatóknak, hallgatóknak, illetve AI-modelleket fejlesztő cégeknek ajánlja a rendszert. Utóbbiak a saját modelljeiket a mini szuperszámítógépnek köszönhetően helyben tudják finomhangolni és tesztelni majd utána felskálázni az adatközponti környezetnek megfelelően.
Nem a Project Digits ugyanakkor az első, hasonló célt szolgáló lokális számítógépe az Nvidia-nak, a cég ugyanis tavaly decemberben lebbentette fel a fátylat a Jetsonról, mely szintén helyben futtat AI-modelleket, igaz, lényegesen szerényebb teljesítménnyel. A legfeljebb nyolcmillió paraméterrel rendelkező modellekhez alkalmas Jetson ennek megfelelően akár hobbisták számára is elérhető - az eszköz 249 dollártól érhető el.