Havi 13 millióért bárki tanítgathatja a saját ChatGPT-jét
A tegnap kezdődött Nvidia GTC konferencia talán legnagyobb durranása ezúttal nem új hardverfejlesztés bejelentése volt, hanem egy új, felhőalapú bérleti konstrukció elindítása, mellyel relatíve kedvező áron bérelhetnek cégek olyan szuperszámítógépeket, melyekkel saját MI-alapú megoldásukat taníthatják.
Mostantól nem csak az IT-ipar legnagyobb vállalatainak kiváltsága lehet a saját mesterséges intelligencia rendszerek fejlesztése és feltanítása, az ezzel járó eddigi óriási beruházásszükségletet ugyanis egy csapásra eltörölte az Nvidia azzal, hogy felhőalapú konstrukcióban bérelhetővé tette az iparágban széles körben használt A100 és H100 processzoraira épülő DGX szuperszámítógépeket.
Az Nvidia DGX Cloud szolgáltatás bejelentésével lehetővé válik, hogy a kisebb büdzsével gazdálkodó ügyfelek béreljenek maguknak saját virtuális DGX szervert, mely alapkiépítésben nyolc A100 vagy H100 GPU-t, 640 GB GPU RAM-ot és 2 TB memóriát tartalmaz.
Kafka és CI/CD alapozó online képzéseket indít a HWSW! Ősszel 6 alkalmas, 18 órás Kafka és CI/CD alapozó képzéseket indít a HWSW. Most early bird kedvezménnyel jelentkezhetsz!
A szolgáltatáshoz jár továbbá villámgyors tárhely, legfeljebb 32 ezer GPU-ból álló interconnect-lehetőség, szoftvertámogatás és szoftverháttér, valamint az Nvidia szakemberei a saját kód optimalizálásában is segítenek a megrendelőnek.
A Santa Clara-i cég mindezért a legolcsóbb konfigurációban havonta egy dollár híján 37 ezer dollárt, azaz napi árfolyamon átszámítva közel 13,5 millió forintot kér, ami még mindig eltörpül egy hasonló konfiguráció 200 ezer dolláros, azaz 72,5 millió forintos bekerülési költségéhez képest (amihez nem jár sem tárhely, sem kódoptimalizálási támogatás, de többletköltséget jelent például a szerver(ek) áramfogyasztása).
A DGX Cloud szolgáltatást először az Oracle felhőjén keresztül használhatják majd a saját MI-jük tanítására a cégek, az ígéretek szerint ugyanakkor a következő negyedévben a Microsoft Azure platformján, később pedig a Google felhőszolgáltatásán keresztül is lehet majd bérbe venni MI-számításokhoz szuperszámítógépet.
A szolgáltatás pilotjához már korábban csaltakozott az Amgen nevű gyógyszerfejlesztő cég, mely a gyógyszerkutatások felgyorsítására használja az Nvidia megoldását, de van biztosítókat kiszolgáló, az igények elbírálását automatizáló cég (CCC) illetve az MI-t kódoláshoz használó szoftverfejlesztő (ServiceNow) is a tesztelők között.