:

Szerző: Gálffy Csaba

2011. szeptember 21. 16:28

On-demand szuperszámítógép Amazon EC2 alapokon

Olcsón bérelhető szuperszámítógépként is használható az Amazon Elastic Compute Cloudja. A Cycle Computing már sikerrel üzemeltet több mint 30 ezer processzormagot használó fürtözött rendszereket, amelyeket ad hoc módon, órákra állít össze, a felhasználó igényeinek megfelelően.

Óránként mintegy 1279 dollárba került a felhasználó szervezetnek az a fürtözött rendszer, amelyet a Cycle Computing nevű vállalat állított fel ideiglenesen az Amazon számítási felhőjében. Az árban az Amazonnak fizetendő bérleti díj, illetve a Cycle Computing saját részesedése is benne van - így pedig kifejezetten olcsónak számít. Az összesen 30 472 magot, 26,7 terabájt memóriát és 2 petabájt háttértárat használó fürtözött rendszer hét órán keresztül működött, míg lefuttatta egy meg nem nevezett gyógyszeripari cég alkalmazását. A rendszer 3 809 "compute instance"-et használt, egyenként 7 gigabájt memóriával.

Szuperszámítógép kívánság szerint

A teljes rendszer mindhárom kontinensen működött, egyrészt katasztrófatűrési megfontolásokból, másrészt mert három adatközpontban talált megfelelő mennyiségű szabad számítókapacitást a Cycle Computing. Az Amazon esetében ugyanis folyamatosan változnak a különböző régiók terhelései, a biztosan elérhető szabad teljesítmény így nem állandó az adatközpontokban. A különböző régiók közötti kommunikációt HTTPS, SSH és AES-256 titkosítással védte a rendszer, így az adatközpontokból kikerülő és azok között áramló adatok is biztonságban voltak.

Az Amazon kínál saját fürtözött instance-eket, azok ára azonban magasabb mint a normálisan bérelhető rendszereké. Ez a hozzáadott értéknek tudható be, az ilyen egységek 10 gigabites hálózati csatlakozással rendelkeznek, amelyre az elosztott rendszereknek sokszor szükségük is van. A Cycle Computing szerint azonban a meg nem nevezett gyógyszergyártó molekulamodellező alkalmazása szinte tökéletesen párhuzamosítható volt, nem igényelt erős kommunikációt a csomópontok között, így a költségcsökkentés érdekében lemondtak a specializált HPC-instance-okról. Ugyancsak az ár lefaragása érdekében mondott le a Cycle Computing a priorizált, előre lefoglalt számítási kapacitásról, és helyette a szinte véletlenszerűen elérhető "spot instance"-okat használta - ezért is nem tudták pontosan előre tervezni az egy adatközpontban elérhető teljesítményt.

Nyerd meg az 5 darab, 1000 eurós Craft konferenciajegy egyikét!

A kétnapos, nemzetközi fejlesztői konferencia apropójából a HWSW kraftie nyereményjátékot indít.

Nyerd meg az 5 darab, 1000 eurós Craft konferenciajegy egyikét! A kétnapos, nemzetközi fejlesztői konferencia apropójából a HWSW kraftie nyereményjátékot indít.

A hét órás futásra júliusban került sor, ennyi idő alatt a fürtözött rendszer lefuttatta a modellezést - ezzel több mint egy heti munkát spórolt meg a megrendelőnek. A futás során természetesen akadtak problémák, először a fájlregiszterekből futott ki a rendszer licencszervere, később a tárolók felé küldött adatvolumen ütközött egy Amazon-korlátba. Ez utóbbi bizonyos sebességcsökkenést okozott, de a feladat ettől függetlenül rendben lefutott, a megrendelő pedig elégedett.

On-demand szuperszámítógép

Az alkalmazás rávilágít arra, hogy a felhős rendszerek rendkívül rugalmasan alakíthatóak, a skálázódás pedig egészen döbbenetes: pusztán a processzormagok számát tekintve a Cycle Computing "Nekomata" fantázianevű fürtözött rendszere könnyedén helyet kapna a szuperszámítógépeket összesítő Top500 lista első ötven helyezettje között - bár teljesítményben minden bizonnyal jelentősen elmarad azok mögött. A rendkívül alacsony ár azonban arra is rávilágít, hogy a hatalmas adatközpontok használatával a cloud-szolgáltatók képesek nagyon alacsony fajlagos költség mellett kínálni a kapacitást.

A Cycle Computing megoldása saját fejlesztésű, CentOS alapú rendszert használ, amely házilag fejlesztett kezelőfelületen teszi lehetővé a megfelelő fürtözött rendszer létrehozását az Amazon infrastruktúráját használva. A megoldás kulcsa a rendkívül agresszív automatizálás, a rendszer egy időben menedzseli az összes instance-et, a rajtuk futó rendszerrel és alkalmazásokkal együtt. Ennek köszönhetően a cég szerint a tízezer magot használó ideiglenes rendszerek létrehozása már nem számít kihívásnak, és a 30 ezer magos fürtök sem jelentik a skálázódás végét. A tervekben már szerepel még nagyobb, még komplikáltabb rendszerek létrehozása, ezekhez azonban már valószínűleg szükség lesz az Amazon saját speciális fürtözött instance-eire is.

Az Amazon korábban, tesztképpen már állított össze 7000 processzormagot tartalmazó ad-hoc szuperszámítógépet, ez akkor (novemberben) a lefuttatott Linpack teszt szerint a 232. helyre volt elegendő a Top500 listán.

Milyen technológiai és munkaerőpiaci hatások érhetik a backendes szakmát? Május 8-án végre elindul az idei kraftie! meetup-sorozat is (helyszíni vagy online részvétellel).

a címlapról

Hirdetés

Security témákkal folyatódik az AWS hazai online meetup-sorozata!

2024. április 26. 18:18

A sorozat május 28-i, harmadik állomásán az AWS-ben biztonsági megoldásait vesszük nagyító alá. Átnézzük a teljes AWS security portfóliót a konténerbiztonságtól a gépi tanulásos alkalmazások védelmén át, egészen az incidenskezelésig.