AI saját adatból, saját zárt környezetben

Az AI mára átlépett egy fontos küszöböt: a generatív modellek, az automatizált döntéshozatal, a prediktív elemzések és az intelligens chatbotok látványos eredményeket produkálnak. De miközben a reflektorfény az algoritmusokra, modellekre és technológiákra irányul, gyakran megfeledkezünk arról a tényezőről, amely valójában mindent meghatároz: az adatról.

Az idén április 15-én megrendezett HPE Technology Day Webinar előadói rámutattak,  miért az adat az AI-fejlesztések valódi alapja, szerintük hogyan vihetünk sikerre egy AI-projektet, és egyáltalán miként érdemes hozzálátni ehhez a feladathoz.

Az AI szinte teljes mértékben beépült a mindennapjainkba: nagy nyelvi modelleken (LLM) alapuló megoldásokat használunk az információkereséshez, akár chatbotokkal beszélgetünk. A vállalati működést tekintve azonban az igazi sikerek még váratnak magukra – vezette fel a webinárt Czuczor Gábor, a HPE Data Services csapatának üzletfejlesztési szakértője. De mi vezet sikerre akkor, ha a vállalati valódi működésébe próbáljuk az AI-t belehelyezni? Milyen kritériumok határozzák meg egy projekt sikerességét? Milyen szerepe van a vállalati adatvagyonnak az AI megoldásokban, és milyen járulékos előnyökkel jár a szervezet számára?

Az on-premise AI deployment kihívásai

Az AI-alapú fejlesztés csak akkor teremt valódi üzleti értéket, ha kontrollált, biztonságos és megbízható infrastruktúrán fut. Németh Gyula, a rendvédelmi szerveknek és szolgálatoknak fejlesztő Neti Kft. rendszerintegrációs vezetője saját példákat hozott arra, hogyan valósítják meg az AI-alapú szoftverfejlesztést a gyakorlatban egy olyan szervezetben, mely zárt környezetet igényel.

Amikor a biztonsági követelmények kizárják, hogy a fejlesztők a kódolást, tesztelést segítő ChatGPT-t, Geminit vagy éppen a Claude-ot használják, szükségessé válik egy saját, on-premise környezetben használható megoldás megtalálása, mely mégis képes a felhőben futó modellek előnyeit nyújtani. Erre a problémára kínál megoldást a HPE Kodesage AI-platform, mely egy legacy kódok megértésére, JIRA ticketek kezelésére, kódok refakturálására is alkalmas rendszer.

A nagy nyelvi modellek jelenlegi nagy problémája a sokat említett hallucináció, ami a kritikus rendszerekhez fejlesztett kódokban nem megengedhető, mivel éles környezetben is problémát okozhat. A Retrieval Augmented Generation (RAG) architektúra segítségével azonban a hallucináció a futtatható kód szintjén elhanyagolható szintre csökkenthető, mivel a modell válaszát valós, ellenőrzött tudásbázishoz köti, így a generált kód mindig a tényleges belső dokumentációra épül. A nagy nyelvi modellek esetén általánosságban probléma a kontextusméret, a pontosság, melyekre mind megoldást ad a Kodesage által fejlesztett RAG-adatbázis.

A NETI egy gyakornoki programon belül azt is bizonyította, hogy a Kodesage az AI-asszisztált fejlesztési workflow-val felgyorsíthatja a junior fejlesztők tudásátadását és produktivitását, így a medior szintű kimenet rövid idő alatt elérhető.  A Kodesage főbb gyakorlati előnyei közt tehát említhető az on-premise biztonság, a kontextus-tudatos segítség és a záró közeli hallucináció.

Két pont között a legrövidebb út a görbe 

Czuczor Gábor szerint az AI-hype valódi, ugyanakkor a siker még várat magára. Egy idézett 2024-es felmérés szerint a nagyvállalati AI-projektek kiemelkedő többsége, 70 százaléka nem jut túl a tesztidőszakon, és szinte minden vállalatnak segítségre van szüksége az AI üzleti gyakorlatba illesztéséhez. Vagy jó vállalati adatokon és pontos eredménydefiníciók mentén érdemes próbálkozni a technológia adaptálásával, vagy elfogadjuk, hogy alacsonysikerráta övezi a projektjeinket – emeli ki a HPE szakértője.

Szinte már nincs olyan gazdasági szektor, ahol ne indult volna el az ismerkedés vagy akár az adaptáció, ugyanakkor az agentic AI megoldások is egyre népszerűbbek, annak ellenére hogy azok nem feltétlenül adott vállalatra és üzleti problémára szabva működnek. Az áttöréshez sok esetben hiányzik a világos üzleti cél, és egyelőre nehéz olyan üzleti értéket kimutatni, ami igazolná az AI projektek bevezetésének IT és üzemeltetés oldali költségeit és erőforrás igényét.

Az AI modellek és eszközök gyorsabban fejlődnek, mint ahogy a vállalati tudás épül, emellett a sok adathoz biztonságosan és menedzselhetően kell hozzáférni, miközben a szervezetnek a gyorsan változó szabályozásoknak is meg kell felelnie. Nem csak az AI-infrastruktúra jelent kihívást, de az adatmennyiség és minőség, valamint a skálázás és az illeszthetőség is.

Az AI mindenképp változást hozott abban, ahogyan a vállalati adatainkra tekintünk. Nincs jó AI projekt adatos projekt nélkül - emelte ki Czuczor.

Haladó adatszemlélet nélkül nem lehet nekivágni az AI-nak: a jó vállalati adatokhoz fel kell számolni a többgenerációs rendszerek okozta adatsilókat, és fel kell ismerni az üzletkritikus adatokat a modelltanításhoz. Ezen felül fontos, hogy az adatok a keletkezésük helyén már munkára foghatók vagy elérhetők legyenek, ehhez pedig érdemes költséghatékony tárolási megoldást találni.

Czuczor egy konkrét projektről is mesélt, amelyet az adathasznosítási szempontból nagy potenciált rejtő mezőgazdasági területen vittek sikerre a Nemzeti Ménesirtok számára. A projekt azt példázza, hogy az egyidejűleg statikus, dinamikus, lokálisan vagy csak távolról elérhető adatokból megfelelő analitikával előállíthatók azok a mutatók, amelyek egy kijelölt termőterület vonatkozásában segíthetnek megfelelő optimalizációs és jövedelmezőségi javaslatokat adni a cég számára. A talajjal, vetéssel és betakarítással kapcsolatos adatok megjelenítéséhez egy olyan vezetői információs felületet készítettek, ahol a döntéshozók első pillantásra levonhatják a számukra értékes következtetéseket.

Bármilyen összetettségű adatprojektek kivitelezéséhez nyújt megoldást a HPE Data Fabric, ami teljes adatintegrációt tesz lehetővé formátumtól függetlenül kezelve az adatokat, így egyszerre képes strukturált fájlok, adatstream-ek, vagy például raszteres képek feldolgozására, akár konténerben vagy cloudban futó alkalmazásokkal együttműködve.

Kis lépésekben is érdemes elindulni

Wahl László, a HPE Senior Solution Architectje azzal kapcsolatban adott támpontokat, hogyan érdemes akár kicsiben, akár nagyban nekivágni az AI-projekteknek. Már a folyamat elején több döntési pontot érdemes tisztázni azzal kapcsolatban, hogy a szervezet konkrétan mire szeretné felhasználni a technológiát, és a projekt inference vagy training fókuszú. A klasszikus módszer szerint meg kell határozni a célt és a stratégiát, amit követ a szükséges eszközök megvásárlása, az évekre szóló licencek biztosítása - ez a klasszikus big bang hozzáállás, amikor sok pénzt költ egy szervezet a megoldásra. Egy másik megközelítésben use case alapon, feladatorientáltan érdemes kialakítani  az optimális környezetet egy minimálisan működő platform létrehozásával, majd ehhez igazítani az igényeket és a bevezetést – emelte ki a HPE szakértője.

A nagy felhőszolgáltatók a legtöbb AI feladathoz azonnali megoldást nyújtanak, ami gyakran jelentős rejtett költségekkel járhat együtt. A HPE AI portfóliója több kategóriát lefedően kínál dobozos, testre szabott és egyedi megoldásokat is a modellek előállításához vagy fogyasztásához. Az AI generalista környezetet a HPE Private Cloud for AI nyújtja, ami eszközalapú (appliance) kulcsrakész (turnkey) megoldást kínál integrált menedzsmenttel, miközben inference és tréningezés területén is többféle feladatot képes ellátni.

Az AI-jal éppen csak ismerkedő KKV vagy akár nagyvállalat számára az összetettebb szolgáltatások még túl mély merítést jelenthetnek letitsztult stratégia és célok hiányában.  Komplexebb private cloud rendszerre nem feltétlenül van szükség mindenkinél a belépéshez, de a HPE AI Elvitelre csomaggal minimális befektetéssel, rengeteg hozzáadott értékkel bővítve vihetnek sikerre AI-célokat az úton elinduló cégek.

 [A HPE megbízásából készített, fizetett anyag.]