Milyen problémát oldanak meg az MLOps folyamatok, amikor egy AI modell kilép a laborból, és belép a produkcióba?
A rövid válasz egyszerű. Egy törékeny, manuális lépésekből álló rendszert ismétlődő rendszeré alakítanak át a telepítéshez, figyeléshez és ellenőrzéshez.
Ez azért fontos, mert a produkciós AI nem egyetlen drámai pillanatban bukik el. Gyakran apró hibák miatt csődöl meg. Változik egy adathalmaz forrása. Hiányossá válik egy funkció. A modell továbbra is fut, de a kimenetele lassan romlik. A kód jónak tűnhet, miközben a rendszer már nem szolgálja jól az üzleti célokat.
Az MLOps az a diszciplína, amely rendet teremt ebben a problémában. Bizonyított szoftveres szállítási gyakorlatokat alkalmaz a gépi tanulás munkájára. Útmutatást ad a csapatoknak ahhoz, hogy kísérletekből élő szolgáltatásba kerüljenek anélkül, hogy emlékezetre, hősies erőfeszítésekre vagy szétszórt szkriptekre támaszkodnának.
Miért számítanak a folyamatok
A gépi tanulás modellje csak a rendszer egyik része. Körülötte helyezkedik el az adatok áramlása, amely táplálja, a tároló, amely tartja, a számítási kapacitás, amely betanítja, és a szolgáltatási réteg, amely exponálja azt. Ha bármelyik ezek közül a részei meghibásodik, a modell megbízhatatlanná válhat.
Ezért olyan fontos a folyamat tervezése. A folyamat az automatizált út az adatforrástól a modell kimenetéig. Általában tartalmazza az adatszolgáltatást, az érvényesítést, a transzformációt, a funkciók létrehozását, a betanítást és a telepítést. Minden lépésnek van feladata. Minden lépés hibázhat is.
Egy erős folyamat minimalizálja a manuális munkát. Ugyanazokat a bemeneteket ugyanazon eredmények előállítására használja. Ezenkívül nyomot hagy. Ez a nyom segít a csapatoknak látni, mi történt, mikor történt, és mi változott.
Itt válnak sok AI projekt nehezebbé, mint ahogy azt várni lehetett volna. Egy csapat felépíthet egy jó modellt egy jegyzetfüzetben (notebook). A valódi kihívás akkor kezdődik, amikor ezt a modellt minden nap le kell futtatni, változó adatokkal, változó kereslettel, és valós felhasználókkal, akik választ várnak.
Mit változtat meg az automatizálás
Az automatizálás a fő nyereség. Csökkenti az adatkészítés, a modellcsomagolás és a kiadási lépések helyhez kötött kezelésének szükségességét. Emellett csökkenti annak kockázatát, hogy valaki véletlenül kihagy egy ellenőrzést, vagy rossz verziót használ.
A gyakorlatban egy MLOps folyamat egyszerre több dolgot is elvégezhet. Érvényesítheti a bejövő adatokat a betanítás megkezdése előtt. Követheti a modellverziókat és a funkcióverziókat. Tárolhatja a kísérleti eredményeket, hogy a csapatok összehasonlíthassák a lefutásokat. Elindíthatja az újratanítást, ha a rendszer elmozdulást (drift) észlel. Kiadhat egy modellt egy API-n keresztül, és figyelemmel kísérheti, hogyan viselkedik ez a szolgáltatás a kiadás után.
Ez több, mint kényelem. Ez a mozgásban lévő felügyelet. A felügyelet rekordokat, ismételhetőséget és ellenőrzési pontokat igényel. Ezek nélkül nehéz megmagyarázni, hogyan épült fel egy modell, vagy miért van egy adott verzió a produkcióban.
Ezért olyan fontos a verziózás. Ha az adatok változnak, és senki nem tudja visszaállítani a korábbi állapotot, a hibakeresés találgatássá válik. Ha a modell viselkedése változik, és senki nem tudja visszavezetni a bemeneteket, a csapat elveszíti a képességet, hogy magabiztosan elmagyarázza a rendszert.
A felügyelet a folyamatba van ágyazva
A felügyelet politikai témának hangzik, de az AI-ban technikai gyakorlattá válik. A folyamatnak támogatnia kell azt.
Ez azt jelenti, hogy nyomon kell követni az adatforrásokat, a modell műtermékeit, a betanítási lefutásokat és a telepítési verziókat. Azt is jelenti, hogy tudni kell, ki hagyta jóvá a kiadást, és milyen ellenőrzések futottak le, mielőtt élőbe került. Szabályozott vagy auditérzékeny munkák esetén ez a rekord nem luxus. A rendszer üzemeltetésének része.
A figyelés ide tartozik. Egy modell nem statikus. Az adatok változnak. A felhasználói viselkedés változik. Az inputok és outputok közötti kapcsolat idővel eltolódhat. Amikor ez megtörténik, a modell továbbra is adhat válaszokat, de ezek a válaszok már nem lehetnek megbízhatóak.
Ezért az jó MLOps részét képezi a folyamatos megfigyelés a kiadás után. A csapatok olyan dolgokat követnek nyomon, mint a késleltetés, a hibaszázalék, az input elmozdulás és a predikciós minőség. Jelzéseket keresnek arra, hogy a élő rendszer eltávolodik attól a környezettől, amiben betanították.
Egy egyszerű példa
Képzeljünk el egy ajánló motort egy online áruház számára. Betanítás során a legutóbbi kattintásokon, vásárlásokon és termékmegtekintéseken tanult. Indítás után egy adatforrás késve érkezik. A modell továbbra is ajánlásokat szolgáltasson, de egyik legerősebb jele most már elavult.
Eleinte nincs riasztás. A szolgáltatás továbbra is működik. A kérések továbbra is eredményt adnak vissza. Mégis a kimeneti minőség romlani kezd.
Egy érvényesítéssel és figyeléssel rendelkező folyamat sokkal rövidebb életet adna ennek a problémának. Az érvényesítés jelölné a hiányzó vagy késő adatokat. A figyelés megmutatná, hogy megváltozott a bemeneti minta, és hogy a modellminőség elmozdul. Ekkor egy újratanítási vagy visszavonási útvonal visszaállíthatna egy stabilabb állapotot.
A fontos pont nem az, hogy a modell „rosszzá vált.” A fontos pont az, hogy a modell körül lévő rendszer nem vett észre egy változást elég hamar. Ez a valódi MLOps tanulság.
A kötegelt és valós idejű rendszerek más feladatokat látnak el
Nem minden AI rendszernek szüksége van ugyanolyan típusú folyamatra. Néhány rendszer futtatható ütemezés szerint. Mások azonnali választ igényelnek.
A kötegelt folyamatok csoportokban dolgozzák fel az adatokat meghatározott időpontokban. Könnyebb kezelni őket, és gyakran olcsóbb futtatni őket. Jelentési feladatokhoz és időszakos újratanításhoz illenek. A valós idejű folyamatok az adatokat úgy dolgozzák fel, ahogy azok érkeznek. Támogatják a csalásmegelőzési ellenőrzéseket, az ajánlásokat és egyéb alacsony késleltetésű használati eseteket. Többbe kerülnek és nehezebb üzemeltetni őket, de gyorsabb döntéseket szolgálnak ki.
A választás nem absztrakt. Az üzleti igényektől függ. Milyen gyorsan kell a modellnek reagálnia? Mekkora költséget viselhet a rendszer? Mekkora hibát tolerálhat a folyamat? Ezek a kérdések ugyanúgy formálják a folyamatot, mint magát a modellt.
Amit a jó MLOps lehetővé tesz
Egy szilárd MLOps beállítás jobb üzemeltetési modellt ad a csapatoknak az AI-hoz. Támogatja a gyorsabb kísérleteket, mert az adat-előkészítés és az újratanítás már nem függ manuális lépésektől. Javítja az reprodukálhatóságot, mert ugyanazon verziózott bemenetek nyomon követhetőek és újra futtathatók. Támogatja a biztonságosabb skálázást, mert a rendszernek vannak ellenőrzései a kiadás előtt és után. Emellett kevésbé fájdalmasak az auditok és az áttekintések, mert az bizonyíték már tárolva van a folyamatban.
Az EuroOp LLC ezt mérnöki mintaként kezeli, nem pedig jelszavként. Véleményünk szerint a folyamat a valódi szállítórendszer az AI-hoz. A modell a központi műtermék, de a folyamat az, ami a műterméket használhatóvá teszi a produkcióban.
Ez a fő tanulság, amit az olvasók elsajátíthatnak. Egy modell önmagában egy predikciós motor. Egy modell egy MLOps folyamatban belül egy felügyelt szolgáltatássá válik, amely diszciplínával telepíthető, figyelhető és javítható.
Az EuroOp Insights ugyanezen gyakorlati lencsére épül. Egy alkalmazott K+F minta, egy gyakorlati levonás a EuroOp termékek mögötti folyamatból.