Az AI-munkák egy cégen belül szétterjedésének kezdetén milyen problémát old meg az újrahasználat?
A válasz egyszerű. A csapatok gyakran újra és újra ugyanazokat az elemeket építik fel. Egy csoport létrehoz egy adatszfolyamatot (data pipeline). Hat hónappal később egy másik csoport ír egy hasonlóat. Egy harmadik csapat új API-ba csomagol egy modellt, annak ellenére, hogy a cégnek már van olyan, amely elvégzi a feladatot.
Ez a minta eleinte gyorsnak tűnik. Nem az. Dupla munkát, hosszú átadási folyamatokat és csendes pazarlást hoz létre. A vállalat sokszor fizet ugyanazon munka után, de cserébe alig kap új képességet.
Az újrahasználhatóság ezt orvosolja azzal, hogy egy jó eszközből sok hasznosat varázsol. Az újrahasználható eszközt egyszer készítik el, jól dokumentálják, és úgy tervezik, hogy megosztható legyen. Megoldja a mai problémát, és építőkövvé válik a következő projekt számára is.
Mit kell először újrahasználni
Az vállalati AI-munkában három fajta eszköz számít a leginkább.
Az első az adatszfolyamat. Ez az a logika, amely behozza a nyers adatokat, formázza, ellenőrzi és használhatóvá teszi őket. Amikor egy adatszfolyamatos eszközt megosztottan készítenek el, a csapatok nem heteket töltenek az adatbeviteli lépések, tisztítási szabályok és érvényesítési ellenőrzések újratervezésével. Ismert útvonalról indulnak.
A második a modellréteg. Ide tartoznak a előre betanított modellek, finomhangolási receptek és beágyazási rétegek (embedding layers). Egy csapatnak képesnek kell lennie egy meglévő modell eszköz adaptálására, ahelyett, hogy minden új felhasználási esethez nulláról kezdene. Ez csökkenti az ismételt beállítási időt, és megakadályozza, hogy a cég több verziót képezzen ugyanarról a dologról.
A harmadik az API- vagy interfészréteg. Ez azt mutatja meg, hogyan teszik elérhetővé az AI-képességet más rendszerek számára. Egy stabil szolgáltatási szerződés lehetővé teszi, hogy különböző termékek kiszámítható módon hívják meg ugyanazt az AI-függvényt. Ez csökkenti az integrációs erőfeszítést, és megkönnyíti a változások kezelését.
Ezek a három terület viselik a legnagyobb súlyt, mert az AI-delivery közepén helyezkednek el. Ha ezeket jól használják fel, a körülöttük lévő munka nagy része könnyebbé válik.
Miért teszi lehetővé a standardizáció az újrahasználatot
Az újrahasználat nem történik véletlenül. A standardizáción alapul.
Ez a szó gyakran nehézkesen hangzik. A gyakorlatban közös szabályokat jelent, amelyek megkönnyítik a munka összekapcsolását. Ez egy közös nyelvtan a mérnöki csapatok számára. Enélkül a jó eszközök is nehezen használhatóvá válnak.
Az első rész a dokumentáció és a munkagyakorlat. A kód, a prompt-ok és a modelllogikának olvashatónak kell lenniük azok számára, akik kívül esnek az eredeti csapaton. Ha az eszköz csak a készítője számára értelmes, akkor valójában nem osztozott meg.
A második rész az adatmegállapodás. A csapatoknak ugyanazokat a sémadefiníciókat, verziókezelési módszereket és érvényesítési szabályokat kell használniuk. Ha az egyik rendszer mezőket máshogy nevez el, mint egy másik rendszer, a cég saját eszközei közötti fordítással végzi a munkát. Ez mindent lelassít.
A harmadik rész az adatheredezettség (data lineage). A csapatoknak tudniuk kell, honnan származik az adat, hogyan változott, és mi érintette azon az úton. Enélkül a bizalom gyorsan csökken. Az emberek nem tudják, mit használnak, és a hibakeresés lassúvá válik.
A negyedik rész a telepítés. A megosztott CI/CD-folyamatok, visszavonási lépések és figyelőkötések kiszámíthatóvá teszik a kiadásokat. Nem szüntetik meg a bíráskodást. Biztonságossá és ismételhetővé teszik a kiadásokat.
Itt érdemli ki a standardizáció a helyét. Csökkenti a koordináció költségét. A csapatok kevesebb időt töltenek azzal, hogy kitalálják, hogyan dolgozzanak együtt, és több időt fektetnek abba, hogy magán a dolgon építsenek.
Egy kis példa
Gondoljunk egy vállalatra, amely több termékre kiterjedő ügyfélszolgálatot üzemeltet.
Egy csapat létrehoz egy adatszfolyamatos eszközt, amely lekéri a jegy szövegét, eltávolítja a szenzitív mezőket, és ellenőrzi, hogy az adat elég tiszta-e az elemzéshez. Később egy másik csapatnak ugyanilyen típusú bemenetre van szüksége egy tudásbázis-kereső eszközhöz. Ha az első adatszfolyamatos eszközt újrahasználatra szánták, a második csapat bővítheti azt. Ha nem, akkor újraépítik ugyanazt a logikát, és ugyanazokat a hibákat debuggolják.
Ugyanez a minta jelenik meg a modelleknél is. Az ügyfélszolgálati csapat képezhet egy beágyazási réteget a jegycsoportosításhoz. Egy termékcsapat később hasonló rétegre lehet szüksége a kereséshez és az átirányításhoz. Ha a modell eszközök meg vannak osztva és dokumentálva, a második csapat egy ismert alapról indulhat. Ha elkülönítettek, a cég képez egy másik verziót, majd időt tölt azzal, hogy illeszkedővé tegye.
Ugyanez igaz az API-kra. Ha az ügyfélszolgálati válaszok egy standard szolgáltatási szerződésen keresztül vannak kitéve, más rendszerek anélkül hívhatják meg őket, hogy minden alkalommal egyedi munkára lenne szükség. Ha minden csapat a saját módszerét publikálja, az integráció sorozattá válik az egyedi javításokból.
Ez a példa kicsi, de a logika skálázódik. Az újrahasználat egy működő útvonalból platformot varázsol több útvonal számára.
Mi történik, ha figyelmen kívül hagyják az újrahasználatot
Az első kockázat a fragmentáció (szétszórtság). A csapatok elkezdik építeni ugyanazon eszközök különálló verzióit. Az adatformátumok eltérnek egymástól. Különböző struktúrákon képzett modelleket nem lehet tisztán megosztani. Az integráció teljes állássá válik.
A második kockázat a komplexitás fokozódása. A technikai adósság nem mindig mutatkozik meg az első napon. A háttérben növekszik. Az új rendszerek régiaktól függenek. A régiek egyedi javításoktól. Minden új projektnek át kell haladnia egy egyre nagyobb labirintuson.
Ezért tér vissza gyakran a standardizáció kihagyása a sebesség kedvéért. A rövidebb út pillanatnyi gyorsabbnak tűnik. Később olyan rendszert hoz létre, amelyet nehezebb megváltoztatni, nehezebb hibakeresni, és nehezebb bővíteni.
A költség nemcsak technikai. Érinti az üzletet is. Sok össze nem kapcsolódó AI-erőfeszítéssel rendelkező vállalat lassan mozog, amikor a következőt próbálja elindítani. Egy újrahasználható eszközökkel rendelkező vállalat magabiztosabban haladhat, mert a nehéz részeknek már van otthonuk.
A munka mögötti vállalati minta
A legerősebb vállalati AI-programok hármasával járnak el.
Menedzselik az AI-t portfolióként, nem pedig izolált projektek halmozaként. Platforminfrastruktúrát építenek, amelyet sok csapat használhat. Aztán hozzáadják az újrahasználatot és a standardizációt, hogy ugyanaz az eszköz több felhasználási esetet is szolgáljon.
Ez a sorrend számít. A portfolió-gondolkodás iránymutatást ad. A platforminfrastruktúra alapot biztosít. Az újrahasználat olyan sebességet ad, amely az idő múlásával összetett hatást vált ki.
Ezért érzi úgy sokan, hogy az első AI-használati eset nehéz. A munka még összeállítás alatt áll. A második már könnyebb, mert több darab már létezik. A tizediknél a vállalat már nem kezd újra. Egy olyan rendszert bővíti, amely már tudja, hogyan kell működni.
A EuroOp LLC ezt a mintát gyakorlati leckének tekinti az alkalmazott mérnöki tudományban. A tartós nyereség abból származik, hogy egyszerre építenek megosztásra gondolva, majd elég világosan tartják a szabályokat, hogy más csapatok súrlódás nélkül használhassák fel a megépített dolgokat. Ez az a fajta adatszfolyamatos gondolkodás, amelyet a EuroOp Insights követni készült, egy alkalmazott kutatás-fejlesztési mintával és egy gyakorlati tanulsággal a termékek mögötti munkából.