Az AI-rendszerek olyan szoftverrendszerek, amelyek adatokat használnak kimenetek előállítására. Ezek a kimenetek előrejelzések, tartalmak, ajánlások vagy döntések lehetnek. A rendszer bemenetet vesz fel, alkalmaz egy modellt, és visszaad egy eredményt, amely befolyásolhat egy személyt, folyamatot vagy gépet.
Ez a közvetlen válasz. A hasznos részlet az, hogy egy AI-rendszer nagyobb, mint egy AI-modell.
A modell az az rész, amely mintázatokat talál az adatokban. Egy AI-rendszer magában foglalja az adatkészletet, a szabályokat, a szoftvereszközöket, a felhasználói felületet, a biztonsági ellenőrzéseket és a modell körüli felülvizsgálati folyamatot is. Üzleti használatban ezeknek a részeknek együtt kell működniük.
Ez a megkülönböztetés fontos. Egy modell írhat szöveget vagy értékelhet egy rekordot. A tágabb rendszer dönti el, milyen adatokat láthat, hová kerül a kimenete, és ellenőrzi-e egy ember az eredményt.
A modell körüli rendszer
Egy egyszerű AI-rendszer fogadhat egy ügyfél üzenetét. Osztályozhatja az üzenetet, megtalálhatja a kapcsolódó rekordokat, összeállíthat egy választ, és elküldheti a tervezetet egy munkatársnak. Minden lépésnek megvan a maga szerepe.
A modell azonosíthatja a témát. Egy adatszolgáltatás biztosíthatja a korábbi üzeneteket. Egy szabálymotor blokkolhatja a személyes adatokat. Egy másik rendszer rögzítheti az eredményt. Egy ember jóváhagyhatja a végső választ.
Ezért néz ki sok AI-munka úgy, mint rendszermérnöki tevékenység. A modell csak egy része a folyamatnak.
Egy hasznos AI-rendszernek világos feladata van. Ugyancsak világos helye van az üzleti folyamatban. Például egy rendszer besorolhatja a bejövő dokumentumokat, mielőtt egy munkatárs átnézné őket. Segíthet a belső információk keresésében. Jelölhet szokatlan tevékenységet további ellenőrzések céljából.
Nem minden ilyen feladat igényel ugyanolyan típusú modellt. Egyesek gépi tanulást használnak pontszámok vagy előrejelzések számára. Egyesek nyelvi modelleket használnak szöveg létrehozására vagy osztályozására. Egyesek mindkettőt kombinálják fix üzletszabályokkal.
A választ a feladat határozza meg. Egy nyelvi modell segíthet egy rekord magyarázatában. Rosszul illeszkedhet egy szigorú számítás esetén. Egy fix szabály jobb lehet, amikor a válasznak ismert feltételhez kell igazodnia.
Ez az egyik első pont, amelyet akkor használunk, amikor az alkalmazott AI-ról gondolkodunk. A kérdés nemcsak az, „Képes-e egy modell ezt csinálni?” A jobb kérdés az, „Milyen szerepet kell betöltenie a modellnek a teljes folyamatban?”
Hogyan működik egy AI-rendszer
Egy AI-rendszer általában egy sor szakaszon megy keresztül.
Először a rendszer bemenetet kap. Ez lehet szöveg, kép, hangfájl, adatbázis-rekord vagy érzékelő mérés.
Ezután a modell feldolgozza azt a bemenetet. Tanítás során a modell mintázatokat tanul példákból. Használat közben ezeket a mintázatokat alkalmazza új bemenetekre.
A rendszer ezután visszaküld egy kimenetet. Előállíthat egy pontszámot, címkét, összefoglalót, ajánlást vagy generált szöveget.
Ezután a kimenet belép egy üzleti folyamatba. Indíthat egy üzenetet, frissíthet egy rekordot, támogathat egy döntést, vagy várhat emberi felülvizsgálatra.
Az utolsó szakaszt gyakran kihagyják. A rendszert indítás után figyelni kell. Az adatok változhatnak. A felhasználói viselkedés változhat. Egy modell jól teljesíthet tesztelés közben, de rosszul teljesíthet egy új környezetben.
Az OECD leír egy AI-rendszer élettartamot, amely magában foglalja a tervezést, az adatmunkát, a modellépítést, a tesztelést, a telepítést, a monitorozást és a kivonást. Ezek a lépések ismétlődhetnek, és nem mindig történnek egyenes vonalban.
Ez a nézet hasznos, mert a működtetést a rendszer részének tekinti. Egy modell nem készül el, amikor először ad egy választ. Viselkedését még mindig felül kell vizsgálni.
Gyakorlati szempontból a monitorozás tartalmazhat hibaelemzéseket, hozzáférésnaplókat, válasz-mintákat, költségkövetést és felhasználói visszajelzéseket. A pontos ellenőrzések a rendszertől és attól a kártól függenek, amelyet egy hiba okozhatna.
Egy beljegyzéseket szerkesztő rendszer más kockázati szinttel jár, mint az, amely döntéseket segít hozni hozzáférésről, biztonságról vagy pénzügyekről. A tervezésnek tükröznie kell ezt a különbséget.
A szigorú határ
Az AI-rendszerek hasznos eredményeket tudnak előállítani anélkül, hogy emberi értelemben megértenék a feladatot. Mintázatokat detektálnak az adatokból, és ezeket a mintázatokat használják kimenet létrehozására.
Ez alapvető határt teremt. Egy folyékony válasz mégis lehet hamis. Egy magabiztos pontszám mégis rossz adatokat tükrözhet. Egy rendszer ismétlődhet is a tanító- vagy működési adataiban talált torzítást.
A kockázat nem korlátozódik a téves információkra. Más problémák közé tartoznak az adatlopások, a gyenge hozzáférés-ellenőrzések, a tisztázatlan felelősség és a valós munkával való rossz illeszkedés. Egy rendszer technikai szempontból lenyűgöző lehet, és mégis kudarcot vallhat üzleti folyamatként.
A NIST számos minőséget sorol fel, amelyek a megbízható AI-hoz kapcsolódnak. Ezek közé tartozik a megbízhatóság, biztonság, biztonsági intézkedések, elszámoltathatóság, átláthatóság, adatvédelem és méltányosság. Egyetlen minőség sem old meg minden problémát. Mindegyiket figyelembe kell venni abban a környezetben, ahol a rendszer működik.
Az emberi felülvizsgálatnak is vannak határai. Egy ember jóváhagyhat gyenge kimeneteket, amikor a rendszer megbízhatónak tűnik. A felülvizsgálat akkor működik a legjobban, ha a felülvizsgálónak elegendő kontextusa, ideje és hatalma van egy eredmény elutasítására vagy javítására.
A felülvizsgálat szükségessége is változik a feladattól függően. Egy alacsony kockázatú tervezet lehet, hogy könnyű ellenőrzést igényel. Egy nagy hatású döntés lehet, hogy erősebb ellenőrzéseket, világos naplózást és egy módot igényel a rendszer leállításához.
Még mindig bizonytalanság övezi, hogyan kell mérni sok AI-rendszer minőséget. A pontosság könnyen mérhető lehet egy feladatra. A méltányosság, az értelmezhetőség és a valós-world hatás nehezebb lehet. Egy jó tesztkészlet nem képviselhet minden felhasználót vagy jövőbeli állapotot.
Ennek okán az AI-rendszereket a teljes környezetükben kell bírálni. Egy modellpontszám önmagában nem mutatja meg, hogy a rendszer biztonságos, hasznos vagy alkalmas-e munkára.
A gyakorlati minta egyszerű: határozza meg a feladatot, korlátozza a rendszer szerepét, tesztelje a teljes folyamatot, és figyelje használat közben. Ez nem szünteti meg a bizonytalanságot. Könnyebbé teszi a bizonytalanság látását és kezelését.
A fő gondolat érdemes szem előtt tartani. Az AI nem egyetlen funkció, amelyet egy üzletbe helyezünk. Ez egy működő rendszer, amely adatokból, modellekből, szoftverből, szabályokból, emberekből és ellenőrzésekből áll.
Az EuroOpnál ez a rendszer-nézet formálja általános mérnöki perspektívánkat. Az alkalmazott AI akkor működik a legjobban, amikor a modellnek világos feladata van, és a körülötte lévő folyamatnak világos határai vannak. Az eredményt a teljes folyamat minősége alapján kell bírálni, nem a modell lenyűgöző minta előállításának képessége alapján.
Ez a gyakorlati tanulság az AI-rendszerekből is: tervezze meg az utat a kimenet körül, mielőtt magát a kimenetet bírálná. Az EuroOp Insights folytatja ezt a fókuszálást, megosztva egy alkalmazott K+F mintát és egy gyakorlati tanulságot az EuroOp termékei mögötti csővezetékről.