Tieto výstupy môžu byť predpoveďami, obsahom, odporúčaniami alebo
Systémy umelej inteligencie sú softvérové systémy, ktoré využívajú dáta na generovanie výstupov. Tieto výstupy môžu predstavovať predpovede, obsah, odporúčania alebo rozhodnutia. Systém prijíma vstup, aplikuje model a vracia výsledok, ktorý môže ovplyvniť osobu, proces alebo stroj.
To je priama odpoveď. Užitočným detailom je, že systém umelej inteligencie je širší než samotný model AI.
Model je tou časťou, ktorá nachádza vzorce v dátach. Systém AI zahŕňa aj zdroj dát, pravidlá, softvérové nástroje, používateľské rozhranie, bezpečnostné opatrenia a proces revízie okolo tohto modelu. Pri podnikovom využití musia tieto časti fungovať spolu.
Toto rozlíšenie má význam. Model môže písať text alebo hodnotiť záznam. Širší systém však rozhoduje o tom, aké dáta môže vidieť, kam sa dostane jeho výstup a či výsledok kontroluje človek.
Systém okolo modelu
Jednoduchý systém AI môže prijať správu od zákazníka. Môže klasifikovať správu, nájsť príbuzné záznamy, vypracovať návrh odpovede a odoslať tento návrh zamestnancovi. Každý krok má svoju úlohu.
Model môže identifikovať tému. Dátová služba môže poskytnúť minulé správy. Engine pravidiel môže blokovať citlivé údaje. Iný systém môže zaznamenať výsledok. Človek môže schváliť konečnú odpoveď.
Preto práca s AI často vyzerá ako systémové inžinierstvo. Model je len jednou súčasťou toku.
Užitočný systém AI má jasnú úlohu. Má tiež jasné miesto v obchodnom procese. Napríklad systém môže triediť prichádzajúce dokumenty predtým, než ich skontroluje zamestnanec. Môže pomôcť pri vyhľadávaní vo vnútorných informáciách. Môže označiť neobvyklú aktivitu na ďalšie kontroly.
Tieto úlohy nepotrebujú všetky rovnaký typ modelu. Niektoré využívajú strojové učenie pre skóre alebo predpovede. Niektoré používajú jazykové modely na vytváranie alebo klasifikáciu textu. Niektoré kombinujú obe s pevnými obchodnými pravidlami.
Voľba závisí od úlohy. Jazykový model môže pomôcť vysvetliť záznam. Môže však byť nevhodný pre prísny výpočet. Pevné pravidlo môže byť lepšie, keď musí byť odpoveď v súlade s známou podmienkou.
Toto je jeden z prvých bodov, ktoré používame pri premýšľaní o aplikovanej AI. Otázka nie je len: „Môže to urobiť model?“ Lepšia otázka znie: „Akú úlohu by mal model hrať v celom procese?“
Ako funguje systém AI
Systém AI zvyčajne prechádza radom etáp.
Najprv systém prijíma vstup. Môže ísť o text, obrázok, zvukový súbor, záznam v databáze alebo nameranú hodnotu zo senzora.
Potom model spracuje tento vstup. Počas tréningu sa model učí vzorce z príkladov. Počas prevádzky aplikuje tieto vzorce na nové vstupy.
Systém následne vráti výstup. Môže vygenerovať skóre, štítok, zhrnutie, odporúčanie alebo generovaný text.
Po tomto kroku vstupuje výstup do obchodného procesu. Môže spustiť správu, aktualizovať záznam, podporiť rozhodnutie alebo počkať na ľudskú revíziu.
Posledná etapa sa často prehliada. Systém musí byť po spustení monitorovaný. Dáta sa môžu meniť. Správanie používateľov sa môže meniť. Model môže dobre fungovať pri testovaní, ale zle v novom prostredí.
OECD opisuje životný cyklus systému AI, ktorý zahŕňa dizajn, prácu s dátami, budovanie modelu, testovanie, nasadenie, monitorovanie a vyraďovanie z prevádzky. Tieto kroky sa môžu opakovať a nemusí vždy prebiehať lineárne.
Tento pohľad je užitočný, pretože považuje prevádzku za súčasť systému. Model nie je hotový, keď prvýkrát vyprodukuje odpoveď. Jeho správanie stále potrebuje revíziu.
V praktických termínoch môže monitorovanie zahŕňať kontroly chýb, protokoly prístupu, vzorky odpovedí, sledovanie nákladov a spätnú väzbu používateľov. Konkrétne kontroly závisia od systému a od škody, ktorú by chyba mohla spôsobiť.
Systém, ktorý tvorí interné poznámky, má inú úroveň rizika než ten, ktorý pomáha pri rozhodovaní o prístupe, bezpečnosti alebo peniazoch. Dizajn by mal odrážať tento rozdiel.
Tvrdý limit
Systémy AI môžu produkovať užitočné výsledky bez toho, aby pochopili úlohu ľudským spôsobom. Detekujú vzorce z dát a používajú tieto vzorce na vytvorenie výstupu.
To vytvára základný limit. Plynulá odpoveď môže byť stále nesprávna. Sebavedomé skóre môže stále odrážať nedostatočné dáta. Systém môže tiež opakovať predsudky nájdené vo svojich trénovacích alebo prevádzkových dátach.
Riziko nie je obmedzené len na falošné informácie. Medzi ďalšie problémy patria úniky dát, slabé kontroly prístupu, nejasná zodpovednosť a nevhodné začlenenie do reálnej práce. Systém môže byť technicky impozantný a napriek tomu zlyhať ako obchodný proces.
NIST uvádza niekoľko kvalít spojených s dôveryhodnou AI. Patria medzi ne spoľahlivosť, bezpečnosť, zabezpečenie, zodpovednosť, transparentnosť, súkromie a férovosť. Žiadna jednotlivá kvalita nevyrieši každý problém. Každú z nich je potrebné zvážiť v prostredí, kde systém funguje.
Ľudská revízia má tiež svoje limity. Človek môže schváliť slabé výstupy, keď systém pôsobí spoľahlivo. Revízia funguje najlepšie, keď má recenzent dostatok kontextu, času a právomocí na zamietnutie alebo opravu výsledku.
Potreba revízie sa tiež mení podľa úlohy. Návrh s nízkym rizikom môže vyžadovať len ľahkú kontrolu. Rozhodnutie s vysokým dopadom môže vyžadovať silnejšie kontroly, jasné záznamy a spôsob, ako systém zastaviť.
Stále existuje nejistota ohľadom toho, ako merať mnoho kvalít systémov AI. Presnosť môže byť pre jednu úlohu ľahké merať. Férovosť, vysvetliteľnosť a dopad v reálnom svete môžu byť ťažšie. Dobrá testovacia sada nemusí reprezentovať každého používateľa ani budúce podmienky.
Z tohto dôvodu by mali byť systémy AI posudzované v ich plnom prostredí. Samotné skóre modelu nezobrazuje, či je systém bezpečný, užitočný alebo vhodný pre prácu.
Praktický vzorec je jednoduchý: definujte úlohu, obmedzte rolu systému, otestujte celý tok a monitorujte ho pri použití. Toto neodstraňuje neistotu. Umožňuje však lepšie vidieť a riadiť túto neistotu.
Hlavná myšlienka stojí za to si ju ponechať na pamäti. AI nie je jedna funkcia vložená do podniku. Je to fungujúci systém pozostávajúci z dát, modelov, softvéru, pravidiel, ľudí a kontrolných mechanizmov.
V spoločnosti EuroOp tento pohľad na systém formuje náš všeobecný inžiniersky pohľad. Aplikovaná AI funguje najlepšie, keď má model jasnú prácu a okolitý proces má jasné limity. Výsledok by sa mal posudzovať podľa kvality celého toku, nie podľa schopnosti modelu vyprodukovať impresívnu ukážku.
To je tiež praktické ponaučenie z systémov AI: navrhnite cestu okolo výstupu ešte pred tým, než posúdite samotný výstup. EuroOp Insights pokračuje v tomto rovnakom zameraní, zdieľa jeden vzor aplikovaného výskumu a vývoja a jedno praktické ponaučenie z pipeline za produktmi spoločnosti EuroOp.