Proč se podniková AI infrastruktura nedaří škálovat?
Krátká odpověď nezní „kvalita modelu“. Problém tkví v namáhání systému, které nastane, když rychlé experimenty narazí na skutečná firemní pravidla, reálný objem dat a požadavky na nepřetržitou dostupnost. Systém, který při ukázce funguje hladce, se může pod denní zátěží, nasazením napříč týmy, auditorským tlakem nebo globálním provozem rychle rozpadnout.
Podniková AI infrastruktura musí najednou vykonávat několik úkolů. Musí přesunovat rozsáhlé datové sady, obsluhovat řadu týmů, chránit citlivé záznamy, propojovat se se staršími podnikovými systémy a udržovat stabilitu ve chvílích, kdy je na ni závislý běžný provoz firmy. Právě proto nejde při škálování tak moc o jeden výkonný server, ale o pět klíčových komponent, které spolu tvoří celek.
1. Škálovatelný výpočetní výkon a úložiště
První komponenta zní jednoduše, její realizace je však náročná. AI systémy potřebují dostatek výpočetního výkonu pro trénink, ladění a produkční nasazení modelů bez častých úzkých hrdel. K tomu ještě úložiště šitá na míru dané úloze – rychlé vrstvy pro právě běžící práce a cenově výhodnější vrstvy pro starší data.
V praxi to obvykle znamená distribuované klastry GPU či TPU, pružnou cloudovou kapacitu a vrstvené úložiště. Aktivní („hot“) data mohou sídlit na discích NVMe. Sdílená data pro trénink mohou být uložena v objektovém úložišti. Starší záznamy se přesouvají do tzv. studených archivů. Taková architektura brání tomu, aby systém zacházel se všemi soubory stejně, což by vedlo k plýtvání prostředky a zpomalování práce.
Jednoduchý příklad to dává najevo. Firma může každý večer trénovat model pro detekci podvodů na nedávných transakcích a ráno jej nasadit pro živé skórování. Tréninková úloha vyžaduje velký výpočetní výkon ve špičkách a rychlý přístup k čerstvým datům. Produkční služba zase potřebuje rychlé odezvy a stabilní spotřebu paměti. Jedno řešení úložiště či výpočetního výkonu téměř nikdy nesedí na obě potřeby zároveň.
2. Spolehlivost a obnova po havárii
Druhou komponentou je spolehlivost. Podniková AI často stojí v centru kritických obchodních procesů, takže výpadek není jen nepatrnou překážkou. Může přerušit přijímání objednávek, zdržet schvalovací řízení nebo ochromit zákaznický servis.
Právě proto musí plány škálování počítat od začátku s vysokou dostupností, ukládáním kontrolních bodů, automatickým přepínáním (failover) a promyšlenou architekturou obnovy. Služba modelu by neměla spoléhat na jediný stroj, jednu geografickou oblast nebo jeden křehký síťový propojení. Při selhání uzlu musí systém reagovat dostatečně rychle, aby to provoz firmy prakticky nepocítil. V některých případech má smysl i odezva kratší než jedna sekunda, protože volání AI je součástí širší transakce.
Architektura obnovy po havárii musí také odpovídat celkovému rozsahu podnikání. Globální firma pravděpodobně bude potřebovat pokrytí napříč více regiony, protože uživatelé, data i regulační rámce jsou rozprostřeny napříč hranicemi států. Jedna záloha na jednom místě nestačí, když provoz probíhá každý den napříč různými časovými pásmy.
3. Bezpečnost, řízení a soulad s předpisy
Třetí komponentou je kontrola. Podniková AI často nakládá s citlivými informacemi, takže bezpečnost nemůže být dodatečným doplňkem. Přístupy musí být omezovány, všechny akce logovány a data šifrována.
Běžnými stavebními kameny jsou řízení přístupu podle rolí (RBAC), pravidla vázaná na atributy, auditní stopy a architektura zero-trust. Stejně důležité je centralizované řízení šifrovacích klíčů, protože šifrování má smysl jen tehdy, pokud jsou klíče spravovány s patřičnou pečlivostí. Tyto mechanismy umožňují firmě přesně doložit, kdo, kdy a za jakých podmínek ke kterým datům přistoupil.
Soulad s předpisy je nedílnou součástí tohoto systému. Mnoho organizací působí v rámci regulací jako HIPAA, GDPR, SOC 2 nebo PCI DSS. To znamená, že způsob nakládání s daty, jejich archivace i vzorce přístupu musí být koncipovány s ohledem na možnost auditu. Samotné manuální kontroly se při růstu nefungují. Automatizace kontroly souladu umožňuje držet prosazování politík těsně u samotného systému, kde skutečně obstojí i pod vysokou zátěží.
4. Kontrola nákladů a FinOps
Čtvrtou komponentou je disciplína v nákladech. AI infrastruktura může velmi rychle prodrahet, zejména pokud se zbytečně vytěžuje výkon GPU nebo když různé týmy opakují tutéž práci v izolovaných týmech.
Správné škálování využívá sledování zdrojů, plánování úloh, rezervaci kapacity, využití spot trhu tam, kde to riziko dovolí, a modely chargeback nebo showback. Tyto nástroje činí spotřebu transparentní. Zároveň pomáhají týmům identifikovat, které úlohy jsou finančně náročné, které zbytečně čekají, a které by bylo vhodné přesunout na jinou úroveň výpočetního výkonu.
Záleží na tom, protože rozpočty pro AI bývají sdíleny napříč desítkami projektů. Bez pevných kontrol nákladů může experiment jednoho týmu tichou formou vytlačit produkční nasazení jiného týmu. Když mají obě strany přehled, finance a technické oddělení začnou mluvit stejným jazykem. Udržet výdaje v přímé souvislosti se skutečným využitím místo slepého odhadu je pak mnohem snazší.
5. Propojení s existujícími systémy
Pátou komponentou je integrace. Většina organizací již provozuje systémy ERP, CRM, datová skladiště, identity management a workflow nástroje. AI infrastruktura se musí organicky zasadit do tohoto prostředí, nikoliv stát vedle něj jako izolovaný ostrov.
To obvykle znamená využití API, konektorů, streamů událostí a hybridních modelů nasazení. Část úloh zůstává on-premise. Jiné se přesouvají do veřejného cloudu. Některé musí zůstat fyzicky blízko zdroje dat kvůli legislativním požadavkům na residency nebo kvůli latenci. Cílem je zajistit, aby jednotlivé části spolupracovaly bez nutnosti kompletního přepravkování celého podnikového procesu.
Firma, která podporuje terénní týmy, může například ponechat citlivé záznamy ve svých interních systémech a do modelu zasílat pouze agregované feature. Model přitom nadále slouží k predikcím nebo směrování úkolů, aniž by musela firma každý jediný záznam tahat do jedné nové platformy. To je přesně ten princip, kdy integrace tření odstraňuje, místo aby ho přidávala.
Společný vzorec všech pěti komponent
Tyto pět komponent sice představuje samostatné celky, ale ve výsledku tvoří jeden funkční celek. Škálovatelnost závisí na systému, který umí dynamicky přidávat výpočetní výkon, zaručit dostupnost, chránit data, držet náklady pod kontrolou a plynule komunikovat s tím, co již ve firmě běží.
Právěproto mnoho podnikových AI projektů uvízne, když se soustředí výhradně na vývoj modelů. Model je to, co je vidět. Infrastrukturou se drží model užitečný i v reálných podmínkách. Pokud je úložiště pomalé, spolehlivost nízká, kontroly povrchové, náklady zakryté nebo propojení neohrabané, projekt začne trpět dříve, než vůbec dosáhne širšího nasazení.
Praktickým způsobem, jak se k tomu postavit, je položit si pět otázek. Dokáže systém expandovat při zvýšené poptávce? Dokáže zůstat online, když část jeho komponent selže? Dokáže přesně doložit, kdo ke kterým datům přistoupil? Dokáže transparentně zobrazit cenu dané úlohy? Dokáže se propojit s klíčovými obchodními systémy bez fragilního vlastního kódu?
Odpovědi na tyto otázky odhalují podobu připravenosti podniku. Zároveň ukazují, proč je škálování AI úkolem systémového inženýrství, nikoliv pouze úkolem vývoje modelů. Společnost EuroOp LLC to vnímá jako základní ponaučení z aplikovaného výzkumu a vývoje: užitečná AI infrastruktura se buduje jako funkční řetěz, kde každá vrstva podporuje tu následující. EuroOp Insights vychází ze stejného vzoru, přináší jednu aplikovanou lekci z výzkumu a vývoje po druhé a vždy nabízí jeden praktický poznatek z vývojového procesu stojícího za produkty EuroOp LLC.