„Největší rezervu mají firmy ve schopnosti propojit AI s daty a procesy…“
Firmy investují do umělé inteligence, ale většina AI projektů se nikdy nedostane do běžného provozu. Proč mezi úspěšným pilotem a skutečně fungujícím řešením vzniká tak velká propast? O tom, kde podniky při nasazování AI nejčastěji chybují a proč většina AI pilotních projektů nikdy nepřekročí fázi experimentu, hovoří konzultant společnosti Hewlett Packard Enterprise Ladislav Pecen. Uvádí také, jak AI mění požadavky na IT infrastrukturu, jaké nároky přinášejí agentické systémy a proč se dnes do popředí dostává téma datové suverenity.
Ve svém komentáři pro časopis IT Systems jste uvedl, že pouze zhruba jeden z deseti AI pilotů se dostane do ostrého provozu. Co za tím podle vaší zkušenosti stojí nejčastěji?
Číslo jeden z deseti beru spíše jako ilustraci než jako univerzálně platnou statistiku. Ten nepoměr mezi počtem pilotů a skutečně provozovaných řešení je ale zřejmý.
Nejčastěji se podcení rozdíl mezi povedeným demem a produkční službou. Pilot může běžet nad omezenými daty pro několik uživatelů. V ostrém provozu ale musí škálovat, být zabezpečený, monitorovaný a napojený na skutečné firemní procesy.
Například podle průzkumu S&P Global firmy v průměru ukončí až téměř polovinu AI projektů mezi proof of conceptem a širším nasazením. Problém přitom často není v samotném modelu, ale v nepřipravených datech, nejasném přínosu a chybějící platformě pro spolehlivý provoz. U agentů je to ještě výraznější, protože už nejen odpovídají, ale také používají nástroje, přistupují k systémům a provádějí konkrétní kroky.
Nakolik je ta propast problém infrastruktury a architektury a nakolik spíš připravenosti dat a organizace?
Všechny tyto oblasti jsou propojené. Na začátku bývají největší překážkou data a nejasně definovaný přínos projektu. Firma má data rozptýlená v různých systémech, neví přesně, kdo je vlastní, kdo k nim smí přistupovat a za jakých podmínek. A také zda jsou vůbec dostatečně kvalitní.
Jakmile ale pilot začne směřovat do produkce, velmi rychle se přidá infrastruktura. Běžné podnikové IT je typicky optimalizované pro virtualizaci, databáze nebo ERP systémy. AI aplikace mají jiné nároky. Potřebují akcelerátory, rychlý přístup k datům, kontejnerovou platformu, orchestraci, bezpečnostní vrstvy, správu zdrojů a observabilitu.
Třetí část je organizační. AI projekt často vznikne mezi datovým týmem, IT a konkrétním oddělením, ale není jasné, kdo bude odpovědný za jeho dlouhodobý provoz. Model může být technicky kvalitní, ale bez vlastníka procesu a provozních pravidel se do produkce stejně nedostane
Co byste doporučil promyslet jako úplně první krok firmě, která se chystá stavět vlastní AI infrastrukturu?
Nezačínal bych otázkou, kolik koupit GPU. Začal bych konkrétním scénářem a tím, jak má vypadat jeho produkční provoz.
Firma by si měla ujasnit, s jakými modely a daty bude AI pracovat, jak jsou citlivá, kolik lidí bude službu používat, jakou očekává odezvu a co se má stát při výpadku. Také je důležité rozlišit, zda půjde o interního asistenta, analytickou aplikaci, nebo agenta, který bude mít přístup do dalších systémů a bude moci provádět určité akce.
Teprve pak lze načrtnout architekturu a rozhodnout, co má běžet ve veřejném cloudu a co ve vlastním prostředí.
Druhé zásadní rozhodnutí je, zda chce firma celý technologický stack sama poskládat a dlouhodobě provozovat a udržovat, nebo využít již připravenou AI platformu. Řešení typu HPE Private Cloud AI má význam právě v tom, že zjednodušuje vybudování privátního AI prostředí a spojuje infrastrukturu, softwarový podvozek a nástroje pro provoz AI aplikací do jednoho funkčního celku, který je okamžitě využitelný.
Když srovnáte, na co se vás firmy ptaly před rokem a na co se ptají teď: posunula se debata od „co AI umí" k „jak ji provozovat"?
Ano, ten posun je velmi výrazný. Dříve se většina diskusí točila kolem modelů, jejich velikosti a toho, jakého chatbota by firma mohla vytvořit. Dnes se zákazníci mnohem častěji ptají, jak AI napojit na vlastní data, jak řídit přístup uživatelů, kolik bude provoz stát nebo jak zajistit dostupnost služby.Velkým tématem jsou teď agenti a agentické systémy. Firmy už neuvažují jen o AI, která vyhledá informace a připraví odpověď. Zajímají se o systémy, které dokážou rozdělit úkol na kroky, pracovat s více zdroji, volat nástroje a spolupracovat s podnikovými aplikacemi.
Tím se ale diskuse okamžitě posouvá k provozu a bezpečnosti. Pod jakou identitou agent vystupuje? Ke kterým datům smí přistupovat? Jaké úkony může provést samostatně a které musí schválit člověk? To už nejsou otázky kolem samotného modelu, ale kolem celé podnikové architektury.
Jak se obecně za poslední rok změnil přístup firem k AI?
Firmy od AI neustupují, ale mnohem pečlivěji vybírají scénáře, které mají reálný přínos. Místo obecných debat o tom, co všechno AI jednou nahradí, se řeší konkrétní procesy, návratnost investice a hlavně cesta z pilotu do běžného provozu.
Velkým tématem je také takzvaná shadow AI. Zaměstnanci už veřejné AI nástroje používají, často bez vědomí IT a bez jasných pravidel pro práci s firemními daty. Firmy proto hledají způsob, jak jim nabídnout schválené a bezpečné prostředí. S příchodem agentů je to ještě důležitější, protože AI už nemusí jen odpovídat, ale může přistupovat k podnikovým systémům a provádět konkrétní kroky.
Proto stále častěji přichází na řadu vlastní nebo hybridní AI platforma. Neznamená to, že veřejný cloud přestává dávat smysl. Firmy ale chtějí mít pod kontrolou citlivá data, používané modely, identity, oprávnění i náklady. Tento tlak dále posilují požadavky na governance a legislativa včetně evropského AI Actu. Pro organizace, které nechtějí celý technologický stack skládat a integrovat samy pak dávají smysl zmiňované hotové platformy, jako je Private Cloud AI od HPE. Ta umožňuje snadno a rychle vybudovat privátní prostředí pro vývoj a provoz AI aplikací a agentů s jednotnou správou, observabilitou a governance.
Firmy, které dnes rozjíždějí velké AI projekty, se podle expertů fakticky dostávají do světa, jenž dřív patřil jen superpočítačovým centrům. Které principy z návrhu superpočítačů se do běžné firemní infrastruktury přelévají nejrychleji?
Základním principem je, že systém musí být navržený jako celek. Nestačí koupit nejrychlejší GPU, pokud je úložiště nebo síť nedokážou rychle krmit daty. Výsledkem by byla velmi drahá infrastruktura, jejíž nejcennější část většinu času žere proud a naprázdno topí.
Do běžných firem se proto přenáší důraz na rychlý pohyb dat, paralelní zpracování, výkonné sítě, plánování sdílených zdrojů a společný návrh výpočetní, datové a softwarové vrstvy. Velkým tématem je také spotřeba energie, chlazení a využití kapacity.
Druhým principem je automatizace. Takové prostředí už nelze provozovat jako skupinu ručně spravovaných serverů. AI aplikace typicky běží v kontejnerech, využívají Kubernetes, dynamické přidělování akcelerátorů, automatické škálování a podrobný monitoring.
Právě z toho vychází koncept AI Factory. Nejde o jeden server nebo GPU cluster, ale o prostředí navržené od začátku pro vývoj, nasazování, provoz a správu AI aplikací.
Datová suverenita se stala jedním z hlavních důvodů, proč firmy provozují AI ve vlastním datacentru místo veřejného cloudu. Je to podle vás víc o regulaci, nebo o kontrole nad daty?
Podle mě je to hlavně o kontrole. Regulace tento trend urychluje a nutí firmy některé věci lépe dokumentovat, ale potřeba kontroly existuje i bez ní.
Organizace chtějí vědět, kde se jejich data zpracovávají, kdo k nim může přistupovat, zda jsou využívána k dalšímu trénování a pod jakou jurisdikci služba spadá. U citlivých dat je důležitá také kontrola nad modely, šifrovacími klíči, administrátory a celým provozním řetězcem.
S nástupem agentů se význam suverenity ještě zvyšuje. Agent může kombinovat informace z více zdrojů a používat nástroje, které mu umožní zasahovat do reálných procesů. Firma proto potřebuje kontrolovat nejen data, ale i model, oprávnění agenta a prostředí, ve kterém běží.
Neznamená to, že vše musí být on-premises. Veřejný cloud bude dál pro některé scénáře dobrou volbou. U citlivých a dlouhodobě provozovaných AI aplikací ale dává privátní nebo hybridní prostředí stále větší smysl. Vedle suverenity přinese také větší flexibilitu při výběru modelů a předvídatelnější náklady.
Jak se s příchodem AI mění nároky na kontrolu nad daty a infrastrukturou oproti tradičnímu IT?
U klasické aplikace je chování z velké části dané programovým kódem. U AI má na výsledek zásadní vliv také model, kontext a data, která jsou mu v daném okamžiku zpřístupněna.
Nestačí proto sledovat pouze dostupnost serveru a dobu odezvy. Potřebujeme vědět, jaká verze modelu byla použita, z jakých zdrojů čerpal, zda měl uživatel k těmto zdrojům oprávnění a jak kvalitní výsledek systém poskytl. Důležitá je také možnost chování modelu průběžně vyhodnocovat, protože aktualizace modelu nebo dat může ovlivnit výsledky celé aplikace.
U agentických systémů přibývá ještě další vrstva. Je potřeba zaznamenávat, jaké kroky agent provedl, jaké nástroje použil a které operace byly schváleny člověkem. Kontrola se tedy posouvá od zabezpečení jednotlivé aplikace k řízení celého řetězce od uživatele přes model a data až po cílový podnikový systém.
Co byste označil za největší bezpečnostní slepé místo, které firmy při budování vlastní AI infrastruktury přehlížejí?
Často se řeší velmi pokročilá témata, ale přitom se podcení úplné základy. Není třeba výjimkou, že je API modelu vystavené bez dostatečné autentizace nebo není správně oddělený přístup mezi týmy a aplikacemi. Podobně se někdy bere Kubernetes cluster jen jako technický podvozek, místo aby se od začátku navrhoval podle principů zero trust, s řízením identit, síťovou segmentací, správou secretů a auditní stopou.
U agentů je to ještě citlivější. Agent má často přístup k datům, nástrojům a podnikovým systémům, takže jeho identita a oprávnění musí být přesně vymezené. Neměl by používat univerzální servisní účet ani mít širší práva, než skutečně potřebuje.
Největší chyba je podle mě v tom, že se bezpečnost přidává až na konci. U produkční AI musí být součástí platformy od začátku. Právě proto dávají smysl integrovaná řešení typu HPE Private Cloud AI, kde je zabezpečení infrastruktury, řízení přístupu a provozní dohled součástí návrhu, ne dodatečný doplněk.
Kde jsou dnes podle vás české firmy v oblasti AI nejdál a kde naopak nejvíc zaostávají?
České firmy jsou podle mě nejdál v praktickém využití AI pro zvýšení produktivity – při práci s dokumenty, v zákaznické podpoře, marketingu, vývoji softwaru nebo automatizaci interních procesů. Zájem rozhodně nechybí: přibližně polovina firem už AI používá nebo testuje a dalších 40 procent její nasazení plánuje.
Slabší je zatím přechod od jednotlivých nástrojů a pilotů k hlubší změně firemních procesů. Průzkum Deloitte ukazuje, že 85 procent firem vidí přínos hlavně v produktivitě, ale přímý dopad na růst tržeb uvádí jen 18 procent. České podniky tedy AI zatím častěji používají jako nástroj optimalizace než jako motor nové konkurenční výhody.
Největší rezerva podle mě není v ochotě AI zkoušet, ale v tom, co následuje potom. Tedy ve schopnosti propojit ji s firemními daty a procesy, bezpečně ji provozovat a průběžně měřit, zda skutečně přináší očekávaný výsledek. Právě tam se dnes rozhoduje, jestli AI zůstane u několika zajímavých pilotů, nebo se stane běžnou součástí fungování firmy.
