Včera 16:24
QNAP uvádí platformu pro centralizovanou správu lokálních i cloudových AI modelů na NAS
QNAP představil novou platformu AI Service Center, která umožňuje centralizovanou správu lokálních i cloudových AI modelů na NAS. Nová platforma, která je zatím uvedena jako beta, usnadní správu AI modelů, API klíčů a limity výdajů na jednom místě. Díky centralizované správě AI s jedním vstupním bodem již není nutné nastavovat připojení k AI modelům a službám pro každou aplikaci NAS zvlášť.
Prostřednictvím jednotného rozhraní AI Service Center mohou administrátoři jednoduše spravovat lokální AI modely a zároveň dohlížet na využívání předních cloudových AI služeb, jako jsou OpenAI, Azure OpenAI, Gemini a Claude.
S tím, jak se generativní AI stále více začleňuje do ekosystému QNAP NAS, mohou aplikace NAS jako AI asistent QuAgent a sémantické vyhledávání Qsirch využívat AI prostřednictvím jednotného propojení – bez nutnosti samostatně vybírat AI modely nebo spravovat API klíče pro každou aplikaci zvlášť. Při použití lokálních modelů zůstávají požadavky i odpovědi na NAS, což chrání soukromí citlivých dat. Pokud jsou zvoleny cloudové služby, mají administrátoři kontrolu nad limity výdajů, dostupnými modely i záznamem každého volání.
„S rostoucím počtem AI aplikací provozovaných na NAS potřebují administrátoři jasný přehled o tom, které modely jsou využívány, kam směřují data a jaké náklady jejich provoz přináší,“ říká Vivian Luo, produktová manažerka společnosti QNAP. „AI Service Center sdružuje všechny tyto informace na jednom místě, což umožňuje firmám i jednotlivcům využívat AI s jistotou a zároveň mít pod kontrolou, kde jsou jejich data zpracovávána a kdo o tom rozhoduje.“
Mezi hlavní funkce AI Service Center patří:
- Knihovna lokálních modelů: Umožňuje snadno vybrat AI modely ze seznamu ověřeného společností QNAP a určit, zda budou využívat processor (CPU), grafickou kartu (GPU), integrovanou grafiku (iGPU) nebo neurální processor (NPU). Systém je automaticky stáhne a načte na pozadí.
- Poskytovatelé cloudu: Umožňuje nastavit měsíční rozpočty a prahové hodnoty upozornění pro připojení k OpenAI, Azure OpenAI, Gemini, Claude a dalším rozhraním pomocí API klíčů, které jsou uloženy pouze lokálně na NAS.
- Směrování aplikací: Aplikace jsou po instalaci automaticky zaregistrovány. Na jediné stránce mohou správci přiřazovat AI modely jednotlivým funkcím a rozhodovat, zda jim povolí přístup ke cloudovým služnám. Stačí vše nakonfigurovat jednou a zvolené nastavení se automaticky uplatní ve všech aplikacích.
- Záznamy aktivit: AI Service Center zaznamenává čas, aplikaci, použitý model, funkci, počet tokenů, náklady a latenci každého požadavku. Záznamy lze exportovat do CSV pro snadnou kontrolu a audit.
