fb
IT Systems 12/2023 AI a Business Intelligence 31. 1. 2024 10:30

ChatGPT je tu s námi už rok, jeho schopnosti se zvyšují, ale problémy s ochranou dat zůstávají

ChatGPTChatGPT nedávno oslavil první vý­ročí od spuštění, což je příležitostí k zamyšlení nad tím, jak dalece jsme za uplynulý rok pokročili v oblasti AI, a jaké výhody, ale i výzvy nám tato technologie přináší, zejména v oblasti ochrany a zabezpečení dat.

Výročí ChatGPT nám připomíná, jak rychle se umělá inteligence stala klíčovou součástí našeho digitálního světa a využívá ji na 180 milionů aktivních uživatelů. Jako člověk pohybující se léta v IT bych rád zhodnotil významné příležitosti i výzvy, které AI přináší.

Revoluční přínos a velká úspora

ChatGPT poskytuje jedincům, ale i firmám možnost zvýšit svou efektivitu, přesnost, a navíc uspořit náklady. Pomáhá zvýšit efektivitu automatizací konverzací, díky čemuž lze ušetřit čas a zdroje, a dokáže rychle generovat odpovědi. Firmy tak například mohou rychle a přesně odpovídat na dotazy zákazníků, čímž uvolní zdroje a poskytnou zákazníkům personalizovanější služby. Služba dokáže také generovat přesnější odpovědi než manuální konverzace. Je to proto, že je vycvičen na velkém souboru dat, což mu umožňuje pochopit kontext konverzace a generovat vhodné odpovědi. Přesnost a generativní schopnosti výkonného systému zpracování přirozeného jazyka zvyšuje jeho schopnost učit se z vlastních chyb.

A zřejmě největší výhodou využívání je úspora nákladů, kdy systém dokáže generovat odpovědi podobné lidským v reálném čase, což může pomoci snížit potřebu zaměstnanců například v zákaznického servisu. ChatGPT se navíc dokáže v průběhu času učit a zlepšovat, což dále snižuje potřebu nákladných manuálních aktualizací odpovědí chatbotů. Díky těmto vlastnostem je atraktivním řešením pro firmy, které chtějí zlepšit efektivitu a účinnost svých zákaznických služeb.

Není ale vše tak růžové

I přes všechny zmíněné výhody, které nám ChatGPT už rok poskytuje, je však potřeba zdůraznit i možné nevýhody, které je potřeba mít při využívání vždy na paměti. Pokud využíváte nějakou službu, která je založena na umělé inteligenci, je třeba se dívat na to, jakým způsobem bude zacházeno s vašimi daty. Velmi často může nastat, že vaše i citlivá data budou použita pro další trénink a mohou se tedy dostat do rukou dalších lidí využívající toto AI řešení.

Jedním z hlavních rizik je únik citlivých dat. Toto nebezpečí není omezeno pouze na AI služby, ale je to obecný problém v IT. Je třeba mít komplexní strategii pro práci s daty, zahrnující procesní, právní a technické aspekty. Firmy by měly definovat odpovědné osoby za jednotlivé části tohoto procesu a pravidelně procvičovat scénáře pro případ bezpečnostních incidentů. V rámci EU poskytuje GDPR solidní základ pro práci s daty. Pro implementaci kvalitních a komplexních řešení je však nutná spolupráce s odborníky. Společnosti jako OpenAI jsou transparentní ohledně svého nakládání s daty, což je vzorový přístup.

I přesto byl ChatGPT během tohoto roku spojován se dvěma inciden­ty týkající se úniku citlivých dat. Za prvním z nich stála chyba v knihovně s otevřeným zdrojovým kódem, která umožnila uživatelům neúmyslně nahlédnout do historie chatu a platebních informací jiných uživatelů. Tento incident odhalil omezenou historii chatů a citlivé platební údaje neurčitého počtu uživatelů. Druhý nebyl způsoben vinou OpenAI, ale zaměstnanců společnosti Samsung, kdy se objevily zprávy o tom, že zaměstnanci společnosti používali ChatGPT k práci s citlivými informacemi, což vedlo k obavám o únik dat. V reakci na tyto zprávy Samsung zakázal svým zaměstnancům používání ChatGPT a dalších generativních nástrojů umělé inteligen­ce. ChatGPT totiž ukládá data, která jsou mu poskytnuta, aby mohl rozšiřovat své znalosti v různých oblastech. Pokud jsou data jednou odeslána, jsou ukládána na externích serverech, ke kterým společnost nemá přístup a nemůže je získat zpět nebo smazat.

Na závěr chci zdůraznit, že využívání AI, jako je ChatGPT, v podnikání přináší nejen příležitosti, ale i zodpovědnost za správné nakládání s daty. Transparentnost, pravidelné školení a pečlivé procesy jsou klíčem k ochraně dat v digitálním věku. Je důležité, aby provozovatelé a uživatelé umělé inteligence dodržovali příslušné zásady ochrany dat a bezpečnostní postupy, aby minimalizovali riziko úniku dat. A pokud pracujete s citlivými informacemi, měli byste být opatrní při používání ChatGPT a podobných nástrojů umělé inteligence a dodržovat příslušné bezpečnostní postupy.

Václav Faraga Václav Faraga
Autor je zakladatelem a CEO IT společnosti Able.

Kalendář akcí
Konference - Semináře - Školení
Časopis IT Systems/Speciál
Aktuální číslo časopisu IT Systems Aktuální číslo časopisu příloha #1
Archív časopisu IT Systems
IT Systems 1-2 IT Systems 12 IT Systems 11 IT Systems 10
Archív časopisu IT Systems Special
Aktuální číslo časopisu příloha #1 Aktuální číslo časopisu příloha #1 Aktuální číslo časopisu příloha #1 Aktuální číslo časopisu příloha #1