AI vo firme: Najväčším rizikom nie je technológia, ale strata kontroly
Umelá inteligencia už dávno nie je témou budúcnosti. Firmy ju využívajú každý deň. Kľúčovou otázkou dnes nie je, či AI používať, ale ako nad ňou nestratiť kontrolu a ochrániť firemné dáta.
Dátum: 21.07.2026
Kategória: Digitalizácia
Mnohé firmy hovoria, že umelú inteligenciu ešte naplno nevyužívajú. Realita je však často úplne iná. Zamestnanci si už dnes pomáhajú ChatGPT, Gemini či ďalšími AI nástrojmi pri písaní e-mailov, tvorbe ponúk, analýze dát alebo príprave prezentácií. Často však cez súkromné účty, bez jasných pravidiel a bez toho, aby vedenie vedelo, aké firemné informácie do AI vkladajú.
Práve tejto téme sa venoval druhý diel LiveTalks by T Business, v ktorom Daniela Marušáková diskutovala s odborníčkou na ochranu osobných údajov Evou Balogovou o tom, ako môžu firmy využívať AI bezpečne, bez zbytočných rizík a v súlade s GDPR.
AI sa vo firmách používa častejšie, než si manažéri myslia
Jedným z najzaujímavejších momentov celej diskusie bolo zistenie, že medzi tým, čo si myslí manažment, a tým, čo sa vo firmách naozaj deje, často existuje veľký rozdiel.
„Na otázku, či firma používa umelú inteligenciu, osem z desiatich odpovie nie. Keď sa však spýtam, či si ňou zamestnanci nepomáhajú pri práci, odpoveď býva: určite áno,“ opisuje Eva Balogová situáciu, s ktorou sa vo svojej praxi stretáva pravidelne.
Práve tu vzniká fenomén, ktorý odborníci označujú ako Shadow AI. Zamestnanci nechcú firme škodiť. Naopak, snažia sa pracovať efektívnejšie a ušetriť čas. Problémom však je, že firma postupne stráca prehľad o tom, aké AI nástroje sa používajú, aké dáta do nich odchádzajú a či sú tieto informácie dostatočne chránené.
Najväčším rizikom nie je AI, ale strata kontroly
Umelá inteligencia sama osebe nie je hrozbou. Ak je správne nastavená, dokáže výrazne zrýchliť prácu, pomôcť s rutinnými úlohami alebo uľahčiť rozhodovanie. Riziko vzniká až vo chvíli, keď sa používa bez pravidiel.
Typickým príkladom je situácia, keď zamestnanec vloží do verejne dostupného AI nástroja celý e-mail od zákazníka a požiada ho o vytvorenie odpovede. Spolu s obsahom správy však AI dostane aj meno klienta, e-mailovú adresu, telefónne číslo, podpis či ďalšie citlivé údaje. To všetko len preto, že je to jednoduchšie a rýchlejšie.
„Ľudia si chcú uľahčiť prácu. Len si často neuvedomujú, že spolu s otázkou odovzdávajú umelej inteligencii aj údaje, ktoré tam vôbec nemali skončiť,“ upozorňuje Eva Balogová.
Práve preto nestačí riešiť iba technológiu. Dôležitejšie je vedieť, akým spôsobom ju ľudia vo firme používajú.
Zakazovať AI nestačí
Pri umelej inteligencii sa často objavujú dva extrémy. Niektoré firmy ju chcú zakázať úplne, iné ju nechávajú bez akýchkoľvek pravidiel. Ani jeden z týchto prístupov však podľa Evy Balogovej nefunguje. „Kľúčom je vzdelávanie. Keď zamestnanci pochopia, kde sú riziká, oveľa viac chránia firemné know-how aj údaje,“ zaznelo počas LiveTalku.
Ak totiž ľudia nerozumejú tomu, ako AI funguje, veľmi ľahko jej začnú dôverovať viac, než by mali. Môžu do nej vkladať citlivé dokumenty, slepo preberať jej odpovede alebo sa spoliehať na informácie, ktoré si AI jednoducho vymyslela.
Aj preto AI Act zavádza požiadavku na základnú AI gramotnosť ľudí, ktorí s umelou inteligenciou pracujú. Nestačí mať technológiu. Firmy musia zabezpečiť aj to, aby ju zamestnanci vedeli používať zodpovedne.
Ako začať? Nie výberom nástroja, ale správnymi otázkami
Mnoho firiem dnes rieši, či je lepší ChatGPT, Gemini, Copilot alebo iný AI nástroj. Podľa Evy Balogovej je to však až druhý krok. Najprv by si mal manažment odpovedať na oveľa dôležitejšie otázky. Na čo chceme AI vo firme využívať? Kde nám skutočne ušetrí čas? Aké údaje do nej budeme vkladať? Potrebujeme verejný nástroj alebo uzavreté firemné riešenie? A kto bude zodpovedný za kontrolu výstupov?
Až keď má firma jasno v týchto oblastiach, má zmysel vyberať konkrétnu technológiu.
Dôvera sa dnes buduje aj tým, ako firma pracuje s dátami
Počas diskusie zaznela ešte jedna dôležitá myšlienka. GDPR nie je len o splnení legislatívnej povinnosti alebo o ochrane pred pokutami. Je predovšetkým o dôvere. Zákazníci aj obchodní partneri dnes očakávajú, že firma bude s ich údajmi pracovať zodpovedne. A rovnaké očakávania sa postupne prenášajú aj na používanie umelej inteligencie. Nestačí povedať, že AI používame. Dôležité je vedieť vysvetliť, akým spôsobom, na aké účely a aké pravidlá pri tom dodržiavame.
Práve preto sa témy AI, GDPR a kybernetickej bezpečnosti čoraz viac prepájajú. Nie sú to samostatné disciplíny, ale súčasť jednej spoločnej témy – digitálnej dôvery.
AI môže byť veľkou konkurenčnou výhodou
Druhý diel LiveTalks by T Business nebol o tom, prečo sa umelej inteligencie báť. Naopak. Ukázal, že AI môže byť pre firmy významnou konkurenčnou výhodou. Pomáha šetriť čas, zvyšovať efektivitu a odstraňovať rutinné činnosti.
Podmienkou však je, aby firmy nestratili kontrolu nad tým, čo sa u nich deje. Aby vedeli, aké nástroje zamestnanci používajú, aké údaje do nich vkladajú a kde končí firemné know-how. Nie je totiž otázkou, či budú zamestnanci AI používať. Tú už rozhodli sami. Otázkou zostáva iba to, či bude firma pripravená používať ju bezpečne.