AI act
AI Act je nariadenie Európskej únie, ktoré stanovuje jednotné pravidlá pre vývoj, uvádzanie na trh a používanie systémov umelej inteligencie. Jeho cieľom je podporiť dôveryhodné inovácie a zároveň chrániť zdravie, bezpečnosť a základné práva ľudí. Na rozdiel od smernice sa nariadenie uplatňuje priamo vo všetkých členských štátoch vrátane Slovenska. Nariadenie vstúpilo do platnosti 1. augusta 2024 a uplatňuje sa postupne. Zákazy vybraných neprijateľných praktík sa uplatňujú od februára 2025, pravidlá pre modely umelej inteligencie na všeobecné účely od augusta 2025 a veľká časť ďalších ustanovení od 2. augusta 2026. Povinnosti pre vybrané vysokorizikové použitia boli predĺžené: pravidlá pre oblasti uvedené v prílohe III sa majú uplatňovať od 2. decembra 2027 a pre AI zabudovanú do regulovaných výrobkov od 2. augusta 2028.
Rozsah povinností závisí najmä od rizika konkrétneho použitia a od úlohy organizácie. AI Act rozlišuje zakázané praktiky s neprijateľným rizikom, vysokorizikové systémy, riešenia s osobitnými požiadavkami na transparentnosť a použitia s minimálnym rizikom.
• Neprijateľné riziko zahŕňa vybrané manipulatívne alebo zneužívajúce praktiky a ďalšie spôsoby použitia, ktoré nariadenie zakazuje.
• Vysoké riziko sa môže týkať AI používanej napríklad v kritickej infraštruktúre, vzdelávaní, zamestnávaní, prístupe k vybraným službám, presadzovaní práva alebo migrácii. Pre tieto systémy platia prísnejšie požiadavky na riadenie rizík, dáta, dokumentáciu, dohľad človeka, presnosť a kybernetickú bezpečnosť.
• Transparentnosť je dôležitá pri interakcii s chatbotom a pri vybranom AI generovanom alebo manipulovanom obsahu. Používateľ má v určených prípadoch vedieť, že komunikuje so systémom AI alebo že obsah bol umelo vytvorený či upravený.
• Minimálne riziko zahŕňa bežné použitia, pri ktorých nariadenie neurčuje porovnateľne rozsiahle povinnosti. Aj pri nich však zostávajú dôležité pravidlá ochrany osobných údajov, bezpečnosti a interného riadenia.
Koho sa AI Act týka a čo majú firmy pripraviť
Povinnosti sa líšia podľa toho, či firma AI systém vyvíja a poskytuje, dováža, distribuuje alebo ho používa vo vlastných procesoch. Organizácia, ktorá nasadí externý nástroj na nábor, zákaznícku podporu či vyhodnocovanie údajov, môže mať inú zodpovednosť než jeho výrobca, no stále musí poznať účel použitia, riziká a podmienky prevádzky.
• Zmapujte používané AI nástroje vrátane riešení, ktoré si tímy zaobstarali bez centrálneho schválenia.
• Určte úlohu firmy a rizikovú kategóriu pri každom použití a overte, ktoré povinnosti a termíny sa naň vzťahujú.
• Nastavte riadenie prístupov a dát, aby sa citlivé alebo osobné údaje neposielali do neschválených nástrojov.
• Zabezpečte dokumentáciu a ľudský dohľad primerane k riziku a pripravte proces na hlásenie a riešenie incidentov.
• Preverte dodávateľov a zmluvy vrátane informácií o použitých modeloch, umiestnení dát, bezpečnostných opatreniach a rozdelení zodpovednosti.
Technická a bezpečnostná pripravenosť s Telekomom
Súlad s AI Actom nie je iba technická otázka a vyžaduje právne, procesné aj organizačné posúdenie. Dôležitou súčasťou je však bezpečná infraštruktúra, riadenie identít a prístupov, ochrana dát, monitoring a pripravenosť na incidenty. Komplexná IT bezpečnosť od Telekomu prepája identifikáciu rizík, ochranu, detekciu, reakciu a obnovu do riešenia prispôsobeného firemnej infraštruktúre.
Pri zavádzaní AI vo firme môže Telekom pomôcť aj návrhom a prevádzkou vhodných ICT riešení, od konektivity a cloudu až po monitoring a ochranu dát. Technické služby podporujú plnenie bezpečnostných požiadaviek, nenahrádzajú však individuálne právne posúdenie povinností podľa konkrétnej úlohy firmy a spôsobu použitia umelej inteligencie.