AI agent
AI agent je softvér postavený na umelej inteligencii, ktorý nielen odpovedá, ale aj koná. Dostane cieľ formulovaný v bežnom jazyku, rozloží si ho na kroky, použije dostupné nástroje a vráti výsledok. Na rozdiel od asistenta, ktorý čaká na každú ďalšiu inštrukciu, agent postupuje samostatne a priebežne vyhodnocuje, či sa k cieľu približuje.
Chatbot je určený predovšetkým na komunikáciu s používateľom. Môže odpovedať na otázky, poskytovať informácie a prostredníctvom prepojených systémov vykonávať aj jednoduché úkony. AI agent sa odlišuje najmä schopnosťou samostatne plánovať a realizovať viacero krokov smerujúcich k zadanému cieľu.Klasická automatizácia zasa presne vykonáva vopred určené pravidlá: keď nastane podmienka, spustí sa krok. Je spoľahlivá, no nedokáže sa vysporiadať so situáciou, ktorú autor pravidla nepredvídal.
AI agent môže kombinovať schopnosti jazykového modelu s nástrojmi klasickej automatizácie. Na rozdiel od pevne stanoveného pracovného postupu dokáže v rámci určených pravidiel samostatne plánovať a prispôsobovať jednotlivé kroky zadanému cieľu. Táto voľnosť je zároveň jeho hlavným rizikom, pretože pri chybnom odhade môže vykonať nesprávnu akciu rýchlo a opakovane.
Z čoho sa agent skladá
Model - Jazykový model, ktorý rozumie zadaniu a navrhuje ďalší krok.
Nástroje - Prístup k systémom, s ktorými agent pracuje: vyhľadávanie, kalendár, databáza, firemná aplikácia, odoslanie správy.
Pamäť - Záznam toho, čo už urobil a čo zistil, aby neopakoval tie isté kroky.
Pravidlá a limity - Čo smie, čoho sa nesmie dotknúť a kedy musí požiadať o potvrdenie.
Posledná položka býva v praxi najdôležitejšia. Agent bez jasne vymedzených hraníc je rizikom aj vtedy, keď model pracuje správne.
Kde má zostať rozhodnutie na človeku
Pri úlohách, ktoré sa dajú ľahko vrátiť späť, teda príprava podkladu, roztriedenie dokumentov alebo návrh odpovede, môže agent pracovať samostatne a človek skontroluje až výsledok.
Pri krokoch s následkami mimo systému to neplatí.
Pri úkonoch, ktoré môžu mať významné právne, finančné alebo bezpečnostné následky, je potrebné zabezpečiť primeranú mieru ľudského dohľadu. Pri platbách, zmenách zmluvných podmienok, zásahoch do produkčného prostredia alebo spracúvaní citlivých údajov sa má rozsah autonómie agenta a potreba schválenia konkrétnych úkonov určiť podľa rizík, právnych požiadaviek a interných pravidiel organizácie.Vždy musí byť jasné, kto za výsledok zodpovedá a ako sa dá krok vrátiť.
Pri nasadení vo firme sa odporúča začať s obmedzeným rozsahom oprávnení, zabezpečiť primerané zaznamenávanie činností agenta na účely kontroly a bezpečnosti a rozsah autonómie postupne rozširovať na základe vyhodnotenia jeho spoľahlivosti a rizík. Pri zaznamenávaní činností je potrebné dodržiavať pravidlá ochrany a minimalizácie údajov.
AI asistent a firemné nasadenie v Telekome
Zákazníci Telekomu majú v Telekom aplikácii bezplatne k dispozícii asistenta Magenta AI, ktorý pomáha pri vyhľadávaní informácií, vysvetľovaní tém, prekladoch aj tvorbe textov a pri odpovediach zobrazuje zdroje.
Nasadenie agentov vo firme je okrem výberu nástroja najmä otázkou prístupov a dát. Kto sa smie k čomu dostať, ako sú chránené firemné systémy a kde dáta ležia, rieši komplexná IT bezpečnosť spolu s cloudovými riešeniami a servermi. Povinnosti, ktoré pre nasadenie AI vyplývajú z európskej legislatívy, zhŕňa záznam AI Act.