LLM (veľký jazykový model)
LLM je skratka z anglického Large Language Model, teda veľký jazykový model. Ide o typ modelu umelej inteligencie natrénovaný na veľkom množstve textu, ktorý dokáže spracovať zadanie v bežnom jazyku a vytvoriť naň odpoveď. Jazykové modely stoja za chatovacími asistentmi, prekladačmi, nástrojmi na zhrnutie dokumentov aj za funkciami, ktoré navrhujú pokračovanie textu. Model nefunguje ako klasická databáza faktov. Odpovede spravidla generuje na základe vzorcov a súvislostí naučených počas trénovania, pričom môže v niektorých prípadoch reprodukovať aj časti trénovacích údajov.
Text sa pred spracovaním rozdelí na menšie jednotky, takzvané tokeny. Počas trénovania model opakovane odhaduje, ktorý token by mal nasledovať, porovnáva odhad so skutočnosťou a postupne upravuje svoje vnútorné parametre. Po mnohých opakovaniach zachytí gramatiku, štýl, vzťahy medzi pojmami aj značnú časť všeobecných znalostí obsiahnutých v trénovacích dátach.
Pri používaní model dostane zadanie a generuje odpoveď token po tokene, pričom každý ďalší vyberá na základe predchádzajúcich. Koľko textu dokáže naraz brať do úvahy, určuje kontextové okno. Ak konverzácia alebo dokument presiahne kapacitu kontextového okna, časť informácií nemusí byť pri tvorbe odpovede priamo dostupná. Niektoré nástroje preto starší obsah skracujú alebo sumarizujú, čo môže ovplyvniť presnosť následných odpovedí.
Prečo si model vymýšľa
Model odhaduje pravdepodobné pokračovanie textu, nie overenú pravdu. Keď fakt nepozná alebo má v dátach medzeru, dokáže vytvoriť odpoveď, ktorá znie presvedčivo, ale nie je správna. Tomuto javu sa hovorí halucinácia. Prejaviť sa môže vymysleným číslom, nesprávnym dátumom, neexistujúcim zdrojom alebo odkazom, ktorý nikam nevedie.
1. Zadajte presne, čo potrebujete - Uveďte kontext, rozsah a formu odpovede. Všeobecná otázka dáva priestor na domýšľanie.
2. Pýtajte si zdroje a kontrolujte ich - Pri citácii overte, že dokument alebo odkaz existuje a naozaj tvrdenie podporuje.
3. Dôležité fakty si potvrďte inde - Zdravotné, právne, finančné a bezpečnostné informácie porovnajte s pôvodným zdrojom.
Čo s modelom nezdieľať
Do verejných AI nástrojov nevkladajte heslá, prihlasovacie údaje, dôverné firemné dokumenty ani iné citlivé informácie. Osobné údaje zadávajte iba vtedy, ak je ich spracúvanie oprávnené, nevyhnutné a v súlade s pravidlami ochrany osobných údajov. Pred použitím nástroja si overte podmienky spracúvania a zabezpečenia údajov. Pred použitím si overte, ako služba nakladá so vstupmi a či ich využíva na ďalšie trénovanie. Vo firemnom prostredí má pravidlá pre prácu s jazykovými modelmi určiť zamestnávateľ, nie jednotlivý používateľ.
Magenta AI a bezpečná práca s jazykovým modelom
Zákazníci Telekomu môžu bezplatne využívať asistenta Magenta AI priamo v Telekom aplikácii. Asistent pri odpovediach zobrazuje zdroje, ktoré používateľovi umožňujú overiť si uvedené informácie. Samotné zobrazenie zdroja však nezaručuje správnosť odpovede, preto je vhodné skontrolovať aj jeho obsah a aktuálnosť.
Pre firmy je práca s jazykovými modelmi aj otázkou riadenia prístupov a ochrany dát. Pravidlá, ktoré určujú, čo smie zamestnanec do nástroja vložiť, patria k širšej komplexnej IT bezpečnosti spolu so správou identít, zálohovaním a ochranou koncových zariadení.