AI agent

Čo to znamená

AI agent je softvér postavený na veľkom jazykovom modeli, ktorý dostane cieľ a sám si rozloží, aké kroky treba urobiť. Na rozdiel od chatbota, ktorý len odpovedá na otázky, agent vie používať nástroje: prehľadať dokumenty, zavolať API iného systému, vyplniť formulár, poslať e-mail či spustiť výpočet.

Od klasickej automatizácie typu RPA sa líši tým, že nejde po pevne naprogramovanom postupe. Keď narazí na neočakávanú situáciu, napríklad chýbajúci údaj na faktúre, vie zmeniť plán, dohľadať informáciu inde alebo sa opýtať človeka. To je jeho sila aj riziko.

Agent je taký spoľahlivý, aké sú jeho nástroje, údaje a oprávnenia. Môže sa pomýliť rovnako ako generatívna AI, na ktorej stojí, s tým rozdielom, že jeho chyba nie je len zlá odpoveď, ale vykonaný krok, napríklad odoslaný e-mail alebo zmenený záznam.

Ako to funguje v praxi

V účtovníctve a administratíve sa agenti používajú na úlohy s jasným vstupom a kontrolovateľným výstupom: vyťaženie údajov z prijatých faktúr, predkontovanie dokladov, párovanie platieb, príprava podkladov k DPH alebo odpovede na rutinné otázky klientov. Výsledok vždy kontroluje človek skôr, než sa zaúčtuje alebo odošle.

Pri nasadení odporúčame začať úzko: jedna úloha, obmedzené oprávnenia a záznam o každom kroku v audit logu. Agent, ktorý môže čítať faktúry, ešte nemusí vedieť posielať platby. Podľa zásady najnižších oprávnení v rámci riadenia prístupov dostane len to, čo na svoju úlohu naozaj potrebuje.

Pred nasadením treba vyjasniť, kam idú údaje. Ak agent spracúva osobné údaje zamestnancov či klientov, dodávateľ AI služby je sprostredkovateľom podľa GDPR a potrebujete s ním zmluvu. Pri niektorých použitiach, napríklad pri výbere zamestnancov, prichádzajú do hry aj povinnosti z aktu o umelej inteligencii.

Na čo si dať pozor

Najväčším rizikom je dať agentovi právo vykonať nezvratný krok bez schválenia, napríklad odoslať platbu či zmazať záznamy. Aj pri vysokej presnosti sa pri stovkách operácií chyba skôr či neskôr objaví, a ak ju nikto nezachytí, náprava stojí viac, než ušetrila automatizácia.

Druhým rizikom je podvrhnutý obsah. Agent, ktorý číta e-maily či dokumenty, môže v nich natrafiť na skryté pokyny, ktoré ho zmanipulujú, napríklad aby zmenil číslo účtu dodávateľa. Preto zmeny kmeňových údajov a platieb vždy overuje človek inou cestou, rovnako ako pri podvodoch typu BEC.