Prompt

Čo to znamená

Prompt je pokyn alebo otázka pre jazykový model, ktorá určuje, čo má urobiť, v akom kontexte a v akej podobe má odpovedať. Môže to byť jednoduchá otázka, ale aj podrobné zadanie s rolou, cieľom, podkladmi, príkladmi a požadovaným formátom výstupu.

Kvalita výsledku z veľkého jazykového modelu veľmi závisí od presnosti promptu a od dodaných materiálov. Vágne zadanie vedie k všeobecnej odpovedi, jasné zadanie s konkrétnymi údajmi k použiteľnému výstupu. Tvorba dobrých promptov sa niekedy nazýva prompt engineering.

Prompt je spôsob, akým firma pracuje s generatívnou AI pri písaní textov, sumarizácii dokumentov, analýze dát či programovaní. Pri AI agentoch sa prompt stáva súčasťou systémových inštrukcií, ktoré riadia, ako agent koná a aké nástroje môže použiť.

Ako to funguje v praxi

Dobrý prompt obsahuje kontext, napríklad kto je čitateľ a na čo text slúži, konkrétnu úlohu, obmedzenia ako dĺžku či tón a formát výstupu. Pomáhajú aj príklady želaného výsledku a pokyn, aby model priznal, keď si niečím nie je istý.

Vo firme sa oplatí budovať knižnicu overených promptov pre opakované úlohy, napríklad návrh odpovede klientovi, zhrnutie zmluvy či kontrolu textu. Zaručuje to konzistentnú kvalitu a uľahčuje zaškolenie nových ľudí.

Výstup modelu treba vždy skontrolovať, najmä pri odborných témach ako dane, účtovníctvo či právo. Model môže uviesť neexistujúci paragraf alebo zastaranú sadzbu, teda halucinovať, a za správnosť výsledku zodpovedá človek, ktorý ho použije.

Na čo si dať pozor

Do promptu sa nesmú bez rozmyslu vkladať osobné údaje klientov, obchodné tajomstvá či dôverné dokumenty. Pri verejných nástrojoch môže byť obsah použitý na ďalší tréning alebo uložený mimo EÚ; firma by mala mať pravidlá, ktoré nástroje a na aké údaje sa smú používať.

Prompty môžu byť aj cieľom útoku. Pri systémoch, ktoré spracúvajú externé texty, napríklad e-maily či webové stránky, môže skrytý pokyn v texte zmeniť správanie modelu. Pri automatizácii preto treba obmedziť, čo smie model urobiť bez ľudskej kontroly.