Промпт

Що це означає

Промпт - вказівка чи запитання для мовної моделі, що визначає, що вона має зробити, у якому контексті та в якому вигляді відповісти. Це може бути просте запитання чи докладне завдання з роллю, метою, матеріалами, прикладами та потрібним форматом результату.

Якість результату великої мовної моделі сильно залежить від точності промпту й наданих матеріалів. Розмите завдання дає загальну відповідь, чітке з конкретними даними - придатний результат. Складання добрих промптів іноді називають промпт-інжинірингом.

Промпт - спосіб, яким компанія працює з генеративним ШІ під час написання текстів, резюмування документів, аналізу даних чи програмування. В ШІ-агентів промпт стає частиною системних інструкцій, що визначають, як агент діє і якими інструментами може користуватися.

Як це працює на практиці

Добрий промпт містить контекст, наприклад хто читач і для чого текст, конкретне завдання, обмеження на кшталт обсягу чи тону та формат результату. Допомагають і приклади бажаного результату, і вказівка моделі визнавати, коли вона в чомусь не певна.

У компанії варто створювати бібліотеку перевірених промптів для повторюваних завдань, наприклад чернетки відповіді клієнтові, резюме договору чи перевірки тексту. Це забезпечує стабільну якість і полегшує навчання нових людей.

Результат моделі завжди треба перевіряти, особливо у фахових темах, як-от податки, бухгалтерія чи право. Модель може навести неіснуючу статтю чи застарілу ставку, тобто галюцинувати, а за правильність результату відповідає людина, яка його використовує.

На що звернути увагу

До промпту не можна бездумно вставляти персональні дані клієнтів, комерційну таємницю чи конфіденційні документи. У публічних інструментах вміст може використовуватися для навчання чи зберігатися поза ЄС; компанія має мати правила, які інструменти й для яких даних допустимі.

Промпти можуть бути й ціллю атаки. У системах, що обробляють зовнішні тексти, наприклад листи чи вебсторінки, прихована інструкція в тексті може змінити поведінку моделі. Тому під час автоматизації треба обмежувати, що модель може робити без контролю людини.