Промпт

Что это значит

Промпт - указание или вопрос для языковой модели, определяющий, что она должна сделать, в каком контексте и в каком виде ответить. Это может быть простой вопрос или подробное задание с ролью, целью, материалами, примерами и требуемым форматом результата.

Качество результата большой языковой модели сильно зависит от точности промпта и предоставленных материалов. Расплывчатое задание даёт общий ответ, чёткое с конкретными данными - пригодный результат. Составление хороших промптов иногда называют промпт-инжинирингом.

Промпт - способ, которым компания работает с генеративным ИИ при написании текстов, резюмировании документов, анализе данных или программировании. У ИИ-агентов промпт становится частью системных инструкций, определяющих, как агент действует и какими инструментами может пользоваться.

Как это работает на практике

Хороший промпт содержит контекст, например кто читатель и для чего текст, конкретную задачу, ограничения вроде объёма или тона и формат результата. Помогают и примеры желаемого результата, и указание модели признавать, когда она в чём-то не уверена.

В компании стоит создавать библиотеку проверенных промптов для повторяющихся задач, например черновика ответа клиенту, резюме договора или проверки текста. Это обеспечивает стабильное качество и облегчает обучение новых людей.

Результат модели всегда нужно проверять, особенно в профессиональных темах, таких как налоги, бухгалтерия или право. Модель может привести несуществующую статью или устаревшую ставку, то есть галлюцинировать, а за правильность результата отвечает человек, который его использует.

На что обратить внимание

В промпт нельзя бездумно вставлять персональные данные клиентов, коммерческую тайну или конфиденциальные документы. В публичных инструментах содержимое может использоваться для обучения или храниться вне ЕС; у компании должны быть правила, какие инструменты и для каких данных допустимы.

Промпты могут быть и целью атаки. В системах, обрабатывающих внешние тексты, например письма или веб-страницы, скрытая инструкция в тексте может изменить поведение модели. Поэтому при автоматизации нужно ограничивать, что модель может делать без контроля человека.