ИИ-агент

Что это значит

ИИ-агент - это программа на основе большой языковой модели, которая получает цель и сама раскладывает, какие шаги нужно сделать. В отличие от чат-бота, который только отвечает на вопросы, агент умеет пользоваться инструментами: искать в документах, вызывать API другой системы, заполнять форму, отправлять письмо или запускать расчёт.

От классической автоматизации вроде RPA он отличается тем, что не идёт по жёстко запрограммированному сценарию. Встретив неожиданную ситуацию, например отсутствующие данные в счёте, он может изменить план, найти информацию в другом месте или спросить человека. В этом его сила и риск.

Агент настолько надёжен, насколько надёжны его инструменты, данные и полномочия. Он может ошибиться так же, как генеративный ИИ, на котором построен, с той разницей, что его ошибка - не просто неверный ответ, а выполненное действие, например отправленное письмо или изменённая запись.

Как это работает на практике

В бухгалтерии и администрировании агентов используют для задач с понятным входом и проверяемым результатом: извлечение данных из полученных счетов, предварительная разноска документов, сопоставление платежей, подготовка данных для НДС или ответы на рутинные вопросы клиентов. Результат всегда проверяет человек до проводки или отправки.

При внедрении мы советуем начинать узко: одна задача, ограниченные права и запись каждого шага в журнал аудита. Агенту, который читает счета, не обязательно уметь отправлять платежи. По принципу минимальных прав в рамках управления доступом он получает только то, что действительно нужно для его задачи.

До внедрения нужно выяснить, куда уходят данные. Если агент обрабатывает персональные данные работников или клиентов, поставщик ИИ-сервиса является обработчиком по GDPR, и с ним нужен договор. При некоторых применениях, например при отборе персонала, возникают и обязанности из акта об искусственном интеллекте.

На что обратить внимание

Главный риск - дать агенту право выполнить необратимое действие без одобрения, например отправить платёж или удалить записи. Даже при высокой точности на сотнях операций ошибка рано или поздно появится, и если её никто не заметит, исправление обойдётся дороже, чем сэкономила автоматизация.

Второй риск - подложенный контент. Агент, читающий письма или документы, может наткнуться на скрытые указания, которые им манипулируют, например чтобы он изменил номер счёта поставщика. Поэтому изменения основных данных и платежи всегда проверяет человек по другому каналу, как и при мошенничестве типа BEC.