ШІ-агент

Що це означає

ШІ-агент - це програма на основі великої мовної моделі, яка отримує мету й сама розкладає, які кроки треба зробити. На відміну від чат-бота, що лише відповідає на запитання, агент уміє користуватися інструментами: шукати в документах, викликати API іншої системи, заповнювати форму, надсилати лист чи запускати розрахунок.

Від класичної автоматизації на кшталт RPA він відрізняється тим, що не йде за жорстко запрограмованим сценарієм. Натрапивши на несподівану ситуацію, наприклад відсутні дані в рахунку, він може змінити план, знайти інформацію деінде чи запитати людину. У цьому його сила й ризик.

Агент настільки надійний, наскільки надійні його інструменти, дані й повноваження. Він може помилитися так само, як генеративний ШІ, на якому побудований, з тією різницею, що його помилка - не просто хибна відповідь, а виконана дія, наприклад надісланий лист чи змінений запис.

Як це працює на практиці

У бухгалтерії та адмініструванні агентів використовують для завдань із зрозумілим входом і перевірюваним результатом: вилучення даних з отриманих рахунків, попереднє рознесення документів, зіставлення платежів, підготовка даних для ПДВ чи відповіді на рутинні запитання клієнтів. Результат завжди перевіряє людина до проводки чи надсилання.

Під час впровадження радимо починати вузько: одне завдання, обмежені права й запис кожного кроку в журнал аудиту. Агентові, який читає рахунки, не обов’язково вміти надсилати платежі. За принципом мінімальних прав у межах керування доступом він отримує лише те, що справді потрібне для його завдання.

До впровадження треба з’ясувати, куди йдуть дані. Якщо агент обробляє персональні дані працівників чи клієнтів, постачальник ШІ-сервісу є обробником за GDPR, і з ним потрібен договір. За деяких застосувань, наприклад під час добору персоналу, виникають і обов’язки з акта про штучний інтелект.

На що звернути увагу

Головний ризик - дати агентові право виконати незворотну дію без схвалення, наприклад надіслати платіж чи видалити записи. Навіть за високої точності на сотнях операцій помилка рано чи пізно з’явиться, і якщо її ніхто не помітить, виправлення обійдеться дорожче, ніж заощадила автоматизація.

Другий ризик - підкинутий вміст. Агент, що читає листи чи документи, може натрапити на приховані вказівки, які ним маніпулюють, наприклад щоб він змінив номер рахунку постачальника. Тож зміни основних даних і платежі завжди перевіряє людина іншим каналом, як і в разі шахрайства типу BEC.