Акт про штучний інтелект

Що це означає

Акт про штучний інтелект - регламент ЄС прямої дії. Системи штучного інтелекту він ділить за ризиком: заборонені практики, високоризикові системи, системи з обов’язком прозорості й усе інше.

Обов’язки випливають не з технології, а з ролі. Одна річ розробляти систему або постачати її під власним брендом, інша - просто нею користуватися; більшість фірм у другій групі.

Для звичайної компанії найближча категорія обов’язкової прозорості. Якщо клієнт листується з чат-ботом, він має знати, що спілкується не з людиною, а створений штучним інтелектом контент, який може виглядати справжнім, має бути відповідно позначений. Це не заборона користуватися, а обов’язок не приховувати, з чим людина має справу.

Як це працює на практиці

Перший крок - інвентаризація: які інструменти зі штучним інтелектом компанія використовує, для чого, на яких даних і від кого. Добір, оцінювання та контроль працівників - сфери, де правила найсуворіші.

Регламент не замінює GDPR: для персональних даних потрібна правова підстава, а при ризиковому впровадженні й оцінка впливу. По мережах він перетинається з NIS2, тому агенду ведуть як єдиний комплаєнс, а не як три теки.

У бухгалтерській фірмі акт стосується, наприклад, інструментів, які читають документи через OCR зі штучним інтелектом і пропонують проведення, або асистентів для відповідей клієнтам. Щодо кожного в нас записано, хто перевіряє результат: пропозицію системи затверджує бухгалтер, і відповідальність за запис лишається на людині, а не на постачальнику софту.

На що звернути увагу

Найдорожча помилка - постачати чужу модель під власним брендом: користувач стає постачальником з усіма обов’язками. Друга - добирати резюме інструментом без повідомлення кандидатів і без журналів того, що система зробила.

Регламент вимагає від компаній, що використовують системи, і достатньої грамотності працівників у сфері штучного інтелекту. Без внутрішнього правила люди вставляють у публічні чати договори, зарплати й дані клієнтів, а оскільки з постачальником інструмента не укладено договір про обробку даних, це водночас порушення й за GDPR.