Акт об искусственном интеллекте

Что это значит

Акт об искусственном интеллекте - регламент ЕС прямого действия. Системы искусственного интеллекта он делит по риску: запрещённые практики, высокорисковые системы, системы с обязанностью прозрачности и всё остальное.

Обязанности вытекают не из технологии, а из роли. Одно дело разрабатывать систему или поставлять её под своим брендом, другое - просто ею пользоваться; большинство фирм во второй группе.

Для обычной компании ближе всего категория обязательной прозрачности. Если клиент переписывается с чат-ботом, он должен знать, что общается не с человеком, а созданный искусственным интеллектом контент, который может выглядеть настоящим, должен быть соответствующе помечен. Это не запрет пользоваться, а обязанность не скрывать, с чем человек имеет дело.

Как это работает на практике

Первый шаг - инвентаризация: какие инструменты с искусственным интеллектом компания использует, для чего, на каких данных и от кого. Подбор, оценка и контроль сотрудников - области, где правила строже всего.

Регламент не заменяет GDPR: для персональных данных нужно правовое основание, а при рискованном внедрении и оценка влияния. По сетям он пересекается с NIS2, поэтому агенду ведут как единый комплаенс, а не как три папки.

В бухгалтерской фирме акт касается, например, инструментов, которые читают документы через OCR с искусственным интеллектом и предлагают проводку, или ассистентов для ответов клиентам. По каждому у нас записано, кто проверяет результат: предложение системы утверждает бухгалтер, и ответственность за запись остаётся на человеке, а не на поставщике софта.

На что обратить внимание

Самая дорогая ошибка - поставлять чужую модель под своим брендом: пользователь становится поставщиком со всеми обязанностями. Вторая - отбирать резюме инструментом без уведомления кандидатов и без журналов того, что система сделала.

Регламент требует от компаний, использующих системы, и достаточной грамотности сотрудников в области искусственного интеллекта. Без внутреннего правила люди вставляют в публичные чаты договоры, зарплаты и данные клиентов, а поскольку с поставщиком инструмента не заключён договор об обработке данных, это одновременно нарушение и по GDPR.