Генеративный ИИ

Что это значит

Генеративный искусственный интеллект - вид искусственного интеллекта, который создаёт не только прогнозы или классификации, но и новый контент: тексты, изображения, звук, видео или программный код. Наиболее известны текстовые модели, то есть большие языковые модели, которые по запросу, так называемому промпту, пишут ответ, письмо, резюме или перевод.

Модели обучаются на огромном объёме данных и создают статистически вероятный результат. Поэтому он звучит убедительно и тогда, когда неверен: модель может выдумать закон, параграф или цитату, которых нет. Это явление называют галлюцинацией, и оно - главная причина, почему результаты нужно проверять.

Генеративный ИИ быстро превращается из инструмента для разговора в часть обычных программ: офисных пакетов, почты, бухгалтерских систем или чат-ботов на сайтах. Для более сложных задач его объединяют с инструментами, и возникает ИИ-агент, который выполняет задачу сам.

Как это работает на практике

Фирмам мы советуем использовать генеративный ИИ для задач, где результат легко проверит человек: черновики текстов, резюме длинных документов, переводы, подготовка таблиц или ответы на рутинные вопросы. В налоговых или правовых вопросах он хорош, чтобы сориентироваться, но вывод должен проверить специалист по действующему закону.

Ключевой вопрос - данные. Если работники вводят в публичные ИИ-инструменты договоры, зарплаты или персональные данные клиентов, фирма может нарушить GDPR и конфиденциальность. Решение - корпоративные лицензии с договорными гарантиями, ясные внутренние правила и при необходимости DLP, контролирующее ввод чувствительных данных.

Покупка ИИ-инструментов - обычный операционный расход, при разработке собственного решения может возникнуть нематериальный актив. Для некоторых применений, например оценки кандидатов на работу, действуют более строгие правила акта об искусственном интеллекте.

На что обратить внимание

Главный риск - слепое доверие к результату. Текст, звучащий профессионально, может содержать неверные суммы, несуществующие сроки или устаревшие правила. Всё, что уходит клиенту, в орган или в договор, должен проверить человек, разбирающийся в теме.

Второй риск - авторские права и конфиденциальность. Созданный ИИ контент может не охраняться авторским правом и может быть похож на чужие произведения. Договоры с клиентами и поставщиками должны решать, используется ли ИИ в работе и как, и кто отвечает за результат.