Akt o umelej inteligencii

Čo to znamená

Akt o umelej inteligencii je priamo uplatniteľné nariadenie EÚ. Systémy umelej inteligencie triedi podľa rizika: zakázané praktiky, vysokorizikové systémy, systémy s povinnou transparentnosťou a zvyšok.

Povinnosti nevyplývajú z technológie, ale z roly. Iné má ten, kto systém vyvíja alebo dodáva pod vlastnou značkou, a iné ten, kto ho iba používa; väčšina firiem patrí do druhej skupiny.

Pre bežnú firmu je najbližšia kategória povinnej transparentnosti. Ak zákazník píše s chatbotom, musí vedieť, že nekomunikuje s človekom, a obsah vytvorený umelou inteligenciou, ktorý by mohol pôsobiť ako skutočný, má byť ako taký označený. Nejde o zákaz používania, ale o povinnosť nezamlčať, s čím má človek do činenia.

Ako to funguje v praxi

Prvým krokom je inventúra: ktoré nástroje s umelou inteligenciou firma používa, na čo, s akými dátami a od koho. Nábor, hodnotenie a sledovanie zamestnancov sú oblasti, kde pravidlá dopadajú najprísnejšie.

Nariadenie nenahrádza GDPR: na osobné údaje treba právny základ a pri rizikovom nasadení aj posúdenie vplyvu. Pri sieťach sa prekrýva s NIS2, preto sa agenda vedie ako jedno compliance, nie ako tri priečinky.

V účtovnej firme sa akt týka napríklad nástrojov, ktoré čítajú doklady cez OCR s umelou inteligenciou a navrhujú zaúčtovanie, alebo asistentov na odpovede klientom. Pri každom máme zapísané, kto výstup kontroluje: návrh, ktorý vytvorí systém, schvaľuje účtovník, a zodpovednosť za zápis zostáva na človeku, nie na dodávateľovi softvéru.

Na čo si dať pozor

Najdrahšia chyba je dodávať cudzí model pod vlastnou značkou: z používateľa sa stáva poskytovateľ so všetkými povinnosťami. Druhá je triediť životopisy nástrojom bez informovania uchádzačov a bez záznamov o tom, čo systém urobil.

Nariadenie od firiem, ktoré systémy používajú, žiada aj primeranú znalosť umelej inteligencie u zamestnancov. Bez interného pravidla ľudia vkladajú do verejných chatov zmluvy, mzdy či údaje klientov, a keďže s poskytovateľom nástroja nie je uzavretá sprostredkovateľská zmluva, je to zároveň problém podľa GDPR.