Uredba EU-a o umjetnoj inteligenciji stupila je na snagu 1. kolovoza 2024. Većina odredbi primjenjivat će se od 1. kolovoza 2026, dok se neke primjenjuju već od 2. veljače 2025. Tvrtke će obično koristiti AI sustave u odnosu na svoje zaposlenike (npr. profiliranje i provjera zaposlenika i kandidata), kupce (marketing, profiliranje itd.), posjetitelje (biometrija) itd.
Od 2.2.2025 zabranjeni su sustavi umjetne inteligencije s neprihvatljivim rizikom (tehnike manipulacije ponašanja, svi oblici tzv. društvene evaluacije/ocjenjivanja, diskriminirajuće primjene umjetne inteligencije).
Visokorizični sustavi koji su regulirani od 1.8.2026 uključuju alate:
- za zapošljavanje, upravljanje zaposlenicima i pristup samozapošljavanju (npr. za sortiranje životopisa za zapošljavanje pomoću chatbotova i slično),
- za pristup osnovnim privatnim i javnim uslugama (npr. kreditno bodovanje, koje sprječava građane da dobiju kredit i slično),
- za daljinsku biometrijsku identifikaciju, prepoznavanje emocija i biometrijsku kategorizaciju,
- u obrazovnim ustanovama koje mogu odrediti pristup obrazovanju (npr. bodovanje ispita),
Korisnici sustava će morati poduzeti odgovarajuće tehničke i organizacijske mjere (‘pravilnik o uporabi UI’) kako bi osigurali da koriste takve sustave u skladu s uputama za uporabu i dodijeliti ljudsku kontrolu nad njima fizičkim osobama koje imaju potrebnu kompetenciju, obuku i ovlaštenje i upravljačku podršku.
Korisnici visokorizičnih AI sustava morat će voditi evidenciju koju će automatski generirati takvi sustavi tijekom razdoblja koje odgovara predviđenoj namjeni sustava, a najmanje šest mjeseci. Korisnici AI sustava koji su poslodavci morat će također obavijestiti predstavnike radnika i zaposlenike da će se za njih koristiti visokorizični sustav umjetne inteligencije.
Prije uvođenja visokorizičnog sustava umjetne inteligencije subjekti javnog prava ili privatni subjekti koji pružaju javne usluge i korisnici takvih sustava morat će provesti procjenu utjecaja na temeljna prava u skladu s člankom 27. Uredbe o UI koja će obuhvačati:
- opis procesa subjekta koji uvodi sustav u kojima će se visokorizični UI sustav upotrebljavati u skladu sa svojom namjenom,
- opis razdoblja i učestalosti namjeravane upotrebe svakog visokorizičnog UI sustava,
- kategorije fizičkih osoba i skupina na koje će vjerojatno utjecati upotreba sustava u konkretnom kontekstu,
- specifične rizike od štete koji će vjerojatno utjecati na kategorije fizičkih osoba ili skupine osoba,
- opis provedbe mjera ljudskog nadzora u skladu s uputama za korištenje,
- mjere koje se moraju poduzeti u slučaju materijalizacije tih rizika, uključujući aranžmane za unutarnje upravljanje i mehanizme za podnošenje pritužbi.
Ako će sustavi umjetne inteligencije uključivati i obradu osobnih podataka korisnici već sada moraju, prema GDPR-u, u vezi s takvim sustavima:
- provesti procjenu učinka u skladu s člankom 35. GDPR-a (koja može nadopuniti procjenu učinka u skladu s člankom 27. Uredbe o umjetnoj inteligenciji),
- provesti analizu ugrađene zaštite u skladu s člankom 25. GDPR-a za svaki informacijski sustav koji su implementirali od 25. svibnja 2018. nadalje,
- gdje je to potrebno provesti test legitimnog interesa u skladu s člankom 6. GDPR-a ako nemaju drugu pravnu osnovu za obradu osobnih podataka.