Dne 21.11.2025 je pričel veljati Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI) ki predpisuje kazni za prekrške v zvezi z izvajanjem Uredbe o umetni inteligenci.
Uredba EU o umetni inteligenci je začela veljati 1. avgusta 2024. Večina določb se bo začela uporabljati 1.8.2026, nekatere pa veljajo že od 2.2.2025.
Od 2.2.2025 so prepovedani sistemi umetne inteligence z nesprejemljivim tveganjem.
Med sisteme z visokim tveganjem ki so regulirani od 1.8.2026 spadajo orodja umetne inteligence:
- za zaposlovanje, upravljanje delavcev, dostop do samozaposlitve (npr. uporaba chatbotov za razvrščanje življenjepisov pri zaposlovanju),
- za omogočanje dostopa do osnovnih zasebnih in javnih storitev (npr. kreditno točkovanje ipd.),
- za biometrično identifikacijo na daljavo, prepoznavanje čustev in biometrično
kategorizacijo, - v zvezi z izobraževanji (npr. točkovanje izpitov).
Uvajalci bodo morali sprejeti ustrezne tehnične in organizacijske ukrepe, s katerimi bodo zagotovili, da uporabljajo take sisteme v skladu z navodili za uporabo ter dodeliti človeški nadzor nad njimi fizičnim osebam, ki imajo potrebne kompetence, usposobljenost in pooblastila ter potrebno podporo vodstva (‘pravilnik o uporabi umetne inteligence’).
Uvajalci visokotveganih sistemov UI bodo morali voditi dnevnike, ki jih bodo samodejno ustvarjali taki sistemi UI v obdobju, ki ustreza predvidenemu namenu visokotveganega sistema, najmanj pa šest mesecev.
Uvajalci, ki so delodajalci, bodo morali pred dajanjem v uporabo ali pred uporabo visokotveganega sistema UI na delovnem mestu obvestiti predstavnike delavcev in delavcev da se bo zanje uporabljal visokotvegani sistem UI.
Če ima uvajalec vpliv na pripravo vhodnih podatkov sistema mora zagotoviti tudi, da so vhodni podatki ustrezni in dovolj reprezentativni glede na predvideni namen visokotveganega sistema.
Uvajalci ki z visokotveganimi sistemi sprejemajo odločitve ali si z njimi pomagajo pri svojem odločanju v zvezi s fizičnimi osebami morajo slednje obvestiti, da se zanje uporablja visokotvegani sistem UI (informacijska dolžnost).
Pred uvedbo visoko tveganega sistema UI bodo morali uvajalci, ki so osebe javnega prava, ali zasebni subjekti, ki zagotavljajo javne storitve, in uvajalci, ki uporabljajo visokotvegane sisteme UI pred začetkom uporabe izvesti oceno učinka na temeljne pravice po 27. členu Uredbe o umetni inteligenci ki bo vsebovala:
- opis postopkov uvajalca, v katerih se bo visokotvegani sistem UI uporabljal v skladu s predvidenim namenom,
- opis obdobja in pogostosti uporabe vsakega visokotveganega sistema UI,
- kategorije fizičnih oseb in skupin, na katere bo verjetno vplivala njegova uporaba v specifičnem kontekstu,
- posebna tveganja škode, ki bi lahko vplivala na te kategorije fizičnih oseb ali skupine oseb,
- opis izvajanja ukrepov za človeški nadzor v skladu z navodili za uporabo,
- ukrepi, ki jih je treba sprejeti, v primeru uresničitve teh tveganj, vključno z ureditvami za notranje upravljanje in pritožbene mehanizme.
Glede varstva osebnih podatkov pa morajo upravljavci oz. uvajalci v zvezi s taki sistemi že sedaj po GDPR:
- sprejeti pravilnik o varni uporabi umetne inteligence po 26. členu Uredbe o UI,
- izvesti oceno učinka po 35. členu GDPR (ki lahko dopolnjuje oceno učinka iz 27. člena Uredbe o UI),
- izvesti analizo vgrajene zaščite po 25. členu GDPR za vsak informacijski sistem, ki ga uvedejo,
- po potrebi izvesti test zakonitega interesa po točki f) 1 odstavka 6. člena GDPR če za obdelavo osebnih podatkov nimajo druge pravne podlage.