Evropska unija je z Aktom o umetni inteligenci (AI Act) vzpostavila prvi pravno zavezujoči zakonodajni okvir na svetu, namenjen celoviti regulaciji umetne inteligence (UI). S tem si je EU zagotovila vodilno mesto pri globalnem oblikovanju varne, odgovorne in človeku prijazne umetne inteligence. Namen akta, kot ga določa člen 1, je izboljšati delovanje notranjega trga, spodbuditi razvoj zaupanja vredne umetne inteligence, ki spoštuje temeljne pravice, in hkrati podpreti inovacije.
Sistemi umetne inteligence so danes že široko prisotni v različnih sektorjih, njihov razvoj pa poteka z veliko hitrostjo. AI Act določa obveznosti tako za razvijalce kot tudi za uporabnike teh sistemov in vzpostavlja pogoje za dostop umetne inteligence do enotnega trga EU. Ključni cilji vključujejo zagotavljanje preglednosti, varnosti, odgovornosti in etičnosti uporabe UI.
Povezava z GDPR
Umetna inteligenca pri svojem delovanju pogosto temelji na obdelavi velikih količin podatkov, med katerimi so tudi osebni podatki. Zato je povezava med AI Act in Splošno uredbo o varstvu podatkov (GDPR) neizogibna. Oba zakonodajna akta stremita k zaščiti temeljnih pravic posameznikov, predvsem pravice do zasebnosti in varstva osebnih podatkov.
GDPR določa, da mora biti obdelava osebnih podatkov zakonita, poštena in pregledna. Posamezniki morajo biti obveščeni o namenu obdelave, imeti možnost dostopa do svojih podatkov ter pravico do popravka ali izbrisa. AI Act ta načela nadgrajuje z dodatnimi zahtevami, ki se nanašajo na delovanje umetne inteligence, zlasti ko gre za avtomatizirano odločanje in profiliranje.
Razvrščanje sistemov umetne inteligence glede na stopnjo tveganja
Ena temeljnih značilnosti Akta o umetni inteligenci (AI Act) je pristop, ki temelji na oceni tveganja uporabe umetne inteligence v posameznih družbenih in gospodarskih kontekstih. Uredba sistematično razvršča sisteme UI glede na potencialni vpliv na pravice, varnost in dobrobit posameznikov, ter določa regulativne zahteve, sorazmerne stopnji tveganja, ki ga posamezen sistem predstavlja.
Razvrstitev vključuje štiri kategorije:
- Minimalna tveganja: Sistemi, kot so videoigre ali filtri za neželeno pošto, predstavljajo zanemarljiva tveganja in zato niso predmet regulacije.
- Omejena tveganja: Sistemi, kot so klepetalniki ali generatorji besedil, morajo zagotavljati preglednost – uporabniki morajo biti jasno obveščeni, da gre za vsebine, ustvarjene z UI.
- Velika tveganja: Sistemi, ki se uporabljajo pri biometrični identifikaciji, medicinski diagnostiki ali avtonomni vožnji, so podvrženi strogi regulaciji, vključno s testiranjem, človeškim nadzorom in zmožnostjo razlage odločitev.
- Nesprejemljiva tveganja: Prepovedani so sistemi, ki resno ogrožajo pravice posameznikov, kot so kognitivna manipulacija, družbeno točkovanje, napovedno policijsko delo ali prepoznavanje čustev v šolah in na delovnih mestih.
Skupni in dopolnjujoči cilji AI Act in GDPR
Oba akta delujeta komplementarno. GDPR ščiti posameznikove pravice v zvezi z obdelavo podatkov, medtem ko AI Act naslavlja tveganja, povezana z načinom delovanja umetne inteligence in njenim vplivom na posameznike in družbo. Tako skupno prispevata k:
- zagotavljanju pravic do informiranosti, dostopa in ugovora,
- preprečevanju diskriminacije zaradi avtomatiziranih odločitev,
- krepitvi odgovornosti upravljavcev in razvijalcev,
- spodbujanju preglednosti delovanja UI-sistemov.
Eden ključnih vidikov AI Act je pravica posameznika do razlage avtomatiziranih odločitev in možnost nasprotovanja odločitvam, ki temeljijo izključno na umetni inteligenci – kar je še posebej pomembno pri odločanjih o kreditni sposobnosti, zaposlitvi ipd.
Vpliv na podjetja in razvijalce
Uvedba AI Act pomeni dodatno odgovornost za podjetja in razvijalce umetne inteligence. Poleg skladnosti z GDPR bodo morali upoštevati tudi zahteve AI Act, kot so:
- ocena tveganja,
- dokumentacija algoritmov,
- zagotavljanje človeškega nadzora nad UI-sistemi,
- ukrepi za zagotavljanje varnosti in nediskriminatornosti.
Čeprav so te zahteve stroge, predstavljajo tudi priložnost – podjetja, ki bodo spoštovala predpise, bodo uživala večje zaupanje potrošnikov in konkurenčno prednost.
Časovnica izvajanja
AI Act je začel veljati 1. avgusta 2024, njegova polna uporaba pa se začne 2. avgusta 2026, z določenimi izjemami:
- februar 2025: začetek uporabe prepovedi in ukrepov za dvig pismenosti glede UI.
- avgust 2025: začetek uporabe pravil za modele splošne umetne inteligence.
- avgust 2027: prehodno obdobje za sisteme velikega tveganja, vključene v regulirane proizvode.
Vloga informacijskega pooblaščenca RS
Informacijski pooblaščenec Republike Slovenije opozarja na povezana tveganja, zlasti pri uporabi velikih jezikovnih modelov (LLM), in poudarja potrebo po strogem spoštovanju GDPR. Posebna pozornost je namenjena zaščiti ranljivih skupin, kot so otroci in starejši. Ključne obveznosti vključujejo izbiro pravne podlage, določitev obdobja hrambe, izvajanje ocen učinkov in omogočanje uresničevanja pravic posameznikov.
Evropska unija s sprejetjem Akta o umetni inteligenci postavlja globalni standard za urejanje umetne inteligence. S kombinirano uporabo AI Act in GDPR želi zagotoviti, da digitalni razvoj ne ogroža temeljnih pravic državljanov. Zavezništvo teh dveh zakonodajnih okvirjev prispeva k večjemu zaupanju v tehnologijo in k bolj pravični, odgovorni ter etični digitalni prihodnosti.