Zakon Evropske unije o umetni inteligenci (EU Artificial Intelligence Act) je predlog uredbe, ki bi določil pravila za razvoj, uporabo in uvajanje umetne inteligence v EU. Je prvi zakonodajni akt o umetni inteligenci, ki ga je predlagal pomemben regulativni organ, in lahko določi globalni standard za upravljanje umetne inteligence.
Ključni poudarki:
- Evropski parlament je junija 2023 potrdil svoje pogajalsko stališče o sporazumu AIA, ki vkljčuje strožje zahteve za socialno točkovanje in prepoznavanje obrazov
- S predlaganim zakonom o umetni inteligenci bi se sistemi umetne inteligence razvrstili glede na tveganje ter določili različne zahteve za razvoj in uporabo.
- Ko se bosta Evropski parlament in Evropski Svet dogovorila o končnem besedilu, bo AIA sprejeta kot uredba. Pričakuje se, da bo AIA začela veljati leta 2024.
Podobno kot to želi storiti na področju kriptovalut, želi EU v okviru svoje digitalne strategije urediti umetno inteligenco, da bi zagotovila boljše pogoje za razvoj in uporabo te inovativne tehnologije. Umetna inteligenca lahko človeštvu prinese številne koristi, kot so boljše zdravstveno varstvo, varnejši in čistejši promet, učinkovitejša proizvodnja ter cenejša in bolj trajnostna energija.
Seveda pa umetna inteligenca s svojim eksponentnim razvojem in neverjetnim vplivom lahko predstavlja tudi grožnjo človeštvu, kot je na to v odprtem pismu opozorilo več kot 1.000 tehnoloških voditeljev, raziskovalcev in drugih, ki so pozvali k moratoriju na razvoj najzmogljivejših sistemov umetne inteligence.
Zato so regulacije, ki ne ogrožajo razvoja, nujne.
Evropska komisija je že aprila 2021 predlagala prvi regulativni okvir EU za umetno inteligenco. V njem je navedeno, da se sistemi umetne inteligence, ki se lahko uporabljajo v različnih aplikacijah, analizirajo in razvrstijo glede na tveganje, ki ga predstavljajo za uporabnike. Različne stopnje tveganja bodo pomenile večjo ali manjšo regulacijo. Ti predlogi se redno ozvežujejo in ko bodo ti predpisi potrjeni, bodo to prvi predpisi o umetni inteligenci na svetu.
Kaj je akt EU o umetni inteligenci?
Predlagani zakon o umetni inteligenci se osredotoča predvsem na krepitev pravil o kakovosti podatkov, preglednosti, človeškem nadzoru in odgovornosti. Prav tako naj bi obravnaval etična vprašanja in izzive pri izvajanju v različnih sektorjih, od zdravstva in izobraževanja do financ in energetike.
Pri Evropski Komisiji so dodali, da umetna inteligenca obstaja že desetletja, vendar je dosegla nove zmogljivosti eksponentno hitro. Cilj zakona o umetni inteligenci je okrepiti položaj EU kot svetovnega središča odličnosti na področju umetne inteligence od laboratorija do trga, zagotoviti, da bo umetna inteligenca v Evropi »spoštovala vrednote in pravila, ter izkoristiti potencial umetne inteligence za industrijsko uporabo”.
EU si prizadeva za regulacijo, ki ne ovira napredka umetne inteligence
Nova zakonodaja pa postavlja tudi nove izzive za inovatorje UI, ki morajo zagotoviti, da so njihovi sistemi UI skladni s predpisi. To je lahko naporen proces, ki vključuje stroge ocene tveganja, prakse upravljanja podatkov in obveznosti glede preglednosti.
Kljub temu pa zakon predstavlja priložnost za AI ponudnike, da vzpostavijo zaupanje z uporabniki. Z dokazovanjem skladnosti z regulativnim okvirom lahko inovatorji UI uporabnikom zagotovijo, da so njihovi sistemi UI varni, zanesljivi ter spoštujejo pravice in svoboščine uporabnikov. Podobno, kot je področje obdavčitev kriptovalut ureja MiCa.
EU zakon o umetni inteligenci: Različna pravila za različne stopnje tveganja
Temelj zakona o umetni inteligenci je sistem razvrščanja, ki določa stopnjo tveganja, ki bi ga tehnologija umetne inteligence lahko predstavljala za zdravje in varnost ali temeljne pravice posameznika. Sistem vključuje 4 stopnje tveganja:
- Nesprejemljivo: To se nanaša na uporabe in sisteme, ki ustvarjajo nesprejemljivo tveganje, kot je vladno socialno točkovanje, kakršno se na primer uporablja na Kitajskem. Ti sistemi so v skladu z AIA popolnoma prepovedani.
- Visoko tveganje: AI sistemi z visokim tveganjem so tisti, ki predstavljajo veliko tveganje za varnost, temeljne pravice ali okolje. Za te sisteme je treba opraviti oceno tveganja ter izpolnjevati številne tehnične in etične zahteve. Te zahteve vključujejo:
- Človeški nadzor: Sistemi umetne inteligence z visokim tveganjem morajo biti pod človeškim nadzorom, kar pomeni, da mora biti človek sposoben poseči v delovanje sistema, če je to potrebno.
- Preglednost: Uporabniki morajo imeti možnost razumeti, kako sistemi AI z visokim tveganjem delujejo in kako sprejemajo odločitve.
- Nediskriminacija: Sistemi umetne inteligence z visokim tveganjem ne smejo diskriminirati posameznikov na podlagi zaščitenih značilnosti, kot so rasa, etnična pripadnost ali spol.
- Zasebnost: Sistemi AI z visokim tveganjem morajo spoštovati zasebnost posameznikov in uporabljati osebne podatke le v skladu z zakonom.
- Omejeno tveganje: Sistemi umetne inteligence z omejenim tveganjem so tisti, ki predstavljajo manjše tveganje in zanje ne velja enaka raven predpisov. Vendar pa za te sisteme še vedno lahko veljajo nekatere zahteve, kot sta potreba po preglednosti in spoštovanju zasebnosti.
- Minimalno tveganje: velika večina sistemov umetne inteligence spada v to kategorijo. Predlagani zakon ne posega v te sisteme umetne inteligence.
Kaj bi to pomenilo za generativno umetno inteligenco, kot je ChatGPT?
Generativna umetna inteligenca, kot je Chat GPT, bi morala izpolnjevati zahteve glede preglednosti:
- pojasnilo, da je vsebino ustvarila umetna inteligenca.
- oblikovanje modela tako, da se prepreči ustvarjanje nezakonite vsebine
- objavljanje povzetkov podatkov, zaščitenih z avtorskimi pravicami, ki so bili uporabljeni za usposabljanje
Zakaj je to pomembno za nas?
Uporabe umetne inteligence vplivajo na to, katere informacije vidite na spletu, saj predvidevajo, katera vsebina vas pritegne, zajemajo in analizirajo podatke z obrazov za uveljavljanje zakonov ali prilagajanje oglasov ter se uporabljajo za diagnosticiranje in zdravljenje raka. Z drugimi besedami, umetna inteligenca vpliva na številne dele našega življenja.
Tako kot Splošna uredba EU o varstvu podatkov (GDPR) iz leta 2018 bi lahko tudi Zakon EU o umetni inteligenci postal globalni standard, ki bi določal, v kolikšni meri umetna inteligenca pozitivno in ne negativno vpliva na vaše življenje, ne glede na to, kje se nahajate. Uredba EU o umetni inteligenci že povzroča mednarodne valove. Konec septembra 2021 je brazilski kongres sprejel zakon, ki vzpostavlja pravni okvir za umetno inteligenco. Letos želijo zakon še izpopolniti.
Kako bi se lahko zakon še izboljšal?
Kljub redni in obširni dodelavi pa je v predlaganem zakonu še vedno nekaj vrzeli in izjem. Te pomanjkljivosti omejujejo zmožnost zakona, da zagotovi, da bo umetna inteligenca v vašem življenju ostala kot sila dobrega. Trenutno je na primer prepovedana prepoznava obraza s strani policije, razen če so slike zajete z zamikom ali če se tehnologija uporablja za iskanje pogrešanih otrok. Poleg tega je zakon neprilagodljiv. Če se bo čez dve leti nevarna aplikacija umetne inteligence uporabljala v nepredvidenem sektorju, zakon ne predvideva mehanizma, ki bi jo označil kot “visoko tvegano”.
Ko potegnemo črto
Nekaj si lahko priznamo – naj gre za kriptovalute ali umetno inteligenco, Evropska Unija je vodilna pri regulaciji teh tehnologij. Ko gledamo daljnogled prihodnosti umetne inteligence v Evropski uniji, regulativni okvir predstavlja harmonično vizijo – področje, kjer inovacije uspevajo pod okriljem trdnih pravil in etičnih meja. To je pionirski korak v svetu umetne inteligence, ki predstavlja globalni precedens, po katerem se bodo zgledovali tudi drugi. Prav tako lahko trdimo, da zakon EU o umetni inteligenci ni le regulativni dokument, temveč filozofska izjava, ki trdi, da mora pohod umetne inteligence spremljati človeški pristop, ki spodbuja zaupanje in družbeno blaginjo. Ker se umetna inteligenca še naprej razvija, se bodo tudi njeni regulativni okviri prilagajali nenehno spreminjajočim se obrisom te revolucionarne tehnologije. Pot EU je zanimiva študija primera, kako lahko družba oblikuje preobrazbeno moč umetne inteligence.
Pogosta vprašanja
Kakšen je regulativni okvir Evropske unije za umetno inteligenco?
Regulativni okvir EU za umetno inteligenco je predlog zakona, katerega cilj je obravnavati tveganja umetne inteligence ter zagotoviti, da se umetna inteligenca razvija in uporablja na varen, etičen in zaupanja vreden način. V okviru so sistemi UI razdeljeni v 4 kategorije tveganja: nesprejemljivo tveganje, visoko tveganje, omejeno tveganje in minimalno tveganje.
Kaj so sistemi umetne inteligence z nesprejemljivim tveganjem?
AI sistemi z “nesprejemljivim tveganjem” so tisti, ki resno ogrožajo varnost, preživetje ali pravice državljanov EU. Primeri vključujejo manipulativne aplikacije UI, ki lahko izkrivljajo vedenje ljudi in povzročajo fizično ali psihično škodo. Ti sistemi so prepovedani v skladu z zakonom o umetni inteligenci.
Kateri sistemi umetne inteligence spadajo v kategorijo minimalno tveganje?
V kategorijo “minimalnega tveganja” spadajo aplikacije umetne inteligence, ki ne ogrožajo bistveno varnosti ali pravic uporabnikov. Zanje ne veljajo pravne obveznosti, kar spodbuja inovacije na področju UI brez nepotrebnih omejitev.
Kakšne so kazni za neupoštevanje uredbe o umetni inteligenci?
Predvidevane kazni za neupoštevanje uredbe o umetni inteligenci se razlikujejo glede na resnost kršitve. Za manjše kršitve lahko podjetja doletijo globe v višini do 10 milijonov EUR ali 2 % svetovnega letnega prometa. Za hujše kršitve se lahko podjetjem naložijo globe v višini do 30 milijonov EUR ali 4 % svetovnega letnega prometa.
Kako se bo evropski zakon o umetni inteligenci razvijal v prihodnosti?
Ker se tehnologija umetne inteligence še naprej razvija, je pričakovati, da se bo prilagodil tudi regulativni okvir, ki se bo prilagajal novim napredkom in izzivom. Zakon zagotavlja temelje za vzpostavitev zaupanja vrednega ekosistema umetne inteligence v EU in predstavlja svetovni precedens za uravnoteženje tehnoloških inovacij z etičnimi vidiki.
Sorodni članki:
