Evropska unija z uveljavitvijo EU Artificial Intelligence Act (EU AI Act) postavlja nova pravila igre za podjetja, ki razvijajo ali uporabljajo umetno inteligenco.
Zakonodaja, ki dopolnjuje obstoječe okvire, kot sta General Data Protection Regulation (GDPR) in Digital Services Act (DSA), uvaja postopne, a stroge zahteve, ki bodo v celoti zaživele leta 2026. Gre za prvi celovit regulativni okvir na področju umetne inteligence, ki ne velja le za podjetja v EU, temveč za vse, ki svoje AI sisteme ponujajo na evropskem trgu ali uporabljajo njihove rezultate znotraj Unije. Posledično se bodo morala na nova pravila prilagoditi tudi globalna tehnološka podjetja, SaaS ponudniki in industrija.
EU AI Act je začel veljati avgusta 2024, vendar se njegove določbe uvajajo postopoma. Prvi pomemben mejnik je bil februar 2025, ko so začele veljati prepovedi tako imenovanih nesprejemljivih praks, kot so manipulativni sistemi ali socialno točkovanje.
Naslednja faza je prišla avgusta 2025, ko so stopile v veljavo pravila za splošno-namenske in generativne AI modele. Ta vključujejo obveznosti glede transparentnosti, tehnične dokumentacije in spoštovanja avtorskih pravic, pri čemer se zakonodaja navezuje tudi na Copyright Directive.
Ključni rok za večino podjetij pa bo avgust 2026, ko bodo v celoti začele veljati zahteve za visoko tvegane AI sisteme. V določenih reguliranih sektorjih, kot so medicinske naprave, so predvideni še dodatni prehodni roki do leta 2027.
Stroge obveznosti za visoko tvegane sisteme
Največji vpliv bo zakon imel na sisteme, ki sodijo med visoko tvegane – na primer v zaposlovanju, zdravstvu, izobraževanju ali biometrični identifikaciji. Za te sisteme EU AI Act predpisuje obvezno vzpostavitev sistemov upravljanja tveganj, uporabo kakovostnih podatkov, zagotavljanje človeškega nadzora ter obsežno tehnično dokumentacijo.
Podjetja bodo morala pred vstopom na trg opraviti tudi presojo skladnosti ter zagotoviti stalno spremljanje delovanja sistemov po njihovi uvedbi. Pri tem se zahteve prepletajo z drugimi regulativami, zlasti z GDPR na področju varstva podatkov in pravili EU o varnosti izdelkov.
Transparentnost in odgovornost tudi za generativno AI
Tudi sistemi, ki niso opredeljeni kot visoko tvegani, niso izvzeti iz regulacije. EU AI Act uvaja obveznosti transparentnosti, kar pomeni, da morajo uporabniki vedeti, kdaj komunicirajo z umetno inteligenco ali uporabljajo AI-generirano vsebino.
Poseben poudarek je na generativni umetni inteligenci, kjer zakon zahteva jasno označevanje vsebin, zaščito avtorskih pravic ter oceno tveganj pri uporabi modelov. Odgovornost tako ne leži le na razvijalcih, temveč tudi na podjetjih, ki te modele uporabljajo v praksi.
Visoke kazni in okrepljen nadzor
Neupoštevanje pravil lahko podjetja drago stane. EU AI Act predvideva kazni do 35 milijonov evrov oziroma do 7 odstotkov letnega globalnega prometa za najhujše kršitve. Poleg finančnih sankcij so možni tudi umiki produktov s trga, omejitve poslovanja in resna škoda za ugled.
Nadzor bodo izvajali nacionalni regulatorji v sodelovanju z evropskimi institucijami, pri čemer se pričakuje tesno povezovanje z organi za varstvo podatkov.
