Digitalna odgovornost
Digitalna etika postaja konkurenčna prednost. Projekt DIRECT, pri katerem sodeluje kot slovenski partner Združenje delodajalcev obrti in podjetnikov Slovenije, pomaga podjetjem, da odgovorno vključujejo umetno inteligenco in digitalne inovacije v vsakodnevno poslovanje. S kompetenčnim okvirjem, praktičnimi učnimi potmi in dostopnimi orodji projekt spodbuja gradnjo zaupanja, etičnih praks in trajnostnih digitalnih rešitev, ki služijo ljudem, planetu in blaginji, pravijo v ekipi projekta, s katero smo se pogovarjali.
Zakaj digitalna etika danes ni več zgolj vprašanje skladnosti z zakonodajo, kot je GDPR, temveč postaja ključna konkurenčna prednost podjetij?
GDPR in drugi predpisi postavljajo minimalne zahteve, ne pa razvojnega cilja. Podjetja, ki digitalno etiko razumejo predvsem kot formalno izpolnjevanje zahtev, so praviloma vedno korak za spremembami v tehnologiji, poslovnih modelih in pričakovanjih uporabnikov.
Evropski Akt o umetni inteligenci, Akt o digitalnih storitvah in NIS2 jasno kažejo, da se regulativni okvir širi in poglablja. Pretirana in vseobsežna regulacija je značilnost evropskega okolja, ki ima pozitivne učinke, zmanjšuje pa konkurenčnost.
Prava konkurenčna prednost ni v tem, da podjetje izpolni minimum, ampak da zna graditi zaupanje. To pa se ne vzpostavi z regulacijo, temveč s tem, kako podjetja ravnajo s podatki, kako oblikuje digitalne storitve in kako odgovorno uvajajo avtomatizacijo ter umetno inteligenco. V tem smislu digitalna etika ni le pravna ali komunikacijska tema, temveč del poslovnega modela, kulture podjetja in dolgoročne odpornosti.
Za številna podjetja, zlasti na B2B trgih, postaja digitalna etika tudi zelo praktično vprašanje. Poslovni partnerji vse pogosteje preverjajo, kako dobavitelji upravljajo podatke, kibernetsko varnost, uporabo umetne inteligence in tveganja za uporabnike. Digitalna etika tako vse bolj vpliva na ugled, privlačnost podjetja za kadre, pogoje sodelovanja v dobavnih verigah in nenazadnje na pripravljenost trga, da podjetju zaupa.
Kako lahko podjetja zgradijo in ohranijo digitalno zaupanje pri svojih poslovnih partnerjih in končnih uporabnikih v dobi, ko so podatki najdragocenejša valuta?
Digitalno zaupanje se ne gradi s kampanjami, ampak z doslednim ravnanjem na dolgi rok. Ključni so trije elementi: preglednost, predvidljivost in odgovornost.
Preglednost pomeni, da podjetje jasno in razumljivo pove, katere podatke zbira, zakaj jih potrebuje, kako dolgo jih hrani in kako jih lahko uporabnik izbriše ali popravi. Ne pomaga politika zasebnosti, ki je formalno brezhibna, a je nihče ne razume. Zaupanje se praviloma gradi v jeziku uporabnika, ne v jeziku pravnih določb.
Predvidljivost pomeni, da so digitalni sistemi in procesi razumljivi in dosledni. Če podjetje uporablja avtomatizirane odločitve ali orodja umetne inteligence, morajo biti pravila njihove uporabe jasna, rezultati pa preverljivi. Poslovni partnerji in uporabniki težko zaupajo nečemu, česar ne morejo razumeti ali vsaj smiselno in hitro preveriti.
Odgovornost pa pride do izraza predvsem takrat, ko gre kaj narobe. Incidenti se zgodijo tudi dobrim organizacijam. Razlika je v odzivu! Podjetja, ki težavo prepoznajo, jo jasno komunicirajo in hitro ukrepajo, običajno ohranijo več zaupanja kot tista, ki zamolčujejo ali prelagajo odgovornost.
Certifikati in standardi bodo pri tem vse pomembnejši, vendar sami po sebi ne bodo več dovolj. Bodo osnovna vstopnica, ne pa razlikovalna prednost. Razlika bo v tem, ali podjetje te standarde dejansko živi v vsakdanjih praksah oziroma delovanju.
Kdo bi moral nositi primarno odgovornost za digitalno etiko? Je to naloga direktorja za informatiko, pravne službe ali bi bila smiselna posebna funkcija pooblaščenca za digitalno etiko?
Najkrajši odgovor je: odgovornost mora biti razdeljena, vendar jasno vodena z vrha. Digitalne etike ni mogoče prepustiti samo enemu oddelku. Pravna služba je nujna za vprašanja skladnosti, vendar ne more sama odločati o tem, kaj je odgovorno ali dolgoročno smiselno. Marsikaj je legalno in hkrati etično problematično. Informatika skrbi za varnost, arhitekturo in sisteme, vendar tudi to ne zajame vseh etičnih posledic digitalnega poslovanja.
V digitalnem poslovnem svetu vsak zaposleni danes sprejema odločitve, ki imajo etično težo: katere podatke zbiramo, kako dolgo jih hranimo, kako uporabljamo analitiko, kdaj uporabimo umetno inteligenco, kdaj pa je potreben človeški nadzor. Prav zato mora digitalna odgovornost postati temeljna organizacijska kompetenca, podobno kot podatkovna ali finančna pismenost!
To pa ne pomeni, da naj v podjetju ne bi bilo nosilca teme. Dobra praksa je, da vodstvo določi jasne odgovornosti, vzpostavi medfunkcijsko skupino in zagotovi, da se vprašanja digitalne etike vključujejo v produktne, tehnološke in poslovne odločitve. Posebna funkcija za digitalno etiko je lahko koristna, če ima resnično težo, neposreden dostop do vodstva in ni zgolj simbolna. Če pa postane zgolj še ena formalna funkcija brez vpliva, hitro nastane vtis, da je to »stvar nekoga drugega«.
Tudi evropski Akt o umetni inteligenci temelji na logiki porazdeljene odgovornosti med razvijalce, uvajalce in uporabnike sistemov. Ne predvideva, da bi bilo mogoče vse etične in upravljavske dileme prenesti na eno samo funkcijo. Podjetja, ki jo vključijo v uvajanje zaposlenih, okvire za spremljanje uspešnosti in vsakodnevno odločanje, bodo strukturno bolj odporna od tistih, ki se zanašajo na eno samo točko etičnega nadzora. Digitalni etiki je potrebno dodeliti čas in sredstva.
Kako se koncept »podatkovnega minimalizma« sklada z digitalno etiko in zmanjševanjem okoljskega odtisa digitalnih operacij?
Podatkovni minimalizem je dober primer točke, kjer se srečajo etika, varnost, skladnost in trajnost. Osnovno načelo je preprosto: zbirajmo in hranimo le tiste podatke, ki jih res potrebujemo za jasno določen namen.
Z vidika digitalne etike je to pomembno zato, ker izraža spoštovanje do posameznika. Podjetje, ki ne zbira podatkov »za vsak primer« (torej podatkovni minimalizem), praviloma ravna bolj odgovorno in bolj premišljeno. Z vidika varnosti je korist še bolj neposredna: podatkov, ki jih nimamo, nam ni treba varovati, zanje ne more priti do zlorabe ali razkritja. Hkrati je manj tudi tveganj glede skladnosti z zakonodajo.
Posreden, a pomemben je tudi trajnostni vidik. Vsaka nepotrebna hramba podatkov pomeni dodatne obremenitve za infrastrukturo, procese, varnostne kopije in obdelavo. Zato je smiselno, da podjetja redno preverjajo, katere podatke zbirajo, zakaj jih hranijo in kdaj jih lahko izbrišejo. Dobre prakse na tem področju niso le bolj odgovorne, ampak pogosto tudi operativno učinkovitejše.
Katere so največje etične pasti uporabe UI v poslovnih procesih, še posebej z vidika avtorskih pravic in verodostojnosti informacij?
Največji izziv je, da se umetna inteligenca v podjetjih pogosto uvaja hitreje, kot se oblikujejo pravila njene odgovorne uporabe. To ustvarja tri posebej občutljiva področja.
Prvo je vprašanje izvora vsebin in avtorskih pravic. Ko zaposleni ali podjetje uporablja generativno umetno inteligenco za pripravo besedil, slik, analiz ali drugih vsebin, se zelo hitro odpre vprašanje, na katerih podatkih je sistem temeljil, kdo nosi odgovornost za rezultat in v kakšnem obsegu je takšno vsebino varno javno objaviti ali tržno uporabiti. Na tem področju je še precej odprtih vprašanj, zato je potrebna previdnost. Izvor podatkov in sledljivost sta pomembni temi na področju umetne inteligence in zaupanja, vendar nista neposredno urejeni v okviru digitalne odgovornosti.
Drugo je verodostojnost informacij. Generativni modeli lahko ustvarjajo prepričljive, vendar napačne ali izmišljene odgovore. Če podjetje takšne vsebine uporabi brez preverjanja oziroma verifikacije, lahko hitro ogrozi lastno verodostojnost. Pri pravnih, finančnih, zdravstvenih ali drugih občutljivih vsebinah mora biti človeški pregled obvezen, ne le priporočljiv.
Tretje področje je pristranskost. Modeli lahko reproducirajo predsodke iz učnih podatkov, kar je posebej problematično pri zaposlovanju, ocenjevanju, kreditiranju ali drugih odločitvah, ki vplivajo na posameznike.
Zato podjetja potrebujejo jasna interna pravila: za katere namene je uporaba umetne inteligence dovoljena, kje je obvezen človeški nadzor, kdo preverja kakovost izhodov in kako se dokumentira uporaba teh sistemov. Akt o umetni inteligenci med drugim uvaja tudi zahteve glede preglednosti in nadzora pri določenih vrstah sistemov, kar dodatno potrjuje pomen teh vprašanj.
Kako vključiti etična vprašanja v procese presoje tveganj pri uvajanju novih tehnologij, da bi preprečili morebitno škodo ugledu blagovne znamke?
Najpomembneje je, da se digitalna etika ne obravnava ločeno in po koncu presoje, temveč kot redna kategorija tveganja ob pravnih, finančnih, operativnih in varnostnih tveganjih. Vprašanje ne bi smelo biti samo, ali je nova rešitev zakonita in tehnično izvedljiva, temveč tudi, ali je pravična, razumljiva, sorazmerna in skladna z vrednotami podjetja.
V praksi to pomeni, da se že v zgodnjih fazah uvajanja nove tehnologije preveri več stvari: katere podatke bo sistem uporabljal, kakšne posledice lahko ima za posameznike, ali je odločanje dovolj pregledno, ali obstaja možnost pristranskosti, ali je predviden človeški nadzor in kako bi podjetje ravnalo ob napaki ali incidentu.
Pri sistemih umetne inteligence bo to še posebej pomembno, saj Akt o umetni inteligenci predvideva različne ravni tveganja in za visoko tvegane sisteme tudi strožje zahteve glede dokumentacije, nadzora in ocenjevanja skladnosti.
Kako bo evropski Akt o umetni inteligenci (AI Act) spremenil pokrajino digitalne etike v Sloveniji in širše v EU?
Akt o umetni inteligenci digitalno etiko premika iz polja splošnih načel v polje konkretnega upravljanja. Zakonodaja ne govori več le o tem, da bi bilo dobro ravnati odgovorno, temveč uvaja razrede tveganja, obveznosti za določene vrste sistemov in zahteve glede preglednosti, človeškega nadzora ter dokumentacije. Akt je začel veljati 1. avgusta 2024, večina pravil pa se začne uporabljati 2. avgusta 2026, pri nekaterih kategorijah tudi po posebni časovnici.
Za evropski trg je pomembno tudi to, da gre za referenčni okvir, ki bo vplival širše od meja EU. Tako kot pri GDPR se bodo morala pravilom prilagajati tudi podjetja zunaj EU, če bodo svoje rešitve ponujala na evropskem trgu. To bo vplivalo na način razvoja, nakupa, uvajanja in nadzora sistemov umetne inteligence.
Za podjetja to pomeni predvsem eno: etična presoja ne bo več nekaj, kar sledi šele po težavi ali javni aferi. Postaja del priprave, dokumentacije in odgovornega upravljanja že pred uvedbo sistema. To je pomemben premik tudi za razumevanje digitalne etike kot resne poslovne in upravljavske teme, ne zgolj kot podaljška družbene odgovornosti podjetij.
Umetna inteligenca spreminja poslovna okolja in načine delovanja bliskovito hitro, kar je zagotovo je, da je obseg razsežnosti sedaj še praktično neznan, s tem pa tudi rast pomena in obseg izzivov digitalne etike.
Ali so slovenska podjetja na ta zakonodajni premik pripravljena?
Menimo, da večina podjetij verjetno še ni zares pripravljena. Položaj je v marsičem podoben obdobju pred polno uveljavitvijo GDPR leta 2016: veliko je splošnega zavedanja, manj pa konkretnih notranjih pravil, pregledov uporabe sistemov in jasno določenih odgovornosti.
To je še posebej izrazito pri podjetjih, ki umetno inteligenco že uporabljajo, vendar nimajo natančnega pregleda, kje vse je prisotna, kdo jo uporablja, za katere namene, na katerih podatkih temelji in kdo preverja njene učinke. Pri manjših podjetjih je dodatni izziv tudi pomanjkanje kadrov in časa, zaradi česar se teme pogosto lotevajo šele, ko postane nujna.
Sedaj je pravi trenutek za premike. Podjetja, ki bodo začela dovolj zgodaj, bodo imela bistveno več možnosti, da uvedejo učinkovite procese, usposobijo zaposlene in se izognejo dragim popravkom tik pred obveznimi roki izpolnjevanja zahtev po Aktu o umetni inteligenci. UI pismenost je po uradni časovnici akta že med prvimi zahtevami, ki so začele veljati, kar dodatno potrjuje, da premik ni le pravno vprašanje, ampak tudi vprašanje organizacijske usposobljenosti.
Kakšen nasvet bi dali podjetjem, ki šele začenjajo oblikovati svoj etični kodeks za digitalno poslovanje?
Najslabši začetek je, da podjetje najprej napiše popoln dokument, šele potem pa razmišlja, kako je njegovo digitalno poslovanje v resnici videti. Boljši pristop je obrnjen: najprej je treba narediti pregled dejanskega stanja. Podjetje naj najprej ugotovi, kje zbira, uporablja in hrani podatke, katere digitalne sisteme uporablja, kje se sprejemajo (pol)avtomatizirane odločitve in kje uporablja orodja umetne inteligence. Šele iz tega pregleda lahko nastane kodeks, ki je relevanten in uporaben.
Pomembno je tudi, da so pri nastajanju kodeksa vključeni različni profili zaposlenih in različne ravni odločanja, saj se etične dileme v digitalnem poslovanju pojavljajo v praksi, ne le v strateških dokumentih. Dober kodeks je zato tisti, v katerem se ljudje prepoznajo in ga razumejo kot pomoč pri odločanju, ne kot še eno formalnost.
Smiselno pa je že od začetka preveriti tudi, kako se bodo ta interna pravila ujemala z evropskim regulativnim okvirom, zlasti z Aktom o umetni inteligenci, da pozneje ne bo potrebnih večjih popravkov.
Ali lahko izpostavite konkretne korake ali dobre prakse, ki podjetjem pomagajo, da digitalno etiko integrirajo v vsakodnevne poslovne procese?
Prvi korak je ozaveščanje. Tema mora postati del rednih pogovorov v organizaciji, ne nekaj, o čemer se govori samo ob incidentih ali ob uveljavitvi nove zakonodaje. Odprte razprave, delavnice in praktični primeri so pogosto najboljši način, da zaposleni sploh prepoznajo, kje v njihovem delu nastajajo odločitve z etičnimi posledicami.
Drugi korak je usposabljanje. Digitalna odgovornost ne more ostati omejena na vodstvo, pravno službo ali informatiko, temveč mora postati kompetenca širše organizacije. Prav tu je pomembna tudi vloga projekta DIRECT, ki želi etična načela prenesti v prakso s kompetenčnim okvirom, učnimi potmi in izobraževalnimi viri za razvoj digitalne odgovornosti v različnih okoljih.
Tretji korak je vgradnja v procese. Digitalna etika mora biti prisotna pri razvoju produktov, obdelavi podatkov, nabavi tehnoloških rešitev, upravljanju tveganj in uvajanju umetne inteligence. Ko postane del vsakodnevnega odločanja, ni več odvisna od enega človeka ali oddelka, temveč postane del organizacijske kulture.
Mikro in mala podjetja imajo pri vseh treh korakih največ izzivov, zato je bilo z našega vidika smiselno razviti njim dostopna orodja, ki jim bodo v pomoč pri integraciji digitalne etike.
