V času, ko umetna inteligenca postaja osrednja razvojna prioriteta največjih tehnoloških podjetij, se odpira vse več vprašanj o tem, od kod prihajajo podatki za njeno učenje. Zadnji primer iz podjetja Meta kaže, da meja med razvojem naprednih modelov umetne inteligence in zasebnostjo zaposlenih postaja vse bolj občutljiva.
Podjetje Meta je po večtedenskem nezadovoljstvu zaposlenih napovedalo spremembe pri uvedbi programske opreme, ki na službenih računalnikih beleži premike miške, klike, pritiske tipk in druge uporabniške aktivnosti. Namen zbiranja podatkov je bil ustvariti nove učne baze za razvoj umetne inteligence in prihodnjih avtonomnih digitalnih agentov, ki naj bi bili sposobni samostojno izvajati delovne naloge. Toda odziv zaposlenih je pokazal, da tehnološka izvedljivost še ne pomeni tudi organizacijske sprejemljivosti.
Po navedbah podjetja je bil sistem zasnovan z več plastmi zaščite zasebnosti in je pred uvedbo prestal številne notranje presoje tveganj. Kljub temu so zaposleni izrazili zaskrbljenost glede obsega spremljanja njihovih aktivnosti, nadzora nad osebnimi podatki ter posledic za delovno okolje.
Nekateri zaposleni so podjetje javno označili za “tovarno za pridobivanje podatkov zaposlenih”, kar razkriva globlji problem sodobnih organizacij. Tehnološka podjetja so tradicionalno podatke zbirala predvsem od uporabnikov svojih storitev. V primeru Mete pa se je vir podatkov premaknil v samo organizacijo.
To odpira novo vprašanje: ali lahko zaposleni postanejo učna baza za prihodnje sisteme umetne inteligence? Kot razkriva Reuters, je Meta zato napovedala več omilitvenih ukrepov. Zaposleni bodo lahko zbiranje podatkov začasno ustavili za obdobje do 30 minut, hkrati pa bodo lahko zaprosili tudi za izvzetje iz programa. Podjetje je izboljšalo tudi energetsko učinkovitost programske opreme, saj so zaposleni opozorili, da aplikacija pomembno povečuje porabo baterije in internetnega prometa.
Nova valuta digitalne ekonomije: vedenjski podatki
Primer Mete razkriva širši trend razvoja umetne inteligence. V začetni fazi razvoja generativnih modelov so bila glavna učna baza javno dostopna besedila, slike in videoposnetki. Z napredovanjem tehnologije pa postajajo vse bolj dragoceni podatki o dejanskem človeškem vedenju.
Za razvoj digitalnih agentov ni dovolj, da umetna inteligenca razume jezik. Razumeti mora tudi, kako ljudje uporabljajo računalnike, kako rešujejo probleme, katere korake izvajajo pri posameznih opravilih in kako sprejemajo odločitve. Premik miške, zaporedje klikov ali način uporabe programskih orodij zato postajajo nova strateška surovina digitalne ekonomije. To pojasnjuje, zakaj številna tehnološka podjetja intenzivno iščejo nove vire vedenjskih podatkov. Vendar prav ta razvoj ustvarja vedno večje napetosti med inovacijami in zasebnostjo.
Zaupanje postaja pomembnejše od tehnologije
Primer Mete je zanimiv predvsem zato, ker ne gre zgolj za pravno ali tehnološko vprašanje. V ospredju je vprašanje organizacijske kulture. Številne raziskave kažejo, da zaposleni praviloma sprejemajo tudi zelo napredne tehnološke rešitve, kadar razumejo njihov namen in imajo občutek nadzora nad uporabo podatkov. Nasprotno pa se odpor pogosto pojavi takrat, ko zaposleni dobijo občutek, da postajajo objekt nadzora. To je še posebej pomembno v času, ko podjetja vse pogosteje uporabljajo digitalna orodja za spremljanje produktivnosti, merjenje uspešnosti in optimizacijo delovnih procesov.
Vprašanje zato ni več, ali bomo uporabljali umetno inteligenco pri delu. To je že realnost. Ključno vprašanje postaja, kako zagotoviti, da bo uporaba umetne inteligence temeljila na zaupanju, transparentnosti in jasnih pravilih.
Evropski pogled: previdnost pred tehnološkim navdušenjem
Primer Mete bi lahko imel dodatne posledice tudi v Evropski uniji, kjer regulatorji že več let zaostrujejo pravila glede zbiranja in uporabe osebnih podatkov. Evropska zakonodaja temelji na načelu, da mora biti posameznik jasno obveščen o namenu zbiranja podatkov ter imeti možnost nadzora nad njihovo uporabo. Pri podatkih zaposlenih pa so zahteve pogosto še strožje, saj obstaja naravno neravnovesje moči med delodajalcem in zaposlenim. Prav zato številni strokovnjaki pričakujejo, da bodo vprašanja nadzora zaposlenih in uporabe njihovih podatkov za učenje umetne inteligence v prihodnjih letih postala eno ključnih področij regulatornih razprav.
ESG vidik: od varstva podatkov do psihološke varnosti
Dogodek ima pomembno dimenzijo tudi z vidika ESG. Čeprav se umetna inteligenca pogosto obravnava predvsem kot tehnološko ali upravljavsko vprašanje, postaja vse bolj očitno, da ima neposredne vplive tudi na družbeni steber trajnostnosti.
Psihološka varnost zaposlenih, zaupanje v vodstvo, občutek avtonomije pri delu ter transparentnost odločanja postajajo ključni dejavniki organizacijske odpornosti. Organizacije, ki bodo uvajale umetno inteligenco brez ustreznega vključevanja zaposlenih, bodo lahko naletele na odpor, zmanjšano zavzetost in erozijo organizacijske kulture. Po drugi strani pa lahko podjetja, ki bodo razvoj umetne inteligence povezala z jasnimi etičnimi načeli, odgovornim upravljanjem podatkov in odprto komunikacijo, pridobijo pomembno konkurenčno prednost.
Prihodnost dela bo predvsem vprašanje zaupanja
Primer Mete verjetno predstavlja zgolj začetek širše razprave, ki bo v prihodnjih letih zajela številne organizacije. Ker umetna inteligenca postaja vse bolj sposobna posnemati človeško delo, bodo podatki o tem, kako ljudje delajo, postajali vse dragocenejši. Hkrati pa bodo zaposleni vse bolj občutljivi na vprašanja zasebnosti, nadzora in uporabe njihovih podatkov. Organizacije bodo zato morale najti novo ravnotežje med inovacijami in zaupanjem. Tehnologija bo nedvomno napredovala. Toda dolgoročno uspešne bodo predvsem tiste organizacije, ki bodo znale dokazati, da razvoj umetne inteligence ne temelji zgolj na zbiranju podatkov, temveč na spoštovanju človeka, njegove avtonomije in njegovega zaupanja.
