Kuala Lumpur je z vzpostavitvijo mreže 10.000 kamer CCTV, povezanih v mestni nadzorni in upravljavski center KLCCC, postal eden najvidnejših primerov nove generacije pametnih mest. Sistem ni zasnovan le kot klasično videonadzorno omrežje, temveč kot podatkovna infrastruktura, ki uporablja umetno inteligenco za zaznavanje dogodkov, prometnih zastojev, nesreč, poplav, množic, sumljivih predmetov in varnostnih tveganj.
Mestne oblasti sistem predstavljajo kot orodje za večjo javno varnost, hitrejše odzivanje služb in boljše upravljanje mesta. Po navedbah oblasti naj bi se na območjih, pokritih s kamerami, zmanjšalo število kaznivih dejanj, zlasti uličnih ropov in tatvin. A prav ta primer odpira eno ključnih vprašanj digitalne dobe: kje se konča legitimna skrb za varnost in začne sistemski nadzor prebivalstva?
Tehnologija ni več pasivna
Klasična kamera je dogodek posnela. Nova generacija kamer dogodek razvršča, interpretira in sproža odzive. To je bistvena razlika. Ko so v sistem vključeni umetna inteligenca, prepoznava obrazov, biometrični podatki in povezovanje podatkov med institucijami, videonadzor ni več samo tehnična infrastruktura. Postane infrastruktura odločanja.
V tem je največje tveganje. Pametno mesto lahko izboljša promet, varnost in odzivnost javnih služb. Lahko pa hkrati ustvari okolje, v katerem se gibanje ljudi sistematično spremlja, analizira in arhivira. Posebej občutljivo je, kadar sistem omogoča prepoznavo obrazov, sledenje posameznikom ali analizo vedenjskih vzorcev.
Biometrični podatki niso primerljivi z geslom ali identifikacijsko kartico. Geslo lahko zamenjamo. Obraza ne moremo. Če je biometrični podatek enkrat zajet, shranjen ali povezan z drugimi podatkovnimi bazami, nastane dolgoročno tveganje zlorabe, napačne identifikacije ali uporabe za namene, ki prvotno niso bili predvideni.
Največje tveganje je širjenje namena
Pri velikih nadzornih sistemih se pogosto pojavi t. i. širjenje namena. Sistem je uveden zaradi varnosti, nato se uporabi za prometne prekrške, nato za nadzor množic, nato za migracijski nadzor, nato za spremljanje javnih zbiranj. Vsak posamezen korak se lahko zdi racionalen, skupaj pa lahko spremenijo razmerje med državo, mestom in posameznikom.
To je posebej pomembno pri ranljivih skupinah. Brezdomci, begunci, migranti, ulični prodajalci, protestniki, novinarji in manjšine so lahko v takšnih sistemih bolj izpostavljeni. Ne zato, ker bi tehnologija nujno ciljala prav njih, ampak ker se nadzor pogosto najprej okrepi tam, kjer imajo ljudje najmanj pravne, politične ali ekonomske moči.
Tudi napake niso nevtralne. Napačna prepoznava obraza lahko za nekoga pomeni policijsko obravnavo, zaslišanje, pridržanje ali stigmatizacijo. Če algoritmi niso neodvisno preverjeni, če ni javno znano, kakšna je njihova natančnost, in če posameznik nima učinkovite poti za pritožbo, se tehnološka napaka spremeni v pravni in družbeni problem.
London: varnostni argument in spor o pravicah
Podobne razprave potekajo tudi v Evropi, zlasti v Združenem kraljestvu. Londonska Metropolitanska policija uporablja živo prepoznavo obrazov za primerjavo ljudi na javnih mestih s policijskimi seznami iskanih oseb. Policija tehnologijo predstavlja kot ciljno orodje za odkrivanje oseb, povezanih s hudimi kaznivimi dejanji. Toda civilnodružbene organizacije opozarjajo, da gre za zelo invaziven poseg v zasebnost, svobodo gibanja, svobodo izražanja in pravico do mirnega zbiranja. Posebej sporno je vprašanje, kdo je lahko uvrščen na nadzorni seznam, kako dolgo se podatki hranijo, kdo nadzira uporabo sistema in kako se preprečujejo diskriminatorni učinki. Britanski primer kaže, da tudi v demokratičnih državah ni dovolj, da oblast zatrjuje varnostni namen. Potrebni so jasna pravna podlaga, neodvisen nadzor, omejena uporaba, javna preglednost in pravna sredstva za posameznike.
Evropska unija: strožji okvir za biometrični nadzor
Evropska unija je z Aktom o umetni inteligenci postavila strožji okvir za uporabo biometričnih sistemov v javnih prostorih. Pristop EU izhaja iz ocene tveganja: nekatere uporabe umetne inteligence so prepovedane, druge so dovoljene samo pod strogimi pogoji.
Živa biometrična identifikacija na javno dostopnih prostorih za namene kazenskega pregona je v EU načeloma močno omejena. Dovoljena je le v posebej opredeljenih izjemah, na primer pri iskanju žrtev, preprečevanju neposredne teroristične grožnje ali iskanju osumljencev za najhujša kazniva dejanja. Tudi takrat morajo biti izpolnjeni pogoji nujnosti, sorazmernosti, časovne in prostorske omejenosti ter praviloma predhodne odobritve pristojnega organa.
Ta pristop je pomemben, ker priznava dvojno naravo tehnologije. Umetna inteligenca lahko pomaga javnim službam, vendar lahko ob odsotnosti varovalk postane infrastruktura množičnega nadzora.
Clearview AI: opozorilo, kaj se zgodi brez meja
Poseben primer je Clearview AI, podjetje, ki je z interneta zbiralo fotografije ljudi in iz njih ustvarjalo obsežno bazo za prepoznavo obrazov. Več evropskih organov za varstvo podatkov je takšne prakse označilo za nezakonite, izreklo globe in zahtevalo izbris podatkov. Primer Clearview AI kaže, da se tveganje ne začne šele pri državi. Zasebna podjetja lahko zgradijo podatkovno infrastrukturo, ki jo nato uporabljajo organi pregona, varnostne službe ali drugi akterji. Zato vprašanje pametnega nadzora ni samo vprašanje javnega sektorja, ampak tudi vprašanje javno-zasebnih partnerstev, pogodbenih razmerij, lastništva podatkov in odgovornosti dobaviteljev tehnologije.
Ključno vprašanje ni kamera, ampak upravljanje
Razprava o Kuala Lumpurju ni razprava o tem, ali so kamere same po sebi dobre ali slabe. Varnost, promet, poplavna ogroženost in odzivnost javnih služb so legitimni cilji pametnega mesta. Problem nastane, kadar tehnološka zmogljivost prehiti demokratični nadzor. Za odgovorno uporabo takšnih sistemov so ključni najmanj naslednji pogoji: jasna zakonska podlaga, določitev natančnega namena uporabe, prepoved nenadzorovanega širjenja namena, neodvisen nadzor, omejeni roki hrambe podatkov, javno dostopne informacije o delovanju sistema, preverjanje algoritmov, ocena vplivov na človekove pravice ter posebna zaščita ranljivih skupin.
Pametno mesto ne sme biti mesto, kjer je vse vidno oblasti, prebivalci pa ne vidijo, kako oblast uporablja podatke. Prava pamet mesta se ne meri po številu kamer, temveč po kakovosti pravil, nadzora in zaupanja.
Nauki za Evropo in Slovenijo
Tudi evropska in slovenska mesta bodo vse pogosteje uporabljala podatkovne sisteme za promet, varnost, energetiko, odpadke, poplave in druge javne storitve. To je razvoj, ki ga ni smiselno zavračati v celoti. Toda prav zato je treba že vnaprej določiti meje.
Pametna infrastruktura mora biti zasnovana po načelih zasebnosti po zasnovi, najmanjšega obsega podatkov, sorazmernosti, sledljivosti odločitev in javne odgovornosti. Če mesto uvaja digitalni nadzor, mora prebivalcem znati pojasniti, kaj spremlja, zakaj, kdo ima dostop, koliko časa se podatki hranijo, s kom se delijo in kako lahko posameznik uveljavlja svoje pravice.
V nasprotnem primeru pametno mesto ne gradi zaupanja. Gradi občutek stalne opazovanosti. Zato prihodnost urbanega upravljanja ni samo tehnološko vprašanje. Je vprašanje demokracije, človekovih pravic in družbene pogodbe med mestom in njegovimi prebivalci.
Komentar uredništva revije ESG / Zelena Slovenija
Viri: The Edge Malaysia (2026); Regulation (EU) 2024/1689 – Artificial Intelligence Act; European Data Protection Board (2023); EU Agency for Fundamental Rights (2019); OECD AI Principles (2024); UNESCO Recommendation on the Ethics of AI (2021); NIST Face Recognition Vendor Test; Buolamwini & Gebru (2018); Zuboff (2019).
