Geoffrey Hinton, eden od pionirjev umetne inteligence in dobitnik Nobelove nagrade za fiziko za leto 2024, danes vse več pozornosti namenja tveganjem, ki jih prinaša razvoj vse zmogljivejših sistemov umetne inteligence. Znanstvenik, čigar raziskave so pomembno prispevale k razvoju globokega učenja, opozarja, da tehnološki napredek prehiteva razvoj mehanizmov za njegov nadzor, piše SDG News.
Hinton je Nobelovo nagrado skupaj z Johnom Hopfieldom prejel za temeljna odkritja in izume, ki so omogočili strojno učenje z umetnimi nevronskimi mrežami. Prav zato imajo njegova opozorila posebno težo: prihajajo od enega od znanstvenikov, ki so pomagali ustvariti temelje današnje revolucije umetne inteligence.
Hinton priznava velik potencial umetne inteligence za zdravstvo, izobraževanje, produktivnost in znanstvena odkritja, hkrati pa opozarja na neposredna tveganja, med drugim kibernetski kriminal, nadzor, dezinformacije, avtonomno orožje in morebitno biološko zlorabo tehnologije.
Še večja skrb je dolgoročna: vse zmogljivejši sistemi bi lahko nekoč presegli človeško inteligenco, ne da bi človeštvo pred tem rešilo vprašanje njihovega zanesljivega nadzora. Hinton opozarja, da ne vemo, ali bomo lahko dolgoročno ostali gospodarji takšnih sistemov.
Po njegovem mnenju pri tem ni ključno, ali in kdaj bo nastala superinteligentna umetna inteligenca. Že negotovost glede njenih posledic je dovolj pomembna, da bi se morale države nanjo pripraviti.
Tekma med zmogljivostmi in varnostjo
Odkar je leta 2023 zapustil Google, Hinton vse več pozornosti namenja varnosti umetne inteligence. Opozarja predvsem na neravnovesje med vlaganji v večjo zmogljivost sistemov in vlaganji v raziskave, ki bi zagotavljale njihovo varnost in obvladljivost.
Problem po njegovem ni le tehnološki, temveč tudi gospodarski. Podjetja in države imajo močne spodbude za čim hitrejši razvoj umetne inteligence, saj ta postaja pomemben dejavnik gospodarske in nacionalne konkurenčnosti. Morebitne posledice, od varnostnih incidentov do sistemske nestabilnosti ali izgube nadzora, pa bi lahko nosila celotna družba.
Hinton zato vse bolj poziva vlade, naj se osredotočijo na institucionalni okvir razvoja umetne inteligence. Razprava se po njegovem ne bi smela omejevati na vprašanja zasebnosti, pristranskosti in dezinformacij, temveč mora vključevati tudi avtonomijo, nadzor in sistemska tveganja.
Med ključnimi vprašanji so, kdo mora dokazati, da so vse zmogljivejši sistemi varni, ali bi morale države zahtevati minimalne standarde varnostnih raziskav in neodvisnega testiranja ter kako upravljati tehnologijo, ki je hkrati komercialno sredstvo, zmogljivost nacionalne varnosti in potencialni vir globalnega tveganja.
