Kaj moramo urediti, da nas umetna inteligenca ne bo prehitela?
Umetne inteligence se nam ni treba bati v smislu, da bi sama po sebi ogrožala človeštvo. Strah je smiseln le tam, kjer sistemi delujejo brez jasnih pravil, nadzora in odgovornosti. Ključno vprašanje ni, ali je umetna inteligenca nevarna, temveč kdaj in kako lahko njena uporaba postane problematična.
Zakaj se umetne inteligence sploh bojimo?
Strah izvira predvsem iz občutka izgube nadzora. Odločitve, ki so jih nekoč sprejemali ljudje, danes v nekaterih primerih sprejemajo algoritmi: komu banka odobri kredit, kateri življenjepis bo izbran, katera vsebina se bo prikazala na zaslonu.
Kadar človek ne razume, zakaj je sistem odločil tako, kot je, se pojavi nezaupanje. K temu prispevajo tudi popularne podobe iz filmov in literature, kjer umetna inteligenca dobi lastno voljo in se obrne proti ljudem. V resnici današnji sistemi nimajo zavesti, namenov ali razumevanja sveta. Delujejo na podlagi statističnih vzorcev in ciljev, ki jih določijo ljudje.
Mit je, da je nevarnost v “inteligenci” sami. Dejansko tveganje je v tem, kdo sistem uporablja, s kakšnimi podatki in s kakšnimi nameni.
Kdaj lahko umetna inteligenca povzroči resne težave?
Težave se pojavijo tam, kjer so posledice odločitev velike, preglednost pa majhna.
Prvi primer je diskriminacija. Če se algoritem uči iz zgodovinskih podatkov, ki že vsebujejo pristranskost, jo bo reproduciral. To se lahko pokaže pri zaposlovanju, kreditiranju ali ocenjevanju tveganj.
Drugi primer je zasebnost. Umetna inteligenca pogosto temelji na obdelavi velikih količin osebnih podatkov. Če ni jasnih omejitev, lahko pride do posegov v zasebno življenje, ki jih posameznik ne more nadzorovati.
Tretji primer je avtomatizacija odločitev v kritičnih sistemih, kot so zdravstvo, promet ali varnost. Tam mora biti vedno zagotovljen človeški nadzor in možnost razlage, zakaj je bila neka odločitev sprejeta.
Kaj če umetna inteligenca nadomesti človeško delo?
Umetna inteligenca že spreminja trg dela, vendar ga ne prazni, temveč preoblikuje. Rutinska, ponovljiva opravila se avtomatizirajo, hkrati pa narašča pomen poklicev, ki vključujejo presojo, odgovornost, etiko in razumevanje konteksta.
Izkušnje iz industrije kažejo, da se vloga človeka premika iz izvajalca v nadzornika in razlagalca. Sistem lahko analizira tisoče primerov, vendar odgovornost za odločitev ostaja pri človeku. Strah pred popolno zamenjavo je zato pretiran, realna pa je potreba po prilagajanju znanj in izobraževanja.
Ali drži, da lahko umetna inteligenca uide izpod nadzora?
Današnji sistemi ne delujejo samostojno v smislu, da bi si sami postavljali cilje. Izvajajo naloge, ki so jim dodeljene. Težava nastane, če so cilji slabo opredeljeni ali če se učinkovitost postavi pred družbene posledice.
Strokovnjaki opozarjajo, da tveganje ni v “uporu strojev”, temveč v tem, da bi se kompleksni sistemi uporabljali brez jasnega razumevanja njihovih omejitev. Če človek slepo zaupa rezultatom, ne da bi razumel njihove predpostavke, nastane nevarnost napačnih odločitev z resničnimi posledicami.
Kaj o tveganjih pravijo raziskovalci?
Večina raziskovalcev danes to pove precej preprosto: trenutna umetna inteligenca sama po sebi nima “namena” ali zavesti. Ne razmišlja, ne čuti in ne razume posledic tako, kot jih razume človek. Tveganja se začnejo drugje, pri tem, kako sistem zgradimo, kakšne cilje mu damo in predvsem, kako ga potem uporabimo v resničnem svetu.
V znanstvenih razpravah se zato veliko govori o tem, da morajo biti cilji sistema usklajeni s človeškimi pravili in vrednotami. Ne v smislu lepih sloganov, ampak čisto praktično: da vemo, zakaj sistem nekaj naredi, da ga lahko preverimo, da ga lahko ustavimo in da imamo nad njim nadzor. Še ena pomembna točka je odgovornost. Ne sme se zgoditi, da bi se ljudje skrili za algoritmom in rekli “tako je odločil sistem”. Odločitve, ki vplivajo na ljudi, morajo imeti vedno jasno človeško odgovornost, nekoga, ki za to stoji.
Evropske skupine, ki se ukvarjajo z etiko umetne inteligence, že leta opozarjajo na nekaj, kar je v resnici bolj “zemeljsko” kot filmsko. Glavna nevarnost ni v tem, da bi stroji postali preveč pametni in nas prehiteli. Večje tveganje je, da se AI uporablja nepregledno, da se moč in podatki nabirajo pri peščici, in da pravila niso dovolj jasna. Ko ni trdnega okvira, je težje zaščititi posameznika, določiti meje in razčistiti, kdo je odgovoren, ko gre kaj narobe.
Kako je uporaba umetne inteligence urejena v EU in Sloveniji?
Evropska unija je sprejela Akt o umetni inteligenci, ki uvaja razvrščanje sistemov glede na stopnjo tveganja. Posebno stroga pravila veljajo za uporabo v zdravstvu, zaposlovanju, izobraževanju, bančništvu in nadzoru prebivalstva. Zahteva se razložljivost odločitev, človeški nadzor in jasna odgovornost.
V Sloveniji se umetna inteligenca uporablja v upravnih postopkih, finančnih storitvah in podpornih sistemih v zdravstvu, vendar praviloma kot pomoč pri odločanju, ne kot popolna zamenjava človeške presoje. Nacionalne smernice poudarjajo, da mora imeti posameznik možnost razumeti, kako je bila odločitev sprejeta, in se nanjo tudi pritožiti.
Kdaj je umetna inteligenca koristna in kdaj problematična?
Koristna je, kadar pomaga obdelovati velike količine podatkov, podpira zdravnike pri diagnostiki, izboljšuje varnost prometa in razbremenjuje ljudi rutinskih opravil.
Problematična postane, kadar deluje netransparentno, nadomešča človeško presojo tam, kjer je potrebna odgovornost, uporablja podatke brez jasnega soglasja in utrjuje družbene neenakosti.
Umetne inteligence se torej ni treba bati kot neobvladljive sile. Potrebna pa sta razumevanje in previdnost pri njeni uporabi. Tehnologija sama ni nevarna ali varna, to postane šele skozi način, kako jo družba uredi, nadzoruje in uporablja. Če so pravila jasna in odgovornost določena, je umetna inteligenca predvsem orodje, ne grožnja.
Pripravil: J.P.
Vir: WHO, OECD, EU, Stanford HAI, Britannica, MIT Tech Review
