Misliš, da AI “ve”? Poglej, kako v resnici pride do odgovora.

Umetna inteligenca se lahko moti, tudi takrat, ko zveni povsem prepričljivo. Napake nastanejo, ker modeli pogosto sklepajo verjetnostno iz podatkov in konteksta, ne pa tako, da bi “vedeli”, kaj je res. Pri generativni AI so pogoste tudi t. i. halucinacije: tekoče napisani odgovori, ki vsebujejo izmišljena ali nepodprta dejstva. Zato je smiselno vedeti, kdaj AI pomaga in kdaj jo je treba obravnavati kot nepreverjen osnutek.

Zakaj se AI sploh moti?

Eden ključnih razlogov je, da mnogi sistemi niso zasnovani kot “detektor resnice”, ampak kot orodja za napovedovanje najverjetnejšega odgovora glede na vzorce v učnih podatkih. Če so podatki delno napačni, neuravnoteženi ali zastareli, bo takšna tudi napoved.

Pri jezikovnih modelih se to pokaže v dveh tipičnih oblikah:

• Napačna dejstva: model navede številke, datume ali trditve, ki niso podprte z viri.
• Napačno sklepanje: model pravilno povzema osnovo, a napačno poveže vzroke in posledice.

Raziskovalci, ki so pregledali literaturo o halucinacijah v generiranju besedil, opozarjajo, da je “izmišljanje” besedila sistemska težava: modeli lahko ustvarijo tekoč in logičen opis, ki pa nima opore v vhodu ali preverljivih dejstvih. V preglednem delu Survey of Hallucination in Natural Language Generation to obravnava tudi Ziwei Ji, raziskovalec pri Center for Artificial Intelligence Research (CAiRE) na Hong Kong University of Science and Technology, skupaj s soavtorji, ko opisujejo pojav in načine merjenja ter zmanjševanja halucinacij.

Kdaj so napake najbolj verjetne?

Napake so najpogostejše, ko od AI pričakujemo več, kot je realno:

• Ko sprašujemo po svežih informacijah (zadnje spremembe zakonodaje, aktualni dogodki), ki jih model morda ne pozna ali jih “zapolni”.
• Ko je vprašanje dvoumno in AI izbere eno interpretacijo brez dodatnih vprašanj.
• Ko gre za specializirano stroko (pravo, medicina, tehnične specifikacije), kjer je že manjša netočnost lahko pomembna.
• Ko prosimo za konkretne citate ali sodno prakso: modeli lahko ustvarijo “verjetno zveneče” navedbe, ki ne obstajajo.

Zato v praksi velja preprosto pravilo: bolj ko je odgovor uporaben za odločitev ali odgovornost, bolj mora biti preverljiv zunaj AI.

Ali drži, da je problem predvsem v »halucinacijah«?

Halucinacije so najbolj opazen del težave, niso pa edini. Pogosto so še bolj nevarne “tihe” napake:

• napačna razlaga pravil, brez očitne neumnosti,
• izpuščena omejitev (“velja le v teh primerih”),
• prepričljiv, a preveč posplošen nasvet.

V okvirih upravljanja tveganj se zato ne govori le o resničnosti/neresničnosti, temveč o zanesljivosti, sledljivosti in kontekstu uporabe. NIST v svojem okviru AI Risk Management Framework (AI RMF 1.0) poudarja, da je upravljanje tveganj del odgovorne uporabe AI skozi celoten življenjski cikel, od zasnove do uporabe in nadzora.

Kaj če AI uporabiš pri pomembni odločitvi?

Če je odločitev pomembna (npr. pravni koraki, medicinska tveganja, javna poraba, kadrovanje), je AI smiselno obravnavati kot pomoč pri delu, ne kot avtoriteto. V takih primerih se najbolj izkaže pristop:

• AI pripravi osnutek ali seznam možnosti,
• človek preveri dejstva, vire, izjeme in posledice,
• končno odločitev sprejme odgovorna oseba.

To ni zgolj “dobra praksa”, ampak postaja del pričakovanj v regulativnem okolju. Evropska komisija pri predstavljanju časovnice EU AI Act poudarja postopno uveljavljanje obveznosti, med drugim tudi zahteve glede preglednosti, nadzora in odgovorne uporabe v tveganih okoljih.

Kako lahko navaden uporabnik hitro preveri, ali AI “blefira”?

Tri vprašanja pogosto zadoščajo:

1. Ali lahko AI navede vir, ki ga lahko sam odprem in preverim? Če ne, je odgovor bolj hipoteza kot dejstvo.
2. Ali se odgovor opira na konkretne podatke ali le na splošne trditve? Splošnost je rdeča zastavica pri praktičnih odločitvah.
3. Ali je mogoče, da je vprašanje dvoumno? Če je, je pametno vprašanje preformulirati ali razdeliti na več delov.

Pri številkah in pravnih razlagah pomaga tudi preprost test: “Kateri člen, kateri dokument, katera verzija?” Če model tega ne prenese na konkretno, je možnost napake visoka.

Kaj se v EU in Sloveniji šteje kot razumen standard ravnanja?

EU AI Act (Regulation (EU) 2024/1689) uvaja pristop po tveganjih in časovnico uveljavljanja pravil. Evropska komisija navaja, da je akt začel veljati 1. avgusta 2024, nato pa se obveznosti uvajajo postopno, z različnimi roki glede na vrsto sistema in tveganje. V praksi to pomeni, da bodo organizacije v EU (tudi v Sloveniji) pri uporabi AI vse pogosteje morale pokazati:

• zakaj je bil sistem uporabljen,
• kako so ocenili tveganja,
• kakšen nadzor ima človek,
• kako obravnavajo napake.

Ob tem ostaja pomemben tudi okvir varstva osebnih podatkov. Evropski odbor za varstvo podatkov (EDPB) je v Opinion 28/2024 obravnaval vidike obdelave osebnih podatkov v kontekstu AI-modelov in s tem nakazal, da se vprašanja zakonitosti, sorazmernosti in odgovornosti ne “izključijo” samo zato, ker je v igri nova tehnologija.

Ali je potem varno reči, da AI ni zanesljiva?

Bolj natančno je reči: AI je lahko zelo uporabna, vendar ni sama po sebi garancija pravilnosti. Zanesljivost je odvisna od naloge, podatkov, nastavitev, načina uporabe in tega, ali rezultat kdo preveri. Standardi za upravljanje tveganj (npr. ISO/IEC 23894) zato nagovarjajo organizacije, naj tveganja obravnavajo sistematično: s procesi, odgovornostmi, spremljanjem in izboljšavami.

Za vsakdanjega uporabnika je najbolj praktičen zaključek preprost: pri nepomembnih opravilih je AI dober pospeševalnik, pri pomembnih odločitvah pa mora biti njen odgovor začetek preverjanja, ne konec.

Pripravil: J.P.

Vir: