Google in zdravstveni AI: ko umetna inteligenca izmisli telo, ki ne obstaja

Umetna inteligenca že nekaj let vstopa v zdravstveni sektor z obljubami o hitrejši diagnostiki, natančnejšem odkrivanju bolezni in večji učinkovitosti. Toda nedavni primer Google-ovega zdravstvenega sistema za generativno umetno inteligenco je sprožil resno vprašanje: kaj se zgodi, ko AI izmisli podatek, na primer telesni organ, ki sploh ne obstaja – in zdravnik tega ne opazi?

Halucinacije v medicini: nevarnejše kot v iskanju po spletu

Generativni modeli, kot so ChatGPT, Gemini ali Med-PaLM (Googlov zdravstveni AI), so znani po t. i. »halucinacijah« – samozavestno ustvarjenih, a napačnih informacijah. Če gre za napačno dejstvo o zgodovini ali filmih, je posledica morda le zmeda. V medicini pa ima lahko napačna informacija neposredne posledice za življenje in zdravje pacienta.

Če AI izmisli organ ali telesni del, ki ne obstaja, obstaja nevarnost, da ga zdravnik v naglici ali zaradi zaupanja v sistem spregleda. To lahko vodi do napačnih odločitev: napačne diagnoze, nepotrebnih testov ali celo napačnega zdravljenja.

Zakaj zdravniki zaupajo umetni inteligenci?

Razlogov je več:

• Hitrost in obseg podatkov – AI lahko prebere na tisoče raziskav, člankov in kliničnih podatkov hitreje kot katerikoli človek.
• Avtoritativni ton – AI odgovarja samozavestno, kar krepi vtis pravilnosti.
• Pritisk v zdravstvu – zdravniki so pogosto preobremenjeni, zato je skušnjava, da zaupajo AI »asistentu«, zelo velika.

Posledice: od napačnih odločitev do pravnih vprašanj

Če zdravnik na podlagi napačnega AI-podatka sprejme odločitev, kdo nosi odgovornost? Je to zdravnik, ker ni dovolj kritično preveril vira, ali podjetje, ki je razvilo AI-sistem? Pravne dileme se bodo šele razreševale, a jasno je, da trenutni sistemi niso dovolj zanesljivi za neodvisno klinično odločanje.

Kako naprej?

• AI kot pomočnik, ne zdravnik – umetna inteligenca naj bo orodje, nikoli zadnja instanca.
• Večja transparentnost – AI bi moral vedno navesti vire, na katerih temelji odgovor.
• Dvojno preverjanje – zdravniki morajo preveriti ključne informacije pri zanesljivih medicinskih virih, ne glede na to, kako prepričljivo jih poda AI.

Primer, ko si Google-ov zdravstveni AI »izmislil« telesni del, je opozorilo: umetna inteligenca je lahko neverjetno zmogljivo orodje, a njene napake v medicini niso trivialne. Namesto slepega zaupanja potrebujemo jasna pravila, kritično presojo in razumevanje, da AI ni nezmotljiv – še posebej takrat, ko gre za zdravje ljudi.

Preden izberete zobozdravnika, preverite to – razlike v cenah so lahko ogromne

Večina Slovencev pri izbiri zobozdravnika naredi isto napako. Odločijo se prehitro in šele kasneje ugotovijo, da bi lahko za enako storitev plačali bistveno manj. Razlike v cenah so namreč pogost

Pripravil: J.P.

Vir: The Verge, InsiderHook, Pexels