Google in zdravstveni AI: ko umetna inteligenca izmisli telo, ki ne obstaja
Umetna inteligenca že nekaj let vstopa v zdravstveni sektor z obljubami o hitrejši diagnostiki, natančnejšem odkrivanju bolezni in večji učinkovitosti. Toda nedavni primer Google-ovega zdravstvenega sistema za generativno umetno inteligenco je sprožil resno vprašanje: kaj se zgodi, ko AI izmisli podatek, na primer telesni organ, ki sploh ne obstaja – in zdravnik tega ne opazi?
Halucinacije v medicini: nevarnejše kot v iskanju po spletu
Generativni modeli, kot so ChatGPT, Gemini ali Med-PaLM (Googlov zdravstveni AI), so znani po t. i. »halucinacijah« – samozavestno ustvarjenih, a napačnih informacijah. Če gre za napačno dejstvo o zgodovini ali filmih, je posledica morda le zmeda. V medicini pa ima lahko napačna informacija neposredne posledice za življenje in zdravje pacienta.
Če AI izmisli organ ali telesni del, ki ne obstaja, obstaja nevarnost, da ga zdravnik v naglici ali zaradi zaupanja v sistem spregleda. To lahko vodi do napačnih odločitev: napačne diagnoze, nepotrebnih testov ali celo napačnega zdravljenja.
Zakaj zdravniki zaupajo umetni inteligenci?
Razlogov je več:
- Hitrost in obseg podatkov – AI lahko prebere na tisoče raziskav, člankov in kliničnih podatkov hitreje kot katerikoli človek.
- Avtoritativni ton – AI odgovarja samozavestno, kar krepi vtis pravilnosti.
- Pritisk v zdravstvu – zdravniki so pogosto preobremenjeni, zato je skušnjava, da zaupajo AI »asistentu«, zelo velika.
Posledice: od napačnih odločitev do pravnih vprašanj
Če zdravnik na podlagi napačnega AI-podatka sprejme odločitev, kdo nosi odgovornost? Je to zdravnik, ker ni dovolj kritično preveril vira, ali podjetje, ki je razvilo AI-sistem? Pravne dileme se bodo šele razreševale, a jasno je, da trenutni sistemi niso dovolj zanesljivi za neodvisno klinično odločanje.
Kako naprej?
- AI kot pomočnik, ne zdravnik – umetna inteligenca naj bo orodje, nikoli zadnja instanca.
- Večja transparentnost – AI bi moral vedno navesti vire, na katerih temelji odgovor.
- Dvojno preverjanje – zdravniki morajo preveriti ključne informacije pri zanesljivih medicinskih virih, ne glede na to, kako prepričljivo jih poda AI.
Primer, ko si Google-ov zdravstveni AI »izmislil« telesni del, je opozorilo: umetna inteligenca je lahko neverjetno zmogljivo orodje, a njene napake v medicini niso trivialne. Namesto slepega zaupanja potrebujemo jasna pravila, kritično presojo in razumevanje, da AI ni nezmotljiv – še posebej takrat, ko gre za zdravje ljudi.
Pripravil: J.P.
Vir: The Verge, InsiderHook, Pexels
