Regulacija zaostaja – AI terapevtske aplikacije rastejo hitreje kot zakoni
Washington, 29. september 2025 – Umetna inteligenca se vse bolj vključuje tudi v področje duševnega zdravja, kjer milijoni uporabnikov uporabljajo aplikacije z virtualnimi terapevti. A medtem ko tehnologija napreduje z izjemno hitrostjo, zakonodaja močno zaostaja, kar ustvarja vrzel med inovacijami in zaščito uporabnikov.
Države stopajo v ospredje
Ker na zvezni ravni ni enotnih pravil, so posamezne ameriške države letos sprejele prve zakone, ki omejujejo uporabo AI v terapevtske namene. Illinois je kot prva država prepovedal neposredno AI terapijo, pri čemer so kazni za kršitelje lahko visoke. Nevada in Utah sta uvedli dodatne omejitve, od prepovedi določenih funkcionalnosti do stroge zaščite podatkov in zahteve, da morajo biti uporabniki jasno obveščeni, da komunicirajo s strojem. Podobne pobude razmišljajo tudi Kalifornija, New Jersey in Pensilvanija.
Kljub sprejetim ukrepom strokovnjaki opozarjajo, da regulacija ni dovolj natančna. Težko je natančno opredeliti, kaj sploh pomeni »AI terapija«, saj številne aplikacije delujejo kot čustvena podpora, čeprav se ne predstavljajo kot terapevtske. Hkrati pa se AI modeli razvijajo tako hitro, da zakonodaja zastara že v trenutku, ko stopi v veljavo.
Vloga zveznih agencij in globalne primerjave
Ameriške agencije, kot sta FTC in FDA, pripravljajo smernice za večji nadzor nad podjetji, ki ponujajo tovrstne rešitve. A brez enotne zvezne zakonodaje ZDA za zdaj ostajajo razdrobljene. Medtem je Evropska unija že uvedla celovit »AI Act«, ki razvršča sisteme po stopnji tveganja. Aplikacije za duševno zdravje bi v tem okviru štele med visokorizične, kar pomeni stroge zahteve glede preglednosti in varnosti.
Prihodnost – med inovacijo in odgovornostjo
Prihodnost bo pokazala, ali se bodo regulatorji lahko pravočasno prilagodili. Ključno bo, da AI sistemi ne ostanejo brez človeškega nadzora, zlasti pri prepoznavanju kriznih situacij, kot so samomorilne misli. Potrebni bodo jasni standardi, certifikati in etična pravila, saj gre pri uporabi umetne inteligence v duševnem zdravju za več kot le tehnologijo – gre za zaupanje in dobrobit ljudi.
Pripravil: J.P.
Vir: Reuters, The Guardian
