»Nezemljani so že pristali, ustvarili smo jih mi – ljudje! Čaka nas popoln pomor …«
»Najverjetnejša posledica ustvarjanja nadčloveško umetne inteligence je, da bo vsak član človeške vrste in vse biološko življenje na Zemlji – dobesedno vse – izumrlo,« je zapisal Eliezer Yudkowsky, vodja raziskovalnega inštituta za strojno inteligenco. Yudkowsky je nekoč opozarjal, kako lahko nekdo nevede ustvari AI, ki bi se obrnila proti človeštvu. In pred nekaj leti je predlagal tudi modificiran Moorov zakon, po katerem minimalni IQ, potreben za uničenje sveta, vsakih 18 mesecev pade za eno točko. Zdaj pa je Yudkowsky šel še korak dlje. »Verjamem, da se približujemo nevarni točki, ko ustvarimo AI, ki je inteligentnejši od nas samih, ki ne počne, kar hočemo, in se sploh ne zmeni za nas, kar je verjeten rezultat soočenja človeštva z nasprotno nadčloveško inteligenco bo popoln zlom … Takšna umetna inteligenca bi zlahka pobegnila s spleta in ‘tam zunaj’ zgradila umetne oblike življenja, ki bi proti nam bojevale biološko vojno. Zato potrebujemo popoln in globalni moratorij na razvoj umetne inteligence,« opozarja.
A nekateri so proti prekinitvi raziskav …
Pred kratkim sta med drugim Elon Musk (lastnik Tesle in Twitterja) in Steve Wozniak (soustanovitelj Appla) v pismu pozvala k šestmesečnemu premoru v razvoju AI. In verjamejo, da bo razvoj umetne inteligence z nadčloveškimi sposobnostmi brez kakršnega koli mednarodnega regulativnega okvira vodil v katastrofo. A Yudkowsky v nasprotju s podpisniki omenjenega pisma ne verjame, da je ta trenutni problem mogoče rešiti v samo pol leta. Svet je bil v preteklosti že priča potencialno smrtonosnim znanstvenim raziskavam – jedrskemu orožju in biološki vojni. Vedelo se je, da je možnost katastrofe ogromna, vendar se raziskave niso zmanjšale. Vse to nam v resnici pove, da s šestmesečnim premorom v razvoju umetne inteligence verjetno ne bomo veliko dosegli. Po drugi strani pa je nerealno pričakovati, da bo poziv Yudkowskega k popolni ‘zamrznitvi’ raziskav in razvoja AI naletel na odobravanje in sprejet.
Težava je v tem, da večino raziskav o umetni inteligenci izvaja zasebni sektor. Glede na zadnje poročilo Stanfordskega inštituta za umetno inteligenco, osredotočeno na človeka, so svetovne zasebne naložbe v umetno inteligenco leta 2022 znašale 92 milijard dolarjev, od tega več kot polovica v ZDA. Zasebna podjetja so izdelala skupaj 32 pomembnih modelov strojnega učenja, v primerjavi s samo tremi, ki so jih izdelale akademske ustanove. Toda mnogi Yudkowskyjevi kritiki, vključno z Mattom Parlmerjem, ustanoviteljem podjetja za strojna orodja GenFab, ga obtožujejo, da je ustvaril kult proti AI. »Prekinitev raziskav umetne inteligence bi bolne ljudi prikrajšala za potencialna odkritja v medicinski znanosti,« opozarja Parlmer, ki ga citira Bloomberg.
Kako lahko AI sploh uniči človeštvo?
Med zagovorniki razvoja umetne inteligence je tudi Reid Hoffman, ustanovitelj LinkedIna. Ne oporeka dejstvu, da obstaja vsaj nekaj tveganja pri razvoju AI z inteligenco, ki je večja od človeške, a hkrati pravi: »Zaupajte nam, da bomo to storili zelo etično, kajti če nas boste omejili, bodo negativci bodo tisti, ki bodo delali na razvoju umetne inteligence, kar bi lahko resnično pripeljalo do prave katastrofe.”
Dejstvo je, da večina umetne inteligence počne stvari, ki človeštvu prinašajo koristi in ne groženj. Kako nas torej lahko umetna inteligenca uniči? Ne ustvarja ubijalskih androidov, kot je Arnold Schwarzenegger v Terminatorju, ampak samo uporablja svojo moč, da nas posnema, da nas posamezno ponori in kolektivno požene v državljansko vojno. Ne bo nas “izbrisala” umetna inteligenca, edina realna nevarnost tukaj je, da bomo razpadli kot vrsta z uporabo orodij AI za neplemenite ali nečedne namene, dodajajo mediji.
N. D.; Foto: Shutterstock
