Sogovornika:

Špela Vintar
Igor Verstovšek

Novembrsko jutro, eno leto tega, kar je bila v svet poslana prva izdaja ChatGPT-ja; vsi smo ga v tem letu že kdaj kaj vprašali in preizkusili, še zmeraj pa nam ni povsem jasno, kaj naj si o njem mislimo. Postavljajo se številna vprašanja, ki segajo tudi na področje prava, etike in prihodnosti naše vrste. Prav v minulem tednu smo sledili pretresom v vodstvu podjetja OpenAI, kjer je bilo videti, da se tudi pri samih snovalcih UI razhajajo mnenja o tem, ali gre za posel ali revolucijo.

Povabili smo dva sogovornika, jezikoslovko dr. Špelo Vintar in fizika Igorja Verstovška, da nam odpirata nove perspektive in pomagata odgovoriti na številna vprašanja, ki se porajajo.

Špela Vintar se z jezikovnimi tehnologijami že nekaj časa ukvarja kot predavateljica in raziskovalka na FF, v zadnjem času pa se je posvetila vzpostavljanju študijskega programa Digitalno jezikoslovje, ki sledi spremembam in razvojnim premikom na tem področju – in v luči zadnjih dogajanj se zdi tak program danes še bolj aktualen, kot je bil v fazi snovanja. Igor Verstovšek je eden od soustanoviteljev podjetja Cosylab, kjer delajo krmilne sisteme za fuzijske reaktorje, jedrske pospeševalnike za uporabo v znanosti in medicini, predvsem na področju zdravljenja raka, in pri svojih produktih čedalje več uporabljajo tudi umetno inteligenco.

Svoje storitve ChatGPT opiše kot odgovarjanje na vprašanja na podlagi svojega znanja, podajanje informacij, povzetkov in razlag z različnih področij, kot so zgodovina, znanost, tehnologija … Lahko tudi pomaga pri iskanju podatkov. Omeni še svetovanje: Če imate kakšen osebni ali strokovni izziv, lahko ponudim nasvete ali alternativne perspektive za razmislek … Lahko ponudi predloge ali vodi v pravo smer …
V katero smer nas torej vodi – ki jo sam opisuje kot »pravo«?

ŠV: Prav pri vprašanjih, kjer ChatGPT govori o sebi, se moramo zavedati, da beremo zelo filtrirane odgovore in vidimo tisto plat jezikovnega modela, kamor so njegovi ustvarjalci »obesili« masko, nekakšno javno podobo, ki jo zaradi raznih varnostnih razlogov mora kazati svetu – zato sem tukaj skeptična do teže teh besed; to je tako, kot bi gledali zelo cenzuriran film.

Toda če se vrnemo k vprašanju smeri – vsa dogajanja in tudi pretresi pri vodstvu teh podjetij, ki smo jim lahko v zadnjem času sledili, kažejo, da očitno ne gre samo za posel. Se tudi sami snovalci sprašujejo, kaj je prav in kaj narobe, so ustvarili novo orodje ali himero?

ŠV: Te debate so v teh časih relevantne, menim pa, da je res oboje: ChatGPT je zelo koristno orodje in velik del tehnološkega sveta, razvijalcev, poudarja, da ni razloga za skrb, da gre le za nek pripomoček, ki ne namerava škoditi, zgolj olajšati življenje. Storitev je v tem smislu zasnovana tako, da je zelo prilagodljiva in udobna, kot raztegljiva obleka, ki se vsakomur prilega po meri. Seveda je to samo ena plat kovanca, kajti vemo, da so ti modeli sposobni marsičesa, gotovo ponekod že presegajo človeške zmogljivosti in se zato postavlja vprašanje, ali človek sploh še lahko ta razvoj usmerja, predvidi in nadzoruje.

IV: Rad bi dodal, da strah pred tehnologijo ni nova stvar, že 200 let tega so ludisti razbijali statve, ker so ogrožale delovna mesta. Če se ozremo stoletje nazaj – od poletov bratov Wright do pristanka na Luni je minilo vsega 66 let, prvi osebni računalniki so prešli v široko uporabo pred nekaj desetletji, prvi iPhone je prišel na trg pred 15 leti, kar kaže, da se hitrost napredka povečuje. Napredek jezikovnih modelov in same UI je drugačen od ostalih tehnologij v dveh pogledih; gre za software, za program: v trenutku, ko se pojavi na trgu en model, ga lahko načeloma dobijo vsi; drugi vidik je sam poseg na področje razmišljanja, kreativnosti, stvari, za katere se nam ljudem zdi, da nas definirajo kot vrsto: v tem pogledu se jezikovni modeli bistveno razlikujejo od drugih tehnoloških iznajdb.

Izpostavili ste, da nas razmišljanje definira kot ljudi: dr. Vintar, pravite, da tudi UI že misli? Verjamemo, da je potrebna neka božja iskra, ki iz besed tvori misli – pravite, da se je že zanetila?

ŠV: Da, tako mislim, tak občutek sem dobila že kmalu zatem, ko se je ChatGPT pojavil. Sposobnost razumevanja in mišljenja se resnično zdi prelomna – kot v tisti prajuhi, ko se je iz organskih in anorganskih spojin porodilo življenje. To je presenetilo marsikoga med razvijalci in med mojimi kolegi, ki se z UI ukvarjajo. Mislim, da je za tak preskok odločilna velikost modela oziroma njegovega »kognitivnega prostora«, podobno kot pri bioloških organizmih, kjer od določene stopnje razvitosti možganov naprej lahko pričakujemo višje kognitivne funkcije in zavedanje. Kolikor razumem delovanje in učenje velikih jezikovnih modelov, me to niti ne preseneča; rezultat strojnega učenja je konceptualni prostor, ki ni tako zelo drugačen od človeškega …

Toda če misli, ali potem tudi čuti?

ŠV: To pa je že spolzek teren; lažje bi izrazila svoje mnenje v zvezi z zavedanjem. Če se soočaš s takšno kognitivno kompleksnostjo, pa naj so to umetni ali biološki možgani, je od neke točke naprej ta organizem sposoben razmišljati o sebi, to pa je že eden od elementov zavedanja.

Torej ni bilo narobe, da sem ga vprašala,
kaj si misli o sebi?

ŠV: Samo pravega odgovora ni moč pričakovati. Kar se tiče čutenja, pa je to v naših predstavah običajno povezano z neko izkušnjo sveta, sposobnostjo zaznavanja neugodja, bolečine, in tukaj je potreben nekoliko večji miselni skok, kaj denimo pomenita bolečina in neugodje za umetno inteligenco.

S tem smo daleč do peripatetičnega vodila »nič ni v razumu, kar ni bilo poprej v čutih« …

IV: Te pojme moramo poskusiti razčistiti: kaj je misel, kaj je inteligenca … Inteligenca je to, da znaš iz podatkov ustvariti nek abstrakten model (temu bi lahko po domače rekli, da si »urediš misli«) in nato s pomočjo tega ustvariš nekaj novega, v tem smislu so ti jezikovni modeli podobni ljudem; tudi ljudje se učimo, iz tega nekaj sestavljamo in ne vemo točno, kako in kam se bo razvilo …

ŠV: … in ravno tako se kdaj zmotimo …

IV: Problem zavedanja pa je od tega ločen; nekateri pravijo, da zavedanje vznikne iz razmišljanja in inteligence, drugi trdijo, da je zavedanje nekaj povsem drugega, da sta inteligenca in zavedanje neodvisna – temu pravijo the hard problem of consciousness, težek problem zavesti, ki je težek prav zato, ker vsebuje subjektivno izkušnjo – če imaš stroj ali človeka, ki ti daje zanimive odgovore, razlaga o svojem trpljenju …, ne veš, ali je to umetno ali to zares čuti. Kot ljudje smo lahko z gotovostjo prepričani samo v to, da se sami zavedamo; od tod sklepamo, da se verjetno zavedajo tudi drugi ljudje, potem lahko to prenesemo na določene višje razvite živali, vprašanje pa je, kjer se postavi meja …

Dokler problema zavedanja ne bomo rešili ali vsaj bolje razumeli, ne bomo mogli z gotovostjo trditi, ali se umetna inteligenca zaveda ali ne.

ŠV: Kaj izhaja iz tega, ko začnemo modelu verjeti? O tem in sorodnih etičnih vprašanjih piše v svojih spisih tudi Nick Bostrom. Če UI čuti, ji pripada moralni status, iz katerega izhajajo tudi nekatere pravice. Številni misleci so že pred leti predvideli te dileme …

Vprašanja so torej stara, tehnologija je zmeraj novejša … Ljudje smo nepopolni – je ravno v tej nepopolnosti, ki nas dela človeške, naša prednost? Si želim iti k zdravniku, ki bo nezmotljivi stroj, ali si želim iti k človeškemu, zmotljivemu zdravniku? Velika večina bi si verjetno izbrala človeškega zdravnika …

IV: Ja, te dihotomije – verjamem, da jih je moč preseči. Poglejmo čustveno bolj nevtralen primer igranja šaha. Kasparov je napovedal, da računalnik nikoli ne bo premagal človeka, saj ne premore človeške intuicije, iskre; drugi so trdili, da v trenutku, ko bo računalnik boljši od človeka, šah ljudi ne bo več zanimal; potem je najprej Deep Blue premagal Kasparova, ki je potem sicer priznal njegovo premoč, toda hkrati zatrdil, da je še zmeraj najboljša pot tandem: človeški velemojster in računalnik, ki mu pomaga; no, in kaj kmalu se je pokazalo, da je v taki dvojici človek zgolj ovira, saj je računalnik mnogo boljši. Toda, paradoksno, šah je vseeno bolj priljubljen kot kadarkoli. Ljudje navajajo različne razloge za svojo vnemo – nekateri prisegajo samo na človeški šah, drugi opazujejo računalniške šahovske dvoboje, vsi pa lahko s pomočjo sprotne analize šahovskih programov lažje sledimo boju za naslov svetovnega (človeškega) prvaka. Na tem primeru lahko vidimo, kako lahko sobivamo z nečim, kar je »pametnejše« od nas.

ŠV: Šah je res primer, kjer so pravila zelo jasna in natančno definirana, toda na področjih, kjer so meje bolj zamegljene, kot je bil gornji primer medicine ali odločanje na sodiščih, kjer se prav tako že uporablja UI, pa se vendar kaže, da je ta premalo zanesljiva; kakršenkoli že je ta odstotek napake, tudi če je nižji od človeškega, je to še zmeraj problem. Želimo si, da bi bile tehnologije, v kolikor jih že vnašamo v svoja življenja, popolne in zanesljive.

Ali ni najbolj nevaren koncept, ki ga sploh lahko podelimo UI, prav koncept nezmotljivosti? Vendar vemo, kdo je edini nezmotljiv? Ves čas pa se pojavlja tudi dilema, kako UI tudi legalno zamejiti …

ŠV: Nisem pravni strokovnjak, lahko zgolj omenim vidik akademskega okolja, predvsem glede stališč do UI, ki so jih zavzele svetovne univerze. Načeloma večje univerze skušajo ohraniti odprt pogled, v smislu, da se uporaba inteligentnih tehnologij kot pripomočkov podpira. Vemo, da besedil, ki jih spiše UI, programi za prepoznavanje plagiatorstva ne zaznajo – po izsledkih ene od raziskav v univerzitetnem okolju je več kot 80 % tako spisanih esejev ostalo neprepoznanih, ker so zelo podobni (slabim) študentskim izdelkom … Pomembno je izobraževanje in poudarjanje akademske integritete, tudi tega, kaj je sploh namen študija, učenja – osebnostna rast in širina, ne pa linija najmanjšega odpora.

IV: Pri pravnem zamejevanju se lahko osredotočimo na dve stvari: na uporabo in na razvoj (programiranje in učenje) UI. Pri uporabi so včasih stvari bolj jasne in jih je lažje uokviriti z zakonom, na primer vsaj to, da morajo podjetja razkriti, v kolikor za komunikacijo uporabljajo bote. Nadalje je mogoče regulirati, pod kakšnimi pogoji se lahko novorazviti model pošlje na trg, zahtevamo lahko, da je model potrebno certificirati v zaprtem okolju, šele po pridobitvi certifikata s strani neodvisne inštitucije ga lahko damo na trg, podobno kot že počnemo pri razvoju medicinskih naprav. Trenutno je praksa precej drugačna, OpenAI je ChatGPT zelo hitro poslal na trg, popravljal pa ga je sproti.

Pri nadzoru razvoja imamo še eno težavo: razvoj UI nima zelo visokega vstopnega praga, praktično vsakdo z nekaj znanja in sredstev se ga lahko loti, tudi zato, ker je to programska oprema, ponekod odprtokodna, drugje si jo bodo morda prisvojili na druge načine in se bo zlahka prirejala. Tako je razvoj UI precej težje zamejiti kot recimo razvoj jedrskega orožja, kajti pri slednjem se potrebuje ogromna infrastruktura za bogatenje urana, vidna dobesedno iz letala … Tukaj pa zadostuje običajni računalniški procesor.

ŠV: Kljub vsemu bi se dotaknila še izziva avtorskih pravic, erozije resničnosti in fragmentacije avtorstva – tu pa me navdaja pesimizem. Že leta smo priča, kako velike korporacije brez kakršnekoli omejitve zbirajo osebne podatke in izkoriščajo avtorska dela. Zdaj se je to ponovno zgodilo pri UI in sankcij ne bo, očitno se bomo s takšnim stanjem morali sprijazniti. V prihodnosti lahko predvidimo še stopnjevanje – splet bo preplavljen z umetno generiranimi in hibridnimi vsebinami, kjer ne bo več možno povedati, kdo je avtor.

Vrnimo se k omembi, da naj bi bila UI poštena
in se razkrije …

IV: Trenutno še ni glavna težava, da se pogovarjamo z boti, za katere ne vemo, da so boti, ampak je večji problem, da vse deluje tako, da nam nevidni algoritmi krojijo svet po prilagojeni podobi, od iskalnika naprej. Sprva je bila želja tvorcev teh algoritmov zelo preprosto poslovna: naša spletna stran bo bolj dobičkonosna, če bodo ljudje več časa preživeli na njej, zato so temu prilagodili algoritem, ki je kmalu zaznal, da se ljudje raje angažirajo, če so čustveno vpleteni, če se razjezijo – iz tega se je potem razvil fenomen lažnih novic, mehurčkov in vzporednih realnosti. UI nas je tako brez kakršnegakoli »zlobnega načrta« pripeljala do tega, da živimo vsak v svoji vzporedni realnosti, kjer vsak verjame svojim dejstvom. Če si ne delimo iste realnosti, težko vzdržujemo demokracijo, kajti demokracija temelji na konstruktivnem pogovarjanju, kako na bolje spremeniti našo skupno realnost. Če pa opazimo, da drugi živijo v »napačni« realnosti, potem konstruktiven pogovor z njimi ni več mogoč in tako se družbeni dialog prične podirati in temu smo priča.

ŠV: Vzgojeni smo tako, da verjamemo v skupno resničnost. In če tega ni, nimamo skupnega sveta. Če nekoliko zamenjam temo, zadnjič mi je na konferenci kolega z Univerze v Berkeleyu postavil intrigantno vprašanje: »A si opazila, da se je ChatGPT v zadnjem času poslabšal? Ali imamo že izraz za to, da se učinkovitost nekega modela slabša zaradi človeških povratnih informacij?«

V kakšnem smislu se je poslabšal?

ŠV: Ja, če imaš nekaj, kar je »superčloveško«, potem ga lahko »človeško« samo še poslabša … Skratka, dajal je manj točne odgovore. To je ta cinični element.

Foto: Carlos David

Ali to pomeni, da je tu na delu neka zvijačnost uma, ki bo na koncu spodnesla sam koncept, da ga bodo spodnesli sami graditelji? Nenazadnje, nič, kar človek zgradi, ne more biti popolno …

IV: Mislim, da ne. Drugi razlog, zakaj so ti modeli lahko slabši, je tudi v prizadevanju njihovih razvijalcev za politično korektnost. Če ChatGPT zapiše nekaj, kar je družbeno nesprejemljivo – in tega je v zadnjem času vse več –, potem to razvijalci urno vnesejo in ga omejujejo do te mere, da postaja vse manj uporaben. Ne bi pa rekel, da ga bo naš um sam zamejil – tu je podobno kot pri šahu, zdaj so modeli dobri, čez pet let bodo še boljši.

ŠV: Tudi jaz to dojemam, kot da se je na planetu pojavila neka nova vrsta, ki se lahko tudi replicira. Zaenkrat še ne moremo govoriti o njenih namenih …

Ali lahko napovesta, ali nas bo ta nova vrsta pojedla? Bomo izumrli kot dinozavri in je to novi sapiens sapiens sapiens …?

ŠV: Glede na vse to, kar sami počnemo tudi na drugih področjih, je težko vedeti, kaj nas bo prej pojedlo …

IV: Za umetno inteligenco pravijo, da je eno od eksistencialnih tveganj za človeštvo, podobno kot jedrska vojna ali globalno segrevanje. Zelo veliko ljudi tudi v svetu UI, ključnih razvijalcev, opozarja na potencialne težave. Med kratkoročnimi smo že omenili težave z avtorskimi pravicami, potem imamo tu še posege v zasebnost in varnost ter ogrožanje delovnih mest. Dolgoročno so tveganja povezana z razvojem t. i. splošne umetne inteligence (AGI), ki bo imela možnost učenja in uporabe inteligence na zelo širokem področju, na podoben način kot ljudje, le da bo lahko v tem še mnogo boljša od nas. Posledično lahko ljudje nad njo izgubimo nadzor, v črnem scenariju lahko UI celo po pomoti povzroči večjo katastrofo, če njeni cilji ne bodo dobro poravnani s cilji človeštva. Poravnava ciljev UI s človeškimi je aktivno področje razvoja na področju UI.

ŠV: Prepričani smo lahko, da bodo regulative in zakonodajni odzivi na tehnološko resničnost prepozni … Sama ne bi omejevala raziskav, ampak določena regulacija bi morala obstajati.

IV: Ne smemo zanemariti tudi pozitivnih vidikov, o katerih smo tokrat malo govorili. Če se vrnemo k temi zdravstva: trenutno mora inteligenten in predan človek deset let študirati medicino, da nastopi službo, kjer ima preveč pacientov, premalo podatkov in premalo časa, zato veliko zdravnikov izgubi empatijo in včasih tudi motivacijo. Če bi imel zdravnik ob sebi super diagnostika, UI orodje, ki zelo dobro obvlada podatke, hitro poišče navzkrižne reference, po potrebi vpraša pacienta nekaj, na kar zdravnik sploh ne bi pomislil, bi lahko zdravnika razbremenili in naredili medicino posledično bolj človeško; poklic zdravnika in medicinske sestre se bo morda začel bolj združevati, zdravnik se bo lahko posvečal bolj vprašanju počutja in bo celotna izkušnja boljša. Izpostavil bi še eno aplikacijo, ki je blizu mojemu profesionalnemu delovanju, na področju diagnostike in zdravljenja – razmišljamo o mobilni enoti, kontejnerju za odkrivanje in zdravljenje rakavih tumorjev, ki ga postavimo v reven ali odmaknjen del sveta; v njem imamo CT napravo, ki pacienta slika, UI sliko sama analizira, po potrebi strokovnjak na drugem koncu sveta to diagnozo pregleda, potem lahko UI s pomočjo uveljavljenih algoritmov izračuna načrt terapije, ki ga potrdi zdravnik nekje drugje, nato lahko imamo znotraj istega kontejnerja napravo za obsevalno terapijo; na ta način so lahko v najbolj revnih predelih sveta deležni znanja in najmodernejših tehnologij, kar jih premoremo, in imamo enako učinkovito metodo zdravljenja, kot na primer na kliniki Mayo ali v ljubljanskem kliničnem centru …

Ampak vmes potrebujemo človeka, ki to sočloveku, ki je bolan, v živo pove ...

IV: Se strinjam.

ŠV: Meni je to tako inspirativen primer.

IV: Morda je dovolj, da ljudem rečemo, pojdite do te naprave, pomagala vam bo, da boste dlje in bolje živeli. Gotovo je dobro, že tudi zaradi zaupanja, da je tam človek, ki pacientu v procesu na sočuten način pomaga z razlago, lahko je zdravnik, lahko izobražen medicinski tehnik …

ŠV: Še jaz povem en lep primer – kolegi iz Berkeleya, ki se ukvarjajo z nevronskimi mrežami, v okviru projekta SETI preučujejo svet kitov glavačev in s pomočjo UI odkrivajo njihov jezik. Morda bo to prvi primer, ko se bo človek lahko jezikovno sporazumeval z drugo vrsto; kiti glavači imajo namreč jezik, ki je priučen – mama kitovka mladiče nauči sporazumevanja, imajo razširjeno besedišče in do sedaj tega jezika nismo mogli razvozlati. Projekt je pozitiven tudi zato, ker bo s spoznavanjem in ozaveščanjem to živalsko vrsto lažje zaščititi.

Nekoč so nas učili, da šteje samo znanje, zato si ga nabirajmo. Tu nas UI seveda prekaša. Toda zdaj vidimo, da je sočutje še zmeraj nenadomestljivo – tudi pri primerih, ki sta jih nanizala.

IV: Ljudje moramo imeti jasne cilje, kaj si želimo početi s svojo eksistenco – če radi živimo v družinah, če radi komuniciramo s soljudmi, delamo kreativne stvari …, nam UI celo lahko pomaga pri tem. Dosežemo lahko relativno utopijo, ko bo UI počela stvari, ki so nam odveč, in nam pomagala živeti bolje. Seveda bomo še vedno lahko počeli tudi tiste stvari, ki jih bomo želeli, čeprav bi jih morda UI naredila bolje. Nasloviti bo potrebno veliko težav, ki se bodo pojavile v spremenjeni družbi. Ena od potencialnih rešitev je lahko uvedba univerzalnega temeljnega dohodka.

Toda naš um žene neka želja po presežnem, kaj nas bo gnalo naprej? Kaj nas definira kot ljudi?

ŠV: Seveda živimo vse hitreje in ravno zaradi te naglice čedalje bolj cenimo analogno, čas v naravi, nekateri tudi starodavna znanja, ki niso tako povezana s faktičnimi, ampak bolj intuitivnimi deli človeške duše.

Kot raziskovalko me fascinira novo polje, ki se odpira v smislu razumevanja naših miselnih procesov v primerjavi z delovanjem nevronskih mrež. S kolegi trenutno skušamo prodreti v to »črno škatlo« prek asociacij, odkrivamo mentalni leksikon in ugotavljamo, da je tudi jezikovni model sposoben asociacij. Sicer glede prihodnosti nisem pretirano pesimistična, niti se mi ta trenutek ne zdi, da bi bile prvine človeškega ogrožene. Je pa seveda vprašanje, ali bomo znali razvoj pravilno usmeriti.

IV: Stojimo na razpotju, kjer se obeta, da bo UI v naslednjih petnajstih letih korenito preoblikovala naš svet. Ta misel me spominja na star kitajski pregovor, ki velja za prekletstvo: »Želim ti, da bi živel v zanimivih časih.« Kljub neizogibnim izzivom, ki jih ta tehnologija prinaša, sem navdahnjen z mislijo, da imamo ključno vlogo pri usmerjanju njenega razvoja. Verjamem, da lahko z odgovornim in etičnim pristopom UI uporabimo kot orodje za reševanje globalnih izzivov, od izboljšanja zdravstvenega varstva do boja proti podnebnim spremembam in družbeni neenakosti. S skupnimi močmi lahko zagotovimo, da bodo »zanimivi časi« postali sinonim za čas inovacij, napredka in upanja za vse.

Zahvaljujem se vama za ta pogovor,
lepo je bilo slišati vajine misli.