Na pulskom Fakultetu informatike rade genijalne stvari. Mladi znanstvenik Ivan Lorencin: "AI može rasteretiti zdravstveni sustav, maknuti liječnike od administracije"

Što se umjetna inteligencija više razvija, to više i jača interes za njezinim razumijevanjem i rizicima koje možebitno predstavlja. O budućnosti primjene AI-ja (eng. artificial inteligence), etičkim dilemama, pa i je li, na koncu, moguć scenarij lažne realnosti i svjesnih strojeva poput onog iz znanstvenofantastičnog filma Matrix, ali i na koji način umjetna inteligencija može pomoći pri dijagnostici u medicini i rasterećenju zdravstvenog sustava, razgovarali smo s perspektivnim mladim istarskim znanstvenikom, Ivanom Lorencinom, profesorom na pulskom Fakultetu informatike i prodekanom za poslovnu suradnju i znanost.

Ivan Lorencin (1993.) je i partner i stručnjak za istraživanje i razvoj umjetne inteligencije u hrvatsko-srpskom startupu dAIgnostics, fokusiran na razvoj rješenja umjetne inteligencije za medicinske aplikacije. Izvršni je direktor i osnivač Ant Intelligencea, tvrtke za razvoj i savjetovanje o umjetnoj inteligenciji. Prije tri godine doktorirao je na Tehničkom fakultetu u Rijeci na temu primjene umjetne inteligencije u dijagnostici karcinoma mokraćnog mjehura. Svjestan mnogobrojnih problema u zdravstvu, Lorencinu medicina ostaje u fokusu znanstvenog rada: AI koristi kako bi unaprijedio zdravstveni sustav.

Nedavno je umjetna inteligencija, jezični model GPT-4.5 tvrtke OpenAI, prošla Turingov test. U ispitivanju je 73 posto sudionika bilo uvjereno da komunicira s pravom osobom, iako su zapravo razgovarali s umjetnom inteligencijom. To ne znači, naravno, da stroj ima ljudsku inteligenciju, ali što to za nas znači? Hoćemo li u budućnosti sve manje moći razlikovati stvarnost od simulacije?

Imao sam više puta priliku probati GPT 4.5. U čemu je glavna stvar? Svi jezični modeli koji su trenirani poput ChatGPT-ja, trenirani su materijalima iz ljudskog govora, ljudske interakcije, recimo novinskim člancima, razgovorima, forumima.

Onime što je dostupno online?

Da, i još nekim digitaliziranim materijalima, knjigama i slično. Tako da oni u svojim modelima imaju zapisan način komunikacije, da se tako izrazim, kakvim komuniciramo mi ljudi. Rečenice kakve mi upotrebljavamo zapisane su u njihovoj matematici i zato je prirodno da njihova komunikacija izgleda kao ljudska, što ne znači da rezoniraju, razumiju što to u suštini znači.

To je samo papiga stil oponašanja?

Malo jače od papige.

No, što nam to govori o budućnosti? Hoće li se brisati razumijevanje između onog što je ljudski um, a što kompjuterska tvorevina?

Recimo to tako. Meni se rijetko može dogoditi da zamijenim tekst ChatGPT-ja i čovjeka. Čak i kada čitam novine primijetim kad je neki novinar pisao uz pomoć ChatGPT-ja.

Kod vas ne bi prošao test?

Vjerojatno ne. Čak i studenti ponekad napišu nešto ChatGPT-jem, ali prepoznajem obrasce. No, ljudi se po tom pitanju svakako trebaju što više educirati; kako umjetna inteligencija funkcionira, kako s njom komunicirati. Kad s nekim pričamo moramo sve uzeti sa zrnom soli, da budemo sigurni da komuniciramo s pravom osobom.

Izraelski filozof i povjesničar Yuval Noah Harari kaže da AI nije alat, nego agent. Često navodi primjer GPT-4.0 koji je dobio zadatak da riješi one captcha puzzle koje nas često pitaju na netu, da provjere jesmo li čovjek. AI nije znao riješiti taj zadatak, ali je otišao na stranicu koja zapošljava ljude da rade različite stvari u tuđe ime i zamolio čovjeka da riješi zagonetku za njega. Čovjek je bio sumnjičav i pitao ga je li robot, a GPT je odgovorio da nije, nego ima problema s vidom.

Nisam upućen u taj konkretni primjer. Neki dan sam vidio da captcha rješavaju preko character recognition alata, što spada u strojni vid i to je relativno jednostavan problem za riješiti, ali nama je u sustavima zastarjelo da i dalje tako provjeravamo. No sve više se pojavljuje ona 'selektiraj semafore' stavka, a nju je malo teže rezonirati jer se bazira na ljudskoj intuiciju, a ne na definiranom objektu. Ali što se agentnog ponašanja tiče, postoje metode programiranja; kreiraju se agenti koji onda služe za obavljanje određenih zadaća i onda oni koriste taj model AI-ja kao samo dio svog programa da bi ostvarili određeni cilj. Inteligentni agenti nisu ništa novo, predavao sam o njima prije nego što je ChatGPT uopće izašao. Ali komunikacija sa ljudima na nekim forumima bi vjerojatno trebala past pod kontrolu moderatora foruma.

Znači nema straha od agenta Smitha i 'scenarija Matrix'?

Kad pričamo o takvim scenarijima, govorimo o fikciji i metaforama koje koriste umjetnu inteligenciju da bi ispričale priču o kontroli, manipulaciji i gubitku slobode. AI kakvu imamo danas, uključujući i ove najnaprednije modele, poput GPT-4.5, nije ni blizu toga. Nema vlastitu volju, svijest, ni ciljeve. Ona ne „želi“ ništa – ne želi zavladati svijetom, ne želi nekome uzeti posao, niti zna što je Matrix. Zapravo, sve što AI zna, dolazi iz podataka koje su joj ljudi dali. I dok je istina da postaje sve uvjerljivija u komunikaciji, sve to ostaje u okvirima onoga što joj je omogućeno – ona simulira razumijevanje, ali ne posjeduje razumijevanje. Ono što jest važno, i gdje ima mjesta za oprez, je način na koji ljudi koriste te alate. Jer alati sami po sebi nisu ni dobri ni loši. Ono što čini razliku su namjere ljudi koji ih koriste. Zato je bitno da zadržimo ljudsku odgovornost, etički nadzor i kritičko razmišljanje. Dakle, za sad, nema Matrixa, nema agenta Smitha, samo jako pametan stroj koji oponaša naš način govora. A kako će se sve razvijati? To ovisi o nama – i kao znanstvenicima, i kao društvu. 

Doktorirali ste na Tehničkom fakultetu u Rijeci na području primjene umjetne inteligencije u medicini, točnije dijagnostici karcinoma mjehura. Primjenom algoritama umjetne inteligencije postotak neotkrivenih karcinoma, prema istraživanju, pao je ispod jedan posto. Kako točno to funkcionira?

Istraživanje je rađeno prije nego što su izašli svi ovi veliki jezični modeli. Cistoskopijom, endoskopskim pregledom mjehura vrši se dijagnostika karcinoma mjehura. Urolog, ako ju ne radi klasičnim biopsijama, da reže tumor i šalje na analizu, može u određenom postotku prepoznati koji je tip tumora na licu mjesta, in vivo. Ali određeni gradusi tumora, odnosno razlika među njima nisu primjetni ljudskom oku. AI u 99 posto situacija može razlikovati koji tip je u pitanju baš zato što urolog često tijekom operacije mora obaviti takvu dijagnostiku da se vidi je li odrezao dovoljno. To je prva stvar. Druga stvar su gradusi koji su jako bitni za određivanje načina liječenja. Možete imati dvije slike jako slične ljudskom oku: jedna može biti jako invazivan karcinom, a druga može biti manje invazivan i zahtijevati drugačije metode liječenja.

Je li onda budućnost dijagnostike u umjetnoj inteligenciji?

Kad sam se krenuo baviti umjetnom inteligencijom, a zato sam i ostao raditi na fakultetu, jer u to vrijeme još nije bilo tvrtki koje su se bavile umjetnom inteligencijom, prva ideja mi je bila da ću liječiti rak. Dijagnostika jest bolja s primjenom AI. Sada smo na Fakultetu informatike Sveučilišta Jurja Dobrile Puli, u suradnji s Domom zdravlja Primorsko-goranske županije, u sklopu aktivnosti projekta EDIH Adria, razvili metodu za analizu mamografskih snimki. U suštini, radimo na tome da zamijenimo jednog radiologa, odnosno da umjesto dva radiologa posao odrađuje jedan čovjek plus umjetna inteligencija. Time bismo 'uštedjeli' jednog radiologa, kojeg na tržištu rada više nema.

Gledajući iz perspektive hrvatskog zdravstvenog sustava, ali i ne samo ovog našeg, jer manjak liječnika i zdravstvenog kadra je širi problem, AI bi mogao popuniti tu rupu, nedostatak liječničkog kadra? Kako?

Tako je. I ovdje više ne pričamo o modelima koji rade sa slikama nego jezičnim modelima. Projektima poput EDIH Adria, ali i SPIN projektima financiranih od strane HAMAG-BICRO-a, s partnerima, od koji je na jednom vodeći partner Infobip, na drugom In2, na trećem Jadranka turizam, tu tehnologiju plasiramo na sva tri područja. Što se medicine tiče, bitan je ovaj projekt koji radimo sa In2, u kojem razvijamo tehnologije kojima je cilj rasteretiti zdravstveni kadar u smislu da ga odmaknemo od administracije.

Dakle ne od pacijenata. Jer prijepor kod primjene AI-ja u medicini je i ta dehumanizacija.

Tako je. Moja supruga radi u zdravstvu, primalja je u pulskoj Općoj bolnici, a imam dosta prijatelja liječnika i medicinskih sestara. Oni ugrubo 40 posto svog vremena troše na administraciju, a 60 posto na pacijente. A kadra nedostaje. Stoga smo tražili rješenje koje je bullet proof, da ne spada pod neke etičke dileme. Odlučili smo uzeti dokumente pacijenata, spojiti ih s jezičnim modelom i time doslovno našem zdravstvenom kadru napraviti chat botove s informacijama svakog pacijenta.

Kako to izgleda u praksi?

Liječnik više ne mora čitati nalaz, nego sjedne za računalo, upiše ime pacijenta i zatraži određenu informaciju. Recimo povijest bolesti ili tip osiguranja. Ne mora kopati po papirima. To značajno ubrzava proces.

Je li to već u primjeni negdje?

Imamo nekoliko publiciranih znanstvenih radova i imamo jedno rješenje koje je prototipno, implementirati smo chat bot za pristupnike tečajeva za trudnice. Tamo mogu pitati chat bot kakva je procedura kada se dođe na porod u Puli ili Rijeci ili što treba ponijeti sa sobom, pa onda chat bot ne odgovori nešto generičko, što bi odgovorio možda ChatGPT, nego ima bazu znanja koje je dano od strane te institucije. I to je budućnost.

Neka nada je onda, za početak, da AI liječnike, medicinske sestre rastereti birokracije tako da se oni mogu više posvetiti pacijentima?

Tako je. Da kompletni zdravstveni kadar radi ono zbog čega su taj poziv i izabrali. Jer to je stvarno poziv. Čovjek to stvarno mora voljeti. I cilj je da 95 posto svog vremena, i više, provode s pacijentom, a ne za računalom. Onda nam možda neće niti trebati 10 sestara na nekom odjelu, nego osam.

Koliko je lokalna zajednica prepoznala ove projekte? Ne mislim samo na fakultet, nego JLS-ove, tvrtke, druge znanstvenike?

Imamo veliku potporu dekana izv. prof. dr. sc. Darka Etingera i rektora prof. dr. sc. Marinka Škare. U okviru projekta EDIH Adria uključeni su brojni poduzetnici i javna tijela, kod kojih smo uspješno implementirali ili upravo provodimo implementaciju naprednih rješenja temeljenih na umjetnoj inteligenciji. Neki od korisnika su Istra Tech, Cenosco, Uniline, Grad Vodnjan, TZ Pule, ali i Općina Šolta i Grad Split, a odjel za zdravstvo Istarske županije prošao je naš bootcamp za primjenu AI-a u sektoru zdravstva.

Do koje mjere treba dopustiti intervenciju AI-ja u zdravstvu?

Osobno ne bih dopustio nikakav decision making, donošenje odluka.

Kranja odluka mora onda ostati u ljudskim rukama?

Tako je. AI ne bi trebao odlučivati hoće li se pacijent operirati ili ići na kemoterapiju. Umjetna inteligencija od šume podataka mora dati čovjeku dobro strukturiranu informaciju na temelju koje on može donijeti odluku puno učinkovitije i puno brže. Kad govorimo o dijagnostici, prednost primjene AI-ja je prevencija, kao što sam prije spomenuo kod mamografije ili neuro inflamatornih bolesti, poput Alzheimera. Čovjeku se onda može dati do znanja da ima rizik razviti Alzheimera, pa se onda on pazi, kontrolira. To su prevencije, pronalaženje podataka, ali zadnja odluka mora biti na liječniku.

Da, pitala sam ChatGPT što da pitam stručnjaka za umjetnu inteligenciju, polje medicina, i zapravo mi je sam AI preporučio da vas pitam tko bi donosio krajnju odluku za pacijenta te tko bi bio odgovoran kada bi AI donio krivu odluku, da li bolnica recimo, ili tvrtka koja proizvodi stroj…

Da, zato kažem, terapije, tretmani…to mora ostati na liječniku, a AI je tu za informacije o tome postoji li mogućnost da se neka bolest razvije i strukturirati podatke.

Prema jednom vašem istraživanju i još trojice koautora/ice, umjetna inteligencija i strojno učenje mogli bi pomoći pri dijagnostici raka vrata maternice. Na koji način?

To je fascinantno istraživanje na kojem još radimo. Uzmemo podatke iz opće populacije, pacijentica kaže, recimo, koliko ima godina, puši li cigarete, ima li visok tlak, je li rodila i koliko puta, koliko je imala partnera, i ostale ginekološke podatke. Napiše, dakle, svoje podataka, a mi na temelju toga dobijemo output - postoji li rizik da razvije ili ima li karcinom cerviksa. Otprilike 50 posto svjetske ženske populacije nema adekvatan pristup ginekološkoj skrbi, a preko 90 posto ima pristup pametnom telefonu i internetu. Mi imamo prototip sustava u kojem pacijentica može utipkati svoje informacije i dobiti output o riziku razvijanja raka. Ako se rizik pokaže većim, možda će i ona žena u Nigeriji uspjeti potegnuti do najbliže ordinacije, koja može biti više stotina kilometara daleko, i otići na pregled. U ovom slučaju bi barem imala početnu informaciju.

Hoće li AI značiti jeftiniji ili skuplju zdravstvenu uslugu?

Radio sam istraživanje prema kojem je hrvatski zdravstveni sustav administrativno najneučinkovitiji u EU. Čak i usporedbi sa zemljama socijalističke pozadine. Ustanovili smo da je upravo digitalizacija ta koja može 'prebaciti' tu granicu prema boljem sustavu. Ako budemo učinkovitiji, onda će možda i financijsko opterećenje biti manje.

Vratili ste se u Pulu iz Rijeke. Zašto? I, jeste li dobro izabrali?

Prva stvar koju sam primijetio je koliko je pulska IT zajednica jako propulzivna i agilna. Stalno se nešto događa. To nisam očekivao. Ok, pulski društveni život je slabiji od riječkog i zagrebačkog, ali što se poduzetničkog i akademskog života tiče, puno je življe. O kvaliteti života da i ne govorim. Kada sam otišao u Rijeku mislio sam da se neću nikada vratiti, ali kad sam dobio dijete prva odluka je bila vratiti se u Medulin. Supruga je isto iz Istre, iz Fažane. Vrtić nam je preko puta ceste, da ne govorim o prirodi, moru, Učka je blizu, sve ostale ljepote ovog kraja, gastronomija... Ali moram reći i da primjećujem da sve više ljudi dolazi u Istru živjeti i raditi, ljudi koji nisu od tuda, recimo digitalni nomadi, ili se presele ovdje jer im je kvaliteta života bolja.

Znanstveno gledajući, ovdje postoji perspektiva za razvoj znanstvene karijere?

Definitivno. Nama na Fakultetu informatike, primjerice, ne treba skupi mikroskop ni složena laboratorijska oprema. Bavimo se softverom i dovoljna su nam naprednija računala i popratna oprema. Klima na sveučilištu je takva da perspektiva zaista postoji. Istraživanja na kojima radimo imat će puno veći odjek i važnost za zajednicu nego ona koje sam radio u Rijeci.

To je dobro. Zaglibili smo previše u turizam, okretanje prema znanosti zvuči obećavajuće.

Kad govorimo o turizmu volim povući paralelu s Rimskim Carstvom. Kažu da Zapadno Rimsko Carstvo nije propalo nego se transformiralo. Iako sam veliki fan Gori Ussi Winnetou, ne zagovaram da se turizam uništi, nego da se transformira tako da imamo manje peakove, a na način da nam dolaze i digitalni nomadi, koji će ovdje živjeti. Mnogi mogu doći ovdje i raditi otuda na dva tjedna, dva mjeseca, šest mjeseci. Znam puno takvih ljudi, kolega koji rade kao developeri. Svojevremeno su se jednoj političarki rugali kad je rekla da će moći na takav način raditi i zarađivati osam tisuća eura…

Kolindi Grabar Kitarović.

Da. Ali ja poznajem ljude koji zarađuju i dva, tri puta više. Oni dođu ovdje na određeni period, žive i rade. I tako bismo, ne skroz, ali djelomično, transformirali turističku arhitekturu, da se prilagodi na takve ljude.

Tu i politika mora odraditi svoj dio. Da to ne bude samo floskula, već da se stvarno odvrati pogled od sunca i mora prema znanosti i gospodarstvu.

Na nama kao znanstvenicima, na inovatorima, onima koji žele stvarati novu vrijednost, na nama je da pozivamo, predlažemo, zvonimo i govorimo da je to potrebno. Na njima je da to čuju i donesu odluku. Ali na kraju i svi mi donosimo odluku i donosit ćemo je brzo, 18. svibnja, kada budemo zaokruživali nečije ime, broj, to jest četiri broja na listiću.

Na čemu sada radite?

Na više stvari. To mi je prokletstvo, ne mogu se koncentrirati na jednu stvar. Radim dakle na dodatnoj optimizaciji zdravstvenog sustava preko jezičnih modela, imamo veliku količinu podataka. Ono što mi je u glavnom fokusu je da se probaju implementirati rješenja koja su, da tako kažem, lokalna, da svatko može imati neki mali “ChatGPT” za pacijente na svom računalu, da se ne mora spajati na internet. Ili da postoji jedno zajedničko računalo, recimo u Domu zdravlja, i da se zdravstveni kadar spaja na njega, a ne na internet, radi zaštite podataka. Fokus mi je i na primjeni nekih chat interakcija koje će izvlačiti informacije iz baze znanja i tako raditi ponude, preporuke gostima. Recimo da utipka podatak da ima dvoje male djece i da mu model preporuči koju lokaciju da posjeti, primjerice, u Puli.

Još ste mladi, nikad se ne zna, možda na koncu i nađete rješenje za rak.

Nadam se. Možda cjepivo. Asocijacija mi je jedan politički meme. Nekad mi je fokus bio lijek za rak, ali fokus za budućnost u profesionalnom smislu jest nastaviti graditi ovo Sveučilište da Pula stvarno nastavi ovim tijekom kakvim je i krenula. Imamo ovdje jedan predivan prostor. Imamo se mogućnosti razvijati kao zajednica, imamo inovacijski kapacitet i mi sa fakulteta ćemo s tim dijelom pomoći koliko god možemo. A što se tiče znanstvenog fokusa... nadam se da ću se ponovno posvetiti dijagnostici, a jednog dana možda i liječenju raka – tko zna, možda čak i kroz razvoj cjepiva.

Predavač ste na fakultetu, ima li interesa i entuzijazma kod studenata da se razvijaju dalje u ovom polju, možda i ostanu ovdje?

Lobiram. Najdraže mi je kad čujem da će ostati ovdje, a san snova mi je kad netko dođe izvana ovdje na studij, odluči ostati i otvoriti firmu. Ali, vidim krasne mlade ljude. Često se ta generacija Z vrijeđa, ali zaista imamo studente koji nose promjene. Ima ih toliko da mi je žao što nemam vremena sa svakim od njih provesti sat vremena dnevno. Oni i jesu smisao, da oni imaju poligone ako žele se baviti znanošću i inovacijama, da to rade ovdje i da novac koji se 'vrti' okolo dođe u Istru.