Umjetnu inteligenciju (UI) u svom radu koristi ili testira 50 institucija u Hrvatskoj, ne i Vlada, pokazalo je Gongovo istraživanje "AI u javnom sektoru: Kako Hrvatska koristi umjetnu inteligenciju", provedeno na 78 ključnih tijela javne vlasti.
Od 50 institucija koje službeno koriste UI, njih 26 odgovorilo je da nemaju interna pravila za njezinu primjenu, ističu u Gongu.
Dodaju i kako su istraživanje proveli u institucijama slanjem zahtjeva za pristup informacijama putem Gongove digitalne platforme ImamoPravoZnati.org u kojima su ih pitali koja UI rješenja koriste ili ih testiraju, jesu li donijeli posebna pravila za uporabu UI i koriste li pravila za svoje zaposlenike o uporabi sustava generativne UI.
Istraživanje je pokazalo da 26 tijela javne vlasti ne koriste UI, među kojima je i Vlada RH te 10 ministarstava, uključivši i ministarstva obrane, financija, vanjskih i EU poslova i znanosti i obrazovanja. Osim njih, da ne koriste UI naveli su i Ustavni sud, DORH, Uskok, Porezna uprava, Grad Zadar, dvije županije i druga nezavisna tijela i agencije.
Da u svom radu koriste UI, istodobno s posebnim pravilima uporabe UI, odgovorilo je devet institucija, među kojima Hrvatski sabor, Fina, Grad Zagreb, Apis IT, Hakom, Hanfa i HZJZ.
Daljnjih 11 odgovorilo je da UI koriste ili testiraju, a da su u trenutku istraživanja pripremali i posebna pravila za UI. Među njima su i tri ministarstva - Ministarstvo pravosuđa, uprave i digitalne transformacije, Ministarstvo prostornoga uređenja, graditeljstva i državne imovine, Ministarstvo rada, mirovinskog sustava, obitelji i socijalne politike te AZOP, DIP, CARNet, Hrvatski zavod za socijalni rad, Nacionalna zaklada za razvoj civilnog društva i Središnja agenciju za financiranje i ugovaranje - SAFU.
SAFU se pritom izdvaja kao jedina institucija koja je navela da ne koristi niti testira UI, ali da priprema pravila za njezinu uporabu.
Pet institucija - HZMO, HZZ, HZZO, Ministarstvo zdravstva, HAMAG-BICRO - navelo je da na uporabu UI u radu primjenjuju postojeće propise ili pravila, primjerice povezana s informacijskom i kibernetičkom sigurnošću i druga pravila koja zapravo nisu namijenjena reguliranju uporabe UI.
Konačno, 26 institucija koje su navele da u radu koriste ili testiraju UI rješenja bez internih pravila su ministarstva unutarnjih poslova, gospodarstva, kulture i medija te regionalnog razvoja i fondova EU, 10 sudova, Agencija za medije, Državna geodetska uprava i HERA, tri grada - Osijek, Rijeka i Split, dvije županije - Primorsko-goranska i Splitsko-dalmatinska te četiri KBC-a. HZMO, Grad Rijeka i AZOP nisu naveli nazive UI rješenja koja koriste uz objašnjenje da bi otkrivanje tih podataka ugrozilo njihovu sigurnost .
U Gongu navode da im MUP i nije dostavio naziv proizvođača za svoj sustav za prepoznavanje lica odnosno biometrijsku identifikaciju Face Recognition, a do tih podataka nisu mogli doći niti iz javno dostupnih izvora. MUP se, navode, izdvaja i po tome što koristi sustave čija primjena "može nositi posebne rizike" za ljudska prava i temeljne slobode. Riječ je o tri UI sustava za biometrijsku identifikaciju i sigurnost. Osim o Face Recognitionu, radi se još i o sustavima ABIS (Automatizirani biometrijski identifikacijski sustav) te NABIS (Nacionalni ABIS sustav). Jedina institucija koja nije odgovorila na Gongov standardizirani upitnik bio je Državni inspektorat.
''Nalazi istraživanja empirijski pokazuju da bi javni registar, jasni nacionalni standardi i ujednačena interna pravila trebali postati sastavni dio upravljanja umjetnom inteligencijom u hrvatskom javnom sektoru - ne kao prepreka njezinu korištenju nego kao uvjet da se ona koristi transparentno, odgovorno i uz zaštitu ljudskih prava'', ističu u Gongu.
Dodaju i da razlike u odgovorima pokazuju da među institucijama ne postoji jedinstven način evidentiranja rješenja UI, da neke od njih nedovoljno razumiju što se smatra uporabom UI te da međusobno različito shvaćaju potrebu za posebnim uređivanjem korištenja UI u svom radu.
Županić: Sada je prilika da se postave standardi
Autor Gongova istraživanja Sergej Županić ističe da je upravo sada - kad se uspostavlja nacionalni okvir praćenja primjene UI u javnom sektoru - prilika da se postave standardi i to prije nego što se učvrste neujednačene prakse u kojima pojedine institucije same razvijaju svoja pravila, dok neke druge o tome ne razmišljaju. Stoga, preporučuje uspostavljanje javnog, jedinstvenog i redovito ažuriranog registra UI rješenja u tijelima javne vlasti, uz jasne nacionalne standarde za njihovo evidentiranje i lako razumljive informacije građanima o njihovoj uporabi.
"Gongovo istraživanje je prvo sustavnije mapiranje uporabe umjetne inteligencije u hrvatskom javnom sektoru, tamo gdje njena uporaba može utjecati na ljudska prava i slobode. Do sada su javno dostupni podaci davali tek fragmentiranu i ograničenu sliku o tome gdje se i kako UI koristi'' , kazao je Županić za Hinu. Pojasnio je i kako namjera istraživanja bila utvrditi koje se UI tehnologije koriste u odabranim institucijama i postoje li jasna pravila za njihovu uporabu.
''Pokazalo se da se UI koristi u različitim područjima, ali da neke institucije nemaju posebna pravila za njezinu uporabu. Gong zato predlaže javno dostupan i redovito ažuriran registar uporabe UI u javnom sektoru, jasna pravila njene uporabe te razumljive informacije građanima o tome kada i kako UI sudjeluje u postupcima koji ih se tiču" , zaključio je Županić.
(Hina) xmeh ybdj