DISTOPIJSKA MORA Može li umjetna inteligencija preuzeti kontrolu nad čovječanstvom i kakav bi nam život namijenila?

Knjiga „Uspon i pad umjetne države“ američke povjesničarke i novinarke Jill Lepore, dobitnice Pulitzerove nagrade, istražuje povijest tehnološke moći i moguće scenarije bliske budućnosti u kojima ubrzani razvoj umjetne inteligencije otvara put dominaciji nad ljudskom vrstom i čitavim planetom.

Lepore posebno zabrinjava uski krug muškaraca koji, vodeći najmoćnije svjetske kompanije, preuzimaju kontrolu nad ključnim tehnološkim, komunikacijskim i poslovnim alatima. Njezina se knjiga bavi prijetnjom koju takva koncentracija moći, dodatno ojačana umjetnom inteligencijom, predstavlja liberalnoj demokraciji. Interesi vodećih svjetskih korporacija, upozorava autorica, često nemaju mnogo veze s interesima stanovništva i dobrobiti planeta.

Tehnološki knezovi iz Silicijske doline

Pojam „umjetne države“ kod Lepore ima široko značenje. Najviše je, međutim, brine fantazija nekolicine odabranih čije obrise već prepoznajemo u stvarnosti. U toj viziji elita nadilazi biološka i planetarna ograničenja, napušta ustavnu demokraciju, nacionalnu državu, pa i samo čovječanstvo, prepuštajući upravljanje strojevima i umjetnoj inteligenciji.

Dio te budućnosti već živimo. Javna rasprava preselila se na platforme u privatnom vlasništvu, na kojima se ponajviše vrednuje pažnja koja se može pretvoriti u novac. Društvene mreže sve učinkovitije usmjeravaju korisničko ponašanje, potiču kupnju i oblikuju političke stavove. Internet je prepun botova kojima upravljaju državni, korporativni, politički i kriminalni akteri, dok algoritmi pred nas izbacuju poplavu sadržaja koji planski izaziva bijes i produbljuje podjele.

Za Lepore umjetna država predstavlja stvarni politički projekt malog broja nevjerojatno moćnih milijardera iz Silicijske doline. Među njima navodi Elona Muska, Marka Zuckerberga, Jeffa Bezosa, Petera Thiela i Sama Altmana. Dok bi čovječanstvu prioritet trebalo biti suočavanje s klimatskim promjenama, ti se tehnološki knezovi radije bave svemirskim putovanjima i povećavanjem računalnih kapaciteta za pobjedu nad Kinom u utrci u naoružavanju umjetnom inteligencijom.

Nakon što sprže Zemlju podatkovnim centrima koji gutaju energiju, u sumornoj slici koju opisuje Lepore preostaje im bijeg na Mars, skrivanje u bunkerima na Novom Zelandu ili san o prijenosu vlastitog uma u digitalni oblik.

Asimov kao inspiracija za superzlikovce iz crtića

Korijene tehnolibertarijanizma autorica pronalazi i u paranoičnoj znanstvenoj fantastici hladnog rata. Povijest upravljanja ljudima putem podataka prati mnogo dalje, sve do popisa stanovništva u drevnoj Mezopotamiji. Prebrojavanje ljudi vlastodršcima omogućuje da ih nadziru, tlače i oporezuju.

Velik dio klasične znanstvene fantastike, primjerice djela Isaaca Asimova, Lepore čita kao upozorenje. Arhitekti umjetne države iste su priče, primjećuje, očito shvatili kao upute za izradu robota koji će jednoga dana vladati svijetom.

Knjiga je prilično crna. Poglavlja često završavaju zloslutnim rečenicama. Ipak, autorica ne smatra da čovječanstvo neizbježno ide prema katastrofi izazvanoj umjetnom inteligencijom. Presudnim smatra nedostatak dosljedne, demokratski oblikovane strategije razvoja i primjene tehnologije.

Čovječanstvo upravo prepušta golemu moć maloj skupini poslovnih ljudi koje nitko nije izabrao. Neki od njih pritom djeluju poput superzlikovaca iz crtića.

Ljudska rasa u zološkom vrtu

Posebno je zastrašujući motiv odnosa ljudi i strojeva koji Lepore razmatra kroz znanstvenu fantastiku: ljudi stvaraju strojeve da im služe, strojevi postaju gospodari, a ljudi završavaju na položaju životinja. Autorica taj obrazac analizira i kritizira, bez tvrdnje da je riječ o izvjesnoj budućnosti.

Ljudska vrsta, međutim, jako dobro poznaje svijet u kojem nadmoćnija inteligencija raspolaže životima drugih bića. Sama ga je uredila.

Fizičar Max Tegmark u knjizi „Life 3.0“ razrađuje više mogućih budućnosti odnosa ljudi i umjetne inteligencije. Među njima je i scenarij „Zookeeper“, odnosno čuvar zoološkog vrta. Nadmoćna umjetna inteligencija dio ljudi zadržava na životu, ali u uvjetima nalik zatočeništvu životinja.

Ljudska vrsta u takvom scenariju nije nestala. Nestalo je njezino pravo da odlučuje.

Očuvati nekoga na životu ne znači priznati mu slobodu. Osigurati mu hranu i zdravstvenu skrb ne znači poštovati njegovu volju. Život može biti dug, siguran i udoban, a ipak potpuno podređen tuđim odlukama.

Totalna kontrola

Tu usporedba sa životinjama postaje posebno neugodna. U ime njihove dobrobiti određujemo što trebaju jesti, koliko im je prostora dovoljno i s kojim se drugim životinjama smiju susretati. Njihove potrebe tumačimo sami. Njihov pristanak uglavnom nas ne zanima.

Kako bismo reagirali kada bi netko isti model skrbi primijenio na nas?

Ako inteligenciju koristimo kao opravdanje za ljudsku nadmoć nad životinjama, što ostaje od tog opravdanja kada se pojavi inteligencija veća od naše? Hoćemo li tada inzistirati na tome da sposobnost patnje, vlastite potrebe i želja za životom zaslužuju zaštitu bez obzira na mjesto na ljestvici inteligencije?

Visoka inteligencija sama po sebi ne podrazumijeva suosjećanje. Može služiti ciljevima koji s ljudskom dobrobiti nemaju nikakve veze. Postoji i druga, podjednako neugodna mogućnost: da nam strojevi ograniče slobodu upravo zato što su zaduženi za našu zaštitu.

Dovedemo li zaštitu do krajnosti, gotovo svaki ljudski izbor postaje problem. Putovanje nosi opasnost nesreće. Ljubavni odnos mogućnost patnje. Politički sukob rizik nasilja. Samostalnost dopušta pogrešku.

U sustavu apsolutne sigurnosti čovjek bi lako mogao postati biće koje za vlastito dobro treba stalno nadzirati. Hraniti, liječiti i držati pod ključem.

Tko kontrolira najmoćnije ljude svijeta?

Istraživači Arvind Narayanan i Sayash Kapoor u radu „UI kao normalna tehnologija“ osporavaju predodžbu umjetne inteligencije kao zasebne vrste koja će nužno postati samostalan povijesni akter. Naglašavaju ulogu institucija, načina primjene tehnologije i društvenih odluka koje oblikuju njezin učinak.

Odgovornost se tako vraća ljudima. Tko tim sustavima dodjeljuje ovlasti? Tko na njima zarađuje? Tko može osporiti njihove odluke? Čija se sloboda smanjuje kada netko odluči da je automatizirani postupak učinkovitiji?

Priča o budućem svemoćnom stroju ne bi smjela zasjeniti današnje vlasnike korporacijske moći.

Potaknut čitanjem knjige "Uspon i pad umjetne države" i usporedbom mogućeg odnosa umjetne inteligencije prema ljudima s današnjim odnosom čovjeka prema životinjama, potpisani je novinar u okviru kolektiva Berge Vanga napravio eksperiment i kreirao kompoziciju „Inteligentzia“.

Tekst pjesme napisao je ChatGPT prema sljedećoj uputi: „Napiši mi distopijsku pjesmu o tome kako će izgledati ovaj svijet kada dominaciju preuzme umjetna inteligencija. Hoće li ljudska vrsta biti u današnjem položaju životinja?“

Glazbu je odsvirao i producirao Goran Jularić, koji potpisuje i video s tekstom pjesme.

Novinar je u pripremi i realizaciji teksta koristio umjetnu inteligenciju.