IT & Tech

sa Sveučilišta u Oxfordu

Nova studija pronašla način kako detektirati "halucinacije" umjetne inteligencije

"Halucinacije" umjetne inteligencije su identificirane kao ključni problem budući da napredna priroda tehnologije i njezine mogućnosti konverzacije znače da je sposobna dati netočne informacije kao činjenice kada odgovara na pitanje


 
2 min
HINA
Ilustracija/Pixabay

"Halucinacije" umjetne inteligencije su identificirane kao ključni problem budući da napredna priroda tehnologije i njezine mogućnosti konverzacije znače da je sposobna dati netočne informacije kao činjenice kada odgovara na pitanje

Istraživači su pronašli novu metodu koja se može koristiti da se detektiraju i spriječe "halucinacije" umjetne inteligencije, što je kolokvijalni naziv za netočne odgovore koje daje AI.

Nova studija tima sa Sveučilišta u Oxfordu razvila je statistički model koji može identificirati kada će pitanje postavljeno velikom jezičnom modelu (large language models, LLM) koji se koristi za pokretanje AI chatbota vjerojatno dati netočan odgovor.

Njihovo istraživanje objavljeno je u časopisu Nature.

"Halucinacije" umjetne inteligencije su identificirane kao ključni problem budući da napredna priroda tehnologije i njezine mogućnosti konverzacije znače da je sposobna dati netočne informacije kao činjenice kada odgovara na pitanje.

U vrijeme kada se sve više učenika okreće alatima umjetne inteligencije kada im treba pomoć u istraživanju ili u dovršavanju zadataka, mnogi stručnjaci pozivaju na akciju kako bi se spriječile "halucinacije" AI-a, posebno kada se radi o upitima vezanih uz medicinska ili pravna pitanja.

Istraživači s Oxforda rekli su da je njihovo istraživanje pronašlo način da se utvrdi kada je AI siguran u odgovor, a kada ga izmišlja.

Autor studije dr. Sebastian Farquhar rekao je: “LLM-i su vrlo sposobni reći istu stvar na mnogo različitih načina, što može otežati razlučivanje kada su sigurni u odgovor, a kada doslovno samo nešto 'haluciniraju'. S prijašnjim pristupima nije bilo moguće uočiti razliku kada model ne zna što reći i kada ne zna kako to reći. Ali naša nova metoda to nadilazi.”

No dr. Farquhar je rekao da treba još raditi na ispravljanju grešaka koje AI modeli mogu napraviti.


Nastavite čitati

Svijet
 

Kremlj s oprezom reagirao na mirovni samit o Ukrajini

Volodimir Zelenskij jučer je rekao da je za sudjelovanje Moskve na budućem samitu, a nakon konferencije o miru o Ukrajini organizirane sredinom lipnja u Švicarskoj. Konferenciji je tada prisustvovalo više desetaka svjetskih čelnika, no Rusija nije bila pozvana * Zelenskij nije spominjao prekid neprijateljstava, već uspostavu "plana" * Kremlj je dosad isključivao bilo kakve mirovne pregovore sve dok Ukrajina ne napusti pet regija koje Moskva želi anektirati i dok se ne odrekne savezništva sa Zapadom. To bi, de facto značilo kapitulaciju

Svijet
 

Gareth Southgate dao ostavku

Vrijeme je za promjene i za novo poglavlje. Nedjeljno finale u Berlinu protiv Španjolske bila je moja posljednja utakmica kao izbornika Engleske. Imao sam privilegiju voditi veliku skupinu igrača u 102 utakmice. Svaki od njih je bio ponosan što nosi tri lava na svojim majicama, i bili su zaslužni za svoju zemlju na toliko načina, poručio je Southgate

Da bi ova web-stranica mogla pravilno funkcionirati i da bismo unaprijedili vaše korisničko iskustvo, koristimo kolačiće. Više informacija potražite u našim uvjetima korištenja.

  • Nužni kolačići omogućuju osnovne funkcionalnosti. Bez ovih kolačića, web-stranica ne može pravilno funkcionirati, a isključiti ih možete mijenjanjem postavki u svome web-pregledniku.