ReSearch
{{ mc.sd.lang | uppercase }}
Verif.ai: Napredni sistem verifikacije odgovora generativnih jezičkih modela u biomedicinskom domenu
Ljajić, Adela
Košprdić, Miloš
Bašaragin, Bojana
Medvecki, Darija
Milošević, Nikola
Veliki jezički modeli su napravili revoluciju u oblasti obrade prirodnih jezika, omogućivši vrhunske rezultate za većinu zadataka uz znatno manje resursa. Generativni jezički modeli (LLaMA, GPT...), koji su dostupni za upotrebu i krajnjim korisnicima, imaju potencijal da transformišu način rada krajnjeg korisnika povećavajući njegovu produktivnost, kao i način na koji pronalazi informacije. Premda su takvi modeli trenirani na velikim jezičkim bazama, u određenim situacijama dolazi do pojave halucinacija, naročito (1) kada korisničko pitanje nije adekvatno formulisano i (2) kada, u vezi sa korisničkim pitanjem, nemaju dovoljno konkretnih podataka na kojima su do tada trenirani. Budući da u najvećem broju slučajeva odgovori zadovoljavaju sva sintaksička, semantička, ali i pragmatička pravila određenog jezika, a nisu činjenično utemeljeni, ovo predstavlja svojevrsnu opasnost prilikom korištenja ovih modela, naročito u konkretnim oblastima poput biomedicine. Projekat Verif.ai ima za cilj da razvije sistem koji bi proveravao tačnost činjenica u odgovorima iz biomedicinskog domena koje daju generativni jezički modeli i potkrepljivao odgovore odgovarajućim referencama, čime bi se značajno smanjio rizik od širenja netačnih ili obmanjujućih informacija. Verif.ai bi dodatno smanjio potrebu za ručnim proveravanjem informacija, unapredio efikasnost i smanjio operativne troškove. Davanjem proverenih i pouzdanih odgovora, sistem će povećati poverenje javnosti u generativne modele, što će dalje voditi osnaživanju odnosa između korisnika i članova zajednice koja se bavi veštačkom inteligencijom.
srpski
2023
© All rights reserved
verifikacija odgovora, generativni jezički modeli, semantička pretraga, biomedicinski tekstovi