Connect with us

Svijet

ČetGPT HALUCINIRA, LAŽE I IZMIŠLJA? O čemu se radi?

Najnoviji modeli vještačke inteligencije OpenAI kompanije sve više izmišljaju netačne informacije, a stručnjaci nemaju objašnjenje za ovaj zabrinjavajući trend. Najprije, o čemu se radi?

Prema izvještaju Njujork Tajmsa, istraživanje OpenAI-a otkrilo je da njihovi najnoviji ČetGPT modeli (o3 i o4-mini) znatno češće haluciniraju, odnosno izmišljaju lažne informacije, nego prethodni GPT o1 model.

Brojna testiranja pokazala su zabrinjavajući trend. O3, koji je najmoćniji sistem kompanije, halucinirao je u čak 33 odsto slučajeva tokom PersonQA testa koji postavlja pitanja o javnim ličnostima. To je više nego dvostruko veća stopa halucinacije od prethodnog OpenAI sistema za zaključivanje, o1. Novi o4-mini model pokazao se još lošijim sa stopom halucinacije od 48 odsto.

Još alarmantniji su rezultati drugog testa. Prilikom SimpleQA testa, koji postavlja opštija pitanja, stope halucinacije za o3 i o4-mini bile su čak 51 odsto odnosno 79 odsto. Prethodni sistem, o1, halucinirao je u 44 odsto slučajeva.

“Razmišljajući” modeli prave više grešaka nego ikad
Ono što dodatno zbunjuje stručnjake je činjenica da su upravo najnapredniji AI modeli ti koji imaju sve veći problem sa halucinacijama. Najnovije i najmoćnije tehnologije — takozvani sistemi za zaključivanje kompanija poput OpenAI, Gugl i kineskog startapa DipSik— generišu više grešaka umjesto manje.

Da bismo razumjeli o čemu se radi, važno je objasniti šta su to “reasoning” ili modeli za zaključivanje. Jednostavno rečeno, ovi modeli su vrsta jezičkih modela (LLM) dizajnirani za obavljanje složenih zadataka. Umjesto da samo izbacuju tekst na osnovu statističkih modela vjerovatnoće, modeli za zaključivanje razbijaju pitanja ili zadatke na pojedinačne korake slično ljudskom procesu razmišljanja.
OpenAI prvi model za zaključivanje, o1, pojavio se prošle godine i tvrdilo se da dostiže performanse doktorskih studenata fizike, hemije i biologije, a nadmašuje ih u matematici i kodiranju zahvaljujući tehnikama reinforcement learning-a.

U sistemu za testiranje, OpenAI je objavio tabelu koja pokazuje da ČetGPT o3 jeste tačniji od o1, ali će halucinirati dvostruko češće. Što se tiče o4-mini, ovaj manji model će proizvoditi manje tačne odgovore od o1 i o3, i halucinirati tri puta više od o1.

Antropomorfizacija AI modela i kako to utiče na korisno iskustvo
Iako kompanija i dalje istražuje uzroke, postoje neke teorije. Istraživačka grupa Transluce otkrila je da o3 model izmišlja radnje koje navodno preduzima dok pokušava da riješi zadatke. U jednom primjeru, o3 je tvrdio da koristi MacBook Pro iz 2021. godine “izvan ČetGPT” za izračunavanje, a zatim kopira brojeve u svoj odgovor, što je potpuno izmišljeno.
Jedna hipoteza koju je predložio Nil Čaudri, istraživač iz Transluce-a i bivši zaposleni u OpenAI-u, glasi: “Naša hipoteza je da vrsta reinforcement learninga koja se koristi za o-seriju modela može pojačati probleme koji se obično ublažavaju (ali ne i potpuno brišu) standardnim post-trening procesima.”

Ipak, OpenAI negira da je problem sistemski.

– Halucinacije nisu inherentno rasprostranjenije u modelima za zaključivanje, iako aktivno radimo na smanjenju viših stopa halucinacije koje smo vidjeli u o3 i o4-mini – izjavila je Gabi Rajla iz OpenAI-a za Tajms.

Kako problem halucinacija utiče na korisnost AI alata
Neodgovorno bi bilo ignorisati zabrinjavajući trend povećanja halucinacija u najnovijim AI modelima, što značajno umanjuje njihovu praktičnu vrijednost. Šta god bila istina, jedno je sigurno. AI modeli moraju uglavnom da izbace besmislice i laži ako žele da budu bilo gdje blizu korisni kao što njihovi zagovornici trenutno zamišljaju. Trenutno je teško vjerovati izlazu bilo kog LLM. Praktično sve mora pažljivo da se dvostruko provjeri.
To je u redu za neke zadatke. Ali tamo gdje je glavna korist ušteda vremena ili rada, potreba za pažljivim provjeravanjem i činjeničnom provjerom AI rezultata zapravo poništava svrhu njihovog korišćenja.

Ne zna se da li će OpenAI i ostatak LLM industrije uspjeti da riješe sve te neželjene “robotske snove”, ali jedno je sigurno – put ka pouzdanoj vještačkoj inteligenciji koja ne izmišlja činjenice očigledno je duži nego što smo očekivali.

Related Topics:

Svijet

TRAMP 8. MAJ proglasio Danom pobjede

Američki predsjednik Donald Tramp proglasio je 8. maj danom proslave Dana pobjede u Drugom svjetskom ratu.
– Na osnovu ovlaštenja koje mi je dato Ustavom i zakonima SAD, proglašavam 8. maj danom proslave Dana pobjede u Drugom svjetskom ratu – navodi se u proglasu, koji je potpisao Tramp.

U tekstu se ne ponavlja Trampova prethodna tvrdnja da su SAD doprinijele više od bilo koje druge zemlje pobjedi u Drugom svjetskom ratu, ali se naglašava da rat ne bi bio dobijen bez žrtvovanja američkih vojnika.

Nastavi čitati

Svijet

ŠIRI SE SNIMAK NOVOG NAPADA! Gori Indija, Pakistan raketama gađao aerodrom (VIDEO)

Za sada su potvrđene eksplozije na dvije lokacije, ali broj žrtava još nije poznat.

Novi pakistanski napadi na indijsku teritoriju dodatno su pogoršali već eksplozivnu situaciju između dvije nuklearne sile. Kako se širi putem Telegram grupa, večeras se pojavio snimak koji navodno prikazuju nove vazdušne napade u indijskoj saveznoj državi Pendžab, uključujući područje grada Džalandara. Za sada su potvrđene eksplozije na dvije lokacije, ali broj žrtava još nije poznat.

Samo nekoliko sati ranije, pakistanske balističke rakete pogodile su aerodrom u Amritsaru, potvrdili su indijski izvori, koji su naveli da je snažna detonacija došla iz pravca aerodroma.

Sukob koji tinja od 22. aprila, kada su naoružani ljudi ubili 26 turista u Pahalgamu, indijskom dijelu Kašmira, pretvorio se u otvoreni vojni sukob. Tenzije su eskalirale preko noći, kada je Indija izvela vazdušne napade na pakistansku teritoriju, tvrdeći da su mete isključivo “teroristički kampovi” povezani sa islamističkom grupom Laškar-e-Taiba (LeT).

Indijski ministar odbrane Radžnat Sing naglasio je da su napadi bili precizni i da nisu usmjereni na civilna područja, dok je Nju Delhi objavio da je uništeno ukupno devet lokacija na kojima su se navodno nalazili pripadnici LeT-a. Pakistan snažno negira ove optužbe, iako je ranije prijetio odmazdom – koja je sada izgleda sprovedena.

U krvavoj razmjeni vatre do sada je poginula 31 osoba na pakistanskoj i 12 na indijskoj strani, što ovo čini najsmrtonosnijim sukobom između dvije zemlje u posljednjih 20 godina. Granica u Kašmiru, koja je decenijama bila sporna tačka, ponovo je pretvorena u bojno polje. “Želim da se zaustave. I nadam se da sada mogu da prestanu”, rekao je američki predsjednik Donald Tramp iz Bijele kuće, pozivajući obe strane na uzdržanost.

Nastavi čitati

Svijet

ORBAN OPLEO PO URSULI “Ukrajina dobija novac i oružje, evropski poreski obveznici plaćaju račun. SRAMOTA!”

Mađarski premijer Viktor Orban kritikovao je danas predsjednicu Evropske komisije Ursulu fon der Lejen na društvenim mrežama zbog poziva Ukrajini da ubrza pristupanje Evropskoj uniji.

“Danas je Fon der Lejen objavila nove planove Evropske komisije: Ukrajina dobija novac i oružje, evropski poreski obveznici plaćaju račun. Sramota!”, napisao je Orban na mreži Iks.

Ranije je Orban izjavio da bi pristupanje Ukrajine EU uništilo mađarsku ekonomiju.
On je, obraćajući se prije nekoliko dana ukrajinskom predsjedniku Volodimiru Zelenskom, naglasio da “nema pristupanja Ukrajine EU bez Mađarske”, kao i da će “svaki Mađar” moći da se izjasni o tom pitanju.

Orban je poručio Zelenskom da “o tome šta mađarski narod misli ne odlučuje predsjednik u Kijevu niti birokrate u Briselu. Nema ukrajinskog pristupanja EU bez Mađarske. Svaki Mađar će moći da se izjasni o ovome. Sviđalo se to vama ili ne. Tako mi ovde radimo”.

Mađarski premijer je takođe ranije izjavio da Evropska unija ne želi da pomogne Ukrajini, već da je kolonizuje, a prisiljavanje Kijeva da nastavi sukob je jedna od metoda kolonizacije. On je naglasio da je Mađarska za Evropsku uniju, ali protiv ubrzane evropske integracije Ukrajine i da bez saglasnosti Budimpešte, Kijev nikada neće ući u zajednicu, prenosi Tanjug.

Nastavi čitati

Aktuelno