Connect with us

Svijet

ČetGPT HALUCINIRA, LAŽE I IZMIŠLJA? O čemu se radi?

Najnoviji modeli vještačke inteligencije OpenAI kompanije sve više izmišljaju netačne informacije, a stručnjaci nemaju objašnjenje za ovaj zabrinjavajući trend. Najprije, o čemu se radi?

Prema izvještaju Njujork Tajmsa, istraživanje OpenAI-a otkrilo je da njihovi najnoviji ČetGPT modeli (o3 i o4-mini) znatno češće haluciniraju, odnosno izmišljaju lažne informacije, nego prethodni GPT o1 model.

Brojna testiranja pokazala su zabrinjavajući trend. O3, koji je najmoćniji sistem kompanije, halucinirao je u čak 33 odsto slučajeva tokom PersonQA testa koji postavlja pitanja o javnim ličnostima. To je više nego dvostruko veća stopa halucinacije od prethodnog OpenAI sistema za zaključivanje, o1. Novi o4-mini model pokazao se još lošijim sa stopom halucinacije od 48 odsto.

Još alarmantniji su rezultati drugog testa. Prilikom SimpleQA testa, koji postavlja opštija pitanja, stope halucinacije za o3 i o4-mini bile su čak 51 odsto odnosno 79 odsto. Prethodni sistem, o1, halucinirao je u 44 odsto slučajeva.

“Razmišljajući” modeli prave više grešaka nego ikad
Ono što dodatno zbunjuje stručnjake je činjenica da su upravo najnapredniji AI modeli ti koji imaju sve veći problem sa halucinacijama. Najnovije i najmoćnije tehnologije — takozvani sistemi za zaključivanje kompanija poput OpenAI, Gugl i kineskog startapa DipSik— generišu više grešaka umjesto manje.

Da bismo razumjeli o čemu se radi, važno je objasniti šta su to “reasoning” ili modeli za zaključivanje. Jednostavno rečeno, ovi modeli su vrsta jezičkih modela (LLM) dizajnirani za obavljanje složenih zadataka. Umjesto da samo izbacuju tekst na osnovu statističkih modela vjerovatnoće, modeli za zaključivanje razbijaju pitanja ili zadatke na pojedinačne korake slično ljudskom procesu razmišljanja.
OpenAI prvi model za zaključivanje, o1, pojavio se prošle godine i tvrdilo se da dostiže performanse doktorskih studenata fizike, hemije i biologije, a nadmašuje ih u matematici i kodiranju zahvaljujući tehnikama reinforcement learning-a.

U sistemu za testiranje, OpenAI je objavio tabelu koja pokazuje da ČetGPT o3 jeste tačniji od o1, ali će halucinirati dvostruko češće. Što se tiče o4-mini, ovaj manji model će proizvoditi manje tačne odgovore od o1 i o3, i halucinirati tri puta više od o1.

Antropomorfizacija AI modela i kako to utiče na korisno iskustvo
Iako kompanija i dalje istražuje uzroke, postoje neke teorije. Istraživačka grupa Transluce otkrila je da o3 model izmišlja radnje koje navodno preduzima dok pokušava da riješi zadatke. U jednom primjeru, o3 je tvrdio da koristi MacBook Pro iz 2021. godine “izvan ČetGPT” za izračunavanje, a zatim kopira brojeve u svoj odgovor, što je potpuno izmišljeno.
Jedna hipoteza koju je predložio Nil Čaudri, istraživač iz Transluce-a i bivši zaposleni u OpenAI-u, glasi: “Naša hipoteza je da vrsta reinforcement learninga koja se koristi za o-seriju modela može pojačati probleme koji se obično ublažavaju (ali ne i potpuno brišu) standardnim post-trening procesima.”

Ipak, OpenAI negira da je problem sistemski.

– Halucinacije nisu inherentno rasprostranjenije u modelima za zaključivanje, iako aktivno radimo na smanjenju viših stopa halucinacije koje smo vidjeli u o3 i o4-mini – izjavila je Gabi Rajla iz OpenAI-a za Tajms.

Kako problem halucinacija utiče na korisnost AI alata
Neodgovorno bi bilo ignorisati zabrinjavajući trend povećanja halucinacija u najnovijim AI modelima, što značajno umanjuje njihovu praktičnu vrijednost. Šta god bila istina, jedno je sigurno. AI modeli moraju uglavnom da izbace besmislice i laži ako žele da budu bilo gdje blizu korisni kao što njihovi zagovornici trenutno zamišljaju. Trenutno je teško vjerovati izlazu bilo kog LLM. Praktično sve mora pažljivo da se dvostruko provjeri.
To je u redu za neke zadatke. Ali tamo gdje je glavna korist ušteda vremena ili rada, potreba za pažljivim provjeravanjem i činjeničnom provjerom AI rezultata zapravo poništava svrhu njihovog korišćenja.

Ne zna se da li će OpenAI i ostatak LLM industrije uspjeti da riješe sve te neželjene “robotske snove”, ali jedno je sigurno – put ka pouzdanoj vještačkoj inteligenciji koja ne izmišlja činjenice očigledno je duži nego što smo očekivali.

Svijet

RUTE “Medved ne mora da govori da je medved, TO SVI VIDE”

Generalni sekretar NATO-a Mark Rute ismejao je jučerašnje poruke iz Moskve, nakon što je Kremlj odgovorio na izjavu američkog predsednika Donalda Trampa da je Rusija “tigar od papira”.

“Ceo dan smo slušali Kremlj kako govori: ‘Ne, mi nismo tigar od papira. Mi smo medved.’ Pa znate, ako ste medved, ne morate naglašavati da ste medved jer će svi to ionako primetiti. To pokazuje mnogo slabosti sa ruske strane. Jasno je da je predsednik Tramp pogodio u živac”, rekao je Rute za Fox News.

Peskov: Rusija je medved, ne postoji medved od papira
Portparol Kremlja Dmitrij Peskov ranije je reagovao na Trampove reči porukom da je Rusija medved, a ne tigar, dodavši: “Ne postoji medved od papira.”

Komentarisao je i Trampovu tvrdnju da Ukrajina može da vrati sav okupirani teritorij pod svoju kontrolu, rekavši da “ruske snage napreduju na svim frontovima u Ukrajini” i da je “dinamika rata očigledna”.

Govoreći o mogućnosti sastanka Vladimira Putina i Volodimira Zelenskog, Peskov je ocenio da bi “susret njih dvojice bez adekvatne pripreme bio PR predstava unapred osuđena na propast”.

Šta je rekao Tramp?
Američki predsednik Donald Tramp juče je poručio da bi zemlje članice NATO-a trebalo da obaraju ruske avione koji krše njihov vazdušni prostor. Takođe je rekao da veruje da Ukrajina, uz podršku Evropske unije i NATO-a, može da vrati sav teritorij koji je Rusija zauzela od početka invazije, iako je ranije govorio da će se i Kijev i Moskva morati odreći dela teritorija kako bi završili rat.

“Nakon što sam upoznao i potpuno shvatio vojnu i ekonomsku situaciju Ukrajine i Rusije i kada sam video ekonomske probleme koje to stvara Rusiji, mislim da je Ukrajina, uz podršku Evropske unije, u poziciji da se bori i vrati celu Ukrajinu u njenom izvornom obliku. Uz vreme, strpljenje i finansijsku podršku Evrope i posebno NATO-a, izvorne granice odakle je ovaj rat počeo itekako su opcija. Zašto da ne? Rusija već tri i po godine vodi besmislen rat koji bi pravoj vojnoj sili trebalo manje od nedelju dana da dobije. To nije kompliment Rusiji. Zapravo, to ih čini da izgledaju kao ‘tigar od papira’”, napisao je Tramp.

Dodao je da će, kada Rusi shvate šta se događa u ratu – od nestašice goriva i dugih redova na pumpama, do činjenice da država većinu novca troši na borbu protiv Ukrajine – Kijev moći da povrati celu svoju zemlju, “a možda i više od toga”.

“Putin i Rusija su u velikim ekonomskim problemima i sada je trenutak da Ukrajina deluje. U svakom slučaju, želim dobro objema zemljama. Nastavićemo da snabdevamo NATO oružjem da NATO radi šta želi sa tim oružjem. Srećno svima”, poručio je Tramp.

Rubio: Tramp promenio stav zbog ruskog odugovlačenja
Američki državni sekretar Marko Rubio objasnio je da je rusko odugovlačenje sa mirovnim procesom u Ukrajini nateralo Trampa da promeni stav prema Moskvi.

Tramp je pokazao “izvanredno strpljenje” u nadi da će postići diplomatski napredak, rekao je Rubio. No to je rezultiralo stagnacijom i prelaskom u period eskalacije, s obzirom na to da Rusija poslednjih nedelja izvodi jedne od najžešćih napada na Ukrajinu od početka rata.

“Sada još pratimo i upade dronova i aviona u susedni vazdušni prostor”, dodao je Rubio.

Upozorio je Moskvu da Trampovo strpljenje nije beskonačno i naglasio da bi Vašington mogao nastaviti isporuku oružja Kijevu. “Predsednik je veoma strpljiv čovek. Veoma je posvećen miru, ali njegovo strpljenje nije beskonačno”, rekao je američki državni sekretar.

Nastavi čitati

Svijet

RUSI BOMBARDUJU SVE REDOM, A ZAUZIMAJU MALO: To je loše za ugled Rusije (VIDEO)

Američki predsjednik Donald Tramp izjavio je novinarima u Bijeloj kući da spori tempo ruske okupacije Ukrajine, uprkos masovnim bombardovanjima ukrajinskih gradova, šteti ugledu Rusije.

Naglasio je da su postupci ruskog čelnika Vladimira Putina doveli do velikih ljudskih gubitaka i razaranja, ali nisu približili kraj rata.

Tramp je ponovo izrazio razočaranje Putinovim potezima te smatra da Rusija izvodi masovne udare na ukrajinske gradove i civilnu infrastrukturu, ali teritorijalni dobici ostaju minimalni.

“Vrlo sam nezadovoljan onim što Rusija radi i onim što radi predsjednik Putin. Uopšte mi se to ne sviđa. On ubija ljude bez ikakvog razloga. I rade to vrlo loše s obzirom na to da su sve stavili na kocku. Njihova ekonomija propada.”

“Bombarduju sve redom, a zauzimaju vrlo malo, ako uopšte išta”

Tramp je dodao da se rat koji je pokrenuo Kremlj odužio i ušao u svoju četvrtu godinu, a uprkos teškim bombardovanjima, Moskva je zauzela vrlo malo teritorije te ponegdje i pretrpjela gubitke.

“Bombarduju sve redom, a zauzimaju vrlo malo, ako uopšte išta. Štaviše, gube dio teritorije. Mislim da je to veoma loše za ugled Rusije”, rekao je Tramp.

Naglasio je da je “rat trebalo već da bude završen”. Prema njegovom mišljenju, da je to bio rat SAD, on bi ga “završio u sedam dana”.

“Vidite šta su zauzeli sada. Prošli mjesec zauzeli su vrlo malo. A vi ste izvještavali o svim bombardovanjima, o svim dronovima posvuda. Devetsto dronova u jednoj noći prema određenim područjima poput Kijeva. I uz sav taj napor, zauzeli su veoma malo. Dakle, vrlo sam razočaran predsjednikom Putinom.”

Nastavi čitati

Svijet

NEČAJEV TRAŽI PRAVDU: Napad na “Sjeverni tok” ne smije ostati nekažnjen

Šteta od terorističkih napada na gasovode “Sjeverni tok” ogromna je i ne smije ostati nekažnjena, izjavio je ruski ambasador u Njemačkoj Sergej Nečajev.

“Podsjetiću vas da je, osim uništenja gasovoda, čija je izgradnja trajala mnogo godina i ogromnih finansijskih gubitaka nanesenih investitorima, jedan od rezultata terorističkog napada bilo najveće pojedinačno ispuštanje metana u atmosferu u istoriji, što je prouzrokovalo ogromnu štetu po životnu sredinu”, rekao je Nečajev ruskim medijima.

On je dodao da “takve akcije ne smiju i ne mogu ostati nekažnjene, bez obzira na to ko ih je počinio”.

Gasovodi “Sjeverni tok jedan” i “Sjeverni tok dva” pogođeni su eksplozijama u septembru 2022. godine.

NJemačka, Danska i Švedska nisu isključile mogućnost namjerne sabotaže. Kancelarija ruskog državnog tužioca pokrenula je istragu o tome kao o aktu međunarodnog terorizma.

“Rusija je više puta tražila podatke o istragama drugih zemalja o eksplozijama, ali ih nikada nije dobila”, rekao je ranije portparol Kremlja Dmitrij Peskov.

Nastavi čitati

Aktuelno