Connect with us

Svijet

ČetGPT HALUCINIRA, LAŽE I IZMIŠLJA? O čemu se radi?

Najnoviji modeli vještačke inteligencije OpenAI kompanije sve više izmišljaju netačne informacije, a stručnjaci nemaju objašnjenje za ovaj zabrinjavajući trend. Najprije, o čemu se radi?

Prema izvještaju Njujork Tajmsa, istraživanje OpenAI-a otkrilo je da njihovi najnoviji ČetGPT modeli (o3 i o4-mini) znatno češće haluciniraju, odnosno izmišljaju lažne informacije, nego prethodni GPT o1 model.

Brojna testiranja pokazala su zabrinjavajući trend. O3, koji je najmoćniji sistem kompanije, halucinirao je u čak 33 odsto slučajeva tokom PersonQA testa koji postavlja pitanja o javnim ličnostima. To je više nego dvostruko veća stopa halucinacije od prethodnog OpenAI sistema za zaključivanje, o1. Novi o4-mini model pokazao se još lošijim sa stopom halucinacije od 48 odsto.

Još alarmantniji su rezultati drugog testa. Prilikom SimpleQA testa, koji postavlja opštija pitanja, stope halucinacije za o3 i o4-mini bile su čak 51 odsto odnosno 79 odsto. Prethodni sistem, o1, halucinirao je u 44 odsto slučajeva.

“Razmišljajući” modeli prave više grešaka nego ikad
Ono što dodatno zbunjuje stručnjake je činjenica da su upravo najnapredniji AI modeli ti koji imaju sve veći problem sa halucinacijama. Najnovije i najmoćnije tehnologije — takozvani sistemi za zaključivanje kompanija poput OpenAI, Gugl i kineskog startapa DipSik— generišu više grešaka umjesto manje.

Da bismo razumjeli o čemu se radi, važno je objasniti šta su to “reasoning” ili modeli za zaključivanje. Jednostavno rečeno, ovi modeli su vrsta jezičkih modela (LLM) dizajnirani za obavljanje složenih zadataka. Umjesto da samo izbacuju tekst na osnovu statističkih modela vjerovatnoće, modeli za zaključivanje razbijaju pitanja ili zadatke na pojedinačne korake slično ljudskom procesu razmišljanja.
OpenAI prvi model za zaključivanje, o1, pojavio se prošle godine i tvrdilo se da dostiže performanse doktorskih studenata fizike, hemije i biologije, a nadmašuje ih u matematici i kodiranju zahvaljujući tehnikama reinforcement learning-a.

U sistemu za testiranje, OpenAI je objavio tabelu koja pokazuje da ČetGPT o3 jeste tačniji od o1, ali će halucinirati dvostruko češće. Što se tiče o4-mini, ovaj manji model će proizvoditi manje tačne odgovore od o1 i o3, i halucinirati tri puta više od o1.

Antropomorfizacija AI modela i kako to utiče na korisno iskustvo
Iako kompanija i dalje istražuje uzroke, postoje neke teorije. Istraživačka grupa Transluce otkrila je da o3 model izmišlja radnje koje navodno preduzima dok pokušava da riješi zadatke. U jednom primjeru, o3 je tvrdio da koristi MacBook Pro iz 2021. godine “izvan ČetGPT” za izračunavanje, a zatim kopira brojeve u svoj odgovor, što je potpuno izmišljeno.
Jedna hipoteza koju je predložio Nil Čaudri, istraživač iz Transluce-a i bivši zaposleni u OpenAI-u, glasi: “Naša hipoteza je da vrsta reinforcement learninga koja se koristi za o-seriju modela može pojačati probleme koji se obično ublažavaju (ali ne i potpuno brišu) standardnim post-trening procesima.”

Ipak, OpenAI negira da je problem sistemski.

– Halucinacije nisu inherentno rasprostranjenije u modelima za zaključivanje, iako aktivno radimo na smanjenju viših stopa halucinacije koje smo vidjeli u o3 i o4-mini – izjavila je Gabi Rajla iz OpenAI-a za Tajms.

Kako problem halucinacija utiče na korisnost AI alata
Neodgovorno bi bilo ignorisati zabrinjavajući trend povećanja halucinacija u najnovijim AI modelima, što značajno umanjuje njihovu praktičnu vrijednost. Šta god bila istina, jedno je sigurno. AI modeli moraju uglavnom da izbace besmislice i laži ako žele da budu bilo gdje blizu korisni kao što njihovi zagovornici trenutno zamišljaju. Trenutno je teško vjerovati izlazu bilo kog LLM. Praktično sve mora pažljivo da se dvostruko provjeri.
To je u redu za neke zadatke. Ali tamo gdje je glavna korist ušteda vremena ili rada, potreba za pažljivim provjeravanjem i činjeničnom provjerom AI rezultata zapravo poništava svrhu njihovog korišćenja.

Ne zna se da li će OpenAI i ostatak LLM industrije uspjeti da riješe sve te neželjene “robotske snove”, ali jedno je sigurno – put ka pouzdanoj vještačkoj inteligenciji koja ne izmišlja činjenice očigledno je duži nego što smo očekivali.

Svijet

JEDAN UČENIK UBIJEN, dvojica ranjena u NAPADU NOŽEM ispred škole u Kaliforniji

Jedan učenik je poginuo, a dvojica su ranjena u napadu nožem koji se dogodio ispred srednje škole Santa Ana u istoimenom gradu u južnoj Kaliforniji, saopštila je lokalna policija.

Troje učenika, svi muškog pola, prebačeno je u bolnicu, gdje je jedan od njih preminuo, dok su druga dvojica u stabilnom stanju, navela je portparolka policije Natali Garsija, prenio je AP.

Do incidenta je došlo dok su učenici napuštali školu nakon završetka nastave, rekao je portparol školskog okruga Fermin Lil.

U napadu su, prema navodima zvaničnika, učestvovale i osobe koje nisu učenici škole.

Policija traga za najmanje dvije osobe osumnjičene za napad, a njihova veza sa školom i motiv napada za sada su nepoznati.

Nakon incidenta, svi vanškolski programi i sportske aktivnosti su otkazane.

Santa Ana, grad sa oko 300.000 stanovnika, nalazi se 50 kilometara jugoistočno od Los Anđelesa. Srednju školu Santa Ana pohađa oko 3.000 učenika, prenosi Tanjug.

Nastavi čitati

Svijet

Nuklearna trka između Indije i Pakistana! KO JE U PREDNOSTI?

Indija i Pakistan, dvije nuklearne sile sa dugom istorijom sukoba, raspolažu značajnim nuklearnim arsenalima.

Prema podacima Centra za kontrolu naoružanja i neširenje sa sjedištem u Vašingtonu, Indija ima najmanje 164 nuklearne bojeve glave, uz sposobnost lansiranja sa kopna, mora i iz vazduha.

Nasuprot njoj, Pakistan posjeduje najmanje 170 bojevih glava, što mu daje blagu brojčanu prednost.

Strah od nuklearne eskalacije između ove dvije zemlje nije neutemeljen. Stručnjaci upozoravaju da bi čak i ograničena nuklearna razmjena mogla da izazove katastrofalne posljedice.

Procjene Centra za kontrolu naoružanja kažu da bi mali nuklearni sukob između Indije i Pakistana mogao da usmrti najmanje 20 miliona ljudi u roku od nedjelju dana.

Ako bi došlo do takozvane nuklearne zime, gotovo dvije milijarde ljudi u zemljama u razvoju bile bi u opasnosti od gladi.

Sukob između dvije nulearne sile u Aziji Pakistana i Indije ponovo je eskalirao.

Najmanje 26 osoba je poginulo, a više od 40 je povrijeđeno u napadu koji je indijska vojska izvela u utorak naveče na položaje u Pakistanu.

Sa druge strane, u pakistanskim napadima na lokacije u Indiji poginulo je najmanje sedam ljudi i više od 30 povrijeđeno, prenijeli su svjetski mediji.

Indijska vojska izvela je napade na Pakistan dvije nedjelje nakon što je premijer te zemlje Narendra Modi dao generalima zeleno svjetlo za odgovor na napad terorista koji su 22. aprila u Kašmiru ubili 26 turista.

Indija krivi Pakistan za podsticanje napada, a ove dvije zemlje već su vodili ratove zbog Kašmira.

Trka u naoružanju
Od sticanja nezavisnosti od Velike Britanije 1947. godine, Indija i Pakistan vode intenzivnu trku u naoružanju.

Sve je počelo sa konvencionalnim oružjem, a završilo se razvojem oružja za masovno uništenje, prenosi Nova. Danas obje zemlje posjeduju nuklearne kapacitete, uključujući interkontinentalne balističke rakete.

Indija raspolaže raketama Agni, čiji je domet oko 5.000 kilometara, dok Pakistan ima rakete Shaheen sa dometom između 2.500 i 3.000 kilometara.

Oba rivala razvila su različite oblike nuklearne trijade – koncept koji podrazumijeva mogućnost lansiranja nuklearnog oružja iz vazduha, sa kopna i sa mora.

Prema procjenama stranice World Population Review, Indija je do prošle godine imala 172 nuklearne bojeve glave, dok je Pakistan ostao na 170.

Stručnjaci očekuju da će taj broj u narednim godinama rasti, potencijalno dostižući 200 do 250 bojevih glava u obje zemlje

Ko ima brojčanu nadmoć?
Iako Pakistan trenutno ima nešto veći broj nuklearnih bojevih glava, Indija uživa tehničku i tehnološku superiornost.

Ova prednost je naročito izražena u mornarici – Indija posjeduje dva nosača aviona, od kojih je jedan domaće proizvodnje, dok Pakistan nema nijedan.

Pakistanska vojna doktrina se oslanja na strategiju ranog odvraćanja, koja podrazumijeva prijetnju nuklearnim odgovorom u početnoj fazi potencijalnog sukoba, s ciljem da se spriječe indijske vojne operacije prije nego što se uopšte dogode. Za razliku od Pakistana, Indija se pridržava politike “No First Use” – obaveze da nuklearno oružje ne koristi prva, ali je posljednjih godina u nekoliko navrata razmatrala mogućnost izmjene te doktrine.

Nastavi čitati

Svijet

“SPREMNI SMO DA SPRIJEČIMO ESKALACIJU TENZIJA”: Turska stala uz Pakistan, oglasio se Erdogan

Erdogan je poručio Šarifu da Turska podržava mirnu i suzdržanu kriznu politiku Pakistana.

Turski predsjednik Redžep Tajip Erdogan razgovarao je telefonom sa premijerom Pakistana Šehbazom Šarifom i izrazio solidarnost nakon smrtonosnog raketnog napada Indije na Pakistan i pakistanski Kašmir, saopštila je Erdoganova pres-služba.

Erdogan je poručio Šarifu da Turska podržava mirnu i suzdržanu kriznu politiku Pakistana rekavši da smatra “prikladnim” poziv zvaničnog Islamabada o pokretanju istrage povodom napada islamskih ekstremista koji je i izazvao krizu sa Indijom.

“Predsjednik Erdogan je izjavio da je Turska spremna da učini sve što može kako bi spriječila dalju eskalaciju tenzija”, navodi se u saopštenju Erdoganove pres-službe, prenosi Rojters.

Pakistanske vlasti su ranije danas saopštile da su pakistanske PVO jedinice oborile pet indijskih aviona i najavile su dalju odmazdu u najgorem sukobu u posljednje dvije decenije između ove dvije susjedne zemlje obe nuklearno naoružane.

U napadu izvedenom 22. aprila islamski ekstremisti su ubili 26 ljudi u indijskom Kašmiru, a pakistanske vlasti su negirale indijske optužbe da su povezane sa tim napadom.

Nastavi čitati

Aktuelno