Svijet
ČetGPT HALUCINIRA, LAŽE I IZMIŠLJA? O čemu se radi?

Najnoviji modeli vještačke inteligencije OpenAI kompanije sve više izmišljaju netačne informacije, a stručnjaci nemaju objašnjenje za ovaj zabrinjavajući trend. Najprije, o čemu se radi?
Prema izvještaju Njujork Tajmsa, istraživanje OpenAI-a otkrilo je da njihovi najnoviji ČetGPT modeli (o3 i o4-mini) znatno češće haluciniraju, odnosno izmišljaju lažne informacije, nego prethodni GPT o1 model.
Brojna testiranja pokazala su zabrinjavajući trend. O3, koji je najmoćniji sistem kompanije, halucinirao je u čak 33 odsto slučajeva tokom PersonQA testa koji postavlja pitanja o javnim ličnostima. To je više nego dvostruko veća stopa halucinacije od prethodnog OpenAI sistema za zaključivanje, o1. Novi o4-mini model pokazao se još lošijim sa stopom halucinacije od 48 odsto.
Još alarmantniji su rezultati drugog testa. Prilikom SimpleQA testa, koji postavlja opštija pitanja, stope halucinacije za o3 i o4-mini bile su čak 51 odsto odnosno 79 odsto. Prethodni sistem, o1, halucinirao je u 44 odsto slučajeva.
“Razmišljajući” modeli prave više grešaka nego ikad
Ono što dodatno zbunjuje stručnjake je činjenica da su upravo najnapredniji AI modeli ti koji imaju sve veći problem sa halucinacijama. Najnovije i najmoćnije tehnologije — takozvani sistemi za zaključivanje kompanija poput OpenAI, Gugl i kineskog startapa DipSik— generišu više grešaka umjesto manje.
Da bismo razumjeli o čemu se radi, važno je objasniti šta su to “reasoning” ili modeli za zaključivanje. Jednostavno rečeno, ovi modeli su vrsta jezičkih modela (LLM) dizajnirani za obavljanje složenih zadataka. Umjesto da samo izbacuju tekst na osnovu statističkih modela vjerovatnoće, modeli za zaključivanje razbijaju pitanja ili zadatke na pojedinačne korake slično ljudskom procesu razmišljanja.
OpenAI prvi model za zaključivanje, o1, pojavio se prošle godine i tvrdilo se da dostiže performanse doktorskih studenata fizike, hemije i biologije, a nadmašuje ih u matematici i kodiranju zahvaljujući tehnikama reinforcement learning-a.
U sistemu za testiranje, OpenAI je objavio tabelu koja pokazuje da ČetGPT o3 jeste tačniji od o1, ali će halucinirati dvostruko češće. Što se tiče o4-mini, ovaj manji model će proizvoditi manje tačne odgovore od o1 i o3, i halucinirati tri puta više od o1.
Antropomorfizacija AI modela i kako to utiče na korisno iskustvo
Iako kompanija i dalje istražuje uzroke, postoje neke teorije. Istraživačka grupa Transluce otkrila je da o3 model izmišlja radnje koje navodno preduzima dok pokušava da riješi zadatke. U jednom primjeru, o3 je tvrdio da koristi MacBook Pro iz 2021. godine “izvan ČetGPT” za izračunavanje, a zatim kopira brojeve u svoj odgovor, što je potpuno izmišljeno.
Jedna hipoteza koju je predložio Nil Čaudri, istraživač iz Transluce-a i bivši zaposleni u OpenAI-u, glasi: “Naša hipoteza je da vrsta reinforcement learninga koja se koristi za o-seriju modela može pojačati probleme koji se obično ublažavaju (ali ne i potpuno brišu) standardnim post-trening procesima.”
Ipak, OpenAI negira da je problem sistemski.
– Halucinacije nisu inherentno rasprostranjenije u modelima za zaključivanje, iako aktivno radimo na smanjenju viših stopa halucinacije koje smo vidjeli u o3 i o4-mini – izjavila je Gabi Rajla iz OpenAI-a za Tajms.
Kako problem halucinacija utiče na korisnost AI alata
Neodgovorno bi bilo ignorisati zabrinjavajući trend povećanja halucinacija u najnovijim AI modelima, što značajno umanjuje njihovu praktičnu vrijednost. Šta god bila istina, jedno je sigurno. AI modeli moraju uglavnom da izbace besmislice i laži ako žele da budu bilo gdje blizu korisni kao što njihovi zagovornici trenutno zamišljaju. Trenutno je teško vjerovati izlazu bilo kog LLM. Praktično sve mora pažljivo da se dvostruko provjeri.
To je u redu za neke zadatke. Ali tamo gdje je glavna korist ušteda vremena ili rada, potreba za pažljivim provjeravanjem i činjeničnom provjerom AI rezultata zapravo poništava svrhu njihovog korišćenja.
Ne zna se da li će OpenAI i ostatak LLM industrije uspjeti da riješe sve te neželjene “robotske snove”, ali jedno je sigurno – put ka pouzdanoj vještačkoj inteligenciji koja ne izmišlja činjenice očigledno je duži nego što smo očekivali.
Svijet
ALARM U EVROPSKOJ NUKLEARNOJ BAZI: Iscurio otrov, širi se svuda!

Radioaktivna voda iz baze u blizini Glazgova, u kojoj se nalaze britanske nuklearne bombe puštena je u more nakon što su oronule cijevi više puta pukle, otkrivaju zvanični dokumenti.
Oslobađanje radioaktivnog materijala u morsko jezero u blizini Glazgova uzrokovano je neuspjehom Kraljevske mornarice da adekvatno održava mrežu od 1.500 vodovodnih cijevi.
Ovo skladište naoružanja je jedna od najsigurnijih i najtajnijih vojnih lokacija u Velikoj Britaniji. Tu se nalaze zalihe nuklearnih bojevih glava za flotu od četiri podmornice klase Trident, koje su usidrene u blizini.
Otkriće nakon duge pravne bitke
Dokumenti Škotske agencije za zaštitu životne sredine (Sepa) ukazuju na to da je čak polovina komponenti u bazi premašila predviđeni životni vijek u trenutku curenja. Iz Sepa navode da su poplave uzrokovane “nedostacima u održavanju”, što je rezultiralo oslobađanjem “nepotrebnog radioaktivnog otpada” u obliku niskog nivoa tricijuma, koji se koristi u nuklearnim bojevim glavama.
Curenje je otkriveno u nizu povjerljivih izvještaja i mejlova koji su, nakon pravne bitke, dostavljeni istraživačkom portalu “The Ferret” i podijeljeni sa “The Guardianom”. Ministarstvo odbrane i Sepa pokušali su da spriječe njihovo objavljivanje, ali je škotski ministar za informisanje Dejvid Hamilton naredio njihovo objavljivanje, tvrdeći da je to prijetnja “ugledu”, a ne nacionalnoj bezbjednosti.
Uzrok curenja i posljedice
Dokumenti Sepa pokazuju da je do pucanja cijevi prvi put došlo 2010. i još dva puta 2019. godine. Jedno od curenja u avgustu 2019. godine oslobodilo je “značajne količine radioaktivne vode”, koja je poplavila područje za rukovanje nuklearnim oružjem. Voda je postala kontaminirana niskim nivoom tricijuma.
Iako iz Sepa naglašavaju da su nivoi radioaktivnosti veoma niski i da ne predstavljaju prijetnju ljudskom zdravlju, otkrili su da su “nedostaci u održavanju i upravljanju” doveli do nepotrebnog stvaranja radioaktivnog otpada. Nakon interne istrage, Ministarstvo odbrane obećalo je 23 mjere za sprečavanje budućih incidenata, priznajući da je nedostatak spremnosti izazvao “konfuziju” i “nedostatak komunikacije o opasnostima”.
Međutim, u 2021. godini cijevi su pukle još dva puta, što je dovelo do nove inspekcije. Sepa je tada navela da je napredak u sprovođenju obećanih mjera “bio spor i u mnogim slučajevima odložen”.
“Šokantno i skandalozno”
Dejvid Kalen, stručnjak za nuklearno oružje u londonskom tink tenku “Basic”, rekao je da su ponovljeni incidenti šokantni i da su pokušaji da se prikriju “skandalozni”.
“Ministarstvo odbrane vodi infrastrukturni program vredan skoro dvije milijarde funti skoro 10 godina, a očigledno ni u 2022. godini nisu imali odgovarajući sistem upravljanja imovinom. Ovaj nemarni pristup je uobičajen u programu nuklearnog oružja i direktna je posljedica nedostatka nadzora”, rekao je Kalen, a prenosi “b92”.
Svijet
NJEMAČKA OSNIVA SAVJET ZA BEZBJEDNOST! Merc najavljuje NAJJAČU vojsku Evrope

Njemačka planira da osnuje Savjet za nacionalnu bezbjednost ovog mjeseca kako bi se bavila unutrašnjim i spoljašnjim prijetnjama, objavila je novinska agencija DPA.
Njemačko Ministarstvo odbrane ranije je izvijestilo o najoštrijem rastu vojnog regrutovanja u posljednjih nekoliko godina, navodeći da je cilj suprotstavljanje onome što Berlin opisuje kao “prijetnju” od Rusije.
Njemački kancelar Fridrih Merc takođe je pozvao na razvoj Bundesvera u “najjaču konvencionalnu vojsku u Evropi” i povećanje vojne potrošnje na 3,5 odsto BDP-a do 2029. godine.
Berlin je razmatrao i ponovno uvođenje regrutacije kako bi se pozabavio onim što naziva promjenljivom bezbjednosnom situacijom u Evropi.
Očekuje se da će novi savjet bezbjednosti koordinisati rad različitih odjeljenja i fokusirati se na analizu informacija o domaćoj, spoljnoj, ekonomskoj i digitalnoj bezbjednosti. Sastajaće se u kriznim situacijama, identifikovati srednjoročne i dugoročne prijetnje i razvijati strategije za reagovanje na njih, navodi DPA.
Ovom tijelu će predsjedavati Merc, a uključivaće nadležne ministre, pripadnike njemačkih bezbjednosnih agencija, naučne stručnjake i predstavnike drugih zemalja, EU i NATO.
Zvanična odluka treba da bude objavljena tokom prvog sastanka vlade nakon parlamentarne pauze 27. avgusta u Ministarstvu odbrane, prenosi Srna.
Svijet
PUTIN I TRAMP: Da li će razgovarati i o SRPSKOJ?

Predsjednik Republike Srpske Milorad Dodik sugerisao je danas da bi stanje u Srpskoj moglo biti predmet narednog susreta američkog predsjednika Donalda Trampa i ruskog predsjednika Vladimira Putina.
Iz njegova obraćanja jasno je proizašlo da vjeruje kako su Srpska i politička situacija u njoj prisutni u Vašingtonu, Moskvi i Pekingu.
– Republika Srpska nikada više neće imati priliku da bude predmet, čak i perifernog pominjanja na tako globalnim forumima, kakav je ovaj koji će se održati sada između Putina i Trampa – izjavio je Dodik.
On je kazao da je njegov posao i da ode u Crnu Goru i da se sastane s “nekim važnim Amerikancima” ili Željke Cvijanović da “kada treba sahraniti svekra ode u Španiju i obavi razgovor od nekoliko sati s važnim ljudima.”
– Poslije ove emisije moram da odletim na jednu destinaciju da se nađem opet s važnim ljudima i da s njima razgovaram o tome. Republika Srpska je značajno angažovala pristup novoj administraciji (američkoj, op.a.). I to ide polako. Ono što oni kažu, BiH je negdje, ne postoji, niko ne zna ni gdje je, ni šta je. Za Republiku Srpsku sada znaju više nego za BiH. I to je dobro – kaže Dodik.
-
Politika3 dana ago
NAKON PRIJEDLOGA NASTAO MUK! Stanivuković stavio SNSD na test iskrenosti
-
Politika3 dana ago
AMERIKA U ŠOKU! FLIN STAO U ODBRANU DODIKA! Globalisti Udaraju, ali ON im je SPREMIO ODGOVOR!
-
Politika3 dana ago
“SPAŠAVANJE DODIKA NESLAVNO ZAVRŠILO” Lagumdžija otkrio detalje konsultacija u Savjetu bezbjednosti UN-a
-
Politika3 dana ago
Drinić “PDP pokazao da je ispred SVOG vremena”
-
Hronika3 dana ago
KAKAV HOROR! Sa nožem u ruci jurio sugrađanina u Banjaluci
-
Politika2 dana ago
NOVAKOVIĆ JASAN “SNSD je stvorio haos, PDP neće u njihovu vladu!”
-
Politika3 dana ago
Pravobranilaštvo traži odgodu POTPISA – “kumova zgrada” ČEKA sudsku odluku
-
Svijet2 dana ago
Vens ODBACUJE opciju priznanja Palestine – Amerika OSTAJE uz Izrael