Svijet
ČetGPT HALUCINIRA, LAŽE I IZMIŠLJA? O čemu se radi?
Najnoviji modeli vještačke inteligencije OpenAI kompanije sve više izmišljaju netačne informacije, a stručnjaci nemaju objašnjenje za ovaj zabrinjavajući trend. Najprije, o čemu se radi?
Prema izvještaju Njujork Tajmsa, istraživanje OpenAI-a otkrilo je da njihovi najnoviji ČetGPT modeli (o3 i o4-mini) znatno češće haluciniraju, odnosno izmišljaju lažne informacije, nego prethodni GPT o1 model.
Brojna testiranja pokazala su zabrinjavajući trend. O3, koji je najmoćniji sistem kompanije, halucinirao je u čak 33 odsto slučajeva tokom PersonQA testa koji postavlja pitanja o javnim ličnostima. To je više nego dvostruko veća stopa halucinacije od prethodnog OpenAI sistema za zaključivanje, o1. Novi o4-mini model pokazao se još lošijim sa stopom halucinacije od 48 odsto.
Još alarmantniji su rezultati drugog testa. Prilikom SimpleQA testa, koji postavlja opštija pitanja, stope halucinacije za o3 i o4-mini bile su čak 51 odsto odnosno 79 odsto. Prethodni sistem, o1, halucinirao je u 44 odsto slučajeva.
“Razmišljajući” modeli prave više grešaka nego ikad
Ono što dodatno zbunjuje stručnjake je činjenica da su upravo najnapredniji AI modeli ti koji imaju sve veći problem sa halucinacijama. Najnovije i najmoćnije tehnologije — takozvani sistemi za zaključivanje kompanija poput OpenAI, Gugl i kineskog startapa DipSik— generišu više grešaka umjesto manje.
Da bismo razumjeli o čemu se radi, važno je objasniti šta su to “reasoning” ili modeli za zaključivanje. Jednostavno rečeno, ovi modeli su vrsta jezičkih modela (LLM) dizajnirani za obavljanje složenih zadataka. Umjesto da samo izbacuju tekst na osnovu statističkih modela vjerovatnoće, modeli za zaključivanje razbijaju pitanja ili zadatke na pojedinačne korake slično ljudskom procesu razmišljanja.
OpenAI prvi model za zaključivanje, o1, pojavio se prošle godine i tvrdilo se da dostiže performanse doktorskih studenata fizike, hemije i biologije, a nadmašuje ih u matematici i kodiranju zahvaljujući tehnikama reinforcement learning-a.
U sistemu za testiranje, OpenAI je objavio tabelu koja pokazuje da ČetGPT o3 jeste tačniji od o1, ali će halucinirati dvostruko češće. Što se tiče o4-mini, ovaj manji model će proizvoditi manje tačne odgovore od o1 i o3, i halucinirati tri puta više od o1.
Antropomorfizacija AI modela i kako to utiče na korisno iskustvo
Iako kompanija i dalje istražuje uzroke, postoje neke teorije. Istraživačka grupa Transluce otkrila je da o3 model izmišlja radnje koje navodno preduzima dok pokušava da riješi zadatke. U jednom primjeru, o3 je tvrdio da koristi MacBook Pro iz 2021. godine “izvan ČetGPT” za izračunavanje, a zatim kopira brojeve u svoj odgovor, što je potpuno izmišljeno.
Jedna hipoteza koju je predložio Nil Čaudri, istraživač iz Transluce-a i bivši zaposleni u OpenAI-u, glasi: “Naša hipoteza je da vrsta reinforcement learninga koja se koristi za o-seriju modela može pojačati probleme koji se obično ublažavaju (ali ne i potpuno brišu) standardnim post-trening procesima.”
Ipak, OpenAI negira da je problem sistemski.
– Halucinacije nisu inherentno rasprostranjenije u modelima za zaključivanje, iako aktivno radimo na smanjenju viših stopa halucinacije koje smo vidjeli u o3 i o4-mini – izjavila je Gabi Rajla iz OpenAI-a za Tajms.
Kako problem halucinacija utiče na korisnost AI alata
Neodgovorno bi bilo ignorisati zabrinjavajući trend povećanja halucinacija u najnovijim AI modelima, što značajno umanjuje njihovu praktičnu vrijednost. Šta god bila istina, jedno je sigurno. AI modeli moraju uglavnom da izbace besmislice i laži ako žele da budu bilo gdje blizu korisni kao što njihovi zagovornici trenutno zamišljaju. Trenutno je teško vjerovati izlazu bilo kog LLM. Praktično sve mora pažljivo da se dvostruko provjeri.
To je u redu za neke zadatke. Ali tamo gdje je glavna korist ušteda vremena ili rada, potreba za pažljivim provjeravanjem i činjeničnom provjerom AI rezultata zapravo poništava svrhu njihovog korišćenja.
Ne zna se da li će OpenAI i ostatak LLM industrije uspjeti da riješe sve te neželjene “robotske snove”, ali jedno je sigurno – put ka pouzdanoj vještačkoj inteligenciji koja ne izmišlja činjenice očigledno je duži nego što smo očekivali.
Svijet
TRAMP: Tarife donose bogatstvo, SAD bez inflacije i sa REKORDNOM BEZBJEDNOŠĆU
Predsjednik SAD Donald Tramp ponovio je da tarife koje je uveo raznim zemljama i sektorima generišu veliko bogatstvo i do sada neviđenu nacionalnu bezbjednost.
“Trgovinski deficit je smanjen za 60 odsto, što je bez presedana 4,3 odsto BDP. Nema inflacije! Ponovo smo poštovani kao zemlja”, napisao je Tramp na mreži “Trut sošl”.
On je u ranijoj objavi naveo da je stopa kriminala u SAD na najnižoj tački ikada dosad, što je pripisao “najuspješnijoj operaciji na južnoj granici u istoriji”.
Svijet
MOSKVA IMA PORUKU ZA EVROPU “Krenete li na nas, odmah ponesite BIJELU ZASTAVU”
Vojnici država-članica EU nemaju šta da traže na teritoriji Ukrajine, ali ako ipak krenu tamo onda odmah sa sobom mogu da ponesu bijelu zastavu, rekao je predsednik Koordinacionog savjeta za integraciju novih regiona pri Javnoj komori Rusije Vladimir Rogov.
-Vojnici EU nemaju šta da traže u Ukrajini pošto su svi praktično u NATO-u. Predlažem im da odmah ponesu bijelu zastavu. Moći će odmah da ga podignu i tako se spasu i odu sa istorijski ruskih teritorija koje su trenutno pod vlašću izdajnika i nacista- naveo je on.
Političke elite zapadnoevropskih država koje su agresivno nastrojene prema Rusiji napokon treba da nauče istorijsku lekciju – da je bilo kakva agresija prema Rusiji smrtonosno opasna i da će se uz velike posljedice vratiti onima koji su je osmislili i odlučili se na nju.
Lider Evropske narodne partije i šef poslaničke grupe u Evropskom parlamentu, Manfred Veber, predložio je slanje njemačkih trupa u Ukrajinu pod zastavom Evropske unije, prenose njemački mediji.
Svijet
“O OVE DVIJE STVARI NE PREGOVARAMO”: Zelenski pred sastanak sa Trampom otkrio koje su crvene linije za Kijev
Predsjednik Ukrajine Volodimir Zelenski izjavio je, uoči sastanka sa američkim predsjednikom Donaldom Trampom u nedjelju da su jasne crvene linije koje je postavio – Ukrajina neće da ustupi teritoriju niti nuklearnu elektranu Zaporožje i istovremeno pozvao na snažne bezbjednosne garancije.
elenski, koji je na putu ka Kanadi, koju će posjetiti prije SAD, rekao je na onlajn konferenciji, da će sa kanadskim premijerom Markom Karnijem razgovarati o svim pitanjima, podijeliti detalje o dokumentima koje će pregledati sa Trampom i pokrenuti sva osjetljiva pitanja, prenosi “Kijev post”.
Komentarišući planirani sastanak na Floridi, Zelenski je pojasnio da će se vjerovatno održati u prisustvu medija, odnosno da će biti javan, ne pojašnjavajući da li će pristup medijima biti omogućen na početku ili na kraju sastanka.
Dodao je da će razgovori na nivou lidera poslužiti kao potvrda napretka u pregovorima između ukrajinske i američke strane.
Istovremeno, naglasio je važnost aktuelnih kontakata između ukrajinskog i američkog pregovaračkog tima, posebno s obzirom na to da su američki predstavnici vodili razgovore s Rusijom, uključujući i one u Moskvi.
Ukrajina, rekao je, bila je zainteresovana da osigura da američki zvaničnici steknu dublje razumijevanje stava Kijeva.
– Naši sastanci su pomogli našim partnerima da razumiju mnoge detalje – posebno bezbjednosne garancije, njihov pravni okvir i rizike sporazuma sa Rusijom koji možda više neće da funkcioniše. To se odnosi i na rad nuklearne elektrane Zaporožje i druga teritorijalno osjetljiva pitanja – rekao je Zelenski.
Na pitanje o ukrajinskim “crvenim linijama” u pregovorima i potencijalnim kompromisima, Zelenski je naglasio da o određenim pitanjima ne može da se pregovara.
– Danas definitivno postoje crvene linije za ukrajinski narod… To uključuje naše teritorije i nuklearnu elektranu Zaporožje. Pravno gledano, nećemo ništa priznati ni pod kojim uslovima – rekao je on i dodao da će se vlada konsultovati sa ukrajinskim narodom pre donošenja bilo kakvih važnih odluka.
Zelenski je naglasio i važnost kontinuirane evropske podrške Ukrajini.
– Nemamo dovoljno dodatnih sistema protivvazdušne odbrane, i to je svima jasno. Dobili su sve detalje od nas. Potrebne su nam sistematske isporuke sistema i raketa – više raketa – jer Rusija napada sve većim brojem dronova i raketa – rekao je on.
Naglasio je i da za održavanje izbora i referenduma prvo moraju da budu osigurani bezbjednosni uslovi.
Rekao je da je od jutros ukrajinska Služba za spoljne poslove saopštila da je Rusija već zadužila svoje agencije da osiguraju da Ukrajinci koji žive u Rusiji, kao i oni na teritorijama koje je okupirala Moskva, mogu da glasaju.
Bijela kuća potvrdila Trampov sastanak sa Zelenskim sutra na Floridi
Predsednik SAD Donald Tramp sastaće se sa ukrajinskim predsjednikom Volodimirom Zelenskim na Floridi u nedjelju, saopštila je Bijela kuća.
Prema rasporedu američkog predsednika, bilateralni razgovori će se održati u 15.00 časova po lokalnom vremenu u Palm Biču na Floridi.
Bijela kuća nije izdala posebno saopštenje s tim u vezi, ali je u rasporedu za vikend koji je poslala medijima precizirala satnicu za sastanak između Trampa i Zelenskog za nedelju u 15 časova, prenosi “Njujork tajms”.
Više detalja nije saopšteno.
Zelenski je ovaj sastanak najavio na društvenim mrežama u petak.
On je rekao da će tom prilikom doneti novi plan od 20 tačaka za okončanje rata, koji uključuje prijedlog za demilitarizovanu zonu, a glavni fokus sastanka biće bezbednosne garancije za Ukrajinu.
-
Politika2 dana ago31 KILOMETAR, 180 MILIONA EVRA! Kineski kredit za autoput kroz Srpsku
-
Hronika2 dana agoMONSTRUMI! Četvorica muškaraca se iživljavala nad mačkom, SVO VRIJEME SU SE SMIJALI
-
Politika2 dana agoPOKRET SIGURNA SRPSKA ŠIRI MREŽU! Goran Kuzmanović na čelu PSS-a u Tesliću
-
Politika2 dana agoNIKOLINA ŠLJIVIĆ OBJAVILA DIPLOMU I PORUČILA: “Oglašavam se posljednji put”
-
Politika3 dana agoSKANDAL NA UNIVERZITETU U BANJALUCI! Kresojević pozvao ministra Karana da zaustavi nezakonito imenovanje rektora
-
Svijet3 dana agoZELENSKI ČESTITAO BOŽIĆ, pa poželio da Putin umre (VIDEO)
-
Svijet3 dana agoRUSKI BLOGERI DIGLI UZBUNU: “Preokret u Kupjansku, generali lažu Putina”
-
Društvo3 dana agoOTKLANJAMO NEDOUMICE: Zabrana pušenja u RS stupa na snagu u avgustu, lokali da se prilagode do februara 2027.
