Connect with us

Svijet

ČetGPT HALUCINIRA, LAŽE I IZMIŠLJA? O čemu se radi?

Najnoviji modeli vještačke inteligencije OpenAI kompanije sve više izmišljaju netačne informacije, a stručnjaci nemaju objašnjenje za ovaj zabrinjavajući trend. Najprije, o čemu se radi?

Prema izvještaju Njujork Tajmsa, istraživanje OpenAI-a otkrilo je da njihovi najnoviji ČetGPT modeli (o3 i o4-mini) znatno češće haluciniraju, odnosno izmišljaju lažne informacije, nego prethodni GPT o1 model.

Brojna testiranja pokazala su zabrinjavajući trend. O3, koji je najmoćniji sistem kompanije, halucinirao je u čak 33 odsto slučajeva tokom PersonQA testa koji postavlja pitanja o javnim ličnostima. To je više nego dvostruko veća stopa halucinacije od prethodnog OpenAI sistema za zaključivanje, o1. Novi o4-mini model pokazao se još lošijim sa stopom halucinacije od 48 odsto.

Još alarmantniji su rezultati drugog testa. Prilikom SimpleQA testa, koji postavlja opštija pitanja, stope halucinacije za o3 i o4-mini bile su čak 51 odsto odnosno 79 odsto. Prethodni sistem, o1, halucinirao je u 44 odsto slučajeva.

“Razmišljajući” modeli prave više grešaka nego ikad
Ono što dodatno zbunjuje stručnjake je činjenica da su upravo najnapredniji AI modeli ti koji imaju sve veći problem sa halucinacijama. Najnovije i najmoćnije tehnologije — takozvani sistemi za zaključivanje kompanija poput OpenAI, Gugl i kineskog startapa DipSik— generišu više grešaka umjesto manje.

Da bismo razumjeli o čemu se radi, važno je objasniti šta su to “reasoning” ili modeli za zaključivanje. Jednostavno rečeno, ovi modeli su vrsta jezičkih modela (LLM) dizajnirani za obavljanje složenih zadataka. Umjesto da samo izbacuju tekst na osnovu statističkih modela vjerovatnoće, modeli za zaključivanje razbijaju pitanja ili zadatke na pojedinačne korake slično ljudskom procesu razmišljanja.
OpenAI prvi model za zaključivanje, o1, pojavio se prošle godine i tvrdilo se da dostiže performanse doktorskih studenata fizike, hemije i biologije, a nadmašuje ih u matematici i kodiranju zahvaljujući tehnikama reinforcement learning-a.

U sistemu za testiranje, OpenAI je objavio tabelu koja pokazuje da ČetGPT o3 jeste tačniji od o1, ali će halucinirati dvostruko češće. Što se tiče o4-mini, ovaj manji model će proizvoditi manje tačne odgovore od o1 i o3, i halucinirati tri puta više od o1.

Antropomorfizacija AI modela i kako to utiče na korisno iskustvo
Iako kompanija i dalje istražuje uzroke, postoje neke teorije. Istraživačka grupa Transluce otkrila je da o3 model izmišlja radnje koje navodno preduzima dok pokušava da riješi zadatke. U jednom primjeru, o3 je tvrdio da koristi MacBook Pro iz 2021. godine “izvan ČetGPT” za izračunavanje, a zatim kopira brojeve u svoj odgovor, što je potpuno izmišljeno.
Jedna hipoteza koju je predložio Nil Čaudri, istraživač iz Transluce-a i bivši zaposleni u OpenAI-u, glasi: “Naša hipoteza je da vrsta reinforcement learninga koja se koristi za o-seriju modela može pojačati probleme koji se obično ublažavaju (ali ne i potpuno brišu) standardnim post-trening procesima.”

Ipak, OpenAI negira da je problem sistemski.

– Halucinacije nisu inherentno rasprostranjenije u modelima za zaključivanje, iako aktivno radimo na smanjenju viših stopa halucinacije koje smo vidjeli u o3 i o4-mini – izjavila je Gabi Rajla iz OpenAI-a za Tajms.

Kako problem halucinacija utiče na korisnost AI alata
Neodgovorno bi bilo ignorisati zabrinjavajući trend povećanja halucinacija u najnovijim AI modelima, što značajno umanjuje njihovu praktičnu vrijednost. Šta god bila istina, jedno je sigurno. AI modeli moraju uglavnom da izbace besmislice i laži ako žele da budu bilo gdje blizu korisni kao što njihovi zagovornici trenutno zamišljaju. Trenutno je teško vjerovati izlazu bilo kog LLM. Praktično sve mora pažljivo da se dvostruko provjeri.
To je u redu za neke zadatke. Ali tamo gdje je glavna korist ušteda vremena ili rada, potreba za pažljivim provjeravanjem i činjeničnom provjerom AI rezultata zapravo poništava svrhu njihovog korišćenja.

Ne zna se da li će OpenAI i ostatak LLM industrije uspjeti da riješe sve te neželjene “robotske snove”, ali jedno je sigurno – put ka pouzdanoj vještačkoj inteligenciji koja ne izmišlja činjenice očigledno je duži nego što smo očekivali.

Svijet

POLITIČKE PUKOTINE ZBOG ISTRAGE: Novi detalji o sabotaži Sjevernog toka (VIDEO)

Vrhunski tim njemačkih detektiva tri se godine svakog jutra sastajao u Potsdamu, pokušavajući otkriti ko stoji iza najvećeg čina sabotaže u modernoj istoriji – bombaškog napada na gasovod Sjeverni tok. Njihova istraga sada je došla do zaključka koji prijeti narušavanjem jedinstva u podršci Ukrajini, jer svi tragovi vode upravo prema Kijevu, piše “The Wall Street Journal”.

Političke pukotine zbog istrage
Posljedice istrage već su vidljive. Poljska je odbila Njemačkoj izručiti jednog osumnjičenog, smatrajući ga herojem jer je uništio ključan izvor prihoda za ratnu mašineriju Vladimira Putina. Poljski premijer Donald Tusk, dugogodišnji kritičar njemačke ovisnosti o ruskom gasu, ismijao je istragu. “Problem nije u tome što je gasovod dignut u vazduh”, rekao je. “Problem je u tome što je izgrađen.”

U samoj Njemačkoj, opoziciona stranka AfD koristi bijes javnosti zbog visokih cijena energenata kako bi lobirala za smanjenje pomoći Kijevu. Dodatni pritisak na Kijev očekuje se i iz Italije, gdje bi sud uskoro trebao odlučiti o izručenju još jednog ukrajinskog osumnjičenog.

Jedinica pod direktnom komandom bivšeg šefa ukrajinske vojske
Gasovodi Sjeverni tok, od kojih se najduži protezao više od 1200 kilometara ispod Baltičkog mora, dopremali su ruski prirodni gas u Njemačku i ostatak Evrope. Nakon ruske specijalne vojne operacije na tlu Ukrajine u februaru 2022., postali su centar političkih sukoba. Dok su neke zemlje tražile da se cijevi zatvore kako bi se Rusiji uskratio prihod, druge su, predvođene Njemačkom, oklijevale zbog ovisnosti o jeftinom gorivu.

Napadi u septembru 2022. prekinuli su tu raspravu. Dok su se u Baltičko more ispuštale goleme količine metana, u najvećem pojedinačnom ispuštanju staklenih gasova uzrokovanom ljudskim djelovanjem, Zapad i Rusija međusobno su se optuživali za sabotažu.

Međutim, njemački istražitelji, tužitelji i drugi izvori upoznati sa slučajem razvili su, kako tvrde, jasnu sliku događaja. Prema njima, napade je izvela elitna ukrajinska vojna jedinica pod direktnom komandom tadašnjeg vrhovnog komandanta ukrajinske vojske, generala Valerija Zalužnog, koji je danas ambasador u Ujedinjenom Kraljevstvu.

Mukotrpna potraga za akterima
Složen mozaik dokaza počeo se sastavljati ubrzo nakon eksplozija. Prateći tragove kompanija za iznajmljivanje brodova, telefonskih poziva i registarskih oznaka, istražitelji su prikupili dovoljno materijala za izdavanje naloga za hapšenje tri vojnika iz specijalne ukrajinske jedinice i četiri iskusna ronioca.

Ključni dokaz stigao je u obliku zrnaste crno-bijele fotografije s njemačke kamere za nadzor brzine. Na njoj se vidjelo lice ukrajinskog ronioca, kojeg je policija identifikovala pomoću softvera za prepoznavanje lica. U samo nekoliko minuta pronašli su njegove profile na društvenim mrežama i veze s ostalim osumnjičenicima. Ali, istraga nije tekla glatko.

Ukrajinski ronilac kojeg su pratili do Poljske iznenada je prebačen u Ukrajinu u crnom BMW-u s diplomatskim tablicama, a vozilom je upravljao ukrajinski vojni ataše. Kijev je odbio komentarisati incident, dok je neslužbeno visoki zvaničnik rekao da su djelovali na dojavu poljske vlade.

Hapšenje zapovjednika jedinice u Italiji
Potraga za zapovjednikom jedinice bila je još teža. Istražitelji su u početku imali samo fotografiju iz pasoša izdanog na lažno ime. Prekretnica se dogodila kada se jedan od detektiva zapitao: “Gdje Ukrajinci idu na odmor?” Poslali su upite zemljama izvan EU i ubrzo ostvarili pogodak. Granična policija jedne prijateljske države pronašla je čovjeka koji je odgovarao opisu i putovao poslovno.

Tako su detektivi dobili njegovo pravo ime – Serhij K., 46-godišnji veteran ukrajinske sigurnosne službe SBU. Za njegovim pasošem raspisana je “tiha potjernica”. Alarm se oglasio 13. avgusta, kada je Serhij prešao iz Ukrajine u Poljsku. Istražitelji su ga pratili preko Češke do Italije koristeći podatke s naplatnih kućica i rezervacije hotela koje je napravila njegova supruga.

Italijanski karabinjeri uhapsili su ga u odmaralištu u gradu San Klement. Na putu prema sudu, Serhij je novinarima pokazao tri prsta – ukrajinski pozdrav koji simbolizuje nacionalni grb, trozubac. Njegov advokat tvrdi da je nevin, ali i da je onaj ko je digao gasovod u vazduh djelovao u sklopu vojne operacije i stoga ima imunitet od kaznenog progona.

Odluka koja bi mogla narušiti savezništvo
Očekuje se da će italijanski sud do decembra odlučiti o izručenju Serhija Njemačkoj. U međuvremenu, osumnjičeni je započeo štrajk glađu jer mu zatvor, kako tvrdi njegov advokat, ne osigurava vegansku i bezglutensku ishranu. Njegovo izručenje za Berlin predstavlja mač s dvije oštrice.

Eventualno suđenje dodatno bi zateglo odnose između Ukrajine i Njemačke, njenog najvećeg finansijskog prijatelja. Politički pritisak raste i na njemačkog kancelara Fridriha Merca, iako njegovi saradnici tvrde da će se znati nositi s posljedicama.

Smatraju da se njemačka javnost, dijelom i zbog medijskih izvještaja, već navikla na ideju da Kijev stoji iza napada. Ipak, visoki zvaničnici sugerišu da bi diplomatske posljedice bile lakše da njemački detektivi nisu bili toliko učinkoviti u svom poslu, navodi “Index”.

Nastavi čitati

Svijet

“SOCIJALIZAM NE FUNKCIONIŠE!” Investitori najavljuju selidbe iz Njujorka ZBOG MAMDANIJEVE STAMBENE POLITIKE

Američki milijarder i investitor Beri Sternlikt izrazio je nezadovoljstvo zbog pobjede Zohrana Mamdanija na izborima za gradonačelnika u Njujorku i najavio da bi mogao čak i da napusti grad.

Naime, ovom investitoru, kao i mnogim njegovim kolegama, zasmetala je činjenica da Mamdani u svom izbornom programu planira izgradnju velikog broja stanova koji bi bili u vlasništvu grada i dostupni široj radničkoj klasi, prenio je Indeks.hr

– Svaki projekat u Njujorku, vrijedan više 100 miliona dolara, mora da prođe kroz sindikat, a to je veoma skupo. To dovodi do izuzetno skupih stanova. Drugi investitori su pokušali da postignu dogovore sa sindikatima, ali oni vladaju Njujorkom, i to je jedan od ključnih razloga zašto su plave države tako skupe i zašto je tako teško povećati ponudu stambenog prostora u njima – rekao je Sternlikt, čija kompanija posjeduje i komercijalne i stambene nekretnine i zajednička ulaganja u gradu.

Sternlikt je takođe pomenuo Mamdanijevu centralnu stambenu politiku – zamrzavanje kirija u nekretninama sa stabilizovanom zakupninom u Njujorku.

– Onda krajnja ljevica potpuno poludi i kaže da stanari ne moraju da plaćaju. Pa, ne možete ih izbaciti ako ne plaćaju. Dakle, komšija sazna da komšija ne plaća i prestane da plaća i on. Onda se to proširi, i u suštini ćete pretvoriti Njujork Siti u Mumbai – rekao je on.

Sternlikt je takođe pomenuo pitanje javne bezbjednosti u Njujorku, ključno pitanje kampanje u kojoj se Mamdani suočio s kritikama zbog svojih ranijih poziva na ukidanje finansiranja policije.

– To je najvažnija stvar. Ako ljudi osjećaju da im djeca nisu bezbjedna na ulicama, ispisivaće ih iz škola i odlaziti. A ako ukine finansiranje policije ili im ne pruži čast i prestiž koji zaslužuju, mislim da grad čeka zaista teško vrijeme – upozorio je Sternlikt.

Sternlikt je rekao da njegova kompanija već razmatra napuštanje kancelarije na Menhetnu, nakon što je kritikovao Mamdanijev “socijalistički etos” i, kako je rekao, rastući bijes prema uspjehu u Njujorku.

– Možda će ljudi nešto naučiti iz istorije. Možda milion ljudi koji su glasali za njega neće shvatiti da socijalizam nikada nije funkcionisao nigdje na planeti Zemlji – nikada – poručio je milijarder.

Nastavi čitati

Svijet

“EVROPLJANI GRIJEŠE!” Kremlj otkrio kada bi želio da se rat završi!

Politički vrh u Moskvi bi želio da se sukob u Ukrajini završi što je prije moguće, izjavio je portparol Kremlja Dmitrij Peskov novinarima.

“Naravno, željeli bismo da se ovaj konflikt što prije završi, a završiti se može onda kada Rusija ostvari ciljeve koje je postavila od početka”, istakao je on.

Potom je dodao:

“Za nas bi bilo poželjno da se konflikt reguliše političko-diplomatskim sredstvima. O tome smo više puta govorili i ruska strana i dalje ostaje otvorena za taj put.”

Dodao je da je Rusija otvorena za političko i diplomatsko rješenje i da je situacija u ćorsokaku, ne njenom krivicom.

“Evropljani ih podstiču na sve moguće načine, vjerujući da Ukrajina može da dobije rat i osigura svoje interese vojnim sredstvima. To je najdublja zabluda kojoj kijevski režim može da podlegne i podliježe”, istakao je Peskov.

Prema njegovim riječima, i samo ubjeđenje da Ukrajina može pobijediti na bojnom polju predstavlja duboku zabludu, prenosi “b92”.

Nastavi čitati

Aktuelno