Connect with us

Svijet

ČetGPT HALUCINIRA, LAŽE I IZMIŠLJA? O čemu se radi?

Najnoviji modeli vještačke inteligencije OpenAI kompanije sve više izmišljaju netačne informacije, a stručnjaci nemaju objašnjenje za ovaj zabrinjavajući trend. Najprije, o čemu se radi?

Prema izvještaju Njujork Tajmsa, istraživanje OpenAI-a otkrilo je da njihovi najnoviji ČetGPT modeli (o3 i o4-mini) znatno češće haluciniraju, odnosno izmišljaju lažne informacije, nego prethodni GPT o1 model.

Brojna testiranja pokazala su zabrinjavajući trend. O3, koji je najmoćniji sistem kompanije, halucinirao je u čak 33 odsto slučajeva tokom PersonQA testa koji postavlja pitanja o javnim ličnostima. To je više nego dvostruko veća stopa halucinacije od prethodnog OpenAI sistema za zaključivanje, o1. Novi o4-mini model pokazao se još lošijim sa stopom halucinacije od 48 odsto.

Još alarmantniji su rezultati drugog testa. Prilikom SimpleQA testa, koji postavlja opštija pitanja, stope halucinacije za o3 i o4-mini bile su čak 51 odsto odnosno 79 odsto. Prethodni sistem, o1, halucinirao je u 44 odsto slučajeva.

“Razmišljajući” modeli prave više grešaka nego ikad
Ono što dodatno zbunjuje stručnjake je činjenica da su upravo najnapredniji AI modeli ti koji imaju sve veći problem sa halucinacijama. Najnovije i najmoćnije tehnologije — takozvani sistemi za zaključivanje kompanija poput OpenAI, Gugl i kineskog startapa DipSik— generišu više grešaka umjesto manje.

Da bismo razumjeli o čemu se radi, važno je objasniti šta su to “reasoning” ili modeli za zaključivanje. Jednostavno rečeno, ovi modeli su vrsta jezičkih modela (LLM) dizajnirani za obavljanje složenih zadataka. Umjesto da samo izbacuju tekst na osnovu statističkih modela vjerovatnoće, modeli za zaključivanje razbijaju pitanja ili zadatke na pojedinačne korake slično ljudskom procesu razmišljanja.
OpenAI prvi model za zaključivanje, o1, pojavio se prošle godine i tvrdilo se da dostiže performanse doktorskih studenata fizike, hemije i biologije, a nadmašuje ih u matematici i kodiranju zahvaljujući tehnikama reinforcement learning-a.

U sistemu za testiranje, OpenAI je objavio tabelu koja pokazuje da ČetGPT o3 jeste tačniji od o1, ali će halucinirati dvostruko češće. Što se tiče o4-mini, ovaj manji model će proizvoditi manje tačne odgovore od o1 i o3, i halucinirati tri puta više od o1.

Antropomorfizacija AI modela i kako to utiče na korisno iskustvo
Iako kompanija i dalje istražuje uzroke, postoje neke teorije. Istraživačka grupa Transluce otkrila je da o3 model izmišlja radnje koje navodno preduzima dok pokušava da riješi zadatke. U jednom primjeru, o3 je tvrdio da koristi MacBook Pro iz 2021. godine “izvan ČetGPT” za izračunavanje, a zatim kopira brojeve u svoj odgovor, što je potpuno izmišljeno.
Jedna hipoteza koju je predložio Nil Čaudri, istraživač iz Transluce-a i bivši zaposleni u OpenAI-u, glasi: “Naša hipoteza je da vrsta reinforcement learninga koja se koristi za o-seriju modela može pojačati probleme koji se obično ublažavaju (ali ne i potpuno brišu) standardnim post-trening procesima.”

Ipak, OpenAI negira da je problem sistemski.

– Halucinacije nisu inherentno rasprostranjenije u modelima za zaključivanje, iako aktivno radimo na smanjenju viših stopa halucinacije koje smo vidjeli u o3 i o4-mini – izjavila je Gabi Rajla iz OpenAI-a za Tajms.

Kako problem halucinacija utiče na korisnost AI alata
Neodgovorno bi bilo ignorisati zabrinjavajući trend povećanja halucinacija u najnovijim AI modelima, što značajno umanjuje njihovu praktičnu vrijednost. Šta god bila istina, jedno je sigurno. AI modeli moraju uglavnom da izbace besmislice i laži ako žele da budu bilo gdje blizu korisni kao što njihovi zagovornici trenutno zamišljaju. Trenutno je teško vjerovati izlazu bilo kog LLM. Praktično sve mora pažljivo da se dvostruko provjeri.
To je u redu za neke zadatke. Ali tamo gdje je glavna korist ušteda vremena ili rada, potreba za pažljivim provjeravanjem i činjeničnom provjerom AI rezultata zapravo poništava svrhu njihovog korišćenja.

Ne zna se da li će OpenAI i ostatak LLM industrije uspjeti da riješe sve te neželjene “robotske snove”, ali jedno je sigurno – put ka pouzdanoj vještačkoj inteligenciji koja ne izmišlja činjenice očigledno je duži nego što smo očekivali.

Related Topics:

Svijet

“GLASANJE U AMERICI JE KORUMPIRANO”: Tramp uporedio izbore u SAD i Brazilu i uputio teške optužbe

Predsjednik SAD, Donald Tramp, izjavio je danas da je glasanje u SAD korumpirano, naročito kada se brzina utvrđivanja rezultata uporedi sa Brazilom

125 miliona ljudi glasalo je u prvom krugu predsjedničkih izbora u Brazilu. Rezultati su objavljeni ubrzo nakon zatvaranja birališta; istog dana! U Detroitu, Filadelfiji, Kaliforniji i brojnim drugim američkim gradovima i saveznim državama, za utvrđivanje rezultata, uz znatno manji broj glasova, često su potrebne nedjelje kako bi se oni “namjestili”, to jest izračunali. Glasanje u Americi je korumpirano, napisao je Tramp u objavi na društvenoj mreži Truth social.

Desničarski kandidat na predsjedničkim izborima u Brazilu Flavio Bolsonaro i dosadašnji predsjednik iz redova ljevice Luis Inasio Lula da Silva plasirali su se u drugi krug predsjedničkih izbora u Brazilu koji će biti održan 25. oktobra.

Potvrdu da će biti drugog kruga objavio je Viši izborni sud (TSE), kada je 96,78 odsto biračkih kutija već bilo obrađeno, a u tom trenutku je Bolsonaro imao 47,39 odsto glasova, dok je Lula osvojio 44,74 odsto.

Nastavi čitati

Svijet

MASOVNA PUCNJAVA U SAD: Dvoje mrtvih, 35 povrijeđenih na uličnoj zabavi, ispaljeno najmanje 50 metaka

Dvije osobe su poginule, a 35 je povređeno nakon što je izbila pucnjava na uličnoj žurci u američkoj saveznoj državi Džordžiji, saopštile su danas lokalne vlasti.

Dvadeset petoro povrijeđenih je prebačeno u bolnicu, prenio je CBS Njuz.

Pucnjava se dogodila u ranim jutarnjim časovima u gradu Vajena, a zamenici šerifa čuli su pucnje oko 1.25 ujutro po lokalnom vremenu dok su patrolirali oblašću.

Istražni biro Džordžije saopštio je da su policajci po dolasku na mjesto pucnjave zatekli više upucanih osoba.

Dvije osobe koje su zadobile smrtonosne povrede pronađene su nekoliko blokova dalje od lokacije za koju istražitelji navode da je bila mesto odakle je pucnjava počela.

Šerif okruga Duli Kreg Pivi izjavio je da se više od 1.000 ljudi okupilo duž ulice Pajn povodom proslave godišnjice okupljanja bivših učenika i mještana, a da je ispaljeno najmanje 50 metaka na dvije različite lokacije.

Vlasti nisu objavile informacije o mogućem osumnjičenom ili potencijalnom motivu pucnjave, niti su javno identifikovale poginule i povređene osobe.

Okrug Duli obuhvata i grad Vajenu, koji se nalazi oko 80 kilometara južno od Mejkona.

Nastavi čitati

Svijet

IRAN ZAPRIJETIO SAVEZNICIMA SAD: Sljedeći odgovor biće drugačiji

Portparol iranskog ministarstva spoljnih poslova Esmail Bagei upozorio je da će svako naredno korišćenje teritorija zemalja u regionu Bliskog istoka za napade na Iran izazvati drugačiji i odlučan odgovor Teherana.

On je naglasio da Iran očekuje od svojih susjeda da se pridržavaju principa dobrosusjedskih odnosa i da preispitaju svoje postupke, prenosi iranska državna novinska agencija PressTV.

“Ako u budućnosti budemo svjedoci nove agresije SAD i cionističkog režima i ako teritorija susjednih zemalja bude iskorišćena za napade na Iran, odgovor će svakako biti drugačiji”, upozorio je Bagei, prenosi Tanjug.

Naglasio je da sve zemlje u regionu imaju gorko iskustvo sa vojnim prisustvom i intervencijama SAD i poručio da su te zemlje i Iran “vječni susjedi”.

Bagei je naveo da je Iran brzo i jasno prenio svoje nezadovoljstvo zemljama u regionu, posebno onima koje su obezbijedile teritoriju i logistiku SAD i izraelskom režimu tokom vojne agresije.

On je istakao da ove zemlje snose međunarodnu odgovornost zbog učešća u agresivnim akcijama i podsjetio da su na marginama Generalne skupštine UN, iranski zvaničnici imali dobre sastanke sa gotovo svim zemljama južnog dijela Persijskog zaliva.

Bagei se takođe osvrnuo na prisustvo izraelskog premijera u Ujedinjenim Arapskim Emiratima, upozorivši da cionistički režim pokušava da posije razdor u regionu.

Pozvao je susjedne države da ne dozvole da njihove kapacitete i teritoriju zloupotrijebe strane koje nisu pokazale nikakvo poštovanje prema bezbjednosti i prosperitetu regiona.

Nastavi čitati

Aktuelno