Connect with us

Svijet

ČetGPT HALUCINIRA, LAŽE I IZMIŠLJA? O čemu se radi?

Najnoviji modeli vještačke inteligencije OpenAI kompanije sve više izmišljaju netačne informacije, a stručnjaci nemaju objašnjenje za ovaj zabrinjavajući trend. Najprije, o čemu se radi?

Prema izvještaju Njujork Tajmsa, istraživanje OpenAI-a otkrilo je da njihovi najnoviji ČetGPT modeli (o3 i o4-mini) znatno češće haluciniraju, odnosno izmišljaju lažne informacije, nego prethodni GPT o1 model.

Brojna testiranja pokazala su zabrinjavajući trend. O3, koji je najmoćniji sistem kompanije, halucinirao je u čak 33 odsto slučajeva tokom PersonQA testa koji postavlja pitanja o javnim ličnostima. To je više nego dvostruko veća stopa halucinacije od prethodnog OpenAI sistema za zaključivanje, o1. Novi o4-mini model pokazao se još lošijim sa stopom halucinacije od 48 odsto.

Još alarmantniji su rezultati drugog testa. Prilikom SimpleQA testa, koji postavlja opštija pitanja, stope halucinacije za o3 i o4-mini bile su čak 51 odsto odnosno 79 odsto. Prethodni sistem, o1, halucinirao je u 44 odsto slučajeva.

“Razmišljajući” modeli prave više grešaka nego ikad
Ono što dodatno zbunjuje stručnjake je činjenica da su upravo najnapredniji AI modeli ti koji imaju sve veći problem sa halucinacijama. Najnovije i najmoćnije tehnologije — takozvani sistemi za zaključivanje kompanija poput OpenAI, Gugl i kineskog startapa DipSik— generišu više grešaka umjesto manje.

Da bismo razumjeli o čemu se radi, važno je objasniti šta su to “reasoning” ili modeli za zaključivanje. Jednostavno rečeno, ovi modeli su vrsta jezičkih modela (LLM) dizajnirani za obavljanje složenih zadataka. Umjesto da samo izbacuju tekst na osnovu statističkih modela vjerovatnoće, modeli za zaključivanje razbijaju pitanja ili zadatke na pojedinačne korake slično ljudskom procesu razmišljanja.
OpenAI prvi model za zaključivanje, o1, pojavio se prošle godine i tvrdilo se da dostiže performanse doktorskih studenata fizike, hemije i biologije, a nadmašuje ih u matematici i kodiranju zahvaljujući tehnikama reinforcement learning-a.

U sistemu za testiranje, OpenAI je objavio tabelu koja pokazuje da ČetGPT o3 jeste tačniji od o1, ali će halucinirati dvostruko češće. Što se tiče o4-mini, ovaj manji model će proizvoditi manje tačne odgovore od o1 i o3, i halucinirati tri puta više od o1.

Antropomorfizacija AI modela i kako to utiče na korisno iskustvo
Iako kompanija i dalje istražuje uzroke, postoje neke teorije. Istraživačka grupa Transluce otkrila je da o3 model izmišlja radnje koje navodno preduzima dok pokušava da riješi zadatke. U jednom primjeru, o3 je tvrdio da koristi MacBook Pro iz 2021. godine “izvan ČetGPT” za izračunavanje, a zatim kopira brojeve u svoj odgovor, što je potpuno izmišljeno.
Jedna hipoteza koju je predložio Nil Čaudri, istraživač iz Transluce-a i bivši zaposleni u OpenAI-u, glasi: “Naša hipoteza je da vrsta reinforcement learninga koja se koristi za o-seriju modela može pojačati probleme koji se obično ublažavaju (ali ne i potpuno brišu) standardnim post-trening procesima.”

Ipak, OpenAI negira da je problem sistemski.

– Halucinacije nisu inherentno rasprostranjenije u modelima za zaključivanje, iako aktivno radimo na smanjenju viših stopa halucinacije koje smo vidjeli u o3 i o4-mini – izjavila je Gabi Rajla iz OpenAI-a za Tajms.

Kako problem halucinacija utiče na korisnost AI alata
Neodgovorno bi bilo ignorisati zabrinjavajući trend povećanja halucinacija u najnovijim AI modelima, što značajno umanjuje njihovu praktičnu vrijednost. Šta god bila istina, jedno je sigurno. AI modeli moraju uglavnom da izbace besmislice i laži ako žele da budu bilo gdje blizu korisni kao što njihovi zagovornici trenutno zamišljaju. Trenutno je teško vjerovati izlazu bilo kog LLM. Praktično sve mora pažljivo da se dvostruko provjeri.
To je u redu za neke zadatke. Ali tamo gdje je glavna korist ušteda vremena ili rada, potreba za pažljivim provjeravanjem i činjeničnom provjerom AI rezultata zapravo poništava svrhu njihovog korišćenja.

Ne zna se da li će OpenAI i ostatak LLM industrije uspjeti da riješe sve te neželjene “robotske snove”, ali jedno je sigurno – put ka pouzdanoj vještačkoj inteligenciji koja ne izmišlja činjenice očigledno je duži nego što smo očekivali.

Svijet

HOROR NA ODMORU! Popila koktel – OSLIJEPILA i JEDVA OSTALA ŽIVA

Kanađanka Еšli King upozorava korisnike društvenih mreža nakon što je na odmoru izgubila vid zbog otrovnog koktela, i kaže da spada među rijetke srećnike koji su preživjeli.

U decembru, sedmoro turista završilo je u bolnici na Fidžiju nakon što su u luksuznom odmaralištu popili zaraženo alkoholno piće. Samo mjesec dana ranije, šest mladih putnika umrlo je u Laosu pod gotovo identičnim okolnostima. Svake godine hiljade ljudi strada ili se teško razboli jer nesvjesno konzumira alkohol pomešan sa metanolom, piše Nju Jork Post.

“Po mirisu i ukusu se ne razlikuje od alkohola koji obično pijemo”, ispričala je King, koja je ostala bez vida nakon što je tokom putovanja po Baliju popila jedno piće. Metanol je providna, zapaljiva tečnost čiji miris podsjeća na etanol, njegovog “pitkog rođaka”, ali je izuzetno otrovan.

“Samo 30 mililitara, jedna mala čašica, može da vas ubije, a 15 mililitara može da izazove sljepilo, otkazivanje organa, teška oštećenja jetre i mozga”, upozorava King.

Ova hemikalija koristi se u brojnim industrijskim i kućnim proizvodima poput benzina, antifriza, razređivača boje i tečnosti za brisače. Na crnom tržištu, posebno u zemljama u razvoju, metanol se često dodaje ilegalnom alkoholu kako bi se povećala količina i zarada. Takav otrovni miks završava u barovima i hotelima, gdje ga nesrećni gosti konzumiraju.

King se to dogodilo 2011. godine, kada je s prijateljicom posjetila Bali pred početak studija. U luksuznom baru naručila je koktel s vodkom.

“Ništa se nije razlikovalo od bilo koje druge večeri”, priseća se. Sutradan se osećala mamurno, ali prvi ozbiljan znak da nešto nije u redu pojavio se tek dva dana kasnije u Australiji.

“Sjećam se da sam razgovarala sa carinicima i zvučala kao da sam pijana. Nisam mogla da složim suvislu rečenicu”, rekla je.

Po dolasku na Novi Zeland, zaspala je u hotelskoj sobi. Kada se probudila, činilo joj se da je prostor potpuno mračan, ali nije bio. Izgubila je vid i imala problema s disanjem. Analize krvi u bolnici pokazale su visoku koncentraciju metanola. Lekari su bili šokirani što je uopšte preživela. Linker
“Gubitak vida je najteža stvar koja mi se dogodila, s tim se borim svakog dana”, podijelila je na društvenim mrežama.

Metanol se u organizmu pretvara u formaldehid i mravlju kiselinu, izuzetno otrovne supstance koje izazivaju opasno zakiseljavanje krvi. Rani simptomi liče na pijanstvo: vrtoglavica, mučnina, povraćanje i pospanost. Međutim, u roku od 12 do 24 sata stanje može da se pogorša do sljepila, napada ili kome. U nekim slučajevima, teži simptomi javljaju se tek nakon tri dana. Institut za metanol ističe da se trovanje može liječiti ako se reaguje u prvih 10 do 30 sati.

Paradoksalno, ponekad konzumiranje običnog alkohola može da pomogne, jer usporava pretvaranje metanola u otrovne metabolite. Tokom liječenja, King je u bolnici dobijala vodku sa sokom od pomorandže.

“To je bila najapsurdnija stvar, što sam bila pijanija, to sam bolje disala i malo jasnije vidjela”, ispričala je.

Pored toga, prošla je hemodijalizu i terapiju steroidima, ali joj je ostalo svega oko 2 posto vida, koje opisuje kao “snijeg na TV ekranu”.

“Prije tri dana imala sam cijeli život pred sobom, a sada mi kažete da sam slijepa?”, prisjeća se trenutka kada je čula dijagnozu.

Problem je globalan, ali najviše slučajeva trovanja metanolom bilježi se u Aziji i to Indoneziji, Indiji, Kambodži, Vijetnamu i Filipinima. Od 2019. godine, Ljekari bez granica zabilježili su više od 1.000 incidenata i oko 14.200 smrti, uz smrtnost od 20 do 40 odsto.

Američka ambasada u Jordanu nedavno je izdala upozorenje i preporuke kako se zaštititi:

kupujte alkohol samo u licenciranim prodavnicama i provjerenim barovima,

izbegavajte ulične prodavce i neformalna mjesta,

ako je piće neuobičajeno jeftino, vjerovatno je riječ o falsifikatu,

ne prihvatajte besplatna pića od nepoznatih osoba,

posmatrajte kako se piće priprema; ako primjetite čudan miris ili ukus, odmah ga odbacite,

ne ostavljajte piće bez nadzora,

radije birajte pivo, vino i pakovane napitke,

provjerite boce prije otvaranja, polomljeni pečati, loše etikete ili pravopisne greške mogu biti znak lažnog proizvoda,

pratite lokalne vijesti i prijavite se na putna upozorenja ambasada.

“Ovo se ne mora događati, ali događa se. I premalo ljudi zna za ovu opasnost. Zato dijelim svoju priču”, poručuje King. Ona je pokrenula i peticiju na platformi Kange.org kako bi se podigla svijest i u škole i aerodrome uvela edukacija o rizicima otrovnog alkohola, prenosi telegraf.

Nastavi čitati

Svijet

PUTIN STIŽE U SAD – Tramp juri NOBELOVU NAGRADU

Predsjednik SAD Donald Tramp je prošle noći najavio da će on i predsjednik Rusije Vladimir Putin sljedećeg petka na Aljasci razgovarati o okončanju ruskog rata u Ukrajini. Kremlj još nije potvrdio detalje.

Sastanak bi bio prvi samit SAD i Rusije od 2021. godine, kada se bivši predsjednik Džozef Bajden sastao sa Putinom u Ženevi.

To bi moglo da znači proboj u Trampovim naporima da okonča rat, iako nema garancije da će to zaustaviti borbe, jer Moskva i Kijev ostaju daleko udaljeni po pitanju uslova za mir.

Tramp je rekao da vjeruje da i Putin i ukrajinski predsjednik Volodimir Zelenski žele mir.

„Pošteno govoreći, predsjednik Zelenski dobija sve što mu je potrebno“, rekao je on.

Tramp je rekao da bi mirovni sporazum vjerovatno značio da bi Ukrajina i Rusija razmjenile dio teritorije koju kontrolišu.

„Ništa lako“, rekao je predsjednik, „ali ćemo nešto dobiti zauzvrat. Biće razmjene teritorija, na dobrobit obije strane“.

Tramp je novinarima rekao da je očekivani sastanak sa Putinom mogao biti i prije 15. avgusta, „ali pretpostavljam da postoje bezbjednosni aranžmani koje ljudi, nažalost, moraju preduzeti“.

Posljednji put je ruski lider bio u SAD na sastanku sa predsjednikom Barakom Obamom na Generalnoj skupštini UN u Njujorku u septembru 2015. godine.

Prema Stejt departmentu, Putin je prvi put došao u SAD kao ruski lider 2000. godine da bi se sastao sa predsjednikom Bilom Klintonom na Milenijumskom samitu UN u Njujorku.

Sastanak 2015. godine bio je njegova sedma posjeta SAD kao predsjednika Rusije. Njegov sastanak sa Trampom biće njegov osmi dolazak u SAD.

Tramp je pred novinarima izrazio oprezni optimizam, rekavši da vjeruje da „imamo šanse“ za posredovanje u postizanju mirovnog sporazuma Rusije i Ukrajine.

Objavljujući sporazum Jermenije i Azerbejdžana, Tramp je rekao da je on „riješio ključno pitanje“ uspostavljanjem „onoga što nazivaju Trampovom (transportnom) rutom za međunarodni mir i prosperitet“ i da je taj naziv po njemu „velika čast koju nisam tražio“.

Viši zvaničnik Trampove administracije rekao je novinarima da su Jermeni predložili taj naziv.

Sporazumom se predviđa stvaranje novog trgovinskog i tranzitnog koridora nazvanog po Trampu koji će povezati kopneni Azerbejdžan sa autonomnom regijom Nahčevan. To je bio ključni cilj azerbejdžanske vlade u mirovnim pregovorima.

Tramp je rekao da bi mu bila čast da dobije Nobelovu nagradu, ali je naglasio da se „politički ne angažuje zbog toga, već zato što, zaista, prvo, želim da spasem živote“, rekao je Tramp dodajući da je zato „toliko angažovan s Ukrajinom i Rusijom“.

Pominjanje nominacije Trampa za Nobelovu nagradu za mir datira iz njegovog prvog mandata i on sada, u drugom, više govori o tome kako pomaže u okončanju sukoba, kako želi da bude poznat kao mirotvorac i koliko želi da mu se dodeli nagrada.

Kada su ga pitali da li osjeća da bi događaj sličan potpisivanju mirovnog sporazuma Jermenije i Azerbejdžana mogao da se dogodi Putinu i Zelenskom, Tramp je rekao: „Mislim da mi instinkt zaista govori da imamo šanse za to“.

Ipak ukrajinski vojnici na bojnom polju imaju malo nade u diplomatsko rješenje rata, a u petak je istekao Trampov rok da Kremlj sklopi mir i izostale su njegove prijetnje Rusiji sankcijama ako to ne učini.

Nastavi čitati

Svijet

RUSIJA da ulaže u PRUGU između Jermenije i Azerbejdžana – očekuje Pašinjan

Jermenski premijer Nikol Pašinjan smatra da bi Rusija mogla biti zainteresovana za ulaganje u obnovu željezničke pruge između Jermenije i Azerbejdžana u kontekstu projekta „Trampov put za mir i prosperitet“, prenosi agencija RIA Novosti.
“Trenutno, jermenskim željeznicama upravlja ruska strana – podružnica Ruskih željeznica. Možda će ruska strana biti zainteresovana za investicije kako bi se obnovila željeznička pruga Idževan-Razdan (u Jermeniji), Idževan-Gazah (u Azerbejdžanu). Ovdje će, naravno, biti potrebna saglasnost azerbejdžanske strane“, rekao je Pašinjan.

Takođe je izrazio mišljenje da će projekat biti dobra prilika za početak ekonomske saradnje između Irana i Sjedinjenih Država, kao i Rusije i Sjedinjenih Država.

U tom kontekstu, Pašinjan je podsjetio da jedna iranska kompanija gradi auto-put u Jermeniji u okviru projekta Sjever-Jug.

Prethodno je, nakon Pašinjanovog sastanka sa predsjednicima SAD i Azerbejdžana Donaldom Trampom i Ilhamom Alijevim u Vašingtonu, usvojena deklaracija o parafiranju usaglašenog teksta sporazuma o uspostavljanju mira i međudržavnih odnosa između dvije zemlje od strane ministara spoljnih poslova Jermenije i Azerbejdžana.

U tom smislu, strane su konstatovale potrebu za nastavkom daljih koraka ka potpisivanju i konačnoj ratifikaciji sporazuma i naglasile važnost jačanja mira između zemalja.

U tekstu deklaracije potpisanoj nakon sastanka u Vašingtonu, koju je objavilo jermensko Ministarstvo spoljnih poslova, napominje se da će Jermenija sarađivati sa Sjedinjenim Državama i obostrano dogovorenim trećim stranama kako bi se definisao okvir za sprovođenje programa “Trampov put za međunarodni mir i prosperitet“ (TRIPP) u zemlji. U dokumentu se naglašava odlučnost da se preduzmu sve mjere kako bi se ovaj cilj postigao što je prije moguće.

Ranije je Rojters, pozivajući se na izvore, objavio da Jermenija planira da dodijeli Sjedinjenim Državama ekskluzivna prava za razvoj tranzitnog koridora na duži period, koji će se zvati Trampova ruta za međunarodni mir i prosperitet (TRIPP).

U izvještaju se tvrdi da će ruta funkcionisati u skladu sa jermenskim zakonom, a da će Sjedinjene Države izdati zemljište u podzakup konzorcijumu koji se bavi infrastrukturom i upravljanjem.

Nastavi čitati

Aktuelno