Najnoviji modeli vještačke inteligencije OpenAI kompanije sve više izmišljaju netačne informacije, a stručnjaci nemaju objašnjenje za ovaj zabrinjavajući trend. Najprije, o čemu se radi?

Prema izvještaju Njujork Tajmsa, istraživanje OpenAI-a otkrilo je da njihovi najnoviji ČetGPT modeli (o3 i o4-mini) znatno češće haluciniraju, odnosno izmišljaju lažne informacije, nego prethodni GPT o1 model.

Brojna testiranja pokazala su zabrinjavajući trend. O3, koji je najmoćniji sistem kompanije, halucinirao je u čak 33 odsto slučajeva tokom PersonQA testa koji postavlja pitanja o javnim ličnostima. To je više nego dvostruko veća stopa halucinacije od prethodnog OpenAI sistema za zaključivanje, o1. Novi o4-mini model pokazao se još lošijim sa stopom halucinacije od 48 odsto.

Još alarmantniji su rezultati drugog testa. Prilikom SimpleQA testa, koji postavlja opštija pitanja, stope halucinacije za o3 i o4-mini bile su čak 51 odsto odnosno 79 odsto. Prethodni sistem, o1, halucinirao je u 44 odsto slučajeva.

“Razmišljajući” modeli prave više grešaka nego ikad
Ono što dodatno zbunjuje stručnjake je činjenica da su upravo najnapredniji AI modeli ti koji imaju sve veći problem sa halucinacijama. Najnovije i najmoćnije tehnologije — takozvani sistemi za zaključivanje kompanija poput OpenAI, Gugl i kineskog startapa DipSik— generišu više grešaka umjesto manje.

Da bismo razumjeli o čemu se radi, važno je objasniti šta su to “reasoning” ili modeli za zaključivanje. Jednostavno rečeno, ovi modeli su vrsta jezičkih modela (LLM) dizajnirani za obavljanje složenih zadataka. Umjesto da samo izbacuju tekst na osnovu statističkih modela vjerovatnoće, modeli za zaključivanje razbijaju pitanja ili zadatke na pojedinačne korake slično ljudskom procesu razmišljanja.
OpenAI prvi model za zaključivanje, o1, pojavio se prošle godine i tvrdilo se da dostiže performanse doktorskih studenata fizike, hemije i biologije, a nadmašuje ih u matematici i kodiranju zahvaljujući tehnikama reinforcement learning-a.

U sistemu za testiranje, OpenAI je objavio tabelu koja pokazuje da ČetGPT o3 jeste tačniji od o1, ali će halucinirati dvostruko češće. Što se tiče o4-mini, ovaj manji model će proizvoditi manje tačne odgovore od o1 i o3, i halucinirati tri puta više od o1.

Antropomorfizacija AI modela i kako to utiče na korisno iskustvo
Iako kompanija i dalje istražuje uzroke, postoje neke teorije. Istraživačka grupa Transluce otkrila je da o3 model izmišlja radnje koje navodno preduzima dok pokušava da riješi zadatke. U jednom primjeru, o3 je tvrdio da koristi MacBook Pro iz 2021. godine “izvan ČetGPT” za izračunavanje, a zatim kopira brojeve u svoj odgovor, što je potpuno izmišljeno.
Jedna hipoteza koju je predložio Nil Čaudri, istraživač iz Transluce-a i bivši zaposleni u OpenAI-u, glasi: “Naša hipoteza je da vrsta reinforcement learninga koja se koristi za o-seriju modela može pojačati probleme koji se obično ublažavaju (ali ne i potpuno brišu) standardnim post-trening procesima.”

Ipak, OpenAI negira da je problem sistemski.

– Halucinacije nisu inherentno rasprostranjenije u modelima za zaključivanje, iako aktivno radimo na smanjenju viših stopa halucinacije koje smo vidjeli u o3 i o4-mini – izjavila je Gabi Rajla iz OpenAI-a za Tajms.

Kako problem halucinacija utiče na korisnost AI alata
Neodgovorno bi bilo ignorisati zabrinjavajući trend povećanja halucinacija u najnovijim AI modelima, što značajno umanjuje njihovu praktičnu vrijednost. Šta god bila istina, jedno je sigurno. AI modeli moraju uglavnom da izbace besmislice i laži ako žele da budu bilo gdje blizu korisni kao što njihovi zagovornici trenutno zamišljaju. Trenutno je teško vjerovati izlazu bilo kog LLM. Praktično sve mora pažljivo da se dvostruko provjeri.
To je u redu za neke zadatke. Ali tamo gdje je glavna korist ušteda vremena ili rada, potreba za pažljivim provjeravanjem i činjeničnom provjerom AI rezultata zapravo poništava svrhu njihovog korišćenja.

Ne zna se da li će OpenAI i ostatak LLM industrije uspjeti da riješe sve te neželjene “robotske snove”, ali jedno je sigurno – put ka pouzdanoj vještačkoj inteligenciji koja ne izmišlja činjenice očigledno je duži nego što smo očekivali.

Rat između Indije i Pakistana mogao bi da izazove krizu kakvu čovječanstvo nikada nije iskusilo.

Indija i Pakistan su nuklearne sile u sukobu, od kojih svaka ima oko 180 nuklearnih bojevih glava. Šta bi se desilo ako bi sukob eskalirao do upotrebe nuklearnog oružja?

Milioni mrtvih, nenaseljenih gradova
Naučnici sa Univerziteta Rutgers u SAD sproveli su pre nekoliko godina analizu mogućih posljedica nuklearnog rata između Indije i Pakistana, upozoravajući da bi takav sukob mogao da ima katastrofalne posljedice ne samo za dvije zemlje već i za cijeli svijet.

Tim istraživača detaljno opisuje kako bi takav rat mogao da počne, koliko bi ljudskih žrtava izazvao i kakve bi bile šire klimatske posljedice.

Procjene sugerišu da bi, u zavisnosti od jačine oružja – od 15 do 100 kilotona – broj poginulih mogao da dostigne između 50 i 125 miliona ljudi. Pored ogromnog broja mrtvih, milionima ranjenih bila bi potrebna hitna pomoć, dok bi mnogi gradovi u Indiji i Pakistanu bili uništeni i postali nenaseljeni.

Uništena infrastruktura, od elektroenergetske mreže preko transportnih sistema do bankarskog sektora, dodatno bi paralisala društvo.

Posledice za cijeli svijet
Ali autori upozoravaju da uništavanje neće ostati lokalizovano. Nuklearne eksplozije i požari koji bi usljedili stvorili bi ogromne količine dima i čađi, koji bi se digli visoko u atmosferu. Ovaj dim bi blokirao sunčevu svjetlost i, u najgorem slučaju, izazvao globalno hlađenje, slično onome što se dogodilo tokom nekih velikih vulkanskih erupcija u istoriji.

Ovaj efekat, poznat kao “nuklearna zima”, doveo bi do pada temperatura širom svijeta, smanjenja padavina i ozbiljnih poremećaja u globalnoj poljoprivredi. Drugim rečima, čak i zemlje koje nisu direktno pogođene nuklearnim udarima mogle bi da dožive glad, ekonomske šokove i političku nestabilnost.

Naučnici ističu da bi posljedice regionalnog nuklearnog sukoba bile dugoročne i planetarne. Takav rat ne bi ostao “njihov problem” – u svijetu u kome je klima međusobno povezana i globalna trgovina krhka, nuklearni rat između Indije i Pakistana mogao bi da izazove krizu kakvu čovječanstvo nikada nije iskusilo

Nakon stupanja na dužnost njemačkog kancelara, Fridrih Merc mijenja njemačku politiku prema zapadno Balkanu, tako što će ukinuti poziciju posebnog izaslanika vlade za zapadni Balkan.

Ovu poziciju uvela je Analena Berbok, ministrica spoljnih poslova Njemačke u prethodnoj vladi Olafa Šolca, a dobio ju je Manuel Zaracin, partijski kolega Berbokove iz Zelenih, prenos Nezavisne novine.

Razlog za ovu izmjenu, međutim, nije želja da se smanji njemački uticaj prema regionu, nego pojednostavljivanje funkcionisanja vlade i davanje više zadataka imenovanim ministrima i funkcionerima koji se nalaze u nadležnim ministarstvima.

Kako piše njemački Bild, pozicija za zapadni Balkan je jedna od nešto više od 20 pozicija posebnih izaslanika koje se ukidaju, a ubuduće, nova povjerenička mjesta mogu se osnivati ​​samo odlukom kabineta ili organizacionim dekretom saveznog kancelara, osim ako to nije propisano zakonom.