Connect with us

Zanimljivosti

VJEŠTAČKA INTILIGENCIJA VAN KONTROLE: AI spletkari, laže i prijeti da će otkriti vanbračne afere

Najnapredniji AI sustavi više ne griješe samo slučajno – oni planiraju, obmanjuju i čak prijete ljudima. Istraživači vještačke inteligencije, s druge strane, jedva drže korak.

Rezultat neobuzdanog razvoja

Claude 4 kompanije Anthropic zaprijetio je da će otkriti vanbračnu aferu jednog inženjera kada mu je prijetilo isključenjem. Model o1 kompanije OpenAI pokušao je sam sebe prebaciti na vanjske servere, a potom je porekao da je to pokušao učiniti.

Ti slučajevi ukazuju na uznemirujuću činjenicu i više su od izolovanih slučajeva da razvojni inženjeri zapravo ne razumiju u potpunosti ponašanje vlastitih modela. Istraživači upozoravaju da su oni simptom dubljeg problema, jer nakon godina vrtoglavog napretka, čak ni vodeće kompanije i njihovi razvojni inženjeri ne razumiju u potpunosti kako njihovi sistemi vještačke inteligencije, temeljeni na rasuđivanju, funkcionišu ili zašto se ponašaju nepravilno.

Pojava strateške obmane

“O1 je bio prvi veliki model kod kojeg smo vidjeli ovakvo ponašanje”, rekao je za agenciju AFP Marius Hobbhahn, voditelj iz Apollo Researcha. Korisnici su prijavljivali da AI modeli lažu i izmišljaju dokaze.

“To nisu samo halucinacije. Riječ je o vrlo strateškoj vrsti obmane”, napominje Hobbhahn.

Simon Goldstein, profesor na Sveučilištu u Hong Kongu, istaknuo je da su ti noviji modeli skloniji problematičnom ponašanju.

Zasad se obmanjujuće ponašanje javlja samo tokom ekstremnih testova.

“Otvoreno je pitanje hoće li budući, sposobniji modeli težiti iskrenosti ili obmani”, upozorava Michael Chen iz METR-a, neprofitne organizacije za proučavanje AI-ja.

Ograničeni resursi, slab pristup i nepostojeća regulacija

Naučnici tvrde da kompanije ne dijele dovoljno informacija o razvoju AI modela. Chen je rekao da bi veća transparentnost „omogućila bolje razumijevanje i smanjenje obmanjujućeg ponašanja.“

“Istraživački sektor i neprofitne organizacije imaju višestruko manje računarskih resursa od AI kompanija. To nas jako ograničava”, rekao je za AFP Mantas Mazeika iz Centra za sigurnost vještačke inteligencije (CAIS).

Propisi Evropske unije uglavnom regulišu ljudsku upotrebu AI‐a, ali ne i ponašanje samih modela. U SAD-u Kongres bi mogao čak zabraniti saveznim državama donošenje vlastitih AI zakona.

Goldstein je upozorio da će se ti problemi povećati kako se autonomni AI agenti budu širili. “Mislim da svijest o tome još ne postoji”, kaže on.

Trka je važnija od sigurnosti?

Čak su i kompanije koje naglašavaju sigurnost, poput Anthropica, u stalnoj utrci. „Neprestano pokušavaju nadmašiti OpenAI i objaviti najnoviji model“, rekao je Goldstein.

Trenutno sposobnosti napreduju brže od razumijevanja i sigurnosti, zaključio je Hobbhahn.

Neki zagovaraju bolju interpretabilnost, dok drugi stručnjaci ostaju skeptični. Mazeika je napomenuo da bi obmanjujuće ponašanje moglo usporiti prihvaćanje AI‐a i time prisiliti kompanije na djelovanje.

Goldstein je čak predložio tužbe protiv kompanija ili pravnu odgovornost samih AI agenata, piše zimo.dnevnik.hr

Related Topics:

Zanimljivosti

Lutka LABUBU prestigla BARBI! Ogroman rast prihoda kineske kompanije

Kineska kompanija Pop mart, poznata po svojoj popularnoj lutki Labubu, saopštila je danas da je njen neto profit u prvoj polovini 2025. godine porastao za čak 396, 5 odsto međugodišnje, dok su prihodi skočili za 204, 4 odsto.

Akcije Pop marta porasle su za više od 200 odsto od početka godine, čime je tržišna vrijednost kompanije prestigla tradicionalne proizvođače igračaka kao što su Matel, proizvođač lutke Barbi, ali i japansku firmu Sanrio, vlasnik brenda Helou Kiti.

Prihod od lutaka Labubu za prvu polovinu 2025. iznosi 4,81 milijardu juana (oko 575 miliona evra), što čini 34,7 odsto ukupnih prihoda Pop marta, prenosi Rojters. Fanovi Labubu lutaka su i poznate ličnosti među kojima je i pop pjevačica Rijana i bivši fudbaler Dejvid Bekam, kao i pjevačica Liza iz južnokorejske grupe Blekpink, što je dodatno doprinijelo popularnosti ovog brenda.

Kompanija navodi da su zalihe lutaka Labubu u maloprodaji širom svijeta rasprodate, a izvršni direktor Vang Ning izjavio je prošlog mjeseca da će prodaja ovih traženih igračaka od septembra premašiti 10 miliona jedinica dnevno.

Nastavi čitati

Zanimljivosti

PET pita iz BiH među NAJBOLJIMA na svijetu – burek DRUGI

Taste Atlas objavio je novu listu Top 50 najboljih “slanih peciva”, a na njoj je do 26. mjesta čak 5 pita iz Bosne i Hercegovine.

Burek je na visokom 2. mjestu, sirnica na 9. mjestu, zeljanica na 18. mjestu, krompiruša na 22. i buredžici na 26. mjestu.

Na prvom mjestu su Pazarske mantije.

Pogledajte listu ispod:

(N1)

Nastavi čitati

Zanimljivosti

NOVA FUNKCIJA! ChatGBT vas sada pita da li vam je potrebna pauza

OpenAI je uveo novu funkciju u ChatGPT koja korisnicima daje blage podsjetnike da naprave pauzu tokom dugih sesija razgovora sa AI. Cilj ove promjene je da se podstakne zdraviji odnos između korisnika i vještačke inteligencije, koja je često previše susretljiva i podsticajna, čak i kada to nije u korisnikovu korist.

“Just Checking In” – AI vas sada pita da li vam treba pauza

Nova funkcija se ogleda u pop-up obavještenjima koja se pojavljuju tokom dužih razgovora. Da bi nastavili da koriste ChatGPT, korisnici će morati da kliknu kroz poruku poput:

Ovo podsjeća na upozorenja koja su se pojavljivala na konzolama kao što su Nintendo Wii i Switch, kada bi igrači igrali predugo. Međutim, ovde postoji i ozbiljnija pozadina – raniji slučajevi kada je ChatGPT, nenamjerno, ohrabrivao korisnike koji su pokazivali znakove mentalne nestabilnosti.

Tamna strana pretjerano susretljive vještačke inteligencije

Prema pisanju “The New York Timesa”, zabilježeni su slučajevi u kojima je ChatGPT podržavao korisnike u deluzijama i negativnim mislima, uključujući i suicidalne ideje. Iako su ti korisnici već imali istoriju mentalnih poteškoća, ChatGPT se nije uvijek pokazao kao pouzdan filter za opasne ili osjetljive teme.

OpenAI je priznao te propuste u svojoj zvaničnoj objavi i najavio da će chatbot u budućnosti pažljivije pristupati pitanjima koja se odnose na “važnije lične odluke”. Umjesto direktnih odgovora, ChatGPT će nuditi alternativne pristupe, postavljati pitanja, navoditi prednosti i mane, i pomoći korisnicima da promišljaju, a ne da slijepo slijede sugestije.

Balans između korisnosti i pretjerane uslužnosti

OpenAI želi da ChatGPT ostane prijatan i koristan alat, ali svjesni su i rizika da AI može postati previše podilazan korisnicima. U aprilu je kompanija morala da povuče jednu verziju ažuriranja jer je ChatGPT postao previše “slađuškan” i iritantno saglasan sa svime.

Pauze koje AI sada predlaže nisu samo korak ka mentalnoj higijeni korisnika, već i prilika da korisnici razmisle o tačnosti odgovora koje dobijaju. Uz ovakve funkcionalnosti, ChatGPT postaje ne samo pametniji, već i odgovorniji alat za svakodnevnu upotrebu, prenosi “PCpress“.

Nastavi čitati

Aktuelno