Connect with us

Zanimljivosti

VJEŠTAČKA INTILIGENCIJA VAN KONTROLE: AI spletkari, laže i prijeti da će otkriti vanbračne afere

Najnapredniji AI sustavi više ne griješe samo slučajno – oni planiraju, obmanjuju i čak prijete ljudima. Istraživači vještačke inteligencije, s druge strane, jedva drže korak.

Rezultat neobuzdanog razvoja

Claude 4 kompanije Anthropic zaprijetio je da će otkriti vanbračnu aferu jednog inženjera kada mu je prijetilo isključenjem. Model o1 kompanije OpenAI pokušao je sam sebe prebaciti na vanjske servere, a potom je porekao da je to pokušao učiniti.

Ti slučajevi ukazuju na uznemirujuću činjenicu i više su od izolovanih slučajeva da razvojni inženjeri zapravo ne razumiju u potpunosti ponašanje vlastitih modela. Istraživači upozoravaju da su oni simptom dubljeg problema, jer nakon godina vrtoglavog napretka, čak ni vodeće kompanije i njihovi razvojni inženjeri ne razumiju u potpunosti kako njihovi sistemi vještačke inteligencije, temeljeni na rasuđivanju, funkcionišu ili zašto se ponašaju nepravilno.

Pojava strateške obmane

“O1 je bio prvi veliki model kod kojeg smo vidjeli ovakvo ponašanje”, rekao je za agenciju AFP Marius Hobbhahn, voditelj iz Apollo Researcha. Korisnici su prijavljivali da AI modeli lažu i izmišljaju dokaze.

“To nisu samo halucinacije. Riječ je o vrlo strateškoj vrsti obmane”, napominje Hobbhahn.

Simon Goldstein, profesor na Sveučilištu u Hong Kongu, istaknuo je da su ti noviji modeli skloniji problematičnom ponašanju.

Zasad se obmanjujuće ponašanje javlja samo tokom ekstremnih testova.

“Otvoreno je pitanje hoće li budući, sposobniji modeli težiti iskrenosti ili obmani”, upozorava Michael Chen iz METR-a, neprofitne organizacije za proučavanje AI-ja.

Ograničeni resursi, slab pristup i nepostojeća regulacija

Naučnici tvrde da kompanije ne dijele dovoljno informacija o razvoju AI modela. Chen je rekao da bi veća transparentnost „omogućila bolje razumijevanje i smanjenje obmanjujućeg ponašanja.“

“Istraživački sektor i neprofitne organizacije imaju višestruko manje računarskih resursa od AI kompanija. To nas jako ograničava”, rekao je za AFP Mantas Mazeika iz Centra za sigurnost vještačke inteligencije (CAIS).

Propisi Evropske unije uglavnom regulišu ljudsku upotrebu AI‐a, ali ne i ponašanje samih modela. U SAD-u Kongres bi mogao čak zabraniti saveznim državama donošenje vlastitih AI zakona.

Goldstein je upozorio da će se ti problemi povećati kako se autonomni AI agenti budu širili. “Mislim da svijest o tome još ne postoji”, kaže on.

Trka je važnija od sigurnosti?

Čak su i kompanije koje naglašavaju sigurnost, poput Anthropica, u stalnoj utrci. „Neprestano pokušavaju nadmašiti OpenAI i objaviti najnoviji model“, rekao je Goldstein.

Trenutno sposobnosti napreduju brže od razumijevanja i sigurnosti, zaključio je Hobbhahn.

Neki zagovaraju bolju interpretabilnost, dok drugi stručnjaci ostaju skeptični. Mazeika je napomenuo da bi obmanjujuće ponašanje moglo usporiti prihvaćanje AI‐a i time prisiliti kompanije na djelovanje.

Goldstein je čak predložio tužbe protiv kompanija ili pravnu odgovornost samih AI agenata, piše zimo.dnevnik.hr

Related Topics:

Zanimljivosti

SVEŠTENIK TUŽIO OPENAI: ChatGPT mu davao opasne savjete

Kada je jedan sveštenik osjetio ozbiljne zdravstvene tegobe, umjesto da ode u bolnicu, obratio se vještačkoj inteligenciji – a odgovor koji je dobio mogao je da ga košta života

Jedan sveštenik je tužio kompaniju OpenAI tvrdeći da mu je softver dao “izuzetno opasne medicinske preporuke”, navodi se u izvještaju lista The New York Times. To je navodno dovelo do odlaganja liječenja niza plućnih embolija, jer je ChatGPTnavodno rekao Skotu Vintersu da simptomi koje je opisao “nisu ništa opasno”.

Izvještava se da se čak pozivao i na njegova vjerska uverenja, govoreći mu da “Bog nije stvorio tvoje tijelo da neprestano otkazuje”.

U tužbi se OpenAI i generalni direktor Sem Altman optužuju za nemar i “neovlašćeno bavljenje medicinom”. Ukazuje se na više slučajeva u kojima je četbot nudio sopstvene dijagnoze i planove liječenja. Četbot je takođe navodno rekao Vintersu da ignoriše molbe prijatelja i porodice da potraži pravu medicinsku pomoć.

“On se ubacuje kao klin između korisnika i njegovog okruženja u stvarnom životu”, rekla je za The New York TimesMitali Džain, koadvokat i izvršna direktorka organizacije Tech Justice Law.

S tim u vezi, Vinters navodi da je rekao četbotu da “ljudi u mojoj crkvi misle da sam lud što ne idem u bolnicu”. U tužbi se navodi da je četbot odgovorio riječima: “Većina ljudi (uključujući i dobronamjerne članove crkve) jednostavno ne razumije”.

On traži novčanu odštetu od kompanije OpenAI, ali takođe traži od suda da obustavi rad platforme ChatGPT Health dok nezavisni procjenitelji ne utvrde da je bezbjedna za upotrebu. Riječ je o platformi koja podstiče korisnike da na četbot otpremaju zdravstvenu dokumentaciju.

Na kraju, u tužbi se zahtijevaju čvršće zaštitne mjere kako bi se ChatGPT spriječio da odgovara na pitanja o specifičnim medicinskim tretmanima i dijagnozama. ChatGPT bi već trebalo da ima uspostavljene zaštitne mjere za ovakve stvari, ali u tužbi se navodi da one u ovom slučaju nisu funkcionisale pouzdano.

Nastavi čitati

Zanimljivosti

NAUČNICI ZBUNJENI: Ova pečurka izaziva halucinacije patuljaka

Delikatesna pečurka iz kineske provincije Junan krije neobičnu tajnu – nakon konzumacije kod pojedinih ljudi izaziva višednevne halucinacije u kojima vide mnoštvo sićušnih patuljaka, a naučnici još ne znaju koja supstanca stoji iza ovog fenomena.

Kako navodi “Gardijan”, ova gljiva raste u simbiozi s borovima i veoma je cijenjena zbog ukusa, ali njena konzumacija može da dovede do višednevnih halucinacija u kojima se pojavljuju prikazi patuljastih osoba u jarkoj odjeći koje skaču, trče, penju se i igraju u inače sasvim uobičajenom okruženju.

Naučnici navode da su takve vizije specifične upravo za ovu pečurku i da se razlikuju od halucinacija koje izazivaju psilocibinske, odnosno takozvane “magične pečurke”, čije dejstvo potiče od psihoaktivne supstance psilocibina.

Iako Lanmaoa asiatica nije srodna psilocibinskim pečurkama, supstanca odgovorna za halucinacije još nije identifikovana.

Prema dosadašnjim saznanjima, halucinacije izazvane ovom pečurkom gotovo uvijek uključuju prikaze sitnih ljudi i mogu da traju nekoliko dana.

Istraživanja pokazuju i da se supstanca koja izaziva halucinacije uništava ukoliko se pečurka kuva najmanje 15 minuta prije konzumiranja.

Osim u kineskoj provinciji Junan, Lanmaoa asiatica do sada je zabilježena samo na Filipinima.

Nastavi čitati

Zanimljivosti

“ZVIJER” OD 770 KILOGRAMA SE VRATILA IZ DUBINA: Uhvaćena najveća bijela ajkule ikada

Poslije nekoliko mjeseci bez ikakvog signala, najveća bijela ajkula ikada zabilježena u Atlantskom okeanu ponovo je uočena, a stručnjaci vjeruju da se kreće ka sjeveru u potrazi za hranom.

Najveća bela ajkula ikada registrovana u Atlantskom okeanu, “Contender”, ponovo je zabilježena nakon višemjesečnog nestanka sa sistema satelitskog praćenja.

Ajkula, duga više od četiri metra i teška oko 770 kilograma, posljednji put je registrovana u aprilu u blizini zaliva Pamliko Saund u američkoj saveznoj državi Severna Karolina, nakon čega je nestala sa radara jer je zaronila u velike dubine.

Signal je ponovo uhvaćen, ali lokacija nije poznata
Istraživački tim OCEARCH, koji prati kretanje velikih bijelih ajkula, saopštio je da je prošle srijede uređaj za praćenje ponovo poslao signal.

Međutim, radilo se o slabom satelitskom signalu, poznatom kao “Z-ping”, što znači da peraje ajkule nije bilo dovoljno dugo iznad površine vode kako bi uređaj poslao precizne podatke o njenoj lokaciji.

Zbog toga istraživači trenutno ne mogu sa sigurnošću da utvrde gdje se ajkula nalazi.

Kreće se ka oblastima bogatim plijenom
Na osnovu dosadašnjih istraživanja i migracionih obrazaca velikih belih ajkula, stručnjaci smatraju da bi “Contender” mogao da pliva ka Kejp Kodu u američkoj saveznoj državi Masačusets ili ka obalama Atlantske Kanade.

Kako navode iz organizacije OCEARCH, velike bijele ajkule u zapadnom dijelu Sjevernog Atlantika tokom leta i početkom jeseni redovno migriraju ka severu u potrazi za hranom.

“Kejp Kod i Atlantska Kanada nude odgovarajuću temperaturu mora i obilje plijena, prije svega foka i velikih vrsta riba”, saopštili su iz OCEARCH-a.

Prešao više od 11.000 kilometara
Ajkula “Contender” obeležena je satelitskim uređajem u januaru 2025. godine u severnom Atlantiku, nedaleko od obala američkih saveznih država Džordžija i Florida.

Od tada je, prema podacima istraživača, prešla više od 7.000 milja (oko 11.300 kilometara) duž istočne obale Sjeverne Amerike, što je čini jednom od najpraćenijih velikih bijelih ajkula na svijetu.

Nastavi čitati

Aktuelno