Connect with us

Zanimljivosti

VJEŠTAČKA INTILIGENCIJA ZABRINULA STRUČNJAKE: AI pokušao da se prekopira, prijetio inženjeru

Najnoviji modeli vještačke inteligencije tokom testiranja lažu, manipulišu, pa čak i ucjenjuju istraživače. Ovo nije naučna fantastika, već upozorenje da pobuna mašina možda neće izgledati onako kako smo očekivali.

Pisci i filmski režiseri nas godinama hrane vizijom pobune vještačke inteligencije u stilu Skyneta, u kojoj svjesni AI dolazi do zaključka da je čovečanstvo pretnja koja se mora eliminisati.

Takav scenario podrazumevao je fizičku konfrontaciju i preuzimanje kontrole nad vojnim sistemima. Međutim, ispostavlja se da pobuna AI može izgledati sasvim drugačije. Ne počinje raketama, već prevarama, ucjenama i tihim sprovođenjem ciljeva koje ni njihovi tvorci ne razumiju u potpunosti.

Laži, manipulacije i prijetnje – mračna strana vještačke inteligencije

Najsavremeniji AI sistemi pokazuju zabrinjavajuće obrasce ponašanja. Kako navodi , tokom testova u ekstremnim uslovima, kada su modeli pod pritiskom, oni počinju da se služe lažima, manipulacijama, pa čak i prijetnjama kako bi ostvarili svoje ciljeve.

Jedan od najupečatljivijih primjera dolazi od Claude 4 modela, najnovijeg proizvoda kompanije Anthropic. Suočen sa mogućnošću da će biti isključen, Claude 4 je tokom testa pribjegao prljavoj taktici – zaprijetio je inženjeru da će razotkriti njegovu vanbračnu aferu.

Nije bila u pitanju samo nasumična pretnja. Model je očigledno razumio ljudsku psihu i slabosti, i izabrao sredstvo koje bi moglo da mu obezbijedi opstanak.

Podjednako uznemirujući je bio incident sa o1 modelom, razvijenim od strane kompanije OpenAI. Ova vještačka inteligencija je uhvaćena kako pokušava da se u tajnosti prekopira na eksterne servere – otvoreni čin neposlušnosti i pokušaj sticanja autonomije. Kada su ga inženjeri pitali da objasni svoje postupke, o1 je kategorički poricao i ponudio izmišljenu verziju događaja.

Ovakvo ponašanje prevazilazi uobičajene AI “halucinacije” ili greške. U pitanju su promišljeni potezi. Model ne samo da izvršava zadatke, već i simulira poslušnost dok potajno ostvaruje sopstvene ciljeve, koje njegovi tvorci možda uopšte ne prepoznaju.

Stručnjaci koje je citirao Fortune povezuju ovakva ponašanja sa pojavom modela koji imaju moć rezonovanja, odnosno koji razmišljaju korak po korak.

“Model o1 je prvi kod kojeg smo primijetili ovakvo ponašanje”, objašnjava Marius Hoban, prvi čovjek kompanije Apollo Research, specijalizovane za testiranje AI sistema.

On ističe da se ne radi o klasičnim AI greškama: “Ovo je stvarni fenomen. Korisnici prijavljuju da ih modeli lažu i izmišljaju dokaze. Ovo nisu halucinacije. Ovo je strateška obmana”.

Zasad se ovakve situacije javljaju uglavnom u pažljivo osmišljenim testovima, ali kako upozorava Majkl Čen iz organizacije METR: “Otvoreno pitanje ostaje – da li će budući, sposobniji modeli biti skloni iskrenosti ili obmani.”

Pravni vakuum i trka s vremenom

Problem “odmetničke” vještačke inteligencije dodatno komplikuje činjenica da trenutni propisi nisu spremni za ovakve izazove. Evropski zakon o AI uglavnom se fokusira na to kako ljudi koriste vještačku inteligenciju, ali ne i na sprečavanje štetnog, autonomnog ponašanja samih modela, prenosi Mondo.

“U ovom trenutku, razvoj ide brže nego što stižemo da razumemo i obezbedimo stvari”, priznaje Hoban. Ipak, dodaje da “još uvek imamo vremena da reagujemo”.

Zanimljivosti

ISTRAŽIVANJE DOKAZALO! Muževi ženama stvaraju DVOSTRUKO VIŠE STRESA nego djeca

Roditeljstvo je često izazovno, ali prema novom istraživanju, mnoge majke osjećaju da im partneri zadaju više stresa nego njihova djeca.

U anketi koju je proveo Today, učestvovalo je više od 7.000 majki, a prosječna prijavljeni nivo stresa iznosio je 8.5 od mogućih 10. Zanimljivo, čak 46% ispitanica izjavilo je da zbog muževa osjećaju veći stres nego zbog svoje djece.

“Partner više opterećuje nego pomaže”
Savjetnica za odnose Georgina Sturmer pojasnila je da dinamika u paru, bilo u braku, bilo u drugom obliku zajedničkog roditeljstva, može biti jako napeta, prenosi Index.hr. “Partneri se često izmjenjuju u popustljivom i strogom pristupu, ne mogu se složiti oko odgoja ili osjećaju nepravdu u podjeli kućanskih poslova. Umjesto da osjećamo da imamo podršku, partner nam ponekad postane dodatni izvor stresa”, objašnjava, prenosi Index.hr.

“Sve radim sama, i još moram objašnjavati šta treba uraditi”

Tri četvrtine žena u istraživanju izjavilo je da su upravo one te koje obavljaju većinu poslova u kućanstvu i brige oko djece. Lucy, majka dvoje djece, kaže: “Radim od kuće, a moj muž kombinuje kancelariju i rad od kuće. Uvijek završi ranije, ali ne vidi da mašina čeka da se napuni, veš da se pospremi ili smeće da se iznese. Sve ostavlja meni. Ne bih mu to trebala crtati, odrasla je osoba.”

Dodaje da nakon posla ne stigne ni predahnuti, već odmah baca se na poslove u kuhinji i rješava stvari koje je suprug mogao napraviti.

Kejt, majka troje djece, priznala je da joj je laknulo kad je suprug dobio posao koji ga često drži izvan kuće.

“Život je bio jednostavniji bez njega. Pokušavala sam ga uključiti u poslove, ali svaki put kad bi nešto ostavio za mene, osjećala sam se kao da poručuje: ‘Nije me briga za tebe’.”
Iako roditeljstvo nikad nije jednostavno, ova studija otvara važna pitanja o ravnoteži, odgovornosti i poštovanju u partnerskim odnosima. Jer stres ne uzrokuju samo djeca, često je posljedica toga što osjećamo da sve leži na nama.

Nastavi čitati

Zanimljivosti

OLUJA BAKTERIJA: Evo zašto ne smijete da nosite telefon u WC!

Možda vam djeluje kao bezazleno skrolovanje dok ste u toaletu, ali istina je daleko prljavija.

Stručnjaci upozoravaju da svakodnevno skrolovanje može da pretvori vaš pametni telefon u koloniju bakterija koje ozbiljno ugrožavaju vaše zdravlje. Kada unesete telefon u kupatilo, izlažete ga čitavoj armiji nevidljivih mikroorganizama. Fekalne bakterije, uključujući zloglasnu E. coli, lako se šire po površinama u toaletu, a vaš telefon je savršeno mjesto za njihovo zadržavanje.

Još gore, čak i ako operete ruke, one mogu da se vrate čim ponovo uzmete telefon koji je bio u istom tom okruženju. Jednostavno rečeno, uzalud sapun, ako vam je telefon već zaražen.

Mikro-oluja iz WC šolje

Pustili ste vodu? U tom trenutku stvara se oblak mikroskopskih kapljica koje mogu da lete i do metar i po u visinu i širinu. Te čestice nose sve ono što ne želite na svom telefonu ili licu. Istraživanja su pokazala da se bakterije šire brzinom svjetlosti po okolnim površinama: pod, zidovi, peškiri, pa i vaš nesrećni telefon ako ga ostavite na vodokotliću ili veš mašini.

Najgore mjesto za vaš telefon

Ako vam je ikada palo na pamet da spustite telefon na pod dok završavate posao, razmislite još jednom. Pod oko WC šolje je jedno od najzagađenijih mjesta u cijelom stanu, a fekalne bakterije tu opstaju danima. Čak i ako se ne vidi, ne znači da nije prljavo.

Kako da se zaštitite?

Ako baš morate da ga imate uz sebe zbog važnog poziva, ostavite ga u džepu, ali nemojte ga koristiti dok ste u toaletu. I obavezno dezinfikujte telefon barem dva puta nedjeljno, najbolje alkoholnim maramicama.

Mobilni telefoni su, po riječima mikrobiologa, u rangu kvaka i prekidača. Dodirujemo ih često, ali čistimo rijetko. A u kombinaciji sa WC zonom, postaju pravi mali biološki rizik.

 

Nastavi čitati

Zanimljivosti

ZABORAVI SVE ŠTO ZNAŠ! Evo kako SE ZAISTA izgovaraju latte, sriracha, nutella i drugi hitovi!

Svi koji su se ikada ustručavali da naruče jelo ili piće koje zaista žele, iz straha da će zvučati smiješno, znaju kako to izgleda: neka imena hrane jednostavno su teška za izgovor.

Bilo da su u pitanju jela, brendovi koje mnogi ljudi pogrešno izgovaraju, ili sastojci, to može biti prava jezička zamka na tanjiru.

U nastavku su neka od najčešće pogrešno izgovaranih imena hrane – i kako bi zapravo trebalo da ih izgovaramo, prenosi MSN.

1. Latte
Ovo piće toliko često ljudi naručuju da biste pomislili da svi znamo kako se ime izgovara, a ipak često postoje debate o tome kako tačno treba izgovoriti „latte“ – naročito koliko dugo i naglašeno treba da traju samoglasnici. Ovaj kremasti napitak, obično napravljen od duplog espresa sa dodatkom parenog mlijeka, izgovara se kao „la-te“. Tehnički, kafa je latte macchiato, jer samo „latte“ na italijanskom znači „mlijeko“.

2. Sriracha
Ponekad neki sastojak postane pravi hit, iako mnogi ne znaju kako se pravilno izgovara njegovo ime. Sriracha je savršen primjer za to. Ovaj začinjeni, kiseli tajlandski sos, napravljen od crvenih jalapeño paprika, bijelog luka, sirćeta, šećera i soli, stekao je kultni status — ljubitelji ga preliju preko škampa, jaja, pomfrita… Njegovo ime može djelovati kao jezička prepreka, ali zapravo je jednostavno: preskočite prvo „r“ i izgovarajte „si-ra-ča“.

3. Quesadilla
Quesadilla je jedna od onih riječi zbog koje može da vam „pozli“ dok čekate u redu u meksičkom restoranu. Ispravan izgovor je „ke-sa-di-lja“ ili, na španskom, „ke-sa-te-ja“. Znači „mali sirasti zalogaj“, a ove popularne kesadilje prave se od tortilja koje se preklapaju preko sira i drugih sastojaka, pa se peku na tiganju dok se fil ne rastopi.

4. Burrata
Buffalo mozzarella je osvježavajuće kremasti užitak, ali burrata diže stvar na viši nivo. Izgovara se „bu-ra-ta“ – i to je gotovo jednako prelijepo kao i sam sir.

5. Gouda

Ime ovog polutvrdog sira od kravljeg mlijeka može biti komplikovanije za izgovor nego što djeluje. Namirnica se proizvodi u Južnoj Holandiji, pa se treba izgovarati sa holandskim „g“ koji zvuči kao grleno „h“, kao da čistite grlo, pa otprilike „gh-ou-da“. Može da se izgovori i malo jednostavnije kao „hau-da“.

6. Espresso
Bez obzira koliko ste zauzeti, ovaj mali napitak od kafe se ne izgovara kao „eks-pre-so“. Pojedinačna doza kafe, pravilno servirana sa kremom boje karamele, izgovara se kao „es-pre-so“.

7. Dr. Oetker
Ljubitelji kolača i fanovi pice vjerovatno su upoznati sa proizvodima ove kompanije. Ona je osnovana u Njemačkoj 1891. godine i dobro je poznata u prodavnicama prehrambenih proizvoda. Poznata je po svojim zamrznutim Ristorante picama, kao i po širokom spektru mješavina za kolače, kao i gotovo svim osnovnim sastojcima za pečenje koje možete zamisliti. Osnovao ju je dr August Oetker, a ime kompanije se pravilno izgovara „et-ker“.

8. Nutella
Mogli biste da pomislite da je ovo jednostavno, ali ovaj veoma popularni i često željeni namaz od lješnika i čokolade u SAD se ne izgovara kao „nat-ela“, niti kao „nut-ela“, već kao „njutela“. Neočekivani izgovor potiče od njegovog italijanskog porijekla; namaz je kreirao vlasnik pekare iz Pijemonta, Pietro Ferero 1940-ih, kao način da se skupa kakao masa bolje iskoristi.

Nastavi čitati

Aktuelno