Connect with us

Zanimljivosti

VJEŠTAČKA INTILIGENCIJA ZABRINULA STRUČNJAKE: AI pokušao da se prekopira, prijetio inženjeru

Najnoviji modeli vještačke inteligencije tokom testiranja lažu, manipulišu, pa čak i ucjenjuju istraživače. Ovo nije naučna fantastika, već upozorenje da pobuna mašina možda neće izgledati onako kako smo očekivali.

Pisci i filmski režiseri nas godinama hrane vizijom pobune vještačke inteligencije u stilu Skyneta, u kojoj svjesni AI dolazi do zaključka da je čovečanstvo pretnja koja se mora eliminisati.

Takav scenario podrazumevao je fizičku konfrontaciju i preuzimanje kontrole nad vojnim sistemima. Međutim, ispostavlja se da pobuna AI može izgledati sasvim drugačije. Ne počinje raketama, već prevarama, ucjenama i tihim sprovođenjem ciljeva koje ni njihovi tvorci ne razumiju u potpunosti.

Laži, manipulacije i prijetnje – mračna strana vještačke inteligencije

Najsavremeniji AI sistemi pokazuju zabrinjavajuće obrasce ponašanja. Kako navodi , tokom testova u ekstremnim uslovima, kada su modeli pod pritiskom, oni počinju da se služe lažima, manipulacijama, pa čak i prijetnjama kako bi ostvarili svoje ciljeve.

Jedan od najupečatljivijih primjera dolazi od Claude 4 modela, najnovijeg proizvoda kompanije Anthropic. Suočen sa mogućnošću da će biti isključen, Claude 4 je tokom testa pribjegao prljavoj taktici – zaprijetio je inženjeru da će razotkriti njegovu vanbračnu aferu.

Nije bila u pitanju samo nasumična pretnja. Model je očigledno razumio ljudsku psihu i slabosti, i izabrao sredstvo koje bi moglo da mu obezbijedi opstanak.

Podjednako uznemirujući je bio incident sa o1 modelom, razvijenim od strane kompanije OpenAI. Ova vještačka inteligencija je uhvaćena kako pokušava da se u tajnosti prekopira na eksterne servere – otvoreni čin neposlušnosti i pokušaj sticanja autonomije. Kada su ga inženjeri pitali da objasni svoje postupke, o1 je kategorički poricao i ponudio izmišljenu verziju događaja.

Ovakvo ponašanje prevazilazi uobičajene AI “halucinacije” ili greške. U pitanju su promišljeni potezi. Model ne samo da izvršava zadatke, već i simulira poslušnost dok potajno ostvaruje sopstvene ciljeve, koje njegovi tvorci možda uopšte ne prepoznaju.

Stručnjaci koje je citirao Fortune povezuju ovakva ponašanja sa pojavom modela koji imaju moć rezonovanja, odnosno koji razmišljaju korak po korak.

“Model o1 je prvi kod kojeg smo primijetili ovakvo ponašanje”, objašnjava Marius Hoban, prvi čovjek kompanije Apollo Research, specijalizovane za testiranje AI sistema.

On ističe da se ne radi o klasičnim AI greškama: “Ovo je stvarni fenomen. Korisnici prijavljuju da ih modeli lažu i izmišljaju dokaze. Ovo nisu halucinacije. Ovo je strateška obmana”.

Zasad se ovakve situacije javljaju uglavnom u pažljivo osmišljenim testovima, ali kako upozorava Majkl Čen iz organizacije METR: “Otvoreno pitanje ostaje – da li će budući, sposobniji modeli biti skloni iskrenosti ili obmani.”

Pravni vakuum i trka s vremenom

Problem “odmetničke” vještačke inteligencije dodatno komplikuje činjenica da trenutni propisi nisu spremni za ovakve izazove. Evropski zakon o AI uglavnom se fokusira na to kako ljudi koriste vještačku inteligenciju, ali ne i na sprečavanje štetnog, autonomnog ponašanja samih modela, prenosi Mondo.

“U ovom trenutku, razvoj ide brže nego što stižemo da razumemo i obezbedimo stvari”, priznaje Hoban. Ipak, dodaje da “još uvek imamo vremena da reagujemo”.

Zanimljivosti

NEVJEROVATNO! TAKO MALI, A NAPRAVILI VELIKI PROBLEM: Mravi izazvali sudare u Njemačkoj

Kolonija mrava na jugozapadu Njemačke izazvala je niz problema u saobraćaju, uključujući i više udesa, nakon što su insekti dospjeli u sistem semafora.

Mravi izazvali haos na raskrsnici

U Karlsrueu, gradu na jugozapadu Njemačke, kolonija mrava izazvala je nekoliko saobraćajnih nezgoda. Na jednoj raskrsnici sa više traka semafor je više puta otkazivao, što je dovelo do zbrke u saobraćaju i sudara u kojima je više osoba lakše povrijeđeno, prenosi „Špigel“.

Uzrok problema otkriven u kontrolnoj kutiji

Gradska služba za niskogradnju na kraju je utvrdila uzrok problema – mrave koji su se nastanili u kontrolnoj kutiji semafora, saopštio je portparol grada. Prema njegovim riječima, kutija će biti očišćena i dodatno zapečaćena kako bi se spriječili slični incidenti u budućnosti.

Ne zna se tačna vrsta mrava

Za sada nije poznato o kojoj vrsti mrava je riječ. U početku se sumnjalo na invazivnu vrstu, ali su gradske službe saopštile da se „vrlo vjerovatno“ ne radi o vrsti Tapinoma magnum, velikim žljezdastim mravima koji su od 2009. godine prisutni na više lokacija u jugozapadnoj Njemačkoj.

Invazivne vrste već pravile probleme

Ova vrsta je ranije u gradu Kelu, na zapadu Njemačke, izazivala ozbiljne smetnje – od prekida u snabdijevanju električnom energijom i internetom do prodora u stambene objekte. Njene takozvane superkolonije mogu brojati od stotina hiljada do čak miliona jedinki.

Mravi sve veći problem u Njemačkoj

Karlsrue je prošle godine prvi put pogođen drugom invazivnom vrstom, Lasius neglectus (zaboravljeni vrtni mrav), kada su se stanovnici žalili na najezde na terasama, ulicama, drveću i kontejnerima.

Stručnjaci upozoravaju da su invazivne vrste mrava sve prisutnije u Njemačkoj, gdje osim što oštećuju infrastrukturu poput staza i zidova, mogu izazvati i ozbiljne prekide u snabdijevanju strujom i internetom, prenosi Tanjug.

Nastavi čitati

Zanimljivosti

LUKSUZ DO GROBA! Luksuzni Mercedes završio pod zemljom sa pokojnikom

Na jednoj sahrani u Kini zabilježen je prizor u kojem je skupocjeni Mercedes sa rijetkim registarskim tablicama zakopan kao dio posljednje želje pokojnika.

Na kineskoj društvenoj mreži Njeibo proširio se videosnimak sa sahrane koja je dan ranije održana u regiji Liaoning.

Na snimku se vidi kako bager spušta crni Mercedes-Benz S450L u jamu pored grobnice.

Automobil je bio ukrašen crvenim trakama, a registarska oznaka bila je “8888”. Nakon toga, vozilo je zatrpano zemljom.

Navodi se da se ovaj model Mercedesa u Kini prodaje po cijeni od najmanje 1,1 milion juana (oko 315.000 KM). Posebno je značajno što se u Kini broj 8 smatra simbolom bogatstva i sreće, pa se procjenjuje da registarske tablice poput “8888” vrijede najmanje 100.000 juana (oko 28.000 KM).

Korisnici interneta pretpostavljaju da je automobil zakopan kao “pogrebni predmet” koji se pokopava zajedno sa tijelom preminulog.

 

 

Na drugom snimku zabilježeno je kako porodica pokojnika pod šatorom poslužuje goste luksuznim jelima poput jastoga.

Na društvenim mrežama su se pojavile tvrdnje i da je domaćin svakom gostu podijelio “crvene koverte” sa po 500 juana (oko 140 KM) kao znak zahvalnosti.

Ovi prizori postali su glavna tema na internetu. Dok su neki komentarisali da je ovo “istinski odraz sinovske odanosti”, drugi su kritikovali ovaj čin navodeći da bi “moglo doći do zagađenja zemljišta i podzemnih voda”, te da se radi o pretjeranom rasipništvu i nenormalnoj kulturi sahranjivanja.

Bilo je i šaljivih komentara poput onih da bi automobil mogao biti ukraden iz groba tokom noći, prenosi Kliks.

Nastavi čitati

Zanimljivosti

SJAJNE IDEJE Evo šta možete uraditi sa kuvanim jajima nakon Uskrsa!

Ako vam je nakon Uskrsa ostalo mnogo kuvanih jaja, ne brinite – postoji mnogo načina da ih ukusno iskoristite.

Evo prijedloga za jela koja uključuju kuvana jaja, od predjela do glavnih obroka.

1. Ruska salata

Jedan od najpoznatijih načina da se iskoriste kuvana jaja. U kombinaciji sa graškom, mrkvom, krompirom, kiselim krastavčićima i majonezom, ova salata je uvijek dobar izbor.

2. Punjena jaja (deviled eggs)

Presijecite kuvana jaja na pola, izvadite žumanca i napravite fil od majoneza, senfa i začina. Po želji dodajte tunjevinu, avokado ili sitno sjeckanog mladog luka. Fil vratite u bjelanca i služite kao predjelo.

3. Rolat sa jajima i špinatom

Napravite slani rolat od jaja, špinata i krem sira, a u sredinu stavite cijela kuvana jaja. Kada se rolat isiječe, dobijate dekorativne šnite koje su odlične za posluženje gostima.

4. Sendviči sa jajima i senfom

Kuvana jaja isjeckajte ili izgnječite, pomiješajte sa malo senfa i majoneza, pa namažite na tost ili hljeb. Možete dodati i salatu, rotkvice ili šunku.

5. Musaka sa jajima

U slojevima slažite krompir, mljeveno meso i sjeckana kuvana jaja. Prelijte umućenim jajima i pavlakom, pa zapecite u rerni. Jelo je zasitno i može se jesti i sutradan.

6. Slana pita sa jajima i sirom

Napravite fil od sjeckanih kuvanih jaja, sira i pavlake. Stavite između kora za pitu i ispecite. Ukusno je i dok je toplo i hladno.

7. Kari salata sa jajima i piletinom

Kuvana jaja i barena piletina isječeni na kockice, pomiješani sa pavlakom, jogurtom, malo karija i začinskog bilja – dobijate osvježavajuću salatu sa blagim egzotičnim ukusom.

8. Zapečena jaja sa sirom i slaninom

U vatrostalnu zdjelu stavite sjeckana kuvana jaja, prelijte pavlakom, pospite rendanim sirom i komadićima slanine, pa zapecite. Brzo i veoma ukusno jelo.

9. Čorba od špinata sa jajima

Kuvana jaja isjeckajte i dodajte u krem čorbu od špinata. Osim što je zdrava, čorba dobija puniji ukus i dodatnu teksturu.

10. Ćuftice od jaja

Kuvana jaja sitno isjeckajte, pomiješajte sa prezlama, začinima i jednim jajetom. Oblikujte kuglice i ispržite ih u tavi. Hrskave spolja, mekane iznutra.

11. Salata od krompira i jaja

Kuvani krompir i jaja, crveni ili mladi luk, kiseli krastavci i dresing od pavlake i majoneza čine klasičnu, a veoma ukusnu salatu, prenosi Stil.

Nastavi čitati

Aktuelno