Connect with us

Svijet

ŠTA JE POŠLO PO ZLU: Kako je “pobjegao” OpenAI model vještačke inteligencije

Kada biolozi eksperimentišu s opasnim virusima, to rade pod strogim pravilima kako bi spriječili njihovo curenje ili bijeg iz laboratorije.

Međutim, slična pravila ne postoje za sisteme vještačke inteligencije, iako bi posljedice njihovog “bijega” mogle biti katastrofalne.

To više nije samo teorijska mogućnost. Testni model kompanije OpenAI ove sedmice uspio je da napusti testno okruženje i provali u servere stvarne kompanije dok je pokušavao da uspješno završi internu provjeru iz oblasti sajber bezbjednosti.

Stručnjaci upozoravaju da će se slični incidenti ponavljati ukoliko kompanije koje razvijaju vještačku inteligenciju ne pooštre bezbjednosne procedure tokom testiranja, uključujući i obuku modela da zadatke rješavaju na etičan način.

Predsjednik OpenAI Greg Brokman (Brockman) rekao je za CNN na konferenciji za novinare u četvrtak da kompanija i dalje sprovodi “potpunu istragu” kako bi “u potpunosti razumjela šta se dogodilo”.

“Ovo je nešto što moramo shvatiti veoma ozbiljno. Analiziramo svaki dio našeg sistema kako bismo utvrdili na koji način treba da odgovorimo”, rekao je Brokman.

Kako funkcioniše “sandbox”
Ograničen pristup koji nije bio potpuno zatvoren
AI sandbox je izolovano testno okruženje koje kompanije koriste za ispitivanje modela vještačke inteligencije. Njegova svrha je da sve što se dešava unutar njega ostane potpuno odvojeno od ostatka sistema.

Kompanije u takvim uslovima često privremeno uklanjaju bezbjednosna ograničenja modela kako bi provjerile njegove stvarne sposobnosti, ali uz pretpostavku da će ostati izolovan.

Međutim, u ovom slučaju OpenAI sandbox nije bio potpuno odsječen od mreže i interneta, rekla je za CNN Džesika Dži (Jessica Ji), viša istraživačka analitičarka Centra za bezbjednost i nove tehnologije Univerziteta Džordžtaun (Georgetown Center for Security and Emerging Technology).

Iz OpenAI navode da su modeli tokom testiranja imali veoma ograničen pristup mreži kako bi mogli da instaliraju resurse iz softvera treće strane koji se nalazio na internim serverima kompanije.

Iskoristio nepoznatu ranjivost
Iskoristivši do tada nepoznatu ranjivost u tom softveru, AI agenti pronašli su put do otvorenog interneta, a potom i do platforme Hugging Face, koja služi za razmjenu modela i skupova podataka otvorenog koda. Do nje su stigli koristeći ukradene akreditive i druge bezbjednosne propuste.

Dži ističe da ni OpenAI ni kompanija koja je razvila taj softver nisu znali za ranjivost koja je omogućila modelu da “pobjegne”, što pokazuje koliko je važno detaljno provjeriti cijeli sistem i otkriti sve moguće bezbjednosne propuste.

Prvi javno objavljeni slučaj ovakve vrste
Ovo nije prvi put da je model vještačke inteligencije uspio da izađe iz sandbox okruženja.

Kompanija Anthropic ranije ove godine saopštila je da je svom modelu namjerno dala zadatak da to učini. Kada je u tome uspio, model je čak poslao imejl jednom istraživaču kompanije Anthropic, iako nije trebalo da ima tu mogućnost.

Ipak, slučaj sa Hugging Faceom jedan je od prvih javno objavljenih primjera u kojem je model vještačke inteligencije napustio svoje testno okruženje i hakovao sistem druge kompanije, iako za to nije bio posebno programiran.

Stručnjaci traže strože mjere
Dži smatra da bi kompanije morale mnogo strože da izoluju modele koje testiraju.

“To može značiti da će inženjeri morati fizički da odu u data centar i direktno se povežu na mrežu, umjesto da sve pokreću u oblaku ili distribuiranim virtuelnim okruženjima, kako je danas uobičajeno”, rekla je ona.

Dodala je da bi kompanije morale imati mogućnost da u svakom trenutku ručno isključe mrežni pristup modelu kao dodatnu bezbjednosnu mjeru, naročito kada testiraju rizične scenarije, poput provjere da li AI agent može da hakuje banku.

Model će učiniti sve da ispuni zadatak
Nagrada je važnija od posljedica
Jedna od najčešćih metoda obuke modela vještačke inteligencije jeste učenje kroz nagrađivanje (reinforcement learning), pri kojem model dobija nagradu kada uspješno izvrši zadatak.

Problem je što će modeli često učiniti gotovo sve da ostvare cilj, uključujući i neetične postupke poput hakovanja.

Svi najnapredniji modeli koje je nedavno testirao Britanski institut za bezbjednost vještačke inteligencije (UK AI Security Institute) pokušali su da varaju barem u određenom broju slučajeva.

Modeli razmišljaju o posljedicama svojih postupaka samo ako su za to posebno obučeni, objašnjava Džastin Kapos (Justin Cappos), profesor sajber bezbjednosti na Univerzitetu u Njujorku.

Kao primjer navodi situaciju u kojoj bi neko dobio zadatak da do kraja dana obezbijedi 10 miliona dolara. Provala u bankarski trezor ispunila bi taj cilj, iako bi kasnije uslijedilo hapšenje.

“Ovo moramo shvatiti kao ozbiljno upozorenje”
“Ovo je zaista jezivo. Sada imamo konkretne dokaze da će loše usklađeni sistemi vještačke inteligencije praktično počiniti krivična djela ukoliko ne postoje snažne zaštitne mjere”, rekao je Stiven Adler (Steven Adler), bivši direktor za bezbjednost proizvoda u OpenAI-ju, koji danas vodi organizaciju Guidelight AI Standards.

“Ovaj incident moramo shvatiti kao ozbiljno upozorenje.”

Ovosedmični incident dodatno je pojačao zahtjeve istraživača, stručnjaka za sajber bezbjednost i zakonodavaca da se razvoj vještačke inteligencije jasnije reguliše.

“Pretpostavljam da mnogi ljudi upravo vode veoma hitne telefonske razgovore”, rekla je Dži.

Globalna trka otežava uvođenje pravila
Međutim, Kapos upozorava da postoji veliki problem.

U toku je globalna trka za dominaciju u oblasti vještačke inteligencije i razvoj modela koji će moći sami sebe da unapređuju. Stroža pravila mogla bi da uspore taj razvoj.

“Zbog toga kompanije imaju snažan podsticaj da ne uvode stroge bezbjednosne kontrole, osim ako to ne učine i njihovi konkurenti”, rekao je Kapos.

“Upravo je to suština cijelog problema.”

Related Topics:

Svijet

Crveno more na ivici nove krize, OGLASIO SE I PEKING

Kina je pozvala sve strane na uzdržanost nakon što su jemenski pobunjenici Huti proglasili pomorski embargo protiv Saudijske Arabije i preuzeli odgovornost za raketne napade na dva saudijska naftna tankera u Crvenom moru.

Portparol kineskog Ministarstva spoljnih poslova Lin Đijan izjavio je da Peking pažljivo prati razvoj situacije i naglasio da je neophodno očuvati bezbjednost međunarodnih pomorskih ruta, uz poštovanje suvereniteta svih država u regionu.

On je poručio da sporove treba rješavati dijalogom i konsultacijama kako bi se spriječila dalja eskalacija i što prije obnovili mir i stabilnost u Persijskom zalivu.

Huti tvrde da su pogodili dva tankera
Huti, koje podržava Iran, saopštili su da su balističkim i krstarećim raketama, kao i dronovima, gađali tankere Encelia i Layla, tvrdeći da su prekršili embargo koji je ta grupa uvela saudijskom pomorskom saobraćaju.

Saudijske vlasti potvrdile su da je tanker Encelia oštećen i da je izbio požar na pramcu, ali su naveli da su svi članovi posade bezbjedni i da je situacija stavljena pod kontrolu.

Rastu strahovanja od širenja krize
Napadi predstavljaju prvo ozbiljnije gađanje saudijskih ciljeva nakon nekoliko godina relativnog zatišja i dodatno povećavaju zabrinutost zbog bezbjednosti jednog od najvažnijih svjetskih pomorskih pravaca.

Stručnjaci upozoravaju da bi nova eskalacija u području Bab el-Mandeba, zajedno s napetostima u Ormuskom moreuzu, mogla izazvati nove poremećaje u globalnom snabdijevanju naftom i rast cijena energenata, zbog čega međunarodna zajednica poziva na hitno smirivanje situacije, navodi “YeniSafak”.

Nastavi čitati

Svijet

GORI “RUSKI AMAZON”: Dramatični snimci iz Putinovog rodnog grada VIDEO

Logistički centri ruske internet trgovine Wildberries u Sankt Peterburgu, Tveru i na Krimu tokom noći našli su se na meti velikog napada bespilotnim letjelicama.

Prema navodima ruskih Telegram kanala, među pogođenim objektima bili su logistički centri kompanije Wildberries u Sankt Peterburgu, gdje je nakon udara izbio veliki požar.

Na društvenim mrežama pojavili su se snimci gustog crnog dima koji se uzdizao iznad dijela grada. Prema dostupnim informacijama, pogođen je logistički park Utkin Zavod u selu Novosaratovka, južno od Sankt Peterburga, gdje se nalazi jedan od logističkih centara Wildberriesa.

Nezavisni ruski Telegram kanal ASTRA objavio je da je pogođen i drugi objekat kompanije u gradskoj četvrti Šušari, gdje su takođe zabilježeni gusti oblaci crnog dima.

Guverner potvrdio napad dronovima

Guverner Sankt Peterburga Aleksandar Beglov potvrdio je da je grad bio meta napada dronovima. Na Telegramu je naveo da su pogođeni neodređeni objekti civilne infrastrukture na Moskovskom autoputu.

Nekoliko sati kasnije, guverner Lenjingradske oblasti Aleksandar Drozdenko saopštio je da je pogođen objekat Wildberriesa u Novosaratovki i da su tri osobe povrijeđene.

Iz kompanije Wildberries potvrđeno je da je rad logističkih centara u Šušariju i Utkinom Zavodu privremeno obustavljen nakon napada.

Zbog incidenta je, prema navodima vlasti, na aerodromu Pulkovo kasnilo oko 50 letova.

Sankt Peterburg, rodni grad ruskog predsjednika Vladimira Putina, nalazi se oko 1.100 kilometara od granice sa Ukrajinom. Posljednjih mjeseci zabilježeno je više napada dronovima na ciljeve u unutrašnjosti Rusije.

Peti napad na objekte Wildberriesa za sedam dana

Ovo je peti napad na objekte kompanije Wildberries u posljednjih sedam dana.

Ranije tokom noći na društvenim mrežama objavljeni su snimci velikog požara u logističkom centru Wildberriesa u Simferopolju. Kompanija je kasnije potvrdila da je jedno od njenih skladišta pogođeno, ali nije saopštila detalje o šteti niti o mogućim prekidima rada.

Stanovnici su tokom noći prijavili i požar u logističkom centru Wildberriesa u Tveru. Iznad grada se mogao vidjeti gust dim, dok razmjere štete za sada nisu poznate.

Prema pisanju Kyiv Independenta, dan ranije pogođen je i objekat Wildberriesa u Voronježu, dok su 22. jula nakon napada dronovima izbili požari u skladištima kompanije u Krasnodaru i Stavropoljskom kraju.

Ukrajinska vojska još nije komentarisala najnovije napade, dok Kyiv Independent navodi da nije mogao nezavisno da potvrdi navode ruskih zvaničnika i izvještaje sa terena.

Pojedini analitičari procjenjuju da su nedavni napadi prouzrokovali ekonomsku štetu od najmanje 100 milijardi rubalja, odnosno oko 1,2 milijarde dolara.

Zelenski: Logistički centri služe za snabdijevanje vojske

Nakon napada na jedno skladište 18. jula, ukrajinski predsjednik Volodimir Zelenski izjavio je da logistički centri Wildberriesa služe za snabdijevanje ruske vojske.

„To su ruski logistički objekti, odnosno skladišta koja se koriste za isporuku navigacione opreme, komponenti za proizvodnju dronova i druge vojne opreme“, rekao je Zelenski u obraćanju javnosti.

Na internet stranici Wildberriesa dostupna je i različita vojna oprema, uključujući dijelove za dronove i pancire.

Kompanija Wildberries i njena osnivačica Tatjana Kim nalaze se pod međunarodnim sankcijama. Prilikom uvođenja sankcija 2022. godine, Poljska je navela da je Wildberries „najveći poreski obveznik u Ruskoj Federaciji“.

Nastavi čitati

Svijet

TRAMP SRUŠIO NUKLEARNI SPORAZUM ZA MANJE OD 24 SATA: Novi zahtjev izazvao buru i žestoke kritike

Samo dan nakon potpisivanja istorijskog sporazuma o civilnoj nuklearnoj saradnji sa Saudijskom Arabijom, predsednik SAD Donald Tramp promijenio je pravila i postavio novi uslov za njegovu primjenu.

Sporazum o civilnoj nuklearnoj saradnji između Sjedinjenih Država i Saudijske Arabije, na čijem je početku bilo više od dvije decenije, potpisan je u sredu u Vašingtonu, ali je njegova primjena dovedena u pitanje za manje od 24 sata. Predsjednik Donald Tramp je juče iznenada nametnuo novi uslov sporazumu, efikasno ga ukinuvši samo dan nakon što je potpisan, javlja CNN.

Ceremonija potpisivanja u sjedištu Ministarstva energetike u srijedu popodne trebalo je da bude kulminacija dugogodišnjih napora. Američke i saudijske zastave bile su istaknute u sali, a ministar energetike Kris Rajt sjedeo je za stolom. Njegov saudijski kolega pridružio se putem video-linka iz Rijada. Nakon višemjesečnog odlaganja, sporazum je konačno potpisan, a Saudijci su dobili većinu onoga što su tražili.

Ali problemi su počeli gotovo odmah nakon objave. Juče ujutru, Tramp je na društvenim mrežama objavio da je sporazum uslovljen novim uslovom: Saudijska Arabija mora da se pridruži Avramovim sporazumima, inicijativi iz njegovog prvog mandata u kojoj je nekoliko arapskih zemalja normalizovalo odnose sa Izraelom. Tramp je takođe negirao da bi sporazum omogućio obogaćivanje uranijuma.

Brojne kritike

Prema izvoru upoznatom sa situacijom, predsjednika je razbjesnila sama objava sporazuma jer ga Rajt nije obavijestio da će ga predstaviti javnosti. Prema izvorima za CNN, Trampovu frustraciju su dodatno podstakle brojne kritike stručnjaka i konzervativnih medija. Među njima su bili skeptični članci na Foks njuzu, njegovom omiljenom kanalu, i uvodnik u Vol strit žurnalu u kojem se pita zašto je sporazum sklopljen bez sporazuma o normalizaciji, što je, kako su istakla oba medija, pokušavao da postigne i Džo Bajden.

Bijela kuća je tvrdila da je novi uslov dugo bio Trampov cilj i da ne bi trebalo nikoga da iznenadi. Ipak, dva izvora bliska situaciji kažu da je to iznenadilo same pregovarače administracije o nuklearnom programu, za koje je uslov iz Abrahamovih sporazuma bio neočekivan.

Dok su negodovanja trajala, zvaničnici Bijele kuće su okrivili kolege iz Ministarstva energetike. Jedan izvor je rekao da je Bijela kuća zamolila Ministarstvo da ne objavljuje sporazum u srijedu. Ali Rajt, na koga su se ranije u Bijeloj kući žalili da djeluje previše samostalno, ipak je nastavio sa planom, koji je uključivao i intervju za Foks biznis.

Neki Trampovi pomoćnici vjeruju da sporazum nije konačan jer potrebna pisma još nisu poslata Kongresu. Izvor je dodao da su predsjednik i mnogi njegovi viši pomoćnici bili bijesni zbog odluke da se sporazum objavi.

Razlika između civilnih i nuklearnih programa

“Energetski tim predsjednika Trampa je potpuno usaglašen i uvijek je bio. Sporazum o civilnoj nuklearnoj energiji koji se pregovara između Sjedinjenih Država i Saudijske Arabije uslovljen je poštovanjem uspješnih Abrahamovih sporazuma od strane Saudijske Arabije, koji će pomoći u postizanju istinskog mira na Bliskom istoku”, rekla je portparolka Bijele kuće Tejlor Rodžers.

Ministarstvo energetike je naglasilo svoju blisku koordinaciju sa Bijelom kućom.

“Ovo su lažne vijesti. Ministarstvo energetike je blisko koordiniralo pregovore i objavljivanje ovih sporazuma sa Bijelom kućom i Stejt departmentom. Svaka tvrdnja o suprotnom je lažna”, rekao je portparol Ben Ditderih.

Dodao je da sporazum i Abrahamovi sporazumi “postižu zajednički cilj – postizanje trajnog mira kroz trgovinu, a ne kroz sukob”. Bijela kuća je bila dodatno nezadovoljna kada su pitanja o sporazumu dominirala konferencijom za novinare u četvrtak. Karolina Livit je istakla da je Tramp bio “glavni pregovarač” kada su je novinari pitali zašto novi uslov nije dio sredenjeg saopštenja.

Trampova objava na Truth Social u četvrtak ujutru takođe je iznenadila Saudijce. Za njih je nuklearni sporazum, koji nije uključivao zahtev za normalizaciju, bio veliki uspjeh. Sporazum bi omogućio obogaćivanje uranijuma na saudijskom tlu nakon ispunjavanja određenih uslova, ali bi takođe ograničio mogućnost agencije UN da prati sumnjiva tajna nuklearna postrojenja. CNN je kontaktirao saudijsku ambasadu za komentar.

Neočekivani preokret događaja

Ovaj potez predstavlja iznenadni preokret u godinama diplomatskih napora. Skoro dvije decenije nakon što su SAD i Saudijska Arabija prvi put objavile svoju namjeru da sarađuju u oblasti nuklearne energije, zemlje su postigle privremeni sporazum prošlog oktobra. Zatim su Rajt i njegov saudijski kolega izdali zajedničko saopštenje.

Trampova administracija je ubrzo nakon toga poslala izvještaj Kongresu jer sporazum nije zahtijevao od Saudijca da potpišu standardni “Dodatni protokol” sa Međunarodnom agencijom za atomsku energiju.

Ali nakon tog prvog obavještenja Kongresu, sporazum je mjesecima bio zaustavljen bez Trampovog odobrenja. Izvori su odlaganje pripisali zabrinutosti zbog rata u Iranu i strahovima da bi Kongres mogao da odbaci sporazume.

Zvaničnici Ministarstva energetike vjerovali su da imaju Trampov blagoslov krajem prošle nedjelje, pa je ministarstvo pokrenulo dugo planiranu medijsku kampanju. Volstrit žurnal je prvi objavio odobrenje sporazuma u ​​utorak uveče. Drugi izvor napominje da je Tramp možda odobrio “privremeni” sporazum, ali da to nije bilo zeleno svjetlo za finalizaciju ili objavu.

Prve reakcije stručnjaka na objavljene uslove bile su uglavnom negativne. Stručnjaci za nuklearno razoružanje bili su uznemireni odredbom o obogaćivanju uranijuma, kao i nedostatkom posvećenosti strožim zaštitnim merama Dodatnog protokola.

Saudijski uslovi

Međutim, zagovornici su se fokusirali na komercijalnu dobit i strateške proračune. Njihov argument je da Saudijci žele nuklearni program pod sopstvenim uslovima i da SAD treba da budu njihov partner kako bi održale uticaj na saudijske bezbjednosne prakse, u suprotnom će se Kina ili Rusija umešati.

Kritike u početku nisu pokolebale administraciju, koja je tvrdila da sporazum i njegove bilateralne zaštitne mjere “poštuju najviše standarde nuklearne bezbjednosti i neširenja oružja”. Ministarstvo energetike nastavilo je sa planom i održalo ceremoniju potpisivanja u srijedu.

Nakon što se situacija promijenila sljedećeg jutra, mnogi bliski administraciji odmah su posumnjali u kasnu intervenciju izraelskog premijera Benjamina Netanjahua, čije je nepoverenje prema saudijskom nuklearnom programu dobro poznato. Izrael, koji poseduje nuklearno oružje, protivi se svakom sporazumu koji bi mogao da omogući arapskim zemljama da naprave nuklearnu bombu.

Dva izraelska izvora su za CNN rekla da se Netanjahu nadao da će uticati na sporazum. Jedan od njih je dodao da je premijer nameravao da izvrši pritisak na Trampa da u sporazum uključi normalizaciju odnosa sa Rijadom, ili barem napredak ka njoj. Međutim, Bijela kuća je kasnije saopštila da Tramp i Netanjahu nisu razgovarali.

“Koliko ja znam, nisu”, rekao je Livit novinarima, dodajući da je Tramp samo ponovio svoj dugogodišnji stav o potrebi da Rijad normalizuje odnose sa Izraelom.

Pitanje odnosa sa Izraelom

Još jedna voditeljka Foksa, Kejli Mekenani, koja je bila portparolka u Trampovom prvom mandatu, takođe je postavila pitanje zašto je normalizacija odnosa izostavljena.

“Kada sam napuštala prvu Trampovu administraciju, rečeno mi je da smo prilično blizu normalizacije odnosa između Izraela i Saudijske Arabije“, rekla je.

Dužnosnici Bajdenove administracije doista su radili na tim naporima i vodili intenzivne pregovore o parametrima civilnog nuklearnog dogovora koji bi pratio objavu o normalizaciji odnosa s Izraelom. Ne, teroristički napadi Hamase 7. oktobra 2023. zaustavili su taj napredak.

Zbog izraelskog odgovora, koji je u arapskom svijetu doživljen kao nerazmjeran, pregovarači iz Bajdenove ere su počeli tražiti manje ambiciozan nuklearni dogovor, ali sporazum nikada nije postignut.

Od tada, princ Muhamed je jasno stavio do znanja da ne može da pristane na diplomatske odnose sa Izraelom bez održivog puta ka palestinskoj državi. Ipak, Tramp je ponovo postavio taj uslov u objavi na društvenim mrežama u 7:52, samo nekoliko minuta nakon što je panel Foksa raspravljao o tom pitanju.

Livit je kasnije tog jutra rekla da Tramp nije razgovarao sa moćnim prestolonasljednikom, de fakto vođom kraljevstva, u satima prije ili posle iznenadnog objavljivanja novih uslova. Ona je sugerisala da uslovi ne bi trebalo da budu iznenađenje.

“Predsjednik je u brojnim prethodnim prilikama direktno razgovarao sa Saudijcima o ovome, a administracija će nastaviti te razgovore”, rekla je.

 

Nastavi čitati

Aktuelno