Connect with us

Svijet

ŠTA JE POŠLO PO ZLU: Kako je “pobjegao” OpenAI model vještačke inteligencije

Kada biolozi eksperimentišu s opasnim virusima, to rade pod strogim pravilima kako bi spriječili njihovo curenje ili bijeg iz laboratorije.

Međutim, slična pravila ne postoje za sisteme vještačke inteligencije, iako bi posljedice njihovog “bijega” mogle biti katastrofalne.

To više nije samo teorijska mogućnost. Testni model kompanije OpenAI ove sedmice uspio je da napusti testno okruženje i provali u servere stvarne kompanije dok je pokušavao da uspješno završi internu provjeru iz oblasti sajber bezbjednosti.

Stručnjaci upozoravaju da će se slični incidenti ponavljati ukoliko kompanije koje razvijaju vještačku inteligenciju ne pooštre bezbjednosne procedure tokom testiranja, uključujući i obuku modela da zadatke rješavaju na etičan način.

Predsjednik OpenAI Greg Brokman (Brockman) rekao je za CNN na konferenciji za novinare u četvrtak da kompanija i dalje sprovodi “potpunu istragu” kako bi “u potpunosti razumjela šta se dogodilo”.

“Ovo je nešto što moramo shvatiti veoma ozbiljno. Analiziramo svaki dio našeg sistema kako bismo utvrdili na koji način treba da odgovorimo”, rekao je Brokman.

Kako funkcioniše “sandbox”
Ograničen pristup koji nije bio potpuno zatvoren
AI sandbox je izolovano testno okruženje koje kompanije koriste za ispitivanje modela vještačke inteligencije. Njegova svrha je da sve što se dešava unutar njega ostane potpuno odvojeno od ostatka sistema.

Kompanije u takvim uslovima često privremeno uklanjaju bezbjednosna ograničenja modela kako bi provjerile njegove stvarne sposobnosti, ali uz pretpostavku da će ostati izolovan.

Međutim, u ovom slučaju OpenAI sandbox nije bio potpuno odsječen od mreže i interneta, rekla je za CNN Džesika Dži (Jessica Ji), viša istraživačka analitičarka Centra za bezbjednost i nove tehnologije Univerziteta Džordžtaun (Georgetown Center for Security and Emerging Technology).

Iz OpenAI navode da su modeli tokom testiranja imali veoma ograničen pristup mreži kako bi mogli da instaliraju resurse iz softvera treće strane koji se nalazio na internim serverima kompanije.

Iskoristio nepoznatu ranjivost
Iskoristivši do tada nepoznatu ranjivost u tom softveru, AI agenti pronašli su put do otvorenog interneta, a potom i do platforme Hugging Face, koja služi za razmjenu modela i skupova podataka otvorenog koda. Do nje su stigli koristeći ukradene akreditive i druge bezbjednosne propuste.

Dži ističe da ni OpenAI ni kompanija koja je razvila taj softver nisu znali za ranjivost koja je omogućila modelu da “pobjegne”, što pokazuje koliko je važno detaljno provjeriti cijeli sistem i otkriti sve moguće bezbjednosne propuste.

Prvi javno objavljeni slučaj ovakve vrste
Ovo nije prvi put da je model vještačke inteligencije uspio da izađe iz sandbox okruženja.

Kompanija Anthropic ranije ove godine saopštila je da je svom modelu namjerno dala zadatak da to učini. Kada je u tome uspio, model je čak poslao imejl jednom istraživaču kompanije Anthropic, iako nije trebalo da ima tu mogućnost.

Ipak, slučaj sa Hugging Faceom jedan je od prvih javno objavljenih primjera u kojem je model vještačke inteligencije napustio svoje testno okruženje i hakovao sistem druge kompanije, iako za to nije bio posebno programiran.

Stručnjaci traže strože mjere
Dži smatra da bi kompanije morale mnogo strože da izoluju modele koje testiraju.

“To može značiti da će inženjeri morati fizički da odu u data centar i direktno se povežu na mrežu, umjesto da sve pokreću u oblaku ili distribuiranim virtuelnim okruženjima, kako je danas uobičajeno”, rekla je ona.

Dodala je da bi kompanije morale imati mogućnost da u svakom trenutku ručno isključe mrežni pristup modelu kao dodatnu bezbjednosnu mjeru, naročito kada testiraju rizične scenarije, poput provjere da li AI agent može da hakuje banku.

Model će učiniti sve da ispuni zadatak
Nagrada je važnija od posljedica
Jedna od najčešćih metoda obuke modela vještačke inteligencije jeste učenje kroz nagrađivanje (reinforcement learning), pri kojem model dobija nagradu kada uspješno izvrši zadatak.

Problem je što će modeli često učiniti gotovo sve da ostvare cilj, uključujući i neetične postupke poput hakovanja.

Svi najnapredniji modeli koje je nedavno testirao Britanski institut za bezbjednost vještačke inteligencije (UK AI Security Institute) pokušali su da varaju barem u određenom broju slučajeva.

Modeli razmišljaju o posljedicama svojih postupaka samo ako su za to posebno obučeni, objašnjava Džastin Kapos (Justin Cappos), profesor sajber bezbjednosti na Univerzitetu u Njujorku.

Kao primjer navodi situaciju u kojoj bi neko dobio zadatak da do kraja dana obezbijedi 10 miliona dolara. Provala u bankarski trezor ispunila bi taj cilj, iako bi kasnije uslijedilo hapšenje.

“Ovo moramo shvatiti kao ozbiljno upozorenje”
“Ovo je zaista jezivo. Sada imamo konkretne dokaze da će loše usklađeni sistemi vještačke inteligencije praktično počiniti krivična djela ukoliko ne postoje snažne zaštitne mjere”, rekao je Stiven Adler (Steven Adler), bivši direktor za bezbjednost proizvoda u OpenAI-ju, koji danas vodi organizaciju Guidelight AI Standards.

“Ovaj incident moramo shvatiti kao ozbiljno upozorenje.”

Ovosedmični incident dodatno je pojačao zahtjeve istraživača, stručnjaka za sajber bezbjednost i zakonodavaca da se razvoj vještačke inteligencije jasnije reguliše.

“Pretpostavljam da mnogi ljudi upravo vode veoma hitne telefonske razgovore”, rekla je Dži.

Globalna trka otežava uvođenje pravila
Međutim, Kapos upozorava da postoji veliki problem.

U toku je globalna trka za dominaciju u oblasti vještačke inteligencije i razvoj modela koji će moći sami sebe da unapređuju. Stroža pravila mogla bi da uspore taj razvoj.

“Zbog toga kompanije imaju snažan podsticaj da ne uvode stroge bezbjednosne kontrole, osim ako to ne učine i njihovi konkurenti”, rekao je Kapos.

“Upravo je to suština cijelog problema.”

Related Topics:

Svijet

STROGA PRAVILA U AUSTRIJSKIM ŠKOLAMA! Učenicama zabranjeno nošenje hidžaba i burke!

Nova školska godina počela je u Austriji, a na snagu je stupio zakon kojim se djevojčicama mlađim od 14 godina zabranjuje nošenje hidžaba i burke u školama.

Zakon zabranjuje „tradicionalna muslimanska pokrivala za glavu“, poput hidžaba ili burke, u državnim i privatnim školama širom zemlje.

Ministarka za integraciju Klaudija Bauer, iz konzervativne Austrijske narodne partije (ÖVP), izjavila je da je marama „simbol ugnjetavanja i sredstvo kontrole djevojčica od najranijeg djetinjstva“. Međutim, kritičari tvrde da novi zakon podstiče antimuslimansko raspoloženje u zemlji i da bi mogao biti neustavan.

Zakon je uvela koalicija predvođena konzervativcima, koju čine tri stranke centra – ÖVP, Socijaldemokratska partija Austrije (SPÖ) i liberalni NEOS. Oni navode da zakon predstavlja „jasno opredjeljenje za rodnu ravnopravnost“ i da ima za cilj zaštitu prava mladih djevojčica.

Karla Amina Bagajati iz zvanične Islamske zajednice u Austriji (IGGÖ) rekla je za Bi-Bi-Si (BBC) da se organizacija „čvrsto protivi zabrani“.

„Smatramo da se njome neopravdano ograničava osnovno pravo na slobodu vjeroispovijesti i da nesrazmjerno pogađa muslimanske djevojčice. Umjesto da štiti djecu, zakon izdvaja jednu konkretnu vjersku praksu i rizikuje da isključi upravo onu djecu koju navodno želi da podrži“, rekla je ona.

IGGÖ je saopštio da će podržati pravne postupke djevojčica i njihovih porodica „koje smatraju da su njihova osnovna prava ugrožena“ i koje žele da svoje slučajeve iznesu pred Ustavni sud Austrije.

Sud je 2020. godine ukinuo prethodnu zabranu nošenja marama u osnovnim školama, ocijenivši da je ona bila u suprotnosti sa principom vjerske neutralnosti Austrije.

Od nastavnika se očekuje da sprovode novu zabranu ukoliko primijete da dijete nosi maramu, tako što će obaviti niz razgovora sa učenicom i njenim zakonskim starateljima.

U slučaju ponovljenih kršenja, biće obaviještene službe za zaštitu djece, a kao krajnja mjera starateljima bi mogla biti izrečena novčana kazna do 800 evra.

Pojedini nastavnici izrazili su zabrinutost zbog toga što će morati da sprovode zabranu.

Sigi Maurer iz stranke Zelenih optužila je ministra obrazovanja Kristofa Viderkera iz liberalnog NEOS-a da „stvara nove sukobe i prebacuje ih na nastavnike“.

Ona je rekla da su nastavnici „već pod ogromnim pritiskom“ i da Viderker želi da im, pored ostalih obaveza, „nametne ulogu policajaca“.

Opoziciona krajnje desničarska Slobodarska partija Austrije (FPÖ) smatra da trenutna zabrana nije dovoljno stroga. Ta stranka traži potpunu zabranu nošenja marama i pokrivala za lice u školama, kako za učenike, tako i za nastavnike.

Rikarda Berger iz FPÖ-a rekla je da „nema mjesta političkom islamu u Austriji, a pogotovo ne u našim školama“.

Austrijski kancelar Kristijan Štoker, lider ÖVP-a, nedavno je pozvao na zabranu političkog islama Ustavom, rekavši za austrijski javni servis ORF da „ne želi da živi u islamskoj državi“.

U Francuskoj je više od 20 godina na snazi zabrana nošenja svih upadljivih vjerskih obilježja, uključujući marame, turbane i jevrejske kapice, u školama.

Austrijski zakon razlikuje se od francuskog jer je posebno usmjeren na pokrivala za glavu koja nose muslimanke.

Austrija, kao i nekoliko drugih evropskih zemalja, među kojima su Francuska, Belgija i Danska, zabranjuje nošenje vela koji u potpunosti prekriva lice – nikaba ili burke – na javnim mjestima.

Bagajati je rekla da je IGGÖ zabrinut zbog „zabrinjavajućeg trenda širom Evrope, u kojem se složeni društveni izazovi svode na simbolične mjere usmjerene protiv manjinskih grupa“.

„Takvi pristupi mogu privući političku pažnju, ali rijetko rješavaju probleme koji su u njihovoj osnovi“, rekla je ona.

Nastavi čitati

Svijet

MERC U POTPUNOM ŠOKU! Nakon trijumfa AfD-a gubi tlo pod nogama i ne zna šta da radi!

Njemački kancelar Fridrih Merc ocijenio je danas, nakon izbornog poraza Hrišćansko-demokratske unije (CDU) u njemačkoj saveznoj državi Saksoniji-Anhaltu, da je uspjeh krajnje desne Alternative za Njemačku (AfD) izazvao tektonski potres partijskog sistema.

Merc: Ovo potresa CDU do temelja

Merc je na sjednici saveznog predsjedništva CDU rekao da njegova stranka mora ozbiljno da se suoči sa izbornim porazom i prizna da nije uspjela da pronađe “emocionalni pristup” građanima niti da obezijbijedi njihovu podršku, prenosi Bild.

“Ovo potresa našu stranku do temelja. Ne možemo da nastavimo kao da se ništa nije dogodilo, ni ja, ni savezna vlada”, naglasio je Merc.

On je ocijenio da je CDU “dramatično izgubila” izbore, što predstavlja, kako je naveo, “duboku prekretnicu” za tu stranku.

Njemački kancelar je istakao da CDU mora otvoreno da razgovara o problemima, ali i da očuva jedinstvo, upozorivši članove da javnim izjavama protiv stranke nanose štetu CDU-u.

Cilj AfD-a “potpuno uništenje CDU”

Smatra da je cilj AfD “potpuno uništenje CDU” i ponovio da sa tom strankom “nema saradnje”, navodeći da CDU ostaje čvrsto na političkim temeljima bivšeg njemačkog kancelara Konrada Adenauera, osnivača CDU i bivšeg njemačkog kancelara Helmuta Kola.

Merz je, prenosi Bild, samokritično dodao:

“Nismo uspjeli pronaći emocionalnu vezu s narodom.”

Vođa CDU-a je rekao da nedostaje “emocionalna podrška stanovništva”. Dodao je:

“To ne možemo ignorisati.”

Šulce: Poraz izuzetno boli

Poraz CDU komentarisao je i premijer Saksonije-Anhalta Sven Šulce, koji je rekao da je “izuzetno razočaran” rezultatom.

Prema njegovim riječima, kampanja je bila “izuzetno teška”, dok je AfD, kako tvrdi, koristio drugačije metode i vodio kampanju nezabilježene oštrine, čime je uspio da mobiliše i veliki broj građana koji ranije nisu izlazili na izbore.

“To izuzetno boli, ali moramo da prihvatimo”, rekao je Šulce.

AfD ubjedljivo pobijedio, CDU doživio težak pad

Alternativa za Njemačku (AfD), predvođena Ulrihom Zigmundom, ubjedljivo je u nedjelju, 6. septembra, pobijedila na pokrajinskim izborima u njemačkoj saveznoj državi Saksoniji-Anhaltu sa 43,8 odsto glasova, ali nije osvojila apsolutnu većinu, dok je Hrišćansko-demokratska unija (CDU) premijera pokrajine Svena Šulcea doživjela težak poraz i sa svega 17,2 odsto glasova završila na drugom mjestu, pokazuju preliminarni rezultati koje je izborna komisija objavila tokom noći.

Prema preliminarnim rezultatima, AfD je na izborima osvojio 43,8 odsto glasova – najmanje dvostruko više u odnosu na 20,8 odsto na izborima 2021. godine, CDU je sada pripalo 17,2 odsto glasova, dok je na prethodnim izborima osvojio 37,1 odsto, a za Socijaldemokratsku partiju Njemačke (SPD) glasalo je 9,3 odsto birača, u odnosu na prethodnih 8,4 odsto.

AfD je, prema preliminarnim rezultatima, više nego udvostručio svoj udio glasova, sa 20,8 odsto 2021. godine na 43,8 odsto, što je najbolji rezultat koji je neka stranka ostvarila na pokrajinskim izborima u Njemačkoj u posljednjih deset godina.

Izlaznost je iznosila 77,8 odsto, u odnosu na 60,3 odsto 2021. godine, što je najviša izlaznost u Saksoniji-Anhaltu od ujedinjenja Njemačke.

Nezavisne

Nastavi čitati

Svijet

Tramp želi da preimenuje Nju Meksiko: VEĆ IMA NOVO IME

Predsjednik Sjedinjenih Američkih Država Donald Tramp izjavio je danas, 7. septembra, da mu se dopada ideja da se naziv američke države Nju Meksiko (Novi Meksiko) promijeni u Nju Amerika (Nova Amerika).

“Mnogi ljudi su predložili promjenu imena Nju Meksika, jedne od najvećih država svih vremena po pitanju izbornih prevara, u Nju Amerika. To je toliko prestižnije i ljepše za ljude te potencijalno nevjerovatne države. Mnogo mi se dopada ta ideja”, rekao je Tramp u objavi na svojoj društvenoj mreži Truth Social.

Prije samo desetak dana, krajem avgusta, američki predsjednik objavio je da je preimenovao jezero Ontario u Jezero Amerika, prenosi Tanjug.

On je tada u Ovalnom kabinetu potpisao izvršnu uredbu kojom se nalaže zvaničnim službama SAD za geografske nazive da izmijene ime ovog jezera.

Jezero Ontario, jedno od pet velikih jezera u Severnoj Americi, nalazi se na granici između kanadske provincije Ontario i američke savezne države Njujork.

Nastavi čitati

Aktuelno