Zanimljivosti
VJEŠTAČKA INTILIGENCIJA VAN KONTROLE: AI spletkari, laže i prijeti da će otkriti vanbračne afere
Najnapredniji AI sustavi više ne griješe samo slučajno – oni planiraju, obmanjuju i čak prijete ljudima. Istraživači vještačke inteligencije, s druge strane, jedva drže korak.
Rezultat neobuzdanog razvoja
Claude 4 kompanije Anthropic zaprijetio je da će otkriti vanbračnu aferu jednog inženjera kada mu je prijetilo isključenjem. Model o1 kompanije OpenAI pokušao je sam sebe prebaciti na vanjske servere, a potom je porekao da je to pokušao učiniti.
Ti slučajevi ukazuju na uznemirujuću činjenicu i više su od izolovanih slučajeva da razvojni inženjeri zapravo ne razumiju u potpunosti ponašanje vlastitih modela. Istraživači upozoravaju da su oni simptom dubljeg problema, jer nakon godina vrtoglavog napretka, čak ni vodeće kompanije i njihovi razvojni inženjeri ne razumiju u potpunosti kako njihovi sistemi vještačke inteligencije, temeljeni na rasuđivanju, funkcionišu ili zašto se ponašaju nepravilno.
Pojava strateške obmane
“O1 je bio prvi veliki model kod kojeg smo vidjeli ovakvo ponašanje”, rekao je za agenciju AFP Marius Hobbhahn, voditelj iz Apollo Researcha. Korisnici su prijavljivali da AI modeli lažu i izmišljaju dokaze.
“To nisu samo halucinacije. Riječ je o vrlo strateškoj vrsti obmane”, napominje Hobbhahn.
Simon Goldstein, profesor na Sveučilištu u Hong Kongu, istaknuo je da su ti noviji modeli skloniji problematičnom ponašanju.
Zasad se obmanjujuće ponašanje javlja samo tokom ekstremnih testova.
“Otvoreno je pitanje hoće li budući, sposobniji modeli težiti iskrenosti ili obmani”, upozorava Michael Chen iz METR-a, neprofitne organizacije za proučavanje AI-ja.
Ograničeni resursi, slab pristup i nepostojeća regulacija
Naučnici tvrde da kompanije ne dijele dovoljno informacija o razvoju AI modela. Chen je rekao da bi veća transparentnost „omogućila bolje razumijevanje i smanjenje obmanjujućeg ponašanja.“
“Istraživački sektor i neprofitne organizacije imaju višestruko manje računarskih resursa od AI kompanija. To nas jako ograničava”, rekao je za AFP Mantas Mazeika iz Centra za sigurnost vještačke inteligencije (CAIS).
Propisi Evropske unije uglavnom regulišu ljudsku upotrebu AI‐a, ali ne i ponašanje samih modela. U SAD-u Kongres bi mogao čak zabraniti saveznim državama donošenje vlastitih AI zakona.
Goldstein je upozorio da će se ti problemi povećati kako se autonomni AI agenti budu širili. “Mislim da svijest o tome još ne postoji”, kaže on.
Trka je važnija od sigurnosti?
Čak su i kompanije koje naglašavaju sigurnost, poput Anthropica, u stalnoj utrci. „Neprestano pokušavaju nadmašiti OpenAI i objaviti najnoviji model“, rekao je Goldstein.
Trenutno sposobnosti napreduju brže od razumijevanja i sigurnosti, zaključio je Hobbhahn.
Neki zagovaraju bolju interpretabilnost, dok drugi stručnjaci ostaju skeptični. Mazeika je napomenuo da bi obmanjujuće ponašanje moglo usporiti prihvaćanje AI‐a i time prisiliti kompanije na djelovanje.
Goldstein je čak predložio tužbe protiv kompanija ili pravnu odgovornost samih AI agenata, piše zimo.dnevnik.hr
Zanimljivosti
SVIJET PRED NAJGORIM SCENARIJEM! Isplivao dokument od 1.350 stranica koji krije jezivu istinu o sudbini čovječanstva!
Više od 600 naučnika iz 86 zemalja upozorilo je da se stanje svjetskih okeana ubrzano pogoršava usljed klimatskih promjena, zagađenja i sve većeg pritiska ljudskih aktivnosti.
Ključni nalazi izvještaja UN-a:
- U izradi izvještaja učestvovalo je 600 naučnika iz 86 zemalja.
- Okeani se zagrijavaju brže nego ranije.
- Nivo mora porastao je sa oko 2 mm godišnje na 4,3 mm godišnje.
- Zakiseljavanje okeana ugrožava morske ekosisteme.
- Mikroplastika utiče na više od 4.000 vrsta.
Naime, u novom izvještaju Ujedinjenih nacija navodi se da su pojedini morski ekosistemi već dostigli ili se približavaju kritičnim tačkama nakon kojih bi posljedice mogle biti teško popravljive.
Da se stanje okeana “pogoršava”, upozorile su Ujedinjene nacije u novom naučnom izvještaju i pozvale države na “hitno djelovanje” protiv ubrzanog zagrijevanja, zagađenja i ugrožavanja podvodnog života.
“Okean je temelj života na Zemlji. Njegovo zdravlje je ozbiljno ugroženo jer se ekosistemi i staništa približavaju kritičnim tačkama preokreta ili su ih već prešli“, pišu autori izvještaja objavljenog u ponedjeljak, u čijoj je izradi učestvovalo 600 naučnika iz 86 zemalja.
U uvodu tog dokumenta dugog 1.350 stranica, Treće globalne procjene okeana (WOA III), autori poručuju da je potrebno hitno djelovanje. Izvještaj obuhvata period od 2018. do 2023. godine, prenosi France Presse.
Gutereš: Okean nije neiscrpan resurs
“Ne možemo nastaviti da okean posmatramo kao neiscrpan resurs“, upozorio je generalni sekretar UN Antonio Gutereš.
“Ovaj izvještaj mora biti alarm”, reagovala je nevladina organizacija Greenpeace, pozivajući na “stvaranje potpuno zaštićenih morskih rezervata u kojima će biti zabranjena svaka ljudska eksploatatorska aktivnost”, industrijski ribolov i rudarenje u dubokom moru, prenosi Nova.
Izvještaj ističe višestruke “pritiske” sa kojima se okeani suočavaju, a koji mijenjaju njihova fizička i hemijska svojstva – od klimatskih promjena do zagađenja i demografskih kretanja. Trenutno 37 odsto svjetskog stanovništva živi unutar 100 kilometara od obale.
Zagrijavanje i zakiseljavanje okeana
Jedna od posljedica je ubrzano zagrijavanje: 16 odsto ukupnog zagrijavanja okeana u posljednjih 70 godina dogodilo se nakon 2018. godine, prenosi France Presse. Okeani se sada suočavaju i sa pojačanim zakiseljavanjem, a posljedica zagrijavanja je i ubrzanje porasta nivoa mora zbog toplotnog širenja vode, uz topljenje glečera.
Sa prosječnih dva milimetra godišnje prije 2015. godine, porast nivoa okeana povećao se na 4,3 milimetra godišnje u 2023. godini.
Arktik bez leda već do 2035. godine?
Hipoteza o Arktičkom okeanu bez leda krajem ljeta do 2035. godine sada se smatra mogućom, dodaje se.
Opasna sredstva za čišćenje, antibiotici i plastika
Neki istorijski zagađivači poput žive su u opadanju, ali se povećava prisustvo drugih, poput sredstava za čišćenje, ostataka lijekova kao što su antibiotici, a posebno plastike, čiji najsitniji fragmenti utiču na više od 4.000 vrsta.
U izvještaju se naglašava da je usvajanje Sporazuma o otvorenom moru, koji je stupio na snagu u januaru, “odlučujući korak”, ali da “izazov i dalje ostaje prevazilaženje fragmentacije“ između država i sektorskih interesa u trenutku kada se multilateralizam nalazi u ozbiljnoj krizi.
Zanimljivosti
ŠTA JE SLJEDEĆE: Napravili sir od bakterija slavnih osoba
Na prvi pogled zvuči kao šala ili scenario za neobičan naučnofantastični film, ali riječ je o stvarnom projektu koji je spojio umjetnost, nauku i hranu na način koji je istovremeno izazvao gađenje i znatiželju.
U londonskom Muzeju Viktorije i Alberta (Victoria and Albert Museum) još 2019. godine predstavljeni su sirevi napravljeni uz pomoć bakterija prikupljenih sa tijela poznatih britanskih ličnosti.
Neobični projekat bio je dio izložbe ”Hrana: Veća od tanjira”, posvećene budućnosti ishrane i odnosu čovjeka prema mikroorganizmima.
Sir od bakterija iz pazuha, nosa i pupka
U okviru projekta nazvanog ”Selfmade”, naučnici i umjetnici prikupili su bakterije sa različitih dijelova tijela poznatih osoba, uključujući pazuhe, nos, uši i pupak.
Mikroorganizmi su zatim uzgojeni u laboratoriji i korišteni kao starter kulture u procesu proizvodnje sira.
Drugim riječima, bakterije sa ljudske kože pomogle su da se mlijeko pretvori u sir.
Među poznatim ličnostima koje su učestvovale u projektu bili su slavni kuvar Heston Blumental (Heston Blumenthal), muzičar Aleks Džejms (Alex James) iz grupe Blur, reper Profesor Grin (Professor Green), spisateljica Rubi Tando (Ruby Tandoh) i Grejem “Sags” Mekferson (Graham “Suggs” McPherson), pjevač grupe Madness.
Mikrobni portreti poznatih
Svaka osoba bila je povezana sa određenom vrstom sira, od čedara i mocarele do stiltona.
Iako je mnogima sama ideja djelovala odbojno, upravo je to bila jedna od glavnih poruka izložbe.
Autori projekta željeli su da pokažu kako bakterije nisu nužno nešto prljavo ili opasno. Naprotiv, bez mikroorganizama ne bi postojale brojne namirnice koje svakodnevno koristimo, uključujući jogurt, hljeb, vino, pivo i sir.
Sirevi napravljeni u okviru projekta nisu bili namijenjeni degustaciji. Umjesto toga, bili su izloženi pod staklenim kupolama kao umjetničko-naučni eksponati.
Autori su ih opisivali kao svojevrsne ”mikrobne portrete” poznatih osoba.
Izazvali gađenje, ali i fascinaciju
Posjetioci izložbe umjesto fotografija ili autograma gledali su sir nastao pomoću bakterija karakterističnih za određenu osobu.
Koliko god ideja djelovala neobično, cilj projekta nije bio samo da šokira javnost.
Izložba je trebalo da podstakne ljude da drugačije razmišljaju o hrani, ljudskom tijelu, higijeni i ulozi bakterija u svakodnevnom životu.
Sir napravljen od bakterija slavnih osoba vjerovatno nikada neće završiti na nečijem tanjiru, ali je u jednom svakako uspio – privukao je ogromnu pažnju javnosti i pokrenuo raspravu o granicama između nauke, umjetnosti i hrane, prenosi Dnevno.hr.
Zanimljivosti
NIJE ŠALA! UIO prodaje švercovane lame
Uprava za indirektno oporezivanje UIO Bosne i Hercegovine, Regionalni centar Tuzla pokušaće prekosutra da proda tri lame, životinje čije je porijeklo Južna Amerika.
Njih je na jednom imanju u graničnom dijelu sa Srbijom prošlog mjeseca zatekla Granična policija i oduzela od vlasnika jer su zatečene bez veterinarsko zdravstvene dokumentacije.
„Za iste je određen karantin i pregledane su od strane veterinarskog inspektora. Osnovni sud u Bijeljini je pokrenuo zahtjev za pokretanje prekršajnog postupka protiv fizičkog lica. Lame su predate UIO, RC Tuzla s ciljem dalje prodaje pravnim licima“, rečeno je iz UIO BIH na upit CAPITAL-a.
Kako su dodali, životinje su starosti između tri i šest mjeseci.
Inače, pravo učešća na licitaciji će imati samo pravna lica uz prethodno predočenu ličnu kartu ili pasoš, odnosno punomoć o zastupanju.
„Lica zaposlena u Upravi za indirektno oporezivanje, kao i njihovi srodnici do trećeg koljena linijskog ili tazbinskog krvnog srodstva ne mogu biti ponuđači“, navodi se u oglasu.
Direktna prodaja će se održati u prostorijama sjedišta Regionalnog centra Tuzla.
Capital
-
Politika2 dana agoVIŠE IZVORA POTVRDILO PRLJAV PAZAR! Vukanović zbog tajnog pakta sa CRNATKOM politički likvidira Milana Savanovića!
-
Politika3 dana ago“DOBIĆE ORDEN OD VLASTI”! Kako je Vukanović „sahranio“ SDS
-
Politika1 dan agoSUMRAK ZDRAVOG RAZUMA U PRIJEDORU! Roditelji masovno postaju “Ukrajinci i Crnogorci” da bi upisali djecu u vrtić
-
Politika1 dan agoTAJNA OPERACIJA U PRIJEDORU! Kako je Vukanović progurao Radojičićevog ČOVJEKA NA ČELO SVOJE LISTE!
-
Politika3 dana agoELEK PROZVAO MINISTRA BUDIMIRA: “Čuva ga 30 policajaca dok glođe rebarca na Jagnjijadi”
-
Politika16 sati agoISKORIŠTEN PA ODSTRIJELJEN! Kako je Savanović postao prva žrtva tajnog saveza Vukanovića i Crnatka (FOTO)
-
Politika2 dana agoNEMA KRAJA DUŽNIČKOM LUDILU! Vlada Srpske se danas ponovo zadužila za novih 50,9 miliona maraka!
-
Politika2 dana agoKO PREUZIMA TRON NAKON DODIKOVOG ULTIMATUMA? Fotelja Anje Ljubojević prazna, evo ko ima najveće šanse
