Connect with us

Zanimljivosti

VJEŠTAČKA INTILIGENCIJA VAN KONTROLE: AI spletkari, laže i prijeti da će otkriti vanbračne afere

Najnapredniji AI sustavi više ne griješe samo slučajno – oni planiraju, obmanjuju i čak prijete ljudima. Istraživači vještačke inteligencije, s druge strane, jedva drže korak.

Rezultat neobuzdanog razvoja

Claude 4 kompanije Anthropic zaprijetio je da će otkriti vanbračnu aferu jednog inženjera kada mu je prijetilo isključenjem. Model o1 kompanije OpenAI pokušao je sam sebe prebaciti na vanjske servere, a potom je porekao da je to pokušao učiniti.

Ti slučajevi ukazuju na uznemirujuću činjenicu i više su od izolovanih slučajeva da razvojni inženjeri zapravo ne razumiju u potpunosti ponašanje vlastitih modela. Istraživači upozoravaju da su oni simptom dubljeg problema, jer nakon godina vrtoglavog napretka, čak ni vodeće kompanije i njihovi razvojni inženjeri ne razumiju u potpunosti kako njihovi sistemi vještačke inteligencije, temeljeni na rasuđivanju, funkcionišu ili zašto se ponašaju nepravilno.

Pojava strateške obmane

“O1 je bio prvi veliki model kod kojeg smo vidjeli ovakvo ponašanje”, rekao je za agenciju AFP Marius Hobbhahn, voditelj iz Apollo Researcha. Korisnici su prijavljivali da AI modeli lažu i izmišljaju dokaze.

“To nisu samo halucinacije. Riječ je o vrlo strateškoj vrsti obmane”, napominje Hobbhahn.

Simon Goldstein, profesor na Sveučilištu u Hong Kongu, istaknuo je da su ti noviji modeli skloniji problematičnom ponašanju.

Zasad se obmanjujuće ponašanje javlja samo tokom ekstremnih testova.

“Otvoreno je pitanje hoće li budući, sposobniji modeli težiti iskrenosti ili obmani”, upozorava Michael Chen iz METR-a, neprofitne organizacije za proučavanje AI-ja.

Ograničeni resursi, slab pristup i nepostojeća regulacija

Naučnici tvrde da kompanije ne dijele dovoljno informacija o razvoju AI modela. Chen je rekao da bi veća transparentnost „omogućila bolje razumijevanje i smanjenje obmanjujućeg ponašanja.“

“Istraživački sektor i neprofitne organizacije imaju višestruko manje računarskih resursa od AI kompanija. To nas jako ograničava”, rekao je za AFP Mantas Mazeika iz Centra za sigurnost vještačke inteligencije (CAIS).

Propisi Evropske unije uglavnom regulišu ljudsku upotrebu AI‐a, ali ne i ponašanje samih modela. U SAD-u Kongres bi mogao čak zabraniti saveznim državama donošenje vlastitih AI zakona.

Goldstein je upozorio da će se ti problemi povećati kako se autonomni AI agenti budu širili. “Mislim da svijest o tome još ne postoji”, kaže on.

Trka je važnija od sigurnosti?

Čak su i kompanije koje naglašavaju sigurnost, poput Anthropica, u stalnoj utrci. „Neprestano pokušavaju nadmašiti OpenAI i objaviti najnoviji model“, rekao je Goldstein.

Trenutno sposobnosti napreduju brže od razumijevanja i sigurnosti, zaključio je Hobbhahn.

Neki zagovaraju bolju interpretabilnost, dok drugi stručnjaci ostaju skeptični. Mazeika je napomenuo da bi obmanjujuće ponašanje moglo usporiti prihvaćanje AI‐a i time prisiliti kompanije na djelovanje.

Goldstein je čak predložio tužbe protiv kompanija ili pravnu odgovornost samih AI agenata, piše zimo.dnevnik.hr

Related Topics:

Zanimljivosti

VJEROVALI ILI NE: Porodica nudi 60.000 evra za osobu koja će hraniti, šetati i družiti se sa njihovim psom, I NE POSTOJI NIKAKVA CAKA

Jedna porodica traži idealnog kandidata za neobičan posao, da bude pratilac njihovom voljenom psu.

Osoba koja dobije posao živjeće na privatnom imanju, a njen glavni zadatak biće briga o životinji.

Pozicija pod nazivom „pratilac psa i pomoćnik na imanju“ nudi platu od 60.000 evra godišnje, uz kućicu na imanju. Partneri i kućni ljubimci su dobrodošli, a svi troškovi su pokriveni. Posao je punog radnog vremena, od nedjelje do četvrtka, od 9 do 18 časova, uz određenu fleksibilnost kada porodica boravi na svom imanju u Sariju.

U opisu posla navodi se: „Tražimo pouzdanu i brižnu osobu za poziciju pratioca psa i pomoćnika na imanju u privatnom domaćinstvu.

Ova uloga podrazumijeva stalno prisustvo na imanju, brigu o dobrobiti i svakodnevnoj rutini porodičnog psa, kao i pružanje lakše podrške ostatku domaćinstva.

Ovo je idealna prilika za nekoga ko uživa u mirnom, organizovanom okruženju i voli da održava uredan i funkcionalan dom.“

Glavni dio posla odnosi se na brigu o psu, svakodnevnu pažnju, druženje i praćenje rutine. Obaveze uključuju hranjenje, njegu i opšte zdravlje životinje.

Kandidat će pratiti ponašanje psa i voditi dnevnik njegovih aktivnosti, uključujući obroke, šetnje i posjete veterinaru, groomeru ili treneru kada je potrebno.

Pored brige o psu, osoba mora da vodi računa da dom „funkcioniše besprijekorno“ i da je „dobro održavan“. To podrazumijeva primanje pošiljki, reagovanje na eventualne probleme i opšti nadzor nad imanjem.

U oglasu, objavljenom na sajtu Achieve Hospitality u Velikoj Britaniji, naglašava se da ovo nije klasičan posao održavanja domaćinstva, ali se očekuje obavljanje manjih zadataka, odlazak u nabavku i pomoć u organizaciji i održavanju imanja.

Povremeno će biti potrebno podgrejati obroke koje priprema kuvar, spremiti jednostavne užine i srediti kuhinju nakon korišćenja. Porodica traži osobu koja je „topla, smirena i pouzdana“.

Kandidat treba da ima iskrenu ljubav prema psima i životinjama, kao i da mu odgovara život na imanju. Poželjne osobine su organizovanost, diskretnost, pouzdanost i poštovanje privatnosti.

– Prethodno iskustvo u privatnim domaćinstvima, radu na imanju, brizi o psima, radu sa djecom ili u sličnim poslovima je velika prednost – navodi se u oglasu, prenosi Nova.

 

Nastavi čitati

Zanimljivosti

UDAJE SE ZA VIKEND! Evo ko je novi muž Meline Džinović

Modna kreatorka Melina Džinović ponovo staje na ludi kamen, a njen vjerenik je bogati Englez po imenu Džefri Pol Arnold Dej (70).

Naime, Melina Džinović za vikend se udaje za britanskog biznismena Džefrija Pola Arnolda Deju u Monaku. Kako prenose domaći mediji, modna kreatorka je pripremila čak četiri vjenčanice za veliki dan, ali i smještaj za svoje goste iz cijelog svijeta.

Ubrzo nakon saznanja da se Melina udaje, u javnosti su isplivali brojni detalji o bogatstvu i prošlosti njenog vjerenika, uskoro supruga, Džefrija koji ima 70 godina.

Ko je Džefri Pol Arnold Dej?

Novi vjerenik Meline Džinović je bogati Englez po imenu Džefri Pol Arnold Dej (70). Ovaj uspješni biznismen je od modne kreatorke stariji tačno 25 godina i u svom vlasništvu posjeduje pravu imperiju.

Nedugo prije nego što je upoznao Melinu, Džefri je u junu prošle godine dobio dijete sa lijepom i mladom Ukrajinkom. Oni su bili kratko u vezi, koju su okončali dok je ona još bila trudna, ali je Englez dijete odmah po rođenju priznao i nije dozvolio da raskid utiče na njega.

Izvor blizak paru navodi da je Melina u vezu sa njim ušla tek nakon tog raskida, kada je on bio slobodan muškarac. Ona je u potpunosti prihvatila njegovu situaciju iz prošlosti i planirano je da upozna njegovo najmlađe dijete.

Nastavi čitati

Zanimljivosti

NAGLA PORAST! Cijena bitkoina skočila nakon otvaranja Ormuskog moreuza

Cijena najpoznatije kriptovalute bitkoin porasla je za pet odsto nakon objave Irana da je Ormuski moreuz otvoren za komercijalni saobraćaj do kraja primirja, te je dostigla 77.700 dolara, podaci su “KriptoSlejt”.

Time je nastavljen sedmični rast vrijednosti bitkoina u kojem je ojačao gotovo sedam odsto, sa nivo ispod 70.000 dolara.

Riječ je o najvišoj cijeni od pada početkom februara, prenosi Srna.

Nagli rast pokrenuo je snažan talas likvidacija pozicija sa polugom na kripto-berzama.

Podaci “KoinGlasaa” pokazuju da je za samo jedan čas likvidirano oko 243 miliona dolara.

Najveće gubitke pretrpjeli su trgovci koji su ulagali u pad cijene i izgubili više od 100 miliona dolara.

U posljednja 24 časa ukupne likvidacije premašile su 720 miliona dolara, što je jedan od najvećih talasa zatvaranja pozicija od sredine marta.

Nastavi čitati

Aktuelno