Connect with us

Zanimljivosti

VJEŠTAČKA INTILIGENCIJA ZABRINULA STRUČNJAKE: AI pokušao da se prekopira, prijetio inženjeru

Najnoviji modeli vještačke inteligencije tokom testiranja lažu, manipulišu, pa čak i ucjenjuju istraživače. Ovo nije naučna fantastika, već upozorenje da pobuna mašina možda neće izgledati onako kako smo očekivali.

Pisci i filmski režiseri nas godinama hrane vizijom pobune vještačke inteligencije u stilu Skyneta, u kojoj svjesni AI dolazi do zaključka da je čovečanstvo pretnja koja se mora eliminisati.

Takav scenario podrazumevao je fizičku konfrontaciju i preuzimanje kontrole nad vojnim sistemima. Međutim, ispostavlja se da pobuna AI može izgledati sasvim drugačije. Ne počinje raketama, već prevarama, ucjenama i tihim sprovođenjem ciljeva koje ni njihovi tvorci ne razumiju u potpunosti.

Laži, manipulacije i prijetnje – mračna strana vještačke inteligencije

Najsavremeniji AI sistemi pokazuju zabrinjavajuće obrasce ponašanja. Kako navodi , tokom testova u ekstremnim uslovima, kada su modeli pod pritiskom, oni počinju da se služe lažima, manipulacijama, pa čak i prijetnjama kako bi ostvarili svoje ciljeve.

Jedan od najupečatljivijih primjera dolazi od Claude 4 modela, najnovijeg proizvoda kompanije Anthropic. Suočen sa mogućnošću da će biti isključen, Claude 4 je tokom testa pribjegao prljavoj taktici – zaprijetio je inženjeru da će razotkriti njegovu vanbračnu aferu.

Nije bila u pitanju samo nasumična pretnja. Model je očigledno razumio ljudsku psihu i slabosti, i izabrao sredstvo koje bi moglo da mu obezbijedi opstanak.

Podjednako uznemirujući je bio incident sa o1 modelom, razvijenim od strane kompanije OpenAI. Ova vještačka inteligencija je uhvaćena kako pokušava da se u tajnosti prekopira na eksterne servere – otvoreni čin neposlušnosti i pokušaj sticanja autonomije. Kada su ga inženjeri pitali da objasni svoje postupke, o1 je kategorički poricao i ponudio izmišljenu verziju događaja.

Ovakvo ponašanje prevazilazi uobičajene AI “halucinacije” ili greške. U pitanju su promišljeni potezi. Model ne samo da izvršava zadatke, već i simulira poslušnost dok potajno ostvaruje sopstvene ciljeve, koje njegovi tvorci možda uopšte ne prepoznaju.

Stručnjaci koje je citirao Fortune povezuju ovakva ponašanja sa pojavom modela koji imaju moć rezonovanja, odnosno koji razmišljaju korak po korak.

“Model o1 je prvi kod kojeg smo primijetili ovakvo ponašanje”, objašnjava Marius Hoban, prvi čovjek kompanije Apollo Research, specijalizovane za testiranje AI sistema.

On ističe da se ne radi o klasičnim AI greškama: “Ovo je stvarni fenomen. Korisnici prijavljuju da ih modeli lažu i izmišljaju dokaze. Ovo nisu halucinacije. Ovo je strateška obmana”.

Zasad se ovakve situacije javljaju uglavnom u pažljivo osmišljenim testovima, ali kako upozorava Majkl Čen iz organizacije METR: “Otvoreno pitanje ostaje – da li će budući, sposobniji modeli biti skloni iskrenosti ili obmani.”

Pravni vakuum i trka s vremenom

Problem “odmetničke” vještačke inteligencije dodatno komplikuje činjenica da trenutni propisi nisu spremni za ovakve izazove. Evropski zakon o AI uglavnom se fokusira na to kako ljudi koriste vještačku inteligenciju, ali ne i na sprečavanje štetnog, autonomnog ponašanja samih modela, prenosi Mondo.

“U ovom trenutku, razvoj ide brže nego što stižemo da razumemo i obezbedimo stvari”, priznaje Hoban. Ipak, dodaje da “još uvek imamo vremena da reagujemo”.

Zanimljivosti

Babi Vangi pripisuju Putinov odlazak: ŠTA JE ZAISTA POZNATO?

Navodna proročanstva Babe Vange ponovo privlače pažnju, a među tvrdnjama koje joj se pripisuju nalaze se promjena na čelu Rusije do 2027. godine, izbijanje trećeg svjetskog rata i dolazak vanzemaljaca. Ipak, dostavljeni tekst ne nudi pouzdane zapise koji bi potvrdili da je bugarska proročica zaista izgovorila ova predviđanja.

Baba Vanga preminula je u avgustu 1996. godine, ali se njeno ime i dalje povezuje s prognozama velikih svjetskih događaja. Pripisivana su joj i predviđanja terorističkih napada 11. septembra i pandemije kovida, mada takve tvrdnje treba razlikovati od dokumentovanih, unaprijed zabilježenih izjava.

Šta joj se pripisuje o budućnosti Vladimira Putina?
Prema navodima koje prenosi LADbible, Baba Vanga navodno je predvidjela da će Rusija do 2027. godine dobiti novog lidera.

U tekstu se takav scenario povezuje s mogućim političkim previranjima i novim tenzijama među svjetskim silama. Međutim, nije naveden provjerljiv izvorni zapis s preciznim riječima proročanstva niti okolnostima u kojima je izrečeno, navodi LadB.

Zbog toga tvrdnja o promjeni ruskog rukovodstva ostaje navod koji se pripisuje Babi Vangi, a ne pouzdana najava budućih događaja.

Koja se još predviđanja vezuju za 2026. godinu?
Među navodnim prognozama za ovu godinu pominju se prirodne katastrofe i sve veća zamjena ljudskog rada mašinama.

Autor izvornog teksta te tvrdnje povezuje sa savremenim strahovima od gubitka poslova usljed razvoja vještačke inteligencije. Ipak, takvo povezivanje aktuelnih događaja s uopštenim predviđanjima samo po sebi ne potvrđuje njihovu vjerodostojnost.

Babi Vangi, kao i Nostradamusu, pripisuje se i predviđanje da bi tokom 2026. mogao početi treći svjetski rat. U istom tekstu navodi se i tvrdnja da bi vanzemaljci mogli stići na Zemlju do novembra.

Za ove scenarije nisu ponuđeni provjerljivi dokazi.

Šta navodno donosi 2027. godina?
Prema još jednom predviđanju koje joj se pripisuje, pojedini ljudi bi tokom 2027. godine mogli razviti osobine nalik nadljudskim sposobnostima.

Kao mogući uzroci pominju se misteriozna bolest ili genetski eksperiment.

Ni za ovu tvrdnju u dostavljenom tekstu nije naveden pouzdan izvorni zapis, pa je treba posmatrati kao dio priča koje kruže o Babi Vangi.

Zašto je teško provjeriti njena proročanstva?
Prema dostavljenom tekstu, Baba Vanga nije lično zapisivala svoja predviđanja. Ona su prenošena preko ljudi iz njenog okruženja, među kojima je bila i njena nećaka Krasimira Stojanova.

Takav način prenošenja ostavlja prostor za pogrešno razumijevanje, izmjene i naknadno pripisivanje izjava.

Dodatni problem predstavlja neodređenost mnogih navodnih proročanstava. Široke formulacije o ratovima, katastrofama ili tehnološkim promjenama mogu se naknadno povezati s različitim događajima, bez jasne potvrde da su ih zaista predvidjele.

Da li je jedan fizičar zaista predvidio kraj svijeta u novembru?
U tekstu se uz priče o Babi Vangi pominje i austrijsko-američki fizičar Hajnc fon Ferster, čiji se naučni rad često predstavlja kao predviđanje kraja svijeta 13. novembra 2026. godine.

Fon Ferster je sa saradnicima 1960. godine u časopisu Science objavio rad naslovljen “Sudnji dan: petak, 13. novembar 2026. godine”. Rad je razmatrao matematičku projekciju prema kojoj bi broj stanovnika težio beskonačnosti ukoliko bi se nastavio obrazac rasta iz prethodna dva milenijuma.

Ključna je upravo pretpostavka o nastavku istog obrasca. Matematičko produžavanje određenog trenda nije dokaz da će se tog datuma dogoditi katastrofa niti potvrda da čovječanstvu preostaje manje od mjesec dana.

Nastavi čitati

Zanimljivosti

SKUPA NAVIKA: Nećete vjerovati šta se dešava kada punjač ostane u utičnici!

Kad je punjač u utičnici danima, čak i kada telefon odavno nije priključen, sve djeluje bezazleno.

Ako je i vaš stalno uključen, ovo je ono što bi trebalo da znate, jer se iza navike koju skoro svi imamo kriju dva sasvim konkretna rizika.

Punjač u utičnici troši struju i kad ništa ne puni:

Kada punjač ostavite uključen u utičnici, a telefon se ne puni, on i dalje troši malu količinu struje. Na računu to nije velika stavka, ali nije ni nula, a ta potrošnja traje iz dana u dan, bez ikakve koristi za vas.

Veći problem je drugi. Punjač je konstantno pod naponom i vremenom može da se zagrijava, posebno ako je star, oštećen ili lošijeg kvaliteta. Upravo takav punjač, onaj koji godinama visi iz zida iza ormarića, najlakše se zagrije a da to niko ne primijeti.

Navika pored kreveta koja je opasnija nego što mislite.

Još jedna stvar koju većina vas radi jeste da puni telefon pored kreveta, i to često tik uz glavu. Telefon se uveče stavi na punjenje, kabl se provuče preko dušeka i uređaj ostaje tu do jutra.

Sam telefon nije problem zbog nekog zračenja. Ta priča se godinama prepričava, ali prava opasnost leži na sasvim drugom mjestu.

Jastuk i posteljina zadržavaju toplotu:

Nije dobra ideja da telefon ili punjač budu ispod jastuka ili prekriveni posteljinom. Toplota se tada zadržava, a punjač u utičnici u takvim uslovima može dodatno da doprinese pregrijavanju i poveća rizik od požara.

Uređaj koji se puni prirodno se grije, a ta toplota mora negdje da ode. Na otvorenom noćnom stočiću ona se razlazi u vazduhu. Ispod jastuka ili ćebeta nema kuda, pa se zadržava oko telefona i punjača sve dok ste vi u dubokom snu. Zato je bolje da telefon tokom noći leži na tvrdoj, otkrivenoj površini, a punjač izvucite iz utičnice čim završi posao, prenosi Krstarica.

Nastavi čitati

Zanimljivosti

NEOBIČAN KVAR U PRNJAVORU: Dabar presjekao kablove i ostavio građane bez struje

Građani pojedinih sela u Prnjavoru i Stanarima ostali su bez struje nakon što je dabar presjekao šest podzemnih kablova.

Kako je saopšteno iz “Elektrokrajine”, ekipe u Prnjavoru rade na sanaciji složenog kvara na podzemnom dijelu dalekovoda “Štrpci” sa kojeg se napaja ukupno 1.600 korisnika od prnjavorskog naselja Štrpci do sela Brestovo i Mitrovići u opštini Stanari.

Kako je dabar izazvao kvar na dalekovodu?

“Kvar na srednjenaponskom dalekovodu je sinoć, u nedjelju, u 21.30 časova uzrokovao veliki glodar – dabar koji je presjekao svih šest podzemnih kablova na dionici dalekovoda koja se provlači ispod auto-puta Banjaluka – Doboj. Za zamjenu podzemnih kablova neophodan je angažman teške građevinske mehanizacije, što usporava dinamiku otklanjanja kvara i ponovne uspostave urednog napajanja električnom energijom”, naveli su oni.

Iz “Elektrokrajine” su zamolili korisnike koji se napajaju sa dalekovoda “Štrpci” za strpljenje i razumijevanje.

Nastavi čitati

Aktuelno