Model vještačke inteligencije Claude Mythos kompanije Anthropic rekordnom brzinom pronalazi softverske „rupe“. Njegova zloupotreba mogla bi omogućiti sajber napade. Banke i regulatori su uznemireni. Zbog čega?

Na prvi pogled, to zvuči kao specijalizovana tema, nešto što zanima samo najzagriženije IT entuzijaste: jedna nova vještačka inteligencija (AI) pronalazi slabosti u softveru brže nego ikada prije. Međutim, upravo to u globalnom finansijskom sistemu može postati ozbiljan rizik za njegovu stabilnost. Banke, berze, pružaoci platnih usluga i osiguravajuća društva zavise od pouzdanog i bezbjednog softvera.

Ako vještačka inteligencija sada brže otkriva bezbjednosne propuste, onda ih kriminalci takođe mogu brže iskoristiti. Stručnjaci već govore o sistemskom riziku za globalni finansijski sistem.

Povod za raspravu je Claude Mythos – novi vrhunski AI model američke kompanije Anthropic. U eksperimentalnim okruženjima već je otkrio hiljade izuzetno kritičnih bezbjednosnih propusta u softveru, takozvane „zero-day“ ranjivosti, koje su prethodno decenijama ostale neotkrivene. Osim toga, model je sposoban da samostalno programira složene sajber napade.

Zašto regulatori upozoravaju na rizike vještačke inteligencije
Evropska centralna banka (ECB) u tome vidi ozbiljnu prijetnju za finansijski sistem te je nedavno čak sazvala hitan sastanak evropskih banaka. Odbor za finansijsku stabilnost (FSB), ključni međunarodni nadzornik finansijske stabilnosti grupe G20, govori o „novim i naprednim rizicima za globalnu finansijsku stabilnost“.

I Međunarodni monetarni fond (MMF) u AI modelima poput Mythosa vidi opasnost za globalni finansijski sistem te upozorava na „potencijalni makrofinansijski šok“. Prema analizi MMF-a, ekstremni gubici izazvani sajber incidentima mogli bi dovesti do problema u finansiranju, podstaći sumnje u solventnost finansijskih institucija i izazvati šire poremećaje na tržištima.

Dovoljno je zamisliti da tako moćan AI model poput Mythosa „cilja“ globalnu bankarsku infrastrukturu – na primjer centralni komunikacioni sistem SWIFT, preko kojeg banke širom svijeta bezbjedno razmjenjuju naloge za plaćanje i druge finansijske poruke.

Moguća šteta bila bi ogromna. Napadači bi mogli manipulisati platnim tokovima vrijednim milijarde – i uništiti povjerenje u banke i finansijski sistem. Sama kompanija Anthropic svoj novi model vještačke inteligencije smatra previše opasnim te ga zasad uglavnom drži „pod ključem“, ali radi na tome da ga u narednim sedmicama učini dostupnim svim klijentima.

Project Glasswing treba da zaštiti kritičnu IT infrastrukturu
Za sada samo odabrane kompanije i organizacije imaju kontrolisan pristup Claudeu Mythosu u okviru „Project Glasswing“. Među njima su Amazon, Microsoft, Apple, Google, Nvidia i JPMorgan Chase. Cilj je brže identifikovati i otkloniti bezbjednosne ranjivosti u kritičnoj softverskoj infrastrukturi.

Nije slučajno što stručnjaci Mythos nazivaju klasičnom „dual-use tehnologijom“: novi AI model nije samo potencijalno ultimativno sajber oružje, već i najmoćniji alat za odbranu od sajber napada.

Planirano je da i Agencija Evropske unije za sajber bezbjednost (ENISA) dobije pristup modelu Mythos kompanije Anthropic. Međutim, konkretni uslovi još moraju biti dogovoreni, saopšteno je u ponedjeljak. Do tada evropske banke ostaju izvan tog sistema – ali, prema mišljenju stručnjaka, djelovati moraju već sada.

Banke u evrozoni moraju više ulagati u sajber bezbjednost, uvjeren je Luis de Gindos. „Moramo nastojati da povećamo svijest finansijskih institucija, banaka, o potrebi dodatnih ulaganja u sajber bezbjednost“, naglašava odlazeći potpredsjednik ECB-a.

Banke moraju brže zatvarati bezbjednosne propuste
Prema stručnjacima, ključnu ulogu imaju takozvani „patch gapovi“, odnosno period između otkrivanja i zatvaranja bezbjednosne rupe. Za njihovo otklanjanje banke su do sada ponekad uzimale i više sedmica – pristup koji bi u novoj eri vještačke inteligencije mogao otvoriti vrata sajber kriminalu velikih razmjera.

To za banke znači i veća ulaganja u ljudske resurse: „Banke sada moraju izdvajati više novca kako bi zaposlile stručnjake koji će te rupe zatvoriti što je brže moguće“, naglašava Daniel Kröger, portfolio menadžer u društvu za upravljanje imovinom DWS, u razgovoru za finansijsku redakciju javnog servisa ARD.

Vrijeme je presudno: jer nije riječ samo o Anthropicu i modelu Claude Mythos Preview, već i o uporedivim AI sistemima koji bi uskoro mogli postati dostupni pojedinim kriminalnim akterima ili državama poput Rusije i Kine.

Logan Graham, šef vodećeg tima za IT bezbjednost u Anthropicu (Frontier Red Team Lead), upozorio je u američkom magazinu Wired: „Moramo se sada pripremiti za svijet u kojem će ove sposobnosti biti široko dostupne za 6, 12 ili 24 mjeseca.“

Vještačka inteligencija postaje stres-test za banke i regulatore
AI model Mythos kompanije Anthropic predstavlja alarm za uzbunu – za banke, kompanije i regulatore. U pitanju nije ništa manje od stabilnosti globalnog finansijskog sistema. Već je finansijska kriza iz 2008. godine pokazala da je često dovoljna i sama sumnja ili glasina da bi neka banka mogla imati probleme kako bi izazvala velike poremećaje na tržištu.

Nevjerovatne sposobnosti Claudea Mythosa signal su da se odbrambeni sistemi moraju hitno ojačati. Evropske banke pritom moraju paziti da ne zaostanu: Project Glasswing za sada američkim institucijama daje vremensku prednost u procesu „zatvaranja“ bezbjednosnih rupa.

Međunarodna saradnja između onih koji rade na razvoju vještačke inteligencije, banaka, kompanija i regulatora sada je potrebnija nego ikad. Jer sajber kriminal ne poznaje granice – baš kao što granice ne poznaju ni finansijske krize. SEEbiz