Anthropicov opasni AI model izazvao paniku. „Prijetnja je postojala i ranije“

No, postoji jedan problem: sposobnost koja ih je zabrinula već postoji. Stručnjaci za kibernetičku sigurnost i istraživači umjetne inteligencije izjavili su da se softverske ranjivosti koje je otkrio Mythos mogu pronaći i pomoću postojećih, starijih modela, uključujući one tvrtki Anthropic i OpenAI, piše CNBC.

Opasna era kibernetičnog kriminala? Pa, i ne baš

„Ono što sada vidimo u cijeloj branši jest da ljudi uspijevaju, pametnom orkestracijom javno dostupnih modela, reproducirati ranjivosti koje je pronašao Mythos i dobiti vrlo, vrlo slične rezultate“, rekao je Ben Harris, direktor tvrtke za kibernetičku sigurnost watchTowr.

Mythos je uzdrmao direktore i zakonodavce zbog straha da se približava opasna nova era kibernetičkog kriminala potpomognutog umjetnom inteligencijom.

Anthropic je njegovo korištenje ograničio na nekoliko američkih tvrtki, uključujući Apple, Amazon, JPMorgan Chase i Palo Alto Networks, kako bi smanjio rizik da dospije u ruke zlonamjernih aktera. Unatoč toj mjeri opreza, njegovo je predstavljanje potaknulo Trumpovu administraciju da razmotri novi vladin nadzor nad budućim modelima.

Ovo je najnovije u nizu istaknutih lansiranja tvrtke Anthropic koja su zaoštrila njezino suparništvo s OpenAI-jem, dok se dva diva umjetne inteligencije približavaju dugo očekivanim inicijalnim javnim ponudama.

Tjednima nakon pojave Mythosa, izvršni direktor OpenAI-ja Sam Altman najavio je GPT-5.5-Cyber, model posebno prilagođen za kibernetičku sigurnost, kojem je u četvrtak omogućen ograničen pristup provjerenim timovima.

Kontrolirano uvođenje Mythosa, kao dio sigurnosne mjere nazvane Project Glasswing, imalo je za cilj dati korporativnom svijetu vremena da ojača svoju kibernetičku obranu od nadolazećeg vala napada kriminalnih skupina i neprijateljskih država. „Opasnost leži u golemom porastu broja ranjivosti, broja proboja sustava i financijske štete koju ransomware nanosi školama i bolnicama, a da banke ni ne spominjemo“, rekao je izvršni direktor Anthropica Dario Amodei ovog tjedna na događaju tvrtke.

Dovoljno zastrašujuće već sada

Za one koji se bore na prvim crtama kibernetičkog ratovanja, jedna od ključnih sposobnosti koje je Anthropic istaknuo – pronalaženje softverskih ranjivosti u velikom opsegu – postoji još od prošle godine.

„Modeli koje trenutačno imamo dovoljno su moćni da masovno otkrivaju ‘zero-day’ ranjivosti, i to je samo po sebi dovoljno zastrašujuće“, rekla je za CNBC Klaudia Kloc, izvršna direktorica tvrtke za kibernetičku sigurnost Vidoc.

Dodala je da je to slučaj „već nekoliko mjeseci, ako ne i godinu dana“. Pojam „zero-day“ odnosi se na prethodno nepoznatu softversku pogrešku za koju ne postoji zakrpa, što napadačima daje priliku da je iskoriste prije nego što se obrana stigne organizirati.

Istraživači u Vidocu oslonili su se na tehniku zvanu „orkestracija“ kako bi testirali mogu li pronaći iste ranjivosti kao Mythos. Proces uključuje stvaranje radnih procesa koji dijele kod na manje dijelove, koordinirajući različite alate ili modele radi unakrsne provjere rezultata. „Pokrenuli smo starije modele na istoj bazi koda kako bismo vidjeli možemo li otkriti iste ranjivosti“, rekla je Kloc. „Uspjeli smo, i to sa starijim modelima i OpenAI-ja i Anthropica.“

Druga tvrtka, Aisle, otkrila je da se mnogi od glavnih rezultata Mythosa mogu reproducirati korištenjem jeftinijih modela koji rade paralelno, što sugerira da su opseg i koordinacija važniji od posjedovanja najnovijeg modela. „Tisuću prosječnih detektiva koji pretražuju posvuda pronaći će više grešaka od jednog briljantnog detektiva koji mora nagađati gdje tražiti“, napisao je osnivač Aislea Stanislav Fort u objavi na blogu.

U izjavi za CNBC, Anthropic nije osporio da su raniji modeli sposobni pronaći softverske ranjivosti.

Glasnogovornik tvrtke rekao je da Anthropic mjesecima upozorava na brzi razvoj kibernetičkih sposobnosti umjetne inteligencije, ukazujući na objavu iz veljače koja pokazuje da je Claude Opus 4.6, široko dostupan model, pronašao više od 500 ranjivosti „visoke ozbiljnosti“ u softveru otvorenog koda. I sam Amodei je to potvrdio, rekavši da, iako je Mythos pronašao veći broj ranjivosti, taj trend nije nov. „Rizici su vrlo stvarni. Zato smo i poduzeli korake koje jesmo“, rekao je Amodei. „Ali oni, u neku ruku, i nisu toliko iznenađujući… Već neko vrijeme vidimo upozorenja o tome.“

Jaz između napada i obrane

Ono što Mythos čini drugačijim, tvrdi glasnogovornik Anthropica, jest njegova sposobnost da napravi sljedeći korak: razvije funkcionalne eksploate s malo ili nimalo ljudskog sudjelovanja, čime automatizira proces koji je prije zahtijevao vješte istraživače.

No, hakeri koji rade za kriminalne skupine i neprijateljske države već posjeduju te vještine, kažu kibernetički istraživači. Hakeri u Sjevernoj Koreji, Kini i Rusiji „znaju kako to učiniti, s Anthropicom ili bez njega“, rekla je Kloc.

Prijetnja hakiranja potpomognutog umjetnom inteligencijom izazvala je paniku među korporacijama i regulatorima. Harris je razgovore s bankama, osiguravateljima i regulatorima posljednjih tjedana opisao kao „histeriju“.

Čak i prije pojave generativne umjetne inteligencije, tvrtke su se suočavale s problemom da vješti hakeri iskorištavaju novootkrivene ranjivosti u roku od nekoliko sati, dok popravljanje koda često traje danima ili tjednima. Neke zakrpe zahtijevaju gašenje ključnih sustava, što dodatno komplicira stvari.

„Industrija paničari zbog broja ranjivosti s kojima se sada suočava“, rekao je Harris. „Ali čak i prije nego što Mythos postane široko dostupan, nisu mogli dovoljno brzo popravljati ranjivosti.“ Dok je prije samo mali broj stručnjaka na svijetu imao sposobnost i vrijeme za pronalaženje skrivenih ranjivosti, sada su, korištenjem postojećih AI modela, prepreke za izazivanje kibernetičkog kaosa znatno niže.

Prednost na strani napadača

Dok Anthropic, OpenAI i drugi rade na razvoju obrambenih sposobnosti, početna prednost ide napadu, a ne obrani, kažu istraživači. Na to je aludirao i Jamie Dimon iz JPMorgana kada je prošlog mjeseca rekao da, iako bi AI alati s vremenom mogli pomoći tvrtkama u obrani, oni ih prvo čine ranjivijima.

„Imate značajan porast broja otkrivenih ranjivosti, ali čini se da nije implementiran alat koji bi vam pomogao da ih i popravite“, rekao je Justin Herring, partner u odvjetničkom uredu Mayer Brown. „Upravljanje ranjivostima veliki je Sizifov posao kibernetičke sigurnosti.“

Ograničena skupina koja je dobila pristup Mythosu stekla je prednost u popravljanju svojih sustava, ali postoji i druga strana priče. Istraživačima umjetne inteligencije nije omogućen pristup kako bi neovisno provjerili tvrdnje Anthropica ili počeli graditi obranu.

Neki kažu da je to spriječilo širu kibernetičku zajednicu da postane dio rješenja, stvarajući podjelu na „one koji imaju i one koji nemaju“, što bi moglo usporiti inovacije u kibernetičkoj sigurnosti, rekao je Pavel Gurvich, direktor startupa Tenzai.

Mnogi startupi rade na rješenjima za ovu novu eru. „Pokušavaju pronaći najbolji način da poprave svijet prije nego što ovo postane dostupno svima“, rekao je Ben Seri, suosnivač startupa Zafran Security. „To je svojevrsna situacija kokoši i jajeta, a neka će se jaja neizbježno razbiti.“