WSJ: Kineski i iranski hakeri zloupotrebljavaju američki AI u svrhu napada

HAKERI povezani s Kinom, Iranom i drugim stranim vladama koriste novu američku AI tehnologiju kako bi pojačali svoje kibernetičke napade na američke i globalne ciljeve, prema američkim dužnosnicima i novim sigurnosnim istraživanjima.

Kako piše The Wall Street Journal, tijekom protekle godine, deseci hakerskih grupa u više od 20 zemalja koristili su Googleov chatbot Gemini za pomoć pri pisanju zlonamjernog koda, traženju javno poznatih kibernetičkih ranjivosti i istraživanju organizacija koje su mete napada, među ostalim zadacima, rekli su Googleovi stručnjaci za kibernetičke prijetnje.

Iako su zapadni dužnosnici i sigurnosni stručnjaci godinama upozoravali na moguće zlonamjerne upotrebe umjetne inteligencije, rezultati koje je Google objavio u srijedu prvi su koji konkretno pokazuju kako hakeri koriste generativnu AI za poboljšanje svojih hakerskih sposobnosti.

Ovaj tjedan, kineska AI platforma DeepSeek preokrenula je međunarodne procjene o tome koliko je Peking napredovao u AI utrci, izazvavši globalnu neizvjesnost oko tehnologije koja bi mogla revolucionirati rad, diplomaciju i ratovanje.

Hakeri iz Kine, Irana, Rusije i Sjeverne Koreje

Googleovo izvješće navodi da su grupe povezane s Kinom, Iranom, Rusijom i Sjevernom Korejom koristile Gemini za podršku hakerskim aktivnostima. Međutim, činilo se da platformu koriste više kao istraživačkog asistenta nego kao strateški alat, oslanjajući se na nju za povećanje produktivnosti, a ne za razvoj potpuno novih hakerskih tehnika. Sve četiri zemlje općenito su odbacile američke optužbe o hakerskim napadima, piše WSJ.

„AI još uvijek nije svemoćno oružje za prijetnje i možda će zapravo biti puno važniji alat za obranu“, rekla je Sandra Joyce, potpredsjednica za obavještajne prijetnje u Googleu. „Prava posljedica ovdje je povećana učinkovitost. Hakeri mogu brže djelovati i raditi u većem opsegu.“

Ne koriste samo Gemini

Sadašnji i bivši američki dužnosnici vjeruju da se strane hakerske jedinice oslanjaju i na druge AI chatbotove, navodi WSJ. Prošle godine OpenAI je također otkrio da su pet stranih hakerskih grupa koristile ChatGPT te je deaktivirao račune povezane s njima. To istraživanje također je pokazalo da napadači nisu koristili ChatGPT za generiranje velikih ili inovativnih kibernetičkih napada.

Googleova glasnogovornica rekla je da je tvrtka zatvorila račune povezane sa zlonamjernim aktivnostima navedenima u izvješću, ali nije otkrila koliko ih je točno deaktivirano.

Google je otkrio da je širok raspon sofisticiranih hakerskih grupa – poznatih kao napredne trajne prijetnje (APT) – koristio Gemini, ali da su se kineske i iranske grupe najviše oslanjale na ovaj alat.

Kinezi i Iranci najaktivniji u korištenju američkih AI alata

Više od 20 grupa povezanih s Kinom i najmanje 10 grupa povezanih s Iranom koristilo je Gemini, što ih čini daleko najaktivnijima u korištenju chatbota.

Iranske grupe koje su pokazale najintenzivniju upotrebu, piše WSJ, koristile su Gemini za istraživanje obrambenih organizacija kao meta hakerskih napada i za generiranje sadržaja na engleskom, hebrejskom i farsiju u sklopu kampanja phishing napada.

Kina je bila druga najčešća korisnica Geminija, pri čemu su hakerske grupe povezane s Pekingom koristile alat za izviđanje meta i istraživanje specifičnih hakerskih tehnika, uključujući izvlačenje podataka, izbjegavanje detekcije i eskalaciju privilegija unutar mreža.

U Sjevernoj Koreji, hakeri su koristili Gemini za pisanje popratnih pisama za istraživačke poslove, vjerojatno u sklopu napora režima da infiltrira špijune u IT poslove, čime bi zaradili stotine milijuna dolara za financiranje nuklearnog programa, prema američkim dužnosnicima.

Rusija, s druge strane, koristila je Gemini u manjoj mjeri, i to uglavnom za rutinske zadatke vezane uz kodiranje.

Ključna tehnologija za buduću dominaciju

Iako je dosadašnja upotreba generativne AI ograničena, i SAD i Kina vide AI kao ključnu tehnologiju za buduću dominaciju.

Mogućnost da kineski DeepSeek konkurira vodećim AI modelima uz samo djelić troška izazvala je šok u Silicijskoj dolini i Washingtonu ovog tjedna. Za razliku od Googlea, tvorci DeepSeeka objavili su izvorni kod svog modela, što otežava praćenje zloupotrebe i čini gotovo nemogućim njegovo zabranjivanje.

Niska cijena DeepSeeka mogla bi imati značajne sigurnosne implikacije. Godinama su visoki američki obavještajni dužnosnici upozoravali da Kina i drugi suparnici ubrzano razvijaju i primjenjuju AI sustave kako bi podržali – ili čak zamijenili – svoje vojne i obavještajne operacije.