SAD sazvao bankare. „Novi AI model Claudea prijetnja je financijskoj stabilnosti“

Sastanak je organiziran u vrijeme dok su vodeći bankari već boravili u Washingtonu radi okupljanja jedne lobističke skupine. Pozvani su čelnici takozvanih sistemski važnih banaka, odnosno onih za koje regulatori smatraju da bi ozbiljan poremećaj u njihovu poslovanju ili njihov kolaps ugrozio financijsku stabilnost.

Prema pisanju Bloomberga, koji je prvi izvijestio o detaljima, sastanku su prisustvovali David Solomon iz Goldman Sachsa, Brian Moynihan iz Bank of America, Jane Fraser iz Citigroupa, Ted Pick iz Morgan Stanleyja i Charlie Scharf iz Wells Farga. Jamie Dimon iz JP Morgana bio je pozvan, ali nije mogao doći.

„Posljedice za gospodarstvo, javnu i nacionalnu sigurnost mogle bi biti teške“

Do sastanka je došlo nakon što je Anthropicov AI model, nazvan Claude Mythos, ocijenjen kao prijetnja bez presedana. Tvrtku je nedavno curenje koda potaknulo da početkom mjeseca objavi upozorenje u kojem navode da su modeli umjetne inteligencije postali bolji od „gotovo svih ljudi, osim onih najvještijih, u pronalaženju i iskorištavanju slabosti u softveru“.

„Posljedice za gospodarstvo, javnu i nacionalnu sigurnost mogle bi biti teške“, dodali su. Na opasnosti je ovog tjedna upozorio i Dimon, koji u godišnjem pismu dioničarima navodi da kibernetička sigurnost „ostaje jedan od naših najvećih rizika“ te da će ga „umjetna inteligencija gotovo sigurno dodatno povećati“.

Iz Anthropica su poručili da je njihov model Mythos, koji još nije javno dostupan, otkrio tisuće ranjivosti u softveru i popularnim aplikacijama. To ih je navelo da izdavanje novog modela ograniče na uzak krug tvrtki, među kojima su Amazon, Apple i Microsoft.

Najstarije ranjivosti koje je Mythos pronašao stare su i do 27 godina

Ovo je prvi put da je Anthropic ograničio dostupnost nekog svog proizvoda. Pristup su dobile i mrežne tvrtke Cisco i Broadcom te Linux Foundation, organizacija koja promiče besplatan i otvoren operativni sustav Linux.

Ove vijesti dolaze u jeku zabrinutosti da bi hakeri mogli koristiti takve alate za probijanje lozinki ili razbijanje enkripcije koja štiti podatke. Tvrtka je navela da su najstarije ranjivosti koje je Mythos pronašao stare i do 27 godina, a vjeruje se da ih njihovi tvorci ili tehnološki nadzornici nisu uočili prije nego što ih je otkrio AI model.

Sastanak je održan nekoliko tjedana nakon što je američka vlada proglasila Anthropic rizikom za opskrbni lanac, protiv čega se tvrtka bori na sudu. Federalne rezerve, Anthropic i američke banke odbile su komentirati slučaj za Bloomberg, dok iz Ministarstva financija nisu odgovorili na upit novinske agencije.