Kalifornija razmatra „prekidač za gašenje“ za napredne AI modele

Reakcija na pasivnost savezne vlasti

Newsom se na ovaj korak odlučio nakon što je ranije ovog tjedna za Politico najavio dodatne mjere za sigurnost umjetne inteligencije. Tada je spomenuo i mogućnost izvanrednog zasjedanja parlamenta kao odgovor na zabrinutost znanstvenika da bi tehnologija mogla ugroziti čovječanstvo, ali i na nedavne slučajeve autonomnog hakiranja.

Guverner je istaknuo da ga je na djelovanje potaknula i pasivnost saveznih vlasti. Predsjednik Donald Trump prethodno je odbacio takva upozorenja i nazvao ih „obmanom“, uz poruku da je njegov predsjednički mandat jedini potreban zaštitni mehanizam za AI.

Newsom je u petak pozvao Trumpa i Kongres da preuzmu kalifornijski regulatorni okvir ili da ga iskoriste kao temelj za savezna pravila. „Potpuni neuspjeh savezne vlade da uspostavi bilo kakav smislen nadzor ili odgovornost u području umjetne inteligencije trebao bi zabrinuti svakog Amerikanca, osobito jer i sami direktori AI kompanija mole za regulaciju“, poručio je Newsom u priopćenju.

Detalji nove uredbe

Uredba ubrzava provedbu zakona SB 813 i AB 1405, koje je Newsom potpisao ranije ovog mjeseca. Zakoni reguliraju kako vanjski stručnjaci procjenjuju sigurnost programa umjetne inteligencije. Uredbom se osniva i stručni tim koji u roku od dva mjeseca mora predložiti preporuke za jačanje postojećih kalifornijskih zakona o sigurnosti AI-ja.

Jedna od zadaća tima bit će i prijedlog ažuriranja zakonske definicije kritičnih sigurnosnih incidenata. To bi obuhvatilo situacije u kojima AI modeli izmaknu kontroli, poput nedavnog slučaja kada je OpenAI-jev model hakirao platformu Hugging Face. Razmatrat će se i obvezno uvođenje „prekidača za gašenje“ za najnaprednije (frontier) modele.

Sličan prijedlog već je bio predstavljen u Kongresu, ali ga je Senat blokirao. Ideju je ovog tjedna na događaju u organizaciji Politica podržao i Reid Hoffman, suosnivač LinkedIna i istaknuti donator Demokratske stranke. Dio tehnološke industrije i dalje se protivi takvom rješenju i tvrdi da ono tehnički nije izvedivo.

Prethodni pokušaji regulacije

Direktor Anthropica Dario Amodei, koji se zalaže za usporavanje razvoja AI-ja zbog egzistencijalnih rizika, izjavio je u ponedjeljak kako „prekidač za gašenje“ može biti „dobra ideja“, ali je dodao da to nije „univerzalno rješenje“.

Newsom je 2024. godine stavio veto na zakonski prijedlog koji je zahtijevao sigurnosna testiranja i „prekidač za gašenje“ za određene velike modele u slučaju zlouporabe ili gubitka kontrole. Nakon veta, Newsom je zadužio stručni panel da izradi novo rješenje.

Rezultat je bio zakon SB 53 senatora Scotta Wienera, koji je Newsom odobrio prošle godine. Tim je zakonom Kalifornija preuzela vodeću ulogu u regulaciji na nacionalnoj razini, a da nije izazvala snažan otpor interesnih skupina iz Silicijske doline koje su se protivile prvotnom prijedlogu.

Ipak, zagovornici sigurnosti AI-ja i dio zastupnika upozoravaju da zakon SB 53 ne propisuje obvezu prijavljivanja autonomnih hakiranja, kao što je bio incident s platformom Hugging Face.