Upozorenje iz Anthropica: „AI bi se uskoro mogao razvijati bez ljudskog nadzora“

Clark ističe da, iako industrija umjetne inteligencije ima „papučicu gasa“, nedostaje joj ključna „papučica kočnice“ kojom bi se upravljalo njezinim strelovitim razvojem, piše BBC.

Papučica gasa bez kočnice

„Želite imati mogućnost da maknete nogu s gasa i stavite je na kočnicu“, izjavio je Clark za BBC Newsnight. „Trenutačno je to kao da industrija umjetne inteligencije ima papučicu gasa, ali nema papučicu kočnice.“ Naglasio je da ljudi, putem vladinih politika, moraju zadržati kontrolu nad AI sustavima, koji će postajati sve moćniji i imati sve veći utjecaj na društvo.

Potreba za regulacijom

„Svijet mora razmisliti, a mi s vremenom moramo razviti nove propise koji će nam omogućiti da imamo povjerenja u te sustave“, rekao je. Clark nije detaljno objasnio kako bi se točno stvorila „papučica kočnice“ za istraživanje i razvoj umjetne inteligencije, ali je povukao paralelu s naftnim bumom i industrijalcima s prijelaza prošlog stoljeća.

„Društveni odgovor tada je bio stvaranje razumnog političkog i regulatornog okvira koji je ljudima ulio povjerenje u naftu i njezine dobrobiti, a istovremeno je značio da se ne morate brinuti o osobnostima ljudi koji vode tvrtke“, objasnio je Clark. „Očito je da ćemo i ovdje završiti na sličnom rješenju.“

Ipak, Anthropic je ovog tjedna pozdravio izvršnu uredbu o umjetnoj inteligenciji američkog predsjednika Donalda Trumpa, koja je bila relativno blaga u svojim direktivama prema tvrtkama i nije zahtijevala obvezno državno sigurnosno testiranje, koje i dalje ostaje na dobrovoljnoj bazi.

Brzi rast i izlazak na burzu

Velike AI tvrtke koje predvode razvoj tehnologije, uključujući Anthropic, OpenAI i Google, nisu najavile da će pauzirati vlastita istraživanja. Anthropic je od svog osnutka prije pet godina rastao toliko brzo da se sada priprema za izlazak na burzu. Očekuje se da će to biti jedna od prvih javnih ponuda dionica neke od novijih AI tvrtki i jedna od najvrjednijih u povijesti, s obzirom na to da privatni ulagači procjenjuju vrijednost Anthropica na gotovo bilijun dolara.

Otvorenost o rizicima

Clark je rekao da motivacija Anthropica za javno govorenje o rastućim sposobnostima AI tehnologije nije dodatno poboljšavanje ugleda kod klijenata. Tvrdi da jednostavno želi „reći svijetu što vidimo unutar ovih tvrtki s ovom neobičnom tehnologijom“.

Od svog osnutka, Anthropic, koji su uz Clarka osnovali izvršni direktor Dario Amodei i još nekoliko bivših zaposlenika OpenAI-ja, pozicionirao se kao tvrtka koja otvoreno govori o potencijalnim rizicima umjetne inteligencije. Tvrtka je čak ušla u javni spor s Ministarstvom obrane SAD-a zbog zabrinutosti da bi se njezini AI alati mogli koristiti za masovni nadzor Amerikanaca i autonomno ratovanje.

Utjecaj na gospodarstvo i radna mjesta

„Zabrinut sam za svoju djecu ako kao društvo ne povedemo ozbiljan razgovor o tome što znače implikacije kontinuiranog napretka umjetne inteligencije“, rekao je Clark. „Postoje potencijalno goleme koristi. Postoje i rizici.“

Jedan od rizika, dodao je, jest poremećaj u gospodarstvu, uz strahove da bi AI tehnologija poput „agenata“ – pojedinačnih AI botova koji autonomno obavljaju rutinske zadatke – mogla preuzeti određene poslove. Velike tehnološke tvrtke provele su masovna otpuštanja tijekom prošle godine, često navodeći rastuću sposobnost AI alata da obavljaju posao stotina ili čak tisuća softverskih inženjera.

Savjet za budućnost: Budite kreativni

Clark je rekao da ljudi koji su kreativniji i imaju više boljih ideja zapravo mogu imati prednost pred AI tehnologijom. „Postoje otvorena pitanja o tome mogu li AI sustavi biti istinski kreativni… za to još nema pravih dokaza“, dodao je. „U Anthropicu smo sada više ograničeni sposobnošću generiranja dobrih ideja nego inženjerskom sposobnošću da te ideje pretvorimo u stvarnost.“

Unatoč tome, Clark je sugerirao da bi mlada osoba koja možda osjeća da gospodarstvo izgrađeno na umjetnoj inteligenciji nema mjesta za nju trebala „razviti hobi“ i težiti obrazovanju u društvenim i humanističkim znanostima. „Ljudi koji su kreativni i mogu široko razmišljati, ljudi koji puno čitaju, ljudi koji imaju interese – oni su ti koji će od ovoga imati najviše koristi“, rekao je Clark. „Prepustite se znatiželji i to će vam se isplatiti u načinu na koji možete koristiti ovu tehnologiju.“