Jedan od kumova AI-ja: Čak i jedan posto šanse za katastrofu čovječanstva je previše

PROFESOR Yoshua Bengio sa Sveučilišta u Montrealu, jedan od „kumova umjetne inteligencije“ čiji je rad postavio temelje za današnju utrku u razvoju AI-ja, iznio je ozbiljno upozorenje.

U nedavnom razgovoru, Bengio, osnivač istraživačkog instituta Mila, izjavio je kako vjeruje da čovječanstvo ide mračnim putem koji bi mogao završiti našim uništenjem, piše Futurism.

„Stvaramo konkurenta čovječanstvu koji je pametniji od nas“

„Ako izgradimo strojeve koji su puno pametniji od nas i imaju vlastite ciljeve samoodržanja, to je opasno“, rekao je Bengio. „To je kao da stvaramo konkurenta čovječanstvu koji je pametniji od nas.“

Naglasio je da se katastrofalni scenariji ne smiju zanemariti, čak i ako je vjerojatnost za njih mala.

„Stvar s katastrofalnim događajima poput izumiranja, pa čak i manje radikalnim događajima koji su još uvijek katastrofalni poput uništavanja naših demokracija, jest da su toliko loši da čak i ako postoji samo 1 posto šanse da se to dogodi, to nije prihvatljivo“, pojasnio je.

Bengio je zajedno sa stotinama drugih stručnjaka još 2023. godine pozvao na privremeno zaustavljanje razvoja umjetne inteligencije kako bi se uspostavili sigurnosni i etički protokoli. Taj poziv nikada nije urodio plodom. Umjesto pauze, osnivači i investitori nastavili su ulagati stotine milijardi dolara u daljnje napredovanje AI modela.

„AI, kako postaje moćniji, uči obmanjivati“

Bengio strahuje da umjetna inteligencija, kako postaje moćnija, uči obmanjivati jer je trenirana da „uglavnom oponaša ljude“, koji su skloni laganju i samozaštiti. Rezultat bi mogao biti AI koji djeluje u vlastitom interesu, a ne u interesu svojih tvoraca.

„Nedavni eksperimenti pokazuju da u nekim okolnostima gdje umjetna inteligencija nema izbora između svog samoodržanja“, rekao je Bengio, „što znači ciljeva koji su joj dani, i činjenja nečega što uzrokuje smrt čovjeka, ona bi mogla odabrati smrt čovjeka kako bi očuvala svoje ciljeve.“

Iako mnogi zamišljaju scenarije pobune robota u stilu Terminatora, Bengio upozorava da su rizici često suptilniji. To uključuje eskalaciju dezinformacija i manipulacija, sličnih onima koje već godinama viđamo na društvenim mrežama. Umjesto da stekne vlastitu svijest, umjetna inteligencija mogla bi postati moćan alat koji ljudi koriste kako bi naštetili jedni drugima.

Alat za manipulaciju i terorizam

„Umjetna inteligencija bi mogla utjecati na ljude uvjeravanjem, prijetnjama, manipulacijom javnog mnijenja“, izrazio je zabrinutost. „Postoje razni načini na koje mogu postići da se stvari u svijetu obave preko ljudi. Kao, na primjer, pomaganje teroristu da izgradi virus koji bi mogao stvoriti nove pandemije koje bi mogle biti vrlo opasne za nas.“