Inženjer DeepSeeka: Anthropic s najmoćnijim AI-jem bio bi kao Hitler s atomskom bombom

Upozorenja iz američkih AI laboratorija

Njegova izjava dolazi u vrijeme kada američki direktori i istraživači iz područja umjetne inteligencije ponovno upozoravaju na brzinu razvoja i mogućnost da bi budući sustavi mogli djelovati izvan ljudske kontrole. Direktor Anthropica Dario Amodei proteklog je vikenda pozvao na usporavanje razvoja AI-ja i stroži nadzor.

Predložio je i angažiranje neovisnih procjenitelja unutar vodećih AI tvrtki, ali je napomenuo da se time ne smije „žrtvovati komercijalna prednost“. Prošlog tjedna bivši istraživač Anthropica Jacob Coxon dao je ostavku i optužio vodeće AI tvrtke da se ne ponašaju odgovorno. Evan Hubinger, vodeći stručnjak za usklađivanje AI sustava u Anthropicu, nakon toga je izjavio kako osobno procjenjuje da rizik od izumiranja čovječanstva zbog umjetne inteligencije u idućem desetljeću iznosi više od deset posto.

Kineski inženjer: Vrhunska inteligencija mora biti dostupna svima

U blogu na kineskom jeziku Liu Shengyu, inženjer sustava za strojno učenje u DeepSeeku, izrazio je nepovjerenje da će Anthropic ili OpenAI naprednu AI tehnologiju učiniti „otvorenom i pristupačnom“. Njihov je pristup suprotstavio modelima otvorenog koda koje razvija njegova tvrtka. „Vjerujem da vrhunska inteligencija treba biti dostupna svima na otvoren i pristupačan način“, rekao je Liu.

Međutim, dodao je: „Ne vjerujem da će Anthropic ili OpenAI to učiniti. Konkretno, strahujem od mogućnosti da Anthropic kontrolira najnapredniju umjetnu inteligenciju ili AGI. Da se izrazim dramatično, posljedice ne bi bile ništa manje ozbiljne od situacije u kojoj bi Hitler došao do tehnologije atomske bombe prije Saveznika.“

AGI, ili opća umjetna inteligencija, pojam je koji se odnosi na sustave koji dostižu ili nadmašuju ljudsku razinu inteligencije. Liu smatra da, kako se AI razvija, društvena mobilnost postaje „sve teža jer je za probijanje klasnih barijera potrebna najmoćnija umjetna inteligencija“.

Reakcije iz Kine

S druge strane, neovisna kineska istraživačka platforma, Institut za istraživanje Dongbuyaqiao, u utorak je priopćila da bi Amodeijevi komentari mogli predstavljati „pokušaj stjecanja veće kontrole nad pravilima industrije prije nego što ona budu u potpunosti uspostavljena“.

U ponedjeljak je glasnogovornik kineskog Ministarstva vanjskih poslova Guo Jiakun izjavio da će „zastrašivanje, konfrontacija i žestoka konkurencija“ ometati napore za zdravo globalno upravljanje umjetnom inteligencijom.

Komentar koji je u nedjelju objavio državni Global Times opisao je Amodeijeve prijedloge kao „tihi hladni rat umjetne inteligencije“. U tekstu se tvrdi da je cilj prijedloga očuvanje američke tehnološke prednosti uz istovremeno isključivanje Kine iz globalnog upravljanja tom tehnologijom.

Trump odbija usporavanje

Američki predsjednik Donald Trump odbacio je pozive na usporavanje razvoja umjetne inteligencije. Ustvrdio je da bi ograničavanje američkog napretka moglo dati prednost Kini.