Kum AI-ja poslao poruku mladima: Nema razloga za optimizam

GEOFFREY HINTON, dobitnik Nobelove i Touringove nagrade za rad na strojnom učenju, kojega u znanstvenim i tehnološkim krugovima često nazivaju „kumom umjetne inteligencije“, nedavno je u razgovoru za Financial Times poručio mladima da ne bi trebali s optimizmom gledati na razvoj umjetne inteligencije.

Hinton danas rijetko govori o pozitivnim doprinosima koji se mogu očekivati od AI-ja bez da istovremeno upozori na njegove opasnosti.

Njegovo ime ušlo je u povijest zahvaljujući otkrićima iz osamdesetih godina 20. stoljeća koja su omogućila razvoj današnjih dubokih neuronskih mreža. No u posljednje dvije godine postao je najpoznatiji pesimist kada je riječ o budućnosti AI-ja.

U tome nije jedini. Slično razmišljaju i mnogi drugi ljudi koji se bave razvojem AI-ja, poput suosnivača Instituta za istraživanje strojne inteligencije Eliezera Yudkowskog, vlasnika xAI-ja Elona Muska i fizičara s MIT-a, osnivača Future of Life Institutea Maxa Tegmarka.

Manjina će se bogatiti, a većina siromašiti

U nedavnom intervjuu za Financial Times Hinton je upozorio da svijet ulazi u fazu u kojoj će umjetna inteligencija „stvarati goleme profite i ogromno bogatstvo za manjinu, dok će većina postajati sve siromašnija“.

„Zapravo dogodit će se to da će bogati ljudi sve više koristiti AI kako bi zamijenili radnike. To će stvoriti masovnu nezaposlenost i ogroman rast profita. Nekolicinu ljudi učinit će puno bogatijima, a većinu ljudi siromašnijima. To nije krivnja AI-ja, to je krivnja kapitalističkog sustava“, tumači Hinton.

AI kao prijetnja radnim mjestima

Hintonova predviđanja u suprotnosti su s predodžbama koje vole stvarati neki direktori velikih tehnoloških kompanija, poput direktora OpenAI-ja Sama Altmana, suosnivača i direktora Googleovog DeepMinda Demisa Hassabisa ili direktora Googleovog Alphabeta Sundara Pichaija koji ističu uglavnom samo optimistična predviđanja prema kojima će AI postati alat koji će pomoći riješiti glad, bolesti i klimatske promjene.

Hinton tvrdi da će prvi učinak razvoja AI-ja biti drastičan udarac na tržište rada. Umjetna inteligencija već sada može automatizirati čitave kategorije poslova, od uredskih do kreativnih, a s napretkom modela u sljedećih pet do dvadeset godina taj će se proces ubrzati.

„U tehničkoj zajednici nema puno sumnje u to da će te stvari postajati sve pametnije“, kaže Hinton te postavlja pitanje što će se dogoditi ako AI postane mnogo pametniji od čovjeka.

„Ako je asistent puno pametniji od vas, kako ćete zadržati moć? Jedini primjer za koji znamo da biće s manjom inteligencijom kontrolira inteligentnije biće jest primjer bebe i majke. Kada bebe ne bi mogle kontrolirati svoje majke, umrle bi.“

Hinton na temelju toga zaključuje da je jedina šansa za čovječanstvo da „projektira AI da tako da nam bude kao majka, jer majka brine za život djeteta“.

Univerzalni temeljni dohodak i ljudsko dostojanstvo

Na pitanje može li se ovaj scenarij ublažiti univerzalnim temeljnim dohotkom, rješenjem koje su predlagali neki tehnološki lideri, Hinton odgovara da on nije dovoljan.

„Univerzalni temeljni dohodak neće riješiti problem ljudskog dostojanstva, jer ljudi vrijednost crpe iz svog rada“, objasnio je. Drugim riječima, nije dovoljno samo novcem nadoknaditi gubitak posla: rad daje ljudima smisao i društvenu ulogu.

Poruka mladima: Nema razloga za optimizam

Možda najpesimističniji dio intervjua jest onaj koji se odnosi na mlađe generacije.

Na pitanje kako mladi mogu ostati pozitivni u svijetu koji se suočava s prijetnjom umjetne inteligencije, rezolutno odgovara: „U iskušenju sam da pitam zašto bi ostali pozitivni? Možda bi učinili više kad ne bi bili toliko pozitivni… Zamislite da kroz teleskop možete vidjeti invaziju izvanzemaljaca koja će stići za deset godina — biste li se tada pitali kako ostati pozitivni? Ne, pitali biste se kako ćemo se dovraga s time nositi. Ako ostati pozitivan znači pretvarati se da se to neće dogoditi, onda ljudi ne bi trebali ostati pozitivni“, poručio je.

AI i globalna utrka

Hinton u razgovoru, među ostalim, kritizira američku administraciju zbog nedostatka volje da ozbiljno regulira umjetnu inteligenciju budući da joj je na prvom mjestu da u utrci u razvoju AI-ja ostane ispred Kine.

Suprotno tome, tvrdi da je nakon razgovora s kineskim političarima u Šangaju stekao dojam da Kina tu prijetnju shvaća ozbiljno.

„Mnogi su političari ondje inženjeri. Oni to razumiju na način na koji odvjetnici i trgovci ne razumiju“, dodao je.

Na pitanje može li se vjerovati Kini da će zaštititi interese čovječanstva, odgovorio je: „To je sekundarno pitanje. Opstanak čovječanstva važniji je od toga da nam bude lijepo. Možete li vjerovati Americi? Možete li vjerovati Marku Zuckerbergu?“

Pesimizam s iskustvom

Hinton je svjestan da njegova vlastita životna dob stavlja njegove brige u drukčiji okvir.

„Meni je 77 i kraj ionako uskoro dolazi“, rekao je.

No izrazio je zabrinutost za mlađe generacije ističući da je čovječanstvo na povijesnoj raskrsnici:

„Nalazimo se u povijesnom trenutku u kojem se događa nešto nevjerojatno, a to može biti nevjerojatno dobro ili nevjerojatno loše. Možemo nagađati, ali stvari neće ostati onakve kakve su sada.“

Ne slažu se svi s Hintonom

Važno je istaknuti, kako smo naveli u uvodu, da mnogi stručnjaci s područja AI-ja ne dijele Hintonov pesimizam.

Primjerice, njegov dugogodišnji kolega i su dobitnik Turingove nagrade Yann LeCun, danas glavni znanstvenik za AI u Meti, smatra da su veliki jezični modeli poput ChatGPT-a još uvijek daleko od stvarne inteligencije te da su Hintonove tvrdnje o neposrednim egzistencijalnim prijetnjama pretjerivanja.

Kritičari također naglašavaju da njegove procjene o gubitku radnih mjesta ne uzimaju u obzir povijesne obrasce u kojima su nove tehnologije najprije istiskivale ljude na određenim poslovima, da bi potom otvorile čitave nove sektore zanimanja.

Neki kritičari optužuju ga pak da svojim istupima daje argumente za pretjerano reguliranje te da time zapravo pogoduje velikim tehnološkim kompanijama koje bi strožom regulacijom mogle ugušiti manje konkurente.