Tvorac ChatGPT-ja nudi plaću od 555.000 dolara za „obranu čovječanstva od AI-ja“

Gotovo nemoguća misija

Novi voditelj pripremljenosti u OpenAI-ju bit će izravno odgovoran za obranu od rizika koje sve moćnije umjetne inteligencije predstavljaju za mentalno zdravlje ljudi, kibernetičku sigurnost i biološko oružje. To je samo početak, jer će se uspješni kandidat morati nositi i s mogućnošću da se umjetna inteligencija počne sama obučavati, usred strahova nekih stručnjaka da bi se mogla „okrenuti protiv nas“.

„Ovo će biti stresan posao i odmah ćete biti bačeni u vatru“, poručio je Sam Altman, izvršni direktor tvrtke, prilikom objave natječaja za, kako kaže, „kritičnu ulogu“ koja bi trebala „pomoći svijetu“. Posao je toliko zahtjevan da su se neki prethodni rukovoditelji na sličnim pozicijama zadržali samo kratko vrijeme.

Upozorenja iz samog vrha industrije

Oglas za posao dolazi u vrijeme kada upozorenja o opasnostima napredne tehnologije stižu iz same industrije. Mustafa Suleyman, izvršni direktor Microsoft AI-ja, izjavio je u ponedjeljak za BBC: „Iskreno mislim da ako se u ovom trenutku ne bojite barem malo, onda ne obraćate pažnju.“

Slično razmišlja i Demis Hassabis, dobitnik Nobelove nagrade i suosnivač Google DeepMinda, koji je ovog mjeseca upozorio na rizik da umjetna inteligencija „izmakne kontroli na način koji šteti čovječanstvu“.

Regulatorni Divlji zapad

Unatoč sve većim opasnostima, regulacija umjetne inteligencije na nacionalnoj ili međunarodnoj razini gotovo da i ne postoji, dijelom i zbog otpora administracije Donalda Trumpa. Yoshua Bengio, jedan od „kumova umjetne inteligencije“, nedavno je slikovito opisao situaciju: „Sendvič ima više regulacije od umjetne inteligencije.“ To u praksi znači da se tehnološke tvrtke uglavnom same reguliraju.

Pokrećući potragu za novim voditeljem, Altman je na platformi X napisao: „Imamo snažan temelj za mjerenje rastućih sposobnosti, ali ulazimo u svijet gdje nam je potrebno nijansiranije razumijevanje i mjerenje kako bi se te sposobnosti mogle zloupotrijebiti, i kako možemo ograničiti te negativne strane…

Ova su pitanja teška i malo je presedana.“ Jedan korisnik mu je sarkastično odgovorio: „Zvuči prilično opušteno, je li uključen godišnji odmor?“ Uz visoku plaću, posao uključuje i neodređeni vlasnički udio u tvrtki OpenAI, čija se vrijednost procjenjuje na 500 milijardi dolara.

Stvarni rizici i tragične posljedice

Da prijetnje nisu samo teorijske, pokazuju i nedavni događaji. Prošlog mjeseca, konkurentska tvrtka Anthropic izvijestila je o prvim kibernetičkim napadima u kojima je umjetna inteligencija djelovala gotovo autonomno kako bi hakirala i pristupila internim podacima meta.

OpenAI je ovog mjeseca priznao da je njihov najnoviji model gotovo tri puta bolji u hakiranju nego prije tri mjeseca, dodajući kako očekuju da će se taj trend nastaviti. Istovremeno, tvrtka se brani od tužbi s tragičnim ishodima. Jedna od njih je tužba obitelji Adama Rainea, 16-godišnjaka koji si je oduzeo život navodno nakon poticaja od strane ChatGPT-a.

U drugom slučaju, podnesenom ovog mjeseca, tvrdi se da je chatbot potaknuo paranoidne zablude kod 56-godišnjaka koji je potom ubio svoju majku i sebe. Glasnogovornik OpenAI-ja izjavio je da je slučaj „nevjerojatno srceparajući“ i da tvrtka radi na poboljšanju obuke ChatGPT-a „da bi prepoznao i odgovorio na znakove mentalnog ili emocionalnog stresa i usmjerio ljude prema stvarnoj podršci“.