Par dana prije smjene Altmana šefovi upozoreni na „otkriće koje prijeti čovječanstvu“

REUTERS je jutros ekskluzivno objavio da je upravni odbor kompanije OpenAI nekoliko dana prije smjene šefa uprave Sama Altmana dobio vrlo ozbiljno upozorenje. Podsjetimo, šef uprave OpenAI-ja, ključne kompanije za razvoj umjetne inteligencije koja stoji iza ChatGPT-ja, bio je naprasno smijenjen na četiri dana, a jučer je objavljeno da se vraća na istu funkciju.

Reuters je jutros objavio da je nekoliko istraživača iz OpenAI-ja napisalo pismo upravnom odboru kompanije upozoravajući na moćno otkriće na polju umjetne inteligencije (AI) za koje su rekli da bi moglo zaprijetiti čovječanstvu, rekle su Reutersu dvije osobe upoznate s tim pitanjem.

Dva ključna događaja uoči smjene

To pismo, o kojem se dosad nije izvještavalo, te razvoj algoritma umjetne inteligencije bili su ključni događaji uoči smjene Altmana, kojeg mnogi smatraju ocem generativnog AI-ja, rekla su dva izvora. Prije njegova jučerašnjeg povratka u Open AI, više od 700 zaposlenika prijetilo je da će dati otkaz i pridružiti se osnivaču Microsoftu u znak solidarnosti sa svojim otpuštenim čelnikom.

Reutersovi izvori su opisali pismo kao jedan od faktora na dužem popisu pritužbi odbora koje su dovele do Altmanove smjene, među kojima je bila i zabrinutost zbog komercijalizacije razvoja AI-ja prije nego što se u potpunosti razumiju posljedice. Reuters nije uspio pregledati kopiju pisma, a osoblje koje je napisalo pismo nije odgovorilo na zahtjeve za komentar.

OpenAI u internoj poruci potvrdio projekt Q*. Što je to?

Nakon što ga je kontaktirao Reuters, OpenAI, koji je odbio komentirati pismo, potvrdio je u internoj poruci osoblju projekt pod nazivom Q* i pismo upravi prije smjene Altmana, rekao je jedan od izvora. Glasnogovornik OpenAI-ja rekao je da je poruka, koju je poslala dugogodišnja direktorica Mira Murati, upozorila osoblje na određene medijske priče, ali nije komentirala njihovu točnost.

Neki u OpenAI-ju vjeruju da bi projekt Q* mogao biti oznaka za značaja napredak u potrazi za onim što je poznato kao umjetna opća inteligencija (AGI), rekao je jedan izvora za Reuters. OpenAI definira AGI kao autonomne sustave koji nadmašuju ljude u većini ekonomski vrijednih zadaća.

Uz pomoć golemih računalnih resursa, novi je model mogao riješiti određene matematičke probleme, rekla je osoba pod uvjetom anonimnosti jer osoba nije ovlaštena govoriti u ime tvrtke. Iako su matematiku izvodili samo na razini učenika osnovne škole, rješavanje takvih testova učinilo je istraživače vrlo optimističnima u pogledu budućeg uspjeha Q*-a, rekao je izvor.

Reuters nije mogao neovisno potvrditi mogućnosti Q* koje su opisivali istraživači.

Što može generativni AI, a što može AGI?

Istraživači smatraju da je matematika granica generativnog razvoja umjetne inteligencije. Trenutačno je generativna umjetna inteligencija dobra u pisanju i prevođenju jezika statističkim predviđanjem sljedeće riječi, a odgovori na isto pitanje mogu uvelike varirati. No, sposobnosti rješavanja matematičkih zadataka, gdje postoji samo jedan točan odgovor, implicira da bi umjetna inteligencija imala veće sposobnosti rasuđivanja nalik ljudskoj inteligenciji. To bi se moglo, vjeruju istraživački AI-ja, primijeniti na i nova znanstvena istraživanja.

Za razliku od kalkulatora koji može riješiti ograničeni broj operacija, AGI može generalizirati, učiti i razumjeti.

U svom pismu odboru, istraživači su naglasili snagu i potencijalnu opasnost umjetne inteligencije, rekli su izvori ne navodeći točne sigurnosne probleme navedene u pismu. Među računalnim znanstvenicima već se dugo raspravlja o opasnosti koju predstavljaju visokointeligentni strojevi ako, primjerice, odluče da im je uništenje čovječanstva u interesu.

„AI znanstvenik“

Istraživači su također naglasili rad tima na projektu „AI znanstvenik“, čije postojanje je potvrdilo više izvora. Grupa, formirana kombinacijom prijašnjih timova nazvanih „Code Gen“ i „Math Gen“, istraživala je kako optimizirati postojeće modele umjetne inteligencije kako bi poboljšala svoje razmišljanje i na kraju obavila znanstveni rad, rekao je jedan od ljudi.

Altman je vodio napore da ChatGPT postane jedna od najbrže rastućih softverskih aplikacija u povijesti i privukao je ulaganja, ali i Microsoftove računalne resurse koji su potrebni da se približi AGI-ju.

Osim što je najavio mnoštvo novih alata u demonstraciji ovog mjeseca, Altman je prošli tjedan na summitu svjetskih vođa u San Franciscu najavljivao kako vjeruje da su veliki pomaci na vidiku.

„Četiri puta u povijesti OpenAI-ja, zadnji put je bilo u zadnjih nekoliko tjedana, bio sam u prostoriji, kada smo na neki način gurnuli veo neznanja unatrag i granicu otkrića unaprijed. Napraviti takvo što je profesionalna čast života,“ rekao je na summitu Azijsko-pacifičke gospodarske suradnje.

Dan kasnije, odbor je smijenio Altmana. Jučer ga je ponovo zaposlio.