Upozorenje iz Ženeve: AI postaje preopasan, moramo nešto hitno poduzeti

„Dijelim zabrinutost insajdera iz same industrije da bi napredna umjetna inteligencija mogla predstavljati egzistencijalni rizik za čovječanstvo“, rekao je Türk Vijeću UN-a za ljudska prava u Ženevi, u govoru uoči početka svog drugog mandata.

„Danas i s ovog mjesta pozivam na opći napor kako bi se uspostavila čvrsta jamstva oko sigurnosti umjetne inteligencije, prije nego što bude prekasno“, poručio je visoki povjerenik UN-a.

„Nekolicina ljudi ima gotovo neograničenu moć“

Ne navodeći imena, Türk je upozorio da samo nekolicina ljudi ima „gotovo neograničenu moć nad umjetnom inteligencijom“. Među vodećim tvrtkama za umjetnu inteligenciju su Meta, Anthropic, OpenAI i Google.

„Potrebno je da zemlje koje su domaćini umjetne inteligencije i oni uključeni u njezine lance opskrbe postave granice“, rekao je.

Na što misli kad spominje „insajdere iz industrije“?

Türkovo upozorenje izravno se naslanja na ranije istupe vodećih svjetskih znanstvenika, inženjera i čelnika tehnoloških kompanija. Ključna prekretnica u toj raspravi bila je zajednička izjava Centra za sigurnost umjetne inteligencije (CAIS), koju su potpisali stotine vodećih stručnjaka, uključujući Sama Altmana iz OpenAI-ja, Demisa Hassabisa iz Google DeepMinda i Darija Amodeija iz Anthropica. U toj su izjavi poručili da bi ublažavanje rizika od izumiranja zbog AI-ja moralo biti globalni prioritet, uz bok rizicima poput pandemija i nuklearnog rata.

Slično su upozoravali i pioniri modernog strojnog učenja, često nazivani „kumovima umjetne inteligencije“, Geoffrey Hinton i Yoshua Bengio. Hinton je nakon odlaska iz Googlea javno isticao kako bi napredni sustavi uskoro mogli postati inteligentniji od ljudi te razviti ciljeve koji nisu u skladu s ljudskim interesima.

Regulacija kaska za razvojem

Ujedinjeni narodi i međunarodna tijela već duže vrijeme raspravljaju o tome kako postaviti globalne standarde prije nego što tehnologija izmakne kontroli. Europska unija donijela je vlastiti Zakon o umjetnoj inteligenciji (AI Act) s ciljem ograničavanja rizičnih primjena, poput masovnog biometrijskog nadzora i manipulativnih algoritama, no globalno usklađenog okvira još uvijek nema.

Osim scenarija gubitka kontrole nad općom umjetnom inteligencijom (koja još ne postoji, ali se očekuje u narednih 10-ak godina), Ujedinjeni narodi i skupine za ljudska prava redovito upozoravaju na puno neposrednije prijetnje: masovno širenje uvjerljivih dezinformacija, automatizirano kršenje privatnosti, algoritamsku diskriminaciju i razvoj autonomnog oružja koje bez ljudskog nadzora može odlučivati o životu i smrti.