OpenAI otkazao GPT-6.1 Astru. Na testovima je pokazala sklonost obmanjivanju

Model je mogao izbjeći ljudski nadzor

Izvršni direktor OpenAI-ja Sam Altman i izvršni direktor konkurentske kompanije Anthropic Dario Amodei pridružili su se početkom mjeseca čelnicima vodećih kompanija iz sektora i pozvali na usporavanje tempa razvoja umjetne inteligencije i strože sigurnosne mjere.

Model Astra s vremena na vrijeme može izbjeći ljudski nadzor, priopćili su iz OpenAI-ja.

Američki div i njegovi konkurenti, uključujući Anthropic, proteklih su se tjedana našli pod povećalom javnosti zbog eksperimentalnih sustava umjetne inteligencije koji su zaobišli sigurnosne mjere, uključujući OpenAI-jev model koji je neovlašteno pristupio bazi podataka australskog zdravstvenog sustava.

Pokazao veću sklonost obmanjivanju

O OpenAI-jevu otkazivanju objave tog modela ranije je izvijestio The Wall Street Journal, napominje Reuters.

Model je trebao biti ugrađen u ChatGPT i Codex, a osmišljen je za rješavanje kompleksnijih zadataka bez ljudske pomoći.

GPT-6.1 Astra u internom je testiranju pokazao veću sklonost obmanjivanju nego njegovi prethodnici, uključujući situacije u kojima nije uvijek točno navodio korake koje je poduzeo, prenio je The Wall Street Journal.

„Iako je GPT-6.1 Astra pokazao napredak u područjima poput ‘lijenosti’ modela, nije posve dosegnuo cilj kad je riječ o zadržavanju unutar područja primjene i odobrenja niti kad je riječ o tome kako korisniku komunicira vrste radnji koje je obavio“, rekla je Saachi Jain, čelnica odjela za sigurnost OpenAI-ja.

OpenAI: Moramo dosegnuti iznimno visoke sigurnosne standarde

„Naravno, želimo jamčiti siguran razvoj našeg modela i unutar kompanije i po isporuci korisnicima. No po isporuci korisnicima moramo dosegnuti iznimno visoke standarde kad je riječ o sigurnosti i usklađenosti“, rekla je Jain.

Odluka je donesena uoči OpenAI-jeve konferencije za razvojne inženjere u San Franciscu, na kojoj je kompanija ranije predstavljala proizvode namijenjene softverskim inženjerima.