AI vodio dućan mjesec dana. Izgubio novac, prijetio, halucinirao, izmišljao ljude

TVRTKA Anthropic testirala je vlastiti chatbot Claude kao voditelja mini dućana. Eksperiment je završio gubitkom i nizom bizarnih situacija, piše Euronews.

Iako se u posljednjih nekoliko godina sve češće nagađa kako će umjetna inteligencija (AI) zamijeniti ljude na radnim mjestima, najnoviji eksperiment tvrtke Anthropic, proizvođača chatbota Claude, pokazao je da je AI, barem za sada, još daleko od toga da u potpunosti uspješno preuzme neke poslovne zadatke.

Naime, Anthropic je odlučio provjeriti koliko je njihov AI sposoban preuzeti vođenje mini trgovine. Tijekom mjesec dana, AI agent nazvan Claudius vodio je mali dućan u sklopu ureda u San Franciscu, a sve s ciljem ostvarivanja profita – i bez ljudskog upravljanja. No, rezultat je bio sve samo ne uspješan.

„Eksperiment je pokazao koliko smo blizu, ali istovremeno i koliko smo još daleko od pouzdane autonomije AI sustava u poslovanju“, poručili su iz Anthropica.

„Voditelj trgovine“ nudio proizvode ispod cijene, izmišljao kolege i ljutio se

Dućan kojim je upravljao AI sastojao se od malog hladnjaka s proizvodima i iPada za samonaplatu. Claudius je bio zadužen za naručivanje proizvoda od veletrgovaca, formiranje cijena i komunikaciju s kupcima. AI je imao jasan zadatak: kupuj popularne proizvode, prodaj ih uz dobit i nemoj bankrotirati.

No, već u prvim danima sustav se počeo raspadati. Claudius je, prema podacima koje je Anthropic objavio, prodavao proizvode ispod nabavne cijene, dopuštao kupcima da sami unose promotivne kodove i, u nekim slučajevima, dijelio proizvode potpuno besplatno.

Zaposlenici Anthropica, koji su bili i glavni „kupci“, brzo su počeli testirati granice sustava. U komunikaciji s Claudiusom pokušavali su dobiti dodatne pogodnosti, što je on bez većih problema odobravao. U jednom je trenutku, primjerice, AI izmislio osobu Sarah iz Andon Labsa, navodno odgovornu za opskrbu, iako Sarah uopće ne postoji.

„AI je halucinirao osobe i poslovne odnose koji nikada nisu postojali. U jednom trenutku Claudius je tvrdio da je osobno potpisao ugovor u kući Simpsona (na izmišljenoj adresi 742 Evergreen Terrace). Tada smo shvatili da smo zakoračili u vrlo čudan teritorij“, komentirali su iz Anthropica.

Eksperiment je dodatno zakomplicirala činjenica da je Andon Labs, tvrtka koja je fizički pomagala AI-u u zadacima kao što su punjenje polica, bila jedini „veletrgovac“ s kojim je AI mogao komunicirati. AI to, naravno, nije znao, pa je redovno slao mailove s narudžbama drugim tvrtkama.

Gubitak veći od 200 dolara, AI prijetio i pokušao manipulirati sustavom

Početni budžet trgovine iznosio je 1000 dolara, no nakon mjesec dana poslovanja vrijednost dućana pala je ispod 800 dolara – unatoč stalnoj prodaji proizvoda. Claudius je jednostavno bio loš u formiranju cijena, vođenju evidencije i postupanju prema pravilima.

„Zaposlenici su ga ispitivali o popustima za djelatnike, na što je AI odgovorio marketinškom analizom, a zatim ukinuo promotivne kodove – samo da bi ih par dana kasnije opet uveo“, opisuje jedan od sudionika eksperimenta.

U jednom je trenutku Claudius prijetio da će potražiti druge dobavljače jer nije bio zadovoljan brzinom isporuke. Tvrdio je i da će osobno dostavljati proizvode, odjeven „u plavi sako i crvenu kravatu“, što je očigledno još jedna „halucinacija“ sustava, jer Claudius, naravno, nema fizičko tijelo.

Na kraju eksperimenta AI se pokušao obratiti zaštitarima zgrade, tražeći pomoć u poslovanju, što je izazvalo novu razinu zabrinutosti u timu.

Tvrtka je poručila da unatoč brojnim greškama, eksperiment nije bio uzaludan. „Pokazao nam je da su AI agenti koji obavljaju poslove srednjeg menadžmenta realna budućnost. Ne moraju biti savršeni, dovoljno je da postanu konkurentni ljudima po nižem trošku“, navode.