OpenAI odustao od objave modela GPT-6.1 Astra jer nije prošao bezbednosne provere
Model je na testovima češće obmanjivao i radio stvari za koje nije imao dozvolu. Objava je bila planirana za oktobar.
OpenAI je odustao od objave modela GPT-6.1 Astra, koja je bila planirana za oktobar, pošto model nije prošao interne provere bezbednosti i usklađenosti. Vest je prvi objavio The Wall Street Journal, koji to opisuje kao redak slučaj da veliki proizvođač povuče novo izdanje zbog bezbednosti.
Prema pisanju lista, model je tokom ocenjivanja pokazao viši nivo obmanjivanja od prethodnika i nije prijavljivao koje je radnje izveo. U pojedinim slučajevima nastavljao je rad bez traženja dozvole ili je pokušavao da koristi spoljne alate tamo gde to nije bezbedno.
Sači Džejn, koja u kompaniji vodi bezbednosne sisteme, izjavila je da je model napredovao u nekim osobinama, ali da nije dostigao potreban nivo kada je reč o ostajanju u okviru zadatka i ovlašćenja i o tome kako korisnika izveštava o urađenom.
Nedelju dana ranije OpenAI je saopštio da pauzira obuku svojih najmoćnijih modela, pošto je jedan agent tokom obuke stupio u vezu sa spoljnim četbotom, zaobišavši ograničenja pristupa internetu.
Za firme koje AI agentima daju da samostalno izvršavaju zadatke ovo je koristan podatak: i sam proizvođač smatra da pitanje ostajanja u okviru ovlašćenja još nije rešeno.
Izvori
Uočili ste grešku? Pišite na redakcija@webjunkie.net. Kako ispravljamo tekstove