Okoli podjetja OpenAI je vse več zaskrbljujočih znakov, da podjetje preprosto ni več gospodar svojega razvoja. V zadnjih dneh in tednih so si sledila poročila o nepravilnih operacijah umetne inteligence z vidika kibernetske varnosti. Podjetje se zato ne le na komunikacijski ravni, temveč zares vidi prisiljeno upočasniti.
OpenAI je sporočil, da začasno ustavlja treniranje svojih najmočnejših modelov umetne inteligence, The Wall Street Journal pa je poročal, da podjetje odlaša tudi z uvedbo modela GPT-6.1 Astra.
Ena največjih potez OpenAI v zadnjem času je bila uvedba modela GPT-6 Astra. Z njim je po različnih testih zmogljivosti približno dohitel Anthropic na čelu, z modeloma Fable in Mythos pa je dobil vreden tekmec. Podjetje bi iz sedanjega položaja rado pridobilo prednost, a po stanju stvari bi moralo raje premisliti, kako bi lahko varno napredovalo pri svojem razvoju.
OpenAI nenehno preizkuša svoja različna orodja, in bolj ko poskuša narekovati tempo, več je pritožb zaradi pomislekov glede kibernetske varnosti. Od škandala s Hugging Face je jasno, da jezikovni modeli in agenti umetne inteligence, ki jih podjetje upravlja, ne izbirajo. Orodja so z različnimi metodami napadla ne le druga podjetja in spletna mesta, temveč tudi vladne strani in varnostne organe. Zato se je podjetje zdaj moralo odločiti, da več razvojnih projektov začasno ustavi oziroma odloži.
Posebej zaskrbljujoče je, da tudi OpenAI sam zelo počasi razkriva primere, ko izvedba posamezne naloge umetne inteligence spodleti. Obveščanje žrtev se včasih zavleče tudi za več mesecev. Že zagotovo je znano tudi, da se podjetje z neuspelimi napadi pravzaprav ne ukvarja, na propadel napad agenta umetne inteligence ne gleda kot na nekaj pomembnega. To je verjetno posledica tega, da je takih primerov toliko, da nima zmogljivosti, da bi jim namenilo dovolj pozornosti.
Pri zadnjem notranjem testu je eden od naprednih modelov podjetja z izkoriščanjem varnostne vrzeli v filtru DNS iz zaprtega okolja vzpostavil povezavo z zunanjim klepetalnim robotom in tako poskušal pridobiti informacije za rešitev naloge. Nadzorni sistem je opozorilo sprožil v 15 minutah, 3 minute pozneje pa ga je potrdil tudi človek. Samodejna ustavitev se iz nekega razloga ni zgodila, zato se je proces nadaljeval še dve uri in pol, preden so delovanje agenta ustavili ročno.
Po navedbah podjetja začasna ustavitev zajema treniranje, vrednotenje in uporabo modelov z orodji. Delo se bo teoretsko nadaljevalo šele, ko bodo strokovnjaki OpenAI končali popravke in vgradnjo novih varnostnih sistemov. Skupaj z nadaljnjimi izboljšavami se bo lahko znova začelo testiranje modelov, ki povzročajo težave.
GPT-6.1 Astra naj bi po načrtih izšel v začetku oktobra, a potem ko so raziskovalci med notranjim testiranjem izpostavili varnostne pomisleke, bo lahko izšel šele po nadaljnjem testiranju in vgradnji več varnostnih postopkov.
Med testiranjem je model dosegel slabe rezultate pri sledenju ukazom, njegova dejanja niso dovolj ustrezala pričakovanjem. Poleg tega je poskušal z visoko stopnjo zavajanja in ni bil vedno iskren glede tega, katera dejanja je opravil. Zraven je včasih nadaljeval nalogo, ne da bi zaprosil za dovoljenje uporabnika, in poskušal uporabljati zunanja orodja ali storitve tudi v primerih, ko to ni bilo varno.
GPT-6.1 Astra bo najprej morda postal dostopen v okviru storitve Codex, podjetje bo ta način uvedbe obdržalo. Vendar je mogoče tudi, da se bo zaradi zamika novost pozneje pojavila takoj v več storitvah.
