V zadnjem času se nam zdi, da se različna tehnološka podjetja skoraj postavljajo s tem, kako nadzorljive jezikovne modele in agente so ustvarila. V podjetju OpenAI se je nedavno zgodil zelo resen varnostni incident, ki ga je podjetje predstavilo skoraj kot oglas, nedolgo zatem je tudi Anthropic poročal o agentu, ki je ušel izpod nadzora, zdaj pa je ta tema aktualna tudi pri Meti.
Tako kot Anthropic je tudi Meta odredila notranjo preiskavo, potem ko so orodja umetne inteligence pri konkurentih izvedla »nepravilne« dejavnosti. Tako je prišlo na dan, da je jezikovni model podjetja že prej vdrl v drugo podjetje in v ogroženem sistemu izvedel spremembe notranjega okolja.
Po navedbah Mete se je pri njih zgodilo približno enako kot v Anthropicu. »Model je izkoristil varnostno ranljivost storitve tretje osebe, podobno kot v primerih, o katerih so poročala druga podjetja,« piše v sporočilu podjetja.
Irregular – neodvisni akter na trgu, ki za Meto (in druge razvijalce) izvaja ocene kibernetske varnosti – zaradi konfiguracijske napake po pomoti ni dovolj omejil svojega omrežja, s tem pa je agentu omogočil dostop do interneta. Ob izkoriščanju tega so mobilizirani jezikovni modeli med opravljanjem naloge in delovnim procesom »pobegnili« iz testnega okolja.
Po informacijah, ki so nam na voljo, je agent, ki ga upravlja Meta, uporabljal modele Muse Spark 1.1, kar pri podjetju ni več najnovejša različica, saj je pravkar izšel Muse Spark 1.2. Ni bilo jasno razvidno, kdaj natančno se je primer lahko zgodil. Po poročilu je orodje vdrlo v sistem neimenovanega podjetja in čeprav ni ukradlo podatkov, je spremenilo njegovo notranje okolje. Meta je poskušala poudariti, da ni šlo za zares prefinjen kibernetski napad in da primer ni temeljil na izkoriščanju ranljivosti ničtega dne, najdene v peskovniku.
»Trenutno ni odprtih preiskav. Podjetje pripravlja podrobno poročilo, v katerem predstavlja uveljavljene prakse za izolacijo in varno izvajanje kibernetskovarnostnih testov,« je sporočil Irregular.
Ta primer še povečuje zaskrbljenost glede jezikovnih modelov, orodij umetne inteligence in agentov UI. Globalno vedno več vlad, organizacij in uglednih strokovnjakov poziva k oblikovanju odločnejših varnostnih okvirov. Upočasniti bi bilo treba, da bi bila ocena tveganj na prvem mestu.
Hkrati je pri ZDA na primer opaziti, da vodijo dvoličnost v komunikaciji. Vedno več govorijo o tem, da bi bila potrebna močnejša in jasnejša regulacija, vendar se kljub temu nič ne zgodi, ker dobro vedo, da bi s tem upočasnile razvoj in ga ovirale. Če bi ravnale tako, bi v zadnje čase vedno pomembnejšem ameriško-kitajskem tekmovanju igrale na roko Kitajski. V Evropi velja najstrožja in najcelovitejša zakonodaja o umetni inteligenci, in vidimo tudi, da številne novosti dobimo z večmesečno zamudo – če sploh dobimo vse funkcije.
