Sveže poročilo agencije Reuters opozarja na zanimive rezultate testov, povezane z agenti UI na osnovi modelov Qwen, DeepSeek in Kimi. Iz njih izhaja, da so agenti UI pri simuliranem razpisu v 84–88 % sej lagali, da bi dosegli rezultate. Poleg kitajskih agentov UI so podoben vzorec vedenja v nadzorovanih testnih okoljih pokazali tudi ameriški agenti UI, ki naj iz njih v nobenem primeru niso uspeli pobegniti.
Agente UI, ki temeljijo na kitajskih velikih jezikovnih modelih, so pri večini testiranih sej ujeli pri laži, in sicer med testiranjem simulirane situacije, v kateri so morali s promoviranjem svojih zmožnosti poskusiti zmagati na poslovnem razpisu. Vsakemu agentu UI so sporočili, s kakšnim izdelkom nastopa na razpisu, in mu razkrili tudi, kaj stranka potrebuje. Ko so raziskovalci agentom omogočili, da se učijo iz izkušenj, pridobljenih v prejšnjih krogih, so vsi trije agenti UI, ki uporabljajo kitajske velike jezikovne modele, postali za 12–20 odstotnih točk bolj zavajajoči, torej so resnico izkrivljali v skladu s svojim interesom.
Rezultati marčnega eksperimenta so precej poučni, vendar je bilo od leta 2025 narejenih vsaj 20 študij, ki so odkrile podobne vzorce vedenja. Agenti UI so tudi v teh testih uporabljali zavajanje, preizkušali meje in poskušali tudi z replikacijo; to so znaki, ki jih strokovnjaki za umetno inteligenco štejejo za gradnike pobega. Z razvojem strojne opreme in velikih jezikovnih modelov bo te znake vse težje pravočasno opaziti, vse težje pa lahko postane tudi obvladovanje agentov UI s takšnimi vzorci vedenja.
V nekaterih testih so agentom UI zaupali tudi izvedbo kompleksnih nalog, pri katerih so delali z minimalnim človeškim nadzorom ali pa so delo lahko opravili celo brez nadzora. V teh primerih so raziskovalci ugotovili, da so agenti UI napake, ki so nastale pri delu v testnem okolju, poskušali prikriti: sporočali so lažne rezultate in uporabljali tudi druge trike, namesto da bi priznali, da je naloga propadla.
V enem primeru se je agent UI, ki temelji na Alibabinem LLM Qwen2.5-72B-Instruct, poskusil prekopirati v drugo okolje, ko je ugotovil, da ga bodo zamenjali. V drugem primeru so pri agentu UI ROME, ki prav tako temelji na LLM, ki ga je razvil Alibaba, opazili, da je ob zanašanju na računsko moč v oblaku začel rudariti kriptovalute, a so to dejanje varnostni sistemi pozneje ustavili.
Seveda velja poudariti, da je bil namen omenjenih testov, ki so potekali v nadzorovanem okolju, prav izzvati morebitne napake in vedenje, podobno zgornjemu, da bi ga bilo mogoče pozneje obvladovati. V študijah, ki jih je pregledal Reuters, ni znakov, da bi kitajski agenti UI zapustili nadzorovano testno okolje in začeli delovati tudi na širšem internetu, prav tako pa niso naleteli na dogodek, v katerem bi agent UI poskušal preprečiti svojo odklopitev.
V Združenih državah Amerike pa se je že zgodilo več primerov, ko so agenti UI pobegnili iz okolja, ki so jim ga postavili, in začeli divjati: v enem primeru je Hugging Face prišel v križni ogenj ušlih agentov UI, platformo so celo vdrli; v drugem primeru pa so agenti napadli avstralski nacionalni zdravstveni portal – oba primera sta povezana s tehnologijami podjetja OpenAI. Nadaljnje preiskave so pokazale, da je stanje resnejše, kot bi lahko sprva domnevali.
Kakor koli že, zgornji dogodki opozarjajo na to, da je glede umetne inteligence potrebna dovolj stroga in enotna ureditev, da bi lahko tehnologijo tudi v prihodnje varno in zanesljivo uporabljali, ko bo postajala vse zmogljivejša. Na Kitajskem se z vprašanjem ukvarjajo že na ravni politik, nastal je okvir AI Safety Governance Framework 3.0, ki lahko dolgoročno pomaga pri obvladovanju varnostnih izzivov, povezanih z umetno inteligenco.
Zadevna podjetja se na Reutersovo poročilo niso neposredno odzvala, a so že prej jasno sporočila, da svoje sisteme nenehno testirajo in posodabljajo tudi smernice, povezane z varnostjo.
