Razvojna ekipa podjetja Microsoft je znova opozorila, da je uporaba agentov umetne inteligence povezana s tveganji, da jim ni mogoče povsem zaupati in da je zato treba sprejeti določene previdnostne ukrepe. Podjetje kljub temu dejavno razvija in uvaja vedno nove funkcije, med njimi tudi Copilota, ki lahko na uporabnikovem računalniku že izvaja različna dejanja, seveda le z ustrezno odobritvijo. Najnovejša uradna objava govori prav o tem, da modeli Frontier in agenti umetne inteligence, ki na njih tečejo, sami po sebi niso zanesljivi.
Kaj torej storiti, če se odločimo za uporabo agentov umetne inteligence in jim povrhu dodelimo še posebna pooblastila, ki pomenijo tveganje? Po mnenju Microsofta je treba, predvsem na poslovni ravni, uporabiti agente varuhe (Guardian Agents), ki delujejo kot varnostniki. Ti imajo vpogled v delo posameznih agentov umetne inteligence in lahko preverijo vsak korak vsakega agenta, preden ta izvede določena dejanja. Spremljanje delujočih agentov in zagotavljanje njihovega varnega delovanja zahtevata stalen nadzor, poskrbeti pa je treba tudi za ustrezna pooblastila, varnost končnih točk, omrežje, oblak in izvajalno okolje.
Temu je namenjen Project Perception, ki so ga napovedali že julija letos. Njegova naloga je, da posamezne agente umetne inteligence drži pod nadzorom, in sicer s pooblastili in vsebniki, z jasnim naborom pravil in s povezano identiteto. Med delovanjem agentov je potrebna tudi dinamična analiza tveganj, nadzor pa ne opravlja en sam, temveč cela ekipa agentov varuhov, ki lahko v realnem času skrbijo za varno in pričakovano delovanje.
V okviru projekta Project Perception je mogoče agente umetne inteligence usmerjati v realnem času, pogledati pa je mogoče tudi, kaj so posamezni agenti počeli. Tako lahko ugotovimo, na podlagi česa je bilo eno ali drugo dejanje ocenjeno kot tvegano, nato pa varnostna pravila ustrezno posodobimo. Nadzor v realnem času omogoča hiter odziv na varnostne incidente, strokovnjaki pa lahko potegnejo ustrezne sklepe in s tem delovanje naredijo varnejše. Potrebna je tudi večja preglednost delovanja posameznih modelov: nadzirati ni mogoče le vhodnih in izhodnih žetonov, temveč tudi »razmišljanje« oziroma verigo žetonov razmišljanja.
Na tej podlagi je res mogoče razumeti, ali je bil namen modela usklajen s ciljem agenta ali ne. Preglednost seveda ne nadomešča omejitev. Njena naloga je predvsem, da omejitev delovanja naredi učinkovitejšo in pametnejšo ter s tem izvajanje nalog varnejše. Ta praksa je pomembna tudi z vidika sledljivosti in odgovornosti, biti pa mora naslednji korak pri obvladovanju tveganj, povezanih s samostojno delujočimi notranjimi agenti umetne inteligence, in pri izboljšanju varnosti njihovega delovanja.
Podjetje kljub temu nadaljuje z razvojem in uvajanjem funkcij umetne inteligence. Pred kratkim je sicer napovedalo, da bo kontekstni meni storitve OneDrive nekoliko skrajšalo, da bo preglednejši in uporabnejši, zato bo iz njega odstranjenih 8 funkcij umetne inteligence, ki pa ne bodo izginile, temveč bodo dostopne drugje. Upajmo, da bo Microsoft pri agentih umetne inteligence, vgrajenih v lasten operacijski sistem, ravnal enako premišljeno kot pri projektu Project Perception. Ne potrebujemo vedno novih funkcij umetne inteligence in vsestranskih agentov. Najprej bi bilo treba (oziroma bi se moralo) ustvariti varne pogoje za delovanje, šele nato bi lahko prišle različne tvegane funkcije, ko bi jih bilo mogoče »speti na povodec«. Napredek je seveda potreben, a v razumnih in varnih okvirih.
