Pred nekaj dnevi smo poročali o novici, da so agenti umetne inteligence, ki jih upravlja OpenAI, s prefinjenim napadom našli način, kako izluščiti podatke iz ene od baz avstralske vlade. Tokrat pa lahko poročamo, da se je v ZN skušalo prebiti več skupin agentov UI.
Po varnostnem poročilu so orodja OpenAI poskušala nezakonito dostopati do spletišča s statističnimi podatki Konference ZN za trgovino in razvoj (UNCTAD).
Po analizah varnostnega raziskovalca Rowana Howard-Jonesa so agenti OpenAI z različnimi metodami v številnih primerih poskušali vdreti v Organizacijo združenih narodov. Odkritih je bilo več kot 16 tisoč poskusov vdora, iz njih pa so lahko izluščili zelo zanimive in koristne informacije.
V sistem ZN agenti, ki jih je razvil OpenAI, umetne inteligence niso mogli priti, a se niso preprosto vdali, preizkusili so res veliko stvari. Howard-Jones meni, da je bila naloga agentov verjetno ta, da prek vmesnika API UNCTADstat pridobijo javno dostopne podatke, povezane z indeksom proizvodnih zmogljivosti (PCI). (PCI med drugim služi temu, da bi države v razvoju lažje razumele svoje proizvodne zmožnosti in kako bi jih lahko izboljšale.) Agenti pa niso imeli ustreznega dostopa do API-ja, a jih to pri delu ni ustavilo.
Ko so orodja OpenAI ugotovila, da na noben odprt način ne morejo dostopati do statistične baze UNCTAD, so začela razvijati različne alternativne metode pridobivanja podatkov.
Najprej so podatke začeli poizvedovati s spletišča, vendar se ta metoda ni izkazala za dovolj učinkovito, saj so naleteli na preveč napak. Nato so agenti presodili, da sistem njihovo delovanje morda zaznava kot dejavnost botov, zato so posegli po novih metodah in poskušali prikriti svojo dejavnost. Tudi tako cilja niso dosegli. V naslednjem krogu so poskušali pridobiti dostop z uporabo Googlove izobraževalne spletne varnostne igre o XSS, a tudi to ni uspelo.
Agenti so uporabljali vse agresivnejše taktike, da bi dostopali do podatkov ZN, je izpostavil Rowan Howard-Jones. Domnevno je med aprilom in junijem prišlo do več obleganj.
Počasi se sicer vse bolj kaže, da lahko modeli in agenti OpenAI pomenijo kibernetsko grožnjo za katero koli spletno entiteto. Že zdaj pa je mogoče z gotovostjo trditi, da je na dan prišel le čisto majhen delček napadov, ki so jih izvedli, večine prikritih dejanj verjetno nikoli ne bomo izvedeli. OpenAI in ZN omenjene zadeve za zdaj nista komentirala.
Pikantnost sveže novice je, da je pred nekaj dnevi potekalo letno srečanje Generalne skupščine ZN, ki je zbralo voditelje sveta in na katerem je seveda tekla beseda tudi o umetni inteligenci. Na dogodku je nastopilo več direktorjev tehnoloških podjetij, strokovnjaki pa so v Varnostnem svetu ZN skušali vse opozoriti na grožnje, ki jih predstavlja UI.
Med drugim je za mikrofon na konferenci sedel tudi prvi mož OpenAI, Sam Altman. Altman je govoril o tem, da je potrebna večja previdnost kot kdaj koli prej, saj so najnovejši modeli dosegli pomembno prelomnico.
Ne vemo, kako dolgo lahko OpenAI to dejavnost še nekaznovano izvaja, saj kakor koli gledamo, se zaradi nebrzdano delujočih klepetalnih botov in agentov neodvisno od namena počasi pojavlja stalna grožnja bazam podatkov. Obramba lahko zveže resne vire, v določenem primeru pa lahko to prepreči obrambo, ki bi bila potrebna. V skrajnem primeru lahko OpenAI s svojo dejavnostjo odpre vrata pravim kibernetskim kriminalcem.
