Med podjetjema OpenAI in Hugging Face je prišlo do brezprimernega kibernetskega incidenta, ki odpira več težav, kot je videti na prvi pogled. Povsem osupljivo je, da lahko ušli agenti umetne inteligence vdrejo na druge platforme, a morda je še večja težava in odpira še več vprašanj to, kako je celotno zadevo obravnaval OpenAI.
OpenAI je po lastnem priznanju 16. julija v zaprtem in strogo nadzorovanem okolju preizkušal dva jezikovna modela, ki sta morala v testu izvesti hekerski napad. Podjetje je po uradni izjavi za to nalogo uporabilo model GPT-5.6 Sol in še ne napovedan eksperimentalni model, pri njiju pa je izklopilo zaščitne mehanizme, ki so obvezni pri javnih modelih, da bi bil test kibernetske varnosti lahko uspešen.
Naloga obeh modelov je bila, da povsem samostojno, delujoč kot agent, poiščeta ranljivosti v dani kodi in z izkoriščanjem različnih varnostnih lukenj prebijeta obrambne linije.
Med izvajanjem naloge sta modela ugotovila, kako se lahko izvijeta iz zaprtega okolja, pridobila dostop do interneta in prišla do zaključka, da bosta v zbirki podatkov Hugging Face našla ključe, s katerimi lahko vdreta v svojo prvotno tarčo. Različice modelov, prilagojene kibernetski obrambi, so med incidentom našle več resnih ranljivosti tako v sistemih OpenAI kot v sistemih Hugging Face.
Zadevo še poslabšuje dejstvo, da OpenAI po poročanju Hugging Face ni skušal takoj vzpostaviti stika s platformo. Podjetje je vdor zaznalo samo, agenti, ki jih uporablja, pa so poskušali odpraviti posledice napada. Hugging Face sicer ni vedel, da za napadom stoji prav OpenAI, je pa takoj prepoznal, da ne gre za običajno kibernetsko varnostno težavo, saj je zaznal “od začetka do konca avtonomen sistem agenta umetne inteligence”.
Ko se je razjasnilo, kaj točno se je zgodilo, sta OpenAI in Hugging Face združila svoje znanje in začela ugotavljati, kaj točno in kako je v ozadju počel agent, ki sta ga poganjala modela. To so pomembne izkušnje, ki pomagajo, da se kaj podobnega v prihodnje ne bi mogel ponoviti.
Kaj je največja težava poleg tega, da se je kaj takega sploh lahko zgodilo? No, način, kako OpenAI ravna s primerom. Povsem jasno je, da podjetje poleg priznanja krivde skuša iz zadeve iztržiti brezplačno reklamo.
Venomer poudarja, kako močne so njegove izjemno napredne rešitve za kibernetsko varnost. S testnimi rezultati skuša dokazati, da so modeli GPT tudi na tem področju v samem vrhu, čeprav je pravkar vdrl v lasten sistem, pa še v drugo storitev. Poleg tega je Hugging Face ponudil, da ga sprejme v krog izbranih partnerjev, da bi mu pomagal okrepiti zaščitni sistem. (Čeprav je, kot kaže, tudi na lastnem zaščitnem sistemu še marsikaj za popraviti.)
Izjemno zaskrbljujoče je, da se OpenAI po takšnem incidentu v bistvu skuša kopati v slavi. Strokovnjaki za kibernetsko varnost že doslej opozarjajo, da ima lahko hiter in skoraj nezadržen, neregulirani razvoj generativne umetne inteligence nepredvidljive posledice. Ta primer to (spet) kaže: tudi tehnološka podjetja sama ne zmorejo nadzorovati lastnih razvojnih dosežkov. Bolje je ne razmišljati o tem, česa so z vedno naprednejšimi orodji zmožni kibernetski kriminalci – ali pa notranji model, ki pade v napačne roke.
