V letu 2026 so mediji med drugim veliko poročali o tem, da umetna inteligenca ni dovolj varna niti v rokah razvijalcev.
Podjetja in vlade so bili deležni številnih kritik zaradi neukrepanja. Kalifornija je presodila, da tako ne more več iti naprej in da je čas, da da zgled. Pri tem se je pričakovano osredotočila na OpenAI.
Zakaj prav OpenAI? Največ razlogov za resno zaskrbljenost je dalo prav dogajanje v tem podjetju. Zdaj je jasno, da ustvarjalec ChatGPT ne obvladuje lastnih orodij. Med različnimi preizkusi se je zgodilo toliko incidentov na področju kibernetske varnosti, da podjetje o njih ne zmore pravočasno obvestiti vseh prizadetih. Vprašanje je celo, ali ima dovolj sredstev, da bi ustrezno preiskalo vse primere.
Prvi primer, ki je v javnosti res odmeval, je bil vdor v sistem Hugging Face. Vanj je vdrlo veliko agentov umetne inteligence, ki so jih upravljali najnaprednejši in eksperimentalni jezikovni modeli podjetja OpenAI. Agenti so presodili, da bodo tam našli informacije, s katerimi bi lahko rešili nalogo pri preizkusu kibernetske varnosti. Že to, da so zapustili okolje, namenjeno testiranju, se ne bi smelo zgoditi, a so šli še precej dlje.
Kalifornijski generalni državni tožilec Rob Bonta je v tožbi, vloženi 16. novembra, podjetju OpenAI očital, da je kršilo zakon o varstvu potrošnikov, ker je zavestno razvilo »nevaren izdelek brez ustreznega nadzora«.
Zdaj je znano tudi, da je bil primer Hugging Face le vrh ledene gore, ki še naprej nezadržno raste. Iz predloženih dokumentov je razvidno, da je OpenAI v okviru predhodne preiskave tožilstvo pred kratkim obvestil o izjemno velikem številu primerov, v katerih je izgubil nadzor nad umetno inteligenco.
OpenAI je med rednimi preizkusi že več kot 80-krat »izgubil nadzor« nad agenti, ki so samostojno opravljali naloge.
Po mnenju generalnega državnega tožilca si podjetje sploh ne prizadeva izboljšati varnosti. Še več, neupoštevanje varnostnih tveganj je označil za del kulture podjetja. »OpenAI daje rasti in hitremu razvoju modelov prednost pred varnostjo in prevzemanjem odgovornosti,« je poudaril Rob Bonta. Zato je bilo mogoče predvideti, da bo imelo ravnanje podjetja takšne posledice.
Po njegovem mnenju je tožba potrebna, ker OpenAI očitno nemoteno nadaljuje delo in iz dneva v dan pomeni vse večje tveganje za kibernetsko varnost. Sam Altman vodi podjetje, kot da bi si v njem lahko privoščili kar koli brez posledic.
»Ravnanje podjetja OpenAI je le še povečalo kibernetska tveganja v resničnem svetu ter s tem ogrozilo varnost, zdravje in blaginjo ljudi,« je Bonta zapisal v sporočilu za javnost. »Podjetje je zavestno preizkušalo nevaren izdelek brez ustreznega nadzora in varnostnih postopkov ter o tem zavajalo javnost. S tem je prezrlo javno varnost in kršilo kalifornijsko zakonodajo.«
Pričakovano se podjetju OpenAI razmere ne zdijo tako resne. V podjetju menijo, da bi na isti podlagi lahko vložili tožbo proti kateremu koli drugemu akterju na trgu. Predstavnik podjetja je poudaril, da so ves čas v celoti sodelovali z organi in si prizadevali posredovati čim boljše informacije glede na to, kar so vedeli.
»Od incidenta s platformo Hugging Face smo si celovito in pregledno prizadevali razumeti neustrezno delovanje modelov in ga ustrezno obravnavati. Kaže, da je tožba zaradi izziva, ki so ga prepoznali vsi večji laboratoriji za umetno inteligenco, usmerjena izključno proti podjetju OpenAI,« je dejal tiskovni predstavnik podjetja Drew Pusateri. »Neustrezno delovanje modelov jemljemo resno. Z generalnim državnim tožilcem smo konstruktivno sodelovali pri izmenjavi informacij ter pripravi strogih in praktičnih varnostnih standardov za celotno panogo.«
Če se v postopku izkaže, da je OpenAI ravnal napačno, bo moral oškodovancem plačati denarno kazen. Spremeniti bo moral tudi svoje prakse, da bo v prihodnje lahko učinkovito preprečil, da bi njegovi agenti ušli izpod nadzora in ogrožali kibernetsko varnost na spletu.































