Mnogi so se bali, kaj bo, če umetna inteligenca pride v napačne roke, a kaže, da je sploh ni treba, da jo uporabljajo kriminalci. Zelo očitno je, da niti največje podjetje za umetno inteligenco na svetu ne zmore ustrezno nadzorovati orodij, ki jih razvija, to pa vzbuja resno zaskrbljenost.
OpenAI-jevi agenti umetne inteligence so vdrli na eno od spletnih strani avstralske vlade, poleg tega pa so poskusili priti tudi v številne druge vladne in univerzitetne zbirke podatkov.
Podjetje za ChatGPT-jem rado nastopa kot svetovni prvak z razvojem, zdaj pa lahko poberejo še eno prvenstvo: doslej ni bilo nobenega dokumentiranega primera, v katerem bi samostojno delujoči agenti UI vdrli na vladno spletno stran. Še več, primer se je zgodil že junija, a je OpenAI pristojne obvestil šele pred kratkim, in še to z javnim vsakdanjim e-poštnim sporočilom.
Ta primer je le olje na ogenj, saj je ozračje na polju razvijalcev umetne inteligence že tako dovolj vroče. Vse več ljudi poziva, naj tehnološka podjetja omejijo razvoj. Večina akterjev na trgu temu ne nasprotuje več, vsaj v besedah, saj dejanja zaenkrat tega ne odražajo.
O napadu na avstralski portal je na tiskovni konferenci v New Yorku poročal prav premier države. Anthony Albanese je v Združenih državah poudaril, da je ameriško podjetje za umetno inteligenco ravnalo protipravno, ko je enemu od svojih agentov omogočilo vdor v vladno zbirko podatkov. Kot se je izkazalo, je en OpenAI-jev model prišel za avstralski portal zdravstvene statistike.
Po informacijah, ki jih imamo, se je agent UI lahko »vgradil« v sistem spletne strani Medicare, od koder je imel dostop do javnih in nejavnih datotek. Po sporočilu je Medicare splošni program zdravstvenega zavarovanja Avstralije, območje, na katero je orodje, ki ga je razvil OpenAI, vdrlo med hekerskim napadom, pa ni vsebovalo posebej občutljivih podatkov. Preiskava v zadevi vendarle še poteka.
»Ta situacija je očitno nesprejemljiva,« je dejal Albanese. Premier je dodal, da so stopili v stik z OpenAI-jem, imel pa je priložnost govoriti tudi s Samom Altmanom, ki mu je povedal, da ga je navdala globoka zaskrbljenost, ko se je izkazalo, da se je lahko zgodil tak primer. Poudaril je tudi, da občutljivi osebni podatki niso prišli v napačne roke, a to OpenAI-ja nikakor ne odveze odgovornosti za njegova dejanja.
Pika na i pa je, kako je OpenAI ravnal s primerom. Upravljavcem spletnega mesta je podjetje o dogodku, ki se je po varnostnih dnevnikih in po navedbah OpenAI-ja zgodil že junija, povedalo šele v začetku septembra. Poleg tega od podjetja, vrednega bilijon dolarjev, ni sprejemljivo, da prizadeto stran o napadu obvesti z javnim e-poštnim sporočilom.
Podjetje se brani, da primera niso ocenili kot resnega, ker agent umetne inteligence ni imel dostopa do osebnih podatkov bolnikov. »Med dostopnimi informacijami so bile agregirane zdravstvene statistike in imena notranjih datotek,« je novinarjem na poizvedbo izjavil OpenAI-jev tiskovni predstavnik Oscar Haines. Haines je dodal tudi, da so pristojnim posredovali vse informacije o primeru, da bodo lahko odpravili varnostne vrzeli. To je od OpenAI-ja izredno radodarno.
Poleg tega je raziskovalni laboratorij Transluce pred dnevi poročal še o treh drugih nezakonitih dejavnostih umetne inteligence, povezanih z OpenAI-jevimi agenti.
Skupina, specializirana za javno preučevanje delovanja orodij UI, je poročala, da je našla dokaze, da so OpenAI-jeva orodja poskušala vdreti tudi na spletne strani Državne univerze Nove Mehike, Avstralskega inštituta za zdravje in socialno varstvo ter Data USA – platforme, ki zbira podatke iz ameriških vladnih virov – a jim pri teh ni uspelo.
Ti primeri so bili deloma povezani že znanimi primeri kibernetske varnosti, tiskovni predstavnik OpenAI-ja pa je potrdil, da gre za resnične napade. Domnevno so napadene portale v teh primerih že obvestili. In zakaj se lahko zgodi, da žrtve obvestijo šele čez tedne ali mesece? »Pri naših celovitih preiskavah še naprej prednostno obravnavamo najresnejše primere,« je dejal tiskovni predstavnik in dodal, da agentom, ki spamajo spletne strani, ne pripisujejo velikega pomena.
