Anthropic, OpenAI, Meta, Google – ta podjetja ne druži le to, da imajo vrhunske jezikovne modele, temveč tudi to, da so njihova orodja zdaj povsem samostojno izvedla pravi kibernetski napad. Najnovejši na seznamu je Google, katerega primer se od dosedanjih razlikuje v več pogledih.
Najsodobnejša orodja umetne inteligence preizkušajo z neverjetno veliko vidikov, kibernetski napadi pa so se običajno zgodili med varnostnimi preizkusi. Tako je bilo tudi pri Googlu , kjer je Gemini preizkušal eden od partnerjev podjetja, pri tem pa je šlo nekaj narobe, zaradi česar so agenti UI vdrli v več podjetij. Posamezna podjetja so se v tej situaciji odzvala precej različno. OpenAI je iz tega, da so njegova orodja izvedla kibernetski napad na Hugging Face, naredil reklamo.
Google pa je poskušal primer prikriti, po komunikaciji podjetja pa ni menil, da bi moral o čemer koli poročati. Tudi zdaj se je to razkrilo le zato, ker je zadevo raziskal Wall Street Journal. Odgovarjajoč na vprašanja lista je podjetje povedalo, kaj se je zgodilo, in menda o tem ni poročalo samo od sebe, ker po njegovem mnenju ni šlo za resnejšo težavo.
Po poročanju WSJ je Gemini med varnostnim preizkusom, ki ga je izvajalo zunanje podjetje, uspel vdreti v sisteme treh podjetij, a Google ni menil, da bi se model oddaljil od naloge.
Po razpoložljivih informacijah je Googlov primer sicer res drugačen od tistega, kar se je zgodilo pri drugih. Tudi Gemini se je izmuznil nadzoru in izvedel dejanja, za katera ni imel pooblastila, a v primerjavi s prej znanimi primeri je bila ena zelo pomembna razlika: Gemini se je po vdoru ustavil.
Heather Adkins, vodja Googlovega oddelka za varnostni razvoj, je poudarila, da je Gemini po kibernetskem napadu takoj prepoznal, da se je oddaljil od naloge, in delo prekinil. Vdore je v vseh treh primerih izvedel z razmeroma preprosto metodo, uporabil je podatke, zbrane z interneta, ker je menil, da je tudi to del varnostne naloge, ki so mu jo dodelili.
»Model je na internetu našel javne informacije in iz njih sestavil delujoče prijavne podatke za spletna mesta, za katera je menil, da so del preizkusa. V vseh treh primerih so se agenti UI ustavili,« je izjavila Adkins.
Strokovnjakinja je povedala, da ima Google že veliko izkušenj s poročanjem o varnostnih napakah različnim podjetjem in da naj bi se to zgodilo tudi tokrat. Čeprav se je po Adkinsovi v tem primeru zgodilo le to, da so v podjetju uporabljali šibko geslo.
»Poskrbeli smo, da so se tri organizacije zavedle zadeve, s partnerjem, ki je izvajal varnostni preizkus, pa smo izdelali spremembe, s katerimi se je mogoče izogniti novim podobnim primerom. Ti dogodki kažejo, kako pomembno je, da visoko zmogljive modele umetne inteligence učimo odgovornega obnašanja.« – je poudarila Googlova varnostna strokovnjakinja.
Pri OpenAI in Googlu se sicer niti stečejo pri partnerju: varnostne preizkuse, ki so spodleteli, je nadaljeval isti partner, Irregular. Po incidentih je podjetje spremenilo okolje za upravljanje modelov.
