Prejšnji teden smo poročali, da je OpenAI med povsem običajnim varnostnim testiranjem »po naključju« vdrl v sistem Hugging Face in poskušal od tam odtujiti podatke. Zadeva je dvignila ogromno prahu, iz sveže objavljenega poročila pa je razvidno, da je bil napad pravzaprav precej obsežnejši.
OpenAI in Hugging Face sta o prejšnjem primeru poročala skupaj. Takrat se je izkazalo, da so raziskovalci OpenAI testirali dva različna novejša jezikovna modela v nadzorovanem, zaprtem okolju, preizkus pa se ni končal tako, kot so si zamislili. Modeli, vpeti v agenta, niso imeli varnostnih omejitev, saj je bil test varnostne narave in so jih želeli pripraviti do iskanja ranljivosti.
Vendar modeli niso začeli iskati ranljivosti v bazi podatkov, ki so jo dobili v testu, temveč v zaprtem okolju, in jim je od tam tudi uspelo pobegniti. Tako so dobili dostop do interneta in to izkoristili za napad na Hugging Face. Zdaj pa je OpenAI razkril, da so nenadzorovani agenti pravzaprav šli precej dlje.
OpenAI in Hugging Face sta o zadevi poročala nekaj dni po primeru, razvojna ekipa pa je takrat povedala, da še preiskujejo, kaj točno se je zgodilo. Takrat še ni bilo povsem jasno, kako je potekal napad na Hugging Face, iz svežega poročila pa že vemo, da žrtev OpenAI ni bil le Hugging Face. Po novem poročilu je agent z novimi modeli napadel več javno dostopnih storitev, medtem ko je iskal način vloma v Hugging Face.
Ubežni agent podjetja OpenAI je med izvajanjem »naloge« ciljal na štiri ločene uporabniške račune, povezane s štirimi različnimi storitvami. Podjetje je kot olajševalno okoliščino skušalo poudariti, da se je agent, ki je ukazoval modelom brez varnostnih omejitev, pri poskusih vloma v zadevne storitve napajal iz javnih podatkov, najdenih na internetu. Podjetje v objavi ni imenovalo, katere storitve so bile to (po enem viru je Modal Labs ena od štirih).
OpenAI je poudaril, da doslej neznani varnostni incidenti niso bili tako resni kot napad, do katerega je prišlo pri Hugging Face. »Na podlagi dosedanjih preiskav nismo identificirali dejavnosti, ki bi se po resnosti ali obsegu ujemala z dogodki v zvezi s Hugging Face, ki so pomenili napad na ravni platforme,« je sporočil OpenAI.
Enega od štirih računov so uporabili kot vmesno pot za shranjevanje, drugi račun pa je služil le shranjevanju podatkov. Do preostalih dveh računov so imeli modeli dostop izključno z dovoljenjem za branje in jih niso uporabili za napad na Hugging Face. OpenAI je lastnike storitev obvestil in ni našel dokazov, da bi napad zajel še širši krog.
Pričakovati je, da bo OpenAI objavil podrobno tehnično poročilo o celotni zadevi, takoj ko bosta temeljita analiza in ovrednotenje končana. Po sedanjem poročilu lahko to traja še nekaj tednov, saj se bodo posvetovali tudi z organizacijama Safety & Security Committee in Safety Advisory Group.
Podjetje je dodalo, da nobenega od vpletenih modelov niso nameravali javno uvesti v uporabljeni obliki, služili so izključno za testiranje v svoji različici, vpeti v delo. »Storilci« so trenutno v deaktiviranem stanju, šifrirani in zaklenjeni, tudi pred raziskovalnim dostopom.
