V začetku aprila je Anthropic napovedal, da se je začel Project Glasswing, varnostna pobuda, zgrajena okoli modela Claude Mythos. V njej sodelujejo izključno zaupanja vredni partnerji, smetana tehnološke panoge, med drugim OpenAI, Nvidia in poleg drugih tudi Amazon. Pred dnevi pa se je izkazalo, da so do zaprtega in strogo varovanega modela dostopali tudi nepooblaščeni.
Oseba, ki ni želela razkriti imena, se je obrnila na Bloomberg in povedala, da je obstajala »manjša skupina nepooblaščenih uporabnikov«, ki so lahko dostopali do orodja za kibernetsko varnost, za katero Anthropic sam pravi, da lahko prinaša tako nevarnosti, da ga sploh ne namerava odpreti.
To je izjemno resna trditev, vendar je oseba predložila tudi dokaze, da je kot zunanji uporabnik lahko dostopala do posebnega modela. Časopisu je predala več posnetkov zaslona v podkrepitev svojih trditev. Oseba, ki je obvestila Bloomberg, se je predstavila kot podizvajalec podjetja Anthropic in časopisu povedala, da je skupini, organizirani na Discordu, uspelo pridobiti nepooblaščen dostop. (Vsaj trenutno nam je znano le to.)
»Člani so do modela Mythos prišli s kombinacijo različnih metod, pri čemer so izkoristili pravice dostopa podizvajalcev in preprosta spletna raziskovalna orodja,« piše v poročilu. Nepooblaščeni naj bi dostop pridobili 7. aprila, prav na dan, ko je podjetje objavilo začetek projekta Glasswing z močno omejenim krogom partnerjev.
Domnevno gre za skupino na Discordu, katere člani zbirajo informacije o modelih, ki so še v razvoju in niso objavljeni. Po poročilu so od odkritja možnosti nepooblaščenega dostopa model Claude Mythos redno uporabljali. Poleg tega naj bi v teoriji dosegli tudi druge modele v razvoju pod okriljem podjetja Anthropic – pri tem lahko pomislimo na druge različice modela Claude.
Claude Mythos trenutno deluje le v predogledni različici, zato je podjetje krog uradnih uporabnikov skušalo omejiti izjemno strogo. Gre za splošnonamenski model, ki v številnih testih deluje precej bolje kot današnja »potrošniška« orodja. Njegov glavni namen pa je iskanje ranljivosti in predlaganje rešitev zanje. Anthropic je partnerjem učinkovitost orodja pokazal tako, da je v široko uporabljanih sistemih razkril varnostne vrzeli, ki so se skrivale desetletja.
Bloomberg je stopil v stik z Anthropicom, podjetje pa je sporočilo, da ne ve za nobeno zlorabo in da ni zaznalo nepooblaščenega dostopa. »Preiskujemo prijavo, po kateri so neznanci prek sistema enega od naših zunanjih dobaviteljev dostopali do predogledne različice modela Claude Mythos.« – je dodalo podjetje.
Vsekakor je lahko razlog za zaskrbljenost, če največja tehnološka podjetja na svetu, vodilna v razvoju umetne inteligence, naredijo takšno varnostno napako.
Treba se je zavedati, da z modelom Claude Mythos ne le hekerji, ki bi odkrivali varnostne vrzeli v lastnem interesu, ampak so lahko posledice tudi precej resnejše. Ker gre za orodje za kibernetsko varnost, ki deluje le kot predogled v zaprtem in nadzorovanem okolju, v njem z veliko verjetnostjo ni varnostnih omejitev – ali pa so precej ohlapnejše kot običajno. To pa trenutni primer dela še resnejši.
