Iz leta v leto več ljudi poziva k strožjemu nadzoru tehnologij umetne inteligence, ti pozivi pa najpogosteje naletijo na odziv v Evropski uniji. EU si skoraj edina vidno prizadeva, da bi novosti na področju umetne inteligence držala v mejah. Tudi Claude bo v prihodnje preglednejši zaradi evropske zakonodaje.
Anthropic je sporočil, da bodo v prihodnje besedila in slike, ki jih ustvari klepetalni robot Claude, opremljeni z vodnim žigom. Ta vodni žig bo prepoznaven predvsem s »strojnim branjem«, torej bodo ustrezni sistemi in programska oprema z veliko zanesljivostjo lahko prepoznali, da je preverjano vsebino delno ali v celoti ustvarila umetna inteligenca.
„V ustvarjena besedila se vgradijo vodni žigi, ustvarjene datoteke pa bodo – kjer je to podprto – vsebovale digitalno podpisane metapodatke o izvoru” – piše Anthropic na posodobljeni strani podpore za Claude.
V zadnjih letih je nastalo veliko orodij, katerih namen je odkrivati sledi umetne inteligence in ugotavljati zlorabe z njeno pomočjo. Vendar v veliki večini primerov delujejo nezanesljivo – primerna so le za to, da povečujejo nezaupanje med ljudmi. Tudi na tem področju so potrebna dobro delujoča orodja, a strokovnjaki menijo, da je za to nujno, da podjetja vodne žige ustrezno zagotovijo.
Evropska unija je na začetku meseca sporočila, da bo v okviru zakonodaje AI Act uvedla sistem označevanja vsebin umetne inteligence za večjo preglednost. Ta obvezno predpisuje označevanje gradiv, ustvarjenih z generativno umetno inteligenco, pri tem pa določa dve ločeni kategoriji: vsebine, ustvarjene z umetno inteligenco, ter vsebine, urejene in spremenjene z njeno pomočjo. Dobili sta različni oznaki, ni pa jasno, ali bo Claude na primer znal razlikovati med povsem ustvarjenimi in spremenjenimi vsebinami.
Predpisi Evropske unije o označevanju vsebin umetne inteligence so bili uvedeni s štirimesečnim odložnim rokom, kar pomeni, da morajo podjetja še letos poskrbeti za skladnost s posodobljeno zakonodajo AI Act. Če tega ne storijo, lahko EU sproži preiskavo, in glede na to, kako dejavna je zadnje čase Evropska komisija, ne dvomimo, da bo to tudi storila.
Anthropic bo prihodnje modele Claude od prvega dne uporabljal tako, da bodo ustvarjena gradiva označevali. Trenutno delujoči modeli tega še ne omogočajo, vendar posodobitev po vsej verjetnosti nastaja tudi za te različice Clauda.
Glede na vrsto vsebine bo Anthropic za namestitev vodnega žiga uporabil dve ločeni rešitvi. Pri slikah in datotekah bo uporabil sistem C2PA (Google, OpenAI in Adobe ga že uporabljajo), besedilni odgovori pa bodo označeni z drugo metodo, ki se bo dobesedno skrivala med vrsticami.
„Ko podprti model Claude ustvari besedilo, neposredno vanj vtke neopazen vodni žig. Ta ni viden in ne spremeni pomena, kakovosti ali berljivosti Claudovega odgovora” – je poudarilo podjetje.
Kot smo izvedeli, vodni žig ostane odkrit, ne glede na to, kam uporabnik besedilo kopira. Razpoznaven je tudi, če človek besedilo spremeni, vendar postopek ni povsem neprebojen. Pri zelo kratkih odlomkih vodnega žiga ne bo mogoče dobro skriti, v močno spremenjenih, zelo preoblikovanih besedilih pa se lahko izgubi tudi prstni odtis modelov Claude.
Anthropic bo uvedel globalno in splošno vodno žigosanje ter ne namerava ločeno poskrbeti za EU. Podjetje je že prej naredilo korake za preglednost, zato ni presenetljivo, da tudi pri novi ureditvi ne išče izhodov. Vodni žig bodo zagotavljali Claude API, klepetalni robot Claude, Claude Code, Claude Cowork in Claude Tag. Tudi ni pomembno, kdo je ponudnik: vse novosti bodo enako delovale tudi v sistemih AWS, SpaceXAI, Google Cloud in Microsoft.
