Anthropic, razvijalec Clauda, bo kmalu stopil na borzo, zato je podjetje v zadnjem času objavilo več pomembnih novic. Tokrat poročamo, da je po več kot letu dni posodobilo pravilnik o uporabi Clauda, kar je pomembno, ker ta določa okvire pravilnega delovanja, uporabnike pa je na podlagi njega mogoče celo izključiti s platforme.
Podjetje je jasneje in strožje opredelilo smernice, ki prepovedujejo zlorabljanje klepetalnega bota, namerno manipuliranje sistema ter žaljive in nadlegovalne interakcije.
Posodobljeni pravilnik posebno pozornost namenja oblikam vedenja, pri katerih bi umetno inteligenco uporabljali za simulacijo nasilnih, poniževalnih ali psihološko manipulativnih situacij. Anthropic izrecno prepoveduje pozive, katerih cilj je modeliranje žaljivega vedenja, spolno ali besedno nadlegovanje ali ustvarjanje situacij, namenjenih namernemu zrahljanju varnostnih ovir modela.
Nova ureditev ne zadeva le uporabe z zlonamernim namenom proti drugim, ampak neposredno opredeljuje tudi meje komunikacije z modelom.
Po izkušnjah podjetja obstajajo uporabniki, ki klepetalnemu botu redno pišejo nasilna, žaljiva sporočila. Po mnenju podjetja tudi to ni v redu in so presodili, da je čas, da se temu naredi konec. Kdor želi uporabljati Clauda, naj se s storitvijo pogovarja pošteno – človeku dostojno. Z večjo pozornostjo temu bo podjetje lahko odfiltriralo tudi več scenarijev, ki vzbujajo sum zlorabe. Takšne pogovore je Claude lahko prekinil že po lanskoavgustovski posodobitvi, odslej pa bo tem »zlorabam« namenjene še več pozornosti.
Sprememba obenem varuje tudi varnost uporabnikov: pravilnik krepi omejitve glede samopoškodovanja, razvoja skrajne psihološke odvisnosti ter škodljivih interakcij, odtujenih od resničnosti. Dandanes je žal povsem realna situacija, da nekdo globoko depresijo razpravlja s klepetalnim botom ali z njim deli svoje samomorilne nagnjenosti in namere. Claude se bo na takšne situacije lahko bolje odzval. Mnogi pa tudi samo preizkušajo, kako se bo storitev odzvala na takšne pozive, a skušali bodo preprečiti tudi takšne simulacije.
Anthropic je zdaj več obstoječih omejitev povezal in dopolnil z novo določbo, ki prepoveduje zavajajoče komercialne ali politične kampanje. S tem nakazuje, da spremlja vse večji problem propagande, ki jo ustvarja umetna inteligenca. Omejuje poskuse, katerih cilj je prikriti, kdo stoji za sporočilom, ali okrepiti vsebino z lažnimi računi in objavami.
Pravilnik o volitvah poleg tega prepoveduje zavajanje volivcev in motenje volitev, vključno z razširjanjem zavajajočih informacij o kandidatih ali načinu glasovanja, krajo identitete kandidatov ali volilnih uradnikov ter poskusi zmanjševanja volilne udeležbe.
Po zadnjem poročilu podjetja o analizi groženj ljudje sisteme za nadzor, ki temeljijo na Claudu, vse pogosteje uporabljajo tudi za identifikacijo in spremljanje svojih političnih nasprotnikov, zato je podjetje jasneje opredelilo tudi svoje prepovedi glede nadzora.
Anthropic je sporočil, da so njegove smernice za uporabo Clauda za razvoj orožja sicer vedno javno prepovedovale, vendar je podjetje zaznalo več poskusov, v katerih so želeli Clauda uporabiti za razvoj programske opreme za krmiljenje in nadzor orožja, zato nova smernica za uporabo prepoved razširja. Odslej prepoved velja tudi za programsko opremo in komponente, ki zagotavljajo delovanje orožja, ter za dejavnosti, kot je oboroževanje dronov in drugih avtonomnih vozil.
Anthropic je uvedel tudi novo pravilo, po katerem mora, če so Anthropicovi modeli umetne inteligence povezani s strojno opremo, ki je sposobna samostojnih fizičnih dejanj in lahko povzroči poškodbe, usposobljen upravljavec lahko spremljati opremo in jo po potrebi ustaviti. To se očitno nanaša na uporabo v robotiki, po stališču podjetja Anthropic pa mora, kadar se Claude uporablja za robota, vsekakor biti prisoten človeški operater.
Tudi tehnološka plat smernic je bila bistveno zaostrena. Pravilnik odslej še jasneje opredeljuje nedovoljeno varnostno testiranje in poskuse zaobidenja zaščite. Kategorično bo prepovedana tudi vsaka dejavnost, katere cilj je vdor v Claudove notranje miselne procese, industrijsko kopiranje odgovorov modela ali nepooblaščeno vzvratno inženirstvo kode sistema.
Ta korak je neposredno usklajen z zadnjimi posodobitvami modelov podjetja Anthropic – med njimi z uvedbo modelov Claude Sonnet 5.5 in Haiku 5.5 –, v katerih je podjetje začelo svoje sisteme na strojni in programski ravni varovati z vgrajenimi filtri pred omrežji, ki izvajajo avtomatizirano »destilacijo«.
Najnovejša sprememba pravilnika o uporabi ustvarja pravno in administrativno podlago za celo takojšnje sankcioniranje zlorab. Za uveljavljanje pravil Anthropic uporablja večstopenjski nadzorni mehanizem.
