Velika tehnološka podjetja poskušajo umetno inteligenco izkoristiti na čim več frontah. Med igralci Big Tech je na tej fronti na čelu Meta, vendar vse kaže, da ne bi škodilo, če bi novim orodjem umetne inteligence dopuščala prostor previdneje, saj lahko povzročijo resne težave.
The Information je poročal, da so imeli zaposleni v Meti pred nekaj dnevi skoraj dve uri nepooblaščen dostop do podatkov podjetja in uporabnikov.
Po razpoložljivih podatkih se je zgodilo, da je agent umetne inteligence, ki ga je Meta ustvarila za notranjo uporabo in si ga je treba predstavljati podobno kot OpenClaw, dal netočen tehnični nasvet in svoj odgovor objavil javno. Nato je zaposleni z izvajanjem navodil spremenil sistem tako, da je omogočil nepooblaščen dostop do podatkov podjetja in uporabnikov.
The Verge je zaradi zadeve stopil v stik z Meto, od koder so potrdili, da se je primer res zgodil in ne gre za neutemeljeno trditev. Tiskovna predstavnica podjetja Tracy Clayton pa je v uradni izjavi želela poudariti, da »do nepravilnega ravnanja z uporabniškimi podatki ni prišlo«.
Po Claytonovih besedah je notranji agent umetne inteligence podjetja Meta »po naravi podoben OpenClawu, vendar deluje v notranjem razvojnem okolju«. Služi predvsem temu, da v zaprtem forumu podjetja analizira tehnična vprašanja drugih zaposlenih. Agent bi moral po odobritvi dati zasebni odgovor, a je namesto tega svoj odgovor objavil brez preverjanja.
Nato je eden od zaposlenih izvedel navodila, ki so bila netočna, in na koncu povzročil varnostni incident ravni SEV1, kar je druga najvišja raven v Meti.
Tracy Clayton je v svojem odgovoru skušala izpostaviti, da agent umetne inteligence v tej zgodbi ni izvedel nobenega ukaza in ničesar spremenil. Bil je zgolj svetovalec, njegova navodila pa je izvedel človek. S tem je v bistvu poskušala poudariti, da je zagrešil napako zaposleni, ne umetna inteligenca. Vendar je težko oceniti, da je šlo izključno za človeško opustitev.
»Sodelavec, ki je komuniciral s sistemom, se je popolnoma zavedal, da komunicira z avtomatiziranim botom,« je Clayton povedala za The Verge. »Agent poleg odgovora na vprašanje ni sprejel nobenega ukrepa. Če bi bil inženir, ki je obravnaval zadevo, bolje obveščen ali bi opravil dodatna preverjanja, bi se temu dalo izogniti.«
Ta novica je prišla na dan še posebej v neprimernem trenutku, saj je bilo pred dnevi govora o tem, da Meta morda pripravlja največje odpuščanje v svoji zgodovini, naloge zaposlenih pa naj bi domnevno dodelili orodjem umetne inteligence.
Meta naj bi se želela posloviti od več kot 20 odstotkov zaposlenih, da bi povečala učinkovitost. Po zadnjih podatkih bi to pomenilo odpustitev približno 16 tisoč delavcev. Glede na zgornje uradno obvestilo ne bi bilo presenetljivo, če bi bila med odpuščenimi zaposlenimi tudi oseba, ki je v teh dneh povzročila težavo, ko je sledila navodilom agenta umetne inteligence.
Meta je že leta 2023 generativni umetni inteligenci dala veliko prostora v svojem notranjem omrežju in v zadnjih letih nenehno delala na tem, da bi iz umetne inteligence naredila čim učinkovitejšega sodelavca. Danes pa glede na zgoraj navedeno agenti umetne inteligence že aktivno delajo, zato podjetje morda meni, da je napočil čas za drastično odpuščanje. Vendar je današnji primer resno opozorilo, da bi morali biti na tej fronti zaenkrat veliko bolj previdni.
