Vse več ljudi se boji, da bo umetna inteligenca povzročila pomembnejšo škodo prek katerega od orodij, OpenAI pa je med najbolj »strašljivimi« akterji na trgu, potem ko denimo o njegovih modelih in agentih prihajajo na dan stvari, kot so napadi na druga podjetja ob izgubi nadzora. V takšnih okoliščinah je prispela sveža novica, da je OpenAI razpustil eno svojih najpomembnejših varnostnih ekip.
Financial Times je te dni poročal, da je po njegovih notranjih informacijah ekipa za pripravljenost, osredotočena na obvladovanje izrednih razmer, prenehala delovati konec julija.
Naloga ekipe, ki je primarno skrbela za stalno obvladovanje tveganj, je bila, da v vseh okoliščinah spremlja in ocenjuje, kakšna tveganja lahko pomenijo orodja podjetja. Za te primere so morali strokovnjaki izdelati načine za zmanjšanje tveganj. Scenariji bi morali obstajati tudi za najbolj neverjetne situacije, strokovnjaki pa so delali na njih, dokler se podjetje ni odločilo, da tega v dosedanji obliki ni več treba početi.
Po poročilu se je OpenAI odločil, da bo strokovnjake, ki so opravljali naloge priprav, raje dodelil ekipam, osredotočenim na različna varnostna področja. Zaposlene so tako razpršili na primer v biološke, kibernetskovarnostne in druge oddelke.
Dylan Scandinaro, ki je prej vodil ekipo za varnostno pripravljenost, se bo odslej ukvarjal s tem, kakšno grožnjo lahko pomeni postopoma samoizboljševalna umetna inteligenca. Ni znano, ali je bila reorganizacija povezana z odpuščanji, a žal ne bi bilo presenetljivo, če bi se podjetje od kakšnega človeka ločilo.
Nikoli ne zveni dobro, ko se sprejmejo odločitve, ki bi lahko negativno vplivale na varnost umetne inteligence. Podjetje je prej zapustilo več strokovnjakov, katerih naloga je bila izboljšanje zanesljivosti ChatGPT in drugih orodij. Odšli so Chloé Bakalar, vodja etike, Josh Achiam, vodilni raziskovalec prihodnosti, in Johannes Heidecke, vodja varnosti.
OpenAI bo kmalu morda stopil na borzo, zato je zadnje čase pozornost, ki spremlja vsak korak podjetja, še posebej velika. Zgodilo se je več stvari, ki zasenčujejo priprave na IPO. Ena od njih je, da se redno najdejo ključni vodilni, ki se odločijo za odhod, in to ne le na področju varnosti. Nazadnje se je za odstop odločila Denise Dresser, ki je bila najeta za povečanje prihodkov.
Denise Dresser, Brad Lightcap, Fidji Simo, Kevin Weil, Kate Rouch – ti ljudje so letos zapustili OpenAI, in sicer z različnih ključnih položajev. Našteti so se za odhod odločili iz najrazličnejših razlogov.
OpenAI je izgubil »bojevnike« ne z enega področja, temveč na številnih različnih frontah, a splošno rečeno so se zamenjali vodilni. Ko je Denise Dresser lani prišla v podjetje, so izjavili, da bo njena »izkušnja pomagala, da umetno inteligenco naredimo uporabno, zanesljivo in vsepovsod dostopno za podjetja«. Brad Lightcap je bil operativni direktor in se je po osmih letih poslovil od podjetja, Kate Rouch pa odstopa z vodilnega položaja v marketingu.
CNBC je opazil tudi, da po zadnjem odhodu Sam Altman ni več podal nobene izjave, prej pa to ni bilo značilno. Takšne objave je običajno potrdil s pozitivno obarvanim mikroblogom na omrežju X.
Ocenjena tržna vrednost OpenAI je po zadnjem krogu financiranja narasla na 852 milijard dolarjev, a po mnenju analitikov bi lahko ob vstopu na borzo okrepil krog podjetij s tržno kapitalizacijo 1 bilijona dolarjev. Zgornji dogodki pa lahko pomembnejše vlagatelje vsekakor opozorijo na previdnost.
