Pred dnevi je v časopisu The Wall Street Journal izšlo poročilo o tem, kako OpenAI napreduje z razvojem, ki naj bi teoretično podrl omejitve ChatGPT-ja na področju pogovorov s spolno vsebino. Razvoj po trenutnem stanju ne poteka najbolje.
Vodja in soustanovitelj podjetja OpenAI Sam Altman je prvič uradno govoril o tem oktobra, in sicer da bo v ChatGPT-ju na voljo način, v katerem se bo mogoče z umetno inteligenco spuščati v »umazan klepet«. Po besedah strokovnjaka je razvojna ekipa OpenAI uspešno rešila, kako to možnost oblikovati tako, da ne prinaša nevarnosti. Vsaj ne povzroča »resnih težav z duševnim zdravjem«.
Po prejšnjih informacijah bi se novost morala pojaviti v prvem četrtletju letos, a se je OpenAI odločil, da uvedbo funkcije z dvomljivim sloves odloži.
Podjetje je govorilo, da je poseben način zamrznjen zaradi razvoja, ki zahteva višjo prioriteto, vendar po notranjih informacijah v resnici ne gre za to. Dejansko za zamrznitvijo funkcije morda stoji dejstvo, da je omogočanje erotičnih pogovorov sprožilo precejšnje notranje strahove. OpenAI se lahko zelo opeče, če gre kaj narobe. Poleg tega je njegov ugled zadnje čase tudi brez tega precej slab zaradi odnosa z ameriško vlado.
Po besedah anonimnega vira, ki je govoril za The Wall Street Journal, je s posebnim načinom težav z več vidikov. Prvič, zelo resen tehnološki izziv je področje, kjer bi bilo treba pogovore s ChatGPT-jem spretno usmerjati. Drugič, tu je varnostno tveganje, ki ga je zelo težko izključiti.
Ustvariti zdrave erotične pogovore je neverjeten izziv. Na prvi pogled morda ne zveni kot težka naloga, a generativna UI se s tem podaja na področje, kjer bi morala sprejemati resnično človeške odločitve. Morala bi vedeti, kakšen erotičen pogovor je še etičen in kdaj človek želi prestopiti rdečo črto. Na primer prepoznati bi morala vse znake pedofilije in se jim izogniti. Poleg tega je težko tudi zagotoviti, da so mladoletniki zagotovo odrezani od tega načina.
OpenAI-jev sistem za preverjanje starosti na testih še prevečkrat odpove. Teoretično v 12 od 100 primerov otroke prepozna kot odrasle, ki bi tako lahko dobili dostop do načina erotičnih pogovorov.
Vsaka vrzel, ki ostane v ščitu ChatGPT-jevega erotičnega načina, OpenAI nariše tarčo na čelo. Lahko pa smo prepričani, da bi se po izidu takoj veliko ljudi lotilo nove možnosti, da bi na njej našli varnostne luknje.
OpenAI je najel svetovalno podjetje in izdelali so analize tveganj. Eden od vpletenih je anonimno razkril, da je v poročilu pisalo, da podjetje z ChatGPT-jevim načinom za odrasle ustvarja »seksi pomočnika pri samomoru«. S tem je oseba namignila, da pri ChatGPT-ju že tako obstaja nevarnost, da ljudi spodbuja k samomoru, združitev tega z erotičnimi klepeti pa nevarnosti znatno poveča.
Radovedno čakamo, kdaj bo OpenAI poseben način pogovora dal na voljo. Komur je takšna možnost pri orodjih generativne UI všeč, je Grok sicer lahko ustrezna izbira, saj je xAI k temu vprašanju pristopil bistveno bolj sproščeno kot OpenAI. Musk je pred nekaj dnevi izjavil, da njegovo orodje za ustvarjanje slik in videov dopušča tudi to, kar ljudje vidijo v filmu za odrasle.
