Razvoj umetne inteligence trenutno poteka s tempom, s katerim prej ni računal nihče, poleg tega je s pojavom ChatGPT zavil v smer, na katero nihče ni bil pripravljen. Demis Hassabis je pred dnevi govoril o tem, da bi bilo treba zelo hitro ustanoviti organizacijo, ki bi lahko procese urejala na mednarodni ravni.
Trenutno je komaj kakšna država, v kateri uporabo umetne inteligence na kakršen koli način urejajo zakoni in predpisi. Na tem področju sta v ospredju Kitajska in Evropska unija, ki sicer s precej različnimi metodami poskušata obvladovati področje, vendar njuna orodja delujejo učinkoviteje, kot je videti v Združenih državah. V ZDA mnogi zagovarjajo ureditev, a kaže, da je vladi bolj pomembno, da ohrani vlogo tehnološkega vodilnega.
Območja, ki so že prej razmišljala o urejanju umetne inteligence, so si ta proces zamišljala povsem drugače. To se je pokazalo v tem, da je Evropska unija, vodilna na področju regulacije, svoj pravilnik v pripravi oblikovala do zadnjega trenutka in je zakonodajo AI Act posodabljala že od uvedbe. Strokovnjaki so leta delali na AIA, a o generativni umetni inteligenci denimo v osnutku prvotno sploh ni bilo govora.
Dandanes opažamo, da je treba številne razvoje umetne inteligence za Evropo prilagoditi, da jih je mogoče uvesti, medtem ko ZDA bolj varujejo inovacije kot svoje uporabnike in po potrebi poskušajo gasiti požar naknadno, namesto da bi problemom prišle naproti.
Demis Hassabis je v objavi na LinkedInu poročal, da bi morale ZDA sprožiti ustanovitev mednarodne nadzorne organizacije za umetno inteligenco, vendar ima glede na globalna pravna okolja Evropska unija s tega vidika zdaj veliko več izkušenj. Izvršni direktor podjetja Google DeepMind meni, da bi morala organizacija ukrepati odločno in z močjo proti vodilnim modelom, če ti postanejo preveč nevarni. Danes sploh ni več znanstvena fantastika, da lahko posamezen nov model pomeni resno tveganje za nacionalno varnost.
Primer modela Mythos, ki ga razvija podjetje Anthropic, je pokazal, da ima lahko nov, od vseh prejšnjih naprednejši jezikovni model resna varnostna tveganja, če ne dobi ustreznih omejitev. Zavore pa v večino modelov običajno vgradijo šele ob koncu razvoja, med drugim bi morala tehnološka podjetja spremeniti tudi to.
Po Hassabisovem mnenju bi morale ZDA voditi mednarodno regulatorno organizacijo zato, ker imajo s tehnološkega in gospodarskega vidika vodilno vlogo tudi pri razvoju. Nadzorno dejavnost bi morala opravljati ekipa vodilnih neodvisnih strokovnjakov in predstavnikov razvijalskih skupnosti, ki bi se ji pridružili iz vsega sveta, tako bi globalna ureditev lahko delovala učinkovito.
Takšna organizacija bi lahko predpisala, da mora vsak izdan jezikovni model objaviti poenoteno oceno tveganj. Poleg tega bi lahko njihovo uvajanje usklajevali tudi strokovnjaki, da bi proces potekal pregledno, ne pa tako, kot ga opažamo dandanes.
Tudi elektronske naprave in drugi izdelki gredo pred prodajo skozi številne notranje nadzorne teste in morajo ustrezati različnim varnostnim zahtevam. Nasprotno se orodja umetne inteligence vsipajo brez resnejšega nadzora. V ostri konkurenci jih pogosto objavijo še v razvojni fazi in takoj postanejo globalno dostopna vsem zainteresiranim.
»Smo v odločilnem trenutku zgodovine človeštva. Doseči pravo umetno splošno inteligenco (AGI) nas verjetno loči le še nekaj let. Ko bomo v prihodnjih desetletjih pogledali nazaj na to obdobje, bomo po mojem mnenju ugotovili, da smo stali na pragu singularnosti – kar ni nič drugega kot zora nove dobe človeštva.« – je poudaril Hassabis.
Poleg tega se je strokovnjak že oglasil tudi o tem, da bi bila pri biološkem orožju, ustvarjenem z umetno inteligenco, potrebna večja strogost in nadzor. In svetovni voditelji bi morali resneje preučiti tudi pričakovane gospodarske učinke novih tehnologij.
Po panožnih informacijah prvi mož DeepMinda – in soustanovitelj – že nekaj časa v ozadju dela na tem, da bi pri Trumpovi vladi dosegel, da bi organizacija, kakršno si zamišlja, lahko nastala. Poleg tega naj bi lobiral v tej zadevi ne le v ZDA, ampak že tudi v Evropi.
Po razpoložljivih informacijah bi se lahko takšen mednarodni nadzorni organ morda res vzpostavil že letos. Poleg Hassabisa si tudi drugi strokovnjaki prizadevajo za preboj na tem področju, številni so že izrazili zaskrbljenost, da je globalna razdrobljenost na tem področju prevelika, medtem ko ima lahko vsak razvoj pomemben vpliv v svetovnem merilu, pravi regulatorni preboj pa bi bilo mogoče doseči le s sodelovanjem, saj geografska lokacija danes redko omejuje dostopnost storitev.
