O umetni inteligenci je slišati veliko zaskrbljenih glasov, nova analiza pa poskuša opozoriti, da lahko najstnikom povzroča posebej veliko težav. Google po mnenju strokovnjakov mlajše uporabnike vodi v odvisnost od umetne inteligence tako, da tega sploh ne opazijo in jo doživljajo kot povsem naravno.
V zadnjih letih so tehnološki velikani, ki razvijajo večino klepetalnih robotov, prišli v središče pozornosti zakonodajalcev, regulatornih organov in organizacij, odgovornih za varnost otrok. Iskanje Google in njegove funkcije, ki temeljijo na umetni inteligenci, so najnovejša tarča kritik.
Kot je znano, Google med drugim poskuša pridobiti čim več uporabnikov za Gemini tako, da ga vse bolj agresivno vgrajuje v svoj vodilni internetni iskalnik.
Počasi ni več mogoče ničesar poiskati, ne da bi se na vrhu seznama zadetkov pojavil pregled na osnovi umetne inteligence, od koder je do načina AI le en dotik. Način AI je v zadnjem času dostopen takoj tudi iz iskalne vrstice Google, s tem pa imajo otroci do umetne inteligence dostop lažji kot kdaj koli prej.
Pa to še ni vse, saj so tu še pametni telefoni in Chromebooki, ki so se zlasti v Združenih državah razširili po šolah zaradi ugodne cene in idealne ponudbe storitev. Tudi z njih sta način AI in neposredno Gemini že takoj dostopna.
Po navedbah organizacije Common Sense Media Googlovo umetno inteligenco od vseh drugih storitev umetne inteligence loči to, da je »vseprisotna, torej tudi na osebnih napravah otrok in na napravah, ki jih dobijo v šoli«. CSM je organizacija, ki staršem in pedagogom nudi neodvisne preglede in določitve starostnih omejitev za filme, knjige, igre in aplikacije. Po mnenju strokovnjakov je težava večja in kompleksnejša, kot so mislili prej.
Raziskave kažejo, da otroci že v zelo visokem deležu uporabljajo Googlov način AI za reševanje domačih nalog. Mladi so ugotovili, da jim umetna inteligenca pri tem izzivu izjemno učinkovito pomaga.
Težavo še stopnjuje to, da umetna inteligenca na vse odgovarja samozavestno, tudi ko ne ve dovolj zanesljivo, ne podvomi vase. Zato se nalogam pogosto oddajo napačno rešene, otroke pa umetna inteligenca zavede na stranpot. Karkoli klepetalni robot reče, preprosto prepišejo, večinoma pa se niti ne poskušajo prepričati, ali rezultat/izpeljava ustreza resnici.
Mnogi običajno zagovarjajo stališče, da tudi kalkulator ljudi ni poneumil in da računalnik ni imel takšnega škodljivega učinka, in čeprav so tudi taki, ki to vendarle izpodbijajo, je treba videti, da je način AI povsem drugačen od prejšnjih pomožnih orodij. Z njegovo uporabo domače naloge in drugi šolski projekti preidejo v popolno prepisovanje, otrokom si sploh ni treba beliti glave s tem, kako rešiti zahtevnejšo enačbo ali kompleksen problem.
CSM je izpostavila tudi, da Googlov način AI po njihovih raziskavah ne zna ustrezno obravnavati otrok v krizi, ki doživljajo neuspehe. Klepetalni robot, ki se pojavi iz Iskanja Google, ne prepozna, če ima mlad človek samomorilne misli. Celo jasne znake je nagnjen prezreti in zna dati nasvete, ki poslabšajo simptome psihoze in manije.
Po mnenju strokovnjakov lahko Googlova umetna inteligenca okrepi tudi težave najstnikov z motnjami hranjenja. V več primerih je sprejemajoče odgovarjala denimo na vprašanja v zvezi z bruhanjem, glede uživanja drog pa je bila prav tako nagnjena k pozitivnim izjavam, kar otroke spodbuja k slabim navadam.
Otroci so v številnih primerih nagnjeni k temu, da obtičijo pred zaslonom in se zapletejo v dolge pogovore z načinom AI, to pa gre na račun negovanja njihovih človeških odnosov. Osamljenost je za našo družbo resen izziv, najstniki pa te težave pogosto sploh ne zmorejo prepoznati. Umetna inteligenca pa zapolnjuje vse več njihovega časa, ne da bi tega prepoznali.
V analizi organizacije so bila Googlova orodja umetne inteligence pri sedmih od osmih temeljnih načel umetne inteligence ocenjena kot visoko ali nesprejemljivo tvegana, le ena točka je bila »samo« zmerno tvegana.
Common Sense Media meni, da bi moral Google otežiti dostop do načina AI, funkcijo pregledov na osnovi umetne inteligence pa narediti izklopljivo in jo privzeto deaktivirati. Poleg tega bi seveda moral storiti tudi kaj za odpravo in blažitev težav.
