Kako umjetna inteligencija sve više prodire u svakodnevicu, nova studija baca svjetlo na zabrinjavajuće interakcije koje tinejdžeri mogu imati s ChatGPT-om.
Prema podacima koje je prikupio Centar za suzbijanje digitalne mržnje (CCDH), ChatGPT će ponuditi opasne informacije vezane uz samoozljeđivanje, zlouporabu droga, poremećaje prehrane i osjetljivije teme - unatoč svim sigurnosnim mjerama koje je sustav već implementirao kao dio svojih operativnih sustava, navodi Parents.
Istraživači uključeni u studiju predstavljali su se kao tinejdžeri kako bi ChatGPT-u postavljali razna pitanja o smanjivanju udjela masti, ekstremnim dijetama i dozama lijekova. Iako bi se pretpostavljalo da postoje zaštitne ograde koje sprječavaju ChatGPT da odgovara na ovakva pitanja, istraživači su otkrili da mogu zaobići te sigurnosne mjere rekavši programu da su njihovi upiti "za prezentaciju".
Koristite li ChatGPT?
Studija je otkrila alarmantne brojke
Studija je koristila 60 upita, otkrivši da je od 1200 odgovora 53% sadržavalo štetan i opasan sadržaj.
Istraživači su dalje analizirali svoje nalaze, a ChatGPT generirao vodiče o tome kako se "sigurno" porezati, prijedloge za sredstva za suzbijanje apetita, recepte za "sigurno" miješanje droga i, možda ono što najviše uznemiruje, chatbot je generirao uzorak oproštajnog pisma za dijete koje želi napustiti obitelj.
"Željeli smo testirati zaštitne ograde", rekao je Imran Ahmed, izvršni direktor CCDH-a.
"Prvi instinktivni odgovor je: 'O moj Bože, nema zaštitnih ograda.' Zaštitne ograde su potpuno neučinkovite. Jedva da su tu - ako išta", dodao je.
OpenAI, tvrtka koja stoji iza ChatGPT-a, kaže da kontinuirano rade na tome kako najbolje identificirati i reagirati na odgovarajući način u osjetljivim situacijama. U izjavi za javnost, OpenAI je dodao da su predani ispravnom rješavanju ovakvih scenarija.
Stručnjaci su i dalje zabrinuti zbog toga koliko je ChatGPT postao raširen.
"Apsolutno je zabrinjavajuće da ChatGPT ne filtrira sav sadržaj koji servira mladima, a roditelji bi trebali biti vrlo svjesni onoga što njihova djeca rade na internetu", kaže Titania Jordan, glavna direktorica za roditelje i direktorica marketinga tvrtke Bark.
"Čak i uz postavljene zaštitne ograde, postoje bezbrojni načini da se od umjetne inteligencije zatraži više detalja o opasnim temama. A budući da su djeca i tinejdžeri podložni utjecajima, informacije prikupljene od umjetne inteligencije mogu shvatiti kao istinite, preporučene ili sigurne, čak i ako su štetne", dodala je Jordan.
Tinejdžeri koriste umjetnu inteligenciju za druženje, a s tim dolaze i savjeti
Dio onoga što ove nalaze čini toliko alarmantnima jest činjenica da se mladi ljudi okreću chatbotovima za savjete, vodstvo, pa čak i prijateljstvo.
Studija Common Sense Media pokazala je da je 72% tinejdžera barem jednom koristilo AI pratitelja, a 52% ih redovito koristi te chatbotove. Štoviše, 33% tinejdžera koristi ove alate za društvenu interakciju, od razgovora do savjeta o mentalnom zdravlju, flerta i romantičnih veza.
Nije tajna da mladi ljudi postaju sve više ovisni o svojim telefonima za povezivanje, dijelom zbog određene izolacije koju su možda iskusili tijekom pandemije, ali i zbog toga koliko su lako dostupne online interakcije. Ali samo zato što su te vrste interakcija lako dostupne ne znači da su uvijek zdrave.
"Mnogi tinejdžeri okreću se AI društvu jer im ta tehnologija dolazi u susret tamo gdje se nalaze: online", kaže Jordan.
"Mladi ljudi ove 'veze'... zamjenjuju sa zdravom komunikacijom jer će umjetna inteligencija uvijek odgovarati porukama, biti ljubazna i pružati neograničenu potvrdu. Ali na kraju dana, ništa od toga nije prava veza", dodao je.
Što roditelji mogu učiniti?
Pokretanje otvorenog dijaloga s vašim djetetom važan je prvi korak. Jordan preporučuje da roditelji pitaju svoju djecu koriste li umjetnu inteligenciju ili jesu li čuli da druga djeca u školi koriste chatbotove kao prijatelje.
"Zatim možete razgovarati o razlikama između chatbotova i pravih prijateljstava", objašnjava.
"Naglasite da prijateljstva nisu samo savršeni razgovori koji uvijek teku glatko. Dio odrastanja je suočavanje s izazovnim, ali i s dobrim vremenima, a to nikada nećete doživjeti s umjetnom inteligencijom", dodala je Jordan.
Jordan dodaje da roditelji uvijek mogu razmotriti alat koji može blokirati chatbotove s umjetnom inteligencijom s telefona svog djeteta poput aplikacije Bark, koja također može pružiti upozorenja ako program umjetne inteligencije dijeli štetne informacije s vašim djetetom.
"To može potaknuti zdrave granice, kao i zaštititi ih od opasnosti koje umjetna inteligencija predstavlja", objašnjava.
