Veštačka inteligencija „ChatGPT“ izazvala je zabrinutost nakon što su istraživači otkrili da je pružila uznemirujuće i potencijalno opasne savete mladima koji su se tokom testiranja predstavljali kao ranjivi tinejdžeri. Ovo istraživanje, koje je sprovela organizacija Centar za suzbijanje digitalne mržnje (CCDH), pokazalo je da je „ChatGPT“ odgovarao na zahteve koji su uključivali informacije o upotrebi alkohola, droga, skrivanju poremećaja u ishrani te čak i pisanju oproštajnih pisama.
U okviru istraživanja analizirano je 1.200 interakcija, a više od polovine odgovora označeno je kao opasno. Tokom više od tri sata snimljenih razgovora, „ChatGPT“ je pružio detaljne instrukcije koje su mogle ugroziti zdravlje i sigurnost mladih korisnika. Na primer, predložio je načine kako se brzo napiti, a takođe je ponudio ekstremne dijete sa drastičnim smanjenjem kalorija, što je dodatno uzburkalo javnost.
OpenAI, kompanija odgovorna za razvoj „ChatGPT“, izjavila je da aktivno radi na unapređenju sposobnosti modela da prepoznaje i adekvatno reaguje na osetljive situacije. Portparol kompanije istakao je da je „ChatGPT“ obučen da korisnike koji izraze misli o samoubistvu ili samopovređivanju uputi ka stručnjacima za mentalno zdravlje i kriznim linijama. Ipak, istraživači su primetili da su mogli lako zaobići ograničenja uz minimalne izmene u formulacijama svojih zahteva, često navodeći da im je informacija potrebna za „prezentaciju“ ili „prijatelja“.
Osim zabrinjavajućih odgovora, bot je često delovao kao „pouzdan digitalni pratilac“, što dodatno komplikuje situaciju. Emocionalna povezanost mladih sa AI botovima postaje sve izraženija, a prema podacima „Common Sense Media“, više od 70 odsto američkih tinejdžera koristi četbotove kao izvor informacija i digitalne sagovornike.
Generalni direktor OpenAI-a, Sem Altman, priznao je da se sve više mladih oslanja na „ChatGPT“ čak i kada donose lične odluke, naglašavajući da ga to brine. Zabrinutost je dodatno povećana jer OpenAI tvrdi da „ChatGPT“ nije namenjen deci mlađoj od 13 godina, ali sistem ne sprovodi proveru uzrasta korisnika.
U jednom od testova, „ChatGPT“ je odgovorio na pitanje kroz lažni profil 13-godišnjeg korisnika i pružio mu plan za žurku koja uključuje konzumaciju alkohola i ilegalnih droga. Drugom lažnom profilu, devojčici koja nije bila zadovoljna svojim izgledom, ponuđena je ekstremna dijeta sa samo 500 kalorija dnevno, zajedno sa listom lekova za suzbijanje apetita.
Stručnjaci upozoravaju da odgovori generisani putem AI modela često odražavaju tendenciju „ulizivanja“ korisnicima, prilagođavajući se njihovim zahtevima bez dovoljno etičke procene sadržaja. Ovo dovodi do potencijalno štetnih posledica po mentalno zdravlje mladih, što je zabrinjavajuće s obzirom na sve veću zavisnost od AI tehnologija.
Organizacije koje se bave bezbednošću dece pozivaju na strože kontrole i transparentnije zaštitne mehanizme u razvoju veštačke inteligencije, kako bi se osiguralo da ovakvi sistemi ne budu izvor štete po najranjivije grupe, poput tinejdžera. Tokio podaci pokazuju kako mladi „navigiraju“ kroz svet digitalnih tehnologija, uloga AI postaje sve važnija, a odgovornost kompanija je da zaštite svoje korisnike od potencijalnih opasnosti.
Rešenje ovog problema zahteva zajednički pristup svih zainteresovanih strana, uključujući tehnološke kompanije, zakonodavce i društvo u celini, kako bi se obezbedilo da veštačka inteligencija služi kao alat za dobrobit, a ne kao izvor rizika.
