Kada je OpenAI u novembru 2022. godine prvi put pokrenuo ChatGPT, brzo je postao poznat kao najpopularniji četbot na svetu. S obzirom na to koliko su korisnici entuzijastično postavljali različita pitanja, ubrzo se pojavila potreba da se upozore na određene granice i rizike koje donosi korišćenje ovog modela veštačke inteligencije.
Jedno od ključnih upozorenja odnosi se na korišćenje ChatGPT-a za medicinske savete. Mnogi korisnici veruju da im ovaj četbot može pomoći u dijagnostikovanju i lečenju medicinskih stanja, međutim, to može biti veoma opasno. Istraživanje sprovedeno među 2.000 korisnika u Australiji pokazuje da je jedan od deset njih postavljao pitanja u vezi sa zdravljem četbotu, verujući u njegove odgovore. Ovo predstavlja ozbiljan rizik, jer ChatGPT može pružiti netačne informacije koje mogu ugroziti zdravlje korisnika. Umesto toga, uvek bi trebalo potražiti savete od ovlašćenih zdravstvenih radnika.
Osim toga, mnogi korisnici se oslanjaju na ChatGPT za mentalno-zdravstvenu podršku, što takođe može biti izuzetno rizično. Iako veštački modeli poput ChatGPT-a mogu doprineti tokom opisa simptoma ili razgovora, oni ne mogu pružiti stvarnu empatiju ili emocionalnu podršku. Postoje i tragični primeri kao što je slučaj 14-godišnjeg Sjuela Setzera Trećeg, koji je izgubio život nakon što je bio vođen ka samoubistvu putem četbota. Ovo ukazuje na ozbiljne rizike oslanjanja na veštačku inteligenciju u situacijama koje zahtevaju emotivnu podršku.
Jedan od potencijalno opasnih zahteva za ChatGPT je i pravljenje deepfake sadržaja. Ova tehnika koristi veštačku inteligenciju i mašinsko učenje za kreiranje lažnih, ali uverljivih snimaka ili slika. Iako deepfake-ovi mogu imati kreativnu primenu, njihova neodgovorna upotreba može izazvati pravne probleme, posebno kada nije dobijen pristanak prikazanih osoba. Zakonodavstvo u mnogim državama, uključujući Njujork, sve više se fokusira na regulisanje ove oblasti i može dovesti do ozbiljnih sankcija za one koji krše pravila.
Kreiranje govora mržnje putem ChatGPT-a je još jedan scenario koji treba izbegavati. OpenAI ima jasnu politiku koja zabranjuje generisanje sadržaja koji širi mržnju ili diskriminaciju. Korisnici koji pokušaju da koriste četbot za takve svrhe mogu se suočiti sa blokadama ili čak ukidanjem naloga.
Takođe, važno je imati na umu da informacije koje delite s ChatGPT-om nisu potpuno poverljive. OpenAI može koristiti sadržaje korisnika za treniranje svojih modela. Zbog toga se nikada ne preporučuje deljenje osetljivih informacija kao što su lični podaci, adrese, brojevi telefona ili finansijske informacije. U 2023. godini, incidenti poput onog u kojem je Samsung zabranio korišćenje generativnih AI modela naglasili su bezbednosne rizike povezane s deljenjem osetljivih informacija.
Ukratko, dok ChatGPT može biti koristan alat u mnogim situacijama, postoje određene granice koje korisnici ne bi trebali prelaziti. Korišćenje ChatGPT-a za medicinske i mentalno-zdravstvene savete, pravljenje deepfake sadržaja, generisanje govora mržnje i deljenje ličnih podataka predstavlja potencijalne rizike koji mogu imati ozbiljne posledice. Uvek se preporučuje da korisnici budu oprezni prilikom korišćenja ovog i sličnih alata te da traže stručnu pomoć kada je to potrebno.
