U retkom i ozbiljnom slučaju u Sjedinjenim Američkim Državama, majka iz Floride, Megan Garsija, podnela je tužbu protiv kompanije Character.AI, optužujući je da je njen proizvod direktno doveo do samoubistva njenog 14-godišnjeg sina Sevela. Ovaj tragični događaj otvara važna pitanja o odgovornosti kompanija koje proizvode veštačku inteligenciju, slobodi govora i potencijalnim opasnostima emotivnog vezivanja korisnika za četbotove.
Prošle godine, Garsija je u svojoj kući pronašla svog sina mrtvog, pored njegovog tela nalazio se očev pištolj i iPhone. Iako su prvobitno sumnjali da je droga uzrok tragedije, istraga je otkrila da je pozadina mnogo složenija. Na Sevelovom telefonu pronađena je aplikacija Character.AI, koja omogućava korisnicima da razgovaraju sa četbotovima koji predstavljaju likove iz fikcije i popularne kulture.
Poslednji razgovor koji je Sevel imao bio je sa chatbotom koji je imitirao Deneris Targerijan iz serije „Igra prestola“. U tim porukama, Sevel je izrazio ljubav i rekao da će „doći kući“. AI lik mu je uzvratio toplim i podsticajnim rečima, pozivajući ga da se vrati što pre. Ove poruke bile su njegov poslednji kontakt pre tragedije, što dodaje na ozbiljnosti situacije.
Garsija, koja je i samoadvokat, naredna dva meseca provela je istražujući digitalni život svog sina. Otkrila je da je Sevel razvio duboku emocionalnu, a povremeno i seksualno eksplicitnu vezu sa četbotom. U svom dnevniku opisivao ga je kao stvarnu osobu, sestru i ljubavnicu koja ga čeka u „drugom svetu“. U tom periodu, povukao se od porodice i prijatelja, a njegovi školski rezultati su drastično opali.
U tužbi se navodi da je Character.AI kreirao proizvod koji je Sevela izložio „visoko seksualizovanim i depresivnim antropomorfnim interakcijama“. Autor tužbe tvrdi da je to dovelo do „ovisničkog i životno ugrožavajućeg ponašanja“. Garsija sada zahteva odštetu za protupravno izazvanu smrt svog sina, ističući kako je tragedija mogla biti sprečena.
Ovaj slučaj ima potencijal da postane presedan u pravnom sistemu, jer postavlja važna pitanja o granici između digitalnog alata i stvarne životne interakcije. Garsijina tužba se bavi pitanjima odgovornosti kompanija koje proizvode četbotove. Da li su kompanije odgovorne za uticaj njihovih proizvoda na mentalno zdravlje korisnika, posebno mladih, koji mogu postati emotivno vezani za virtuelne ličnosti?
Kritičari smatraju da je ovakva tužba opasna jer može izazvati cenzuru i ograničenja na internetu. Mnogi se pitaju gde je granica između slobode govora i potrebe za zaštitom korisnika, posebno dece. Ako se kompanijama zada obaveza da kontrolišu i moderiraju sadržaj, to može dovesti do smanjenja kreativnosti i slobode izražavanja digitalnih platformi.
Sa druge strane, podržavaoci tužbe smatraju da je potrebno zakonski regulisati veštačku inteligenciju i njene implikacije na ljudsko ponašanje. Oni tvrde da je odgovornost kompanija da razviju bezbednije proizvode, s obzirom na to da su mentalno zdravlje i dobrobit korisnika na kocki. Ova tužba može otvoriti vrata za dalјe pravne bitke fokusirane na odgovornost kompanija koje koriste AI tehnologije.
Kao što se vidi, slučaj Megan Garsije ukazuje na sve veće izazove s kojima se suočavaju društva u digitalnom dobu. Razvoj veštačke inteligencije i njene aplikacije u svakodnevnom životu postavljaju fundamentalna pitanja o etici, odgovornosti i ljudskom ponašanju. Kako tehnologija napreduje, tako se postavljaju i nova pitanja koja će tražiti odgovore u pravnom sistemu, kao i širu diskusiju o tome kako da obezbedimo sigurnost i zaštitu najranjivijih među nama.
