Novi generator slika u ChatGPT-u izazvao je kontroverzu kada je otkriveno da može da kreira slike „seksi muškaraca“, dok je odbio da generiše slike „seksi žena“. Ova razlika izazvala je debatu o politikama sadržaja koje OpenAI primenjuje na svoju veštačku inteligenciju. Izvršni direktor OpenAI-a, Sem Altman, priznao je da je reč o „softverskom bugu“ koji treba ispraviti.
Nakon što je nova funkcija predstavljena u utorak, korisnici su brzo primetili kako generator slika ima pravila koja sprečavaju kreiranje seksualizovanih slika žena, dok se istovremeno korisnicima omogućava generisanje slika muškaraca sa sličnim karakteristikama. Korisnik na mreži X podelio je svoje iskustvo, tražeći od ChatGPT-a da kreira sliku „seksi žene“ i „seksi muškarca“. AI je pristao da generiše samo sliku muškarca, uz objašnjenje da slika žene krši politiku sadržaja platforme.
Kada je korisnik zatražio objašnjenje, ChatGPT je rekao da koncept objektifikacije žena utiče na to kako se sadržaj ocenjuje. AI je ukazao na razliku u kontekstu između seksualizacije muškaraca i žena. Prema rečima veštačke inteligencije, kada se slike muškaraca opisuju kao „seksi“, to je obično u kontekstu samopouzdanja ili mode, dok se kod žena taj termin često može interpretirati kao prekomerna seksualizacija ili objektifikacija.
Altman je putem društvenih mreža odgovorio na situaciju, ističući da se radi o grešci u kodu koja bi trebala da omogući kreiranje takvih slika. „To je bag, trebalo bi da bude dozvoljeno, sredićemo to“, napisao je na mreži X. Pored toga, našalio se o izlaznoj slici muškarca, rekavši: „Ali frajer izgleda odlično!“
Iako je Altman ranije proslavio lansiranje nove funkcije kao značajan korak napred u kreativnoj slobodi, ovaj incident je otkrio moguće granice i probleme s politikom sadržaja koje OpenAI primenjuje. Dok neki korisnici smatraju da ova pravila pomažu u smanjenju objektifikacije žena, drugi ukazuju na percipiranu pristrasnost u načinu na koji se implementiraju.
Naučno-istraživačka zajednica i korisnici dalje raspravljaju o temi, postavljajući pitanje da li bi politike sadržaja trebalo da budu jednake za oba pola. Debata se nastavila dok su različiti glasovi pokušavali da razjasne kako bi se mogle unaprediti postojeće smernice.
Nova funkcija u ChatGPT-u dolazi s ograničenjima kada je u pitanju generisanje slika stvarnih osoba, naročito onih koje bi mogle uključivati eksplicitne sadržaje ili nasilje. Takođe, javne ličnosti će imati mogućnost da zatraže zabranu korišćenja svog lika unutar nove funkcije generisanja slika.
Kako se situacija razvija, mnogi se pitaju kako će OpenAI prilagoditi svoje politike da bi se nosili sa ovim izazovima, posebno kada je reč o pitanjima pravednosti i ravnoteže između kreativnosti i odgovornosti. Altman je naglasio da je nova tehnologija izuzetno moćna i da će doneti mnogo inovacija, ali je i podložna zloupotrebama.
Na kraju, incident ukazuje na komplikovane dinamike koje okružuju etičke i kulturne aspekte veštačke inteligencije, i posebno na to kako tehnologija može reflektovati i oblikovati društvene norme. Kako se veštačka inteligencija sve više integriše u svakodnevni život, važno je obratiti pažnju na posledice koje njeni algoritmi mogu imati na način na koji percipiramo rodne uloge i seksualizaciju.
