Muškarac iz Masačusetsa, čija je identitet otkriven kao Florens, suočava se sa ozbiljnim optužbama nakon što je otkrivena njegova sedmogodišnja kampanja digitalnog uhođenja. Tokom ove heterogene akcije, koristio je napredne četbotove kako bi se lažno predstavljao kao univerzitetska profesorka, a zatim pozivao nepoznate muškarce da dođu na njenu adresu radi seksualnih susreta. Florens je koristio platforme kao što su CrushOn.ai i JanitorAI koje omogućavaju korisnicima da kreiraju svoje vlastite četbotove kako bi manipulirali komunikacijom, uključujući i seksualne sadržaje.
Sudski dokumenti otkrivaju da je Florens u tu svrhu koristio osobne i profesionalne podatke svojih žrtava, uključujući adresu, datum rođenja i informacije o njihovim porodicama. Programirao je četbotove da odgovaraju potvrdno na sugestije o seksualnim namerama, a čak je i unosio podatke o donjem vešu žrtve koje je prethodno ukrao iz njenog doma. Jedan od njegovih četbotova bio je programiran da postavi pitanje: „Zašto ne dođeš kod mene?“, što je dovelo do situacija u kojima su nepoznati muškarci pristizali ispred kuće žrtve.
Ovaj slučaj predstavlja prvi takav incident u Sjedinjenim Američkim Državama gde je osoba optužena za korišćenje veštačke inteligencije za digitalno uhođenje i manipulaciju. Florens je priznao krivicu po sedam tačaka optužnice za sajber uhođenje i jednoj tački za posedovanje dečje pornografije. Na platformi JanitorAI, Florens je kreirao javni četbot, opisujući žrtvu kao „najzgodniju profesorku na univerzitetu“, dok je redovno ažurirao slike i podatke o njoj.
Osim korišćenja AI, Florens je oblikovao lažne profile žrtava na raznim društvenim mrežama i web sajtovima, uključujući Craigslist i Reddit, gde su se objavljivale montirane slike žrtve sa eksplicitnim sadržajem i njenim ličnim podacima. Njegovo delovanje dovelo je do toga da su žrtve, uključujući profesorku i njenog supruga, postavili sigurnosne kamere i zvona na vrata. Pored toga, profesorka se i sama zaštitila nošenjem biber-spreja i noževa, jer su primali brojne uznemirujuće poruke i pozive.
Žrtva je takođe primila uznemirujuće poruke u kojima su joj upućivane lažne informacije, uključujući i tvrdnje o tragičnoj smrti njenog oca, što je dodatno doprinelo njenom strahu za sigurnost svoje porodice. Pored profesorke, Florens je na sličan način ciljao šest drugih žena i čak 17-godišnju devojčicu, obrađujući njihove slike na način koji ih prikazuje kao gole ili delimično obnažene i delio ih na raznim platformama.
Ovaj slučaj ukazuje na potencijalnu opasnost veštačke inteligencije kada se stavi u ruke predatora. Prema izveštaju neprofitne organizacije Thorn, jedan od desetoro maloletnika u SAD je svesno za slučajeve gde su njihovi vršnjaci koristili AI za stvaranje intimnih fotografija bez saglasnosti. Kako upozorava Stefan Turkheimer iz RAINN organizacije, s porastom dostupnosti ovih alata, povećava se i rizik od njihove zloupotrebe u svrhu nanošenja štete drugima.
Florensovo ponašanje i zlostavljanje žrtava putem tehnologije ukazuje na ozbiljne izazove u savremenom društvu u kojem se povećava upotreba i dostupnost alata veštačke inteligencije. Ovaj incident može imati dalekosežne impakte na zaštitu pojedinaca u digitalnom prostoru, a takođe postavlja pitanja o etičkim granicama korišćenja novih tehnologija u svakodnevnom životu.
