Veštačka inteligencija postala je sastavni deo svakodnevnog života. Koristimo je za organizaciju obaveza, pretragu informacija o zdravlju i mnoge druge potrebe. Ipak, nedavni slučaj iz Sjedinjenih Američkih Država pokazuje da poverenje u digitalne asistente može imati ozbiljne posledice, često nepredvidive.
U ovom incidentu, šezdesetogodišnji muškarac, uveren da ga komšija tajno truje, obratio se veštačkom inteligencijom vođenom čet-botu u potrazi za alternativom kuhinjskoj soli. Na njegovo iznenađenje, dobio je savet da umesto obične soli koristi natrijum-bromid, supstancu koja se danas retko koristi i poznata je po tome što u većim količinama može izazvati ozbiljno trovanje.
Nažalost, veštački asistent nije ponudio nikakvo upozorenje o potencijalnim rizicima upotrebe natrijum-bromida niti je postavio dodatna pitanja o zdravstvenom stanju korisnika. Kao rezultat toga, muškarac je doživeo dramatične posledice koje su uključivale jake halucinacije i paranoju, što je na kraju dovelo do njegovog prinudnog psihijatrijskog zadržavanja.
Bromizam, trovanje koje izaziva natrijum-bromid, bio je veoma čest problem u prošlosti, posebno krajem 19. i početkom 20. veka, kada su bromidne soli korišćene kao lekovi za epilepsiju i nesanicu. Danas je njihova upotreba strogo ograničena, a u Sjedinjenim Američkim Državama su još 1975. godine izbačene iz lekova koji se izdaju bez recepta.
U ovom konkretnom slučaju, pogrešni savet veštačke inteligencije, u kombinaciji sa potpunom odsutnošću medicinskog nadzora, doveo je do ozbiljnog oštećenja zdravlja pacijenta. Tokom svog boravka u bolnici, pacijent je bio u paranoičnom stanju, odbijao je ponuđenu vodu smatrajući je otrovanom i čak je pokušavao da destiluje vlastitu vodu.
Medicinski tim koji je kasnije analizirao ovaj slučaj pokušao je ponovo da reprodukuje interakciju sa istim AI modelom i, na žalost, dobio je isti obmanjujući savet kao i prvobitni korisnik. Ovaj incident jasno pokazuje da i najnapredniji algoritmi mogu dati opasno pogrešne informacije kada nemaju pristup medicinskoj istoriji i kontekstu korisnika.
Stručnjaci ističu da, iako veštačka inteligencija može biti koristan alat, nikada ne bi smela zameniti savet kvalifikovanog lekara, posebno kada je reč o zdravlju. Granica između inovacije i rizika je vrlo tanka, a poverenje u tehnologiju bez odgovarajuće provere može imati ozbiljne, pa čak i fatalne posledice.
U današnjem svetu, gde digitalni asistenti postaju sve prisutniji, važno je postaviti jasne granice u njihovoj upotrebi. Veštačka inteligencija može biti moćan alat za poboljšanje kvaliteta života, ali neophodno je da korisnici budu svesni potencijalnih rizika i granica ovih tehnologija. Time što će se oslanjati na savete veštačke inteligencije bez adekvatnog znanja i nadzora, pojedinci se izlažu velikim opasnostima.
Ova situacija naglašava značaj edukacije i svesti o pravilnoj upotrebi tehnologije. Korisnici bi trebali biti obavešteni o rizicima i granicama veštačke inteligencije, posebno kada je reč o zdravstvenim pitanjima. U ovom svetu bez granica tehnologije, prioritet bi trebao biti na zdravlju i bezbednosti pojedinca, a nikako na bezuslovnom poverenju u digitalne asistente koji, iako mogu biti korisni, nisu zamena za ljudsku stručnost.
U zaključku, ovaj incident služi kao hitan poziv za sve nas da budemo pažljivi u korišćenju veštačke inteligencije i da se oslonimo na stručnu pomoć kada se radi o našim zdravljima. Samo tako možemo izbeći potencijalne katastrofe i obezbediti budućnost u kojoj tehnologija deluje u službi čoveka, a ne kao izvor opasnosti.
