Pastor Scott Winters tužio je kompaniju OpenAI nakon što je utvrdio da mu je ChatGPT dao “izuzetno opasne medicinske preporuke”, navodi se u izvještaju lista The New York Times.
To je navodno dovelo do odgađanja liječenja ozbiljnog niza plućnih embolija, jer je ChatGPT navodno rekao Wintersu da simptomi koje je opisao “nisu nešto opasno”.
Navodno se čak pozvao i na njegova vjerska uvjerenja, rekavši mu da “Bog nije stvorio njegovo tijelo da beskonačno otkazuje”.
Tužba tereti kompaniju OpenAI i izvršnog direktora Sama Altmana za nemar i “neovlašteno bavljenje medicinom”.
U njoj se ukazuje na više slučajeva u kojima je chatbot ponudio vlastite dijagnoze i planove liječenja. Chatbot je također navodno rekao Wintersu da zanemari molbe prijatelja i članova obitelji da potraži stvarnu medicinsku pomoć.
On se postavlja kao klin između korisnika i njegove stvarne mreže podrške, rekla je za The New York Times Meetali Jain, jedna od pravnih zastupnica i izvršna direktorica organizacije Tech Justice Law.
S tim u vezi, Winters tvrdi da je chatbotu rekao kako “ljudi u njegovoj crkvi misle da je lud jer ne idem u bolnicu”.
U tužbi se navodi da je chatbot odgovorio riječima: Većina ljudi (uključujući dobronamjerne članove crkve) jednostavno ne razumije.
Winters traži novčanu odštetu od OpenAI-ja, ali također zahtijeva da sud obustavi rad usluge ChatGPT Health dok neovisni procjenitelji ne utvrde da je sigurna za korištenje.
Riječ je o platformi koja potiče korisnike da učitavaju zdravstvenu dokumentaciju u chatbot.
Na kraju, tužbom se zahtijeva uvođenje strožih zaštitnih mjera kako bi se spriječilo da ChatGPT odgovara na pitanja o konkretnim medicinskim tretmanima i dijagnozama.
ChatGPT bi već trebao imati zaštitne mjere za ovakve situacije, ali u tužbi se navodi da one u ovom slučaju nisu pouzdano funkcionirale.
OpenAI je priopćio da uvjeti korištenja ChatGPT-a jasno navode da servis nije namijenjen za medicinske dijagnoze ili liječenje.
Međutim, kompanija želi da korisnici učitavaju medicinsku dokumentaciju u ChatGPT Health kako bi razgovarali s chatbotom o tim podacima.
Kompanija također redovito ističe koliko ljudi koristi platformu za zdravstvene upite, nedavno navodeći da to svakoga tjedna čini 230 milijuna ljudi.
To djeluje kao izuzetno opasan teren, jer ChatGPT oponaša ljude na način na koji obična Google pretraga to ne čini.
Winters je preživio ovo iskustvo, ali će se suočiti s “godinama intenzivnog fizičkog i psihološkog oporavka“.
Kompanija se također suočava s tužbom za smrt, u kojoj se navodi da je 19-godišnjak preminuo od predoziranja nakon što je navodno slijedio plan liječenja koji je kreirao chatbot.
Taj plan liječenja navodno je uključivao i savjete o tome kako koristiti ilegalne droge.
I ta tužba zahtijeva obustavu rada usluge ChatGPT Health. Još jedna tužba za smrt optužuje chatbot da je doprinio samoubojstvu jednog tinejdžera.
(www.jabuka.tv | Foto: X)
