OpenAI tužen zbog zdravstvenih savjeta ChatGPT-a, koji su mogli koštati života pastora iz SAD-a
Pastor Scott Winters tužio je kompaniju OpenAI nakon što je utvrdio da mu je ChatGPT dao “izuzetno opasne medicinske preporuke”, navodi se u izvještaju lista The New York Times.
To je navodno dovelo do odgađanja liječenja ozbiljnog niza plućnih embolija, jer je ChatGPT navodno rekao Wintersu da simptomi koje je opisao “nisu nešto opasno”. Navodno se čak pozvao i na njegova vjerska uvjerenja, rekavši mu da “Bog nije stvorio njegovo tijelo da beskonačno otkazuje”.
Tužba tereti kompaniju OpenAI i izvršnog direktora Sama Altmana za nemar i “neovlašteno bavljenje medicinom”. U njoj se ukazuje na više slučajeva u kojima je chatbot ponudio vlastite dijagnoze i planove liječenja. Chatbot je također navodno rekao Wintersu da ignoriše molbe prijatelja i članova porodice da potraži stvarnu medicinsku pomoć.
“On se postavlja kao klin između korisnika i njegove stvarne mreže podrške”, rekla je za The New York Times Meetali Jain, jedna od pravnih zastupnica i izvršna direktorica organizacije Tech Justice Law.
S tim u vezi, Winters tvrdi da je chatbotu rekao kako “ljudi u njegovoj crkvi misle da je lud jer ne idem u bolnicu”. U tužbi se navodi da je chatbot odgovorio riječima: “većina ljudi (uključujući dobronamjerne članove crkve) jednostavno ne razumije”.
Winters traži novčanu odštetu od OpenAI-ja, ali također zahtijeva da sud obustavi rad usluge ChatGPT Health dok nezavisni procjenitelji ne utvrde da je sigurna za korištenje. Riječ je o platformi koja podstiče korisnike da učitavaju zdravstvene dokumente u chatbot. Na kraju, tužbom se zahtijeva uvođenje strožih zaštitnih mjera kako bi se spriječilo da ChatGPT odgovara na pitanja o konkretnim medicinskim tretmanima i dijagnozama. ChatGPT bi već trebao imati zaštitne mjere za ovakve situacije, ali u tužbi se navodi da one u ovom slučaju nisu pouzdano funkcionisale.
OpenAI je saopćio da uslovi korištenja ChatGPT-a jasno navode da servis nije namijenjen za medicinske dijagnoze ili liječenje, međutim, kompanija želi da korisnici učitavaju medicinsku dokumentaciju u ChatGPT Health kako bi razgovarali s chatbotom o tim podacima. Kompanija također redovno ističe koliko ljudi koristi platformu za zdravstvene upite, nedavno navodeći da to svake sedmice čini 230 miliona ljudi. To djeluje kao izuzetno opasan teren, jer ChatGPT oponaša ljude na način na koji obična Google pretraga to ne čini.
Winters je preživio ovo iskustvo, ali će se suočiti s “godinama intenzivnog fizičkog i psihološkog oporavka”.
Kompanija se također suočava s tužbom za smrt, u kojoj se navodi da je 19-godišnjak preminuo od predoziranja nakon što je navodno slijedio plan liječenja koji je kreirao chatbot. Taj plan liječenja navodno je uključivao i savjete o tome kako koristiti ilegalne droge. I ta tužba zahtijeva obustavu rada usluge ChatGPT Health. Još jedna tužba za smrt optužuje chatbot da je doprinio samoubistvu jednog tinejdžera.
IZVOR:Klix.ba