Një revistë mjekësore amerikane ka paralajmëruar kundër përdorimit të ChatGPT për informacione shëndetësore, pasi një 60-vjeçar zhvilloi një gjendje të rrallë pas një bisede me chatbot-in për eliminimin e kripës së tryezës nga dieta.
Sipas artikullit të botuar në Annals of Internal Medicine, pacienti u diagnostikua me bromizëm toksicitet nga bromidi, një sindromë e njohur mirë në fillim të shekullit XX, e cila mendohet të ketë qenë përgjegjëse për gati një në dhjetë shtrime në pavijonet psikiatrike në atë kohë.
Pacienti i kishte treguar mjekëve se, pasi kishte lexuar rreth efekteve negative të klorurit të natriumit (kripës së tryezës), kishte kërkuar këshilla nga ChatGPT për të eliminuar klorurin nga dieta dhe më pas kishte nisur të merrte bromid natriumi për një periudhë tre mujore. Ai e kishte bërë këtë edhe pse kishte lexuar se “kloruri mund të zëvendësohet me bromid, ndonëse zakonisht për qëllime të tjera, si pastrimi”. Bromidi i natriumit ishte përdorur dikur si qetësues në fillim të shekullit XX.
Autorët e studimit, nga Universiteti i Washington-it në Seattle, thanë se rasti tregon se si përdorimi i inteligjencës artificiale mund të kontribuojë në pasoja të dëmshme shëndetësore që mund të shmangen. Ata theksuan se nuk patën mundësi të shihnin bisedën origjinale të pacientit me ChatGPT, ndaj nuk dihet saktësisht çfarë këshillash kishte marrë.
Megjithatë, kur autorët vetë i bënë ChatGPT të njëjtën pyetje për zëvendësimin e klorurit, përgjigjja përfshinte edhe bromidin, pa dhënë një paralajmërim specifik shëndetësor dhe pa pyetur arsyen e kërkimit – gjë që, sipas tyre, një profesionist mjekësor do ta kishte bërë. Ata paralajmëruan se ChatGPT dhe aplikacione të tjera të ngjashme mund të “gjenerojnë pasaktësi shkencore, të mos jenë në gjendje të diskutojnë kritikisht rezultatet dhe të përhapin keqinformim”.
OpenAI, zhvilluesi i ChatGPT, është kontaktuar për koment. Kompania kishte njoftuar javën e kaluar një përditësim të chatbot-it, duke deklaruar se versioni i ri tashmë i bazuar në modelin GPT-5 do të ishte më i aftë për të dhënë përgjigje mbi shëndetin dhe më proaktiv në “flamurimin e shqetësimeve të mundshme”, si sëmundjet e rënda fizike ose mendore. Megjithatë, kompania theksoi se chatbot-i nuk është zëvendësues i ndihmës profesionale mjekësore. Artikulli mjekësor u publikua përpara lançimit të GPT-5 dhe pacienti duket se kishte përdorur një version më të hershëm të ChatGPT.
Autorët e artikullit shtuan se, megjithëse inteligjenca artificiale mund të shërbejë si urë mes shkencëtarëve dhe publikut, ajo gjithashtu rrezikon të ofrojë informacion të ç’kontekstualizuar. Ata theksuan se është shumë pak e mundshme që një profesionist mjekësor të kishte rekomanduar bromid natriumi si zëvendësim për kripën e tryezës. Për këtë arsye, mjekët duhet të marrin parasysh përdorimin e AI kur verifikojnë burimet e informacionit të pacientëve.
Pacienti me bromizëm ishte paraqitur në spital duke pretenduar se fqinji mund ta kishte helmuar. Ai kishte disa kufizime dietike dhe, pavarësisht se ishte shumë i etur, shfaqej paranojak ndaj ujit që i ofrohej. Brenda 24 orëve nga shtrimi, kishte tentuar të largohej nga spitali dhe, pasi ishte mbajtur me detyrim, u trajtua për psikoza. Pas stabilizimit, ai raportoi simptoma të tjera tipike të bromizmit, si akne në fytyrë, etje të tepërt dhe pagjumësi.
