ChatGPT'nin yanlış önerisi: Adamı hastaneye düşürdü

Sağlığını iyileştirmek için tuz tüketimini azaltmak isteyen bir adam, alternatif bulmak amacıyla ChatGPT'ye danıştı. Yapay zeka sohbet robotu, sodyum bromür kullanmasını önerdi. Adam da bu kimyasalı internet üzerinden sipariş ederek beslenmesine ekledi. Ancak sodyum bromür, mutfaklarda kullanılan bir madde değil, genellikle sıcak su havuzlarını temizlemede kullanılan bir kimyasaldır.

YANLIŞ BİLGİLENME VE PARANOYA

Yaklaşık üç ay sonra, adam komşusunun kendisini zehirlediğine dair paranoyak düşüncelerle acil servise başvurdu. İlk 24 saat içinde halüsinasyonlar ve artan paranoya belirtileri gösteren hasta, kaçma girişiminde bulunduğu için zorunlu psikiyatrik gözlem altına alındı. Tedavi sırasında, adam uyguladığı diyeti detaylı olarak anlattı. Yapılan testler sonucunda, bromizm olarak bilinen, vücutta bromür birikmesinden kaynaklanan toksik bir durum teşhis edildi. Sağlıklı bireylerde bromür seviyesi genellikle 10 mg/L'nin altında iken, hastanın seviyesi 1.700 mg/L olarak ölçüldü.

50 YILLIK HASTALIK TEKRAR ORTAYA ÇIKTI

Bromizm, 20. yüzyılın başlarında yaygın görülen ve o dönemde psikiyatrik başvuruların yüzde 8'ine kadarını oluşturan bir durumdu. Ancak 1970'ler ve 80'lerde bromür içeren ilaçların kullanımının azalmasıyla neredeyse tamamen ortadan kalkmıştı. Üç haftalık tedavi sürecinin ardından hasta tamamen iyileşerek taburcu edildi. Ancak uzmanlara göre asıl sorun, yapay zeka teknolojisinin kritik konularda insan uzmanlığının yerini alamamasıdır. Araştırmanın yazarları, 'ChatGPT ve diğer yapay zeka sistemleri bilimsel hatalar üretebilir, sonuçları eleştirel şekilde tartışamaz ve yanlış bilgilerin yayılmasına neden olabilir' uyarısında bulundu. Uzmanlar, 'Bir tıp uzmanının, sodyum klorür yerine sodyum bromür önermesi pek olası değildir.' diye ekledi. Bu ilginç vaka, Annals of Internal Medicine: Clinical Cases dergisinde yayımlandı.