ChatGPT'nin yanlış önerisi: Adamı hastaneye düşürdü

Sağlığını iyileştirmek için tuz tüketimini azaltmak isteyen bir adam, alternatif çözüm bulmak amacıyla ChatGPT'ye danıştı. Yapay zeka destekli sohbet robotu, sodyum bromür kullanımını önerdi. Adam da bu kimyasalı internet üzerinden sipariş ederek beslenmesine ekledi. Ancak sodyum bromür, mutfaklarda kullanılan bir madde değil, genellikle sıcak su havuzlarının temizliğinde kullanılan bir kimyasaldır.

YANLIŞ BİLGİLENME SONUCU HASTANEYE YATIRILDI

Yaklaşık üç ay sonra, komşusunun kendisini zehirlediğine dair paranoyak düşüncelerle acil servise başvuran hasta, ilk 24 saat içinde halüsinasyonlar ve artan paranoya belirtileri gösterdi. Kaçma girişiminde bulununca zorunlu psikiyatrik gözlem altına alındı. Tedavi sürecinde adam, uyguladığı diyeti detaylarıyla anlattı. Yapılan testler sonucunda, vücutta bromür birikmesinden kaynaklanan toksik bir durum olan bromizm teşhisi konuldu. Sağlıklı bireylerde bromür seviyesi genellikle 10 mg/L'nin altında iken, hastanın seviyesi 1.700 mg/L olarak ölçüldü.

20. YÜZYIL HASTALIĞI GERİ DÖNDÜ

Bromizm, 20. yüzyılın başlarında yaygın görülen ve o dönemde psikiyatrik başvuruların yüzde 8'ine kadarını oluşturan bir durumdu. Ancak 1970'ler ve 80'lerde bromür içeren ilaçların kullanımının azalmasıyla neredeyse tamamen ortadan kalkmıştı. Üç haftalık tedavi sürecinin ardından hasta tamamen iyileşerek taburcu edildi. Ancak uzmanlar, yapay zeka teknolojisinin kritik konularda insan uzmanlığının yerini alamayacağını vurguladı.

UYARI: YANLIŞ BİLGİLERİN YAYILMASINA NEDEN OLABİLİR

Araştırmanın yazarları, 'ChatGPT ve diğer yapay zeka sistemleri bilimsel hatalar üretebilir, sonuçları eleştirel şekilde tartışamaz ve yanlış bilgilerin yayılmasına neden olabilir' uyarısında bulundu. Uzmanlar, 'Bir tıp uzmanının, sodyum klorür yerine sodyum bromür önermesi pek olası değildir.' diye ekledi. Bu ilginç vaka, Annals of Internal Medicine: Clinical Cases dergisinde yayımlandı.