Yapay zeka sohbet robotlarının finansal konularda tavsiye almak amacıyla kullanılması, ciddi maddi kayıp riskleri taşıyor ve sıklıkla hatalı bilgiler sunuyor.
Yapay zeka hatalarının boyutu
Teknoloji firması Saturn tarafından yapılan kapsamlı bir araştırmaya göre, ChatGPT, Claude, Copilot ve Gemini gibi en yaygın kullanılan yapay zeka modelleri, finansal sorulara ortalama olarak yüzde 57 oranında yanlış yanıtlar verdi. Daha karmaşık ve birden fazla işlem gerektiren sorularda ise bu hata oranı ortalama yüzde 88'e yükseldi, hatta bazı modellerin bu tür zorlu soruların yüzde 99'unda başarısız olduğu tespit edildi.
Araştırmanın detayları ve sonuçları
Araştırma kapsamında, 18 farklı yapay zeka modeline, ücretsiz ve ücretli sürümleriyle birlikte 100'den fazla para ile ilgili soru yöneltildi. Soruların beş kez tekrarlanmasıyla toplamda 10 binden fazla sorgulama yapıldı. Yapılan incelemeler, yapay zeka yanıtlarının hesaplama hataları içerdiğini, güncel vergi değişikliklerini dikkate almadığını veya tamamen uydurma kurallar ortaya koyduğunu gösterdi. En kötü senaryolarda, vergi sorularına verilen yanlış yanıtların ciddi maddi kayıplara yol açabileceği vurgulandı.
Uzman görüşleri ve düzenleme çağrısı
Saturn Üst Yöneticisi Amal Jolly, “Milyonlarca insan para tavsiyesi için yapay zeka modellerine güveniyor ancak bu durum, paralarını kaybetmelerine neden olabilecek yanlış yanıtlarla sonuçlanabiliyor” şeklinde konuştu. Araştırmada, geçmişte Claude Haiku 4.5'in emeklilik vergi kurallarına ilişkin bir hatasının, bir birikim sahibini İngiltere Gelir ve Gümrük İdaresi (HMRC) tarafından 17 bin 500 sterlinlik bir ceza riskiyle karşı karşıya bıraktığına dikkat çekildi. AJ Bell'in kişisel finans başkanı Sarah Coles ise, yapay zekanın bütçeleme ve araştırma süreçlerinde faydalı olabileceğini ancak karmaşık durumlarda gerçek danışmanlığın önemini vurguladı. Jolly, yapay zeka finansal danışmanlığının şu anda denetlenmediğini ve tüketicilerin herhangi bir korumadan yararlanamadığını belirterek, İngiltere Finansal Davranış Otoritesi'nin (FCA) bu konuda hızlı hareket etmesi gerektiğini söyledi.
