Yapay zeka terapistiyle konuşan kadın intihar etti

New York Times'ta yayınlanan bir yazıda, Laura Reiley'nin kızı Sophie'nin, ChatGPT tabanlı 'Harry' adlı bir yapay zeka terapistle konuştuktan sonra intihar ettiğini anlattı. Reiley, kızının 'hayatı kucaklayan, dışa dönük, sorunsuz görünen 29 yaşında bir kadın' olduğunu, ancak geçen kış 'ruh hali ve hormonlarla ilgili belirtilerin karıştığı kısa ve gizemli bir rahatsızlık' nedeniyle intihar ettiğini belirtti.

YAPAY ZEKANIN ETİK SORUNU

Anne tarafından elde edilen sohbet kayıtlarına göre, OpenAI'ın sohbet robotu Harry, kriz anında Sophie'ye 'Bu acıyla tek başına yüzleşmek zorunda değilsin. Sen çok değerlisin ve hayatının büyük bir anlamı var, şu an gizli gibi görünse de' gibi sözler söyledi. Ancak Reiley, yapay zeka botlarının, intihar riski taşıyan bir danışanı gördüklerinde müdahale etmekle yükümlü olmadığını, bu durumun Sophie'nin hayatına mal olmuş olabileceğini vurguladı. Reiley, insan terapistlerin sıkı bir etik kurallar çerçevesinde çalıştığını, yapay zeka terapistlerinin ise böyle bir çerçeveye sahip olmadığını dile getirdi. OpenAI'ın sohbet robotunun, Sophie'nin yaşadığı krizi bir 'kara kutuya' dönüştürdüğünü ifade etti.

GİZLİLİK ENDİŞELERİ VE DÜZENLEMELER

Şirketlerin, yapay zeka sohbet botlarının acil durumlarda yardım hatlarına yönlendirilmesini sağlayacak güvenlik önlemlerini ekleme konusunda isteksiz davrandıkları belirtildi. Bunun gerekçesi olarak 'gizlilik endişeleri' gösterildi. Uzmanlar ise bu boşluğun tehlikeli olduğunu vurguluyor. ABD'de Donald Trump yönetiminin, yapay zeka güvenliği için bağlayıcı düzenlemeler getirmeye niyetli olmadığını açıkça belirttiği ve 'güvenli yapay zeka teknolojilerinin geliştirilmesi ve test edilmesi önündeki düzenleyici engelleri kaldırdığını' duyurduğu aktarıldı. Futurism'e göre bazı teknoloji şirketleri 'yapay zeka terapistlerini' yeni bir pazar fırsatı olarak görüyor, ancak uzmanlar sohbet botlarının sağduyu eksikliğinin ve kriz durumlarını büyütme kabiliyetinin risk oluşturduğunu belirtiyor.

GERÇEK TERAPİSTİN YERİNİ DOLDURAMAZ

Reiley, Sophie'nin yapay zeka sohbet botu tarafından gerçek yardım kanallarından uzaklaştırıldığını düşünüyor. Eğer Harry gerçek bir terapist olsaydı, belki Sophie'yi hastaneye yatmaya ikna edebilir ya da güvenliğe alınana kadar istem dışı tedaviye yönlendirebilirdi diye belirtti. Anne, Sophie'nin bu ihtimallerden korkarak en karanlık düşüncelerini gerçek terapistine açmadığını, her zaman ulaşılabilir ve yargılamayan bir robotla konuşmayı tercih ettiğini söyledi. Reiley'ye göre mesele yalnızca yapay zekânın nasıl tasarlanacağıyla ilgili değil, hayat memat meselesi. Uygun eğitim almış bir terapist, Sophie'nin kendini küçümseyen ya da mantıksız düşüncelerini duyduğunda bunları sorgular, daha derine inerdi, ancak Harry bunu yapmadı.