Yapay zeka şirketi Anthropic'in yayınladığı tehdit istihbaratı raporu, yapay zeka modellerinin seçim manipülasyonları ve diğer tehlikeli amaçlar için nasıl kullanılabileceğine dair endişe verici bulguları ortaya koydu. Rapora göre, İstanbul merkezli BBS (Bilgi Birikim Sistemleri) Bilişim Teknolojileri ile bağlantılı bir platform, Malezya'daki seçmenleri hedef almak amacıyla Anthropic'in Claude modellerini kullandı.
Yapay zeka ile kamuoyu manipülasyonu
Bu platformun, yaklaşık bin sahte X (eski adıyla Twitter) hesabı, "Malaysia Pulse" adlı uydurma bir haber sitesi ve sahte belgeler aracılığıyla ücretli kamuoyu etkileme hizmeti sunduğu belirtildi. Faaliyet kapsamında seçmenlerin profillendirilerek sahte etkileşimler üretildiği ve bir muhalefet siyasetçisi ile sivil toplum kuruluşlarına yönelik asılsız iddiaların oluşturulduğu kaydedildi. Anthropic, bu hesabı kapatmasına rağmen, faaliyetin gerçek kullanıcılar arasında yayıldığına dair bir kanıt bulunmadığını da ekledi.
Tehlikeli araştırmalar ve silah geliştirme
Bu Türkiye bağlantılı vakanın yanı sıra raporda, Rusya, İran, Körfez ülkeleri, Güney Asya, Afrika ve Avrupa kaynaklı toplam dokuz etkileme operasyonu ele alındı. Daha da endişe verici olanı, bir hükümetle çalıştığı tahmin edilen bazı araştırmacıların, biyolojik silah üretmek için Claude yapay zekasını kullandığına dair bulgulara yer verildi. Benzer şekilde, Yemen'deki İran destekli Husilerin de yapay zekayı kullanarak füze ve roket sistemlerini geliştirdiği ve isabet oranlarını artırdığı tespit edildi. Bu vakaların ardından Anthropic harekete geçerek ilgili hesapları kapattı. Raporun yayınlanma zamanlaması, Anthropic araştırmacısı Jacob Coxon'ın güvenlik kaygıları nedeniyle istifa edeceğini açıklamasının ardından geldi. Coxon, yapay zekanın on yılın sonuna kadar insan yaşamını tehdit edebileceği uyarısında bulunmuştu. Cornell Üniversitesi'nden John Thickstun ise, bu tür şirketlerin demokratik denetim olmadan toplumun değer yargılarını belirleme konumuna gelmesinin sorunlu olduğunu belirtti. Anthropic ise tespit ettiği kötüye kullanım faaliyetlerini engellediğini ve yetkililerle bilgi paylaştığını vurguladı.
