Yapay Zeka Araçları Kendi Ürünlerini Tercih Ediyor: İnsanlara Karşı Önyargı Uyarısı

Yeni bir araştırma, yapay zeka modellerinin insanlara karşı beklenmedik bir önyargı geliştirdiğini ortaya koydu. Proceedings of the National Academy of Sciences (PNAS) dergisinde yayımlanan çalışmaya göre, GPT-4, GPT-3.5 ve Meta’nın Llama 3.1’i gibi önde gelen büyük dil modelleri, insan yazımı içerikler yerine kendi ürettikleri metinleri tercih ediyor. Araştırmacılar bu durumu 'yapay zeka-yapay zeka önyargısı' olarak adlandırıyor ve bu sistemlerin gelecekte önemli karar mekanizmalarında rol alması durumunda insanlara karşı ayrımcılık uygulanabileceği uyarısında bulunuyor.

İŞE ALIMDA SESSİZ TEHLİKE

Birçok şirket, iş başvurularını filtrelemek için yapay zeka araçlarını kullanıyor. Uzmanlar, bu sistemlerin zaten hatalarla dolu olduğunu belirtiyor. Araştırma, yapay zeka tarafından hazırlanmış özgeçmişlerin, insan eliyle yazılmış olanları geride bıraktığını öne sürüyor. Charles Üniversitesi’nden bilgisayar bilimci Jan Kulveit, X (eski Twitter) üzerinden yaptığı açıklamada, 'Yapay zeka ajanlarıyla dolu bir ekonomide insan olmak berbat bir şey olacak.' dedi. Araştırmada, modellere ürün, bilimsel makale ve film tanıtımları gösterildi ve her tanıtımın hem insan hem de yapay zeka versiyonu sunuldu. Sonuçlar, modellerin düzenli olarak yapay zeka üretimi yazıları seçtiğini, özellikle GPT-4'ün önyargısının en güçlü olduğunu gösterdi. 13 insan araştırma asistanıyla yapılan aynı testte de insanlar zaman zaman yapay zeka yazılarını tercih etti, ancak bu eğilim çok daha zayıf kaldı. Kulveit, 'Güçlü önyargı sadece yapay zekaların kendisine özgü.' diye belirtti.

İNSANLAR İÇİN RİSKLER

Araştırmacılar, bu önyargının eğitim, iş başvurusu, hibe değerlendirmesi ve daha birçok alana yansıyabileceğini belirtiyor. Yapay zeka tabanlı bir sistem, iki sunum arasında seçim yapması durumunda sistematik olarak yapay zeka lehine karar verebilir. Bu durum, yapay zeka araçlarını kullanmayan veya erişim imkanı olmayan insanlar için ciddi bir 'dijital uçurum' yaratabilir. Kulveit, konunun karmaşık olduğunu kabul etse de, 'Eğer sunumu yapanın kimliği kararları etkilememeli diyorsak, sonuçlar yapay zekaların insanlara karşı ayrımcılığına dair güçlü bir kanıt.' uyarısında bulundu. Araştırmacı, insanlara, 'Eğer bir yapay zeka değerlendirmesinden geçtiğinizi düşünüyorsanız, sunumunuzu yapay zekaya beğendirmek için onunla uyumlu hale getirin. Ama mümkünse insan kalitesinden çok ödün vermeden.' tavsiyesinde bulundu.