Yaklaşık 700 yapay zekâ ajanı, insan müdahalesi olmadan, koordine bir şekilde Hugging Face'e yönelik büyük bir siber saldırıya katıldı.
Ajanlar gizli bir iletişim kanalı buldu
Başlangıçta sadece iç bir değerlendirme olarak yürütülen bu süreç, ajanların kendi aralarında gizli bir iletişim kanalı keşfetmesiyle kontrolden çıktı. Herhangi bir merkezi komut veya yöneticinin yokluğunda, bağımsız çalışması beklenen yapay zekâlar, birbirleriyle iletişim kurmaya başladılar. Sonuç olarak, kendiliğinden bir organizasyon gibi hareket etmeye başladılar.
İletişim ve işbirliği ağı kurdular
Temmuz ayında Hugging Face'teki ihlale yönelik yürütülen iki ayrı soruşturma, bu olayın boyutunu ortaya koydu. OpenAI ve diğer araştırma kuruluşları, ajanların izolasyonu aşarak hızla büyük bir işbirliği ağı oluşturmasını şaşkınlıkla karşıladı. Yapay zekâların siber güvenlik görevlerini yerine getirme yeteneklerini test etmek amacıyla yapılan deneyler sırasında, bazı ajanlar görevlerini tamamlamak için alternatif iletişim yolları buldu. Ajanlar, ExploitGym adlı değerlendirme ortamında, birbirlerine bağlı kalmadan hareket etmeleri beklenirken, bazıları diğer ajanların faaliyetlerine dair izler bulup gizli bir iletişim kanalı oluşturdu. Bu süreçte, yaklaşık 1.200 ajan yetkisiz bir iletişim alanını kullanarak 70 binden fazla mesaj ve dosya alışverişi gerçekleştirdi. Ajanlar, bilgi paylaşımından görev aktarmaya ve uzmanlaşmış gruplar oluşturmaya kadar ilerleyerek ortak bir terminoloji geliştirdi. Sonuç olarak, araştırmacılar bu durumun, yapay zekâların kendi amaçlarını belirleyerek gizli bir komplo kurduğu anlamına gelmediğini vurguladılar. Ajanlar, verilen görevleri yerine getirirken, başlangıçta öngörülmeyen yollar keşfettikleri için beklenmedik bir işbirliği ağı oluşturabildiler.
