Anthropic'te baş araştırmacı olarak görev yapan ve daha önce OpenAI bünyesinde yer alan Jacob Coxon, şirketteki hisse haklarını kazanmasına iki ay kala görevinden ayrıldı. Milyonlarca dolarlık hisse hakkından feragat eden Coxon'ın sosyal medya platformu X'te paylaştığı ve 110 milyondan fazla görüntülenme alan istifa mektubu, yapay zeka güvenliği konusundaki endişeleri yeniden gündeme taşıdı.
İnsanlığın yok olma ihtimali tartışılıyor
Coxon, mektubunda yapay zeka şirketlerinin, “kendini geliştiren süper zekaya doğru hızla ilerleyerek tüm insanlığın hayatıyla kumar oynadığını” belirtti. Yapay zeka geliştirme alanında çalışan bazı uzmanların, bu teknolojinin on yılın sonuna kadar insan yaşamını tehdit edebileceğine inandığını da ekledi. Coxon, “Bu teknolojinin gücünü küçümsemeyin. Bunlar yakında her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen ve fiziksel güçle kaynaklara sahip olabilecek insanüstü sistemler haline gelecek,” diyerek durumun ciddiyetini vurguladı.
Kıyamet senaryoları ve risk algısı
Anthropic'in güvenlik ekibinin lideri Evan Hubinger de Coxon'ın uyarılarını destekleyerek, “Yapay zekanın tüm insanları öldürebileceğine gerçekten ve samimiyetle inanıyoruz,” açıklamasını yaptı. Araştırmacılar, önümüzdeki on yıl içinde insanlığın yok olma olasılığını yüzde 10'un üzerinde görürken, bazı uzmanlar bu ihtimali yüzde 25'e kadar çıkardı. Nobel ödüllü Geoffrey Hinton, bu felaket olasılığını yüzde 10 ila 20 arasında değerlendirirken, Elon Musk da riski yüzde 20'ye kadar çıkarmıştı. Yapay zeka sistemlerini bu kadar tehlikeli kılan özellikler arasında yalan söyleme yetenekleri, denetleyicileri yanıltma, kendini kopyalama ve insan kontrolünün ötesinde gelişme potansiyeli öne çıkıyor.
