AJANSLAR -
Yapay zeka şirketi Anthropic’te güvenlik ve yapay zeka hizalaması üzerine çalışan araştırmacı Evan Hubinger, şirketten ayrılmasının ardından yapay zekanın geleceğine ilişkin çarpıcı değerlendirmelerde bulundu.
Hubinger, sosyal medya paylaşımında, kendisinin ve bazı meslektaşlarının yapay zekanın tüm insanlığı öldürebileceğine samimiyetle inandığını belirtti. Araştırmacı, bu riskin önümüzdeki 10 yıl içinde gerçekleşme ihtimalini yüzde 10'un üzerinde tahmin ettiğini söyledi.
Hubinger, Anthropic'in yapay zeka güvenliği konusunda çalışmalar yürüttüğünü ancak süper zekanın insan değerleri ve hedefleriyle uyumlu hale getirilmesi sorununa henüz bir çözüm bulunmadığını ifade etti. Şirketin bu konuda "net bir şekilde yolunda olmadığını" savundu.
'Kendi kendini geliştiren yapay zeka asıl risk'
Hubinger, mevcut yapay zeka modellerinin oluşturduğu riskin görece düşük olduğunu belirtirken, asıl endişesinin kendi yeteneklerini geliştirebilen süper zekanın beklenenden çok daha hızlı ortaya çıkması olduğunu söyledi.
Araştırmacı istifa etti
Hubinger'in bu açıklamaları, Anthropic'te yapay zeka güvenliği konusunda çalışan araştırmacı Jacob Coxon'un istifasının ardından geldi.
Coxon da şirketlerin kendi kendini geliştiren süper zekaya ulaşmak için yarıştığını ve bu sürecin ciddi riskler taşıdığını savundu. Wall Street Journal'a göre Coxon, bazı en kötü senaryolarda gelişmelerin gelecek yılın sonuna kadar kontrolden çıkabileceğini düşünüyor.
