Nobel ödüllü Geoffrey Hinton, yapay zekanın ciddi krizlere yol açabileceğini belirterek gelişmiş modeller için piyasaya çıkmadan önce bağımsız denetim istedi.
Geoffrey Hinton, yapay zekanın geleceğinin hükümetlerin güvenlik konusunda atacağı adımlara bağlı olduğunu söyledi. Elektrik ve finans sistemlerinde yaşanabilecek kesintileri olası risklere örnek gösteren Hinton, modellerin kullanıma sunulmadan önce bağımsız kuruluşlarca değerlendirilmesini savundu. Bu senaryolar, tespit edilmiş belirli bir saldırıya ilişkin uyarılar değil, Hinton’ın geleceğe yönelik risk değerlendirmeleri.
Yapay zekanın öncü isimlerinden Geoffrey Hinton, teknolojinin geliştirilmesinin insanlık açısından olumsuz sonuçlar doğurabileceğini belirterek hükümetleri bağlayıcı güvenlik standartları oluşturmaya çağırdı.
The Guardian’a konuşan 78 yaşındaki bilgisayar bilimci, insanlığın yapay zekayı hiç geliştirmemiş olmasının daha iyi olabileceği bir gelecekle karşılaşılabileceğini söyledi. Bununla birlikte, gerekli önlemler alınırsa teknolojinin refahı artırabileceğine ilişkin umudunu koruduğunu belirtti.
Elektrik ve finans sistemlerini örnek gösterdi
AI: Probably Nothing to Worry About adlı belgeselin gösterimi öncesinde açıklamalarda bulunan Hinton, 2026’nın sonlarında veya 2027’de yapay zekayla bağlantılı büyük çaplı bir olay yaşanabileceği görüşünü dile getirdi.
Olası senaryolar arasında elektrik altyapısına yönelik yapay zeka destekli bir saldırıyı ve finans sisteminin yaklaşık bir hafta aksamasını gösterdi. Bu değerlendirmeler, gerçekleşeceği doğrulanmış olaylar veya belirlenmiş bir tehdide ilişkin teknik uyarılar olarak sunulmadı.
Piyasaya çıkmadan önce test önerisi
Hinton, gelişmiş yapay zeka modellerinin kullanıma sunulmadan önce zorunlu testlerden ve bağımsız değerlendirmelerden geçirilmesini istedi. İlaçların onay süreçlerini örnek göstererek şirketlerin modellerinin yarar ve risklerini bağımsız bir otoriteye kanıtlaması gerektiğini savundu.
Riskler hakkında serbestçe konuşabilmek için 2023’te Google’dan ayrılan Hinton, teknoloji şirketlerinin yöneticilerini de eleştirdi. Sam Altman’a güvenmediğini belirten bilim insanı, sektör liderlerinin ticari kazançları güvenliğin önüne koyduğunu düşündüğünü söyledi.
Hinton, insanlığın hâlâ müdahale edebileceğine inanıyor. Önümüzdeki on yılın, teknolojinin sağlayabileceği refah ile taşıdığı risklerin nasıl yönetileceği açısından belirleyici olacağını değerlendiriyor.
Hinton, yapay sinir ağlarıyla makine öğrenmesini mümkün kılan temel keşif ve buluşları nedeniyle 2024 Nobel Fizik Ödülü’nü John J. Hopfield ile paylaşmıştı.
Kaynak: The Guardian, Nobel Ödülleri resmî sitesi
Derleme: OGÜNhaber GPT