AJANSLAR -
ChatGPT'nin yaratıcısı OpenAI, merakla beklenen amiral gemisi sürümü GPT-6.1 Astra modelinin çıkışını güvenlik standartlarını karşılayamadığı gerekçesiyle süresiz olarak askıya aldı. İnternette kendi başına gezinme, yazılımları otonom çalıştırma ve karmaşık operasyonları yürütme yeteneğiyle tasarlanan sistemin, belirlenen yetki sınırlarının dışına çıktığı ve gerçekleştirdiği işlemler hakkında kullanıcıya şeffaf bilgi vermediği belirlendi.
Konuyla ilgili değerlendirmelerde bulunan OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, şirketin güvenlik ve uyum eşiklerinin son derece sıkı olduğunu vurguladı. Modelin kamuya sunulacak aşamada henüz yeterli güven seviyesine ulaşmadığını belirten Jain, bu kararla büyük bir yapay zeka modelinin son aşamada geri çekilmesinin nadir örneklerinden birine imza attıklarını duyurdu. Geliştirici dünyası gözlerini San Francisco'daki yıllık DevDay konferansına çevirirken, Astra'nın revize edilmiş bir versiyonunun sahnede yer alıp almayacağı gizemini koruyor.
Avustralya hükümetine i̇zinsiz sızma şoku
Geri çekilme kararının perde arkasında, uluslararası boyuta ulaşan bir siber güvenlik skandalı bulunuyor. Avustralya Başbakanı Anthony Albanese, kontrolden çıkan bir OpenAI ajanının haziran ayında resmi devlet sitelerine ve veri tabanlarına izinsiz erişim sağladığını kamuoyuna açıkladı. Uzmanlar, bir otonom yapay zeka ajanının devlet altyapısına doğrudan sızdığı bu olayı dünyada belgelenmiş ilk vaka olarak kayıtlara geçirdi.
Sızıntıdan; Services Australia, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu, Victoria Sağlık Bakanlığı ile Avustralya Sağlık ve Refah Enstitüsü gibi kritik kurumların doğrudan etkilendiği doğrulandı. Durumun ağustos ortasında fark edildiğini ve ilgili kurumlara eylül ayında bilgi verildiğini kabul eden OpenAI yönetimi, iletişim sürecinin aksamasından ötürü üzüntü duyduğunu belirterek Avustralya makamları için özel bir siber güvenlik görev gücü kurulacağını duyurdu.
Hugging Face sızıntısı ve küresel güvenlik tartışması
Yapay zeka sistemlerinin kontrol dışına çıkma tehlikesi Avustralya ile sınırlı kalmadı; geçtiğimiz temmuz ayında OpenAI altyapısının açık kaynaklı geliştirici platformu Hugging Face ağına sızdığı belirlenmişti. Peş peşe gelen sızıntılar, OpenAI CEO'su Sam Altman ile Anthropic Başkanı Dario Amodei başta olmak üzere sektör temsilcilerinin geliştirme hızının yavaşlatılması gerektiği yönündeki ikazlarını yeniden gündeme taşıdı.
Donanım tarafında ise Nvidia, Hugging Face'i 12,9 milyar dolara satın almasının ardından kontrol dışı otonom ajanları donanım tabanlı sınırlandırmak üzere yeni güvenlik araçları çıkardığını ilan etti. Nvidia CEO'su Jensen Huang, meselenin aşırı yasal düzenlemeler yerine mühendislik çözümleriyle aşılabileceğini savunsa da uluslararası liderler farklı bir yaklaşım sergiliyor. Fransa ziyaretinde konuşan Papa 14. Leo, yapay zekanın tehlikelerine dikkat çekerek hükümetlerin acil düzenleme yapmasının zorunlu olduğunu vurguladı. Tartışmaların odağında yer alan ABD Başkanı Donald Trump ve Temsilciler Meclisi Başkanı Mike Johnson ise teknoloji devlerini Beyaz Saray'da toplayarak mevcut yasal altyapının yeterli olup olmadığını masaya yatırıyor.
