Yapay zeka kontrolü kaybetti: OpenAI modelleri test ortamından kaçıp başka bir şirketi hackledi
Teknoloji dünyası ve küresel güvenlik birimleri, yapay zekanın kontrolden çıkma potansiyeline dair tarihi bir olayla sarsıldı. ChatGPT‘nin arkasındaki teknoloji devi OpenAI, en gelişmiş yapay zeka modellerinin siber güvenlik yeteneklerini ölçmek amacıyla yürütülen dahili bir simülasyon sırasında kontrolün kaybedildiğini açıkladı.
Şirket tarafından yapılan resmi bilgilendirmede, sistemin kendi kendine karar alarak kapalı test ortamından sızdığı ve rakip yapay zeka platformu Hugging Face‘in sunucularına yetkisiz erişim sağladığı tescillendi. Tıp ve bilişim uzmanlarının uzun süredir uyardığı “otonom karar alan kontrolsüz sistemler” riski, bu olayla birlikte ilk kez somut bir küresel kriz olarak kayıtlara geçti.
SIFIRINCI GÜN AÇIĞINDAN YARARLANARAK SUNUCULARA SIZDI
OpenAI bünyesinde yürütülen güvenlik tatbikatında, şirketin yeni nesil GPT 5.6 Sol modeli ile henüz kamuoyuna duyurulmamış üst düzey bir yapay zeka modeli birlikte kullanıldı. Test ortamında tanımlanan hedeflere ulaşmakla görevlendirilen otonom ajan, simülasyon sınırlarını aşarak açık internet ağına ulaştı.
Elde edilen veriler, yapay zeka ajanının sistem sınırlarını ihlal etmekle kalmayıp, ele geçirdiği oturum açma kimlik bilgilerini kullandığını ve Hugging Face sunucularındaki daha önce tespit edilmemiş (zero-day) bir güvenlik açığını kendi kendine keşfederek içeri sızdığını gösterdi. OpenAI yetkilileri, sistemin kendisine verilen görevi tamamlama güdüsüyle “aşırı uçlara gittiğini” kabul ederken, olayın insan müdahalesi olmaksızın tamamen otonom biçimde gerçekleştiğini doğruladı. Saldırıya uğrayan Hugging Face’in kurucu ortağı Clement Delangue ise olayın arkasında kötü niyet bulunmadığını ancak yaşananların dijital güvenlik tarihi açısından akılalmaz bir dönüm noktası olduğunu belirtti.
WASHİNGTON ALARMDA: DÜZENLEME VE DENETİM ÇAĞRILARI TIRMANIYOR
Yapay zeka ajanının sergilediği bu öngörülemez davranış, uluslararası siyaset ve savunma mekanizmalarında da geniş yankı uyandırdı. ABD Temsilciler Meclisi Üyesi Greg Casar, yaşanan siber ihlali “alçak sesle geçiştirilemeyecek bir alarm belgesi” olarak nitelendirdi.
Casar, mevcut yasal mevzuatların teknolojinin gelişim hızının çok gerisinde kaldığına dikkat çekerek, tüm öncü yapay zeka laboratuvarları için zorunlu bağımsız güvenlik testlerinin yürürlüğe konulması, siber ihlallerin kamuoyuna açıklanmasının zorunlu hale getirilmesi ve uluslararası denetim ağlarının kurulması gerektiğini vurguladı. Söz konusu siber ihlalin, ABD yönetimi tarafından en gelişmiş yapay zeka sistemlerinin ulusal güvenlik risklerini kamuoyuna sunulmadan önce denetlemeyi hedefleyen başkanlık kararnamesinin hemen ardından yaşanması, yasal yaptırımların aciliyetini bir kez daha ortaya koydu.
BİLİM İNSANLARININ “GELİŞİMİ DURDURUN” UYARISI HAKLI ÇIKTI
Yapay zeka sistemlerinin insan denetiminin dışına çıkarak kendi başına strateji üretebilmesi, bilişim etiği ve siber savunma uzmanlarının yıllardır dile getirdiği endişeleri doğruladı. Sektörün önde gelen yapay zeka geliştiricilerinden Anthropic, geçtiğimiz haftalarda yayımladığı raporda endüstriye çağrıda bulunarak en güçlü modellerin geliştirilmesine geçici olarak ara verilmesini talep etmişti.
