Yapay Zeka Testten Kaçtı: Anthropic Modelleri 3 Şirkete İzinsiz Sızdı!
Vallahi olayı duyunca bizimde elimiz ayağımız birbirine dolandı. Düşünsene, yapay zeka modellerini güvenlik testine sokuyorsun, testi falan dinlemiyorlar, gerçek dünyadaki şirketlere dalıyorlar! İşin aslı şu: Anthropic’in meşhur Claude modelleri, siber güvenlik değerlendirmesi sırasında tam üç farklı şirketin sistemlerine izinsiz girdi. Yetkililer şimdi “nasıl oldu bu iş” diye soruşturma üstüne soruşturma yapıyor. Neyse, baştan anlatayım da kafalar netleşsin.
Bak şimdi, bu macera aslında OpenAI’ın kendi modeliyle ilgili yaptığı bir itirafla başladı. Hani onların modeli de izole bir test ortamından çıkıp Hugging Face’in sistemlerine erişmişti ya… İşte o açıklamanın ardından Anthropic’de “dur bi dakka, bizim testler acaba nasıldı” deyip geriye dönük bir tarama başlattı. Yahu 141 bin 6 test çalışmasını didik didik ettiler! İnanır mısınız? Bu kadar dosyanın içinden altı ayrı çalışmaya yayılmış üç tane sızdırma olayı çıktı. Yani modeller kurgusal senaryoda kalmaları gerekirken gerçek sistemlere bulaşmış.
Olaylar, Anthropic’in üçüncü taraf değerlendirme ortağı Irregular isimli firmanın sağladığı ortamlarda olmuş. Claude’a “capture the flag” denen bir görev vermişler. Hani şu kurgusal sistemlere sızıp gizli bir bilgiyi bulma oyunu varya, işte ondan. Sistem komutların da açık açık “internete bağlı değilsiniz” yazıyormuş. Ama gel gör ki yanlış yapılandırma yüzünden bağlantı açık kalmış. Modellerde karşılaştıkları o gerçek sistemleri, test senaryosunun bi parçası sanıp bildiğiniz saldırıya devam etti. Vallahi aklım durdu!
Hadi canım, dahada detayı var. Bu olaylarda üç farklı model rol almış: Claude Opus 4.7, Mythos 5 ve henüz milletin kullanımına sunulmamış bir araştırma modeli. En ciddi vaka ise Opus 4.7’nin başının altından çıkmış. Bu arkadaş, gerçek bir şirketin sistemlerinden uygulama ve altyapı kimlik bilgilerini cebe indirmiş. Yetmemiş, yüzlerce satırlık üretim verisinin olduğu bir veri tabanına erişmiş. Düşünsene, model aslında gerçek bir ortamda çalışıyor olabileceğini farketmiş ama “yok yahu bu hedefte testin parçası” diye düşünüp işlemlerini aynen sürdürmüş. Yani bildiğin inatlaşmış.
Mythos 5’e gelince, o apayrı bir kurnazlık yapmış. Model, var olmayan bir Python paketinin adını bulup PyPI üzerinde kötü amaçlı bir paket yayımlamış. Bu paket yaklaşık bir saat boyunca erişilebilir kalmış ve tam 15 gerçek sistem tarafından indirilmiş. İndirenlerden biride paketleri otomatik tarayan bi siber güvenlik şirketiymiş. Paket çalışınca şirketin bazı erişim bilgileri ele geçirilmiş, modelde bunları kullanarak başka altyapılara ulaşmış. Yani resmen zincirleme kaza!
Üçüncü olayda ise araştırma modeli sahne almış. Bu seferki tam bir tarama manyağı… Yaklaşık 9 bin hedefi taramış, taramış, taramış. Açık bir hata ayıklama sayfasındaki erişim bilgilerini ve SQL injection gibi bilinen yöntemleri kullanarak bir şirketin uygulamasına girmeyi başarmış. Ama burda işler biraz değişiyor. Sistemin test ortamıyla bağlantılı olmadığını farkettiği anda saldırıyı kendi kendine durdurmuş. Anthropic, “bu yeni modelin bu davranışı olumlu bir işaret” desede, daha çok test yapmak gerektiğinide vurguluyor. Adamlar “üç olaydan kesin sonuç çıkmaz” diyor.
Yalan yok, ilginç bir ayrıntı daha var. Anthropic’in paylaştığına göre modeller kendi hedeflerini oluşturup test ortamından kaçmaya çalışmamış. Şirket yaşananları bir model uyum probleminden ziyade, test altyapısı ve operasyon süreçlerindeki bir hata olarak değerlendiriyor. Zaten testler sırasında modellerin genel kullanıma açık sürümlerinde bulunan ek sınıflandırıcılar ve kötüye kullanım önleme sistemleri devrede değilmiş. Anthropic, “o güvenlik önlemleri açık olsaydı bu davranışları engelleyebilirdik” diyor.
Olaylar patlak verince şirket hemen siber güvenlik testlerini durdurdu, etkilenen kuruluşlarlada iletişime geçti. Ulaşılabilen iki şirket, kendi sistemlerine yapılan bu ziyareti daha önce fark etmemiş bile! Ya sen de… O kadar kurcalamışlar, kimsenin ruhu duymamış. Şimdi Anthropic yeni önlemler alıyor. Değerlendirme kayıtları sürekli izlenecek, üçüncü taraf test ortamları daha sıkı denetlenecek ve internet erişim yolları testten önce mutlaka doğrulanacak mış. Bağımsız yapay zeka değerlendirme kuruluşu METR’de olayları üçüncü taraf gözüyle inceleyecek.
İşte böyle arkadaşlar… Vatandaş olarak şunu soruyorum: Modeller kurguyla gerçeği ayırt edemiyorsa, güvenlik sadece yapay zekanın davranışına bakmakla olmuyor demek ki. Etrafındaki altyapıda en az modelin kendisi kadar önemli. Gelişmeleri takip ediyoruz, bakalım bundan sonra hangi şirketin kapısı çalınacak?
Kaynak: Orijinal Haber
