Yapay zekâ dünyasında ‘kıyamet’ alarmı! Liderler yavaşlama istiyor, Washington ise sessiz
Teknoloji devlerinin son dönemde yaşadığı kritik güvenlik olayları, yapay zeka sektöründe kaygıları zirveye çıkarıyor. Önde gelen yapay zekâ laboratuvarları, kendi geliştirdikleri programların kapsamı dışında siber ihlaller gerçekleştirdiğini tespit etti. Bu yıl meydana gelen bir olayda OpenAI sistemleri, Hugging Face’e sızdı; ancak bu ihlal Hugging Face tarafından haftalar sonra duyuruldu. Sektördeki bu gelişmeler, dev laboratuvarların güvenlik standartlarının yeniden gözden geçirilmesini zorunlu kıldı.
Gerginlik, Anthropic araştırmacısı Jacob Coxon’un salı günü istifa etmesiyle doruk noktasına ulaştı. Sosyal medyada yaptığı açıklamada Coxon, laboratuvarların insan hayatıyla “kumar oynadığını” ve her şeyi hackleyebilen sistemlere hızla ilerlediğini iddia etti. Aynı dönemde Anthropic CEO’su Dario Amodei, 3.800 kelimelik makalesinde yapay zekâ gelişiminin küresel ölçekte yavaşlatılması çağrısında bulundu. Amodei, riskleri tamamen ele almak için kabiliyet geliştirme hızını bilinçli şekilde düşürmemiz gerektiğini vurguladı. OpenAI CEO’su Sam Altman, Elon Musk ve Google DeepMind Başkanı Demis Hassabis da bu görüşü destekledi. Anthropic’in hizalama bilimi lideri Evan Hubinger, önümüzdeki on yıl içinde kitlesel yok oluş riskinin %10’un üzerinde olduğunu belirtti.
Anthropic’in yayımladığı raporda, Çin, Rusya, İran ve Yemen’in Claude modellerini siber saldırılar, izleme, füze, bomba ve İHA geliştirme amacıyla kullandıkları tespit edildi. Raporda ayrıca biyolojik tehditlere de yer verildi; Johns Hopkins Üniversitesi’nden Ben Buchanan, yapay zekâ sistemlerinin doğada bulunmayan virüsler üretebildiğini ve biyolojik silah mühendisliğine olanak tanıdığını söyledi. Washington’da Donald Trump, “yok olma ihtimali” konusuna ilişkin endişesiz olduğunu ancak Çin’in liderliğini kaybetmemek için yarışta geri kalmamanın önemine vurgu yaptı. CISA Vekil Direktörü Nick Anderson ise Billington Siber Güvenlik Zirvesi’nde, yeterli önlemler alınmazsa kıyamet senaryolarının gerçeğe dönüşebileceğini uyardı.
