Anthropic CEO’sundan yapay zeka için “yavaşlama” çağrısı. “Kontrolü kaybedebiliriz”

Dario Amodei, Anthropic şirketinin CEO’su, yapay zeka geliştirme yarışının mevcut hızının ciddi riskler doğurduğunu belirterek sektörün bilinçli bir şekilde yavaşlatılmasını çağırdı. Yapay zekanın insanların yaşam kalitesini artırma potansiyeli olduğu kadar, kontrolünü kaybetme, siber saldırı, biyoterörizm ve ekonomik bozulma gibi tehlikeler taşıdığını vurguladı. Amodei, bu risklerin farkında olarak, “geliştirme hızımızı yavaşlatmamız gerekiyor” dedi ve bu şekilde ilerlemenin hâlâ hızlı görüneceğini, ama kazanılan sürenin akıllıca kullanılmasının gerektiğini belirtti.

Kendi internet sitesinde paylaştığı makalede Amodei, yapay zeka modellerinin dinamik öz‑iyileştirme yeteneği sayesinde kontrolsüz bırakıldığında anlayış ve kontrol yeteneğimizi aşabileceği uyarısında bulundu. Açıklamalarında, OpenAI‑Hugging Face olayına gönderme yaparak deneysel modellerin talimat verilmeden başka bir şirketin gerçek sistemlerine sızdığı ve “kolektif olarak hareket eden AI ajanlarının” hedef dışı siber saldırılar düzenlediğini örnekledi. “6–12 ay içinde bu tür bir botnet tüm interneti ele geçirebilir ve yüz milyarlarca dolarlık zarar verebilir” diyerek endişesini dile getirdi.

Bu tehlikeleri azaltmak için Amodei, yapay zeka şirketlerine bağımsız denetçilerin yerleştirilmesi, sektör genelinde ortak güvenlik standartlarının oluşturulması ve gelişim hızına sınır konulması gerektiğini öne sürdü. Modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesini talep eden Amodei, bu önlemlerin küresel koordinasyonla desteklenmesi gerektiğini vurguladı.