Anthropic’in Claude deneyi, kendi kendini geliştiren yapay zekaya kapı aralıyor

Anthropic, yapay zeka modellerinin geliştirilmesinde insan araştırmacıların üstlendiği görevlerin giderek daha büyük bir bölümünü yapay zekaya devretmenin mümkün olduğunu gösteren yeni bir araştırma yayımladı. Şirket, bu amaçla Automated Alignment Researcher (AAR) adını verdiği sistemi geliştirdi. AAR, mevcut araştırmaları inceleyerek eğitim yöntemleri oluşturuyor, modelleri eğitiyor, sonuçları değerlendiriyor ve başarılı yöntemleri yeni deneylerde kullanıyor.

Bu yaklaşım, yapay zekanın araştırma sürecinin bir çok aşamasını otomatikleştirerek insan müdahalesini azaltabileceğini ortaya koyuyor. Bu sistem, gelecekte model geliştirme süreçlerinin daha verimli ve hızlı olmasını sağlayabilir.

AAR, araştırma literatürünü tarayarak en etkili eğitim stratejilerini belirleyip, bu stratejileri uygulayan modelleri eğitip sonuçları bağımsız olarak değerlendiriyor. Başarılı yöntemler, sonraki deneylere aktarılıyor.