XRack, kurumsal yapay zeka sistemlerini denetlenebilir kılmak için bir platform geliştirdi. 2024 yılında Ege Doğan Dursun ve Hüseyin Ersay tarafından kurulan bu girişim, kurumların tercih ettikleri büyük dil modellerini sadece soru‑yanıt yazılımları olmaktan çıkararak hafızalı, yetkilendirilmiş, sorumlu ve gözlemlenebilir ajanslara dönüştürüyor. Şirket, kendi sunucularında, özel bulutunda veya VPC ortamında çalışabilecek şekilde tasarlandı; model sağlayıcısını müşteriler seçiyor ve tüm hafıza, yetki ve denetim kayıtları kurumun kontrolünde kalıyor.
Yani işin aslı şu: XRack, bir yapay zekanın karar verirken hangi bilgilere dayandığını, hangi varsayımları kullandığını ve hangi deneyimlerden yararlandığını yapılandırılmış biçimde izliyor. Eyleme geçmeden önce kimlik, rol, kurumsal politika, risk seviyesi ve yetki kapsamı kontrol ediliyor. İşlem gerçekleştirildikten sonra da dış sistem yeniden gözlemlenerek beklenen sonucun gerçekten oluşup oluşmadığı doğrulanıyor. Bu süreçte oluşan tüm karar, iddialar, varsayımlar ve doğrulamalar geriye dönük olarak blockchain ile bağlanıyor; böylece değiştirilemez kanıt zinciri oluşturuluyor.
XRack’in sisteminde bağlam oluşturma, hafıza, önceliklendirme, yürütücü kontrol, tahmin, doğrulama, yetkilendirme, eylem yürütme, sonuç değerlendirme ve öğrenme ayrı ayrı süreçler olarak çalışıyor. Geleneksel ajan sistemlerinde eylemin dayanakları eylemden önce yapılandırılmıyor, bu da daha sonra “Bunu neden yaptın?” sorusuna yanıtı modelin o anda ürettiği yeni bir açıklama haline getiriyor. XRack, eylemin dayanaklarını, kullanılan kanıtları, değerlendirilen alternatifleri ve yetki kontrollerini eylemden önce kaydediyor ve eylem sadece bu aşamalardan sonra gerçekleşiyor. Böylece sistem hem nihai cevap hem de ara karar aşamalarını izlenebilir hâle getiriyor.
Ege Doğan Dursun, yaklaşık beş yıldır beynin bilişsel işlevleri üzerine araştırma yapıyor; Hüseyin Ersay ise hukuk, yasal uyumluluk ve yapay zeka regülasyonlarında uzman. İkili, 8 kişilik bir ekiple birlikte çalışıyor: 3 yapay zeka mühendisi, 2 full‑stack geliştirici, 1 UX tasarımcısı ve 2 proje yönetiminden sorumlu kişi. Ekip, bilişsel çalışma zamanı, veri, entegrasyon ve güvenlik altyapısını geliştirirken, UX ve ürün ekipleri karmaşık karar‑yetki‑denetim süreçlerini kurumların anlayabileceği yüzeylere dönüştürüyor.
Şu an pilot aşamasında olan XRack, hukuk, finans ve üretim sektörlerinden üç kurumla tasarım ortaklığı modeliyle çalışıyor. Hukukta hukuki istihbarat, finansta karar desteği ve risk takibi, üretimde ise kestirimci bakım senaryolarına odaklanılıyor. Pilotların doğrulanmış kullanım alanları ve entegrasyon derinliği, şirketin gelecekteki ticari sözleşmelerini oluşturacak temel göstergeler.
XRack, uzun vadede enerji, sigorta, sağlık, savunma ve kamu gibi yüksek regülasyonlu sektörlere açılmayı hedefliyor. Şirket, yapay zeka sistemlerine güvenli biçimde sorumluluk devredilmesini sağlayan kurumsal bir işletim standardı oluşturmak istiyor. Yani bak şimdi, bu platform sayesinde kurumlar artık sadece bir dil modelinin çıktısını değil, kararın dayanağını, yetkisini ve sonucunu adım adım görebilecek. Ne bekliyorsunuz, bundan sonra kurumsal yapay zeka denetimi nasıl evrilecek?
Kaynak: Orijinal Haber
