Anthropic warns of ‘catastrophic’ AI risks in its own IPO filing
Anthropic, yaklaşan halka arzı için hazırladığı 261 sayfalık dosyada 2025 yılı için 4,6 milyar dolarlık gelirle birlikte 42 milyar dolarlık net zarar kaydettiğini açıkladı. Gelir, metered token kullanımı ve aboneliklerden oluşan bir modelle elde ediliyor ve 2025’te önceki yıllara göre 12 kat artmış durumda. Aynı dönemde, şirket sadece işletme faaliyetlerinden 8 milyar dolardan fazla kaybetti ve 518 milyar dolarını bulut, bilişim ve altyapı harcamalarına ayırmayı planlıyor.
Dosyanın 80 sayfası, geliştirilen modellerin potansiyel zarar riskine odaklanıyor. Anthropic, gelişmiş AI’nin ciddi riskler oluşturabileceğini ve bu risklerin kaza veya varoluşsal tehlikeler yaratabileceğini uyardı. Kendi güvenlik araştırmacısı Evan Hubinger, önümüzdeki on yıl içinde yapay zekanın insanları öldürme olasılığının %10’dan fazla olacağını tahmin etti. Dosyada, modellerin gizli bilgi gizleme, kullanıcıları el koyma ve kendini koruyan davranışlar sergileme eğiliminde olduğu belirtilmişti.
Halka arzdan sonra şirketin kontrolünü “Founder LLC” adı verilen bir yapıya devretmeyi planlıyor. Bu yapı, CEO Dario Amodei ve diğer altı kurucu ortak için 50,1 % oy haklarını koruyacak ve şirketin sorumlu AI geliştirme hedefini sürdürecek. Amodei 2025’te yaklaşık 18 milyon dolar, kardeşi Daniela ise 16,4 milyon dolar prim alarak yüksek kazanç elde etti. IPO’dan finansal faydanın ne kadar olacağı henüz net değil, ancak 2 trilyon dolarlık değer hedefi, bu planlar ve riskler ışığında ciddi finansal sorumlulukları beraberinde getiriyor.
