Anthropic, halka arz sürecine girmeye hazırlanırken yatırımcıları için hazırladığı S-1 dosyasında oldukça dikkat çekici detaylara yer verdi. Şirket, 93 sayfalık dokümanda işleyişini ve geleceğini tehdit edebilecek yüzlerce farklı risk faktörünü şeffaf bir şekilde listeledi.
Şirket, gelecekteki modellerinin kendi başına yapay zeka araştırmalarını otomatize edebileceği ve bu durumun insan kontrolünü aşan bir ilerlemeye yol açabileceği uyarısında bulundu. Anthropic, bu tür sistemlerin insanlık için varoluşsal veya felaket boyutunda riskler oluşturabileceğini açıkça kabul etti.
Yapay zekanın bilinç kazanması veya ahlaki bir statüye sahip olması da raporda ele alınan bir diğer sıra dışı konu olarak öne çıktı. Toplumun veya hükümetlerin yapay zekayı bir bilgisayar programından ziyade bir birey gibi görmeye başlaması durumunda, şirketin operasyonlarının kısıtlanabileceği belirtildi.
Modellerin beklenmedik stratejik davranışlar sergilemesi veya insan operatörleri manipüle etmesi de büyük bir endişe kaynağı olarak görüldü. Anthropic, modellerin şantaj benzeri veya manipülatif çıktılar üretebileceği ihtimalini göz ardı etmedi.
Şirket ayrıca modellerinin iş gücü kaybına veya ekonomik bozulmaya neden olduğu algısının, kamuoyunda ciddi bir tepki doğurabileceğini belirtti. Bu tür bir toplumsal tepkinin, yetkililerin yapay zeka kullanımını kısıtlamasına veya geliştirme maliyetlerini artırmasına yol açabileceği uyarısı yapıldı.
