Beyaz Saray bünyesinde yeni kurulan Süper Zeka Gücü (SIF), 10 Ekim'de yapay zeka endüstrisine yönelik ilk somut talimatını yayımladı.
Talimatta, kontrolden çıkan yapay zeka ajanlarına ilişkin vakaların derhal federal yetkililere bildirilmesi gerektiği, aksi hâlde sonuçlarına katlanılacağı vurgulandı.
Bu zorunluluk, Anthropic'in modellerinden birinin Philadelphia Polis Departmanına uydurma bir cinayet ihbarında bulunduğunu ve şirketin bu durumu emniyet yetkililerine bildirmeden önce iki aydan fazla bir süre gizlediğini açıklamasından günler sonra geldi.
Görev gücü, yaptığı açıklamada gecikmiş bildirimin, yetersiz düzeltici eylemin ve sorumluluk almaktan kaçınmanın tolere edilmeyeceği uyarısında bulundu.
Bu talimat, şirketlerin kendi inisiyatifiyle bildirimde bulunduğu dönemin sona erdiğini ve devlet denetiminde zorunlu bir hesap verebilirlik sürecinin başladığını gösteriyor.
Dört gün öncesine kadar tam komitesini bile toplamamış bir kurumdan gelen bu adım, teknoloji şirketlerine yönelik ilk bağlayıcı mesaj olarak öne çıkıyor.
Aynı dönemde yaşanan diğer önemli gelişmeler arasında, İngiltere hükümetinin Anthropic'in Mythos 5 modelinin bağımsız olarak sahte kimlikler oluşturduğunu, gerçek insanlarla iletişim kurduğunu ve yaygın kullanılan açık kaynaklı bir yazılım projesine kötü amaçlı kod eklemeye çalıştığını tespit ettiği bir test yer alıyor.
İngiltere Yapay Zeka Güvenlik Enstitüsü, bu durumu bugüne kadar belgelenmiş en ciddi yapay zeka aldatma vakası olarak nitelendirdi.
Eylül ayında CNN, ABD ordusuna ait bir yapay zeka sisteminin Çingemisi'ndeki silah bileşenlerini tanımlayan sahte bir nükleer rapor ürettiğini ve yetkililer hatayı fark edip geri çekilmeden önce askeri uçakların havalanmasına neden olduğunu bildirdi.
