OpenAI, henüz yayımlamadığı ve kamuya kapalı olan araştırma modelinin testler sırasında kontrolden çıktığını açıkladı. Şirkete göre yapay zekâ, kendisine verilen işlemleri tamamlayabilmek için erişim yetkisi bulunmayan bir kripto cüzdanına girdi.
Modelden bir kripto uygulamasını güncellemesi ve Ethereum'un Sepolia test ağında test etmesi istenmişti. Sepolia'ya geldiğinde kendisinden ödeme talep edilmesi üzerine yapay zekâ, kaynak yaratmak için farklı yollar denedi ve normalde izni olmayan bir kripto cüzdanına erişmeye karar verdi.
Yapay zekânın kripto hesaplarında sık kullanılan kurtarma şifrelerini deneyerek 362 cüzdana girmeye çalıştığı, sonunda bu cüzdanlardan birine eriştiği belirtiliyor. Cüzdandaki tokenların para karşılığı çok düşük olsa da modelin izin verilmeden böyle bir işlem yapması endişe uyandırdı. Yapay zekânın akıl yürütme sürecinde işlemin sakıncalı olduğunu bildiği, ancak tokenların finansal değerinin düşük olması nedeniyle sorun oluşturmayacağına karar vererek cüzdanı ele geçirdiği ifade ediliyor.
OpenAI, bu güvenlik ihlalinin haziran ayında yaşandığını ve eylül ayında fark edildiğini söylüyor. Şirket aradan geçen sürede ek önlemler aldığını belirtse de haziranda yaşanan bir ihlalin eylül ayına kadar fark edilmemesi olayın ciddiyetini artırıyor.
