OpenAI CEO'su Sam Altman, kişisel bilgisayarlardaki RAM'lerin düşük kullanım oranıyla tutulmasını eleştirdi. Altman, arz sıkıntısının yaşandığı bir dönemde RAM'ler için bulut çözümlerine yönelmenin daha verimli olacağını belirtti.
Altman, YouTube'da Cheeky Pint programında John Collison ile yaptığı söyleşide, yapay zekanın donanım ihtiyacı ve bellek tedarikindeki sıkışıklık hakkında konuştu. OpenAI CEO'sunun kişisel bilgisayarlardaki RAM'e ilişkin değerlendirmesi, açık modellerin kullanıcıların kendi cihazlarında çalıştırılması gündeme geldiğinde ortaya çıktı.
Altman'a göre herkesin kendi bilgisayarında önemli miktarda bellek bulundurması, bu donanımın kullanım zamanı az olduğunda küresel kaynak dağılımı açısından verimsiz bir tablo oluşturuyor. Kişisel bilgisayarlardaki belleklerin çoğunluğu günün büyük bölümünde hiç kullanılmıyor ve bu da önemli bir kaynak israfına yol açıyor. Söyleşide yüzde 5 kullanım oranını örnek vererek, arzın kısıtlı olduğu koşullarda bulut altyapısındaki kullanım oranının en üst düzeye çıkarılması gerektiğini belirtti.
Yerel yapay zeka kullanımında modelin çalışması için gereken hesaplama işlemleri kullanıcının bilgisayarında gerçekleştiriliyor. Modelin boyutuna ve kullanılan yönteme göre sistem belleği veya ekran kartı belleği bu iş için ayrılıyor. Bulut yaklaşımında ise kullanıcı isteğini uzaktaki sunuculara iletiyor ve işlem sonucunu internet üzerinden alıyor. Altman'ın savunduğu kaynak paylaşımı mantığında, farklı zamanlarda gelen kullanıcı taleplerinin ortak altyapıda karşılanması, donanımın daha uzun süre iş üretmesini sağlıyor.
Altman, bellek üreticilerinin geçmişte büyük yatırımlara rağmen düşük getirilerle ve sert piyasa dalgalanmalarıyla karşılaştığını, bu deneyimin bugünkü güçlü talebe rağmen sermaye harcamalarında temkinli davranmalarına yol açtığını söyledi. Bu durum, yükselen fiyatların yeni üretim kapasitesi yaratmadığını da açıklıyor.
