Oyun dünyasının popüler konsolu PlayStation 5, teknoloji meraklılarının sıra dışı bir girişimiyle yerel bir yapay zeka sunucusuna dönüştürüldü. Jailbreak işlemi uygulanmış bir konsolu kullanan u/AdIllustrious7246 adlı Reddit kullanıcısı, cihazın grafik işlem birimi (GPU) gücünden faydalanarak 27 milyar parametreli Qwen3.8-27B yapay zeka modelini çalıştırmayı başardı.
Projenin teknik temelini, daha önce u/metover tarafından geliştirilen llama.cpp portunun PlayStation 5'e uyarlanması oluşturuyor. Başlangıçta sadece işlemci (CPU) üzerinden yapılan denemeler, kullanılabilir belleği 6GB ile sınırlı tutarak büyük modellerin çalışmasına engel oluyordu. Ancak geliştiriciler, Mesa bünyesindeki açık kaynaklı RADV sürücüleri ve Vulkan API desteğini kullanarak kullanılabilir bellek miktarını 11.4GB seviyesine yükseltmeyi başardılar.
Konsolun sahip olduğu 16GB GDDR6 bellek kapasitesi, 27B parametreli modeller için tek başına yeterli olmadığı için model ağırlıkları 2-bit seviyesinde kuantize edilerek 6.8GB boyutuna kadar küçültüldü. Bu teknik ödünlerin sonucunda Qwen3.8-27B modeli, saniyede 20.9 token üretim hızına ulaştı. Yapılan testlerde GPU kullanımı %100'e ulaşırken, sistemin toplam güç tüketiminin sadece 86W düzeyinde kalması ve cihaz sıcaklığının 54°C seviyesinde seyretmesi, konsolun donanım mimarisinin verimliliğini gözler önüne serdi.
Daha küçük modellerde ise performans sonuçları oldukça dikkat çekici seviyelere ulaştı. Gemma 4 E4B modeli 61 tok/s, Llama 3.2 3B ise 124 tok/s hıza erişti. Bununla birlikte, jailbreak işleminin konsolun garantisini geçersiz kıldığını ve cihazın çevrim içi servislerden men edilme riskini beraberinde getirdiğini hatırlatmakta fayda var. Donanım sınırlarını zorlayan bu tür modifikasyonlar, şu an için yalnızca teknik meraklılara hitap eden deneysel çalışmalar olarak öne çıkıyor.
