Altman, YouTube kanalı Cheeky Pint'e verdiği röportajda, dünya genelindeki sınırlı DRAM arzının nasıl değerlendirilmesi gerektiğine ilişkin görüşlerini paylaştı. OpenAI CEO'su, konuyu küresel kaynak dağılımı açısından ele alarak şu ifadeleri kullandı:
"İnsanların dünya genelindeki sınırlı DRAM arzının büyük bir bölümünü bilgisayarlarında tutması ve bu belleği zamanın yalnızca yüzde 5'inde kullanması, küresel kaynakların dağıtımı açısından oldukça kötü. Arzın bu kadar kısıtlı olduğu bir ortamda, bulut sistemlerinde mümkün olan en yüksek kullanım oranına ulaşmak istersiniz."
Altman'ın önerisi veri merkezlerine odaklanıyor
Altman'ın yaklaşımına göre, bilgisayarlarda bulunan bellek kapasitesinin önemli bir bölümü günün büyük kısmında kullanılmadan bekliyor. Buna karşılık veri merkezlerinde yer alan bellekler, farklı kullanıcıların ve iş yüklerinin ihtiyaçlarını karşılamak için sürekli değerlendirilebiliyor.
Özellikle büyük yapay zeka modellerinin çalıştırılması, yüksek miktarda RAM ve diğer bellek kaynaklarına ihtiyaç duyuyor. Veri merkezlerinde bu kaynakların merkezi olarak yönetilmesi, donanım kapasitesinin daha yoğun kullanılmasını mümkün kılabiliyor.
Ancak Altman'ın değerlendirmesi, bilgisayarlarda RAM kullanımının yalnızca yerel yapay zeka çıkarımı üzerinden ele alınması nedeniyle tartışmaya açık. Kişisel bilgisayarlardaki bellekler oyunlar, profesyonel uygulamalar, video düzenleme, çoklu görev ve günlük işlemler gibi pek çok farklı amaç için de kullanılıyor. Dolayısıyla bir bilgisayardaki RAM'in yapay zeka çalıştırılmadığı sırada atıl kaldığını söylemek, belleğin diğer kullanım alanlarını göz ardı ediyor.
Altman'ın görüşleri, OpenAI'ın ağırlıklı olarak bulut üzerinden sunulan yapay zeka hizmetlerine dayanan iş modeliyle de örtüşüyor. Şirketin başlıca ürünleri, veri merkezlerinde çalışan ve kullanıcılara abonelikler ya da çevrim içi hizmetler aracılığıyla sunulan kapalı modellerden oluşuyor.
Yerel yapay zeka modellerinin yaygınlaşması, kullanıcıların bulut tabanlı platformlara ve ücretli aboneliklere olan bağımlılığını azaltabilir. Kullanıcılar, yeterli donanıma sahip bilgisayarlarda bazı yapay zeka görevlerini internet bağlantısına veya harici sunuculara ihtiyaç duymadan gerçekleştirebilir.
Bununla birlikte, yerel modellerin yaygınlaşması büyük veri merkezlerine duyulan ihtiyacı tamamen ortadan kaldırmıyor. Büyük modellerin eğitilmesi ve daha yüksek hesaplama kapasitesi gerektiren görevlerin yürütülmesi, merkezi altyapıların önemini koruyor.
Bellek kıtlığı tüketici elektroniği pazarını etkiliyor
Altman'ın açıklamaları, yapay zeka altyapısına yönelik yatırımların bellek pazarındaki etkilerinin giderek daha fazla tartışıldığı bir dönemde geldi. Veri merkezi işletmecilerinin yüksek kapasiteli bellek talebi, üreticilerin kaynaklarını bu alana yönlendirmesine neden oluyor.
Yapay zeka sunucularında kullanılan yüksek bant genişlikli bellekler (HBM) ve sunucu DRAM'ine yönelik talep, tüketici elektroniğinde kullanılan bellek ürünlerinin arzı ve fiyatları üzerinde de baskı oluşturuyor.
