Çin merkezli teknoloji şirketi Alibaba, ülkenin en güçlü yapay zeka çipini duyurduğunu ve 10 trilyon parametreli bir model planladığını açıkladı. Paylaşılan bilgiler şimdilik başlık düzeyinde kalıyor: çipin adı, üretim düğümü, bellek tipi ve kapasitesi, çipler arası bağlantı teknolojisi ya da hangi veri merkezlerinde devreye alınacağı kamuya açık kaynaklarda yer almıyor. Bu nedenle 10 trilyon parametre ifadesini bugün elimizde çalışan bir eğitim kümesinin ölçüsü gibi değil, bir yol haritası hedefi gibi okumak daha sağlıklı. #yapayzeka
Alibaba’nın çip tarafındaki geçmişi bu haberi tamamen boşlukta bırakmıyor. Şirketin yarı iletken birimi T-Head daha önce Hanguang 800 gibi yapay zeka hızlandırıcılarını tanıtmış, bulut tarafında da kendi modellerini bu donanımla eğitme iddiasında bulunmuştu. Model tarafında ise Qwen ailesi hem açık ağırlıklı sürümleriyle hem de kurumsal API’lerle geniş bir kullanıcı tabanına ulaştı. Yani Alibaba için çip ile modeli birlikte geliştirmek yeni bir yön değil, mevcut hattın devamı. #donanim
10 trilyon parametre rakamı kulağa etkileyici geliyor ama donanım açısından asıl soru parametre sayısı değil. O ölçekte bir modelin eğitimi ve çıkarımı için gereken bellek bant genişliği, çipler arası veri yolu, güç tüketimi ve soğutma kapasitesi çok daha belirleyici. Bir hızlandırıcının kağıt üzerindeki tepe performansı ile gerçek bir eğitim iş yükündeki verimi arasında ciddi fark olabiliyor; bunu görmenin yolu da bağımsız kıyaslama testleri ve müşteri ölçümlerinden geçiyor. #Alibaba
Konunun bir de jeopolitik tarafı var. ABD’nin ileri seviye çip ihracatına getirdiği kısıtlamalar, Çinli şirketleri kendi hızlandırıcılarını geliştirmeye itiyor. Ancak yerel üretim kapasitesi, litografi erişimi ve yazılım ekosistemi gibi başlıklar bu hedeflerin ne kadar hızlı gerçekleşeceğini belirliyor. Alibaba’nın duyurusu, bu yarışta nerede durduğuna dair bir işaret olsa da teknik ayrıntılar paylaşılmadan kesin bir yargıya varmak zor.





0 yorum
Test sürümünde yeni yorumlar kapalıdır.