Huawei, yapay zekâ alanındaki çalışmalarına bir yenisini ekledi. Şirket, 72 milyar parametreli Pangu Pro MoE modelini tanıtarak bu gelişmiş yapay zekâ modelini açık kaynaklı hâle getirdi. Ascend GPU ve NPU çipleriyle eğitilen model, hem performans hem de maliyet açısından dikkat çekici sonuçlar vadediyor.
Yeni model, yalnızca daha güçlü bir mimari sunmakla kalmıyor; aynı zamanda geliştiricilere tamamen açık hâle getirilerek geniş bir kullanım alanının da önünü açıyor.
Pangu AI Pro MoE 72B, MoGE Mimarisini Temel Alıyor
Huawei’nin yeni yapay zekâ modeli Pangu Pro MoE 72B, “Mixture of Experts” (MoE) yaklaşımına dayanan, ancak bu yöntemin zayıf yönlerini iyileştirmek amacıyla geliştirilen “MoGE” (Mixture of Grouped Experts) mimarisiyle öne çıkıyor. Bu mimari, uzman gruplarını birlikte seçerek hesaplama yükünü daha dengeli dağıtıyor ve modelin birden fazla cihazda paralel çalışmasını kolaylaştırıyor.
Toplamda 72 milyar parametreye sahip modelin her bir giriş token’ı için 16 milyar parametre etkinleştiriliyor. Bu sayede modelin eğitim ve çıkarım aşamasında çok daha verimli çalışması mümkün oluyor. Huawei, bu tasarımla önceki modellerde yaşanan verimsizlikleri azaltmayı hedefliyor.
Pangu Pro MoE 72B, Ascend 8001 A2 donanımıyla saniyede 1528 token çıkarımı yapabiliyor. Standart hızda ise 1148 token/s performans sunuluyor. Ascend 3001 Duo çipleriyle birlikte çalıştığında ise maliyet-performans dengesinde büyük avantaj sağlıyor. Bu özellikler, modelin endüstriyel uygulamalarda da kullanılabilirliğini artırıyor. Huawei, bu yeni modelin özellikle büyük dil modellerinde yaygın olan hesaplama yükü dengesizliğini çözdüğünü ve çoklu cihaz desteğiyle geniş çaplı görevlerde daha stabil çalıştığını vurguluyor.
Huawei, Pangu Pro MoE 72B’yi açık kaynaklı yaparak, dünya genelindeki geliştiricilerin modelin koduna ve yeteneklerine erişimini mümkün kıldı. Bu adım, hem akademik hem de ticari projelerde modelin kullanımını yaygınlaştırmayı amaçlıyor.
Modelin sahip olduğu yapay zekâ becerileri, özellikle doğal dil işleme, veri analizi ve anlam çıkarımı gibi alanlarda etkili olabilecek düzeyde. Huawei’nin bu hamlesi, yapay zekâ geliştirme yarışında Ascend çipleriyle birlikte yeni bir kulvar açıyor.
Huawei Çip Hamlesiyle Sektöre Yenilik Getirecek, İşine Bak Apple!
3D Yazıcıyla Hastaya Özel Organ Üretme Dönemi Başladı
Emojiler Sadece Süs Değilmiş
Vivo X Fold 5 Dünyaya Açılıyor, İşte Sızan Fiyatı
NVIDIA RTX 5050 Performans Testinde Hayal Kırıklığı Yarattı