Intel Gaudi 3 AI Hızlandırıcısını Tanıttı
Intel Gaudi 3 AI hızlandırıcısını tanıttı. Firmanın belirttiğine gire pazar lideri Nvidia'ya ciddi bir rakip olacak.
Intel, Vision 2024 konferansını Gaudi 3 yapay zeka işleme çipinin tanıtılmasıyla başlattı. İşlemci, yapay zeka iş yüklerini kurumsal düzeyde hızlandırmak için tasarlandı ve Intel, bunun mevcut endüstri standardı olan Nvidia’nın H100 GPU’sundan daha hızlı olduğunu düşünüyor.
Gaudi 3, Gaudi 2 ile aynı mimariyi ve temel ilkeleri kullanır, ancak TSMC’nin 5 nm sürecini kullanır (TSMC’nin Gaudi 2’deki 7 nm’sine kıyasla), bu da onu daha verimli hale getirir.
Gaudi 3, 3,7 TB/s bant genişliği ve 900 W TDP ile 128 GB’a kadar HBM2e’ye sahiptir.
Intel, Gaudi 3’ü pazar lideri Nvidia ve LLAMA2-7B, LLAMA2-13B ve GPT 3-175B gibi farklı büyük dil modellerini çalıştıran hakim H100 ile karşılaştıran kıyaslamaları gösterdi. Gaudi 3 1,7 kata kadar daha hızlı.
Intel ayrıca işlemcinin Nvidia’nın H100’üne göre 2,3 kata kadar daha verimli olduğunu söylüyor.
Intel, hava soğutmalı Gaudi 3 modellerini örnekleme için iş ortaklarına üçüncü çeyrekte genel kullanıma sunulmak üzere gönderdi. Sıvı soğutmalı modeller 4. çeyrekte gelecek.
