Nvidia, yeni nesil yapay zeka destekli çiplerini tanıttı. Şirketin tanıttığı yeni HGX H200 GPU’su, H100’ün yerini alarak daha hızlı ve yüksek kapasiteli HBM3e belleği kullanıyor. Yeni GPU, büyük dil modelleri için daha uygun hale getirerek saniyede 4,8 terabayt hızında 141 GB bellek sunuyor.
Nvidia, HGX H200’ün Llama 2’deki çıkarım hızını H100’e göre iki katına çıkardığını açıkladı. Çip, 4 ve 8 yollu konfigürasyonlarda satışa sunulacak ve farklı veri merkezlerinde kullanılacak.
Yeni Nvidia çipler, 2024’ün ilkbahar aylarında satışa sunulacak
Nvidia, yeni nesil çiplerin Amazon Web Services, Google Cloud, Microsoft Azure ve Oracle Cloud Infrastructure gibi büyük bulut sağlayıcıları tarafından 2024 yılının 2. çeyreğinde dağıtmayı planlıyor.
Nvidia’nın tanıttığı diğer önemli ürünü ise NVLink-C2C ara bağlantısını kullanan GH200 Grace Hopper “süper çipi.” Bu çip, HGX H200 GPU ve Arm tabanlı Nvidia Grace CPU’yu birleştirerek karmaşık yapay zeka ve yüksek performanslı hesaplama uygulamalarını hızlandırmayı amaçlıyor. GH200, dünya genelinde 40’tan fazla yapay zeka süper bilgisayarında kullanılacak, özellikle HPE’nin Cray EX2500 süper bilgisayarları dikkat çekiyor.
Nvidia’nın açıklamalarına göre, Almanya’daki Jülich tesisinde bulunan JUPITER, GH200 süper çiplerinin kullanılacağı dünyanın en güçlü yapay zeka sistemi olacak. Bu sistem, iklim ve hava tahmini, yüksek çözünürlüklü iklim simülasyonları, ilaç keşfi, kuantum hesaplama ve endüstri mühendisliği gibi birçok alanda bilimsel atılımlara katkı sağlayacak. Nvidia’nın yeni teknolojileri, yapay zeka ve veri merkezi segmentlerinde elde ettiği gelirin önemli bir parçasını oluşturarak sektördeki liderliğini güçlendirmeyi amaçlıyor.
