İş ve oyuna yonelik performans donanımlarının yanı sıra yapay zek sektorunun de donanım mimarlarından olan NVIDIA, uretken yapay zekÂların calıştırılmasında kullanılacak yeni cipini duyurdu. Cip, yapay zek cipi serisi GH ’ın yeni uyesi GH200 oldu.
NVIDIA GH200, şirketin paylaştığı duyuruya gore en karmaşık ve yuklu uretken yapay zek işlemlerinin ustesinden gelebilecek, vektor, onerici ve buyuk caplı dil modelleri icin kullanılabilecek. Ote yandan cip, şirketin şu anki en guclu yapay zek cipi H100 ile aynı grafik işlemcisini taşıyacak.
Aynı grafik işlemci var ancak daha yuksek hafıza sunulacak:
Cip, H100 grafik işlemcisiyle aynı işlemciyi taşıyacak olsa da bu birimden 3,5 kat daha fazla hafıza (282 GB) sunacak. Bu hafıza, H100 ’de bulunan dorduncu nesil Tensor cekirdekleri ve Transformer Engine ile sunulan performans ile birleştiğinde standart bir kullanıcının hayal edemeyeceği derecede yuksek işlem gucu sunacak.
Ayrıca değişen şey sadece hafıza miktarı olmayacak. GH200 ile yeni HBM3e bellek de kullanıma sunulacak. Bu bellek hakkında henuz veriler paylaşılmamış olsa da bir onceki nesile gore %50 daha hızlı olacak.
NVIDIA ’nın H100 grafik birimi, saniyede 3,35 TB ’a kadar veri aktarım hızı sunabiliyor. Bunu, standart tuketiciler icin gunumuzun en guclu grafik işlemcisi karşılaştırmak gerekirse NVIDIA GeForce RTX 4090, saniyede 1 TB ’a kadar aktarım destekliyor. GH200'de ise bu sayının saniyede 10 TB'a cıkacak.
Ustelik NVIDIA ’nın yapay zek cipleri tek başına kullanılan cipler de değil. Şirketin “NVLink Switch System” teknolojisi sayesinde aynı anda 256 adet işlemci birbiriyle bağlantılı bir şekilde kullanılabiliyor. Saniyede 850 TB ’dan fazla veri aktarımı yapılabiliyor (H100 serisi verilerine gore). Boylece trilyonlarca parametreye sahip yapay zek sistemleri calıştırılıyor, eğitiliyor.
NVIDIA, GH200 ’un fiyatını henuz acıklamadı. Ancak H100 serisi grafik birimlerinin gunumuzde yaklaşık 40 bin dolardan satıldığını belirtelim.
Webtekno'yu Threads'de takip et, haberleri kacırma