Yapay Zeka İçin Donanım Testleri Yapıldı

Stable Diffusion modelinin geliştiricisi olan Stability AI; yapay zekası için bazı önemli testler gerçekleştirdi. Stable Diffusion 3'ü farklı donanım hızlandırıcıları ile test eden bir performans raporu yayınladı. Karşılaştırma kapsamında Intel Gaudi2 ve NVIDIA H100 çipleri karşı karşıya geldi.

Intel Gaudi2 vs NVIDIA H100 vs A100

Stability AI, Stable Diffusion 3'ü Intel Gaudi2 96GB, NVIDIA H100 80GB Hopper GPU ve A100 80GB Ampere GPU'su üzerinde test etti. Cihaz başına 16 görüntüden oluşan bir testte, Gaudi2'nin H100 GPU'ya kıyasla yüzde 56 daha hızlı görüntü üretebildiği aktarıldı.

Rakamsal olarak ise Gaudi2'nin 927 görüntü/saniye ve H100'ün 595 görüntü/saniye hıza ulaştığı bildirildi. Ayrıca A100 ise 381 görüntü/saniye ile üçüncü sırada yer aldı.

21332122

Küme boyutları büyüdükçe performans farkı daha da açıldı. 256 Gaudi2 çipinden oluşan bir küme 12 bin 654 görüntü/saniye (cihaz başına 49,4 görüntü/saniye) elde etti. Buna karşılık A100 kümesi ise 3.992 görüntü/saniye (cihaz başına 15,6 görüntü/saniye) rakamına ulaştı.

Ancak Stability AI, TensorRT teknolojisi sayesinde A100 yongalarının performansta daha iyi olduğunu söyledi. Gaudi2'ye kıyasla yüzde 40'lık performans farkı olduğu belirtildi.

Stability AI, Intel Gaudi2 çipini önümüzdeki süreçte Stability Cloud platformunda kullanmayı planlıyor. Performans testleri de sektöre yön veren NVIDIA'nın dişli bir rakiple karşı karşıya olduğunu gösteriyor.

Peki siz bu testleri nasıl buldunuz? Görüşlerinizi aşağıdaki Yorumlar kısmından bizimle paylaşabilirsiniz.