حاسبة ذاكرة وعدد GPU لاستدلال النماذج اللغوية الكبيرة

معلمات النموذج (B)

دقة الحساب

موديل GPU

ذاكرة أوزان النموذج：

671 GB

ذاكرة إضافية (≈10%)：

67.1 GB

إجمالي الذاكرة المطلوبة：

738.1 GB

عدد GPU المطلوب：

10 وحدة NVIDIA H100