LLM 추론 메모리 & GPU 수 계산기

모델 매개변수 (B)

계산 정밀도

GPU 모델

모델 가중치 메모리：

671 GB

추가 메모리 (≈10%)：

67.1 GB

총 필요 메모리：

738.1 GB

필요한 GPU 수：

10 개 NVIDIA H100