LLM 推論メモリ & GPU 数計算機

モデルパラメータ数（B）

計算精度

GPUモデル

モデル重みメモリ：

671 GB

推論追加メモリ（約10%）：

67.1 GB

必要な総メモリ：

738.1 GB

必要なGPU数：

10 台 NVIDIA H100