2025-03-06zhaods閱讀(1219)贊(0)

DeepSeek-70B模型需要的顯存量取決于多個因素，包括模型的精度、是否使用優(yōu)化技術(shù)等。以下是對DeepSeek-70B顯存需求的詳細分析： 一、基本顯存需求 在FP16（16位浮點數(shù)）精度下，每個參數(shù)占用2字節(jié)。因此，70億參數(shù)的De...