2025-03-06zhaods閱讀(3244)贊(0)

DeepSeek-70B模型需要的顯存量取決于多個(gè)因素，包括模型的精度、是否使用優(yōu)化技術(shù)等。以下是對DeepSeek-70B顯存需求的詳細(xì)分析： 一、基本顯存需求 在FP16（16位浮點(diǎn)數(shù)）精度下，每個(gè)參數(shù)占用2字節(jié)。因此，70億參數(shù)的De...