Interface: ModelConfig

Propriedades

expert _ dtype

• Optional expert_dtype: string

Algumas MoEs armazenam seus especialistas em uma precisão mais estreita do que o restante do modelo e declaram isso aqui, fora de quantization_config (por exemplo, DeepSeek-V4). Usado como fallback quando a configuração de quantização não declara seu próprio expert_dtype (como o DeepSeek-V4.1 faz).

Definido em

packages/hub/src/lib/parse-safetensors-metadata.ts:968

---

quantização

• Quantização Optional: MlxQuantizationConfig

Formato MLX atual, com substituições opcionais por módulo, indexadas pelo nome do módulo.

Definido em

packages/hub/src/lib/parse-safetensors-metadata.ts:960

---

quantization _ config

• Optional quantization_config: QuantizationConfig | MlxQuantizationConfig

Definido em

packages/hub/src/lib/parse-safetensors-metadata.ts:961

---

text _ config

• Optional text_config: Pick<ModelConfig, "expert_dtype" | "quantization" | "quantization_config">

Definido em

packages/hub/src/lib/parse-safetensors-metadata.ts:962

Update on GitHub