Huggingface.js documentation

الواجهة: ModelConfig

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

الواجهة: ModelConfig

الخصائص

dtype

• Optional expert_dtype: string

تخزّن بعض نماذج MoE خبرائها بدقة أضيق من باقي أجزاء النموذج وتُعلن عن ذلك هنا، خارج quantization_config (مثل DeepSeek-V4). تُستخدم كحل بديل عندما لا يُعلن إعداد الكمّة عن expert_dtype خاص به (كما هو الحال مع DeepSeek-V4.1).

معرّف في

packages/hub/src/lib/parse-safetensors-metadata.ts:968


التكميم

• التكميم Optional: MlxQuantizationConfig

تنسيق MLX الحالي، مع إمكانية تجاوز الإعدادات لكل وحدة على حدة باستخدام اسم الوحدة كمفتاح.

معرّف في

packages/hub/src/lib/parse-safetensors-metadata.ts:960


quantization _ config

• Optional quantization_config: QuantizationConfig | MlxQuantizationConfig

معرّف في

packages/hub/src/lib/parse-safetensors-metadata.ts:961


نص _ إعداد

• Optional text_config: Pick<ModelConfig, "expert_dtype" | "quantization" | "quantization_config">

معرّف في

packages/hub/src/lib/parse-safetensors-metadata.ts:962

Update on GitHub