نموذج جي _O2 (G2_O Model) - Turing Reaction-Diffusion Language Model
هذا النموذج يعتمد على معمارية مخصصة ومبتكرة تُعرف بـ Turing RDLM بحجم يقارب 1000 مليون معلمة (1000 Parameters). تم تصميمه لمعالجة وتوليد النصوص العربية بناءً على ديناميكا تورينغ للتفاعل والانتشار (Reaction-Diffusion).
تفاصيل المعمارية
- الأبعاد (D_MODEL): 6144
- جاذبات هوبفيلد (N_ATTRACTORS): 24576
- الانتشار السببي (Causal Diffusion): يتدفق من الماضي إلى الحاضر فقط.
- المُجزِّئ المستخدم (Tokenizer): مبني على
asafaya/bert-base-arabicبحجم مفردات 32,000.
كيفية الاستخدام
نظراً لأن هذا النموذج يعتمد على معمارية مخصصة (Custom Architecture)، لا يمكن تحميله عبر فئة AutoModel القياسية. يجب عليك استخدام الأوزان المحفوظة بصيغة .pt جنباً إلى جنب مع كود المعمارية turing_model.py المرفق في هذا المستودع.
خطوات التشغيل:
- قم بتحميل ملف
turing_model_final.ptوملفturing_model.pyمن هذا المستودع. - تأكد من وضع ملف
turing_model.pyفي نفس المجلد الذي تعمل عليه لكي تتمكن من استيراده. - استخدم الكود التالي للتحميل:
python import torch from transformers import AutoTokenizer from turing_model import TuringLM
1. إعداد الجهاز
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
2. تحميل المُجزئ
tokenizer = AutoTokenizer.from_pretrained("gijl/g2-model")
3. بناء هيكل النموذج
model = TuringLM( vocab_size=32000, d_model=6144, d_u=3072, d_v=3072, d_hidden=6144, n_attractors=24576, pad_id=0 ).to(device)
4. تحميل الأوزان
checkpoint = torch.load("turing_model_final.pt", map_location=device) model.load_state_dict(checkpoint["model"], strict=False) model.eval()
print("✅ النموذج جاهز للاستخدام!")
- Downloads last month
- 311