ZeroAgency
/

o1_t-lite-it-1.0_lora

Question Answering

Model card Files Files and versions

bethrezen commited on Jan 4

Commit

336e3e6

·

1 Parent(s): 36aac00

fix namespace

Files changed (2) hide show

README.md +1 -1
chat_transformers.py +1 -1

README.md CHANGED Viewed

@@ -97,7 +97,7 @@ trainer:
   num_train_epochs: 3
   lr_scheduler_type: cosine
   warmup_steps: 16
-  optim: adamw_torch_4bit
   metric_for_best_model: eval_loss
   load_best_model_at_end: true
   save_total_limit: 2

   num_train_epochs: 3
   lr_scheduler_type: cosine
   warmup_steps: 16
+  optim: adamw_8bit
   metric_for_best_model: eval_loss
   load_best_model_at_end: true
   save_total_limit: 2

chat_transformers.py CHANGED Viewed

@@ -5,7 +5,7 @@ from peft import PeftModel
 from transformers import AutoTokenizer, AutoModelForCausalLM, GenerationConfig, BitsAndBytesConfig
 MODEL_BASE = "t-tech/T-lite-it-1.0"
-MODEL_ADAPTER = "evilfreelancer/o1_t-lite-it-1.0_lora"
 SYSTEM_PROMPT = "Вы — ИИ-помощник. Отформатируйте свои ответы следующим образом: <Thought> Ваши мысли (понимание, рассуждения) </Thought> <output> Ваш ответ </output>"

 from transformers import AutoTokenizer, AutoModelForCausalLM, GenerationConfig, BitsAndBytesConfig
 MODEL_BASE = "t-tech/T-lite-it-1.0"
+MODEL_ADAPTER = "ZeroAgency/o1_t-lite-it-1.0_lora"
 SYSTEM_PROMPT = "Вы — ИИ-помощник. Отформатируйте свои ответы следующим образом: <Thought> Ваши мысли (понимание, рассуждения) </Thought> <output> Ваш ответ </output>"