Update app.py

app.py

@@ -89,11 +89,15 @@ base_model = "project-baize/baize-v2-7b"  #load_8bit = True (in load_tokenizer_a
 
 
 # Load model directly
-
+#####################################################
 #Tokenizer und Model laden
 tokenizer,model,device = load_tokenizer_and_model(base_model,  True)
-tokenizer.add_special_tokens({'pad_token': '[PAD]'}) #not necessary with fast Toekenizers like GPT2
+#tokenizer.add_special_tokens({'pad_token': '[PAD]'}) #not necessary with fast Toekenizers like GPT2
+#für Blaize....
+tokenizer,model,device = load_tokenizer_and_model_Blaize(base_model,  True)
+tokenizer.pad_token_id = 0
 
+####################################################
 #Datensets für Finetuning laden
 dataset_neu = daten_laden("alexkueck/tis") 
 #dataset_neu = daten_laden("EleutherAI/pile")