Update app.py

app.py

@@ -49,7 +49,7 @@ def compute_metrics(eval_pred):
 
 #neues Model testen nach dem Training
 ########################################################################
-#Chat KI nutzen, um Text zu generieren...
+#Zm Test einen Text zu generieren...
 def predict(text,
             top_p=0.3,
             temperature=0.9,
@@ -64,7 +64,7 @@ def predict(text,
 
     inputs = generate_prompt_with_history(text,tokenizer,max_length=max_context_length_tokens)
     if inputs is None:
-        return print("fehler inputs")
+        return print("Fehler inputs")
     else:
         prompt,inputs=inputs
         begin_length = len(prompt)
@@ -74,7 +74,7 @@ def predict(text,
 
     #torch.no_grad() bedeutet, dass für die betreffenden tensoren keine Ableitungen berechnet werden bei der backpropagation 
     #hier soll das NN ja auch nicht geändert werden 8backprop ist nicht nötig), da es um interference-prompts geht!
-    print("toch.no_grad")
+    print("torch.no_grad")
     with torch.no_grad():
         ausgabe = ""
         #die vergangenen prompts werden alle als Tupel in history abgelegt sortiert nach 'Human' und 'AI'- dass sind daher auch die stop-words, die den jeweils nächsten Eintrag kennzeichnen        
@@ -88,7 +88,7 @@ def predict(text,
                 ausgabe = ausgabe + x
                 # a, b=   [[y[0],convert_to_markdown(y[1])] for y in history]+[[text, convert_to_markdown(x)]],history + [[text,x]]
                 print("Erzeuge")
-                return ausgabe
+                yield print(Ausgabe)
             if shared_state.interrupted:
                 shared_state.recover()
                 try:
@@ -102,7 +102,7 @@ def predict(text,
     
     try:
         print("erfolg")
-        return a,b
+        return ausgabe
     except:
         pass