Update app.py

app.py

@@ -1,47 +1,41 @@
 import gradio as gr
-from huggingface_hub import InferenceClient
-import re
-from typing import Dict, List, Any
+from llama_cpp import Llama
+import os
 
-def validate_language(text: str) -> bool:
-   arabic_pattern = re.compile(r'[\u0600-\u06FF]')
-   english_pattern = re.compile('[a-zA-Z]')
-   return len(arabic_pattern.findall(text)) > len(english_pattern.findall(text))
+model_path = "sambalingo-arabic-chat.Q5_K_M.gguf"
+
+llm = Llama(
+    model_path=model_path,
+    n_ctx=2048,
+    n_threads=4
+)
 
 def summarize(text: str) -> str:
-   if not text:
-       return "يرجى إدخال نص للتلخيص"
-       
-   client = InferenceClient("methodya/arabic-summarizer-philosophy-v3")
-   
-   messages = [
-       {"role": "system", "content": "أنت مساعد عربي متخصص في تلخيص النصوص الفلسفية. قم بتلخيص النص التالي باللغة العربية فقط:"},
-       {"role": "user", "content": text}
-   ]
-   
-   try:
-       response = client.text_generation(
-           text,
-           max_new_tokens=2000,
-           temperature=0.7
-       )
-       if not validate_language(response):
-           return "عذراً، حدث خطأ في اللغة. الرجاء المحاولة مرة أخرى."
-       return response
-       
-   except Exception as e:
-       return f"حدث خطأ: {str(e)}"
+    if not text:
+        return "يرجى إدخال نص للتلخيص"
+        
+    prompt = f"""أنت مساعد عربي متخصص في تلخيص النصوص الفلسفية. قم بتلخيص النص التالي:
+    {text}
+    """
+    
+    try:
+        output = llm(
+            prompt,
+            max_tokens=2000,
+            temperature=0.7,
+            stop=["User:", "\n\n"]
+        )
+        return output['choices'][0]['text']
+    except Exception as e:
+        return f"حدث خطأ: {str(e)}"
 
-def create_interface():
-   with gr.Interface(
-       fn=summarize,
-       inputs=gr.Textbox(label="النص الفلسفي", lines=8, text_align="right"),
-       outputs=gr.Textbox(label="الملخص", lines=6, text_align="right"),
-       title="ملخص النصوص الفلسفية",
-       description="أداة لتلخيص النصوص الفلسفية باللغة العربية"
-   ) as interface:
-       return interface
+interface = gr.Interface(
+    fn=summarize,
+    inputs=gr.Textbox(label="النص الفلسفي", lines=8, text_align="right"),
+    outputs=gr.Textbox(label="الملخص", lines=6, text_align="right"),
+    title="ملخص النصوص الفلسفية",
+    description="أداة لتلخيص النصوص الفلسفية باللغة العربية"
+)
 
 if __name__ == "__main__":
-   iface = create_interface()
-   iface.launch()
+    interface.launch()