Update app.py

app.py

@@ -9,106 +9,95 @@ from faster_whisper import WhisperModel
 import tempfile
 import time
 import os
+import requests
 # import requests # Artık gerek yok
-from transformers import pipeline
-import torch
+# from transformers import pipeline
+# import torch
 
 # ==================== CONFIG & MODELS ====================
 
-# 1. WHISPER MODEL (Ses Deşifre)
+# 1. WHISPER MODEL (Ses Deşifre - CPU/Local)
 MODEL_SIZE = "medium"
 model = None
 
 try:
-    print(f"� Whisper {MODEL_SIZE} modeli yükleniyor...")
+    print(f"📥 Whisper {MODEL_SIZE} modeli yükleniyor...")
     model = WhisperModel(MODEL_SIZE, device="cpu", compute_type="int8")
     print("✅ Whisper Modeli Hazır!")
 except Exception as e:
     print(f"❌ Whisper Yükleme Hatası: {e}")
     model = None
 
-# 2. LOCAL AI PIPELINES (Cache)
-summarizer_pipe = None
-translator_pipe = None
-
-def load_summarizer():
-    global summarizer_pipe
-    if summarizer_pipe is None:
-        print("📥 Özetleme Modeli (mT5-Small) yükleniyor...")
-        device = "cpu" # GPU varsa 0 yapabilirsiniz
-        summarizer_pipe = pipeline("summarization", model="ozcangundes/mt5-small-turkish-summarization", device=-1)
-        print("✅ Özetleme Modeli Hazır!")
-    return summarizer_pipe
-
-def load_translator():
-    global translator_pipe
-    if translator_pipe is None:
-        print("📥 Çeviri Modeli (NLLB-1.3B) yükleniyor... (Bu biraz zaman alabilir)")
-        # Daha büyük ve kaliteli model: 1.3B
-        translator_pipe = pipeline("translation", model="facebook/nllb-200-distilled-1.3B", device=-1)
-        print("✅ Çeviri Modeli Hazır!")
-    return translator_pipe
-
-# ==================== AI FUNCTIONS (LOCAL) ====================
-
-def summarize_locally(text: str, progress=gr.Progress()) -> str:
-    """Yerel model (mT5) ile özetleme."""
-    if not text or "⚠️" in text: return "⚠️ Önce geçerli bir metin oluşturun."
+# ==================== AI API FUNCTIONS (Hugging Face) ====================
+
+def call_huggingface_api(prompt, api_key, model_id):
+    """
+    Hugging Face Serverless Inference API (Legacy Endpoint).
+    Standart 'Read' token ile çalışır.
+    """
+    if not api_key: return "⚠️ HF Token girilmedi."
+    if not api_key.startswith("hf_"): return "⚠️ Token 'hf_' ile başlamalıdır."
+
+    url = f"https://api-inference.huggingface.co/models/{model_id}"
+    headers = {"Authorization": f"Bearer {api_key}"}
     
-    clean_text = text.split("───────────────────────────────────")[0].strip()
-    if len(clean_text) < 50: return "⚠️ Metin özetlemek için çok kısa."
+    # Zephyr/Mistral Prompt Formatı
+    formatted_prompt = f"<|system|>\nSen yardımsever bir asistansın.\n<|user|>\n{prompt}\n<|assistant|>\n"
     
+    payload = {
+        "inputs": formatted_prompt,
+        "parameters": {
+            "max_new_tokens": 512,
+            "return_full_text": False,
+            "temperature": 0.3
+        }
+    }
+
     try:
-        progress(0.2, desc="Özetleme modeli yükleniyor...")
-        pipe = load_summarizer()
-        
-        progress(0.5, desc="Metin özetleniyor...")
-        # Uyarıları önlemek için parametreler düzeltildi
-        # max_length yerine max_new_tokens kullanıyoruz
-        result = pipe(clean_text, max_new_tokens=128, min_length=10, do_sample=False)
+        response = requests.post(url, headers=headers, json=payload, timeout=60)
         
-        return result[0]['summary_text']
+        if response.status_code == 200:
+            result = response.json()
+            if isinstance(result, list) and len(result) > 0 and "generated_text" in result[0]:
+                return result[0]["generated_text"].strip()
+            elif isinstance(result, dict) and "generated_text" in result:
+                return result["generated_text"].strip()
+            return f"❌ API Beklenmedik Yanıt: {result}"
+            
+        elif response.status_code == 503:
+            return "⚠️ Model şu an yükleniyor (Cold Boot). 30 saniye sonra tekrar deneyin."
+            
+        else:
+            return f"❌ API Hatası ({response.status_code}): {response.text}"
             
     except Exception as e:
-        return f"❌ Özetleme Hatası: {str(e)}"
+        return f"❌ Bağlantı Hatası: {str(e)}"
+
+def summarize_with_api(text: str, api_key: str) -> str:
+    """Zephyr-7B kullanarak özetler."""
+    if not text or "⚠️" in text: return "⚠️ Özetlenecek metin yok."
+    
+    clean_text = text.split("───────────────────────────────────")[0].strip()
+    prompt = f"Aşağıdaki metni Türkçe olarak maddeler halinde özetle:\n\n{clean_text}"
+    
+    # Model: Zephyr 7B Beta (Genelde çok stabil ve ücretsiz)
+    return call_huggingface_api(prompt, api_key, "HuggingFaceH4/zephyr-7b-beta")
 
-def translate_locally(text: str, target_language: str, progress=gr.Progress()) -> str:
-    """Yerel model (NLLB) ile çeviri."""
+def translate_with_api(text: str, target_language: str, api_key: str) -> str:
+    """Facebook NLLB kullanarak çevirir (API üzerinden)."""
     if not text or "⚠️" in text: return "⚠️ Çevrilecek metin yok."
     
     clean_text = text.split("───────────────────────────────────")[0].strip()
     
-    # NLLB Dil Kodları
-    lang_map = {
-        "İngilizce": "eng_Latn",
-        "Almanca": "deu_Latn",
-        "Fransızca": "fra_Latn",
-        "Türkçe": "tur_Latn"
-    }
-    src_lang = "tur_Latn" # Varsayılan giriş Türkçe
-    tgt_lang = lang_map.get(target_language, "eng_Latn")
+    # Dil haritası
+    lang_map = {"İngilizce": "English", "Almanca": "German", "Fransızca": "French", "Türkçe": "Turkish"}
+    tgt = lang_map.get(target_language, "English")
     
-    try:
-        progress(0.2, desc="Çeviri modeli yükleniyor...")
-        pipe = load_translator()
-        
-        progress(0.5, desc=f"Çeviriliyor ({target_language})...")
-        # NLLB pipeline kullanımı: src_lang ve tgt_lang belirtilmeli
-        # Tekrarı önlemek için paramatreler eklendi
-        result = pipe(
-            clean_text, 
-            src_lang=src_lang, 
-            tgt_lang=tgt_lang, 
-            max_length=512,
-            repetition_penalty=1.2,    # Tekrar cezası
-            no_repeat_ngram_size=3,    # 3 kelimelik tekrarları yasakla
-            num_beams=3                # Rota arama kalitesini artır
-        )
-        
-        return result[0]['translation_text']
-        
-    except Exception as e:
-        return f"❌ Çeviri Hatası: {str(e)}"
+    prompt = f"Translate the following text to {tgt}. Only provide the translation, no extra text.\n\nText:\n{clean_text}"
+    
+    # Model: Zephyr çeviri için de iyidir, NLLB API'si bazen kararsız olabilir.
+    # Yine de NLLB deneyebiliriz ama Zephyr daha genel amaçlı ve sağlamdır.
+    return call_huggingface_api(prompt, api_key, "HuggingFaceH4/zephyr-7b-beta")
 
 
 # ==================== TRANSCRIPTION (WHISPER) ====================
@@ -166,48 +155,55 @@ def transcribe(audio_path: str, progress=gr.Progress()):
 
 # ==================== UI (GRADIO) ====================
 
-with gr.Blocks(title="Ses Deşifre Pro (Local AI)") as demo:
+with gr.Blocks(title="Ses Deşifre Pro (Whisper + HF API)") as demo:
     
     gr.HTML("""
         <style>
             footer { display: none !important; }
             .gradio-container { max-width: 900px !important; margin: auto !important; }
         </style>
-        <div style="text-align: center; padding: 30px; background: linear-gradient(135deg, #10b981 0%, #059669 100%); border-radius: 20px; margin-bottom: 20px; color: white;">
-            <h1 style="font-size: 2.2rem; margin: 0;">🎙️ Ses Deşifre & Local AI</h1>
-            <p style="opacity: 0.9;">%100 Çevrimdışı • Token Yok • Limit Yok</p>
+        <div style="text-align: center; padding: 30px; background: linear-gradient(135deg, #6366f1 0%, #a855f7 100%); border-radius: 20px; margin-bottom: 20px; color: white;">
+            <h1 style="font-size: 2.2rem; margin: 0;">🎙️ Ses Deşifre & HF API</h1>
+            <p style="opacity: 0.9;">Whisper (Local) + Zephyr AI (Cloud) • Hızlı & Ücretsiz</p>
         </div>
     """)
     
     with gr.Row():
         with gr.Column():
             audio_input = gr.Audio(label="Ses Dosyası", type="filepath", sources=["upload", "microphone"])
-            submit_btn = gr.Button("🚀 Başlat", variant="primary", size="lg")
+            submit_btn = gr.Button("🚀 Deşifre Et", variant="primary", size="lg")
             
     with gr.Row():
         with gr.Column():
-            output_text = gr.Textbox(label="Deşifre Metni", placeholder="Sonuçlar burada görünecek...", lines=10, interactive=False)
-            download_file = gr.File(label="Metni İndir (.txt)")
+            output_text = gr.Textbox(label="Metin", placeholder="Sonuçlar burada...", lines=10, interactive=False)
+            download_file = gr.File(label="İndir (.txt)")
 
-    # --- LOCAL AI ARAÇLARI ---
-    gr.HTML("<h3 style='margin-top: 20px; border-bottom: 1px solid #ddd; padding-bottom: 10px;'>🧠 Yerel Yapay Zeka (CPU)</h3>")
+    # --- API GİRİŞİ ---
+    gr.HTML("<h3 style='margin-top: 20px; border-bottom: 1px solid #ddd; padding-bottom: 10px;'>☁️ Hugging Face API (Özet & Çeviri)</h3>")
+    
+    with gr.Row():
+        api_key_input = gr.Textbox(
+            label="🔑 HF Token (Örn: hf_...)", 
+            placeholder="Read yetkili token yapıştırın...",
+            type="password"
+        )
     
     with gr.Tabs():
-        with gr.TabItem("✨ Özetle (mT5)"):
-            summary_btn = gr.Button("📝 Metni Özetle")
+        with gr.TabItem("✨ Özetle"):
+            summary_btn = gr.Button("📝 Token ile Özetle (Zephyr)")
             summary_output = gr.Textbox(label="Özet Sonucu", lines=6)
             
-        with gr.TabItem("🌍 Çevir (NLLB)"):
+        with gr.TabItem("🌍 Çevir"):
              with gr.Row():
                 target_lang = gr.Dropdown(["İngilizce", "Almanca", "Fransızca"], label="Hedef Dil", value="İngilizce")
-                translate_btn = gr.Button("A Çevir")
+                translate_btn = gr.Button("A Çevir (Zephyr)")
              translate_output = gr.Textbox(label="Çeviri Sonucu", lines=6)
 
     # --- BAĞLANTILAR ---
     submit_btn.click(transcribe, inputs=[audio_input], outputs=[output_text, download_file])
     
-    summary_btn.click(summarize_locally, inputs=[output_text], outputs=summary_output)
-    translate_btn.click(translate_locally, inputs=[output_text, target_lang], outputs=translate_output)
+    summary_btn.click(summarize_with_api, inputs=[output_text, api_key_input], outputs=summary_output)
+    translate_btn.click(translate_with_api, inputs=[output_text, target_lang, api_key_input], outputs=translate_output)
 
 if __name__ == "__main__":
     demo.launch(share=False)