Delete api/ltx_server_loader.py

api/ltx_server_loader.py

@@ -1,170 +0,0 @@
-# ltx_server_loader.py
-
-import os
-import sys
-import json
-from pathlib import Path
-import subprocess
-
-import torch
-from huggingface_hub import hf_hub_download
-from safetensors import safe_open
-
-# --- CONSTANTES DE SETUP ---
-DEPS_DIR = Path("/data")
-LTX_VIDEO_REPO_DIR = DEPS_DIR / "LTX-Video"
-
-# --- 1. LÓGICA DE SETUP E MANIPULAÇÃO DE PATH ---
-
-def _run_setup_script():
-    """Executa o script setup.py se o repositório LTX-Video não existir."""
-    setup_script_path = "setup.py"
-    if not os.path.exists(setup_script_path):
-        print("[DEBUG] 'setup.py' não encontrado. Pulando clonagem de dependências.")
-        return
-
-    print(f"[DEBUG] Repositório não encontrado em {LTX_VIDEO_REPO_DIR}. Executando setup.py...")
-    try:
-        subprocess.run([sys.executable, setup_script_path], check=True, capture_output=True, text=True)
-        print("[DEBUG] Script 'setup.py' concluído com sucesso.")
-    except subprocess.CalledProcessError as e:
-        print(f"[ERROR] Falha ao executar 'setup.py' (código {e.returncode}).\nOutput:\n{e.stdout}\n{e.stderr}")
-        sys.exit(1)
-
-        
-def add_deps_to_path(repo_path: Path):
-    """Adiciona o diretório do repositório ao sys.path."""
-    resolved_path = str(repo_path.resolve())
-    if resolved_path not in sys.path:
-        sys.path.insert(0, resolved_path)
-
-# Executa o setup imediatamente na importação deste módulo
-if not LTX_VIDEO_REPO_DIR.exists():
-    _run_setup_script()
-add_deps_to_path(LTX_VIDEO_REPO_DIR)
-
-
-# --- 2. IMPORTAÇÕES DEPENDENTES DO PATH ADICIONADO ---
-# Agora, todas as importações "mágicas" do LTX estão isoladas aqui
-from ltx_video.models.autoencoders.latent_upsampler import LatentUpsampler
-from ltx_video.pipelines.pipeline_ltx_video import LTXVideoPipeline
-from transformers import T5EncoderModel, T5Tokenizer
-from ltx_video.models.autoencoders.causal_video_autoencoder import CausalVideoAutoencoder
-from ltx_video.models.transformers.symmetric_patchifier import SymmetricPatchifier
-from ltx_video.models.transformers.transformer3d import Transformer3DModel
-from ltx_video.schedulers.rf import RectifiedFlowScheduler
-
-
-# --- 3. FUNÇÕES DE CRIAÇÃO DE MODELOS (FACTORY) ---
-
-def create_latent_upsampler(model_path: str, device: str):
-    """Cria e retorna a instância do LatentUpsampler."""
-    latent_upsampler = LatentUpsampler.from_pretrained(model_path)
-    latent_upsampler.to(device)
-    latent_upsampler.eval()
-    return latent_upsampler
-
-# ltx_server_loader.py
-
-# ... (todas as outras importações e funções permanecem as mesmas) ...
-
-def create_ltx_video_pipeline(ckpt_path: str, precision: str, text_encoder_path: str, device: str) -> LTXVideoPipeline:
-    """
-    Cria e retorna a instância principal da LTXVideoPipeline.
-    VERSÃO CORRIGIDA.
-    """
-    print(f"[LOADER] Criando pipeline a partir de: {ckpt_path}")
-    
-    # --- FIX 1: Adicionar a leitura dos metadados, como no original ---
-    with safe_open(ckpt_path, framework="pt") as f:
-        metadata = f.metadata()
-        config_str = metadata.get("config")
-        # Adicionada verificação para caso 'config' não exista nos metadados
-        configs = json.loads(config_str) if config_str else {}
-        allowed_inference_steps = configs.get("allowed_inference_steps", None)
-
-    # O resto da criação dos submodelos permanece igual
-    vae = CausalVideoAutoencoder.from_pretrained(ckpt_path)
-    transformer = Transformer3DModel.from_pretrained(ckpt_path)
-    scheduler = RectifiedFlowScheduler.from_pretrained(ckpt_path)
-    text_encoder = T5EncoderModel.from_pretrained(text_encoder_path, subfolder="text_encoder")
-    patchifier = SymmetricPatchifier(patch_size=1)
-    tokenizer = T5Tokenizer.from_pretrained(text_encoder_path, subfolder="tokenizer")
-
-    # Move os modelos para CPU inicialmente, o serviço principal moverá para a GPU
-    vae = vae.to("cpu")
-    transformer = transformer.to("cpu")
-    text_encoder = text_encoder.to("cpu")
-    
-    # Precisão será aplicada pelo serviço principal
-    if precision == "bfloat16":
-        transformer = transformer.to(torch.bfloat16)
-        text_encoder = text_encoder.to(torch.bfloat16)
-        vae = vae.to(torch.bfloat16)
-
-    # --- FIX 2: Adicionar os argumentos que estavam faltando no dicionário ---
-    submodel_dict = {
-        "transformer": transformer,
-        "patchifier": patchifier,
-        "text_encoder": text_encoder,
-        "tokenizer": tokenizer,
-        "scheduler": scheduler,
-        "vae": vae,
-        
-        # CORREÇÃO: Adicionando os 4 argumentos faltantes com valor None
-        "prompt_enhancer_image_caption_model": None,
-        "prompt_enhancer_image_caption_processor": None,
-        "prompt_enhancer_llm_model": None,
-        "prompt_enhancer_llm_tokenizer": None,
-        
-        # CORREÇÃO: Adicionando o argumento de metadados que também faltava
-        "allowed_inference_steps": allowed_inference_steps,
-    }
-
-    # A criação da pipeline agora funcionará
-    pipeline = LTXVideoPipeline(**submodel_dict)
-    # Deixamos o serviço principal mover a pipeline final para o dispositivo
-    # pipeline = pipeline.to(device)
-    
-    return pipeline
-
-
-# ... (o resto do arquivo ltx_server_loader.py permanece o mesmo) ...
-
-
-def initialize_models(config: dict, device: str) -> tuple:
-    """
-    Função principal deste módulo. Baixa os modelos do Hub e usa as funções
-    acima para criar e retornar as instâncias prontas para uso.
-    """
-    LTX_REPO = "Lightricks/LTX-Video"
-    hf_token = os.getenv("HF_TOKEN")
-
-    print("[LOADER] Baixando checkpoint principal...")
-    ckpt_path = hf_hub_download(
-        repo_id=LTX_REPO, filename=config["checkpoint_path"], token=hf_token
-    )
-    print(f"[LOADER] Checkpoint em: {ckpt_path}")
-
-    print("[LOADER] Construindo pipeline...")
-    pipeline = create_ltx_video_pipeline(
-        ckpt_path=ckpt_path,
-        precision=config["precision"],
-        text_encoder_path=config["text_encoder_model_name_or_path"],
-        device="cpu",  # Carrega em CPU primeiro para mover depois
-    )
-    print("[LOADER] Pipeline construída.")
-
-    latent_upsampler = None
-    if config.get("spatial_upscaler_model_path"):
-        print("[LOADER] Baixando upscaler espacial...")
-        upscaler_path = hf_hub_download(
-            repo_id=LTX_REPO, filename=config["spatial_upscaler_model_path"], token=hf_token
-        )
-        print(f"[LOADER] Upscaler em: {upscaler_path}")
-        
-        print("[LOADER] Construindo latent_upsampler...")
-        latent_upsampler = create_latent_upsampler(upscaler_path, device="cpu")
-        print("[LOADER] Latent upsampler construído.")
-
-    return pipeline, latent_upsampler