Spaces:
Paused
Paused
Update services/ltx_server.py
Browse files- services/ltx_server.py +11 -36
services/ltx_server.py
CHANGED
|
@@ -2,6 +2,7 @@ import os
|
|
| 2 |
import subprocess
|
| 3 |
import sys
|
| 4 |
from pathlib import Path
|
|
|
|
| 5 |
from typing import Optional, Tuple
|
| 6 |
|
| 7 |
from huggingface_hub import snapshot_download
|
|
@@ -9,8 +10,6 @@ from huggingface_hub import snapshot_download
|
|
| 9 |
class LTXServer:
|
| 10 |
"""
|
| 11 |
Gerencia o setup e a execução da inferência para o LTX-Video Q8.
|
| 12 |
-
- Baixa o repositório e os modelos necessários.
|
| 13 |
-
- Executa o script 'inference.py' como um subprocesso.
|
| 14 |
"""
|
| 15 |
_instance = None
|
| 16 |
|
|
@@ -20,13 +19,11 @@ class LTXServer:
|
|
| 20 |
return cls._instance
|
| 21 |
|
| 22 |
def __init__(self):
|
| 23 |
-
# Evita reinicialização
|
| 24 |
if hasattr(self, '_initialized') and self._initialized:
|
| 25 |
return
|
| 26 |
|
| 27 |
print("🚀 LTXServer (Q8) inicializando e preparando o ambiente...")
|
| 28 |
|
| 29 |
-
# Define os caminhos
|
| 30 |
self.LTX_REPO_DIR = Path(os.getenv("LTX_REPO_DIR", "/data/LTX-Video"))
|
| 31 |
self.LTX_CKPT_DIR = Path(os.getenv("LTX_CKPT_DIR", "/data/ckpt/ltxvideo_q8"))
|
| 32 |
self.OUTPUT_ROOT = Path(os.getenv("OUTPUT_ROOT", "/app/outputs/ltx"))
|
|
@@ -35,7 +32,6 @@ class LTXServer:
|
|
| 35 |
self.REPO_URL = "https://github.com/KONAKONA666/LTX-Video.git"
|
| 36 |
self.MODEL_REPO_ID = "konakona/ltxvideo_q8"
|
| 37 |
|
| 38 |
-
# Garante que os diretórios existam
|
| 39 |
for p in [self.LTX_REPO_DIR.parent, self.LTX_CKPT_DIR, self.OUTPUT_ROOT, self.HF_HOME_CACHE]:
|
| 40 |
p.mkdir(parents=True, exist_ok=True)
|
| 41 |
|
|
@@ -44,12 +40,10 @@ class LTXServer:
|
|
| 44 |
print("✅ LTXServer (Q8) pronto.")
|
| 45 |
|
| 46 |
def setup_dependencies(self):
|
| 47 |
-
"""Orquestra o setup: clona o repo e baixa os modelos."""
|
| 48 |
self._ensure_repo()
|
| 49 |
self._ensure_model()
|
| 50 |
|
| 51 |
def _ensure_repo(self) -> None:
|
| 52 |
-
"""Clona o repositório do LTX-Video se ele não existir."""
|
| 53 |
if not (self.LTX_REPO_DIR / ".git").exists():
|
| 54 |
print(f"[LTXServer] Clonando repositório para {self.LTX_REPO_DIR}...")
|
| 55 |
subprocess.run(["git", "clone", "--depth", "1", self.REPO_URL, str(self.LTX_REPO_DIR)], check=True)
|
|
@@ -57,32 +51,17 @@ class LTXServer:
|
|
| 57 |
print("[LTXServer] Repositório LTX-Video já existe.")
|
| 58 |
|
| 59 |
def _ensure_model(self) -> None:
|
| 60 |
-
"""Baixa os checkpoints do modelo Q8, utilizando o cache."""
|
| 61 |
print(f"[LTXServer] Verificando checkpoints em {self.LTX_CKPT_DIR}...")
|
| 62 |
-
|
| 63 |
-
|
| 64 |
-
|
| 65 |
-
|
| 66 |
-
|
| 67 |
-
|
| 68 |
-
|
| 69 |
-
|
| 70 |
-
)
|
| 71 |
-
print("[LTXServer] Checkpoints Q8 prontos.")
|
| 72 |
-
except Exception as e:
|
| 73 |
-
print(f"[LTXServer] ERRO durante o snapshot_download: {e}")
|
| 74 |
-
raise
|
| 75 |
|
| 76 |
-
def run_inference(
|
| 77 |
-
self,
|
| 78 |
-
prompt: str,
|
| 79 |
-
image_path: str,
|
| 80 |
-
height: int,
|
| 81 |
-
width: int,
|
| 82 |
-
num_frames: int,
|
| 83 |
-
seed: int
|
| 84 |
-
) -> str:
|
| 85 |
-
"""Executa a inferência img2vid como um subprocesso."""
|
| 86 |
if not Path(image_path).exists():
|
| 87 |
raise FileNotFoundError(f"Arquivo de imagem de entrada não encontrado: {image_path}")
|
| 88 |
|
|
@@ -90,14 +69,13 @@ class LTXServer:
|
|
| 90 |
if not script_path.exists():
|
| 91 |
raise FileNotFoundError(f"Script de inferência não encontrado em: {script_path}")
|
| 92 |
|
| 93 |
-
# Cria um diretório de saída único para este job
|
| 94 |
job_output_dir = self.OUTPUT_ROOT / f"run_{int(time.time())}_{os.urandom(4).hex()}"
|
| 95 |
job_output_dir.mkdir(parents=True)
|
| 96 |
|
| 97 |
cmd = [
|
| 98 |
"python", str(script_path),
|
| 99 |
"--ckpt_dir", str(self.LTX_CKPT_DIR),
|
| 100 |
-
"--output_dir", str(job_output_dir),
|
| 101 |
"--low_vram",
|
| 102 |
"--transformer_type=q8_kernels",
|
| 103 |
"--prompt", prompt,
|
|
@@ -111,7 +89,6 @@ class LTXServer:
|
|
| 111 |
print("[LTXServer] Comando de execução:", " ".join(cmd))
|
| 112 |
|
| 113 |
try:
|
| 114 |
-
# O 'cwd' é crucial para que o script encontre seus próprios módulos internos
|
| 115 |
subprocess.run(
|
| 116 |
cmd,
|
| 117 |
cwd=str(self.LTX_REPO_DIR),
|
|
@@ -124,12 +101,10 @@ class LTXServer:
|
|
| 124 |
print(f"[LTXServer] Erro na execução da inferência: {e}")
|
| 125 |
raise
|
| 126 |
|
| 127 |
-
# Encontra o vídeo gerado no diretório de saída
|
| 128 |
output_videos = sorted(job_output_dir.glob("*.mp4"))
|
| 129 |
if not output_videos:
|
| 130 |
raise FileNotFoundError(f"Nenhum vídeo foi gerado no diretório de saída: {job_output_dir}")
|
| 131 |
|
| 132 |
return str(output_videos[0])
|
| 133 |
|
| 134 |
-
# Instância Singleton que será usada pelo app Gradio
|
| 135 |
ltx_server_singleton = LTXServer()
|
|
|
|
| 2 |
import subprocess
|
| 3 |
import sys
|
| 4 |
from pathlib import Path
|
| 5 |
+
import time # <<< CORREÇÃO AQUI: Importa o módulo 'time'
|
| 6 |
from typing import Optional, Tuple
|
| 7 |
|
| 8 |
from huggingface_hub import snapshot_download
|
|
|
|
| 10 |
class LTXServer:
|
| 11 |
"""
|
| 12 |
Gerencia o setup e a execução da inferência para o LTX-Video Q8.
|
|
|
|
|
|
|
| 13 |
"""
|
| 14 |
_instance = None
|
| 15 |
|
|
|
|
| 19 |
return cls._instance
|
| 20 |
|
| 21 |
def __init__(self):
|
|
|
|
| 22 |
if hasattr(self, '_initialized') and self._initialized:
|
| 23 |
return
|
| 24 |
|
| 25 |
print("🚀 LTXServer (Q8) inicializando e preparando o ambiente...")
|
| 26 |
|
|
|
|
| 27 |
self.LTX_REPO_DIR = Path(os.getenv("LTX_REPO_DIR", "/data/LTX-Video"))
|
| 28 |
self.LTX_CKPT_DIR = Path(os.getenv("LTX_CKPT_DIR", "/data/ckpt/ltxvideo_q8"))
|
| 29 |
self.OUTPUT_ROOT = Path(os.getenv("OUTPUT_ROOT", "/app/outputs/ltx"))
|
|
|
|
| 32 |
self.REPO_URL = "https://github.com/KONAKONA666/LTX-Video.git"
|
| 33 |
self.MODEL_REPO_ID = "konakona/ltxvideo_q8"
|
| 34 |
|
|
|
|
| 35 |
for p in [self.LTX_REPO_DIR.parent, self.LTX_CKPT_DIR, self.OUTPUT_ROOT, self.HF_HOME_CACHE]:
|
| 36 |
p.mkdir(parents=True, exist_ok=True)
|
| 37 |
|
|
|
|
| 40 |
print("✅ LTXServer (Q8) pronto.")
|
| 41 |
|
| 42 |
def setup_dependencies(self):
|
|
|
|
| 43 |
self._ensure_repo()
|
| 44 |
self._ensure_model()
|
| 45 |
|
| 46 |
def _ensure_repo(self) -> None:
|
|
|
|
| 47 |
if not (self.LTX_REPO_DIR / ".git").exists():
|
| 48 |
print(f"[LTXServer] Clonando repositório para {self.LTX_REPO_DIR}...")
|
| 49 |
subprocess.run(["git", "clone", "--depth", "1", self.REPO_URL, str(self.LTX_REPO_DIR)], check=True)
|
|
|
|
| 51 |
print("[LTXServer] Repositório LTX-Video já existe.")
|
| 52 |
|
| 53 |
def _ensure_model(self) -> None:
|
|
|
|
| 54 |
print(f"[LTXServer] Verificando checkpoints em {self.LTX_CKPT_DIR}...")
|
| 55 |
+
snapshot_download(
|
| 56 |
+
repo_id=self.MODEL_REPO_ID,
|
| 57 |
+
local_dir=str(self.LTX_CKPT_DIR),
|
| 58 |
+
cache_dir=str(self.HF_HOME_CACHE),
|
| 59 |
+
repo_type='model',
|
| 60 |
+
token=os.getenv("HF_TOKEN")
|
| 61 |
+
)
|
| 62 |
+
print("[LTXServer] Checkpoints Q8 prontos.")
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 63 |
|
| 64 |
+
def run_inference(self, prompt: str, image_path: str, height: int, width: int, num_frames: int, seed: int) -> str:
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 65 |
if not Path(image_path).exists():
|
| 66 |
raise FileNotFoundError(f"Arquivo de imagem de entrada não encontrado: {image_path}")
|
| 67 |
|
|
|
|
| 69 |
if not script_path.exists():
|
| 70 |
raise FileNotFoundError(f"Script de inferência não encontrado em: {script_path}")
|
| 71 |
|
|
|
|
| 72 |
job_output_dir = self.OUTPUT_ROOT / f"run_{int(time.time())}_{os.urandom(4).hex()}"
|
| 73 |
job_output_dir.mkdir(parents=True)
|
| 74 |
|
| 75 |
cmd = [
|
| 76 |
"python", str(script_path),
|
| 77 |
"--ckpt_dir", str(self.LTX_CKPT_DIR),
|
| 78 |
+
"--output_dir", str(job_output_dir),
|
| 79 |
"--low_vram",
|
| 80 |
"--transformer_type=q8_kernels",
|
| 81 |
"--prompt", prompt,
|
|
|
|
| 89 |
print("[LTXServer] Comando de execução:", " ".join(cmd))
|
| 90 |
|
| 91 |
try:
|
|
|
|
| 92 |
subprocess.run(
|
| 93 |
cmd,
|
| 94 |
cwd=str(self.LTX_REPO_DIR),
|
|
|
|
| 101 |
print(f"[LTXServer] Erro na execução da inferência: {e}")
|
| 102 |
raise
|
| 103 |
|
|
|
|
| 104 |
output_videos = sorted(job_output_dir.glob("*.mp4"))
|
| 105 |
if not output_videos:
|
| 106 |
raise FileNotFoundError(f"Nenhum vídeo foi gerado no diretório de saída: {job_output_dir}")
|
| 107 |
|
| 108 |
return str(output_videos[0])
|
| 109 |
|
|
|
|
| 110 |
ltx_server_singleton = LTXServer()
|