Spaces:
Paused
Paused
File size: 8,822 Bytes
83f4660 a686dc2 37514c6 a686dc2 87cc7c1 a686dc2 45ca480 a686dc2 87cc7c1 a686dc2 83f4660 a686dc2 37514c6 a686dc2 45ca480 83f4660 a686dc2 45ca480 a686dc2 83f4660 010513a 83f4660 010513a 83f4660 010513a 83f4660 a686dc2 83f4660 87cc7c1 45ca480 a686dc2 9faffe4 a686dc2 45ca480 83f4660 87cc7c1 83f4660 87cc7c1 83f4660 a686dc2 010513a 83f4660 b692976 83f4660 a686dc2 83f4660 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 |
import gradio as gr
import torch
import numpy as np
import random
import os
import yaml
from pathlib import Path
import imageio
import tempfile
from PIL import Image
from huggingface_hub import hf_hub_download
import shutil
import sys
# --- SETUP INICIAL: GARANTIR QUE A BIBLIOTECA LTX-VIDEO ESTEJA ACESSÍVEL ---
# Adiciona o diretório da biblioteca LTX-Video clonada ao sys.path
# O Dockerfile deve clonar o repo para /opt/LTX-Video
LTX_REPO_PATH = Path("/data/LTX-Video")
if LTX_REPO_PATH.exists() and str(LTX_REPO_PATH) not in sys.path:
sys.path.insert(0, str(LTX_REPO_PATH))
print(f"Adicionado '{LTX_REPO_PATH}' ao sys.path.")
# Agora podemos importar com segurança as funções do repositório
try:
from inference import (
create_ltx_video_pipeline,
create_latent_upsampler,
seed_everething,
calculate_padding
)
from ltx_video.pipelines.pipeline_ltx_video import ConditioningItem, LTXMultiScalePipeline
from ltx_video.utils.skip_layer_strategy import SkipLayerStrategy
from diffusers.utils import export_to_video, load_image
except ImportError as e:
print(f"ERRO FATAL: Falha ao importar módulos do LTX-Video. Verifique a instalação. Erro: {e}")
raise
# --- CARREGAMENTO GLOBAL DOS MODELOS E CONFIGURAÇÕES ---
APP_HOME = Path(os.environ.get("APP_HOME", "/app"))
CONFIG_FILE_PATH = APP_HOME / "configs" / "ltxv-13b-0.9.8-distilled-fp8.yaml"
MODELS_DIR = Path("/data/ltx_models_official") # Usando um diretório persistente
MODELS_DIR.mkdir(parents=True, exist_ok=True)
print("Lendo arquivo de configuração YAML...")
with open(CONFIG_FILE_PATH, "r") as file:
PIPELINE_CONFIG_YAML = yaml.safe_load(file)
DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
DTYPE = torch.bfloat16 if DEVICE == "cuda" and torch.cuda.is_bf16_supported() else torch.float16
# --- Baixa os modelos necessários (idempotente) ---
print(f"Verificando e baixando arquivos de modelo para '{MODELS_DIR}'...")
for key in ["checkpoint_path", "spatial_upscaler_model_path"]:
filename = PIPELINE_CONFIG_YAML.get(key)
if filename and not (MODELS_DIR / filename).exists():
print(f"Baixando {filename}...")
hf_hub_download(
repo_id="Lightricks/LTX-Video",
filename=filename,
local_dir=str(MODELS_DIR),
token=os.getenv("HF_TOKEN")
)
# O text_encoder será baixado automaticamente pela função create_ltx_video_pipeline
print("Arquivos de modelo verificados/baixados.")
# --- Monta as Pipelines (uma única vez, mantendo-as "quentes") ---
print("Montando pipelines LTX-Video na memória...")
pipeline_instance = create_ltx_video_pipeline(
ckpt_path=str(MODELS_DIR / PIPELINE_CONFIG_YAML["checkpoint_path"]),
precision=PIPELINE_CONFIG_YAML["precision"],
text_encoder_model_name_or_path=PIPELINE_CONFIG_YAML["text_encoder_model_name_or_path"],
sampler=PIPELINE_CONFIG_YAML["sampler"],
device="cpu", # Carrega na CPU primeiro para economizar VRAM durante a inicialização
)
latent_upsampler_instance = create_latent_upsampler(
latent_upsampler_model_path=str(MODELS_DIR / PIPELINE_CONFIG_YAML["spatial_upscaler_model_path"]),
device="cpu"
)
# Move para a GPU
print(f"Movendo pipelines para o dispositivo: {DEVICE}...")
pipeline_instance.to(DEVICE)
latent_upsampler_instance.to(DEVICE)
pipeline_instance.vae.enable_tiling()
print("✅ Pipelines montadas e prontas na GPU.")
# --- FUNÇÃO DE GERAÇÃO PRINCIPAL (CALLBACK DO GRADIO) ---
def round_to_nearest_resolution(height, width):
ratio = pipeline_instance.vae.spatial_compression_ratio
height = height - (height % ratio)
width = width - (width % ratio)
return int(height), int(width)
def generate(
prompt: str,
image_input: Optional[str],
target_height: int,
target_width: int,
num_frames: int,
seed: int,
guidance_scale: float,
num_inference_steps: int,
denoise_strength: float,
progress=gr.Progress(track_tqdm=True)
):
if not image_input and not prompt:
raise gr.Error("Por favor, forneça uma imagem de entrada ou um prompt de texto.")
seed_everething(seed)
generator = torch.Generator(device=DEVICE).manual_seed(seed)
conditions = None
if image_input:
progress(0.1, desc="Preparando imagem de condição...")
image = load_image(image_input)
# O truque de comprimir a imagem como um vídeo de 1 frame
video_condition_input = load_video(export_to_video([image]))
condition = ConditioningItem(video_condition_input, 0, 1.0)
conditions = [condition]
# --- LÓGICA MULTI-ESCALA ---
multi_scale_pipeline = LTXMultiScalePipeline(pipeline_instance, latent_upsampler_instance)
# Prepara os argumentos com base no YAML e na UI
# Usamos os dicionários 'first_pass' e 'second_pass' do YAML
first_pass_args = PIPELINE_CONFIG_YAML.get("first_pass", {}).copy()
second_pass_args = PIPELINE_CONFIG_YAML.get("second_pass", {}).copy()
# Sobrescrevemos com os valores da UI onde faz sentido
first_pass_args["num_inference_steps"] = num_inference_steps
second_pass_args["denoise_strength"] = denoise_strength
call_kwargs = {
"prompt": prompt,
"negative_prompt": "worst quality, inconsistent motion, blurry, jittery, distorted",
"height": target_height, "width": target_width, "num_frames": num_frames,
"generator": generator, "output_type": "pt",
"conditioning_items": conditions,
"decode_timestep": PIPELINE_CONFIG_YAML["decode_timestep"],
"decode_noise_scale": PIPELINE_CONFIG_YAML["decode_noise_scale"],
"downscale_factor": PIPELINE_CONFIG_YAML["downscale_factor"],
"first_pass": first_pass_args,
"second_pass": second_pass_args,
}
print("[LTX App] Executando pipeline multi-escala...")
progress(0.3, desc="Gerando vídeo (pode levar alguns minutos)...")
result_tensor = multi_scale_pipeline(**call_kwargs).images
# --- ETAPA FINAL: Exportar para vídeo ---
progress(0.9, desc="Exportando para arquivo de vídeo...")
output_video_path = tempfile.mktemp(suffix=".mp4")
video_np = result_tensor[0].permute(1, 2, 3, 0).cpu().float().numpy()
video_np = np.clip(video_np * 255, 0, 255).astype("uint8")
export_to_video(video_np, str(output_video_path), fps=24)
print(f"Vídeo gerado com sucesso em: {output_video_path}")
return output_video_path
# --- UI GRADIO ---
with gr.Blocks(title="LTX-Video (Correto)", theme=gr.themes.Soft()) as demo:
gr.HTML("<h1>LTX-Video - Geração de Vídeo Multi-Scale (FP8)</h1><p>Implementação final usando a API nativa do LTX-Video.</p>")
with gr.Row():
with gr.Column(scale=1):
image_in = gr.Image(type="filepath", label="Imagem de Entrada (Opcional para txt2vid)")
prompt_in = gr.Textbox(label="Prompt", lines=4, placeholder="Ex: a cinematic shot of a majestic lion walking in the savanna, 4k, high quality")
with gr.Accordion("Parâmetros Principais", open=True):
with gr.Row():
height_in = gr.Slider(label="Altura Final (Height)", minimum=256, maximum=1024, step=32, value=480)
width_in = gr.Slider(label="Largura Final (Width)", minimum=256, maximum=1280, step=32, value=832)
with gr.Row():
frames_in = gr.Slider(label="Número de Frames", minimum=17, maximum=161, step=8, value=97, info="Deve ser um múltiplo de 8 + 1.")
seed_in = gr.Number(label="Seed", value=42, precision=0)
with gr.Accordion("Parâmetros Avançados", open=False):
num_inference_steps_in = gr.Slider(label="Passos de Inferência (Etapa 1)", minimum=4, maximum=50, step=1, value=30)
guidance_scale_in = gr.Slider(label="Força do Guia (Guidance)", minimum=1.0, maximum=10.0, step=0.5, value=1.0, info="Para modelos 'distilled', o valor recomendado é 1.0.")
denoise_strength_in = gr.Slider(label="Força do Refinamento (Denoise)", minimum=0.1, maximum=1.0, step=0.05, value=0.5, info="Controla a intensidade da Etapa 3 (refinamento).")
run_button = gr.Button("Gerar Vídeo", variant="primary")
with gr.Column(scale=1):
video_out = gr.Video(label="Vídeo Gerado")
run_button.click(
fn=generate,
inputs=[prompt_in, image_in, height_in, width_in, frames_in, seed_in, guidance_scale_in, num_inference_steps_in, denoise_strength_in],
outputs=[video_out],
)
if __name__ == "__main__":
demo.queue().launch(
server_name=os.getenv("GRADIO_SERVER_NAME", "0.0.0.0"),
server_port=int(os.getenv("GRADIO_SERVER_PORT", "7861")),
show_error=True,
) |