File size: 8,822 Bytes
83f4660
a686dc2
37514c6
a686dc2
 
 
 
87cc7c1
a686dc2
 
45ca480
a686dc2
 
 
 
 
 
 
 
 
 
 
 
87cc7c1
a686dc2
83f4660
a686dc2
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
37514c6
a686dc2
 
 
 
 
 
 
 
 
 
45ca480
83f4660
a686dc2
 
 
 
 
45ca480
a686dc2
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
83f4660
 
 
010513a
 
83f4660
010513a
83f4660
010513a
 
83f4660
a686dc2
83f4660
87cc7c1
45ca480
a686dc2
9faffe4
a686dc2
45ca480
83f4660
87cc7c1
83f4660
 
87cc7c1
83f4660
a686dc2
010513a
83f4660
 
b692976
83f4660
a686dc2
83f4660
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
import gradio as gr
import torch

import numpy as np
import random
import os
import yaml
from pathlib import Path
import imageio
import tempfile
from PIL import Image
from huggingface_hub import hf_hub_download
import shutil
import sys

# --- SETUP INICIAL: GARANTIR QUE A BIBLIOTECA LTX-VIDEO ESTEJA ACESSÍVEL ---

# Adiciona o diretório da biblioteca LTX-Video clonada ao sys.path
# O Dockerfile deve clonar o repo para /opt/LTX-Video
LTX_REPO_PATH = Path("/data/LTX-Video")
if LTX_REPO_PATH.exists() and str(LTX_REPO_PATH) not in sys.path:
    sys.path.insert(0, str(LTX_REPO_PATH))
    print(f"Adicionado '{LTX_REPO_PATH}' ao sys.path.")

# Agora podemos importar com segurança as funções do repositório
try:
    from inference import (
        create_ltx_video_pipeline,
        create_latent_upsampler,
        seed_everething,
        calculate_padding
    )
    from ltx_video.pipelines.pipeline_ltx_video import ConditioningItem, LTXMultiScalePipeline
    from ltx_video.utils.skip_layer_strategy import SkipLayerStrategy
    from diffusers.utils import export_to_video, load_image
except ImportError as e:
    print(f"ERRO FATAL: Falha ao importar módulos do LTX-Video. Verifique a instalação. Erro: {e}")
    raise

# --- CARREGAMENTO GLOBAL DOS MODELOS E CONFIGURAÇÕES ---

APP_HOME = Path(os.environ.get("APP_HOME", "/app"))
CONFIG_FILE_PATH = APP_HOME / "configs" / "ltxv-13b-0.9.8-distilled-fp8.yaml"
MODELS_DIR = Path("/data/ltx_models_official") # Usando um diretório persistente
MODELS_DIR.mkdir(parents=True, exist_ok=True)

print("Lendo arquivo de configuração YAML...")
with open(CONFIG_FILE_PATH, "r") as file:
    PIPELINE_CONFIG_YAML = yaml.safe_load(file)

DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
DTYPE = torch.bfloat16 if DEVICE == "cuda" and torch.cuda.is_bf16_supported() else torch.float16

# --- Baixa os modelos necessários (idempotente) ---
print(f"Verificando e baixando arquivos de modelo para '{MODELS_DIR}'...")
for key in ["checkpoint_path", "spatial_upscaler_model_path"]:
    filename = PIPELINE_CONFIG_YAML.get(key)
    if filename and not (MODELS_DIR / filename).exists():
        print(f"Baixando {filename}...")
        hf_hub_download(
            repo_id="Lightricks/LTX-Video",
            filename=filename,
            local_dir=str(MODELS_DIR),
            token=os.getenv("HF_TOKEN")
        )
# O text_encoder será baixado automaticamente pela função create_ltx_video_pipeline
print("Arquivos de modelo verificados/baixados.")

# --- Monta as Pipelines (uma única vez, mantendo-as "quentes") ---
print("Montando pipelines LTX-Video na memória...")
pipeline_instance = create_ltx_video_pipeline(
    ckpt_path=str(MODELS_DIR / PIPELINE_CONFIG_YAML["checkpoint_path"]),
    precision=PIPELINE_CONFIG_YAML["precision"],
    text_encoder_model_name_or_path=PIPELINE_CONFIG_YAML["text_encoder_model_name_or_path"],
    sampler=PIPELINE_CONFIG_YAML["sampler"],
    device="cpu", # Carrega na CPU primeiro para economizar VRAM durante a inicialização
)
latent_upsampler_instance = create_latent_upsampler(
    latent_upsampler_model_path=str(MODELS_DIR / PIPELINE_CONFIG_YAML["spatial_upscaler_model_path"]),
    device="cpu"
)

# Move para a GPU
print(f"Movendo pipelines para o dispositivo: {DEVICE}...")
pipeline_instance.to(DEVICE)
latent_upsampler_instance.to(DEVICE)
pipeline_instance.vae.enable_tiling()
print("✅ Pipelines montadas e prontas na GPU.")


# --- FUNÇÃO DE GERAÇÃO PRINCIPAL (CALLBACK DO GRADIO) ---

def round_to_nearest_resolution(height, width):
    ratio = pipeline_instance.vae.spatial_compression_ratio
    height = height - (height % ratio)
    width = width - (width % ratio)
    return int(height), int(width)


def generate(
    prompt: str,
    image_input: Optional[str],
    target_height: int,
    target_width: int,
    num_frames: int,
    seed: int,
    guidance_scale: float,
    num_inference_steps: int,
    denoise_strength: float,
    progress=gr.Progress(track_tqdm=True)
):
    if not image_input and not prompt:
        raise gr.Error("Por favor, forneça uma imagem de entrada ou um prompt de texto.")

    seed_everething(seed)
    generator = torch.Generator(device=DEVICE).manual_seed(seed)
    
    conditions = None
    if image_input:
        progress(0.1, desc="Preparando imagem de condição...")
        image = load_image(image_input)
        # O truque de comprimir a imagem como um vídeo de 1 frame
        video_condition_input = load_video(export_to_video([image]))
        condition = ConditioningItem(video_condition_input, 0, 1.0)
        conditions = [condition]

    # --- LÓGICA MULTI-ESCALA ---
    multi_scale_pipeline = LTXMultiScalePipeline(pipeline_instance, latent_upsampler_instance)

    # Prepara os argumentos com base no YAML e na UI
    # Usamos os dicionários 'first_pass' e 'second_pass' do YAML
    first_pass_args = PIPELINE_CONFIG_YAML.get("first_pass", {}).copy()
    second_pass_args = PIPELINE_CONFIG_YAML.get("second_pass", {}).copy()

    # Sobrescrevemos com os valores da UI onde faz sentido
    first_pass_args["num_inference_steps"] = num_inference_steps
    second_pass_args["denoise_strength"] = denoise_strength
    
    call_kwargs = {
        "prompt": prompt,
        "negative_prompt": "worst quality, inconsistent motion, blurry, jittery, distorted",
        "height": target_height, "width": target_width, "num_frames": num_frames,
        "generator": generator, "output_type": "pt",
        "conditioning_items": conditions,
        "decode_timestep": PIPELINE_CONFIG_YAML["decode_timestep"],
        "decode_noise_scale": PIPELINE_CONFIG_YAML["decode_noise_scale"],
        "downscale_factor": PIPELINE_CONFIG_YAML["downscale_factor"],
        "first_pass": first_pass_args,
        "second_pass": second_pass_args,
    }

    print("[LTX App] Executando pipeline multi-escala...")
    progress(0.3, desc="Gerando vídeo (pode levar alguns minutos)...")
    result_tensor = multi_scale_pipeline(**call_kwargs).images

    # --- ETAPA FINAL: Exportar para vídeo ---
    progress(0.9, desc="Exportando para arquivo de vídeo...")
    output_video_path = tempfile.mktemp(suffix=".mp4")
    video_np = result_tensor[0].permute(1, 2, 3, 0).cpu().float().numpy()
    video_np = np.clip(video_np * 255, 0, 255).astype("uint8")
    export_to_video(video_np, str(output_video_path), fps=24)
    
    print(f"Vídeo gerado com sucesso em: {output_video_path}")
    return output_video_path

# --- UI GRADIO ---
with gr.Blocks(title="LTX-Video (Correto)", theme=gr.themes.Soft()) as demo:
    gr.HTML("<h1>LTX-Video - Geração de Vídeo Multi-Scale (FP8)</h1><p>Implementação final usando a API nativa do LTX-Video.</p>")
    
    with gr.Row():
        with gr.Column(scale=1):
            image_in = gr.Image(type="filepath", label="Imagem de Entrada (Opcional para txt2vid)")
            prompt_in = gr.Textbox(label="Prompt", lines=4, placeholder="Ex: a cinematic shot of a majestic lion walking in the savanna, 4k, high quality")
            
            with gr.Accordion("Parâmetros Principais", open=True):
                with gr.Row():
                    height_in = gr.Slider(label="Altura Final (Height)", minimum=256, maximum=1024, step=32, value=480)
                    width_in = gr.Slider(label="Largura Final (Width)", minimum=256, maximum=1280, step=32, value=832)
                with gr.Row():
                    frames_in = gr.Slider(label="Número de Frames", minimum=17, maximum=161, step=8, value=97, info="Deve ser um múltiplo de 8 + 1.")
                    seed_in = gr.Number(label="Seed", value=42, precision=0)

            with gr.Accordion("Parâmetros Avançados", open=False):
                 num_inference_steps_in = gr.Slider(label="Passos de Inferência (Etapa 1)", minimum=4, maximum=50, step=1, value=30)
                 guidance_scale_in = gr.Slider(label="Força do Guia (Guidance)", minimum=1.0, maximum=10.0, step=0.5, value=1.0, info="Para modelos 'distilled', o valor recomendado é 1.0.")
                 denoise_strength_in = gr.Slider(label="Força do Refinamento (Denoise)", minimum=0.1, maximum=1.0, step=0.05, value=0.5, info="Controla a intensidade da Etapa 3 (refinamento).")

            run_button = gr.Button("Gerar Vídeo", variant="primary")

        with gr.Column(scale=1):
            video_out = gr.Video(label="Vídeo Gerado")

    run_button.click(
        fn=generate,
        inputs=[prompt_in, image_in, height_in, width_in, frames_in, seed_in, guidance_scale_in, num_inference_steps_in, denoise_strength_in],
        outputs=[video_out],
    )

if __name__ == "__main__":
    demo.queue().launch(
        server_name=os.getenv("GRADIO_SERVER_NAME", "0.0.0.0"),
        server_port=int(os.getenv("GRADIO_SERVER_PORT", "7861")),
        show_error=True,
    )