euIaxs22 commited on
Commit
66c3dde
·
verified ·
1 Parent(s): fc8e69c

Update start.sh

Browse files
Files changed (1) hide show
  1. start.sh +0 -63
start.sh CHANGED
@@ -5,23 +5,12 @@ echo "======================================================="
5
  echo " VINCIE - Start (VINCIE-3B, 8x L40S)"
6
  echo "======================================================="
7
 
8
- # --- Configurações de Ambiente Otimizadas ---
9
- export CUDA_VISIBLE_DEVICES="${CUDA_VISIBLE_DEVICES:-0,1,2,3,4,5,6,7}"
10
- export PYTHONFAULTHANDLER=1
11
- export TORCH_NCCL_ASYNC_ERROR_HANDLING=1
12
- export NCCL_DEBUG="WARN"
13
- export NCCL_SOCKET_IFNAME="lo"
14
- export NCCL_IB_DISABLE=1
15
- export NCCL_P2P_DISABLE=1
16
-
17
  # --- Adição para Gradio ---
18
  # Exporta as variáveis que o app_vince.py irá ler.
19
  export GRADIO_SERVER_NAME="0.0.0.0"
20
  export GRADIO_SERVER_PORT="${PORT:-7860}" # Usa a variável PORT se definida, senão 7860
21
  export GRADIO_ENABLE_QUEUE="True"
22
 
23
- # ... (resto do script builder, cache, clone, etc. permanece igual) ...
24
-
25
  # --- Builder para Dependências CUDA ---
26
  echo "🛠️ Iniciando o builder.sh para compilar/instalar dependências CUDA..."
27
  if [ -f "/app/builder.sh" ]; then
@@ -31,58 +20,6 @@ else
31
  echo "⚠️ Aviso: builder.sh não encontrado. Pulando etapa de compilação de dependências."
32
  fi
33
 
34
- # --- Configuração do Cache Persistente ---
35
- if [ -d /data ]; then
36
- echo "Usando /data para cache persistente."
37
- export HF_HOME="/data/.cache/huggingface"
38
- export TORCH_HOME="/data/.cache/torch"
39
- else
40
- echo "Usando /app/.cache para cache local."
41
- export HF_HOME="/app/.cache/huggingface"
42
- export TORCH_HOME="/app/.cache/torch"
43
- fi
44
- export HF_HUB_CACHE="${HF_HUB_CACHE:-$HF_HOME/hub}"
45
- mkdir -p "$HF_HUB_CACHE" "$TORCH_HOME"
46
- export HF_HUB_ENABLE_HF_TRANSFER=1
47
-
48
- # --- Preparação do Código e do Modelo VINCIE ---
49
- export MODEL_REPO="ByteDance-Seed/VINCIE-3B"
50
- export APP_DIR="/app/VINCIE"
51
- export CKPT_DIR="${APP_DIR}/ckpt/VINCIE-3B"
52
- if [ ! -d "$APP_DIR" ]; then
53
- echo "Clonando repositório VINCIE para ${APP_DIR}..."
54
- git clone https://github.com/ByteDance-Seed/VINCIE.git "$APP_DIR"
55
- else
56
- echo "Repositório VINCIE já existe em ${APP_DIR}. Pulando clonagem."
57
- fi
58
- mkdir -p "$(dirname "$CKPT_DIR")"
59
-
60
- # --- Cache dos Modelos via Hugging Face Hub ---
61
- echo "📦 Verificando cache dos modelos..."
62
- python3 -c '
63
- from huggingface_hub import snapshot_download
64
- import os, traceback
65
- repo_id = os.environ.get("MODEL_REPO")
66
- cache_dir = os.environ.get("HF_HUB_CACHE")
67
- ckpt_link_path = os.environ.get("CKPT_DIR")
68
- try:
69
- print(f"📥 Baixando {repo_id} para o cache em {cache_dir}...")
70
- model_path_in_cache = snapshot_download(repo_id=repo_id, cache_dir=cache_dir, resume_download=True, ignore_patterns=["*.safetensors"])
71
- print(f"✅ Modelo em cache: {model_path_in_cache}")
72
- if not os.path.lexists(ckpt_link_path):
73
- os.symlink(model_path_in_cache, ckpt_link_path)
74
- print(f"🔗 Symlink criado: {ckpt_link_path} -> {model_path_in_cache}")
75
- else:
76
- print(f"✅ Symlink já existe em {ckpt_link_path}.")
77
- except Exception as e:
78
- print(f"⚠️ Falha no download ou criação de symlink do modelo: {e}")
79
- traceback.print_exc()
80
- '
81
-
82
- # --- Diagnóstico Final (Opcional) ---
83
- echo "🕵️ Verificando conteúdo do diretório de checkpoints..."
84
- ls -lA "$CKPT_DIR" || echo "⚠️ Não foi possível listar o diretório de checkpoints."
85
-
86
  # --- Subindo a Aplicação ---
87
  echo "🚀 Iniciando a interface web VINCIE (app_vince.py)..."
88
  cd "$APP_DIR"
 
5
  echo " VINCIE - Start (VINCIE-3B, 8x L40S)"
6
  echo "======================================================="
7
 
 
 
 
 
 
 
 
 
 
8
  # --- Adição para Gradio ---
9
  # Exporta as variáveis que o app_vince.py irá ler.
10
  export GRADIO_SERVER_NAME="0.0.0.0"
11
  export GRADIO_SERVER_PORT="${PORT:-7860}" # Usa a variável PORT se definida, senão 7860
12
  export GRADIO_ENABLE_QUEUE="True"
13
 
 
 
14
  # --- Builder para Dependências CUDA ---
15
  echo "🛠️ Iniciando o builder.sh para compilar/instalar dependências CUDA..."
16
  if [ -f "/app/builder.sh" ]; then
 
20
  echo "⚠️ Aviso: builder.sh não encontrado. Pulando etapa de compilação de dependências."
21
  fi
22
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
23
  # --- Subindo a Aplicação ---
24
  echo "🚀 Iniciando a interface web VINCIE (app_vince.py)..."
25
  cd "$APP_DIR"