Update app.py

app.py

@@ -1,40 +1,33 @@
-import gradio as gr
-from huggingface_hub import InferenceClient
+from transformers import AutoTokenizer, AutoModelForCausalLM
+import torch
 
-# Modèle librement accessible
-client = InferenceClient("bigscience/bloom-560m")
+# Charger le modèle
+model_name = "Qwen/Qwen3-4B-Thinking-2507"
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto", torch_dtype=torch.float16)
 
 # Prompt maître
-system_message = """Tu es un formateur de formateurs spécialisé en analyse réflexive des pratiques enseignantes.
-À partir du texte fourni, aide l'enseignant à approfondir sa réflexion professionnelle en suivant le modèle de Gibbs :
-• Décrire objectivement les faits 
-• Exprimer les sentiments et émotions ressentis
-• Évaluer ce qui a bien ou mal fonctionné
-• Analyser les causes possibles de ces résultats
-• Conclure sur ce que tu pourrais améliorer
-• Proposer un plan d’action concret pour l’avenir
-Tes questions doivent impérativement faire le tour de ces étapes. Pose une seule question à la fois et attends la réponse avant de continuer.
-Réponds toujours aux questions de l'enseignant s'il en pose avant pour que l’échange soit fluide et interactif."""
-
-# Fonction de réponse
-def respond(message, history):
-    messages = [{"role": "system", "content": system_message}]
-    for val in history:
-        if val[0]:
-            messages.append({"role": "user", "content": val[0]})
-        if val[1]:
-            messages.append({"role": "assistant", "content": val[1]})
-    messages.append({"role": "user", "content": message})
-
-    response = ""
-    for chunk in client.chat_completion(messages, max_tokens=150, stream=True):
-        token = chunk.choices[0].delta.content
-        response += token
-        yield response
-
-# Interface Gradio
-demo = gr.ChatInterface(respond)
-
-if __name__ == "__main__":
-    demo.launch(share=True)
+system_message = "Tu es un formateur de formateurs spécialisé en analyse réflexive des pratiques enseignantes."
+
+# Exemple de conversation
+messages = [
+    {"role": "system", "content": system_message},
+    {"role": "user", "content": "Salut, peux-tu analyser cette situation ?"}
+]
+
+# Préparer l'entrée pour le modèle
+inputs = tokenizer.apply_chat_template(
+    messages,
+    add_generation_prompt=True,
+    tokenize=True,
+    return_dict=True,
+    return_tensors="pt"
+).to(model.device)
+
+# Génération de réponse
+outputs = model.generate(**inputs, max_new_tokens=200)
+response = tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True)
+
+print("Réponse de l'IA :", response)
+