Update app.py

app.py

@@ -2,8 +2,7 @@
 
 
 
-
-
+import accelerate
 import gradio as gr
 import joblib
 import numpy as np
@@ -18,14 +17,17 @@ MODEL_NAME = "mistralai/Mistral-7B-Instruct-v0.3"
 device = "cuda" if torch.cuda.is_available() else "cpu"
 HF_TOKEN = os.getenv("HF_TOKEN")  # Obtiene el token de la variable de entorno
 
+# Verificación de token
+if not HF_TOKEN:
+    raise ValueError("❌ ERROR: No se encontró HF_TOKEN. Asegúrate de definirlo en las variables de entorno.")
+
 print("🔄 Cargando modelo de lenguaje...")
-tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME,
-  use_auth_token=HF_TOKEN                                        )
+tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME, token=HF_TOKEN)
 model = AutoModelForCausalLM.from_pretrained(
     MODEL_NAME,
     torch_dtype=torch.float16 if device == "cuda" else torch.float32,
     device_map="auto",
- use_auth_token=HF_TOKEN
+    token=HF_TOKEN
 ).to(device)
 
 # Memoria conversacional
@@ -111,3 +113,4 @@ iface = gr.Interface(
 
 iface.launch()
 
+