Spaces:
Runtime error
Runtime error
Update app.py
Browse files
app.py
CHANGED
@@ -26,9 +26,8 @@ def generate_response(prompt):
|
|
26 |
eos_token_id=tokenizer.eos_token_id
|
27 |
)
|
28 |
|
29 |
-
|
30 |
-
|
31 |
-
# Убираем часть промпта из начала
|
32 |
return response.replace(instruction, "").strip()
|
33 |
|
34 |
# Интерфейс Gradio
|
@@ -43,3 +42,4 @@ iface = gr.Interface(
|
|
43 |
# Запуск интерфейса
|
44 |
iface.launch()
|
45 |
|
|
|
|
26 |
eos_token_id=tokenizer.eos_token_id
|
27 |
)
|
28 |
|
29 |
+
# Декодирование ответа и удаление части промпта
|
30 |
+
response = tokenizer.decode(output[0], skip_special_tokens=True)
|
|
|
31 |
return response.replace(instruction, "").strip()
|
32 |
|
33 |
# Интерфейс Gradio
|
|
|
42 |
# Запуск интерфейса
|
43 |
iface.launch()
|
44 |
|
45 |
+
|