SimrusDenuvo commited on
Commit
1a767a0
·
verified ·
1 Parent(s): cdbe614

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -3
app.py CHANGED
@@ -26,9 +26,8 @@ def generate_response(prompt):
26
  eos_token_id=tokenizer.eos_token_id
27
  )
28
 
29
- response = generator(prompt, max_length=100, num_return_sequences=1, temperature=0.7, top_k=50, top_p=0.95)
30
-
31
- # Убираем часть промпта из начала
32
  return response.replace(instruction, "").strip()
33
 
34
  # Интерфейс Gradio
@@ -43,3 +42,4 @@ iface = gr.Interface(
43
  # Запуск интерфейса
44
  iface.launch()
45
 
 
 
26
  eos_token_id=tokenizer.eos_token_id
27
  )
28
 
29
+ # Декодирование ответа и удаление части промпта
30
+ response = tokenizer.decode(output[0], skip_special_tokens=True)
 
31
  return response.replace(instruction, "").strip()
32
 
33
  # Интерфейс Gradio
 
42
  # Запуск интерфейса
43
  iface.launch()
44
 
45
+