Update app.py

app.py

@@ -173,7 +173,7 @@ async def generate_text(input: ModelInput):
             model=model,
             tokenizer=tokenizer,
             instruction=input.prompt,
-            max_new_tokens=input.max_new_tokens
+            max_new_tokens=2048
         )
         return {"generated_text": response}