Update Modelfile
Browse files
Modelfile
CHANGED
@@ -24,6 +24,6 @@ PARAMETER stop "<|im_start|>"
|
|
24 |
PARAMETER stop "<|im_end|>"
|
25 |
PARAMETER temperature 0.6
|
26 |
PARAMETER repeat_penalty 1.0
|
27 |
-
PARAMETER num_ctx
|
28 |
PARAMETER top_k 40
|
29 |
PARAMETER top_p 0.95
|
|
|
24 |
PARAMETER stop "<|im_end|>"
|
25 |
PARAMETER temperature 0.6
|
26 |
PARAMETER repeat_penalty 1.0
|
27 |
+
PARAMETER num_ctx 32768
|
28 |
PARAMETER top_k 40
|
29 |
PARAMETER top_p 0.95
|