second-state
/

Yi-1.5-9B-Chat-GGUF

Text Generation

Model card Files Files and versions Community

apepkuss79 commited on Jun 12, 2024

Commit

92f1b1e

·

verified ·

1 Parent(s): 3095ed0

Update README.md

Files changed (1) hide show

README.md +2 -2

README.md CHANGED Viewed

@@ -53,7 +53,7 @@ quantized_by: Second State Inc.
   wasmedge --dir .:. --nn-preload default:GGML:AUTO:Yi-1.5-9B-Chat-Q5_K_M.gguf \
     llama-api-server.wasm \
     --prompt-template chatml \
-    --reverse-prompt "<|im_end|>"
     --ctx-size 4096 \
     --model-name Yi-1.5-9B-Chat
   ```
@@ -64,7 +64,7 @@ quantized_by: Second State Inc.
   wasmedge --dir .:. --nn-preload default:GGML:AUTO:Yi-1.5-9B-Chat-Q5_K_M.gguf \
     llama-chat.wasm \
     --prompt-template chatml \
-    --reverse-prompt "<|im_end|>"
     --ctx-size 4096
   ```

   wasmedge --dir .:. --nn-preload default:GGML:AUTO:Yi-1.5-9B-Chat-Q5_K_M.gguf \
     llama-api-server.wasm \
     --prompt-template chatml \
+    --reverse-prompt "<|im_end|>" \
     --ctx-size 4096 \
     --model-name Yi-1.5-9B-Chat
   ```
   wasmedge --dir .:. --nn-preload default:GGML:AUTO:Yi-1.5-9B-Chat-Q5_K_M.gguf \
     llama-chat.wasm \
     --prompt-template chatml \
+    --reverse-prompt "<|im_end|>" \
     --ctx-size 4096
   ```