[Issue]生成文字时<think>缺失
#8
by
AndyZhang32767
- opened
生成文本时会出现如图所示的<think>消失，导致思考部分当成输出内容展现出来，下文也</think>证实了该问题的存在。
测试 -> ollama + open webui
我会出现循环输出的问题
This comment has been hidden
可以看下llama.cpp/ollama加载的log，我这边看log，似乎是prompt的template中，自动向assistant的模板中增加了标签导致的