Модель не воспринимает system prompt (роль system)
#2
by
userautomation27
- opened
В обсуждении к исходной модели (не GGUF), пользователь писал эту же проблему (https://huggingface.co/yandex/YandexGPT-5-Lite-8B-instruct/discussions/2). Он там модифицировал chat_template, модель начала воспринимать system prompt. Но куда и как пихать его chat_template - моих знаний не хватает. Можете подсказать или исправить chat_template на тот, который воспринимает роль system в запросе? Использую llama.cpp.