Модель не воспринимает system prompt (роль system)

#2
by userautomation27 - opened

В обсуждении к исходной модели (не GGUF), пользователь писал эту же проблему (https://huggingface.co/yandex/YandexGPT-5-Lite-8B-instruct/discussions/2). Он там модифицировал chat_template, модель начала воспринимать system prompt. Но куда и как пихать его chat_template - моих знаний не хватает. Можете подсказать или исправить chat_template на тот, который воспринимает роль system в запросе? Использую llama.cpp.

Sign up or log in to comment