Update app.py

app.py

@@ -1,11 +1,12 @@
-from transformers import AutoModelForCausalLM, AutoTokenizer
+from transformers import AutoModelForCausalLM, AutoTokenizer, GemmaTokenizer
 import torch
 import os
 
 # 모델 및 토크나이저 로드
 model_id = "kimhyunwoo/gemma2-ko-dialogue-lora-fp16"
 model = AutoModelForCausalLM.from_pretrained(model_id, trust_remote_code=True)
-tokenizer = AutoTokenizer.from_pretrained(model_id, use_fast=False, trust_remote_code=True)  # use_fast=False 추가
+# AutoTokenizer 대신 직접 GemmaTokenizer를 로드합니다.
+tokenizer = GemmaTokenizer.from_pretrained(model_id, trust_remote_code=True)
 
 # CPU 환경에서 모델을 로드하고 사용하는 경우 torch.float32를 명시적으로 사용할 수 있습니다.
 model = model.to(torch.float32)