7월 9일 모델 업데이트 후 에러

#28
by kiyounglee - opened

기존에 잘 되던 소스 코드에서 새로 모델을 받고 나니 해당하는 에러가 발생 하는거 같습니다.

<소스코드>
new_vlm_chat, all_images, is_video_list = preprocessor.load_images_videos(vlm_chat)

<에러 문구>
'HCXProcessor' object has no attribute 'load_images_videos'
AttributeError: 'HCXProcessor' object has no attribute 'load_images_videos'

HyperCLOVA X org
edited Jul 9

안녕하세요,
최근 BC-break feature 들이 추가되었습니다. (https://huggingface.co/naver-hyperclovax/HyperCLOVAX-SEED-Vision-Instruct-3B/discussions/27)
최신 huggingface Processor 와 향상된 가독성, 그리고 vLLM support 를 위한 변화입니다.

기존 동작을 유지하시려면 다음과 같이 모델을 로드해 주시면 됩니다.

model_name = "naver-hyperclovax/HyperCLOVAX-SEED-Vision-Instruct-3B"
revision="v0.1.0"
model = AutoModelForCausalLM.from_pretrained(model_name, trust_remote_code=True, revision=revision).to(device="cuda")
preprocessor = AutoProcessor.from_pretrained(model_name, trust_remote_code=True, revision=revision)
tokenizer = AutoTokenizer.from_pretrained(model_name, revision=revision)

최신 모델구조의 사용법은 다소 변경이 되었습니다.
transformers 버전을 up 해야 하거나, 최신 chat-template 구조를 사용하시게 된다면 main 브랜치의 모델을 사용해 주세요.
새로운 모델의 상세한 사용방법은 readme 를 참고 부탁드립니다.

감사합니다.

네 감사합니다.

DongHyunKim changed discussion status to closed

Sign up or log in to comment