Austin9
/

gemma-2-9b-it-Ko-ChatRAG-bnb-4bit

Text Generation

text-generation-inference

Inference Endpoints

4-bit precision

Model card Files Files and versions Community

Austin9 commited on Feb 11

Commit

618e2f4

·

verified ·

1 Parent(s): 6fa01a3

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -11,7 +11,7 @@ language:
 ---
 # QCR + GEN for Conversational RAG Chatbot
 ## 개요
 이 모델은 **QCR**(Query Context Rewriter)과 **GEN**(Generator) 기능을 동시에 수행하는 4비트로 머지&양자화된 모델입니다. 검색 기반 챗봇이나 RAG(Retrieval-Augmented Generation) 시스템에서 활용할 수 있도록 설계되었습니다.

 ---
 # QCR + GEN for Conversational RAG Chatbot
+데모링크: https://warm-nearby-marmoset.ngrok-free.app/
 ## 개요
 이 모델은 **QCR**(Query Context Rewriter)과 **GEN**(Generator) 기능을 동시에 수행하는 4비트로 머지&양자화된 모델입니다. 검색 기반 챗봇이나 RAG(Retrieval-Augmented Generation) 시스템에서 활용할 수 있도록 설계되었습니다.