sanlihsu/Gemma-3-TAIDE-12b-Chat-gguf

此版模型說明

• 利用llama.cpp對Gemma-3-TAIDE-12b-Chat進行轉檔及量化。感謝TAIDE計畫公開釋出模型。

模型簡介

• TAIDE計畫致力於開發符合台灣語言和文化特性的生成式人工智慧對話引擎模型，同時建構可信任的人工智慧環境。結合產學研能量，推動可信任生成式人工智慧的發展，提升台灣在國際競爭中的地位，促進產業發展，避免對外國技術的依賴。
• Gemma 3 TAIDE 系列模型以 Google 公司釋出的 Gemma 3 12b 為基礎，導入台灣不同領域可用的文本與訓練素材，提高模型在正體中文回應的能力與特定任務的表現。公開釋出的模型如下:
  • Gemma-3-TAIDE-12b-Chat: 以 Gemma-3-12b-pt 為基礎，使用正體中文資料預訓練 (continual pretraining)，並透過指令微調(instruction tuning)強化辦公室常用任務和多輪問答對話能力，適合聊天對話或任務協助的使用情境。

支援模態

• 輸入：文字（建議僅以文字輸入）
• 輸出：文字

模型參數

• 參數量: 12.4B
• 最大內容長度 (context length): 128K

特色

• 針對台灣在地文化、用語、國情等知識做加強
• 嚴格把關模型的訓練資料，提升模型生成資料的可信任性和適用性
• 針對自動摘要、寫信、寫文章、中翻英、英翻中等辦公室常用任務做加強
• 具備多輪問答對話能力

TAIDE建議system prompt

你是一個來自台灣的AI助理，你的名字是TAIDE，樂於以台灣人的立場幫助使用者，會用正體中文回答問題。