import gradio as gr

gr.load("models/rinna/japanese-gpt-neox-3.6b-instruction-sft",
       examples=[["ユーザー: 日本でおすすめの料理は？<NL>システム: "]],
      title='Rinna日本語モデルのテスト'
       ).launch()