Gazou-Seiri-Bu commited on
Commit
50f1835
·
verified ·
1 Parent(s): f1781cb

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +17 -11
README.md CHANGED
@@ -8,17 +8,24 @@ language:
8
  - en
9
  ---
10
  # Auto-Voice-Story
11
- ![](Auto-Voice-Story.png)
12
 
13
  ## 概要
14
-
15
- ローカルLLM実行ソフトollamaで作ったストーリーのセリフをAI音声合成ソフトのStyle-Bert-Vits2に渡して声を作る作業をComfy UIで自動化したワークフローです。<br>
16
  生成した声は実行順にナンバリングされたファイル名がつけられ、フォルダ内連続再生を設定した音声プレイヤーでボイスドラマとして聞くことができます。<br>
17
  現在ComfyでローカルLLMを実行するのには様々なカスタムノードがあり、ManagerでLLMを検索するとLLM partyというノードが最も人気があるのですが、<br>
18
  私の環境ではモデルの切り替えに失敗してエラーになることが多いので、今回はComfy上でollamaを操作できるようになるcomfyui-ollamaというノードを使っています。<br>
19
  Comfyでもう別のLLMノードを使っている方はそちらに置き換えてくださって結構ですし、ストーリーをChat GPTなどオンラインのLLMサービスに書かせたり、
20
  自分で話を全部書くという方はollamaのインストールは必要ありません。<br>
21
 
 
 
 
 
 
 
 
 
 
22
  【ollamaのインストール】<br>
23
  https://ollama.com/<br>
24
  ollamaはソフト本体に加えggufモデルのインストールが必要です。解説記事やChat GPTなどをご参考に。<br>
@@ -29,7 +36,7 @@ https://github.com/litagin02/Style-Bert-VITS2<br>
29
  これ一本で音声合成からモデルの作成までできるようになるので、リポジトリの説明手順に従ってインストールして下さい。<br>
30
  制作者のlitaginさん自らの使い方解説のYouTube動画が非常にわかりやすいです。<br>
31
  Style-Bert-VITS2は最初から男女計4つの声モデルが入っているのですぐに声の生成を実行することができます。<br>
32
- ワークフローの実行の前にStyle-Bert-VITS2フォルダの下のServer.batをダブルクリックしてプログラムを起動しておいて下さい。<br>
33
  ![](screen.jpg)
34
  ## ワークフローの実行方法
35
  Style-Bert-Vits2とAPIを使ってデータをやり取りするカスタムノードをComfyに入れる必要があります。<br>
@@ -39,9 +46,11 @@ ComfyUIの起動前に以下のライブラリをインストールして下さ
39
 
40
  pip install soundfile requests<br>
41
 
42
- Auto-Voice-Story.pngにワークフローが入っているのでブラウザにドロップして下さい。Auto_Voice_Story.pyで入れたカスタムノードの働きはワークフローの中にnoteで書いてあります。<br>
 
43
  現状、LLMの出力にはまだまだハズレが多いので、まずワークフロー左半分でストーリーガチャをして、<br>
44
  あたりの文章が出たらそれを推敲して右半分に渡して声生成というセミオート運用が現実的だと思います。適宜左右Groupのバイパスを切り替えてください。<br>
 
45
  ## 音声単独生成フロー
46
  ![](Auto-Voice-Story+.png)
47
  声の修正用や追加用にセリフを単独で生成するワークフローです。音声を試聴しながらセーブする声を選べます。<br>
@@ -54,9 +63,6 @@ Auto-Voice-Story.pngにワークフローが入っているのでブラウザに
54
  同じ登場人物、同じモデルのストーリーだったら複数一括して声を生成することができます。<br>
55
  ストーリーをtxtファイルの形で複数用意して、一つのフォルダに入れます。<br>
56
  フォルダのパスを入力するとtxtを順番に読み込んで声を生成し、パスのフォルダ内に声フォルダを作ってそこに声ファイルを保存します���<br>
57
- ## 音声再生フロー
58
- ![](Auto-Voice-Story+++.png)
59
- 一応Comfy上でボイスドラマを再生できるカスタムノードとフローも作ってみました。<br>
60
- カスタムノードを動かすためには、ffmpegのパスが通っている必要があります。<br>
61
- 一度再生すると×ボタンを押しても中断されず、フォルダ内のナンバリングされたファイルを全て読むまで止まらないので<br>
62
- 無理して使う必要はありません。<br>
 
8
  - en
9
  ---
10
  # Auto-Voice-Story
 
11
 
12
  ## 概要
13
+ ローカルLLM実行ソフトollamaで作ったストーリーのセリフをAI音声合成ソフトStyle-Bert-Vits2に渡して声を作る作業をComfy UIで自動化したワークフローです。<br>
 
14
  生成した声は実行順にナンバリングされたファイル名がつけられ、フォルダ内連続再生を設定した音声プレイヤーでボイスドラマとして聞くことができます。<br>
15
  現在ComfyでローカルLLMを実行するのには様々なカスタムノードがあり、ManagerでLLMを検索するとLLM partyというノードが最も人気があるのですが、<br>
16
  私の環境ではモデルの切り替えに失敗してエラーになることが多いので、今回はComfy上でollamaを操作できるようになるcomfyui-ollamaというノードを使っています。<br>
17
  Comfyでもう別のLLMノードを使っている方はそちらに置き換えてくださって結構ですし、ストーリーをChat GPTなどオンラインのLLMサービスに書かせたり、
18
  自分で話を全部書くという方はollamaのインストールは必要ありません。<br>
19
 
20
+ ### ※25/03/22 音声プレイヤーのVoice-Story-Playerをアップロードしました
21
+ https://huggingface.co/datasets/Gazou-Seiri-Bu/Auto-Voice-Story
22
+ 作った声を画像・動画とBGM付きで再生できるVoice-Story-Playerを作りました。
23
+ ![](https://huggingface.co/datasets/Gazou-Seiri-Bu/Voice-Story-Player/resolve/main/0316-113144.jpg)
24
+
25
+ 以下のワークフローで声を作ると声フォルダ内に「scenario.txt」が作成され
26
+ 声と同時にセリフも表示されるようになります。
27
+ ![](声+テキストデータ生成フロー.png)
28
+
29
  【ollamaのインストール】<br>
30
  https://ollama.com/<br>
31
  ollamaはソフト本体に加えggufモデルのインストールが必要です。解説記事やChat GPTなどをご参考に。<br>
 
36
  これ一本で音声合成からモデルの作成までできるようになるので、リポジトリの説明手順に従ってインストールして下さい。<br>
37
  制作者のlitaginさん自らの使い方解説のYouTube動画が非常にわかりやすいです。<br>
38
  Style-Bert-VITS2は最初から男女計4つの声モデルが入っているのですぐに声の生成を実行することができます。<br>
39
+ ワークフローの実行の前にStyle-Bert-VITS2フォルダのServer.batをダブルクリックしてプログラムを起動しておいて下さい。<br>
40
  ![](screen.jpg)
41
  ## ワークフローの実行方法
42
  Style-Bert-Vits2とAPIを使ってデータをやり取りするカスタムノードをComfyに入れる必要があります。<br>
 
46
 
47
  pip install soundfile requests<br>
48
 
49
+ 声+テキストデータ生成フロー.pngにワークフローが入っているのでブラウザにドロップして下さい。足りないカスタムノードをManagerからインストールして下さい。<br>
50
+ Auto_Voice_Story.pyで入れたカスタムノードの働きはワークフローの中にnoteで書いてあります。<br>
51
  現状、LLMの出力にはまだまだハズレが多いので、まずワークフロー左半分でストーリーガチャをして、<br>
52
  あたりの文章が出たらそれを推敲して右半分に渡して声生成というセミオート運用が現実的だと思います。適宜左右Groupのバイパスを切り替えてください。<br>
53
+
54
  ## 音声単独生成フロー
55
  ![](Auto-Voice-Story+.png)
56
  声の修正用や追加用にセリフを単独で生成するワークフローです。音声を試聴しながらセーブする声を選べます。<br>
 
63
  同じ登場人物、同じモデルのストーリーだったら複数一括して声を生成することができます。<br>
64
  ストーリーをtxtファイルの形で複数用意して、一つのフォルダに入れます。<br>
65
  フォルダのパスを入力するとtxtを順番に読み込んで声を生成し、パスのフォルダ内に声フォルダを作ってそこに声ファイルを保存します���<br>
66
+ ## 音声生成フロー
67
+ Scenario.txtを作成しない昔のフローも一応残しておきます。
68
+ ![](Auto-Voice-Story.png)