Adds dependencies and improves endpoint testing

Adds new dependencies for enhanced functionality.

Updates the endpoint test to include comprehensive result
verification, including execution and delay times, audio saving,
and sample rate checks.

runpod_serverless/requirements.txt

@@ -19,3 +19,17 @@ pypinyin>=0.50.0
 cn2an>=0.5.22
 inflect>=7.0.0
 num2words>=0.5.13
+bitsandbytes>0.37.0
+gradio>=3.45.2
+click
+datasets
+ema_pytorch>=0.5.2
+hydra-core>=1.3.0
+pydub
+safetensors
+tomli
+torchdiffeq
+tqdm>=4.65.0
+transformers_stream_generator
+wandb
+x_transformers>=1.31.14

runpod_serverless/test_local.py

@@ -49,8 +49,8 @@ def test_endpoint(endpoint_id):
     payload = {
         "input": {
             "ref_audio": audio_b64,
-            "gen_text": "Đây là test từ RunPod serverless endpoint.",
-            "speed": 1.2
+            "gen_text": "Học vị Phó bảng được cho là xuất phát từ danh hiệu \"Phụ bảng\" trong hệ thống khoa cử nhà Thanh, trong đó, những người đỗ Phụ bảng là những sĩ tử giỏi, có năng lực, nhưng số lượng quá nhiều, dẫn đến vượt quá giải ngạch mà triều đình đương thời cho phép. Áp dụng tương tự cho hệ thống khoa cử trong nước, vua Minh Mạng phê chuẩn thiết lập danh hiệu Phó bảng nhằm “ngoài những quyển trúng cách, thể văn quyển nào đầy đủ, tuy không bằng người có tên trong chính bảng, nhưng cũng có thực học thì xin vào Phó bảng” để “không để sót nhân tài”. Tuy mượn hình thức Phụ bảng của Trung Quốc, nhưng triều Nguyễn đã thay đổi theo cách riêng của mình nhằm tìm ra nhân tài phục vụ bộ máy chính quyền, chẳng hạn như ở Trung Quốc, Phụ bảng thấp hơn Cử nhân, tuy nhiên ở Việt Nam thì Phó bảng thấp hơn Tiến sĩ nhưng lại cao hơn Cử nhân.[1]",
+            "speed": 1
         }
     }
     
@@ -67,7 +67,20 @@ def test_endpoint(endpoint_id):
     if response.status_code == 200:
         result = response.json()
         print("Endpoint test successful!")
-        print(f"Result: {result}")
+        print(f"Execution time: {result.get('executionTime')}ms")
+        print(f"Delay time: {result.get('delayTime')}ms")
+        
+        # Extract and save audio if present
+        if 'output' in result and 'audio_base64' in result['output']:
+            audio_data = base64.b64decode(result['output']['audio_base64'])
+            with open("output_endpoint_test.wav", "wb") as f:
+                f.write(audio_data)
+            print("Output saved as output_endpoint_test.wav")
+            
+            if 'sample_rate' in result['output']:
+                print(f"Sample rate: {result['output']['sample_rate']}")
+        else:
+            print("No audio data found in response")
     else:
         print(f"Endpoint test failed: {response.status_code}")
         print(f"Response: {response.text}")