NEOAI commited on
Commit
18dc30c
·
verified ·
1 Parent(s): f4b9693

更新使用脚本

Browse files
Files changed (1) hide show
  1. usage.md +6 -5
usage.md CHANGED
@@ -1,20 +1,20 @@
1
 
2
- # SpaceExploreAI-Small-Base-Regression-5M
3
 
4
  ## 模型描述
5
 
6
- SpaceExploreAI-Small-Base-Regression-5M 是一个基于深度学习的金融时序预测模型,专为股票价格趋势分析和预测而设计。这是 SpaceExploreAI 系列的小型版本,具有约 5M 参数,针对regression任务进行了优化。
7
 
8
  ### 主要特点
9
 
10
- - **轻量化设计**:仅有 5M 参数,适合资源受限环境
11
  - **回归预测:专为价格预测等回归任务优化**
12
  - **Transformer 架构**:基于 Transformer 架构,集成了 RoPE 旋转位置编码技术
13
  - **多头gqa注意力**:使用先进的多头注意力机制捕捉时间序列数据模式
14
 
15
  ## 技术规格
16
 
17
- - **参数量**:约 5M
18
  - **模型类型**:Transformer
19
  - **隐藏层大小**:256
20
  - **隐藏层数量**:4
@@ -24,7 +24,7 @@ SpaceExploreAI-Small-Base-Regression-5M 是一个基于深度学习的金融时
24
  - **最大序列长度**:32
25
  - **预测类型**:regression
26
  - **使用 MoE**:是,混合专家模型增强了模型的表达能力
27
- - **MOE配置**:8个专家,每个token使用2个专家,中间层大小1024
28
 
29
  ## 使用示例
30
 
@@ -38,6 +38,7 @@ tokenizer = AutoTokenizer.from_pretrained(model_name)
38
  model = AutoModel.from_pretrained(model_name)
39
 
40
  # 准备输入数据 (假设您已经有了处理好的金融数据)
 
41
  inputs = torch.tensor([[0.1, 0.2, 0.3, ...]]) # 您的金融序列数据
42
 
43
  # 进行预测
 
1
 
2
+ # SpaceExploreAI-Small-Base-Regression-27M
3
 
4
  ## 模型描述
5
 
6
+ SpaceExploreAI-Small-Base-Regression-27M 是一个基于深度学习的金融时序预测模型,专为股票价格趋势分析和预测而设计。这是 SpaceExploreAI 系列的小型版本,具有约 5M 参数,针对regression任务进行了优化。
7
 
8
  ### 主要特点
9
 
10
+ - **轻量化设计**:仅有 27M 参数,适合资源受限环境
11
  - **回归预测:专为价格预测等回归任务优化**
12
  - **Transformer 架构**:基于 Transformer 架构,集成了 RoPE 旋转位置编码技术
13
  - **多头gqa注意力**:使用先进的多头注意力机制捕捉时间序列数据模式
14
 
15
  ## 技术规格
16
 
17
+ - **参数量**:约 27M
18
  - **模型类型**:Transformer
19
  - **隐藏层大小**:256
20
  - **隐藏层数量**:4
 
24
  - **最大序列长度**:32
25
  - **预测类型**:regression
26
  - **使用 MoE**:是,混合专家模型增强了模型的表达能力
27
+ - **MOE配置**:一个共享专家,8个专家,每个token使用2个专家,中间层大小1024
28
 
29
  ## 使用示例
30
 
 
38
  model = AutoModel.from_pretrained(model_name)
39
 
40
  # 准备输入数据 (假设您已经有了处理好的金融数据)
41
+ imputs:[batch_size, sql_len, feature_size] = [16, 32, 64]
42
  inputs = torch.tensor([[0.1, 0.2, 0.3, ...]]) # 您的金融序列数据
43
 
44
  # 进行预测