更新使用脚本
Browse files
usage.md
CHANGED
@@ -1,20 +1,20 @@
|
|
1 |
|
2 |
-
# SpaceExploreAI-Small-Base-Regression-
|
3 |
|
4 |
## 模型描述
|
5 |
|
6 |
-
SpaceExploreAI-Small-Base-Regression-
|
7 |
|
8 |
### 主要特点
|
9 |
|
10 |
-
- **轻量化设计**:仅有
|
11 |
- **回归预测:专为价格预测等回归任务优化**
|
12 |
- **Transformer 架构**:基于 Transformer 架构,集成了 RoPE 旋转位置编码技术
|
13 |
- **多头gqa注意力**:使用先进的多头注意力机制捕捉时间序列数据模式
|
14 |
|
15 |
## 技术规格
|
16 |
|
17 |
-
- **参数量**:约
|
18 |
- **模型类型**:Transformer
|
19 |
- **隐藏层大小**:256
|
20 |
- **隐藏层数量**:4
|
@@ -24,7 +24,7 @@ SpaceExploreAI-Small-Base-Regression-5M 是一个基于深度学习的金融时
|
|
24 |
- **最大序列长度**:32
|
25 |
- **预测类型**:regression
|
26 |
- **使用 MoE**:是,混合专家模型增强了模型的表达能力
|
27 |
-
- **MOE
|
28 |
|
29 |
## 使用示例
|
30 |
|
@@ -38,6 +38,7 @@ tokenizer = AutoTokenizer.from_pretrained(model_name)
|
|
38 |
model = AutoModel.from_pretrained(model_name)
|
39 |
|
40 |
# 准备输入数据 (假设您已经有了处理好的金融数据)
|
|
|
41 |
inputs = torch.tensor([[0.1, 0.2, 0.3, ...]]) # 您的金融序列数据
|
42 |
|
43 |
# 进行预测
|
|
|
1 |
|
2 |
+
# SpaceExploreAI-Small-Base-Regression-27M
|
3 |
|
4 |
## 模型描述
|
5 |
|
6 |
+
SpaceExploreAI-Small-Base-Regression-27M 是一个基于深度学习的金融时序预测模型,专为股票价格趋势分析和预测而设计。这是 SpaceExploreAI 系列的小型版本,具有约 5M 参数,针对regression任务进行了优化。
|
7 |
|
8 |
### 主要特点
|
9 |
|
10 |
+
- **轻量化设计**:仅有 27M 参数,适合资源受限环境
|
11 |
- **回归预测:专为价格预测等回归任务优化**
|
12 |
- **Transformer 架构**:基于 Transformer 架构,集成了 RoPE 旋转位置编码技术
|
13 |
- **多头gqa注意力**:使用先进的多头注意力机制捕捉时间序列数据模式
|
14 |
|
15 |
## 技术规格
|
16 |
|
17 |
+
- **参数量**:约 27M
|
18 |
- **模型类型**:Transformer
|
19 |
- **隐藏层大小**:256
|
20 |
- **隐藏层数量**:4
|
|
|
24 |
- **最大序列长度**:32
|
25 |
- **预测类型**:regression
|
26 |
- **使用 MoE**:是,混合专家模型增强了模型的表达能力
|
27 |
+
- **MOE配置**:一个共享专家,8个专家,每个token使用2个专家,中间层大小1024
|
28 |
|
29 |
## 使用示例
|
30 |
|
|
|
38 |
model = AutoModel.from_pretrained(model_name)
|
39 |
|
40 |
# 准备输入数据 (假设您已经有了处理好的金融数据)
|
41 |
+
imputs:[batch_size, sql_len, feature_size] = [16, 32, 64]
|
42 |
inputs = torch.tensor([[0.1, 0.2, 0.3, ...]]) # 您的金融序列数据
|
43 |
|
44 |
# 进行预测
|