Text Generation
GGUF
Chinese
security
chat
conversational
wygbb commited on
Commit
f7a3d28
·
verified ·
1 Parent(s): 63ed4a6

Upload folder using huggingface_hub

Browse files
Files changed (3) hide show
  1. .gitattributes +1 -35
  2. README.md +87 -0
  3. SecGPT-1.5B-F16.gguf +3 -0
.gitattributes CHANGED
@@ -1,35 +1 @@
1
- *.7z filter=lfs diff=lfs merge=lfs -text
2
- *.arrow filter=lfs diff=lfs merge=lfs -text
3
- *.bin filter=lfs diff=lfs merge=lfs -text
4
- *.bz2 filter=lfs diff=lfs merge=lfs -text
5
- *.ckpt filter=lfs diff=lfs merge=lfs -text
6
- *.ftz filter=lfs diff=lfs merge=lfs -text
7
- *.gz filter=lfs diff=lfs merge=lfs -text
8
- *.h5 filter=lfs diff=lfs merge=lfs -text
9
- *.joblib filter=lfs diff=lfs merge=lfs -text
10
- *.lfs.* filter=lfs diff=lfs merge=lfs -text
11
- *.mlmodel filter=lfs diff=lfs merge=lfs -text
12
- *.model filter=lfs diff=lfs merge=lfs -text
13
- *.msgpack filter=lfs diff=lfs merge=lfs -text
14
- *.npy filter=lfs diff=lfs merge=lfs -text
15
- *.npz filter=lfs diff=lfs merge=lfs -text
16
- *.onnx filter=lfs diff=lfs merge=lfs -text
17
- *.ot filter=lfs diff=lfs merge=lfs -text
18
- *.parquet filter=lfs diff=lfs merge=lfs -text
19
- *.pb filter=lfs diff=lfs merge=lfs -text
20
- *.pickle filter=lfs diff=lfs merge=lfs -text
21
- *.pkl filter=lfs diff=lfs merge=lfs -text
22
- *.pt filter=lfs diff=lfs merge=lfs -text
23
- *.pth filter=lfs diff=lfs merge=lfs -text
24
- *.rar filter=lfs diff=lfs merge=lfs -text
25
- *.safetensors filter=lfs diff=lfs merge=lfs -text
26
- saved_model/**/* filter=lfs diff=lfs merge=lfs -text
27
- *.tar.* filter=lfs diff=lfs merge=lfs -text
28
- *.tar filter=lfs diff=lfs merge=lfs -text
29
- *.tflite filter=lfs diff=lfs merge=lfs -text
30
- *.tgz filter=lfs diff=lfs merge=lfs -text
31
- *.wasm filter=lfs diff=lfs merge=lfs -text
32
- *.xz filter=lfs diff=lfs merge=lfs -text
33
- *.zip filter=lfs diff=lfs merge=lfs -text
34
- *.zst filter=lfs diff=lfs merge=lfs -text
35
- *tfevents* filter=lfs diff=lfs merge=lfs -text
 
1
+ *.gguf filter=lfs diff=lfs merge=lfs -text
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
README.md ADDED
@@ -0,0 +1,87 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ base_model: SecGPT/SecGPT-1.5B
3
+ language:
4
+ - zh
5
+ license: apache-2.0
6
+ pipeline_tag: text-generation
7
+ tags:
8
+ - security
9
+ - chat
10
+ quantized_by: clouditera
11
+ ---
12
+
13
+ # SecGPT-1.5B GGUF 模型(F16 版本)
14
+
15
+ 本模型为 **SecGPT-1.5B** 的 GGUF 格式 F16 精度版本,专为 [Ollama](https://ollama.com) 与 [llama.cpp](https://github.com/ggerganov/llama.cpp) 推理框架优化,适用于在本地安全场景中低延迟、高并发部署。
16
+
17
+ ## 模型信息
18
+
19
+ - **模型名称**:SecGPT-1.5B
20
+ - **格式**:GGUF
21
+ - **精度**:F16(无量化)
22
+ - **上下文长度**:32768 tokens
23
+ - **推理框架支持**:Ollama / llama.cpp
24
+
25
+ ## 推理框架推荐:Ollama
26
+
27
+ 你可以使用 [Ollama](https://ollama.com) 本地运行该模型,部署简单,支持 GPU 加速推理。
28
+
29
+ ### 示例:启动模型
30
+
31
+ 1. 创建 `Modelfile` 文件,内容如下:
32
+
33
+ ```Dockerfile
34
+ FROM ./SecGPT-1.5B-GGUF/SecGPT-1.5B-F16.gguf
35
+
36
+ PARAMETER temperature 0.7
37
+ PARAMETER top_p 0.8
38
+ PARAMETER repeat_penalty 1.05
39
+ TEMPLATE """{{ if .System }}<|im_start|>system
40
+ {{ .System }}<|im_end|>
41
+ {{ end }}{{ if .Prompt }}<|im_start|>user
42
+ {{ .Prompt }}<|im_end|>
43
+ {{ end }}<|im_start|>assistant
44
+ {{ .Response }}<|im_end|>"""
45
+ # set the system message
46
+ SYSTEM """
47
+ You are a helpful assistant.
48
+ """
49
+ ```
50
+
51
+ 2. 在与 `Modelfile` 文件的目录下,执行以下命令构建模型:
52
+
53
+ ```bash
54
+ ollama create secgpt-1.5b -f Modelfile
55
+ ```
56
+
57
+ 3. 运行模型:
58
+
59
+ ```bash
60
+ ollama run secgpt-1.5b
61
+ ```
62
+
63
+ ##
64
+
65
+ SecGPT 是一个面向网络安全领域的大模型开源项目,我们相信开放、协作、共享的力量,能够不断推动行业智能化进程。
66
+
67
+ 我们诚挚邀请全球的安全研究者、工程师、爱好者共同参与 SecGPT 的建设与优化:
68
+
69
+ - 🧠 提出使用建议或功能需求
70
+ - 🐞 反馈问题并提交 Issue
71
+ - 💻 贡献代码与安全任务数据集
72
+ - 📢 参与使用经验交流与最佳实践分享
73
+
74
+ 📬 若您对模型有任何疑问或合作意向,欢迎通过 GitHub 参与贡献或联系云起无垠团队。我们期待与更多志同道合的伙伴一起,共建“真正懂安全”的 AI 系统。
75
+
76
+ ## ⭐ Star History
77
+
78
+ [![Star History Chart](https://api.star-history.com/svg?repos=Clouditera/secgpt&type=Date)](https://star-history.com/#Clouditera/secgpt&Date)
79
+
80
+ ## ⚠️ 免责声明
81
+
82
+ 在使用 SecGPT 时,请您注意以下事项:
83
+
84
+ - 本项目为研究与交流目的所构建,输出内容可能受限于模型训练数据的覆盖范围;
85
+ - 用户在使用模型过程中,应自行判断其输出的正确性与适用性;
86
+ - 若您计划将本模型用于 **公开发布或商业化部署**,请务必明确承担相关法律和合规责任;
87
+ - 本项目的开发者对因使用本模型(包括但不限于模型本身、训练数据、输出内容)所可能产生的任何直接或间接损害概不负责。
SecGPT-1.5B-F16.gguf ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:eca4668d88fc73f6abb92e55c932084991da982ab8c43b734ee5de40ca9c0ae2
3
+ size 3093668800