Datasets:
如何写领域分类的prompt?
你好!
看了你们的数据集构建流程,主要是调用了两个大模型进行标注,我目前也在做类似的工作,但大模型标注的效果不好,请问你们的prompt是怎么写的呢?想学习一下!
这个工作的方法:使用多个大模型进行分类推理,对结果进行投票,选择标注一致的结果。之后再用这套方案构建标注数据,训练小模型来进行分类。预训练数据规模比较大,全量调用大尺寸模型来推理成本太高了。你可以看下我们的v2版本 https://huggingface.co/datasets/BAAI/IndustryCorpus2
这个工作的方法:使用多个大模型进行分类推理,对结果进行投票,选择标注一致的结果。之后再用这套方案构建标注数据,训练小模型来进行分类。预训练数据规模比较大,全量调用大尺寸模型来推理成本太高了。你可以看下我们的v2版本 https://huggingface.co/datasets/BAAI/IndustryCorpus2
谢谢!了解基本流程了,但我参照你们的工作进行标注数据时,大模型标注的结果不是很理想,我觉得可能是prompt的问题,想请教一下你们的prompt的构建方法?
看了一下之前的代码,中文的prompt用的是下面这个,用gpt4和deepseek制作的标注数据
"""仔细阅读下面给出的文本内容,给出#Text List#所属的领域,不要给其他的任何内容。
领域名称必须从下面的#领域列表#中选择最相关的,确保选择的领域名正确,只可以选择一个最相关的领域名,不可以自己杜撰领域名称。
#领域列表#:新闻,汽车,体育,情感,编程,数学,教育,科技,医学,法律,金融,影视,农业,工业,安全,时政,文学,旅游,计算机,人工智能,其他。
按照如下的示例格式进行回答:
用户输入:使用JavaScript实现打印,打印预览,打印设置WebBrowser是IE内置的浏览器控件,无需用户下载.
所属类别:编程
用户输入:比亚迪汽车股份有限公司参加2020第十六届上海国际铸造展览会 2020年12月3-5日,第十六中国(上海)国际铸造展览会
所属类别:汽车
用户输入:2024年1月3日,东京发生地震,造成多人伤亡
所属类别:新闻
用户输入:{content}
所属类别:
看了一下之前的代码,中文的prompt用的是下面这个,用gpt4和deepseek制作的标注数据
"""仔细阅读下面给出的文本内容,给出#Text List#所属的领域,不要给其他的任何内容。
领域名称必须从下面的#领域列表#中选择最相关的,确保选择的领域名正确,只可以选择一个最相关的领域名,不可以自己杜撰领域名称。
#领域列表#:新闻,汽车,体育,情感,编程,数学,教育,科技,医学,法律,金融,影视,农业,工业,安全,时政,文学,旅游,计算机,人工智能,其他。
按照如下的示例格式进行回答:
用户输入:使用JavaScript实现打印,打印预览,打印设置WebBrowser是IE内置的浏览器控件,无需用户下载.
所属类别:编程
用户输入:比亚迪汽车股份有限公司参加2020第十六届上海国际铸造展览会 2020年12月3-5日,第十六中国(上海)国际铸造展览会
所属类别:汽车
用户输入:2024年1月3日,东京发生地震,造成多人伤亡
所属类别:新闻
用户输入:{content}
所属类别:
非常感谢!!