一种咨政文本写作方法、装置、存储介质及电子设备与流程

文档序号:37558549发布日期:2024-04-09 17:51阅读:74来源:国知局
一种咨政文本写作方法、装置、存储介质及电子设备与流程

本说明书涉及计算机,尤其涉及一种咨政文本写作方法、装置、存储介质及电子设备。


背景技术:

1、随着人工智能技术与大语言模型(large?language?model,llm)不断的发展,越来越多的用户开始使用大语言模型进行语言类的生成式人工智能(artificialintelligence?generated?content,aigc)创作。尤其是在写作领域,?llm可以凭借强大的语言处理能力帮助用户形成初稿、修改润色、形成正文,既提升了写作效率,又降低了写作门槛,使得部分原来并不具备写作能力的用户,也能产出写作文本。

2、然而,由于现有的大语言模型都是根据互联网的通用语料库训练得到,因此其局限性也非常明显,即只能生成通用类的写作文章,缺少对特定领域的理解和表达,aicg结果差强人意,难以为用户的工作提供有效的帮助。

3、例如,咨政写作是公文写作中的一个细分领域,其内容包括发展规划、调研报告等。除了需要具备一般公文写作的行文、用语和逻辑以外,咨政报告的格式和要求还有一定的特殊性,需要对文章所涉主题的现状、问题、对策建议等内容有非常清晰的描述,既要保证文章整体的逻辑性,还需要对问题分析有大局观,对策建议有建设性。这些都是当前基于通用大语言模型的aigc技术所不能实现的目标。

4、因此,如何利用llm更好地进行咨政领域的aigc创作是一个亟待解决的问题。


技术实现思路

1、本说明书提供一种咨政文本写作方法、装置、存储介质及电子设备,以至少部分地解决现有技术存在的上述问题。

2、本说明书采用下述技术方案:

3、本说明书提供了一种咨政文本写作方法,包括:

4、获取样本咨政报告文本以及预先训练的大语言模型;

5、将所述样本咨政报告文本作为训练样本,通过lora方法对所述大语言模型进行微调,得到咨政专家大模型;

6、根据写作目标向所述咨政专家大模型输入写作指令,以使所述咨政专家大模型生成符合所述写作目标的咨政文本。

7、可选地,所述样本咨政报告文本至少包括政策法规、规划计划、政策建议、政策理论学术文章。

8、可选地,在将所述样本咨政报告文本作为训练样本,通过lora方法对所述大语言模型进行微调之前,所述方法还包括:

9、对所述样本咨政报告文本进行分类处理,得到通用咨政语料库和若干专业领域咨政语料库,所述分类处理至少包括数据清洗、文本筛选、结构映射、语义消歧;

10、将所述样本咨政报告文本作为训练样本,具体包括:

11、将所述通用咨政语料库和各专业领域咨政语料库作为训练样本。

12、可选地,根据写作目标向所述咨政专家大模型输入写作指令,以使所述咨政专家大模型生成符合所述写作目标的咨政文本,具体包括:

13、根据写作目标向所述咨政专家大模型输入写作指令,使所述咨政专家大模型生成符合所述写作目标的文本大纲、与所述文本大纲匹配的文本段落以及根据所述文本段落构成的文本全文。

14、可选地,所述方法还包括:

15、将咨政文本素材输入所述咨政专家大模型,并向所述咨政专家大模型输入提取指令,以使所述咨政专家大模型提取所述咨政文本素材中的关键信息。

16、可选地,所述方法还包括:

17、将目标问题输入所述咨政专家大模型,并向所述咨政专家大模型输入分析指令,以使所述咨政专家大模型输出与所述目标问题对应的咨政论点。

18、可选地,所述方法还包括:

19、将待优化咨政文本输入所述咨政专家大模型,并向所述咨政专家大模型输入优化指令,使所述咨政专家大模型对所述待优化咨政文本进行优化,并输出优化后咨政文本。

20、本说明书提供的一种咨政文本写作装置,所述装置包括:

21、获取???,用于获取样本咨政报告文本以及预先训练的大语言模型;

22、训练???,用于将所述样本咨政报告文本作为训练样本,通过lora方法对所述大语言模型进行微调,得到咨政专家大模型;

23、写作???,用于根据写作目标向所述咨政专家大模型输入写作指令,以使所述咨政专家大模型生成符合所述写作目标的咨政文本。

24、本说明书提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述咨政文本写作方法。

25、本说明书提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述咨政文本写作方法。

26、本说明书采用的上述至少一个技术方案能够达到以下有益效果:

27、在本说明书提供的咨政文本写作方法中,获取样本咨政报告文本以及预先训练的大语言模型;将所述样本咨政报告文本作为训练样本,通过lora方法对所述大语言模型进行微调,得到咨政专家大模型;根据写作目标向所述咨政专家大模型输入写作指令,以使所述咨政专家大模型生成符合所述写作目标的咨政文本。

28、在采用本说明书提供的咨政文本写作方法通过大语言模型生成咨政文本时,可利用从各种渠道采集的样本咨政报告文本对大语言模型进行定向训练,得到具备咨政领域专业知识的咨政专家大模型,并通过与咨政专家大模型进行指令交互得到咨政专家大模型生成的咨政文本。本方法通过结合大语言模型与咨政领域的语料,可以简单高效地构建出用于咨政写作的咨政专家大模型,有效降低咨政报告写作的门槛,提升写作效率。



技术特征:

1.一种咨政文本写作方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,所述样本咨政报告文本至少包括政策法规、规划计划、政策建议、政策理论学术文章。

3.如权利要求1所述的方法,其特征在于,在将所述样本咨政报告文本作为训练样本,通过lora方法对所述大语言模型进行微调之前,所述方法还包括:

4.如权利要求1所述的方法,其特征在于,根据写作目标向所述咨政专家大模型输入写作指令,以使所述咨政专家大模型生成符合所述写作目标的咨政文本,具体包括:

5.如权利要求1所述的方法,其特征在于,所述方法还包括:

6.如权利要求1所述的方法,其特征在于,所述方法还包括:

7.如权利要求1所述的方法,其特征在于,所述方法还包括:

8.一种咨政文本写作装置,其特征在于,包括:

9.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1~7任一项所述的方法。

10.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现上述权利要求1~7任一项所述的方法。


技术总结
本说明书公开了一种咨政文本写作方法、装置、存储介质及电子设备。在本说明书提供的咨政文本写作方法中,获取样本咨政报告文本以及预先训练的大语言模型;将所述样本咨政报告文本作为训练样本,通过LoRA方法对所述大语言模型进行微调,得到咨政专家大模型;根据写作目标向所述咨政专家大模型输入写作指令,以使所述咨政专家大模型生成符合所述写作目标的咨政文本。

技术研发人员:董波,林苗,李亚玲,蔡京京,柏洁明,牛大明
受?;さ募际跏褂谜撸?/b>之江实验室
技术研发日:
技术公布日:2024/4/8
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1
imtoken助记词怎么填-imtoken钱包没有收益-imtoken矿工费太贵了-im钱包官网:token.im