本说明书涉及数据处理，尤其涉及一种文本资讯智能审核方法、装置、设备及存储介质。
背景技术：
1、目前，随着各种社交媒体平台逐渐走向成熟，信息传播的门槛逐渐降低，用户可以便捷的在网络上传播信息。在用户贡献规模不断增长的同时，内容乱象也日渐凸显。一些不法分子利用社交媒体传播恶意推广的内容。这些有害内容不仅影响了用户体验，还给平台带来极大的法律风险，给网络环境造成了很坏的影响。因此，如何从海量信息里甄别、过滤有害内容成为了一个重要问题。目前，银行的发布终端主要通过数据泄露防护系统对待发布营销物料中的文本数据进行扫描，防止包含违反企业安全及合规策略的文本数据流出。数据泄露防护系统主要应用于企业内部网络边界、互联网边界及终端设备上，对涉及敏感数据外发、泄露风险进行检测、记录及主动处置等。然而这种方法审核能力有限，数据泄露防护系统主要通过关键字或关键字对匹配的方式识别违规内容，误报率较高，且针对简繁体混写、大小写混写、特殊字符、表情符号、等内容缺乏审核能力；同时也难以应对新型威胁，无法结合上下文、语境、语法或语义，对黑话、暗语进行识别。
2、现在亟需一种文本资讯智能审核方法，从而解决现有技术中数据泄露防护系统难以识别特殊修改过的违规内容且误报率较高，同时也难以应对新型威胁的问题。
技术实现思路
1、为解决现有技术中数据泄露防护系统基于已知的敏感字段、正则表达式进行检测不能应对新型威胁，无法结合上下对黑话、暗语进行识别的问题，本说明书实施例提供一种文本资讯智能审核方法、装置、设备及存储介质，能够基于深度学习模型，通过变体识别、语义分析、上下文关联等技术对违规词汇及其变体进行识别，利用银行业不同业务场景定制化审核模型，从而避免单一模型的误杀和漏杀，提高违规识别准确率以及审核的效率。
2、为了解决上述技术问题，本说明书的具体技术方案如下：
3、一方面，本说明书实施例提供了一种文本资讯智能审核方法，包括，
4、从发布终端的待发布内容中获取待发布文本内容，将所述待发布文本内容输入智能审核系统；
5、所述智能审核系统对所述待发布文本内容进行预处理，生成待审核文本内容；
6、基于敏感关键词库构建匹配识别规则，根据所述匹配识别规则对待审核文本内容进行筛选，获得可疑文本数据；
7、根据所述待发布内容所涉及的业务场景以及审核策略建立数据分析模型；
8、根据所述数据分析模型对所述可疑文本数据进行识别，获取违规文本数据；
9、对所述违规文本数据进行分析生成文本审核结果，并返回至所述发布终端。
10、进一步地，对所述待发布文本内容进行预处理，生成待审核文本内容进一步包括，
11、所述预处理包括以下至少一种：文本去噪、同类别信息归一化、分词断句以及去除停用词；
12、其中所述文本去噪，为删除所述待发布文本内容中的对中文分词无帮助的特殊符号；
13、所述同类别信息归一化，为将所述待发布文本内容中的数字符串和表情符号进行归并，使用统一名称替换；
14、所述分词断句，为基于分词算法和分词词表将连续的字序列组合成词序；
15、所述去除停用词，为将所述可疑文本数据中属于预先设定的停用词表中的词汇删除。
16、进一步地，所述敏感关键词库进一步包括，
17、根据所述智能审核系统的历史审核记录中的敏感词汇生成所述敏感关键词库。
18、进一步地，根据所述待发布内容所涉及的业务场景以及审核策略建立数据分析模型进一步包括，
19、根据所述待发布内容所涉及的业务场景生成目标词；
20、基于所述目标词以及预设的语义相似度扩展所述目标词生成场景词汇库。
21、进一步地，根据所述待发布内容所涉及的业务场景以及审核策略建立数据分析模型进一步包括，
22、所述审核策略包括以下至少一种：变体识别、语义分析以及上下文关联；
23、通过预设的变体词算法获取所述场景词汇库的变体识别模型；
24、通过预设的语义算法获取所述场景词汇库的语义识别模型；
25、通过预设的上下文关联算法获取所述场景词汇库的关联识别模型。
26、进一步地，所述变体词算法进一步包括，
27、获取与所述目标词长度相同的连续子字符串序列；
28、计算所述连续子字符串序列中的子字符串与所述目标词的字音相似度和字形相似度；
29、将字音相似度大于预设的字音变体阈值的子字符串作为字音变体词，将字形相似度大于预设的字形变体阈值的子字符串作为字形变体词。
30、进一步地，根据所述数据分析模型对所述可疑文本数据进行识别，获取违规文本数据进一步包括，
31、将所述可疑文本数据输入所述变体识别模型，获得所述可疑文本数据对应的违规变体识别结果；
32、将所述可疑文本数据输入所述语义识别模型，获得所述可疑文本数据对应的违规语义识别结果；
33、将所述可疑文本数据输入所述关联识别模型，获得所述可疑文本数据对应的违规关联识别结果；
34、根据所述违规变体识别结果、违规语义识别结果以及违规关联识别结果生成所述违规文本数据。
35、进一步地，对所述违规文本数据进行分析生成文本审核结果进一步包括，
36、根据违规文本数据以及文本长度的比例，获取所述待发布文本内容的置信度水平；
37、根据所述违规文本数据的内容进行风险分类；
38、根据所述违规文本数据的置信度水平以及所述风险分类生成违规处理意见以及违规内容分布作为所述文本审核结果。
39、进一步地，所述智能审核系统进一步包括，同步审核以及异步审核，
40、若所述待发布文本内容为短文本，则调用同步审核服务；
41、若所述待发布文本内容为长文本，则调用异步审核服务。
42、进一步地，对所述违规文本数据进行分析生成文本审核结果，并返回至所述发布终端进一步包括，
43、若调用同步审核服务，则直接返回审核结果；
44、若调用异步审核服务接口，则返回审核流水号，所述发布终端根据所述流水号调用审核结果查询接口轮询，或发布终端设置callback回调地址，智能审核系统将所述审核结果发送至回调地址。
45、另一方面，本说明书实施例还提供了一种文本资讯智能审核装置，包括，
46、内容获取单元，用于从发布终端的待发布内容中获取待发布文本内容，将所述待发布文本内容输入智能审核系统；
47、预处理单元，用于所述智能审核系统对所述待发布文本内容进行预处理，生成待审核文本内容；
48、可疑文本筛选单元，用于基于敏感关键词库构建匹配识别规则，根据所述匹配识别规则对待审核文本内容进行筛选，获得可疑文本数据；
49、模型建立单元，用于根据所述待发布内容所涉及的业务场景以及审核策略建立数据分析模型；
50、违规文本获取单元，用于根据所述数据分析模型对所述可疑文本数据进行识别，获取违规文本数据；
51、结果生成单元，用于对所述违规文本数据进行分析生成文本审核结果，并返回至所述发布终端。
52、另一方面，本说明书实施例还提供了一种计算机设备，包括存储器、处理器、以及存储在存储器上的计算机程序，处理器执行所述计算机程序时实现上述的方法。
53、另一方面，本说明书实施例还提供了一种计算机存储介质，其上存储有计算机程序，计算机程序被计算机设备的处理器运行时，执行上述的方法。
54、最后，本说明书实施例还提供了一种计算机程序产品，所述计算机程序产品包括计算机程序，所述计算机程序被处理器执行时，执行上述的方法。
55、利用本说明书实施例，实现了通过智能审核系统对发布终端中待发布的内容进行审核，首先从发布终端的待发布内容中获取待发布文本内容并输入至智能审核系统中，从而保证智能审核系统获取到完整的待发布文本内容，接着智能审核系统对所述待发布文本内容进行预处理生成待审核文本内容，从而避免文本内容中无用的干扰信息影响审核过程，然后基于敏感关键词库构建匹配识别规则，其中敏感关键词库可以为过往有害文本中提炼出的敏感词，从而缩小需要进行筛选的文本范围，获得可疑文本数据；然后根据待发布内容所涉及的业务场景以及审核策略建立数据分析模型，从而提高数据分析模型的针对性，避免数据量过大影响审核效率或审核针对性不足导致审核效率过低，之后利用数据分析模型对可疑文本数据进行识别，获取违规文本数据，实现了通过学习模型对多种变体进行识别，最后生成文本审核结果，并返回至发布终端。实现了通过变体识别、语义分析、上下文关联等技术对违规词汇及其变体进行识别，从而避免单一模型的无害文本误判和有害文本漏判；提高了文本审核的准确性，避免了用户恶意规避检查而造成漏检，同时利用银行业不同业务场景定制化审核模型，提高了审核模型的针对性，从而提高了文本数据审核的效率。
1.一种文本资讯智能审核方法，其特征在于，所述方法包括，
2.根据权利要求1所述的文本资讯智能审核方法，其特征在于，对所述待发布文本内容进行预处理，生成待审核文本内容进一步包括，
3.根据权利要求1所述的文本资讯智能审核方法，其特征在于，所述敏感关键词库进一步包括，
4.根据权利要求1所述的文本资讯智能审核方法，其特征在于，根据所述待发布内容所涉及的业务场景以及审核策略建立数据分析模型进一步包括，
5.根据权利要求4所述的文本资讯智能审核方法，其特征在于，根据所述待发布内容所涉及的业务场景以及审核策略建立数据分析模型进一步包括，
6.根据权利要求5所述的文本资讯智能审核方法，其特征在于，所述变体词算法进一步包括，
7.根据权利要求5所述的文本资讯智能审核方法，其特征在于，根据所述数据分析模型对所述可疑文本数据进行识别，获取违规文本数据进一步包括，
8.根据权利要求1所述的文本资讯智能审核方法，其特征在于，对所述违规文本数据进行分析生成文本审核结果进一步包括，
9.根据权利要求1所述的文本资讯智能审核方法，其特征在于，所述智能审核系统进一步包括，同步审核以及异步审核，
10.根据权利要求9所述的文本资讯智能审核方法，其特征在于，对所述违规文本数据进行分析生成文本审核结果，并返回至所述发布终端进一步包括，
11.一种文本资讯智能审核装置，其特征在于，包括，
12.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至10任意一项所述的方法。
13.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1至10任意一项所述的方法。
14.一种计算机程序产品，其特征在于，所述计算机程序产品包括计算机程序，所述计算机程序被处理器执行时实现权利要求1至10任意一项所述方法。
