一种基于webSpoon的水利数据集成与共享方法、设备及介质与流程

    专利查询2025-04-19  21


    本发明涉及数据处理,尤其涉及一种基于webspoon的水利数据集成与共享方法、设备及介质。


    背景技术:

    1、随着水利信息化的发展,水利数据集成与共享的需求越来越多,例如,上级水利局需要收集下级各监测站的数据,同时也需要将其掌握的部分数据向下级某监测站进行共享下发。

    2、目前主要依赖专业的数据实施人员通过工具来实现水利数据的集成与共享,响应时间上和数据安全上都存在问题。如何让水利业务人员简单快速完成数据的集成与共享的任务,摆脱对第三方数据实施人员的依赖,是一个亟待解决的问题。


    技术实现思路

    1、本发明提供了一种基于webspoon的水利数据集成与共享方法、设备及介质,用于解决上述技术问题中的至少一个。

    2、本发明采用下述技术方案:

    3、第一方面,本发明提供了一种基于webspoon的水利数据集成与共享方法,所述方法包括:获取待执行的数据集成与共享任务,并将所述数据集成与共享任务分解成数据集成任务和数据共享任务;基于所述数据集成与共享任务的配置信息确定所述数据集成任务的对应集成方式,并通过所述对应集成方式执行所述数据集成任务;将所述数据集成任务的执行结果向所述数据共享任务传递,以通过所述数据共享任务分发所述执行结果。

    4、在本发明的一种可能实现方式中,获取待执行的数据集成与共享任务之前,所述方法还包括:确定所述数据集成与共享任务对应的配置信息;基于所述配置信息,通过前端页面向导式配置,自动生成所述数据集成与共享任务。

    5、在本发明的一种可能实现方式中,所述配置信息至少包括数据来源;基于所述数据集成与共享任务的配置信息确定所述数据集成任务的对应集成方式,包括:若所述数据来源为库表数据,则所述数据集成任务采用库表集成方式,所述库表集成方式至少包括多表集成和整库集成;通过前端页面向导式配置对所述库表集成方式进行配置,并在后台自动生成kettle任务。

    6、在本发明的一种可能实现方式中,所述配置信息至少包括数据来源;基于所述数据集成与共享任务的配置信息确定所述数据集成任务的对应集成方式,包括:若所述数据来源为接口数据,则所述数据集成任务采用接口集成方式;通过前端页面向导式配置对所述接口集成方式进行配置,并在后台自动生成kettle任务。

    7、在本发明的一种可能实现方式中,所述配置信息至少包括数据来源;基于所述数据集成与共享任务的配置信息确定所述数据集成任务的对应集成方式,包括:若所述数据来源为文件数据,则所述数据集成任务采用文件集成方式;通过前端页面向导式配置对所述文件集成方式进行配置,并在后台自动生成kettle任务。

    8、在本发明的一种可能实现方式中,在得到所述数据集成任务的执行结果后,所述方法还包括:执行数据合并过程,具体为,对所述执行结果中的同类数据进行合并汇聚。

    9、在本发明的一种可能实现方式中,将所述数据集成任务的执行结果向所述数据共享任务传递前,所述方法还包括:基于所述数据集成与共享任务对应的数据权限和数据需求,生成数据过滤条件;利用所述数据过滤条件对所述执行结果进行过滤处理;将处理后的所述执行结果向所述数据共享任务传递。

    10、在本发明的一种可能实现方式中,所述方法还包括:在所述数据集成与共享任务执行过程中,对任务运行状态、集成与共享的数据量和任务运行日志进行监控;在所述数据集成与共享任务执行结束后,将任务信息、任务配置信息、任务执行日志和任务状态存储到资源库中。

    11、第二方面,本发明还提供了一种基于webspoon的水利数据集成与共享设备,所述设备包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有能够被所述至少一个处理器执行的指令,以使所述至少一个处理器能够执行,获取待执行的数据集成与共享任务,并将所述数据集成与共享任务分解成数据集成任务和数据共享任务;基于所述数据集成与共享任务的配置信息确定所述数据集成任务的对应集成方式,并通过所述对应集成方式执行所述数据集成任务;将所述数据集成任务的执行结果向所述数据共享任务传递,以通过所述数据共享任务分发所述执行结果。

    12、第三方面,本发明还提供了一种非易失性计算机存储介质,存储有计算机可执行指令,所述计算机可执行指令设置为执行,获取待执行的数据集成与共享任务,并将所述数据集成与共享任务分解成数据集成任务和数据共享任务;基于所述数据集成与共享任务的配置信息确定所述数据集成任务的对应集成方式,并通过所述对应集成方式执行所述数据集成任务;将所述数据集成任务的执行结果向所述数据共享任务传递,以通过所述数据共享任务分发所述执行结果。

    13、本发明提供的一种基于webspoon的水利数据集成与共享方法、设备及介质,具有以下有益效果:

    14、1、本发明中的数据集成与共享的方法,采用了b/s架构,可通过前端页面向导式配置完成水利行业数据的集成与共享需求,操作简单方便,技术要求不高,对业务人员友好。

    15、2、本发明中的数据集成与共享的方法根据页面配置信息自动创建数据集成与共享任务,减少了手动配置任务可能出现的错误,保证了任务配置的准确性。

    16、3、本发明中的中的数据集成与共享的方法可实现分布式部署,保证系统的稳定性。

    17、4、本发明中的数据集成与共享的方法支持通用数据库、文件、接口等不同类型的数据接入,无需部署多套工具进行数据汇聚。

    18、5、本发明中的数据集成与共享的方法在数据分发共享时,支持数据过滤,保证最小权限的数据共享,保证了数据安全。

    19、6、本发明中的数据集成与共享的方法还提供了数据集成与共享任务的监控功能,可快速定位任务执行过程中可能出现的问题。



    技术特征:

    1.一种基于webspoon的水利数据集成与共享方法,其特征在于,所述方法包括:

    2.根据权利要求1所述的一种基于webspoon的水利数据集成与共享方法,其特征在于,获取待执行的数据集成与共享任务之前,所述方法还包括:

    3.根据权利要求1所述的一种基于webspoon的水利数据集成与共享方法,其特征在于,所述配置信息至少包括数据来源;

    4.根据权利要求1所述的一种基于webspoon的水利数据集成与共享方法,其特征在于,所述配置信息至少包括数据来源;

    5.根据权利要求1所述的一种基于webspoon的水利数据集成与共享方法,其特征在于,所述配置信息至少包括数据来源;

    6.根据权利要求1所述的一种基于webspoon的水利数据集成与共享方法,其特征在于,在得到所述数据集成任务的执行结果后,所述方法还包括:

    7.根据权利要求1所述的一种基于webspoon的水利数据集成与共享方法,其特征在于,将所述数据集成任务的执行结果向所述数据共享任务传递前,所述方法还包括:

    8.根据权利要求1所述的一种基于webspoon的水利数据集成与共享方法,其特征在于,所述方法还包括:

    9.一种基于webspoon的水利数据集成与共享设备,其特征在于,所述设备包括:

    10.一种非易失性计算机存储介质,存储有计算机可执行指令,所述计算机可执行指令设置为执行,获取待执行的数据集成与共享任务,并将所述数据集成与共享任务分解成数据集成任务和数据共享任务;基于所述数据集成与共享任务的配置信息确定所述数据集成任务的对应集成方式,并通过所述对应集成方式执行所述数据集成任务;将所述数据集成任务的执行结果向所述数据共享任务传递,以通过所述数据共享任务分发所述执行结果。


    技术总结
    本发明公开了一种基于webSpoon的水利数据集成与共享方法、设备及介质,属于数据处理技术领域。方法包括:获取待执行的数据集成与共享任务,并将所述数据集成与共享任务分解成数据集成任务和数据共享任务;基于所述数据集成与共享任务的配置信息确定所述数据集成任务的对应集成方式,并通过所述对应集成方式执行所述数据集成任务;将所述数据集成任务的执行结果向所述数据共享任务传递,以通过所述数据共享任务分发所述执行结果。本发明提供的方法可通过前端页面向导式配置完成水利行业数据的集成与共享需求,操作简单方便,技术要求不高,对业务人员友好。减少了手动配置任务可能出现的错误,保证了任务配置的准确性。

    技术研发人员:曲建龙,张惠潼,王旭恒,张宇,房爱印,尹曦萌
    受保护的技术使用者:山东浪潮智水数字科技有限公司
    技术研发日:
    技术公布日:2024/11/26
    转载请注明原文地址:https://tc.8miu.com/read-27701.html

    最新回复(0)