数据汇聚方法、装置、设备及计算机可读存储介质与流程

未命名 10-09 阅读:98 评论:0


1.本技术涉及大数据技术领域,特别涉及一种数据汇聚方法、装置、设备及计算机可读存储介质。


背景技术:

2.各类数据往往存储于不同的多个平台之间。当任一平台存在数据汇聚需求时,会向其他平台发出数据汇聚任务,以使其他平台将符合要求的数据汇聚至该任一平台中。
3.然而,在数据汇聚的过程中,由于各个平台的数据存储引擎不同,数据定义的方式存在差异,数据质量也层次不齐。因此,数据需求方需要对待汇聚的数据进行质量评估,对于未通过质量检测的数据进行相应的处理。
4.相关技术中,一般是在所有待汇聚数据存储入需求方的数据库后,再由需求方人工进行数据质量评估,这使得数据汇聚流程与数据的质量检测脱节,需求方需人工筛选出各批次的数据汇聚任务中汇聚的数据,并执行评估任务。这给需求方的数据使用带来了较大的不便,且有较高的人力成本。


技术实现要素:

5.为克服相关技术中存在的问题,本技术提供了一种数据汇聚方法、装置、设备及计算机可读存储介质,能够解决上述问题。
6.根据本技术实施例的第一方面,提供一种数据汇聚方法,应用于需求方,所述需求方上部署有需求方质量检测模块,所述需求方对应于至少一个提供方,所述方法包括:
7.接收所述至少一个提供方中的至少一个目标提供方响应于所述需求方发起的目标数据汇聚任务上传的待汇聚数据;所述目标提供方为所述目标数据汇聚任务中要求上传数据的提供方;
8.将接收的所述待汇聚数据提供至所述需求方质量检测模块,使所述需求方质量检测模块按照所述目标数据汇聚任务的质量规则对所述待汇聚数据进行质量检测;
9.将通过所述质量检测的待汇聚数据写入所述需求方的目的数据库中。
10.根据本技术实施例的第二方面,提供一种数据汇聚方法,应用于提供方,所述提供方对应的需求方上部署有需求方质量检测模块,所述方法包括:
11.从所述需求方处获取目标数据汇聚任务;
12.根据所述目标数据汇聚任务确定待汇聚数据;
13.将所述待汇聚数据提供至所述需求方,以由所述需求方质量检测模块按照所述目标数据汇聚任务关联的质量规则进行质量检测。
14.根据本技术实施例的第三方面,提供一种数据汇聚装置,应用于需求方,所述需求方上部署有需求方质量检测单元,所述需求方对应于至少一个提供方,所述装置包括:
15.接收单元,用于接收所述至少一个提供方中的至少一个目标提供方响应于所述需求方发起的目标数据汇聚任务上传的待汇聚数据;所述目标提供方为所述目标数据汇聚任
务中要求上传数据的提供方;
16.所述需求方质量检测单元,用于将接收的所述待汇聚数据提供至所述需求方质量检测模块,使所述需求方质量检测模块按照所述目标数据汇聚任务的质量规则对所述待汇聚数据进行质量检测;
17.写入单元,用于将通过所述质量检测的待汇聚数据写入所述需求方的目的数据库中。
18.根据本技术实施例的第四方面,提供一种数据汇聚装置,应用于提供方,所述提供方对应的需求方上部署有需求方质量检测模块,所述装置包括:
19.任务单元,用于从所述需求方处获取目标数据汇聚任务;
20.确定数据单元,用于根据所述目标数据汇聚任务确定待汇聚数据;
21.提供单元,用于将所述待汇聚数据提供至所述需求方,以由所述需求方质量检测模块按照所述目标数据汇聚任务关联的质量规则进行质量检测。
22.根据本技术实施例的第五方面,提供一种电子设备,包括:处理器、存储器;
23.所述存储器,用于存储计算机程序;
24.所述处理器,用于通过调用所述计算机程序,执行如第一、二方面所述的数据汇聚方法。
25.根据本技术实施例的第六方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如第一、二方面所述的数据汇聚方法。
26.本技术的实施例提供的技术方案可以包括以下有益效果:
27.本技术通过对接收的待汇聚数据按质量规则进行质量检测,并将通过检测的待汇聚数据写入数据库,一方面,能够避免多个数据汇聚任务的待汇聚数据混杂,另一方面,自动化地将质量检测环节融入数据汇聚流程中,使得数据汇聚的效率更高、更方便,且节约了人力成本。
28.应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本技术。
附图说明
29.此处的附图被并入说明书中并构成本技术的一部分,示出了符合本技术的实施例,并与说明书一起用于解释本技术的原理。
30.图1是本技术根据一示例性实施例示出的一种数据汇聚系统的结构示意图。
31.图2是本技术根据一示例性实施例示出的一种数据汇聚方法的示意流程图。
32.图3是本技术根据一示例性实施例示出的一种数据汇聚方法的架构示意图。
33.图4是本技术根据一示例性实施例示出的一种反馈检测结果的流程示意图。
34.图5是本技术根据一示例性实施例示出的一种数据汇聚方法的流程框图。
35.图6是本技术根据一示例性实施例示出的一种数据汇聚方法的示意流程图。
36.图7是本技术根据一示例性实施例示出的一种数据汇聚装置所在电子设备的结构示意图。
37.图8是本技术根据一示例性实施例示出的一种数据汇聚装置的框图。
38.图9是本技术根据一示例性实施例示出的一种数据汇聚装置的框图。
具体实施方式
39.这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本技术相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本技术的一些方面相一致的装置和方法的例子。
40.在本技术使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本技术。在本技术和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
41.应当理解,尽管在本技术可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本技术范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在
……
时”或“当
……
时”或“响应于确定”。
42.如图1所示,图1为本技术一示例性实施例示出的一种数据汇聚系统的架构示意图,所述系统包括:
43.需求方110,需求方110对应于至少一个提供方,在这些提供方中,需求方110可以根据自身的业务需求,生成针对至少一个提供方的数据汇聚任务,并在获取提供方120提供的待汇聚数据后,将该待汇聚数据进行处理,以应对自身的业务需求。需注意的是,在数据汇聚系统中的任一方均可以生成汇聚任务以成为需求方,也可以向其他方提供待汇聚数据从而成为提供方。需求方110与提供方120仅是针对某一次具体的数据汇聚任务而言。
44.至少一个提供方120,提供方120会从需求方110处获取由需求方生成的数据汇聚任务,并根据该数据汇聚任务的要求,向需求方110提供对应该数据汇聚任务的待汇聚数据。
45.在相关技术中,由于各平台的数据存储引擎不同、数据定义的方式存在差异以及数据质量参差不齐,提供方120向需求方110提供的待汇聚数据中往往包含部分不符合要求的不合格数据,需求方110对这部分质量较差的数据无法采用。一般的,需求方110会先将获取的待汇聚数据存储入需求方侧的数据存储引擎,再统一对存储的待汇聚数据进行数据质量检测。
46.然而,由于部分数据汇聚任务持续时间较长,提供方可能在多个不同的时间节点分批次提供了多批对应某一数据汇聚任务的待汇聚数据,或者需求方在同一时间段内发布了多个数据汇聚任务,提供方在一段时间内提供了对应不同数据汇聚任务的多组待汇聚数据。这些待汇聚数据都被需求方存储在了数据存储引擎中,使得需求方在需要从数据存储引擎中获取待汇聚数据以进行质量检测时,需要通过人工来筛选出各批次和/或对应各数据汇聚任务汇聚的数据,这给需求方对待汇聚数据进行质量检测带来了极大的不便,同时也增加了人工成本。
47.在部分相关技术中,需求方通过将质量检测的规则下发给各提供方,从而减轻需求方侧的质量检测的压力,然而,需求方既无法保证各提供方均对待汇聚数据进行符合规则的质量检测,也无法保证通过提供方质量检测后的待汇聚数据不出现错误,因而即使提
供方已经对数据进行过质量检测,需求方为保证数据的可靠性与准确性也必然需要对汇聚的数据再次进行质量检测。
48.为解决上述问题,本技术提出了一种数据汇聚方法,所述方法可以应用于上述数据汇聚系统中的需求方110。
49.图2是根据本技术的实施例示出的一种数据汇聚方法的示意流程图,所述方法应用于需求方,所述需求方上部署有需求方质量检测模块,所述需求方对应于至少一个提供方,所述方法包括:
50.s201:接收所述至少一个提供方中的至少一个目标提供方响应于所述需求方发起的目标数据汇聚任务上传的待汇聚数据;所述目标提供方为所述目标数据汇聚任务中要求上传数据的提供方;
51.s202:将接收的所述待汇聚数据提供至所述需求方质量检测模块,使所述需求方质量检测模块按照所述目标数据汇聚任务的质量规则对所述待汇聚数据进行质量检测;
52.s203:将通过所述质量检测的待汇聚数据写入所述需求方的目的数据库中。
53.在一实施例中,需求方与提供方可以是固定的关系。即需求方可以固定对应多个提供方,从该多个提供方中确定至少一个目标提供方,并针对该至少一个目标提供方发布目标数据汇聚任务。
54.在一实施例中,也可以是由需求方先确定目标数据汇聚任务,再将要为该目标数据汇聚任务提供数据的部门、机构、平台等,确定为目标提供方,目标提供方也即对应于需求方的提供方。
55.在一实施例中,所述数据汇聚方法可以应用于同一数据平台多个部门之间的数据汇聚,也可以应用于跨平台级联下的数据汇聚。需求方与提供方可以是同级的部门或结构,也可以是跨级的部门或结构。在应用于同一数据平台多个部门之间的数据汇聚场景时,需求方可以是该多个部门中的任一部门,提供方则为该多个部门中的其余部门;在应用于跨平台级联下的数据汇聚场景时,需求方所在的平台为需求方平台,其余提供方所在的平台为提供方平台,提供方可以分别使用多个提供方平台,也可以是共用同一个提供方平台。进一步地,可以将需求方称为上级,提供方称为下级;也可以将需求方平台称为上级平台,提供方平台称为下级平台。
56.在一实施例中,需求方可以生成目标数据汇聚任务,并将该目标数据汇聚任务下发给至少一个目标提供方,根据所述目标数据汇聚任务的指示,至少一个目标提供方分别从各自的数据库(存储引擎)中寻找并确定与目标数据汇聚任务相对应的数据,并确定为待汇聚数据,至少一个目标提供方可以将该待汇聚数据发送至需求方。例如,需求方为省消防局,生成的目标数据汇聚任务为该省内各市消防装备的数据汇聚,则对应的各市消防局需在各自对应的数据库中查找并确定与消防装备相关的数据,并将该数据发送至省消防局。
57.在一实施例中,质量规则对应于目标数据汇聚任务,在需求方生成目标数据汇聚任务时,根据该目标数据汇聚任务形成相应的质量规则,并将该质量规则配置于所述需求方质量检测模块,以使需求方质量检测模块对待汇聚数据进行质量检测。例如,在目标数据汇聚任务为省内各市消防装备的数据汇聚的情况下,需求方主要想获取消防装备的年限、所属部队、分类等信息,但由于各提供方对数据的存储格式等存在一定差异,例如提供方在存储年限上的数据格式可能为“1年”、“14个月”、“2022年3月购置”等形式,不利于需求方后
续对汇聚的数据的调用,为方便对待汇聚的数据的后续处理,该目标数据汇聚任务在“消防装备的年限”这一项上,可选用的质量规则为:采用以年为单位的数据合格,其余数据不合格。基于此进行的质量检测中,该实施例中的数据“1年”合格,数据“14个月”、“2022年3月购置”不合格。通过设置质量规则,能够在数据汇聚的过程中令需求方上的需求方质量检测模块对接收的待汇聚数据进行质量检测,并筛选出符合质量规则的数据,方便需求方后续对该数据的调用。
58.在一实施例中,将未通过所述质量检测的待汇聚数据舍弃或进行数据转换,以使其在数据转换后能够通过所述质量检测。在待汇聚的数据中仅有小部分数据为未通过质量检测的数据时,已通过质量检测的待汇聚数据已经能够满足需求方该目标汇聚任务的需求时,将未通过质量检测的待汇聚数据舍弃能够加快效率,避免资源的浪费。而对未通过质量检测的数据进行转换以使其转换后能通过质量检测,能够使需求方获取更多更符合质量规则的数据,且减少数据的丢失,增强汇聚的数据的完整性。
59.在一实施例中,将通过所述质量检测的待汇聚数据写入所述需求方的目的数据库中。在数据汇聚流程中添加质量检测环节,能够使需求方在目的数据库中得到的数据均为可用的、符合质量规则的待汇聚数据,且降低了人工成本,避免在质量检测过程中还需依赖人工进行数据的筛选和评估。
60.本技术在需求方部署有质量检测模块,能够对接收到的待汇聚数据提供至需求方质量检测模块以进行质量检测,并将通过质量检测的待汇聚数据写入需求方的目的数据库中,使得需求方最终在目的数据库中得到的待汇聚数据均为通过质量检测的可直接使用的数据,而不需担心各数据提供方提供的待汇聚数据质量参差,无法直接使用。另一方面,将质量检测环节融入数据汇聚的流程,能够提高系统效率,避免将数据汇聚后,再依靠人工对数据按照批次进行筛选再进行检测、评估等处理,能够有效的节约资源。
61.在部分特殊场景中,因为网络隔离原因,只能单向开通网络策略,即只能各提供方向需求方的部分特定接口发送请求,需求方无法也难以主动向各个提供方的接口发送信息。例如,政务垂直领域,各市级的部门平台能够向省级部门平台的特定接口发送请求,而省级部门平台在数据汇聚任务中,无法向市级部门平台发送信息,即仅能市级部门平台单向与省级部门平台传送信息,再例如,法院系统中,高院的服务平台与各中院的服务平台间也可能存在相似的网络隔离,使得仅能中院向高院发送信息。
62.如图3所示,图3为本技术一示例性实施例示出的一种数据汇聚方法的架构示意图。
63.在一实施例中,在所述需求方110与所述至少一个提供方120之间存在单向的网络隔离,所述需求方110与所述至少一个提供方120间存在级联通道310与数据传输通道320,所述至少一个提供方120可以通过所述级联通道310访问所述需求方110,以获取所述需求方110的级联控制信息,所述级联控制信息包括所述目标数据汇聚任务;所述至少一个提供方120可以通过所述数据传输通道320将所述待汇聚数据发送至所述需求方110,以供所述需求方110将所述待汇聚数据提供至所述需求方质量检测模块。
64.在一个实施例中,级联通道用于级联控制信息的传递,包括以下至少之一:需求方向提供方下发目标数据汇聚任务,以及提供方向需求方通知已完成汇聚任务的信息。
65.在一个实施例中,数据传输通道用于待汇聚数据的传输,包括提供方需要汇聚的
待汇聚数据通过数据传输通道发送给需求方,因此数据传输通道需要相对较大的带宽。
66.由于需求方与提供方之间为单向开通网络,需求方无法直接将信息发送至对应的提供方,因此在数据汇聚任务中,需求方难以便捷地将未通过质量检测的待汇聚数据的相关信息反馈给对应的提供方。一般地,需求方会采用线下方式将质量检测的结果反馈给提供方。例如,发送附带检测结果的电子邮件,将打印好的检测结果通过邮寄方式提供给相应的提供方。使得在数据汇聚过程中,需求方对数据质量问题的反馈不够及时,较为滞后,提供方难以实时得知本平台提供的待汇聚数据存在何种质量问题。
67.在一实施例中,在将接收的待汇聚数据提供至所述需求方质量检测模块之后,还包括:生成与各所述目标提供方对应的检测结果,以使所述目标提供方通过获取所述检测结果获得质检反馈。目标提供方可以获取所述质量检测的检测结果,以确定在本次目标数据汇聚任务中提供的数据是否符合规范,以及确定需求方对目标提供方自身的评价如何。
68.在一实施例中,提供方可以通过上述级联通道获取质量检测的检测结果,并得到反馈。
69.在一实施例中,质量检测的结果可以以检测报告的形式呈现。
70.在一实施例中,所述检测结果包括未通过所述质量检测的待汇聚数据,和/或基于所述待汇聚数据生成的检测报告。
71.各目标提供方可以根据获得的所述检测结果确定针对目标数据汇聚任务提交的待汇聚数据是否通过需求方的质量检测。
72.需求方可以直接将通过质量检测的待汇聚数据入库,而仅将未通过质量检测的待汇聚数据生成所述目标提供方对应的检测结果以进行反馈。该检测结果对应未通过质量检测的待汇聚数据,这部分待汇聚数据又由目标提供方针对目标数据汇聚任务提供。
73.在一实施例中,需求方可以确认未通过所述质量检测的待汇聚数据对应的目标提供方,并针对该提供方的这部分未通过所述质量检测的待汇聚数据实时生成检测结果,相应的,目标提供方可以通过获取该检测结果来确定在本次目标数据汇聚任务中自身提供的待汇聚数据的质量检测情况。由于本技术在需求方部署有质量检测模块,对待汇聚数据的质量检测过程在数据汇聚流程中,因而不需等到数据汇聚完成后,再从需求方的数据库中分批次获取数据进行质量检测并用线下方式反馈质量结果,本技术可以利用需求方质量检测模块,在质量检测的过程中实时确认未通过的待汇聚数据、对应的提供方,并生成对应的检测结果,以使得对应的提供方能够实时获取质量检测的反馈信息。
74.在一实施例中,所述检测结果包括以下至少之一:未通过所述质量检测的数据,对未通过质量检测的数据的问题说明报告。目标提供方可以根据检测结果确定自身在本次目标数据汇聚任务中提交的数据哪些未通过质量检测,也可以根据检测结果查看这部分未通过质量检测的数据未通过质量检测的原因是什么。
75.在一实施例中,提供方在获取自身未通过质量检测的待汇聚数据对应的检测结果后,可以基于检测结果对该未通过质量检测的待汇聚数据进行修正,并在修正后重新向需求方提交数据汇聚。
76.在一实施例中,在所述需求方110与所述至少一个提供方120之间存在单向的网络隔离,所述级联控制信息包括所述检测结果,所述至少一个提供方120可以通过所述级联通道310获取所述级联控制信息,并确定对应的检测结果。
77.在只能提供方单向向需求方进行请求的场景中,各提供方只能通过所述级联通道调用需求方的指定端口,以请求获取级联控制信息,即级联控制信息的获取依赖于提供方对需求方的端口的主动调用。为保证级联控制信息的时效性,提供方可以将定时器设置一定的周期,按照该周期定时轮询获取需求方的级联控制信息。然而,所述定时器设置的周期越长,提供方与需求方的数据同步的时效性就越差,但若周期较短,多个提供方轮询需求方的该特定端口,会给需求方的该特定端口带来较大压力。
78.由于检测结果的数据量较多,提供方为保证时效性,短周期频繁地通过需求方的特定端口获取检测结果,会带来更大的压力。
79.为解决上述问题,如图4所示,图4为本技术一示例性实施例示出的反馈检测结果的流程示意图。在一实施例中,所述方法还包括:
80.s401:根据各所述检测结果,生成与所述目标提供方分别对应的目标信息位图,所述目标信息位图包括所述目标提供方的标识、所述目标提供方的汇聚任务的标识、对应各所述汇聚任务的待汇聚数据是否合格的标识;
81.需说明的是,检测结果对应目标提供方,该目标提供方可以包括提交的数据通过质量检测的提供方和提交的数据未通过质量检测的提供方,检测结果也自然包括待汇聚数据通过质量检测或未通过质量检测两种情况。
82.信息位图中的目标提供方的标识,可以包括需求方在一个时间段内的所有目标数据汇聚任务对应的各个提供方的标识,也可以包括需求方在当前目标数据汇聚任务中对应的各个提供方的标识。关于信息位图包括的目标提供方的范围,技术人员可以在本技术的基础上,根据实际需求进行灵活调整,本技术对此并不做出限制。
83.s402:任一目标提供方向所述需求方处的交互接口发起位图调用请求;
84.s403:响应于所述目标提供方发起的位图调用请求,向所述目标提供方反馈所述目标信息位图;
85.s404:任一目标提供方根据获取的信息位图,确认自身是否提供了不合格的待汇聚数据;
86.s405:在任一目标提供方确认自身提供了不合格的待汇聚数据的情况下,向所述需求方处的交互接口发起检测结果调用请求,以获取对应的检测结果;
87.s406:响应于所述目标提供方发起的检测结果调用请求,向所述目标提供方反馈所述检测结果;其中,所述检测结果调用请求由所述目标提供方在根据获得的所述目标信息位图确认自身提供了不合格的待汇聚数据的情况下发起。
88.在一实施例中,根据所述检测结果生成与所述目标提供方对应信息位图,具体包括:在检测结果表明,目标提供方上传的待汇聚数据通过质量检测的情况下,目标信息位图对应位置标识为0,即表明不存在需要目标提供方获取并查看的检测结果;在检测结果表明,目标提供方上传的待汇聚数据未通过质量检测的情况下,目标信息位图对应位置标识为1,即表明存在需要目标提供方获取并查看的检测结果(包含为通过质量检测的待汇聚数据的检测结果)。
89.在一实施例中,表1为一示例性实施例中的两张信息位图。
[0090][0091]
表1
[0092]
在表1中,标识位为1表示在该汇聚任务中存在需求方提供的根据质量检测结果生成的新的检测结果,标识位为0则意味着提供方在该项汇聚任务中不存在新的检测结果。任一提供方在识别到本平台的任一汇聚任务下的标识位为1时,可以再向需求方发出检测结果调用请求,以获取相应的检测结果。该表中仅以2个提供方、5个汇聚任务为例,实际信息位图可包括任意数量的提供方的标识、任意数量的汇聚任务的标识。
[0093]
以上表信息位图为例,表明提供方01在汇聚任务01、03上存在新的检测结果,也即提供方01汇聚任务01、03上提供的待汇聚数据存在不合格。而提供方02在各汇聚任务中都不存在新的检测结果。
[0094]
需说明的是,可能存在部分提供方不存在某项汇聚任务的情况,则此时可以不给出该提供方的该项汇聚任务的待汇聚数据是否合格的标识。例如,(非表1所示的)提供方03没有执行汇聚任务03,则对应的待汇聚数据是否合格的标识可以不填,也可以填用于表示“无新的检测结果”的标识。
[0095]
在一实施例中,任一提供方可以仅获取所述信息位图中对应自身标识部分的内容。即在上图示例中,提供方01可以获取完整的包括提供方02部分的信息位图,也可以仅获取表格前三行仅包括提供方01部分的信息位图。进一步的,任一提供方也可以仅获取特定数据汇聚任务对应的是否合格的标识,即提供方01仅获取汇聚任务01对应的是否合格的标识。
[0096]
相比于检测结果,信息位图所占数据和空间较小,使得提供方在通过需求方的交互接口(特定端口)获取信息位图时,给交互接口带来的压力较小,从而能够缩短提供方轮询的周期,只在发现任一汇聚任务的标识位为1时,再向需求方请求检测结果。通过该信息位图,能够使提供方增强与需求方的数据同步,实现需求方能够将质量检测的结果实时同步给任一提供方的技术效果。
[0097]
需注意的是,在图4中的步骤s403和步骤s406的箭头方向仅表达在逻辑上的信息流向,若在需求方不能向任一提供方发送信息的单向网络隔离的场景中,步骤s403和步骤s406实则为任一提供方通过所述交互接口从需求方处下载对应步骤的信息。
[0098]
在一实施例中,所述需求方对应的所述至少一个目标提供方的一部分提供方上部署有提供方质量检测模块;所述方法还包括:将所述目标数据汇聚任务的质量规则提供至所述一部分提供方,以配置于相应的提供方质量检测模块;其中,所述一部分提供方上传的待汇聚数据包括:通过所述一部分提供方上的所述提供方质量检测模块的质量检测的待汇聚数据。由于部分场景中,需求方对各提供方的数据质量有一定要求,任一提供方有大量待
汇聚数据未通过检测的话会影响需求方对任一提供方的评价。需求方提供的质量规则可以与需求方自身的质量检测模块使用的规则相匹配,以使得提供方在向需求方提供待汇聚数据之前,可以预先按照质量规则检测一遍。
[0099]
然而,由于并非所有的提供方都有条件部署质量检测模块并进行质量检测,因此需求方为保证接收的数据的质量,仍可以对接收的待汇聚数据进行质量检测。
[0100]
在一实施例中,所述接收所述至少一个提供方中的至少一个目标提供方响应于所述需求方发起的目标数据汇聚任务上传的待汇聚数据,包括:从至少一个中转库中获取所述至少一个目标提供方上传的待汇聚数据,其中,所述至少一个目标提供方将所述待汇聚数据上传至所述至少一个中转库。所述至少一个提供方将待汇聚数据先上传至中转库,再由需求方从至少一个中转库中获取待汇聚数据,能够避免多个提供方将待汇聚数据直接上传至需求方时造成的数据冲突,且能使需求方在选定的某一合适时间点开始接收该目标数据汇聚任务的待汇聚数据。在一些场景中,需求方也并不向提供方开放数据库的接口,因此提供方也难以直接将待汇聚数据直接上传至需求方,因此,中转库的设计也有利于扩展本技术的应用场景。
[0101]
如图5所示,图5为一示例性实施例示出的本技术的一种数据汇聚方法的流程框图。
[0102]
在一实施例中,所述至少一个中转库包括由所述需求方向所述至少一个目标提供方指定的中转库,和/或,由所述至少一个目标提供方向所述需求方告知的中转库;所述从至少一个中转库中获取所述至少一个目标提供方上传的待汇聚数据,包括:周期性地从所述至少一个中转库中获取所述待汇聚数据;或,在接收到任一目标提供方发送的已完成上传的通知的情况下,从所述至少一个中转库中接收所述任一目标提供方上传的待汇聚数据。需求方可以按照设定的周期,周期性地从至少一个中转库中获取待汇聚数据,也可以响应提供方发出的通知,在接收到通知后,从中转库中获取;提供方可以将待汇聚数据上传至由需求方指定的中转库,也可以将待汇聚数据上传至以告知给需求方的中转库。进一步的,在一实施例中,提供方发出的已完成上传的通知中可以包括上传的中转库的相关信息。
[0103]
在一实施例中,需求方在接收到任一提供方发送的已完成上传的通知的情况下,接收至少一个中转库中的待汇聚数据并进行质量检测。提供方可以作为数据汇聚过程的发起方。当目标数据汇聚任务的执行周期到来时,提供方将待汇聚数据传输到至少一个中转库中,再通过级联通道告知需求方。需求方在获取提供方通过级联通道发送的告知后,可以自动执行数据传输,以将待汇聚数据从至少一个中转库中传输给需求方质量检测模块,并触发需求方质量检测模块的质量检测。在质量检测完成后,自动分别对检测结果和通过检测的待汇聚数据进行进一步处理。在整个数据汇聚和质量检测的流程中,需求方可以在任一环节确定当前的待汇聚数据属于哪个数据汇聚任务,属于该任务的哪个执行周期、哪个批次,以及各环节对当前的待汇聚数据的处理状态与处理结果。
[0104]
在一实施例中,针对所述目标数据汇聚任务设置需求方工作流,所述需求方工作流包括:所述待汇聚数据的传输任务、数据质量检测任务、汇聚数据入库任务;所述待汇聚数据的传输任务用于发起所述目标数据汇聚任务,以及接收所述至少一个目标提供方响应于所述目标数据汇聚任务上传的待汇聚数据;所述数据质量检测任务用于按照所述目标数据汇聚任务的质量规则对所述待汇聚数据进行质量检测;所述汇聚数据入库任务用于将通
过所述质量检测的待汇聚数据写入所述需求方的目的数据库中;所述方法还包括:通过需求方任务调度模块,按照所述需求方工作流的任务流转顺序,对任一所述待汇聚数据进行处理。
[0105]
需求方通过设置需求方工作流,使得各项任务可以由设置的需求方工作流自动化完成,而不需要人员对整体流程进行把控,能一定程度上实现自动化,节约人力成本。
[0106]
在一实施例中,通过预设表格,实现所述任一所述待汇聚数据按顺序执行所述需求方工作流。将待汇聚数据保存在预设表中,可以使任一待汇聚数据按照预设顺序自动化地执行需求方工作流,例如,待汇聚数据的传输任务将获取的待汇聚数据传输至预设表格中,而设置需求方质量检测模块可以自动获取该预设表格中的数据并进行质量检测,就可以使需求方质量检测模块能够自动化地完成对保存在预设表中的待汇聚数据的质量检测,实现流程的自动化。
[0107]
在一实施例中,需求方与提供方可以分别使用工作流调度引擎来自动完成整个数据汇聚流程。具体的,当需求方创建汇聚任务时,可以调用工作流调度引擎自动创建在需求方的工作流,所述需求方的工作流包括以下至少之一:从中转库中获取待汇聚数据的待汇聚数据接收任务,数据质量检测任务,将通过检测的待汇聚数据汇聚入库的任务。在工作流中,各任务环节所涉及的数据的源表和目的表可以预先生成,例如,可以在需求方创建数据汇聚任务时决定字段项,以决定表结构。而任务环节涉及的表名可以按照某种规则生成,例如表名可以包含汇聚任务标识、提供方标识、汇聚任务批次标识、任务环节标识、汇聚资源名称。例如,表名可以是
[0108]
task01_subplat01_083001_qualitycheck_employeeinfo,用以表征该表用于存储数据汇聚任务01中由提供方01提供的第083001批次待汇聚数据的质量检测环节中的名称为“员工信息”的待汇聚数据。在提供方侧,当数据汇聚任务下发到提供方后,可以配置任务的各项参数并提交至提供方后,调用提供方的工作流调度引擎自动创建提供方的工作流,所述提供方的工作流包括以下至少之一:待汇聚数据抽取任务,提供方的质量检测任务,待汇聚数据的传输任务。同需求方的工作流,提供方的工作流中各任务环节的源表和目的表同样可以预先生成,并将该数据汇聚任务的汇聚周期自动配置为提供方的工作流的调度周期,以在汇聚周期到来时,提供方的工作流可以自动开始执行。
[0109]
在一实施例中,若所述待汇聚数据未通过所述质量检测,则在所述提供方根据反馈整改后的所述未通过的待汇聚数据通过所述质量检测后,再执行所述汇聚数据入库任务。提供方通过检测结果获取本次数据汇聚任务中的不合格的待汇聚数据后,可以对不合格部分的待汇聚数据进行整改,并基于整改后的待汇聚数据重新进行上传,以供所述需求方进行质量检测。而需求方可以在对该提供方的待汇聚数据全部通过质量检测后,再将该提供方的提供的待汇聚数据整理入库。
[0110]
在一实施例中,在提供方的工作流完成后,提供方可以通过级联通道通知需求方,使需求方的工作流开始执行;需求方的工作流也可以预设一个调用周期,以按所述调用周期执行所述需求方的工作流。
[0111]
在一实施例中,数据汇聚任务的一个处理周期包含的待汇聚数据,可以包括当前待汇聚任务的全量待汇聚数据,或,当前待汇聚任务的最新批次的增量待汇聚数据。
[0112]
与上述在需求方侧提出的实施例相对应的,本技术还提出了一种数据汇聚方法,
应用于提供方,所述提供方对应的需求方上部署有需求方质量检测模块,如图6所示。图6示出了一种数据汇聚方法的示意流程图,所述方法包括:
[0113]
s601:从所述需求方处获取目标数据汇聚任务;
[0114]
s602:根据所述目标数据汇聚任务确定待汇聚数据;
[0115]
s603:将所述待汇聚数据提供至所述需求方,以由所述需求方质量检测模块按照所述目标数据汇聚任务关联的质量规则进行质量检测。
[0116]
在一实施例中,还包括:对所述需求方处的交互接口发起位图调用请求,以获取所述提供方对应的目标信息位图,所述目标信息位图由所述需求方根据所述质量检测的结果生成,包括所述提供方的标识、所述提供方的汇聚任务的标识、对应各所述汇聚任务的待汇聚数据是否合格的标识;根据获得的所述目标信息位图确定在所述目标数据汇聚任务中是否提供了不合格的待汇聚数据;在提供了不合格的待汇聚数据的情况下,对所述交互接口发起检测结果调用请求,以获取由所述需求方生成的对应所述不合格的待汇聚数据的检测结果。
[0117]
在一实施例中,所述提供方上部署有提供方质量检测模块,所述根据所述目标数据汇聚任务确定待汇聚数据,包括:从所述需求方处获取所述质量规则,并配置于所述提供方质量检测模块;对符合所述目标数据汇聚任务要求的数据进行质量检测;将通过所述提供方质量检测模块的检测的数据确定为所述待汇聚数据。
[0118]
通过该质量检测模块,提供方可以在将待汇聚数据上传至需求方之前,提前先进行一次质量检测,以避免提交的待汇聚数据质量较差,有较多的数据不能通过需求方的质量检测,导致需求方对本提供方有不好的评价。
[0119]
在一实施例中,所述将所述待汇聚数据提供至所述需求方,包括:将所述待汇聚数据提供至至少一个中转库,以使所述需求方从所述至少一个中转库中获取所述待汇聚数据。
[0120]
在一实施例中,所述将所述待汇聚数据提供至所述需求方,包括:从所述需求方处获取所述需求方指定的中转库的信息;根据所述指定的中转库的信息将所述待汇聚数据提供至所述至少一个中转库;和/或,将所述待汇聚数据提供至至少一个中转库,其中,所述至少一个中转库为所述提供方向所述需求方告知的中转库。
[0121]
在一实施例中,还包括:向所述需求方发送已完成待汇聚数据上传的通知,以使所述需求方响应于所述通知从所述至少一个中转库中获取所述待汇聚数据。
[0122]
也可以在提供方侧设置类似的工作流来使提供方自动化实现提供待汇聚数据。
[0123]
在一实施例中,针对所述目标数据汇聚任务设置提供方工作流,所述提供方工作流包括:所述待汇聚数据的抽取任务、数据传输任务;所述待汇聚数据的抽取任务用于获取所述目标数据汇聚任务,以及根据所述目标数据汇聚任务确定待汇聚数据;所述数据传输任务用于响应于所述目标数据汇聚任务,将所述待汇聚数据提供至所述需求方;所述方法还包括:通过提供方任务调度模块,按照所述提供方工作流的任务流转顺序,对任一所述待汇聚数据进行处理。
[0124]
在一实施例中,所述提供方工作流在所述数据传输任务之前,还包括:提供方数据质量检测任务;所述提供方数据质量检测任务用于按照所述目标数据汇聚任务的质量规则对所述待汇聚数据进行质量检测,以及将通过所述质量的待汇聚数据确定为上传给所述需
求方的待汇聚数据任务。
[0125]
上述在提供方侧的数据汇聚方法中,各实施例的功能和作用的实现过程具体详见上述在需求方侧的数据汇聚方法中对应实施例的实现过程,在此不再赘述。
[0126]
与本技术的方法项实施例对应,本技术还提供了相应的数据汇聚装置实施例。
[0127]
图7是一示例性实施例提供的一种设备的示意结构图。请参考图7,在硬件层面,该设备包括处理器710、网络接口720、内存730以及非易失性存储器740,当然还可能包括其他业务所需要的硬件。本技术一个或多个实施例可以基于软件方式来实现,比如由处理器710从非易失性存储器740中读取对应的计算机程序到内存730中然后运行。当然,除了软件实现方式之外,本技术一个或多个实施例并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
[0128]
请参见图8,图8是本技术一实施例中数据汇聚装置的框图。该数据汇聚装置可以应用于如图7所示的电子设备中,以实现本技术的技术方案。其中,所述装置应用于需求方,所述需求方上部署有需求方质量检测单元,所述需求方对应于至少一个提供方,所述装置包括:
[0129]
接收单元810,用于接收所述至少一个提供方中的至少一个目标提供方响应于所述需求方发起的目标数据汇聚任务上传的待汇聚数据;所述目标提供方为所述目标数据汇聚任务中要求上传数据的提供方;
[0130]
所述需求方质量检测单元820,用于将接收的所述待汇聚数据提供至所述需求方质量检测模块,使所述需求方质量检测模块按照所述目标数据汇聚任务的质量规则对所述待汇聚数据进行质量检测;
[0131]
写入单元830,用于将通过所述质量检测的待汇聚数据写入所述需求方的目的数据库中。
[0132]
可选的,在将接收的所述待汇聚数据提供至所述需求方质量检测模块之后,还包括:生成与各所述目标提供方对应的检测结果,以使所述目标提供方通过获取所述检测结果获得质检反馈。
[0133]
可选的,所述检测结果包括未通过所述质量检测的待汇聚数据,和/或基于所述待汇聚数据生成的检测报告。
[0134]
可选的,还包括:根据各所述检测结果,生成与所述目标提供方分别对应的目标信息位图,所述目标信息位图包括所述目标提供方的标识、所述目标提供方的汇聚任务的标识、对应各所述汇聚任务的待汇聚数据是否合格的标识;响应于所述目标提供方发起的位图调用请求,向所述目标提供方反馈所述目标信息位图;响应于所述目标提供方发起的检测结果调用请求,向所述目标提供方反馈所述检测结果;其中,所述检测结果调用请求由所述目标提供方在根据获得的所述目标信息位图确认自身提供了不合格的待汇聚数据的情况下发起。
[0135]
可选的,所述需求方对应的所述至少一个目标提供方的一部分提供方上部署有提供方质量检测模块;还包括:将所述目标数据汇聚任务的质量规则提供至所述一部分提供方,以配置于相应的提供方质量检测模块;其中,所述一部分提供方上传的待汇聚数据包括:通过所述一部分提供方上的所述提供方质量检测模块的质量检测的待汇聚数据。
[0136]
可选的,所述接收所述至少一个提供方中的至少一个目标提供方响应于所述需求方发起的目标数据汇聚任务上传的待汇聚数据,包括:从至少一个中转库中获取所述至少一个目标提供方上传的待汇聚数据,其中,所述至少一个目标提供方将所述待汇聚数据上传至所述至少一个中转库。
[0137]
可选的,所述至少一个中转库包括由所述需求方向所述至少一个目标提供方指定的中转库,和/或,由所述至少一个目标提供方向所述需求方告知的中转库;所述从至少一个中转库中获取所述至少一个目标提供方上传的待汇聚数据,包括:周期性地从所述至少一个中转库中获取所述待汇聚数据;或,在接收到任一目标提供方发送的已完成上传的通知的情况下,从所述至少一个中转库中接收所述任一目标提供方上传的待汇聚数据。
[0138]
可选的,针对所述目标数据汇聚任务设置需求方工作流,所述需求方工作流包括:所述待汇聚数据的传输任务、数据质量检测任务、汇聚数据入库任务;所述待汇聚数据的传输任务用于发起所述目标数据汇聚任务,以及接收所述至少一个目标提供方响应于所述目标数据汇聚任务上传的待汇聚数据;所述数据质量检测任务用于按照所述目标数据汇聚任务的质量规则对所述待汇聚数据进行质量检测;所述汇聚数据入库任务用于将通过所述质量检测的待汇聚数据写入所述需求方的目的数据库中;还包括:通过需求方任务调度模块,按照所述需求方工作流的任务流转顺序,对任一所述待汇聚数据进行处理。
[0139]
可选的,通过预设表格,实现所述任一所述待汇聚数据按顺序执行所述需求方工作流。
[0140]
可选的,若所述待汇聚数据未通过所述质量检测,则在所述提供方根据反馈整改后的所述未通过的待汇聚数据通过所述质量检测后,再执行所述汇聚数据入库任务。
[0141]
请参见图9,图9是本技术一实施例中数据汇聚装置的框图。该数据汇聚装置可以应用于如图7所示的电子设备中,以实现本技术的技术方案。其中,所述装置应用于提供方,所述提供方对应的需求方上部署有需求方质量检测模块,所述装置包括:
[0142]
任务单元910,用于从所述需求方处获取目标数据汇聚任务;
[0143]
确定数据单元920,用于根据所述目标数据汇聚任务确定待汇聚数据;
[0144]
提供单元930,用于将所述待汇聚数据提供至所述需求方,以由所述需求方质量检测模块按照所述目标数据汇聚任务关联的质量规则进行质量检测。
[0145]
可选的,还包括:对所述需求方处的交互接口发起位图调用请求,以获取所述提供方对应的目标信息位图,所述目标信息位图由所述需求方根据所述质量检测的结果生成,包括所述提供方的标识、所述提供方的汇聚任务的标识、对应各所述汇聚任务的待汇聚数据是否合格的标识;根据获得的所述目标信息位图确定在所述目标数据汇聚任务中是否提供了不合格的待汇聚数据;在提供了不合格的待汇聚数据的情况下,对所述交互接口发起检测结果调用请求,以获取由所述需求方生成的对应所述不合格的待汇聚数据的检测结果。
[0146]
可选的,所述提供方上部署有提供方质量检测模块,所述根据所述目标数据汇聚任务确定待汇聚数据,包括:从所述需求方处获取所述质量规则,并配置于所述提供方质量检测模块;对符合所述目标数据汇聚任务要求的数据进行质量检测;将通过所述提供方质量检测模块的检测的数据确定为所述待汇聚数据。
[0147]
可选的,所述将所述待汇聚数据提供至所述需求方,包括:将所述待汇聚数据提供
至至少一个中转库,以使所述需求方从所述至少一个中转库中获取所述待汇聚数据。
[0148]
可选的,所述将所述待汇聚数据提供至所述需求方,包括:从所述需求方处获取所述需求方指定的中转库的信息;根据所述指定的中转库的信息将所述待汇聚数据提供至所述至少一个中转库;和/或,将所述待汇聚数据提供至至少一个中转库,其中,所述至少一个中转库为所述提供方向所述需求方告知的中转库。
[0149]
可选的,还包括:向所述需求方发送已完成待汇聚数据上传的通知,以使所述需求方响应于所述通知从所述至少一个中转库中获取所述待汇聚数据。
[0150]
可选的,针对所述目标数据汇聚任务设置提供方工作流,所述提供方工作流包括:所述待汇聚数据的抽取任务、数据传输任务;所述待汇聚数据的抽取任务用于获取所述目标数据汇聚任务,以及根据所述目标数据汇聚任务确定待汇聚数据;所述数据传输任务用于响应于所述目标数据汇聚任务,将所述待汇聚数据提供至所述需求方;还包括:通过提供方任务调度模块,按照所述提供方工作流的任务流转顺序,对任一所述待汇聚数据进行处理。
[0151]
可选的,所述提供方工作流在所述数据传输任务之前,还包括:提供方数据质量检测任务;所述提供方数据质量检测任务用于按照所述目标数据汇聚任务的质量规则对所述待汇聚数据进行质量检测,以及将通过所述质量的待汇聚数据确定为上传给所述需求方的待汇聚数据任务。
[0152]
上述装置中各个单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程,在此不再赘述。
[0153]
对于装置实施例而言,由于其基本对应于方法实施例,所以相关指出参见方法实施例的部分说明即可。以上所描述的装置实施例只是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本技术方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
[0154]
本领域技术人员应明白,本技术一个或多个实施例可提供为方法、系统或计算机程序产品。因此,本技术一个或多个实施例可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本技术一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
[0155]
本技术一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本本技术一个或多个实施例,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
[0156]
以上所述仅为本技术一个或多个实施例的实施例而已,并不用于限制本技术一个或多个实施例。对于本领域技术人员来说,本技术一个或多个实施例可以有各种更改和变化。凡在本技术的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在权利要
求范围之内。

技术特征:
1.一种数据汇聚方法,其特征在于,应用于需求方,所述需求方上部署有需求方质量检测模块,所述需求方对应于至少一个提供方,所述方法包括:接收所述至少一个提供方中的至少一个目标提供方响应于所述需求方发起的目标数据汇聚任务上传的待汇聚数据;所述目标提供方为所述目标数据汇聚任务中要求上传数据的提供方;将接收的所述待汇聚数据提供至所述需求方质量检测模块,使所述需求方质量检测模块按照所述目标数据汇聚任务的质量规则对所述待汇聚数据进行质量检测;将通过所述质量检测的待汇聚数据写入所述需求方的目的数据库中。2.根据权利要求1所述的方法,其特征在于,在将接收的所述待汇聚数据提供至所述需求方质量检测模块之后,还包括:生成与各所述目标提供方对应的检测结果,以使所述目标提供方通过获取所述检测结果获得质检反馈。3.根据权利要求2所述的方法,其特征在于,所述检测结果包括未通过所述质量检测的待汇聚数据,和/或基于所述待汇聚数据生成的检测报告。4.根据权利要求3所述的方法,其特征在于,还包括:根据各所述检测结果,生成与所述目标提供方分别对应的目标信息位图,所述目标信息位图包括所述目标提供方的标识、所述目标提供方的汇聚任务的标识、对应各所述汇聚任务的待汇聚数据是否合格的标识;响应于所述目标提供方发起的位图调用请求,向所述目标提供方反馈所述目标信息位图;响应于所述目标提供方发起的检测结果调用请求,向所述目标提供方反馈所述检测结果;其中,所述检测结果调用请求由所述目标提供方在根据获得的所述目标信息位图确认自身提供了不合格的待汇聚数据的情况下发起。5.一种数据汇聚方法,其特征在于,应用于提供方,所述提供方对应的需求方上部署有需求方质量检测模块,所述方法包括:从所述需求方处获取目标数据汇聚任务;根据所述目标数据汇聚任务确定待汇聚数据;将所述待汇聚数据提供至所述需求方,以由所述需求方质量检测模块按照所述目标数据汇聚任务关联的质量规则进行质量检测。6.根据权利要求5所述的方法,其特征在于,还包括:对所述需求方处的交互接口发起位图调用请求,以获取所述提供方对应的目标信息位图,所述目标信息位图由所述需求方根据所述质量检测的结果生成,包括所述提供方的标识、所述提供方的汇聚任务的标识、对应各所述汇聚任务的待汇聚数据是否合格的标识;根据获得的所述目标信息位图确定在所述目标数据汇聚任务中是否提供了不合格的待汇聚数据;在提供了不合格的待汇聚数据的情况下,对所述交互接口发起检测结果调用请求,以获取由所述需求方生成的对应所述不合格的待汇聚数据的检测结果。7.一种数据汇聚装置,其特征在于,应用于需求方,所述需求方上部署有需求方质量检测单元,所述需求方对应于至少一个提供方,所述装置包括:
接收单元,用于接收所述至少一个提供方中的至少一个目标提供方响应于所述需求方发起的目标数据汇聚任务上传的待汇聚数据;所述目标提供方为所述目标数据汇聚任务中要求上传数据的提供方;所述需求方质量检测单元,用于将接收的所述待汇聚数据提供至所述需求方质量检测模块,使所述需求方质量检测模块按照所述目标数据汇聚任务的质量规则对所述待汇聚数据进行质量检测;写入单元,用于将通过所述质量检测的待汇聚数据写入所述需求方的目的数据库中。8.一种数据汇聚装置,其特征在于,应用于提供方,所述提供方对应的需求方上部署有需求方质量检测模块,所述装置包括:任务单元,用于从所述需求方处获取目标数据汇聚任务;确定数据单元,用于根据所述目标数据汇聚任务确定待汇聚数据;提供单元,用于将所述待汇聚数据提供至所述需求方,以由所述需求方质量检测模块按照所述目标数据汇聚任务关联的质量规则进行质量检测。9.一种电子设备,其特征在于,包括:处理器、存储器;所述存储器,用于存储计算机程序;所述处理器,用于通过调用所述计算机程序,执行如权利要求1-6中任一项所述的数据汇聚方法。10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-6任一项所述的数据汇聚方法。

技术总结
一种数据汇聚方法、装置、设备及计算机可读存储介质。所述方法应用于需求方,需求方上部署有质量检测模块,需求方对应至少一个提供方,方法包括:接收至少一个提供方中的至少一个目标提供方响应于需求方发起的目标数据汇聚任务上传的待汇聚数据;目标提供方为目标数据汇聚任务中要求上传数据的提供方;将接收的待汇聚数据提供至质量检测模块,使质量检测模块按照目标数据汇聚任务的质量规则对待汇聚数据进行质量检测;将通过质量检测的待汇聚数据写入需求方的目的数据库中。本申请能够自动将接收的待汇聚数据按照质量规则进行质量检测,并将通过质量检测的待汇聚数据写入数据库中,不需要人工对汇聚的数据再进行检测和评估,节省成本,提高效率。提高效率。提高效率。


技术研发人员:荀志
受保护的技术使用者:杭州数梦工场科技有限公司
技术研发日:2023.06.08
技术公布日:2023/10/8
版权声明

本文仅代表作者观点,不代表航空之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)

飞行汽车 https://www.autovtol.com/

分享:

扫一扫在手机阅读、分享本文

相关推荐