一种分布式多源信息采集存储系统及其储存方法与流程

未命名 07-27 阅读:108 评论:0


1.本发明涉及数据储存技术领域,具体涉及一种分布式多源信息采集存储系统及其储存方法。


背景技术:

2.数据存储对象包括数据流在加工过程中产生的临时文件或加工过程中需要查找的信息。数据以某种格式记录在计算机内部或外部存储介质上。数据存储要命名,这种命名要反映信息特征的组成含义。数据流反映了系统中流动的数据,表现出动态数据的特征;数据存储反映系统中静止的数据,表现出静态数据的特征。
3.然而,目前的数据储存技术,往往以集中式数据储存为主,用户储存的数据仅通过构建文件夹的方式对数据进行区分储存,数据储存系统不具备自主对数据的处理进行区分储存的功能,在数据储存量较大时,于储存的数据中找寻所需数据的操作较为困难。


技术实现要素:

4.解决的技术问题
5.针对现有技术所存在的上述缺点,本发明提供了一种分布式多源信息采集存储系统及其储存方法,解决了目前的数据储存技术,往往以集中式数据储存为主,用户储存的数据仅通过构建文件夹的方式对数据进行区分储存,数据储存系统不具备自主对数据的处理进行区分储存的功能,在数据储存量较大时,于储存的数据中找寻所需数据的操作较为困难的问题。
6.技术方案
7.为实现以上目的,本发明通过以下技术方案予以实现:
8.第一方面,一种分布式多源信息采集存储系统,包括数据管理层、数据处理层及监测层;
9.用户所需储存的数据通过数据管理层上传,于数据管理层中临时储存,并以设定周期向数据处理层发送,通过数据处理层对来源数据管理层的数据内容进行区分处理,以区分结果对数据内容进行区分储存,由监测层介入数据处理层,对数据处理层中区分储存数据实时监测分析各数据内容的活性;
10.所述数据处理层包括传输模块、筛选模块及储存模块,传输模块用于接收数据管理层发送的数据内容向筛选模块传输,筛选模块用于设定数据内容筛选条件,应用筛选条件对数据内容进行筛选,储存模块用于接收经筛选处理的数据内容,并根据数据内容筛选结果对数据内容进行区分储存;
11.所述数据处理层中筛选模块运行时,同步通过如下公式判定数据内容的属性,筛选用在设定数据内容筛选条件时,应用数据内容属性进行设定,计算公式为:
12.13.式中:n
select
为数据内容的属性判定;a为数据内容中存在的图像数据大小;b为数据内容中存在的字符数据大小;c为数据内容中存在的影音数据代销;k为数据内容的大小;best
(a,b,c)
为由各属性数据组成的数据内容中占比最大的属性数据;
14.其中,传输模块向筛选模块传输的每组数据内容均通过该式求得数据属性,筛选模块对数据内容进行筛选时,应用各数据内容对应属性进行筛选处理。
15.更进一步地,所述数据管理层包括接收模块及设定模块,接收模块用于接收用户通过电子设备于数据管理层中上传的所需储存的数据内容,设定模块用于设定接收模块接收的数据内容向数据处理层发送的发送周期;
16.其中,所述设定模块中设定的发送周期通过系统端用户手动编辑进行设定,发送周期设定范围处于2s~20s,设定模块还用于实时获取数据处理层对接收数据内容的区分处理状态,状态包括区分处理进行中及区分处理结束,数据管理层向数据处理层发送数据内容的操作,优先遵循设定模块实时获取到的数据处理层对接收数据内容的区分处理状态,在状态为区分处理结束时遵循设定的发送周期,在状态为区分处理进行中时等待数据处理层对接收数据内容的区分处理结束,在区分处理结束后遵循设定的发送周期。
17.更进一步地,所述数据管理层中临时储存的用户上传的数据内容在通过设定周期向数据处理层发送后,对应数据内容同步于数据管理层中删除,所述数据管理层中系统端用户手动设定重置周期,数据管理层根据重置周期自主完成重置的操作。
18.更进一步地,所述数据管理层向数据处理层发送数据内容的操作时,系统处于离线状态下,数据管理层中接收模块接收用户上传的数据内容时,系统处于联网状态下,数据管理层于系统连接网络中采集数据,进行网络安全评价,评价结果通过如下公式表示,公式为:
[0019][0020]
式中:p
avg
为网络安全评价系数;pi为系统连接网络中漏洞在各种有可能存在的攻击路径中被成功利用的概率大小;n为漏洞可被攻击的路径数目;i为攻击路径;
[0021]
其中,n及i为数据管理层于系统连接网络中采集数据,p
avg
的值越小则当前网络更趋于安全,在进行网络安全评价时,通过系统端用户自定义编辑设定评价阈值进行网络安全的评价。
[0022]
更进一步地,所述传输模块中通过系统端用户设定有数据内容额定传输量,传输模块持续接收数据管理层发送的数据内容,在接收的数据内容到达设定的数据内容额定传输量时,传输模块向筛选模块传输自身接收到的数据管理层发送的数据内容。
[0023]
更进一步地,所述筛选模块有若干个筛选层组成,每一组所述筛选层均设置有数据内容筛选条件,筛选模块获取的数据内容依次向每一组筛选层传输,在数据内容每经过一组筛选层时,对该筛选层对应数据内容筛选条件相符的数据内容以筛选条件进行标记;
[0024]
其中,各数据内容的对应标记为不少于两组,数据内容筛选条件通过系统端用户手动编辑进行设定及修改,筛选层及其对应数据内容筛选条件初始设定为:
[0025]
第一层:图像数据;第二层:字符数据;第三层:影音数据;第四层:小于10m的数据内容;第五层:大于等于10m小于100m的数据内容;第六层:大于等于100m的数据内容。
[0026]
更进一步地,所述储存模块中设置有与筛选层及其对应数据内容筛选条件初始设定相适配数量的数据储存区间,储存模块通过其内部设置的储存区间对数据内容进行储存;
[0027]
其中,所述储存模块中的设置的数据储存区间初始设定为:
[0028]
第一储存区间:储存小于10m的图像数据;第二储存区间:储存小于10m的字符数据;第三储存区间:储存小于10m的影音数据;第四储存区间:储存大于等于10m小于100m的图像数据;第五储存区间:储存大于等于10m小于100m的字符数据;第六储存区间:储存大于等于10m小于100m的影音数据;第七储存区间:储存大于等于100m的图像数据;第八储存区间:储存大于等于100m的字符数据;第九储存区间:储存大于等于100m的影音数据。
[0029]
更进一步地,所述监测层包括记载模块及消减模块,所述记载模块用于记载储存模块中储存的数据内容被用户读取的次数,消减模块用于分析储存模块中储存的数据内容的活性,通过数据内容活性对储存模块中储存的数据内容进行删除消减;
[0030]
其中,用户在读取储存模块中储存的数据内容时,通过数据内容的对应标记进行数据内容的查找,消减模块中通过系统端用户手动编辑设定数据内容的活性评价阈值,消减模块对储存模块中储存的数据内容进行删除消减的操作应用数据内容的活性评价阈值进行删除消减数据内容目标的选择,数据内容的活性即数据内容被用户读取的次数与数据内容存在于储存模块中的时间的比值,消减模块的删除消减目标数据内容为储存模块中存在六个月以上的数据内容。
[0031]
更进一步地,所述接收模块通过介质电性连接有设定模块,所述设定模块通过介质电性连接有传输模块、筛选模块及储存模块,所述储存模块通过介质电性连接有记载模块及消减模块。
[0032]
第二方面,一种分布式多源信息采集存储方法,包括以下步骤:
[0033]
步骤1:接收数据内容,对数据内容进行临时储存;
[0034]
步骤2:对步骤1中临时储存的数据进行筛选区分处理;
[0035]
步骤3:构建数据储存空间,在数据储存空间中设置储存区间;
[0036]
步骤4:根据筛选区分结果对完成筛选区分的数据内容向数据储存空间的各储存区间中发送,完成数据内容的区分储存。
[0037]
有益效果
[0038]
采用本发明提供的技术方案,与已知的公有技术相比,具有如下有益效果:
[0039]
1、本发明提供一种分布式多源信息采集存储系统,该系统在运行过程中能够在数据接收阶段对数据进行属性识别,从而进一步的以数据内容的数据属性识别结果对数据内容进行区分,更进一步的以在储存空间中设置储存区间的方式对完成区分的数据内容进行区分配置储存,从而以此实现对数据内容的储存管理,有效的提升了数据内容在进行储存时的容错率,也一定程度的为后续用户在储存空间中读取所需数据时,带来便利。
[0040]
2、本发明中系统在运行时,还能够对系统在接收数据内容时的网络状态进行实时的检测,确保数据传输的过程更加安全,避免传输的数据内容存在被窃取的风险,此外在通过该系统储存数据对数据进行管理的后期阶段,还能够对系统中储存的数据内容进行适应性删除,一方面以此进一步的节省、且管理的系统中储存数据内容的空间,另一方面也借此避免系统中存在过多僵尸数据阻碍系统运行的速度。
附图说明
[0041]
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0042]
图1为一种分布式多源信息采集存储系统的结构示意图;
[0043]
图2为一种分布式多源信息采集存储方法的流程示意图。
具体实施方式
[0044]
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述。显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0045]
下面结合实施例对本发明作进一步的描述。
[0046]
实施例1
[0047]
本实施例的一种分布式多源信息采集存储系统,如图1所示,包括数据管理层、数据处理层及监测层;
[0048]
用户所需储存的数据通过数据管理层上传,于数据管理层中临时储存,并以设定周期向数据处理层发送,通过数据处理层对来源数据管理层的数据内容进行区分处理,以区分结果对数据内容进行区分储存,由监测层介入数据处理层,对数据处理层中区分储存数据实时监测分析各数据内容的活性;
[0049]
数据处理层包括传输模块、筛选模块及储存模块,传输模块用于接收数据管理层发送的数据内容向筛选模块传输,筛选模块用于设定数据内容筛选条件,应用筛选条件对数据内容进行筛选,储存模块用于接收经筛选处理的数据内容,并根据数据内容筛选结果对数据内容进行区分储存;
[0050]
数据处理层中筛选模块运行时,同步通过如下公式判定数据内容的属性,筛选用在设定数据内容筛选条件时,应用数据内容属性进行设定,计算公式为:
[0051][0052]
式中:n
select
为数据内容的属性判定;a为数据内容中存在的图像数据大小;b为数据内容中存在的字符数据大小;c为数据内容中存在的影音数据代销;k为数据内容的大小;best
(a,b,c)
为由各属性数据组成的数据内容中占比最大的属性数据;
[0053]
其中,传输模块向筛选模块传输的每组数据内容均通过该式求得数据属性,筛选模块对数据内容进行筛选时,应用各数据内容对应属性进行筛选处理;
[0054]
数据管理层包括接收模块及设定模块,接收模块用于接收用户通过电子设备于数据管理层中上传的所需储存的数据内容,设定模块用于设定接收模块接收的数据内容向数据处理层发送的发送周期;
[0055]
其中,设定模块中设定的发送周期通过系统端用户手动编辑进行设定,发送周期设定范围处于2s~20s,设定模块还用于实时获取数据处理层对接收数据内容的区分处理
状态,状态包括区分处理进行中及区分处理结束,数据管理层向数据处理层发送数据内容的操作,优先遵循设定模块实时获取到的数据处理层对接收数据内容的区分处理状态,在状态为区分处理结束时遵循设定的发送周期,在状态为区分处理进行中时等待数据处理层对接收数据内容的区分处理结束,在区分处理结束后遵循设定的发送周期;
[0056]
监测层包括记载模块及消减模块,记载模块用于记载储存模块中储存的数据内容被用户读取的次数,消减模块用于分析储存模块中储存的数据内容的活性,通过数据内容活性对储存模块中储存的数据内容进行删除消减;
[0057]
其中,用户在读取储存模块中储存的数据内容时,通过数据内容的对应标记进行数据内容的查找,消减模块中通过系统端用户手动编辑设定数据内容的活性评价阈值,消减模块对储存模块中储存的数据内容进行删除消减的操作应用数据内容的活性评价阈值进行删除消减数据内容目标的选择,数据内容的活性即数据内容被用户读取的次数与数据内容存在于储存模块中的时间的比值,消减模块的删除消减目标数据内容为储存模块中存在六个月以上的数据内容;
[0058]
接收模块通过介质电性连接有设定模块,设定模块通过介质电性连接有传输模块、筛选模块及储存模块,储存模块通过介质电性连接有记载模块及消减模块。
[0059]
在本实施例中,接收模块接收用户通过电子设备于数据管理层中上传的所需储存的数据内容,设定模块后置运行设定接收模块接收的数据内容向数据处理层发送的发送周期,再由传输模块接收数据管理层发送的数据内容向筛选模块传输,同步的筛选模块设定数据内容筛选条件,应用筛选条件对数据内容进行筛选,储存模块后置运行接收经筛选处理的数据内容,并根据数据内容筛选结果对数据内容进行区分储存,最后通过记载模块记载储存模块中储存的数据内容被用户读取的次数,并通过消减模块分析储存模块中储存的数据内容的活性,通过数据内容活性对储存模块中储存的数据内容进行删除消减。
[0060]
实施例2
[0061]
在具体实施层面,在实施例1的基础上,本实施例参照图1对实施例1中一种分布式多源信息采集存储系统做进一步具体说明:
[0062]
数据管理层中临时储存的用户上传的数据内容在通过设定周期向数据处理层发送后,对应数据内容同步于数据管理层中删除,数据管理层中系统端用户手动设定重置周期,数据管理层根据重置周期自主完成重置的操作。
[0063]
通过该设置可以避免数据管理层中由于长期运行而累积过多无用缓存数据的问题。
[0064]
如图1所示,数据管理层向数据处理层发送数据内容的操作时,系统处于离线状态下,数据管理层中接收模块接收用户上传的数据内容时,系统处于联网状态下,数据管理层于系统连接网络中采集数据,进行网络安全评价,评价结果通过如下公式表示,公式为:
[0065][0066]
式中:p
avg
为网络安全评价系数;pi为系统连接网络中漏洞在各种有可能存在的攻击路径中被成功利用的概率大小;n为漏洞可被攻击的路径数目;i为攻击路径;
[0067]
其中,n及i为数据管理层于系统连接网络中采集数据,p
avg
的值越小则当前网络更
趋于安全,在进行网络安全评价时,通过系统端用户自定义编辑设定评价阈值进行网络安全的评价。
[0068]
通过上述公式计算,系统运行过程中能够对系统应用的网络安全进行实时的监测,从而借此辅助用户及系统端用户在更加安全的环境中完成数据的上传的操作,确保数据上传的操作更加安全。
[0069]
实施例3
[0070]
在具体实施层面,在实施例1的基础上,本实施例参照图1对实施例1中一种分布式多源信息采集存储系统做进一步具体说明:
[0071]
传输模块中通过系统端用户设定有数据内容额定传输量,传输模块持续接收数据管理层发送的数据内容,在接收的数据内容到达设定的数据内容额定传输量时,传输模块向筛选模块传输自身接收到的数据管理层发送的数据内容。
[0072]
上述记载的数据内容额定传输量即传输模块接收数据内容向筛选模块发送时,每次传输的数据内容量。
[0073]
如图1所示,筛选模块有若干个筛选层组成,每一组筛选层均设置有数据内容筛选条件,筛选模块获取的数据内容依次向每一组筛选层传输,在数据内容每经过一组筛选层时,对该筛选层对应数据内容筛选条件相符的数据内容以筛选条件进行标记;
[0074]
其中,各数据内容的对应标记为不少于两组,数据内容筛选条件通过系统端用户手动编辑进行设定及修改,筛选层及其对应数据内容筛选条件初始设定为:
[0075]
第一层:图像数据;第二层:字符数据;第三层:影音数据;第四层:小于10m的数据内容;第五层:大于等于10m小于100m的数据内容;第六层:大于等于100m的数据内容。
[0076]
如图1所示,储存模块中设置有与筛选层及其对应数据内容筛选条件初始设定相适配数量的数据储存区间,储存模块通过其内部设置的储存区间对数据内容进行储存;
[0077]
其中,储存模块中的设置的数据储存区间初始设定为:
[0078]
第一储存区间:储存小于10m的图像数据;第二储存区间:储存小于10m的字符数据;第三储存区间:储存小于10m的影音数据;第四储存区间:储存大于等于10m小于100m的图像数据;第五储存区间:储存大于等于10m小于100m的字符数据;第六储存区间:储存大于等于10m小于100m的影音数据;第七储存区间:储存大于等于100m的图像数据;第八储存区间:储存大于等于100m的字符数据;第九储存区间:储存大于等于100m的影音数据。
[0079]
实施例4
[0080]
在具体实施层面,在实施例1的基础上,本实施例参照图2对实施例1中一种分布式多源信息采集存储系统做进一步具体说明:
[0081]
一种分布式多源信息采集存储方法,包括以下步骤:
[0082]
步骤1:接收数据内容,对数据内容进行临时储存;
[0083]
步骤2:对步骤1中临时储存的数据进行筛选区分处理;
[0084]
步骤3:构建数据储存空间,在数据储存空间中设置储存区间;
[0085]
步骤4:根据筛选区分结果对完成筛选区分的数据内容向数据储存空间的各储存区间中发送,完成数据内容的区分储存。
[0086]
综上而言,通过上述实施例中系统能够在数据接收阶段对数据进行属性识别,从而进一步的以数据内容的数据属性识别结果对数据内容进行区分,更进一步的以在储存空
间中设置储存区间的方式对完成区分的数据内容进行区分配置储存,从而以此实现对数据内容的储存管理,有效的提升了数据内容在进行储存时的容错率,也一定程度的为后续用户在储存空间中读取所需数据时,带来便利;并且,系统在运行时,还能够对系统在接收数据内容时的网络状态进行实时的检测,确保数据传输的过程更加安全,避免传输的数据内容存在被窃取的风险,此外在通过该系统储存数据对数据进行管理的后期阶段,还能够对系统中储存的数据内容进行适应性删除,一方面以此进一步的节省、且管理的系统中储存数据内容的空间,另一方面也借此避免系统中存在过多僵尸数据阻碍系统运行的速度。
[0087]
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不会使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

技术特征:
1.一种分布式多源信息采集存储系统,其特征在于,包括数据管理层、数据处理层及监测层;用户所需储存的数据通过数据管理层上传,于数据管理层中临时储存,并以设定周期向数据处理层发送,通过数据处理层对来源数据管理层的数据内容进行区分处理,以区分结果对数据内容进行区分储存,由监测层介入数据处理层,对数据处理层中区分储存数据实时监测分析各数据内容的活性;所述数据处理层包括传输模块、筛选模块及储存模块,传输模块用于接收数据管理层发送的数据内容向筛选模块传输,筛选模块用于设定数据内容筛选条件,应用筛选条件对数据内容进行筛选,储存模块用于接收经筛选处理的数据内容,并根据数据内容筛选结果对数据内容进行区分储存;所述数据处理层中筛选模块运行时,同步通过如下公式判定数据内容的属性,筛选用在设定数据内容筛选条件时,应用数据内容属性进行设定,计算公式为:式中:n
select
为数据内容的属性判定;a为数据内容中存在的图像数据大小;b为数据内容中存在的字符数据大小;c为数据内容中存在的影音数据代销;k为数据内容的大小;为由各属性数据组成的数据内容中占比最大的属性数据;其中,传输模块向筛选模块传输的每组数据内容均通过该式求得数据属性,筛选模块对数据内容进行筛选时,应用各数据内容对应属性进行筛选处理。2.根据权利要求1所述的一种分布式多源信息采集存储系统,其特征在于,所述数据管理层包括接收模块及设定模块,接收模块用于接收用户通过电子设备于数据管理层中上传的所需储存的数据内容,设定模块用于设定接收模块接收的数据内容向数据处理层发送的发送周期;其中,所述设定模块中设定的发送周期通过系统端用户手动编辑进行设定,发送周期设定范围处于2s~20s,设定模块还用于实时获取数据处理层对接收数据内容的区分处理状态,状态包括区分处理进行中及区分处理结束,数据管理层向数据处理层发送数据内容的操作,优先遵循设定模块实时获取到的数据处理层对接收数据内容的区分处理状态,在状态为区分处理结束时遵循设定的发送周期,在状态为区分处理进行中时等待数据处理层对接收数据内容的区分处理结束,在区分处理结束后遵循设定的发送周期。3.根据权利要求1所述的一种分布式多源信息采集存储系统,其特征在于,所述数据管理层中临时储存的用户上传的数据内容在通过设定周期向数据处理层发送后,对应数据内容同步于数据管理层中删除,所述数据管理层中系统端用户手动设定重置周期,数据管理层根据重置周期自主完成重置的操作。4.根据权利要求1所述的一种分布式多源信息采集存储系统,其特征在于,所述数据管理层向数据处理层发送数据内容的操作时,系统处于离线状态下,数据管理层中接收模块接收用户上传的数据内容时,系统处于联网状态下,数据管理层于系统连接网络中采集数据,进行网络安全评价,评价结果通过如下公式表示,公式为:
式中:p
avg
为网络安全评价系数;p
i
为系统连接网络中漏洞在各种有可能存在的攻击路径中被成功利用的概率大小;n为漏洞可被攻击的路径数目;i为攻击路径;其中,n及i为数据管理层于系统连接网络中采集数据,p
avg
的值越小则当前网络更趋于安全,在进行网络安全评价时,通过系统端用户自定义编辑设定评价阈值进行网络安全的评价。5.根据权利要求1所述的一种分布式多源信息采集存储系统,其特征在于,所述传输模块中通过系统端用户设定有数据内容额定传输量,传输模块持续接收数据管理层发送的数据内容,在接收的数据内容到达设定的数据内容额定传输量时,传输模块向筛选模块传输自身接收到的数据管理层发送的数据内容。6.根据权利要求1所述的一种分布式多源信息采集存储系统,其特征在于,所述筛选模块有若干个筛选层组成,每一组所述筛选层均设置有数据内容筛选条件,筛选模块获取的数据内容依次向每一组筛选层传输,在数据内容每经过一组筛选层时,对该筛选层对应数据内容筛选条件相符的数据内容以筛选条件进行标记;其中,各数据内容的对应标记为不少于两组,数据内容筛选条件通过系统端用户手动编辑进行设定及修改,筛选层及其对应数据内容筛选条件初始设定为:第一层:图像数据;第二层:字符数据;第三层:影音数据;第四层:小于10m的数据内容;第五层:大于等于10m小于100m的数据内容;第六层:大于等于100m的数据内容。7.根据权利要求1所述的一种分布式多源信息采集存储系统,其特征在于,所述储存模块中设置有与筛选层及其对应数据内容筛选条件初始设定相适配数量的数据储存区间,储存模块通过其内部设置的储存区间对数据内容进行储存;其中,所述储存模块中的设置的数据储存区间初始设定为:第一储存区间:储存小于10m的图像数据;第二储存区间:储存小于10m的字符数据;第三储存区间:储存小于10m的影音数据;第四储存区间:储存大于等于10m小于100m的图像数据;第五储存区间:储存大于等于10m小于100m的字符数据;第六储存区间:储存大于等于10m小于100m的影音数据;第七储存区间:储存大于等于100m的图像数据;第八储存区间:储存大于等于100m的字符数据;第九储存区间:储存大于等于100m的影音数据。8.根据权利要求1所述的一种分布式多源信息采集存储系统,其特征在于,所述监测层包括记载模块及消减模块,所述记载模块用于记载储存模块中储存的数据内容被用户读取的次数,消减模块用于分析储存模块中储存的数据内容的活性,通过数据内容活性对储存模块中储存的数据内容进行删除消减;其中,用户在读取储存模块中储存的数据内容时,通过数据内容的对应标记进行数据内容的查找,消减模块中通过系统端用户手动编辑设定数据内容的活性评价阈值,消减模块对储存模块中储存的数据内容进行删除消减的操作应用数据内容的活性评价阈值进行删除消减数据内容目标的选择,数据内容的活性即数据内容被用户读取的次数与数据内容存在于储存模块中的时间的比值,消减模块的删除消减目标数据内容为储存模块中存在六个月以上的数据内容。
9.根据权利要求1所述的一种分布式多源信息采集存储系统,其特征在于,所述接收模块通过介质电性连接有设定模块,所述设定模块通过介质电性连接有传输模块、筛选模块及储存模块,所述储存模块通过介质电性连接有记载模块及消减模块。10.一种分布式多源信息采集存储方法,所述方法是对如权利要求1-9中任意一项所述一种分布式多源信息采集存储系统的实施方法,其特征在于,包括以下步骤:步骤1:接收数据内容,对数据内容进行临时储存;步骤2:对步骤1中临时储存的数据进行筛选区分处理;步骤3:构建数据储存空间,在数据储存空间中设置储存区间;步骤4:根据筛选区分结果对完成筛选区分的数据内容向数据储存空间的各储存区间中发送,完成数据内容的区分储存。

技术总结
本发明涉及数据储存技术领域,具体涉及一种分布式多源信息采集存储系统及其储存方法,包括数据管理层、数据处理层及监测层;用户所需储存的数据通过数据管理层上传,于数据管理层中临时储存,并以设定周期向数据处理层发送,通过数据处理层对来源数据管理层的数据内容进行区分处理,以区分结果对数据内容进行区分储存,本发明能够在数据接收阶段对数据进行属性识别,从而进一步的以数据内容的数据属性识别结果对数据内容进行区分,更进一步的以在储存空间中设置储存区间的方式对完成区分的数据内容进行区分配置储存,从而以此实现对数据内容的储存管理,有效的提升了数据内容在进行储存时的容错率。行储存时的容错率。行储存时的容错率。


技术研发人员:吴佳 李礼 吴叶楠
受保护的技术使用者:上海威固信息技术股份有限公司
技术研发日:2023.04.12
技术公布日:2023/7/25
版权声明

本文仅代表作者观点,不代表航空之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)

飞行汽车 https://www.autovtol.com/

分享:

扫一扫在手机阅读、分享本文

相关推荐