网页内容检测方法和系统、电子设备及存储介质与流程

1.本技术涉及网络安全技术领域，尤其涉及一种网页内容检测方法和系统、电子设备及存储介质。


背景技术：

2.目前，互联网飞速发展，信息量随之增大，同时网页中不合法的信息也大量出现，所以网络治理也显得越来越重要。
3.相关技术中，常常采用人工的方式对网页内容进行检测和取证，这一方式的操作流程十分繁琐，还会存在取证的数据量过多、网页内容取证不完整等问题，且人工处理效率较低，因此如何提供一种网页内容检测方法，提高网页内容检测和内容取证的准确性和效率，成为了一个亟需解决的技术问题。


技术实现要素：

4.本技术实施例的主要目的在于提出一种网页内容检测方法和系统、电子设备及存储介质，旨在提高网页内容检测和内容取证的准确性和效率。
5.为实现上述目的，本技术实施例的第一方面提出了一种网页内容检测方法，所述方法包括：
6.响应于目标对象的检测请求，获取目标网站的网页内容数据；
7.对网页内容数据进行内容检测，得到所述网页内容数据的内容关键词，并根据预设的候选类别和所述内容关键词确定所述网页内容数据的内容类别；
8.根据所述内容类别，将所述内容类别为第一类别的网页内容数据作为第一目标数据，并将所述第一目标数据推送给所述目标对象；
9.接收所述目标对象对所述第一目标数据的确认信息，并根据所述确认信息对所述第一目标数据进行筛选，得到第二目标数据；
10.响应于所述目标对象的取证请求，根据所述第二目标数据对所述目标网站进行取证，得到所述目标网站对应的证明数据，其中，所述证明数据包括视频数据、图片数据中的至少一种。
11.在一些实施例，所述响应于目标对象的检测请求，获取目标网站的网页内容数据，包括：
12.基于所述检测请求，获取所述目标网站的访问状态，其中，访问状态包括正常；
13.若所述访问状态为正常，则根据预设的网页深度参数，提取所述目标网站的初步内容数据；
14.对所述初步内容数据进行数据去重，得到所述网页内容数据。
15.在一些实施例，所述对网页内容数据进行内容检测，得到所述网页内容数据的内容关键词，包括：
16.基于预设算法对所述网页内容数据的每个词语进行词频评分，得到词频评分数
据；
17.基于所述预设算法对所述网页内容数据进行文本评分，得到文本评分数据；
18.基于所述词频评分数据和所述文本评分数据对所述网页内容数据进行词语筛选，得到所述内容关键词。
19.在一些实施例，所述根据预设的候选类别和所述内容关键词确定所述网页内容数据的内容类别，包括：
20.提取每个所述候选类别对应的参考词语；
21.比对所述参考词语和所述内容关键词；
22.若存在所述参考词语和所述内容关键词一致，则将所述参考词语对应的候选类别作为所述内容类别。
23.在一些实施例，所述根据所述确认信息对所述第一目标数据进行筛选，得到第二目标数据，包括：
24.从所述确认信息中提取所述第一目标数据的标注内容，所述标注内容用于表示所述第一目标数据合法或者表示所述第一目标数据不合法；
25.选取所述标注内容为所述第一目标数据不合法的第一目标数据作为所述第二目标数据。
26.在一些实施例，所述取证请求包括截屏请求，所述响应于所述目标对象的取证请求，根据所述第二目标数据对所述目标网站进行取证，得到所述目标网站对应的证明数据，包括：
27.根据所述截屏请求和所述第二目标数据，向截屏服务端发送截屏任务；
28.接收所述截屏服务端根据所述截屏任务反馈的图片数据，并将所述图片数据作为所述证明数据。
29.在一些实施例，所述取证请求包括录屏请求，所述响应于所述目标对象的取证请求，根据所述第二目标数据对所述目标网站进行取证，得到所述目标网站对应的证明数据，包括：
30.根据所述录屏请求和所述第二目标数据，向录屏服务端发送录屏任务；
31.接收所述录屏服务端根据所述录屏任务反馈的视频数据，并将所述视频数据作为所述证明数据。
32.为实现上述目的，本技术实施例的第二方面提出了一种网页内容检测系统，所述系统包括：
33.采集模块，用于响应于目标对象的检测请求，获取目标网站的网页内容数据；
34.分类模块，用于对网页内容数据进行内容检测，得到所述网页内容数据的内容关键词，并根据预设的候选类别和所述内容关键词确定所述网页内容数据的内容类别；
35.推送模块，用于根据所述内容类别，将所述内容类别为第一类别的网页内容数据作为第一目标数据，并将所述第一目标数据推送给所述目标对象；
36.筛选模块，用于接收所述目标对象对所述第一目标数据的确认信息，并根据所述确认信息对所述第一目标数据进行筛选，得到第二目标数据；
37.取证模块，用于响应于所述目标对象的取证请求，根据所述第二目标数据对所述目标网站进行取证，得到所述目标网站对应的证明数据，其中，所述证明数据包括视频数
据、图片数据中的至少一种。
38.为实现上述目的，本技术实施例的第三方面提出了一种电子设备，所述电子设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现上述第一方面所述的方法。
39.为实现上述目的，本技术实施例的第四方面提出了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面所述的方法。
40.本技术提出的网页内容检测方法和系统、电子设备及存储介质,其通过响应于目标对象的检测请求，获取目标网站的网页内容数据，相较基于传统的人工获取网页内容数据，能自动化进行数据采集，提高对网页内容检测的效率。进一步地，对网页内容数据进行内容检测，得到网页内容数据的内容关键词，并根据预设的候选类别和内容关键词确定网页内容数据的内容类别，能够根据网页内容数据的关键词和所属内容类别初步地对不合法的网页内容数据进行过滤，降低数据排查范围，从而降低工作量，提高效率。进一步地，根据内容类别，将内容类别为第一类别的网页内容数据作为第一目标数据，并将第一目标数据推送给目标对象，能够及时主动地提醒目标对象对第一目标数据进行确认，从而缩短处理时间，提高效率。进一步地，接收目标对象对第一目标数据的确认信息，并根据确认信息对第一目标数据进行筛选，得到第二目标数据，能够通过二次确认提高对网页内容检测的准确性。进一步地，响应于目标对象的取证请求，根据第二目标数据对目标网站进行取证，得到目标网站对应的证明数据，其中，所述证明数据包括视频数据、图片数据中的至少一种，能够实现取证的多样性，提高取证的准确性。这一方式能实现基于关键词以及目标对象确定两种形式相结合来进行网页内容检测，提高网页内容检测的准确性和内容取证的准确性。
附图说明
41.图1是本技术实施例的系统架构图；
42.图2是本技术实施例提供的网页内容检测方法的流程图；
43.图3是图1中的步骤s201的流程图；
44.图4是图1中的步骤s202的流程图；
45.图5是图1中的步骤s202的另一流程图；
46.图6是图1中的步骤s204的流程图；
47.图7是图1中的步骤s205的流程图；
48.图8是图1中的步骤s205的另一流程图；
49.图9是本技术实施例提供的一种网页内容检测系统的结构示意图；
50.图10是本技术实施例提供的电子设备的硬件结构示意图。
具体实施方式
51.为了使本技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本技术进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本技术，并不用于限定本技术。
52.需要说明的是，虽然在系统示意图中进行了功能模块划分，在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于系统中的模块划分，或流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。
53.除非另有定义，本文所使用的所有的技术和科学术语与属于本技术的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本技术实施例的目的，不是旨在限制本技术。
54.首先，对本技术中涉及的若干名词进行解析：
55.人工智能(artificial intelligence，ai)：是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学；人工智能是计算机科学的一个分支，人工智能企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能可以对人的意识、思维的信息过程的模拟。人工智能还是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
56.自然语言处理(natural language processing，nlp)：nlp用计算机来处理、理解以及运用人类语言(如中文、英文等)，nlp属于人工智能的一个分支，是计算机科学与语言学的交叉学科，又常被称为计算语言学。自然语言处理包括语法分析、语义分析、篇章理解等。自然语言处理常用于机器翻译、手写体和印刷体字符识别、语音识别及文语转换、信息意图识别、信息抽取与过滤、文本分类与聚类、舆情分析和观点挖掘等技术领域，它涉及与语言处理相关的数据挖掘、机器学习、知识获取、知识工程、人工智能研究和与语言计算相关的语言学研究等。
57.信息抽取(information extraction，ner)：从自然语言文本中抽取指定类型的实体、关系、事件等事实信息，并形成结构化数据输出的文本处理技术。信息抽取是从文本数据中抽取特定信息的一种技术。文本数据是由一些具体的单位构成的，例如句子、段落、篇章，文本信息正是由一些小的具体的单位构成的，例如字、词、词组、句子、段落或是这些具体的单位的组合。抽取文本数据中的名词短语、人名、地名等都是文本信息抽取，当然，文本信息抽取技术所抽取的信息可以是各种类型的信息。
58.目前，互联网飞速发展，信息量随之增大，同时网页中不合法的信息也大量出现，所以网络治理也显得越来越重要。
59.相关技术中，常常采用人工的方式对网页内容进行检测和取证，需要人工复制网站放入浏览器的地址栏打开网站，等待网站内容加载，浏览网站内容，判断网站内容是否需要取证，如果需要取证则使用第三方软件进行截屏或者视频录制，生成取证文件，再匹配网站，将图片或者视频重命名并上传到数据库。在采集数据量大时，这一方式的操作流程十分繁琐，还会存在网页内容取证不完整等问题，且人工处理效率较低，因此如何提供一种网页内容检测方法，提高网页内容检测和内容取证的准确性和效率，成为了一个亟需解决的技术问题。
60.另外，人工处理还会遇到以下情况：部分网站需要登录账号或者付费才能查看内容，而人工缺乏相关平台的账号就会导致无法正常访问网站内容；部分网站会频繁出现广
告弹窗，影响人工进行内容浏览，同时需要手动关闭弹窗，影响效率；部分网站由于反爬虫或者网络的原因，本地ip会被禁止访问。
61.基于此，本技术实施例提出一种网页内容检测方法和系统、电子设备及存储介质，旨在提高网页内容检测和内容取证的准确性和效率。
62.本技术实施例提供的网页内容检测方法和系统、电子设备及存储介质，具体通过如下实施例进行说明，首先描述本技术实施例中的网页内容检测方法。
63.本技术实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(artificial intelligence，ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
64.人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
65.本技术实施例提供的网页内容检测方法，涉及网络安全技术领域。本技术实施例提供的网页内容检测方法可应用于终端中，也可应用于服务器端中，还可以是运行于终端或服务器端中的软件。在一些实施例中，终端可以是智能手机、平板电脑、笔记本电脑、台式计算机等；服务器端可以配置成独立的物理服务器，也可以配置成多个物理服务器构成的服务器集群或者分布式系统，还可以配置成提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、cdn以及大数据和人工智能平台等基础云计算服务的云服务器；软件可以是实现网页内容检测方法的应用等，但并不局限于以上形式。
66.本技术可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络pc、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本技术可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本技术，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
67.图1是根据本公开的实施例的网页内容检测方法所应用的系统构架图。它包括数据库110、服务器120、终端130等。
68.数据库110是指能存放数据的仓库。具体到本实施例中，截屏服务端或录屏服务端获得的证明数据都会保存在相应的数据库中，而系统采集的网页内容数据也会保存在相应的数据库中，能够实现将数据集合长期存储在计算机内，能对数据集合进行统一管理，并通过数据库实现数据共享。
69.服务器120是指能对终端130提供某些服务的计算机系统。相对于普通终端130来说，服务器120在稳定性、安全性、性能等方面都要求更高。服务器120可以是网络平台中的一台高性能计算机、多台高性能计算机的集群、一台高性能计算机中划出的一部分(例如虚
拟机)、多台高性能计算机中划出的一部分(例如虚拟机)的组合等。该服务器120包括用于实现本技术实施例中的网页内容检测方法的系统、截屏服务端、录屏服务端等。
70.终端130包括桌面电脑、膝上型电脑、pda(个人数字助理)、手机、车载终端、家庭影院终端、专用终端等多种形式。另外，它可以是单台设备，也可以是多台设备组成的集合。终端130可以与服务器120进行通信，交换数据。
71.图2是本技术实施例提供的网页内容检测方法的一个可选的流程图，图2中的方法可以包括但不限于包括步骤s201至步骤s205。
72.步骤s201，响应于目标对象的检测请求，获取目标网站的网页内容数据；
73.步骤s202，对网页内容数据进行内容检测，得到网页内容数据的内容关键词，并根据预设的候选类别和内容关键词确定网页内容数据的内容类别；
74.步骤s203，根据内容类别，将内容类别为第一类别的网页内容数据作为第一目标数据，并将第一目标数据推送给目标对象；
75.步骤s204，接收目标对象对第一目标数据的确认信息，并根据确认信息对第一目标数据进行筛选，得到第二目标数据；
76.步骤s205，响应于目标对象的取证请求，根据第二目标数据对目标网站进行取证，得到目标网站对应的证明数据。
77.本技术提出的网页内容检测方法和系统、电子设备及存储介质,其通过响应于目标对象的检测请求，获取目标网站的网页内容数据，相较基于传统的人工获取网页内容数据，能自动化进行数据采集，提高对网页内容检测的效率。进一步地，对网页内容数据进行内容检测，得到网页内容数据的内容关键词，并根据预设的候选类别和内容关键词确定网页内容数据的内容类别，能够根据网页内容数据的关键词和所属内容类别初步地对不合法的网页内容数据进行过滤，降低数据排查范围，从而降低工作量，提高效率。进一步地，根据内容类别，将内容类别为第一类别的网页内容数据作为第一目标数据，并将第一目标数据推送给目标对象，能够及时主动地提醒目标对象对第一目标数据进行确认，从而缩短处理时间，提高效率。进一步地，接收目标对象对第一目标数据的确认信息，并根据确认信息对第一目标数据进行筛选，得到第二目标数据，能够通过二次确认提高对网页内容检测的准确性。进一步地，响应于目标对象的取证请求，根据第二目标数据对目标网站进行取证，得到目标网站对应的证明数据，其中，证明数据包括视频数据、图片数据中的至少一种，能够实现取证的多样性，提高取证的准确性。这一方式能实现基于关键词以及目标对象确定两种形式相结合来进行网页内容检测，提高网页内容检测的准确性和内容取证的准确性。
78.在一些实施例的步骤s201之前，还可以接收目标对象发送的网站数据，网站数据包括待检测的目标网站地址。目标对象指的是网络用户或者相关业务人员等等。本技术实施例的网站数据指的是目标对象想要进行内容检测以及取证的若干网站的表单数据，该表单数据包括每个待检测网站的网站名称、网站地址或者网站链接等内容。这一方式使得当接收到目标对象针对某个待检测网站所触发的检测请求时，能方便地调用表单数据，通过表单数据中的网站地址或者网站链接跳转至相应的网站，能提高效率。以检测目标网站为例，当目标对象发送检测请求想要针对目标网站进行内容检测和取证时，基于检测请求从表单数据中调用目标网站的目标网站地址，并根据目标网站地址进入该目标网站。
79.请参阅图3，在一些实施例中，步骤s201可以包括但不限于包括步骤s301至步骤
s303：
80.步骤s301，基于检测请求，获取目标网站的访问状态；
81.步骤s302，若访问状态为正常，则根据预设的网页深度参数，提取目标网站的初步内容数据；
82.步骤s303，对初步内容数据进行数据去重，得到网页内容数据。
83.在一些实施例的步骤s301中，基于检测请求，获取目标网站的访问状态，包括获取目标网站的状态码，基于状态码，确定访问状态。其中，状态码指的是http状态码(http status code)，该状态码是用以表示网页服务器超文本传输协议响应的3位数字代码。例如200，表示请求已成功，请求所希望的响应头或数据体将随此响应返回；再例如404，表示请求失败，请求所希望得到的资源未在服务器上发现。因此，根据状态码的不同，可以将访问状态确定为正常或者异常。具体地，当状态码为200时，确定访问状态是正常的；而当状态码为404时，则可以确定访问状态是异常的。在一些实施例中，会遇到部分网站需要登录账号才能查看内容，为解决此问题，系统可内置一些主流的网站账号，且网站账号处于已登录状态。在一些实施例中，会遇到部分网站频繁出现广告弹窗，为解决此问题，系统可采用直连本地浏览器的方式，且浏览器已加载弹窗拦截、广告屏蔽等功能。在一些实施例中，会遇到部分网站由于反爬虫或者网络的原因，本地ip会被禁止访问，为解决此问题，系统可以内置丰富的代理ip池，当访问ip被屏蔽时自动切换代理ip。
84.在一些实施例的步骤s302中，考虑到常见网站常常是将首页设置为深度1，将栏目页设置为深度2，将文章详情页设置为深度3。基于此，本技术实施例中预设的网页深度参数可以是1或者2或者3。在此情况下，当访问状态为正常，可以提取深度为1的页面数据，得到第一网页内容数据。进一步地，判断目标网站的页面是否存在深度为2的页面，若存在深度为2的页面，则提取深度为2的页面数据，得到第二网页内容数据。接着，判断目标网站的页面是否存在深度为3的页面，若存在深度为3的页面，则提取深度为3的页面数据，得到第三网页数据，最后将第一网页内容数据和/或第二网页内容数据和/或第三网页数据进行梳理，形成目标网站的初步内容数据。需要说明的是，预设的网页深度参数的具体数值可以根据实际业务需求设置，不限于此。
85.在一些实施例的步骤s303中，对初步内容数据进行数据去重，该数据去重过程可以是将没有实际意义、格式不符合要求、不在指定范围内的数据进行去除，也可以是将重复的数据进行删除，只保留唯一的数据单元，从而消除冗余数据。
86.通过上述步骤s301至步骤s303能够快速地确认目标网站的访问状态，也能快速地将重点放在能够访问的目标网站上，并根据预设的深度参数对网站进行网页内容数据获取，进一步再对数据进行去重，能实现自动化地获取有效的数据，提高效率。
87.请参阅图4，在一些实施例中，步骤s202可以包括但不限于包括步骤s401至步骤s403：
88.步骤s401，基于预设算法对网页内容数据的每个词语进行词频评分，得到词频评分数据；
89.步骤s402，基于预设算法对网页内容数据进行文本评分，得到文本评分数据；
90.步骤s403，基于词频评分数据和文本评分数据对网页内容数据进行词语筛选，得到内容关键词。
91.在一些实施例中，预设算法可以是词频-逆文本频率(term frequency-inverse document frequency，tf-idf)，tf-idf算法是一种数值统计技术，可以反映单个词语(token)对于整个文档的重要程度，其主要思想是：假设有一个文本集合计为documents,这个文本集合由h个单独的文本l组成，每个文本l由k个单词组成。一个词语如果在一个文本l中出现的次数较多而在文本集合的其他文本中出现的次数较少，那么这个词语对于分辨这个文本具有较强的能力。
92.除此之外，预设算法也可以是其他关键词算法，不限于此。
93.接下来以tf-idf算法对步骤s401至步骤s403进行具体解释说明。
94.步骤s401中，基于tf-idf算法对获取的网页内容数据中的每个词语进行词频评分，具体地，由于网页内容数据包括多个页面内容，因此，可以将网页内容数据作为一个文本集合，将每个页面内容作为一个文本。针对每个页面内容，获取该页面内容中的某一单词在该页面内容中出现的次数，再获取该页面内容中所有单词出现的次数之和，将该页面内容中的某一单词在该页面内容中出现的次数与该页面内容中所有单词出现的次数之和做除法运算，其计算公式如公式(1)所示。
[0095][0096]
其中，tfi表示单词i的词频评分；ni表示单词i在文本l中出现的次数；∑knk表示文本l中所有的单词出现的次数之和。
[0097]
步骤s402中，基于tf-idf算法对网页内容数据进行文本评分，得到文本评分数据，具体地，获取网页内容数据中文本的总数量，再获取在网页内容数据中包含某一单词的文本的总数量，将二者做除法运算，再进行指数运算，其计算公式如公式(2)所示。
[0098][0099]
其中，idf(tokeni,d)表示文本l中的单词i在网页内容数据中的逆文本频率指数，即文本评分数据；d为网页内容数据；n表示网页内容数据中文本的总数量；|{l∈d:tokeni∈l}|表示在文本集合d中包含单词i的文本l的总数量。
[0100]
步骤s403中，基于词频评分数据和文本评分数据对网页内容数据进行词语筛选，得到内容关键词，具体地，将词频评分数据与文本评分数据相乘，其计算公式如公式(3)所示。
[0101]
tfidfi＝tfi×
idf(tokeni,d) 公式(3)
[0102]
其中，tfidfi表示单词i的词频-逆文本频率值。当词频-逆文本频率值越高，该单词就越能区分文本。
[0103]
通过上述步骤s401至步骤s403能够利用预设算法对网页内容数据进行关键词识别，能更加简单、快速、合理地获取网页内容数据的内容关键词，从而提高整体的网页内容检测和取证的效率。
[0104]
请参阅图5，在一些实施例中，步骤s202可以包括但不限于包括步骤s501至步骤s503：
[0105]
步骤s501，提取每个候选类别对应的参考词语；
[0106]
步骤s502，比对参考词语和内容关键词；
[0107]
步骤s503，若存在参考词语和内容关键词一致，则将参考词语对应的候选类别作为内容类别。
[0108]
在一些实施例的步骤s501中，候选类别可以是一种的，也可以是多种的，其对应的参考词语可以是一个的，也可以是多个的，例如,候选类别可以是a、b、c，则a对应的参考词语可以有a、b、c，b对应的参考词语可以有d、e、f，c对应的参考词语可以有g、h。
[0109]
在一些实施例的步骤s502中，可以将所有参考词语加载进prism进行打标签处理，再通过数据流接收内容关键词，调用prism服务对参考词语和内容关键词进行比对。
[0110]
在一些实施例的步骤s503中，当参考词语和内容关键词一致时，若该参考词语是属于候选类别a，则该内容关键词的内容类别为a类。
[0111]
通过上述步骤s501至步骤s503能够实现对网页内容数据进行分类，能够根据关键词和参考词语确定网页内容数据所属的类别，能初步地对不合法的网页内容数据进行过滤，降低数据排查范围，从而降低工作量，提高效率。
[0112]
请参阅图6，在一些实施例，步骤s204包括但不限于包括步骤s601至步骤s602：
[0113]
步骤s601，从确认信息中提取第一目标数据的标注内容；
[0114]
步骤s602，选取标注内容为第一目标数据不合法的第一目标数据作为第二目标数据。
[0115]
在一些实施例的步骤s601之前，内容类别为第一类别的网页内容数据被作为第一目标数据推送给目标对象，使目标对象通过浏览第一目标数据，对网页内容数据是否合法进行再次确认。在目标对象通过浏览第一目标数据进行数据确认时，当目标对象发现某一个第一目标数据是合法的数据，即该第一目标数据的内容类别划分有误，则将该第一目标数据标注为确定合法；当目标对象发现某一个第一目标数据确实是不合法的数据，则将该第一目标数据标注为确定不合法。这一方式提高了对网页内容数据进行分类的精准性，从而提高了对网页内容检测的准确性和效率。且相较于传统的技术，在数据量庞大的情况下，通过自动化采集以及初步分类后，再让对象对已经过滤且分类好的数据进行处理，很大程度地降低了工作量。
[0116]
在一些实施例的步骤s601中，标注内容包括确认第一目标数据是合法或者不合法，对于属于合法的第一目标数据没有必要进行后续的取证操作，这也为取证工作减轻工作量，从而提高整个流程的效率。
[0117]
在一些实施例的步骤s602中，通过剔除目标对象标注为合法的数据，从而留下第一目标数据中属于不合法的数据作为第二目标数据。此时第二目标数据是经过了目标对象再次得到的数据，该方式实现了基于关键词以及目标对象确定两种形式相结合来进行网页内容检测，提高网页内容检测的准确性和内容取证的准确性。
[0118]
通过上述步骤s601至步骤s602能够分析目标对象提供的确认信息，通过确认信息得到第一目标数据的标注内容，根据标注信息得到第二目标数据，能够提高对网页内容检测的准确性。
[0119]
请参阅图7，在一些实施例中，步骤s205可以包括但不限于包括步骤s701至步骤s702：
[0120]
步骤s701，根据截屏请求和第二目标数据，向截屏服务端发送截屏任务；
[0121]
步骤s702，接收截屏服务端根据截屏任务反馈的图片数据，并将图片数据作为证
明数据。
[0122]
在一些实施例的步骤s701中，截屏请求可以是目标对象点击界面上“图片取证上传”下方的“待取证”按钮，触发系统前端所发起的，由系统后台构建数据生成截屏任务发送至截屏服务端。在另一些实施例中，截屏请求可以是根据第二目标数据定期自动触发系统前端所发起的，由系统后台构建数据生成截屏任务发送至截屏服务端。
[0123]
在一些实施例的步骤s702中，截屏服务端收到截屏任务后，先解析数据，获取网页链接地址，即网页url(uniform resource locator,统一资源定位器)。接着根据网页链接与数据库中的数据进行比对判断，查看数据库中是否已存在对该网页链接进行取证得到的证明数据，若存在则返回数据库中已有的证明数据，若不存在则将数据的任务状态改为“队列中”，下发到数据队列等到执行，并向系统返回响应。系统端接收截屏服务端返回的数据，判断数据的任务状态，当任务状态为“队列中”或者“执行中”时，系统端会不断定时发起轮询，查询截屏服务端的数据；当任务状态为“成功”或者“失败”时，则停止轮询。其中，在“成功”的任务状态下，系统能接收截屏服务端根据截屏任务反馈的图片数据，系统会将图片数据还原成图片，并在系统前端进行图片展示；在“失败”的任务状态下，系统的界面上的页面按钮会显示“重新取证”状态，使目标对象能重新发起截屏请求。其中，任务状态为“失败”的原因包括截屏服务端存在网络波动以及网站本身异常导致截屏服务端无法正常访问。
[0124]
当截屏服务端从数据队列中取出数据时，将数据的任务状态修改为“执行中”，并开启截屏流程。
[0125]
截屏流程可以是截屏服务端通过谷歌浏览器开发工具协议(chrome devtools protocol,cdp)连接浏览器，通过协议控制浏览器访问网页链接地址，再通过协议接口判断网站内容是否加载完成，当加载完成后，再主动等待预设时间，当等待了预设时间后开启截屏。这里考虑到浏览器自身判断加载已完成，但实际上浏览器并未将数据渲染完成的情况，通过加入主动等待，可以保证大部分网站在截屏前加载完成，实现解决录屏内容不完整的问题。
[0126]
在另一些实施例中，也可以通过控制浏览器进行鼠标滑动，在滑动时通过计算页面高度滑动一定的距离，保证页面内容完全加载。当判断页面内容已经滑动到底部后，系统提醒浏览器开启截屏。其中，判断页面内容滑到底部可以通过javascript语言实现。
[0127]
当开启截屏时，调用浏览器的接口获取数据，将图片数据转换成图片文件，存储在服务器磁盘中，该图片文件即为证明数据。最后，将图片文件序列化，即将非文本数据转换成文本数据，并更新数据库。
[0128]
通过上述步骤s701至步骤s702能够自动化地获得图片数据，提高了效率，并且能通过主动等待以及代码判断等手段实现网页内容的完全加载，实现了取证的完整性，提高了取证的准确性。
[0129]
请参阅图8，在一些实施例中，步骤s205可以包括但不限于包括步骤s801至步骤s802：
[0130]
步骤s801，根据录屏请求和第二目标数据，向录屏服务端发送录屏任务；
[0131]
步骤s802，接收录屏服务端根据录屏任务反馈的视频数据，并将视频数据作为证明数据。
[0132]
在一些实施例的步骤s701中，录屏请求可以是目标对象点击界面上“视频取证上
传”下方的“待取证”按钮，触发系统前端发起的，由系统后台构建数据生成录屏任务发送至录屏服务端。在另一些实施例中，录屏请求可以是根据第二目标数据定期自动地对系统前端发起的，由系统后台构建数据生成录屏任务发送至录屏服务端。
[0133]
在一些实施例的步骤s702中，录屏服务端收到录屏任务后，先解析数据，获取网页链接地址，即网页url。接着根据网页链接与数据库中的数据进行比对判断，查看数据库中是否已存在对该网页链接进行取证得到的证明数据，若存在则返回数据库中已有的证明数据，若不存在则将数据的任务状态改为“队列中”，下发到数据队列等到执行，并向系统返回响应。系统端接收录屏服务端返回的数据，判断数据的任务状态，当任务状态为“队列中”或者“执行中”时，系统端会不断定时发起轮询，查询录屏服务端的数据；当任务状态为“成功”或者“失败”时，则停止轮询。其中，在“成功”的任务状态下，系统能接收录屏服务端根据录屏任务反馈的视频数据，系统会将视频数据还原成视频，并在系统前端进行视频展示；在“失败”的任务状态下，系统的界面上的页面按钮会显示“重新取证”状态，使目标对象能重新发起录屏请求。其中，任务状态为“失败”的原因包括录屏服务端存在网络波动以及网站本身异常导致录屏服务端无法正常访问。
[0134]
当录屏服务端从数据队列中取出数据时，将数据的任务状态修改为“执行中”，并开启录屏流程。
[0135]
录屏流程可以是录屏服务端通过cdp连接浏览器，通过协议控制浏览器访问网页链接地址，再通过协议接口判断网站内容是否加载完成，当加载完成后，再主动等待预设时间，当等待了预设时间后，系统提醒浏览器开启录屏。这里考虑到浏览器自身判断加载已完成，但实际上浏览器并未将数据渲染完成的情况，通过加入主动等待，可以保证大部分网站在录屏前加载完成，实现解决录屏内容不完整的问题。
[0136]
在另一些实施例中，录屏流程也可以是通过协议接口判断网站内容是否加载完成，当加载完成后，系统提醒浏览器开始录屏，期间通过控制浏览器进行鼠标滑动，在滑动时通过计算页面高度滑动一定的距离，保证页面内容完全加载。当判断页面内容已经滑动到底部后，结束录屏。其中，判断页面内容滑到底部可以通过javascript语言实现。
[0137]
当开启录屏时，调用浏览器的接口获取数据，将数据转换成视频文件，存储在服务器磁盘中，该视频文件即为证明数据。其中，可以通过第三方视频转换技术将数据转换成视频文件，其中，第三方视频转换技术可以包括ffmpeg(fast forward mpeg)等等。最后，将视频文件序列化，即将非文本数据转换成文本数据，并更新数据库。
[0138]
通过上述步骤s801至步骤s802能够自动化地获得视频数据，提高了效率，并且能通过主动等待以及代码判断等手段实现网页内容的完全加载，实现了取证的完整性，提高了取证的准确性。
[0139]
请参阅图9，本技术实施例还提供一种网页内容检测系统，可以实现上述网页内容检测方法，该系统包括：
[0140]
采集模块901，用于响应于目标对象的检测请求，获取目标网站的网页内容数据；
[0141]
分类模块902，用于对网页内容数据进行内容检测，得到网页内容数据的内容关键词，并根据预设的候选类别和内容关键词确定网页内容数据的内容类别；
[0142]
推送模块903，用于根据内容类别，将内容类别为第一类别的网页内容数据作为第一目标数据，并将第一目标数据推送给目标对象；
[0143]
筛选模块904，用于接收目标对象对第一目标数据的确认信息，并根据确认信息对第一目标数据进行筛选，得到第二目标数据；
[0144]
取证模块905，用于响应于目标对象的取证请求，根据第二目标数据对目标网站进行取证，得到目标网站对应的证明数据，其中，证明数据包括视频数据、图片数据中的至少一种。
[0145]
该网页内容检测系统的具体实施方式与上述网页内容检测方法的具体实施例基本相同，在此不再赘述。
[0146]
本技术实施例还提供了一种电子设备，电子设备包括存储器和处理器，存储器存储有计算机程序，处理器执行计算机程序时实现上述网页内容检测方法。该电子设备可以为包括平板电脑、车载电脑等任意智能终端。
[0147]
请参阅图10，图10示意了另一实施例的电子设备的硬件结构，电子设备包括：
[0148]
处理器1001，可以采用通用的cpu(central processing unit，中央处理器)、微处理器、应用专用集成电路(application specific integrated circuit，asic)、或者一个或多个集成电路等方式实现，用于执行相关程序，以实现本技术实施例所提供的技术方案；
[0149]
存储器1002，可以采用只读存储器(read only memory，rom)、静态存储设备、动态存储设备或者随机存取存储器(random access memory，ram)等形式实现。存储器1002可以存储操作系统和其他应用程序，在通过软件或者固件来实现本说明书实施例所提供的技术方案时，相关的程序代码保存在存储器1002中，并由处理器1001来调用执行本技术实施例的网页内容检测方法；
[0150]
输入/输出接口1003，用于实现信息输入及输出；
[0151]
通信接口1004，用于实现本设备与其他设备的通信交互，可以通过有线方式(例如usb、网线等)实现通信，也可以通过无线方式(例如移动网络、wifi、蓝牙等)实现通信；
[0152]
总线1005，在设备的各个组件(例如处理器1001、存储器1002、输入/输出接口1003和通信接口1004)之间传输信息；
[0153]
其中处理器1001、存储器1002、输入/输出接口1003和通信接口1004通过总线1005实现彼此之间在设备内部的通信连接。
[0154]
本技术实施例还提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述网页内容检测方法。
[0155]
存储器作为一种非暂态计算机可读存储介质，可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外，存储器可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中，存储器可选包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
[0156]
本技术实施例提供的网页内容检测方法、网页内容检测系统、电子设备及存储介质，其通过响应于目标对象的检测请求，获取目标网站的网页内容数据，能自动化进行数据采集，提高对网页内容检测的效率。进一步地，对网页内容数据进行内容检测，得到网页内容数据的内容关键词，并根据预设的候选类别和内容关键词确定网页内容数据的内容类别，能够根据网页内容数据的关键词和所属内容类别初步地对不合法的网页内容数据进行
过滤，降低数据排查范围，从而降低工作量，提高了工作效率。进一步地，根据内容类别，将内容类别为第一类别的网页内容数据作为第一目标数据，并将第一目标数据推送给目标对象，能够及时主动地提醒目标对象对第一目标数据进行确认，从而缩短处理时间，提高效率。进一步地，接收目标对象对第一目标数据的确认信息，并根据确认信息对第一目标数据进行筛选，得到第二目标数据，能够提高对网页内容检测的准确性。进一步地，响应于目标对象的取证请求，根据第二目标数据对目标网站进行取证，得到目标网站对应的证明数据，其中，证明数据包括视频数据、图片数据中的至少一种，能够实现取证的多样性，提高取证的准确性。
[0157]
本技术实施例描述的实施例是为了更加清楚的说明本技术实施例的技术方案，并不构成对于本技术实施例提供的技术方案的限定，本领域技术人员可知，随着技术的演变和新应用场景的出现，本技术实施例提供的技术方案对于类似的技术问题，同样适用。
[0158]
本领域技术人员可以理解的是，图中示出的技术方案并不构成对本技术实施例的限定，可以包括比图示更多或更少的步骤，或者组合某些步骤，或者不同的步骤。
[0159]
以上所描述的系统实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
[0160]
本领域普通技术人员可以理解，上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
[0161]
本技术的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0162]
应当理解，在本技术中，“至少一个(项)”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“a和/或b”可以表示：只存在a，只存在b以及同时存在a和b三种情况，其中a，b可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”，其中a，b，c可以是单个，也可以是多个。
[0163]
在本技术所提供的几个实施例中，应该理解到，所揭露的系统和方法，可以通过其它的方式实现。例如，以上所描述的系统实施例仅仅是示意性的，例如，上述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，系统或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
[0164]
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显
示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
[0165]
另外，在本技术各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
[0166]
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本技术的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括多指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本技术各个实施例的方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(read-only memory，简称rom)、随机存取存储器(random access memory，简称ram)、磁碟或者光盘等各种可以存储程序的介质。
[0167]
以上参照附图说明了本技术实施例的优选实施例，并非因此局限本技术实施例的权利范围。本领域技术人员不脱离本技术实施例的范围和实质内所作的任何修改、等同替换和改进，均应在本技术实施例的权利范围之内。

技术特征：
1.一种网页内容检测方法，其特征在于，所述方法包括：响应于目标对象的检测请求，获取目标网站的网页内容数据；对网页内容数据进行内容检测，得到所述网页内容数据的内容关键词，并根据预设的候选类别和所述内容关键词确定所述网页内容数据的内容类别；根据所述内容类别，将所述内容类别为第一类别的网页内容数据作为第一目标数据，并将所述第一目标数据推送给所述目标对象；接收所述目标对象对所述第一目标数据的确认信息，并根据所述确认信息对所述第一目标数据进行筛选，得到第二目标数据；响应于所述目标对象的取证请求，根据所述第二目标数据对所述目标网站进行取证，得到所述目标网站对应的证明数据，其中，所述证明数据包括视频数据、图片数据中的至少一种。2.根据权利要求1所述的一种网页内容检测方法，其特征在于，所述响应于目标对象的检测请求，获取目标网站的网页内容数据，包括：基于所述检测请求，获取所述目标网站的访问状态，其中，访问状态包括正常；若所述访问状态为正常，则根据预设的网页深度参数，提取所述目标网站的初步内容数据；对所述初步内容数据进行数据去重，得到所述网页内容数据。3.根据权利要求1所述的一种网页内容检测方法，其特征在于，所述对网页内容数据进行内容检测，得到所述网页内容数据的内容关键词，包括：基于预设算法对所述网页内容数据的每个词语进行词频评分，得到词频评分数据；基于所述预设算法对所述网页内容数据进行文本评分，得到文本评分数据；基于所述词频评分数据和所述文本评分数据对所述网页内容数据进行词语筛选，得到所述内容关键词。4.根据权利要求1所述的一种网页内容检测方法，其特征在于，所述根据预设的候选类别和所述内容关键词确定所述网页内容数据的内容类别，包括：提取每个所述候选类别对应的参考词语；比对所述参考词语和所述内容关键词；若存在所述参考词语和所述内容关键词一致，则将所述参考词语对应的候选类别作为所述内容类别。5.根据权利要求1所述的一种网页内容检测方法，其特征在于，所述根据所述确认信息对所述第一目标数据进行筛选，得到第二目标数据，包括：从所述确认信息中提取所述第一目标数据的标注内容，所述标注内容用于表示所述第一目标数据合法或者表示所述第一目标数据不合法；选取所述标注内容为所述第一目标数据不合法的第一目标数据作为所述第二目标数据。6.根据权利要求1至5任一项所述的一种网页内容检测方法，其特征在于，所述取证请求包括截屏请求，所述响应于所述目标对象的取证请求，根据所述第二目标数据对所述目标网站进行取证，得到所述目标网站对应的证明数据，包括：根据所述截屏请求和所述第二目标数据，向截屏服务端发送截屏任务；
接收所述截屏服务端根据所述截屏任务反馈的图片数据，并将所述图片数据作为所述证明数据。7.根据权利要求1至5任一项所述的一种网页内容检测方法，其特征在于，所述取证请求包括录屏请求，所述响应于所述目标对象的取证请求，根据所述第二目标数据对所述目标网站进行取证，得到所述目标网站对应的证明数据，包括：根据所述录屏请求和所述第二目标数据，向录屏服务端发送录屏任务；接收所述录屏服务端根据所述录屏任务反馈的视频数据，并将所述视频数据作为所述证明数据。8.一种网页内容检测系统，其特征在于，所述系统包括：采集模块，用于响应于目标对象的检测请求，获取目标网站的网页内容数据；分类模块，用于对网页内容数据进行内容检测，得到所述网页内容数据的内容关键词，并根据预设的候选类别和所述内容关键词确定所述网页内容数据的内容类别；推送模块，用于根据所述内容类别，将所述内容类别为第一类别的网页内容数据作为第一目标数据，并将所述第一目标数据推送给所述目标对象；筛选模块，用于接收所述目标对象对所述第一目标数据的确认信息，并根据所述确认信息对所述第一目标数据进行筛选，得到第二目标数据；取证模块，用于响应于所述目标对象的取证请求，根据所述第二目标数据对所述目标网站进行取证，得到所述目标网站对应的证明数据，其中，所述证明数据包括视频数据、图片数据中的至少一种。9.一种电子设备，其特征在于，所述电子设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现权利要求1至7任一项所述的一种网页内容检测方法。10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的一种网页内容检测方法。

技术总结
本申请实施例提供了一种网页内容检测方法和系统、电子设备及存储介质，属于网络安全技术领域。该方法包括：响应于目标对象的检测请求，获取目标网站的网页内容数据；对网页内容数据进行内容检测得到内容关键词，并根据预设的候选类别和内容关键词确定网页内容数据的内容类别；根据内容类别，将内容类别为第一类别的网页内容数据作为第一目标数据，并将第一目标数据推送给目标对象；接收目标对象对第一目标数据的确认信息，并根据确认信息对第一目标数据进行筛选，得到第二目标数据；响应于目标对象的取证请求，根据第二目标数据对目标网站进行取证，得到目标网站对应的证明数据。本申请实施例能够提高网页内容检测和内容取证的准确性和效率。证的准确性和效率。证的准确性和效率。


技术研发人员：陈志群 张柯沅 唐圆
受保护的技术使用者：深圳中泓在线股份有限公司
技术研发日：2023.02.23
技术公布日：2023/10/8