基于近端策略优化车险欺诈识别模型的方法及其相关设备与流程

1.本技术涉及模型优化技术领域，尤其涉及一种基于近端策略优化车险欺诈识别模型的方法及其相关设备。


背景技术：

2.在现有的车险理赔欺诈风险中，强化学习已经运用上了。在现有车险理赔风险欺诈的判断中的强化学习使用deep-q-learning占了多数，此算法需要预先人工标注结果，即标记该案件是否为欺诈案件，是欺诈风险案件，非欺诈风险案件，如果不标记则缺失环境对智能体学习的影响。如学习欺诈场景，我们想要智能体学习到欺诈案件，但如果数据中包含了非欺诈案件，那么智能体就会学歪。
3.但是，如果模型训练的数据量较大，显然，对每一条数据都进行标注，然后标注之后再进行模型训练，会消耗极大的人力物力；而且，若人工标注大量的数据，极易出现标注错误的情况，也不够智能化，是否能够采用人工智能或者引入相关算法，在车险理赔欺诈风险识别中，进行智能化的标注，已成为了亟需解决的问题。因此，现有技术在车险理赔欺诈风险识别中，还存在模型标注和优化调整不够智能化的问题。


技术实现要素：

4.本技术实施例的目的在于提出一种基于近端策略优化车险欺诈识别模型的方法及其相关设备，以解决现有技术在车险理赔欺诈风险识别中，还存在模型标注和优化调整不够智能化的问题。
5.为了解决上述技术问题，本技术实施例提供一种基于近端策略优化车险欺诈识别模型的方法，采用了如下所述的技术方案：
6.一种基于近端策略优化车险欺诈识别模型的方法，包括下述步骤：
7.获取未标注的车险结案数据，其中，所述未标注的车险结案数据指未标注是否存在车险欺诈行为的车险结案数据；
8.将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练，获得初训练的车险欺诈识别模型；
9.获取已标注的车险结案数据，其中，所述已标注的车险结案数据指已标注是否存在车险欺诈行为的车险结案数据；
10.将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；
11.将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；
12.判断所述对比校验结果是否符合预设的校验要求；
13.若所述对比校验结果不符合预设的校验要求，则采用近端策略优化算法优化所述车险欺诈识别模型；
14.直到所述对比校验结果符合预设的校验要求，模型优化完成，获得优化完成的车
险欺诈识别模型。
15.进一步的，所述车险结案数据包括从车险投保环节至车险理赔结束环节的所有业务环节的数据，所述将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练的步骤，具体包括：
16.根据业务环节的不同，对所述未标注的车险结案数据中每一条车险结案数据中各业务环节数据进行分类；
17.基于预设的识别规则，计算各个业务环节存在车险欺诈行为的概率；
18.采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率；
19.判断所述未标注的车险结案数据中每一条车险结案数据对应的总概率能否正常输出；
20.若不能正常输出，则所述车险欺诈识别模型预训练失败，转人工进行车险欺诈识别模型构建问题检测处理；
21.若能正常输出，则所述车险欺诈识别模型预训练成功。
22.进一步的，在执行所述获取已标注的车险结案数据的步骤之后，所述方法还包括：
23.分别为所述已标注的车险结案数据设置唯一区别标识；
24.所述将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果的步骤，具体包括：
25.根据业务环节的不同，对所述已标注的车险结案数据中每一条车险结案数据中各业务环节数据进行分类；
26.基于预设的识别规则，计算各个业务环节存在车险欺诈行为的概率；
27.采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率；
28.判断所述总概率是否超过预设的风控概率阈值；
29.若超过，则将当前条车险结案数据输出为车险欺诈数据；
30.若未超过，则将当前条车险结案数据输出为非车险欺诈数据。
31.进一步的，所述基于预设的识别规则，计算各个业务环节存在车险欺诈行为的概率的步骤，具体包括：
32.获取当前业务环节对应的分类数据，并对所述分类数据进行特征提取；
33.根据特征提取结果，计算所述当前业务环节对应的特征值；
34.根据预先设置的欺诈概率列表，确定所述特征值对应的概率值，其中，所述欺诈概率列表中预先设置了各个特征值区间对应的车险欺诈行为概率值。
35.进一步的，在执行所述采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率的步骤之前，所述方法还包括：
36.获取预先为各个业务环节设置的欺诈风险权重；
37.所述采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率的步骤，具体包括：
38.基于所述各个业务环节对应的欺诈风险权重和所述各个业务环节存在车险欺诈行为的概率，进行加权求和，获得计算结果作为所述所有业务环节存在车险欺诈行为的总概率。
39.进一步的，所述将所述模型输出结果与预设的标注结果进行对比校验，获得对比
校验结果的步骤，具体包括：
40.对输出为车险欺诈数据的所有车险结案数据，进行整理，构建第一输出集；
41.对输出为非车险欺诈数据的所有车险结案数据，进行整理，构建第二输出集；
42.获取所述第一输出集和所述第二输出集中各个元素分别对应的唯一区别标识；
43.根据所述唯一区别标识，统计所述模型输出结果与预设的标注结果一致的车险结案数据个数；
44.所述判断所述对比校验结果是否符合预设的校验要求的步骤，具体包括：
45.判断所述个数占比是否达到预设的目标比值；
46.若所述个数占比达到预设的目标比值，则所述对比校验结果符合预设的校验要求；
47.若所述个数占比未达到预设的目标比值，则所述对比校验结果不符合预设的校验要求。
48.进一步的，所述采用近端策略优化算法优化所述车险欺诈识别模型的步骤，具体包括：
49.基于ppo算法动态调整所述各个业务环节对应的欺诈风险权重；
50.在每一次对所述各个业务环节对应的欺诈风险权重进行调整之后，重新将所述已标注的车险结案数据输入到所述车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；
51.将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；
52.直到所述对比校验结果符合预设的校验要求，停止动态调整，模型优化完成。
53.为了解决上述技术问题，本技术实施例还提供一种基于近端策略优化车险欺诈识别模型的装置，采用了如下所述的技术方案：
54.一种基于近端策略优化车险欺诈识别模型的装置，包括：
55.未标注数据获取模块，用于获取未标注的车险结案数据，其中，所述未标注的车险结案数据指未标注是否存在车险欺诈行为的车险结案数据；
56.模型初训练模块，用于将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练，获得初训练的车险欺诈识别模型；
57.已标注数据获取模块，用于获取已标注的车险结案数据，其中，所述已标注的车险结案数据指已标注是否存在车险欺诈行为的车险结案数据；
58.模型识别模块，用于将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；
59.对比校验模块，用于将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；
60.校验结果判断模块，用于判断所述对比校验结果是否符合预设的校验要求；
61.策略优化模块，用于若所述对比校验结果不符合预设的校验要求，则采用近端策略优化算法优化所述车险欺诈识别模型；
62.优化模型获取模块，用于直到所述对比校验结果符合预设的校验要求，模型优化完成，获得优化完成的车险欺诈识别模型。
63.为了解决上述技术问题，本技术实施例还提供一种计算机设备，采用了如下所述
的技术方案：
64.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现上述所述的基于近端策略优化车险欺诈识别模型的方法的步骤。
65.为了解决上述技术问题，本技术实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：
66.一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如上述所述的基于近端策略优化车险欺诈识别模型的方法的步骤。
67.与现有技术相比，本技术实施例主要有以下有益效果：
68.本技术实施例所述基于近端策略优化车险欺诈识别模型的方法，通过获取未标注的车险结案数据；将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练，获得初训练的车险欺诈识别模型；获取已标注的车险结案数据；将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；判断所述对比校验结果是否符合预设的校验要求；若所述对比校验结果不符合预设的校验要求，则采用近端策略优化算法优化所述车险欺诈识别模型；直到所述对比校验结果符合预设的校验要求，模型优化完成，获得优化完成的车险欺诈识别模型。通过引入ppo算法，使得在进行车险欺诈识别模型初训练时，无需再对大量的训练数据进行标注，只需在模型验证阶段，采用少量的已标注的验证数据，同时，结合ppo算法对所述车险欺诈识别模型进行策略选择概率动态调优，直至验证成功，则模型调优完成。减少了人工大量标注时的人力物力消耗，采用ppo算法智能调整各个业务环节被选择的概率，从而智能化的对车险欺诈识别模型进行调优。
附图说明
69.为了更清楚地说明本技术中的方案，下面将对本技术实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
70.图1是本技术可以应用于其中的示例性系统架构图；
71.图2根据本技术的基于近端策略优化车险欺诈识别模型的方法的一个实施例的流程图；
72.图3是图2所示步骤202的一个具体实施例的流程图；
73.图4是图2所示步骤204的一个具体实施例的流程图；
74.图5是图2所示步骤205的一个具体实施例的流程图；
75.图6是图2所示步骤206的一个具体实施例的流程图；
76.图7是图2所示步骤207的一个具体实施例的流程图；
77.图8根据本技术的基于近端策略优化车险欺诈识别模型的装置的一个实施例的结构示意图；
78.图9根据本技术的计算机设备的一个实施例的结构示意图。
具体实施方式
79.除非另有定义，本文所使用的所有的技术和科学术语与属于本技术的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本技术；本技术的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本技术的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。
80.在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本技术的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
81.为了使本技术领域的人员更好地理解本技术方案，下面将结合附图，对本技术实施例中的技术方案进行清楚、完整地描述。
82.如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
83.用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
84.终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、mp3播放器(moving picture expertsgroup audio layer iii，动态影像专家压缩标准音频层面3)、mp4(moving pictureexperts group audio layer iv，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
85.服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
86.需要说明的是，本技术实施例所提供的基于近端策略优化车险欺诈识别模型的方法一般由服务器/终端设备执行，相应地，基于近端策略优化车险欺诈识别模型的装置一般设置于服务器/终端设备中。
87.应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
88.继续参考图2，示出了根据本技术的基于近端策略优化车险欺诈识别模型的方法的一个实施例的流程图。所述的基于近端策略优化车险欺诈识别模型的方法，包括以下步骤：
89.步骤201，获取未标注的车险结案数据，其中，所述未标注的车险结案数据指未标注是否存在车险欺诈行为的车险结案数据。
90.本实施例中，所述车险结案数据包括从车险投保环节至车险理赔结束环节的所有业务环节的数据。所述所有业务环节，包括存在上下传递关系的业务环节，也包括存在并列关系的业务环节。
91.步骤202，将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练，获得初训练的车险欺诈识别模型。
92.继续参考图3，图3是图2所示步骤202的一个具体实施例的流程图，包括：
93.步骤301，根据业务环节的不同，对所述未标注的车险结案数据中每一条车险结案数据中各业务环节数据进行分类；
94.步骤302，基于预设的识别规则，计算各个业务环节存在车险欺诈行为的概率；
95.步骤303，采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率；
96.步骤304，判断所述未标注的车险结案数据中每一条车险结案数据对应的总概率能否正常输出；
97.步骤305，若不能正常输出，则所述车险欺诈识别模型预训练失败，转人工进行车险欺诈识别模型构建问题检测处理；
98.步骤306，若能正常输出，则所述车险欺诈识别模型预训练成功。
99.通过概率值能否正常输出的方式，判断模型是否预训练成功，避免初训练的车险欺诈识别模型无法进行欺诈识别，保证模型的初步可用性。
100.步骤203，获取已标注的车险结案数据，其中，所述已标注的车险结案数据指已标注是否存在车险欺诈行为的车险结案数据。
101.本实施例中，在执行所述获取已标注的车险结案数据的步骤之后，所述方法还包括：分别为所述已标注的车险结案数据设置唯一区别标识。
102.步骤204，将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果。
103.继续参考图4，图4是图2所示步骤204的一个具体实施例的流程图，包括：
104.步骤401，根据业务环节的不同，对所述已标注的车险结案数据中每一条车险结案数据中各业务环节数据进行分类；
105.步骤402，基于预设的识别规则，计算各个业务环节存在车险欺诈行为的概率；
106.步骤403，采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率；
107.步骤404，判断所述总概率是否超过预设的风控概率阈值；
108.步骤405，若超过，则将当前条车险结案数据输出为车险欺诈数据；
109.步骤406，若未超过，则将当前条车险结案数据输出为非车险欺诈数据。
110.通过将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果，只需将模型输出结果与标注结果进行比对，即可获知初训练的车险欺诈识别模型的识别准确性。从而判断是否需要对模型进行优化调整，使得对模型的优化调整是基于已标注的数据，而非盲目进行模型调优。
111.本实施例中，所述基于预设的识别规则，计算各个业务环节存在车险欺诈行为的概率的步骤，具体包括：获取当前业务环节对应的分类数据，并对所述分类数据进行特征提取；根据特征提取结果，计算所述当前业务环节对应的特征值；根据预先设置的欺诈概率列表，确定所述特征值对应的概率值，其中，所述欺诈概率列表中预先设置了各个特征值区间对应的车险欺诈行为概率值。
112.通过计算各个业务环节存在车险欺诈行为的概率，使得欺诈风险的评估是基于整个车险业务环节，避免了某个子业务环节对欺诈判断影响过大，从而减少过失判断的产生，
更加科学化。
113.本实施例中，在执行所述采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率的步骤之前，所述方法还包括：获取预先为各个业务环节设置的欺诈风险权重。
114.本实施例中，所述采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率的步骤，具体包括：基于所述各个业务环节对应的欺诈风险权重和所述各个业务环节存在车险欺诈行为的概率，进行加权求和，获得计算结果作为所述所有业务环节存在车险欺诈行为的总概率。
115.采用综合分析法，保证了对车险欺诈行为的识别更加科学化和准确化。
116.步骤205，将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果。
117.继续参考图5，图5是图2所示步骤205的一个具体实施例的流程图，包括：
118.步骤501，对输出为车险欺诈数据的所有车险结案数据，进行整理，构建第一输出集；
119.步骤502，对输出为非车险欺诈数据的所有车险结案数据，进行整理，构建第二输出集；
120.步骤503，获取所述第一输出集和所述第二输出集中各个元素分别对应的唯一区别标识；
121.步骤504，根据所述唯一区别标识，统计所述模型输出结果与预设的标注结果一致的车险结案数据个数；
122.步骤206，判断所述对比校验结果是否符合预设的校验要求。
123.继续参考图6，图6是图2所示步骤206的一个具体实施例的流程图，包括：
124.步骤601，判断所述个数占比是否达到预设的目标比值；
125.步骤602，若所述个数占比达到预设的目标比值，则所述对比校验结果符合预设的校验要求；
126.步骤603，若所述个数占比未达到预设的目标比值，则所述对比校验结果不符合预设的校验要求。
127.通过对比校验的方式，识别模型输出结果与预设的标注结果是否一致，从而判断是否需要对初训练的车险欺诈识别模型进行优化调整。
128.步骤207，若所述对比校验结果不符合预设的校验要求，则采用近端策略优化算法优化所述车险欺诈识别模型。
129.继续参考图7，图7是图2所示步骤207的一个具体实施例的流程图，包括：
130.步骤701，基于ppo算法动态调整所述各个业务环节对应的欺诈风险权重；
131.步骤702，在每一次对所述各个业务环节对应的欺诈风险权重进行调整之后，重新将所述已标注的车险结案数据输入到所述车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；
132.步骤703，将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；
133.步骤704，直到所述对比校验结果符合预设的校验要求，停止动态调整，模型优化
完成。
134.通过引入ppo(proximal policy optimization algorithms，近端策略优化算法)算法，使得在进行车险欺诈识别模型初训练时，无需再对大量的训练数据进行标注，只需在模型验证阶段，采用少量的已标注的验证数据，同时，结合ppo算法对所述车险欺诈识别模型进行策略选择概率动态调优，直至验证成功，则模型调优完成。减少了人工大量标注时的人力物力消耗，采用ppo算法智能调整各个业务环节被选择的概率，从而智能化的对车险欺诈识别模型进行调优。
135.步骤208，直到所述对比校验结果符合预设的校验要求，模型优化完成，获得优化完成的车险欺诈识别模型。
136.本技术通过获取未标注的车险结案数据；将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练，获得初训练的车险欺诈识别模型；获取已标注的车险结案数据；将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；判断所述对比校验结果是否符合预设的校验要求；若所述对比校验结果不符合预设的校验要求，则采用近端策略优化算法优化所述车险欺诈识别模型；直到所述对比校验结果符合预设的校验要求，模型优化完成，获得优化完成的车险欺诈识别模型。通过引入ppo算法，使得在进行车险欺诈识别模型初训练时，无需再对大量的训练数据进行标注，只需在模型验证阶段，采用少量的已标注的验证数据，同时，结合ppo算法对所述车险欺诈识别模型进行策略选择概率动态调优，直至验证成功，则模型调优完成。减少了人工大量标注时的人力物力消耗，采用ppo算法智能调整各个业务环节被选择的概率，从而智能化的对车险欺诈识别模型进行调优。
137.本技术实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(artificial intelligence，ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
138.人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
139.本技术实施例中，通过引入ppo算法，使得在进行车险欺诈识别模型初训练时，无需再对大量的训练数据进行标注，只需在模型验证阶段，采用少量的已标注的验证数据，同时，结合ppo算法对所述车险欺诈识别模型进行策略选择概率动态调优，直至验证成功，则模型调优完成。减少了人工大量标注时的人力物力消耗，采用ppo算法智能调整各个业务环节被选择的概率，从而智能化的对车险欺诈识别模型进行调优。
140.进一步参考图8，作为对上述图2所示方法的实现，本技术提供了一种基于近端策略优化车险欺诈识别模型的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
141.如图8所示，本实施例所述的基于近端策略优化车险欺诈识别模型的装置800包括：未标注数据获取模块801、模型初训练模块802、已标注数据获取模块803、模型识别模块
804、对比校验模块805、校验结果判断模块806、策略优化模块807和优化模型获取模块808。其中：
142.未标注数据获取模块801，用于获取未标注的车险结案数据，其中，所述未标注的车险结案数据指未标注是否存在车险欺诈行为的车险结案数据；
143.模型初训练模块802，用于将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练，获得初训练的车险欺诈识别模型；
144.已标注数据获取模块803，用于获取已标注的车险结案数据，其中，所述已标注的车险结案数据指已标注是否存在车险欺诈行为的车险结案数据；
145.模型识别模块804，用于将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；
146.对比校验模块805，用于将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；
147.校验结果判断模块806，用于判断所述对比校验结果是否符合预设的校验要求；
148.策略优化模块807，用于若所述对比校验结果不符合预设的校验要求，则采用近端策略优化算法优化所述车险欺诈识别模型；
149.优化模型获取模块808，用于直到所述对比校验结果符合预设的校验要求，模型优化完成，获得优化完成的车险欺诈识别模型。
150.在本技术的一些具体实施方式中，所述的基于近端策略优化车险欺诈识别模型的装置800，还包括迭代优化模块，所述迭代优化模块，用于基于ppo算法动态调整所述各个业务环节对应的欺诈风险权重；还用于在每一次对所述各个业务环节对应的欺诈风险权重进行调整之后，重新将所述已标注的车险结案数据输入到所述车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；还用于将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；还用于直到所述对比校验结果符合预设的校验要求，停止动态调整，模型优化完成。
151.本技术通过获取未标注的车险结案数据；将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练，获得初训练的车险欺诈识别模型；获取已标注的车险结案数据；将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；判断所述对比校验结果是否符合预设的校验要求；若所述对比校验结果不符合预设的校验要求，则采用近端策略优化算法优化所述车险欺诈识别模型；直到所述对比校验结果符合预设的校验要求，模型优化完成，获得优化完成的车险欺诈识别模型。通过引入ppo算法，使得在进行车险欺诈识别模型初训练时，无需再对大量的训练数据进行标注，只需在模型验证阶段，采用少量的已标注的验证数据，同时，结合ppo算法对所述车险欺诈识别模型进行策略选择概率动态调优，直至验证成功，则模型调优完成。减少了人工大量标注时的人力物力消耗，采用ppo算法智能调整各个业务环节被选择的概率，从而智能化的对车险欺诈识别模型进行调优。
152.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介
质可为磁碟、光盘、只读存储记忆体(read-only memory，rom)等非易失性存储介质，或随机存储记忆体(random access memory，ram)等。
153.应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
154.为解决上述技术问题，本技术实施例还提供计算机设备。具体请参阅图9，图9为本实施例计算机设备基本结构框图。
155.所述计算机设备9包括通过系统总线相互通信连接存储器9a、处理器9b、网络接口9c。需要指出的是，图中仅示出了具有组件9a-9c的计算机设备9，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(application specific integrated circuit，asic)、可编程门阵列(field－programmable gate array，fpga)、数字处理器(digital signal processor，dsp)、嵌入式设备等。
156.所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
157.所述存储器9a至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，sd或dx存储器等)、随机访问存储器(ram)、静态随机访问存储器(sram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、可编程只读存储器(prom)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器9a可以是所述计算机设备9的内部存储单元，例如该计算机设备9的硬盘或内存。在另一些实施例中，所述存储器9a也可以是所述计算机设备9的外部存储设备，例如该计算机设备9上配备的插接式硬盘，智能存储卡(smart media card,smc)，安全数字(secure digital,sd)卡，闪存卡(flash card)等。当然，所述存储器9a还可以既包括所述计算机设备9的内部存储单元也包括其外部存储设备。本实施例中，所述存储器9a通常用于存储安装于所述计算机设备9的操作系统和各类应用软件，例如基于近端策略优化车险欺诈识别模型的方法的计算机可读指令等。此外，所述存储器9a还可以用于暂时地存储已经输出或者将要输出的各类数据。
158.所述处理器9b在一些实施例中可以是中央处理器(central processing unit，cpu)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器9b通常用于控制所述计算机设备9的总体操作。本实施例中，所述处理器9b用于运行所述存储器9a中存储的计算机可读指令或者处理数据，例如运行所述基于近端策略优化车险欺诈识别模型的方法的计算机可读指令。
159.所述网络接口9c可包括无线网络接口或有线网络接口，该网络接口9c通常用于在所述计算机设备9与其他电子设备之间建立通信连接。
160.本实施例提出的计算机设备，属于模型优化技术领域。本技术通过获取未标注的
车险结案数据；将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练，获得初训练的车险欺诈识别模型；获取已标注的车险结案数据；将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；判断所述对比校验结果是否符合预设的校验要求；若所述对比校验结果不符合预设的校验要求，则采用近端策略优化算法优化所述车险欺诈识别模型；直到所述对比校验结果符合预设的校验要求，模型优化完成，获得优化完成的车险欺诈识别模型。通过引入ppo算法，使得在进行车险欺诈识别模型初训练时，无需再对大量的训练数据进行标注，只需在模型验证阶段，采用少量的已标注的验证数据，同时，结合ppo算法对所述车险欺诈识别模型进行策略选择概率动态调优，直至验证成功，则模型调优完成。减少了人工大量标注时的人力物力消耗，采用ppo算法智能调整各个业务环节被选择的概率，从而智能化的对车险欺诈识别模型进行调优。
161.本技术还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被处理器执行，以使所述处理器执行如上述的基于近端策略优化车险欺诈识别模型的方法的步骤。
162.本实施例提出的计算机可读存储介质，属于模型优化技术领域。本技术通过获取未标注的车险结案数据；将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练，获得初训练的车险欺诈识别模型；获取已标注的车险结案数据；将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；判断所述对比校验结果是否符合预设的校验要求；若所述对比校验结果不符合预设的校验要求，则采用近端策略优化算法优化所述车险欺诈识别模型；直到所述对比校验结果符合预设的校验要求，模型优化完成，获得优化完成的车险欺诈识别模型。通过引入ppo算法，使得在进行车险欺诈识别模型初训练时，无需再对大量的训练数据进行标注，只需在模型验证阶段，采用少量的已标注的验证数据，同时，结合ppo算法对所述车险欺诈识别模型进行策略选择概率动态调优，直至验证成功，则模型调优完成。减少了人工大量标注时的人力物力消耗，采用ppo算法智能调整各个业务环节被选择的概率，从而智能化的对车险欺诈识别模型进行调优。
163.通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本技术的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本技术各个实施例所述的方法。
164.显然，以上所描述的实施例仅仅是本技术一部分实施例，而不是全部的实施例，附图中给出了本技术的较佳实施例，但并不限制本技术的专利范围。本技术可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本技术的公开内容的理解更加透彻全面。尽管参照前述实施例对本技术进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进
行等效替换。凡是利用本技术说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本技术专利保护范围之内。

技术特征：
1.一种基于近端策略优化车险欺诈识别模型的方法，其特征在于，包括下述步骤：获取未标注的车险结案数据，其中，所述未标注的车险结案数据指未标注是否存在车险欺诈行为的车险结案数据；将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练，获得初训练的车险欺诈识别模型；获取已标注的车险结案数据，其中，所述已标注的车险结案数据指已标注是否存在车险欺诈行为的车险结案数据；将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；判断所述对比校验结果是否符合预设的校验要求；若所述对比校验结果不符合预设的校验要求，则采用近端策略优化算法优化所述车险欺诈识别模型；直到所述对比校验结果符合预设的校验要求，模型优化完成，获得优化完成的车险欺诈识别模型。2.根据权利要求1所述的基于近端策略优化车险欺诈识别模型的方法，其特征在于，所述车险结案数据包括从车险投保环节至车险理赔结束环节的所有业务环节的数据，所述将所述未标注的车险结案数据输入到预构建的车险欺诈识别模型，进行模型训练的步骤，具体包括：根据业务环节的不同，对所述未标注的车险结案数据中每一条车险结案数据中各业务环节数据进行分类；基于预设的识别规则，计算各个业务环节存在车险欺诈行为的概率；采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率；判断所述未标注的车险结案数据中每一条车险结案数据对应的总概率能否正常输出；若不能正常输出，则所述车险欺诈识别模型预训练失败，转人工进行车险欺诈识别模型构建问题检测处理；若能正常输出，则所述车险欺诈识别模型预训练成功。3.根据权利要求1所述的基于近端策略优化车险欺诈识别模型的方法，其特征在于，在执行所述获取已标注的车险结案数据的步骤之后，所述方法还包括：分别为所述已标注的车险结案数据设置唯一区别标识；所述将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果的步骤，具体包括：根据业务环节的不同，对所述已标注的车险结案数据中每一条车险结案数据中各业务环节数据进行分类；基于预设的识别规则，计算各个业务环节存在车险欺诈行为的概率；采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率；判断所述总概率是否超过预设的风控概率阈值；若超过，则将当前条车险结案数据输出为车险欺诈数据；若未超过，则将当前条车险结案数据输出为非车险欺诈数据。
4.根据权利要求2或3所述的基于近端策略优化车险欺诈识别模型的方法，其特征在于，所述基于预设的识别规则，计算各个业务环节存在车险欺诈行为的概率的步骤，具体包括：获取当前业务环节对应的分类数据，并对所述分类数据进行特征提取；根据特征提取结果，计算所述当前业务环节对应的特征值；根据预先设置的欺诈概率列表，确定所述特征值对应的概率值，其中，所述欺诈概率列表中预先设置了各个特征值区间对应的车险欺诈行为概率值。5.根据权利要求2或3所述的基于近端策略优化车险欺诈识别模型的方法，其特征在于，在执行所述采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率的步骤之前，所述方法还包括：获取预先为各个业务环节设置的欺诈风险权重；所述采用综合分析法，综合获取所有业务环节存在车险欺诈行为的总概率的步骤，具体包括：基于所述各个业务环节对应的欺诈风险权重和所述各个业务环节存在车险欺诈行为的概率，进行加权求和，获得计算结果作为所述所有业务环节存在车险欺诈行为的总概率。6.根据权利要求3所述的基于近端策略优化车险欺诈识别模型的方法，其特征在于，所述将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果的步骤，具体包括：对输出为车险欺诈数据的所有车险结案数据，进行整理，构建第一输出集；对输出为非车险欺诈数据的所有车险结案数据，进行整理，构建第二输出集；获取所述第一输出集和所述第二输出集中各个元素分别对应的唯一区别标识；根据所述唯一区别标识，统计所述模型输出结果与预设的标注结果一致的车险结案数据个数；所述判断所述对比校验结果是否符合预设的校验要求的步骤，具体包括：判断所述个数占比是否达到预设的目标比值；若所述个数占比达到预设的目标比值，则所述对比校验结果符合预设的校验要求；若所述个数占比未达到预设的目标比值，则所述对比校验结果不符合预设的校验要求。7.根据权利要求5所述的基于近端策略优化车险欺诈识别模型的方法，其特征在于，所述采用近端策略优化算法优化所述车险欺诈识别模型的步骤，具体包括：基于ppo算法动态调整所述各个业务环节对应的欺诈风险权重；在每一次对所述各个业务环节对应的欺诈风险权重进行调整之后，重新将所述已标注的车险结案数据输入到所述车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；直到所述对比校验结果符合预设的校验要求，停止动态调整，模型优化完成。8.一种基于近端策略优化车险欺诈识别模型的装置，其特征在于，包括：未标注数据获取模块，用于获取未标注的车险结案数据，其中，所述未标注的车险结案数据指未标注是否存在车险欺诈行为的车险结案数据；模型初训练模块，用于将所述未标注的车险结案数据输入到预构建的车险欺诈识别模
型，进行模型训练，获得初训练的车险欺诈识别模型；已标注数据获取模块，用于获取已标注的车险结案数据，其中，所述已标注的车险结案数据指已标注是否存在车险欺诈行为的车险结案数据；模型识别模块，用于将所述已标注的车险结案数据输入到所述初训练的车险欺诈识别模型，进行车险欺诈识别，获得模型输出结果；对比校验模块，用于将所述模型输出结果与预设的标注结果进行对比校验，获得对比校验结果；校验结果判断模块，用于判断所述对比校验结果是否符合预设的校验要求；策略优化模块，用于若所述对比校验结果不符合预设的校验要求，则采用近端策略优化算法优化所述车险欺诈识别模型；优化模型获取模块，用于直到所述对比校验结果符合预设的校验要求，模型优化完成，获得优化完成的车险欺诈识别模型。9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的基于近端策略优化车险欺诈识别模型的方法的步骤。10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的基于近端策略优化车险欺诈识别模型的方法的步骤。

技术总结
本申请实施例属于人工智能技术领域，应用于模型优化领域中，涉及一种基于近端策略优化车险欺诈识别模型的方法及其相关设备，包括通过获取未标注的车险结案数据；训练获得初训练的车险欺诈识别模型；获取已标注的车险结案数据；采用近端策略优化算法优化所述车险欺诈识别模型。通过引入PPO算法，使得在进行车险欺诈识别模型初训练时，无需再对大量的训练数据进行标注，只需在验证阶段，采用少量的已标注的验证数据，同时，结合PPO算法对所述车险欺诈识别模型进行策略选择概率动态调优，直至验证成功，则模型调优完成。减少人工大量标注时的人力物力消耗，采用PPO算法智能调整各个业务环节被选择的概率，从而智能化的对车险欺诈识别模型进行调优。模型进行调优。模型进行调优。


技术研发人员：陈奕宇 付园园
受保护的技术使用者：中国平安财产保险股份有限公司
技术研发日：2023.05.05
技术公布日：2023/8/6